Modelele citesc. Decid oamenii.
Întrebarea nu este ce poate face AI-ul, ci ce se întâmplă când greșește, iar răspunsul stă în felul în care e împărțită munca.
IvanSofia
Întrebarea pe care o auzim cel mai des de la proprietari nu e „ce poate face AI-ul?”. Au văzut destule demonstrații ca să știe că poate face multe. Întrebarea este: „ce se întâmplă când greșește?”
Este întrebarea potrivită. Orice model greșește. Citește un 3 drept 8 pe o scanare neclară. Încurcă doi cumpărători cu nume asemănătoare. E sigur pe el când n-ar trebui. Adevărata întrebare nu e dacă apar greșeli, ci unde pot ajunge.
Trei sarcini, trei responsabili
Răspunsul nostru este să împărțim munca în trei și să dăm fiecare parte celui care o face cel mai bine:
- Modelul citește și propune. Transformă un e-mail în italiană într-o comandă, un mesaj vocal într-o tranzacție, un certificat scanat în câmpuri. Aceasta e partea dezordonată a muncii, iar modelele se pricep foarte bine la ea.
- Codul calculează cifrele. Marje, costuri de depozitare, totaluri de facturi, săptămâni de livrare. Cod simplu, care dă de fiecare dată același răspuns. Niciun model nu ghicește un preț.
- Decide un om. Comanda contează când cineva dă clic. Mementoul pleacă atunci când cineva îl aprobă. Și orice clic poate fi anulat.
Ce înseamnă asta pentru greșeli
Când un model citește greșit un cuvânt, cel mai rău caz este o ciornă greșită. Un om o vede, o corectează și merge mai departe. Nu devine niciodată o factură greșită, pentru că factura e calculată de cod și emisă de un om.
Când software-ul nu este sigur, nu ghicește. Lasă lucrurile cum erau și întreabă. Pare mai lent. În practică e mai rapid, pentru că nimeni nu trebuie să piardă o după-amiază descâlcind ceva ce AI-ul a făcut de capul lui.
De ce contează asta pentru încredere
Urmăresc de ani de zile cum adoptă echipele instrumente noi. Tiparul e mereu același: oamenii folosesc ce pot verifica.
Dacă echipa poate vedea ce a citit AI-ul și ce a propus, începe să se bazeze pe el în câteva săptămâni. Prinde o greșeală, vede că a fost ușor de prins și are puțin mai multă încredere. Dacă AI-ul acționează pe ascuns, încrederea nu vine niciodată. O singură surpriză e de ajuns.
De aceea ne arătăm munca. Ce s-a citit, de unde provine, ce se propune și cine a spus „da”.
Locurile în care acționează primul
Încercăm să fim sinceri cu privire la excepții. Pe marketplace-ul MeatBorsa, ofertele primite pe e-mail sunt publicate, iar mesajele din chat sunt traduse, înainte să se uite un om. O spunem deschis, pentru că trebuie să aflați asta de la noi. Mai multe despre cum menținem AI-ul sigur.
