Modeli čitaju. Ljudi odlučuju.
Pitanje nije šta AI može. Pitanje je šta se dešava kad pogreši, a odgovor je u tome kako je posao podeljen.
IvanSofija
Pitanje koje najčešće čujemo od vlasnika nije „šta AI može?”. Videli su dovoljno demonstracija da znaju da može mnogo. Pitanje je: „šta se dešava kad pogreši?”
To je pravo pitanje. Svaki model greši. Na mutnom skenu pročita 3 kao 8. Pomeša dva kupca sličnih imena. Siguran je kad ne bi trebalo da bude. Pravo pitanje nije da li se greške dešavaju, nego gde mogu da završe.
Tri posla, tri vlasnika
Naš odgovor je da posao podelimo na tri dela i svaki damo onome ko ga najbolje radi:
- Model čita i predlaže. E-mail na italijanskom pretvara u porudžbinu, glasovnu poruku u posao, skenirani sertifikat u polja. To je neuredni deo posla i modeli su u njemu veoma dobri.
- Kod računa brojke. Marže, troškove skladištenja, iznose računa, nedelje isporuke. Običan kod koji svaki put daje isti odgovor. Nijedan model ne nagađa cenu.
- Čovek odlučuje. Porudžbina važi kad neko klikne. Podsetnik odlazi kad ga neko odobri. I svaki se klik može poništiti.
Šta to znači za greške
Kad model pogrešno pročita reč, najgori slučaj je pogrešan nacrt. Čovek ga vidi, ispravi i nastavi dalje. Nikad ne postane pogrešan račun, jer račun izračunava kod, a izdaje čovek.
Kad softver nije siguran, ne nagađa. Ostavlja sve kako je bilo i pita. To zvuči sporije. U praksi je brže, jer niko ne mora da potroši popodne raspetljavajući nešto što je AI uradio sam.
Zašto je to važno za poverenje
Godinama gledam kako timovi prihvataju nove alate. Obrazac je uvek isti: ljudi koriste ono što mogu da provere.
Ako tim vidi šta je AI pročitao i šta je predložio, za nekoliko nedelja počne da se oslanja na njega. Uoče grešku, vide da ju je bilo lako uočiti i veruju mu malo više. Ako AI deluje van vidokruga, to se nikad ne desi. Dovoljno je jedno iznenađenje.
Zato pokazujemo svoj rad. Šta je pročitano, odakle dolazi, šta se predlaže i ko je rekao da.
Mesta gde deluje prvi
Trudimo se da budemo iskreni o izuzecima. Na tržištu MeatBorsa ponude koje stignu e-mailom se objavljuju, a poruke u četu prevode se pre nego što ih čovek pogleda. To govorimo otvoreno, jer to treba da čujete od nas. Više o tome kako AI održavamo bezbednim.
