Modeli čitaju. Ljudi odlučuju.
Pitanje nije što AI može. Pitanje je što se događa kad pogriješi, a odgovor je u tome kako je posao podijeljen.
IvanSofija
Pitanje koje najčešće čujemo od vlasnika nije „što AI može?”. Vidjeli su dovoljno demonstracija da znaju da može puno. Pitanje je: „što se događa kad pogriješi?”
To je pravo pitanje. Svaki model griješi. Na mutnom skenu pročita 3 kao 8. Pomiješa dva kupca sličnih imena. Siguran je kad ne bi trebao biti. Pravo pitanje nije događaju li se pogreške, nego gdje mogu završiti.
Tri posla, tri vlasnika
Naš je odgovor podijeliti posao na tri dijela i svaki dati onome tko ga najbolje radi:
- Model čita i predlaže. E-mail na talijanskom pretvara u narudžbu, glasovnu poruku u posao, skenirani certifikat u polja. To je neuredni dio posla i modeli su u njemu vrlo dobri.
- Kod računa brojke. Marže, troškove skladištenja, iznose računa, tjedne isporuke. Običan kod koji svaki put daje isti odgovor. Nijedan model ne nagađa cijenu.
- Čovjek odlučuje. Narudžba vrijedi kad netko klikne. Podsjetnik odlazi kad ga netko odobri. I svaki se klik može poništiti.
Što to znači za pogreške
Kad model krivo pročita riječ, najgori je slučaj pogrešan nacrt. Čovjek ga vidi, ispravi i nastavi dalje. Nikad ne postane pogrešan račun, jer račun izračunava kod, a izdaje čovjek.
Kad softver nije siguran, ne nagađa. Ostavlja sve kako je bilo i pita. To zvuči sporije. U praksi je brže, jer nitko ne mora potrošiti popodne raspetljavajući nešto što je AI napravio sam.
Zašto je to važno za povjerenje
Godinama gledam kako timovi prihvaćaju nove alate. Obrazac je uvijek isti: ljudi koriste ono što mogu provjeriti.
Ako tim vidi što je AI pročitao i što je predložio, u nekoliko se tjedana počne oslanjati na njega. Uoče pogrešku, vide da ju je bilo lako uočiti i vjeruju mu malo više. Ako AI djeluje izvan vidokruga, to se nikad ne dogodi. Dovoljno je jedno iznenađenje.
Zato pokazujemo svoj rad. Što je pročitano, odakle dolazi, što se predlaže i tko je rekao da.
Mjesta gdje djeluje prvi
Trudimo se biti iskreni o iznimkama. Na tržnici MeatBorsa ponude koje stignu e-mailom objavljuju se, a poruke u chatu prevode se prije nego što ih čovjek pogleda. To govorimo otvoreno, jer to trebate čuti od nas. Više o tome kako AI održavamo sigurnim.
