Modely čítajú. Ľudia rozhodujú.
Otázka nie je, čo AI dokáže. Ide o to, čo sa stane, keď sa mýli, a odpoveď je v tom, ako je práca rozdelená.
IvanSofia
Otázka, ktorú od majiteľov počujeme najčastejšie, nie je „čo AI dokáže?“. Videli dosť ukážok na to, aby vedeli, že dokáže veľa. Otázka znie: „čo sa stane, keď sa pomýli?“
Je to správna otázka. Každý model robí chyby. Na rozmazanom skene prečíta 3 ako 8. Pomýli si dvoch kupcov s podobnými menami. Je si istý, keď by nemal byť. Skutočná otázka nie je, či chyby nastanú, ale kam sa môžu dostať.
Tri úlohy, traja vlastníci
Naša odpoveď je rozdeliť prácu na tri časti a každú dať tomu, kto ju robí najlepšie:
- Model číta a navrhuje. Z e-mailu v taliančine urobí objednávku, z hlasovej správy obchod, z naskenovaného certifikátu polia. To je neusporiadaná časť práce a modely sú v nej veľmi dobré.
- Čísla počíta kód. Marže, náklady na skladovanie, sumy faktúr, týždne dodania. Obyčajný kód, ktorý dá zakaždým rovnakú odpoveď. Žiadny model nehádá cenu.
- Rozhoduje človek. Objednávka platí, keď niekto klikne. Upomienka odíde, keď ju niekto schváli. A každé kliknutie sa dá vrátiť späť.
Čo to znamená pre chyby
Keď model zle prečíta slovo, v najhoršom prípade vznikne chybný koncept. Človek ho uvidí, opraví a ide ďalej. Nikdy sa z neho nestane chybná faktúra, pretože faktúru vypočíta kód a vystaví človek.
Keď si softvér nie je istý, nehádá. Nechá veci tak, ako boli, a opýta sa. Znie to pomalšie. V praxi je to rýchlejšie, pretože nikto nemusí stráviť popoludnie rozmotávaním niečoho, čo AI urobila sama.
Prečo je to dôležité pre dôveru
Roky sledujem, ako tímy prijímajú nové nástroje. Vzorec je vždy rovnaký: ľudia používajú to, čo si môžu skontrolovať.
Ak tím vidí, čo AI prečítala a čo navrhla, začne sa na ňu do pár týždňov spoliehať. Zachytí chybu, vidí, že sa dala ľahko zachytiť, a dôveruje jej o niečo viac. Ak AI koná mimo dohľadu, nikdy sa to nestane. Stačí jedno prekvapenie.
Preto ukazujeme svoju prácu. Čo sa prečítalo, odkiaľ to pochádza, čo sa navrhuje a kto povedal áno.
Miesta, kde koná ako prvá
Snažíme sa byť úprimní aj pri výnimkách. Na trhovisku MeatBorsa sa ponuky, ktoré prídu e-mailom, zverejnia a správy v chate sa preložia skôr, než sa na ne pozrie človek. Hovoríme to na rovinu, pretože by ste to mali počuť od nás. Viac o tom, ako udržiavame AI bezpečnú.
