Modely čtou. Lidé rozhodují.
Otázka nezní, co AI dokáže. Otázka zní, co se stane, když se mýlí, a odpověď spočívá v tom, jak je práce rozdělená.
IvanSofie
Otázka, kterou od majitelů slyšíme nejčastěji, nezní „co AI dokáže?“ Viděli dost ukázek, aby věděli, že dokáže hodně. Otázka zní: „co se stane, když se splete?“
Je to správná otázka. Každý model dělá chyby. Na rozmazaném skenu přečte trojku jako osmičku. Splete si dva kupce s podobným jménem. Je si jistý, i když by neměl. Skutečná otázka není, zda se chyby stávají, ale kam až mohou doputovat.
Tři úkoly, tři vlastníci
Naše odpověď je rozdělit práci na tři části a každou svěřit tomu, kdo ji umí nejlépe:
- Model čte a navrhuje. Z e-mailu v italštině udělá objednávku, z hlasové zprávy obchod, z naskenovaného certifikátu vyplněná pole. To je ta nepřehledná část práce a modely jsou v ní velmi dobré.
- Čísla počítá kód. Marže, náklady na skladování, součty faktur, týdny dodání. Obyčejný kód, který dá pokaždé stejnou odpověď. Žádný model cenu nehádá.
- Rozhoduje člověk. Objednávka platí, až když na ni někdo klikne. Upomínka odejde, až když ji někdo schválí. A každé kliknutí jde vrátit.
Co to znamená pro chyby
Když model špatně přečte slovo, nejhorší případ je chybný koncept. Člověk ho uvidí, opraví a jde dál. Nikdy se z toho nestane chybná faktura, protože fakturu počítá kód a vystavuje člověk.
Když si software není jistý, nehádá. Ponechá vše tak, jak bylo, a zeptá se. Zní to pomaleji. V praxi je to rychlejší, protože nikdo nemusí strávit odpoledne rozplétáním něčeho, co AI udělala sama od sebe.
Proč je to důležité pro důvěru
Léta sleduji, jak týmy přijímají nové nástroje. Vzorec je pokaždé stejný: lidé používají to, co si mohou ověřit.
Pokud tým vidí, co AI přečetla a co navrhla, začne se na ni během několika týdnů spoléhat. Zachytí chybu, vidí, že se dala snadno zachytit, a věří jí o něco víc. Pokud AI jedná skrytě, nezačne nikdy. Stačí jediné překvapení.
Proto ukazujeme, jak pracujeme. Co se přečetlo, odkud to pochází, co se navrhuje a kdo řekl ano.
Kde jedná jako první
Snažíme se být upřímní i ohledně výjimek. Na tržišti MeatBorsa se nabídky, které přijdou e-mailem, zveřejní a zprávy v chatu se přeloží dříve, než se na ně podívá člověk. Říkáme to na rovinu, protože byste to měli slyšet od nás. Více o tom, jak udržujeme AI bezpečnou.
