Modeller læser. Mennesker beslutter.
Spørgsmålet er ikke, hvad AI kan. Det er, hvad der sker, når den tager fejl, og svaret ligger i, hvordan arbejdet er delt.
IvanSofia
Det spørgsmål, vi oftest hører fra ejere, er ikke “hvad kan AI?”. De har set nok demoer til at vide, at den kan meget. Spørgsmålet er: “Hvad sker der, når den tager fejl?”
Det er det rigtige spørgsmål. Hver model laver fejl. Den læser et 3-tal som et 8-tal på en sløret scanning. Den blander to købere med lignende navne sammen. Den er sikker, når den ikke burde være det. Det egentlige spørgsmål er ikke, om fejl sker, men hvor de kan ende.
Tre opgaver, tre ejere
Vores svar er at dele arbejdet i tre og give hver del til den, der er bedst til den:
- Modellen læser og foreslår. Den gør en e-mail på italiensk til en ordre, en talebesked til en handel, et scannet certifikat til felter. Det er den rodede del af arbejdet, og modeller er meget gode til det.
- Koden regner tallene ud. Marginer, lageromkostninger, fakturatotaler, leveringsuger. Almindelig kode, der giver det samme svar hver gang. Ingen model gætter en pris.
- Et menneske beslutter. Ordren tæller, når nogen klikker. Rykkeren går ud, når nogen godkender den. Og hvert klik kan fortrydes.
Hvad det betyder for fejl
Når en model læser et ord forkert, er det værste, der kan ske, et forkert udkast. Et menneske ser det, retter det og går videre. Det bliver aldrig til en forkert faktura, fordi fakturaen beregnes af kode og udstedes af et menneske.
Når softwaren ikke er sikker, gætter den ikke. Den lader tingene være, som de var, og spørger. Det lyder langsommere. I praksis er det hurtigere, fordi ingen skal bruge en eftermiddag på at rede noget ud, som AI’en gjorde på egen hånd.
Hvorfor det betyder noget for tilliden
Jeg har set teams tage nye værktøjer i brug i årevis. Mønsteret er altid det samme: Folk bruger det, de kan kontrollere.
Hvis teamet kan se, hvad AI’en læste, og hvad den foreslog, begynder de at stole på den inden for få uger. De fanger en fejl, ser at den var nem at fange, og stoler lidt mere på den. Hvis AI’en handler i det skjulte, gør de det aldrig. Én overraskelse er nok.
Derfor viser vi vores arbejde. Hvad der blev læst, hvor det kom fra, hvad der foreslås, og hvem der sagde ja.
Steder, hvor den handler først
Vi prøver at være ærlige om undtagelserne. På MeatBorsa-markedspladsen offentliggøres tilbud, der kommer ind på e-mail, og chatbeskeder oversættes, før et menneske kigger. Det siger vi ligeud, for du skal høre det fra os. Mere om, hvordan vi holder AI sikker.
