Modeller läser. Människor beslutar.
Frågan är inte vad AI kan göra. Det är vad som händer när den har fel, och svaret ligger i hur arbetet delas upp.
IvanSofia
Frågan vi oftast får från ägare är inte ”vad kan AI göra?” De har sett tillräckligt med demor för att veta att den kan mycket. Frågan är: ”vad händer när den har fel?”
Det är rätt fråga. Varje modell gör misstag. Den läser en 3:a som en 8:a på en suddig skanning. Den blandar ihop två köpare med liknande namn. Den är säker när den inte borde vara det. Den verkliga frågan är inte om misstag sker, utan var de kan hamna.
Tre uppgifter, tre ägare
Vårt svar är att dela arbetet i tre och ge varje del till den som är bäst på den:
- Modellen läser och föreslår. Den gör ett mejl på italienska till en order, ett röstmeddelande till en affär, ett skannat certifikat till fält. Det här är den röriga delen av arbetet, och modeller är mycket bra på den.
- Koden räknar ut siffrorna. Marginaler, lagerkostnader, fakturasummor, leveransveckor. Enkel kod som ger samma svar varje gång. Ingen modell gissar ett pris.
- En människa beslutar. Ordern räknas när någon klickar. Påminnelsen går ut när någon godkänner den. Och varje klick kan ångras.
Vad det betyder för misstag
När en modell läser fel på ett ord är det värsta som kan hända ett felaktigt utkast. En människa ser det, rättar det och går vidare. Det blir aldrig en felaktig faktura, eftersom fakturan räknas ut av kod och utfärdas av en människa.
När mjukvaran inte är säker gissar den inte. Den låter allt vara som det var och frågar. Det låter långsammare. I praktiken går det fortare, eftersom ingen behöver lägga en eftermiddag på att reda ut något som AI:n gjort på egen hand.
Varför det spelar roll för förtroendet
Jag har sett team ta till sig nya verktyg i åratal. Mönstret är alltid detsamma: folk använder det de kan kontrollera.
Om teamet kan se vad AI:n läste och vad den föreslog börjar de lita på den inom några veckor. De upptäcker ett misstag, ser att det var lätt att upptäcka och litar lite mer på den. Om AI:n agerar i det dolda gör de det aldrig. En enda överraskning räcker.
Därför visar vi hur vi kommit fram. Vad som lästes, var det kom ifrån, vad som föreslås och vem som sa ja.
Där den agerar först
Vi försöker vara ärliga om undantagen. På MeatBorsa-marknadsplatsen publiceras erbjudanden som kommer via mejl, och chattmeddelanden översätts, innan en människa tittar. Vi säger det rakt ut, eftersom du ska höra det från oss. Mer om hur vi håller AI säker.
