Modeller leser. Mennesker bestemmer.
Spørsmålet er ikke hva AI kan gjøre. Det er hva som skjer når den tar feil, og svaret ligger i hvordan arbeidet er delt.
IvanSofia
Spørsmålet vi hører mest fra eiere, er ikke «hva kan AI gjøre?». De har sett nok demoer til å vite at den kan mye. Spørsmålet er: «hva skjer når den tar feil?»
Det er riktig spørsmål. Alle modeller gjør feil. Den leser en 3 som en 8 på en uskarp skanning. Den blander to kjøpere med like navn. Den er sikker når den ikke burde være det. Det egentlige spørsmålet er ikke om feil skjer, men hvor de kan havne.
Tre jobber, tre eiere
Vårt svar er å dele arbeidet i tre, og gi hver del til den som er best på den:
- Modellen leser og foreslår. Den gjør en e-post på italiensk om til en ordre, en talemelding til en handel, et skannet sertifikat til felt. Dette er den rotete delen av arbeidet, og modeller er svært gode på det.
- Koden regner ut tallene. Marginer, lagerkostnader, fakturasummer, leveringsuker. Enkel kode som gir samme svar hver gang. Ingen modell gjetter en pris.
- Et menneske bestemmer. Ordren teller når noen klikker. Purringen går ut når noen godkjenner den. Og hvert klikk kan angres.
Hva det betyr for feil
Når en modell leser et ord feil, er det verste som kan skje et feil utkast. Et menneske ser det, retter det og går videre. Det blir aldri en feil faktura, fordi fakturaen regnes ut av kode og utstedes av et menneske.
Når programvaren ikke er sikker, gjetter den ikke. Den lar ting være som de var og spør. Det høres tregere ut. I praksis er det raskere, fordi ingen trenger å bruke en ettermiddag på å nøste opp noe AI-en gjorde på egen hånd.
Hvorfor dette betyr noe for tillit
Jeg har sett team ta i bruk nye verktøy i årevis. Mønsteret er alltid det samme: folk bruker det de kan sjekke.
Hvis teamet kan se hva AI-en leste og hva den foreslo, begynner de å stole på den i løpet av uker. De oppdager en feil, ser at den var lett å oppdage, og stoler litt mer på den. Hvis AI-en handler ute av syne, gjør de det aldri. Én overraskelse er nok.
Derfor viser vi arbeidet vårt. Hva som ble lest, hvor det kom fra, hva som foreslås, og hvem som sa ja.
Der den handler først
Vi prøver å være ærlige om unntakene. På MeatBorsa-markedsplassen publiseres tilbud som kommer på e-post, og chatmeldinger oversettes, før et menneske ser på dem. Vi sier det rett ut, fordi du bør høre det fra oss. Mer om hvordan vi holder AI trygg.
