Model membaca. Manusia membuat keputusan.
Persoalannya bukan apa yang boleh dilakukan AI, tetapi apa yang berlaku apabila ia silap, dan jawapannya terletak pada cara kerja dibahagikan.
IvanSofia
Soalan yang paling kerap kami dengar daripada pemilik bukanlah “apa yang boleh dilakukan AI?” Mereka sudah melihat cukup banyak demo untuk tahu AI boleh melakukan banyak perkara. Soalannya ialah: “apa yang berlaku kalau ia silap?”
Itu soalan yang tepat. Setiap model membuat kesilapan. Ia membaca 3 sebagai 8 pada imbasan yang kabur. Ia tertukar antara dua pembeli dengan nama yang hampir sama. Ia yakin walhal sepatutnya tidak. Persoalan sebenar bukan sama ada kesilapan berlaku, tetapi ke mana kesilapan itu boleh berakhir.
Tiga tugas, tiga pemilik
Jawapan kami ialah membahagikan kerja kepada tiga, dan memberikan setiap bahagian kepada yang paling mahir:
- Model membaca dan mencadangkan. Ia menukar e-mel berbahasa Itali menjadi pesanan, mesej suara menjadi transaksi, sijil yang diimbas menjadi medan isian. Ini bahagian kerja yang bersepah, dan model sangat pandai melakukannya.
- Kod mengira angka. Margin, kos penyimpanan, jumlah invois, minggu penghantaran. Kod biasa yang memberi jawapan sama setiap kali. Tiada model yang meneka harga.
- Manusia membuat keputusan. Pesanan berkuat kuasa apabila seseorang mengklik. Peringatan dihantar apabila seseorang meluluskannya. Dan setiap klik boleh dibatalkan.
Apa maksudnya bagi kesilapan
Apabila model tersalah baca sesuatu perkataan, kemungkinan terburuk ialah draf yang salah. Seseorang melihatnya, membetulkannya, dan meneruskan kerja. Ia tidak pernah menjadi invois yang salah, kerana invois dikira oleh kod dan dikeluarkan oleh manusia.
Apabila perisian tidak pasti, ia tidak meneka. Ia membiarkan semuanya seperti asal dan bertanya. Kedengarannya lebih lambat. Dalam amalan ia lebih cepat, kerana tiada siapa perlu menghabiskan satu petang merungkai sesuatu yang dilakukan AI sendiri.
Mengapa ini penting bagi kepercayaan
Saya sudah bertahun-tahun melihat pasukan menerima pakai alat baharu. Coraknya sentiasa sama: orang menggunakan apa yang boleh mereka semak.
Jika pasukan dapat melihat apa yang dibaca AI dan apa yang dicadangkannya, mereka mula bergantung padanya dalam beberapa minggu. Mereka menangkap kesilapan, melihat bahawa ia mudah ditangkap, dan percaya sedikit lagi. Jika AI bertindak tanpa kelihatan, mereka tidak akan pernah percaya. Satu kejutan sahaja sudah cukup.
Oleh sebab itulah kami menunjukkan cara kerja kami. Apa yang dibaca, dari mana asalnya, apa yang dicadangkan, dan siapa yang meluluskan.
Tempat di mana ia bertindak dahulu
Kami cuba berterus terang tentang pengecualiannya. Dalam pasaran MeatBorsa, tawaran yang masuk melalui e-mel diterbitkan, dan mesej sembang diterjemahkan, sebelum seseorang melihatnya. Kami menyatakannya secara terus terang, kerana Anda sepatutnya mendengarnya daripada kami. Lagi tentang cara kami memastikan AI selamat.
