Model membaca. Manusia memutuskan.
Pertanyaannya bukan apa yang bisa dilakukan AI, tetapi apa yang terjadi saat ia salah, dan jawabannya ada pada cara pekerjaan dibagi.
IvanSofia
Pertanyaan yang paling sering kami dengar dari pemilik bukanlah “apa yang bisa dilakukan AI?” Mereka sudah melihat cukup banyak demo untuk tahu AI bisa melakukan banyak hal. Pertanyaannya adalah: “apa yang terjadi kalau ia salah?”
Itu pertanyaan yang tepat. Setiap model membuat kesalahan. Ia membaca 3 sebagai 8 di pindaian yang buram. Ia tertukar antara dua pembeli dengan nama mirip. Ia yakin padahal seharusnya tidak. Pertanyaan sebenarnya bukan apakah kesalahan terjadi, tetapi ke mana kesalahan itu bisa berujung.
Tiga tugas, tiga pemilik
Jawaban kami adalah membagi pekerjaan menjadi tiga, dan memberikan setiap bagian kepada yang paling ahli:
- Model membaca dan mengusulkan. Ia mengubah email berbahasa Italia menjadi pesanan, pesan suara menjadi transaksi, sertifikat hasil pindaian menjadi kolom isian. Ini bagian pekerjaan yang berantakan, dan model sangat pandai melakukannya.
- Kode menghitung angka. Margin, biaya penyimpanan, total faktur, minggu pengiriman. Kode biasa yang memberi jawaban sama setiap kali. Tidak ada model yang menebak harga.
- Manusia memutuskan. Pesanan berlaku saat seseorang mengklik. Pengingat terkirim saat seseorang menyetujuinya. Dan setiap klik bisa dibatalkan.
Apa artinya bagi kesalahan
Saat model salah membaca sebuah kata, kemungkinan terburuknya adalah draf yang salah. Seseorang melihatnya, memperbaikinya, dan lanjut. Itu tidak pernah menjadi faktur yang salah, karena faktur dihitung oleh kode dan diterbitkan oleh manusia.
Saat perangkat lunak tidak yakin, ia tidak menebak. Ia membiarkan semuanya seperti semula dan bertanya. Kedengarannya lebih lambat. Dalam praktiknya lebih cepat, karena tidak ada yang perlu menghabiskan satu sore mengurai sesuatu yang dilakukan AI sendiri.
Mengapa ini penting bagi kepercayaan
Saya sudah bertahun-tahun melihat tim mengadopsi alat baru. Polanya selalu sama: orang memakai apa yang bisa mereka periksa.
Jika tim bisa melihat apa yang dibaca AI dan apa yang diusulkannya, mereka mulai mengandalkannya dalam beberapa minggu. Mereka menangkap kesalahan, melihat bahwa itu mudah ditangkap, dan sedikit lebih percaya. Jika AI bertindak tanpa terlihat, mereka tidak akan pernah percaya. Satu kejutan saja sudah cukup.
Karena itulah kami menunjukkan cara kerja kami. Apa yang dibaca, dari mana asalnya, apa yang diusulkan, dan siapa yang menyetujui.
Tempat di mana ia bertindak lebih dulu
Kami berusaha jujur soal pengecualiannya. Di marketplace MeatBorsa, penawaran yang masuk lewat email diterbitkan, dan pesan chat diterjemahkan, sebelum seseorang melihatnya. Kami mengatakannya terus terang, karena Anda seharusnya mendengarnya dari kami. Selengkapnya tentang cara kami menjaga AI tetap aman.
