Modeller okur. İnsanlar karar verir.
Asıl soru yapay zekânın neler yapabildiği değil. Yanıldığında ne olduğu; yanıt da işin nasıl bölündüğünde yatıyor.
IvanSofya
İşletme sahiplerinden en sık duyduğumuz soru “yapay zekâ ne yapabilir?” değil. Çok şey yapabildiğini bilecek kadar demo gördüler. Soru şu: “Yanıldığında ne oluyor?”
Doğru soru bu. Her model hata yapar. Bulanık bir taramada 3’ü 8 olarak okur. Adları benzeyen iki alıcıyı karıştırır. Emin olmaması gerektiği yerde emindir. Asıl soru hataların olup olmadığı değil, nereye varabildikleri.
Üç iş, üç sahip
Bizim yanıtımız, işi üçe bölmek ve her parçayı en iyi yapana vermek:
- Model okur ve önerir. İtalyanca bir e-postayı siparişe, sesli bir mesajı işleme, taranmış bir sertifikayı alanlara dönüştürür. İşin dağınık kısmı budur ve modeller bunda çok iyidir.
- Rakamları kod hesaplar. Marjlar, depolama maliyetleri, fatura toplamları, teslimat haftaları. Her seferinde aynı yanıtı veren sade kod. Hiçbir model fiyat tahmin etmez.
- Kararı insan verir. Sipariş, biri tıkladığında geçerli olur. Hatırlatma, biri onayladığında gönderilir. Ve her tıklama geri alınabilir.
Bunun hatalar için anlamı
Bir model bir kelimeyi yanlış okuduğunda, en kötü sonuç yanlış bir taslaktır. Bir insan görür, düzeltir ve devam eder. Bu hiçbir zaman yanlış bir faturaya dönüşmez, çünkü faturayı kod hesaplar ve bir insan keser.
Yazılım emin olmadığında tahmin yürütmez. Her şeyi olduğu gibi bırakır ve sorar. Bu daha yavaş gibi görünür. Pratikte daha hızlıdır, çünkü kimse yapay zekânın kendi başına yaptığı bir şeyi çözmek için bir öğleden sonrasını harcamak zorunda kalmaz.
Bu, güven için neden önemli
Yıllardır ekiplerin yeni araçları benimsemesini izliyorum. Örüntü hep aynı: İnsanlar kontrol edebildiklerini kullanır.
Ekip yapay zekânın neyi okuduğunu ve neyi önerdiğini görebiliyorsa birkaç hafta içinde ona güvenmeye başlar. Bir hata yakalar, yakalamanın kolay olduğunu görür ve biraz daha güvenir. Yapay zekâ göz önünde olmadan hareket ediyorsa bu hiç olmaz. Tek bir sürpriz yeter.
Bu yüzden ne yaptığımızı gösteriyoruz. Neyin okunduğunu, nereden geldiğini, neyin önerildiğini ve kimin onay verdiğini.
Önce harekete geçtiği yerler
İstisnalar konusunda dürüst olmaya çalışıyoruz. MeatBorsa pazaryerinde, e-postayla gelen teklifler bir insan bakmadan önce yayımlanır ve sohbet mesajları çevrilir. Bunu açıkça söylüyoruz, çünkü bizden duymanız gerekir. Yapay zekâyı nasıl güvenli tuttuğumuz hakkında daha fazlası.
