النماذج تقرأ، والناس يقررون.
السؤال ليس ما يستطيع الذكاء الاصطناعي فعله، بل ما يحدث حين يخطئ، والجواب يكمن في طريقة تقسيم العمل.
إيفانصوفيا
السؤال الذي نسمعه أكثر من غيره من الملّاك ليس «ماذا يستطيع الذكاء الاصطناعي أن يفعل؟» فقد رأوا ما يكفي من العروض ليعرفوا أنه يستطيع الكثير. السؤال هو: «ماذا يحدث حين يخطئ؟»
إنه السؤال الصحيح. كل نموذج يخطئ. يقرأ الرقم 3 على أنه 8 في مسح ضوئي غير واضح. ويخلط بين مشتريين بأسماء متشابهة. ويكون واثقًا حين لا ينبغي له ذلك. السؤال الحقيقي ليس هل تحدث الأخطاء، بل أين يمكن أن تنتهي.
ثلاث مهام، وثلاثة مسؤولين
جوابنا هو تقسيم العمل إلى ثلاثة أجزاء، وإسناد كل جزء إلى الأقدر عليه:
- النموذج يقرأ ويقترح. يحوّل رسالة بريد إلكتروني بالإيطالية إلى طلب، ورسالة صوتية إلى صفقة، وشهادة ممسوحة ضوئيًا إلى حقول. هذا هو الجزء الفوضوي من العمل، والنماذج بارعة فيه جدًا.
- الشيفرة تحسب الأرقام. الهوامش، وتكاليف التخزين، ومجاميع الفواتير، وأسابيع التسليم. شيفرة بسيطة تعطي الإجابة نفسها في كل مرة. لا نموذج يخمّن سعرًا.
- الإنسان يقرر. يُحتسب الطلب حين ينقر أحدهم. ويُرسل التذكير حين يوافق عليه أحدهم. وكل نقرة يمكن التراجع عنها.
ماذا يعني ذلك بالنسبة إلى الأخطاء
حين يسيء النموذج قراءة كلمة، فأسوأ الاحتمالات مسودة خاطئة. يراها شخص، فيصححها، ويمضي. ولا تتحول أبدًا إلى فاتورة خاطئة، لأن الفاتورة تحسبها الشيفرة ويصدرها إنسان.
حين لا يكون البرنامج متأكدًا، فإنه لا يخمّن، بل يُبقي الأمور على حالها ويسأل. يبدو ذلك أبطأ، لكنه عمليًا أسرع، لأن أحدًا لا يضطر إلى قضاء ظهيرة كاملة في فك تشابك شيء فعله الذكاء الاصطناعي من تلقاء نفسه.
لماذا يهم ذلك للثقة
راقبت فرقًا تتبنى أدوات جديدة لسنوات. والنمط هو نفسه دائمًا: يستخدم الناس ما يستطيعون التحقق منه.
إذا استطاع الفريق أن يرى ما قرأه الذكاء الاصطناعي وما اقترحه، فإنه يبدأ في الاعتماد عليه خلال أسابيع. يكتشف خطأً، ويرى أنه كان سهل الاكتشاف، فيثق به أكثر قليلًا. أما إذا تصرف الذكاء الاصطناعي بعيدًا عن الأنظار، فلن يثق به أبدًا. مفاجأة واحدة تكفي.
لهذا نُظهر عملنا: ما الذي قُرئ، ومن أين جاء، وما المقترح، ومن وافق.
المواضع التي يتصرف فيها أولًا
نحاول أن نكون صريحين بشأن الاستثناءات. على سوق MeatBorsa، تُنشر العروض التي تصل بالبريد الإلكتروني، وتُترجم رسائل المحادثة، قبل أن ينظر فيها شخص. نقول ذلك بوضوح، لأنه ينبغي أن تسمعه منّا. المزيد عن كيف نحافظ على سلامة الذكاء الاصطناعي.
