מודלים קוראים. אנשים מחליטים.
השאלה היא לא מה ה-AI יכול לעשות. היא מה קורה כשהוא טועה, והתשובה נמצאת באופן שבו העבודה מחולקת.
Ivanסופיה
השאלה שאנחנו שומעים הכי הרבה מבעלי חברות היא לא "מה AI יכול לעשות?". הם ראו מספיק הדגמות כדי לדעת שהוא יכול לעשות הרבה. השאלה היא: "מה קורה כשהוא טועה?"
זו השאלה הנכונה. כל מודל טועה. הוא קורא 3 כ-8 בסריקה מטושטשת. הוא מבלבל בין שני קונים עם שמות דומים. הוא בטוח בעצמו כשהוא לא אמור להיות. השאלה האמיתית היא לא אם טעויות קורות, אלא לאן הן יכולות להגיע.
שלוש משימות, שלושה אחראים
התשובה שלנו היא לחלק את העבודה לשלושה, ולתת כל חלק למי שעושה אותו הכי טוב:
- המודל קורא ומציע. הוא הופך מייל באיטלקית להזמנה, הודעה קולית לעסקה, תעודה סרוקה לשדות. זה החלק המבולגן בעבודה, ומודלים טובים בו מאוד.
- הקוד מחשב את המספרים. מרווחים, עלויות אחסון, סכומי חשבוניות, שבועות אספקה. קוד פשוט שנותן את אותה תשובה בכל פעם. אף מודל לא מנחש מחיר.
- אדם מחליט. ההזמנה נחשבת כשמישהו לוחץ. התזכורת יוצאת כשמישהו מאשר אותה. וכל לחיצה ניתנת לביטול.
מה זה אומר לגבי טעויות
כשמודל קורא מילה לא נכון, המקרה הגרוע ביותר הוא טיוטה שגויה. אדם רואה אותה, מתקן וממשיך. היא אף פעם לא הופכת לחשבונית שגויה, כי החשבונית מחושבת על ידי קוד ומונפקת על ידי אדם.
כשהתוכנה לא בטוחה, היא לא מנחשת. היא משאירה את הדברים כמו שהיו ושואלת. זה נשמע איטי יותר. בפועל זה מהיר יותר, כי אף אחד לא צריך לבזבז אחר צהריים שלם על התרת משהו שה-AI עשה על דעת עצמו.
למה זה חשוב לאמון
אני צופה בצוותים שמאמצים כלים חדשים כבר שנים. הדפוס תמיד זהה: אנשים משתמשים במה שהם יכולים לבדוק.
אם הצוות יכול לראות מה ה-AI קרא ומה הוא הציע, הוא מתחיל לסמוך עליו תוך שבועות. הם תופסים טעות, רואים שהיה קל לתפוס אותה, וסומכים עליו קצת יותר. אם ה-AI פועל מחוץ לטווח הראייה, זה לא קורה אף פעם. הפתעה אחת מספיקה.
לכן אנחנו מראים את העבודה שלנו. מה נקרא, מאיפה זה הגיע, מה מוצע, ומי אישר.
המקומות שבהם הוא פועל קודם
אנחנו משתדלים להיות כנים לגבי החריגים. ב-marketplace של MeatBorsa, הצעות שמגיעות במייל מתפרסמות, והודעות צ׳אט מתורגמות, לפני שאדם מסתכל עליהן. אנחנו אומרים את זה בפשטות, כי כדאי שתשמעו את זה מאיתנו. עוד על איך אנחנו שומרים על AI בטוח.
