Моделі читають. Люди вирішують.
Питання не в тому, що ШІ вміє. А в тому, що станеться, коли він помилиться, і відповідь — у тому, як розподілено роботу.
IvanСофія
Найчастіше ми чуємо від власників не «що вміє ШІ?». Вони бачили достатньо демо, щоб знати: вміє багато. Питання інше: «що буде, коли він помилиться?»
Це правильне питання. Кожна модель помиляється. Читає 3 як 8 на розмитому скані. Плутає двох покупців зі схожими назвами. Буває впевненою, коли не варто. Справжнє питання не в тому, чи бувають помилки, а в тому, куди вони можуть потрапити.
Три завдання, три власники
Наша відповідь — поділити роботу на три частини й віддати кожну тому, хто впорається з нею найкраще:
- Модель читає й пропонує. Вона перетворює лист італійською на замовлення, голосове — на угоду, сканований сертифікат — на поля. Це безладна частина роботи, і моделі дуже добре з нею справляються.
- Код рахує цифри. Маржу, вартість зберігання, суми рахунків, тижні доставки. Звичайний код, що щоразу дає однакову відповідь. Жодна модель не вгадує ціну.
- Людина вирішує. Замовлення зараховується, коли хтось клікає. Нагадування йде, коли хтось його схвалює. І кожен клік можна скасувати.
Що це означає для помилок
Коли модель неправильно прочитає слово, найгірше — хибна чернетка. Людина її бачить, виправляє і йде далі. Вона ніколи не стане хибним рахунком-фактурою, бо рахунок розраховує код, а виставляє людина.
Коли програма не впевнена, вона не вгадує. Вона залишає все як було і питає. Звучить повільніше. На практиці це швидше, бо нікому не доводиться витрачати пів дня, щоб розплутати те, що ШІ зробив сам.
Чому це важливо для довіри
Я роками спостерігаю, як команди переходять на нові інструменти. Закономірність завжди однакова: люди користуються тим, що можуть перевірити.
Якщо команда бачить, що ШІ прочитав і що запропонував, вона починає на нього покладатися за кілька тижнів. Люди помічають помилку, бачать, що її легко помітити, і довіряють трохи більше. Якщо ШІ діє непомітно, довіри не буде ніколи. Досить одного сюрпризу.
Тому ми показуємо свою роботу. Що прочитано, звідки взялося, що запропоновано і хто сказав «так».
Де він діє першим
Ми намагаємося чесно говорити про винятки. На маркетплейсі MeatBorsa пропозиції, що надходять поштою, публікуються, а повідомлення в чаті перекладаються, раніше, ніж це побачить людина. Ми кажемо про це прямо, бо ви маєте почути це від нас. Більше про те, як ми робимо ШІ безпечним.
