Mô hình đọc. Con người quyết định.
Câu hỏi không phải AI làm được gì. Mà là chuyện gì xảy ra khi nó sai, và câu trả lời nằm ở cách chia việc.
IvanSofia
Câu hỏi chúng tôi nghe nhiều nhất từ các chủ doanh nghiệp không phải “AI làm được gì?” Họ đã xem đủ demo để biết nó làm được nhiều. Câu hỏi là: “chuyện gì xảy ra khi nó sai?”
Đó là câu hỏi đúng. Mô hình nào cũng mắc lỗi. Nó đọc số 3 thành số 8 trên bản scan mờ. Nó nhầm hai người mua có tên giống nhau. Nó tự tin khi không nên. Câu hỏi thật không phải lỗi có xảy ra không, mà là lỗi có thể đi đến đâu.
Ba việc, ba người phụ trách
Câu trả lời của chúng tôi là chia công việc làm ba, và giao mỗi phần cho bên làm tốt nhất:
- Mô hình đọc và đề xuất. Nó biến một email tiếng Ý thành đơn hàng, một tin nhắn thoại thành giao dịch, một chứng nhận scan thành các trường dữ liệu. Đây là phần lộn xộn của công việc, và mô hình làm rất giỏi.
- Code tính các con số. Biên lợi nhuận, chi phí lưu kho, tổng hóa đơn, tuần giao hàng. Code thuần túy cho cùng một kết quả mọi lần. Không mô hình nào đoán giá.
- Con người quyết định. Đơn hàng chỉ có hiệu lực khi có người bấm. Lời nhắc chỉ gửi đi khi có người duyệt. Và mọi cú bấm đều có thể hoàn tác.
Điều đó có ý nghĩa gì với lỗi
Khi mô hình đọc sai một từ, tệ nhất là một bản nháp sai. Một người thấy, sửa, rồi làm tiếp. Nó không bao giờ thành hóa đơn sai, vì hóa đơn do code tính và do người phát hành.
Khi phần mềm không chắc, nó không đoán. Nó giữ nguyên mọi thứ và hỏi. Nghe có vẻ chậm hơn. Thực tế lại nhanh hơn, vì không ai phải mất cả buổi chiều gỡ rối thứ AI tự ý làm.
Vì sao điều này quan trọng với niềm tin
Tôi đã quan sát các đội áp dụng công cụ mới nhiều năm. Quy luật luôn giống nhau: người ta dùng thứ họ kiểm tra được.
Nếu đội thấy được AI đã đọc gì và đề xuất gì, họ bắt đầu dựa vào nó chỉ sau vài tuần. Họ bắt được một lỗi, thấy nó dễ bắt, và tin hơn một chút. Nếu AI hành động khuất tầm mắt, họ sẽ không bao giờ tin. Một lần bất ngờ là đủ.
Đó là lý do chúng tôi cho thấy cách mình làm. Đã đọc gì, lấy từ đâu, đề xuất gì, và ai đã đồng ý.
Những chỗ nó hành động trước
Chúng tôi cố gắng thẳng thắn về các ngoại lệ. Trên sàn MeatBorsa, chào hàng gửi đến qua email được đăng lên, và tin nhắn chat được dịch, trước khi có người xem. Chúng tôi nói rõ điều đó, vì bạn nên nghe nó từ chính chúng tôi. Thêm về cách chúng tôi giữ AI an toàn.
