โมเดลอ่าน คนตัดสินใจ
คำถามไม่ใช่ว่า AI ทำอะไรได้ แต่คือจะเกิดอะไรขึ้นเมื่อมันผิด และคำตอบอยู่ที่การแบ่งงาน
Ivanโซเฟีย
คำถามที่เราได้ยินบ่อยที่สุดจากเจ้าของธุรกิจไม่ใช่ “AI ทำอะไรได้?” พวกเขาเห็นเดโมมามากพอจะรู้ว่ามันทำได้หลายอย่าง คำถามคือ “จะเกิดอะไรขึ้นเมื่อมันผิด?”
เป็นคำถามที่ถูกต้อง ทุกโมเดลทำผิดพลาด อ่านเลข 3 เป็น 8 บนเอกสารสแกนที่เบลอ สับสนผู้ซื้อสองรายที่ชื่อคล้ายกัน มั่นใจในตอนที่ไม่ควรมั่นใจ คำถามจริงไม่ใช่ว่าจะผิดพลาดไหม แต่คือความผิดพลาดจะไปจบที่ไหน
สามงาน สามผู้รับผิดชอบ
คำตอบของเราคือแบ่งงานเป็นสามส่วน แล้วให้แต่ละส่วนกับผู้ที่ทำได้ดีที่สุด:
- โมเดลอ่านและเสนอ เปลี่ยนอีเมลภาษาอิตาลีเป็นคำสั่งซื้อ ข้อความเสียงเป็นดีล ใบรับรองที่สแกนเป็นช่องข้อมูล นี่คือส่วนที่ยุ่งเหยิงของงาน และโมเดลทำได้ดีมาก
- โค้ดคำนวณตัวเลข มาร์จิ้น ค่าจัดเก็บ ยอดรวมใบแจ้งหนี้ สัปดาห์ส่งมอบ โค้ดธรรมดาที่ให้คำตอบเดิมทุกครั้ง ไม่มีโมเดลไหนเดาราคา
- คนเป็นผู้ตัดสินใจ คำสั่งซื้อมีผลเมื่อมีคนกด ข้อความเตือนส่งออกไปเมื่อมีคนอนุมัติ และทุกการกดยกเลิกได้
หมายความว่าอย่างไรต่อความผิดพลาด
เมื่อโมเดลอ่านคำผิด กรณีแย่ที่สุดคือร่างที่ผิด คนเห็น แก้ แล้วทำงานต่อ มันไม่มีทางกลายเป็นใบแจ้งหนี้ที่ผิด เพราะใบแจ้งหนี้คำนวณด้วยโค้ดและออกโดยคน
เมื่อซอฟต์แวร์ไม่แน่ใจ ก็จะไม่เดา แต่จะคงทุกอย่างไว้เหมือนเดิมแล้วถาม ฟังดูช้ากว่า แต่ในทางปฏิบัติเร็วกว่า เพราะไม่มีใครต้องเสียทั้งบ่ายแก้สิ่งที่ AI ทำไปเอง
ทำไมเรื่องนี้สำคัญต่อความเชื่อใจ
ผมเฝ้าดูทีมต่างๆ รับเครื่องมือใหม่มาหลายปี รูปแบบเหมือนเดิมเสมอ: ผู้คนใช้สิ่งที่ตรวจสอบได้
ถ้าทีมเห็นว่า AI อ่านอะไรและเสนออะไร ภายในไม่กี่สัปดาห์พวกเขาจะเริ่มพึ่งพามัน เจอความผิดพลาด เห็นว่าจับได้ง่าย แล้วก็เชื่อใจมากขึ้นอีกนิด ถ้า AI ทำงานลับหลัง พวกเขาจะไม่มีวันเชื่อใจ เซอร์ไพรส์ครั้งเดียวก็พอ
นั่นคือเหตุผลที่เราแสดงการทำงานของเรา อ่านอะไร มาจากไหน เสนออะไร และใครตอบตกลง
จุดที่มันทำก่อน
เราพยายามพูดตรงๆ เรื่องข้อยกเว้น บนมาร์เก็ตเพลส MeatBorsa ข้อเสนอที่มาทางอีเมลจะถูกเผยแพร่ และข้อความแชตจะถูกแปล ก่อนที่คนจะเห็น เราบอกตรงๆ เพราะคุณควรได้ยินเรื่องนี้จากเรา เพิ่มเติมเรื่องวิธีที่เราดูแลให้ AI ปลอดภัย.
