모델은 읽고, 사람은 결정합니다.
문제는 AI가 무엇을 할 수 있느냐가 아닙니다. AI가 틀렸을 때 어떻게 되느냐이며, 그 답은 업무를 어떻게 나누느냐에 있습니다.
Ivan소피아
경영진에게서 가장 많이 듣는 질문은 “AI가 무엇을 할 수 있나요?”가 아닙니다. 데모를 충분히 봐서 많은 것을 할 수 있다는 것은 압니다. 질문은 이것입니다. “AI가 틀리면 어떻게 되나요?”
옳은 질문입니다. 모든 모델은 실수를 합니다. 흐릿한 스캔에서 3을 8로 읽습니다. 이름이 비슷한 두 구매자를 혼동합니다. 확신하면 안 될 때 확신합니다. 진짜 질문은 실수가 일어나느냐가 아니라, 그 실수가 어디까지 갈 수 있느냐입니다.
세 가지 일, 세 명의 담당자
저희의 답은 업무를 셋으로 나누고, 각각을 가장 잘하는 쪽에 맡기는 것입니다.
- 모델은 읽고 제안합니다. 이탈리아어 이메일을 주문으로, 음성 메시지를 거래로, 스캔한 증명서를 입력 항목으로 바꿉니다. 업무에서 정리되지 않은 부분이며, 모델은 이 일을 아주 잘합니다.
- 숫자는 코드가 계산합니다. 마진, 보관 비용, 송장 합계, 납품 주차. 매번 같은 답을 내는 평범한 코드입니다. 어떤 모델도 가격을 추측하지 않습니다.
- 결정은 사람이 합니다. 누군가 클릭해야 주문이 확정됩니다. 누군가 승인해야 독촉 메일이 나갑니다. 그리고 모든 클릭은 되돌릴 수 있습니다.
실수에 대해 이것이 의미하는 것
모델이 단어를 잘못 읽으면 최악의 경우는 잘못된 초안입니다. 사람이 보고 고치고 넘어갑니다. 잘못된 송장으로 이어지지 않습니다. 송장은 코드가 계산하고 사람이 발행하기 때문입니다.
소프트웨어가 확신하지 못할 때는 추측하지 않습니다. 그대로 두고 질문합니다. 느려 보일 수 있습니다. 실제로는 더 빠릅니다. AI가 혼자 한 일을 푸느라 오후를 통째로 쓸 일이 없기 때문입니다.
신뢰에 중요한 이유
수년간 팀들이 새 도구를 도입하는 것을 지켜봤습니다. 패턴은 항상 같습니다. 사람들은 확인할 수 있는 것을 씁니다.
AI가 무엇을 읽고 무엇을 제안했는지 팀이 볼 수 있으면, 몇 주 안에 AI에 의지하기 시작합니다. 실수를 발견하고, 발견하기 쉬웠다는 것을 알고, 조금 더 신뢰합니다. AI가 보이지 않는 곳에서 작동하면 결코 신뢰하지 않습니다. 한 번의 예상치 못한 일이면 충분합니다.
그래서 저희는 과정을 보여 줍니다. 무엇을 읽었고, 어디서 왔으며, 무엇을 제안하고, 누가 승인했는지.
AI가 먼저 작동하는 곳
예외에 대해서도 솔직하려고 합니다. MeatBorsa 마켓플레이스에서는 이메일로 들어온 오퍼가 게시되고 채팅 메시지가 번역되는 일이 사람이 보기 전에 일어납니다. 저희에게서 직접 들으셔야 하기에 분명히 말씀드립니다. AI를 안전하게 지키는 방법 더 보기.
