モデルは読む。人が決める。
問題はAIに何ができるかではありません。AIが間違えたときに何が起きるかです。その答えは、仕事の分け方にあります。
Ivanソフィア
経営者の方から最もよく聞かれる質問は「AIに何ができるのか？」ではありません。AIが多くのことをできるのは、デモを十分見てご存じです。質問はこうです。「AIが間違えたら、どうなるのか？」
それは正しい質問です。どのモデルも間違えます。ぼやけたスキャンで3を8と読みます。名前の似た2社のバイヤーを取り違えます。自信を持つべきでないときに自信を持ちます。本当の問題は、間違いが起きるかどうかではなく、その間違いがどこまで行き着くかです。
3つの仕事、3つの担い手
私たちの答えは、仕事を3つに分け、それぞれを最も得意な担い手に任せることです。
- モデルは読み、提案する。イタリア語のメールを注文に、音声メモを取引に、スキャンした証明書を入力項目に変えます。仕事の中の整理されていない部分であり、モデルはこれが非常に得意です。
- 数字はコードが計算する。利益率、保管コスト、請求額の合計、納品週。毎回同じ答えを出す、シンプルなコードです。価格をモデルが推測することはありません。
- 人が決める。注文は誰かがクリックしたときに確定します。催促は誰かが承認したときに送信されます。そして、どのクリックも取り消せます。
間違いにとっての意味
モデルが単語を読み違えても、最悪の場合は間違った下書きができるだけです。人がそれを見て直し、次へ進みます。間違った請求書になることはありません。請求書はコードで計算され、人が発行するからです。
ソフトウェアに確信がないときは、推測しません。状態をそのままにして、確認を求めます。遅く聞こえるかもしれません。実際には速いのです。AIが勝手にやったことを解きほぐすのに、誰も午後をまるごと費やさずに済むからです。
なぜそれが信頼につながるのか
私は長年、チームが新しいツールを取り入れる様子を見てきました。パターンはいつも同じです。人は自分で確認できるものを使います。
AIが何を読み、何を提案したかをチームが見られれば、数週間のうちに頼るようになります。間違いを見つけ、それが簡単に見つかったとわかり、少しずつ信頼を深めます。AIが見えないところで動けば、そうはなりません。驚きは1回で十分です。
だから私たちは、作業の過程を見せます。何を読んだか、それがどこから来たか、何を提案しているか、そして誰が承認したか。
AIが先に動く場面
私たちは例外についても正直でありたいと考えています。MeatBorsaマーケットプレイスでは、メールで届いたオファーの公開と、チャットメッセージの翻訳が、人が確認する前に行われます。私たちの口から直接聞いていただくべきことなので、はっきりお伝えしています。 AIを安全に保つ方法について詳しく.
