「AIは間違える」から任せられない、を設計で外す

先に結論を。AIが間違えないようにするのではなく、間違えても外まで届かない組み方にする。ここが決まると、はじめて安心して任せられます。

AIに仕事を渡したい。でも、いざ渡そうとすると手が止まる。理由はだいたい1つです。「間違えたらどうしよう」。

お客さんへの返事を間違えたら。請求の金額を間違えたら。公開した文章がおかしかったら。想像すると、こわい。だから結局、全部やったほうが安心だ、となる。ひとりで事業を回していると、たいていここでつまずきます。

この「間違えるから任せられない」で止まっているのは、少しもったいない話です。間違いをゼロにしようとするから、いつまでも任せられない。今日はその考え方を、まるごと入れ替える話を書きます。

なぜ「間違えるから任せられない」で止まるのか

止まってしまうのは、AIが完璧になるのを待っているからです。そして、完璧なAIは来ません。

「もっと賢くなったら任せよう」「間違えなくなったら任せよう」。そう考えている限り、任せる日は来ません。人が間違えるのと同じで、AIも間違えます。プロンプトを工夫しても、モデルが新しくなっても、程度の差はあってもゼロにはなりません。間違いがなくなるのを待つのは、来ない電車を待つのに近い。

ここで多くの人が、2つのうちどちらかに寄ります。ひとつは「じゃあ任せない」。もうひとつは「えいやで全部任せて、あとで丸ごとチェックする」。

前者を選ぶと、いつまでも自分が止まれません。仕事は減らず、ひとりで抱えたままです。

後者はもっと危ない。全部やらせて最後にまとめて確認、というやり方は、確認する側がいちばん疲れます。たとえば、AIに問い合わせ返信を1日分まとめて作らせたとします。20通の下書きが並ぶ。どこが間違っているか分からないまま、端から読んでいく。最初の数通は丁寧に見ても、後半になると集中が切れて、目が滑ります。数日でくたびれて、だんだん確認が雑になる。そのうち、間違いがそのまま外に出ます。

つまり、詰まりの本体は「AIが間違えること」そのものではありません。間違いが、確認されないまま外へ届いてしまう組み方のほうにあります。

発想を入れ替える：間違いを『前提』にして組む

AIは間違える。その前提を認めたうえで、間違えても事業が壊れない構造を先に作る。これが防御の考え方です。

人を雇うときのことを思い浮かべてみます。新しく入った人が、最初から一度も間違えないと期待する人はいません。間違える前提で、確認の仕組みを用意します。ダブルチェックを入れる。大事なところは最後に自分が目を通す。ごく当たり前のことです。相手を疑っているのではなく、事業を守るための備えとして、そうしています。

AIも同じでいい。間違える前提で、確認の関所を先に置く。そうすれば、間違えても外までは届きません。届かなければ、事業は壊れません。

大事なのは順番です。「間違えないように仕込む」に力を入れるのではなく、「間違えても止まる場所」を先に作る。ここを最初に決めておくと、あとは安心して任せられます。以下、具体的な防御パターンを4つ、順番に見ていきます。

防御パターン1：確認点を「出す前」に1つ置く

全部やらせて最後に丸ごと見るのではなく、外に出る直前に、人の目が必ず通る一点を作ります。

いちばん効くのがこれです。AIが作ったものを、そのまま送信・公開・確定させない。外に出る手前に、必ず一度目を通す場所を1つ置く。ここを通らないと外に出ない、という関所です。

たとえば、AIに問い合わせの返信を下書きしてもらうとします。ここで、それが自動でお客さんに送られる設定にはしない。下書きが溜まる場所を作って、送信ボタンだけは手で押す。この「送信ボタンは自分が押す」という一点だけで、間違いが外に出る道がふさがれます。

ポイントは、確認を「あと」ではなく「出る前」に置くことです。出てしまってからの確認は、もう手遅れの確認になります。間違ったメールが届いてから謝るのと、届く前に1行直すのとでは、手間も信用への傷も違います。だから、出る前に一点だけ関所を置く。ここが防御のいちばん外側の壁になります。

防御パターン2：急所を3つだけ決めて、そこは二度見る

全部を疑うと疲れて続きません。だから、絶対に間違えたらまずい急所だけを決めて、そこだけ必ず二度見ると決めます。

出る前に関所を置いても、そこで全部を隅から隅まで疑っていたら、結局さっきの「丸ごとチェック」と同じで疲れてしまう。だから、見る場所を絞ります。

絞るなら、この3つがおすすめです。

• 金額：請求、見積もり、価格。1桁ずれると事故になるところ。「1,000円」が「10,000円」で出れば、そのまま請求事故です。
• 約束：納期、日程、「やります」と言った内容。あとで揉めるところ。言ったつもりのない納期が返信に書かれていると、後日そこが火種になります。
• お客さんに直接届く言葉：返信の本文、公開する文章。相手の感情に触れるところ。事実は合っていても、言い回しがきつければ関係は傷つきます。

この3つだけは、関所で必ず二度見る。逆に言えば、それ以外は多少の粗があっても、二度見しなくていいと割り切る。全部に同じ力を注ぐのをやめて、事故になる急所に集中する。こうすると、確認が軽くなって、ちゃんと続きます。

続かない確認は、無いのと同じです。だから「疲れないように絞る」のは、手抜きではなく防御の一部だと考えてください。

防御パターン3：間違いが下流に流れない切り分けを作る

AIが作ったものが、確認を通らずに外へ出ない構造そのものを作ります。内側と外側の間に、必ず人の関所を置く。

パターン1と2は「関所で何を見るか」の話でした。パターン3は、そもそも「関所を通らずに外へ出る抜け道を作らない」という、構造の話です。

まず、仕事を内側と外側の2つに分けて考えます。

• 内側：下書き、整理、下調べ、仕分け。間違えても、まだ外には出ていない段階。
• 外側：送信、公開、確定、請求。一度出たら、取り消しがきかない段階。

AIに任せていいのは、内側です。下書きを作る、資料を整理する、候補を並べる。ここはどんどん任せていい。間違えても、まだ外に出ていないので、事業は壊れません。

危ないのは、内側の作業がそのまま外側にすり抜けることです。AIが下書きしたものが、確認を通らずに自動で送られる。整理したデータが、そのまま請求に流れる。この「自動でつながっている」状態をそのままにすると、間違いが一直線で外に出ます。便利さと引き換えに、関所が消えているわけです。

だから、内側と外側の間に、必ず人の関所を1つ置く。内側は自由にAIに任せて、外側に渡すところだけは人が手を触れる。この切り分けができていれば、内側でいくら間違えても、外側は守られます。

防御パターン4：間違え方の『型』を見つけて先回りする

同じところで間違えるなら、その手前にチェックを1つ足す。間違いを全部潰すのでなく、間違いが起きる場所を先に知って備えます。

AIの間違いには、クセがあります。使っていると、「またここか」という場所が見えてきます。日付の扱いが甘い。固有名詞をたまに取り違える。長い文章だと最後のほうで話がずれる。こういう、決まった場所での決まった間違い方があります。

この「型」が見えたら、そこに先回りしておきます。やることは単純で、間違えやすい場所の手前に、確認項目を1つだけ足す。

たとえば、日付をよく間違えると分かったら、外に出す前のチェックに「日付は合っているか」を1行足す。固有名詞を取り違えるなら、「名前・社名は合っているか」を足す。全部を疑うのではなく、間違えると分かっている一点だけを、先回りで押さえる。

これは、パターン2の「急所3つ」を、あなたの仕事に合わせて育てていく作業でもあります。使いながら、自分の現場でよく出る間違いの型を1つずつ足していく。そうすると、防御が自分の仕事にぴったり合ってきます。

間違いを起きなくするのは無理です。でも、どこで起きるかを先に知っておくことはできる。備えておけば、間違いは事故ではなく、想定内の1つになります。

よくある反論に答えておきます

「そこまで確認するなら、自分でやったほうが早いのでは」

一見そう見えます。でも、確認と、ゼロから作るのは、かかる労力がまるで違います。何もないところから返信を1本書くのと、下書きを読んで急所3つを二度見して送るのとでは、後者のほうがずっと軽い。しかも、下書きを作る繰り返しの部分は、もう手から離れています。手放すのは「毎回ゼロから作る」ところで、握るのは「最後に急所を確認する」ところ。労力の重いほうを渡して、軽いほうを残す。だから、全体としてはちゃんと楽になります。

「間違いを前提にするなんて、いい加減に聞こえる」

むしろ逆です。人を信じて仕事を渡すときも、確認の仕組みは用意します。それは相手を疑っているのではなく、事業を守るための当たり前の備えです。AIも同じで、間違える前提で関所を置くのは、いい加減どころか、いちばん責任を持った任せ方になります。完璧を期待して確認を省くほうが、よほど危うい。

まとめ

• 「間違えるから任せられない」で止まるのは、完璧なAIを待っているから。それは来ない
• 発想を入れ替える。間違いを前提にして、間違えても外まで届かない構造を先に作る
• パターン1：確認点を「出す前」に1つ置く（送信ボタンは自分が押す）
• パターン2：急所を3つ（金額・約束・お客さんに届く言葉）に絞って二度見する
• パターン3：内側（下書き・整理）と外側（送信・公開・確定）の間に人の関所を置く
• パターン4：間違え方の型を見つけて、その手前にチェックを1つ足す

間違いをゼロにするのは無理です。でも、間違えても事業が壊れない組み方は作れます。最後の判断を握ったまま、繰り返しの重い部分だけを渡す。この組み方ができていれば、AIが間違えても、間違いは外には届きません。全部を一度に仕組みにする必要はありません。まず1つ、外に出る一点に関所を置くところから始めれば十分です。

今日のアクション

いま、AIに何かを任せようとして止まっているなら、まず「外に出る一点」を決めてみてください。

• AIに任せたい仕事を1つ選ぶ（返信の下書き、資料の整理など）
• それが「外に出る場所」はどこか（送信・公開・確定）を書き出す
• その手前に「必ず自分で押すボタン」を1つ決める

出る前の一点さえ決めれば、あとは安心して任せられます。間違いを止めるのは、賢いAIではなく、外に出る手前に置いた関所のほうです。