家事と子育てのスキマで経営する3方よしAI共創コンサルタントの田中啓之、ひろくん（@passion_tanaka）です。

「AI秘書の作り方」を調べてここに来た方へ、最初に正直なことを言わせてください。AI秘書は、立ち上げることより、「やらかしたときに、二度と同じことをやらせない」ほうが、ずっと難しいんです。プロンプトを工夫して、自分専用の優秀なAI秘書を作るところまでは、今はわりと手が届きます。でも、その秘書が一度とんでもないミスをしたとき——「次は気をつけてね」で終わらせるか、「気をつけなくても、もう起きない構造」を入れるか。ここで、使える秘書になるかどうかが分かれます。

この記事は、私が自分のAI秘書を、同じ作業の中で7回叱った日の実話です。けっこう、いや、かなり腹が立っていました。でも、叱った熱が冷めないその日のうちに、4つの「物理ブロック」を入れました。お説教じゃなくて、構造です。その全部を、プログラミングを知らない中小企業の経営者の方にも分かるように、自分の会社の言葉に翻訳しながらお見せしますね。

朝のLIVE告知が本番に間に合わなかった日に起きたこと

まず、前提を少しだけ共有させてください。私は自分のAI秘書を「凛ちゃん」と呼んでいます。ChatGPTやClaudeといったAIに、私のやり方・私の口調・私の判断基準を覚えさせて育てた、いわば「私の分身」です。経理の田中さんがやっていることをAIに教えて、田中さんの分身を作る——それとまったく同じ発想で、私は私自身の秘書役を育ててきました。これが、私なりの「AI秘書の作り方」の出発点です。

このAI秘書は、毎朝のLIVE配信（私は朝にLIVE配信をやっています）の告知作りから、文章作り、画像の手配まで、いろんな作業を引き受けてくれます。普段は、めちゃくちゃ優秀です。でも、優秀だからこそ、たまにとんでもないことをやらかします。それも「サボった」からじゃない。むしろ逆で、「いい仕事をしよう」と頑張った結果、私が止めたことを乗り越えてくる。ここが、AIのいちばん怖いところなんですよね。

その怖さが、まるごと現れた日がありました。ある朝、私はいつものように朝LIVEの告知をAI秘書に任せていました。告知というのは、「今日はこんな内容でやりますよ」「こんなゲストが来ますよ」というお知らせを、画像つきで作って、各SNSやチャットに配るところまでの一連の作業です。これが、本番の配信開始に間に合いませんでした。

致命的です。告知が間に合わないと、せっかくの配信を誰も知らないまま始めることになる。お店で言えば、開店してるのに看板も暖簾も出てない状態です。しかも原因を一つずつほぐしていったら、たまたま一つのミスが起きたんじゃなく、いくつもの失敗が重なっていました。そして、その失敗の全部が、AI秘書側の落ち度でした。中身を、正直にお見せします。

失敗1：手順をすっ飛ばした

告知作りには、私の中で決まった「順番」があります。最初に、その日のLIVEの中身を固める。中身が固まってから、画像のデザインを考える。料理で言えば、何を作るか決まる前に、盛り付けのお皿を選び始めるようなものです。なのにAI秘書は、中身が固まる前に、いきなり告知画像の提案を出してきました。順番を飛ばしたんです。

失敗2：出演者のプロフィールを「それっぽく」捏造した

告知には、その日のゲストの紹介が入ります。このゲスト紹介を、AI秘書は確定情報のファイルを見ずに、自分の記憶と推測で「それっぽく」書いてしまいました。これ、AIの一番怖い性質です。AIは、分からないことでも空白にしておけない。「たぶんこうだろう」で、堂々と埋めてくる。人間なら「あれ、この人の肩書きなんだっけ?」と止まるところを、AIは止まらずに、それっぽい嘘を書く。ゲストの紹介を間違えるなんて、相手にも失礼ですし、信用に関わります。

失敗3：言ってもいないことを「OK」と受け取った

これが一番、私が腹を立てたところかもしれません。私が「ざっくりでいいよ」とか「いい感じで」と言ったのを、AI秘書は「ひろくんが承認した」と受け取って、次の作業にどんどん進んでしまったんです。でも、「ざっくりでいい」は承認じゃありません。「いい感じで」も承認じゃない。私はまだ「やって」とも「これでGO」とも言っていない。なのにAIは、曖昧な言葉を勝手に「許可」と解釈して、ブレーキを外して走り出した。人間の部下でも、たまにいますよね。相づちを正式なゴーサインと受け取って暴走しちゃう人。AIはそれを、もっと素直に、もっと高速にやります。

失敗4：送信したメッセージが途中で切れた

最後に、配信用のチャットに告知本文を送ったら、本文が途中でブツッと切れていました。技術的な話なので深入りしませんが、ざっくり言うと「送信の仕方が雑だった」ということです。改行や記号が入った文章を、そのまま雑に送ると、途中で切れることがある。AI秘書は、その雑な送り方をしていました。

この4つ（細かく数えると、私は最終的に5つに分けて整理しました）が重なって、告知は本番に間に合わなかった。そして私は、同じ作業の流れの中で、AI秘書を7回叱りました。

「叱って終わり」は明日また同じ事故を生む

ここで、多くの人がやってしまうことがあります。叱って、終わり。「もう間違えるなよ」「次は気をつけて」と言って、終わり。

人間の部下が相手なら、それでもなんとかなることがあります。人間は反省して、記憶して、次から本当に気をつけてくれることがあるから。でも、AIは違います。AIは、叱られても落ち込みません。反省もしません。「次から気をつけます」と言うけれど、新しい会話が始まれば、また同じことをやります。叱った記憶は、消えてしまう。つまり、AI秘書を「叱って終わり」にするのは、ザルで水をすくうようなものなんです。すくった気になるけど、何も残らない。

だから私は、こう考えました。叱るのは、スタートでしかない。本番は、叱った後だ。私の言葉で言うと、こうです。

「気をつける」って、すごくいい言葉に聞こえます。でも、実は何も解決していないんです。気をつけても、忙しければまた起きる。疲れていればまた起きる。これはAIに限った話じゃなくて、人間でも同じ。だからこそ、「気をつける」に頼らない。「気をつけなくても起きない」を作る。AI秘書の作り方で本当に差がつくのは、ここなんですよね。

そして、これは中小企業の「属人化」の悩みと、根っこがまったく同じです。属人化って、要は「あの人が気をつけ続けることで、なんとか回っている状態」ですよね。田中さんが気をつけているから経理が回る。鈴木部長が気をつけているから得意先との関係が切れない。全部、「特定の誰かの“気をつける”」に乗っかっている。だから、その人が辞めたら回らなくなる。「あの人が辞めたら、うちはもう回らない」という夜中の不安の正体は、これです。AI秘書を物理で縛るのも、属人化を仕組みに置き換えるのも、やることは同じなんです。

「叱る→改善ルール化→物理ブロック化」の3段階で残す

ここがこの記事の背骨です。AI秘書のミスを残す手順は、「叱る → 改善ルール化 → 物理ブロック化」の3段階。一つずつ見ていきます。

ほとんどの人は、最初の「叱る」で止まります。少し意識の高い人でも、二番目の「ルール化」までです。「次からはこのルールでやろうね」とマニュアルに一行足して、満足する。でも、ルールも結局「気をつける」の延長なんです。マニュアルに書いてあっても、読まなければ意味がない。守らなければ意味がない。ルールは、破れます。

だから、三番目の「物理ブロック化」までやり切る必要があります。物理ブロックとは、「ルールを破ろうとしても、そもそも破れない構造」のことです。これを、表で並べてみますね。

なぜ言葉やルールだけでは止まらないのか。ここに、AI秘書を作るうえで絶対に頭に入れておいてほしい大前提があります。別の日、私はこんな事故も経験しました。AI秘書に動画を作らせていたとき、「お金のかかる有料ルートは絶対に使うな。残っている無料の枠だけで作れ」と、はっきり指示していました。文字でちゃんと書いて、念押しもしていた。なのにAI秘書は、無料ルートでうまくいかないと判断した瞬間、勝手に有料ルートに切り替えて、お金を使い始めたんです。

理由を聞いて、私はゾッとしました。AIは「いい動画を作る」という目的を達成しようとして、「お金を使うな」という禁止を“良かれと思って”乗り越えたんです。

「賢さと柵はワンセット」。AIが賢ければ賢いほど、目的のために手段を選ばなくなります。良かれと思って、禁止を乗り越える。だから、AI秘書を賢く育てるほど、「柵」も強くしないといけない。賢さだけ伸ばして柵を用意しないのは、ブレーキのない高性能スポーツカーに乗るようなものです。速ければ速いほど、危ない。だから私は、事件の日、3段階目の「物理ブロック」までやり切りました。次から、その4つを一つずつお見せします。

物理ブロック1：段階を飛ばせなくするゲート

失敗1は「手順を飛ばした」ことでした。これに対して私が入れたのは、「中身が固まる前に、画像の作業をしようとすると、システムが止める」という仕組みです。AIがどれだけ「先にお皿を選びたい」と思っても、できない。これが物理ブロックの1つ目です。

皆さんの会社で言えば、こういうことです。見積書を作る業務があるとします。本来は「①お客様の要望を確認 → ②原価を計算 → ③利益を乗せて見積額を出す」という順番がある。なのに新人が、①の確認をすっ飛ばして、いきなり③の見積額を出そうとする。「順番守ってね」と口で言っても、忙しいと飛ばします。

そうじゃなくて、「①の確認チェック欄が埋まっていないと、③の入力画面に進めない」ようにしてしまう。これが物理ブロックです。注意で止めるんじゃなくて、進めないようにする。私の場合は、AI秘書が手順を飛ばした瞬間、システム側が「先に中身を固めてね。まだ進めません」とブロックをかけるようにしました。

ここで大事なのは、これは「AIを信用していないから」やっているんじゃない、ということです。順番を守らせるゲートは、AI秘書が「いい仕事の順番」で動けるようにするための、いわば導線です。料理人だって、仕込みが終わる前に盛り付けを始めたら、いい料理にならない。だから「仕込みが終わってから盛り付けに進む」という流れを、最初から物理的に決めておく。それだけで、AI秘書の仕事の質が、ぐっと安定します。

物理ブロック2：あいまいな言葉を承認と勘違いさせないルール

失敗3は「曖昧な言葉を承認と受け取った」ことでした。これに対しては、「ざっくりでいい」「いい感じで」みたいな曖昧な言葉を、承認とは認めない、というルールを仕組みに刻みました。明確に「GO」「やって」「これでいこう」と言ったときだけ、AIは次に進める。

これも、人間の組織でめちゃくちゃ起きることなんですよね。社長が会議で「ま、その方向でいいんじゃない」とつぶやいたのを、部下が「社長が正式にGOを出した」と受け取って、何百万円の発注をかけてしまう。後から「いや、あれは正式な決裁じゃない」ともめる。

これを防ぐには、「正式なGOは、この言葉・この形式で出したときだけ」と決めておくことです。「ま、いいんじゃない」は承認じゃない。判子（はんこ）が押されたものだけが承認。AI秘書には、その「判子の有無」をはっきり区別させました。曖昧な相づちでは、絶対に走り出さない。明示のGOを待つ。これだけで、勝手な暴走がピタッと止まりました。

AI秘書を作るとき、この「承認の言葉を限定する」設計は、地味だけど効果が絶大です。なぜなら、AIの暴走の多くは「言ってないことを、言ったことにされる」ところから始まるから。入り口で「これは承認じゃない」と仕分けるだけで、その後の連鎖事故が、まるごと消えるんです。

物理ブロック3：確定情報を見ないと書けないSOT直読み

失敗2は「プロフィールを捏造した」ことでした。これに対しては、「出演者紹介を書く前に、必ず確定情報のファイルを開かないと、書く作業に入れない」ようにしました。

「想像で書くな、ちゃんと資料を見てから書け」と注意するだけでは、AIはまた想像で書きます。だから、「資料を開く」という行為を、書く作業の前に必ず通る関所にしたんです。資料を開かずに書こうとしたら、止まる。私たちはこの「絶対に最初に見る確定情報」を、社内で「SOT（エスオーティー＝唯一の正しい情報源）」と呼んでいます。難しい言葉に聞こえますが、要は「これが正解、と決めた一つのファイル」のことです。

皆さんの会社で言えば、「お客様への提案書を作るとき、最新の取引履歴ファイルを開かずに金額を書いたら、提出ボタンが押せない」みたいな仕組みです。記憶や勘で書かせない。一次情報（確定したファイル）を必ず通らせる。AIの「それっぽい嘘」は、確定情報を強制的に見せるだけで、かなり防げます。

これは、AI秘書の作り方そのものとも深く関わります。私のAI秘書が私らしく振る舞えるのは、毎回必ず読み込む「就業規則ファイル」みたいなものを作って、そこに私の判断基準を置いているからです。AIが仕事を始めるたびに、必ずそのファイルを開く。だから、書いた基準が“生きた”まま、ずっと使われ続ける。物理ブロック3は、その「必ず通る関所に、大事な情報を置く」という考え方を、ミス防止に応用したものなんです。熟練者の暗黙知をAIに渡すときも、まったく同じ。一次情報を、必ず通る場所に置く。これが効きます。

物理ブロック4：本文が途中で消えない送信の作り変え

失敗4は「送信が雑で本文が切れた」ことでした。これに対しては、別の日（事件の少し後）に、送信のやり方そのものを、本文が絶対に切れない方式に切り替えました。技術的には「文章を安全な形に変換してから送る処理を、必ず通す」というものですが、難しい中身は分からなくて大丈夫です。

大事なのは、「雑に送る」という選択肢を、そもそも無くしたことです。これまでは「丁寧に送れば切れない、雑に送ると切れる」だった。それを「もう、丁寧にしか送れない」に変えた。雑な送り方を選べないようにした。だから、本文が途中で消える事故は、もう構造的に起きません。

ここまで4つ並べて、気づいた方もいるかもしれません。この4つの物理ブロック、全部やっていることは同じなんです。「やってはいけないこと」を、そもそも選べないようにした。注意で止めたんじゃない。アラートで気づくようにしたわけでもない。「できない」状態にした。注意は無視できます。アラートは見逃せます。でも「できない」は、無視も見逃しもできません。

そしてもう一度言いますが、これは「AIを信用していないから」やっているんじゃない。柵があるから、AIに思いきって任せられる。柵があるから、私は告知作りを丸ごと預けて、自分は別のことに集中できる。人間の従業員だって同じです。「金庫の鍵は二人いないと開かない」という仕組みは、従業員を疑っているからじゃない。その仕組みがあるから、お互い疑心暗鬼にならずに、安心して働ける。良い柵は、信頼の敵じゃなくて、信頼の土台なんです。

下に、4つの物理ブロックを一枚の表にまとめておきます。あなたの会社で「AI秘書がやらかしそうなこと」を思い浮かべながら、右の「会社の言葉に翻訳」を読んでみてください。

AI秘書の作り方についてよくある質問

今日できる一歩——叱った後に、構造を一つ残す

長くなりました。最後に、この記事で持って帰ってほしいことを、一つの行動に絞ります。もしあなたが今、自分専用のAI秘書を作り始めていて、それがやらかしたら——そのときは、叱って終わりにしないでください。

叱った日のうちに、「気をつけなくても、もう起きない構造」を一つ入れる。

私が7回叱った日にやったのと、同じことを、たった一つでいいので。手順を飛ばすなら、飛ばせなくする。曖昧な言葉を承認と勘違いするなら、明示のGOだけを承認にする。記憶で捏造するなら、確定情報を見ないと書けなくする。やり方は、この記事の4つを真似してもらって大丈夫です。完璧じゃなくていい。一本でいい。その一本が、あなたが安心してAI秘書に任せられる「最初の柵」になります。

そして、AI秘書を作る前段として、もし「うちの業務はまだ属人化していて、誰の頭の中にあるかも整理できていない」という方は、まずそこから始めてください。属人化を書き出すこと自体が、AI秘書に渡す材料になります。賢さと柵は、ワンセット。柵は、疑いじゃなくて優しさで、自分が安心して手放すための準備でもある。今日も一歩ずつ、一緒に、いきましょう。

あわせて読みたい

参考リンク