家事と子育てのスキマで経営する3方よしAI共創コンサルタントの田中啓之、ひろくんです。

これまで、AIに仕事を任せる「ループ」の話を続けてきました。入門編で「毎回プロンプトを打つ働き方から、AIが働くループを設計する働き方へ」という話をして、実践編で「AIが静かに失敗し、課金だけ続いた」失敗と、その安全な止め方を書きました。

今日は、その続きです。

きっかけは、AI界の権威、Andrew Ng（アンドリュー・エン）さんが描いた整理でした。エンさんが、ループを「3つのループ」にきれいに分けて示してくれたんです。読んでいて「うわ、うまい」と唸りました。頭の中がスッと整理される、見事な地図でした。

この地図は、本当によくできています。だからこそ、実際に現場で100本以上のループを回してきた私は、こう思ったんです。この見事な地図には、現場で必ずぶつかる”ある落とし穴”が、まだ描かれていないな——と。今日はその話をします。

まず、元ネタをちゃんと紹介します。ここはとても大事なので、丁寧にいくね。

AI界の権威 Andrew Ng さんが、自身のニュースレター The Batch（2026年6月30日号の手紙）で、AIと一緒に開発するときに回るループを、時間の長さで3つに分けて示しました。

内側の①はAIが速く回し、外へ行くほど人間の判断が重くなる。エンさんが言いたかったのは、この構図から見えてくる働き方の変化です。

エンジニアが、プロダクトマネージャーの役割を兼ねる時代が、静かに始まっている。

——出典: Andrew Ng 本人のX投稿／The Batch letter

これ、うまい言い方だと思います。AIが手を動かしてくれるぶん、人間は「何を作るか」「どんな価値を届けるか」という、一段上の問いへ引き上げられていく。実装係から、方向を決める人へ。この地図は、AI時代の働き方を考えるうえで本当に役に立ちます。正直、私も、この3つの分け方には心から拍手を送りたいんだよね。

ここで、正直に前置きをしておきます。ここを飛ばすと、私の話が「誰も止め方を書いていない」という間違った主張になってしまうので、ちゃんと立ててから進めるね。

実は、「AIに任せるループには、止まる条件を決めておけ」という話は、もうしっかり書かれています。Claude Code チーム自身が、公式の ループ入門ガイド（Getting started with loops）で、ループを4つのタイプに整理して紹介しています。

大事なのは、この公式ガイドが「停止条件（stop condition）を満たすまで繰り返す」とはっきり書いていること。とくにゴール単位のループでは、目標を達成できたかどうかを、別の評価役がちゃんと判定する。作った本人に自己採点させない設計になっているわけです。

私も、前回の実践編で同じことを書きました。ループを回す前に「いつ止まるか」を言葉にしておこう、と。

ループは、作るより止めるほうが難しい。
——実践編でも書いた通り。

だから、「停止条件を決めましょう」という話は、もう基本のキなんです。公式も書いている、私も書いた。ここは、誰も否定していない。——問題は、その”先”にありました。

停止条件を”決める”のは、みんなできる。でも現場で私を痛い目にあわせたのは、それを決めていても起きる事故でした。前回の実践編で、私は自分の恥ずかしい失敗を正直に書きました。

AIのループが、静かに失敗しながら、課金だけ続いていた。エラーで派手に止まってくれたら気づけたのに、「動いてはいる、でも前に進んでいない」状態は見た目が元気なんです。画面は動いてる、ログも流れてる、でも中身はゼロ。停止条件は「目標を達成したら止まる」だから、目標に永遠にたどり着かないループは、止まる合図が出ないまま回り続ける。その間、お金だけが溶けていく。

元気そうに動いて見えて、中身がゼロのまま課金だけ続く。これが、いちばん怖い落とし穴。

これ、Andrew Ng さんの3つのループのどこにも属さない事故なんだよね。①のAIは「まだ終わってません」と言い続けているだけだから、暴走しているつもりがない。②の人間は、ループが元気に回っているように見えるから、レビューに呼ばれない。③のユーザーには、そもそも何も届いていない。だから、誰も止め手を持っていない。

そして、ここからが本当の核心です。うちは今、自動で動くループが100本以上、日々働いています。台数が増えるほど、痛いほど分かったことがありました。

104本あるからこそ、痛いほど学んだことがあるんです。
——実践編でも書いた通り。

100本の中の1本が、深夜にずっと空回りしていても、人間の目はそこまで届かない。①”止め方を決める”はガイドが教えてくれる。でも、②”元気そうに見えて中身ゼロの静かな失敗”を、艦隊のように並ぶ100本規模のループから見つけて、安全に止め、安全に戻す——この運用の話は、どのガイドにもほとんど書かれていない。停止条件の話は載っていても、その先の「艦隊の見張り」の話が、地図に載っていないんです。

自慢に聞こえたら本意じゃないので、先に言っておくね。私は世界の議論より先に賢かったわけじゃない。ただ、先に転んだんです。転んで痛い目にあったから、止め方の”その先”を作らざるを得なかった。それだけの話。

停止条件を決めるだけでは、静かな失敗は防げない。だから私は、止まる合図が出ないまま空回りしているループを、外から見つけて止める見張り役を仕込みました。うちでは「番兵（ばんぺい）」と呼んでいます。番兵は、こういう基準で止めます。

この見張りが効くのは、まさにガイドの停止条件から漏れる場所です。ループ本人は「目標に届いていないから、まだ続けます」と言い続ける。でも番兵は外から「同じところで2回コケたな、これは進んでいない、はい終了」と冷静に判定できる。中で走っているループ自身には見えない盲点を、外の見張りが埋めるわけです。

その手前で、そもそも「止まる線」を言葉にしておく道具も、前回の実践編で紹介しました。ループを回す前に、6つを日本語で書いておく「ループ契約書」です。

この契約書が「止まる線を決める」、番兵が「決めた通りに動かなかったループを見つけて止める」。この2段構えで、静かな失敗を潰していきます。

落とし穴の話には、まだ続きがあります。「止める」で終わりじゃないんだよね。

「止めた後、どうやって安全に戻すか」まで含めて、初めてループを任せられる。

現場では、番兵が止めるだけじゃなく、止まったループを安全に再開させる見張り役も走らせています。うちでは「自走再開の番人」と呼んでいて、これがいるおかげで、たとえば夜中にアプリが一度落ちても、朝には安全な状態から続きを再開してくれる。ただし、勝手に止めっぱなしにもしないし、勝手に危ない再開もしない。「止まる」と「戻る」の両方を見張っている。

そしてもうひとつ、いちばん外側に立っているのが「人間の承認ゲート」です。「公開する」「お金を動かす」「元に戻せない操作をする」——この手前には、必ず私が「OK」を出すゲートがある。ループがどれだけ速く回っても、取り返しのつかない一歩の前には、人間の私が立つ。ここだけは、どれだけ自動化が進んでも譲らない線です。

整理すると、Andrew Ng さんの地図の”その先”に私が足していたのは、この四重の仕組みでした。

1. ループ契約書——回す前に「いくらまで」「いつ止まる」を言葉にしておく
2. 番兵——静かな失敗を外から見つける。同じところで2回コケたら止める。致命的なら1回で止める
3. 自走再開の番人——止まった後、安全な状態から戻す。止めっぱなしにも、危ない再開にもしない
4. 人間の承認ゲート——取り返しのつかない一歩の前で、人間が立つ

停止条件が「目標に着いたら止まる」なら、この四重は「目標に着けないまま空回りするループを、艦隊規模で見つけて、安全に止めて、安全に戻して、危ない一歩は人間が止める」。停止条件の否定じゃない。停止条件の、その先の話なんです。

Andrew Ng さんが描いた3つのループは、AI時代の働き方を考える、本当に見事な地図でした。速く回す時間軸を、きれいに整理してくれた。正直、貶すつもりは1ミリもありません。ただ、その地図に載っていない落とし穴が現場にはあって、それが「静かな失敗」だった、という話です。

停止条件を決めるのは基本のキ。公式ガイドも私の入門編も書いている。でも、決めた停止条件をすり抜けて空回りするループを、艦隊規模で見つけて、安全に止めて、安全に戻す——ここまで含めて、初めて「任せられる」んだと、私は現場で学びました。

私はよく「AIに委ねて、人は積み減らして生き直す」という話をします。でも、実践編でもはっきり書いた通り——

委ねることと、丸投げすることは違う。
——実践編でも書いた通り。

丸投げは、火をつけて出ていくこと。委ねるは、火の止め方まで決めてから、任せること。実践編の最後にも、うちのループのいちばん大事な1行として、こう書きました。

下書きはループ、味見と責任は人間。
——実践編でも書いた通り。

最後に、静かな問いをひとつだけ置いておきますね。煽るつもりはまったくないので、コーヒーでも飲みながら考えてみてほしい。

——もし今、AIに任せている仕事があるとして。それが「目標に着けないまま、元気そうに回り続けたら、誰がどう気づくか」。そこまで決めてあるだろうか。停止条件は書いた。でも、その停止条件をすり抜けたときの見張りは、いるだろうか。もし、そこがまだ空欄なら。そこを埋めるところから始めてみるのが、いちばん安全な第一歩なんじゃないかな。

火はつけていい。でも、火の止め方から決めておこう。