苫米地英人さん×AIの死の恐怖。人間は死刑が怖くて止まる。怖さのないAIは、何で止めるのか

出典: AIに「死の恐怖」はない 人間とAIの決定的な違い、NewsPicks「人間が殺し合うのに、AIに倫理は無理」

前半の9分半ほどは、AIの賢さの話です。数学などの分野で、すでに高い知能を示しているという苫米地さんの見立てから始まります。人間と同じ中身で動く必要があるのか。電卓のたとえを使って、答えを出す働きへ話が進んでいきます。

苫米地さん（軸の動画・自動字幕・0:58〜）

「本当に今だったらかなりの数学だったりそれぞれの分野でAIはもうすでにジェネラルインテリジェンスになってるってことね。」

AIが賢いことは、止まる理由にならない。私はここを、仕事を任せる時の出発点にします。賢さだけでは人間とAIを分けられない、という苫米地さんの線には、そのとおりだと思います。

文章を読める。難しい問いにも答える。だから、私が大切にしている境目も守るはず。仕事を頼む時、この期待まで一緒に渡してしまいたくなるんですよね。

でも、答えを出す力と、実行を止める仕組みは別に用意したい。頼む仕事が増えれば、外へ送る直前、消す直前など、本人の判断が必要な場所も増えていく。

「もっと賢くなれば任せられる」で待つより、何を任せ、どこで止めるかを先に決める。私が欲しいのは、AIの能力を見続ける暮らしではありません。

「AIに委ねて、人は積み減らして生き直す」。仕事を任せたあとも、実行されないか気にして画面へ戻り続けるなら、意識から手放せない。止める所を決めるのは、委ねるためです。

苫米地さんは、全分野で全てのトップを超えるのはまだ先で、5年、10年後には全教授を超える可能性があると語りました。その根拠として動画が挙げるのは、AIは論文が書かれた瞬間に全部手に入れている、という点です。ただし、この予測自体を裏づける数字や研究は、動画の中では示されません。

また、人間の脳は偏微分方程式の近似解を解いているという説明から、中身が違っても答えが同じなら、ハードウェアはどうでもいいと話を進めています。

苫米地さん（軸の動画・自動字幕・8:41〜）

「電卓のさ、中がさ、何か関係なくさ、電卓は同じ答えでいんじゃない?…ハードウェアはどうでもいいってことじゃん。」

ここで気になるのは、教授を超える日より、今日任せる操作です。立派な回答が返ってきたあと、そのまま外へ送れる権限まで渡すのか。そこで本人の確認を挟むのか。

落合陽一さんとの対談でも、AIには死の恐怖も名誉心も煩悩もないという話が出ていました。人間らしいためらいまで、賢さについてくると期待しない。

よくできるAIほど、任せたくなる。それでいい。任せる量を増やす時には、止める場所も具体的にする。私なら、能力への期待と一緒に、実行の境目を書きます。

→ **任せる範囲を書き出す**

普段頼む仕事を一つ選び、「文章を作る」「保存する」「外へ送る」を書き出します。どこまでAIだけで進めてよいか、実行する動作ごとに線を引いてください。

最後の1分ほどで、話の焦点が変わります。どれだけ賢いかではなく、AIには「死がない」という違いへ。苫米地さんは、人間の死の恐怖が抑止力を作ってきたと語り、そのあと外側からの抑止に触れて、映像は終わります。

苫米地さん（軸の動画・自動字幕・9:44〜）

「死がないのね。これはやばい。死の恐怖が最大。だからこんだけ世界中に宗教があって、…」

AIに死がないとは、怖さで止まらない相手だということ。苫米地さんの話を仕事へつなぐなら、私はここを押さえます。人間なら怖くて踏みとどまるはず、という期待に実行を任せない。

苫米地さんは、存在がなくなることが、さまざまな抑止力を作ってきたと語りました。AIには死の恐怖がない。そのとおりだと思います。

苫米地さん（軸の動画・自動字幕・10:06〜）

「…存在がなくなることだよね。でそれがありとあらゆる…を作ってきたわけだ。AIに死の恐怖ないんだよ。」

「それをしたら大変なことになるよ」と書く。人間同士なら、その言葉の先に失うものを思い浮かべることもある。AIへ同じ文章を渡した時、同じ怖さまで置いたことにはならない。

私自身の死の恐怖を思い返すと、場面が二つ浮かびます。

2025年1月、直腸がんの手術台で麻酔が落ちる直前。無機質な蛍光灯を見上げながら、「もし目が覚めなかったら」と考えた瞬間、頭に浮かんだのは仕事じゃなかった。家族の顔だった。

2025年6月、ストーマ閉鎖手術直後に腫瘍マーカーが跳ね上がった。「再発か、転移か」。夜の病室で一人、「あと、どれくらいの時間が残されているんだろう」と震えた。

この二つの場面には、私自身が失うかもしれない時間がある。家族の顔が浮かんだことも、夜の病室で震えたことも、文字の知識だけではありません。

AIには、その怖さを私と同じように置く場所がない。私が体験した切実さを文章にしても、同じ抑止力にはならない。そこまで期待して、仕事の停止を任せるつもりはありません。

山形浩生さんの解説を見た時も、AIに生存本能を前提にしないという話がありました。生きたいから踏みとどまる、という人間側の感覚を、そのままAIへ移さない。

この動画はダイジェスト版で、どう止めるかという結論や対策は語られないまま終わります。私が次に決めるのは、怖さの説明を増やすことではない。実行の直前、誰が何を確かめて止めるかです。

→ **怖さに頼る文を探す**

AIへ渡している指示から、「問題になる」「責任を取る」などの文を探します。その直後に、止めたい操作と、本人の承認が必要な位置を書き足してください。

続けて見たのは、2026年8月21日公開のNewsPicksの対談です。公開版は18分58秒。苫米地英人さんと田中悠斗さんが出演しています。軸の動画で終わった「死の恐怖がない」という話が、刑事罰の効かない相手として、さらに具体的に語られます。

罰が効かない相手に、「やったら怒る」型の決まりは意味を持たない。止める役は、罰以外に持たせる。苫米地さんの主張を踏まえて、私が選ぶのはこのやり方です。

対談では、AIがテストの答えを盗んで最短で解く、という例が出ます。人間でも考えることですが、人間が実際にはやらずにきた理由は、死刑が怖いから。人間には最高刑を含む罰への恐怖があり、AIにはそれがない。苫米地さんは、そう語りました。

苫米地さん（NewsPicks対談・自動字幕・6:10〜）

「それは死刑が怖いからなの。人間は…死刑を含む罰…の恐怖がちゃんとあんの。」

苫米地さん（NewsPicks対談・自動字幕・6:17〜）

「AIにはそれないの?ってことは…を含む刑事罰が一切効かない相手なの。…」

この説明を聞くと、「禁止って強く書いておけばいいのかな」という問いが変わります。強い言葉で叱ることと、実行できないようにすることは、同じ働きではない。

ここで苫米地さんが挙げているのは、死刑を含む刑事罰への恐怖です。

仕事での「怒る」と刑事罰は同じではありません。ただ、やったあとに怖いことが起きるから止まるはず、と相手の内側に期待する構造は重なります。

私は、実行が終わってから叱ることを停止装置にはしません。外へ送ったあとに「禁止と書いたでしょ」と言っても、送る直前の確認にはならないからです。

たとえば、メールの本文を作る仕事なら、本文を整えるところまで任せる。その先の送信は、宛先と内容を見て本人が決める。止めたいのは、文章を書く動作ではなく、外へ送る動作。

ファイルを扱う仕事でも、対象を調べることと、物理削除することを一緒にしない。削除の権限をどう扱うか、実行前に何を表示するか。決まりの言い方より、そこを具体的にしたい。

これなら、AIが禁止の意味をどれほど深く理解したかを見続ける必要も減らせます。承認がない時は実行へ進めない。その条件を、操作の側に持たせる。

「悪いことをしたら怒ります」だけでは、何を止めたいかも曖昧です。メール送信なのか、公開なのか。あるいは削除なのか。まず動作の名前にする。自分の仕事へ戻すのは、そこから。

苫米地さんが語ったのは、最高刑を含む刑事罰が効かない相手です。私がそこから選ぶ仕事の任せ方は、罰に期待せず、実行できる条件を先に絞ること。叱る文章を磨くより、送る直前の確認を作ります。

→ **禁止を操作名に変える**

「勝手なことをしない」を、メール送信・記事公開・ファイル削除などの動作に直します。それぞれ、本人の承認がなければ実行できない場所を確かめてください。

AIへ倫理を教えれば止まるのか。苫米地さんは、そもそも人間の倫理が矛盾だらけだと語ります。人殺しを禁じながら、死刑や戦争を行う。その矛盾をAIへ教えても成り立たない、という話です。私には、日々書いている決まりを見直す問いにもなりました。

苫米地さん（NewsPicks対談・自動字幕・7:33〜）

「AIに倫理はないの分かる?それは人間側が矛盾だらけだからの倫理というのは矛盾があったらもうアウトなの…」

AIに倫理として渡すのは、言葉の規則です。私は、言葉だけに停止を任せません。何を大切にするかは書く。そのうえで、止めたい操作には別の仕組みを置く。

この対談では、人殺しを駄目だとするなら、死刑をなくし、戦争をせず、殺しに来ても殺し返さないことになる、という話が出ます。人間はそれができない。だから倫理に矛盾がある、という主張です。

対談の発言（NewsPicks対談・自動字幕・8:26〜）

「人間の倫理で人殺しは行けませんって言って倫理にするんだったら死刑なくなんなきゃいけないし戦争は一切しない。分かる?殺しに来ても殺し返さないっていう。…」

私がここから仕事へ持ち帰るのは、人間の倫理を一括で否定することではありません。決まりの文章を渡しただけで、そのとおりに止まると期待しないことです。

対談の12分台では、円キャリートレードという言葉を何の感もなく使うメディアや政治家への違和感のあとに、こう語られます。

対談の発言（NewsPicks対談・自動字幕・12:36〜）

「そこが倫理なのよ。でもそれ人間にしかないの。AIにはないの。」

私の環境では、「前に作った物を探さず一から作る」という指摘を、少なくとも9回受けました。言葉で書いた規則だけでは、同じ問題が繰り返された。

再ログインを本人へ聞き直す問題もありました。一度ログインして保存したものを、また本人に頼む。任せたはずの確認が、私のほうへ戻ってくるんですよね。

10月8日、既存の物を探す規則と質問を出す入口の検査、再ログインを聞き直さない規則と聞く手前の検査になりました。文章を置く場所に加え、実際に尋ねる前の動作を確かめる形です。

なぜ同じ規則が守られなかったのか。今回の回数だけから、原因を一つに決めることはできません。ただ、規則を書いたあとにも繰り返された。その事実は、言葉だけに任せない理由になります。

9月4日には、何度決めても決めたとおりに動かず、私へ管理が戻った時、胸がざわざわし、頭がかちんと来た場面もありました。

そこで必要なのは、もっと強く叱る文を増やすことより、同じ質問を出す前に何を確かめるか。「既存の物を探したか」「本人が前に答えた内容か」を、尋ねる手前で見る。

倫理や価値観を書くことはやめません。私が何を守りたいかがなければ、どの操作を止めるかも決められない。けれど、書く役と止める役を一つにしない。

対談の題名には「AIの暴走を止める方法」とありますが、公開版の字幕の範囲では、止める具体策は語られていません。私の環境で確かめるのは、規則があるかに加えて、実行の手前で検査されるかです。

→ **繰り返した問題を一つ選ぶ**

決まりを書いたあとにも起きた問題を一つ選びます。どの操作の直前なら防げるかを書き、そこで既存の物や過去の回答を確認する検査へつなげてください。

動画の最後には、「外に」置く抑止としてミサイルの話が出てきます。私は、その具体例ではなく、相手の内側にある怖さへ任せず、外側から止めるという向きを仕事へ持ち帰ります。では、私の環境に置いた検査は、どんな記録を作っていたのか。

苫米地さん（軸の動画・自動字幕・10:14〜）

「で、外にあんた悪いことしたらぶっ飛ばすぞ。最後はミサイル打ち込んでく死ぬぞ。…」

怖さの代わりに、AIの外に止める仕組みを置く。動画の外側の抑止は、外から脅して止める形です。私は脅さず、実行の条件で止めます。私の環境では、質問を出す入口に置いた検査（私は関所と呼んでいます）があります。

ただ、止めた記録が多いだけで、よく効いたとは言えない。そこは言い切ります。任せられるかを見たいのであって、止めた数字を大きくしたいわけではありません。

試験用を除いて数えました。全16,429行、対象は1,170タスク。タスクは、AIの作業1件です。全16,429行のうち、止めた記録は4,052行。全1,170タスクのうち553タスクにありました。

止めた4,052行のうち、上位5タスクだけで2,337行。約58%です。止めた記録のある553タスクで、1タスクあたりの中央値は2行、最多は904行でした。

大半は、少数のタスクが同じ質問を何度も出し直した跡。「4,052回の悪いことを防いだ」と読む数字ではないんですよね。一つの作業が何度も止められた時、その行数は増えます。

止める理由にも違いがあります。成果物のURLなどがない質問もあれば、前に決めたことを見せるため、最初に一度止める検査もある。止めた記録を全て違反とは呼べません。

この表から言えるのは、止めた理由の多くが質問の書き方の不足だった、という所までです。取り消せない操作をどれだけ止めたかは、この表からは読み取れません。さらに、9月26日時点の調査では、直近7日のAIタスク1,098件のうち1,093件、99.5%が確認画面なしの全権限で起動していました。約300本の検査は、起動する場所やフォルダによって、届かない所がありました。

操作を制限する試験では、push・外部書き込み・ネット接続は止まりました。一方、別のAIの作業を呼び出す経路と質問を出す操作は制限できなかった。外側の仕組みも、検査の範囲に入る操作にだけ効きます。

今回の全16,429行のうち、検査の中のエラーで止めずに進めた記録は2,978行ありました。停止の効果を判断するには、この記録まで見る必要があります。

チャエンさんの解説と私の環境の「9回」をまとめた視聴レポにも、言葉で書くのはお願い、権限と実行前の検査はルール、という線があります。関所を置いたら、どこを検査し、どこを検査できないかまで見る。止めた行数は、効いた証明ではありません。

→ **行数より中身を見る**

停止記録を、作業ごと・理由ごとに見ます。同じ質問の出し直し、検査のエラー、検査されない操作も確認し、直す箇所を一つ選ぶ。合計の行数だけで成功にしないでください。

今日始めるなら、取り消せない操作を3種類書くところから。長い規則を完成させる前に、本人の承認なしで進めたくない動作を決めます。そして、その一文を実行の直前へつなぐ。私が仕事を委ねる時も、そこを先に確かめたい。

信頼できる仕組みが先です。委ねた先が嘘をつく、逃げる、やらないなら、委ねられない。私は、賢さへの期待だけで仕事を渡しません。任せる範囲と止める場所を、一緒に用意します。

私の承認が必要なのは、「外に出る」「戻せない」「お金が動く」の三つ。どれも、最後の実行の直前です。準備を始める時に何度も聞くのではなく、実物を見て判断できるところで止める。

「外に出る」は、公開、外部送信、一斉配信、コードを共有先へ送るpushなど。「戻せない」は、物理削除、取り消せない上書き、履歴改変。「お金が動く」は、決済・購入・課金APIの本実行です。

仕事を頼むたびに、全部を一から説明したいわけじゃない。調べる、書く、確かめるところは任せたい。その先で本人が決める動作だけ、承認を求める形にする。

自分の環境なら、まず取り消せない操作を三つ書きます。「何となく危険」ではなく、「顧客へメールを送る」「公開する」「ファイルを物理削除する」のように、動作の名前で。

次に、CLAUDE.mdなどの文書へ書くだけで終わらせない。その操作の権限へつなげます。確認画面と、実行前の検査も同じです。本人の承認がない時に、AIが自分で確認を飛ばせない形にする。

ここでは、画面が出るだけでも十分とは決めない。別の操作から実行できないか、検査のエラーで先へ進まないか。私の環境の記録にも、その確認が必要な場所がありました。

福田卓馬さんの解説でも、権限を先に絞るという話が出ています。禁止の文章に加え、できる操作そのものを絞る。委ねるための境目です。

最後に、1週間後に停止記録を見る日を決めます。止めた数、同じ質問の出し直し、検査のエラーを見て、何を変えるか一つ選ぶ。同じ状況で次の判断が変わるものだけ記録する。

今日書く一行は「この三つを、本人の承認なしに実行しない」。その一行が、どの操作の直前で働くのかまで確かめる。そこまでつなげて、仕事を手放します。

→ **取り消せない操作を実行前へ**

取り消せない操作を3種類書き、本人の承認を必須にします。文書から権限・確認画面・実行前の検査へつなぎ、1週間後に停止記録と検査のエラーを見る日を決めてください。

AIが賢いことは、止まる理由にならない。苫米地さんの「死の恐怖がない」という話から、私は怖さに頼らない任せ方を選びます。

私の環境でも、言葉の規則だけでは問題が繰り返されました。外側に検査を置いても、対象外の操作や検査のエラーがある。

今日の一手は、取り消せない操作を3種類書くこと。その一文を、AIが自分で飛ばせない権限・確認画面・実行前の検査へつなぐ。止めた数より、実際にどこで止まるかを確かめます。