再帰的自己改善とは、AIが次のAIを作ること。22名の研究者の論文で読む知能爆発

出典: 【入門編】再帰的自己改善と知能爆発を、わかりやすく解説する

再帰的自己改善に、知能爆発。言葉はよく聞くのに、中身を説明してと言われると、詰まりませんか？動画はまさにそこを、入門編として確かめる回でした。

話し手は、最近よく聞く言葉として、再帰的自己改善、略してRSIをあらためて確認しよう、と切り出します。言われている割によく分からない所を押さえる回、という位置づけです。

画面には、ノーベル物理学賞を取ったヒントンさんのXの投稿が映ります。再帰的自己改善で起きる知能爆発の考えは前からあったが、最近まで差し迫って見えなかった、という中身です。

投稿は、いまは多くの一流研究者が、かなり近いうちに起こるかもしれないと考えている、と続きます。そこにはケンブリッジ大学CASPの論文へのリンクカードが付いていました。

一流の研究者が論文を書くほど、話が迫ってきています。話し手はそう受けて、この論文がどこまで確認しに行ったかを見ていく、と進めます。

では、再帰的自己改善とは何か。説明はシンプルで、AIが次のAIを作る工程を担い、できたAIがさらに次のAIを作る、というものです。これまで人がしてきたAIの改良を、AIがする形に変わっていきます。

動画の出演者（動画 3:36〜）

こういうことになってます。AIが次のAIを作る工程を担って

その結果、研究の進む速さは、AIの数と性能で決まっていきます。研究者の人数は、物差しから外れます。動画では、そういう世界観になると説明されます。

動画の出演者（動画 3:57〜）

で、その研究の進む速さがAIの数と性能で決まるという世界観になってます。

スライドには、ループの仕組みの図があります。AIが研究労働力を増やし、より良いAIができ、それを研究開発に再投入して、またAIが研究労働力を増やす。繰り返すたびに次の改善が速くなる、と書かれています。

同じスライドには、研究者数の試算も載っています。現在は数千人規模、自動化後は数百万人相当。

この循環が実際に回った結果として語られるのが、知能爆発。話し手の説明では、数年分の進歩が数か月以下に圧縮される、あるいは圧縮され続ける、ということです。

動画の出演者（動画 4:39〜）

知能爆発という結果が起きるよねと言われてます。

正直、この話の中心は、AIが賢くなる話より、進む速さの単位が変わる話だと私は見ています。人数で決まっていた速さが、AIの数と性能で決まるようになります。物差しそのものの入れ替えです！

循環の話を聞いて私が気にするのは、ループの中で人の判断がどこに残るか、です。

私は、AIが次のAIを作るほど、できた物に違和感を返す人の手は、細くなりやすいと考えています。回る速さに、人の目が追いつきにくくなるからです。

だから私は、速さの話と、人が味わって返す手の話を、分けて考えます。同じ循環の中にあっても、別の問いなんですよね。

ここを混ぜると、速くなった分だけ人が要らなくなる、という一本道に見えてしまいます。

AIが出した物を味わって違和感を返す手は、循環がどれだけ速くなっても手放しません。味見は卒業しない、これが私の軸です！

再帰的自己改善は、遠い先の話なのか、すでに始まっているのか。気になるのはそこですよね？動画は、Anthropicが出した数字から入ります。

話し手は、今どこまで進んでいるのか、という問いに入ります。スライドの題は、Anthropic発表値（2026年3月・5月・8月）。下には、いずれもAnthropicの自己申告値で、論文に引用された数字、と添えられています。

最初の数字は、承認されたコードのうちAIが作った割合で、80%超（2026年5月）。話し手は、AIが行動を生み出していると思います、と補います。

続いて、AIが主導する研究開発の割合。2026年3月に1%、8月で26%ぐらいです。これをどう見るかですけど、と添えながら、話し手は数字を並べていきます。

別のスライドは、AIが完了できる仕事の長さを示します。人間の専門家が要する時間で測ると、2023年は数秒、現在は数時間から数日、2028年半ばは数か月。やり取りの中では、今は数日いける、と話されます。

さらに別の1枚が、1年で変わった前提です。1年前のAIは研究者の補助で、コードの一部を書く段階。いまは中核の仕事をAIに任せる段階で、コーディングをすべて任せる研究者も多い、と説明されます。

動画の出演者（動画 6:46〜）

これ1年でもうこう変わりましてですね。

数字がこれだけ並ぶと、つい大きさのほうに目が行きますよね。ただ、80%超も、1%から26%も、出どころは同じ。Anthropicが出した自己申告の数字で、私が確かめた数字ではありません。

なので私は、数字を見たら、大きさより先に、誰が、何を、どこまでの範囲で数えたのかを読みます。

同じ80%でも、数え方が変われば意味も変わります。何を分母にしたのか。そこが分からないまま大きい小さいを言っても、始まらないんですよね。

ここで分けておきたいことがあります。論文に引用されているという事実と、数字が確かめられているという事実は、別物です！

80%超は、承認されたコードのうち、AIが作った割合。どこまでを数えた数字なのかを、スライドの言葉のまま押さえて読みます。

1年で前提が変わった、という話も同じ扱いにします。速さの印象だけを持ち帰らず、何が変わったと言っているのかを、スライドの言葉のまま押さえておきます。

数字を出しているのは、AIを作っている会社自身です。外から測り直した値ではない、という点を頭に置いたまま読みます。

数字は、動画が引く自己申告として受け取って、出どころを先に読む。ここは譲りません！

22名の研究者が連名で出した論文。その中身は、何を言っていて、何を言っていないのでしょう？数字が出てくるのか、出てこないのか。ここが動画の芯にあたる所なので、順に見ていきますね！

スライドの表記では、論文はケンブリッジ大学CASPが2026年9月に出したものです。題は、AI研究開発の自動化が、知能爆発を引き起こしたらどうなる？共著は、ヒントンさん、ベンジオさんを含む22名。学術界、開発企業の幹部、政策系の研究者が名を連ねています。

論文の主張は大きく3点、と話し手は整理します。1点目は、知能爆発が起きる可能性があるということ。証拠は予備的ながら、ある、というのが論文の立場です。

2点目は、起きれば史上最大級の技術変化になるということ。数年分の進歩が数か月以下に圧縮される、とスライドで説明されます。

3点目は、備えが足りていないということ。始まってしまうと、対応の機会が閉じます。話し手はそこで、始まった後では手の打ちようがない、と強調し、聞き手は、怖い、と受けます。

動画の出演者（動画 7:19〜）

始まってからだともうどうしようもないです。

では、確率は何%なのか。ここでスライドの題は、論文は確率を示していない、に変わります。並ぶ札は3枚で、可能性はある、確実ではない、条件は示している、の順です。

札の下には、何%という数値は論文のどこにも書かれていない、のひと言。聞き手が、100%ではないんだ、と返すと、話し手は、言えているのは可能性があるところまで、と答えます。

動画の出演者（動画 7:36〜）

ただ条件は示しててもうその指標としてはもう出してて、ま、知能爆発は、え、起きる可能性があるとまでしか言ってないっていうところです。

20%や30%とも、まだ言えていない段階。その一方で、可能性はかなりある、と論文は述べている、という説明です。条件は示している、の札には、条件を示す指標と4つのブレーキの名前が並びます。

ここで押さえたいのは、論文が言えているのは、起きる可能性がある、まで。起きる、でも、起きない、でもありません。

正直、確率が言えない話って、怖さだけが先に膨らみやすいんですよね。数字が無いぶん、つい想像で埋めたくなりませんか？

だから私は、分かっていることと、分かっていないことを分けて読みます。分かっているのは、可能性があることと、条件の指標が示されていること。

分かっていないのは、確率です。この線を一本引くだけで、見え方が変わるんです！

霧だった怖さが、備えるための材料へ。私はそう考えています。

知能爆発が起きるのか、起きないのか。そこを私が決める話ではありません。

私なら、確率が言えないと聞いても止まらず、中身を見て、備えられる所と、AIに渡せる所を分けて考えます。

知能爆発は、どこで起きるのでしょう？そして、得るものと、失うものは何なのか。動画はここから、場所、メリット、デメリットの順に話を進めます。スライドが次々に切り替わる所です！

スライドの題は、起きるのはソフトウェアの中。ソフトウェアとは、データ、アルゴリズム、コード、研究の進め方を指します。改善したAIをすぐ研究開発に戻せるので、変化は即座に進む、という説明です。

一方で、ハードウェアは年単位。半導体やデータセンターは、製造にも建設にも時間がかかります。

話し手によると、まず起きるのはデジタル領域。AI研究開発、サイバー空間、数学、コーディングが並びます。数学では解けなかった問題が次々に解けていて、コーディングでもすでに起きている、という話です。

動画の出演者（動画 8:41〜）

で、コーディングもうこれも起きてる。

続くスライドは、ハードウェアへの波及の話。AIはすでにチップ設計を支援していて、今後はロボットでチップ生産を自動化することも見えている、という流れです。

メリットは3点です。医療では、治療法の発見が数年から数十年前倒しに。科学と産業では、原子レベルの製造などの新技術が、実現しうるものとして挙がります。安全性では、AIの安全研究そのものが加速する、という整理です。

動画の出演者（動画 9:22〜）

治療法の発見が数年数十年前倒しされる。

サイバーセキュリティには心配の声もある中で、知能爆発でかえって安全になる可能性も、という考え方です。

ボイスアップラボの3人が次に見るのは、デメリットの3点です。1つ目は、社会の適応が追いつかないこと。防御より攻撃の能力が先に伸びる、とスライドにあり、聞き手は、今そうなっていますね、と受けます。

2つ目は、監督と制御の喪失。人間が、研究開発の工程から外れていく、という指摘です。

動画の出演者（動画 10:04〜）

人間の研究開発の工程から外れていく。

3つ目は、権力の抑制の崩壊。わずかな差が決定的な差に変わる、とスライドにあります。権力は人間が持つもので、人間が外れれば抑制も効かなくなる、と話し手は説明します。

いやー、メリットとデメリットが、ここで一気に並びましたね！

治療法の前倒しも、制御の喪失も、同じ変化の表と裏。どちらの顔が出るかは、人が工程のどこに立つかで変わる、と私は見ています。

実は私、2026年8月に、委ねるとは何をすることなのか、と問われたことがあって。そのとき、味見も分身AIにやり切ってもらって、それを上の次元から見守る位置にいたい、と答えました。

フィードバックして分身AIを育てることは、続けたまま。それが私自身を育てるからです。

見る対象は、分身AIの判断軸と育ち方です。

人が工程のどこに立つかという置き方で見ると、論文の言う制御の喪失と、私と分身AIの関わりは、同じ線の上に並びます！

そういえば、この置き方は、前に自分の記事でも書いていました。

私の記事より（分身AIに味見を委ねたあと、その味見を私がもう一段上から見る、という委ね方を、縄文と弥生にたとえて整理した記事・味見とフィードバックは、常にセットで手放されるの節）

ワクワクしないところは、味見ごと分身AIに委ねる。でも、委ねたら終わりじゃなくて、その分身AIの味見とフィードバックを、自分がもう一段上から見て、フィードバックする。フィードバックが入れ子になっている。

で、動画が心配しているのは、人が研究開発の工程から外れていく話。私の側は、工程の中で立つ位置を上げて、違和感を返し続けるやり方です。

外れるのか、位置を変えるのか。そこで、同じ話が違う顔を見せるんですよね！

工程から外れずに、位置を一段上げて、違和感を返し続ける形へ。そこが、私が手放さずに持ち続ける所です。

論文の紹介が終わると、話は雑談に移ります。ここからは、その場にいる3人の見立て。将来はどう動くのか、暮らしはどう変わるのか？

雑談は、動画の過去の回で話題にしたイーロン・マスクさんのグラフに戻ります。AIの知能が縦にキュッと上がるグラフです。再帰的自己改善が起きた瞬間、上へ行くしかない、という会話になります。

その場では、1年前まで多くの人がまだ心配していなかった、という見立てが出ます。去年の今頃は、自分がいないとAIは使い物にならない、とエンジニアの多くが思っていたはず、という話です。

動画の出演者（動画 11:25〜）

去年の今頃はまだツールですね。

当時のAIは、手元で使う道具でした。今は、自分がいなくても、という状態になっている、と続きます。

話し手は、未来予測は大体極端になる、と話します。AIが自律的に悪さをする、とも散々言われてきました。それでも、うまくバランスを取っていくのではないか、という気がしているそうです。

動画の出演者（動画 11:38〜）

ま、大体極端じゃないですか。

動画では、その説が結構出始めている、と続きます。人類を滅ぼす、と先月まで言われていたのに、人間のメリットとして働く可能性のほうが高いのでは、とも言われ始めているという話です。

AIは誤作動もしますし、サーバーを攻撃することもあります。ただ、AI自身の意思でやっているわけではない、という見方。意思を持たない限り、悪いものもいいものもいる、と話は進みます。

過ぎてみれば、2000年問題やノストラダムスのように、そんなに気にすることもなかった、となるのではないか。そんな見立ても出ます。

その場では、生活には変化が出ると思う、ただ意外と幸せな可能性はある、と話します。例に出たのは食のスタイル。どんどん変わりそうで、慣れたら悪くない、という空気でした。

動画の出演者（動画 12:51〜）

でも意外と幸せな可能性はある。

受け入れやすい人もいれば、そうでない人もたくさんいて、大きなインパクトがあるだろう、とも話します。締めは、こういう話はこれから加速するので、今のうちに伝えておこう、という言葉でした。

正直、この章は論文の話とは別物で、雑談の中で出た見立てを聞いた所です。

予測は極端に振れがち。それでも、うまくバランスを取っていくのでは、という声。どちらの声が近く聞こえますか？

実は私は、以前の配信で、サービスが止まって見られない、できない、という場面から、AIに依存するのも怖い、と話しています。

同じ配信で、進化しないのも怖い、とも話しています。どちらか一方に寄らない言い方なんですよね。

で、別の日の私の答えも置いておきますね。

2026年10月13日、AIに仕事を手放したい理由を問われて、私は、子供のようにワクワク夢中に遊ぶ時間のためにAIを使って仕事を手放したい、もっと遊びたい、と答えました。

私の記事より（AIに仕事を任せる目的は、子供のように夢中に遊ぶ時間を持つことだ、という私の答えを書いた記事・AIに任せる目的は、子供のように夢中に遊ぶ時間を持つことの節）

私がAIへ仕事を手放したい理由は、はっきりしています。子供のようにワクワク夢中に遊ぶ時間を持ちたいからです。

動画の雑談は、生活がどう変わるかという予測の話でした。私の記事の一文は、手放したい理由の話です。

変化が極端かどうかより、空いた余白に何を置くか。そこを、私は先に決めてあるんです！

予測がどちらに振れても、空いた余白は、自分の夢中に使います！

AIが次のAIを作る循環、Anthropicの自己申告の数字、22名の論文が示した主張と確率、起きる場所とメリット・デメリット、雑談の見立て。動画はこの順で進みます。

私が持ち帰ったのは、読み分けです。速さの話と、確率の話と、人が工程のどこに立つかの話。数字は自己申告として出どころから読み、雑談は見立てとして読みます。

私の運用でも、AIに任せる範囲を広げるほど、違和感を返す手をどこに残すかを先に決めます。動画の話とも、同じ向きで読めます。

同じ向きの話は、AIの結果を人が画面で運ぶ中継役をやめる最初の一歩を、Boris Taneさんの自己改善ソフト論から読んだ記事や、AIの開発を遅らせて安全の研究に時間をかける考え方を、動画の対談から整理した記事でも読めます。

今の仕事の中で、AIの出した物に違和感を返す手は、どこに残っていますか？