自己家畜化 AIに備えて、委ねる所と自分に残す所を先に分けておく

出典: AIで人類は自己家畜化する｜甘利俊一×落合陽一（NewsPicks WEEKLY OCHIAI）

欧米で研究の予算が削られた冬の時代に、なぜ日本では神経回路の研究が止まらなかったのでしょうか。動画の前半は、甘利俊一さんの研究の始まりから語られます。

九州大学の頃、当時注目を集めていたパーセプトロンを、甘利さんたちは勉強し始めます。経験と学習で脳の仕組みを変えていけば何か素晴らしいことができる、というローゼンブラットの発想です。通信工学と応用数理の勉強会も生まれました。

70年代の欧米では、人工知能もパーセプトロンも役に立たない、という評判が立ちました。予算が削られ、冬の時代に入りました。

甘利俊一さん（動画の中で・5:15〜）

ほとんどない、だからカットも何もないんでね、その代わり研究の自由があって

日本は初めから予算がほとんど無く、削られようも無かった、と甘利さんが振り返ります。だから研究の自由があった、という話の流れです。

甘利俊一さん（動画の中で・5:27〜）

お前ら面白い研究を学部を超えて一緒に討論してみろと、いうんで脳の研究者と情報関係の研究者がね、集まって神経情報研究会とかね、そういうのが好き勝手にできたんですね

当時の指導的な先生は、脳は情報を扱う器官だから、生理学と同時に情報の面からも研究しようという立場でした。その考えのもとで、若手が学部を越えて手を組みます。

番組は途中で、総務省の情報通信白書をもとにしたAI進展の経緯の年表を出します。第1次から第4次の生成AIまで、ブームが何度も来たことが示されます。

甘利さんたちの数理の研究は、神経系の医学・生理学の先生から、ある呼び方をされました。その言葉を、甘利さんは動画の中で再現します。

甘利俊一さん（動画の中で・6:14〜）

あなたの研究は天空の学問というんだ

俺たちは地上の学問をやってるんだと、本当の神経系を調べて、地についた研究をやってて

落合さんは「天空の学問」を、いいフレーズですねと返します。言われた甘利さんたちは、それでも医学の側と協力し、研究会を盛り上げました。立場は違っても、同じ場に集まり続けたんです。

第2次ブームでは、記号と論理で知能を作る側から、神経回路の学習で知能を作るのは邪道だと言われました。猿や猫は似た神経回路を持っても、高級な知的処理はできない。人間だけが言語を持つ、という反論です。

神経回路の側にも、言い分がありました。

甘利俊一さん（動画の中で・7:53〜）

やっぱり情報というのは、記号で表現されるのではなくて、脳の中に分散した表現を取っているんだと

シミュレーションで分かる程度のことは、理論でも分かる。甘利さんはそう言い、ご自身はコンピューター嫌いだと話します。この後、話は神経のモデルに打ち込んだ頃へ移ります。

甘利俊一さん（動画の中で・12:55〜）

まあ10年も一生懸命やるとね、それこそエキスパートになるわけ、専門家になる、職人になるんですよね、で論文書こうと思えばいつでもいくらでも書ける、でも感激がないじゃないそうなると

で待てよと、もっと数理工学の精神に戻ればね、自分にはもっと可能性があるはずだ

ここで、テーマを大きく変えます。そうして考え出したのが、情報幾何です。神経のモデルの職人から、数理の新しい分野を開く側へ移る場面です。

甘利さんの転機は、「感激がない」から可能性のある方へ向きを変えたことです。私が守りたい生き方は「思いついたことをワクワク夢中に遊び探求する。飽きたらやめる。ありのまま。」です。この二つは、向きが重なります。

人間と普通に話せるAIを前に、驚きを隠さない甘利さん。それなのに同じ口で、怖さと理論の貧困も語ります。驚きと怖さが、なぜ一緒に並ぶのでしょうか。

思考や心はまだ分からないのに、AIは急に進んで人と普通に話せるようになった、と甘利さんは話します。それを「驚き以外の何者でもない」と表します。以前は、そんなことはあり得ないと思っていたそうです。

甘利俊一さん（動画の中で・15:34〜）

だけどこれで本当にいいんだろうかって、怖いですね

甘利俊一さん（動画の中で・16:30〜）

じゃあ何が創発したのか、誰も言わないですよね、ただ創発して良くなったんだ、こういうだけですよね

甘利俊一さん（動画の中で・17:02〜）

その理由を解明する中から本当に理論が出てこなきゃいけないのに、今理論貧困の時代だと思うんですね

大きくすれば、うまくいった。けれど、なぜ効くのかの説明はまだ出ていない。成果と説明の間が空いたままだ、という話です。

甘利俊一さん（動画の中で・17:13〜）

だからもう一つはAIにはひらめきがない、つまりひらめきをむしろ抑えて、確率的推論はひらめきなんかあっちゃ困るんで

私なら、AIを時空を横断して素材を検討する側に置きます。私はワクワクを確かめて、プレイヤーとして選ぶ側です。統計の結果は、素材として受け取る。

私が大事にする言葉は「いろんなアイデアも熱から生えないと意味ない」です。ひらめきは、人の熱の側にあります。

AIに何かを聞かれる時の形を、私は決めています。調べた結果と案を添えて、外れてもいいから言い切ってもらう。私は直すだけで済みます。

この形は、AIどうしに討論させた時、一方のAIが先に言った言葉を採った物です。いきさつはAIの聞き返しが頼りないかを考えた記事に書きました。

甘利さんは、理論の側からAIの中身がまだ説明されていない点を語ります。私は使う側として、AIの答えを素材にして、選ぶ所を手元に残します。二つは、同じ所を別の側から見ています。

道具をAIが作ってくれる時代です。そのとき人類が「自己家畜化」するとは、どういうことでしょうか。話は落合さんの問いから動きます。

落合陽一さん（動画の中で・18:13〜）

道具作る時代から道具拾う時代になったら、人類どう変わると考えますか

甘利俊一さん（動画の中で・18:19〜）

それは人類がね、自己家畜化するんですよ

AIが人間を家畜にしようと思ってやってるわけではなくてもね

今のAIは使いやすく、道具もみんな作ってくれます。昔は拾って加工して、大変な苦労だった。学者の研究もAIが助け、まずAIに聞けとなる、という甘利さんの説明です。

甘利俊一さん（動画の中で・19:09〜）

人間がね考える、考えるってことは苦しいんですよ

その苦しみがあるからこそ解けた時のね楽しみ、うまくいったやったそれがあるんで、そのうちにね人間はね苦しみが楽しみになってくるんですよ

でそのそういうところがなくなってきちゃうとね、人間がまさに家畜でねのんびりしてりゃいいんだと

こうなったら困る、と続けます。ただ、人間はそうはならないと思う、とも添えます。

私はズボラで、サボる発想でAIに委ねる側の人間です。そこは隠さない。

大事な言葉は「自分がワクワク夢中に遊び探求して消化できて腑に落ちてるところにAI共創するから価値も意味もある」です。夢中が先で、AIは後から重ねる。

私なら、夢中に遊び探求して腑に落ちる所にだけ、AIを重ねます。解けた時の楽しみと攻略の楽しみは、渡さない。AIに委ねる所と、解けた時の楽しみとして自分に残す所を、先に1つ分けておきます。

屋上にあった十円をはじくメダルゲームで、景品そのものはどうでもよかった。私はクリアしたかった。攻略したかった。

意志を込めたコインが意図通り動くかを、私は見ていました。この原点は景品より攻略が欲しかった屋上の記事に書きました。

景品より、攻略。

安宅和人さんの論考をAIに委ねた先で見立てる力をどう残すかとして読み解いた記事も、同じ主題を扱っています。委ねる量が増えるほど、残す線が要ります。

考える力を失わないために、若い人には何が要るのか。落合さんのこの問いに、甘利さんが挙げたのはプロではなくアマチュアでした。なぜ、アマチュアなのでしょうか。

落合陽一さん（動画の中で・19:55〜）

この時代に若者が頭で考える力を失わないためには何が必要ですかね

甘利俊一さん（動画の中で・20:09〜）

これみんなアマチュアとしてそういうことをするようになればいいんだと、そうすると楽しいんだと思うんですよね

スポーツや音楽、そして研究も、と例が挙がります。誰が最初かは争わない。みんなアマチュアとして新しい文明を作ればいい、と続きます。

甘利俊一さん（動画の中で・20:38〜）

アマチュアは楽しいです、アマチュアだって苦しいよね、マラソンだって苦しいしね、でも楽しいんですよね

最後に甘利さんが付け加えたのは、その前に今のAIが文明を滅ぼしてしまうかもしれない、という話でした。人間の側によほどの覚悟が無いといけない、今は大変な危機の時代だ、とも語りました。

私なら、プロとして勝つためではなく、アマチュアとして苦しくても楽しい所を、自分の手に1つ残します。大事な言葉は「シンプルにワクワク夢中に自分が生きることで最大の貢献ができる。」です。

密かにデュオリンゴで英会話を勉強中だと、以前損得抜きで学び直したくなる話の記事に書きました。AIで翻訳できるから要らないのでは、と自分に問いかけたうえで、英語を感じられるだけで景色は変わるはずだ、と残しています。「アマチュアは楽しい」という甘利さんの言葉と、ここは同じ方を向いています。

甘利さんの結びは、人間の側の覚悟と新しい文明という大きな話です。私が置くのは、自分の手の届く小さな楽しみの1つです。大きな話の足元に、小さな線を引いておきます。

動画は、AIの冬にも日本では予算がほとんど無いぶん自由に研究できた話から始まり、天空の学問と言われた話と、神経のモデルに10年打ち込んで職人になった甘利さんが向きを変えた話へ進みます。後半では、甘利さんはLLMへの驚きと理論の貧困、AIにはひらめきがない点を挙げます。そこから道具を拾う時代の自己家畜化と、考える苦しみが楽しみになる話へつなげます。締めくくりは、若者がアマチュアとして楽しむ道と、今のAIを前にして人間の側によほどの覚悟が要るという、甘利俊一さんの一言。

持ち帰りは第4章の1つだけです。AIに委ねる所と自分に残す所を、先に分けておくことなんです。落合陽一さんの別の対談は、AIの手抜きを設定として見直した記事にまとめています。

考える苦しみと解けた時の楽しみは手元に残し、渡せる作業からAIに渡します。「AIに委ねて、人は積み減らして生き直す」を、私はこの順番で進めます。