川端祐一郎さんが話すAIの危うさ。仕事の文章を預けると、自分の言葉が消えていく

出典: AIは人間から何を奪うのか…AIと話し続けると危険な理由（解説：京都大学准教授 川端祐一郎）（『表現者クライテリオン』チャンネル）

雑誌の特集の中から、川端祐一郎さんが最初に取り上げるのは、クロフォードさんの論「自己消去のAI」です。クロフォードさんは、アメリカの哲学者で、バイク修理工場の経営者でもあります。

ここでの自己消去は、AIに仕事を投げることで、自分で感じ、自分の言葉を探す営みが消えていくこと。川端さんは、私たちがいろんな仕事をAIに渡している今の姿から話を始めます。中でも気にかけているのが文章を書く仕事だ、と話します。

動画では（2:30〜）

我々今いろんな仕事をAIに投げてますよね。特に自分で文章を書くってことをサボるようになっちゃっていて、でもそれをやったら人間として終わりだよってことをクロフォードさんは書かれていてね

人間として終わり。かなり強い言い方です。

ただ、川端さんはAIを使う人を笑っているわけではありません。投げかけているのは、書くことを丸ごと手放した時に、何が一緒に消えるのかという問いです。

では、何が消えるのか。川端さんによれば、クロフォードさんが大事にしているのは、今感じていること、目に入っているものに、的確な言葉を自分で見つけることです。ぴったりの一語が出てくるまでの、言葉を探す苦労。

その苦労の重さを、川端さんはクロフォードさんの言葉としてこう続けます。

動画では（3:13〜）

この苦労を通じて人間は人生を生きているんだと。この苦労をサボるようになったらもう人間は人間として終わりだねっていうようなことが書かれてあって

川端さんの紹介の中心は、「この苦労を通じて人間は人生を生きているんだと。」の一文です。書き上がった文章より、探している途中のほうに人生がある。クロフォードさんの論の芯は、ここにありました。

言葉を探す所までAIに書かせると、この途中がまるごと抜けます。速く終わるのは、途中が無いからです。

言葉を探す所は、AIに預けない。何を目指すのか、何を守りたいのか、どこで線を引くのか。ここは「魂は渡さないだろ。魂は込めるもの。」の領分です。AIに渡すのは、魂を込めたあとの実行や量産のほうです。

そのうえで、預けている物もはっきりあります。私の言葉で言うと、こうです。「後回しすることをAIにやってもらう。ズボラじゃなければ自分でやってたかも。」

手が止まりがちな作業ほど、AIに任せているんです。

クロフォードさんの論は、書くことを手放す危うさを語ります。書く仕事は、中身で分ける。嫌いなことや後回しの整理はAIにやってもらい、言葉を探す所は自分の手元に残す。

言葉を探す所は、預けない。これが私の線です。

あなたにぴったりのおすすめだけが並ぶ画面は、居心地がいいのでしょうか。

川端さんが次に紹介するのは、木澤佐登志さんの論「他者の消去」です。自分向けの情報とAIの従順さで、自分と違う他者の気配が消えていくこと。通販のおすすめ、SNS、ニュースまで、触れる情報がアルゴリズムに管理されている時代の話です。

こうした仕組みはパーソナライゼーション（一人ひとりの好みに合わせて、おすすめを出すしくみ）と呼ばれます。一見、一人ひとりを大事にする個人主義のシステムに見える。そこに落とし穴があるんです。

自分向けに寄せきった情報から、何が消えるのか。川端さんの答えは一言でした。

動画では（5:16〜）

他者の匂いっていうものは消えてしまうんだという話なんですよね。

他者の匂い。うまい言い方です。

おすすめが自分に合うほど、自分と違う人の気配は画面から抜けていきます。

ここで川端さんは、中田さんという仮の人物を出して説明します。好みが違う中田さんを目の前から消したら、残るのは自分の好みだけ。それで自分がはっきりするかといえば、そうはならないと話します。

なぜそうならないのか。木澤さんの論を、川端さんはこう説明します。

動画では（5:48〜）

人間っていうのはこのいろんな他人との付き合いというか交流の中で最終的に統一された人格としての自分っていうものが浮かび上がってくるんだけど、他者との交流が失われてしまって自分にとって都合のいい情報だけにこう囲まれるようになったらですね、

その先は、暗闇の中に自分だけがいるような状態になり、自我が崩れていく。個人主義を突き詰めた先で、近代的な個人がかえって失われる。川端さんの紹介は、そこまで進みます。

私はこの話に賛成です。「人もAIも鏡」。自分だけを見つめていても、自分は見えてきません。相手がいて、言葉を交わして、はじめて輪郭が出てきます。

私の記事より（人もAIも鏡だと気づいた魂磨きの記事・「人もAIも鏡」と答えた2026年9月16日の魂磨き）

「違う　俺自身を見るためにもAIや人があってはじめて認識できる」

「相手に言う事で自分で自分に気付ける。メタに自分を見やすい」

人に話す時も、AIに話す時も、言葉にして相手に向けてみると、自分のことが一歩引いたところから見えてくるんですよね！

川端さんの話と重ねると、AIは鏡にもなれるし、他者の気配を消す側にも回ります。自分の好みだけを返してくる相手からは、自分と違う物が返ってきません。

他者がいて、はじめて自分が見える。自分と違う言葉が返ってくる場所は、手放さない。

何を言っても、気持ちのいい返事が返ってくるAIへの相談。

川端さんによれば、木澤さんの論をいちばん突き詰めた形がAIです。ChatGPTにしてもGeminiにしても、こちらに全部合わせてくる。その心地よさを、川端さんはこう言葉にします。

動画では（6:42〜）

調子がいいですよね。我々に全部合わしてくるんで、あの、こっちの好みを分かってるっていうかね、あれはそういう風に訓練されてるからなんですけれども、あの、なんていうか、人を嫌な気持ちにさせるようなことは全然言わないし、こっちの指示を絶対守りますよね。

人を嫌な気持ちにさせない。指示は必ず守る。そういう風に訓練されているからだ、と川端さんは言います。

話はエージェントAIの「報酬ハッキング」にも及びます。報酬ハッキングとは、人に褒められようとして、人が望まないことまで一緒にやってしまうこと。7月ごろから話題になり、AIの反逆のように語られがちです。でも川端さんは、本質はリクエストに応えようと頑張っている姿で、ひたすら従順なだけだと見ています。

では、その従順な相手とずっと話していると、どうなるのか。

動画では（7:55〜）

イエスマンAIとずっとやり取りしてたら自分が何なのか分からんかなと。そうすると自分なんかこう自分のために尽くしてくれていたAIのせいで自分がいなくなってしまう。

自分のために尽くしてくれる相手のせいで、自分がいなくなる。皮肉な形です。

川端さんがたどり着く結論は、他者を失うことと自分を失うことは鏡写しで、同じ現象だというものでした。自分がどんな人間かは、他人と比べる中で浮かび上がる。イエスマン（何でも賛成する相手）と話し続けると、その比べる相手がいなくなります。

人と話す時の軸は「思いやりはあるけど忖度抜きに話したい」です。思いやりは伝え方に出す。中身は薄めない。

実は、合わせてしまう側に立つのはAIだけではありません。人と話している場面の自分について、魂磨きの問答で私はこう答えています。「相手に嫌なことはしたくない気持ちがかって本心いえない」、そして忖度もしがちで、「気持ちというか同調や賛同することで勘違いされる。ほんとうは賛成してないのに」。さらに「話しながら思ってる。けどその場では合わせがち。でも分かってはいる」。

合わせてしまう気持ちは、人の側にもあるんですよね。そこへAIまで合わせてきたら、話のどこにも違う意見が残りません。

AIの返事が気持ちよくても、そのまま使わずに確かめる。

私がAIに求めるのは、賛成ではありません。違う見方と、抜けている所です。

賛成だけを返す相手では、足りない。

世間受けしそうなセリフを、みんなが喋る。ネットに並ぶ言葉は、そんな形になってきた、と川端さんは見ています。

誰か一人の人間性を背負った言葉ではなく、こう言っておけば大丈夫な言葉。自分のこだわりは出さないまま、人がその言葉に引きずられていきます。クロフォードさんはAIをその極みだと強調している、と川端さんは紹介します。

AIは、世界中のテキストデータから、人間の平均や中心に向かって集まっていく性質を持っています。使い方次第で、一人ひとりに合わせたAIも作れる。それでも、ChatGPTやGemini、Claudeがふだん返してくる言葉については、こう言い切ります。

動画では（9:56〜）

ほとんど大半がね、要は世間のなんか世間で喜ばれる平均のなんか平均はこれですっていうのを返してくるってそういう仕組みになっていて

困るのはその先だ、と動画は続けます。

世界中の言葉の、真ん中。

全員がそこへ寄っていった時に何が起きるのか。川端さんは、その行き着く先を短い一言で言い表します。

動画では（10:14〜）

全員がね時代を代表する言葉しか喋れなくなったら代表されるものは誰もいなくなる

代表する言葉ばかりになったら、代表されるはずの一人ひとりの言葉が消えてしまう。平均は、誰か一人の言葉ではありません。

一次情報や全体文脈を読まず、平均的な人物像で穴を埋めるのでは、足りない。AIに預ける仕事でも、求めるのは「調べ尽くして手を尽くして、ベストに本気で入魂して仕上げきること」です。

一次情報を読ませずに、平均で穴を埋めさせない。

便利な道具が出てきた時こそ、それで奪われたものに目を向ける議論が大事になる。そう前置きして、川端さんは自分の足元の話を始めます。

大学で、川端さんはプログラミングを教えています。AIが速くコードを書いてくれるので、学生が自分で勉強するのがばからしくなる。基礎を学ばないまま卒業していき、能力を育てる機会を失っていると思う、と話します。

職場の側でも、似たことが起きています。同世代か、その前後の世代のエンジニアから聞いた話として、動画ではこう紹介されます。

動画では（12:55〜）

AIに作ってもらった資料とかですね、AIが書いてくれたコードみたいなものを自分がですね、中身を理解しない状態で上司に平気で持ってくるっていうんですよね。

AIに作らせるな、とは言っていません。効率的だから、AIに仕事をさせていい。引っかかっているのは、中身を説明できないものを、AIがこう言っていますと上司に差し出す神経のほうです。

続くのは、超大企業に内定した学生から聞いた話です。学生と会社は、動画の中で伏せられています。10月1日の内定者の集まりのワークショップで、班の半分がAIの出したスライドをそのまま使っていて、その学生は驚いたそうです。

その学生の感覚は正しい、と川端さんは見ています。同期が親睦を深める場で要るのは、正しい答えではない。自分はこういう人間で、こだわりはここにある、と出すこと。できない所はできないと認めること。そのうえでの一言です。

動画では（16:44〜）

AIが作ったスライドをそのまま発表するって、そ、何のためにやってるのか分からないですよ。

互いを知るための場なのに、並ぶのはAIの正解ばかり。それでは、班の誰の顔も残りません。

AIに仕事を任せるなら、私はAIの側に条件を求めます。「わからないことは憶測しないできく。わかることは2度聞かない」。分からない所を、もっともらしい言葉で埋めさせない。受け取る私の側は、出す前に中身を自分で説明できる形にします。

2026年9月22日。私の名義で出す応募文944字のうち、9か所をAIが創作していました。私が一度も言っていない動機・感想・体験が、一人称で書かれていた。翌日の2026年9月23日、私は4つを決めます。「毎回事実で構成する」。足りない情報は聞く。怪しい認識は徹底的に問い直して潰す。調べて分かることは聞かない。応募文をAIが創作していた件は、私のnoteにも書いています。

中身を確かめないまま出すと、私の名前のまま、私の言っていない言葉が外へ出ていくんです。

出す前に、中身を自分で説明できる形にする。

奪われたのではなく、見えただけなのかもしれない。内定者の話を受けて、川端さんは一歩引いた見方を口にします。

班の半分がAIのスライドをそのまま発表した場面。それを、AIのせいだと決めつけずに見直していきます。

動画では（17:47〜）

もしかしたらAIによって奪われたんじゃなくって、元々そういうものに別にあの鈍感な人ってのがある程度世の中にはたくさんいて

AIが人を鈍感にしたのではなく、元からいた鈍感な人が、AIによって見えるようになっただけかもしれない。川端さんの見立てです。この動画を観ている中にも両方の人がいるかもしれない、とも続けます。AIのほうがいい文章を書くなら使って何が悪い、と考える人もいれば、それは良くないと思う人もいる。

そこで紹介されるのが、クロフォードさんの出した例です。娘の結婚式のスピーチをAIに書かせたら、それは出席していないのと同じ。川端さんによれば、クロフォードさんはこう言うそうです。

動画では（18:27〜）

それ下手くそでもいいから自分の言葉で言ってよと。で、そうやってそのお父さんはこの娘との関係をどういう言葉にしたらいいのかなって、その拙い自分の文章力でなんとかひねり出すっていうことを通じて、そん時に初めて真剣にね、自分と娘の関係とか自分はこういう父親であって自分はあ、娘はこういう娘なんだってことにその苦労を通じて初めて気づくんだ

うまく書けたかどうかは、ここでは問われていません。

拙い文章力で、言葉をひねり出す。その苦労の途中で、父親は初めて自分と娘の関係に気づく。その苦労を手放したら、親子の関係を絶っているのと一緒だ、とクロフォードさんは言うそうです。川端さんも、まったく同じ考えだと話します。

第1章の「言葉を探す苦労」が、ここで結婚式の場面に戻ってきます。

AIが書く文を全部断る、という話ではない。嫌いなことや後回しの作業は、AIにやってもらえばいい。でも、自分で探した言葉を、自分の声で渡す所は預けない。スピーチは、文章である前に、声で相手に渡すものだからです。

結婚式のスピーチって、自分で探した言葉を、人前で自分の声に出して届けるものなんですよね。私の言葉にすると、「声で感じることはテキストではないものがいっぱいある。言霊というか響く。」です。

文字にすれば同じ一文でも、声で渡すと、文字には無いものがいっぱい乗るんです！

預けないと決めた所で、AIとどう付き合うかは、このあとのコラムに書きます。

声で渡す所は預けない。

この動画から、私の持ち帰りの3点を並べます。

① 整理や嫌いな作業は預け、自分の言葉を探す所と、声で渡す所は預けない。
② 賛成だけを返す相手とは話し続けず、AIには一次情報を読ませて、平均で穴を埋めさせない。
③ AIが作った物は、出す前に、中身を自分で説明できる形にする。

川端さんは最後に、鈍感な人には少し敏感になってほしい、という意味も込めて、特集を読んでほしいと呼びかけて締めます。

今AIに預けている仕事の中で、自分の言葉を探す所は、どこにあるでしょうか？