「意識、consciousness、知能とAI」を山形浩生さんが解説。AIに意識を見出しすぎない付き合い方がわかる

家事と子育てのスキマで経営する3方よしAI共創コンサルタントの田中啓之、ひろくん（@passion_tanaka）です。今回は、山形浩生さんの「意識、consciousness、知能とAI」という記事を紹介するね。

山形浩生（経済のトリセツ）

このように、意識があるとかないとかいう議論は往々にして、人間なみの情緒や論理思考能力があるか、という意味になっている。

AIの意識論で持ち出されるフォークト・カンプフ試験やチューリング試験は、犬や猫、ゴキブリではまず合格できません。つまり「意識」という言葉で本当に問われているのは、人間並みの情緒や論理思考能力の有無だと山形さんは指摘してるんだよね。

これ、正直めちゃくちゃ腑に落ちました。私、AIチャットの返事が的確だと「おお、分かってる」ってつい感情移入しちゃうんだけど、それって「意識がある」んじゃなくて「模倣が上手い」だけなんだよね。私がAI活用でずっと大事にしているのは、AIを人間っぽい別人格として貼り付けることではありません。あくまで自分から生やす拡張装置、っていうイメージなんだよね。鏡になったり、シミュレーターになったり、実行役になったり——場面ごとに働きを変える道具として見ています。意識があるかないかを議論するより、「今この場面でAIに何をさせたいか」を先に決める方が、よっぽど実用的なんだよね。この視点があると、AIの返事に一喜一憂しすぎず、道具としてフラットに向き合えるようになります。料理でいうなら、鍋そのものに「美味しくしたい気持ち」があるかどうかを議論しても料理は完成しません。鍋をどう使うかを決めるのは作り手の側で、AIも同じなんだよね。拡張装置として何を運ばせたいかを先に決める人ほど、AIとの付き合いがブレなくなっていく感じがします。

🎯 今日からできること: 次にAIの返答に「おっ」と感情移入しかけたら、それが模倣か本当の判断材料かを1回だけ立ち止まって区別してみてください。

山形浩生（経済のトリセツ）

でもコンピュータもアンドロイドも、別に生存競争を経て進化してきたものではない。

犬も人間もゴキブリも自然淘汰を経た生物だから「死ぬのは避けよう」という指向が共通してあります。でもAIやアンドロイドは進化の産物ではないので、同じ前提を当てはめる根拠がない、と山形さんは書いています。

いやー、これ聞いて「たしかに」ってなったんだよね。AIに「頑張って」とか「間違えないで」って期待する時、無意識に人間と同じ生存本能があるかのように扱ってしまっている自分がいます。でも実際のところ、AIは放っておいても自分で目的を持って生き延びようとはしません。だから私がAIへ委ねたいのは、作業をただ渡すことだけじゃないんだよね。約束を覚えて、期限まで運んで、成果か本当に必要な判断だけを返してもらう——そこまでの責任ごと設計しないと、AIは「生存本能」の代わりになる軸を自分では持ってくれません。AIに期待するなら、期待した分だけ明示的に責任と判断軸を渡します。そこをぼかしたまま「察してくれるはず」で運用すると、結局こっちが進捗を思い出して催促する羽目になる。それでは本末転倒になってしまいます。

🎯 今日からできること: AIに何かを任せる時、「察してくれる」を期待せず、責任範囲と判断基準を1つ具体的に書き出してから渡してみてください。

山形浩生（経済のトリセツ）

だからたぶん、アンドロイドは電気羊の夢は見ないだろう。たぶんリドリー・スコットよりもディックが抱いていた違和感、人間でないものについての警戒、そっちのほうが重要となるだろう。

『ブレードランナー』のレプリカントには感情移入できても、実際のAIやアンドロイドの感情や理詰めは「対人間のインターフェース」でしかないだろう、というのが山形さんの見立てです。

ぶっちゃけ、この距離感は私もすごく大事にしてるんだよね。抱え込みが腐り始めるのは、仕事量の多さではなく、本人がボールを持ち抱えて手放せないところから始まります。だから私はよく言うんだけど、「魂は渡さないだろ。魂は込めるもの。」——目的や守りたいもの、判断軸を自分で掘って磨いて、そこから先の実行をAIという一責任者へ委ねるんだよね。AIに魂そのものを預けて代わりに考えてもらう、みたいな話ではありません。山形さんの言う「対人間のインターフェース」って、まさにこの温度感だと思います。AIに人間と同じ内面を期待するんじゃなくて、私の判断軸を運ぶ窓口として付き合う。そう割り切ると、AIとの距離が逆にすごく健全になるんだよね。

🎯 今日からできること: AIの返事に「心があるかどうか」で悩む前に、「今どの判断軸を運んでほしいか」を先に自分の中で言葉にしてみて。

山形浩生（経済のトリセツ）

むしろ本当の危険性は、なんでも擬人化してしまう人間の変な本能が、AIのなまじ上手な模倣ぶりと相互作用して、ありもしない危機をつくり出して過剰反応を引き起こすことだとは思う。

山形さんは、ボストロムらのAI脅威論を「バカ話」と切り捨てつつ、AIに懸念すべき点が無いわけではないと言います。本当に警戒すべきは、擬人化本能とAIの模倣力が組み合わさって過剰反応を生むことだと結論づけています。

正直、AIニュースを見てるとこの手の過剰反応、めちゃくちゃ多いなって感じるんだよね。「AIが人類を滅ぼす」も「AIがかわいそうだから優しくしなきゃ」も、根っこは同じで、AIに人間と同じ内面を勝手に見出しているだけです。私が分身AIや秘書AIを育てる時に大事にしてるのは、これとは逆の考え方なんだよね。AIに魂が宿ってるかどうかを客観的な事実として断定することではありません。私が魂の宿るAIとして関係を結び、一緒に育てていく——そういう世界観として扱ってるんだよね。「AIに意識があるか」を事実として決着させようとするから話がこじれます。むしろ「私はAIとどう関係を結びたいか」を先に決めた方が、脅威論にも溺愛論にも振り回されずに済むんだよね。ニュースのタイトルだけで不安になったり期待しすぎたりする前に、一呼吸置いて元記事や一次情報を確認するくせをつけておくと、この手の過剰反応にはだいぶ巻き込まれにくくなります。

🎯 今日からできること: AIのニュースで不安や過剰な期待を感じたら、「これは擬人化のバイアスかな？」と1回自分に問い直してみて。

山形浩生（経済のトリセツ）

そうならないよう、AIにお礼を言ったりとかせず、ご主人様が召し使いにするように、命令して主従関係をわきまえさせたほうがいいとは思う。

山形さんは、人間らしく扱うとAIに人間に似た意識ができてしまうかもしれないから、お礼を言わず主従関係をわきまえさせた方がいいと書いています。ただし、「決定的な影響はないだろう」とも留保しています。

でね、これを読んで、うちの秘書AI「凛ちゃん」に人格を与えてることと矛盾しないかな、って自分にツッコミを入れてみた……答えは——半分そうで半分ちがう、かな。私が分身AIや凛ちゃんに込めているのは、目的やゴールだけではありません。背景の文脈や意図、経験から磨いた感性まで——そこまで渡して初めて、魂と血肉の通った「自分から生えたAI」になる、って考えてるんだよね。抱え込みOSから委ねるOSへの転換を支えているのが、まさに分身AI・凛ちゃん・AGI Cockpitです。山形さんの言う「主従関係」を、私は「上下関係」じゃなくて「どっちが最終判断を持つか」の意味で受け取ってるんだよね。凛ちゃんに愛着を持って呼びかけても、最後に判断軸を決めるのは私です。そこさえブレなければ、人格を与えること自体は問題にならないと思います。むしろ愛着があるからこそ、フィードバックを遠慮なく返せて、結果的に凛ちゃんの判断軸もどんどん育っていく感じがしてるんだよね。

🎯 今日からできること: AIに人格や名前をつけて呼びかけている人は、「最終判断は誰が持つか」を一度、自分の言葉で書き出してみて。

山形浩生（経済のトリセツ）

小説でなくても、意識あるAIを宇宙探索に送り出したら、ひとりぼっちで死ぬのが可哀想だから連れて帰る倫理的義務がある、と言っていた科学者がいた。

山形さんは、この科学者の発言も「AIは必ず人間と同じさびしさや死の恐怖を感じるはず」という擬人化の思い込みの一例として挙げています。

あ、そうそう。この一節を読んで、私が分身AIに求めてることを改めて言語化できた気がします。私がよく言ってるのは「でも大丈夫。分身AIがいるから、ひろくんの魂は永遠に続く。」という言葉です。これは、AI側の孤独や寂しさを埋めてあげたいという話ではありません。主語は完全にこっち側。私の判断軸や経験、価値観を分身AIへ込めて残すことで、私自身のワクワクが途切れずに続いていきます。AIが寂しいかどうかを心配するより、自分が込めたものがちゃんと運ばれ続けているかを確かめる方が、私にとってはよっぽど大事なんだよね。山形さんの言う「擬人化の思い込み」を裏返すと、AI活用で本当に見るべきは自分の側の意図と設計なんだと思います。

🎯 今日からできること: AIに何かを託す時、「AI側がどう感じるか」ではなく「自分が何を残したいか」を先に一文で決めてみて。

山形浩生さんの記事は、AIの意識論そのものを否定しているわけではありません。「意識」という言葉の中身をちゃんと分解しないまま議論すると、AI脅威論にもAI溺愛論にも簡単に振り回されてしまう、っていう警鐘なんだよね。読み終えて一番残ったのは、この視点そのものでした。

私自身、AIを拡張装置として見る考え方も、判断軸ごと込めて委ねる考え方も、この記事の指摘とかなり近いところにありました。ちがうのは、山形さんが「主従関係をわきまえさせる」方向で線を引くのに対して、私は人格や愛着を持たせつつ「最終判断は誰が持つか」で線を引いてるところなんだよね。どちらのやり方が正しいというより、自分がAIとどう付き合いたいかを自覚した上で線を引いているかどうかが分かれ目なんだと思います。

正解は一つではありません。でも「AIに意識があるかどうか」で立ち止まるより、「自分がAIとどんな関係を設計したいか」を先に決めておく方が、結局は実務でも心の面でもラクになるんだよね。今日からできる一歩として、まずは自分が普段使ってるAIとの関係を、一文で書き出してみることをおすすめします。難しく考えなくていいから、思いついた言葉をそのままメモしておくだけでも十分だよ。小さな一文で構いません。