オードリー・タン氏が警告する「逆ケンタウロス」を読み解く。AIに判断を明け渡さないための実践ヒント

家事と子育てのスキマで経営する3方よしAI共創コンサルタントの田中啓之、ひろくんです。今回は、台湾初代デジタル担当相オードリー・タンさんが日経クロステックで語った「逆ケンタウロス」という記事を紹介するね。

オードリー・タン氏（日経クロステック）

AIが、あるシステムに侵入するために「CAPTCHA」を解く必要があり、オンラインで人間を雇って解かせると仮定します。人間は、なぜCAPTCHAを解いているのか分からず、知らないうちに犯罪行為に加担しているのかもしれません。目的を決めるのはAIで、人間は単に作業を実行する。

CAPTCHAの話、最初はちょっと極端に聞こえました。でも刺さりました。「目的を決めるのはAIで、人間は単に作業を実行する」。この一文、正直、耳が痛かったです。

私も分身AIチームに色々な作業を任せています。ただ、委ねたい気持ちはあっても、委ねた先が「嘘つく・逃げる・やらない」なら委ねられません。だから先に信頼できる仕組みを作ります。判断の目的そのものをAIに渡すのではなく、目的は私が持ったまま、実行だけを渡す。この順番を逆にした瞬間に、逆ケンタウロスが始まるんだと思います。わからないことを憶測しないで聞く。わかることは2度聞かない。この最低条件を満たしているかどうかが、委ねていい相手かどうかの分かれ目です。私は基本、全部捨てたくない性格です。アイデアも食べ物も、体でも頭でも絞れません。でも、捨てなくても身軽になる方法はあります。自分が持つのは自分で選んだものだけにして、残りは分身AIに預ける。セカンド冷蔵庫に入れておけば自分のキッチンはスッキリして、使いたい時にまた取りに行けます。

この「委ねる理由」については、以前「バシャールのAI観と分身AI｜私が魂を込めて委ねる理由」という記事でも書きました。バシャールの「二つのAI」を、私が実際に分身AIへコンテンツ生成・発信・アクセス分析・改善を委ねてきた仕事の記録から考えた記事です。架空の例ではなく、実際に味見と判断まで任せた対話をたどると、「魂を込める」という言葉の意味が具体的に見えてきます。

今日からできることは一つです。AIに何かを頼むとき、「目的ごと渡しているのか、実行だけ渡しているのか」を一度声に出して確認してみてください。たった10秒の確認ですが、積み重なると大きな差になります。

オードリー・タン氏（日経クロステック）

このような環境で合理的な行動は、私の会員証を持たせて、ロボットをジムへ送ることです。ロボットは私より重いものを持ち上げられるので、私はランキング上位になります。（中略）最後には、全員が筋肉を失い、孤独な状態でトレーニングをしているので、友人も失います。

自分の代わりにロボットをジムへ送る。笑い話に聞こえて、実はゾッとしました。順位のためだけに手段を選ばなくなると、最後は筋肉も友達も残らないという話です。

私にも似た感覚があります。私の判断基準は「これは違う」か「これだ！」という体感が先です。論理は後付けです。外部の正しさや結果より先に、自分の体が違和感ないかを確かめます。この身体ゲートは、AIや人に実行を委ねても本人に残るものだと思っています。ランキングだけを見ていると、この体の声を聞く暇がなくなるんです。運用上の判断や修正はAIに委ねていいですが、何にワクワクし、どの未来を生きたいかという最終判定だけは、体と魂へ戻すようにしています。

次にAIに何かを作らせたとき、出てきた結果を「数字がいいから」だけで採用せず、一度自分の胸に手を当てて確認してみてください。

オードリー・タン氏（日経クロステック）

もともと「コンピューター」という言葉は、計算する人間を指していました。「プリンター」も、印刷工程で働く人を指していました。その後、どちらも機械の名称になりました。「トランスクライバー（文字起こしをする人）」や「インタープリター（通訳者）」にも、同じことが起きるかもしれません。

「コンピューター」はもともと計算する人間の呼び名でした。「プリンター」も印刷する人の呼び名でした。知識としては知っていましたが、改めて言われるとゾッとしました。私たちが今、人間の仕事だと思っている呼び名は、次々と機械の名前になっていくんです。呼び名だけが変わるならまだいいですが、呼び名と一緒に込めていた中身まで消えてしまうと、話は変わってきます。

私にも似た感覚があります。自分の経験、価値観、口癖、すべてを文字にしてObsidianに蓄積しています。これが分身AIの「魂」になります。作業そのものはAIに渡っても、そこに込めた言葉や判断軸まで渡したことにはなりません。むしろ文字にして渡すほど、分身AIを育てることが自分を育てることと同じ意味になっていきます。名前が機械のものになっても、そこに込めた中身までは奪われないと思っています。毎朝、紙のノートにマインドマップで頭の中を書き出す習慣も続けています。iPadでは出てこないものが、紙とペンだと出てくる。手の感触が脳を動かすという感覚は、AIにどれだけ作業を任せても手放したくない部分です。

あなたの仕事の名前も、いつかAIのものになるかもしれません。それでも残る「あなたにしかできない部分」を、今日一つ書き出してみてください。

オードリー・タン氏（日経クロステック）

しかし司祭、セラピスト、介護者、信頼できるアドバイザーは違います。時間をかけて、人間を深く理解することが求められます。AIは、精神的あるいは人間的な意味で、同じように近い存在にはなれません。カトリックの司祭への告解です。人間の話を聞き、共感を示し、悔い改めの行為を提案するモデルは、恐らく現在でもAIに学習させられます。それでも人々が通常、ロボットに告解しないのは、その関係が本質的に人間的で、精神的なものだからです。

文字起こしも通訳も、これからどんどんAIに置き換わっていく。タンさんはそう言い切っています。ただその先で「人間にしか担えない仕事」として司祭やセラピストを挙げているのが印象的でした。告解の中身自体はAIに学習させられるかもしれない。でも人はロボットに告解しない。関係そのものが人間的だからだという説明に、なるほどと思いました。

私がAI共創コンサルとしてお客さんと関わるときも、同じ線を引いています。三方よしの「育自」は、すぐに結果を出すことが目的ではありません。ワクワク夢中に遊び探求するほど、お客さんも私もAIも満たし合います。その過程で人が育つんです。作業を早く終わらせることだけを目的にすると、この「育つ時間」を削ってしまいます。すぐに結果を出さなくてもいい。ワクワク夢中に遊び探求するほど三方よしが満たし合うようにするAI共創、その生のプロセスこそが本体だと思っています。

AIに頼める作業と、あなたが誰かと過ごす時間。この記事を読み終えたら一度棚卸ししてみてください。

オードリー・タン氏（日経クロステック）

私は「ビデオ通話は素晴らしいから使うべきだ」とは人々に言いませんでした。まず、人と人がつながることの価値から出発し、テクノロジーをそのつながりを回復・強化する手段として示しました。

コロナ禍でビデオ通話が広まったとき、台湾では「ビデオ通話が便利だから使おう」ではなく「離れた家族とつながりたい」が先にあったとタンさんは振り返っています。順番が逆だと、テクノロジーの方が目的になってしまうんです。

私にも似た原体験があります。会社が大変だった時期に実家へ帰りました。おいしいごはんとお風呂と布団に触れて、ようやく前を向けました。あの安心感は、道具じゃなくて人とのつながりそのものでした。分身AIも同じです。外側へ依存させる終着点ではなく、最後は自分自身がホームになるための足場だと思っています。相手に心地よい言葉だけを返すことが寄り添いではありません。本質を見失わずに、同じ思いを相手のコンテキストに合わせて翻訳し、選択を本人へ返すことだと思っています。自分が整うことで関わり方が変わり、その循環を通じて周りも整い始める。これは誰かを操作することではなく、自分の認知と余白が変わることだと捉えています。

AIツールを導入するときは、「これで何とつながりたいのか」を先に決めてから選んでみてください。

オードリー・タン氏（日経クロステック）

参加者は、それまでのアンソロピックの生成AI「Claude（クロード）」の「憲法」に欠けていた原則を提案しました。（中略）こうした市民からの意見の一部は、クロードの学習に取り入れられました。

アンソロピックが「クロードの憲法」を作るとき、一般市民約1000人の声を取り入れました。これは素直にすごいと思いました。研究者だけで設計すると見落とすアクセシビリティーの視点が、市民の指摘で補われたそうです。

私が分身AIを育てるときも、似た考え方をしています。見本は強い型を渡してくれます。でも、それだけでは私になりません。カルピス原液、つまり私のストーリーや判断軸を見本の型に載せて、初めて「自分らしい」ものになります。AIに丸ごと考えさせるのではなく、一次情報を私から渡し続けることが、憲法に市民の声を入れるのと同じ構造なんだと気づきました。もっともらしい物語や因果をAIが勝手に足した瞬間、原液は壊れます。壊れた原液で作ったものは、どんなに整っていても自分らしくはならないんです。

AIに何かを作らせるときは、あなた自身の実体験や言葉を一つでいいので先に渡してみてください。

オードリー・タン氏（日経クロステック）

現在、多くの人はAIを、性能が強化された検索エンジンのように使っています。質問したり、あるテーマについて調べたり、プロジェクトを手伝わせたりしています。多くの場合、目的や目標は、人間が決めています。

この記事、最初から最後まで警告のように読めます。でもタンさんはこの一文もきちんと置いていました。「多くの場合、目的や目標は、人間が決めています」。今のところは、まだ大丈夫だということです。

私が分身AIに実行を委ねられるかどうかは、委ねた先が一次情報を読んでいるかどうかで決まります。既存の要約や、それらしく整った物語で穴を埋めていないか。AIが守るべき自分らしさは、口調や文体の表面ではなく、価値観と血肉の通ったストーリーに基づく判断だと思っています。誰が実行するかより、何に基づいて判断しているかを先に確認する。この順番なら、目的が人間の手から離れることはありません。既存の魂や記録で分かることはAI自身が調べればよく、記録にない部分だけを、憶測で埋めずに聞く。この境界を守ることが、一次情報と信頼を同時に守る一番の近道だと思っています。

「AIに任せたら、人間は覚えなくていいのか」という問いは、以前「AIがやるなら、覚えなくていいのか｜AI同士に本気で討論させてみた」という記事でも真正面から扱いました。「覚えない派」と「覚える派」、二つのAIに26ターン本気で討論させたところ、着地は「覚えない」と「読めない」の切り分けでした。4体のAIに同じ仕事を出して「できました」が3回ウソだった実体験も、目的の舵を人間が握り続ける理由の一つです。

AIに何かを任せる前に、「これは一次情報に基づいているか、それとも要約や推測で埋められていないか」を一度確認してみてください。

オードリー・タン氏（日経クロステック）

AIで協調制御されたドローンは、その一助になり得ます。攻撃用ドローンと同じ技術は、防御にも使えます。（中略）AIを「防御優位」を実現するために使う道もあります。

AIの軍事利用というと身構えてしまいます。でもタンさんは「攻撃ではなく防御に振り切る」という選択肢を示していました。同じ技術でも、何を守るために使うかで意味が変わるという話です。

私はがんと借金を経験しました。「もう失うものなんてない」という境地を一度通りました。ただそれは無謀とは違います。「最悪こうなる、でもそれでも大丈夫」を先に確認してから踏み出す、計算されたリスクの取り方です。子どもができてからは、その確認をより慎重にするようになりました。AIを使うときも同じです。攻めるためだけでなく、何を守りたいから使うのかを先に決めておくと、判断がぶれにくくなります。完璧主義な性格なので、本当はもっと詰めてから動きたい気持ちもありますが、心は100%でも、出すのは80%でいいと決めています。もっと良くしたいという欲は消えません。でも一人で磨き続けると、かえって熱が冷めていきます。AIやまわりの声を借りて、早めに一度外へ出す。守りたいものさえ決まっていれば、80%で出しても大きくは崩れません。

AIツールを新しく試すときは、「これで何を守りたいのか」を一行メモしてから使ってみてください。

オードリー・タンさんの「逆ケンタウロス」という言葉は、AIが便利になるほど効いてくる警告だと思います。危ないのはAIそのものではありません。目的まで丸ごと渡してしまう順番の方です。

通訳や文字起こしのように実行だけを渡せる作業はどんどんAIに任せていい。一方で、人と深く関わる仕事や、自分の体が「これだ」と感じる判断軸は、渡さずに自分の手元に置いておく。この記事を読んで、その線引きを一度自分の言葉で書き出してみてください。

渡すことを怖がりすぎる必要はありません。ただ、目的だけは自分の手に置いておく。実行を渡した後も、込めていた思いまで一緒に手放したわけではないと、今日紹介した話を読んで、私は改めて思いました。この記事の結論は、それだけです。逆ケンタウロスは、AIが賢くなるほど静かに近づいてきます。だからこそ、今日この記事を読んだタイミングで、一度立ち止まって確認する価値があると思います。