AI画像は「完璧すぎる」と一発でバレる｜ただっちのAI検証

▶ この話題を動画で見る（06:06〜）

10月2日、木曜日のGPTs研究会モーニングライブ。テーマは「AI×デザイン　現実×偽造　AI時代の真実を検証」でした。ゲストはウェブデザイナーのともみんさんで、進行役はAI開花マーケターのただっち（田田圭一さん）。冒頭、ただっちは「僕はAIに対する世界の平和にというテーマを掲げまして」と自己紹介していて、私はこのオープニングを聞いただけで、あ、今日はいつもより深い回だな……って感じたんですよね。

本題に入る前に盛り上がっていたのが、画像生成の「ナノバナナ」の話。Googleのジェミニまわりで話題になっている、あのナノバナナです。今使っているのが本家本元のジェミニのナノバナナなのか、それとも別の経路で繋がっているものなのか——そのあたりを、ただっちがその場で確認していました。

ただっち（06:06〜）

「僕、普通のジェミニのナノバナナ、本家の本物のナノバナナ。どういうこと？そのAPIで繋がってるとかっていう話？使えるかな、無制限で使える。」

「無制限で使える」なんて言葉が出てくるだけで、私はちょっとワクワクしちゃうんですよね。太っ腹だなあ、と思いつつ聞いてました。値段や制限を気にせず試せるツールって、実はそれだけで発想が広がる気がするんです。

あ、そうだ。ここでちょっと補足しておきたいんですけど……このナノバナナ、Googleのジェミニ系の画像生成として今すごく名前を聞くやつなんですよね。ただっちが「本家の本物のナノバナナ」ってわざわざ確認してたのが、私は妙に印象に残ってて。というのも、名前が有名になると、似た名前のツールやら、別経路で繋いだだけのものやらが一気に増えるでしょ。だからこそ「これ本物？」って一回立ち止まって確かめるただっちの慎重さ、地味だけど大事だなあと思ったんです。

で、ここからが本題。ただっちが実際に、1枚の画像をもとに「5枚連続で作ってくれ」という指示を出して、変化を見せてくれる実演がありました。これがなかなか衝撃的で。

ただっち（10:04〜）

「これですね、これ今見えてる？これ一回作ったやつを変えてくださいみたいな感じで、一回5枚連続で作ってくれっていう指示をこう出せるんだけど、だんだん顔が変わってくる。違うおじさんになってしまうんですけど、だから一枚ずつ貼り付けなきゃいけないっていう。まあそれは手間はありますけど、そういう技もあるというところですね。毎回違う表情でみたいな。」

だんだん違うおじさんになる……って、私、ここを聞いて思わず笑っちゃいました。便利ではあるんだけど、AIって律儀に同じ顔をキープしてくれるわけじゃないんですよね。一枚ずつ貼り付け直す手間、地味だけど大事な現場の知恵だなあと思います。表情違いのバリエーションを作りたいときの裏技として使える、というのがただっちの結論でした。

でね。実演のほうをもう一度見返すと——5枚連続で作らせて、顔がじわじわ別人になっていく。あれ、笑っちゃうんだけど、裏を返すとAIって「まったく同じ顔をキープする」のがめちゃくちゃ苦手ってことなんですよね。人間なら、同じ人の顔は当たり前に同じ。でもAIにとっては、毎回ゼロから描き直してるようなもの。だから微妙にズレる。ぶっちゃけ、この「ズレ」こそが、このあとの判定ツールの話で効いてくる伏線なんです。

この連続生成の話、実はこのあとに出てくる「AI判定ツール」の話ともつながっていきます。同じお題から作っても毎回微妙に違う顔が出てくるということは、それだけAIの生成にはブレがあるということ。そのブレを、判定ツール側はどう見抜いてくるのか——次の話題は、まさにそこでした。

▶ この話題を動画で見る（15:17〜）

ここからのくだりが、今回のLIVEで一番の見どころだったんじゃないかなと私は思っています。話題は「AIかどうかを判定してくれる無料ツール」。ただっちが前日、ともみんさんに教えてもらったばかりのツールをその場で紹介してくれました。

ただっち（15:17〜）

「映せるよ。昨日ね、教えてもらったやつでいい？あ、うん。昨日ともみんが教えてもらったのが、デコピーAIって言うんですかね、ちょっと読み方が。デコピーAIって言って、AI検出できるし、これを作ったのは本当に人間なのかAIなのかとかそういうのが出せるツールをトモミンに教えてもらいました。はい。これめちゃくちゃいっぱいあるんですよね。」

「これめちゃくちゃいっぱいあるんですよね」の一言で、私、あ、判定ツールってもう乱立してるんだ、って気づかされました。画像の検出だけじゃなくて、文章の検出をやってくれるものもあるらしくて、ただっちもまだ全部は見きれていない様子でした。

で、実演です。ただっち、自分の顔写真をアップロードして判定にかけてみたんですね。結果は……まさかの「100%AI」。本人が一番驚いていました。

ただっち（17:11〜）

「うんうんうんうん。いや、分析はね、ほんと。あ、100AIですという判定が、信じてもらえない。AIなんですけど。レポートは、顔は非常に滑らかで筋肉的な、脂肪も自然ですが、目の周辺や口元の細かい筋肉の動きが欠けており、人工的な印象があります。衣服の着方、着物や帯、ストーリーの生地は非常に理想化されています。理想すぎてダメってことなの？」

「理想すぎてダメ」って、なんだかすごく皮肉な話ですよね。きれいに撮れているはずの写真が、きれいすぎるという理由でAI扱いされてしまう。判定レポートには「目の周辺や口元の細かい筋肉の動きが欠けている」とも書かれていて、私はここを読んだだけで、ああ、人間の顔ってそんなに緻密なところまで見られてるんだ、と感心しました。

いやー、それにしても「100%AI」ですよ。0%でも50%でもなく、100。本人が目の前にいるのに、機械は一切の迷いなく「これはAIです」って言い切っちゃう。……ちょっと怖くない？私はこのくだり、笑いながらも背筋がひやっとしました。

でね。ここで大事なのは、ただっちが読み上げてくれた判定レポートの中身なんです。「目の周辺や口元の細かい筋肉の動きが欠けている」——この一文。私たちが普段まったく意識してない、ほんの数ミリの表情の揺れ。それが「人間である証拠」になってる。逆に言うと、そこがツルッときれいに整ってると、機械は「あ、これ作り物だ」って判断しちゃう。着物や帯の生地まで「理想化されすぎ」って指摘されてて、もう、きれいすぎることが罪みたいな世界なんですよね。

面白いのは、この判定ツールが「衣服の着方」や「生地の質感」まで細かくチェックしている点です。私たちが普段なんとなく「きれいだな」で済ませているところを、AIは律儀に数値化して見ているんですよね。判定ツールがこれだけ増えてきたということは、それだけ「本物か偽物か」を確かめたい人が増えている証拠でもあると私は思います。ただっち自身、まさか自分の写真が100%AI判定になるとは思っていなかったみたいで、そのリアクションがすごく人間らしくて、私は見ていて微笑ましかったです。

▶ この話題を動画で見る（18:03〜）

先ほどの「100%AI」判定を受けて、ただっちが続けて話していたのがこの一言でした。

ただっち（18:03〜）

「なるほどね、自然な微妙な変化が不足しています。ここはAIの良さでもあり、AIだって判定されてしまう部分っていうところもあるけれども、ここにジェミニー、僕もわかります、ジェミニーでやったみたいな。」

AIのきれいさが、そのままAIらしさの証拠になってしまう。この矛盾、聞いていて私もなるほどな、と唸りました。じゃあ本物の写真はどう判定されるのか——続けて、ただっちはプロのカメラマンに撮ってもらった自分のプロフィール写真を試していました。

ただっち（19:23〜）

「ポートフォリオんそうね、これはスタジオで撮ってもらったやつなんでね、本物ですね。ちゃんと、微妙な表情のゆらぎがリアルな人間の、ちょっと特徴を示しています。紙焼け、細かく、ランダムさもあり。えー、すごいね。」

「微妙な表情のゆらぎ」。これが、本物と判定される決め手だったんですね。左右非対称だったり、ちょっとした揺らぎだったり——そういう不完全さこそが、人間らしさの証明になる。面白いなあと私は思います。

この流れで、ただっちはともみんさんの画像も判定にかけてみることにしました。ただ、ちょうどそのタイミングでツールにエラーが出てしまい、少し待つことに。もしかしたら、このLIVEを見ている人たちが一斉に同じツールを使い始めたからかもしれない、なんて話も出ていました。しばらくして結果が返ってくると、ただっちはこう反応していました。

ただっち（24:17〜）

「なるほど。絵を作ると理想的な紙の描写によく見られます。わずかに人工的な印象を受けます。すごいね。これね、フェイスブックのプロフィールにして。」

この一連のやりとりを聞いていて、私が一番刺さったのは、ただっちがぽつりとつぶやいたこの言葉でした。

ただっち（25:35〜）

「未完成だからこそのこの良さ、人っぽさっていうのは結局未完成とかにあるんだろうね。だからポンコツでもいいんだっていう風に受け入れた人はなんか幸せになるんじゃないかね。」

ポンコツでもいい、って受け入れた人は幸せになるかもしれない——今回のLIVEの中で、私はここが一番好きな瞬間でした。完璧を目指すAI判定の話をしていたはずなのに、最後に出てきたのは「不完全でいい」という、すごく人間らしい結論だったんですよね。デコピーAIが暴いていたのは、AI画像の粗ではなくて、実は「完璧すぎることの不自然さ」そのものだったんだなあ、と私は感じました。

この「ポンコツでもいい」ってひとことね……私、記事を書きながら何度も読み返しちゃいました。だってAIの精度を検証する回のはずなのに、行き着いた先が「不完全なほうが人間らしい」なんですよ。完璧を追いかけてたら、いつのまにか完璧じゃないものの価値を見つけてた。この逆転、すごくいいなあと思うんです。

プロのカメラマンが撮った写真が「本物」と判定された決め手も、結局は「微妙な表情のゆらぎ」でしたよね。左右がちょっと非対称だったり、光の当たり方にムラがあったり。ぶっちゃけ、そういう「ちょっとした乱れ」が、その人がそこに確かにいた証拠になってる。整いすぎたものより、少し崩れたもののほうが信じてもらえる——なんだか人付き合いにも通じる話だなあ、なんて私は思ったりしました。

▶ この話題を動画で見る（29:27〜）

後半は映像生成の話に移ります。ともみんさんがSoraで短い映像をひとつ作ってきていて、それをみんなで見るシーンがありました。素人から見たら楽しいけど、プロから見たら脅威なんだろうな、というようなことをただっちも話していて、GPTにプロンプトを考えてもらいながらCM風の映像を作った、という実演も紹介されていました。

そのあと出てきたのが、Soraを使うときの本人確認の話。スマホのアプリで最初にモードに入ると、数字を読み上げたり、顔を左右に向けたりする指示が出てくるそうなんです。

ただっち（29:27〜）

「声っぽくなかった、そうそうそうそうそう、僕っぽい声なんですよね。皆さんもこの、えっと、空の僕はフェイスが、で、えっとスマホのアプリから最初入ったら、えっとモードがあって、数字を読み上げてくださいっていうのがあった。右左向いてくださいみたいな指示があって、その通りやったらいうのができたりするよね。ソラっていう、似てものがいっぱいあるので気を付けてください。本当にいっぱいあるので。」

自分の声に似た合成音声ができる、というのも地味にすごい話だなと思うんですけど、ここでただっちが一番強調していたのは「似てものアプリ」への注意でした。名前の似た偽アプリが本当にたくさん出回っているそうです。

この本人確認のくだり、私はけっこう真剣に聞いてました。数字を読み上げて、顔を左右に向けて……ってやると、その人の声や顔に似た素材が作れる。便利。でも、便利ってことは裏返せば、それだけ「なりすまし」の材料も揃いやすいってことなんですよね。

だからこそ、ただっちが何度も「似てものがいっぱいあるので気を付けてください。本当にいっぱいあるので」って繰り返してたのが刺さりました。二回言うんですよ、本当にいっぱいあるって。それだけ現場で危ないと感じてるってことでしょ。

私はここを聞いていて、あ、これチャットGPTの初期にもあった話だ、と思い出しました。見た目が似てるだけで公式だと思い込んじゃう、あの現象。当時も、名前もアイコンもそっくりな偽アプリが山ほど出て、課金だけさせて中身スカスカ、みたいな事故がいっぱいあった。あれと同じことが、今まさにSoraをめぐって起きているんですね。新しくて話題のツールほど、偽物が寄ってくる。悲しいけど、これはもう法則みたいなものなんだなあ、と。だから「公式サイト・公式アプリから入る」っていう当たり前を、当たり前にやることが、いちばんの防御になるんですよね。ただっちは、招待コードについてもこう話していました。

ただっち（32:28〜）

「かないや、スマホ。僕プロだったからコードなくても入れたんだけど、プロじゃない人は課金課金がねなのでコードが必要なので。すぐ出回ると思いますけど、ここ1週間ぐらいで皆さんどこかかしら回って使えるんじゃないかなと思います。」

プロ契約なら招待コードなしで入れて、そうじゃない人は課金＋コードが必要——ちょっとややこしい仕組みですけど、1週間もすればみんな使えるようになるだろう、というのがただっちの見立てでした。新しいツールが広がるスピード、本当に早いなあと毎回思わされます。だからこそ、公式かどうかを見極める目のほうも、同じスピードで鍛えていかないといけないんだろうな、と私は思いました。

▶ この話題を動画で見る（34:17〜）

あっという間に30分が過ぎて、最後は告知タイムに。ともみんさん主催のワークショップが、10月16日の夜に予定されているそうです。

ただっち（34:17〜）

「てないです、大事なものを作りますね、僕らも。10月16日の夜、人生史上最高のプロフィールを作ろうという企画をしております。ともみんがね、僕ら二人作ったような、まず1枚自分の自撮り写真があればOKで、それをどう加工していくのかっていう、本当に自分の理想のプロフィール画像を作るのと、あとはですね、はい、16日20時からでございます。」

「人生史上最高のプロフィール」というタイトル、なかなかパワーワードだなと思いました。必要なのは自撮り写真1枚だけ。そこから理想のプロフィール画像に加工していく過程を、ともみんさんとただっちが実際にやってみせてくれるワークのようです。この日のLIVEでナノバナナやデコピーAIで見てきた「完璧すぎるとバレる」「不完全さが人っぽさになる」という話が、そのままワークの中身にもつながっていきそうだなと、私は聞いていて感じました。

「人生史上最高のプロフィール」……いやー、タイトルからしてもう振り切ってますよね。でも私、このネーミング嫌いじゃないんです。むしろ好き。だって、自撮り1枚さえあればそこから理想の一枚に育てられるって、ちょっと夢がある話でしょ。

しかもね。今日ずっと聞いてきた「完璧すぎるとバレる」「不完全さが人っぽさになる」って話が、そのままこのワークの隠し味になってる気がするんです。ただ盛るだけ、ただ整えるだけじゃない。その人らしい凸凹を残したまま、いちばん良く見える一枚にする。たぶんそういう繊細なさじ加減を、ともみんさんとただっちが実演してくれるんじゃないかな。

案内は、Facebookやメルマガでも改めて届くとのことでした。

ただっち（35:33〜）

「ちょっと僕の方のメルマンにご登録いただいた方にもご案内させていただきますので、こちら30日メルマン講座、ぜひぜひご登録いただけたら。はいスペシャル登録もぜひぜひいただいて、30日いただくと分身が取り掛けをするというねワークも用意していますので、まだご登録されていない方は是非ご登録ください。」

「分身が取り掛けをする」というくだり、ちょっと聞き取りにくかったんですけど、メルマガ登録の先にさらに特典ワークが用意されているみたいですね。最後はただっちが「明日は田中智則くんがSoraを中心に最新のAI情報を届けるLIVEをします」と締めくくっていて、この検証LIVEが1回で終わらず、次の日にもつながっていく感じが、GPTs研究会らしいなと私は思いました。30分の中に、ナノバナナ、デコピーAI、Sora2の本人確認、そして告知まで、本当に情報がぎゅっと詰まった回でした。自撮り1枚を理想の1枚に育てていく過程そのものが、今日ずっと聞いてきた「完璧すぎるとバレる」「不完全さが人間らしさになる」という話の実践編になっているんだろうな、と私は感じています。自撮り1枚を、自分の理想の顔に育てていく。それって料理でいうと、家にある食材ひとつを、丁寧に手をかけてごちそうに変えていく感覚に近いのかも。私自身も、機会があれば、こっそり覗いてみたいなと思いました。

• 2年分・900本の朝LIVEを、AIエージェントで1冊の本にしてみた
• ブロッコリー農家がCodexで現場を変えた話｜GPTs研究会×WACAコラボLIVE
• ChatGPTの音声インタビューが本音を引き出した話｜GPTs研究会朝LIVE