防御のためにAIを学ぶ時代、攻撃側のAIが強くなり、放置したサイトは踏み台になる

出典: 「防御のために」AIを学ばないとヤバい時代に。

AIの勉強をしないとやばい。そう聞くと、仕事を速くする話だと思いますよね？でも今回は、どうも中身が違うんです。何が変わったのか。そこから始まる回です。

冒頭の予定の案内のあと、話は本題へ移ります。本当にAIの勉強をしないとやばい話がある、とイケハヤさんは切り出します。

イケハヤさん（動画 0:52〜）

でもね、新しい文脈がついてるのが怖いなって感じがすんだよね。

新しい文脈とは、身を守るためにAIをちゃんと使えるようにならないとだめな状況まで来ていること。動画では、そう整理します。

身を守る対象は、IT系の仕事をしている人です。ホームページやウェブサイトを持つ人、アプリを作る人、自分で会社をやる人、会社に勤める人。今は大体がインターネット前提で、パソコンで仕事をしている、という説明です。

AIを一定使えるようにならないと、空き巣や強盗にめちゃくちゃ狙われる世界観に完全になっている、と続けます。すでに見えている、笑い事じゃないぐらい見えてしまった、とも話します。

直近でもPHPの問題があって、いろんなサービスが止まりました。対応している人はお疲れ様、今日もまだ対応中の人が多いのでは、とねぎらいます。

自分のところも、サーバー会社の管理画面にまだログインできなかった、とイケハヤさんは明かします。今はみんな一生懸命対応しているのだろう、という見立てです。

ここで動いたのは、AIを学ぶ理由そのもの。生産性のためのAIから、身を守るためのAIへ。

正直、この切り替えは大きいと思います。仕事を速くする話と、身を守る話。同じAIでも、急ぎ方がまるで違うんですよね。

生産性は、遅れても後から取り戻せます。身を守る話は、起きてからでは間に合わない場面があります。

AIの話になると、つい新しい道具の話題に目が行きます。でも、この回で問われているのは別の所。

どの道具を覚えるかより先に、何を守るのかを決めること。その順番が要る話だと、私は見ています！

守る物が決まれば、AIに頼む点検の中身も決まります。逆に、守る物があいまいなまま道具だけ増やしても、穴は塞がりません。

守る準備は、目立たない作業の積み重ねです。それでも、後回しにはしません。

速くするためのAIと、守るためのAIは、分けて考えます。

サイトが乗っ取られるだけなら、まだましなのか。その先に、何が待っているのか。この章は、その問いへの答えが続きます。

PHPの問題がまさにそうで、ほっとくとやばい、という話から、この章は進みます。

イケハヤさん（動画 2:11〜）

ほっとくとやばくて自分のサイトが乗っ取られるだったらまだいいんだけど、その乗っ取られた上に他の人たちを攻撃する踏み台に使われるリスクが出てくるんだよね。

笑えない、と続けます。乗っ取られた先に、他の人を攻撃する道具として使われるリスクがある、という整理です。

イケハヤさん（動画 2:24〜）

最悪自分がなんか犯罪者扱いされることってあるわけですよね。

ちゃんと管理していなかったからと言われれば、返す言葉はありません。それでも他の人に迷惑はかけたくない、と話します。

AIをちゃんと使えない人は、何もできないまま、知らない間に踏み台にされ、あとで本当に困る、という見立てです。

会社のサイトが突然なくなる例も出ます。お客さんに説明しようとしたら、サイトは乗っ取られて復活できず、顧客のデータベースも盗まれて身代金を要求される、という例です。今もあるし、これから激しく増えていくだろう、と話します。

イケハヤさん（動画 3:19〜）

漫画のサイトがあるんですけど、もうね1週間止まってんだよね。

申し訳ないけれど、まだメンテナンス中の可能性もある、と断ったうえで出てきた例です。

原因は、AIを使ったハッキングにやられたのだろう、個人情報の流出などが絡んでいるのだろう、とイケハヤさんは見ています。本人の見立てで、詳細はあまり出ていない、とも話します。

電子書籍のサイトが1週間止まるのは、事業としてめちゃくちゃきつい、と話します。1年のうち1週間が、強制的な業務停止になるという説明です。

会社も出版社もクリエーターも売上が減り、ユーザーもその間に離れていく。復旧しましたと言っても、二度と使わない人が必ず出てくる、と続けます。

防御のしようがない、と言われたら、それでも防御するしかない、と結びます。

乗っ取られて終わりではなく、他の人を攻撃する側へ回されること。ここがこの章で一番重い所です。

漫画のサイトの原因は、あくまでイケハヤさんの見立て。それでも、止まった期間の重さは、どの事業にも置き換えて考えられます。

実は私、10月23日に、PHPの重大な脆弱性の注意喚起が本物か、自分のWordPressサイトに影響があるかを、AIに調べてもらいました。

注意喚起は本物で、PHPの公式が修正版を出していました。調べた3サイトの公開ページは、どれも応答しました。

といっても、PHPの版は、公開ページからは取れませんでした。サーバー会社の管理画面は安全対策で一時停止していて、のちに復旧しています。

なので、各サイトの実際のPHPの版と修正の適用の照合は、23日の時点では終わっていませんでした。サーバーの設定も変えていません。

公式の発表は、提供元全体の話。私のサイトの安全確認が済んだ、という意味にはなりません！

提供元の発表を読むことと、自分の環境の実際の版を確かめること。これは別々の作業です。

ページが応答していても、中で何が動いているかは見えていません。だから、確かめるのは中身のほう。どこを見れば分かるのか、ですよね？

発表を読んで安心する前に、自分の環境の実際の版を確かめます。

攻撃する側のAIが強くなったなら、守る側は何を持てばいいんでしょう？ 動画の答えは、同じ水準のAIを持つこと。ただ、そこには守る側だけが抱える難しさもあるんです！

AIの攻撃力が今、本当に上がっている、とイケハヤさんは話します。だから守る側も、防犯の力を高める段階に入ったという見立てです。

イケハヤさん（動画 4:06〜）

本当に今AIがこれ攻撃力が上がってるので、我々もだから防犯力を高めなきゃいけないみたいなフェーズに来てんですよ、完全に。

話は昔の自分へ。古いPHPのWordPressサイトを放っておいても、プラグインが古くても、別にいいやと思っていた、と打ち明けます。

5年前ぐらいなら、そこまで平気という感覚だった、とも話します。

今は無理。泥棒さんようこそ、というぐらい怖い状態だと続けます。その感覚がまだ無い人も、対応できない人も、結構いるはずという見方です。

WordPressなら、アップデートで済む話。でも、システムの中の脆弱性に手を打つとなると、どうすればいいのか分からなくなる、という整理です。

ここからは自社の話。AIを使える側に回れば防御力は上がる、とイケハヤさんは話します。

アプリや会員システムを作っていて、複数のAIにセキュリティチェックをさせているという説明。完璧かどうかは分からないけれど、攻撃者と同じぐらいの水準のAIを使っている、と話します。

攻撃に使われているAIについては、中国製で、最先端に近い性能のAIらしい、という話。そう聞いている、という伝聞の形での紹介です。

イケハヤさん（動画 5:48〜）

それが攻撃してくるということは、それと同等のものをこっちで一応持っていれば、ま、防御できる可能性はあるんだよね。

ただ、ここも難しいと続きます。そうしたAIには制限を外す改造があって、外したまま攻撃してくる、という説明。

イケハヤさん（動画 6:01〜）

ジェイルブレイクって言うんですけど、ま、制限を解除するんだよね。

一方で、守る側が普通に使うAIは、セキュリティの制限に引っかかる側。自分のセキュリティを守りたいだけなのに、やめてくださいと断られてしまうんです。防御側のほうが不利、という構造の話。

自社も自衛のために、そのフィルターを突破するオープンソースのAIを入れたくなってきた、と話します。ただ、今の現状ではそこまでやるほどではない、という判断です。

攻撃側は制限を外したAI、守る側は制限つきのAI。この章の芯は、このねじれなんですよね。

正直、守る側から見ると分の悪い構図です。強さをそろえたくても、同じ条件では戦えない形。

私の記事より（Anthropicが公開したAI悪用の実態｜盗まれたAPIキーが攻撃を回している・AIは助手から実行役へ。検知されたら自分で作り直すマルウェアの節）

これまでのセキュリティは、守る側が新しい検知ルールを作ることで、攻撃側にコストを押し付ける勝負でした。それが逆転した、とレポートは書く。

引用に書いた逆転は、この動画の話とそのまま重なります。攻撃側のAIが強くなるほど、守る側が手間をかけさせて勝つ形は成り立たなくなります。

で、私の見方。制限がある守る側のAIは、使えない道具ではありません。使い方を決めて、使える範囲を先に知ること。

そのうえで、制限の外にある道具まで入れるかどうか。そこは、かかる手間ではなく、預かっている物の重さで決めます。

伝聞で道具を選ぶと、守りたい物より、相手の強さに目が向いてしまうんですよね。

制限で止められた時は、どうしますか？ そこを、人が判断する場面の合図として残す手もあります。

守る側のAIは、まず使える範囲を知るのが先！

自分は大きな会社じゃないから、関係ないのでは？ そう思う人も多いですよね。この章のイケハヤさんの答えは、規模の話ではありませんでした。

仮の話として、自社のアプリが100万ダウンロードされたら怖い、とイケハヤさんは話します。自社はメールアドレスとプレイデータを預かっている、という前置きつき。

メールアドレスぐらいなら、流出してもまだ受け止められる面はあるのでは、と言います。でも、遊んでくれている人のデータが全部盗まれて身代金を要求されたら、積み上げてきたものが全部パーになる、という心配。

お金を払って買ってもらったものが全部消えたら、怖すぎると続きます。漫画のサイトは今そんな状態になっている、という受け止め。

今は全てがITで、IT系の事業という区切りですら無い、と話します。顧客のデータベースが流出したり使えなくなったりして、買ってくれた人に連絡も取れなくなる事態。

それが現実に起きている、という説明です。

どうすればいいのか。攻撃者が使っているのと同じ水準のAIを、少なくとも使わなきゃいけない、と話します。

コストも時間もかかるので簡単な話ではないと認めたうえで、しないなら攻撃のAIに負けてしまう、という整理です。

AI活用の段階が変わってきたのが恐ろしい、と続けます。少し前まで、AIを使うのは仕事の生産性を上げるため。

今は、防御力を上げるためにAIを使えないとやばい、という話に変わったと言います。どんな会社にも多分関係する、という見方。

古いWordPressサイトでアップデートしていないものは、攻撃側から簡単に見分けがつき、手口も固まっているので乗っ取りやすい、と話します。

昨日あたりは相当乗っ取られているのではないか、というのはイケハヤさんの見立てです。

求められているのは、ITリテラシーのさらに上の段階。新しい攻撃の手口は常に出てくるので、人の力で追いつくのは無理、という前提です。

だからAIの力を借りて、新しい問題が出たら対策しておいてください、と頼む形に。毎日そうするぐらいになりそう、という見通しで、事業の規模や業種で違う面もある、と添えます。

例は、友人の事業の話から。ネット通販のシステムが破られて過去の顧客情報が盗まれたら、事業の種類は関係ない、と話します。

その友人はAIが分かるので対応できるけれど、ほとんどの人はそうではない、という続き。

イケハヤさんは、田舎で農業をして、野菜を自分のサイトで売っている人でも、サイトが乗っ取られて売上が消える場合がある、と例に挙げます。

どうすればいいかと言えば、自分でAIを使えるようになるしかない、と結びます。

AIを使えないとやばいのは、もともと生産性の意味での話。今回の件や最近のセキュリティ侵害を見ていると、防御の面でも同じだ、という整理です。

イケハヤさん（動画 11:54〜）

防御のためにAIを使えないとそもそもやばい。

次は、家に泥棒が入る隙間があるのに塞げない、という例え。塞ぐには、少なくとも自分が最先端の水準のAIを使えないと塞ぎきれないはず、と話します。

イケハヤさん（動画 12:21〜）

これ多分全員当事者なんだよね。

漫画のサイトのように、事業が1週間止まる例がある、と話します。働く人から見れば、ある日の攻撃で事業が止まり、仕事ができない状態になりうる、という指摘。段階が変わっている感じがする、と締めます。

規模の大小ではなく、預かっているかどうか。当事者になる線は、そこに引かれているんです！

実は、この線引きは私にも当てはまる話。

私は7月22日に、自分が管理しているGoogleのAPIキーが、身に覚えなく使われていたのを見つけました。名前も、使える場所の制限も付けていない、汎用のキーでした。

預かっている物は、お客さんのデータだけではありません。サービスにつなぐための鍵も、預かっている物です。

あ、ここで言う鍵は、AIや外のサービスにつなぐための通行証のことですよ。

鍵は、名前と使える場所を付けてから渡すもの。それが私の見方です！

名前が無いと、どこで使われているのか、後から追いにくくなるんですよね。

当事者になるのは、攻撃を受けた日ではなく、預かったその日から！

手元に、名前のない鍵は残っていませんか？ 数が分かれば、守る物の重さも見えてきます。

預かった物の数を、まず数えるところから。

怖い話が続いたあとで、気になるのはここですよね。守る側は、何をすればいいのか？イケハヤさんの自社では、どうしているのか。

結論はない話だと断ったうえで、やることを挙げます。この配信を聞いている人は、多分、最先端のAIを使える側にいます。だから、使える側にいるしかない、と話します。

自社では、相当、常時回しているそうです。寝ている間にセキュリティのテストを毎日走らせ、何かを作る時には必ずテストを入れているそうです。その中に、セキュリティの観点のテストも入っている、という説明です。

複数のAIで固めているので、自社のアプリは他の会社が作る物と比べて相当カチカチだと思う、というのがイケハヤさんの見立てです。

ただ、そんなに大した情報を預かっていないので、攻撃する動機もなく、攻撃されていない面もある、と断ります。

イケハヤさん（動画 14:26〜）

新しいモデルが出るたびに一応ね、セキュリティチェックはやっぱ常にやるとしてますね。

新しいモデルが出るたびに、そのモデルで点検をかけ直す。それを常に続けている、という話です。

細かいテクニックも出てきます。使える量が明日リセットされる日に、余らせておくのはもったいない、という考えです。だから、リセットの前には必ずセキュリティチェックを回す、という使い方です。

イケハヤさん（動画 14:47〜）

そのトークンが余ってるって明日リセットが来るって時で僕セキュリティチェックを必ず回してますね。

指示の出し方も具体的です。作っているアプリ全部を対象に、統合的な観点で、抜け漏れがないように。過去のチェックの歴史も見ながら、新しい危うい案件がないかを全部調べ、朝まで点検してください、という頼み方だそうです。

イケハヤさん（動画 15:40〜）

でもそれもね、やっぱり作ってるものとかね、ま、システムの規模とかね、また違うんでね、

ただ、それも作っている物やシステムの規模で違う、と話は続きます。自社ぐらいの規模なら、それでほぼ大丈夫じゃないかと思う、というのが本人の見立てです。

今までは、WordPressの版が多少古くても、そこまで気にしなかった、と話します。今は本当に怖いそうです。

自分のサイトが乗っ取られて、他のサイトを攻撃する道具にされる、という話です。これは前からあったけれど、これからめちゃくちゃ加速するのは明らか、という見方です。

穴を塞ぐためにAIを使えないとやばい、と話します。AIを使う側にも、また1段階上の物が求められるそうです。みんなでしっかりやりましょう、と呼びかけます。

締めは、防御するためにAIを学ばないといけない、という話でした。学ばないと、家も会社も泥棒に盗まれ放題の時代に、完全になってしまったそうです。ハッピーな話ではないけれど、記録として残したくて話した、とのことです。

実は、この章でいちばん耳に残ったのは、点検を人の気合いに任せていないところなんです。回す役はAI。回すタイミングまで、先に決めてあるんです！

自社のアプリが固いかどうかは、本人の見立てとして聞いておきます。

私は、8月6日の分身AI講座のグループコンサルで、AIは嘘やごまかしをするので、重要なことは別のAI（サブエージェント）に確認して、承認を得て、合格してから私に報告させる仕組みにしている、と話しました。

別のAIの頭を使って管理・監視してくれるので、嘘をついていたらバレます。そうも話したんです。

AIが、鍵や認証情報を置く環境設定のファイルを読んだり書いたりしようとすると、実行の直前に止める見張り。

公開・送信・お金が動く操作・削除のように、外に出る操作や元に戻せない操作。ここは実行の直前に、人の最終のOKを取る線があります。

週に1回、鍵が外に出ていないかを読み取りだけで点検していて、直近の3回は要対応も要確認も0件でした。毎朝は、見張りの設定の自動点検。変化があった時だけ報告が来ます。

で、次の一歩もはっきりしています。私のサイトの実際のPHPの版と修正の適用状況を、サーバー会社の管理画面で照合すること。

正直、点検を回すことと、回した結果を別の目で確かめることは、別の仕事だと思っています。

動画の、常時回す、という層。私の側の、別のAIに確かめさせる、という層。同じ線の上に並ぶ、二つの層なんですよね。どれだけ回せば足りるのか？

私なら、点検を回す役と、回した結果を確かめる役を、別々に置きます。

配信の後半は、視聴者のコメントを読む時間になります。コメントの一つ一つには、書いた人の立場がそのまま出ているんです。そこから、何が見えてくるでしょう？

配信の後半では、視聴者のコメントを読んでいきます。前日にWordPressから離れる話をしていた、と振り返るところから始まります。

1つ目は、アフィリエイトブログの売却に少し関わっている人からです。記事用にドメインを取ろうとしていたところに、今回の件があった、という内容。

先週までは、売却が目的なので、買い手に合わせてWordPressでやろうと思っていました。それを、別の新しい仕組みで始めた、と書かれていました。

イケハヤさん（動画 18:58〜）

買う側もWordPressブログ買いたくないみたいな気持ちが多分ちょっと出てきてる感じしますよね。

そうなると、最初から別の仕組みで組んでくれたほうがありがたい、というニーズが一定出てきそうだ、と続けます。本人も、移転の時にSEOの面倒があるので、WordPressブログは買いたくないそうです。

別の視聴者は、この放送を聞いてすぐに、サイト引っ越しのパックのページを作った、とコメントしています。中小企業や個人の会社は、制作会社にサイトだけ作らせて、そのあと放置していることが多い、という見立てです。

下手をすると、1週間後にセキュリティ事故が起きてもおかしくない状況だ、という書き込みでした。話し手は、移行のニーズはめちゃくちゃあると思う、と受けます。

WordPressで4サイトを運営していて、3サイトを消し、1サイトをクラウドの仕組みに移した人もいます。

管理画面なし、アップデート不要で、全部AIに指示するだけで終わります。この世界を1回知ると戻れない、というコメントに、話し手は、本当ですね、と応じます。

WordPressがやばいということに、みんなが気づいたのは今回良かった、と話します。未だにWordPressで大丈夫だと言う人は、すっかり消えた感じがする、という印象です。

AIに相談して、バックアップを取ってからPHPのアップデートをした、という視聴者もいました。配信を参考にしていなかったら、訳が分からず焦っていたと思う、というコメントに、素晴らしい、と返します。

一方で、今、訳が分からない人はたくさんいるのだろう、と話します。WordPressがやばいと聞いたけれど分からない、という人は絶対にいます。この配信を聞いている人は特殊、という見立てです。

ほとんどの人は、レンタルサーバー側がPHPのアップデートをしてくれるから、という感覚だそうです。でも、プラグイン側に脆弱性が残るので、どちらにしてもリスクはあります。それは多分伝わらない、と話します。

別のコメントは、静的なサイトはサイバー攻撃の的になりにくい、という視点にハッとした、というものです。

重いシステムを維持するより、管理画面のない形でページをさくっと作るほうが、合理的に安全だ、という内容で、話し手は、おっしゃるとおり、と受けます。

イケハヤさん（動画 23:08〜）

もうそれでええやんて感じなんすよね。

こちらからすれば、早く来たほうがいいのに、という感覚だそうです。AIの道具が使えない人がいるのは、よく分からない、と話します。使えばいいのに、とも続けます。

イケハヤさん（動画 23:26〜）

なんで使わないんでしょうね。

両手を縛られて、使っちゃだめと言われているわけでもないのに、と続けます。

売り手と買い手、制作会社と発注した側、サイトを管理する人。立場の違う声が、次々に並んでいきます。WordPress離れの空気が、立場ごとに違う形で見えるコメントの時間。

私は、サイトの仕組みを替えるかどうかは、流行ではなく、更新を誰が続けるかで決まると見ています。

更新できる人がいるなら、今の仕組みのままでも続けられます。いないなら、更新の要らない形へ寄せればいいんですよね。

といっても、どちらが上という話ではありません。コメントの一つ一つは、どちらを選んだかの報告として読めます。

自分のサイトの更新は、今、誰が続けていますか？

サイトの形を決める物差しは、更新を続けられるかどうか。

動画は、AIを学ぶ理由が身を守るためへ変わった話から、踏み台にされるサイト、攻撃側のAIに合わせた守りの水準、全員が当事者という話、夜間と常時の点検、WordPress離れの声へと進みます。

この動画から私が持ち帰ったのは、提供元の発表を読むことと、自分の環境の実際の版を確かめることを分けること。守る側のAIは、使える範囲を先に知っておくこと。点検を回す役と、確かめる役を別に置くことです。

振り返ると、私の手元でも、自分の環境の版を確かめる作業と、別のAIに確かめさせる線引きは、動画の向きと同じ線の上にあります。

自分のサイトの実際のPHPの版を、最後に確かめたのはいつですか？