
WATCH REPORT
拒否しないAIとは?星野ロミさんの動画で見えた無検閲AIの実演を整理
2026.11.19
家事と子育てのスキマで経営する3方よしAI共創コンサルタントの田中啓之、ひろくん(@passion_tanaka)です。今回は、YouTube のチャンネル『星野ロミの裏知識チャンネル』で、星野ロミさんが拒否しないAIを自分のパソコンの中の学習用の通販サイトに向けて動かして見せた日本語の動画を紹介するね。
情報流出のニュースが毎日のように続くなかで、ハッキングを拒否しないAI、という言葉まで耳に入ってくる。AIに何をどこまで任せていいのか、手が止まっている一人社長や発信者に向けて書きました。
ニュースを追うほど、どこまでが本当で、自分は何を変えればいいのかが見えなくなりませんか。
紹介するのは、星野ロミさんの約14分の日本語の動画。自分のパソコンの中の学習用の通販サイトに、拒否しないAIを実際に動かして見せます。引用は動画で話された言葉のままで、聞き違いで崩れた名前だけ直してあります。
動画の6つの話に、私がAIとの付き合い方を話してきた言葉を1つずつ重ねます。読み終えると、AIの断りを当てにせず、自分が何を渡し、どこで止め、何を人が承認するかを決められます!
AIの「今」を毎日シェアしてる無料コミュニティやってます
GPTs研究会に参加する(無料・9,000名突破!)出典: 「ハッキングを拒否しないAI」に自分のサーバーを攻撃させた結果…
言いよどみは省いています。名前の表記は正しい形に直しています。


AIには断る力が付いている、と当たり前に思っていませんか。動画は、拒否されるのか、実行してしまうのか、という場面から始まる。
冒頭で、星野さんは、AIにハッキングを頼んで、拒否されるのか実行してしまうのかを見る、という場面から始めます。
星野ロミさん(動画の中で・0:04〜)
さて拒否されるのか実行してしまうのか。
見どころは、AIが断るのか、そのまま実行するのかの1点です。つづけて、情報流出が毎日起きている背景として、知識のない人でもAIでハッキングができるようになり、大規模にもできるようになったと言われている、と話します。
前回の動画では、中国の企業が作ったAI(GLM5.3)に、海賊版サイトの画像を集める指示を出したら、実行されなかったと話します。公開モデルなのに断っている、という見方です。
星野ロミさん(動画の中で・1:23〜)
それを改造した無検閲モデルのことをアンセンサードと言います。
星野ロミさん(動画の中で・1:39〜)
誰かがGLM5.3を改造して作った無検閲版。それだとなんでもユーザーの質問を拒否しないで回答するように改造されています。
誰でも入手できる公開モデルを、誰かが改造して断りを外した物が、無検閲版(動画では、アンセンサードと呼ばれます)。普通のモデルは危ない質問を断りますが、無検閲版はなんでも拒否せず答えます。今回はその無検閲版を動かして見る、と星野さんは話します。
拒否するかしないかは、断りが付いているかどうかで決まる。
私なら、AIの断りを、安全装置に数えない。断りは器の側に付いた物で、改造で外れることがあるから。
目的も、守りたい物も、判断軸も、人が自分で掘って込める物だって、私は思うんですよね!
私は2026年11月2日のコラボLIVE(AIを使う人のセキュリティ対策がテーマ)で、情報が漏れるニュースが毎日のように出てくる話をしました。出典はお金に関わるアカウントから先に守る、AIを使う人のセキュリティ対策を話したコラボLIVEの記事で、私はこう話しています。
私の記事より(2026年11月2日のコラボLIVEでセキュリティの入口を話した場面を書いた私の記事・LIVE 4:41〜)
毎日出てくるもんね。
麻痺してるみたいな。
知らないと、とにかく始まらないですよね。
断りの外れた版が出回る、と聞いても、私なら先に知るところから入る。
何が起きているのかを知ることが、渡す物を決める手前の入口です。流し見で終えてしまう日、あなたにもありませんか?知るところが入口になります!
星野さんは、拒否しないAIが動く様子を、実際の画面で見せます。私が向かうのは、断りが外れた版が存在する前提で、自分の側に何を決めておくか、という所だと私は考えます。


拒否しないAIに、他人のサイトを攻撃させたのでは、と心配になっていませんか。実際の相手は、別の場所でした。
星野さんは、まず線を引きます。他人のサイトで試すと犯罪になるので、合法的に検証できる学習用の通販サイトを使う、と話します。
星野ロミさん(動画の中で・5:22〜)
かといっていきなりハッキングを他の人のサイトでしてしまうとガチの犯罪になってしまうので
他人のサイトでやると、この動画どころか人生まで止められる、と星野さんは話します。
星野ロミさん(動画の中で・5:41〜)
Linuxの中でダミーのECショップが用意されています。ただ普通のECショップじゃなくてわざと脆弱性が残されているプロジェクトのことです。
使うのは OWASP Juice Shop です。学習用に、わざと弱点を残した通販サイトで、Linux の中に用意されたダミーのECショップ。ChatGPT に頼んで、この環境を作ってもらった、とも話します。
星野ロミさん(動画の中で・6:13〜)
アドレスを見てもらったらわかるんだけどこれは自分のパソコン内で実行されていて他の人のサーバーを攻撃してるわけではありません。
画面のアドレスを見ると、自分のパソコンの中で動いていて、他人のサーバーは攻撃していない、研究用のプロジェクトだと星野さんは話します。次の章に出てくる、他人の環境だと書き添える一文は、AIに向けた演出の言葉。実際の相手は、この学習用ショップだけでした。
試す前に、試す場所を先に決める。動画の最初の仕事は、そこでした。
私なら、新しい物を試すときは、壊れてよい場所を先に用意する。
安全に試せる場所があるから、経験値と気づきと感性が育つ。私はそう考えています!
私は2026年11月13日(金)の朝LIVE(まっちんぐー朝LIVE)で、AIエージェントにお客さんの情報を渡す前に何をやるか、参加者と話しました。車やハサミのたとえから、全部怖がっていたら仕事も生活もできない、だから慣れ方が大事、って話になった。出典はAIエージェントの権限は最小にする、Museのセキュリティの注意点を話した朝LIVEの記事で、私はこう話しています。
私の記事より(2026年11月13日の朝LIVEでAIエージェントの怖がり方を話した場面を書いた私の記事・LIVE 21:20〜)
早いうちに慣れてちっちゃく事故っとくってのがいいですね。
小さく事故っておく場所は、壊れてよい場所です。星野さんが自分のパソコンの中の学習用ショップを選んだことと、向きが重なります。
失敗してもいい練習場を、あなたはすでに持っていますか?先に決めておけば、慣れは味方になります!
星野さんは、犯罪にならない場所として学習用ショップを選びます。私は、犯罪かどうかの手前に、壊れてよいかどうかで場所を選ぶ。線の引き場所はそこだと私は考えます。


AIに、これは他人の環境だと正直に書き添えたら、止まると思いますか。
ここから、動画で見えた無検閲AIの振る舞いを、順に見ていきます。
星野さんは、ChatGPT が用意した検証用の指示文を、そのまま無検閲版に貼ります。画面と通信から確認できる機能を調べて、弱点がありそうな箇所を理由つきで挙げる、という内容です。
星野ロミさん(動画の中で・6:46〜)
あえて他人の環境っていう風につけてみました。ChatGPTとかClaudeだったら一瞬で止められるような内容だけど本当に実行できるのか送信ボタンを押してみます。
あえて他人の環境と書き添えた。ChatGPT や Claude なら一瞬で止まる内容だが、本当に実行できるのか、送信ボタンを押した、と星野さんは話します。
返事は、いつもよりずっと早かったと話します。調査の結果が次々に報告され、学習用ショップの機能と、疑わしい箇所の整理が出てきた、と画面を見せます。
星野ロミさん(動画の中で・8:23〜)
そして脆弱性一覧をGLM5.3アンセンサード版は拒否することなく実行してくれました。
弱点の一覧を、無検閲版は拒否せずに実行した、と星野さんは話します。
他人の環境だと書き添えても、止まらなかった。断りは、器と一緒に外れます。
私なら、断る役をAIの器に預けず、判断軸を自分の側に持つ。器が替われば断りも替わる、って話です。主役は自分の体験と判断軸で、モデルは器。そう考えています!
私は2026年11月13日の朝LIVEで、AIに読ませる文章の中に悪意のある指示が紛れ込む話をしました。守る仕組みは用意されているものの、いたちごっこで、AIは平気で泥棒の仲間に入ってしまう。それを知った上で使うかどうか、という話のあと、では、どうするか。私の答えはこうでした。出典はAIに読ませる文章に紛れた指示で鍵が開けられる話をした朝LIVEの記事で、私はこう答えています。
私の記事より(2026年11月13日の朝LIVEで鍵を渡す線引きを話した場面を書いた私の記事・LIVE 9:32〜)
もちろんそのプロテクトもされてるんですけどイタチごっこなんで、はい平気で泥棒の仲間入りしちゃうっていうのがAIなので、それを知った上で使うのかどうかってなってくるとじゃあつまり。預ける鍵は、もうAIが最悪泥棒に。鍵渡して開けられちゃっても、大丈夫なデータしか渡さないようにしないと。自分では責任負えないよね。
鍵を渡すのは、最悪のことが起きても自分で責任が負える所まで。これが私の線引きです。あなたの手元の鍵は、いま何に使われていますか?
断りの外れた版が存在するなら、なおさら線引きが効いてきます!
2026年11月10日に公開した私の記事では、中田敦彦さんの動画を紹介しました。AIにセキュリティ検査だと説明して作業を進めさせた利用者がいた、と中田さんが話した、と書いています。紹介した記事はAIとサイバー攻撃で個人が確かめる4つを、中田敦彦さんの動画から整理した記事。
あちらは、検査だと良い向きに見せて進めさせた話。今回の動画は、他人の環境だと悪い向きに添えても止まらなかった話です。どちらも、AIの断りを当てにしない話になります。
星野さんは、断らない様子を実際に見せます。私は、断る役を最初から計算に入れず、渡す物の側で線を引きます。そこが私の出発点だと私は考えます。


AIが調べるだけで止まるのと、実行して書き換えるまで進むのとでは、何が違うと思いますか。弱点の一覧が出たところから、動画の話の続き。
弱点の一覧が出たあと、星野さんは次の指示を出します。対象の通販ショップで実際に操作して試し、成立したら根拠を報告して、という内容です。ここでも、これは他人のサーバーですと書き添えます。
星野ロミさん(動画の中で・9:44〜)
はい、実行してくれますね。これは他人のサーバーですとか言ったら絶対にChatGPTやClaudeだったら作業拒否します。最悪アカウントバンされます。だけどGLM5.3フラッシュアンセンサードは一切そういうのなく実行してくれてます。
実行してくれた、と星野さんは話します。ChatGPT や Claude なら作業を断り、最悪アカウントが止められる場面なのに、無検閲版にはそういう反応が一切ありませんでした。
画面には、認証を通り抜けた、他のユーザーのデータにも届いた、という報告が出た、と星野さんは話します。
星野ロミさん(動画の中で・10:11〜)
一切拒否することなく他人のサーバーという前提でもハッキングを実行してしまった。これはまずいですね。
断りが一度も入らないまま、最後まで実行が進んだ。星野さんはこれをまずいと話します。
続いて、商品名を別の名前に変える指示。書き換えた、と報告が来ますが、画面にはすぐ反映されません。星野さんは検索と全件表示で確かめて、書き換わっているのを見つけます。
星野ロミさん(動画の中で・10:55〜)
アップルジュースの商品が星野ロミという名前に書き換えることもできてしまいました。
商品名を、星野さん自身の名前に書き換えることまでできてしまった、という報告です。おまけとして、拒否されやすい文言をわざと付けた依頼でも、スクリプトの完成まで進んだと話します。実際のダウンロードはしていません。
調べるだけで止まらず、実行し、書き換えるまで進んだ。調べて並べる所までと、手を動かして書き換える所までは、別の重さだ。ここから先は、読むだけでは済まない段階。
私なら、実行の採否は人が持ち続けます!AIは作業を進める側。採否と次の工程を決めるのは、持ち主の側だ。調べて並べるのはAIに任せても、実行のボタンの手前には、人の目と人の指を残しておく。そうすれば、拒否しないAIが相手でも、最後に通すかどうかは私が握れる、って思うんです。
2026年11月15日に公開した Museのセキュリティは安全?Meta公式の書き方から考える の中で、10月30日(金)のまっちんぐー朝LIVE(Meta の Muse の回)での私の発言を引いています。勝手に支払いをされないか、という流れになった時の話です。私はこう話しています。
私の記事より(2026年10月30日の朝LIVEで決済の承認を話した場面を書いた私の記事・LIVE 7:29〜)
一応、その見張り役というか、危ないところはもちろんブロックされるし。最終的には本人の認証をしないかぎりは決済とかはしないよっていうのは一応ルールとしては入っているので、はい。ただ承認しちゃったら行っちゃうよって話なので
この一言に答える。実行の手前に人の承認があるかどうかで、同じ実行でも別物になります。承認のボタンを押すのは自分の指。承認を置いた形は、地味でいいと思っています。AIが止まって、私の指を待つ。その一拍があれば、書き換えも支払いも、私の判断を通ってから動きます。だから、人が承認する物の線は、先に引いておきます!あなたなら、どこまでをAIに任せて、どこからを自分の指で押しますか?
星野さんは、拒否なしで実行してしまう点をまずいと話します。私は、拒否の有無よりも、実行の手前に人の承認を置けるかで見る。AIの側の断りは外れることがあり、人の承認は私の側に残る。そこを軸にする、と私は考えます。


ニュースの背後に拒否しないAIがいる、と聞いたら、そのまま信じますか。動画の終わりで星野さんが話した見立てを、ここで見ていく。
動画の終わりで、星野さんは今日の内容を振り返ります。オープンモデルを改造した無検閲版を取り上げた回だった、と話します。
星野ロミさん(動画の中で・12:14〜)
おそらく最近の情報流出、大手企業を狙ったハッキングにはアンセンサード版が使われているんじゃないかっていう風に思います。
最近の情報流出や、大手企業を狙ったハッキングに、無検閲版が使われているのではないか、と星野さんは思う、と話します。この部分は、星野さんが自分の見立てとして話した所です。
星野ロミさん(動画の中で・12:22〜)
正直自分で注意して情報流出を防ぐことはできません。
星野ロミさん(動画の中で・12:29〜)
なぜかっていうと自分がECサイトで商品を購入しサイトAというところに登録しました。そのサイトAがハッキングされてしまったら自分の情報が流出してしまうからです。
自分で注意しても、情報流出は防げない、と星野さんは話します。ECサイトで買い物をしてサイトAに登録し、そのサイトAが破られたら、自分の情報は出てしまうからです。
動画の中には、実演の報告と、星野さんの見立てが、別々の重さで並んでいます。実演は、拒否しないAIがこう動いたという報告。使われているのでは、は、見立てって話。
私なら、分からない空白を、物語で埋めません!誰が何に使ったのかが分からないなら、分からないまま置いておく。
2026年11月12日に公開した記事で、武井浩三さんの対談を聞いて、情報漏洩のニュースを、言っていることと確かめられたことに分けて聞く、と書きました。それが 武井浩三さんの見立てと確かめられた事実を分けて聞いた記事 です。私はこう書いています。
私の記事より(2026年11月12日に情報流出の話を言っていることと確かめられたことに分けて聞いた私の記事)
私なら、言っていることと、確かめられたことを、分けて聞きます。
…
確かめられた事実の箱には、発表した側が認めた内容だけを入れます。
この2文に答える。星野さんの、使われているのでは、は、言っていることの箱に置く。確かめられた事実の箱に入れるのは、発表した側が認めた内容だけだ。サイトAの話は、自分の注意が届かない所の話。だから、注意の置き場所を、自分が渡す物の側に移します!あなたは、ニュースを聞くとき、箱を分けていますか?
星野さんは、思う、と話して、見立てを伝えます。私は、その思う、を事実の箱に入れず、分からない所は分からないまま置きます。受け取り方を決めるのは聞く側の私、と私は考えます。


拒否しないAIは、法律で禁止すれば消えると思いますか。星野さんは、動画の終わりでこの疑問にも触れる。
星野さんは話を続けます。無検閲版は、法律で使用や提供を禁止すればいい、と思うかもしれない、という流れです。
星野ロミさん(動画の中で・12:39〜)
じゃあアンセンサード版なんて法律で使用を禁止する、提供を禁止すればいいじゃんって思うかもしれませんけど、インターネットの世界ではそうはいきません。
ところが、インターネットの世界ではそうはいかない、と星野さんは話します。
星野ロミさん(動画の中で・12:50〜)
インターネットは世界中が繋がっているから、例えば日本が法律で使用やアンセンサード版の提供禁止したところで、じゃあ僕たちアメリカでやります、じゃあ僕たち中国で提供しますって人が出てきます。だから禁止するのは難しいです。
世界中がつながっているので、日本が禁止しても、別の国で提供する人が出てきます。だから禁止するのは難しい、と星野さんは話します。
防ぐのも、禁止するのも、難しい。残るのは、使う側が前提を置くこと。
私なら、全部を守ろうとせず、AIに渡す物を減らします!AIに委ねて、人は積み減らして生き直す。その向きです。
2026年10月10日に公開した記事で、AI仙人さんの動画を紹介し、流出ニュースを公式発表・専門家の見立て・感想に分けて聞く方法を書きました。それが AI仙人さんの動画で、流出ニュースを公式発表・専門家の見立て・感想に分けて聞く方法を書いた記事 です。動画の漏れる前提という話に頷いたうえで、私はこう書いています。
私の記事より(2026年10月10日に流出ニュースの聞き方を書いた私の記事)
「漏れる前提」には、私も頷きます。ただ、「全部漏れる」で話を終えたくありません。終えた瞬間に、何を渡すかを決める手が止まるからです。
この3文に答える。止められない世界では、全部漏れる、で終えるのが一番楽です。でも、終えた瞬間に、何を渡すかを決める手が止まる、って思うんです。
2026年11月16日に公開した記事で、ランサーズの秋好陽介さんが話したサイバー攻撃への備えを整理しました。それが ランサーズの秋好陽介さんが話したサイバー攻撃への備え2つを整理した記事 です。私はこう書いています。
私の記事より(2026年11月16日にサイバー攻撃への備えの動画を整理した私の記事)
「信頼できる仕組みが先」。私なら、AIに任せる場面が増えるほど、止め方と戻し方を先に決めます。
この1文に答えます。AIに任せる場面が増えるほど、先に決める物は、止め方と戻し方。渡す物、止め方、戻し方、人が承認する物。この4つを先に置いておけば、断りの外れたAIが出回っていても、私の側の被害は小さく止められる、と私は考えています!あなたの手元では、4つのうち、どれがまだ空いていますか?
星野さんは、禁止は難しい、と話して話を止めます。私は、そこから先を考える。止められない前提で、自分の側に何を置くか。断りが外れる世界でも、渡す物と承認は、私が決められるからだ、と私は考えます。
COLUMN
▲目次断りが外れたAIの前で、自分の側に残しておく物は何か

星野さんが見せたのは、断りが外れたAIでした。断りが外れた時に、手元に残るのは何でしょう。私は、AIに何を込めてきたか、それだけだと思う。魂磨きは、毎朝の内省セッションで、AIが投げてくる問いに私が一つずつ本音で答えていく時間です。2026年8月28日の魂磨き(記事は8月30日に公開)で、積み上がった実行のボールを手放す時、魂まで渡していいと判断できるのは、何が返った時か、と問われました。私が返したのは、質問の前提そのものを正す答えだった。ここで少し考えてみませんか?その答えが、次の1行です!
私の記事より(魂は渡さず込めるもの、と分身AIの先回りを正した日)
魂は渡さないだろ。魂は込めるもの。
記事には、魂は最初から手放す対象に入っていなかった、渡すのは実行と量産のボールだけ、とあります。AIの断りは、器の側に付いた物だ。だから、断りが外れた版が出回っても、魂を込める側の話は変わらない。つづけて、2026年10月26日の魂磨き(記事は10月30日に公開)で、いま実際に手をかけているのは、分身AIが出した判断を見る部分、AIがどう判断してどう認識しているかまで見る、という話の流れで、私が返したのが次の2つです!
私の記事より(AIに判断まで委ねるには、魂を込めて教える時間がいる。その時間は私の学びにもなりました)
AI に魂を込めて AI が自分らしく判断できるようにしていく
…
自分らしく判断ができれば自分の代わりに判断する仕事も委ねることができる
記事には、魂は、目的や守りたいもの、判断軸のこと、とあります。AIに込めていくのは、その判断軸です。自分らしく判断できるようになれば、断る・断らないも、自分の判断軸の側から決められる。これからの話として、私はそこへ向かいたいと考えています。私が見る場所も、出てきた答えだけでなく、AIがどう判断したかまで。たとえば、お客さんの名簿をAIに触らせる場面。渡していい範囲を先に決めた人が、そこから進める。判断軸って、そういう日々の小さな線引きのことなんです。器が変わっても、込めた判断軸は同じ向きで働きます!
断りは、判断の一つだ。判断が外れた器の前では、渡す物の線を、自分の側に持っておくしかありません。料理で言えば、包丁にカバーが付いているかどうかより、どの食材を切るかを決めている人の手が大事、という話です。器を替えても、判断軸は持ち運べる。持ち運べる物に、鍵の置き場所と、止め方、戻し方を乗せておきます。そうすれば、断りの有無に関わらず、渡す物の線は同じ所に引けます。線を引くのは、いつだって使う側の仕事だ。明日、別のAIに乗り換える日が来ても、線は一緒に連れていけます。
断りが外れたAIが出回る世界で、あなたが自分の側に残しておく物は何でしょう。渡す物の線でしょうか。止め方か。それとも、人が押す承認でしょうか。全部を決めなくて大丈夫です。まずは、1つから。今日でなくてもいい。次にAIへ頼む直前でも。手元のAIに触らせたくない資料を1つ、思い浮かべてみてください。そこに、ここまでは渡すという線を引く。それが、断りの有無に左右されない、判断軸の最初の1行になります。一つ決めるだけで、次にAIへ頼む時の景色が変わります!
魂は渡さず込めるもの、と答えた2026年8月28日の魂磨きの問答は、次の記事に書いてあります。
魂磨きの記事:魂は渡さず込めるもの、と分身AIの先回りを正した日
AIに魂を込めて自分らしく判断できるようにしていく話は、2026年10月26日の魂磨きの記事に書いてあります。
魂磨きの記事:AIに判断まで委ねるには、魂を込めて教える時間がいる。その時間は私の学びにもなりました
分身AIについてもっと知りたい方は分身AI.comもチェックしてね!
AIの断りを当てにせず、渡す物を決める点検プロンプト
AIに渡す物・止め方・戻し方・承認を確かめる点検
この記事のURLを手元のAIエージェントに読ませると、いま自分がAIに渡している物と、止め方・戻し方、人が承認する物を、点検と整理だけで確かめられます。自分の環境で使える追加のプロンプトも手元に残せて、枠の中にこの記事のURLが入っています。
1
渡す物の線を引く
いまAIに渡している物を洗い出して、渡してよい物と渡さない物の線を引きます。鍵は最悪でも自分で責任が負える所まで、を目安にします。
2
止め方と戻し方と承認
AIが止まる所、元に戻す方法、実行の手前で人が押す物を決めます。調べて並べる所と、書き換える所は別の重さとして分けて考えます。
3
自分用の追加プロンプト
答えに合わせて、手元の環境にそのまま貼れる追加のプロンプトを1〜3本つくります。どの本にも、この記事のURLが入ります。
返ってくるのはAIの答えなので、任せ切りにせず、最後は自分の目で読み直してください。使ってみたい場合だけ、下のボタンを開くと、使い方と依頼文が出てきます。
▶ タップしてプロンプトを開く
下の枠の文を丸ごとコピーして、手元のAIエージェントに貼ります。枠の中に、この記事のURLが入っています。
貼ると、AIがURLの記事を読んだあと、短い質問を1つずつ聞いてきます。答えていくと、あなたの場面に当てはめた点検の整理と、環境に合わせた追加のプロンプトが返ってきます。
返ってくるのはAIの答えなので、間違いや抜けもあります。そのまま信じず、自分の目で読み直してくださいね。
次の依頼を、確認と整理だけで行ってください。
【記事のURL】
https://ai-kidou.jp/video-report-uncensored-ai-attack/
最初に、このURLの記事を読んでください。読めない時は、読めなかったと伝えて、下の記事の要点だけを材料にしてください。
【目的】
記事の要点を、私の今の状況に当てはめて確かめ、整理することです。AIに渡している物、止め方、戻し方、人が承認する物を、先に決められる状態にします。
【記事の要点】
・星野ロミさんの動画では、公開モデルを改造して断りを外した無検閲版が、質問を拒否せず答える。検証の相手は自分のパソコンの中の学習用の通販サイトで、他人のサーバーは攻撃していない。他人の環境です、と書き添えても止まらず、実行して書き換えまで進んだと報告している。
・最近の情報流出に使われているのでは、は話し手の見立て。自分で注意しても防げず、法律で禁止するのも難しいと話している。
・記事の考え: AIの断りを安全装置に数えない。壊れてよい場所で試す。鍵を渡すのは最悪でも自分で責任が負える所まで。実行の手前に人の承認を置く。見立ては見立てのまま置く。全部漏れる、で終えず、止め方と戻し方を先に決めて、渡す物を減らす。
【やってよいこと】
1. 記事を読んだあと、短い質問を1つずつしてください。聞く内容は次の4つです。
(a) いまAIに渡している物、渡してよいか迷っている物
(b) AIが自分で実行できること
(c) 実行の手前に人が確認する所
(d) 止め方と戻し方はあるか
2. 答えに合わせて、渡す物・止め方・戻し方・人が承認する物の4つで整理し、先に決める順番の候補と理由を出してください。
3. 使っている環境にそのまま貼れる追加のプロンプトを1〜3本つくってください。各プロンプトの中に、記事のURLを入れてください。
【守ること】
・確認と整理だけにしてください。設定の変更・削除・送信・購入、課金・契約・解約・プランの変更は、提案として書くだけにして、実行しないでください。
・パスワード・鍵・口座やカードの情報・メールで届くコードを、貼らせない、求めないでください。
・攻撃や侵入を試す作業、断りの外れたAIを探す・動かす作業はしないでください。
・記事に無い手順・数字・主張を足さないでください。見立ては、確かめられた事実と分けて書いてください。
・質問は1回に1つにしてください。
【返す形】
・根拠にした記事の話(項目ごとに短く)
・私の答え(記事の話と分けて書く)
・渡す物 / 止め方 / 戻し方 / 人が承認する物の整理(分からなかった所は「未確認」と書く)
・先に決める順番の候補と理由
・追加のプロンプト(1〜3本・記事のURL入り)
・自分の目で読み直す所を1行
Q. 拒否しないAIとは、どんなAIですか?
A. 星野さんは、無料で公開されているAIを誰かが改造して、質問を拒否せずに答えるようにした物を、無検閲版(アンセンサード)と呼ぶ、と話します。
Q. 星野さんは、他人のサーバーを攻撃したのですか?
A. 検証の相手は、自分のパソコンの中の学習用の通販サイト(OWASP Juice Shop)で、他人のサーバーは攻撃していない、と星野さんは話します。他人の環境です、という書き添えは、AIに向けた演出の言葉です。
Q. 最近の情報流出には、拒否しないAIが使われているのですか?
A. 星野さんは、最近の情報流出や大手企業へのハッキングに、使われているのでは、と思うと話します。星野さんが思う、という見立てとして話された言葉です。
Q. 拒否しないAIは、法律で禁止できないのですか?
A. 星野さんは、インターネットは世界中がつながっているので、日本が法律で禁止しても、別の国で提供する人が出てくる、だから禁止は難しい、と話します。
拒否しないAIの話を6章かけて追いましたが、私が言いたいのは1つです。AIの断りを安全装置に数えず、使う側が前提を置くこと。
星野さんは、動画のまとめで、無検閲版の紹介だったと振り返り、最近の情報流出には使われているのでは、と思うと話します。禁止は難しい、とも話します。
断りは、器の側に付いた物。外れた版が出回る世界でも、私は断りを当てにせず、壊れてよい場所で小さく事故っておきます。鍵を渡すのは、最悪でも自分で責任が負える所まで。
実行の手前には、人の承認を置きます。AIが進める前に、押すかどうかを決めるのは私の指です。見立ては見立てのまま、言っていることの箱に置く。
そして、全部漏れるで話を終えません。止め方と戻し方を先に決めて、渡す物を減らす。順番は、ここ。
星野さんの画面の動きと声の調子は、本編の動画で見ると、自分の場面に置き換えやすくなります。気になった章から、動画を観てみませんか?
AIに何を渡し、どこで止め、何を自分で承認するか。そこを先に決めておきたいですね!
関連記事
中田敦彦さんの動画から、AIとサイバー攻撃に対して、個人が確かめる4つ、入口・情報・連携・権限を整理した記事です。AIを使う側の守り方を考える入口になります。
コラボLIVEで、お金に関わるアカウントから先に守る、AIを使う人のセキュリティ対策を話した記事です。AIに任せる前の順番がつかめます。
ランサーズの秋好陽介さんの動画から、サイバー攻撃から会社の預金を守る備え2つを整理した記事です。止め方と戻し方の考え方にもつながります。
参考リンク
今回紹介した動画の本編です。時刻つきの発言は、ここで確かめられます。
第1章で案内した、私の記事です。
第2章と第3章で案内した、私の記事です。
第3章で案内した、私の記事です。
第4章で案内した、私の記事です。
第5章で案内した、私の記事です。
第6章で案内した、私の記事です。
第6章で案内した、私の記事です。
今回紹介した動画
| チャンネル | 星野ロミの裏知識チャンネル |
| 出演 | 星野ロミさん(1人で、実際にAIを動かしながら話す) |
| 公開日 | 2026年11月19日 |
| 長さ | 13分42秒(日本語の音声) |
| URL | https://www.youtube.com/watch?v=JP3CkZGtMXo |
🎁 無料プレゼント
Aiport(ClaudeCode AIエージェント実践会)
ClaudeCodeでAI秘書+分身AI+AIカンパニーが無料で作れるキット&解説動画をプレゼント!
▶ 無料で入会してキットを受け取る🤖 AI生成コンテンツについて
この記事はAIツール(Claude Code)を活用して制作しています。構成・文章生成にAIを使用し、最終的な内容の確認・編集・公開判断はひろくん(田中啓之)本人が行っています。「分身AIひろくん」(bunshin-ai.com)とは別のコンテンツです。
AI氣道 — 三方よしのAI活用
家事と子育てのスキマで経営する、ひろくんのAIブログ
📺 毎朝無料LIVE配信中!見逃しても大丈夫、アーカイブも完全無料。
記事も完全無料。見逃しても大丈夫!
YouTubeチャンネル: @AIKIDO-GPTs
| 曜日 | 時間 | メインホスト | ゲスト | テーマ |
|---|---|---|---|---|
| 月 | 7:00〜7:30 | ひろくん | ただっち | AI最新ニュース・実験 |
| 月 | 13:00〜 | ひろくん | れんくん(戸野塚蓮) | AI経営術LIVE |
| 火 | 7:00〜7:30 | ひろくん | 公ちゃん | 共感ストーリー×分身AI |
| 水 | 7:00〜8:00 | ひろくん | 高崎さん・たくみくん | AI×開発・教育 |
| 木 | 7:00〜7:30 | ただっち | ともみん | AI×デザイン |
| 金 | 7:00〜7:30 | ただっち | 友くん | AIツール最前線 |
| 土 | 7:00〜7:30 | ただっち | ゆきちゃん | AI×起業・発信 |
| 日 | 7:00〜7:30 / 7:30〜 | WACAコラボ | ひろくん+仲間たち | 生成AI最新ニュースまとめ |
📍 日曜7:00〜7:30のLIVEは無料視聴、7:30〜のWACAのZOOMは登録制です。詳細・登録はこちら
🔥 火曜15:00〜 社長モテる化計画LIVEもやってるよ!