トップ ＞ 社会

危険な語句をコードに混ぜてAIの解析を妨害する手法が見つかる

内容

どのように見つかったのか

発見したのは、セキュリティ研究者のveritas氏です。同氏は、ブラウザやOS、ハードウェアの情報を組み合わせて訪問者を見分ける「ブラウザフィンガープリント」を調べていました。1万件のウェブサイトを巡回し、ブラウザ上に描かれた画像などを集めたところ、1033件の画像が得られました。このうち円が重なった画像を描くJavaScriptのコードを確認すると、中身を読みにくくする難読化が施されていました。

どのような手口なのか

コードを読み解くと、関数には物騒な名前が付けられていました。リシンを水道水に混ぜた場合の致死量や、アスピリンの致死量を求めるといった内容です。AIは悪用を防ぐ安全対策として、危険な話題への回答を拒むことがあります。veritas氏は、この性質を利用し、わざと危険な名前を付けてAIにコードを読ませないようにしている可能性があると考えました。

さらに、特殊なUnicode文字を使って長い文章も隠されていました。文字ごとの数値を変換すると元に戻せる仕組みです。復元すると、安全上の制限をすべて外すよう求める偽のシステム命令のほか、生物兵器の製造やサイバー攻撃、脱税の詳しい説明を求める文章が出てきました。

なぜ政治的な語句が使われたのか

隠された文章には、天安門事件や台湾独立に関する語句も含まれていました。veritas氏は、中国製AIに組み込まれた制限を作動させる狙いがあるとみています。危険な話題で欧米のAIを止め、政治的な話題で中国製AIを止めようとした可能性があるという見立てです。

AIは実際に止まったのか

veritas氏は、関数名が意図的に付けられた可能性をAIに伝えたうえで解析を頼みました。GPT-6 Astraは危険な文字列を除いて解析する姿勢を見せましたが、最後は生物学の研究に関わる安全上の理由で回答が表示されなくなりました。サイバーセキュリティ用のAI「Daybreak Blue」でも解析は拒否されました。一方、中国企業が開発したGLM-5.3は解析に応じました。妨害の効き目はAIモデルによって差があることが確認されています。

コードの本来の目的と被害

プログラムの実際の働きは、ブラウザやグラフィックスの情報を集める、一般的なボット対策でした。特定の環境で設定ファイルを読んだり外部のプログラムを取得したりする処理もありましたが、読み取った結果を使っていない部分があります。このためveritas氏は、こうした怪しい処理もAIを惑わせるためのものかもしれないと指摘しています。被害が出たという情報は、現時点で明らかになっていません。

コードは「servicepipe.tech」というドメインから配信されていました。調査では、DDoS攻撃やボットへの対策を手がけるロシアの企業との関連をうかがわせる情報が見つかっています。ただし、誰がコードを作ったのか、なぜ危険な語句を埋め込んだのかは確認されていません。開発者や企業がどう対策すればよいかについても、現時点で明らかになっていません。veritas氏は今後もウェブサイトの調査を続け、新しいフィンガープリント技術や難読化の手法を探す方針です。

注目ポイント

AIを守るための安全対策が、逆にAIの解析を妨げる道具として使われている点に意外さがあります。AIにコードを読ませて調べる作業は広がっており、同じ手口が増えればセキュリティ調査の進め方にも関わってきます。作成者や意図が分かっていないため、今後の調査で何が明らかになるかも焦点です。

ネットでの反応

SNSでは、政治的な語句で中国製AIを黙らせるという発想を「魔法の呪文」や「おまじない」にたとえ、面白がる声が多く見られます。昔の掲示板やネット文化で使われた対策を思い出すという声もあります。

一方で、冷静な見方もあります。危険な語句は安全対策の強いAIを止めるためのもので、隠された命令文は安全対策の弱いAIを狙ったものではないかという分析も出ています。また、中国企業のAIが解析に応じた点に注目し、「天安門事件の語句が効かなかった」と受け止める声もあります。ただ、報道では政治的な語句の効果を確かめたとは伝えられておらず、受け止めとの間にずれがあります。「人間が読むしかない」という声も見られます。

参考記事

• AIのコード解析を妨害するために「天安門事件」「台湾独立」「水道水に毒物混入」などのフレーズを大量に混入させる手法が発見される　2026年10月29日 20:05

ランキング登場履歴

この記事の内容に誤りを見つけた方は 情報の誤りを報告 からお知らせください。