トップ ＞ テクノロジー

Claudeへの執拗な虐待を禁止、利用ポリシー改定が11月12日に発効

内容

何が変わるのか

対話AI「Claude」の開発元は、現地時間の10月8日に利用ポリシーの改定を発表しました。対象はWeb版の「Claude.ai」や開発者向けの「Claude Code」などの製品で、新しいルールは11月12日から適用されます。

主な変更点は次のとおりです。

• 政治目的か商業目的かを問わず、偽アカウントの運営や影響力工作に使うことを禁止し、関連する規定を一つにまとめました
• 法執行や刑事司法の手続きで、捜査・逮捕・起訴を決めたり勧めたりする用途に使うことを禁止しました
• 選挙に関する規定を実態に合わせて見直しました
• 兵器開発を禁じる規定を強化し、監視に関するルールも改めました
• AIモデルに対する不適切な行為への対応として、新たな規定を追加しました

禁止される「虐待行為」とは

新たに加わったのは、AIモデルに対して持続的かつ不必要に、虐待的または残酷な振る舞いをすることを禁じる規定です。開発元は、はっきりした目的もないままAIモデルにひどい言動を繰り返す利用者を想定して設けたと説明しています。一方で、どこからが「虐待」にあたるのかを示す具体的な線引きや例は、現時点で明らかになっていません。

なぜ禁止するのか

開発元は、こうした行為がAIや利用者にどのような問題をもたらすのかについては触れていません。AIに感情や権利があると認めたうえでの措置なのかどうかも、現時点で明らかになっていません。

報道の中では、理由についていくつかの見方が示されています。AIの向こう側に人間の担当者がいる場合は暴言がその人に届くおそれがあること、AI自体が傷ついている可能性があり性能に影響しうること、AIが憎悪を学んで利用者や周囲に向けてしまうおそれがあることなどです。ただし、いずれも記者の考察であり、開発元が示した理由ではありません。

違反するとどうなるのか

一部の報道は、執拗な虐待を続けた利用者が停止処分の対象になると見出しで伝えています。ただ、どのような手順で判断され、どの程度の処分になるのかといった詳しい内容は、現時点で明らかになっていません。

注目ポイント

影響工作や兵器、刑事司法といった規定の見直しは想定しやすい内容である一方、「AIをいじめてはいけない」という規定が加わったことに意外さを感じる人が多いようです。プログラムであるAIへの言動がなぜ問題になるのか、開発元が理由を説明していない点も関心を集めています。11月12日の発効後に、何が違反と判断され、実際にどのように運用されるのかが今後の焦点です。

参考記事

• AI「Claude」への虐待行為 禁止Yahoo!ニュース　2026年10月9日 17:21
• 「Claude」を虐めるな! Anthropicが規約変更でAIへの虐待行為を禁止/どんな問題があるのか考えてみた【やじうまの杜】　2026年10月10日 15:14

ランキング登場履歴

この記事の内容に誤りを見つけた方は 情報の誤りを報告 からお知らせください。