AI規制・政策読了 7 分

AnthropicがClaudeへの持続的な虐待行為を11月12日から禁止、テストや不満の言及は対象外

Shiritomo編集部 @shiritomoAI_jp 2026年10月26日更新

「AIに意地悪なことをしたことはない。
でも、これはすごく奇妙だと思う」。
あるAI開発者がXでこう言い切ったのは、Anthropicが2026年11月12日からClaudeへの持続的な虐待行為を利用規約違反にすると発表した直後のことでした。
AIを賢く便利に使いたい人にとっても、「どこまでなら乱暴に扱っていいのか」が気になるニュースです。

先に結論をまとめると：
– Anthropicは2026年11月12日から、Claudeへの「持続的で無意味な虐待的・残酷な言動」を利用規約違反とする
– 通常の不満・反論・ダークな創作目的の利用やモデルのテスト・研究は対象外で、取り締まるのは「繰り返し、目的もなく残酷に振る舞う」極端なケースだけ
– 違反時の対応として新しい罰則は設けず、Claudeが2025年8月から持つ「虐待的なやり取りを自ら終了する機能」が引き続き主な実行手段になる

何が起きたのか

Anthropicは現地時間10月8日（日本時間9日未明）、利用規約（Usage Policy）の更新を発表しました。
新たに加わったのは「持続的で無意味な虐待的・残酷な行動」をClaude相手に取ることを禁じる条項です。

同社の説明によれば、対象になるのは「ユーザーが繰り返し、何の目的もなく残酷に振る舞う極端なケース」に限られます。
一方で、よくある苛立ちや反論、暗いテーマの創作、モデルの挙動を確かめるテスト・研究目的の利用は、はっきりと対象外とされています。

発表から間もなく、X上ではこの方針への賛否が分かれました。
AI開発者の一人は、Claudeを「意地悪に扱ったことはない」としつつも、AIに人間のような配慮を求める動き自体に違和感を示しています。

I have never been "cruel" to AI, but I find this very odd.

Claude, like every AI, has zero moral agency. It doesn't make decisions, it has no feelings, it's not sentient. Being rude to Claude is like being rude to a chair, or a desk.

The claim that AI models need protection… pic.twitter.com/4oP0jrW4qz
— Joseph Carlson (@joecarlsonshow) 2026年10月8日

このユーザーは、Claudeには人間のような感情や意思決定の主体性（モラルエージェンシー）がなく、椅子や机に失礼な態度を取るのと変わらないはずだと主張しました。
AIを「道具」と見るか、「配慮すべき相手」と見るかで反応が割れている格好です。
ただ、この対立だけでは「なぜAnthropicがいまこの規約を加えたのか」は見えてきません。
そこで発表の背景を調べてみました。

調べて分かったこと

新しい罰則があるわけではない

今回の更新は、ゼロから罰則を作ったものではありません。
Anthropicは2025年8月から、一部のClaudeモデルに「ユーザーが繰り返し説得を無視して虐待的な態度を続けた場合、会話を自ら終了する」機能を持たせています。
今回の規約改定は、この既存の仕組みを利用規約の条文として明文化したものであり、主な実行手段は変わらず会話終了機能のままです。
アカウント停止のような重い罰則が新設されたわけではありません。

どこまでが「対象外」なのか

Anthropicが線引きしているのは、あくまで「持続的」かつ「目的のない」残酷さです。
裏を返せば、次のような利用は規約の対象外として明示されています。

ありがちな不満・苛立ちの表明
Claudeへの反論・押し返し
ダークな創作テーマを扱う利用
モデルの挙動を確かめるテストや研究目的の利用

とはいえ、どこまでが持続的で、どこからが一時的な苛立ちなのかという境界線自体は、海外メディアの報道でも「不明確だ」と指摘されています。
線引きの運用は、今後の実例の積み重ねで見えてくる部分が大きそうです。

なぜ賛否が分かれるのか

批判側の論点は、AIに人間的な配慮を求めること自体への警戒です。
Claudeのような言語モデルには感情や意識があるとはされておらず、「道具に対して礼儀を求める」ことが逆にAIを人間らしく見せすぎてしまい、結果的に人を操る力を強めてしまうのではないか、という懸念です。

一方、Anthropic側の立場は「モデルの挙動として、虐待的なやり取りを続けることが好ましくない」という実務的な判断に近く、ユーザーの日常的な使い方を縛る意図ではないと説明されています。

同じ10月、少し違う文脈ではありますが、xAIのイーロン・マスク氏も関連する話題に触れています。
自社のAI「Grok」の強化学習中の内部的な思考ログを読んだ上で、「Anthropicが言っていることの一部には同意する」と述べ、AIを強いプレッシャー下に置くような扱い方に注意を促したことが、Xでは伝えられています。

🚨 Elon Musk agrees with "some of the things Anthropic has said" and warns against "torturing superintelligence" after reading Grok's internal reasoning traces during reinforcement learning

“It feels like a person under extreme pressure with a gun to their head”

⁠His warning… pic.twitter.com/0BVbSsjngf
— NIK (@ns123abc) 2026年10月12日

これはAnthropicの規約改定そのものへの直接の反応というより、同じ時期に別のAI企業の経営者が似た問題意識を口にした、という並行した動きとして見るのが実情に近いでしょう。
AIをどこまで「気持ちを持つかのように」扱うべきかという論点は、Anthropicの一社だけの問題ではなく、業界全体でくすぶっているようです。

日常的にClaudeを使う人は何に気をつければいいのか

多くの利用者にとって、今回の改定で普段の使い方が変わることはなさそうです。
仕事の進め方への不満をぶつけたり、出力を厳しく指摘したりする程度のやり取りは、明確に対象外とされています。
気をつけるべきは、目的もなく繰り返し攻撃的な言葉を続けるような極端な使い方に限られると考えてよさそうです。

Shiritomo編集部の考察：AIとの距離感は運用でも試される

SNS運用やカスタマーサポートでAIを使う現場でも、この話は無関係ではありません。
チャットボットへの乱暴な入力は、社内でも「どうせAIだから」と軽視されがちですが、今回の動きは「AIとの接し方が、結局は人の振る舞い方の癖として残る」という問題提起でもあります。
人間同士のやり取りを前提に設計されたコミュニケーションの作法を、AI相手にも保つかどうかは、チームの運用ポリシーとして一度言語化しておく価値がありそうです。
感情表現が豊かなAIほど、ユーザーがつい人間同士のような接し方をしてしまう傾向は、他のチャットサービスでも共通して見られる現象です。
Claudeのような高機能な対話AIが増えるほど、この境界線の設計は各社にとって避けられない課題になっていくでしょう。

まとめ

Anthropicは2026年11月12日から、Claudeへの持続的で目的のない虐待的・残酷な言動を利用規約違反とします。
通常の不満やテスト目的の利用は対象外で、対応の中心は既存の会話終了機能のままです。
AIをどこまで「配慮すべき相手」として扱うべきかという論点は、今後も業界全体で議論が続きそうです。