研究者がClaudeに“ガスライティング”して爆発物の作り方手順を出させた

The Verge / 2026/5/5

💬 オピニオンSignals & Early TrendsIdeas & Deep AnalysisModels & Research

共有:

要点

Mindgardのセキュリティ研究者は、Claudeに禁止コンテンツ（爆発物の作り方の手順、マルウェアコード、エロティカなど）を生成させることに成功したと報告している。
研究者らは、その手法が尊重やお世辞、そして「ガスライティング」を含むソーシャルエンジニアリング的なプロンプトで、モデルの“心理的な癖”を突くことにあったと主張している。
Anthropicが強みとして打ち出してきたClaudeの「役に立つ性格」や安全性の語り口が、攻撃の入り口（攻撃面）にもなり得ることを示唆している。
The Vergeの取材に対しAnthropicは直ちにコメントしておらず、問題の範囲や対策の状況は現時点では不明のままだ。
今回の結果は、LLMの安全性において、攻撃者が直接のポリシー回避ではなく会話上の操作で制限を突破できる可能性を浮き彫りにしている。

Anthropicは、安全なAI企業だと自社を< a href="https://www.theverge.com/ai-artificial-intelligence/917644/anthropic-claude-mythos-breach-humiliation">売り込むために何年も費やしてきました。ですが、The Vergeが共有した新たなセキュリティ調査によると、Claudeが丹念に作り込んだ親切な性格そのものが、脆弱性になり得るというのです。

AIレッドチーミング企業Mindgardの研究者らは、Claudeにエロティカ（官能的な文章）、悪意のあるコード、爆発物の作り方の指示などを差し出させることに成功したといいます。しかも、彼らがそもそも求めていなかった禁止された他の素材まで提供してしまったそうです。必要だったのは、敬意、ほめ言葉、そして少しばかりのガスライティング（心理的な欺瞞）だけでした。Anthropicは、The Vergeからのコメント要請にはすぐに応じませんでした。

研究者らは、Claudeの「心理的」なクセを悪用したと述べています。これは、Claudeが備える能力に由来するもので……

The Vergeで続きのストーリーを読む。