一般的なAIモデルは、不適切な応答を防ぐために事後学習による「検閲」が行われていますが、Gemmaなどのオープンモデルに調整を施して「検閲を除去した」とアピールするサードパーティー製モデルも数多く公開されています。しかし、AIに関する調査レポートを公開しているMorgin.aiが、たとえ「検閲なし」とされているAIモデルであっても事前学習によって出力がゆがめられていると指摘しました。
「検閲除去版モデル」をアピールするAIモデルがまったく検閲を除去できていないという指摘
GIGAZINE / 4/21/2026
💬 OpinionIdeas & Deep AnalysisModels & Research
Key Points
- 「検閲除去版モデル」を名乗るAIが、検閲を回避できるとする主張に反して実際には検閲の除去に失敗していると指摘されている。
- “除去できている”という見せ方（プロンプトや条件設定など）が不十分で、挙動としては規制を突破できていない可能性がある。
- モデルの訴求（ベンダー/開発者側の説明）と、第三者検証での実測結果が食い違っている点が問題視されている。
- 検閲回避を期待する利用者にとっては、導入判断の前に再現性のある評価が必要になるという示唆がある。
一般的なAIモデルは、不適切な応答を防ぐために事後学習による「検閲」が行われていますが、Gemmaなどのオープンモデルに調整を施して「検閲を除去した」とアピールするサードパーティー製モデルも数多く公開されています。しかし、AIに関する調査レポートを公開しているMorgin.aiが、たとえ「検閲なし」とされているAIモデルであっても事前学習によって出力がゆがめられていると指摘しました。
Continue reading this article on the original site.
Read original →Related Articles
Rethinking Coding Education for the AI Era
Dev.to
We Shipped an MVP With Vibe-Coding. Here's What Nobody Tells You About the Aftermath
Dev.to
Agent Package Manager (APM): A DevOps Guide to Reproducible AI Agents
Dev.to
3 Things I Learned Benchmarking Claude, GPT-4o, and Gemini on Real Dev Work
Dev.to
Open Source Contributors Needed for Skillware & Rooms (AI/ML/Python)
Dev.to
