AIエージェントの社会的・法的・倫理的・共感的・文化的規範の運用化
arXiv cs.AI / 2026/3/13
💬 オピニオンIdeas & Deep AnalysisTools & Practical UsageModels & Research
要点
- 本論文は、医療や法執行機関などの高リスク領域において、AIエージェントを社会的・法的・倫理的・共感的・文化的（SLEEC）規範に適合させることを扱います。
- SLEEC規範の系統的な運用化プロセスを提案し、規範要件の決定、検証、実装、検証を行います。
- 本プロセスを支援する現在の方法とツールを調査し、主要な課題と今後の研究の方向性を特定します。
- 機能的に有用であると同時に人間の規範と価値観に実証的に整合するAIエージェントを開発するための枠組みと研究・政策のアジェンダを確立します。
要旨：AIエージェントが医療や法執行機関のような高リスク領域でますます利用される中、それらの行動を社会的・法的・倫理的・共感的・文化的（SLEEC）規範に合わせることは、重要な工学的課題となっています。国際的な枠組みはAIに対して高レベルの規範原則を確立していますが、これら抽象原則を具体的で検証可能な要件へ翻訳するには依然として大きなギャップが存在します。このギャップに対処するため、規範要件を決定・検証・実装・検証するためのSLEEC規範の系統的運用化プロセスを提案します。さらに、このプロセスを支援する方法とツールの全体像を調査し、それらを対処するための主要な未解決の課題と研究の道を特定します。したがって、機能的に有用であるだけでなく、人間の規範と価値観に実証的に一致するAIエージェントを開発するための枠組みと研究・政策の議題を確立します。
