明確で説得力のある議論：フロンティアAI安全性ケースの基盤を再考する

概要: 本論文はフロンティアAIシステムの安全性ケースをめぐる初期の議論に貢献する。安全性ケースとは、あるシステムが特定の文脈で許容できる安全性を持って配備可能であることを構造的かつ防御可能に示す議論である。歴史的に、安全性ケースは航空宇宙、原子力、自動車などの安全クリティカルな産業で用いられてきた。その結果、フロンティアAIの安全性ケースは、先進的フロンティア開発者の安全方針や、シンガポール・グローバルAI安全研究優先事項コンセンサスや国際AI安全報告書など、生成AIのリーダーによって提案された国際的研究アジェンダの中で注目度が高まっている。本論文はこれらの取り組みを評価するものである。我々は、保証コミュニティの教訓を明示的に引き出しているアラインメントコミュニティ内の研究には大きな限界があることを指摘する。したがって、既存のアラインメント安全性ケースのアプローチを再考することを目指す。安全保証の既存手法からの教訓を提供し、アラインメントコミュニティの現行アプローチに含まれる限界を概説する。この基盤に基づき、欺瞞的アラインメントとCBRN能力に焦点を当てた安全性ケースの事例研究を示す。これは、アラインメント安全性ケースコミュニティが作成した理論的な安全性ケース「スケッチ」に基づいている。総じて、安全クリティカルな文脈で適用されてきた厳密な理論と方法論を通じて、安全保証分野からの包括的な洞察を提供する。これにより、フロンティアAIシステムの安全性を確かなものとするための堅牢で防御可能かつ有用な安全性ケース手法の基盤的枠組みを構築することを目指している。