Compliance-by-Construction Argument Graphs: 証明書グレードの説明責任のために、生成AIを用いて証拠に連結された形式的な議論を生成する

Abstract

重大な判断システムでは、説明責任と規制遵守を確実にするため、構造化された正当化、追跡可能性、監査可能性がますます求められています。安全性に重大なシステムの認証において一般的に用いられる形式的な論証は、検証可能な形で主張、推論、証拠を構造化するための仕組みを提供します。同時に、生成的人工知能（Generative AI）システムは、判断支援のワークフローへますます統合されており、説明文の作成、証拠の要約、推奨の生成を支援しています。しかし、現在の導入では、多くの場合、言語モデルがゆるく制約されたアシスタントとして利用されているため、幻覚を伴う推論、裏付けのない主張、弱い追跡可能性といったリスクが生じます。本論文は、生成的人工知能（GenAI）を構造化された形式的論証表現と統合する「構成による遵守（compliance-by-construction）」アーキテクチャを提案します。このアプローチでは、AI支援の各ステップを、検証可能な証拠によって裏付けられ、公式な判断記録の一部になる前に明示的な推論制約に照らして検証されるべき主張として扱います。アーキテクチャは4つのコンポーネントを組み合わせます。i) 保証ケース（assurance-case）手法に触発された、型付きの論証グラフ表現、ii) 権威ある証拠に基づいて論証の断片を下書きするための検索拡張生成（RAG）、iii) 完全性および許容可能性の制約を強制する推論・検証カーネル、iv) 監査可能性を支えるためにW3C PROV標準に整合したプロヴェナンス台帳です。強制可能な不変条件と、作業例（worked examples）に基づくシステム設計および評価戦略を提示します。分析の結果、決定論的な検証ルールによって、裏付けのない主張が判断記録に入るのを防ぎつつ、GenAIによって論証構築を加速できることが示唆されます。