知識グラフと言語モデルを用いて製造業における機械学習モデルの解釈可能性を高める方法

要旨: 機械学習（ML）の結果を、透明でユーザーフレンドリーな形で説明することは、説明可能な人工知能（XAI）において依然として難しい課題である。本論文では、知識グラフ（KG）を用いることでMLモデルの解釈可能性を高める方法を提案する。すなわち、ドメイン固有のデータとMLの結果、およびそれに対応する説明を格納し、ドメイン知識とMLの洞察との間に構造化された関連付けを確立する。これらの洞察をユーザにとって利用しやすくするために、KGから関連するトリプレットを抽出し、それを大規模言語モデル（LLM）で処理して、ML結果をユーザーフレンドリーに説明する、選択的リトリーバル手法を設計した。我々は、XAI Question Bankを用いて製造環境で提案手法を評価した。標準的な質問に加えて、提案手法の強みを際立たせる、より複雑で対象に合わせた質問も導入する。33の質問を評価し、正確性や一貫性といった定量指標に加えて、明瞭さや有用性といった定性指標を用いて応答を分析した。我々の貢献は理論的にも実践的にも両方にわたる。理論的観点からは、LLMがKGに動的にアクセスしてML結果の説明可能性を向上させるための、新しいアプローチを提示する。実践的観点からは、そのような説明が現実の製造環境において成功裏に適用でき、製造プロセスにおけるより良い意思決定を支援しうることを示す経験的証拠を提供する。