説明ではない：言語学習システムにおける説明失敗を説明可能性の落とし穴として評価する

要旨: AIを活用した語学学習ツールは、世界中の何百万人もの学習者に対して、ますます即時かつパーソナライズされたフィードバックを提供するようになっています。しかし、そのフィードバックは、学習者--そして教師でさえ--が検知しにくい形で失敗することがあり、誤解を強化し、長期間の利用によって学習成果を損なう可能性があります。本稿では、言語教育におけるAIシステムを評価するためのベンチマーク「L2-Bench」の一部を提示します。ここには、有効なフィードバックのための6つの重要な側面（これには限りません）が含まれます。すなわち、診断の正確さ、適切性への気づき、誤りの原因、優先順位付け、改善のためのガイダンス、自己調整を支えることです。私たちは、AIシステムがこれらの側面に関してどのように失敗しうるかを分析します。これらの失敗は、「説明可能性（explainability）の落とし穴」を助長するものであると私たちは主張します。つまり、表面的には役に立つように見えるものの、根本的に欠陥があり、到達度（成績）、人間とAIの相互作用、そして社会情動的（ソシオアフェクティブ）な害のリスクを高める、AI生成の説明です。言語学習という固有の文脈がこれらのリスクをいかに増幅させるかを論じ、さらに、特に評価フレームワークを設計する際に注目されるべきだと私たちが考える未解決の問いを概説します。本分析の目的は、説明可能性の落とし穴の類型論と、それらが生じうる文脈的ダイナミクスの両方に関するコミュニティの理解を広げ、AI開発者がより安全で、信頼でき、かつ効果的なAI説明を設計できるよう促すことにあります。