適応型AIシステムにおける信頼問題としてのモデルルーティング：ルート・レシート

要旨: AIプロダクトは、応答する前に、バージョン別名、サービス階層、ツール選択、地域ごとのエンドポイント、フォールバック規則、または安全性の取り扱いを通じてリクエストをルーティングすることがしばしばあります。これらのルーティング手順は、いくつかの広く利用されているAIプラットフォームおよびサービングスタックにおいて、プロダクト上の可視な表面として文書化されています。
ルーティングは、AIサービスが大規模な環境で手頃な価格・高速性・可用性を維持するのに役立ち、また信頼の形成にも影響します。ユーザーが何が起きたのかを把握できないまま、ルーティングの変更によって応答のコスト、品質、説明責任が損なわれてしまうと、信頼は崩れます。「どのモデルが応答したか？」は監査質問の一部に過ぎません。重要なのは実行時の経路です。
適応的なAIシステムは、route receipt（経路レシート）と呼ばれる、実行時の透明性に関する成果物を生成すべきです。route receiptとは、リクエストに応答した経路をコンパクトに記録したものです。これは、秘密の内部仕様や隠れた推論を開示することなく、出力に依存する人々が重要なルーティング判断を再構成できるだけの十分な材料的事実を含むべきです。
経路の透明性は、モデルのドキュメントの一部であるべきです。モデルカードは学習済みモデルの成果物を説明し、一方でroute receiptは、特定の回答が生成された実行時の条件を説明します。本論文では、route-receiptの概念、最小限のスキーマと秘匿（redaction）モデル、そして、受領証断片（receipt fragments）が既に存在しているが、回答ごとの携帯可能な記録としては整備されていないことを示す、選定したプラットフォームに関するドキュメントベースの調査を紹介します。