クエリ・チャネル：マスキングに基づく説明の情報理論的限界
arXiv cs.AI / 2026/4/21
💬 オピニオンIdeas & Deep AnalysisModels & Research
要点
- この論文は、KernelSHAPやLIMEのようなマスキングベースの事後的説明手法を、「クエリ・チャネル」を介した通信問題として再解釈し、各マスク評価をチャネル使用とみなします。
- 説明の複雑さは仮説クラスのエントロピーで捉え、各クエリが供給できる情報量を決める「クエリごとの識別能力」を導入します。
- 強い逆定理により、必要な説明回復レートがこの能力を超える場合には、説明器と復号器の系列に関わらず厳密な回復が不可能になり、誤り確率が一に収束することを示します。
- さらに到達可能性定理も提示し、能力を下回るレートでは、疎な最大尤度復号器を用いることで信頼できる厳密回復が可能であることを証明します。
- 実験とベンチマーク（相互情報量をモンテカルロ推定する非漸近的クエリ指標など）により、理論上は説明が成立しうる条件でも一般的な凸サロゲートが失敗する場面があること、また解像度やトークナイズ、ノイズが「チャネル」を劣化させる様子を分析します。
関連記事
GPT-5.5で何が変わった？AI副業・note運営で感じた“文章づくりの次の段階”
note
note 1周年！｜外部知性としてのAI｜思考深化の運用記録
note
#Peace Station👣note🌍🌏🌎#「note」デザインにトライ🕊️🍀 #私のインスピレーション ✕ #AIと紡いだ光のカケラ🧡 :🌎地球家族は愛し合える🌏🌍 #⭐永遠時計🕊️🍇
note
【「成功は二次曲線」って何番煎じだよ自分】──それでも今日この古典を語り直したい、ポス鳥が4つの現場でリアルタイムに体験している話。ポッドキャスト・noteメンバーシップ・AI漫画制作・法人化1年目の赤字逆転、すべて二次曲線だった #ポッドキャスト #副業 #standFM #メンバーシップ #独立起業 #noteで読めるマンガ #生成AI #AI活用 #ChatGPT #Claude #Gemini #いまあなたに伝えたいこと #AI漫画 #Kindle出版 #nanobanana #GPT-5.5
note
ChatGPTと喋れなくなって、仲直りした話
note
