センサ融合型ヘルス対話エージェントのフロントエンド・エシックス：バイオメトリクスのための倫理的デザイン空間

Abstract

内蔵センサーからの連続データと、大規模言語モデル（LLM）を統合する取り組みは、個人の健康やウェルビーイングを支援するための「センサーフュージョンLLMエージェント」の急増をもたらしてきた。近年のブレークスルーは、この融合の技術的実現可能性（例：Time-LLM、SensorLLM）を示している一方で、研究の主眼は主として「生成AIのための倫理的バックエンド設計」に置かれており、センシング精度、学習データにおけるバイアスの低減、多モーダル融合といった懸念が取り上げられている。これは、フロントエンドにおける決定的なギャップを残している。すなわち、目に見えないバイオメトリクスが、ユーザーが直接体験する言語へと翻訳される領域である。本論文では、センサーデータによって提供される「客観性の錯覚」が、AI幻覚（ハルシネーション）のリスクを増幅し、誤りが有害な医療上の命令へと転化しうると主張する。本論文は「AIのための倫理的フロントエンド設計」へと焦点を移し、特にバイオメトリクス翻訳の倫理を扱う。ここでは、5つの次元から成る設計空間、すなわち「バイオメトリクスの開示（Biometric Disclosure）」「監視の時間的性質（Monitoring Temporality）」「解釈の枠組み（Interpretation Framing）」「AIのスタンス（AI Stance）」「争いうる性（Contestability）」を提案する。さらに、これらの次元が文脈（ユーザー主導か、システム主導か）とどのように相互作用し、バイオフィードバックループのリスクをどう生み出すかを検討する。最後に、安全上のガードレールとして「適応的開示（Adaptive Disclosure）」を提案し、開発者がフォールビリティ（誤り可能性）を管理できるようにする設計ガイドラインを提示する。これにより、これらの最先端の健康エージェントが、ユーザーの自律性を支援し、その不安定化は避けるようにすることを目指す。