臨床規模でのヒトとAIの相互作用の完成：プロダクションのシグナルを、より安全で人間らしい会話へと変える

Abstract

医療用の会話型AIエージェントは、本番を前提とした体制において、クリーンなベンチマーク精度だけに最適化されるべきではありません。患者の会話という現実に即して最適化される必要があります。そこでは音声は不完全であり、意図は間接的であり、通話の途中で言語が切り替わり、順守（コンプライアンス）は、ガイダンスがどのように提供されるかにかかっています。私たちは、115M+件の実運用のライブ患者―AIインタラクションから得られるリアルタイムの信号と、臨床医主導のテスト（7K+人のライセンスを持つ臨床医、500K+件のテスト通話）に基づく、生産環境で検証されたフレームワークを提示します。現場で観測される手がかり――パラ言語的特徴、ターンテイキングのダイナミクス、明確化のトリガー、エスカレーションの兆候、多言語の連続性、ワークフロー確認――は、キュレーションされたデータでは見逃される失敗モードを明らかにし、安全性と信頼性のための、実行可能な学習および評価の指標を提供します。 さらに、医療グレードの安全性は単一のLLMに依存してはならない理由を示します。長いホライゾンの対話や注意（アテンション）の制約により、ガバナンスされたオーケストレーション、独立した検査、そして検証による冗長性が必要になるからです。多くの見かけ上の「推論」ミスは上流に起因しており、文脈に依存したASR、明確化／修復、周囲の音声（アンビエント・スピーチ）への対応、そしてレイテンシを考慮したモデル／ハードウェアの選択にわたる垂直統合が動機づけられます。対話の知能（トーン、テンポ、共感、明確化、ターンテイキング）を第一級の安全変数として扱うことで、自律的に患者に向けたケアを提供する生成AIソリューションを最も安全に構築するために、安全性、文書化、タスク完了、そして公平性において測定可能な改善を達成します。10,000万件超の実患者通話にわたって展開されたPolarisは、臨床安全スコア99.9%を達成し、企業向けASRに対してASRエラーを50%削減しつつ、平均患者評価8.95で患者体験も大幅に改善しています。これらの結果は、患者向け臨床AIシステムにおける安全性と信頼性を左右する重要な――そしてこれまで十分に掘り下げられてこなかった――決定要因として、実世界のインタラクション知能が位置づけられることを裏づけます。