HUOZIIME：深いパーソナライズを実現するオンデバイスLLM強化入力方式

要旨: モバイルの入力方式エディタ（IME）はテキスト入力の主要なインタフェースであるにもかかわらず、手入力に制約されており、パーソナライズされた文章を生成することが難しいままです。軽量な大規模言語モデル（LLM）によってオンデバイスで補助生成を行うことは可能になりましたが、深くパーソナライズされ、プライバシーを保護し、かつリアルタイムな生成型IMEを実現することには本質的な課題があります。そこで本研究では、LLM を動力とするパーソナライズされたオンデバイスIMEである HUOZIIME を提案します。私たちは、合成したパーソナライズデータで基盤となる LLM を事後学習することで、HUOZIIME に初期の人間らしい予測能力を付与します。特に、階層型メモリ機構を設計し、ユーザー固有の入力履歴を継続的に取り込み、活用できるようにします。さらに、モバイル上での LLM ベースIMEの導入に合わせた体系的な最適化を行い、モバイルの制約下でも効率的かつ応答性の高い動作を保証します。実験により、オンデバイスでの効率的な実行と、高い忠実度を備えたメモリ駆動型パーソナライズが示されます。コードおよびパッケージは https://github.com/Shan-HIT/HuoziIME で利用可能です。