OmniMouse：1500億の神経トークン上でのマルチモーダル・マルチタスク脳モデルのスケーリング特性

要旨: データと人工ニューラルネットワークのスケーリングはAIを変革し、言語と視覚におけるブレークスルーを導いてきました。脳活動のモデリングにも同様の原理が当てはまるかどうかは、依然として不明です。ここでは、323セッションにわたって73匹のマウスの視覚皮質から得られた310万個のニューロンからなるデータセットを活用しました。自然な動画、画像、パラメトリック刺激の記録に加え、行動に関連するデータを含め、合計1500億以上のニューラルトークンを記録しています。私たちは、テスト時に3つのレジームを柔軟に切り替え可能な、多モーダル・多タスクのモデルを訓練しました。具体的には、ニューラル予測、行動のデコーディング、ニューラル・フォーキャスティング、あるいはこれらの任意の組み合わせです。OmniMouseは最先端の性能を達成し、ほぼすべての評価レジームにおいて、専門に特化したベースラインを上回ります。性能はより多くのデータによって確実にスケールする一方で、モデルサイズを増やすことによる伸びは頭打ちになります。これは標準的なAIスケーリングの物語を反転させます。言語やコンピュータビジョンでは、大規模データがパラメータ・スケーリングの進展を主に駆動するのに対し、脳モデリングでは――マウスの視覚皮質という比較的単純なシステムでさえ――巨大な記録があるにもかかわらず、モデルはデータ不足に制約されています。系統的なスケーリングの観測は、ニューラル・モデリングにおける相転移の可能性を示唆します。すなわち、より大きく、より豊富なデータセットが、巨大言語モデルに見られる創発的性質に並行して、質的に新しい能力を解放し得るということです。コードは https://github.com/enigma-brain/omnimouse で利用可能です。