GoCoMA：双曲多モーダル表現融合による大規模言語モデル生成コードの出所帰属

Abstract

大規模なコードコーパスで学習された大規模言語モデル（LLM）は、現在、人が書いたコードと見分けがつきにくいコードを生成できるよう、ますます能力が高まっています。これにより、セキュリティ脆弱性やライセンスの曖昧さといった実務上の懸念が生じるだけでなく、法医学的な問いも動機づけられます：「このコード片を書いたのは誰（またはどのLLM）ですか？」 私たちはGoCoMAを提案します。GoCoMAは、(i) コード・スタイロメトリ（高レベルの構造的およびスタイル的な特徴を捉える）と、(ii) バイナリの実行前アーティファクトの画像表現（BPEA）（コンパイルやツールチェーンによって形作られた、実行志向のバイト意味論を捉える）との間に、外在的な階層関係をモデル化するマルチモーダル・フレームワークです。GoCoMAは、モダリティ埋め込みを双曲線ポアンカレ球に射影し、それらを測地線コサイン類似度に基づくクロスモーダル注意（GCSA）融合メカニズムで融合させ、最終的なLLMソース帰属のために融合表現をユークリッド空間へ逆射影します。2つの公開ベンチマーク（CoDET-M4およびLLMAuthorBench）での実験により、GoCoMAは同一の評価プロトコルのもとで、単一モーダルおよびユークリッド・マルチモーダルのベースラインを一貫して上回ることが示されます。