Abstract
自然言語のセマンティクスに対する分布的アプローチとニューラルアプローチは、ほぼ例外なく従来の線形代数、すなわちベクトル、行列、テンソル、およびそれらに付随する演算に基づいて構築されてきました。これらの手法は目覚ましい経験的成功を収めている一方で、合成(compositional)セマンティクスにおける持続的な構造的制約、型(type)への感度、そして解釈可能性という課題に直面しています。本論文では、幾何代数(GA)――とりわけクリフォード代数――がセマンティック表現のための数学的に優れた基盤を提供すると論じます。そして、機能的幾何代数(Functional Geometric Algebra; FGA)フレームワークが、GAを型付きの合成セマンティクスへと拡張し、推論、変換、解釈可能性を支える能力を持ちながら、分布学習と現代的なニューラル・アーキテクチャとの完全な互換性を維持できることを示します。私は、形式的な基礎を構築し、GAが線形代数にはない3つの中核的能力を提供することを特定し、演算子レベルのセマンティックな対比を示す詳細な作業例を提示し、さらに、現在のトランスフォーマー・アーキテクチャにすでに暗黙に含まれているGAに基づく演算が、明示化され拡張できることを示します。中心的主張は単に次元数が増えることではなく、構造が増大することです。GAは、n次元の埋め込み空間を2^n次元の多元(multivector)代数へと拡張し、基底となるセマンティック概念とそれらの高次の相互作用を、単一で原理的な代数的枠組みの中で表現します。