歴史的トルコ語の自然言語処理のための基盤構築：リソースとモデル

Abstract

本論文は、計算言語学において十分に探究されてこなかった領域である歴史的トルコ語の自然言語処理（NLP）のための基盤的なリソースとモデルを導入する。われわれは、歴史的トルコ語のための最初の固有表現抽出（NER）データセットであるHisTRと、最初のユニバーサル依存構文（Universal Dependencies）ツリーバンクであるOTA-BOUNを提示する。加えて、これらのデータセットを用いて学習したトランスフォーマーベースのモデルにより、固有表現抽出、依存構文解析、品詞タグ付けのタスクを行う。さらに、幅広い歴史的時代にまたがる、転写（transliteration）された歴史的トルコ語テキストのクリーンなコーパスであるオスマン文本コーパス（Ottoman Text Corpus; OTC）を導入する。実験結果は、歴史的トルコ語の計算的分析における顕著な改善を示し、歴史的言語構造の理解を必要とするタスクで強い性能を達成した。具体的には、固有表現抽出で90.29% F1、依存構文解析で73.79% LAS、品詞タグ付けで94.98% F1である。これらはまた、時代間におけるドメイン適応や言語変種といった既存の課題も明らかにする。本論文で提示するすべてのリソースおよびモデルは、将来の歴史的トルコ語NLPの進展のためのベンチマークとして https://hf.co/bucolin で利用可能である。