UCSDとTogether AIの研究が、Transformerの2倍のサイズに匹敵する品質を実現するループ型言語モデルのための安定したアーキテクチャ「Parcae」を導入

MarkTechPost / 2026/4/16

💬 オピニオンSignals & Early TrendsIdeas & Deep AnalysisModels & Research

要点

  • UCSDとTogether AIの研究チームが、ループ型言語モデル向けの「Parcae」という安定したアーキテクチャを提案したと紹介されています。
  • 既存の性能向上の主流である「計算量(FLOPs)増・パラメータ増・学習トークン増」とは別に、推論やエッジ展開で問題になる計算コストを意識した方向性を示しています。
  • 記事ではParcaeが、サイズが2倍のTransformerと同等(またはそれに近い)品質を達成できる可能性が主張されています。
  • ループ型(反復)モデルの実用化に向けて、学習・推論時の安定性を重視する設計思想が焦点になっています。