AI Navigate

インサイト最新記事一覧 AI大全

トランスフォーマーの大きさ表現におけるウェーバーの法則：効率的コーディング、表現幾何、そして言語モデルにおける心理物理学的法則

arXiv cs.CL / 2026/3/24

📰 ニュース

原文を読む →

共有:

要点

本論文では、対数的な間隔、線形のエンコーディング、そして桁ごとの円環（円環状）表現に関する相反する先行知見を調停することで、トランスフォーマー言語モデルが大きさ（magnitude）をどのように符号化しているかを調査する。

関連おすすめサービス

※当サイトはアフィリエイト広告を利用しています

Notta搭載AI議事録イヤホン ZENCHORD1

AI時代の仕事術。Notta搭載で会議の議事録を自動生成するスマートイヤホン。

AI搭載ボイスレコーダー Plaud

世界100万人が愛用。AIで文字起こし・要約を自動化するボイスレコーダー。

画像高画質化AIツール Aiarty Image Enhancer

AIで画像を高画質化。写真・イラストを簡単にアップスケール。

トランスフォーマーの大きさ表現におけるウェーバーの法則：効率的コーディング、表現幾何、そして言語モデルにおける心理物理学的法則 | AI Navigate