AI Navigate

transformer!! ~BERT編~

Qiita / 2026/3/21

💬 オピニオンModels & Research
原文を読む →
共有:

要点

  • BERTはtransformerのencoderをベースとしたアーキテクチャで、分類タスクに強い特徴を持つ。
  • Cross Encoderは文章を連結して文脈を跨ぐ情報を捉える。
  • 入力形式の例として [CLS]文章A[SEP]文章B[SEP] の組み合わせが説明されている。
  • 本記事は初心者向けの解説で、概念の紹介が中心で実装の詳細は最小限。
BERTは、transformerのencoderをベースにしたアーキテクチャです encoderベースのため、分類タスクに強いという特徴を持ちます Cross Encoder 以下のように文章を連結させることで、文をまたいだ文脈を捉えるができます [CLS]文章A[SE...

この記事の続きは原文サイトでお読みいただけます。

原文を読む →

関連おすすめサービス

※当サイトはアフィリエイト広告を利用しています
🎧

Notta搭載AI議事録イヤホン ZENCHORD1

AI時代の仕事術。Notta搭載で会議の議事録を自動生成するスマートイヤホン。

🎙️

AI搭載ボイスレコーダー Plaud

世界100万人が愛用。AIで文字起こし・要約を自動化するボイスレコーダー。

🖼️

画像高画質化AIツール Aiarty Image Enhancer

AIで画像を高画質化。写真・イラストを簡単にアップスケール。