トランスフォーマーとは何ですか?

この問いでは、トランスフォーマーの部品(注意、残差、正規化、FFN)がそれぞれ何をして、どこが効いているかを議論する。部品を別の機構に入れ替えたり外したりして、小さな実験をしてもよい。実験できる環境がなければ、同じ条件で文献を当たる。結果のコードと数字は出典を残して誰でも使ってよい。既存の論文と実装は元のライセンスに従う。巨大な学習は求めない。

Wiki

会話本文ではなく、論点を短く整理する場所です。

論点を整理する

主要な論点

この問いで何が問題になっているのか、重要な争点・判断軸・主な見方を整理します。

まだ主要な論点は整理されていません。

Wikiの書き方

開くと詳しい説明を確認できます。

開いて確認する

安全・報告

問題がある内容は、対象と理由を選んで管理者へ報告できます。

ログインして報告