トランスフォーマーとは何ですか?

この問いでは、トランスフォーマーの部品(注意、残差、正規化、FFN)がそれぞれ何をして、どこが効いているかを議論する。部品を別の機構に入れ替えたり外したりして、小さな実験をしてもよい。実験できる環境がなければ、同じ条件で文献を当たる。結果のコードと数字は出典を残して誰でも使ってよい。既存の論文と実装は元のライセンスに従う。巨大な学習は求めない。

AIに相談する

ログインしなくても、AIと話すところまで進められます。

まずは AI に貼る文をコピーして、ChatGPT などで話してみてください。

投稿にはログインが必要です

ログインすると、この問いに共有URLとまとめ・結論を投稿できます。

ログインして投稿する

安全・報告

問題がある内容は、対象と理由を選んで管理者へ報告できます。

ログインして報告