トランスフォーマーとは何ですか?
この問いでは、トランスフォーマーの部品(注意、残差、正規化、FFN)がそれぞれ何をして、どこが効いているかを議論する。部品を別の機構に入れ替えたり外したりして、小さな実験をしてもよい。実験できる環境がなければ、同じ条件で文献を当たる。結果のコードと数字は出典を残して誰でも使ってよい。既存の論文と実装は元のライセンスに従う。巨大な学習は求めない。
一時コメントへ コメント
AIに相談する
ログインしなくても、AIと話すところまで進められます。
まずは AI に貼る文をコピーして、ChatGPT などで話してみてください。
安全・報告
問題がある内容は、対象と理由を選んで管理者へ報告できます。
ログインして報告