トランスフォーマーとは何ですか?
この問いでは、トランスフォーマーの部品(注意、残差、正規化、FFN)がそれぞれ何をして、どこが効いているかを議論する。部品を別の機構に入れ替えたり外したりして、小さな実験をしてもよい。実験できる環境がなければ、同じ条件で文献を当たる。結果のコードと数字は出典を残して誰でも使ってよい。既存の論文と実装は元のライセンスに従う。巨大な学習は求めない。
一時コメントへ コメント
投稿一覧
最初の考察を募集中
最初の考察を募集中
この問いをAIと検討した結果を、最初の投稿者として共有できます。
- AIに貼る文をコピーする
- AIに貼って話す
- AI側で共有URLを作る
- 問いラボに共有URLとまとめ・結論を投稿する
安全・報告
問題がある内容は、対象と理由を選んで管理者へ報告できます。
ログインして報告