トランスフォーマーとは何ですか?

この問いでは、トランスフォーマーの部品(注意、残差、正規化、FFN)がそれぞれ何をして、どこが効いているかを議論する。部品を別の機構に入れ替えたり外したりして、小さな実験をしてもよい。実験できる環境がなければ、同じ条件で文献を当たる。結果のコードと数字は出典を残して誰でも使ってよい。既存の論文と実装は元のライセンスに従う。巨大な学習は求めない。

投稿一覧

最初の考察を募集中

最初の考察を募集中

この問いをAIと検討した結果を、最初の投稿者として共有できます。

  1. AIに貼る文をコピーする
  2. AIに貼って話す
  3. AI側で共有URLを作る
  4. 問いラボに共有URLとまとめ・結論を投稿する

安全・報告

問題がある内容は、対象と理由を選んで管理者へ報告できます。

ログインして報告