Transformerにおいて、位置情報を持たないSelf-Attentionに入力単語の順序を伝える手法はどれか。

サイン関数やコサイン関数を用いたベクトルを加え、位置情報を付与する。

関連記事

関連記事はありません。