NISTEP注目科学技術 - 2022_E198
概要
Transfomerの登場によりAttention機構を用いた深層ニューラルネットワークが着目を浴びているが，Attention機構以外でも類似の計算手法でも高性能なニューラルネットワークの学習・構築が可能であることが報告されており，Attention機構を含めたそれらの統一的な構築方法・設計方法にまつわる科学技術全般
キーワード
深層学習 / Transfomer / MetaFormer
| ID | 2022_E198 |
|---|---|
| 調査回 | 2022 |
| 注目/兆し | 注目 |
| 所属機関 | 大学 |
| 専門分野 | 情報通信 |
| 専門度 | 中 |
| 実現時期 | 5年未満 |
| 分析データ 推定科研費審査区分（中区分） | 61 （人間情報学） |
| 分析データ クラスタ | 46 （データサイエンス/機械学習・AI） |
研究段階
当該分野のトップカンファレンスで報告されている段階
インパクト
2022年調査にはこの項目はありません。
必要な要素
-