山本 悠士 / Yuji Yamamoto

東京理科大学 理学研究科 応用数学専攻 修士 2 年 松崎研究室

興味 / Interests

• 機械学習の理論
• 状態空間モデル, Linear Attention
• 言語モデル
• 埋め込み表現

略歴 / Education

研究発表 / Publications

査読あり / Refereed

• 2023.12: Yuji Yamamoto , Takuya Matsuzaki. Absolute Position Embedding Learns Sinusoid-like Waves for Attention Based on Relative Position. Proceedings for the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP 2023), December 2023.

査読なし / Non-refereed

• 2024.09: 山本悠士, 上田亮, 唐木田亮, 横井祥. 人の言語を模倣するのに必要十分な言語モデルの大きさはどれだけか. 第19回YANSシンポジウム.
• 2024.06: 山本悠士 , 松崎拓也. Mamba ブロックが帰納ヘッドタスクを実行するメカニズム. 情報処理学会 自然言語処理研究会(NL研) 第260回研究発表会. [pdf]
  • 上記の著作物の利用に関する注意: 上記の著作物の著作権は情報処理学会に帰属します。本著作物は著作権者である情報処理学会の許可のもとに掲載するものです。ご利用に当たっては「著作権法」ならびに「情報処理学会倫理綱領」に従うことをお願いいたします。
• 2023.03: 山本悠士 , 松崎拓也. 自己注意機構における注意の集中が相対位置に依存する仕組み. 第 29 回言語処理学会年次大会. [pdf]

その他 / Misc

• 2023.09: 「自己注意機構における注意の集中が相対位置に依存する仕組み」 の研究経緯, 自然言語処理 (学会記事), 2023, 30 巻, 3 号, p. 1094-1099 [link]

受賞 / Awards

• 2024.09: 第19回YANSシンポジウム 奨励賞 & 株式会社マネーフォワード賞（スポンサー賞） [link]
• 2024.06: 情報処理学会 自然言語処理研究会(NL研) 第260回研究発表会 優秀研究賞 [link]
• 2023.03: 第 29 回言語処理学会年次大会 優秀賞 [link]
• 2023.08: NLP 若手の会 (YANS) 第 18 回シンポジウム (2023) リーダーボードハッカソン 優秀賞 [link]

平均以上にできること

## 特技・趣味

• ビリヤード
• 野球
• ルービックキューブ
• 卓球