YANS (9/5-7) が終わったことだし NL 研 (6/28-29) の参加記でも書きますか(!?) 参加経緯 NLP2024@神戸 は研究がまとまらなかったので聴講参加だったのだが、同期や後輩がわいわいしているのを見て NLPer を名乗れない気持ちになり、修士課程で学会発表はやっておかねばという焦りが少しあった。スモールスタートしていたことがとりあえず良い感じの結果が得られて、...
NL260 参加記
研究室の ubuntu サーバーをアップグレードしたときのメモ
unofficial package へのリンクを消す パターン 1 : /etc/apt/sources.list.d 内の全ファイルをコメントアウト パターン 2 : /etc/apt/sources.list.d を移動する unofficial package を消す 以下のコマンドで検出され...
ICLR2024 の気になる論文 (WIP)
ICML accepted papers ICML 2024 Conference Welcome to the OpenReview homepage for ICML 2024 Confere...
NLP2024 参加記
全体の感想 埋め込み表現のセッションが減った 去年は C3, C4 (口頭), Q11 (ポスター) の 3 セッションが “埋め込み表現” を冠していたが、今年は A10 (口頭) のみだった。NLP2024 で僕が一番楽しかったセッションは A10 だったので、このようなセッションは残り続けてほしい。永田先生を見習って何本も出さないと? 状態空間モデルの波 状態空間モデルに関する...
fairseq CLI docs (for me)
はじめに OSS を利用しといて「くそ!」とか言うのは、隣の家に勝手に上がり込んで上に出してもらったお菓子がまずいというようなもの。 利用者は八百万の OSS に感謝の気持ちを持って開発するのが大事。 この記事 (メモ) では fairseq のコマンドと引数の対応が正確ではないように感じたので、ソースコードを参照しながら確認していきます。 ...
ICLR2024 の気になる論文一覧
本記事の注意 僕はまだ論文の中身までは目を通してません。 説明は適当です。 記号の意味 「」: 僕の発言 🔴: 主観的興味 🔵: 客観的興味 🟡: 将来、好きになりそう 🟣: 自分の取り組みに関連する ICLR 2024 の論文一覧には載ってないけどまだ採択が決まっていない論文があるっぽ...
Mamba メモ
論文 URL: https://arxiv.org/abs/2312.00752 僕の脳内を記してるだけで説明する気はないゾイ SSM について bilinear の離散化しか知らなかったから ZOH で exp が出てきたのが初見だった。 diagonal SSM が主流となり S4 の式変形テクニックは必要なくなった模様。 行列 A もランダム初期化で良いそう...
PCA は PCoA の特殊ケースらしい
今週、PCoA という手法を知り、ちょこちょこ調べていると「非類似度をユークリッド距離とすると、PCoA と PCA は等価になる」という記述をたくさん見ました。 しかし、その証明を見つけられなかったので自分でやりました。 PCoA とは 略さずに書くと Principal Coordinate Analysis (主座標分析) です。 MDS (Multidimensional sca...
僕にとっての人工知能とは
このブログはアイアンマンが登場する MARVEL 映画のネタバレを含みます。 Sir, shall I try Miss. Potts? これは僕が一番好きな映画のセリフです。 Steven Rogers : Stark, you know that’s a one way trip? Tony Stark : Save the rest for the turn, J. J...
YANS2023 感想書き流し
各発表については 1 ヶ月前の記憶に基づいて書いているため正確ではないかもしれません。 言葉遣いの校正をせずに寝ました。 0 日目 リーダーボードハッカソン ハッカソン内容は事前ガイダンススライドを参照してください。 勝利!イエイ! 三銃士の挨拶で開場のボルテージが上がり「初めまして」の 1 秒後に開発スタートというスピード感。ただ、ピリピリすることなくわ...