Home Blog
Blog
Cancel

S4 の数式を全部理解したい

今回読んだ論文 HiPPO (2020): HiPPO: Recurrent Memory with Optimal Polynomial Projections LSSL (2021): Combining Recurrent, Convolutional, and Continuous-time Models with Linear State-Space Layers ...

卒研の経緯

NLP2023 で発表した『自己注意機構における注意の集中が相対位置に依存する仕組み (pdf)(以後、当研究)』は、 いろいろと試行錯誤した末の着地点だけを述べていて、そういえばそこに至った経緯に触れていなかったので、 卒研と学会を懐かしみながら書きました。(26 min Read は草。) 自分の研究”だけ”に向き合っていると気づかなかったが、自分の分析方針はどうやら異質らしい。 (自...

自分なりの Self Attention の解釈

WIP ポエム せっかくルールが存在しない個人サイトなので、たまにはブログのような話から入ってみます。 卒論第一稿を書き終えて、久しぶりに何も無い日を 2 日くらい過ごせたので、結構メンタルが回復した気がします。 しかし自分にはやらなければならないことがどうやら 2 つあるようです。 それは呼吸器内科に行くことと歯科に行くことです。 さっき「あるようです」と語尾をぼか...

M1 mac に labelImg を(きれいに)インストールする方法

こちらの記事と同じ内容です。 https://blog.shinonome.io/shinkan-handson-data/ 現在、私は画像処理のプロジェクトに参加しています。この記事では、M1 mac に labelImg をインストールする手順を紹介します。 M1 mac だと単純に pip でインストールしようと失敗してしまいますが、公式リポジトリに M1 mac をサポート...

macのセットアップ手順メモ

mac から mac へ移行した時の手順を記憶してる限り全部書いてみた。 mac のシステム設定 カーソルの移動速度を速度を速くした キーのリピート速度を早くした メニューバーに充電残量を表示した キーボードの修飾キーで caps lock を esc にした spotlight 検索の対象をアプリのみに変更 ブラウザ 元々使っていた Brave を同期...

新歓ハンズオン資料編集後記

こちらの記事と同じ内容です。 https://blog.shinonome.io/shinkan-handson-data/ この記事では、新歓ハンズオン(オンライン開催・オフライン開催)のデータコースで作成した資料や当日についての振り返りをしていきます。 資料全体の流れ 簡単に言うと、手書きのアルファベットの画像を読み込んで何が書かれているのかを人工知能に当てさせるということ...

分野横断すると見えてくるもの

こちらの記事と同じ内容です。 https://blog.shinonome.io/interpreting-formulas/ 今回は、統計や機械学習の分野でよく使われる3つの数式 平均 平均二乗誤差関数(RMSE) 正規方程式 を僕はどのようにイメージしているかを紹介します。理解に行き詰まってしまったら理論的な部分は飛ばしつつ図や例えに沿ってぜひ最後まで読んで...

Python でファイルを相対的に読み込む方法

こちらの記事と同じ内容です。 https://blog.shinonome.io/python-importfile/ こんにちは。今まで、C++, JavaScript, R などの言語に触れたことはありますが、結局 Python に返ってきてしまう Yuji です。 やりたいこと 今回の目標は、以下のような階層構造があったときに、reader.py から data.csv ...

flatten vs ravel vs reshape(1次元化)

参考: https://note.nkmk.me/python-numpy-ravel-flatten/ flatten vs ravel vs reshape(1 次元化) method 速度 返り値 flatten 遅い コピー r...

いい加減 Jupyter で仮想環境使うコマンド覚えろ俺

pip install ipykernel pip-autoremove python -m ipykernel install --name <name> jupyter kernelspec list pip-autoremove ipykernel -y