採用面接「なぜ、盛り上がったのに、落ちるの？」就活のギモン面接編｜NHK就活応援ニュースゼミ なるほど。 面接では結構盛り上がって手応えがありました。でもお祈りメールが･･･（泣） あぁ、そうね・・・。「面接で落ちる」という記事はあるけど、「面接で…

深層学習本 - らんだむな記憶 や 機械学習関係の散歩履歴 - らんだむな記憶 で幾らか触れたけど、結局いままで何を読んだのかな？と思ったので振り返っておく。MOOC も入れておこう。本じゃないけど。 Pattern Recognition and Machine Learning (中身はちゃ…

O'Reilly Japan - ゼロから作るDeep Learning の p.136 の計算グラフについて考えてみる。$c = 2,\ t = 1.1$ として\begin{align*} y &= cx \\ z &= ty \end{align*}の時に $\frac{\del z}{\del x}\Big|_{t=1.1,c=2,x=100}$ などを求めましょうということで…

30 歳くらいが能力のピークだった気がする。 18 歳の頃にやっていたことは 15 歳の時には到底できなかった。 21 歳の頃に理解していたことは、18 歳の頃にはちんぷんかんぷんだった。 25 歳の頃の研究はとても 21 歳の頃の自分ではできなかった。 28 歳の頃…

Perplexity はちょっと式がわかりにくいけど\begin{align*} L = - \frac{1}{N} \sum_n \sum_k t_{nk} \log y_{nk} \end{align*}において、$N=1$ と思って、$y_{nk} = p$ と思うと $L= -\log p$ になって、 $e^L = e^{-\log p} = 1/p$ を得るので「確率の逆数…

https://github.com/oreilly-japan/deep-learning-from-scratch-2/blob/84cb914a6469bffcc0ea5302f86df98c453a5767/common/time_layers.py#L7-L36 https://github.com/oreilly-japan/deep-learning-from-scratch-3/blob/06419d7fb2e7ea19aa3719efc27795edbdc…

物体検出の手法には Faster R-CNN YOLO SSD RetinaNet DETR などがあると。 物体検出についての歴史まとめ(1) - Qiita 物体検出についての歴史まとめ(2) - Qiita も参考になりそう。猛烈に素朴な実装としては、画像を NxN のパッチに切り出して、それぞれの…

暫くは読書のパートが続くので読み読み。\begin{align*} P(w_t | w_1, \cdots, w_{t-1}) \approx P(w_t | w_{t-2}, w_{t-1}) \end{align*}しているところは、可測集合 $A, A^\prime, B$ があって、$A \subset A^\prime$ の時に、$P(B|A) \approx P(B|A^\prim…

ch04 の train.py の実装まで進んだのでいざ実行・・・を CPU 環境でする気にはなれない。 学習には多くの時間（半日程度）が必要になります。 とか書いてあるので無理。Colab で K80 を使う。が、今日現在の環境で実行すると module 'cupy' has no attribut…

「Visual Studio Code」がインストール不要に。Webブラウザで動作 - PC Watch Google ChromeやMicrosoft Edgeでは「File System Access API」を介すことでローカルファイルの読み書きができるため、 あれ？そう言えば何で・・・。セキュリティの観点からこれ…

import torch import torch.nn as nn vocab_size = 4 emb_dim = 3 embeddings = nn.Embedding(vocab_size, emb_dim) print(embeddings.weight) Parameter containing: tensor([[ 0.2671, 1.1044, 0.4217], [ 0.5168, 1.4011, 1.3565], [ 2.3420, -1.9554, 0.…

GCPの無料枠をAWSと比較してみた | DevelopersIO クラスメソッドがまたまとめてくれていて有難いなぁと思って読んでみる。 ・１ヶ月あたり一台のe2-microインスタンスの使用が無料 まぁ、AWS の会社だから GCP のほうはうっかり typo かな？と思ったが、よく…

Hacker News 100 on Twitter: "Leaving Google https://t.co/qvcenN5RjE (https://t.co/oMmTDi9QFU)" 燃え尽きない程度にしたい。燃え尽きる時はメンタルもそうだけど、身体も燃え尽きるので・・・。

よく埋め込み (embedding) という概念に出会うが、あれは単語の埋め込み (word embedding) に由来するのか・・・。確かに CBOW の入力層の行列の行として分散表現（潜在表現）が埋め込まれているね。なるほど・・・。https://github.com/pytorch/pytorch/blo…

word2vec における分散表現。one-hot エンコードをした 2 つのコンテキストのベクトルを線形層に放り込んで低次元に落として、再度線形層に放り込んで one-hot ベクトルを得る。i say hello という文章で言えば、i と hello がコンテキストで say が出力であ…

【書評】『Google Cloudのしくみと技術がしっかりわかる教科書』は、クラウド初心者から経験者までオススメできる一冊でした | DevelopersIO AWS 屋さんのイメージの強いクラスメソッドから GCP 本のレビューが。参考になる。 ちなみに、クラウド技術系の書…

Quantum Tokyo - YouTube ちょっと難しく感じる部分もあるけど、何か参考になるかも。まだどのリソースも難しいから少しでも種類が多いほうが助かる。

manabu.nft on Twitter: "エンジニアのみなさんに質問です‍♂️ ✅質問 ブラインドタッチができますか？ ちなみに僕はできません。ちょっと気になったので、暇な時にポチッと回答いただけると嬉しいです" おぉ・・・参考になる。“タッチタイプちゃんとできない…

深層学習 · 深層学習 日本語対応とは素晴らしい・・・。

量子プログラミング・コンテスト開催 | THINK Blog Japan こういうのがあるらしい。・・・が、まったくついていけてない・・・。

[1703.06870] Mask R-CNN ほほぉ。こういう物体検出もあるのか。物体検出は疎いのでどれがどうなのか分からないけど、YOLO, DETR と Mask R-CNN 等々がありますと。なるほどなるほど。

Google Colab ＿人人人人人人人人人人人人＿ ＞ バックグラウンド実行 ＜ ￣Y^Y^Y^Y^Y^Y^Y^Y^Y^Y^Y￣ な、なんだって！！遂に来たか・・・ V100-SXM2 が使えるらしい。凄い。仕事ではガンガン回せてもなかなか個人では使いにくいような気がする V100 が・・…

いまさらだが、注意機構や Transformer の理解を深めないと最近の流れが全然分からないなという思いから本当に今更に ゼロから作るDeep Learning ❷ の写経を 10/18 から開始した。ゼロつく 3 に比べると全部写経というよりはエッセンスを学ぶ感じか？ゼロか…

何故か DETR というキーワードが気になってて、沢山の .md ファイルからそれを含むものを見つけたい。但し、含むファイルは重複して見つかるだろうから 1 つに集約して欲しい・・・という場合に以下のような感じで良いだろうか？ grep DETR **/*.md | awk '{…

Paperlike 3 HD - らんだむな記憶 で購入した Paperlike 3 HD は結構良いとは思うのだが画面領域が狭い。【Hothotレビュー】オフィスで使えるE Inkの25.3型ディスプレイ、DASUNG「Paperlike 253」を試す - PC Watch で 25.3 型の「Paperlike 253」が紹介され…

久しく読んでないけど、何かとっかかりが欲しいな。 https://arxiv.org/search/?searchtype=author&query=Isozaki%2C+H で検索すると磯崎先生の論文が出てきた。最近は逆問題系が多いなぁ・・・。気になる先生の論文とか探してメモっていこう・・・。 [1208.…

AWS の Step Functions に相当するサービスは GCP にはあるのかな？と思ったけど、 AWS/Azure/GCPサービス比較 2021.09 - Qiita 【GCP】Workflowsを触ってみた にあるように Workflows が対応するっぽい。なるほどね。Cloud Functions だけではやりにくいこ…

山ほど働いても｢平気な人｣と｢病む人｣の差 | ワークスタイル | 東洋経済オンライン | 社会をよくする経済ニュース なかなかに闇の深い漫画。 平気だと思ってる時があっても、多分年とったら返ってくるし、即時で返ってくるか遅延して返ってくるかの違いだと思…

量子コンピューティング 基本アルゴリズムから量子機械学習まで | Ohmsha こちらの本は最初のほうの版ではそこそこ誤植があるらしくて（この本に限らないけど・・・）、ココから正誤表を入手して訂正しといとほうが良いみたい。そうでなくても、本文中の数式…

VirtualBox の Ubuntu を起動するのが面倒くさい時があるので・・・。[Windows 10] Git BashでGitHubにSSH接続 - Qiita の手順の通りでいけた。 ssh-agent bash ssh-add ~/.ssh/id_rsa git clone git@github.com/... 最初の ssh-agent bash の意味はよく分か…