社会人の勉強時間の平均は6分ではなく160分│等身大のキャリアちゃんと一次情報から拾っているわけではないが、 社会人の 95% は勉強しない。ので、全体として 1 日あたりの平均時間は 6 分 但し、残り 5% は勉強をして 1 日あたりの平均時間は 160 分 という…

Attention の部分の説明は 8 章の pp.338-340 辺りが導入部と思う。[1409.0473] Neural Machine Translation by Jointly Learning to Align and Translate では式 (5) と (6) 辺りが該当すると思う。特に (6) 式は softmax である。(5) 式では隠れ状態とアノ…

ゼロつく 2 p.29 を掘り下げる。関数 $f: \R^n \to \R^1$\begin{align*} f(x) = f(x_1, \cdots, x_n) \end{align*}を考える。更に $g: \R^1 \to \R^1$ がある時、合成 $g \circ f$ について\begin{align*} (g \circ f)(x) = g(f(x_1, \cdots, x_n)) \end{ali…

ゼロつく 2 p.28 を掘り下げる。関数 $f: \R^m \to \R^n $ を成分で表示すると、$x = (x_1, \cdots, x_m)$ として\begin{align*} f(x) = (f_1(x_1, \cdots, x_m), \cdots, f_n(x_1, \cdots, x_m)) \end{align*}と書ける。更に $g: \R^n \to \R^1$\begin{alig…