わかる。正念場が毎月なのもわかる。 全部大事とか最優先になるのもわかる。 何かがどんどんカットされるのに効率化が謳われるのもわかる。 自転車操業末期わかる。 なんか案外あるあるなのかな・・・と思ってしまうとただ涙しか出ない・・・こわっ・・・

Define-and-Run方式のTensorFlowでの実装もチュートリアルから持ってくる。もう消えている？ので魚拓MNIST For ML Beginners | TensorFlowから持ってくる。 解説についてはTensorFlow : ML 初心者向けの MNIST （コード解説） – TensorFlow 2.0が参考になる…

Kerasを使った場合でのブラックボックス感が凄い・・・。 [TensorFlow] import tensorflow as tf mnist = tf.keras.datasets.mnist (x_train, y_train),(x_test, y_test) = mnist.load_data() x_train, x_test = x_train / 255.0, x_test / 255.0 model = tf…

Kerasを勉強した後にPyTorchを勉強して躓いたこと - Qiita う〜ん、torch.nn.CrossEntropyLoss で数値計算の安定性のために log まで計算するのには注意・・・。Channel First と Channel Last の違いも気にしておいたほうがいいのかな？ torch.nn — PyTorch…

Deep Learning (ud730) - らんだむな記憶なんだけど、.ipynb を突っ込んだ場合に img src での画像参照がインラインで表示されない。 python - How to display an image within the notebook in Google Colab (like in Anacondan Jupyter Notebook)? - Stack…

無料JupyterサービスのBinderの紹介 - Qiitaというものが。 「100 numpy exercises」で利用されていた。100 numpy exercisesの備忘録 - Qiita

Improving Deep Neural Networks: Hyperparameter tuning, Regularization and Optimization | Courseraを見ると途中でTensorFlowを使うようだ。 YouTubeが特に該当する動画に見える・・・。が、Udacityのud187と比較すると分かるがこれはTensorFlow 2.0ベー…

$t = (t_1, t_2) = (0, 1)$ の場合の計算についても簡単に確認する。 $\frac{\del E}{\del y_1} = - \frac{\log(y_2)}{\del y_1} =- \frac{\log(1 - y_1)}{\del y_1} = \frac{1}{1 - y_1}$ であるので、 $\frac{\del E}{\del y_1} \frac{\del y_1}{\del \gam…

簡単のため、以下のような分類問題のニューラルネットワークで誤差逆伝播法を考察する。 入力層は $x_1$, $x_2$ の2つの入力を受け取り、隠れ層で活性化関数としてsigmoid関数 $\varsigma$ を適用し、出力層でsoftmax関数で確率をとる。ラベルはone-hotエン…

ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装では5章「誤差逆伝播法」において計算グラフを用いつつ、各ノードで“局所的な”偏導関数を求めて連鎖律でつないでいく解説がある。*1この仕組みは実践Pytorch - Qiitaで torch.autogra…

ニューラルネットワーク (4) 誤差逆伝播法 (1) - らんだむな記憶では、重みを $\Theta$ とし、誤差関数を $J(\Theta)$ としたが、今回は重みを $w = (w_{ij}^{(\ell)})_{1 \leq \ell \leq L, 1 \leq i \leq I, 1 \leq j \leq J}$ とし($w_{ij}^{(\ell)}$ は …

ニューラルネットワーク (4) 誤差逆伝播法 (1) - らんだむな記憶当時は紙に数式を書き出しながら検証したコレも今更見てもよく分からないんで。Udacityのud188を使ってもう一度考えてみる。(deep-learning-v2-pytorch/Part 3 - Training Neural Networks (Ex…

$V = \mathbb{R}^2$ に対して、テンソル積 $V \otimes V$ を考える。 $V$ の基底を $e_1,\ e_2$ とする。 線型写像 $\varphi: V \otimes V \to \mathrm{Mat}(2,\mathbb{R}^2)$ を $\varphi(e_i \otimes e_j) = (a_{pq}),\ a_{pq} = \begin{cases} 1,\ (p,q) …

https://www.agilejapan.org/2019/session/ten3-5_Honda.pdf つらいなぁ・・・。 現場スタッフの困りごとを解決するアプリを 1人で片手間で作成 なんかそんなこともやったことありますねぇ・・・。 どこも大変だなぁ・・・

Numpyのブロードキャストの挙動 - Qiita なんとなくでふーんで使ってしまう機能。element-wise な演算ができるように小さい方を次元拡張するという感じかな。(結局まともに読まない)

Intro to Deep Learning with PyTorch (ud188) - らんだむな記憶以来ちょろちょろ取り組んできたけど、「Lesson 4: Introduction to PyTorch」に入るまでがめちゃめちゃ長いな・・・。 心が折れるかと思った・・・

3分で分かる！ONNXフォーマットとWindows Machine Learning！ - Qiita ふむ・・・。まぁ、全部ってわけにはいかないよなぁ・・・なかなか

Coreレイヤー - Keras Documentation 例の中でバリバリに使われてるのに引数の説明に存在しないってどういうことだよって思ったけど、tensorflow/core.py at r1.14 · tensorflow/tensorflow · GitHubによると、**kwargsとして処理されるようだ・・・おいおい…

Release TensorFlow 2.0.0-rc1 · tensorflow/tensorflow · GitHub ほぅほぅ・・・

Udacityのud187の課題「Celsius to Fahrenheit」を再び引き合いに出す。●モデルの実装 model = tf.keras.Sequential([ tf.keras.layers.Dense(units=1, input_shape=[1]) ]) model.summary(): Model: "sequential" ________________________________________…

モデルの保存と復元 | TensorFlow Core 「今日はここまで！」のやりかた。

Udacityのud187のImage Classification with CNNsのネタを使って model = tf.keras.Sequential([ tf.keras.layers.Conv2D(32, (3,3), padding='same', activation=tf.nn.relu, input_shape=(28, 28, 1)), tf.keras.layers.MaxPooling2D((2, 2), strides=2), …

Eager Execution | TensorFlow Core 英語のまま・・・TensorFlowの“積極的実行”はグラフを構築することなく即座にオペレーションを評価する命令型プログラミング環境である。オペレーションは後ほど実行する計算グラフを構築する代わりに具体的な値を返却す…

ColaboratoryでKerasからTensorboard出力をする - Qiita [TF]KerasからTensorboardを使用する方法 - Qiita kerasでtensorboardの表示とmodelの保存 - Qiita とか、情報を収集しつつ。 Udacityのud187の課題を使う。 from __future__ import absolute_import,…

deep-learning-from-scratch/neuralnet_mnist.py at master · oreilly-japan/deep-learning-from-scratch · GitHubのch03/neuralnet_mnist.pyを学習を含めてTensorflowでやってみる。 一部必要に応じて少し書き換えた。 from __future__ import absolute_imp…

Tensorflow + Keras で書き直すと以下のような感じでいいのだろうか・・・うぅん・・・ また今度考える・・・ from __future__ import absolute_import, division, print_function, unicode_literals import tensorflow as tf import math import numpy as n…

PythonとKerasによるディープラーニング 出版された頃から何となく知ってたけど全然興味なくて開いたこともなかった。 機械学習の歴史が分かり易く解説されていてそれだけでも価値がある本だなと感じる。 正規方程式って何だ？ - らんだむな記憶あたりでCour…

Apple の内蔵または外付けのキーボード、トラックパッド、マウスを消毒する方法 - Apple サポート Lysol のワイプや Clorox キッチン消毒用ワイプって何・・・

import os import tweepy from datetime import datetime, timezone import pytz import urllib.request def save_images(account_name): auth = tweepy.OAuthHandler(CONSUMER_KEY, CONSUMER_SECRET) auth.set_access_token(ACCESS_TOKEN, ACCESS_TOKEN_SEC…

PythonでTwitter API を利用していろいろ遊んでみる - Qiita Twitter API 登録 (アカウント申請方法) から承認されるまでの手順まとめ ※2019年8月時点の情報 - Qiita Python 今更ながらTweepyを使って、Twitterを操作する - Qiita あたり？ カーソルのチュー…