ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装
斎藤 康毅 
オライリージャパン 
売り上げランキング: 56

猫も杓子もDeep Learningということで、一般教養という意味でDeep Learningを独習。

  • 1章 Python入門
  • 2章 パーセプトロン
  • 3章 ニューラルネットワーク
  • 4章 ニューラルネットワークの学習
  • 5章 誤差逆伝搬法
  • 6章 学習に関するテクニック - Adam, He の初期値, ReLU 活性化関数, Batch Normalization, Dropout など
  • 7章 畳み込みニューラルネットワーク
  • 8章 ディープラーニング - ImageNet, VGG, GoogLeNet, ResNet, DQN (強化学習)

5章までは学生時代に学んだ内容だったのさらっと復習程度に読み飛ばし。
6章は Adam, He の初期値, ReLU 活性化関数, Batch Normalization, Dropout など、自分が機械学習業界から離れてからトレンドになっているものについてまとめて学べてとても良かった。
7章も良いのだが、ちょうど読んでいる時に http://postd.cc/how-do-convolutional-neural-networks-work/ の記事があがってきていて、こちらの記事のほうがわかりやすさは上だった ^^;
8章で良い成果を出して名前がついているようなモデルが、7章まで学んできた技術で実際にどのような構造をとっているのか学べた。たまにディープラーニングなチームの方の進捗報告に出てくるものたちがどういうものなのかがわかって良かった。hamada さんが「問題にあわせてモデルをどう自分で設計するかが〜」と言っていたのはこういうのを自分で設計できるかどうか、という話なんだな。