『機械学習 名古屋 分科会 #4 ゼロから作る Deep Learning 読書会＋ハンズオン その4』に行ってきました
今日のハイライト
- Julia ｲｲﾖｰ ヽ(ﾟдﾟ)ノ
- AnnexMLは58倍速い!! ヽ(ﾟдﾟ)ノ
概要
日時: 2017/07/14(金) 18:30 〜 21:00
会場: ヤフー株式会社 名古屋オフィス 会議室 (愛知県名古屋市西区名駅2丁目27−8 名古屋プライムセントラルタワー4F)
今回のハンズオンでも Python 3.x 以上 (NumPy, Matplotlib) / Ruby 2.1 以上 (Numo::NArray, Numo::Gnuplot) / Julia 0.5 以上 (PyPlot または Gadfly 等) 等いずれかの環境を用意して(自由度高い)、リアルタイムに打ち込みながら動作確認するため Jupyter notebook も使う。
『ゼロから作る Deep Learning』読書会＋ハンズオン
分科会のテーマとして、引き続き『ゼロから作る Deep Learning』の読書会を行います。
今回は『4章 ニューラルネットワークの学習』からです。
進め方
・参加者でさらっと読み合わせる（担当者は決めずその場で回し読み）
・Jupyter notebook でコードを実際に書いて動作確認をする（ハンズオン）
・みんなで疑問点を質問、解消していく
・機械学習エンジニア として実際に仕事をしている人から解説もらってハッピーになる
機械学習 名古屋 分科会 #4 - connpass
また、今回はLTもある。
LT1
「AnnexML: Approximate Nearest Neighbor Search for Extreme Multi-label Classification」
ヤフー株式会社 リードサイエンティスト 田頭 幸浩 様
機械学習 名古屋 分科会 #4 - connpass
Twitter にメモった内容
# 機械学習名古屋 ゼロから作る Deep Learning 読書会＋ハンズオン machine-learning.connpass.com/event/59899/ 会場: ヤフー株式会社 名古屋オフィス (愛知県名古屋市西区名駅2丁目27−8 名古屋プライムセントラルタワー4F) 今日これ☆(｀・ω・´) pic.twitter.com/xFOItqPclu
posted at 09:23:35
#機械学習名古屋 ゼロから作る Deep Learning 読書会＋ハンズオン その4 machine-learning.connpass.com/event/59899/ 会場: ヤフー株式会社 名古屋オフィス 会議室 (愛知県名古屋市西区名駅2丁目27−8 名古屋プライムセントラルタワー4F) はじまった！ pic.twitter.com/PDw85CMOdP
posted at 18:37:25
今日は4章、ニューラルネットワークの学習から。データからパラメータの値を決める方法について学習する。 #機械学習名古屋
posted at 18:42:27
特徴量と機械学習によるアプローチでは人が特徴量を設計する。ニューラルネットワークは特徴量を機械が学習する。 #機械学習名古屋
posted at 18:52:08
訓練データとテストデータの2つに分ける。訓練データだけに過度に対応した過学習の状態を避ける。 #機械学習名古屋
posted at 18:54:03
現在参加者20人。キャンセルが出て繰り上がりで参加できるようになっても前日とか当日とかだとなかなか参加するの難しいですよね・・・ #機械学習名古屋
posted at 19:00:40
損失関数。2乗和誤差。交差エントロピー誤差。 #機械学習名古屋
posted at 19:01:19
2乗和誤差と交差エントロピー誤差のコードを書いてみるお時間 φ(・ｪ・o) #機械学習名古屋
posted at 19:02:52
Python vs Ruby 『ゼロから作るDeep Learning』 4章 損失関数の実装 qiita.com/niwasawa/items… 2乗和誤差と交差エントロピー誤差のコードは、事前に Ruby で書いておきました(｀・ω・´)/ #機械学習名古屋
posted at 19:04:22
主催者の方から Python, Ruby, Julia による2乗和誤差と交差エントロピー誤差の実装コードについて説明。 Python 以外も用意されてるのすごいな…… #機械学習名古屋
posted at 19:10:08
MNISTのデータセットは訓練データが6万個!! 量が多すぎて時間がかかるので一部だけをミニバッチ学習。書籍『ゼロから作る Deep Learning』に載っているコードだけでは動作しない。書籍の公式GitHubサイトからコードを持ってこないと動かない。 #機械学習名古屋
posted at 19:14:18
Ruby から MNIST のデータを扱いやすいように主催者の方が Docker イメージに用意してた Σ(ﾟДﾟ) #機械学習名古屋
posted at 19:20:43
「4.2.4 ［バッチ対応版］交差エントロピー誤差の実装」のコードをそのまま動かすと「RuntimeWarning: divide by zero encountered in log」が発生。バッチ対応版じゃないのと同様に delta を足して実行すればOK #機械学習名古屋
posted at 19:35:51
ついに微分の話にまで来てしまった・・・数学ムズカシイ #機械学習名古屋
posted at 19:42:38
1人で書籍読みながら学習するのもいいけど、勉強会だと実行結果に疑問があったとき等に質問できるのがいいですね。ｼﾂﾓﾝｻｾﾃｲﾀﾀﾞｷﾏｼﾀ(・∀・) #機械学習名古屋
posted at 20:00:29
今日は「4.3 数値微分」まで学習した。 #機械学習名古屋
posted at 20:18:18
次はLTタイム。 #機械学習名古屋
posted at 20:18:33
田頭さんのLTはじまった。AnnexML #機械学習名古屋 pic.twitter.com/kyrkHuCj0P
posted at 20:23:21
AnnexML: Approximate Nearest Neighbor Search for Extreme Multi-label Classification www.kdd.org/kdd2017/papers… #機械学習名古屋
posted at 20:24:23
AnnexMLは58倍速い! #機械学習名古屋
posted at 20:31:32
AnnexMLはOSSとして公開している #機械学習名古屋
posted at 20:36:21
Software/Data - Yahoo! JAPAN Research - Yahoo Japan Corporation research-lab.yahoo.co.jp/en/software/ AnnexML のコードがダウンロードできる。C++で書かれているみたい。 #機械学習名古屋
posted at 20:39:26
LTへの質問タイムだけど正直ﾑｽﾞｶｼｸﾃﾖｸﾜｶﾗﾅｲ... #機械学習名古屋
posted at 20:45:56
『機械学習 名古屋 分科会 #5 ゼロから作る Deep Learning 読書会＋ハンズオン その5』は2017/08/04(金)の予定。 #機械学習名古屋
posted at 20:48:36
ここから懇親タイム #機械学習名古屋
posted at 20:49:14
お菓子たべる懇親会 #機械学習名古屋 pic.twitter.com/G4TWyTRUbR
posted at 20:59:20
