TensorFlowをざっくりLTしてみた
23 likes12,358 views
昨日でたTensorFlowについて、社内向けにLTしてみました
More Related Content
![[最新版] JSAI2018 チュートリアル「"深層学習時代の" ゼロから始める自然言語処理」](https://cdn.slidesharecdn.com/ss_thumbnails/jsai2018tutorialslideshare-180607030706-thumbnail.jpg?width=560&fit=bounds)
![[Slide]闇アジャイラーvs光アジャイラーforDevLOVE(EnergizedWorkLT祭)](https://cdn.slidesharecdn.com/ss_thumbnails/slidevsfordevloveenergizedworklt-100930000024-phpapp01-thumbnail.jpg?width=560&fit=bounds)
![俺とMacとアダルトビデオ[社外版]](https://cdn.slidesharecdn.com/ss_thumbnails/mac-130321213206-phpapp02-thumbnail.jpg?width=560&fit=bounds)
TensorFlowをざっくりLTしてみた
- 2. 注意点 • 話は地味です • 社内LTのためにざっくり作った資料なので、詳細は他の ウェブサイト見ましょう • 口頭説明のため、省いていたり、簡略化して記載した項 目があります。明らかに誤っている記述がある場合は教 えて下さい。
- 3. 自己紹介 • Twitter/Github：@yamitzky • 会社では、機械学習を活用したアドテクシステムの プロジェクトに従事 • 知識レベル • Deep Learningは詳しくない • CaffeとかChainerとかTheanoとかもほぼ触ったことがない
- 4. はじめに • 今日話すこと • TensorFlowって何？ • TensorFlowを使ってみた • 今日話さないこと • 機械学習って何？ • Deep Learningって何？ ざっくりLTなので、詳細はググれ！
- 5. TensorFlowとは？ ニュース記事のタイトルを見てみると…… • Googleが独自のマシンラーニング・システムである、TensorFlowを公開。 マット・カッツ氏は、 秘密のソース"のリリースと表現。 • GoogleがGoogle Photosの画像検索、スマート返信機能などに用いている機 械学習技術をオープンソース化 • グーグル、自社のAI関連ソフトウェアをオープソース化 • Googleが製品開発で活用する機械学習システム「TensorFlow」を商用利用 OKでオープンソース化 • Google、ディープラーニングをサポートした機械学習ライブラリ 「TensorFlow」をオープンソースで公開
- 6. TensorFlowとは？ • Googleが独自のマシンラーニング・システムである、TensorFlowを公開。 マット・カッツ氏は、 秘密のソース"のリリースと表現。 • GoogleがGoogle Photosの画像検索、スマート返信機能などに用いている機 械学習技術をオープンソース化 • グーグル、自社のAI関連ソフトウェアをオープソース化 • Googleが製品開発で活用する機械学習システム「TensorFlow」を商用利用 OKでオープンソース化 • Google、ディープラーニングをサポートした機械学習ライブラリ 「TensorFlow」をオープンソースで公開 ニュース記事のタイトルを見てみると…… Googleが製品開発に活用している、 Deep LearningをサポートしたOSSの機械学習ライブラリ
- 7. TensorFlowとは？ • Google第二世代の機械学習ライブラリ • Apache 2.0 ライセンスで公開(OSS) • DistBelief を上回る速度とスケーラビリティ • Deep Learningの実装のための豊富な機能をサポート • Deep Learningに留まらない優れた汎用性 • すべてのDeep Learning研究者が実験に使用 • Smart ReplyやRankBrainなどにも活用 • 今後も機械学習の実装にTensorFlowを使用していく http://googledevjp.blogspot.jp/2015/11/tensorflow-google.html 公式紹介を見てみると…
- 8. TensorFlowとは？ • Google第二世代の機械学習ライブラリ • Apache 2.0 ライセンスで公開(OSS) • DistBelief を上回る速度とスケーラビリティ • Deep Learningの実装のための豊富な機能をサポート • Deep Learningに留まらない優れた汎用性 • すべてのDeep Learning研究者が実験に使用 • Smart ReplyやRankBrainなどにも活用 • 今後も機械学習の実装にTensorFlowを使用していく 公式紹介を見てみると… ※ DLメインに紹介するが、DLライブラリではない
- 9. TensorFlowとは？ • Google第二世代の機械学習ライブラリ • Apache 2.0 ライセンスで公開(OSS) • DistBelief を上回る速度とスケーラビリティ • Deep Learningの実装のための豊富な機能をサポート • Deep Learningに留まらない優れた汎用性 • すべてのDeep Learning研究者が実験に使用 • Smart ReplyやRankBrainなどにも活用 • 今後も機械学習の実装にTensorFlowを使用していく 公式紹介を見てみると… Deep Learningの代わりにSmart Replyを紹介
- 11. Smart Replyの技術 • Deep Neural Networkによって実現 • 機械翻訳に使える「sequence-to-sequence」モデルを 転用している • Deep Learningだから実現できる技術ではない(と思う) が、GoogleがDeep Learningを活用して作った http://googleresearch.blogspot.jp/2015/11/computer-respond-to-this-email.html
- 12. 今日話す中での「Deep Learning」 • 正確な定義は置いといて、 • Deep Learning は機械学習の手法の一分野 • Deep Learning はNeural Networkの特殊ケース • Deep Learning と言っても、具体的なモデルはいろいろ • ビッグデータの扱いを求められることが多い • 最近 Deep Learning が流行っている • Googleは Deep Learning を活用している • 的な感じの認識で話を進めます。
- 13. なぜTensorFlowはDeep Learningに必要なのか？ • 高速なものを実装すんの、正直しんどい • 実装しやすさ的にはC++よりもPython使いたい • 高速化のための仕組み(内部のC化) • GPU活用の仕組み • スケールアウト(分散)の仕組み • Deep Learning のモデルは共通なものがいっぱいある • よく出てくる関数 • よく出てくる微分 • よく出てくる最適化手法 • それらを抽象的に扱う仕組み モデル自体を提供するライブラリ(scikit-learn的な)ではなく、 モデルを作るためのライブラリがほしい
- 14. TensorFlowのライバルは？ • Deep Learningに使えるライブラリはたくさんある • Theano • pylearn2 • Pybrain • Caffe • Torch7 • neon • deeplearning4j ← Java • Chainer ← PFI • VELES ← サムスン ※ 必ずしも同じレイヤーの機能を提供しない ※ DL/NN用ライブラリではないものを含む
- 15. TensorFlowって何が良い？ • 機能的なところは分野に疎く優劣を語れるほどわからな いので、他の資料に任せます • 個人的には、 • Googleの活用事例 → いろいろなユースケースに対応できそう感(印象) • 公式Tutorial/Exampleが充実してて飽きない → 土日がFallout4に消えてなくならない
- 16. TensorFlowで回帰してみた • http://git.io/v8Syr • 陽に微分を定義することなく、パラメータ推定 • データの定義はnumpy.arrayで良い • TFから書き込む変数はtf.Variableで定義 • optimizerに損失関数を渡すと、自動で最適化 もうちょっとすごい「やってみた」はQiitaググれ！
- 17. さらなるステップアップ • 公式のチュートリアルが提供されている • 初心者のための手書き文字認識 • 上級者のための手書き文字認識 • Convolutional Neural Network • 単語のベクトル表現(word2vec的な) • Recurrent Neural Network • sequence-to-sequenceモデル • フラクタル図形の描画(！？)
- 18. まとめ • TensorFlowすでに記事出まくってる、流行りそう • Fallout 4やる時間がなくなった