でぃーぷらーにんぐってなぁに？

〜ぼんやりわかった気になる単語集〜

@maaya8585

@maaya8585    石田真彩

• 株式会社オープンストリーム

• ぴよぴよアーキテクト(クラウドサービス)

• 好きなもの  : 

Caution

この界隈の単語たちは

厳密に切り分け・区別のできない部分が多々あります。

今回はその中の１つの考え方として

とらえていただければ幸いです。

お話ししたい事

界隈の単語と概念のindexを作る

このセッションを聞いても

ディープラーニングできるようにはなりません。

ggrkと言われる前にぐぐれるようになれたらいいな。

Agenda

• 分析・解析基礎単語

• 改めてディープラーニングとは

• 有名なニューラルネットワークつまみぐい

Agenda

• 分析・解析基礎単語

• 改めてディープラーニングとは

• 有名なニューラルネットワークつまみぐい

三大基礎単語

• 統計

• 機械学習

• AI

統計

データを数学統計データとして取り扱うこと

e.g.) 平均値・中央値・偏差 etc.

機械学習

• データから傾向や法則を見出し、解析処理や予測処理を行う方法

• 人間が与えた法則からデータの抽出を行わせる手法

機械学習

これはウサギです

教師あり学習

教師なし学習

強化学習

などなど。

学習パターン

機械学習 : 教師あり学習

イヌ

学習

イヌ

イヌ

これはイヌです

ナニコレ？

機械学習 : 教師あり学習

• 学習用に与えられたデータとその正解をペアで学習

• ↑のデータにフィットさせながら評価をしていく手法

• 認識・予測などの分野で活躍

機械学習 : 教師なし学習

機械学習 : 教師なし学習

学習データだけ与えられ「正解」がない状態で学習

データ全体の構造や法則だけを導き出す

機械学習 : 強化学習

○×ゲーム

勝ち：＋2

引き分け：-0.5

負け：-3

2

1

2

1

3

2

1

3

報酬

-3

機械学習 : 強化学習

2

1

報酬

-3

2

1

2

1

3

報酬

+ 2

2

1

3

2

1

3

これなら勝てる!

機械学習 : 強化学習

• 行動の選択肢と「報酬」を定義したデータを学習させる
• 「報酬」は「連続した行動の結果」に与える
  • 1データ(1アクション)ではない
• 連続した行動の結果にのみ報酬が与えられるためゴールに至るまでの行動に対する評価は学習の中で決定していく

学習アルゴリズム

学習パターンの実現方法

学習アルゴリズム

• 一緒に買われているもの

• 買われている回数で報酬を変更

• より新しい購買であれば報酬追加

ニューラルネットワーク

• 機会学習の学習アルゴリズムの一つ

• 人間の脳の神経細胞に模した学習モデル

• 入力(入力層) から答え(出力層)を学習データとの関係性の変換処理(隠れ層)を行うことで答えを導き出す

• 答えの形や条件を指定をする必要がない(特徴量の自動抽出)

ニューラルネットワーク

耳がある

尾がある

4足立ち

耳が

立ってる

耳小さい

尾

くるん

猫

犬

亀

エルフ

柴犬

ハム

スター

キツネ

ザル

サソリ

プードル

ミドリ

ガメ

象亀

柴犬

脳みそ

ちゃん

一番線の数が

多いのは

ニューラル

ネットワーク

柴犬

この形に紐づく

正解データは

ニューラルネットワーク

柴犬

入力層

隠れ層

出力層

(特徴量自動抽出)

ニューラルネットワーク

ディープラーニング (ディープニューラルネットワーク)

• 多層のニュートラルネットワークを用いた機械学習アルゴリズムの１つ

• 多層  =  隠れ層の処理を3層以上重ねるとDeep Neural Network (DNN)と呼ばれるようになる 

  • 4層以上という人もいるし、正確な数は正直あいまい

AI

A I と聞いて何を思い浮かべますか？

AI

A I がなんなのか、

私が知りたい。

AI

ぼくのかんがえた

さいきょうのえーあい

基礎単語まとめ

全ての機械学習方法は教師あり・なしに二分できる、etc. 色々な考え方があると思います。

Agenda

• 分析・解析基礎単語

• 改めてディープラーニングとは

• 有名なニューラルネットワークつまみぐい

(改めて)ディープラーニングとは

多層ニュートラルネットワークを使った学習方法

対象のデータから特徴量を抽出・学習し、

対象データの認識などを行う。

(改めて)ディープラーニングとは

(改めて)ディープラーニングとは

ノード

エッジ

(改めて)ディープラーニングとは

• 小さな特徴量を組み合わせて大きな特徴量の認識を行っていく
• エッジに重み付けを行いノード重要度を次の層へ伝播させていく

(改めて)ディープラーニングとは

ディープラーニングが生まれたばかりの頃 (2012年)

max 12層

現在

max 1,000層以上

(改めて)ディープラーニングとは

1認識させるために必要な画像数

5,000 枚 〜

( DNN で良い結果がで始めると「言われている」枚数)

(改めて)ディープラーニングとは

DNN の隠し層についてはブラックボックス

• 「層を重ねる」処理にどんな意味があるのか

• そもそも隠し層の処理は対象データの「何を」みて学習しているのか

(改めて)ディープラーニングとは

http://playground.tensorflow.org/

Agenda

• 分析・解析基礎単語

• 改めてディープラーニングとは

• 有名なニューラルネットワークつまみぐい

有名なニューラルネットワークつまみぐい

ノード同士の接続方法が様々存在する

• CNN : Convolution Neural Network

• RNN : Resurrent Neural Network

• LSTM : Long Short-Term Memory

有名なニューラルネットワークつまみぐい

CNN : 畳み込み式ニューラルネットワーク

• 隠れ層を 畳み込み層・プーリング層・全結合層で構成する

• 畳み込み->プーリング の処理を繰り返し、最後に全てのノードエッジの総当たりを行い結果を出力する

CNN : 畳み込み式ニューラルネットワーク

畳み込み層

評価 +1.0 エリア

評価 +0.8 エリア

CNN : 畳み込み式ニューラルネットワーク

プーリング層

+ 1.0

+ 0

CNN : 畳み込み式ニューラルネットワーク

• 画像認識

• 音声認識

• 化学構造

RNN / LSTM : 再起型ニューラルネットワーク

僕はミッキーだよ。ドナルドじゃないよ！

僕

は

だよ

ミッキー

今までの流れ

RNN / LSTM : 再起型ニューラルネットワーク

僕はミッキーだよ。ドナルドじゃないよ！

僕はドナルドだよ。ミッキーじゃないよ！

今までのテキスト分類

（ベイズ分類器etc.)

RNN/LSTM

同じ文章だ!!

違う文章だ!!

ma to me

• 機械学習の学習方法の1つ

• ニューラルネットワークを多層実行すること

• 特徴量の指定をする必要がない  

  • ニューラルネットワークの特徴

• 実装方法は色々あるよ！

ディープラーニングとは

Fin.