「はじめてでもわかる RandomForest 入門－集団学習による分類・予測－」－第７回データマイニング+WEB勉強会＠東京

第7回データマイニング+WEB勉強会＠東京
2010/09/26

はじめてでもわかる
Random Forest入門
Introduction to Random Forest

－集団学習による分類・予測－

hamadakoichi
濱田晃一

AGENDA
◆自己紹介
◆Random Forestとは
◆概要
◆樹木モデル
◆集団学習
◆アルゴリズム
◆R言語での実行
◆Mahout：Random Forest
◆参考資料
◆最後に

hamadakoichi
濱田晃一
http://iddy.jp/profile/hamadakoichi

4

自己紹介：hamadakoichi 濱田晃一

5


データマイニング+WEB勉強会＠東京

主催者です

6

理論物理博士(2004.3取得)
量子統計場の理論
Statistical Field Theory Spontaneously
Time-Reversal Symmetry Breaking

Anisotropic Massless Dirac Fermions

博士論文： http://hosi.phys.s.u-tokyo.ac.jp/~koichi/PhD-thesis.pdf 7


文部大臣に褒められた
元文部大臣・法務大臣六法全書著者・元法学政治学研究科長
森山眞弓さん菅野和夫さん

8


Los Angelesでプロダンサーに褒められた

・HIP HOP/House ダンス歴１３年
・ダンス開始後 1年半でL.A.でプロダンサーに褒められる

Youtube Channel： http://www.youtube.com/hamadakoichi 9


毎週末３時間ダンスコーチをしています

■過去、東京と京都でも
ダンス部を創設。
コーチをしていました
駒場物理ダンス部京都大学基礎物理学研究所ダンス部
部長兼コーチ部長兼コーチ

現在：毎週末３時間ダンスコーチ
Youtube Channel： http://www.youtube.com/hamadakoichi 10

数理解析手法の実ビジネスへの適用
2004年博士号取得後
数理解析手法を実ビジネス適用の方法論構築
主な領域
◆活動の数理モデル化・解析手法
◆活動の分析手法・再構築手法
◆活動の実行制御・実績解析システム
…
内容抜粋
“Decoupling Executions in Navigating Manufacturing "Unified graph representation of processes
Processes for Shortening Lead Time and Its Implementation for scheduling with flexible resource
to an Unmanned Machine Shop”, assignment",

11

数理解析手法の実ビジネスへの適用：活動例
活動例
活動の統一グラフモデルを構築・解析
Unified graphical model of processes and resources
青字：割付モデル属性
[ ] : Optional
Node ・priority(優先度) Edge
・duration(予定時間)
[・earliest(再早開始日時) ] Process Edge
Process [・deadline(納期) ]
[・or(条件集約数) ]
前プロセスの終了後に後プロセスが
プロセスを表す開始できること表す
・attributes（属性）
preemptable(中断可否),
successive(引継ぎ可否)
Uses Edge
workload(作業負荷) Processが使用する
uses uses uses uses uses uses Assign Region を表す

Assign Region Assigns from Edge
同一Resourceを割付け続ける Assign Regionに
assigns from assigns from 指定Resourceの子Resource集合の
範囲を表す
assigns assigns 中から割付けることを示す
企業01 [process]
has has [startDate(開始日時)]
[endDate(終了日時)] Assigns Edge
製品01 組織A StartDateからEndDateまでの間
Resource has Assign RegionにResourceを
割付対象要素を表す has has has has has has 割付けることを表す
・capacity(容量)
・calender(カレンダー)
AAA01 AAB02 … 山田さん田中さん鈴木さん・attributes(属性) Has Edge
東さん Resourceの所有関係を表す
12

一品一様の業務プロセスの
動的なプロセス制御数理体系を構築
全体生産リードタイム中央値を 1/2.7に短縮
設計開始～頭だし出荷リードタイム
設計開始～頭だし出荷 CT対週集計開始日時の箱ひげ図体系適用
500

適用後
設計開始～頭だし出荷CT

400

360.4h(15.0日)
1/2.7
300

200

100

0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
141.6h(5.9日)
00 00
9: 9: 9: 9: 9: 9: 9: 9: 9: 9: 9: 9: 9: 9:
/ 20 / 27 / 04 / 11 / 18 / 25 / 01 / 08 / 15 / 22 / 29 / 06 / 13 / 20
/ 09 / 09 / 10 / 10 / 10 / 10 / 11 / 11 / 11 / 11 / 11 / 12 / 12 / 12
04 04 04 04 04 04 04 04 04 04 04 04 04 04
20 20 20 20 20 20 20 20 20 20 20 20 20 20
週集計開始日時

13

ビジネスとともに
学術分野でも貢献
変動性から生じる動的な課題
・リソースの競合・滞留・納期遅延 …

一品一様な業務プロセスを含む
統計解析・制御数理モデル
・統計的な有効変数算出
・統計数理モデル化
－優先順位制御
－実行タイミング制御
－統計フィードバック
－適正リソース量算出
・予測数理体系
論文（体系の一部）
M.Nakao, N. Kobayashi, K.Hamada, T.Totsuka, S.Yamada,
“Decoupling Executions in Navigating Manufacturing Processes for Shortening Lead Time and Its Implementation
to an Unmanned Machine Shop”,
CIRP Annals - Manufacturing Technology Volume 56, Issue 1, Pages 171-174 (2007) 14

参加者
自己紹介Ｔｉｍｅ

（1分以内ずつ：計３０分程度）

15

Random Forest とは

集団学習により

19



高精度の分類・予測を実現する

20



高精度の分類・予測を実現する

機械学習アルゴリズム

21

樹木モデルの集団学習により
高精度の分類・予測を行う
学習用データ

Random Sampling 1 Sampling 2 … Sampling B

Forest
Forest
Tree 1 Tree 2 … Tree B

予測対象

Result 1 Result 2 … Result B

分類・予測結果 22

学習用データ


Forest
Forest

予測対象



樹木モデルとは
木構造の条件分岐で
分類・予測(回帰)を行う
例：植物の分類
Iris（アヤメ）データ
花葉と花びらの長さ・幅から
種類の分類構造算出
説明変数目的変数
花葉（長さ・幅）花びら（長さ・幅）種類

26

例：植物の分類分類花びらの長さ
花葉と花びらの長さ・幅から花びらの幅
setosa

virginica

versicolor

27

例：植物の分類分類花びらの長さ
花葉と花びらの長さ・幅から花びらの幅

virginica setosa

setosa
virginica
versicolor virginica

versicolor virginica

28

例：ブレーキ後停車距離予測
carsデータ
車速度と
ブレーキ後の停車距離の関係構造算出
ブレーキ後の
車の速度
停車までの距離

29

例：ブレーキ後停車距離予測回帰（予測）スピード
carsデータ
車速度と
ブレーキ後の
車の速度
停車までの距離

ブレーキ後の停車距離

30

例：ブレーキ後停車距離予測回帰（予測）スピード(speed)
carsデータ
車速度と

ブレーキ後の停車距離

31

樹木モデル：分岐基準
条件ノード A を条件ノードALとARに分けるとき
以下のΔIを最大化する分割を行う
Classification And Regression Trees (CART)
(Breiman et al, 1984)
分類木

Entropy
GINI係数

※ ：条件ノード A でクラス k をとる確率
回帰木

尤離度(deviance)

※ ：条件ノード A での目標変数 t の平均値 32

学習用データ


Forest
Forest

予測対象



集団学習とは

36

集団学習とは
複数モデル生成し結果を統合
精度を向上させる機械学習のアルゴリズム

37

集団学習とは

■異なるサンプル、異なる重みの
複数の学習モデルを生成

38

集団学習とは


■各モデルの結果を統合・組合せにより
精度・汎用性を向上

39

集団学習とは


結果の統合・分類：多数決
・回帰：平均値

40

集団学習とは


結果の統合・分類：多数決
・回帰：平均値

41

Random Forest
Tree Modelの集団学習による
高精度の分類・予測(回帰)
学習用データ


Forest
Forest

予測対象



学習と予測

学習

44

Random Forest アルゴリズム：学習

Random
Forest

45


ブートストラップサンプリング
学習データから重複を許しランダムに B組のサンプル集合抽出

学習用データ


Forest

46


ランダム抽出変数での樹木モデル生成
各ノード展開で M個の説明変数からm個変数をランダム抽出

学習用データ


Forest
Tree 1

47

全サンプル集合で
樹木モデルを生成
学習用データ


Forest

48

複数の樹木モデル
= Forest (森) モデル
学習用データ


Forest

49

複数の樹木モデル
= Forest (森) モデル
学習用データ


Forest
Forest

50

学習と予測

予測

51

Random Forest アルゴリズム
全樹木モデルで
分類・回帰予測の結果算出
学習用データ


Forest
Forest

予測対象


52


全Tree Model の結果を統合する
分類：多数決、回帰予測：平均

学習用データ


Forest
Forest

予測対象



Tree Modelの集団学習による
高精度の分類・予測(回帰)
学習用データ


Forest
Forest

予測対象



Random Forest
Random Forest の
主な特長

・精度が高い
・説明変数が数百、数千でも効率的に作動
・目的変数に対する説明変数の重要度を推定
・欠損値を持つデータでも有効に動作
・個体数がアンバランスでもエラーバランスが保たれる

55

Random Forest の実行

パッケージインストール
# randomForest のインストール
install.packages("randomForest")
library(randomForest)

57


学習用・予測用データ作成
# iris（アヤメ）データを使用
data <- iris
# 学習用データとテスト用データをランダムサンプリング
ndata <- nrow(data)#データ行数
ridx <- sample(ndata, ndata*0.5) #50%のランダム抽出で学習・予測データ分割
data.learn <- data[ridx,] #学習用データ作成
data.test <- data[-ridx,] #予測用データ作成
サンプルデータ
iris(アヤメ)データ：よい性質を持ちよく使用される
(R環境で標準提供されている) 説明変数目的変数
Sepal.Length Sepal.Width Petal.Length Petal.Width Species
5.1 3.5 1.4 0.2 setosa
4.9 3.0 1.4 0.2 setosa
4.7 3.2 1.3 0.2 setosa
4.6 3.1 1.5 0.2 setosa
5.0 3.6 1.4 0.2 setosa
Iris Sanguinea 58


Random Forest の生成
# Species(種類)を分類変数として Random Forest を生成
forest <- randomForest(Species~.,data = data.learn)

59


Random Forest の生成
# Species(種類)を分類変数として Random Forest を生成
forest <- randomForest(Species~.,data = data.learn)

関数
randomForest(formula, data = NULL, …, ..., subset, na.action=na.fail)

主要な引数内容
formula モデルの形式
x, y 目的変数と説明変数 (formula 代わりに用いる）
data, subset 用いるデータ
na.action 欠損値の表記型の指定
ntree 生成する木の数 (デフォルトは 500)
mtry 分岐に用いる変数の数 (デフォルト, 分類 √M, 回帰 M/3, M:変数総数)
importance 変数の重要度出力 (デフォルトは FALSE）

60

生成されたForest を用いた
高精度の予測
# Forestを用いた予測の実行
pred.forest <- predict(forest, newdata = data.test, type = "class")

# 解との比較
table(pred.forest, data.test[,5])

61

高精度の予測

# 解との比較

予測結果： Random Forest 予測
pred.forest setosa versicolor virginica
setosa 27 0 0
versicolor 0 28 0
virginica 0 0 20

分類間違いなし

62

高精度の予測

# 解との比較

予測結果： Random Forest 予測 ※比較参照予測結果：分類木 (rpart)
pred.forest setosa versicolor virginica pred.dt setosa versicolor virginica
setosa 27 0 0 setosa 27 0 0
versicolor 0 28 0 versicolor 0 26 1
virginica 0 0 20 virginica 0 2 19

分類間違いなし

63

樹木モデルとの比較
きわどいところも
分類できている

予測結果： Random Forest 予測 ※比較参照予測結果：分類木 (rpart)
pred.forest setosa versicolor virginica pred.dt setosa versicolor virginica
setosa 27 0 0 setosa 27 0 0
versicolor 0 28 0 versicolor 0 26 1
virginica 0 0 20 virginica 0 2 19

分類木のエラー箇所

virginica

setosa

virginica
versicolor

64

重要度算出
各変数の目的変数に対する重要度
重要度グラフ表示
#重要度グラフ表示
varImpPlot(forest)

#重要度出力
Importance(forest)

重要度出力
> importance(forest)
MeanDecreaseGini
Sepal.Length 4.791776
Sepal.Width 2.102875
Petal.Length 20.811569
Petal.Width 20.627166

65

Mahoutとは
Open Sourceでスケーラブルな
機械学習・データマイニングのライブラリ

・Apache プロジェクト
・機械学習・データマイニングのライブラリ
・Java オープンソース
・Hadoop（大規模分散処理基盤）上で動作
（Hadoop：象, Mahout: 象使い）

http://mahout.apache.org
67

Mahoutとは


68

Mahoutとは


69

Mahoutとは


70

Mahoutとは


71

Mahoutとは

・Hadoop：象, Mahout: 象使い

72

Mahoutとは

・Hadoop：象, Mahout: 象使い

73

Mahoutとは

Applications

Examples

Freq.
Genetic Pattern Classification Clustering Recommenders
Mining

Math
Utilities Collections Apache
Vectors/Matrices/
Lucene/Vectorizer (primitives) Hadoop
SVD

http://cwiki.apache.org/confluence/display/MAHOUT/Algorithms
http://www.slideshare.net/gsingers/intro-to-apache-mahout 74

Mahout : Random Forest
mahout.df(Decision Forest) Packageで実装されている

75

Mahout : Random Forest
mahout.df(Decision Forest) Packageで実装されている
主要クラス
Decision Tree構築： org.apache.mahout.df.builder.TreeBuilder
Interface 内容
TreeBuilder 樹木モデル(Decision Tree)構築のInterface
Class 内容
DefaultTreeBuilder 樹木モデル(Decision Tree)構築の実装クラス
Forest予測： org.apache.mahout.df.callback
Class 内容
ForestPredictions Decision Forestの予測結果を算出する

Decision Forest構築： org.apache.mahout.df.mapreduce
Class 内容
Builder Decision Forestを構築する
Decision Forest： org.apache.mahout.df.DecisionForest
Ｉｎｔｅｒｆａｃｅ内容
DecisionForest Decision Forest (Decision Tree 集合) 表現・データ取得 76

参考資料：R / Random Forest

Rによるデータサイエンス
～データ解析の基礎から最新手法まで～

■CART元論文：
Breiman, L. , et.al, "Classification and Regression Trees", Wadsworth (1984)
■Random Forest元論文：
Breiman, L., et.al, “Random Forests”, Machine Learning (2001)

参考資料：Mahout/Hadoop/Recommendation

http://www.slideshare.net/hamadakoichi/mahoutweb http://www.slideshare.net/karubi/web-mining-0620

http://www.slideshare.net/yanaoki/hadoop-4683332 http://www.slideshare.net/hamadakoichi/ss-4552939

最後に

蓄積されたデータを有効活用してきたい

81

最後に

蓄積されたデータを有効活用してきたい

Google Group： http://groups.google.com/group/webmining-tokyo

82

最後に
データマイニング+WEB勉強会
発表者を募集しています

連絡
Google Group： http://groups.google.com/group/webmining-tokyo
Twitter ： http://twitter.com/hamadakoichi
83

ご清聴ありがとうございました

84

「はじめてでもわかる RandomForest 入門－集団学習による分類・予測－」－第７回データマイニング+WEB勉強会＠東京

Recommended

Recommended

More Related Content

What's hot

What's hot (20)

Viewers also liked

Viewers also liked (20)

Similar to 「はじめてでもわかる RandomForest 入門－集団学習による分類・予測－」－第７回データマイニング+WEB勉強会＠東京

Similar to 「はじめてでもわかる RandomForest 入門－集団学習による分類・予測－」－第７回データマイニング+WEB勉強会＠東京 (20)

More from Koichi Hamada

More from Koichi Hamada (20)