DeNAの大規模データマイニング活用したサービス開発

1
Copyright (C) 2014 DeNA Co.,Ltd. All Rights Reserved.
慶應義塾大学大学院理工学研究科
2014年度下期ビックデータ実践論
特別講義
DeNAの
大規模データマイニング活用した
サービス開発
株式会社ディー・エヌ・エー
濱田晃一

2
AGENDA
◆DeNAのサービス・データ規模
◆講師紹介
◆最後に
◆大規模データマイニング基盤構成
◆楽しさのマイニング
◆データマイニング活用したサービス開発
◆データマイニング活用によるサービス洗練
◆提供価値
◆事例：提供体験・アルゴリズム
◆活動
◆はじめに

3
AGENDA
◆講師紹介
◆最後に
◆提供価値
◆活動
◆はじめに

4

5
Mobageの１日あたりの
ユーザアクション数？

6
35億以上/Day

7
日本最大規模のWebサービス
35億以上/Day

8
ログデータ量？

9
ログデータ量？
1.2TB/Day

10
何の数値？

11
3.8倍

12
3.8倍
Install/Impression
(CTR x CVR)

13
3.8倍
Install/Impression
(CTR x CVR)
デモグラ区分でMobage全体のCTRxCVRやLTVが高いゲームのリスティングと比較した
パーソナルゲームレコメンドの数値増加効果(※1)
※1: 表示位置等、同条件での比較。2014年上期時点

14
3.8倍 9.7倍
Install/Impression
(CTR x CVR)

15
9.7倍
※2: 利用継続数値: Install後のN日後のInstallゲームの来訪ユーザ数等
利用継続数値/Impression
(※2)
3.8倍
Install/Impression
(CTR x CVR)

16
3.8倍
効果規模例
9.7倍
興味と合い楽しめるゲームに出会えることにより
よりゲームを楽しみ継続してもらえる体験を提供
利用継続数値/Impression
(※2)
Install/Impression
(CTR x CVR)

17
パーソナルレコメンデーション例
興味にあったゲームに出会い楽しめるレコメンド
行動・反応から興味を学習。使えば使うほど推薦内容が洗練されていく
自分の興味にあい楽しみ継続利用する確率が高いゲーム
・各ユーザごとに、各レコメンドに対す
る反応から興味を学習（強化学習）
自分がはまっているゲーム
User Reaction Log
Personalized Data
for Each User
Impression
Game Play Install
user_id, recdata
・ゲームプレイ特徴、ゲームインストー
ル特徴、インストール後継プレイ特徴、
の条件付き確率構造を学習
・各ユーザーごとに、プレイ特徴に応じ
た、各ゲームの継続利用確率を算出
分散処理: 機械学習
Click
Install
プレイ・継続特徴学習、利用継続確率
リアクション学習
Play Continuity
after install

18
12.7倍

19
効果規模例
サービス横断で親しいユーザを用いたパーソナル友達レコメンド効果
全体で友達成立しやすい人とのリスティング比較（※）
12.7倍
友達成立数/Impression
※表示位置等、同条件での比較。

20
効果規模例
サービス横断で友達を増やし
一緒にゲーム・コミュニティを楽しむ機会を創出
12.7倍

21
興味あるゲーム・コミュニティで親しいユーザ
一緒に楽しんでいるサービス
User Reaction Log
Personalized Data
for Each User
Impression
Service Access
user_id, recdata
・アクセス特徴、コミュニケーション特
徴から、各ユーザごとに、興味・個別
サービスでの他ユーザとの親密度、お
よび、ゲーム・プラットフォーム横断で
のユーザ間親密度を算出
Friend Request
Accept
サービス横断のユーザ親密度
Communication
る反応から興味を学習・洗練（強化
学習）

22

23
みなさんが学んでいる
データマイニング・機械学習

24
新たな価値提供の
ポテンシャルを持っている

25
今後、ぜひ学んだことを活かし
新たな価値あるサービスを作りあげてください

26
本日は
実際の大規模サービスでの
データマイニング・機械学習活用した
サービス開発・挑戦
に関し、お話しします

27
AGENDA
◆講師紹介
◆最後に
◆提供価値
◆活動
◆はじめに

28
講師
2010年6月
Mobageプラットフォーム全体の
データマイニング・機械学習活用したサービス開発・洗練
2011年4月～
・博士 - 量子統計場の理論(理論物理学)
・データマイニング+WEB@東京(TokyoWebmining) 主催。
　データマイニングの実活用コミュニティ。登録人数 1300人超。
濱田晃一 (@hamadakoichi)
・執筆：Mobageを支える技術
DeNA入社
ソーシャルゲームのデータマイニングチーム立上げ
Analytics Architect
DeNA全サービスの
データマイニング・機械学習活用したサービス開発・洗練
2014年10月～
・データマイニング・機械学習、等、各種講師資料も公開しています
http://slidesha.re/h6OeXn

29
数千万人の人々へ
各人のつながり・楽しみ・好み個性にあった適切なサービス配信
日々35億以上の活動の活用
データマイニング・機械学習活用したサービス開発
活動
より適切なサービス提供
各人のつながり、楽しみ、好み、個性にあった
Social Graph
Objective Process
Fun PersonalityLike
Social Media
Data Mining
Machine Learning

30
ソーシャル・活動情報の活用により
より適切な情報・サービス配信される世界を実現したい
活動
Social Graph
Objective Process
Fun PersonalityLike
Social Media
Data Mining
Machine Learning

31
Social Graph
Objective Process
Fun PersonalityLike
Social Media
Data Mining
Machine Learning
活動
世界中の人々が
個々人のつながり・楽しみ・好みにあった適切な情報・サービスを
自ら探さなくても得ることができる世界

32
AGENDA
◆講師紹介
◆最後に
◆効果規模
◆体験提供・アルゴリズム
◆提供価値
◆はじめに

33

Eコマースゲームトラベル
コミュニケーションスポーツエンターテインメント
ベンチャー投資
DeNAの事業ポートフォリオ
ヘルスケアキュレーション

35億Action以上/日
数千万人
有効会員
ユーザ行動
ソーシャルゲームプラットフォーム

１日35億超の行動情報
36
統計的有意な結果を
多くのユーザー体験へ還元
数千万人
１日35億超アクション

37
統計的有意
データマイニング・機械学習の
結果の統計的有意性
数千万人

38
統計的有意多くの人へ還元
データマイニング・機械学習の
結果の統計的有意性
多くのユーザー体験へ
還元できる
数千万人

39
AGENDA
◆講師紹介
◆最後に
◆提供価値
◆活動
◆はじめに

40
データマイニング活用によるサービス洗練
データマイニング・機械学習の活用により
迅速なサービス洗練を実現していますKafka
Messaging
DeNA Data Mining Libraries
Service Log API
Service Log API
Service
Log API
… …
…
Data Mining Infrastructure
Business
Planning
KPI Views
KPI Inspection
Unified Description of
Action/Status Log
Storm
Streaming
Elastic
Search
Similarity/Search
Hadoop DFS
HBase
Java
HUE
R
Perl
Hive
MapReduce
Pig
Online Storage
Batch
Redundant, Reliable Storage
Data-mining
Machine-Leaning
Results
Vertica

41
KPI(Key Performance Indicator)定常算出・共有
ビジネス・サービス変化を検知
KPI Views
KPI Inspection

42
経営判断・サービス洗練を行うための
データマイニング実行
Business
Planning
KPI Views
KPI Inspection

43
データマイニング・機械学習結果のサービス活用
より楽しんでもらえるサービスへKafka
Messaging
…
Business
Planning
KPI Views
KPI Inspection
Data-mining
Machine-Leaning
Results

44
データマイニング・機械学習の活用により
迅速なサービス洗練を実現していますKafka
Messaging
Service Log API
Service Log API
Service
Log API
… …
…
Business
Planning
KPI Views
KPI Inspection
Action/Status Log
Storm
Streaming
Elastic
Search
Similarity/Search
Hadoop DFS
HBase
Java
HUE
R
Perl
Hive
MapReduce
Pig
Online Storage
Batch
Data-mining
Machine-Leaning
Results
Vertica

45
AGENDA
◆講師紹介
◆最後に
◆提供価値
◆活動
◆はじめに

46
詳細行動情報
目的・感情が分かる詳細行動情報

47
詳細行動情報
ミッションボス挑戦
勝つ負ける

48
詳細行動情報
勝つ負ける
ステータスアップ

49
詳細行動情報
勝つ負ける
応援プレゼント
ウィンク仲間申請
交換

50
詳細行動情報
勝つ負ける
助け合う
交換

51
詳細行動情報
勝つ負ける
助け合う
交換
水やり収穫
種まき耕す
捕獲

52
詳細行動情報
勝つ負ける
助け合う
交換
水やり収穫
種まき耕す
捕獲
育成

53
詳細行動情報
…
勝つ負ける
助け合う
交換
水やり収穫
種まき耕す
捕獲
育成
アイテム合成
アイテム取得
収集
…

54
詳細行動情報
よりユーザ趣向を理解した深い解析
楽しさのマイニング
…
勝つ負ける
助け合う
交換
水やり収穫
種まき耕す
捕獲
育成
アイテム合成
アイテム取得
収集
…

55
ユーザー体験へ還元
Social Media
Experience

56
Social Media
Experience
Social Graph
Detailed Actions
Social Communications
Changes of Status
Personality ..etc

57
Social Graph
Data Mining
Machine Learning
of Fun
Social Media
Experience
Detailed Actions
Changes of Status
Personality ..etc

58
Social Graph
Data Mining
Machine Learning
ClusteringPatternMining
Classification Regression Recommendation
of Fun
Social Media
Experience
TimeSeriesAnalysis StatisticalAnalysis
Detailed Actions
Changes of Status
NaturalLanguageProcessing ..etc
Personality ..etc

59
活動例（抜粋）
Social Graph
Data Mining
Machine Learning
of Fun
Social Media
Experience
Detailed Actions
Changes of Status
Personality ..etc

60
Recommendation
より楽しんでもらえるサービス推薦
活動例（抜粋）: Recommendation

61
Recommendation Strategy
推薦戦略

62
Memory Based Paradigm
(most user decision focused)
> 協調フィルタリング (users that play A play B)
> ソーシャルグラフ (user neighborhood)
> 強化学習 (user feedback)
> locality sensitive hashing (user profile similarity)
Model Based Paradigm
(most detailed experiments and rationale)
> パターンの学習と予測
　> latent semantic analysis (game text similarity)
　> artificial neural network
Emergent Intelligence Paradigm
(fastest adaptation)
> エージェントランダムウォーク(user similarity search)
> 遺伝的アルゴリズム (game preference convergence)
Hybridized Intelligence Paradigm
(most successful globally)
> 手法の組合せによる向上
>> 友人がいないとき (e.g. new user)
>> 利用データが存在しないとき (e.g. new game)
>> モデルからメタデータが取得できないとき
> 混合手法によるこれらの課題解決
Standard Recommendation Methodologies
推薦戦略

63
推薦戦略

64
Social Collaborative Filtering
Social Graph
Collaborative Filtering (Personal)
(Neighborhood Matrix Model for “A likes B”)
Input User History and
Neighborhood
Collaborative Filtering (Global)
(Global Matrix Model for “A likes B”)
Input User History
and Social Graph
RECSRECS
User with no friend [ex) New User]
User with friend
Relationship between Game A2 and C2
Item-Item Matrix of Relationships (Invented by Amazon.com)
Users who “bought A bought C”, “viewed A viewed C”…
There are thousands of collaborative filtering varieties:
+ user friend neighborhood…
+ user similarity clustered neighborhood…
References (International Research Copyrights)
Wikipedia Image of a Social Network
user
Friend of Friend
Friend
Neighborhood
ソーシャルグラフを用いたユーザー行動履歴・グラフによる推薦

65
推薦戦略

66
Content Similarity
コンテンツ類似度の利用
Similarity Game A2 and C2
Game A to B Cosine Similarity Matrix Smoothing Normalization
Game A to B Relationship Matrix
Cosine Similarity Equation
Latent Semantic Analysis via
Singular Value Decomposition
Statistical Z-Score removes Low
Confidence Scores
1
2
3
4 5 6

67
Social Neural Networks
ソーシャルグラフを用いたユーザー行動履歴・グラフによる推薦
Input User History
and Neighborhood
Wikipedia Image of a Social Network
G1
G2
G3
G4
G5
G6
G7
G8
G9
G1
G2
G3
G4
G5
G6
G7
G8
G9
1
1
0
0
0
0
0
0
0
0
0
0
1
0
0
0
0
0
HISTORY RECOMMENDATIONS
Social Graph
user
Friend of Friend
Friend
Neighborhood

68
推薦戦略

69
Social Agent Emergence
エージェントによる隠されたグループ抽出
Sub-culture 1
Sub-culture 2
AGENT Random Walk
Genetic Algorithm

70
推薦戦略

71
Hybrid Models
CF
AGENT
NN
SIM
RL
Users that Like A Like B
Hybrid Model
Prediction

72
Recommendation
より楽しんでもらえるサービス推薦

73
Social Graph
Data Mining
Machine Learning
of Fun
Social Media
Experience
Detailed Actions
Changes of Status
Personality ..etc

74
Feature Analysis
楽しさの行動パターン、やめてしまう状況パターン
活動例（抜粋）: Pattern/Clustering/Classification

75
Feature Analysis
Activity 1
Activity N, …
Clustering
Pattern Mining
Feature Analysis
F1
F2
E1
E1
F3
F4
F5
Regression
Classification

76
■楽しさの行動パターン
Feature Analysis/Prediction
■やめてしまう状況パターン

77
⇒夢中になる体験をしてもらう
・夢中になるきっかけ

78
⇒楽しさのパターンを高頻度発生。より楽しいサービス体験。
⇒楽しさのパターンをサービス初期で体験。楽しさを理解。
・楽しんでサービス継続している行動特徴

79
・飽きはじめるきっかけ・不快な状況
⇒やめるきっかけを発生させないようにする。

80
⇒他の楽しみ方の提供（他サービスへの推薦等）
・飽きはじめたユーザーの予測・判別
⇒新鮮・斬新な体験を提供する

81
⇒他の楽しみ方の提供（他サービスへの推薦等）
・飽きはじめたユーザーの予測・判別
⇒新鮮・斬新な体験を提供する

82
例）

83
例） Pattern Mining
F1
F2
E1
E1
F3
F4
F5
やめてしまう
夢中になり始める

84
例）
Activity 1
Activity N, …
Clustering
Pattern Mining
F1
F2
E1
E1
F3
F4
F5
やめてしまう
継続
離脱

85
例）
Activity 1
Activity N, …
Clustering
Pattern Mining
Feature Analysis
F1
F2
E1
E1
F3
F4
F5
Regression
Classification
やめてしまう
継続
離脱

86
Activity 1
Activity N, …
Clustering
Pattern Mining
Feature Analysis
F1
F2
E1
E1
F3
F4
F5
Regression
Classification
やめてしまう
継続
離脱
例）
User Experience
Improvement

87
Social Graph
Data Mining
Machine Learning
of Fun
Social Media
Experience
Detailed Actions
Changes of Status
Personality ..etc

88
活動例（抜粋）: Time Series Analysis
異常な振る舞い
複数時系列の異常検知
時系列A
時系列B 時系列C
ケースA
ケースB
ケースC
例2:CM効果のノイズ除去
異常な振る舞いの時系列を検出
異常な振る舞いをしているケースを
除外して、CMの効果を算出する
CM効果
トラフィックA
トラフィックB
トラフィックC
例1:トラフィック異常検知
異常な振る舞いをしている
トラフィックの原因を調査する
調査
A
B
C
時系列のモデリング
時系列A
時系列B
時系列C
Anomaly detection
複数時系列から異常な振る舞いを検知する

89
異常スコア推移
異常値
t
モデル構築
異常スコアの算出
◇例 : ARIMAモデル
◇例 : 対数損失
Anomaly detection
新しいデータと過去時系列モデルの乖離から異常検出

90
CM時系列
各KPIの時系列
CM
新規
登録
ARPU
ARPP
U
継続
率
ケー
ス
イベン
ト
その
他
外部
要因
TV Commercial Effects
時系列的な振る舞いの特徴から各KPIへのCMの影響度を算出

91
Social Graph
Data Mining
Machine Learning
of Fun
Social Media
Experience
Detailed Actions
Changes of Status
Personality ..etc

92
■健全なプラットフォームへ
■ユーザーの声によるサービス洗練
　・不正書き込み判別
　・年齢詐称の判別
　・ソーシャルコミュニケーションのテキストマイニング
Other Applications
他にも各種ユーザー体験向上に役立てています
　等

93
Social Graph
Data Mining
Machine Learning
of Fun
Social Media
Experience
Detailed Actions
Changes of Status
Personality ..etc

94
AGENDA
◆講師紹介
◆最後に
◆提供価値
◆活動
◆はじめに

95
AGENDA
◆講師紹介
◆最後に
◆提供価値
◆活動
◆はじめに

96
データマイニング・機械学習活用し

97
楽しんでもらえるサービスをつくる

98
提供したいのは
新たな価値ある体験・サービス

99
データマイニング・機械学習はあくまで手段
だが、新たな価値提供の大きな源泉となる

100
データマイニング・機械学習を活用し
体験提供・サービスとしてよいものをつくる

101
実際にどのくらい価値があるのかは提供してみないとわからない
わからないことはやってみる。挑戦する

102

103
データマイニング・機械学習活用した
サービス開発

104
体験提供

105
分析
解決価値・効果高い課題設定を行う
新たな価値提供の余地・効果が高い、対象領域・ユーザクラスタ・特徴を明らかにする
・効果高い課題設定
・高影響要素解明
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析
体験提供

106
ユーザ体験設計・サービス設計
新たな提供体験・価値を考える
どのような新たな体験提供ができるか、どのような価値があるか、考え抜く
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析
体験提供
2. ユーザ体験設計
Service
Front End
3. サービス設計

107
どのような新たな体験提供ができるか、どのような価値があるか、考え抜く
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析
体験提供
Service
Front End
データマイニング・機械学習は新たな体験提供の大きな源泉となる

108
体験提供
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析 2. ユーザ体験設計
Service
Front End

109
体験提供
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析 2. ユーザ体験設計
Service
Front End

110
洗練サイクル設計・ログ設計・連携データ設計
洗練サイクルを設計する
ユーザが日々利用しているだけで、体験洗練されていくサイクルを設計する
体験提供
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析
Feedback Log
Personalized Data
For each user
Service
Front End
4. 洗練サイクル設計
6. ログ設計
5. 連携データ設計
Distributed
Applications
YARN
HDFS

111
洗練サイクル設計・ログ設計・連携データ設計
洗練サイクルを設計する
ユーザが日々利用しているだけで、体験洗練されていくサイクルを設計する
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析
体験提供
Feedback Log
Personalized Data
For each user
Service
Front End
6. ログ設計
Distributed
Applications
YARN
HDFS
学習アルゴリズム、学習に必要なログ、連携データ、等、一連のサイクルをつくる

112
分散アルゴリズム設計
学習方法の分散アルゴリズムを設計する
大規模データでもスケールする学習アルゴリズム設計する
体験提供
Distributed
Applications
YARN
HDFS
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析
Feedback Log
6. ログ設計
Personalized Data
For each user
Service
Front End
7.分散アルゴリズム設計

113
分散アルゴリズム設計
学習方法の分散アルゴリズムを設計する
大規模データでもスケールする学習アルゴリズム設計する
体験提供
学習アルゴリズムを、分散可能なアルゴリズムに再構成する
Distributed
Applications
YARN
HDFS
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析
Feedback Log
6. ログ設計
Personalized Data
For each user
Service
Front End

114
分散アルゴリズム実装
体験提供
体験・サービス提供に適した形で実装・チューニングしていく
サービスに適した形で分散アルゴリズム実装する
Distributed
Applications
YARN
HDFS
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析
Feedback Log
6. ログ設計
Personalized Data
For each user
Service
Front End
8.分散実装

115
体験提供
サービスに適した形で分散アルゴリズム実装する
Distributed
Applications
YARN
HDFS
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析
Feedback Log
6. ログ設計
Personalized Data
For each user
Service
Front End
8.分散実装
各種アルゴリズムチューニングのトライを多く行いたい。必要なものは自分でつくる

116
体験提供
結果を分析し、体験・サービス・学習サイクルともに洗練していく
Distributed
Applications
YARN
HDFS
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析
Feedback Log
6. ログ設計
Personalized Data
For each user
Service
Front End
8.分散実装

117
Distributed
Applications
YARN
HDFS
データマイニング・機械学習活用したサービス開発
新たな価値ある体験・サービス提供を考え、作り、挑戦し続ける
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析
体験提供
Feedback Log
6. ログ設計
Personalized Data
For each user
Service
Front End
8.分散実装

118
AGENDA
◆講師紹介
◆最後に
◆提供価値
◆活動
◆はじめに

119
Appli Marketとの差異化
Appli Marketと異なり、ユーザアクティビティまで担うPF
アクティビティ・ソーシャルグラフを活用しユーザ体験・価値を最大化する
Social
（Friend/Communication）
Activity
×
モバ友
ゲーム内仲間
よく出会う人
（同チーム、上位ランカー）
impression
click
Install
Appli Market
(Google Play/ AppStore)
Activity PF+
PFコミュニケーション
(ミニメ、あいさつ、チャット、etc)
ゲーム内
コミュニケーション
利用継続プレイ
…

興味にあったサービスに出会え
親しい人と一緒に楽しめる情報・機会の提供
体験提供
日々サービスを利用しているだけで
ユーザひとりひとりが

User・Developer・PFに提供する価値
Mobage PF
User
興味に合うゲームに出会え
親しいユーザと一緒に楽しめる
Developer
提供ゲームに興味があり
親しいユーザどうしで楽しむ
継続利用・コイン消費してくれる
ユーザの獲得
より楽しんでもらえる機会を提供し
利用継続・コイン消費してもらえる

提供
Social Graph
Data Mining
Machine Learning
of Fun
Social
Experience
Detailed Actions
Changes of Status
Personality ..etc
活動・ソーシャル情報の活用により
ひとりひとりそれぞれの興味・つながりにあった
より適切な情報・サービスの提供

提供
Social Graph
Data Mining
Machine Learning
of Fun
Social
Experience
Detailed Actions
Changes of Status
Personality ..etc
活動・ソーシャル情報の活用により
ひとりひとりそれぞれの興味・つながりにあった
より適切な情報・サービスの提供
自ら探さなくてもそれらを得ることができる世界を実現したい

AGENDA
◆講師紹介
◆最後に
◆提供価値
◆活動
◆はじめに

提供

興味にあったゲームに出会え
提供

提供
数千万人ひとりひとりに対し学習・算出し
サービス提供する

活動例：パーソナルレコメンデーション
各ユーザーに対し興味・サービス横断で親しいユーザを学習・算出
サービスを使えば使うほど内容が洗練されていく
興味のあるゲームに出会う親しい人と一緒に楽しむ
友達を増やし一緒にゲーム・
コミュニティを楽しむ
（個別の学習、及び、ユーザ状況に応じたアルゴリズム自体の組合せ・選択）

129
提供体験例

130
提供体験例
親しい仲間と複数ゲームを楽しめる

131
提供体験例
User

132
提供体験例
User
興味興味興味

133
提供体験例
User
興味興味
User
興味

134
提供体験例
User
興味
親しさ
興味
User
興味

135
提供体験例
User
興味
親しさ
興味
User
興味興味

Social
Game
Communication
FriendCommunication
PF
Communication
PF
Activity
Game
Activity
Game
Impression
Game
Click
Game
Install
User
Impression
User
Click
AttentionActivity
提供体験例
興味にあったゲームに出会え、親しい仲間と複数ゲームを楽しめる
136
PF
Friend
Game
Friend

Social
Game
Communication
FriendCommunication
PF
Communication
PF
Activity
Game
Activity
Game
Impression
Game
Click
Game
Install
User
Impression
User
Click
AttentionActivity
提供体験例
興味にあったゲームを
楽しめる
Interests
興味にあった
ゲームに出会う機会提供する
（興味軸でのゲームとの出会い）
137
PF
Friend
Game
Friend

Social
Game
Communication
FriendCommunication
PF
Communication
PF
Activity
Game
Activity
Game
Impression
Game
Click
Game
Install
User
Impression
User
Click
AttentionActivity
提供体験例
楽しめる
Interests
興味にあった
138
PF
Friend
Game
Friend

Social
PF
Friend
Game
Friend
Game
Communication
FriendCommunication
PF
Communication
PF
Activity
Game
Activity
Game
Impression
Game
Click
Game
Install
User
Impression
User
Click
AttentionActivity
提供体験例
親しいユーザと
一緒に楽しめる
楽しめる
Interests
興味にあった
親しいユーザが楽しんでいる
ゲームに出会う機会を提供する
（親しいユーザ軸でのゲームとの出会い）
139
Familiarities

Social
PF
Friend
Game
Friend
Game
Communication
FriendCommunication
PF
Communication
PF
Activity
Game
Activity
Game
Impression
Game
Click
Game
Install
User
Impression
User
Click
AttentionActivity
提供体験例
楽しめる
Interests Familiarities
興味にあった
140

Social
PF
Friend
Game
Friend
Game
Communication
FriendCommunication
PF
Communication
PF
Activity
Game
Activity
Game
Impression
Game
Click
Game
Install
User
Impression
User
Click
AttentionActivity
提供体験例
楽しめる
興味にあった
141

Social
PF
Friend
Game
Friend
Game
Communication
FriendCommunication
PF
Communication
PF
Activity
Game
Activity
Game
Impression
Game
Click
Game
Install
User
Impression
User
Click
AttentionActivity
提供体験例
楽しめる
興味にあった
142

Social
PF
Friend
Game
Friend
Game
Communication
FriendCommunication
PF
Communication
PF
Activity
Game
Activity
Game
Impression
Game
Click
Game
Install
User
Impression
User
Click
AttentionActivity
提供体験例
楽しめる
興味にあった
143
親しいユーザが
増える
興味があうユーザと
出会い・親しくなれる
機会を提供する（友
達推薦・コミュニケー
ション推薦、等）

Social
PF
Friend
Game
Friend
Game
Communication
FriendCommunication
PF
Communication
PF
Activity
Game
Activity
Game
Impression
Game
Click
Game
Install
User
Impression
User
Click
AttentionActivity
提供体験例
楽しめる
興味にあった
144
増える

Social
PF
Friend
Game
Friend
Game
Communication
FriendCommunication
PF
Communication
PF
Activity
Game
Activity
Game
Impression
Game
Click
Game
Install
User
Impression
User
Click
AttentionActivity
提供体験例
楽しめる
Interests
興味にあった
増える
Familiarities

Social
PF
Friend
Game
Friend
Game
Communication
FriendCommunication
PF
Communication
PF
Activity
Game
Activity
Game
Impression
Game
Click
Game
Install
User
Impression
User
Click
AttentionActivity
楽しめる
Interests
興味にあった
増える
Familiarities
提供体験例

147
提供体験例
興味にあったゲームに出会い楽しむ

3.8倍
効果規模例
9.7倍
興味と合い楽しめるゲームに出会えることにより
よりゲームを楽しみ継続してもらえる体験を提供
※1: 表示位置等、同条件での比較。2014年上期実施。
Install/Impression
(CTR x CVR)
148
Install後利用継続/Impression
(※2)

User Reaction Log
Personalized Data
for Each User
Impression
Game Play Install
user_id, recdata
Click
Install
Play Continuity
after install
149

解決した課題
150

解決する課題
既存の全員一様の表示では、ゲーム枠・表示数を追加しても
インストール数は伸びていない
デモグラセグメントごとに
全員一様のゲームを
40game以上
151
表示ゲーム数を増やしても
インストール数は
全く伸びなかった

解決する課題
ユーザーがインストールしないゲームを表示し続け
他ゲームでのインストール機会を失っている
152

解決する課題
ユーザーがインストールしないゲームを表示し続け
他ゲームでのインストール機会を失っている
153
ユーザそれぞれが興味ないゲームは
何度みてもやっぱり興味ない

課題解決
・ユーザーがインストールしないゲームを表
示し続け、他ゲームでのインストール機会
を失っている
行動学習リアクション学習
課題
行動特徴・リアクション特徴の学習による Personal Recommendation
ユーザごとにInstall・利用継続確率最大のゲームを理由をつけ推薦する
・全員一様のゲーム表示では、枠どうしで
奪いあうだけで、全体インストール数は増
加していない
Personal Recommendation
154
・ユーザーごとに表示ゲームのリアク
ション学習(強化学習)。キューザごと
により興味あり、リアクションしやすい
ゲームを表示
・ユーザごとに各行動履歴から、各
ゲームの開始・利用継続の確率の確
率を算出。
※各ゲームがなぜ推薦されているか
の理由も合わせて表示
解決

Bayesian Network
複数の事象の発生確率のネットワーク
⇒ ある事象が起こったとき、発生確率・期待値が最大となる事象を算出できる
155
Aが起こったら、Bが起こる確率：P(B|A)
例：
　SG Play⇒SG Install：
　　事象A　　　　　　　　事象B
　　・怪盗 Play　　 ⇒ バルキリーズInstall
　　・ラグナ Play　　 ⇒ アヴァロン Install
　 SG Play⇒SG Install & 利用継続：
　　・ガンロワ Play　⇒ GCC Install & 利用継続
　　・ Play　　⇒ GCC Install & 利用継続
A
B
C
D
E
F
G
H
I
J
K
…
P(E|A)
P(F|A)
P(H|E)
※入門資料：Personal Recommendation と Bayesian Network
http://www.slideshare.net/hamadakoichi/ss-4113135
http://www.slideshare.net/hamadakoichi/ss-4552939・Bayesian Network入門　　　　　：
・Personal Recommendation入門：
確率ネットワーク： Bayesian Network

処理概要
各ユーザ行動とインストール・利用継続の Bayesian Networkとリアクション強化学習
インストール・利用継続期待値が最大化となるゲームを推薦する
①全ユーザのアクション履歴から、
　「各アクションとGame Yを Installし利用継続、確率ネットワーク」を算出
②個々のユーザのアクション
imp
③Reaction学習からの興味算出Probability
= ProbabilityByAction x ProbabilityByReaction
例：行動特徴からのInstall 確率算出による算出
Probabilityの高い順に表示
user Title Ac/on
12345678 Game A プレイ 30
12345678 Game B プレイ 10
12345678 News Topic X 閲覧 30
user Title Interest
12345678 ガンロワ 0.8
12345678 バハムー
ト
0.2
A
B
C
D
E
F
G
H
I
J
Game Install Y
…
P(E|A)
P(F|A)
P(H|E)Y1
Y2
156

User Reaction Log
Personalized Data
for Each User
Impression
Game Play Install
user_id, recdata
Click
Install
Play Continuity
after install
157

158
提供体験例
親しい人と一緒にゲーム楽しむ
(抜粋)

効果規模例
12.7倍
159

興味あるゲーム・コミュニティで親しいユーザ
一緒に楽しんでいるサービス
User Reaction Log
Personalized Data
for Each User
Service Access
user_id, recdata
・アクセス特徴、コミュニケーション特
徴から、各ユーザごとに、興味・個別
サービスでの他ユーザとの親密度、お
よび、ゲーム・プラットフォーム横断で
のユーザ間親密度を算出
サービス横断のユーザ親密度
Communication
る反応から興味を学習・洗練（強化
学習）
160
Impression
Friend Request
Accept

サービス横断での親密度・一緒に楽しめる度合い算出
各サービスへの興味、個別親密度の推定
サービス横断での親密度統合、一緒に楽しめるサービスの算出
Interest
(A,S)User A
Service S
Service T
・サービス横断での親密度
161

Interest
(A,S)
familiarity
(S;A,B)
User A
Service S User B
Service T
User C
User D
familiarity
(S;A,C)
162

Interest
(A,S)
familiarity
(S;A,B)
User A
Service S User B
Service T
User C
User D
familiarity
(S;A,C)
163

Interest
(A,S)
familiarity
(S;A,B)
User A
Service S User B
Service T
User C
User D
familiarity
(S;A,C)
164
・親しい人と一緒に楽しめる度合い

Interest
(A,S)
familiarity
(S;A,B)
User A
Service S Service UUser B Interest
(B,U)
Service T Service V
User C
User D
Interest
(D,U)
Interest
(D,V)
familiarity
(S;A,C)
165

Interest
(A,S)
familiarity
(S;A,B)
User A
Service S Service UUser B Interest
(B,U)
Service T Service V
User C
User D
Interest
(D,U)
Interest
(D,V)
familiarity
(S;A,C)
166

168
Hadoopを用いた
大規模データマイニング基盤

Hadoopとは
大規模分散処理を行うための基盤
Hadoop
・Apache プロジェクト
・Java オープンソース
・Googleが2004年に発表した論文を実装
・主要コンポーネント
　・分散ファイルシステム: HDFS (Hadoop Distributed File System)
　・分散処理フレームワーク: Mapreduce
169

広告・ECサイト・検索・SNS等
大規模データを有するサービスで利用されている
Hadoopの主な利用企業
170

分散ファイルシステム：HDFS
HDFS
クライアント
NameNode
DataNode
クライアントからは
巨大な一つのストレージに
アクセスしているように見える
•  NameNode
–  Meta情報を持つ、ファイル名、レプリケーション数、ファイルの保存場所など
•  DataNode
–  実際のデータを格納するNode。ブロックサイズごとにファイルを分割して１
つのファイルを複数のNodeで保存
HDFS (Hadoop Distributed File System)
DataNodeを増やすことで大容量化が可能
171

分散ファイルシステム：HDFS
DataNode
1
3
2
1
2
1 1
1
2
2 2 3
3
3 1
1 1 2
2
2
固定長ブロックに分割
ファイル
同一ブロックが複数のDataNodeに分散配置されることで
冗長性が担保される
同一ブロックが複数のDataNodeに
分散配置される(default 3)
172

分散処理フレームワーク: MapReduce
MapがkeyとValueにデータを振り分け、Reduceがkeyごとに集計
分散処理を実現する
Map
Shuffle & Sort
Reduce
userA
3
userD
7
userA
1
userC
2
userB
6
userD
5
User毎のPageView集計での例
大量データに対する
分散演算
演算結果の集計
userA
3
userA
1
userB
6
userC
2
userD
5
userD
7
userA
4
userB
6
userC
2
userD
１２
userA userB userC userD
key
value
173

174
大規模データマイニング基盤構成

175
大規模データマイニング・機械学習活用した
サービス提供を支える基盤構成Kafka
Messaging
Service Log API
Service Log API
Service
Log API
… …
…
Business
Planning
KPI Views
KPI Inspection
Action/Status Log
Storm
Streaming
Elastic
Search
Similarity/Search
Hadoop DFS
HBase
Java
HUE
R
Perl
Hive
MapReduce
Pig
Online Storage
Batch
Data-mining
Machine-Leaning
Results
Vertica

176
KPI(Key Performance Indicator)定常算出・共有
ビジネス・サービス変化を検知
KPI Views
KPI Inspection

177
経営判断・サービス洗練を行うための
データマイニング実行
Business
Planning
KPI Views
KPI Inspection

178
データマイニング・機械学習結果のサービス活用
より楽しんでもらえるサービスへKafka
Messaging
…
Business
Planning
KPI Views
KPI Inspection
Data-mining
Machine-Leaning
Results

179
Hadoop DFS
全行動ログ/サービスデータ投入
Service Log API
Service Log API
Service
Log API
…
Business
Planning
KPI Views
KPI Inspection
Hadoop DFS
Data-mining
Machine-Leaning
Results

180
Vertica
個別サービスの高速アドホック集計・KPI定常集計
…
Business
Planning
KPI Views
KPI Inspection
Hadoop DFS
Data-mining
Machine-Leaning
Results
Vertica
Service Log API
Service Log API
Service
Log API

181
Kafka
Pub/Sub Messaging. 複数処理系へデータ配信Kafka
Messaging
Service Log API
Service Log API
Service
Log API
…
Business
Planning
KPI Views
KPI Inspection
Hadoop DFS
Data-mining
Machine-Leaning
Results
Vertica

182
Storm
ストリーム処理Kafka
Messaging
Service Log API
Service Log API
Service
Log API
…
Business
Planning
KPI Views
KPI Inspection
Storm
Streaming
Hadoop DFS
Data-mining
Machine-Leaning
Results
Vertica

183
HBase
リアルタイム分散ストレージKafka
Messaging
Service Log API
Service Log API
Service
Log API
…
Business
Planning
KPI Views
KPI Inspection
Storm
Streaming
Hadoop DFS
HBase
Online Storage
Data-mining
Machine-Leaning
Results
Vertica

184
Elastic Search
リアルタイム分散検索Kafka
Messaging
Service Log API
Service Log API
Service
Log API
…
Business
Planning
KPI Views
KPI Inspection
Storm
Streaming
Elastic
Search
Similarity/Search
Hadoop DFS
HBase
Online Storage
Data-mining
Machine-Leaning
Results
Vertica

185
Pig/Hive
少ない記述量での中間集計/簡易KPI算出Kafka
Messaging
Service Log API
Service Log API
Service
Log API
…
Business
Planning
KPI Views
KPI Inspection
Storm
Streaming
Elastic
Search
Similarity/Search
Hadoop DFS
HBase
Hive
Pig
Online Storage
Data-mining
Machine-Leaning
Results
Vertica

186
HUE
GUIベースの Hadoop解析環境/アクセス管理Kafka
Messaging
Service Log API
Service Log API
Service
Log API
…
Business
Planning
KPI Views
KPI Inspection
Storm
Streaming
Elastic
Search
Similarity/Search
Hadoop DFS
HBase
HUEHive
Pig
Online Storage
Data-mining
Machine-Leaning
Results
Vertica

187
R
アドホックな統計解析・データマイニング・機械学習Kafka
Messaging
Service Log API
Service Log API
Service
Log API
…
Business
Planning
KPI Views
KPI Inspection
Storm
Streaming
Elastic
Search
Similarity/Search
Hadoop DFS
HBase
HUE
R
Hive
Pig
Online Storage
Data-mining
Machine-Leaning
Results
Vertica

188
Perl MapReduce
分散シミュレーションKafka
Messaging
Service Log API
Service Log API
Service
Log API
…
Business
Planning
KPI Views
KPI Inspection
Storm
Streaming
Elastic
Search
Similarity/Search
Hadoop DFS
HBase
HUE
R
Perl
Hive
MapReduce
Pig
Online Storage
Batch
Data-mining
Machine-Leaning
Results
Vertica

189
Java MapReduce
データマイニング・機械学習のサービス実装Kafka
Messaging
Service Log API
Service Log API
Service
Log API
…
Business
Planning
KPI Views
KPI Inspection
Storm
Streaming
Elastic
Search
Similarity/Search
Hadoop DFS
HBase
Java
HUE
R
Perl
Hive
MapReduce
Pig
Online Storage
Batch
Data-mining
Machine-Leaning
Results
Vertica

190
Data Mining Libraries
各種ソーシャル行動解析用のデータマイニングライブラリKafka
Messaging
Service Log API
Service Log API
Service
Log API
…
Business
Planning
KPI Views
KPI Inspection
Storm
Streaming
Elastic
Search
Similarity/Search
Hadoop DFS
HBase
Java
HUE
R
Perl
Hive
MapReduce
Pig
Online Storage
Batch
Data-mining
Machine-Leaning
Results
Vertica

191
統一行動記述
Kafka
Messaging
Service Log API
Service Log API
Service
Log API
…
Business
Planning
KPI Views
KPI Inspection
Action/Status Log
Storm
Streaming
Elastic
Search
Similarity/Search
Hadoop DFS
HBase
Java
HUE
R
Perl
Hive
MapReduce
Pig
Online Storage
Batch
Data-mining
Machine-Leaning
Results
Vertica

192
統一行動記述
ユーザー行動時系列の
統一記述

193
統一行動記述
大規模サービスでよく生じる課題
形式
置き場

194
統一行動記述
サービスごとにログフォーマットが異なる
・何を解析すればいいか分からない
・パラメータの値の意味が分からない
・類似の解析実装がサービスごとに
　複数存在する
形式
置き場

195
統一行動記述
ログの場所がばらばら・分散されている
形式
置き場・どこにあるか分からず、解析時間より
　ログを探し・集める時間のほうが長い

196
統一行動記述
形式
置き場
・データマイニング/機械学習よりも
　ログ収集・基礎集計作業がメイン
・データマイニング・機械学習活用まで出来ない
・どこにあるか分からず、解析時間より

197
統一行動記述
統一行動ログによる解決
大規模サービスでよく生じる課題統一行動記述での解決
形式
置き場

198
統一行動記述
・学習コストの低減
　データ形式・値の意味を調べる必要がない
・データマイニング・機械学習実装の　
　再利用/サービス横断解析が行える
統一スキーマ
形式
置き場

199
統一行動記述
Hadoopに全てのログがある
統一スキーマ
・データ探索・収集時間ゼロ
　　解析したいデータが全てある
形式
置き場

200
統一行動記述
Hadoopに全てのログがある
統一スキーマ
・データ探索・収集時間ゼロ
　　解析したいデータが全てある
形式
置き場
・大規模データ処理技術
・データマイニング/機械学習
それぞれの技術が活用できる

201
大規模データマイニング・機械学習の活用
基盤技術でも挑戦を行うKafka
Messaging
Service Log API
Service Log API
Service
Log API
…
Business
Planning
KPI Views
KPI Inspection
Action/Status Log
Storm
Streaming
Elastic
Search
Similarity/Search
Hadoop DFS
HBase
Java
HUE
R
Perl
Hive
MapReduce
Pig
Online Storage
Batch
Data-mining
Machine-Leaning
Results
Vertica

202
AGENDA
◆講師紹介
◆最後に
◆提供価値
◆活動
◆はじめに

203
数千万人 1日35億超の行動情報
楽しさのマイニングによるユーザー体験還元
Social Graph
Data Mining
Machine Learning
of Fun
Social Media
Experience
Detailed Actions
Changes of Status
Personality ..etc

204
適切な情報・サービス提供
ユーザ一人一人に対し、適切な情報・サービス提供
サービスを使えば使うほど内容洗練されていく
興味のあるゲームに出会う親しい人と一緒に楽しむ
友達を増やし一緒にゲーム・
コミュニティを楽しむ
提供例:

205
Distributed
Applications
YARN
HDFS
大規模データマイニング活用したサービス開発
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析
体験提供
Feedback Log
6. ログ設計
Personalized Data
For each user
Service
Front End
8.分散実装
新たな体験提供に挑戦する

206
大規模データマイニング基盤
Kafka
Messaging
Service Log API
Service Log API
Service
Log API
…
Business
Planning
KPI Views
KPI Inspection
Action/Status Log
Storm
Streaming
Elastic
Search
Similarity/Search
Hadoop DFS
HBase
Java
HUE
R
Perl
Hive
MapReduce
Pig
Online Storage
Batch
Data-mining
Machine-Leaning
Results
Vertica
大規模データ処理の技術挑戦
体験提供の質・トライ回数を向上させる

207
世界展開
世界中の人々の

208
世界展開
世界中の人々の
国民性・民族性にあった
サービス提供

209
世界中の人々へ
Social Graph
Data Mining
Machine Learning
of Fun
Social Experience
Activity
Detailed Actions
Changes of Status
Personality ..etc

210
世界中の人々へ
Social Graph
Data Mining
Machine Learning
of Fun
Social Experience
Activity
Detailed Actions
Changes of Status
Personality ..etc
世界中の人々が
個々人のつながり・楽しみ・好みにあった適切な情報・サービスを
自ら探さなくても得ることができる世界

211

212
新たな価値提供の
ポテンシャルを持っている

213
今後、ぜひ学んだことを活かし
新たな価値あるサービスを作りあげてください

214
AGENDA
◆講師紹介
◆最後に
◆提供価値
◆活動
◆はじめに

DeNAの大規模データマイニング活用したサービス開発

Empfohlen

Empfohlen

Weitere ähnliche Inhalte

Was ist angesagt?

Was ist angesagt? (20)

Andere mochten auch

Andere mochten auch (20)

Ähnlich wie DeNAの大規模データマイニング活用したサービス開発

Ähnlich wie DeNAの大規模データマイニング活用したサービス開発 (20)

Mehr von Koichi Hamada

Mehr von Koichi Hamada (20)

DeNAの大規模データマイニング活用したサービス開発