SlideShare ist ein Scribd-Unternehmen logo
1 von 53
Downloaden Sie, um offline zu lesen
Hadoop MapReduce デザ
インパターン
——MapReduceによる大規
模テキストデータ処理

1 Jimmy Lin, Chris Dyer�著、神
  林 飛志、野村 直之�監修、玉川
  竜司�訳
2 2011年10月01日 発売予定
3 210ページ
4 定価2,940円
Shuffle &
     barrier




    job start/
     shutdown
i                i+1
1
        B                   E

    5           1
                        4
A                   D               G
        3
            3           2
                                4

        C           5       F
5               1
            B                   E
    5               1
                        3   4
A                       D               G
            3
                3           2                       5!4               min(6,4)
                                    4                             1
                                                     B                     E
            C           5       F
                                            5                 1
                        i                                         3   4
                                        A                         D                G
                                                    3
                                                          3            2
                                                                               4
                                                3                          2
                                                    C             5        F

                                                              i+1
a super step




         http://en.wikipedia.org/wiki/Bulk_Synchronous_Parallel
.
.
.
a super step
a super step
1
        B                    E
    5            1
                         4
A                    D               G
        3
             3           2
                                 4

        C            5       F

            initialize
+∞ B             1           +∞
                             E
    5           1
0                   +∞   4            +∞
A                   D                 G
        3
            3            2
                                  4

    +∞ C            5        F   +∞
                    1
+∞ B             1           +∞
                             E
    5           1
0                   +∞   4            +∞
A                   D                 G
        3
            3            2
                                  4

    +∞ C            5        F   +∞
                    1
+∞ B             1           +∞
                             E
    5           1
0                   +∞   4            +∞
A                   D                 G
        3
            3            2
                                  4

    +∞ C            5        F   +∞
                    1
5               1           +∞
            B                   E
    5               1
0                       3   4            +∞
A                       D                G
            3
                3           2
                                     4

    +∞ C                5       F   +∞
                        1
5               1           +∞
            B                   E
    5               1
0                       3   4            +∞
A                       D                G
            3
                3           2
                                     4

    +∞ C                5       F   +∞
                        2
5               1           +∞
            B                   E
    5               1
0                       3   4            +∞
A                       D                G
            3
                3           2
                                     4

    +∞ C                5       F   +∞
                        2
4               1           6
            B                   E
    5               1
0                       3   4           +∞
A                       D               G
            3
                3           2
                                    4

    6       C           5       F   5
                        2
4               1           6
            B                   E
    5               1
0                       3   4           +∞
A                       D               G
            3
                3           2
                                    4

    6       C           5       F   5
                        3
4               1           6
            B                   E
    5               1
0                       3   4           +∞
A                       D               G
            3
                3           2
                                    4

    6       C           5       F   5
                        3
4               1           5
            B                   E
    5               1
0                       3   4           9
A                       D               G
            3
                3           2
                                    4

    6       C           5       F   5
                        3
4               1           5
            B                   E
    5               1
0                       3   4           9
A                       D               G
            3
                3           2
                                    4

    6       C           5       F   5
                    end
+∞ B             1           +∞
                             E
    5           1
0                   +∞   4            +∞
A                   D                 G
        3
            3            2
                                  4

    +∞ C            5        F   +∞
                    1
+∞ B             1           +∞
                             E
    5           1
0                   +∞   4            +∞
A                   D                 G
        3
            3            2
                                  4

    +∞ C            5        F   +∞
                    1
+∞ B             1           +∞
                             E
    5           1
0                   +∞   4            +∞
A                   D                 G
        3
            3            2
                                  4

    +∞ C            5        F   +∞
                    1
5               1           +∞
            B                   E
    5               1
0                       3   4            +∞
A                       D                G
            3
                3           2
                                     4

    +∞ C                5       F   +∞
                        2
5               1           +∞
            B                   E
    5               1
0                       3   4            +∞
A                       D                G
            3
                3           2
                                     4

    +∞ C                5       F   +∞
                        2
4               1           6
            B                   E
    5               1
0                       3   4           +∞
A                       D               G
            3
                3           2
                                    4

    6       C           5       F   5
                        3
4               1           6
            B                   E
    5               1
0                       3   4           +∞
A                       D               G
            3
                3           2
                                    4

    6       C           5       F   5
                        3
4               1           5
            B                   E
    5               1
0                       3   4           9
A                       D               G
            3
                3           2
                                    4

    6       C           5       F   5
                        4
4               1           5
            B                   E
    5               1
0                       3   4           9
A                       D               G
            3
                3           2
                                    4

    6       C           5       F   5
                        4
4               1           5
            B                   E
    5               1
0                       3   4           9
A                       D               G
            3
                3           2
                                    4

    6       C           5       F   5
                        5
4               1           5
            B                   E
    5               1
0                       3   4           9
A                       D               G
            3
                3           2
                                    4

    6       C           5       F   5
                        5
4               1           5
            B                   E
    5               1
0                       3   4           9
A                       D               G
            3
                3           2
                                    4

    6       C           5       F   5
                    end
Large-Scale Graph Processing〜Introduction〜(LT版)
Large-Scale Graph Processing〜Introduction〜(LT版)
Large-Scale Graph Processing〜Introduction〜(LT版)
Large-Scale Graph Processing〜Introduction〜(LT版)
Large-Scale Graph Processing〜Introduction〜(LT版)
Large-Scale Graph Processing〜Introduction〜(LT版)

Weitere ähnliche Inhalte

Mehr von Takahiro Inoue

オンラインゲームソリューション@トレジャーデータ
オンラインゲームソリューション@トレジャーデータオンラインゲームソリューション@トレジャーデータ
オンラインゲームソリューション@トレジャーデータTakahiro Inoue
 
事例で学ぶトレジャーデータ 20140612
事例で学ぶトレジャーデータ 20140612事例で学ぶトレジャーデータ 20140612
事例で学ぶトレジャーデータ 20140612Takahiro Inoue
 
トレジャーデータ株式会社について(for all Data_Enthusiast!!)
トレジャーデータ株式会社について(for all Data_Enthusiast!!)トレジャーデータ株式会社について(for all Data_Enthusiast!!)
トレジャーデータ株式会社について(for all Data_Enthusiast!!)Takahiro Inoue
 
この Visualization がすごい2014 〜データ世界を彩るツール6選〜
この Visualization がすごい2014 〜データ世界を彩るツール6選〜この Visualization がすごい2014 〜データ世界を彩るツール6選〜
この Visualization がすごい2014 〜データ世界を彩るツール6選〜Takahiro Inoue
 
Treasure Data Intro for Data Enthusiast!!
Treasure Data Intro for Data Enthusiast!!Treasure Data Intro for Data Enthusiast!!
Treasure Data Intro for Data Enthusiast!!Takahiro Inoue
 
Hadoop and the Data Scientist
Hadoop and the Data ScientistHadoop and the Data Scientist
Hadoop and the Data ScientistTakahiro Inoue
 
MongoDB: Intro & Application for Big Data
MongoDB: Intro & Application  for Big DataMongoDB: Intro & Application  for Big Data
MongoDB: Intro & Application for Big DataTakahiro Inoue
 
An Introduction to Fluent & MongoDB Plugins
An Introduction to Fluent & MongoDB PluginsAn Introduction to Fluent & MongoDB Plugins
An Introduction to Fluent & MongoDB PluginsTakahiro Inoue
 
An Introduction to Tinkerpop
An Introduction to TinkerpopAn Introduction to Tinkerpop
An Introduction to TinkerpopTakahiro Inoue
 
An Introduction to Neo4j
An Introduction to Neo4jAn Introduction to Neo4j
An Introduction to Neo4jTakahiro Inoue
 
The Definition of GraphDB
The Definition of GraphDBThe Definition of GraphDB
The Definition of GraphDBTakahiro Inoue
 
Large-Scale Graph Processing〜Introduction〜(完全版)
Large-Scale Graph Processing〜Introduction〜(完全版)Large-Scale Graph Processing〜Introduction〜(完全版)
Large-Scale Graph Processing〜Introduction〜(完全版)Takahiro Inoue
 
はじめてのGlusterFS
はじめてのGlusterFSはじめてのGlusterFS
はじめてのGlusterFSTakahiro Inoue
 
はじめてのMongoDB
はじめてのMongoDBはじめてのMongoDB
はじめてのMongoDBTakahiro Inoue
 
MongoDB & Hadoop: Flexible Hourly Batch Processing Model
MongoDB & Hadoop: Flexible Hourly Batch Processing ModelMongoDB & Hadoop: Flexible Hourly Batch Processing Model
MongoDB & Hadoop: Flexible Hourly Batch Processing ModelTakahiro Inoue
 
MongoDB: Replication,Sharding,MapReduce
MongoDB: Replication,Sharding,MapReduceMongoDB: Replication,Sharding,MapReduce
MongoDB: Replication,Sharding,MapReduceTakahiro Inoue
 
Map Reduce ~Continuous Map Reduce Design~
Map Reduce ~Continuous Map Reduce Design~Map Reduce ~Continuous Map Reduce Design~
Map Reduce ~Continuous Map Reduce Design~Takahiro Inoue
 
Map Reduce 〜入門編:仕組みの理解とアルゴリズムデザイン〜
Map Reduce 〜入門編:仕組みの理解とアルゴリズムデザイン〜Map Reduce 〜入門編:仕組みの理解とアルゴリズムデザイン〜
Map Reduce 〜入門編:仕組みの理解とアルゴリズムデザイン〜Takahiro Inoue
 

Mehr von Takahiro Inoue (20)

オンラインゲームソリューション@トレジャーデータ
オンラインゲームソリューション@トレジャーデータオンラインゲームソリューション@トレジャーデータ
オンラインゲームソリューション@トレジャーデータ
 
事例で学ぶトレジャーデータ 20140612
事例で学ぶトレジャーデータ 20140612事例で学ぶトレジャーデータ 20140612
事例で学ぶトレジャーデータ 20140612
 
トレジャーデータ株式会社について(for all Data_Enthusiast!!)
トレジャーデータ株式会社について(for all Data_Enthusiast!!)トレジャーデータ株式会社について(for all Data_Enthusiast!!)
トレジャーデータ株式会社について(for all Data_Enthusiast!!)
 
この Visualization がすごい2014 〜データ世界を彩るツール6選〜
この Visualization がすごい2014 〜データ世界を彩るツール6選〜この Visualization がすごい2014 〜データ世界を彩るツール6選〜
この Visualization がすごい2014 〜データ世界を彩るツール6選〜
 
Treasure Data Intro for Data Enthusiast!!
Treasure Data Intro for Data Enthusiast!!Treasure Data Intro for Data Enthusiast!!
Treasure Data Intro for Data Enthusiast!!
 
Hadoop and the Data Scientist
Hadoop and the Data ScientistHadoop and the Data Scientist
Hadoop and the Data Scientist
 
MongoDB: Intro & Application for Big Data
MongoDB: Intro & Application  for Big DataMongoDB: Intro & Application  for Big Data
MongoDB: Intro & Application for Big Data
 
An Introduction to Fluent & MongoDB Plugins
An Introduction to Fluent & MongoDB PluginsAn Introduction to Fluent & MongoDB Plugins
An Introduction to Fluent & MongoDB Plugins
 
An Introduction to Tinkerpop
An Introduction to TinkerpopAn Introduction to Tinkerpop
An Introduction to Tinkerpop
 
An Introduction to Neo4j
An Introduction to Neo4jAn Introduction to Neo4j
An Introduction to Neo4j
 
The Definition of GraphDB
The Definition of GraphDBThe Definition of GraphDB
The Definition of GraphDB
 
Large-Scale Graph Processing〜Introduction〜(完全版)
Large-Scale Graph Processing〜Introduction〜(完全版)Large-Scale Graph Processing〜Introduction〜(完全版)
Large-Scale Graph Processing〜Introduction〜(完全版)
 
Advanced MongoDB #1
Advanced MongoDB #1Advanced MongoDB #1
Advanced MongoDB #1
 
はじめてのGlusterFS
はじめてのGlusterFSはじめてのGlusterFS
はじめてのGlusterFS
 
はじめてのMongoDB
はじめてのMongoDBはじめてのMongoDB
はじめてのMongoDB
 
MongoDB & Hadoop: Flexible Hourly Batch Processing Model
MongoDB & Hadoop: Flexible Hourly Batch Processing ModelMongoDB & Hadoop: Flexible Hourly Batch Processing Model
MongoDB & Hadoop: Flexible Hourly Batch Processing Model
 
MongoDB: Replication,Sharding,MapReduce
MongoDB: Replication,Sharding,MapReduceMongoDB: Replication,Sharding,MapReduce
MongoDB: Replication,Sharding,MapReduce
 
MongoDB Oplog入門
MongoDB Oplog入門MongoDB Oplog入門
MongoDB Oplog入門
 
Map Reduce ~Continuous Map Reduce Design~
Map Reduce ~Continuous Map Reduce Design~Map Reduce ~Continuous Map Reduce Design~
Map Reduce ~Continuous Map Reduce Design~
 
Map Reduce 〜入門編:仕組みの理解とアルゴリズムデザイン〜
Map Reduce 〜入門編:仕組みの理解とアルゴリズムデザイン〜Map Reduce 〜入門編:仕組みの理解とアルゴリズムデザイン〜
Map Reduce 〜入門編:仕組みの理解とアルゴリズムデザイン〜
 

Large-Scale Graph Processing〜Introduction〜(LT版)

  • 1.
  • 2.
  • 3. Hadoop MapReduce デザ インパターン ——MapReduceによる大規 模テキストデータ処理 1 Jimmy Lin, Chris Dyer�著、神 林 飛志、野村 直之�監修、玉川 竜司�訳 2 2011年10月01日 発売予定 3 210ページ 4 定価2,940円
  • 4.
  • 5.
  • 6.
  • 7.
  • 8. Shuffle & barrier job start/ shutdown i i+1
  • 9. 1 B E 5 1 4 A D G 3 3 2 4 C 5 F
  • 10. 5 1 B E 5 1 3 4 A D G 3 3 2 5!4 min(6,4) 4 1 B E C 5 F 5 1 i 3 4 A D G 3 3 2 4 3 2 C 5 F i+1
  • 11.
  • 12.
  • 13. a super step http://en.wikipedia.org/wiki/Bulk_Synchronous_Parallel
  • 14. . . .
  • 16.
  • 17.
  • 18.
  • 20.
  • 21.
  • 22.
  • 23. 1 B E 5 1 4 A D G 3 3 2 4 C 5 F initialize
  • 24. +∞ B 1 +∞ E 5 1 0 +∞ 4 +∞ A D G 3 3 2 4 +∞ C 5 F +∞ 1
  • 25. +∞ B 1 +∞ E 5 1 0 +∞ 4 +∞ A D G 3 3 2 4 +∞ C 5 F +∞ 1
  • 26. +∞ B 1 +∞ E 5 1 0 +∞ 4 +∞ A D G 3 3 2 4 +∞ C 5 F +∞ 1
  • 27. 5 1 +∞ B E 5 1 0 3 4 +∞ A D G 3 3 2 4 +∞ C 5 F +∞ 1
  • 28. 5 1 +∞ B E 5 1 0 3 4 +∞ A D G 3 3 2 4 +∞ C 5 F +∞ 2
  • 29. 5 1 +∞ B E 5 1 0 3 4 +∞ A D G 3 3 2 4 +∞ C 5 F +∞ 2
  • 30. 4 1 6 B E 5 1 0 3 4 +∞ A D G 3 3 2 4 6 C 5 F 5 2
  • 31. 4 1 6 B E 5 1 0 3 4 +∞ A D G 3 3 2 4 6 C 5 F 5 3
  • 32. 4 1 6 B E 5 1 0 3 4 +∞ A D G 3 3 2 4 6 C 5 F 5 3
  • 33. 4 1 5 B E 5 1 0 3 4 9 A D G 3 3 2 4 6 C 5 F 5 3
  • 34. 4 1 5 B E 5 1 0 3 4 9 A D G 3 3 2 4 6 C 5 F 5 end
  • 35.
  • 36. +∞ B 1 +∞ E 5 1 0 +∞ 4 +∞ A D G 3 3 2 4 +∞ C 5 F +∞ 1
  • 37. +∞ B 1 +∞ E 5 1 0 +∞ 4 +∞ A D G 3 3 2 4 +∞ C 5 F +∞ 1
  • 38. +∞ B 1 +∞ E 5 1 0 +∞ 4 +∞ A D G 3 3 2 4 +∞ C 5 F +∞ 1
  • 39. 5 1 +∞ B E 5 1 0 3 4 +∞ A D G 3 3 2 4 +∞ C 5 F +∞ 2
  • 40. 5 1 +∞ B E 5 1 0 3 4 +∞ A D G 3 3 2 4 +∞ C 5 F +∞ 2
  • 41. 4 1 6 B E 5 1 0 3 4 +∞ A D G 3 3 2 4 6 C 5 F 5 3
  • 42. 4 1 6 B E 5 1 0 3 4 +∞ A D G 3 3 2 4 6 C 5 F 5 3
  • 43. 4 1 5 B E 5 1 0 3 4 9 A D G 3 3 2 4 6 C 5 F 5 4
  • 44. 4 1 5 B E 5 1 0 3 4 9 A D G 3 3 2 4 6 C 5 F 5 4
  • 45. 4 1 5 B E 5 1 0 3 4 9 A D G 3 3 2 4 6 C 5 F 5 5
  • 46. 4 1 5 B E 5 1 0 3 4 9 A D G 3 3 2 4 6 C 5 F 5 5
  • 47. 4 1 5 B E 5 1 0 3 4 9 A D G 3 3 2 4 6 C 5 F 5 end