Download as PDF, PPTX
![[GTCJ2018]CuPy -NumPy互換GPUライブラリによるPythonでの高速計算- PFN奥田遼介](https://cdn.slidesharecdn.com/ss_thumbnails/gtcj2018cupypfnryosukeokuta-181009073034-thumbnail.jpg?width=640&height=640&fit=bounds)
Cache-Oblivious データ構造入門 @DSIRNLP#5
- 1. 2014/01/11 @ DSIRNLP5 Cache-Oblivious データ構造入門 秋葉 拓哉 (@iwiwi)
- 2. アウトライン 1. B-Tree が何故使われるのか？(復習) 2. Cache-Oblivious の考え方と意義 3. Cache-Oblivious 探索木 (vEB Layout) 4. 世の中の Cache-Oblivious 事例 Cache-Oblivious データ構造入門 (@iwiwi) 3
- 3.
- 4. MySQL の索引のデータ構造は？ B-Tree！ MySQL に限らず多くのデータベースシステムは B-Treeを使います Cache-Oblivious データ構造入門 (@iwiwi) 5
- 5. MySQL の索引のデータ構造は？ なんで B-Tree？ 普通の二分探索木じゃだめ？ Cache-Obliviousデータ構造入門 (@iwiwi) 6
- 6.
- 7.
- 8. B-Tree のデータ構造 普通の二分探索木 B-Tree 多分木になってる （最大の分岐数 m） Cache-Obliviousデータ構造入門 (@iwiwi) 9
- 9. なぜ B-Tree の方が良いか？ 大事な前提（若干雑） 1.ディスクの読み込み時間 >> 計算時間 2. ディスクである箇所を読み込むと周辺も含 めてそこそこ大きく読まれる 前提より • ディスクを読み込む回数だけを考える – 普段の議論：「O(ほげ) 時間」 – 今回の議論：「ディスクI/O 𝑂(ほげ) 回」 • 一度に読み込まれるサイズを 𝐵 とおく Cache-Oblivious データ構造入門 (@iwiwi) 10
- 10. データの探索にかかる I/O 回数 二分探索木 •𝑂 log 𝑛 回 一回の I/O で 2 分岐 B-Tree • 𝑂 log 𝐵 𝑛 回 一回の I/O で Θ(𝐵) 分岐！ ↑ノードのサイズをブロックサイズ 𝐵に合わせる B-Tree のほうが log 𝐵 倍ぐらい早い これは平気で 10 倍とかになるので大違い！ Cache-Oblivious データ構造入門 (@iwiwi) 11
- 11.
- 12.
- 13. Cache-Oblivious とは Cache-Oblivious データ構造入門(@iwiwi) 14
- 14. Cache-Oblivious Cache-oblivious ＝ キャッシュを忘れて Cache-Obliviousデータ構造入門 (@iwiwi) 15
- 15.
- 16.
- 17. Cache-Aware vs. Cache-Oblivious Cache-Aware＝ 普通 ブロックのサイズ 𝐵 を事前に 知っていて，それを使ってデータ構造を設計する （例：B-Tree） Cache-Oblivious ＝ 縛りプレイ ブロックのサイズ 𝐵 を知らないことにする！ 知らないなりに頑張る 𝐵 がどんな値であったとしてもいい感じになるよう頑 張る ※本当はメモリサイズ 𝑀 というパラメータもあって，同様にそれも知らない ことにする．今回は出てこないので省略 Cache-Oblivious データ構造入門 (@iwiwi) 18
- 18. Cache-Aware vs. Cache-Oblivious 計算機の動きの前提は同じ •読み込みの回数を計算量とする • 一回に 𝐵 バイト読み込まれる やりたいことも同じ （例：探索木） ただし，Cache-Oblivious データ構造は 𝑩 の値を使ってはいけない （つまり𝐵の値を事前に知らない） Cache-Oblivious データ構造入門 (@iwiwi) 19
- 19. Cache-Oblivious でない例 B-Tree はCache-Oblivious ではない ↑ノードのサイズをブロックに合わせる ブロックサイズ 𝐵 を知らないと 何分木にしていいかわからない！ ブロックサイズ 𝐵 を使ってデータ構造を設計している Cache-Oblivious データ構造入門 (@iwiwi) 20
- 20.
- 21. なんでそんなことをするのか？ Cache-Oblivious データ構造の利点 ２つめ： 全てのメモリ階層ギャップに最適化される • ディスク⇔ メモリ・・・ 𝐵Mem • メモリ ⇔ キャッシュ・・・𝐵Cache どんな 𝐵 の値でも性能が出る → どこのギャップに関しても良い性能！ Cache-Oblivious データ構造入門 (@iwiwi) 22
- 22. なんでそんなことをするのか？ Cache-Oblivious データ構造の利点 ２つめ： 全てのメモリ階層ギャップに最適化される データの大きさによってボトルネックは変わる • メモリに収まる？→ 𝐵Cache • 収まらない？ → 𝐵Mem 扱うデータのサイズによらず高性能なプログラム にできる Cache-Oblivious データ構造入門 (@iwiwi) 23
- 23.
- 24. Cache-Oblivious 探索木 (vEB Layout) Cache-Obliviousデータ構造入門 (@iwiwi) 25
- 25.
- 26.
- 27.
- 28. このツリーをディスクによさげに保存する 𝑛 ノード 高さ ℎ =log 2 𝑛 ディスク Cache-Oblivious データ構造入門 (@iwiwi) 29
- 29.
- 30. 上半分は約 𝒏 ノードの木になる 約 𝒏 ノード Cache-Obliviousデータ構造入門 (@iwiwi) 高さ ℎ/2 31
- 31. 切れ目（＝上半分の木の葉）には約 𝒏 ノード 約 𝑛 ノード 約 𝒏 Cache-Obliviousデータ構造入門 (@iwiwi) 32
- 32. 下半分にぶら下がってる木も約 𝒏 ノード 約 𝑛 ノード 高さℎ/2 約 𝑛 ノード Cache-Oblivious データ構造入門 (@iwiwi) 33
- 33. それが約 𝒏 個ある 約 𝑛 ノード ……約 𝑛 ノード …… 約 𝒏個 Cache-Oblivious データ構造入門 (@iwiwi) 34
- 34. 約 𝒏 ノード× 約 𝒏 個 𝑇0 …… 𝑇1 𝑇2 𝑇 Cache-Oblivious データ構造入門 (@iwiwi) 𝑛 35
- 35. それぞれの木を連続部分に保存！ 𝑇0 …… 𝑇1 𝑇2 ディスク 𝑇0 𝑇 𝑇1 Cache-Oblivious データ構造入門(@iwiwi) 𝑛 𝑇2 … 𝑇 𝑛 36
- 36.
- 37.
- 38. こうやってツリーを保存することを vEB Layout 𝑇0 (vEB =Van Emde Boas) と呼びます …… 𝑇1 𝑇2 ディスク 𝑇0 𝑇 𝑇1 Cache-Oblivious データ構造入門 (@iwiwi) 𝑛 𝑇2 … 𝑇 𝑛 39
- 39. vEB Layout の性質 Cache-Obliviousである！ 再帰してるだけ．ブロックサイズ 𝐵 は出てこなかった． 𝐵 を全く知らずに構築したのに……なんと 要素の探索が I/O 𝑂 log 𝐵 𝑛 回でできる！ ↑ 𝑩 を知ってて作った B-Tree と性能が一致！ （オーダー記号に隠れた定数倍を除いて） （𝐵 ： ブロックのサイズです ← 忘れた人むけ） Cache-Oblivious データ構造入門 (@iwiwi) 40
- 40. vEB Layout の性質 Cache-Obliviousである！ 再帰してるだけ．ブロックサイズ 𝐵 は出てこなかった． 𝐵 を全く知らずに構築したのに……なんと 要素の探索が I/O 𝑂 log 𝐵 𝑛 回でできる！ ↑ 𝑩 を知ってて作った B-Tree と性能が一致！ （オーダー記号に隠れた定数倍を除いて） 最悪の場合でも I/O 回数は （𝐵 ： ブロックのサイズですlog 𝐵 𝑛 回 2 + 4 ← 忘れた人むけ） Cache-Oblivious データ構造入門 (@iwiwi) 41
- 41. 計算量 𝑶 𝐥𝐨𝐠 𝑩 𝒏 回の読み込みでできる理由 ツリーのサイズ：𝑛, 𝑛,4 𝑛, 8 𝑛, 16 𝑛, … … いつかサイズは 𝐵 以下になる そしてその時，少なくとも 𝐵 サイズが 𝐵 以下になったら一気に読み込まれる → 結局多分木みたいに動作する（ Ω 𝐵 分木） Cache-Oblivious データ構造入門 (@iwiwi) 42
- 42. ちなみに：Cache-Oblivious 関係ない話 木でこういう分割をするのは， vEB Treeというデータ構造でも使う vEB Tree はキーの値の範囲の条件下で • 検索が 𝑶 𝐥𝐨𝐠 𝐥𝐨𝐠 𝒏 時間 でできるおもしろデータ構造です http://en.wikipedia.org/wiki/Van_Emde_Boas_tree Cache-Oblivious データ構造入門 (@iwiwi) 43
- 43. 世の中の Cache-Oblivious 事例 Cache-Obliviousデータ構造入門 (@iwiwi) 44
- 44. 他の Cache-Oblivious データ構造・アルゴリズム データ構造 •動的な探索木 (CO B-Tree) – さっきのは静的な木だったので実際に動的にしようと思うと もっと複雑なものが必要 • 順位キュー • リスト • …… アルゴリズム • • • • ソート (Funnel Sort) FFT，行列乗算 グラフ探索 …… いっぱい あります！ Cache-Oblivious データ構造入門 (@iwiwi) 45
- 45.
- 46. 事例 TokuDB MySQL, MariaDB 用ストレージエンジン FractalTree™ Index なるものを使うらしい Cache-Oblivious データ構造入門 (@iwiwi) 47
- 47. Fractal Tree™ Index Wikipedia 公式 Cache-Obliviousデータ構造入門 (@iwiwi) 48
- 48. 事例 𝑇0 …… 𝑇1 𝑇2 𝑇 𝑛 確かにフラクタルっぽい（？） (※実際には FractalTree Index は vEB Layout より複雑なことをしています) Cache-Oblivious データ構造入門 (@iwiwi) 49
- 49. 論文 (MIT CSAIL) Cache-ObliviousStreaming B-trees Michael A. Bender, Martin Farach-Colton, Jeremy T. Fineman, Yonatan Fogel, Bradley Kuszmaul, and Jelani Nelson SPAA’07 Cache-Oblivious String B-Trees Michael A. Bender, Martin Farach-Colton, and Bradley C. Kuszmaul PODS’06 Concurrent Cache-Oblivious B-Trees Michael A. Bender, Jeremy T. Fineman, Seth Gilbert, and Bradley C. Kuszmaul SPAA’05 Cache-Oblivious データ構造入門 (@iwiwi) 50
- 50. 論文 (MIT CSAIL) Cache-ObliviousStreaming B-trees Michael A. Bender, Martin Farach-Colton, Jeremy T. Fineman, Yonatan Fogel, Bradley Kuszmaul, and Jelani Nelson SPAA’07 Chief Scientist CTO Chief Architect Cache-Oblivious String B-Trees Michael A. Bender, Martin Farach-Colton, and Bradley C. Kuszmaul PODS’06 Concurrent Cache-Oblivious B-Trees Michael A. Bender, Jeremy T. Fineman, Seth Gilbert, and Bradley C. Kuszmaul SPAA’05 MIT の Cache-Oblivious 研究ガチ勢の起業！ Cache-Oblivious データ構造入門 (@iwiwi) 51
- 51.
- 52. まとめ • メモリ階層を意識したデータ構造 • Cache-Obliviousの考え方 • 基礎的テク：ツリーの vEB Layout • 世の中の事例と課題 ありがとうございましたm(__)m Cache-Oblivious データ構造入門 (@iwiwi) 53
- 53. おまけ：van Emde Boasの発音 https://www.youtube.com/watch?v=AjFtTQevtq0#t=14m15 Peter van Emde Boas と友人である Erik D. Demaine (MIT) による発音が YouTube で聞けます Cache-Oblivious データ構造入門 (@iwiwi) 54
- 54. 謝辞 @kumagi さんのご意見をもとに発表時からスライド を改訂しています，ありがとうございます． @tmaehara さんに“van Emde Boas” さんの発音情報 を教えてもらいました，ありがとうございます． Cache-Oblivious データ構造入門 (@iwiwi) 55