SlideShare a Scribd company logo
Copyright (C) DeNA Co.,Ltd. All Rights Reserved.
とある AWS サービスの運用移管
〜データストア編〜
JAWS-UG Meguro #1
June 26, 2015
Kiyoshi Yasutake
DeNA Co., Ltd.
Copyright (C) DeNA Co.,Ltd. All Rights Reserved.
自己紹介
 安武 貴世志
 @key_amb (きいあむ)
 DeNA でインフラやってます。
2
Copyright (C) DeNA Co.,Ltd. All Rights Reserved.
今日話すこと
 とあるAWSサービスの運用移管
 移行時に困ったこと
 MySQL 運用 Tips
3
Copyright (C) DeNA Co.,Ltd. All Rights Reserved.
4
http://iemo.jp/
Copyright (C) DeNA Co.,Ltd. All Rights Reserved.
iemo について
 http://iemo.jp
 住まいに特化したキュレーション
プラットフォーム
 MAU 500万
 スマートフォンからのアクセスが
主
5
DeNAがキュレーションプラットフォーム事業を開始~キュレーション
プラットフォーム運営会社2社を買収、リアル巨大産業の構造変革を
目指す~ (2014年10月1日)
Copyright (C) DeNA Co.,Ltd. All Rights Reserved.
当時のシステム構成
6
Copyright (C) DeNA Co.,Ltd. All Rights Reserved.
当時のシステム構成
7
SPOF
SPOF
SPOF
SPOF
Copyright (C) DeNA Co.,Ltd. All Rights Reserved.
当時のシステム構成
8
単一AZ
Copyright (C) DeNA Co.,Ltd. All Rights Reserved.
当時の問題点
 SPOFが多い
 単一AZ構成のコンポーネントが多い
 その他
9
Copyright (C) DeNA Co.,Ltd. All Rights Reserved.
こんな感じにしました
10
Copyright (C) DeNA Co.,Ltd. All Rights Reserved.
どう改善したか(まとめ)
 SPOF をなくして、かつ AZ 冗長化した。
⁃ Web => Multi-AZ に配置
⁃ RDS => Multi-AZ Active-Standby 構成
⁃ Redis (ElastiCache) => Multi-AZ Master-Slave 構成
⁃ Groonga => 諦めました。ゴメンナサイ
• Snapshot から速やかに復旧できるようにした
11
Copyright (C) DeNA Co.,Ltd. All Rights Reserved.
移行時に困ったこと
 ElastiCache (Redis) のメモリサイズが不足していたので、インスタン
スタイプを上げたかった
 困ったこと:
⁃ 一度作成した Cache Cluster のインスタンスタイプを変更出来ない
⁃ 異なるインスタンスタイプのノードをレプリケーショングループに
加えることもできない
 AWS ElastiCache Redis のイケてないところ ※2014/12/21 時点 -
weblog of key_amb
12
Copyright (C) DeNA Co.,Ltd. All Rights Reserved.
どうやったか
 インスタンスタイプを上げた別の Cache Cluster を作成し、アプリケー
ション側で向き先変更
 今回は Redis 上のデータロストは許容した
13
Copyright (C) DeNA Co.,Ltd. All Rights Reserved.
ここからデータストアの話
14
Copyright (C) DeNA Co.,Ltd. All Rights Reserved.
DB KPI とは?
 DB(=MySQL) の性能を測る Key Performance Indicators
 SHOW GLOBAL STATUS で取れる Threads_running を特に重視し
ています。
 その他いろいろな値を秒単位で取得し、DBに格納しています。
⁃ Query Per Second
⁃ Connections
⁃ innodb_rows_read
⁃ innodb_data_reads
⁃ innodb_buffer_pool_read_requests
⁃ :
 トラブルシューティングの強い味方
15
Copyright (C) DeNA Co.,Ltd. All Rights Reserved.
DB KPI 構成図
16
Copyright (C) DeNA Co.,Ltd. All Rights Reserved.
DB KPI in iemo
17
Copyright (C) DeNA Co.,Ltd. All Rights Reserved.
DB KPI in iemo
 EC2 に MySQL は立てないことにした。
⁃ ※本来の DeNA の運用ならすべて EC2 だが、運用移管当初はやら
ない判断
 何かあったときログで見られれば十分という判断。
18
Copyright (C) DeNA Co.,Ltd. All Rights Reserved.
そして、Global Infra へ
 このように iemo 運用移管では、サービス運用上、クリティカルな部分
には対応しつつも、まずは既存の構成にあまり手を加えずに運用を引き
取った。
 …が、iemo だけ他のサービスと揃っていないのは、運用メンバーにと
って負担になるので、他サービスに構成を揃えていく方針
 Global Infra
⁃ DeNA の内製インフラフレームワーク
⁃ 各種監視・運用ツールが入ったパッケージ
⁃ オンプレミス、AWS環境に両対応
⁃ YAPC::Asia Tokyo 2015 にトーク応募していました:
• 続々とリリースされるサービスのインフラを支える技術
19
Copyright (C) DeNA Co.,Ltd. All Rights Reserved.
20
Thank You!!

More Related Content

PPTX
障害を防ぎ、サービスを守るために #gotandapm
PPTX
実プロジェクトの経験から学ぶazureサービス適用パターン
PDF
Amazon RDS (MySQL) 入門
PPTX
20130406 awsのいろんな使い道@jawsug名古屋
PDF
Amazon EC2 HPCインスタンス - AWSマイスターシリーズ
PPTX
AWSでのバースト ― GP2 T2 ご紹介資料
PDF
Microsoft Azureを使ったバックアップの基礎
PDF
ベンチャーCTO、AWSエバンジェリストを経て考える、クラウド時代に向き合うエンジニア像のこれから
障害を防ぎ、サービスを守るために #gotandapm
実プロジェクトの経験から学ぶazureサービス適用パターン
Amazon RDS (MySQL) 入門
20130406 awsのいろんな使い道@jawsug名古屋
Amazon EC2 HPCインスタンス - AWSマイスターシリーズ
AWSでのバースト ― GP2 T2 ご紹介資料
Microsoft Azureを使ったバックアップの基礎
ベンチャーCTO、AWSエバンジェリストを経て考える、クラウド時代に向き合うエンジニア像のこれから

What's hot (20)

PDF
クラウド運用3足の草鞋151102
PPTX
VMware on IBM CloudのためのVM移行/リストアとセキュリティ対策手法
PDF
DynamoDBを利用したKPI保存システム
PDF
2012年09月 仙台ICT復興支援クラウドフォーラム 発表資料
PDF
クラウドを活用した システム開発は適材適所
PPTX
ファイルサーバを高速バックアップ!Veeam NASバックアップのここがスゴイ!
PPTX
AWSでシステム構築工数を1/10にしつつ、高品質化も実現した枠組みのご紹介
PPTX
2012年03月 経済産業省セミナー「クラウドは敵か?味方か?」
PPTX
AWSでGPUも安く大量に使い倒せ
PDF
Rds徹底入門
PPTX
2011年12月 アタックス共同セミナー「先行投資を最小化するクラウドの最新事情」
PPTX
アメーバブログを支えるデータセンターとインフラ技術
PPTX
脱Oracle!脱オンプレ!DBのコスト削減のための移行・連携セミナー
PDF
最近Preview公開されたAzure テストサービスを試してみた
PPTX
Jaws days2017-ops jaws-2
PDF
はじめてのアマゾンクラウド⑥ Amazon rdsでデータベースを起動
PPTX
Azure aws違い
PDF
いまさら聞けないAWSの基本
PDF
クラウド+ソフトウェアで起こすイノベーション
PDF
SoftLayer Bluemix Summit 2015 はじめてのSoftLayer(サーバー、ストレージ編)
クラウド運用3足の草鞋151102
VMware on IBM CloudのためのVM移行/リストアとセキュリティ対策手法
DynamoDBを利用したKPI保存システム
2012年09月 仙台ICT復興支援クラウドフォーラム 発表資料
クラウドを活用した システム開発は適材適所
ファイルサーバを高速バックアップ!Veeam NASバックアップのここがスゴイ!
AWSでシステム構築工数を1/10にしつつ、高品質化も実現した枠組みのご紹介
2012年03月 経済産業省セミナー「クラウドは敵か?味方か?」
AWSでGPUも安く大量に使い倒せ
Rds徹底入門
2011年12月 アタックス共同セミナー「先行投資を最小化するクラウドの最新事情」
アメーバブログを支えるデータセンターとインフラ技術
脱Oracle!脱オンプレ!DBのコスト削減のための移行・連携セミナー
最近Preview公開されたAzure テストサービスを試してみた
Jaws days2017-ops jaws-2
はじめてのアマゾンクラウド⑥ Amazon rdsでデータベースを起動
Azure aws違い
いまさら聞けないAWSの基本
クラウド+ソフトウェアで起こすイノベーション
SoftLayer Bluemix Summit 2015 はじめてのSoftLayer(サーバー、ストレージ編)
Ad

Viewers also liked (9)

PDF
Elasticsearch勉強会
PDF
サービス改善はログデータ分析から
PDF
grifork - fast propagative task runner -
PPTX
Introduction to DevOps
PPTX
Lv1から始めるWebサービスのインフラ構築
PPTX
JAWS目黒 EC2チューニングTips #jawsmeguro #jawsug
PPT
Security officer kpi
PDF
TLS 1.3 と 0-RTT のこわ〜い話
PDF
Measuring Success - Security KPIs
Elasticsearch勉強会
サービス改善はログデータ分析から
grifork - fast propagative task runner -
Introduction to DevOps
Lv1から始めるWebサービスのインフラ構築
JAWS目黒 EC2チューニングTips #jawsmeguro #jawsug
Security officer kpi
TLS 1.3 と 0-RTT のこわ〜い話
Measuring Success - Security KPIs
Ad

Similar to とある AWS サービスの運用移管〜データストア編〜 #jawsmeguro (20)

PDF
AWSのNoSQL入門
PDF
[CTC Forum 2019/10/25] 事例から学ぶ!AWS 移行でデータベースの管理・コストを削減する方法
PDF
AWSクラウドサービスツアー
PDF
20180425 AWS Black Belt Online Seminar Amazon Relational Database Service (Am...
PDF
AWS Black Belt Techシリーズ Amazon Relational Database Service (RDS)
PDF
AWSマイスターシリーズ Instance Store(Ephemeral Disk) & Elastic Block Store
PDF
[よくわかるクラウドデータベース] CassandraからAmazon DynamoDBへの移行事例
PDF
AWS Blackbelt 2015シリーズ RDS
PDF
RDS詳細 -ほぼ週刊AWSマイスターシリーズ第8回-
PDF
AWS Black Belt Techシリーズ Amazon Elastic Compute Cloud (Amazon EC2)
PDF
Amazon ElastiCache - AWSマイスターシリーズ
PDF
Developers.IO 2017 MongoDB on AWS Advance
PDF
AWSの様々なアーキテクチャ
PPTX
Amazon rds入門 #ChugokuDB
PDF
20120508 aws meister-rds-public
PPTX
いまさら聞けない Amazon EC2
PDF
Lunch & Learn, AWS NoSQL Services
PPTX
Microservice and agile development
PDF
AWS初心者向けWebinar RDBのAWSへの移行方法(Oracleを例に)
PDF
AWSが誕生するまでの秘話
AWSのNoSQL入門
[CTC Forum 2019/10/25] 事例から学ぶ!AWS 移行でデータベースの管理・コストを削減する方法
AWSクラウドサービスツアー
20180425 AWS Black Belt Online Seminar Amazon Relational Database Service (Am...
AWS Black Belt Techシリーズ Amazon Relational Database Service (RDS)
AWSマイスターシリーズ Instance Store(Ephemeral Disk) & Elastic Block Store
[よくわかるクラウドデータベース] CassandraからAmazon DynamoDBへの移行事例
AWS Blackbelt 2015シリーズ RDS
RDS詳細 -ほぼ週刊AWSマイスターシリーズ第8回-
AWS Black Belt Techシリーズ Amazon Elastic Compute Cloud (Amazon EC2)
Amazon ElastiCache - AWSマイスターシリーズ
Developers.IO 2017 MongoDB on AWS Advance
AWSの様々なアーキテクチャ
Amazon rds入門 #ChugokuDB
20120508 aws meister-rds-public
いまさら聞けない Amazon EC2
Lunch & Learn, AWS NoSQL Services
Microservice and agile development
AWS初心者向けWebinar RDBのAWSへの移行方法(Oracleを例に)
AWSが誕生するまでの秘話

とある AWS サービスの運用移管〜データストア編〜 #jawsmeguro

  • 1. Copyright (C) DeNA Co.,Ltd. All Rights Reserved. とある AWS サービスの運用移管 〜データストア編〜 JAWS-UG Meguro #1 June 26, 2015 Kiyoshi Yasutake DeNA Co., Ltd.
  • 2. Copyright (C) DeNA Co.,Ltd. All Rights Reserved. 自己紹介  安武 貴世志  @key_amb (きいあむ)  DeNA でインフラやってます。 2
  • 3. Copyright (C) DeNA Co.,Ltd. All Rights Reserved. 今日話すこと  とあるAWSサービスの運用移管  移行時に困ったこと  MySQL 運用 Tips 3
  • 4. Copyright (C) DeNA Co.,Ltd. All Rights Reserved. 4 http://iemo.jp/
  • 5. Copyright (C) DeNA Co.,Ltd. All Rights Reserved. iemo について  http://iemo.jp  住まいに特化したキュレーション プラットフォーム  MAU 500万  スマートフォンからのアクセスが 主 5 DeNAがキュレーションプラットフォーム事業を開始~キュレーション プラットフォーム運営会社2社を買収、リアル巨大産業の構造変革を 目指す~ (2014年10月1日)
  • 6. Copyright (C) DeNA Co.,Ltd. All Rights Reserved. 当時のシステム構成 6
  • 7. Copyright (C) DeNA Co.,Ltd. All Rights Reserved. 当時のシステム構成 7 SPOF SPOF SPOF SPOF
  • 8. Copyright (C) DeNA Co.,Ltd. All Rights Reserved. 当時のシステム構成 8 単一AZ
  • 9. Copyright (C) DeNA Co.,Ltd. All Rights Reserved. 当時の問題点  SPOFが多い  単一AZ構成のコンポーネントが多い  その他 9
  • 10. Copyright (C) DeNA Co.,Ltd. All Rights Reserved. こんな感じにしました 10
  • 11. Copyright (C) DeNA Co.,Ltd. All Rights Reserved. どう改善したか(まとめ)  SPOF をなくして、かつ AZ 冗長化した。 ⁃ Web => Multi-AZ に配置 ⁃ RDS => Multi-AZ Active-Standby 構成 ⁃ Redis (ElastiCache) => Multi-AZ Master-Slave 構成 ⁃ Groonga => 諦めました。ゴメンナサイ • Snapshot から速やかに復旧できるようにした 11
  • 12. Copyright (C) DeNA Co.,Ltd. All Rights Reserved. 移行時に困ったこと  ElastiCache (Redis) のメモリサイズが不足していたので、インスタン スタイプを上げたかった  困ったこと: ⁃ 一度作成した Cache Cluster のインスタンスタイプを変更出来ない ⁃ 異なるインスタンスタイプのノードをレプリケーショングループに 加えることもできない  AWS ElastiCache Redis のイケてないところ ※2014/12/21 時点 - weblog of key_amb 12
  • 13. Copyright (C) DeNA Co.,Ltd. All Rights Reserved. どうやったか  インスタンスタイプを上げた別の Cache Cluster を作成し、アプリケー ション側で向き先変更  今回は Redis 上のデータロストは許容した 13
  • 14. Copyright (C) DeNA Co.,Ltd. All Rights Reserved. ここからデータストアの話 14
  • 15. Copyright (C) DeNA Co.,Ltd. All Rights Reserved. DB KPI とは?  DB(=MySQL) の性能を測る Key Performance Indicators  SHOW GLOBAL STATUS で取れる Threads_running を特に重視し ています。  その他いろいろな値を秒単位で取得し、DBに格納しています。 ⁃ Query Per Second ⁃ Connections ⁃ innodb_rows_read ⁃ innodb_data_reads ⁃ innodb_buffer_pool_read_requests ⁃ :  トラブルシューティングの強い味方 15
  • 16. Copyright (C) DeNA Co.,Ltd. All Rights Reserved. DB KPI 構成図 16
  • 17. Copyright (C) DeNA Co.,Ltd. All Rights Reserved. DB KPI in iemo 17
  • 18. Copyright (C) DeNA Co.,Ltd. All Rights Reserved. DB KPI in iemo  EC2 に MySQL は立てないことにした。 ⁃ ※本来の DeNA の運用ならすべて EC2 だが、運用移管当初はやら ない判断  何かあったときログで見られれば十分という判断。 18
  • 19. Copyright (C) DeNA Co.,Ltd. All Rights Reserved. そして、Global Infra へ  このように iemo 運用移管では、サービス運用上、クリティカルな部分 には対応しつつも、まずは既存の構成にあまり手を加えずに運用を引き 取った。  …が、iemo だけ他のサービスと揃っていないのは、運用メンバーにと って負担になるので、他サービスに構成を揃えていく方針  Global Infra ⁃ DeNA の内製インフラフレームワーク ⁃ 各種監視・運用ツールが入ったパッケージ ⁃ オンプレミス、AWS環境に両対応 ⁃ YAPC::Asia Tokyo 2015 にトーク応募していました: • 続々とリリースされるサービスのインフラを支える技術 19
  • 20. Copyright (C) DeNA Co.,Ltd. All Rights Reserved. 20 Thank You!!