SlideShare a Scribd company logo
1 of 21
Sina App Engine - deep inside cloud service http://t.sina.com.cn/saet SAE Team
前言 什么是  Sina App Engine Sina App Engine 的发展现状 SAE 和微博是啥关系 关于 SAE 的外部好消息 关于 SAE 的内部好消息
提纲 Cloud Service RDC MemcacheX TaskQueue
Cloud Service Image DB TaskQueue Cron RDC Stor DeferredJobs Appconfig Fetchurl MemcacheX SMail XHProf .  覆盖整个 Web 服务 .  精英团队作战 Php Tmpfs
Cloud Service
Cloud Service App Sandbox:
RDC 什么是 RDC:   Relational Database Cluster RDC 的目标: 1 ,监控百万数量级的 DB ,包括心跳检查、主从同步检查、节点负载 2 ,管理百万数量级的 DB ,包括启动、停止、迁移、重启、切换 3 ,被动复制模式的 HA 4 ,支持 MySQL5 通讯协议,代理层完全透明,代理损耗低 5 ,无状态依赖,自身支持水平扩展 6 ,提供用户的 DB 的隔离性,保证整体集群的安全性
RDC RDC 与 MySQL 在实现上的一些不同 1 ,多进程  vs  多线程 2 , SQL 解析,词法分析  vs  语法分析 3 , Query Cache 特别说明: 1 , RDC 不负责用户数据库的水平扩展,所以水平扩展需要用户自己做分表 2 , RDC 自身提供一主多从的 DB 结构,上层支持读写分离 3 ,为了整个数据库平台的安全和可靠, RDC 会根据自身的预判算法预先屏蔽某些 SQL 语句 4 , RDC 强烈建议用户使用正确的 MySQL 调用习惯,对每个 MySQL 函数判断返回值
RDC
RDC 如何使用 RDC 主库  = 》  w.rdc.sae.sina.com.cn:3307 从库  = 》  r.rdc.sae.sina.com.cn:3307
RDC RDC 的预判机制: 1 ,语句 select update insert delete replace create table alter table create index 2 ,三道封锁线 3 , SQL 并发执行时间和
RDC Benchmark : 硬件环境: 4Core 3GHz , 4G 软件环境: CentOS 5.1 C++ boost 1.36 MySQL Server version: 5.0.87-log Source distribution 标准压测脚本, /usr/local/mysql5/sql-bench/run-all-tests RDC vs  标准 MySQL with QueryCache  -5% without QueryCache  -10% 增强功能: 1 ,水平扩展 2 ,监控与系统结合
MemcacheX 什么是 MemcacheX MemcacheX 的目的 1 , low overhead 2 , HA 3 , Statics 4 , Connection Protector 5, Data dump
MemcacheX
MemcacheX
MemcacheX Connection 保护 1 , Connection LRU 2 , Conection Timeout find-key => O(logN) insert-key => O(logN) delete-key  => O(logN) get min-value => O(1)
TaskQueue 1 ,什么是 TaskQueue 2 ,和 DeferredJobs 的区别 3 ,如何使用 TaskQueue
TaskQueue
TaskQueue 1 ,硬哈希 2 ,多进程 3 ,非阻塞 timeout 4 , master-slave  被动复制 5 , worker 延迟等待时间 6 , worker 死亡唤醒检查
What we will do ,[object Object],[object Object],[object Object],SAE is still coding
关于 丛磊: 超级码农, http://t.sina.com.cn/kobe [email_address] 个人技术博客: http://saecloud.sinaapp.com

More Related Content

What's hot

Yupoo! (花瓣网/又拍云) 架构中的消息与任务系统
Yupoo! (花瓣网/又拍云) 架构中的消息与任务系统Yupoo! (花瓣网/又拍云) 架构中的消息与任务系统
Yupoo! (花瓣网/又拍云) 架构中的消息与任务系统Dahui Feng
 
使用Nginx轻松实现开源负载均衡
使用Nginx轻松实现开源负载均衡使用Nginx轻松实现开源负载均衡
使用Nginx轻松实现开源负载均衡Cary Yang
 
使用Nginx轻松实现开源负载均衡
使用Nginx轻松实现开源负载均衡使用Nginx轻松实现开源负载均衡
使用Nginx轻松实现开源负载均衡guest2d0fe3
 
Mysql fast share
Mysql fast shareMysql fast share
Mysql fast sharerfyiamcool
 
ELK日志分析搭建过程文档
ELK日志分析搭建过程文档ELK日志分析搭建过程文档
ELK日志分析搭建过程文档果 果
 
Build scalable microblog qcon beijing 2010
Build scalable microblog qcon beijing 2010Build scalable microblog qcon beijing 2010
Build scalable microblog qcon beijing 2010Tim Y
 
Lamp优化实践
Lamp优化实践Lamp优化实践
Lamp优化实践zhliji2
 
基于OpenResty的百万级长连接推送
基于OpenResty的百万级长连接推送基于OpenResty的百万级长连接推送
基于OpenResty的百万级长连接推送OpenRestyCon
 
Oracle enterprise manager cloud control 12c release 5 installation on oracle ...
Oracle enterprise manager cloud control 12c release 5 installation on oracle ...Oracle enterprise manager cloud control 12c release 5 installation on oracle ...
Oracle enterprise manager cloud control 12c release 5 installation on oracle ...Zhaoyang Wang
 
一个 Mongodb command 的前世今生
一个 Mongodb command 的前世今生一个 Mongodb command 的前世今生
一个 Mongodb command 的前世今生dennis zhuang
 
负载均衡
负载均衡负载均衡
负载均衡uptodate
 
introduce Okhttp
introduce Okhttpintroduce Okhttp
introduce Okhttp朋 王
 
使用Nginx轻松实现开源负载均衡
使用Nginx轻松实现开源负载均衡使用Nginx轻松实现开源负载均衡
使用Nginx轻松实现开源负载均衡cachowu
 
Installation and configuration 11g r2
Installation and configuration 11g r2Installation and configuration 11g r2
Installation and configuration 11g r2Zhaoyang Wang
 
使用JSR311规范快速的构建REST应用
使用JSR311规范快速的构建REST应用使用JSR311规范快速的构建REST应用
使用JSR311规范快速的构建REST应用Tony Deng
 
高性能并发网络服务器设计与实现
高性能并发网络服务器设计与实现高性能并发网络服务器设计与实现
高性能并发网络服务器设计与实现ideawu
 
Nginx+常见应用技术指南
Nginx+常见应用技术指南Nginx+常见应用技术指南
Nginx+常见应用技术指南andy54321
 
Mr&ueh数据库方面
Mr&ueh数据库方面Mr&ueh数据库方面
Mr&ueh数据库方面Tianwei Liu
 

What's hot (19)

Yupoo! (花瓣网/又拍云) 架构中的消息与任务系统
Yupoo! (花瓣网/又拍云) 架构中的消息与任务系统Yupoo! (花瓣网/又拍云) 架构中的消息与任务系统
Yupoo! (花瓣网/又拍云) 架构中的消息与任务系统
 
使用Nginx轻松实现开源负载均衡
使用Nginx轻松实现开源负载均衡使用Nginx轻松实现开源负载均衡
使用Nginx轻松实现开源负载均衡
 
使用Nginx轻松实现开源负载均衡
使用Nginx轻松实现开源负载均衡使用Nginx轻松实现开源负载均衡
使用Nginx轻松实现开源负载均衡
 
Mysql fast share
Mysql fast shareMysql fast share
Mysql fast share
 
ELK日志分析搭建过程文档
ELK日志分析搭建过程文档ELK日志分析搭建过程文档
ELK日志分析搭建过程文档
 
Build scalable microblog qcon beijing 2010
Build scalable microblog qcon beijing 2010Build scalable microblog qcon beijing 2010
Build scalable microblog qcon beijing 2010
 
Lamp优化实践
Lamp优化实践Lamp优化实践
Lamp优化实践
 
基于OpenResty的百万级长连接推送
基于OpenResty的百万级长连接推送基于OpenResty的百万级长连接推送
基于OpenResty的百万级长连接推送
 
Oracle enterprise manager cloud control 12c release 5 installation on oracle ...
Oracle enterprise manager cloud control 12c release 5 installation on oracle ...Oracle enterprise manager cloud control 12c release 5 installation on oracle ...
Oracle enterprise manager cloud control 12c release 5 installation on oracle ...
 
一个 Mongodb command 的前世今生
一个 Mongodb command 的前世今生一个 Mongodb command 的前世今生
一个 Mongodb command 的前世今生
 
负载均衡
负载均衡负载均衡
负载均衡
 
introduce Okhttp
introduce Okhttpintroduce Okhttp
introduce Okhttp
 
MySQL-Proxy
MySQL-ProxyMySQL-Proxy
MySQL-Proxy
 
使用Nginx轻松实现开源负载均衡
使用Nginx轻松实现开源负载均衡使用Nginx轻松实现开源负载均衡
使用Nginx轻松实现开源负载均衡
 
Installation and configuration 11g r2
Installation and configuration 11g r2Installation and configuration 11g r2
Installation and configuration 11g r2
 
使用JSR311规范快速的构建REST应用
使用JSR311规范快速的构建REST应用使用JSR311规范快速的构建REST应用
使用JSR311规范快速的构建REST应用
 
高性能并发网络服务器设计与实现
高性能并发网络服务器设计与实现高性能并发网络服务器设计与实现
高性能并发网络服务器设计与实现
 
Nginx+常见应用技术指南
Nginx+常见应用技术指南Nginx+常见应用技术指南
Nginx+常见应用技术指南
 
Mr&ueh数据库方面
Mr&ueh数据库方面Mr&ueh数据库方面
Mr&ueh数据库方面
 

Viewers also liked

Tanner glueheisen
Tanner glueheisenTanner glueheisen
Tanner glueheisenDeann
 
Rachael_T_The jaguar2
Rachael_T_The jaguar2Rachael_T_The jaguar2
Rachael_T_The jaguar2ginageo65
 
Trevor
TrevorTrevor
TrevorDeann
 
Jaguar senora and_callarri
Jaguar senora and_callarriJaguar senora and_callarri
Jaguar senora and_callarrishawonda
 
งานนำเสนอ1
งานนำเสนอ1งานนำเสนอ1
งานนำเสนอ1amfine09
 
Jaguar Conservation Program
Jaguar Conservation ProgramJaguar Conservation Program
Jaguar Conservation ProgramEduardo Carrillo
 
Gm i mr adp0812-rp-v1
Gm i mr adp0812-rp-v1Gm i mr adp0812-rp-v1
Gm i mr adp0812-rp-v1Ralph Paglia
 

Viewers also liked (7)

Tanner glueheisen
Tanner glueheisenTanner glueheisen
Tanner glueheisen
 
Rachael_T_The jaguar2
Rachael_T_The jaguar2Rachael_T_The jaguar2
Rachael_T_The jaguar2
 
Trevor
TrevorTrevor
Trevor
 
Jaguar senora and_callarri
Jaguar senora and_callarriJaguar senora and_callarri
Jaguar senora and_callarri
 
งานนำเสนอ1
งานนำเสนอ1งานนำเสนอ1
งานนำเสนอ1
 
Jaguar Conservation Program
Jaguar Conservation ProgramJaguar Conservation Program
Jaguar Conservation Program
 
Gm i mr adp0812-rp-v1
Gm i mr adp0812-rp-v1Gm i mr adp0812-rp-v1
Gm i mr adp0812-rp-v1
 

Similar to deep inside Sina App Engine cloud service

众行业公司系统架构案例介绍
众行业公司系统架构案例介绍众行业公司系统架构案例介绍
众行业公司系统架构案例介绍mysqlops
 
Times Ten Training
Times Ten TrainingTimes Ten Training
Times Ten TrainingLi Chen
 
王龙:百度数据库架构演变与设计
王龙:百度数据库架构演变与设计王龙:百度数据库架构演变与设计
王龙:百度数据库架构演变与设计YANGL *
 
Hacking Nginx at Taobao
Hacking Nginx at TaobaoHacking Nginx at Taobao
Hacking Nginx at TaobaoJoshua Zhu
 
新浪微博大规模基于Docker的混合云应用实践 -王关胜
新浪微博大规模基于Docker的混合云应用实践 -王关胜新浪微博大规模基于Docker的混合云应用实践 -王关胜
新浪微博大规模基于Docker的混合云应用实践 -王关胜Weibo Corporation
 
20150528联动技术大讲堂15(刘胜)业务系统上线标准指引
20150528联动技术大讲堂15(刘胜)业务系统上线标准指引20150528联动技术大讲堂15(刘胜)业务系统上线标准指引
20150528联动技术大讲堂15(刘胜)业务系统上线标准指引liu sheng
 
大数据时代feed架构 (ArchSummit Beijing 2014)
大数据时代feed架构 (ArchSummit Beijing 2014)大数据时代feed架构 (ArchSummit Beijing 2014)
大数据时代feed架构 (ArchSummit Beijing 2014)Tim Y
 
基于Erlang的
基于Erlang的基于Erlang的
基于Erlang的hnoutman
 
手机之家的数据访问层实践
手机之家的数据访问层实践手机之家的数据访问层实践
手机之家的数据访问层实践guestf5121c
 
手机之家的数据访问层实践
手机之家的数据访问层实践手机之家的数据访问层实践
手机之家的数据访问层实践xcq
 
淘宝网架构变迁和挑战(Oracle架构师日)
淘宝网架构变迁和挑战(Oracle架构师日)淘宝网架构变迁和挑战(Oracle架构师日)
淘宝网架构变迁和挑战(Oracle架构师日)vanadies10
 
Nosql三步曲
Nosql三步曲Nosql三步曲
Nosql三步曲84zhu
 
高性能LAMP程序设计
高性能LAMP程序设计高性能LAMP程序设计
高性能LAMP程序设计fuchaoqun
 
Beyond rails server
Beyond rails serverBeyond rails server
Beyond rails serverMichael Chen
 
Web请求异步处理和海量数据即时分析在淘宝开放平台的实践
Web请求异步处理和海量数据即时分析在淘宝开放平台的实践Web请求异步处理和海量数据即时分析在淘宝开放平台的实践
Web请求异步处理和海量数据即时分析在淘宝开放平台的实践mysqlops
 
从林书豪到全明星 - 虎扑网技术架构如何化解流量高峰
从林书豪到全明星 - 虎扑网技术架构如何化解流量高峰从林书豪到全明星 - 虎扑网技术架构如何化解流量高峰
从林书豪到全明星 - 虎扑网技术架构如何化解流量高峰Scourgen Hong
 

Similar to deep inside Sina App Engine cloud service (20)

Java@taobao
Java@taobaoJava@taobao
Java@taobao
 
众行业公司系统架构案例介绍
众行业公司系统架构案例介绍众行业公司系统架构案例介绍
众行业公司系统架构案例介绍
 
Times Ten Training
Times Ten TrainingTimes Ten Training
Times Ten Training
 
王龙:百度数据库架构演变与设计
王龙:百度数据库架构演变与设计王龙:百度数据库架构演变与设计
王龙:百度数据库架构演变与设计
 
Hacking Nginx at Taobao
Hacking Nginx at TaobaoHacking Nginx at Taobao
Hacking Nginx at Taobao
 
新浪微博大规模基于Docker的混合云应用实践 -王关胜
新浪微博大规模基于Docker的混合云应用实践 -王关胜新浪微博大规模基于Docker的混合云应用实践 -王关胜
新浪微博大规模基于Docker的混合云应用实践 -王关胜
 
Cdc@ganji.com
Cdc@ganji.comCdc@ganji.com
Cdc@ganji.com
 
Micro service
Micro serviceMicro service
Micro service
 
20150528联动技术大讲堂15(刘胜)业务系统上线标准指引
20150528联动技术大讲堂15(刘胜)业务系统上线标准指引20150528联动技术大讲堂15(刘胜)业务系统上线标准指引
20150528联动技术大讲堂15(刘胜)业务系统上线标准指引
 
大数据时代feed架构 (ArchSummit Beijing 2014)
大数据时代feed架构 (ArchSummit Beijing 2014)大数据时代feed架构 (ArchSummit Beijing 2014)
大数据时代feed架构 (ArchSummit Beijing 2014)
 
基于Erlang的
基于Erlang的基于Erlang的
基于Erlang的
 
Baidu Cloud Foundry
Baidu Cloud FoundryBaidu Cloud Foundry
Baidu Cloud Foundry
 
手机之家的数据访问层实践
手机之家的数据访问层实践手机之家的数据访问层实践
手机之家的数据访问层实践
 
手机之家的数据访问层实践
手机之家的数据访问层实践手机之家的数据访问层实践
手机之家的数据访问层实践
 
淘宝网架构变迁和挑战(Oracle架构师日)
淘宝网架构变迁和挑战(Oracle架构师日)淘宝网架构变迁和挑战(Oracle架构师日)
淘宝网架构变迁和挑战(Oracle架构师日)
 
Nosql三步曲
Nosql三步曲Nosql三步曲
Nosql三步曲
 
高性能LAMP程序设计
高性能LAMP程序设计高性能LAMP程序设计
高性能LAMP程序设计
 
Beyond rails server
Beyond rails serverBeyond rails server
Beyond rails server
 
Web请求异步处理和海量数据即时分析在淘宝开放平台的实践
Web请求异步处理和海量数据即时分析在淘宝开放平台的实践Web请求异步处理和海量数据即时分析在淘宝开放平台的实践
Web请求异步处理和海量数据即时分析在淘宝开放平台的实践
 
从林书豪到全明星 - 虎扑网技术架构如何化解流量高峰
从林书豪到全明星 - 虎扑网技术架构如何化解流量高峰从林书豪到全明星 - 虎扑网技术架构如何化解流量高峰
从林书豪到全明星 - 虎扑网技术架构如何化解流量高峰
 

deep inside Sina App Engine cloud service

  • 1. Sina App Engine - deep inside cloud service http://t.sina.com.cn/saet SAE Team
  • 2. 前言 什么是 Sina App Engine Sina App Engine 的发展现状 SAE 和微博是啥关系 关于 SAE 的外部好消息 关于 SAE 的内部好消息
  • 3. 提纲 Cloud Service RDC MemcacheX TaskQueue
  • 4. Cloud Service Image DB TaskQueue Cron RDC Stor DeferredJobs Appconfig Fetchurl MemcacheX SMail XHProf . 覆盖整个 Web 服务 . 精英团队作战 Php Tmpfs
  • 6. Cloud Service App Sandbox:
  • 7. RDC 什么是 RDC: Relational Database Cluster RDC 的目标: 1 ,监控百万数量级的 DB ,包括心跳检查、主从同步检查、节点负载 2 ,管理百万数量级的 DB ,包括启动、停止、迁移、重启、切换 3 ,被动复制模式的 HA 4 ,支持 MySQL5 通讯协议,代理层完全透明,代理损耗低 5 ,无状态依赖,自身支持水平扩展 6 ,提供用户的 DB 的隔离性,保证整体集群的安全性
  • 8. RDC RDC 与 MySQL 在实现上的一些不同 1 ,多进程 vs 多线程 2 , SQL 解析,词法分析 vs 语法分析 3 , Query Cache 特别说明: 1 , RDC 不负责用户数据库的水平扩展,所以水平扩展需要用户自己做分表 2 , RDC 自身提供一主多从的 DB 结构,上层支持读写分离 3 ,为了整个数据库平台的安全和可靠, RDC 会根据自身的预判算法预先屏蔽某些 SQL 语句 4 , RDC 强烈建议用户使用正确的 MySQL 调用习惯,对每个 MySQL 函数判断返回值
  • 9. RDC
  • 10. RDC 如何使用 RDC 主库 = 》 w.rdc.sae.sina.com.cn:3307 从库 = 》 r.rdc.sae.sina.com.cn:3307
  • 11. RDC RDC 的预判机制: 1 ,语句 select update insert delete replace create table alter table create index 2 ,三道封锁线 3 , SQL 并发执行时间和
  • 12. RDC Benchmark : 硬件环境: 4Core 3GHz , 4G 软件环境: CentOS 5.1 C++ boost 1.36 MySQL Server version: 5.0.87-log Source distribution 标准压测脚本, /usr/local/mysql5/sql-bench/run-all-tests RDC vs 标准 MySQL with QueryCache -5% without QueryCache -10% 增强功能: 1 ,水平扩展 2 ,监控与系统结合
  • 13. MemcacheX 什么是 MemcacheX MemcacheX 的目的 1 , low overhead 2 , HA 3 , Statics 4 , Connection Protector 5, Data dump
  • 16. MemcacheX Connection 保护 1 , Connection LRU 2 , Conection Timeout find-key => O(logN) insert-key => O(logN) delete-key => O(logN) get min-value => O(1)
  • 17. TaskQueue 1 ,什么是 TaskQueue 2 ,和 DeferredJobs 的区别 3 ,如何使用 TaskQueue
  • 19. TaskQueue 1 ,硬哈希 2 ,多进程 3 ,非阻塞 timeout 4 , master-slave 被动复制 5 , worker 延迟等待时间 6 , worker 死亡唤醒检查
  • 20.
  • 21. 关于 丛磊: 超级码农, http://t.sina.com.cn/kobe [email_address] 个人技术博客: http://saecloud.sinaapp.com