[Hadoop] 大型电商分布式系统实践分布式系统架构高阶培训视频教程炼数成金-电商大型网站架构


课程介绍：



在大型网站架构的演变过程中，集中式的架构设计出于系统的可扩展性、可维护性以及成本等多方面的因素考虑，逐渐被放弃，转而采用分布式的架构设计。分布式架构的核心思想是采用大量廉价的PC server，构建一个低成本、高可用、高可扩展、高吞吐的集群系统，以支撑海量的用户访问和数据存储，理论上具备无限的扩展能力。分布式系统的设计，是一门复杂的学问，它涉及到包括通信协议、远程调用，服务治理，系统安全、存储、搜索、监控、稳定性保障、性能优化、数据分析、数据挖掘等方方面面，而本课程将为大家一一进行介绍。





-------------------课程目录-------------------



第一课

大型分布式系统概述

集中式、垂直式、分布式应用架构的变迁思路

SOA体系架构，服务化的演变

SOA的基础--rpc远程调用

--rpc与通信协议

--对象序列化方式的选择

--异构系统还是同构系统

--远程调用的实现方式，基于http协议的远程调用，基于tcp协议的远程调用



第二课

服务的路由和负载均衡

--为什么需要服务治理

--服务的负载均衡，复杂环境下负载均衡所面临的问题(负载不均、多机房)

--负载均衡算法及其扩展

--如何动态配置路由规则

--服务上线下线的动态感知

--客户端容灾方案的实现

--如何使用zookeeper实现服务路由和负载均衡

SOA架构所面临的问题



第三课

构建安全的分布式网站

常见的web攻击手段，xss、crsf、sql注入攻击、DDos攻击等等

面对攻击，应该如何防御，具体的防御手段

如何架构安全的网站，保障通信的安全

常用的安全算法的使用场景<1>

--校验数据是否被篡改，数字摘要

--加密传输内容，对称加密算法

--校验消息发送和接收方身份，非对称加密算法



第四课

构建安全的分布式网站

常用的安全算法的使用场景<2>

数字签名及其使用场景

数字证书及其使用场景

为什么需要认证

--签名认证的原理和实现

--摘要认证的原理和实现

为什么需要https协议，https协议能够带来什么

--https协议的原理解析

--使用tomcat部署https web

平台厂商所面临的问题及开放平台的出现

oauth协议解决了什么问题及oauth协议的适用场景



第五课

分布式系统基础设施之缓存

--缓存的使用场景

--数据一致性的保障

--缓存的负载均衡问题，雪崩效应的产生

--如何解决缓存的负载均衡问题

--缓存的强依赖及可靠性的解决

--memcache的介绍及使用

分布式系统基础设施之持久化存储

--IOE太贵，无法扩展，mysql+pc server节约成本

--pc server的承载有限，业务拆分的实施，mysql复制策略

--读的压力过大，读写分离

--单表数据量太大，则分表

--写入压力太大，则分库



第六课

分布式系统基础设施之持久化存储

--为提升性能，mysql的取舍

--海量数据，高并发写入，该hbase上场了

--hbase的api，row key的设计

--什么场景不适合使用hbase

--小而美的redis，多种数据类型，快速存取

--redis数据类型的介绍，使用案例

分布式系统基础设施之消息系统

--消息系统的使用场景，为什么要使用消息系统

--消息发送的两种模式，p2p和订阅

--消息发送的一致性和可靠性，最终一致性解决方案

--消息投递的顺序问题的产生及消息内容的去重



第七课

分布式系统基础设施之垂直化搜索引擎

垂直化搜索的使用场景

基于lucene的搜索引擎的基本原理

--构建索引

--索引更新与查询

--结果排序

--高亮

--中文分词

--索引优化

搜索引擎的扩展性

使用搜索引擎所面临的问题



第八课

保障分布式系统的稳定性

在线日志分析及常用命令

在线日志分析的技巧，sed、awk、shell的及使用

如何查看服务器当前的状态，服务器的监控指标解析

--load、cup利用率

--磁盘剩余空间

--网络traffic

--磁盘IO

--内存使用

--qps、rt

jvm gc对稳定性和性能的影响

如何分析jvm产生的gc日志



第九课

保障分布式系统的稳定性

集群监控及流量控制

--服务器的心跳检测实现方法

--大流量到来前，服务器的容量评估及应用水位的检测

--如何对流量进行控制

--服务稳定性的实现方案: 依赖管理&服务分级&优雅降级&开关&应急预案

高并发系统与普通系统的区别

--原子操作解决了什么问题

--jvm原子操作实现的原理(包含jvm源代码解析)



第十课

保障分布式系统的稳定性

如何设计高并发系统

--java的多线程同步及锁的机制

--分布式条件下数据一致性及系统可扩展性的保障

--高并发条件下减库存的案例

性能优化--找出系统的性能瓶颈

--找出前端的性能问题

--监测网页的响应时间

--监测java方法的响应时间



第十一课

性能优化--找出系统的性能瓶颈

--java应用程序gc日志的分析

--影响mysql数据库性能的因素

为什么要进行性能测试

性能测试的方法和工具

--apache ab

--apache jmeter

--load runner

性能环境和真实环境的差异

如何进行性能优化

--前端性能优化的实施

--java程序性能优化的实施



第十二课

如何进行性能优化

--数据压缩带来性能的提升，不同算法效率的比较

--使用缓存提升性能

--mysql数据库查询优化

--java应用程序gc优化

--使用新硬件提升性能

java应用常用的故障排查工具

--jps&jmap&jinfo&jstack

--mat

--VisualVM

--java应用典型问题



第十三课

数据分析对于大型分布式网站的意义

分布式文件系统

离线数据分析，mapreduce、hive

实时数据分析，storm

离线数据同步，Apache sqoop

实时数据同步，mysql的实现方案

数据报表能提供什么，报表系统的实现思路