分布式学习的理论基础
- Consistency 一致性:
这里的一致性是针对于分布式读写的。对于一个分布式系统，当一条数据写成功，那么无论我怎么使用这个系统，我都应当能马上读取到这条最新的数据。
不一致性的例子:我更新了一条微博，而我的关注者还不能看到。 - Avalilability 可用性:
是指系统应当随时可用，在reasonable的时间内返回reasonable的结果。
一个反例:我更新了一条微博，我的关注者在刷我微博的时候显示对方正在更新微博，请稍后再试，或者显示一直在读取中。 - Partition Toleranc 分区容忍性:
分布式环境中数据必然会被划分成多个区分到不同的机器上，不同的机器之间会有数据交换。
而机器一多某台机器发生发生故障的概率就会比较高，而且机器间数据的交换依赖于网络，网络也很有可能会有延时、丢包之类的问题。
分区容忍性就要求在分布式系统要考虑到分布式环境的复杂性的前提下能正常提供服务。
分布式的挑战来自不确定性，不确定计算机什么时候crash、断电，不确定磁盘什么时候损坏，不确定每次网络通信要延迟多久，也不确定通信对端是否处理了发送的消息。而分布式的规模放大了这个不确定性，不确定性是令人讨厌的，所以有诸多的分布式理论、协议来保证在这种不确定性的情况下，系统还能继续正常工作。
负载均衡：
Nginx：高性能、高并发的web服务器；功能包括负载均衡、反向代理、静态内容缓存、访问控制；工作在应用层
LVS： Linux virtual server，基于集群技术和Linux操作系统实现一个高性能、高可用的服务器；工作在网络层
webserver：
Java：Tomcat，Apache，Jboss
Python：gunicorn、uwsgi、twisted、webpy、tornado
service：
SOA、微服务、spring boot，django
容器：
docker，kubernetes
cache：
memcache、redis等
协调中心：
zookeeper、etcd等
zookeeper使用了Paxos协议Paxos是强一致性，高可用的去中心化分布式。zookeeper的使用场景非常广泛，之后细讲。
rpc框架：
grpc、dubbo、brpc
dubbo是阿里开源的Java语言开发的高性能RPC框架，在阿里系的诸多架构中，都使用了dubbo + spring boot
消息队列：
kafka、rabbitMQ、rocketMQ、QSP
消息队列的应用场景：异步处理、应用解耦、流量削锋和消息通讯
实时数据平台：
storm、akka
离线数据平台：
hadoop、spark
PS: apark、akka、kafka都是scala语言写的，看到这个语言还是很牛逼的
dbproxy：
cobar也是阿里开源的，在阿里系中使用也非常广泛，是关系型数据库的sharding + replica 代理
db：
mysql、oracle、MongoDB、HBase、pg
搜索：
elasticsearch、solr
日志：
rsyslog、elk、flume
通用的关系型数据库设计理论，需要满足四种指标:
- Atomicity 原子性:
- Consistency 一致性:
- Isolation 独立性:
- Durability 持久性:
一般情况下 cap只能保证其中的两个 没法全部兼得