一、简介
这份综合指南将引导你掌握在系统设计中取得成功所需的基本概念。
二、垂直和水平扩展
1. 垂直扩展
系统扩展的最直接方式是通过垂直扩展。这涉及升级现有服务器,例如增加更多的RAM或更快的CPU。
1*8OAEF45gAfOxvrTUz6hp3w.png
垂直扩展通常是处理用户负载增加的快速解决方案。然而,从长远来看,这并不是最有效的扩展方式。
2. 水平扩展
更高效的方法是水平扩展。在这种情况下,会添加服务器的副本,使每个副本处理一部分请求。
1*LfHAtNeWaNARDcmIaGVkXw.png
这比垂直扩展更为健壮,它带来两个关键的好处:
- 无限扩展性:你可以不断添加服务器。
- 可靠性:如果一个服务器失败,其他服务器可以继续处理请求,减轻单点故障问题。
3. 负载均衡
为了防止服务器超载并有效地分发流量,负载均衡至关重要。
1*UmNTQRCU97JYoLAIqYMAyA.png
负载均衡器将入站用户请求分配到多个服务器上,防止任何一个服务器成为瓶颈。
(1) 算法
负载均衡器使用各种算法来分发流量:
- 最少连接:将流量发送到具有最少打开连接的服务器。
- 基于资源:根据可用资源选择服务器。
- IP哈希:根据源和目标IP地址的哈希将流量分配给服务器。
- 轮询:按顺序在服务器列表上分发流量。
- 自定义脚本:你还可以编写根据需要定制的自定义算法。
(2) 技术
负载均衡的常见方法包括:
- 专业软件:你可以使用像 Nginx 这样的软件,或者使用 AWS Elastic Load Balancing 等服务来实现负载均衡。
- 基于DNS:通过为域分配多个IP,使用DNS本身作为简单的负载均衡器。然而,这种方法提供的定制性较少。
4.缓存
在系统中瓶颈通常不是Web服务器而是数据库服务器。缓存涉及临时存储数据,通常在计算机的RAM中,以便在减轻数据库负载的同时更快地服务未来的请求。
(1) 技术
为了实施缓存,你需要根据特定要求从一系列可用的软件选项中进行选择,例如 Redis、Nginx、Memcached 或 Cassandra。
(2) 缓存失效
为了保持缓存和数据库同步,可以使用各种缓存失效策略。选择正确的算法确保你的缓存既有效又高效。常见的算法有:
- 写穿透缓存:先更新缓存,然后更新数据库。
- 写回缓存:先更新缓存,然后与数据库同步。
(3) 但缓存在哪里?
缓存可以存在于应用程序架构的不同级别,包括:
- 客户端:在浏览器的缓存中。
- 服务器端:使用像Redis或Memcached这样的软件。
- 数据库:通过在诸如MySQL的数据库中进行查询缓存。
5. 内容交付网络(CDN)
通过内容交付网络,可以实现另一层次的缓存。CDN是分布在多个地理位置的服务器网络,用于存储和提供Web内容,如图像和视频。它们在多个地理位置存储您内容的缓存副本。
1*R5dl3WetVphgtjSjW1Kajg.png
CDN通常以以下几种方式设置:
- 拉取式:CDN在首次用户请求时从源服务器获取数据并缓存。
- 推送式:源服务器事先将数据推送到CDN。
知名的CDN提供商包括 Cloudflare、Google Cloud CDN、Amazon CloudFront 和 Microsoft Azure CDN。
6. API设计
(1) API设计充
当客户端和服务器之间的契约。在设计API时,考虑以下关键因素:
- API类型:在设计API时,首先决定类型:RESTful、GraphQL或gRPC。
- 通信协议:HTTP、WebSockets等。
- 数据传输机制:JSON、XML或协议缓冲区。
- 安全性:考虑采取措施防范字典攻击、XSS、CSRF、HPP攻击,并使用速率限制。
- 查询和排序:如何检索和排序数据?
- 分页:不要在一个请求中获取所有数据,你需要分页。
- 性能:优化应用程序的初始加载时间。
- 错误处理:确保错误是一致且信息丰富的。
(2) 服务器驱动和客户端驱动设计
根据你的应用程序,你可能会选择服务器驱动或客户端驱动的API设计,每种设计都提供一套自己的优势。
1*w0ybXh8JwTLGstzTREODIw.png
- 服务器驱动:适用于需要应用商店批准的移动应用程序发布的情况。
- 客户端驱动:在客户端方面提供更大的灵活性。
三、结论
从扩展策略和负载均衡技术到缓存和API设计的微妙之处,掌握这些领域可以让你在竞争中具备强大的优势。