深入理解 Serverless 计算的并发度 _云计算

![vcg_VCG211327502349_RF.jpg](http://www.zzvips.com/uploads/allimg/1688454760475-28dc09b8-a8fc-4d25-9ae0-931a0dec5faa.jpeg#clientId=u59f90e33-20b0-4&from=ui&id=ub12b2aec&originHeight=576&originWidth=1024&originalType=binary&ratio=2&rotation=0&showTitle=false&size=869450&status=done&style=none&taskId=ua8a09a6e-0c03-491f-b751-9f86dc96d67&title=)
作者｜西流（阿里云技术专家）
## 背景
2019 年 Berkeley 预测 Serverless 将取代 Serverful 计算[1]，成为云计算的计算新范式。Serverless 为应用程序开发提供了一种全新的系统架构，其凭借着弹性伸缩省事省心，按需付费更低成本、聚焦业务降低 OPS 这三大核心价值，将开发人员从繁重的手动资源管理和性能成本优化中解放出来，让工程师的生产力再次发生变革。

根据 CNCF 官方定义[2]：
**“**Serverless is a cloud native development model that allows developers to build and run applications without having to manage servers. There are still servers in serverless, but they are abstracted away from app development. A cloud provider handles the routine work of provisioning, maintaining, and scaling the server infrastructure. Developers can simply package their code in containers for deployment. Once deployed, serverless apps respond to demand and automatically scale up and down as needed. Serverless offerings from public cloud providers are usually metered on-demand through an event-driven execution model. As a result, when a serverless function is sitting idle, it doesn’t cost anything.**”**

从上面的定义可以看出， Severless != No Server， 只是对于开发者来说，没有了 Server 去管理。而在云厂商提供的服务中， Serverless 架构应该是采用 FaaS（Function as a service, 函数即服务）和 BaaS（后端服务）服务来解决问题的一种设计。
> FaaS 服务的典型代表： AWS  lambda、 阿里云函数计算 FC、Azure Functions、Google Cloud Functions 等
> BaaS 服务典型代表： AWS: S3、Dynamodb、SQS 等； 阿里云： OSS、 TableStore、MNS 等

![image.png](http://www.zzvips.com/uploads/allimg/1686896916651-76baad42-93c5-43a9-bc88-783ff7516ecb.png#clientId=u4611d55e-f58e-4&from=paste&height=268&id=ube769f1c&originHeight=535&originWidth=1384&originalType=binary&ratio=2&rotation=0&showTitle=false&size=477428&status=done&style=none&taskId=u13feba8c-fefc-406f-a53a-7047e794cb0&title=&width=692)
Serverless 计算

当然随着需求和技术的发展，业界出现了一些 FaaS 以外的其它形态的 Serverless 计算服务，比如 Google Cloud Run、AWS App Runner、阿里云 Serverless 应用引擎 SAE、 阿里云 Serverless Kubernetes ASK 等，这些服务也提供了弹性伸缩能力和按使用计费的收费模式，具备 Serverless 服务的形态，可以说进一步扩大了Serverless 计算的阵营。

而在 Serverless 计算领域最典型的两种产品形态代表 FaaS  和 Google Cloud Run,  都不约而同采用了并发度（Concurrency）这个指标作为扩缩容策略。接下来我们重点剖析下不同产品形态下并发的语义以及为什么这些流行的 Serverless 计算产品为什么采用并发度作为扩缩容的策略。

## 什么是并发？
并发是现代计算的核心原则之一， 并发是指计算系统同时处理多个任务的能力。例如，如果您的计算机同时运行多个程序，则具有多个并发进程/线程可以共享 CPU 时间。如果单个应用程序进程同时处理多个网络请求，或者并行处理队列中的多个作业，则也可以认为该应用程序正在执行并发工作。

比如 “世界第一语言 PHP” 在 Web 领域的实践，使用就是进程池，如下图中的 FastCGI 进程管理器。发送到服务器的 Web 请求将被分配给进程池中的 CGI 进程。该 CGI 进程将处理该单个请求。如果同时收到多个请求，则将启动多个 CGI 进程并行处理它们。然而，每个进程一次只能处理一个请求。服务器能够通过对 CGI 进程进行上下文切换来处理并发请求。操作系统调度程序将跟踪所有 CGI 进程，并在需要时切换正在 CPU 上运行的 CGI 进程，以使每个 CGI 进程在需要时都能获得属于自己的、公平的 CPU 时间份额。
![image.png](http://www.zzvips.com/uploads/allimg/1686896949387-6c161564-9735-435a-a678-3203e169209b.png#clientId=u4611d55e-f58e-4&from=paste&height=205&id=ucf1a005f&originHeight=410&originWidth=1500&originalType=binary&ratio=2&rotation=0&showTitle=false&size=463146&status=done&style=none&taskId=ub270c723-1b2a-4162-a784-eeec6eb80e7&title=&width=750)
PHP Web 运行原理图

如今，有更多用于并发的工具， 这包括现代编程语言内置的强大异步并发机制，以及帮助简化并发的云计算服务。让我们看看一些云计算服务如何设计和使用并发。
## 单实例单并发
云厂商的 FaaS 服务的并发扩缩容原理基本大同小异， 我们以 AWS Lambda 官方文档[3] 为参考：
> 当首 次调用一个函数时，FaaS 服务会创建一个函数实例，并运行处理程序方法以处理事件。完成后，函数会在一段时间内保持可用状态，以处理后续的事件。如果在函数忙碌时有其他事件到达，FaaS 会创建更多的函数实例来同时处理这些请求。

从文档中我们可以看出，每个函数实例一次只能处理一个事件请求（即 one concurrent request per instance，也称为单实例单并发）。在处理事件请求时，函数被认为是繁忙的，因此任何并发事件都必须转到另一个函数实例。每次必须创建函数的新实例时，都会出现短暂的“冷启动”(Cold Start)延迟。这个冷启动的持续时间取决于您的代码大小和使用的运行时 Runtime。下图[4]显示了当有多个并发请求需要进行并行处理时，FaaS 如何实时扩展函数实例的数量：
> Tips:  只有绿色部分是毫秒计费， 黄色和空白部分均不会计费， 真正100%为计算资源付费。

![image.png](http://www.zzvips.com/uploads/allimg/1686897006225-c77d8d5e-0fd1-4ff9-b9d0-e4730ab7179d.png#clientId=u4611d55e-f58e-4&from=paste&height=320&id=uf214ae0b&originHeight=639&originWidth=1402&originalType=binary&ratio=2&rotation=0&showTitle=false&size=101432&status=done&style=none&taskId=uc907c206-182d-4158-8b1c-6813e9b16ba&title=&width=701)
FaaS scaling and concurrency

这使得 FaaS 的并发模型在某些方面类似于那些老式的 PHP 进程管理器。在这两种情况下： 1). PHP 进程管理器通过并行启动更多进程来实现并发。单个进程一次只能处理一个事件请求。2). FaaS 通过并行启动更多的执行环境容器实例来实现并发， 单个实例一次只能处理一个事件请求。 但使用 PHP 进程管理器那样的进程级别的并发有两个经典难题需要解决：

- 进程之间的安全隔离：您必须在操作系统分配 CPU 时间和系统资源给进程时做出正确的决策。一个进程可能会消耗过多的资源，影响在同一台机器上运行的其他进程的性能。
- 自动扩缩容：以 PHP 应用程序为例，您必须管理每个服务器上的 PHP CGI 进程数量，并且必须对运行这些进程的服务器数量进行手动扩缩容。

FaaS 能很好解决上述两个难题，FaaS 明显有一些现代化的特点, 以函数计算执行环境容器的安全隔离为例[5]:
![image.png](http://www.zzvips.com/uploads/allimg/1686897061617-a833d29b-db1a-4566-94ae-d8217e06ee62.png#clientId=u4611d55e-f58e-4&from=paste&height=192&id=u23be6dc3&originHeight=383&originWidth=1127&originalType=binary&ratio=2&rotation=0&showTitle=false&size=61230&status=done&style=none&taskId=ueffba7b7-8f3d-4ce8-8666-8100edca3fd&title=&width=563.5)
阿里云FC计算节点安全隔离

- 虚拟化级别安全隔离
   - 神龙裸金属计算节点可运行来自不同用户的函数实例，使用阿里云[安全沙箱](http://www.zzvips.com/uploads/allimg/142151.htm
- 函数实例网络访问受限，用户决定网络外访权限
   - 函数实例配置私有IP地址，用户不可直接访问，且实例间网络不可达，网络隔离使用 open vSwitch、iptables 和 routing tables 实现。
- 函数实例资源受限函数CPU/内存设置的配额
- 函数计算负责函数实例沙箱容器的漏洞修复及安全升级

使用 FaaS 这种事件驱动的全托管计算服务，您将自动获得隔离的执行环境实例，FaaS 服务自动管理执行环境实例的数量和容量。您所要做的事情就是提供您的代码到 FaaS 服务，并向 FaaS 服务发送事件以触发该代码执行即可。
![image.png](http://www.zzvips.com/uploads/allimg/1686897091727-6d87551d-aede-426c-acc4-e7fec8b82811.png#clientId=u4611d55e-f58e-4&from=paste&height=367&id=u3b0a1fcd&originHeight=733&originWidth=1326&originalType=binary&ratio=2&rotation=0&showTitle=false&size=713458&status=done&style=none&taskId=uf1ccc8e3-dbda-4d12-9299-fcc84b53cda&title=&width=663)
FaaS 简略概览

从上面对 FaaS 并发扩缩容的讨论中，相信大家很快 get 到单个实例一个并发的能力对 CPU 密集型的逻辑非常友好。而现代的许多工作负载都充满了 I/O 操作，如果我们采用 FaaS 经典的 one concurrent request per instance 模式，会有如下痛点问题：

1. **严重的资源浪费**

![image.png](http://www.zzvips.com/uploads/allimg/1686897148053-b2812fa6-6401-4e24-a1fc-017f086862eb.png#clientId=u4611d55e-f58e-4&from=paste&height=269&id=u9e79a066&originHeight=537&originWidth=1737&originalType=binary&ratio=2&rotation=0&showTitle=false&size=49363&status=done&style=none&taskId=u33ffb1c8-349b-494b-a29e-0a85bd5f647&title=&width=868.5)
IO-intensive workload[11]

蓝色方框表示程序正在工作时的时间，红色方框表示等待 IO 操作完成所花费的时间。由于 IO 请求可能比 CPU 指令花费的时间长几个数量级，因此您的程序可能会花费大部分时间等待， 实例资源浪费严重。并且随着并并发数目的变大，浪费的资源也呈线性增长，如下面红色部分即为浪费的计算资源：
![image.png](http://www.zzvips.com/uploads/allimg/1686897176166-772cd578-b671-42eb-9e28-45e2f3ea61b2.png#clientId=u4611d55e-f58e-4&from=paste&height=195&id=u9ac4338f&originHeight=390&originWidth=1500&originalType=binary&ratio=2&rotation=0&showTitle=false&size=383813&status=done&style=none&taskId=ucdf2741d-7c38-4e39-a7eb-af601585b03&title=&width=750)
FaaS IO-intensive workload

2. **可能会对共享资源造成意想不到的后果**

数据库是一个典型的例子。当使用传统的关系型数据库（如 mysql）时，数据库有一个最大并发连接数。传统常驻型服务器通常使用“数据库连接池”进行优化。“数据库连接池”限制了单个服务器实例对数据库的最大并发连接数，同时允许并发的请求能有效地共享“数据库连接池”的连接。然而，如果每个实例只能处理一个请求并维持与数据库的开放连接，则请求的数量与到数据库的连接数之间存在一对一的关系。结果是在负载高峰期间，数据库可能会因过多连接而打满，并最终拒绝新连接。如果一个数据库实例的最大连接数为 100，使用 FaaS， 示意图如下：
![image.png](http://www.zzvips.com/uploads/allimg/1686897212022-9657d6c4-6f7d-4356-8956-4373e8ae9a47.png#clientId=u4611d55e-f58e-4&from=paste&height=279&id=u47f34c84&originHeight=558&originWidth=1322&originalType=binary&ratio=2&rotation=0&showTitle=false&size=477923&status=done&style=none&taskId=u65345bc6-7acd-4f35-87bc-9776d61d787&title=&width=661)
FaaS with DB

## 单实例多并发
因此，就 FaaS 领域的 one concurrent request per instance 的痛点问题， Google Cloud Run 提供了 multi concurrent requests per instance 的能力[6]，这就很好解决我们上文讨论的单实例单并发扩缩容模型的痛点：
> Google Cloud Run单个实例默认最大并发度(即单个实例的并发请求数上限)为80，最大可调整到1000

1. **IO等待期间不再是资源浪费**

![image.png](http://www.zzvips.com/uploads/allimg/1686897295846-3af50c76-cd5f-4cd2-8916-37591738a05d.png#clientId=u4611d55e-f58e-4&from=paste&height=269&id=ue1bd8799&originHeight=537&originWidth=1197&originalType=binary&ratio=2&rotation=0&showTitle=false&size=53645&status=done&style=none&taskId=uc952c4a6-0240-480f-86ae-6038a6e2ded&title=&width=598.5)
Google Cloud Run IO-Intensive workload

2. **对共享资源造成影响可预期：提高数据库连接吞吐**

![image.png](http://www.zzvips.com/uploads/allimg/1686897314655-ff34c2bf-6a1a-497d-be87-5f78f2b5ecfb.png#clientId=u4611d55e-f58e-4&from=paste&height=207&id=u48a4a37b&originHeight=413&originWidth=1406&originalType=binary&ratio=2&rotation=0&showTitle=false&size=379270&status=done&style=none&taskId=u29007db5-a6a9-4852-95a3-15c33c2bc47&title=&width=703)
Google Cloud Run With DB
如果每个实例配置了数据库连接池大小为 10，那么每个实例可以允许 10 个并行请求到数据库。由于每个实例可能会接收高达 80 个并发请求，“数据库连接池”将在等待数据库连接被释放并返回到池中时，自动阻止传入的请求。通过使用 10 个数据库连接响应 80 个请求，理论上可以在数据库达到其最大连接限制之前将数据库的吞吐量提高 10 倍。

有趣的是， 一些 FaaS 厂商勇敢做出了 multi concurrent requests per instance的尝试， 比如阿里云函数计算[设置实例并发度](https://help.aliyun.com/document_detail/181603.htm) ,  Google Cloud Functions 第2代也开始支持[设置实例并发度](http://www.zzvips.com/uploads/allimg/concurrency IO 密集型工作负载问题。

## 为什么 Serverless 使用并发度进行扩缩容
FaaS 和 Google Cloud Run 采用实例并发度(即实例的并发请求数上限)这个指标进行扩缩容，而不是采用 CPU 指标等 HPA 策略，是因为在Serverless领域，实例并发度是“基于请求处理/事件驱动进行扩缩容”表达最好的一个方式。

- FaaS 和 Google Cloud Run 都有实例缩至为 0 和有请求进来可以拉起一个新实例的能力，在实例 0-1 过程中无法使用 CPU 或内存等指标进行扩容。
- 更好地匹配请求处理：并发度能够更好地匹配实际请求的数量，因此可以更好地利用计算资源，同时确保请求能够快速得到响应。以阿里云函数计算和 K8S 做一个资源匹配请求速度的对比[7]:

![image.png](http://www.zzvips.com/uploads/allimg/1686897418172-c30e421b-705c-44b3-af58-ec74ab3d6d88.png#clientId=u4611d55e-f58e-4&from=paste&height=352&id=u9dcf9f23&originHeight=704&originWidth=1302&originalType=binary&ratio=2&rotation=0&showTitle=false&size=590722&status=done&style=none&taskId=u5b7ed0d9-b753-4813-ab9a-3f059bf38c4&title=&width=651)

- 更好的资源利用率：实例并发度策略可以更好地利用计算资源，可以在请求高峰期间快速扩容，而在请求较少时保持最小的实例数量，从而减少资源浪费。FaaS 和 Google Cloud Run 允许用户运行任何语言的代码，并自动扩展以匹配流量： 并发度总数 = 同时处理请求的实例数量 * 每个实例的最大并发请求数上限

当然，引入的并发度的概念也给习惯了 CPU 指标等扩缩容的开发者带来的新的疑惑， 对于 IO 密集型的应用，基于 CPU 指标的 HPA 扩容策略很简单就可以提高应用程序的可用性、性能和可靠性，并使资源更高效地利用。反而单个实例的最大并发度的合理值怎么去设置是一个比较头疼的问题？ 这个问题，业界通常都是建议您根据自己的负载情况做压测迭代出合适的并发度值。 阿里云函数计算为此做了一个业界最前沿的探索， 提供了自动化推荐能力：[从青铜到王 者，揭秘 Serverless 自动化函数最 佳配置](https://developer.aliyun.com/article/1161868)[8],  并由此展望智能动态并发度：在这种模式下，用户不需要通过手动配置参数，而是在函数运行时动态调整，根据实例 CPU 负载的健康指标自动调整到最 佳值。

## 结论
基于上文对并发度的讨论，对于单实例单并发（云产品代表 FaaS）和 单实例多并发（云产品代表 Google Cloud Run） 这两种形态的 Serverless 产品， 我应该选择哪个产品来托管我的应用程序呢？ 以下是一些情景是我个人会选择哪种产品的建议：
> 但最终还是需要根据您具体的业务需求做取舍，选择最合适的产品和方案。
> 注：FaaS 中的函数计算 FC 和 Google Cloud Functions V2 也支持单实例多并发

| **场景** | **选择** | **理由** |
| --- | --- | --- |
| 定期/事件触发的后台作业 | FaaS | 异步任务，不关心冷启动时的延迟， 典型的事件驱动 |
| 非预期的时间流量波峰和波谷切换 | FaaS | 函数实例将扩容以处理流量激增，并在波峰结束时进行缩减。与burst流量所带来的高延迟相比，冷启动可能会对性能产生较小的影响。 |
| 每个请求必须相互隔离或者 CPU 密集型任务，例如:
- Puppeteer 对 HTML 页面截图
- Word 转 PDF 等文档转换
- 前端领域 SSR 渲染
- 音视频转码、录屏等处理
- 机器学习 AI 推理， AIGC 
- ...
 | 单实例单并发 FaaS | 每个请求隔离特性非常适合将这些潜在的恶意作业彼此隔离开来， 同时每个实例保证了确定的 CPU 和内存的配额。 
- 某个请求执行时间超过函数设置的 timeout 自动被 kill
- 某个请求导致实例的 OOM 不会扩散， 只会影响这个一次请求
- ...
 |
| 可预期流量的 IO 密集型应用 | 单实例多并发云产品 | 避免资源浪费，更好保护下游比如 mysql 数据库 |
| 非 HTTP 协议应用 | 单实例多并发云产品 | FaaS 厂商大多不支持， 或者像阿里云 FC 支持WebScoket 这种非 HTTP 协议， 但是成本不占优势 |

上述表格中的建议是基于阿里云函数计算应用中心[9]中的用户对于应用的偏好部署次数【见下图】以及客户落地案例【见参考12】来佐证的， 尤其对于每个请求必须相互隔离或者 CPU 密集型任务， FaaS 具有无与伦比的优势：

- 对于存量应用，将 CPU 密集型任务从应用中抽离出来，提升服务的稳定性，这个文章 [PDF Generation With AWS Lambda](http://www.zzvips.com/uploads/allimg/pdf-generation-with-aws-lambda-627b8dd07c77)[10] 深入讨论了这种实践的收益。
- 对于新业务 CPU/GPU 密集型应用， 如音视频处理以及最近大火的大模型 AIGC(AI generated content ) 应用， 是 FaaS 天然契合的场景 。
> 在 AI 场景中请求和后端资源的调度比传统的微服务场景的要求会更高，主要原因是 AI 场景的请求对资源的消耗特别大。比如一个 Stable Diffusion 使用 A10 GPU 卡部署，一块 A10 卡(ecs.gn7i-c8g1.2xlarge) 启动 Stable Diffusion 服务一次只能处理个位数的文本绘图请求。一旦同时进来请求过多，就会出现计算资源竞争从而导致请求超时的情况。而 FaaS 的 "one concurrent request per instance" 天然契合这个场景， 简直就是绝配。

![image.png](http://www.zzvips.com/uploads/allimg/1686897495260-04127d51-78a0-4b95-80aa-1f369ba98d1a.png#clientId=u4611d55e-f58e-4&from=paste&height=182&id=u938bf0d3&originHeight=363&originWidth=1448&originalType=binary&ratio=2&rotation=0&showTitle=false&size=402460&status=done&style=none&taskId=ue9699de9-44cd-4ef8-9421-10867dca095&title=&width=724)
函数计算FC应用中心文件处理应用部署情况图
![image.png](http://www.zzvips.com/uploads/allimg/1686897515597-2e8fe31f-f376-4a08-ae75-84bf6fecb6b7.png#clientId=u4611d55e-f58e-4&from=paste&height=96&id=u1d4d189c&originHeight=191&originWidth=1472&originalType=binary&ratio=2&rotation=0&showTitle=false&size=224629&status=done&style=none&taskId=u2c9c6c0d-3677-42bf-a6d2-d1463a53be2&title=&width=736)
函数计算 FC 应用中心音视频处理应用部署情况图
![image.png](http://www.zzvips.com/uploads/allimg/1686897529223-55a2d765-1693-437a-a133-a884660dc67e.png#clientId=u4611d55e-f58e-4&from=paste&height=95&id=u2ad564dc&originHeight=190&originWidth=1464&originalType=binary&ratio=2&rotation=0&showTitle=false&size=209792&status=done&style=none&taskId=ua036f7f3-4ead-4878-9228-e9fb96ce02f&title=&width=732)
函数计算FC应用中心AI应用部署情况图

## 参考

1. [https://www2.eecs.berkeley.edu/Pubs/TechRpts/2019/EECS-2019-3.pdf](https://www2.eecs.berkeley.edu/Pubs/TechRpts/2019/EECS-2019-3.pdf)
2. [https://glossary.cncf.io/serverless/](https://glossary.cncf.io/serverless/)
3. [https://docs.aws.amazon.com/lambda/latest/operatorguide/scaling-concurrency.html](https://docs.aws.amazon.com/lambda/latest/operatorguide/scaling-concurrency.html)
4. [https://nathanpeck.com/concurrency-compared-lambda-fargate-app-runner/files/Concurrency%20Compared.pptx](https://nathanpeck.com/concurrency-compared-lambda-fargate-app-runner/files/Concurrency%20Compared.pptx)
5. [http://www.zzvips.com/uploads/allimg/error.html
6. [http://www.zzvips.com/uploads/allimg/about-concurrency
7. [https://developer.aliyun.com/article/1243681](https://developer.aliyun.com/article/1243681)
8. [https://developer.aliyun.com/article/1161868](https://developer.aliyun.com/article/1161868)
9. [http://www.zzvips.com/uploads/allimg/error.html
10. [https://medium.com/1mgofficial/pdf-generation-with-aws-lambda-627b8dd07c77](https://medium.com/1mgofficial/pdf-generation-with-aws-lambda-627b8dd07c77)
11. [https://realpython.com/python-concurrency/](https://realpython.com/python-concurrency/)
12. 基于函数计算应用中心落地案例参考
   1. [网易云音乐音视频算法的 Serverless 探索之路](http://www.zzvips.com/uploads/allimg/error
   2. [聚焦弹性问题，杭州铭师堂的 Serverless 之路](http://www.zzvips.com/uploads/allimg/error
   3. [优化 20% 资源成本，新东方的 Serverless 实践之路](http://www.zzvips.com/uploads/allimg/error
   4. [当 Rokid 遇上函数计算](http://www.zzvips.com/uploads/allimg/bo43lSLIIOsO7WI7EPHqdQ)
   5. 多家游戏公司 apk 实时打渠道包 [repackAPK](https://github.com/devsapp/repackAPK/tree/main/src)
   6. ...

# 免费报名 Serverless 技术实战营
![7月8日serverless 活动  活动行1080-640.png](http://www.zzvips.com/uploads/allimg/1688096162572-e153520e-8db0-4cf8-9a8c-d5742129fdca.png#clientId=u095a33aa-bf65-4&from=ui&id=uaf0f982d&originHeight=640&originWidth=1080&originalType=binary&ratio=2&rotation=0&showTitle=false&size=549738&status=done&style=none&taskId=ubbd4c0de-7e2e-4fc2-bd4e-b62710e6b98&title=)

? 报名地址：

[http://www.zzvips.com/uploads/allimg/
			</div>
		    <div class="nrwz">
			<script>dy("nrwz");</script>
			</div>
			<div class="pageinfo">
				 
			</div>
		</div>
		<div class="article-actions">
			<div class="tags fl">
				<i class="icon-tag"></i> 
			</div>
			<div class="operation fr">
				<span class="custom-share"><span class="bdsharebuttonbox"><a href="#" class="bds_tsina" data-cmd="tsina" title="分享到新浪微博"></a><a href="#" class="bds_weixin" data-cmd="weixin" title="分享到微信"></a><a href="#" class="bds_sqq" data-cmd="sqq" title="分享给QQ好友"></a><a href="#" class="bds_qzone" data-cmd="qzone" title="分享到QQ空间"></a></span></span>
			</div>
		</div>
		<div class="article-about special_tag_wrap">
			<div class="special-tag">
				<h2 class="special-tag-tit clearfix">延伸 · 阅读</h2>
			</div>
			<ul class="about-txtul">
				 <li><i>2023-07-05</i><a href="/news/248131.html" title="卫星高清地图，带您深入科考探险之旅" target="_blank">卫星高清地图，带您深入科考探险之旅</a></li>
<li><i>2023-07-05</i><a href="/news/248104.html" title="干货 | 成本低误差小，携程基于 Kafka 的 Serverless 延迟队列的实践                 " target="_blank">干货 | 成本低误差小，携程基于 Kafka 的 Serverle</a></li>
<li><i>2023-06-30</i><a href="/article/247276.html" title="深入理解Shiro反序列化原理" target="_blank">深入理解Shiro反序列化原理</a></li>
<li><i>2023-06-30</i><a href="/article/247238.html" title="深入理解Shiro反序列化原理" target="_blank">深入理解Shiro反序列化原理</a></li>
<li><i>2023-06-27</i><a href="/article/246662.html" title="《公鸡神探：鲜血染红！》续作《公鸡神探：深入虫巢！》公布" target="_blank">《公鸡神探：鲜血染红！》续作《公鸡神探：深</a></li>
<li><i>2023-06-19</i><a href="/article/245393.html" title="【Java学习】 Spring的基础理解 IOC、AOP以及事务" target="_blank">【Java学习】 Spring的基础理解 IOC、AOP以及事务</a></li>

</ul>
		</div>
		<div class="clearfix">
		</div>
		<div class="share-area">
			<div class="nr2">
				<script>dy("nr2");</script>
			</div>
		</div>
		<div class="comment-tit comment-title">
			<div class='hd'>
				精彩推荐
			</div>
		</div>
		<div class="detail clearfix">
			<ul class="clearfix">
				<div class="nr3">
					<script>dy("nr3");</script>
				</div>
				 <li class="clearfix"><a href="/news/236809.html" class="detail-img"><span>云计算</span><img src="/images/defaultpic.gif" alt="从K8s到FaaS,在哈啰AI平台的落地实践                 " title="从K8s到FaaS,在哈啰AI平台的落地实践                 "/></a>
				<div class="detail-info">
					<h3><a href="/news/236809.html">从K8s到FaaS,在哈啰AI平台的落地实践                 </a></h3>
					<p>
						 为什么哈啰AI平台需要Faas Al平台当前的痛点 一是运维复杂问题，AI平台有多种不同语言的模型推理服务， 如python、C++(tf-serving)、Java等，各自管理上百个不...
					</p>
					<div class="detail-icon">
						<span class="fl comment">未知</span><span class="view fr">78</span><span class="time fr">2023-05-06</span>
					</div>
				</div>
				</li>
<li class="clearfix"><a href="/news/127573.html" class="detail-img"><span>云计算</span><img src="/uploads/allimg/201229/231435O29-0-lp.jpg" alt="5G如何使云计算更加前卫" title="5G如何使云计算更加前卫"/></a>
				<div class="detail-info">
					<h3><a href="/news/127573.html">5G如何使云计算更加前卫</a></h3>
					<p>
						 在2020年突出其来的疫情改变了人们的工作和生活，很多组织的员工不得不在家远程工作。由于发生这种变化，网络流量已从城市商业区转移到家庭环境。随...
					</p>
					<div class="detail-icon">
						<span class="fl comment">企业网D1Net</span><span class="view fr">1194</span><span class="time fr">2020-12-29</span>
					</div>
				</div>
				</li>
<li class="clearfix"><a href="/news/198192.html" class="detail-img"><span>云计算</span><img src="/uploads/allimg/211018/210031O41-0-lp.jpg" alt="物联网将取代云计算成为主要的工业 4.0 技术" title="物联网将取代云计算成为主要的工业 4.0 技术"/></a>
				<div class="detail-info">
					<h3><a href="/news/198192.html">物联网将取代云计算成为主要的工业 4.0 技术</a></h3>
					<p>
						 物联网几乎不能再被视为“新兴技术”了。2017 年至 2020 年间，物联网投资平均占组织 IT 预算的 7%。在接下来的三年里，企业希望将他们的物联网预算增加...
					</p>
					<div class="detail-icon">
						<span class="fl comment">物联之家网</span><span class="view fr">1192</span><span class="time fr">2021-10-18</span>
					</div>
				</div>
				</li>
<li class="clearfix"><a href="/news/179830.html" class="detail-img"><span>云计算</span><img src="/uploads/allimg/210729/2231155T1-0-lp.png" alt="云计算供应商在合同谈判时可能拒绝的三个事项以及要求" title="云计算供应商在合同谈判时可能拒绝的三个事项以及要求"/></a>
				<div class="detail-info">
					<h3><a href="/news/179830.html">云计算供应商在合同谈判时可能拒绝的三个事项以及要求</a></h3>
					<p>
						 当企业为采用云计算服务的合同谈判做好准备时，除了确保他们获得适当的定价之外，需要确保他们向云计算供应商要求的所有条款和条件得到认同并写入...
					</p>
					<div class="detail-icon">
						<span class="fl comment">企业网D1Net</span><span class="view fr">491</span><span class="time fr">2021-07-29</span>
					</div>
				</div>
				</li>
<li class="clearfix"><a href="/news/115600.html" class="detail-img"><span>云计算</span><img src="/uploads/allimg/201116/2136031520-0-lp.jpg" alt="什么是边缘计算和边缘人工智能？" title="什么是边缘计算和边缘人工智能？"/></a>
				<div class="detail-info">
					<h3><a href="/news/115600.html">什么是边缘计算和边缘人工智能？</a></h3>
					<p>
						 本文将简单介绍什么是边缘计算，并讨论为什么比边缘计算如此重要，并将部分云计算的处理替换为边缘计算。同时也概要介绍边缘人工智能。...
					</p>
					<div class="detail-icon">
						<span class="fl comment">今日头条</span><span class="view fr">606</span><span class="time fr">2020-11-16</span>
					</div>
				</div>
				</li>
<li class="clearfix"><a href="/news/236806.html" class="detail-img"><span>云计算</span><img src="/images/defaultpic.gif" alt="私有SaaS到来：你准备好了吗？                 " title="私有SaaS到来：你准备好了吗？                 "/></a>
				<div class="detail-info">
					<h3><a href="/news/236806.html">私有SaaS到来：你准备好了吗？                 </a></h3>
					<p>
						 在过去的20年里，公共云架构改变了软件部署的流程和方法，为客户访问软件带来了巨大的便利和效率。然而，仍有政府和商业客户出于各种原因，只能接...
					</p>
					<div class="detail-icon">
						<span class="fl comment">未知</span><span class="view fr">86</span><span class="time fr">2023-05-06</span>
					</div>
				</div>
				</li>
<li class="clearfix"><a href="/news/226500.html" class="detail-img"><span>云计算</span><img src="/uploads/allimg/220223/215611FF-0-lp.jpg" alt="破茧而出，边缘计算继云计算后成为计算的第四个浪潮" title="破茧而出，边缘计算继云计算后成为计算的第四个浪潮"/></a>
				<div class="detail-info">
					<h3><a href="/news/226500.html">破茧而出，边缘计算继云计算后成为计算的第四个浪潮</a></h3>
					<p>
						 边缘计算被称为“人工智能的最后一公里”，所具有节省带宽、减少延迟、增强安全性和隐私性等优势，正在带动一个万亿级的市场机会。...
					</p>
					<div class="detail-icon">
						<span class="fl comment">海比研究院</span><span class="view fr">752</span><span class="time fr">2022-02-23</span>
					</div>
				</div>
				</li>
<li class="clearfix"><a href="/news/130393.html" class="detail-img"><span>云计算</span><img src="/uploads/allimg/210108/22321S137-0-lp.jpg" alt="2021年有哪些云计算技术会成为主流？" title="2021年有哪些云计算技术会成为主流？"/></a>
				<div class="detail-info">
					<h3><a href="/news/130393.html">2021年有哪些云计算技术会成为主流？</a></h3>
					<p>
						 在这个不确定的时期，云计算技术已经通过为全球企业提供急需的弹性和敏捷性来支持业务的正常运行。那么，在2021年将有哪些新兴的云技术和服务将占据...
					</p>
					<div class="detail-icon">
						<span class="fl comment">比特网</span><span class="view fr">1077</span><span class="time fr">2021-01-08</span>
					</div>
				</div>
				</li>

</ul>
		</div>
	</div>
	 <div class="sidebar fr"><div class="adr"><script>dy("r1")</script></div><div class="r-box clearfix"><div class="r-title"><span>最近更新</span></div><div class="r-content"><ul class="pc-list"><li><a href="/news/248295.html" target="_blank">深入理解 Serverless 计算的并发度              </a></li>
<li><a href="/news/248294.html" target="_blank">云原生架构下实践与落地DevOps的方法        </a></li>
<li><a href="/news/248109.html" target="_blank">【AI 充电】揭秘大语言模型实践：分布式推理</a></li>
<li><a href="/news/248108.html" target="_blank">DeepSpeed + Kubernetes 如何轻松落地大规模分布式</a></li>
<li><a href="/news/248107.html" target="_blank">边缘云特点、应用实践和发展趋势浅析     </a></li>
</ul></div></div><div class="adr"><script>dy("rn3")</script></div><div class="r-box clearfix"><div class="r-title"><span>编辑推荐</span></div><div class="r-content"><ul class="hot-news"><li class="first-img"><div class="hot-img"><a href="/news/214773.html" target="_blank"><img src="/uploads/allimg/210519/2321401532-0-lp.jpg" width="320" alt="美国和欧洲 vps哪个好？美国和欧洲vps详细对比" title="美国和欧洲 vps哪个好？美国和欧洲vps详细对比"><div class="img-tit"><i>美国和欧洲 vps哪个好？美国和欧洲vps详细对比</i></div></a></div></li>
 <li class="second-list clearfix"><a href="/article/87295.html" target="_blank" class="common-img"><i>2</i><img src="/uploads/200722/1-200H2004430C6.png" width="120" alt="云服务器是什么，云主机干什么用的？" title="云服务器是什么，云主机干什么用的？"></a><div class="hot-list-info"><h4><a href="/article/87295.html" target="_blank">云服务器是什么，云主机干什么用的？</a></h4><span class="hot-data">2020-07-22</span></div></li>
 <li class="clearfix"><a href="/news/67000.html" target="_blank" class="common-img"><i>3</i><img src="/uploads/allimg/200517/232S552G-0-lp.jpg" width="120" alt="2020最新好用的web服务器软件推荐"></a><div class="hot-list-info"><h4><a href="/news/67000.html" target="_blank">2020最新好用的web服务器软件推荐</a></h4><span class="hot-data">2020-05-17</span></div></li>
<li class="clearfix"><a href="/article/55563.html" target="_blank" class="common-img"><i>4</i><img src="/uploads/allimg/200406/192R93K4-0-lp.png" width="120" alt="服务器操作系统有哪些?"></a><div class="hot-list-info"><h4><a href="/article/55563.html" target="_blank">服务器操作系统有哪些?</a></h4><span class="hot-data">2020-04-06</span></div></li>
<li class="clearfix"><a href="/article/55555.html" target="_blank" class="common-img"><i>5</i><img src="/uploads/allimg/200406/1P11623a-0-lp.jpg" width="120" alt="web服务器配置（图文详解）"></a><div class="hot-list-info"><h4><a href="/article/55555.html" target="_blank">web服务器配置（图文详解）</a></h4><span class="hot-data">2020-04-06</span></div></li>
<li class="clearfix"><a href="/article/13179.html" target="_blank" class="common-img"><i>6</i><img src="/uploads/allimg/190916/1-1Z916211611634-lp.jpg" width="120" alt="企业如何选择阿里云服务器配置?"></a><div class="hot-list-info"><h4><a href="/article/13179.html" target="_blank">企业如何选择阿里云服务器配置?</a></h4><span class="hot-data">2019-10-18</span></div></li>
<li class="clearfix"><a href="/article/2460.html" target="_blank" class="common-img"><i>7</i><img src="/uploads/allimg/190614/1-1Z614212505362.jpg" width="120" alt="五大免费主机管理系统优缺点对比及推荐"></a><div class="hot-list-info"><h4><a href="/article/2460.html" target="_blank">五大免费主机管理系统优缺点对比及推荐</a></h4><span class="hot-data">2019-06-14</span></div></li>
<li class="clearfix"><a href="/article/607.html" target="_blank" class="common-img"><i>8</i><img src="/uploads/allimg/190528/10214645S-0-lp.jpg" width="120" alt="2019最新三款Windows下连接Linux的ssh软件下载推荐"></a><div class="hot-list-info"><h4><a href="/article/607.html" target="_blank">2019最新三款Windows下连接Linux的ssh软件下载推荐</a></h4><span class="hot-data">2019-05-28</span></div></li>
<li class="clearfix"><a href="/news/588.html" target="_blank" class="common-img"><i>9</i><img src="/uploads/allimg/190527/1-1Z52H02UI38.jpg" width="120" alt="服务器常用管理软件盘点"></a><div class="hot-list-info"><h4><a href="/news/588.html" target="_blank">服务器常用管理软件盘点</a></h4><span class="hot-data">2019-05-27</span></div></li>
<li class="clearfix"><a href="/article/455.html" target="_blank" class="common-img"><i>10</i><img src="/uploads/allimg/190524/1_0524223Sb4Z.jpeg" width="120" alt="Nginx服务器究竟是怎么执行PHP项目"></a><div class="hot-list-info"><h4><a href="/article/455.html" target="_blank">Nginx服务器究竟是怎么执行PHP项目</a></h4><span class="hot-data">2019-05-24</span></div></li>
</ul></div></div><div class="adr"><script>dy("rn4")</script></div><div class="r-box clearfix"><div class="r-title"><span>阅读排行</span></div><div class="hotpage-con" style="display:block"><ul><li><span class="num">1</span> <a href="/news/2582.html" target="_blank">常常提到的saas是什么意思?通俗点的解释</a></li>
<li><span class="num">2</span> <a href="/news/21444.html" target="_blank">什么是多云？如何通俗地解释多云</a></li>
<li><span class="num">3</span> <a href="/news/2585.html" target="_blank">云计算的特征是什么?云计算的定义及主要特</a></li>
 <li><span>4</span> <a href="/news/20031.html" target="_blank">云计算一般薪资多少 云计算专业工作工资多</a></li>
<li><span>5</span> <a href="/news/1738.html" target="_blank">云计算适合什么人学?云计算适合女生学吗?</a></li>
<li><span>6</span> <a href="/news/1720.html" target="_blank">云计算是什么？云服务运营商提供哪些服务？</a></li>
<li><span>7</span> <a href="/news/71260.html" target="_blank">2020年Gartner全球MSP魔力象限</a></li>
<li><span>8</span> <a href="/news/221310.html" target="_blank">Podman是什么？和Docker有啥区别？</a></li>
<li><span>9</span> <a href="/news/2267.html" target="_blank">华为云计算是什么?华为云的商业模式是怎样</a></li>
<li><span>10</span> <a href="/news/80172.html" target="_blank">什么是边缘计算？三分钟看懂</a></li>
</ul></div></div><div class="adr"><script>dy("rn5")</script></div><div class="r-box clearfix"><div class="r-title"><span>热门标签</span></div><div class="r-content2"><div class="inner_con"> <a target="_blank" href="/tags/72106/">数字架构</a> 　  <a target="_blank" href="/tags/2310/">学习路线</a> 　  <a target="_blank" href="/tags/2311/">云计算概念</a> 　  <a target="_blank" href="/tags/2312/">优势</a> 　  <a target="_blank" href="/tags/2313/">发展历程</a> 　  <a target="_blank" href="/tags/2314/">PaaS</a> 　  <a target="_blank" href="/tags/2315/">云计算开发</a> 　  <a target="_blank" href="/tags/2388/">欧盟</a> 　  <a target="_blank" href="/tags/2389/">超算中心</a> 　  <a target="_blank" href="/tags/2659/">云游戏服务</a> 　  <a target="_blank" href="/tags/2673/">云计算应用</a> 　  <a target="_blank" href="/tags/2674/">云计算发展趋势</a> 　  <a target="_blank" href="/tags/2785/">云端</a> 　  <a target="_blank" href="/tags/2905/">特征</a> 　  <a target="_blank" href="/tags/2309/">IaaS</a> 　  <a target="_blank" href="/tags/2308/">云计算概念股</a> 　  <a target="_blank" href="/tags/2307/">云计算前景</a> 　  <a target="_blank" href="/tags/1821/">企业数字化</a> 　  <a target="_blank" href="/tags/1822/">电商云</a> 　  <a target="_blank" href="/tags/1856/">企业</a> 　  <a target="_blank" href="/tags/1857/">DRS</a> 　  <a target="_blank" href="/tags/1962/">深圳云计算</a> 　  <a target="_blank" href="/tags/2295/">云计算是什么意思</a> 　  <a target="_blank" href="/tags/2296/">什么叫云计算</a> 　  <a target="_blank" href="/tags/2301/">什么是云计算</a> 　  <a target="_blank" href="/tags/2302/">云计算是什么</a> 　  <a target="_blank" href="/tags/2303/">云服务运营商</a> 　  <a target="_blank" href="/tags/2304/">云计算行业</a> 　  <a target="_blank" href="/tags/2305/">发展趋势</a> 　  <a target="_blank" href="/tags/2306/">智能化</a> 　 </div></div></div><div class="fixed"><script>dy("r2")</script></div></div>
</div>
<div class='mb50'>
</div>
 <div class="footer"><div class="container"><span class="fl footer-info">© 2019-2023 服务器之家(www.zzvips.com) 版权所有</span><span class="fr footer-list"><a rel="nofollow" href="//www.zzvips.com/about/">关于我们</a><a rel="nofollow" href="//www.zzvips.com/about/contactus.html">联系我们</a><a rel="nofollow" href="//www.zzvips.com/about/copyright.html">版权申明</a><a rel="nofollow" href="//www.zzvips.com/sitemap.xml">网站地图</a></span><div style="display:none"><script>dy("foot");</script></div></div></div>
<script type="text/javascript">$(document).ready(function(e){t=$('.fixed').offset().top;mh=$('.main').height();fh=$('.fixed').height();$(window).scroll(function(e){s=$(document).scrollTop();if(s>t-10){$('.fixed').css('position','fixed');if(s+fh>mh){$('.fixed').css('top',mh-s-fh+'px')}}else{$('.fixed').css('position','')}})});window._bd_share_config={"common":{"bdSnsKey":{},"bdText":"","bdMini":"1","bdMiniList":false,"bdPic":"","bdStyle":"1","bdSize":"16"},"share":{}};with(document)0[(getElementsByTagName('head')[0]||body).appendChild(createElement('script')).src='//bdimg.share.baidu.com/static/api/js/share.js?v=89860593.js?cdnversion='+~(-new Date()/36e5)];</script><div style="display:none"><script src="/p/c.php?view=yes&aid=248295&mid=2" language="javascript"></script></div><script language="javascript" type="text/javascript" src="/include/ckeditor/plugins/syntaxhighlight/code.js" ></script>
<link type="text/css" rel="stylesheet" href="/include/ckeditor/plugins/syntaxhighlight/styles/shCore.css"/>
<link type="text/css" rel="stylesheet" href="/include/ckeditor/plugins/syntaxhighlight/styles/shThemeDefault.css"/>
</body>
</html>