函数计算 GB 镜像秒级启动：下一代软硬件架构协同优化

作者：修踪
审核&校对：Chang Shuai、望宸
编辑&排版：雯燕

背景

函数计算在 2020 年 8 月创新地提供了容器镜像的函数部署方式。AWS Lambda 在 2020 年 12 月 Re-Invent，国内其他 FaaS 提供商在 2021 年 6 月也相继宣布了 FaaS 支持容器的重磅功能。冷启动一直都是 FaaS 的痛点，引入比代码压缩包大几十倍的容器镜像后冷启动恶化便成为开发者最大的担忧。

函数计算在支持容器镜像的设计阶段就决定要让开发者像使用代码包（秒级弹性能力）一样的体验使用镜像，既要易用性也要保持 FaaS 自身的极致弹性，免除用户的纠结和取舍。理想的用户体验是函数调用几乎感觉不到镜像数据远程传输带来的延迟额外消耗。

优化镜像加速冷启动大致分为两种做法：降低绝对延迟和降低冷启动概率。自容器镜像上线以来我们已经通过镜像加速技术，分阶段降低了绝对延迟。本文在此基础上，介绍借助函数计算下一代 IaaS 底座神龙裸金属和安全容器，进一步降低绝对延迟且能够大幅降低冷启动频率。

优化历程

（以某一镜像为例）

第一代架构：ECS 虚构机

第一阶段（2021 年 3 月）：按需加载，减少数据传输

过去的问题在于启动镜像前全量拉取镜像内部数据，导致无用的镜像数据也会被完整下载而占用了过多的准备时间。于是我们最初的优化方向是尽量忽略无用的镜像数据，达到按需加载。为此，我们通过镜像加速技术，省略掉了拉取无用数据的时间，实现了函数计算自定义镜像冷启动从分钟级到秒级提升的相关技术细节。

第二阶段（2021 年 6 月）：记录容器实例启动 I/O 轨迹，在后续实例启动中提前预取镜像数据

我们发现，函数实例在容器启动和初始化阶段，I/O 数据访问模式高度一致。根据 FaaS 平台基于应用运行模式调度资源的特点，我们在函数实例首次启动时记录了 I/O 轨迹的脱敏数据，在后续的实例启动时，将轨迹数据作为提示，提前预取镜像数据到本地，进一步减小了冷启动延时。

上述两种加速优化虽然大幅减小了冷启动绝对延迟，但由于传统 ECS VM 在闲置一段时间后就会被回收，再次启动新机器时就会重新触发冷启动。于是，如何减少冷启动频次便成为了下一阶段重点攻克的题目之一。

下一代架构：弹性裸金属服务器(神龙)+microVM

在设计下一代架构时我们不仅考虑解决冷启动频次问题，也同样注意到缓存对于启动时延的影响。于是我们创新性的发明了 Serverless Caching，根据不同的存储服务特点构建数据驱动、智能高效的缓存体系，实现软硬件协同优化，将 Custom Container 体验进一步提升。函数计算后台神龙的更迭时间远大于 ECS VM 的闲置回收时间，对于用户侧而言，热启动频率大幅提升，在冷启动后，缓存会持续保留在神龙机器上，缓存命中率可达 90% 以上。

对比 ECS 虚拟机，神龙裸金属加上微型虚拟机的架构为镜像加速带来了更多的优化空间：

减小回源带宽压力并且减少重复数据存储。比起 ECS VM 来，同时几千实例启动，对于镜像仓库的读放大和磁盘存储空间的写放大降低至少两个数量级。
虚拟机级别的安全隔离使得函数计算组件可以安全地组成可用区级别缓存网络，速度传输速度甚至优于云盘。

函数计算 Custom Container 登陆神龙的同时也提高了资源利用率，降低成本，这对用户和服务端维护是双赢。

Serverless Caching 的架构则可以在不增加资源使用成本的同时提供更多的优化潜力。

(L1~L4 为不同级别缓存，距离和延迟从小到大）

横向对比

到目前为止，我们已经将镜像加速优化到了较高的水准。我们在函数计算的公开用例里面挑选了 4 个典型的镜像并将它们适配至国内外几个大型云厂商（名称以厂商 A、厂商 B 代替）进行横向对比，每间隔 3 小时调用上述镜像，重复数次，我们得到了以下结果：

1、AI 在线推理-猫狗识别

该镜像包含了基于 TensorFlow 深度学习框架的图像识别应用。阿里云函数计算和厂商 A 都能正常运行，但厂商 A 性能较差。厂商 B 则无法正常运行。下图中阿里云函数计算和厂商 A 的延时数据包含镜像拉取，容器启动，执行推理运算端对端的延时，而厂商 B 的数据只是拉取镜像部分的延时，都已经是最慢。FC 相对稳定，可以看出函数计算在 CPU 消耗型如 AI 推理方面有着更大优势。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-I7a6864E-1637584327234)(https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/3be17fa89dfa4b668d5580d27ad3b4d0~tplv-k3u1fbpfcp-zoom-1.image “图片”)]以云盘热启动为基准（灰色），对比各个厂商的额外开销（彩色）

2、Python Flask Web Service

此镜像为常见的网络服务，内部使用 Python 搭配 Flask 服务框架。此镜像的作用旨在测试不同云产品是否有能力完成高效按需加载。FC 与厂商 A 均有波动但后者的波动最为明显。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-UlL7s1FH-1637584327236)(https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/68cb5a1368194aa6b757d6263717b93b~tplv-k3u1fbpfcp-zoom-1.image “图片”)]以云盘热启动为基准（灰色），对比各个厂商的额外开销（彩色）

3、Python 机器学习运算

镜像内同样是 Python 运行环境，可以看出各个厂商依旧保持着各自的特性，厂商 B 全量下载，厂商 A 部分请求有优化但不稳定。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-B6tzS9rC-1637584327237)(https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/0defcf9ddf734896877df4c64d5633fe~tplv-k3u1fbpfcp-zoom-1.image “图片”)]以云盘热启动为基准（灰色），对比各个厂商的额外开销（彩色）

4、Cypress Headless Chrome

此镜像包含无头浏览器测试流程，厂商 A 由于编程模型限制和运行环境不兼容无法运行。而厂商 B 过慢只能在规定时间内耗时 71.1 秒完成应用初始化。不难看出函数计算在重 I/O 的镜像方面依然有着不错的表现。

以云盘热启动为基准（灰色），对比各个厂商的额外开销（彩色），绿色部位为优于基准线的端到端耗时04

未来规划

优化函数计算自定义镜像的初衷就是要让用户感受不到容器镜像传输带来的额外延迟，给云原生开发者最极致的体验。优化不会停止，我们最终的目标是几乎消除容器镜像拉取的额外开销和大量扩容时镜像仓库成为瓶颈，极速伸缩。进一步完善 Serverless Caching 的同时 Custom Container 功能未来会帮助 Kubernetes 上的 Web 应用, Job 类工作负载无缝运行在函数计算。Kubernetes 负责处理常驻、流量稳定的工作负载，Serverless 服务分担波动明显的计算将逐渐成为云原生的最佳实践。

1）函数计算公开用例

https://github.com/awesome-fc

2）社区官网

http://www.serverless-devs.com/

3）项目仓库

https://github.com/Serverless-Devs/Serverless-Devs

4）Serverless Desktop 桌面客户端

https://serverlessdevs.resume.net.cn/zh-cn/desktop/index.html

5）Serverless 应用开发者套件

http://serverless-dk.oss.devsapp.net/docs/tutorial-dk/intro/react

6）Serverless Devs CLI

https://serverlessdevs.resume.net.cn/zh-cn/cli/index.html

7）Serverless Hub 应用中心

https://serverlesshub.resume.net.cn/#/hubs/special-view

戳此处了解更多函数计算详情！