![](\"https://img.serverlesscloud.cn/qianyi/YHl6UWa9s63r2BLdpwTIQczicVVqcq92ZXRUnPBktWUrbgia0dQiagh3rT6SBI1rkdSsrCicU7o1ibAJYy8J6QqjNPw.jpg\")
随着当下Serverless、FaaS生态的不断发展以及小程序的空前繁荣，越来越多的企业和个人用户把自己的应用，小程序部署到腾讯云无服务器云函数平台上，但随之而来的FaaS场景下高并发、大规模、快速启动等需求也给我们带来了巨大的挑战。为此我们打造了新一代Severless函数计算平台，在安全、可用性、性能上进行了全面升级。
\n新平台使用腾讯云自研的轻量级虚拟化技术，MicroVm启动时间缩短至90毫秒，函数冷启动减低至200毫秒，并且支持上万台计算节点同时扩容。同时在函数与VPC网络打通中，依托于新的隧道方案，时间也由原来的秒级降低至毫秒级。
\n注：文章整理自腾讯云专家工程师周维跃及腾讯云高级工程师李艳博在Kubecon 2019上的分享，原分享主题为《加速：无服务器平台中的冷启动优化》，本篇文章主要分享云函数冷启动优化实践。
\n
文章内容主要分为三部分，首先介绍腾讯云函数的架构设计，其次看看函数的冷启动是如何产生的，以及冷启动包含哪些过程，最后分享腾讯云函数的一些优化方向方法。
\n腾讯云函数架构设计
\n![](\"https://img.serverlesscloud.cn/qianyi/YHl6UWa9s63r2BLdpwTIQczicVVqcq92Z1m8PvghbqDQXsV5iaPMTyn2Snh5jGXYEWcSe72QNx4etuaQK2x2PJTw.jpg\")
图一：腾讯云函数服务场景
\n腾讯云函数SCF目前提供传统的事件触发器函数、HTTP调用函数以及HTTP web服务三种业务场景的支持，支撑着海量的微信小程序的运行、公有云快速增长的业务、以及腾讯自身的业务上云运行。微信小程序开发者从传统的主机，容器部署后段业务迁移到函数计算，在一个IDE开发环境中完成前后端业务的部署，极大的提高了小程序的研发效率。
\n因此我们也面临了非常多的挑战，比如多业务场景多租户的安全隔离，高并发的函数实例扩缩容，百万级别函数实例的集群管理，以及几十毫秒级别的冷启动延时，对于一些活跃函数的使用需要通过调度的能力解决冷启动的问题。
\n![](\"https://img.serverlesscloud.cn/qianyi/YHl6UWa9s63r2BLdpwTIQczicVVqcq92ZWodFiblHsn09n2Uic4MyDx21mjxGe3ssOJiaLZ3kzvWD3C0ibw0mHuGMEQ.jpg\")
图二：腾讯云函数架构
\n基于以上的一些需求和挑战，我们在控制流和数据流的模块、虚拟化层、网络层、调度层都做了彻底的重构优化，
\n1、控制流、数据流模块按照职责重新梳理解耦
\n如上图所示，蓝色的是控制流部分，对函数的生命周期进行管理，API层提供管理的接口，元数据记录数据库后，下发一份到消息系统，通过消息队列解耦后续的管理模块。比如创建函数的场景，网络部署模块接收到消息后，负责打通函数访问VPC资源的转发路径。
\n函数代码管理模块负责进行代码的检查，依赖安装，重新打包到代码仓库以便后续下载部署。调度模块可以做一些资源预创建，实例预部署的工作，元数据模块负责将管理流的数据同步到数据流的缓存系统，以便后续函数调用时使用。
\n这样API不需要关注函数管理的底层细节，控制流和数据流也不会干扰。
\n2、计算层实现了轻量级虚拟化的方案
\n函数实例节点从传统的虚拟机切换到轻量级虚拟机系统，提高虚拟机的并发部署的规模和速度，同时也实现多租户间的安全隔离，后面会详细介绍。
\n3、Auto scale自动扩缩容模块
\n基于函数请求实时计算的模式，动态的扩缩函数实例，优化函数冷启动的体验问题，以及控制函数计算平台本身的成本
\n4、VPC网络转发代理
\n函数通常需要访问VPC网络内的存储资源或者访问公网，涉及到网络路径的打通，目前普遍的方式是通过绑定弹性网卡和部署NAT网关达到这个目的，在函数实例部署的过程中耗时占比很大，后面李艳博同事会详细介绍腾讯云函数如何优化这个问题。
\n函数冷启动优化实践
\n介绍了腾讯云函数的架构之后，接下来详细看下云函数冷启动相关的问题和优化思路。
\n函数冷启动就是指函数第一次调用时平台部署函数实例的过程。不单止函数计算，也许万事都有冷启动。比如TCP通信之前的三次握手，HTTPS访问的初始安全验证过程等等。
\n那为什么函数的冷启动在函数计算这里受到了大家的普遍关注，函数计算平台也在不断优化这个问题呢？
\n主要有2个原因：
\n![](\"https://img.serverlesscloud.cn/qianyi/YHl6UWa9s63r2BLdpwTIQczicVVqcq92Zu6gwsUNcNS9psyicKsPnn8Z3J5qGN82z5uD2EB9ficlc41iaichy1Ez0Fg.jpg\")
图三：函数冷启动的过程
\n从流程图可以看出函数冷启动包含了哪些过程。黄色的路径是函数实例已经存在的热调用情况，复用了函数实例，热调用的延时是毫秒的级别。如果没有可服用的实例就会走到右边蓝色部分的冷启动过程。
\n冷启动耗时大头主要是以下三方面：
\n接下来会从轻量级虚拟机系统的优化、代码缓存、VPC转发proxy、实例预创建等几个方面分别介绍优化的结果。
\n![](\"https://img.serverlesscloud.cn/qianyi/YHl6UWa9s63r2BLdpwTIQczicVVqcq92ZPiatC2oq6fwKCwQQRFcOaYSoKNBAs9tibG21pZNlPVONzTZ4OYjXSSyQ.jpg\")
图四：轻量级虚拟化系统
\n首先是轻量级虚拟机系统的优化，基于腾讯云已有的CVM系统，主要优化资源调度模块以及底层虚拟化层面的耗时。提升资源调度的并发计算和耗时，进行虚拟化层面的裁剪极大的降低了虚拟机启动的时间，虚拟机隔离，访问的策略也通过预同步的方案，降低网络的生效时间。
\n虚拟机调度这块，如果要全局考虑最优的调度，要考虑的因素是非常多的，比如满足非常多样化虚拟机配置的调度，CPU亲和性和反亲和性的调度，容灾部署组的调度，物理资源的利用率最大化等等，我们看了下现有系统的调度决策的因素多大20种以上，因此规模比较大的时候调度耗时秒级别。
\n在函数的场景下按照函数运行的配置规格统一了虚拟机标准化配置，比如CPU的型号配置，内存大小，存储的配置和类型等，另外就是对可用的物理机资源进行了离线的计算排序，在调度的时候直接按顺序匹配即可，这样能讲调度物理机的操作时延降低到毫秒级。
\n![](\"https://img.serverlesscloud.cn/qianyi/YHl6UWa9s63r2BLdpwTIQczicVVqcq92ZqU0Oz33Sp6ZAXsaCibMmia9Rq5rWYFaYsqXc6SIwtibe6I8dAqNKL3ZUA.jpg\")
图五：轻量级虚拟化
\n接下来是虚拟化层面，传统的qemu/kvm虚拟机启动到机器可用的时间通常是分钟级别，业界的kata，firecracker的方案是对qemu，虚拟机镜像做裁剪来加速虚拟机的创建和启动，腾讯云虚拟化团队也使用了类似的方案，但是还做了进一步的优化。
\n在物理机上面，首先制作一台基础的虚拟机完成操作系统、相关内核模块、驱动以及部分用户态组件的初始化，然后将虚拟机的内存状态，CPU寄存器等信息保存到共享内存中，完成虚拟机模版的制作，也就是图中的Basepoint。
\n后面需要创建轻量级虚拟机时，通过虚拟机模版直接克隆出来运行，通过类似本地热迁移的方式，然后需要把虚拟机内部关于mac，ip，hostname等唯一信息修改过来。
\n![](\"https://img.serverlesscloud.cn/qianyi/YHl6UWa9s63r2BLdpwTIQczicVVqcq92Z4C8cBxfmfq4cx4d7MLndNJdWSjF1OibfqxZWIyEyu5Sep2gxX3dxdRg.jpg\")
图六：代码二级缓存
\n代码下载是冷启动另一个耗时比较大的环节，根据代码包大小不一样，耗时从几十毫秒到几秒都有可能。腾讯云函数这里对代码做了两级的缓存，第一级是虚拟机本地缓存，同一个租户的所有函数全量缓存到虚拟机上，保证了所有函数即使之前没调用过，在第一次调用的时候避免了下载。第二级缓存是可用区内部的缓存，一个可用区内的时延在网络建设标准要求中是1～2毫秒，因此我们将同一个地域的代码全量缓存到各个可用区，保证代码能在可用区内能下载到，降低下载的时间。
\n![](\"https://img.serverlesscloud.cn/qianyi/YHl6UWa9s63r2BLdpwTIQczicVVqcq92ZrqXPJ8LXDyBAReOwib4e2VPCwj5EQU1ZGsD7qTcoso8O3DyW2icVCxgQ.jpg\")
图七：自动扩缩容系统
\n前面分享的优化方向主要是在降低冷启动时延方面，当然最好的情况是可以提前创建出来避免冷启动。在这方面我们做了一个自动实时扩缩容的系统，通过秒级的函数并发监控数据上报，计算函数并发对资源需求的情况进行函数实例的预创建，或者销毁（成本方面考虑）。
\n在并发预测这块我们尝试了一些方法，包括函数周期性的调用规律数据分析，机器学习等。我们发现函数并发这个维度波动是比较大的，可能会在分钟级别内增长或减少几倍的并发，大体上有按天的周期性的规律，但是并发的波峰波谷产生的时刻偏差比较大，因此最后我们选择了实时计算并快速扩容的方案。
\n![](\"https://img.serverlesscloud.cn/qianyi/YHl6UWa9s63r2BLdpwTIQczicVVqcq92ZbYse8wnUejzEs3Gg2LaeFmEvqtRGeKmwtBCyGu0oxfXHegP3TofjPg.jpg\")
图八：实时扩缩容效果图
\n如图中所示，Autoscale模块在监控到函数并发增长的时候，计算出需要扩容的实例数，调用scheduler模块快速部署实例满足后续的并发增长。在缩容的时候有一个冷却时间放置期间有频繁的并发波峰波谷交替出现，当经过冷却时间后进行逐级的缩容。从我们实际的运行效果数据来看，几乎已经能避免冷启动的问题了。
\n两种可预测的提前预启动实例
\n最后介绍两种可以预测的提前预启动实例的情况，第一种是函数互相调用的场景：
\n![](\"https://img.serverlesscloud.cn/qianyi/YHl6UWa9s63r2BLdpwTIQczicVVqcq92Zxib7KXaaSWicVCBYrkwkBxAv0dw9Ak1kR6L0YQDvkA2PEeMaS2ljAC1A.jpg\")
图九：函数链式调用
\n比如图中函数A调用B和C，如果只有函数A预启动了，函数B和C还是冷启动，那最后表现出来就是A函数的调用时延增高。因此平台需要根据函数的调用关系，将被调的函数全路径预启动起来。
\n第二种情况是函数代码变更和版本切换的场景：
\n![](\"https://img.serverlesscloud.cn/qianyi/YHl6UWa9s63r2BLdpwTIQczicVVqcq92Ziashibto2R4rSe8DcWKbXLKOj5LrOdOpHhXHQcVhricdwT4vEHBVusF3w.jpg\")
图十：版本切换及预启动
\n如左边这个函数调用的是LATEST版本，开发者更新代码后，流量不能立刻切换到新的代码，而是需要根据当前并发的情况预先启动一些实例部署新代码后才切换流量，保障调用时延的平滑过度。右边的这个函数是通过别名调用V1版本，如果此时开发者操作切换30%的流量到V2版本，平台需要根据当前并发的情况计算出30%所需的实例个数，将V2的函数实例部署起来才切换流量。
\n\n\n传送门：
\n\n
\n- GitHub: github.com/serverless
\n- 官网：serverless.com
\n
欢迎访问：Serverless 中文网，您可以在 最佳实践 里体验更多关于 Serverless 应用的开发！
","tableOfContents":""},"previousBlog":{"id":"2f3dd454-b47a-5776-a36c-349eb7e7eb27","frontmatter":{"thumbnail":"https://s3-us-west-2.amazonaws.com/assets.blog.serverless.com/framework-updates/framework-v146-thumb.png","authors":["MariuszNowak"],"categories":["news"],"date":"2019-07-01T00:00:00.000Z","title":"无服务器框架 v1.46.0 - 扩展 ALB 可配置性、支持外部 Websocket API 以及通过相对路径引用本地插件等等","description":"查看无服务器框架 v1.46.0 中包含的功能。","authorslink":null,"translators":null,"translatorslink":null,"tags":null,"keywords":null,"outdated":null},"wordCount":{"words":298,"sentences":46,"paragraphs":46},"fileAbsolutePath":"/opt/build/repo/content/blog/2019-07-01-framework-release-v146.md","fields":{"slug":"/blog/2019-07-01-framework-release-v146/","keywords":["go","serverless","spa","无服务器","无服务器开发","serverless","span","github","pull","color","href","插件"]}},"nextBlog":{"id":"5cd33876-61aa-5759-9881-9b9778cf8adc","frontmatter":{"thumbnail":"https://img.serverlesscloud.cn/qianyi/YHl6UWa9s62icv8Chd3kYictP0lzHOic3Qe0MH6buxiahkojt4FUVbo57F3Jh3NEHic5bP81sQfSOkqNnY09icj7p3oQ.jpg","authors":["腾讯云中间件"],"categories":["guides-and-tutorials"],"date":"2019-06-27T00:00:00.000Z","title":"Serverless 最佳实践：如何在两周内开发出用户量过亿的微信小程序","description":"本文将从开发背景、技术需求与落地实践三个维度出发，还原腾讯相册小程序的开发历程，以及Serverless是如何助力腾讯相册团队在两周内，开发出承载过亿用户量的微信小程序。","authorslink":["https://zhuanlan.zhihu.com/ServerlessGo"],"translators":null,"translatorslink":null,"tags":["小程序","Serverless"],"keywords":"Serverless,serverless framework,腾讯云serverless","outdated":null},"wordCount":{"words":256,"sentences":51,"paragraphs":51},"fileAbsolutePath":"/opt/build/repo/content/blog/2019-06-27-wechat-mini-program.md","fields":{"slug":"/blog/2019-06-27-wechat-mini-program/","keywords":["serverless","无服务器","无服务器云函数","云函数","Serverless","serverlesscloud","开发","微信","腾讯"]}},"recommendBlogs":{"edges":[{"node":{"id":"665f9ce2-4451-59fd-bf98-1861789d3b3b","frontmatter":{"thumbnail":"https://s3-us-west-2.amazonaws.com/assets.blog.serverless.com/Serverless_logo.png","authors":["AndreaPasswater"],"categories":["guides-and-tutorials","engineering-culture"],"date":"2018-03-19T00:00:00.000Z","title":"如何为无服务器开放源代码项目做贡献","description":"想要为无服务器开放源代码项目做贡献？您可以遵循下面的指南。","authorslink":null,"translators":null,"translatorslink":null,"tags":null,"keywords":null,"outdated":null},"wordCount":{"words":96,"sentences":36,"paragraphs":36},"fileAbsolutePath":"/opt/build/repo/content/blog/2018-03-19-how-contribute-to-serverless-open-source.md","fields":{"slug":"/blog/2018-03-19-how-contribute-to-serverless-open-source/","keywords":["serverless","无服务器","serverless","github","插件","服务器","贡献","示例","blog","contribute"]}}},{"node":{"id":"a3e92579-65c3-5159-937c-32d18c5df7d7","frontmatter":{"thumbnail":"https://s3-us-west-2.amazonaws.com/assets.blog.serverless.com/why-not/why-not-header.png","authors":["AndreaPasswater"],"categories":["guides-and-tutorials","operations-and-observability","engineering-culture"],"date":"2018-03-21T00:00:00.000Z","title":"不适合选择无服务器的情境及原因","description":"无服务器既有优点也有缺点。那么，哪些情境下不适合选择无服务器？原因又是什么呢？","authorslink":null,"translators":null,"translatorslink":null,"tags":null,"keywords":null,"outdated":null},"wordCount":{"words":163,"sentences":43,"paragraphs":43},"fileAbsolutePath":"/opt/build/repo/content/blog/2018-03-21-when-why-not-use-serverless.md","fields":{"slug":"/blog/2018-03-21-when-why-not-use-serverless/","keywords":["faas","react","serverless","spa","无服务器","无服务器函数","无服务器架构","无服务器开发","服务器","twitter","serverless","blockquote","lang","script","en"]}}},{"node":{"id":"6a16520b-7886-582e-9182-64e50712d486","frontmatter":{"thumbnail":"https://s3-us-west-2.amazonaws.com/assets.blog.serverless.com/vendor+choice/serverless-data-portability.jpg","authors":["NickGottlieb"],"categories":["engineering-culture","guides-and-tutorials"],"date":"2018-06-20T00:00:00.000Z","title":"浅谈无服务器、数据锁定和供应商选择","description":"供应商选择是如今 IT 领导者需要考虑的最重要事项，而这一点可利用数据可移植性来实现。","authorslink":null,"translators":null,"translatorslink":null,"tags":null,"keywords":null,"outdated":null},"wordCount":{"words":205,"sentences":33,"paragraphs":33},"fileAbsolutePath":"/opt/build/repo/content/blog/2018-06-20-data-lockin-vendor-choice-portability.md","fields":{"slug":"/blog/2018-06-20-data-lockin-vendor-choice-portability/","keywords":["go","serverless","无服务器","无服务器架构","供应商","serverless","开发人员","数据","锁定","选择","服务"]}}},{"node":{"id":"94741abb-10ba-5db1-9756-cd1d573473fa","frontmatter":{"thumbnail":"https://s3-us-west-2.amazonaws.com/assets.blog.serverless.com/webstorm-ide/streamline-webstorm-serverless2.jpg","authors":["EslamHefnawy"],"categories":["guides-and-tutorials","engineering-culture"],"date":"2018-08-15T00:00:00.000Z","title":"如何使用 WebStorm 简化无服务器工作流程","description":"在本文中，我将和您分享如何使用 WebStorm 进行无服务器特定的 IDE 设置以及如何利用它来极大地加快无服务器工作流程。","authorslink":null,"translators":null,"translatorslink":null,"tags":null,"keywords":null,"outdated":null},"wordCount":{"words":234,"sentences":54,"paragraphs":54},"fileAbsolutePath":"/opt/build/repo/content/blog/2018-08-15-streamline-serverless-workflow-webstorm.md","fields":{"slug":"/blog/2018-08-15-streamline-serverless-workflow-webstorm/","keywords":["nodejs","serverless","无服务器","无服务器开发","serverless","WebStorm","webstorm","服务器","blog","assets"]}}},{"node":{"id":"713a0563-4bf9-5721-bacb-3b4ef609fe4a","frontmatter":{"thumbnail":"https://s3-us-west-2.amazonaws.com/assets.blog.serverless.com/camp-fire/camp-fire-housing-thumb.jpg","authors":["EricWyne"],"categories":["guides-and-tutorials","user-stories"],"date":"2018-12-05T00:00:00.000Z","title":"Serverless Twitter 机器人帮助为坎普山火受灾者安置住房","description":"加利福尼亚州的坎普山火致使数千人流离失所，为此，我构建了一个简单的 Serverless Twitter 机器人来帮助将受灾者安置在临时住房！","authorslink":["https://serverless.com/author/ericwyne/"],"translators":["Aceyclee"],"translatorslink":["zhihu.com/people/Aceyclee"],"tags":null,"keywords":null,"outdated":null},"wordCount":{"words":157,"sentences":26,"paragraphs":26},"fileAbsolutePath":"/opt/build/repo/content/blog/2018-12-05-serverless-twitter-camp-fire.md","fields":{"slug":"/blog/2018-12-05-serverless-twitter-camp-fire/","keywords":["serverless","无服务器","云函数","Serverless","org","住房","Twitter","函数","受灾","机器人","山火"]}}},{"node":{"id":"17c972d9-0583-51f6-9d5d-c2ba5f21b6a3","frontmatter":{"thumbnail":"https://img.serverlesscloud.cn/20191227/1577409288454-v2-577c2b21d600e3ea07f156f3e9d2d6b8_1200x500.jpg","authors":["Alfred Huang"],"categories":["guides-and-tutorials"],"date":"2019-08-21T00:00:00.000Z","title":"Serverless 的运行原理与组件架构","description":"本文重点探讨下开发者使用 Serverless 时经常遇到的一些问题，以及如何解决","authorslink":["https://zhuanlan.zhihu.com/ServerlessGo"],"translators":null,"translatorslink":null,"tags":["运行原理","serverless"],"keywords":"Serverless 运行原理,Serverless 组件架构","outdated":null},"wordCount":{"words":236,"sentences":33,"paragraphs":33},"fileAbsolutePath":"/opt/build/repo/content/blog/2019-08-21-serverless-operation-architecture.md","fields":{"slug":"/blog/2019-08-21-serverless-operation-architecture/","keywords":["koa","serverless","云函数","Serverless","用户","函数","请求","实例","形态","业务","serverlesscloud"]}}},{"node":{"id":"ae4fd2f8-515c-5aec-b584-38427ef33f7e","frontmatter":{"thumbnail":"https://img.serverlesscloud.cn/2020114/1578989800047-part-00492-780.jpg","authors":["Anycodes"],"categories":["guides-and-tutorials","user-stories"],"date":"2019-09-16T00:00:00.000Z","title":"突破传统 OJ 瓶颈，「判题姬」接入云函数","description":"通过 Serverless 实现在线编程","authorslink":["https://www.zhihu.com/people/liuyu-43-97"],"translators":null,"translatorslink":null,"tags":["在线编程","云函数"],"keywords":"Serverless 在线编程,Serverless OJ","outdated":null},"wordCount":{"words":169,"sentences":30,"paragraphs":30},"fileAbsolutePath":"/opt/build/repo/content/blog/2019-09-16-online-Judge.md","fields":{"slug":"/blog/2019-09-16-online-Judge/","keywords":["python","serverless","云函数","代码","函数","serverless"]}}},{"node":{"id":"545ab3d2-e14e-5cc2-8548-0e863eac942b","frontmatter":{"thumbnail":"https://s3-us-west-2.amazonaws.com/assets.blog.serverless.com/2019-10-deployment-best-practices/safeguard-header.png","authors":["FernandoMedinaCorey"],"categories":["guides-and-tutorials"],"date":"2019-10-14T00:00:00.000Z","title":"无服务器部署最佳实践","description":"了解部署无服务器应用时的一些最佳实践。","authorslink":null,"translators":null,"translatorslink":null,"tags":null,"keywords":null,"outdated":null},"wordCount":{"words":221,"sentences":46,"paragraphs":46},"fileAbsolutePath":"/opt/build/repo/content/blog/2019-10-14-serverless-deployment-best-practices.md","fields":{"slug":"/blog/2019-10-14-serverless-deployment-best-practices/","keywords":["serverless","无服务器","serverless","部署","服务器","开发人员","应用","安全措施","使用","函数"]}}}],"totalCount":31}},"pageContext":{"isCreatedByStatefulCreatePages":false,"blogId":"4023a334-9a83-5c8e-bce7-3f91e883b190","previousBlogId":"2f3dd454-b47a-5776-a36c-349eb7e7eb27","nextBlogId":"5cd33876-61aa-5759-9881-9b9778cf8adc","categories":["guides-and-tutorials"]}}}