【CSDN 编者按】逍遥子曾说,对阿里人来说「打仗是最好的团建,参加过双 11 的叫战友」,同样,参加过多次双 11 考验的系统技术都会成为真正意义上的基础设施,阿里云飞天系统的云网络平台洛神就是如此。

本文作者 —— 阿里云智能事业群研究员、网络产品线负责人祝顺民(花名江鹤)老师就是洛神背后的核心铸造者。在「CSDN 在线峰会 —— 阿里云核心技术竞争力」上,江鹤老师为我们详细分享洛神网络的 10 年演进之路。

复制链接或点击「阅读原文」可免费观看江鹤老师分享视频:

https://edu.csdn.net/course/play/28249/388353

作者 | 祝顺民(江鹤),阿里云研究员

责编 | 唐小引

头图 | CSDN 下载自东方 IC

出品 | CSDN(ID:CSDNnews)

今天的主题是《云网络技术架构的演进之路》,主要介绍阿里云网络产品从无到规模应用的 10 年过程中,云网络技术平台洛神是怎么发展的。

阿里云飞天洛神云网络平台

阿里云系统叫飞天,云网络平台称为洛神,洛神和飞天系统的关系如下图所示,洛神云网络平台是阿里云飞天操作系统内核的核心组件和系统服务,伴随着飞天系统一起诞生、成长。

图 1 阿里云网络洛神平台与飞天操作系统

整个飞天系统架构分为几个层次,底层数据中心基础设施,包含物理资源、机房、服务器,还有多地域和可用区(AZ)、物理网络等;其上是飞天操作系统的核心,支撑了整个云计算的虚拟化,包括计算平台神龙,存储平台盘古,以及网络平台洛神;基于系统核心组件,构建了面向用户的系统服务以及原生服务,支撑不同行业客户在阿里云上构建自己的应用系统。

飞天洛神平台的诞生

洛神伴随飞天系统诞生,是云计算产业发展的结果,云计算首先是计算虚拟化,并提供给不同的用户使用,当用户在云上使用计算资源时,网络地址独立规划,不同用户地址可以相同,且虚拟机可以在不同机房之间迁移,地址保持不变,同时云计算是一个基础设施,支持海量用户同时使用,这些关键需求要求提供一个超大规模的虚拟化大二层的网络。

图 2 云计算租户网络应用需求

这些需求,使用传统商用物理交换机和路由器构建的网络,无法满足云计算的需求,也满足不了阿里云运营这张网络的需求,主要原因在于:

1)在百万级别的租户之下,如果每个租户都给到一张独立的地址空间,地址空间的数量非常庞大,传统交换机里面使用 VRF 来隔离租户之间的空间,意味着交换机要支持海量的 VRF 资源,这是目前硬件能力无法支持的。

2)服务器和虚拟机的数量增长,网络节点以及路由表的规模快速增大,虚拟机通讯和迁移要求路由表能快速同步。

3)当用户对云上网络层面的功能需求越来越多的时候,比如说用户在云上不仅希望有个虚拟机,还可以有个公网 IP;比如说用户可以自行定义这张网络 IP、路由和安全组。另外随着 NFV 技术发展,用户希望在云上运行虚拟化业务网元,例如负载均衡、NAT 网关、VPN 网络,要求对应的底层网络能快速进行功能迭代,以满足新需求和新技术的快速应用。

4)更关键的是,传统物理交换机是一个黑盒,各个厂商实现各异,接口各不一样,同时不支持设备内功能定制开发,让设备的运维成为一个难题。

图 3 传统网络设备应对云计算的约束

所以阿里云网络选择了一条自研的路,使用三大技术满足云计算的需求:

1)虚拟化网络;

2)SDN 技术,软件来定义网络;

3)整个技术栈自研。

阿里云网络洛神平台就此诞生。

图 4 洛神网络 10 年演进

洛神云网络平台随着阿里云飞天系统一起,已经经历了 10 年演进,分为两个阶段,洛神 1.0 时代,主要定位为支撑超大规模和多租户的网络。

随着阿里云的业务快速发展,尤其近几年规模增长特别快,2018 年开始推出洛神 2.0,洛神 2.0 的特点主要在高性能、弹性开放能力。

现在阿里云上运行着很多超级规模的用户,比如阿里巴巴集团的淘宝业务,这些超大规模用户对网络的性能提出了很高的要求,特别是在例如双 11 这种大型活动期间,网络流量的峰值是十分巨大的,这对网络的性能提出了非常高的要求。

同时阿里云提供了丰富的基础 IaaS、 PaaS 产品与服务,第三方的生态伙伴可以在阿里云上提供众多的 SaaS 服务,包括网络类的 SaaS 服务,例如网络管理类、网络数据分析类、网络日志管理类、网络转发类的软件。这些软件在阿里云上很好的运行,需要网络提供弹性,开放的能力,就是洛神 2.0 的定位。

飞天洛神 1.0:超大规模、多租户网络

洛神 1.0 平台由很多网络组件组成,架构上主要分成两类:AVS(Apsara vSwitch)和各种网关网元。AVS 是部署在每个物理服务器上的软件网元。最早基于 XEN 的 Kernel 架构实现,转发性能不高,单机只有 15 万 PPS。随后演进到了 KVM 的架构,在这个架构下,vSwitch 还是在 Kernel 的,但已能提供单机 120 万 PPS 性能。然后在 Intel 推出 DPDK 版本后,AVS 进行了架构升级,使用用户态 DPDK,转发性能提升至 600 万 PPS。

AVS 的演进,是为了追求网络性能大幅提升的过程,是阿里云网络持续迭代和改造网络软件架构的原动力。

关于业务网关,最早也是基于 Kernel 网络协议开发。例如 Load Balance 设备,第一代也是基于 Kernel 开发,当时整台物理机性能大约只有 300 万 PPS。为了追求更高的性能,这些网元基于 DPDK 进行了重新构建,既包括公网网关、私网网关,还有 SLB、NAT 网关、VPN 网关等等,转发性能提升了 20 倍。

洛神 1.0,基于 DPDK 的 AVS 和各种网关,最终搭建出一张支持超大规模租户、超大规模虚拟机的网络。

图 5 洛神 1.0 支持超大规模租户网络

如图所示,在这张超大规模的租户网络里面,我们达到的核心能力包含:

1)多租户隔离,每个区域可以支持百万规模的 VPC。如果说一个租户对应一个 VPC,一个区域就可以支持百万规模的租户;

2)单个 VPC 支持超大规模虚拟实例,目前有一些超大规模的 VPC 中实际部署并运行了超过 30 万的 ECS,也就意味着此租户的这张网络里面有 30 万个以上的 IP, ECS 之间的通讯,包括东西和南北向的流量,都能很好的在虚拟网络里面运行。

3)最后就是基于 AVS 能力,单个 ECS 能够提供百万级 PPS 能力的转发性能。

飞天洛神 2.0:连接全球,高性能,弹性开放网络

洛神 1.0 支撑了阿里云网络从无到有,至规模应用,随着阿里云的业务不断增长,租户越来越多,也带来了越来越多的 VPC。租户购买的虚拟机越来越多,也代表着网络里的节点越来越多,转发性能要求越来越高。此外,也有越来越多的租户在云上不但仅仅满足简单的连通性要求,提出了丰富的业务网元处理诉求。例如用户原来在自己的数据中心里面构建了防火墙和 NAT,或者自己买了一些 Load balancer 的设备,现在业务系统搬到阿里云上之后,希望原来的网络功能继续在阿里云使用。

在此背景下,洛神平台升级到 2.0。如图所示,洛神 2.0 提供了更加丰富的转发网元,既有神龙 MOC 卡,还有专用可编程芯片以及通用 ECS;同时洛神 2.0 新构建了一个 NFV 平台,支持业务网元不再依赖传统 X86 服务器,直接基于 NFV 平台构建,例如 NAT、SLB、VPN 产品,同时 NFV 平台支持开放能力,第三方的网元也可以基于 NFV 平台部署,通过 VPC 内和 VPC 间的访问。

图 6 洛神 2.0 架构图

洛神 2.0 的基础是阿里云遍布全球的网络基础设施和 Region 数据中心的基础设施。目前在全球有 20 个 Region、61 个可用区,100 多个 POP 节点。当国内用户需要出海或者国外的用户需要进中国的时候,不再需要自己购买很多物理形态的设备和网络连接,并花很长的时间搭建出网络基础设施。基于洛神 2.0,阿里云的网络产品就可以分钟内快速构建出运营网络、基础设施。

洛神 2.0 的 AVS 和业务网关都进行了架构跨越式升级,AVS 基于软硬件一体化方式,使用神龙 MOC 卡实现快速转发,转发性能提升数倍,达到千万 PPS。

图 7 软硬件一体的新一代 AVS

洛神 2.0 另一个跨越式架构升级是提供新一代的 NFV 平台,通过网元逻辑部署在通用 ECS 上,提供弹性和开放能力。当第三方厂商将其应用移植到阿里云之后,就可以在阿里云市场里对阿里云的租户进行售卖和提供能力,形成了一个非常好的生态:

1)网元可以给大量租户使用;

2)客户的白天流量很大,半夜的流量很少时,阿里云会自动帮你缩容。

如果说在某个时刻点突然碰到高峰,阿里云会自动协助扩容,也就意味着第三方的网元利用洛神 NFV 平台,不仅可以开放部署,还可以享受到自动的弹性。

图 8 洛神 2.0 NFV 开放平台架构

飞天洛神的未来

洛神 2.0 中,还有一个齐天智能网络平台,是未来演进的重要能力,未来的网络将是一个智能化的网络。当客户业务部署在阿里云的时候,如果网络发生波动或故障,需要非常快速的排查问题,因为网络是属于最底层的服务,当业务不能对外提供服务的时候,首先会想到网络问题。这个时候网络可能是正常的,有可能是上层业务的问题。如何让上层业务团队快速定界问题所在,如何让网络的管理员能快速自证清白,提升未来生产运营服务的效率,就这是未来智能化网络需要解决的问题。

图 9 洛神的未来演进

未来阿里云洛神平台的发展方向就是智能化,未来会通过自研网元,采集网络中数据,并且用大数据的方式去做产品问题分析和资源规划,目前洛神齐天系统已经构建在一部分能力,在内部使用,未来会提供给阿里云的客户,让客户可以智能化的运营自己的网络基础设施,这就是阿里云洛神平台未来演进的方向。

作者简介:祝顺民(花名江鹤),阿里云智能事业群研究员,网络产品线负责人,在软件定义网络(SDN)和网络功能虚拟化(NFV)领域有多年技术研发和管理经验。他带领团队历时多年,从无到有,打造了业内最丰富的云网络产品线,并铸造了阿里云飞天系统的云网络平台-洛神,服务了百万用户,并历经 8 次天猫双十一考验,已经成为真正意义上的基础设施。

同时,欢迎所有开发者扫描下方二维码填写《开发者与AI大调研》,只需2分钟,便可收获价值299元的「AI开发者万人大会」在线直播门票!

推荐阅读:在容器上构建持续部署及最佳实践初探在Kubernetes上部署一个简单的、类PaaS的平台,原来这么容易!全球呼吸机告急!医疗科技巨头美敦力“开源”设计图和源代码互联网之父确诊新冠,一代传奇:任谷歌副总裁、NASA 访问科学家微软为一人收购一公司?破解索尼程序、写黑客小说,看他彪悍的程序人生!2020年,这20个大家都认识的加密交易所过得怎么样?真香,朕在看了

一群阿里人如何用 10 年自研洛神云网络平台?技术架构演进全揭秘!相关推荐

  1. QCon旧金山演讲总结:阿里无线技术架构演进

    \ 编者按:美国时间11月16日,阿里无线事业部资深技术总监庄卓然(花名:南天).阿里无线高级技术专家徐昭(花名:长恭) 在QCon全球软件开发大会旧金山站发表演讲<ALIBABA MOBILE ...

  2. 阿里毕玄:阿里十年,从分布式到云时代的架构演进之路

    这是一篇来自鲲鹏会的文章,其内容是毕玄在TGO 鲲鹏会杭州分会活动现场分享的<云时代的软件架构>的整理.特别转载到云栖社区,让更多开发者深入了解阿里架构的变迁和对云技术的一些新的想法. 2 ...

  3. 阿里无线技术架构演进

    阿里无线技术架构演进 手机淘宝作为阿里集团移动端的"航空母舰",近两年发展非常迅猛,用户量增长接近10倍.在2015双十一这天,我们的无线端成交占比高达68% .在高峰期,更有超过 ...

  4. 【IT技术】阿里RDS首席产品架构师何云飞:阿里云数据库的架构演进之路

    专访阿里RDS首席产品架构师何云飞:阿里云数据库的架构演进之路 原文作者:pipihappy8888 http://www.itpub.net/thread-1887486-1-1.html 如果说淘 ...

  5. 【IT名人堂】何云飞:阿里云数据库的架构演进之路

    [IT名人堂]何云飞:阿里云数据库的架构演进之路 原文转载自:IT168 ​ 如果说淘宝革了零售的命,那么DT革了企业IT消费的命.在阿里巴巴看来,DT时代,企业IT消费的模式变成了"云服务 ...

  6. 【云周刊】第149期:沸腾!阿里又开源了一项自研核心技术:容器技术Pouch

    点击有惊喜 本期头条 沸腾!阿里又开源了一项自研核心技术:容器技术Pouch 时至今日,全球范围内,容器技术在大多数企业中落地,已然成为一种共识.如何做好容器的技术选型,如何让容器技术可控,相信是每一 ...

  7. TDM到二向箔:阿里妈妈展示广告Match底层技术架构演进

    ▐ 1. 背景 随着整个互联网行业的发展,各大互联网公司作为服务提供商,积累了越来越多能够服务用户的优质内容,如电商领域的各类商品.视频领域丰富的视频.直播等.而随着信息量的爆炸,算法技术作为连接内容 ...

  8. 阿里云高级技术专家白常明:边缘云的技术挑战和应用创新

    随着5G商用周期的开始与新基建的发展, 5G+边缘计算带动并赋能数字化行业,逐渐形成了预期可观的产业规模.5G周期内,直接和间接带动产业规模就高达万亿级,在如此巨大的市场规模下,会有越来越多的行业具备 ...

  9. 【干货】阿里资深无线技术专家孙兵谈闲鱼社区技术架构演进

    近期在ArchSummit北京会议上,阿里巴巴资深无线技术专家孙兵(花名酒丐)发表了<网格社区-闲鱼技术架构演讲>主题演讲.孙兵2011年加入阿里巴巴,先后在B2B.淘宝.手机淘宝等部门负 ...

最新文章

  1. 3分钟4 步快速带你在win10电脑装上openCV3.4 (python使用)
  2. 从尾到头打印单向链表
  3. Vue+Openlayers中实现地图旋转
  4. JavaWeb黑马旅游网-学习笔记04【BaseServlet抽取】
  5. Android 系统(151)----添加开关机铃声
  6. mysql镜像备份和同步备份_mysql 主从同步及备份
  7. MySQL解决去除逗号||把逗号替换为《》,/,?,。,-,+,* 等,并且截取该字段的后几位字符串(取字符串的固定长度)
  8. wps公式如何加序号_神器:AxMath数学公式编辑排版软件 输入公式、化学方程式从未如此简单...
  9. python截图(长图和短图)方法封装
  10. goldendict在线子典 goldendict
  11. 换个方式认识一下——微信公众号搜索公众号列表 API
  12. Elasticsearch 如何实现时间差查询?
  13. JWT(2):JWT入门使用
  14. RFID叉车读写器在智能仓库收发货环节中的应用-铨顺宏
  15. 【计算机毕设】毕设题分析及设计
  16. 乌班图(Ubuntu)单系统或者乌班图+Win双系统安装教程
  17. 电脑开两个微信_电脑上登录两个微信或是多个微信?
  18. ecshop源码分析——静态缓存static_c…
  19. 第十八届中国国际人才交流大会云端开幕,VR虚拟展厅邀你“云逛展”
  20. Linux 5.13-rc1 发布 初步支持苹果M1

热门文章

  1. 计算机网络 --- 传输层
  2. python画三维立体图难吗_万万没想到,Python竟能绘制出如此酷炫的三维图
  3. windows 安装openssh服务端_Git神器| SourceTree安装使用教程
  4. 清华大学数学教授吐槽不会做孙子的小学奥数:这学的不是数学,是戏法
  5. 超励志!从中专生到教授,他32岁成为国家杰青!
  6. 春招已近,这份GitHub万星的ML算法面试大全请收下
  7. 13亿美元的思想实验
  8. idea创建springboot项目,一直在reading pom.xml
  9. mysql update 联合更新_Mysql update多表联合更新的方法小结
  10. html中怎样实现在输入框中出现提示