在中国移动Bigcloud上加速云原生应用

　　云计算旨在灵活、有弹性地为企业提供附加价值。中国移动（CMCC）是中国最大的电信运营商和云服务提供商之一，正是通过其Bigcloud公共云产品提供这一服务。
　　Bigcloud为关键任务应用程序提供PaaS和SaaS服务，以满足企业云和混合云解决方案的需求。中国移动深知企业想要在实时在线的数字世界中保持竞争力就必须依赖其网络和通信基础设施。
　　当他们开始遇到对其云原生服务的巨大需求时，中国移动通过开放虚拟交换机（OVSOpenvSwitch）实现网络抽象和虚拟化，以自动化并获得对其网络的动态网络控制，帮助他们满足不断增长的需求。
　　然而，由于东西向网络流量的增加，维持网络性能成为一项严峻的挑战。
　　图1。Bigcloud网络解决方案。
　　识别网络挑战
　　随着云服务的大量采用，中国移动在其虚拟化环境方面获得了巨大的增长。这种虚拟化的扩展在其数据中心内的服务器之间产生了东西向流量的爆炸式增长。
　　由于网络流量的增加，他们还看到了网络拥塞的增加，导致更多的抖动和延迟，并阻碍了整体网络吞吐量和应用程序性能。这导致了有效带宽不足，他们无法跟上业务高峰时间的大量网络流量。
　　在中国移动调查这些挑战的原因时，他们确定这些问题的根源来自开放式交换机（OVS）的四个主要方面：
　　由于服务器CPU同时处理应用程序和网络请求，用于VXLAN封装和解封规则处理的vSwitch交换效率低下。由于在用户空间、内核空间和内存之间频繁进行上下文切换，导致基于内核的vSwitch转发性能不佳，从而产生数据复制开销。基于DPDK的vSwitch转发造成了对服务器CPU资源的争抢，这些资源本已受到严格的限制。由于过度的数据包丢失、抖动和延迟导致吞吐量降低，vSwitch流规则能力有限。
　　这些挑战成为了瓶颈，阻碍了应用程序以尽可能低的延迟获得所需的高网络流量吞吐量。
　　虽然OVS允许在主机之间以及外部世界之间转发数据包和流规则，但它是CPU密集型的，并通过消耗本应用于客户应用程序的CPU内核来影响系统性能，这将阻碍充分利用可用带宽。
　　中国移动希望确保网络应用程序的响应时间保持在较低水平，交付的带宽保持一致，并且能够满足峰值需求。
　　图2。中国移动想要在其BigCloud的vSwitchForwarding上同时支持OVS和OVSDPDK，但在这方面面临挑战。
　　中国移动与这一领域的两位专家，NVIDIA和诺基亚合作，他们共同提供了一种高效的软件定义网络（SDN）解决方案。该解决方案结合了NVIDIAConnectXSmartNIC和NVIDIABlueFieldDPU（数据处理器）在卸载、性能和效率方面的技术，以及NuageNetworks虚拟化服务平台（VSP）的灵活性、弹性和自动化。
　　NVIDIA和Nuage共同卸载了与OVS相关的计算密集型数据包处理操作，并释放了昂贵的计算资源，以便它们可以运行应用程序而不是SDN任务。
　　SmartNIC和DPU赋能的加速网络
　　NVIDIAConnectX系列智能网卡和BlueField系列DPU提供NVIDIA加速交换和数据包处理（ASAP2）技术，该技术在网卡（NIC）硬件内运行OVS数据平面，同时保持OVS控制平面完整性和对应用程序的完全透明性。
　　ASAP2有两种模式。在第一种模式中，硬件数据平面构建在SRIOV虚拟功能（VF）之上，以便每个网络VF可以直接连接到其对应的虚拟机（VM）。
　　另一种模式是通过虚拟数据路径加速（vDPA）进行VirtIO加速。VirtIO允许虚拟机对硬件设备（如网卡）进行本地访问，而vDPA通过使用称之为Virtqueue的设备队列来在网络设备和标准VirtIO驱动程序之间构建的OVS数据平面，并与VM建立连接。这实现了虚拟机和加速网络之间的无缝集成，控制平面在主机上进行管理，而VirtIO数据平面则由智能网卡进行硬件加速。
　　图3。vDPA使用智能网卡硬件来卸载和加速每个虚拟机的流量。
　　NuageNetworksSDN与
　　NVIDIAvDPA技术的无缝集成
　　NuageNetworks通过其虚拟化服务平台（VSP）对本解决方案做出贡献。VSP执行虚拟路由和交换，是基于开放虚拟交换机的分布式转发模块，用作网络服务的虚拟端点。VSP立即识别计算环境中的任何变化，触发网络连接和配置中基于策略的即时响应，以确保应用程序性能。
　　NuageNetworks的VSP使用VXLAN等隧道协议将原始有效负载封装为覆盖SDN解决方案。
　　由于标准网卡不识别新的数据包头格式，传统上所有数据包操作都必须由CPU执行，这可能会使CPU负担过重，并导致网络输入输出（IO）性能显著下降，尤其是随着服务器输入输出速度的增加。
　　因此，Overlay网络处理需要被卸载到一个特定用于IO的硬件适配器上，该适配器可以处理VXLAN，如ConnectX或BlueField，以减少CPU压力。
　　vDPA的性能优势
　　图4。在软件中运行OVSDPDK和ASAP2vDPA硬件加速的性能对比。
　　中国移动决定采用VirtIO解决方案以实现最大的兼容性，他们希望能够根据使用情况选择纯OVS或OVSDPDK。NuageNetwork和NVIDIA携手合作，为中国移动的公共云提供了一个敏捷、可扩展、硬件加速的SDN解决方案，并支持两种类型的网络虚拟化。
　　使用NuageNetworksVSP和NVIDIA硬件加速vDPA的联合解决方案显著提高了性能。与单独在软件中运行OVSDPDK相比，网络吞吐量增加了1。5倍，数据包转发速度加快了3倍，Apache基准测试每秒支持的请求数增加了7倍。
　　NVIDIA往期精彩内容
　　我与代码的那些事儿NVIDIADOCA开发者社区有奖征文比赛开启
　　NVIDIA授权合作伙伴DPUDOCA卓越中心开放免费DOCA开发环境
　　HPC研究人员借助NVIDIABlueFieldDPU为网络计算的未来打下坚实基础
　　更多精彩仍在继续。。。
　　敬请关注