芯片采购,IC采购,芯片采购平台
芯片
每日新闻头条
DOCA 1.3上线 让DPU在数据时代找到核的价值
(2024年12月21日更新)

随着数据中心成为一个新的计算单元,数据处理器有更多的用途。英伟达的BlueField系列DPU由DOCA(Data-Center-Infrastructure-On-A-Chip Architecture)支持软件框架,可以实现更好的网络、存储和安全性能。作为一款为BlueField DPU量身定制的软件开发框架,DOCA旨在为开发者提供全面开放的开发套件,支持开发者BlueField DPU基于简单灵活的软件开发,快速创建BlueField DPU高性能应用程序和服务加速。

芯片采购网专注于整合国内外授权IC代理商现货资源,芯片库存实时查询,行业价格合理,采购方便IC芯片,国内专业芯片采购平台

“DOCA依靠未来,API构建驱动思维模式,可以让BlueField DPU硬件加速器更容易使用,实现数据中心的非凡性能、效率和安全性,解锁数据中心的创新功能,更好地与下一代兼容BlueField DPU,提供持续支持,加快应用程序和服务的上市时间,释放DPU的潜力。”NVIDIA网络技术专家崔岩说:NVIDIA在发展BlueField DPU同时,也在积极发展DOCA这与我们以前的发展有关GPU同时发展CUDA生态是同工之妙。”

今年5月,NVIDIA上线了DOCA 1.3版本提供了121个新版本API开发界面,增加更多的增强和新功能,包括优化数据流插入DOCA Flow库、通信通道库、正则表达式库App Shield SDK、基于OVN的IPSec加密完全卸载,以及一些DOCA服务,例如HBN三层路由功能在主机上实现。借助DOCA 1.3.开发者不仅可以在本地BlueField DPU上或X在86容器中建立开发环境也可以获得一致的开发体验,可以统一访问BlueField DPU简化网络、存储、安全和基础设施管理服务相关的开发。同时,NVIDIA它还为开发者提供了基于底层的基础API先进的抽象和包装API除了容器化,库可以大大降低开发时间,更快地获得收入。DOCA服务,可以在BlueField DPU直接部署应用程序。


DOCA软件栈

DOCA 1.3中的正则表达式库称为Regular Expression(RegEx),它是多脚本语言的标准模式匹配工具,可以创建与文本模式相匹配的过滤器,而不仅仅是单个单词或短语的匹配。正则表达式是专门为高吞吐量、低延迟和深度包检测而设计的。这些应用程序需要通过正则表达式模式匹配和字符串通过正则表达式模式匹配和字符串实现相应的应用功能。正则表达式也可以实现安全GigaDevice代理遥测功能,可在DOCA 1.3.提供识别、入侵防御系统等安全应用,URL过滤、文件扫描、深度数据包检测App Shield内存扫描等,为安全软件开发提供底层API支持。

借助基于OVN可用于不同主机之间的数据路径加密功能IPsec创建不同的数据加密隧道,以确保数据在主机之间传输时处于加密状态。当数据到达主机时,BlueField DPU将其解密成明文,然后将明文数据传输到主机侧,为负载和应用程序提供数据。

在NVIDIA BlueField DPU基于主机的网络(HBN)有助于管理和监控同一节点虚拟机和容器之间的流量。如果在服务器主机上创建多个虚拟机或多个容器,它们之间会有一些数据流,无论是二层数据流还是三层路由功能,都可以基于主机网络DOCA服务在BlueField DPU进出节点的流量可以进行分析和加密,也会有一些原本依赖的东西TOR开关上的功能也在BlueField DPU改变了数据中心网络建设的方式。


OVN加密数据路径

胡效赫是大学的开发者,他的团队参加了首届会议NVIDIA DPU中国黑客松比赛获得亚军。我们的团队由一名博士后和两名博士生组成,研究方向是云计算、分布式系统和高性能计算。DPU从2020年开始,我们作为数据中心的重要组成部分BlueField DPU发布后一直在关注,今年参加黑客松是为了进一步学习和参与DPU相关开发,对DOCA的API深入定制开发,实现更好的性能和更丰富的功能,并与指导专家和其他团队进行更多的沟通。胡效赫说。

据了解,该团队的项目起点是关注基础设施的业务可观性,并提出DeepTrace项目-面向DPU网包级函数粒度业务可观测性驱动的基础设施。以DOCA提供的NetFlow基于粗粒度的可观测性,对应DOCA Netflow API库,结合DPU高性能网络处理功能对应DPU的ASAP2网包分类引擎和DOCA Flow API库的数据平面和控制平面的可编程能力,将可观测性强度提高到网包级,并准确地提高到每个函数功能,性能损失几乎可以忽略不计。

在DeepTrace在项目的系统架构中,业务流量首先通过DeepTrace预选器,然后通过原始DPU处理程序,在DPU调用程序DeepTrace触发器实现相应点的观测,通过数据的重组和分析,到相应的结果,如异常流量检测、业务问题定位等。

其中,触发器部分的挑战是如何以最低的成本收集链函数和网络包信息。上述团队采用的方案是在统一和轻量级的函数中实现触发器DOCA NetFlow库修改为网包粒度,需要观察的函数API调用触发器的形式。在预选器部分的挑战是如何处理大规模的原始流量,并在函数链中记录网络包。该团队采用的方案是通过硬件卸载的预选器进行标记和过滤。在开发过程中,调用DOCA Flow实现库配置所需的预选规则。由分析器部分操作ARM实现控制平面开源开放工程。

胡效赫说:通过专家的指导,我们对此有了更充分的了解DPU积累了软硬件特性DPU其他团队也看到了开发经验DPU创新实践。这次经历是基于我们的后续工作DPU研究提供了很好的帮助。”相应的,DPU中国虚拟黑客松比赛也能刺激DOCA在NVIDIA BlueField DPU和NVIDIA DOCA在应用场景中,包括分布式存储、数据流跟踪分析、裸金属云管理、RDMA数据包加解密等。下一步,NVIDIA计划在今年下半年举行第二届会议DPU中国虚拟黑客松活动。

目前,世界上有一半以上的人DOCA来自中国的社区注册开发者。自去年成立以来,DOCA社区先后为国内开发商开放BBS官方论坛、DOCA以及文档库DOCA在微信微信官方账号后台和知乎等知识平台上,微信群积极回答相关问题。另外,考虑到开发者可能没有DPU验证自己的程序,NVIDIA会通过与合作伙伴联合成立DPU & DOCA提供测试和验证代码的优秀中心。丽台(上海)信息科技有限公司和上海鑫鸿智能科技有限公司是参与卓越中心试运行的合作伙伴。

由优秀中心提供DOCA开发环境有三个关键点:一是可远程访问的免费开发环境,或运行已开发的程序;二是提供程序编译、操作和相应测试的完整开发平台;三是主要支持中国DOCA开发者,加快应用创新。同时,优秀中心的工程师和NVIDIA专家也会提供相关的技术帮助。各优秀中心的运营公司将提供两套开发环境,因此在早期阶段将有四套开发环境供免费使用,DOCA开发人员需要自己登录设备和相应的软硬件环境,优秀的中心将提供完整的软硬件DOCA开发环境。

DOCA周一至周四9:00-15:00开放开发环境。申请人可向卓越中心提交申请,审批后2-6小时免费开发环境。需要注意的是,每次申请延长每次申请批准后的时间。例如,在申请4小时后,如果4小时即将用完,则无法延长2小时。您需要再次启动申请。截至今年年底,每个开发者总使用时间不超过10小时。开发人员在申请免费开发环境时,需要提前48小时发邮件,让后台工程师分配系统资源和环境。

一直以来,NVIDIA都是开源领域的积极贡献者,网络市场也是如此,包括SONiC、OVS、DPDK、OpenMPI等等,在整个Linux社区是第三大贡献者DPDK和SPDK社区的第二大贡献者Linux OPI项目创始成员。DOCA开放API和库后,开发者可以通过相关界面更方便地编写应用程序的中间层DPU特点包括硬件卸载、正则表达式、RDMA等。

NVIDIA网络营销总监孟庆说:我们将在那里OPI与基金会做出相应贡献,做出全部贡献DOCA开放出来。上层的东西,包括一些安全功能、存储加速、网络硬件卸载等特点,都会开放,无论是客户,ISV,还是合作伙伴,OEM制造商可以在开放的架构上编写应用程序。这里指的不仅仅是网络程序,而是一个大的数据中心管理程序,它将被调用DOCA这样的框架。”

如今,NVIDIA BlueField DPU作为核心部件应用NVIDIA包括认证系统HGX、EGX和OVX,为这些认证系统平台提供加速以太网或InfiniBand同时连接解决方案NVIDIA Spectrum端到端以太网平台或Quantum InfiniBand网络平台,为现代数据中心的工作负荷提供准确、高性能、先进的安全和丰富的功能,构建AI工厂的核心骨干网络大力支持上层系统软件、高性能计算、人工智能和虚拟仿真平台的应用,在云计算、网络安全、存储、管理平台和边缘计算等领域构建全面的生态解决方案。

从2023年开始,全球相关数据显示DPU市场规模将超过100亿美元,进入年增长率超过50%的快车道。2023年,中国的DPU市场规模将超过300亿元,增长潜力巨大。具体来说,DPU 大规模应用主要面向三个方面:通过数据中心加速计算模型带来的大规模应用,DPU能够为CPU业务应用负载和GPU人工智能和机器学习负载提供数据传输和数据处理,性能成本比、基础设施通用性和软硬件可迭代成为关注因素;定制客户数据中心基础设施应用场景设计,大规模部署DPU满足特定应用场景的需求,解决问题;通过生态系统带来的大规模应用,基于开放和标准化平台提供创新应用的一般集成解决方案可以集成和部署。

可以看到,DPU它围绕着数据在数据中心和应用场景中的一系列特征应运而生DOCA就像是DPU灵魂,两者的结合可以发挥最大的作用。硬件方面,DPU可作为独立芯片或板卡或额外芯片集成GPU或CPU可根据实际应用场景定制客户个性化的购买和部署自由。同时,与之相匹配DOCA借助全面开放的开发套件,最大限度地减少了基于的开发套件BlueField DPU加快业务创新,最大化业务价值,开发门槛和成本。


芯片采购网|IC采购|IC代理商 - 国内专业的芯片采购平台
芯片采购网专注整合国内外授权IC代理商的现货资源,轻松采购IC芯片,是国内专业的芯片采购平台