芯片采购,IC采购,芯片采购平台
芯片
每日新闻头条
多处理引擎的异构系统引领边缘AI高效部署
(2024年10月30日更新)

在过去的两年里,边缘人工智能(Edge AI)由于小型化神经网络架构的进步,实现了加速发展的主要原因(MCU)在设备上实现高精度。这增加了边缘AI 这些应用以以较低的成本实现应用和设备的数量。这方面的一个例子是关键字识别,它已经成为智能家居设备交互的标准方式。

芯片采购网专注于整合国内外授权IC代理商现货资源,芯片库存实时查询,行业价格合理,采购方便IC芯片,国内专业芯片采购平台

边缘AI 它可以反映低功耗的推理引擎到高功耗、具有特定功能、与基站或智能城市视频监控等数据源同处的大型方案,可以体现在多种形式上。在这些较大的设备中,异构架构(即专业加速器)通过降低设计复杂性,提高效率,降低功耗。Imagination TechnologFUJI代理ies 公司图形处理器(GPU)、AI 即将推出的加速器和加速器RISC-V 中央处理器(CPU)的IP 产品组合将是这些边缘AI 应用程序提供全新的功能。

许多用于边缘AI 系统级芯片的应用(SoC)它将包含许多不同的处理引擎,可以有效地划分和卸载工作负载。分离工作负载的另一个优点是,可以使用不同的加速器并行执行多个任务,从而实现高效的多任务处理性能。多处理引擎的异构系统旨在提供不同的计算架构,有效地执行整个系统所需的特定任务。用于现代个人电脑(PC)中的GPU 这是一个很好的例子,它们使用高度平行的计算架构,以便更有效地处理图形,并支持主机CPU 将任务卸载到更高效的引擎上。在开发边缘AI 这一原则也适用于系统。

边缘AI 在保持或提高计算性能的同时降低功耗的压力总是存在的。随着异构架构的使用和处理器技术的优化,机器学习算法的进步也为提高能效和计算性能提供了途径。二进制神经网络(BNN)介绍就是一个例子。BNN 试图通过将网络权重和激活量化到单个比例来实现更高的效率,从而减少内存需求和计算单元的大小。

实现最低功耗推理系统的策略之一是在各种低功耗模式下运行,可以逐步推理周围环境。例如,具有语音控制功能的智能手表可能有三个功耗级别:0和1 和2。在0 在等级功耗模式(即最低功耗模式)下,手表无法实现明显的推理功能,因此只能监控即将到来的高环境噪声。

当监控器听到明显的活动时,手表将切换到模式1。模式1 它会消耗更多的电,但仍然不能完全满载运行。该模式支持手表监控关键字,然后触发最终模式,即模式2,该模式将使用捕获的音频来推理和执行命令。使用这种逐步增加电能消耗的方法,每次都会增加对周围环境的推理,支持系统管理电能,这样只有在高度确定的情况下才能增加电能消耗。

机器学习和人工智能的发展正在促进全球创新和发展。作为人工智能发展和应用的重要市场,中国为经验丰富的机器学习工程师提供了与世界各地的产品开发和工程团队合作的机会,从而获得全球业务经验。

(本文来源《IC2022年4月,代理杂志

芯片采购网|IC采购|IC代理商 - 国内专业的芯片采购平台
芯片采购网专注整合国内外授权IC代理商的现货资源,轻松采购IC芯片,是国内专业的芯片采购平台