跳到主要内容

带有机器学习专用集成电路的pcb

关键的外卖

  • 在过去的几年里,公司已经发布了支持某些机器学习任务的asic。

  • 这些可以通过标准数字接口在PCB上实现。

  • 设计人员需要做出一些明智的设计选择来支持这些asic。

机器学习图形

机器学习和人工智能(AI)是经常被误解的流行词汇,甚至被技术专业人士所误解。当谈到人工智能和机器学习开发时,软件界得到了大部分的关注,但还有另一个重要方面部署的机器学习该领域的模型经常被忽视。在某些情况下,终端设备不能继续依赖云来完成最基本的机器学习推理任务,这些任务需要在终端设备上实例化,或者需要在网络边缘执行。

边缘服务器是从终端设备卸载机器任务的一个选择,但这些单元基本上是精简的、高度特定的数据中心,为客户端设备执行单一任务集。为了进一步减少网络流量和开销,另一种选择是使用特定于应用程序的终端设备进行部署集成电路(ASIC)。业界很早就认识到这一需求,并开始通过一些具有机器学习功能的特定应用集成电路来响应需求。

设计人员如果想通过ASIC将机器学习功能添加到他们的系统中,应该正确规划他们的电路板布局和堆叠来支持这些功能。在本文中,我们将研究asic中可用的一些机器学习功能,以及设计人员可以采取的一些实际步骤来构建支持这些功能的电路板。

具有机器学习能力的特定应用集成电路

所有ASIC都实现高度专业化的数字逻辑,可以通过外部配置引脚和/或与系统控制器(MCU、FPGA、另一个ASIC等)接口的外部数字总线进行编程。专用集成电路实现机器学习和AI专门用于某些类型的推理任务和/或神经网络结构,这意味着它们实现的逻辑特定于标准数字逻辑中的AI计算。

目前可用的asic集中于直接在设备上执行神经网络推理计算。它们实现自己的处理器核心和逻辑块,这些计算可以快速和有效地执行,而在具有组合和顺序逻辑的典型MCU上,相同的任务可能是低功耗和低时间的。这些芯片有时也被称为AI加速器,因为它们实现机器学习算法的速度比主机处理器快得多,能耗也更低。

系统架构

下面是一个具有机器学习能力的ASIC的数字设计的典型系统级框图。

ASIC机器学习

带有AI/ ml ASIC的框图。

在这个框图中,我们有一个带有嵌入式应用程序的主控制器,或者它可以直接在设备上运行嵌入式操作系统。这个主控制器将收集到的数据发送到ASIC进行推断任务。请注意,由于极端的计算需求和所需的数据量,目前的asic类并不适合设备上的训练;这最好是在边缘或云端执行,然后设备的应用程序可以更新为一个新的模型。

有些元素没有在图中显示。首先,显然会有一些电源管理系统在硬件和软件上实现。机器学习ASIC上的特定接口没有显示,但这些接口可能是低速的,用于配置(SPI、I2C等),而高速的,用于发送和接收数据流(通常是PCIe)。

为什么在机器学习中使用ASIC ?

有几个原因为什么ASIC与机器学习的核心会被用在数字系统中。其中包括以下清单中的一些要点:

  1. 减少应用程序的复杂性,因为用于在神经网络中实现推理任务的所需应用程序存在于ASIC中,而不是在固件或软件中。

  2. 减少处理器的要求,这允许主控制器分配资源给系统中的其他任务,而不是使用它的计算进行推断任务。这使设计人员能够选择更小的处理器。

  3. 确保正常运行时间;今天使用机器学习的系统不会在设备上执行任何推理任务。相反,他们将数据发送到云端,接收到的结果在本地进行处理。如果希望设备在没有网络连接的情况下存活,则必须在设备上执行推断任务。

  4. 重构性;在ASIC上实例化的神经网络是设备配置的一部分,可以根据需要进行更改。对网络的更新可以从云上的web服务、训练模型的边缘数据中心或其他设备提供。

用机器学习设计支持asic的pcb

这些设备使用单一的高速数字接口(通常是PCIe),并且应该这样设计。一定要遵循高速的标准PCB布局和路由指南保证信号的完整性。电源完整性也很重要,因为系统规模和IO计数规模很大;这些系统在高速信号期间消耗更多的功率,所以过度的噪声可以从板辐射,除非PDN和堆叠设计正确。确保使用可用的最佳设计软件来构建这些先进的系统,并将其扩展到批量生产。

如果您正在设计一个自定义PCB,以支持具有机器学习功能的特定应用程序集成电路,您将需要正确的PCB布局和设计软件快板PCB设计者抑扬顿挫的全套设计工具能帮上忙。

领先的电子供应商依靠Cadence产品来优化电力、空间和能源需求,满足各种各样的市场应用。如果您想了解更多关于我们的创新解决方案,和我们的专家团队谈谈订阅我们的YouTube频道