教育新闻网先进的机器学习电子中心(CAEML)在DesignCon新建的机器学习轨道上非常活跃，帮助展示了硬件设计社区的许多高质量论文。
为庆祝今年成立三周年，CAEML一直处于机器学习及其在硬件和电子设计中的应用的最前沿。该中心的许多研究都通过机器学习的推理直接应用于硬件和设备管理领域-从主动的硬件故障预测到通过代理模型进行的复杂性能建模，再到用于资源预测的高维时间序列预测。
本文将研究这项研究的一些成果及其在AI定义的下一代硬件平台上的应用。
近年来，物联网(IoT)设备呈爆炸式增长。Gartner的分析师预测，物联网将在未来五到十年内产生约2万亿美元的经济效益。管理如此多的设备成为一项重大挑战。为此，国际电工委员会(IEC)提出了一个三层框架来管理IoT设备：企业，平台和边缘。
在这三个层中，在边缘层管理物联网已成为近年来最热门的话题之一。如图1所示，物联网管理的最初一代是以云为中心的，从现场收集传感器数据，然后在企业或平台层进行处理和分析。但是，大量数据需要流回云，并且需要大量数据处理能力来进行结构和分析。
人工智能(AI)的进步与各种现场传感器数据的可用性相结合，允许在边缘使用AI进行智能物联网管理。当推理发生在边缘时，流向云的净流量将大大减少，同时物联网设备的响应时间将缩短到最小，因为管理决策将在本地(或本地)附近进行。设备。
在支持物联网设备的边缘AI推理领域已经进行了大量研究。可以在企业或平台层完成传感器数据的大数据大批量收集和AI引擎的培训，然后可以通过推断传感器数据将生成的AI模型下载到边缘层并进行智能管理。
已经提出了各种按比例缩减的AI硬件，例如GPU，矢量处理器和FPGA，以在边缘提供高效且具有成本效益的推理。这是可能的，因为典型的物联网功能相对简单且重复。训练有素的模型可以轻松地安装到简单的推理引擎中，并执行必要的任务。
