Skip to main content

运营效率

嵌入式系统:平衡功耗、性能和人工智能

农业机器人在菜地里喷施肥料。

在嵌入式系统行业,一切都是为了达到一个平衡点:边缘与云;软件与芯片;高性能与速度;功耗与能效。当然还有成本!在诸多行业中,不同的应用有各种选项为其提供支持,随着边缘和人工智能变得越来越普及,这种情况更是如此。

我们向 Avnet and Tria Technologies(前身为 Avnet Embedded)全球营销总监 Alex Wood 询问了有关嵌入式系统的全面信息。他谈到了依赖嵌入式系统的广泛行业、人工智能对整个行业的重要性,以及找到处理器性能与效果的恰当平衡(视频 1)。仅仅因为一家公司可以拥有最新、最快的处理器,就可以了吗?或者仅仅是因为该公司部署了新处理器来创建一些耀眼的新技术或应用,他们的客户就会想要使用吗?

视频 1。来自 Tria Technologies 的 Alex Wood 讨论了真实世界边缘 AI 应用及其需求。(资料来源:insight.tech

嵌入式系统领域当前的技术趋势是什么?

我认为我们正处于行业的转折点。在人工智能领域,人们非常重视将工作部署到云端。同时,那些想要把工作部署在边缘的人会遇到很多阻力。但这两种人都会有各自的挑战和潜在的挫折。客户对我们说:“我们希望利用这种技术,但我们不太确定如何利用它。”

在边缘推动人工智能有哪些挑战?

我认为性能是关键,这决定了人工智能的成败。人工智能消耗大量数据,对能源的要求极高。人工智能让比特币现在看起来几乎属于节能产业。许多企业没有意识到这些应用程序在边缘消耗了多少能源。他们将需求外包给了数据中心,因此不能第一时间了解这些挑战。

因此,我认为降低执行这些应用的功耗要求将是一项关键挑战。这将决定人工智能是否在这波热潮中持续发酵 — 取决于您如何定义人工智能及其工作原理。随着这些应用程序访问和导入大型数据模型并实时处理任务,它们都需要更节能、更具热效率的处理能力。

您的客户现在正在构建哪些应用程序?

目前我们正在与客户合作完成很多不同的事情。例如,一种新型农业应用将人工智能作为替代方案,执行将危险的永久化学物质放入土壤这样的任务,或者提高农业效率。

您可以训练人工智能机器人识别田地里的杂草,并区分哪些是杂草和害虫,哪些是农作物和无害昆虫。如果没有机器人,则必须人工步行穿过田野,拍摄不同植物的照片,然后再将知识传授给在这些田地里工作的人们。您可以创建一个人工智能应用程序来为您进行作物检查。

您希望能够在边缘对机器人进行编程,以便进行基于边缘的人工智能识别;您不一定想将所有这些内容放入数据中心。在这种情况下,您也不一定拥有可靠的蜂窝数据连接。就处理要求而言,视觉技术是实现质的飞跃的关键 — 实时视觉人工智能能够尽快识别它所看到的内容,然后在短时间内根据识别结果采取行动,而不必将信号送回数据中心进行处理。

另一方面,比如家用的自动割草机,他们可以在草坪周围绘制出最佳工作路径。一个是面向未来的大型公益解决方案;另一个是更实用、更现实的解决方案。正是现实世界中的这些真正的挑战让技术得到了充分的检验。

在高性能处理器方面,用户应该考虑什么?

我们的许多客户都会为不同的市场创建不同等级的产品。在规模化农业中 — 比如在拥有巨大农场的美国,他们希望能够快速完成任务,并且他们会有最高级的解决方案来覆盖大型农场的广袤面积。他们也有能力和资金来投资。也有速度较慢、更便宜的中端应用,当然还有更低端的选择。

对我来说,现实中的应用推动了该行业的发展。我总是想起了互联网上的一张图片:这是一片田野,还有一条围绕四周的人造路径。然后有一条被走过的小路,斜着穿过田野,人们刚刚走过这条小路。这就是设计与用户体验的关系。

我们最近在人工智能/物联网领域看到了这一点,人们都在谈论有哪些可能性,但最终的成功是由实际使用并发现它的作用的用户来定义的。我最近将旧冰箱升级为半物联网模型,它会告诉我冰箱门是否打开或者温度是否过高或过低。我不需要屏幕提供有关天气的信息,我的厨房里已经有一个单独的显示器,我也不需要摄像头。但如果门没关,它就提醒我,这一点我会喜欢。这些现实生活中的应用就在我们身边。

处理器与内存的组合有多重要?

它和我之前所说的能效有关。如果我正在组装一台游戏电脑,我希望拥有更高的帧速率,让视频渲染速度更快。但上次我升级显卡时,我的电源设备的尺寸较之前增加了两倍。我当时用了 1000 瓦的电源驱动这台电脑设备,而以前 300 瓦就已经很多了。您可以囊括所有的技术创新以及令人兴奋和您想要的任何装备。但实际上,您必须以一定的功耗运行才能获得您想要的效果。您必须牺牲一些东西才能获得其他东西。

看看电动汽车:您给它添加了很多花哨的东西,所以它变得越来越重,以至于续航里程都缩短了。但是,如果您想要车子的续航里程更远,就必须改进空气动力学,这意味着放弃电动座椅等设备以减轻重量。因此,您必须找到一个平衡点,即在所有应用之间的最佳位置。

对于大多数客户来说,与其说是获得更强大或最强大的处理器,不如说是在应用特定的消耗、续航和能力之间取得平衡。当然,对于某些客户来说,出于营销目的:他们想要购买绝对顶级的旗舰处理器,即使他们可能根本用不到。有时候,根据他们的应用,也许真的需要这样做。但我倒愿意与客户坐下来谈谈:“告诉我您真正要构建什么。”而不是说,“您需要最顶级的产品。必须是 i9 处理器。”

Avnet/Tria Technologies 如何满足用户的各种要求?

我认为我们的产品范围非常广泛,从小型低功耗计算应用,一直到配备服务器级英特尔处理器的 COM-HPC。这些是专为基于边缘的图像处理和人工智能应用而设计的,但它们的尺寸也更大。因此,您必须保持尺寸和功耗之间的平衡,然后看看性能如何。

许多较大的模块、COM-HPC 模块都与主板大小相近,所以您必须将它们放入专用机箱中。除非产品的尺寸巨大,否则您不能将这些模块直接嵌入产品中。公共交通是我们目前正在研究的一项大型产品。对于这样的产品,能够从火车或火车站的大量传感器中获取数据,分析所有数据,实时做出反应 — 这就非常需要一台本地服务器。而且,有时可靠的数据网络也不是绝对可靠。

您能否谈谈 Avent/Tria 与英特尔的合作关系。

例如,我们与英特尔合作开发的协作机器人 — 这是为我们的一家客户研发的合作型机器人:将实时图像传感器嵌入到协作机器人环境中,让机器人能与人类在同一空间中安全工作。如果人类进入机器人的空间,机器人的手臂就会停止移动;如果人类拿起东西,机器人就会知道东西在哪里,并从人类手中接走东西。

我们今年在纽伦堡展示了嵌入式空间的初步示范。图像处理是围绕基于英特尔的 SMARC 模块和基于英特尔的 COM-HPC 模块的组合而构建的。这两个模块可以相互通信以分析摄像头发出的信号,然后与机器人实时通信。

我们为客户选择的处理器取决于需要嵌入的模块的大小和形状。我们通常提供英特尔凌动® 和英特尔® 酷睿 系列,在服务器端则提供英特尔® 至强® 系列。看到产品团队将产品嵌入如此狭小的空间里,真是很酷的事情。我多年来一直在研究主板和主板工艺,因此看到这种计算应用在如此小封装中进行各种热管理 — 这是一门精细的艺术。

在产品将要使用的环境中开发应用对我们来说是一项令人着迷的挑战。能够部署英特尔处理器及其功能,同时采用我们正在开发的基于人工智能的新工艺,将这些功能融入到小型产品中从而在边缘使用,这也是非常让人振奋的事情。

最新的人工智能技术如何推动嵌入式系统的进步?

我最近参加了一次英特尔人工智能相关的活动,那些围绕人工智能如何在边缘加速应用的研究非常有趣。有些超市结账应用程序可以自动识别您持有的产品,以及实现超市排队管理自动化。

戴尔也上台展示了​​他们将要发布的内置人工智能应用程序的笔记本电脑 — 这是一款人工智能设备,而不是计算设备,并且真正融入到协作式人工智能应用程序环境中。英特尔展示了一段研究视频,是基于图像处理平台在非洲发掘未来有奥运潜力的运动员的案例。内容真的非常精彩,也打开了我的想象力。

我认为人工智能目前正处于一个转折点,而边缘计算也正处于一个关键点 — 能够将人工智能应用程序从云中转移到设备上。在这个领域利用小型计算和人工智能来工作是非常让人激动的。

相关内容

要详细了解最新的边缘人工智能创新,可以看看英特尔全球合作伙伴在其行业中的表现,并收听我们的播客超越宣传:真实世界边缘人工智能应用。要了解 Tria Technologies 的最新创新,请在 LinkedIn 上关注他们。

 

本文由文案编辑 Erin Noble 编辑

作者简介

Christina Cardoza is an Editorial Director for insight.tech. Previously, she was the News Editor of the software development magazine SD Times and IT operations online publication ITOps Times. She received her bachelor’s degree in journalism from Stony Brook University, and has been writing about software development and technology throughout her entire career.

Profile Photo of Christina Cardoza