Skip to main content

人工智能

为何软件与边缘计算硬件你追我赶

工作负载整合

在嵌入式计算行业中,硬件领先与软件领先的局面一直在交替出现。工程墙两边的成员轮流抢占先机,然后等待同行开发功能集,一路赶上。

目前的情况是硬件领先,第 12 代英特尔® 酷睿 处理器等 CPU 通过组合 Performance-core(性能核)和 Efficiency-core(能效核)提供的基础架构,可优化同一系统上不同的边缘和企业工作负载。尤其是当您将这些处理器与 PICMG COM-HPC 模块等嵌入式硬件搭配使用时,由于这些嵌入式硬件可适应性能和散热设计功耗 (TDP) 更高的设备,因而可以将多个软件工作负载整合到单一硬件目标上。

现在该轮到软件基础来帮助先进的硬件进行扩展了。这种进步只能以管理程序的形式出现。

最新的酷睿处理器支持工作负载整合

基本上说,工作负载整合会将多个操作融合到更少的平台上,从而优化运营,提高平台的可扩展性。这通常意味着确定性应用程序在一个核心上运行,而企业或人工智能核心在其他核心上运行。这种分离做法有助于最大限度提高性能,同时让关键资产更加安全。另外,这种做法还提高了可靠性,因为组件减少意味着故障点也更少,且总系统成本也有所下降。

但请注意,原始设备制造商 (OEM) 和系统集成商所采用的软件堆栈必须能充分利用工作负载整合的优势,这意味着最大化系统分区。
分区的数量通常取决于终端应用程序的需要,包括使用基于微处理器多核架构的管理程序。特别是来自实时系统 (RTS) 的实时管理程序,此类管理程序针对英特尔凌动® 、英特尔® 酷睿 和英特尔® 至强® 处理器进行了调整,支持在边缘环境的 congatec COM-HPC 模块等主板上进行工作负载整合。

“可以轻松配置 RTS 管理程序,完全满足您的系统需求,” congatec 产品营销总监 Christian Eder 表示。“配置文件基本上就是一个易于生成的文本文件,利用该文件,您可以将计算机资源和操作系统 (OS) 精准分配给不同的 CPU 核心,并指定运行时环境的首选项。它被用作引导加载程序的输入源,将系统划分为多个系统。”

RTS 管理程序还支持将英特尔® 虚拟化技术(英特尔® VT-x)和英特尔® 定向 I/O 虚拟化技术(英特尔® VT-d)等虚拟化技术用于其他设备。它可确保与其他操作系统并行运行的实时操作系统获得强大、实时、无与伦比的性能,且不会影响到时效性功能,也不会增加任何延迟。对于定制应用程序,RTS 将直接与客户合作,针对特定需求对管理程序加以调整。这可能包括拥有多个操作系统的确定性解决方案。

COM-HPC 上特定于核心的工作负载

可以利用工作负载整合的 COM-HPC 模块的一个例子是 conga HPC/cALS,该模块适用于工业环境(图 1)。它拥有多达 16 个处理器核心、最大 128 GB 的内存占用空间、多达 2 个 2.5 GbE 连接,且支持时效性网络 (TSN)。

采用英特尔® 至强® D 处理器的 congatec conga-HPC/cALS 图片
图 1。congatec conga-HPC/cALS 支持采用多达 16 个处理器核心和 128 GB 内存进行工作负载整合部署。(来源:congatec

板载第 12 代英特尔® 酷睿 处理器在最近推出的 COM-HPC 平台上采用 PCI 5.0,性能超过前几代,有望获得最快的图形和高级人工智能功能。由于英特尔处理器和实时管理程序(如 RTS 中的管理程序)所提供的严格管理和分离做法,人工智能加速可利用英特尔® 发行版 OpenVINO 工具套件实现并得以简化,同时可以在工作负载整合系统中实现。

存在一些可能会削弱性能的限制。例如,以太网技术现在可以扩展到 100 Gb 或更高,COM-HPC 可以使用服务器型模块来应对这一变革。按照同样的思路,TSN 因为分割了带宽而简化了设计,并减少了所需电缆的数量,有助于在设计中进行实时通信,这在许多自动化和机器人用例中至关重要。

在许多应用中,实时通信通过 5G 介质来执行。通过网络切片得到增强的平台可以在工业 4.0 实时部署中以无线方式运行。无论如何,网络堆栈都需要由操作系统来管理,而如果该操作系统是用来控制机器人自动化系统这样的对象,一定不能受到进程间干扰或资源限制。在这些情况下,第 12 代处理器与硬件虚拟化支持和 RTS 管理程序结合使用,可确保正在进行的任务有充足的系统资源可用。

“最新版本的实时管理程序已经将性能核和能效核考虑在内。设计师可以决定最适合其实时应用程序的核心类型,例如,为性能需求较高的实时应用程序指定 P-core(性能核),或者将高效的 E-core(能效核)分配给 RTOS 来处理较轻量的工作负载。时钟速度也应固定,以便始终保证为实时操作提供可预测的时间表,” Eder 说道。

追赶软件堆栈

如大家所见,将英特尔的第 12 代酷睿处理器与包含工作负载整合的策略搭配使用,可让任务关键型边缘和企业应用程序配备真正的物联网超融合系统。这甚至适用于任务关键型自动化系统,可降低此类设备因故障或操作不当而造成人员伤害或财产损失的风险。

“当然,拥有一个系统而不是多个系统也有助于提高可靠性;想想 MTBF,” Eder 说。“拥有的组件越多,有可能出现故障的组件也就越多。如果是两个独立的系统,MTBF 就是仅拥有一个系统时的一半。”

采用第 12 代英特尔® 酷睿 处理器,可实现高效的工作负载处理,这意味着可以采用动态时钟和核心分配。
任何实时线程都以应用程序所需的固定频率托管在核心上的独立虚拟机上,而对于任务不太关键的非实时线程则可以“按需”处理。

利用英特尔® Thread Director 等技术和严格的管理程序进行管理时,寻求通过工作负载整合最大限度利用系统的开发人员可以在提供完整实时功能的同时,更有效地完成管理系统电源等工作。通过最大限度发挥现代硬件的功能,软件团队最终可能会赶上来。

 

本文由 insight.tech 的副主编 Christina Cardoza 编辑。

作者简介

Brandon is a long-time contributor to insight.tech going back to its days as Embedded Innovator, with more than a decade of high-tech journalism and media experience in previous roles as Editor-in-Chief of electronics engineering publication Embedded Computing Design, co-host of the Embedded Insiders podcast, and co-chair of live and virtual events such as Industrial IoT University at Sensors Expo and the IoT Device Security Conference. Brandon currently serves as marketing officer for electronic hardware standards organization, PICMG, where he helps evangelize the use of open standards-based technology. Brandon’s coverage focuses on artificial intelligence and machine learning, the Internet of Things, cybersecurity, embedded processors, edge computing, prototyping kits, and safety-critical systems, but extends to any topic of interest to the electronic design community. Drop him a line at techielew@gmail.com, DM him on Twitter @techielew, or connect with him on LinkedIn.

Profile Photo of Brandon Lewis