Skip to main content

运营效率

SR-IOV:在工业物联网中充分发挥 GPU 的功能

工业物联网

图形处理器 (GPU) 已成为工业物联网 (IIoT) 的重要资源。嵌入式解决方案提供商 DFI解决方案产品经理 Waterball Liu 表示,任何需要高度密集计算的应用(例如,机器视觉处理、数据分析或机器学习应用)都可以从 GPU 受益。

但是,对于将上述严苛的工作负载整合到单个系统中的多功能平台来说,对性能的需求尤其强烈。添加图形显示到组合中(这些整合系统中的常见功能),而 GPU 变得更加重要。

接下来的挑战就变成了如何共享 GPU。

现代工业物联网系统通常使用虚拟化或容器来整合工作负载,但这两种技术都会在 GPU 级形成性能限制瓶颈。这一切都归结为复杂性。随着时间的推移,虚拟化技术逐渐扩展至包括内存、I/O 设备、网络和存储,但并非所有硬件组件都可以轻松虚拟化。

显卡技术就是最好的例子:现代 3D 渲染管道的高度复杂性、不同厂商的 GPU 之间缺乏统一的指令集标准,以及高度可编程的 3D 应用程序编程接口,使得 GPU 驱动程序变得类似于高级语言编译器,这也提高了 GPU 虚拟化的技术要求。

对于工业物联网平台开发人员来说,他们的主要目标是以最低的成本和资源利用率更充分地利用单个系统,而这些障碍通常会使围绕 GPU 技术构建工作负载整合系统变得费力不讨好。

SR-IOV 在 GPU 虚拟化中的作用

但如果出现某个问题没有相应的解决方案,那么从技术角度一定会找到解决办法。

例如,PCIe 标准单根 I/O 虚拟化 (SR-IOV) 定义了一种通过将物理设备划分出多个虚拟功能来共享物理设备的方法。SR-IOV 已广泛用于虚拟化网络适配器,这意味着它提供了一种易于理解且经过彻底现场测试的编程模型。

但当该技术应用于 GPU 的新环境时,每个虚拟机 (VM) 或容器都可以获取具有接近本机性能的显卡功能。

Liu 解释说,“SR-IOV 降低了虚拟化环境的开销。它使近 100% 的 GPU 功能可用于虚拟化应用程序。”

SR-IOV 的实际应用:性能游戏规则的变革者

过去,工业工作负载整合所需的高性能 GPU 只能以昂贵的独立芯片的形式提供,这给工业系统带来了不必要的成本。但当今的主流处理器,如第 12 代英特尔® 酷睿 嵌入式处理器,在其集成显卡引擎中提供具有相当高性能的 SR-IOV。Liu 指出,“英特尔® 处理器中的集成 GPU 为工业计算提供了经济高效且可靠的解决方案,并且无需额外的独立 GPU”。

这种简化的 GPU 加速方法为优化工业工作负载开辟了新的可能性。Liu 以检测系统为例。他表示,“这些系统需要大量的计算能力来执行与 AI 相关的任务,例如缺陷检测和图像识别。借助集成显卡和 SR-IOV,这些系统能够以最小的系统复杂性高效地执行这些应用程序”。

例如,采用 SR-IOV 的第 12 代酷睿处理器至多可支持 4 个独立显示器和 7 个虚拟化功能。图 1 说明了多达 7 个虚拟机如何独立访问这些功能。

英特尔® 显卡 SR-IOV 可实现 GPU 的高效共享。
图 1。英特尔® 显卡 SR-IOV 可实现 GPU 的高效共享。(资料来源:英特尔

Liu 解释说,在实际应用中,SR-IOV 的影响是非常显著的。作为第一家在搭载集成显卡的英特尔处理器上验证 SR-IOV 的公司,DFI 通过在其 ADS310 microATX 主板上运行两个虚拟化 Windows 10 操作系统(一个采用 SR-IOV,另一个不采用 SR-IOV)来展示性能的提升。

在概念验证中,将一个视频文件通过两个操作系统从本地存储进行流式传输,并通过 Wi-Fi 和 100 Mbps HDBaseT 以太网传输到远程显示器。未采用 SR-IOV 的设备的显卡吞吐量约为 28 fps,而采用 SR-IOV 的设备的显卡吞吐量为 60 fps(这是实现流畅显卡渲染的常见目标)。

当然,SR-IOV 带来的性能提升不仅仅局限于视频流;该技术可应用于工业环境中的大量人工智能物联网 (AIoT) 工作负载。例如,该技术是 DFI 虚拟化工业自动化和零售业解决方案的核心。

Liu 解释说,“您现在只需要一台计算机即可输出到多个屏幕。想象一下工业产品线,其中每个制造阶段都有自己的显示器。每个阶段的显示器可能只是暂时运行。”

他继续说道,“过去,此类应用需要许多台计算机,或一台搭载功能更强大且昂贵的独立显卡适配器卡的计算机。但现在,使用一个英特尔嵌入式处理器即可。”

高效人工智能物联网充满前景的未来

英特尔® 显卡 SR-IOV 正在成为工业自动化和人工智能物联网应用领域潜在的游戏规则改变者。通过使高性能应用程序能够在集成 GPU 上高效运行,它为提升效率和功能开辟了新途径。

AI 的潜在优势尤其引人关注。Liu 表示,“越来越多的 AI 应用需要强大的计算能力,应用越来越复杂,功能也各不相同。因此,新一代处理器和显卡将为 AI 和其他应用需求提供更灵活、功能更强大的解决方案。”

他总结说,“通过 SR-IOV,我们将开启工业物联网发展的新篇章。”
 

本文由 insight.tech 的副主编 Christina Cardoza 编辑。

作者简介

Brandon is a long-time contributor to insight.tech going back to its days as Embedded Innovator, with more than a decade of high-tech journalism and media experience in previous roles as Editor-in-Chief of electronics engineering publication Embedded Computing Design, co-host of the Embedded Insiders podcast, and co-chair of live and virtual events such as Industrial IoT University at Sensors Expo and the IoT Device Security Conference. Brandon currently serves as marketing officer for electronic hardware standards organization, PICMG, where he helps evangelize the use of open standards-based technology. Brandon’s coverage focuses on artificial intelligence and machine learning, the Internet of Things, cybersecurity, embedded processors, edge computing, prototyping kits, and safety-critical systems, but extends to any topic of interest to the electronic design community. Drop him a line at techielew@gmail.com, DM him on Twitter @techielew, or connect with him on LinkedIn.

Profile Photo of Brandon Lewis