人工智能和边缘服务器走向极限

October 1, 2019 John Koon

边缘计算,IIoT,工业物联网,工业物联网

物联网边缘在不断成长,但不一定变得更智能。传感器越多意味着数据越多,但这些数据不一定有价值,不一定可行,甚至根本不相关。这就要求加快将数据转换为信息的速度,并且要求将计算智能和分析带到边缘。

自动化、航空航天和国防工程师都非常熟悉数据过载。大型涡轮机、泵和其他设备可以在数小时内生成数 TB 的数据。如果没有高性能的边缘计算,这些数据的大部分便会随着时间的流逝而变得多余或失去价值。

寻求设计边缘分析的开发人员面临着 IT 和 OT 集成、平衡每瓦性能 (PPW) 的需求以及苛刻的设计要求等挑战。

在远端需要最高智能的长生命周期应用已经在嵌入式微服务器的身上找到了答案。

物联网边缘架构

自从 SoC 开始将更多系统功能集成到单个芯片上以来,嵌入式微服务器便得到了广泛应用。这使得“服务器精简版”平台可以部署在越来越多的环境中。

但是,真正的边缘智能要求超过了传统微服务器的能力范围:

  • 工作负载整合。低延迟边缘分析意味着直接与传感器和其他输入设备对接。在尺寸和功耗非常宝贵的应用中,工程师可能会将所有这些功能集成在同一平台上。而且,如果 OT 和 IT 软件位于同一系统上,则必须具备基于硬件的虚拟化和安全关键型管理程序。
  • 确定性 IT 和 OT 通信。微服务器需要访问用于嵌入式控制任务的实时操作数据,同时支持非确定性企业应用。但需要基于 IP 的确定性连接才能实现最高效率和低延迟。
  • 耐久设计。边缘微服务器必须承受较大的温度范围、冲击和振动以及其他可能损害应用数据或设备本身的条件。

服务器级嵌入式

支持诸如服务器级嵌入式处理器之类的解决方案的重要增强功能可以满足这些不断增长的需求。SoC 提供企业级性能、网络和虚拟化,以及传统的嵌入式环境和生命周期支持。以 16 核、16 线程英特尔凌动® 处理器 C3958为例,

便突出体现了凌动 C 系列在计算性能方面的的优势。该处理器提供了超出边缘分析要求的计算能力,热设计功耗 (TDP) 只有 31 W。相比而言,八核英特尔® 至强® D 处理器的 TDP 则达到了 35 W。

该设备之所以能够成为服务器级嵌入式处理器,则是由于它对虚拟化的支持。英特尔® 虚拟化数(英特尔® VT-x)提供了硬件辅助,可借助管理程序对 IT 和 OT 软件进行安全分区。它还充当了英特尔® 定向 I/O 虚拟化技术(英特尔® VT-d)的基础。

英特尔 VT-d 是 VT-x 的扩展,可为虚拟机分配 I/O 带宽。这使得虚拟化操作系统和应用程序能够通过 VMM/管理程序避免吞吐量性能在访问资源时出现损失(图 1)。

英特尔定向 I/O 虚拟化技术(英特尔 VT-d)通过硬件重新映射来尽可能扩大系统吞吐量
图 1。英特尔® 定向 I/O 虚拟化技术(英特尔® VT-d)通过硬件重新映射来尽可能扩大系统吞吐量。(资料来源:英特尔® 公司

最后,对于平衡 IT 和 OT 工作负载的边缘微服务器而言,确定性以太网将产生颠覆性的改变。确定性以太网基于 IEEE 1588 精确时间协议 (PTP),通过使传感器和执行器具有时间意识来实现与其基于 IP 的通信。

它还有助于同步在操作层与企业软件之间传输的应用程序数据。通过分配足够的带宽,确定性以太网可以提供可靠的低延迟通信,以支持实时边缘分析。

要了解有关以太网 TSN 的更多信息,请阅读时间敏感网络:是夸大其辞?还是名副其实?

尺寸更小、功能更强大的标准

这些新技术为微服务器提供了边缘分析所需的性能。

其中一个解决方案便是 VersaLogic Corp. 开发的 Grizzly VL-ESU-5070。Grizzly 是基于凌动 C3958 处理器的 COM Express 扩展嵌入式服务器单元 (ESU)(图 2)。

VersaLogic 的 Grizzly 平台是一个工业级嵌入式服务器单元
图 2。VersaLogic 的 Grizzly 平台是一个工业级嵌入式服务器单元。(资料来源:VersaLogic Corp.

155 mm x 110 mm ESU 是一个双板解决方案,保护一个计算模块和一个载板。散热板位于 COM 板处理器一侧,可确保在高温下有足够的散热。

尽管采用了这种多板架构,但 Grizzly 平台仍可满足 MIL-STD-202H 的冲击和振动要求,以便在极端环境中进行部署。

Grizzly 集成了 128 GB 的 ECC 内存,以确保在恶劣环境下的数据可靠性。这有助于消除在恶劣的部署条件下可能发生的单位错误。

VersaLogic Corporation 的产品经理 Bob Buxton 说:“单位错误通常是由于内存位翻转引起,而不是任何硬件故障导致。这通常是由某种形式的辐射源引起,例如α粒子或宇宙射线。因此,ECC 内存在飞机部署和高空长航时无人机部署方面特别重要。”

如需增加非易失性内存,主板上还有一个 M.2 插槽。

Grizzly 包含两个 10 GbE 端口和四个 1 GbE 端口,所有端口均支持 IEEE 1588 精确时间同步。这允许边缘微服务器在数据流量之间维持可靠的确定性通信。1 GbE 接口中有两个 PoE 端口,能够为相机、HMI、无线接入点等供电。

Buxton 还说道:“10 千兆位以太网端口可以连接到 IT 网络,然后通过该网络连接到云端。千兆位以太网端口将在网络的 OT 端运行。当然,Grizzly 也具有 GPIO,可用于连接 OT 端传感器和执行器。”

对 Windows 和 Linux 的支持意味着开发人员可以轻松利用上述虚拟化技术。

魅力四射:边缘人工智能

随着边缘智能的进步,组织将找到收集更好数据的新方法。基于 Grizzly 等平台的边缘微服务器架构提供了向前迁移的路径。

Buxton 解释道:“人工智能推理实际上可以在多种设备上完成。我们今天看到它已经在英特尔凌动产品上完成,因此,Grizzly C 系列的 16 个内核应该能够轻松处理这些工作负载。”

如果人工智能和分析工作负载需要更高的性能,则可以在 Grizzly 的其中一个板载插槽中加装处理器,例如 mini-PCIe 卡式英特尔® Myriad 设备。

从软件角度来看,虚拟化技术(比如英特尔凌动 C3958 中集成的技术)可以安全地添加、更新或替换较新的企业应用,而不会影响现有应用。借助英特尔和 VersaLogic 提供的长生命周期支持,将这些功能设计到嵌入式微服务器中可以将平台寿命延长数年。

“服务器级嵌入式”为边缘分析而生。您做好准备了吗?

作者简介

John Koon

John Koon’s current roles include embedded technology research and publication. He was the Editor-in-Chief of the RTC Magazine and COTS Journal. Additionally, he has published numerous technical articles, blogs, and ebooks. His areas of research include aviation, AI, autonomous driving, robotics, automation, medical innovations, wireless technology (including 5G and low-power WAN, fog computing (beyond cloud), IoT, NB-IoT, and LoRaWAN), cybersecurity, blockchain, M2M, software, aerospace, manufacturing, and COTS advancements. He holds a BS in engineering (California State Polytechnic University, Pomona) and an MBA (San Diego State University), and had 20 years of management experience.

John Koon 的更多内容
上个文章
人工智能基准性能测试:开工晴雨表
人工智能基准性能测试:开工晴雨表

准备将转变范式的人工智能算法推向市场吗?确定它是否应该在 GPU、FPGA 或 VPU 上运行可以降低功耗、成本和延迟,同时还能提高系统准确性。核对基准。

下个文章
系统集成商如何应对物联网的严峻挑战
系统集成商如何应对物联网的严峻挑战

复杂问题需要复杂的解决方案。以下是系统集成商和分销商如何合作以利用物联网发挥创意的方法。