Skip to main content

AI • 物联网 • 网络边缘

将边缘 AI 运用到医疗物联网应用中

HPEC

将原本只运用于医院实验室和手术室的 AI 转移到护理的起点(即现场),是医疗物联网应用的下一个重大转变。

想象一辆配备坚固型边缘电脑的救护车。有了性能和能效的平衡,急救人员可以直接将便携超声波扫描仪等设备的结果直接传入电脑,边缘 AI 算法便可以分析、扫描是否异常。这些推理能够从移动的救护车上无线传输给医院里的医生,在抵达医院时节省宝贵的时间,更好地救治患者。

这样的设备可以释放无限潜能,可以在无数个边缘环境中改进患者护理状况,比如医生办公室、郊区诊所或是临时救灾点等。

以往,在主要医疗设施中部署的高端医疗成像机器都要分析大量传感器数据。这些机器对计算功能需求很大,导致它们体积大、重量大、能耗大。同时价格也很昂贵。

现在大多数边缘设备的边缘处理能力有限,需要先将数据经由云端传输到数据中心进行分析。得到结果后再传输回边缘设备中。这样的流程会产生延迟,而且需要可靠的网络连接,而这样的网络连接并非始终可以使用。以这种方式传输大量数据不实际,成本也高。所以边缘医疗设备需要本地的算力,通常由 AI 技术辅助。

新一代微处理器能够解决这两个技术问题。它具备扩展的原始计算功能、执行效率和大范围数据运动都足够缩减机器尺寸、降低能耗,而它们都是进行更广泛部署的前提。

“传统的边缘智能计算模型不适用于边缘医疗成像设备,”物联网解决方案开发商 SECO USA 业务开发与营销部门副总监 Rodney Feldman 解释道。“大量的传感器数据通过潜在不可靠的渠道传输,会让患者面临风险。而且开发这类分布式处理系统过于复杂、耗时长。需要仔细进行算法分区,对边缘设备和云软件分别进行实施和测试,最后对整个系统进行详尽测试。解决方案是尽可能在边缘多实施智能,并最大限度减少数据传输。”

抵达边缘 AI 的更快途径

医疗用例很好地解释了物联网开发者为何转而使用现成的高性能嵌入式计算解决方案 (HPEC),它们在将云功能移动到边缘时算力更足,效率更高。为了提供与云相当的服务,这些解决方案还必须包括高速 I/O,来从高端设备如超声波探测和其他医疗成像仪中以每秒几千兆字节的速度读取数据。

如今,医疗原始设备制造商 (OEM) 和系统集成商可以从基于第 12 代智能英特尔® 酷睿 处理器(旧称 “Alder Lake”)构建的平台上获取这些功能。

这些全新处理器采用异形计算架构,配备多达 14 个 P-core(性能核)和 E-core(能效核)以及 96 个英特尔锐炬® Xe 显卡执行单元。在坚固型医疗边缘服务器等用例中,一台智能、低延迟的集成硬件调度器将复杂的 AI 工作负载分配到性能内核和显卡单元中,而较轻松的系统管理任务则发送到效率内核。

在数据获取方面,第 12 代智能英特尔® 酷睿 台式处理器代表着 PCIe 5.0 接口首次可用。该处理器的 16 个 PCIe 5.0 连接通道支持 32 GTps 的数据传输速率,为从诊断设备或其它设备获取超高速、高分辨率传感器数据提供了足够带宽。

强大的安全性和高级虚拟化技术也是这些系统中至关重要的部分,特别是考虑到医疗应用的性质。它们不仅需要保证能够可靠、确定地执行关键操作,还要保护患者的敏感数据免于泄露或曝光。

这一切组合起来,才能在同一个集成 HPEC 平台上支持多个如这类医疗用例般高需求的应用程序。

Feldman 说:“独立但互补的技术在这些处理器中的卓越性能与超高集成度,能够让我们更全面地在边缘部署新的应用。我们得以用更少的硬件推动更多的智能,这当然也意味着更小的体积、更轻的重量、更低的能耗和成本。”

定制主板,投入应用

尽管处理器的效率较高,要开发一个紧凑的坚固型边缘服务器会带来严重的散热和电磁干扰 (EMI) 的设计问题。更先进的处理器通常有更多针脚,它的信号也会变得更快、声音更大,从而也消耗更多电量。

在认识到这些潜在挑战和 HPEC 平台部署趋势后,PCI 工业电脑制造商集团 (PICMG) 发布了 COM-HPC 模块化计算机的标准。和其他 COM 一样,COM-HPC 采用双板架构,其中有一个处理器模块和载板,但其不同之处在于,它的设计旨在支持 PCIe Gen 5 和 25 Gbps 以太网等高速接口、高达 150 W 的处理器,并具有两个 400 针连接器,支持丰富的连接。

谈到 COM-HPC 最大的优势时,Feldman 说,“我们在设计好、经验证的模型中,装进了更多的针脚和功率包络。”“很重要的一点是我们可以通过 COM-HPC 连接器来使用高速接口。例如,开发 PCIe 5 和 USB 4 这类电路接口,及像第 12 代智能英特尔酷睿这样的高速处理器,需要高度专业的信号和电源完整性相关知识,并知道如何将它应用到电路板设计中。使用 COM-HPC 模块,就无需再设计核心计算平台。”

SECO 的 Orion 解决方案是一个 COM-HPC 客户端(尺寸 A)模块,搭载第 12 代智能英特尔酷睿 H 系列移动式处理器,开箱即用。但公司也基于第 12 代智能英特尔酷睿 S 系列处理器设计了定制的 COM-HPC 模块、载板和其他解决方案,可以加速上市时间,并最大限度降低风险。

SECO 还有一个面向垂直市场的应用程序软件团队,成员是算法开发专家和数据科学家,可以助力 AI 系统更上一层楼。

重新定义医疗边缘(和云)

早期就显而易见的是,物联网应用程序未来所需的分布式智能将比当时已应用的规模大得多。当时,大家更多地考虑如何最大程度减少通过网络捕获、传输的数据,但是原因正逐渐改变。现在,我们考虑的是最大限度利用分布式智能可以带来的好处。

在由第 12 代智能英特尔酷睿处理器和 COM-HPC 模块等技术支持的边缘 AI 服务器中,医疗原始设备制造商和集成商可以将多个处理器整合到更小、散热更快、能耗更低、更轻便且价格更低的设备中。

Feldman 说,“做到这一点后,您可以将更多的诊断设备投入这样的运用中。”“您可以将强大的坚固型系统部署在救护车中,使急救人员有更大的自主权,可以更快地作出决定并立即采取行动。”

 

本文由 insight.tech 的编辑副主管 Georganne Benesch 编辑

作者简介

Brandon is a long-time contributor to insight.tech going back to its days as Embedded Innovator, with more than a decade of high-tech journalism and media experience in previous roles as Editor-in-Chief of electronics engineering publication Embedded Computing Design, co-host of the Embedded Insiders podcast, and co-chair of live and virtual events such as Industrial IoT University at Sensors Expo and the IoT Device Security Conference. Brandon currently serves as marketing officer for electronic hardware standards organization, PICMG, where he helps evangelize the use of open standards-based technology. Brandon’s coverage focuses on artificial intelligence and machine learning, the Internet of Things, cybersecurity, embedded processors, edge computing, prototyping kits, and safety-critical systems, but extends to any topic of interest to the electronic design community. Drop him a line at techielew@gmail.com, DM him on Twitter @techielew, or connect with him on LinkedIn.

Profile Photo of Brandon Lewis