Skip to main content

数字显示屏

利用工作负载整合释放面向客户的边缘人工智能

边缘人工智能

如今,消费者与企业的互动方式已发生变化。“在后流行病时代,重点在于尽量减少身体接触和简化客户服务,” DFI 产品中心总经理 Jarry Chang 解释道。 DFI 是嵌入式主板和工业计算机领域的全球领先企业

因此,在零售领域,集成边缘人工智能应用的需求日益增长。例如,人工智能提供支持的自助服务终端和签到解决方案可以让顾客自行完成交易,从而减少物理交互和等待时间。这些解决方案还可以实时分析顾客的行为和偏好,使零售商能够提供个性化体验,在改善顾客满意度和忠诚度的同时提高销量。

“这些需求推动了向边缘人工智能的转变,在更靠近数据源的地方进行处理,从而减少延迟并增强隐私,” Chang 表示。“这种变化是由实时决策的需求和边缘生成的数据量不断增加所推动的。”

推动边缘人工智能的发展

但问题是,企业往往难以找到在现有基础设施和流程周围部署边缘人工智能应用的最佳方法。

虽然边缘人工智能可以大大减轻网络和数据中心的负担,但它也可能在资源本已紧张的本地造成新的负担。问题来了:如何在不增加成本和复杂性的情况下部署边缘人工智能?

工作负载整合是应对这些挑战的一种方法——使单一硬件平台能够将人工智能与其他功能结合。结果是,多功能边缘设备“能够通过资源分配、隔离和远程管理等功能,以有限的资源运行多个并发工作负载,” Chang 解释道。

DFI 最近在 2024 年嵌入式世界展览会上展示了工作负载整合的可能,并演示了电动汽车充电器与信息自助服务终端的结合 (视频 1)。自助服务终端使用生物识别、语音识别和集成聊天机器人推荐附近的购物和餐饮场所,让司机可以在车辆充电时享用。在司机准备离开时,屏幕会启动数字标牌模式,显示附近商家的诱人广告。

视频 1。DFI 在 2024 年嵌入式世界展览会上展示了工作负载整合的可能。(来源: insight.tech

DFI RPS630 工业主板 利用第 13th 代 Intel® Core™ 处理器的硬件虚拟化支持,将人工智能功能与内容管理系统、电动汽车充电器控制和支付处理无缝整合。同时,Intel® Arc™ GPU 可为 AI 组件提供高能效、低成本的加速。

DFI 还使用 Intel® OpenVINO™ 工具套件进行 GPU 优化,以减少 AI 的内存占用,使其能够在不到 6 GB 的内存中运行复杂的大型语言模型。此外,通过将边缘的复杂人工智能任务分载到英特尔锐炫 GPU 上,DFI 能够支持多个 AI 工作负载,同时将响应时间缩短 66%。

为智能系统的未来增添动力

DFI 的工作负载整合技术远不止于电动汽车充电应用。该平台将其工业级产品与合作伙伴提供的软件和人工智能解决方案集成,面向全球自助服务行业的零售、医疗、交通、智能工厂、酒店等应用。

通过集成管理程序虚拟机,DFI 将所有客户端工作负载整合到单台工业电脑上。此系统支持多样化的资源配置,使各种操作系统平台能够同时运行。

“这些边缘人工智能用例都需要工作负载整合平台,以实现客户数据的实时处理和高效运营,” Chang 表示。“随着越来越多的行业和组织采用这项技术,我们预计还会看到新的发展。”

“边缘人工智能与工作负载整合平台的集成对于边缘计算的深入发展至关重要,”他继续指出。“无疑,随着围绕边缘人工智能的硬件、软件和其他技术的不断发展,工作负载整合将变得更加主流,最终释放出下一代智能边缘计算应用。”

边缘协作的价值

边缘人工智能为许多行业带来了巨大的机遇。Chang 解释道,到目前为止,我们才刚刚开始触及它的表面。通过将高效加速与合适的工作负载整合平台结合,我们可以开始探索这项技术真正能够实现的目标。

DFI 与英特尔的合作让我们了解到支持这一持续进步所需的条件:协作。现代边缘人工智能应用需要结合硬件、软件、人工智能和行业专业知识的多学科方法。

“嵌入式虚拟化需要在硬件和软件方面建立强大的合作伙伴关系,” Chang 解释道。“开发和部署工作负载整合技术需要大量的研发资源。通过与虚拟集成软件供应商等其他公司合作,我们可以大大缩短开发和上市时间。”

“借助于 DFI 与英特尔的强大合作伙伴关系,我们能够探索和开发帮助定义边缘计算未来的新技术,” 他总结道。“我们为迄今为止的合作成果感到自豪。我们对与英特尔在工作负载整合、人工智能以及更多领域开展进一步合作的前景充满热情。”
 

本文由 insight.tech 编务总监 Christina Cardoza 编辑.

作者简介

Brandon is a long-time contributor to insight.tech going back to its days as Embedded Innovator, with more than a decade of high-tech journalism and media experience in previous roles as Editor-in-Chief of electronics engineering publication Embedded Computing Design, co-host of the Embedded Insiders podcast, and co-chair of live and virtual events such as Industrial IoT University at Sensors Expo and the IoT Device Security Conference. Brandon currently serves as marketing officer for electronic hardware standards organization, PICMG, where he helps evangelize the use of open standards-based technology. Brandon’s coverage focuses on artificial intelligence and machine learning, the Internet of Things, cybersecurity, embedded processors, edge computing, prototyping kits, and safety-critical systems, but extends to any topic of interest to the electronic design community. Drop him a line at techielew@gmail.com, DM him on Twitter @techielew, or connect with him on LinkedIn.

Profile Photo of Brandon Lewis