在边缘部署工业 AI 全过程

July 25, 2022

Christina Cardoza

工业人工智能

过去几年，智能制造领域一直在快速发展，以跟上数字时代的需求。边缘计算是该数字化转型之旅的重要部分。但边缘并非固定的目标，而是该过程的一部分。

但企业在该旅程中可能仍需要路牌。那么哪些人能提供路线图呢？这些企业如何了解他们何时真正到达了自己需要到达的境界。高性能计算领域全球领导者联想公司全球的 ThinkEDGE 事业部总经理 Blake Kerrigan ，以及物联网和边缘计算服务提供商 ZEDEDA 的生态系统副总裁 Jason Shepherd 确信，根本不存在某种通用型方法。

他们讨论了边缘计算的编排，将公有云领域的最佳体验引入边缘，并着重讨论了云与边缘计算之间的关系。

现如今，制造业的数字化转型如何进行？

Blake Kerrigan：过去 15 到 20 年，大多数工业客户始终关注于自动化，但现在我们发现，计算机视觉 AI 用例逐渐成为主流趋势。我在制造和配送领域还发现了其他一些趋势，如缺陷检测和安全应用。

问题：您如何提高现有流程的效率？我们开始着眼于一些独特解决方案，客户采用这些解决方案变得越来越容易。

这将如何改变边缘计算和云的角色？

Jason Shepherd：只有那些想要向您出售因特网连接的人才会认为将原始视频直接发送到云端是一个好主意。利用计算机视觉，关键是能够在边缘观看直播摄像头或视频流，您可以持续进行监控，并可以构建智能，在需要时引入人工干预。

制造商完成本次边缘之旅的最成功的方法是什么？

Jason Shepherd：边缘是一个从真正受限设备直到本地设备的一个连续体。最终会到达云，而在该连续体中运行工作负载要考虑性能、成本、安全和延迟问题的均衡。

对制造商来说，首先也是最重要的一点是了解它是一个连续体，然后了解各种不同的权衡。比如，如果您处于安全数据中心，那么这与在车间里的安全需求不同。第一个问题是熟悉并了解环境。

进入实际部署阶段，始终从用例开始，然后进行 POC。本阶段，我们会看到许多实验。但是，将实验室中的实验引入现实世界确实是一项挑战，摄像头角度变化、光线变化、环境切换等等。

主要是要解决这个问题，并将基础设施投资与应用程序领域的投资分离开来。与设计灵活架构的供应商合作，然后逐步开展后续工作。最终会回到领域专业知识，并采用一致的基础设施，就如同我们与联想、ZEDEDA 和英特尔^® 的合作一样。

Blake Kerrigan：您可以在实验室中进行构建，通常设计师最后才会考虑到设计或部署解决方案的成本。进行扩展面临的最大障碍是部署和管理生命周期，以及随时间推移需要从一个芯片转换到另一个芯片。

第一步是弄清您想要达成何种类型的业务成果，然后了解与达成该成果相关的成本。为了选择合适的硬件，客户必须了解该解决方案整个生命周期中的程序如何迭代。在联想，我们会与人们共同搭建解决方案架构，考虑他们需要哪些类型资源，以及该架构在明天、下一周、明年和未来五年将如何扩展？

深入了解如何实现边缘计算。

Jason Shepherd：有许多特殊的专用垂直解决方案。对于任何新的市场，我始终认为，先进行垂直扩展，再进行水平扩展。这与领域知识有关。

不一样的地方在于一切都是软件定义的，您从基础设施中抽取应用程序。在制造领域，控制系统始终处于非常封闭的状态，这是一场为控制供应商创建关联的游戏。当然，考虑到安全和流程的正常运行，控制不严格的确会造成一定影响。

边缘的作用是，让我们能够利用公有云元素，如平台独立性、云原生开发、持续交付不断更新和创新的软件，且我们能够将这些工具转移回边缘。基本上说，我们正在获取公有云体验，并将其加以扩展，以适应车间生产。

在 ZEDEDA，我们会帮助从管理和安全角度扩展这些工具，但我们还必须考虑如下事实，即使采用相同的原则，在物理安全的数据中心内也不会发生此类扩展。当您处于数据中心时，会定义一个网络边界，如果未定义，我们会假定您部署在不受信任的网络上。此外，处于数据中心外部时，必须准备好随时可能失去与云的连接，且您必须能承受这种情况。这里并不存在通用型方法。

那么何时应使用云，何时应使用边缘？

Blake Kerrigan：云意味着针对不同的人采取不同的措施。在联想，我们认为边缘最终将成为云的扩展。边缘计算就是将有意义的数据存储起来，或者对数据运用更密集的人工智能；我们试图要做的是梳理大量平平无奇或缺乏洞察的数据。

真正需要考虑的有两大问题。第一个是编排：如何远程创建和编排环境，让我可以管理外部的应用程序？第二个就是让这些模型在初始训练后变得越来越好。训练是 AI 和计算机视觉的一个重要环节，但在所用资源和时间方面却被严重低估。进行训练最有效的方式是在云端开展协作。

我们以缺陷检测为例。假设您在美国有 50 家不同的工厂，每家工厂都有一个缺陷检测计算机视觉应用程序在车间里运行。最终，您希望将一家工厂获取的训练成果和知识分享给另一家工厂。要做到这一点，真正有效的方法就是在云端进行。

因此，我确实认为边缘计算中应该采用云，更具体地说是边缘人工智能，以处理从边缘计算数据或边缘分析数据生成的大数据。然后还要训练人工智能工作负载，将其重新分配到边缘，以提高效率，提高对用户的影响力和洞察力。

Jason Shepherd：在 ZEDEDA，我们认为：边缘是最后要构建的云。这是云的边缘所在。这里有三个模型包。一个是云中心型，采用轻量级边缘计算，然后在云中进行大量处理。第二个是利用云的功能来训练模型，然后将推理模型部署到边缘，以进行本地操作。因此这是一个云支持或云辅助的模型。第三个是以边缘为中心的模型，可能会在云中进行训练，但对数据的所有重大处理都在本地进行。就像 Blake 所说的，并没有通用型方法。

如果制造商缺乏适当的 IT 专业知识，哪些工具或技术可以提供帮助？

Jason Shepherd：ZEDEDA 是否是令人满意的答案？

它实际上就是找到正确的工具，然后应用领域知识。拥有领域知识的人有很多，专家就在现场。但尝试在现实中进行部署时，有时可能没有合适的人员来进行脚本编制以及在数据中心领域工作。另外比例因子也大了很多。ZEDEDA 存在的意义就在这里：让流程更简单，并将公有云体验引入现场。

联想及其与英特尔^® 的合作伙伴关系适用于该领域中的哪些方面？

Blake Kerrigan：与英特尔之间关系存在的价值不仅仅在于边缘计算，但谈到边缘计算，从芯片角度来说，英特尔是我们最强大的合作伙伴。它在嵌入式领域和工业 PC 领域的地位一直以来都举足轻重。但另一方面，英特尔继续引领科技前沿。它继续投资于边缘的重要功能，不仅仅是数据中心，也不仅仅是电脑。

OpenVINO^™ 位于英特尔更大的工具生态系统中，但我真正喜欢的是另一款工具，英特尔 DevCloud，因为它可以帮助客户快速入门，且无需将客户发送到四台或五台不同的机器。该工具让这些客户从本质上基于云的开发环境入手。客户可以控制各不同的参数，然后在环境中运行应用程序和工作负载。这加速了上市或部署。

在联想，我们希望能够为试图在边缘部署基础设施的客户打造摩擦最少的体验，联想和 ZEDEDA 在与英特尔的合作中真正做到相辅相成的原因也在这里。

Jason Shepherd：ZEDEDA 基本上算是一家 SaaS 公司 – 所有业务都与软件相关，但都衍生自硬件领域。硬件问题很难解决，因此与联想合作让我们的工作更加轻松。要与搭建了可靠基础设施的人员合作，这一点很重要。

边缘计算之旅中最后的收获是什么？

Blake Kerrigan：如同 Jason 所说，硬件问题可能很难解决。我认为很多人都是从硬件开始，但从硬件入手并不一定是最佳方式，尽管我来自于一家硬件公司。但在联想，我们仍然希望能参与到旅程中的第一步。联系我们的专家，看看我们如何帮助您了解潜在的障碍有哪些。然后，我们还欢迎您加入我们的合作伙伴生态系统，无论是英特尔、ZEDEDA 还是其他公司。

提出您的问题，提出您面临的最重大、最困难的问题，让我们帮助您设计、实施、部署和实现这些洞见和成果。

Jason Shepherd：一切都与生态系统有关。投资于社区，致力于获得更大价值。

这与免费与否无关，而是关于赚钱。但很大程度上也与合作伙伴关系有关。