AI • 物联网 • 网络边缘

全球各个组织通过部署 AI 来提高运营效率及其在市场中的竞争力。我们与英特尔产品管理、网络和边缘事业部副总裁 Mike Masci 以及英特尔副总裁兼至强和计算产品总经理 Ryan Tabrah 就全新英特尔^® 至强^® 6 处理器进行了交流。Mike 和 Ryan 讨论了以可持续性更强的方式推动无缝可扩展基础设施发展的重大改进，这是让 AI 无处不在（从数据中心到边缘）的必备要素。

为什么英特尔至强 6 处理器的发布对英特尔、合作伙伴以及客户如此重要？

Ryan Tabrah：这款处理器的发布是许多因素共同的结果，其中包括从制造流程开始回归我们交付技术的本源，构建可以满足未来需求的 AI 数据中心。我认为英特尔至强 6 以合适的时机满足了客户的需求，使他们可以继续使用自己的解决方案进行创新，并以前所未有的方式构建数据中心。英特尔至强 6 处理器中的 E-core（能效核）经过优化，可最大限度地提高性能功耗比，同时 P-core（能效核）能够为当今数据中心普遍存在的计算密集型工作负载提供更强的每核性能。

Mike Masci：我们认为至强 6 不仅是一次升级，而且是 AI 驱动计算基础设施的必备要素。现有数据中心的性能功耗比并不足以让客户根据 AI 驱动时代的需求扩展数据。无论网络是否需要处理从边缘 AI 到云 AI 的海量数据，这款处理器都能在更高的效率和更强的性能下实现这个目标。在数据中心，它使基础设施能够满足 AI 的性能需求，同时能够实现线性扩展。

开发人员希望至强 6 平台具有从边缘到云端的一致性，而且可以从非常高端的产品扩展到更注重成本和功耗的低端产品。由于任何降低效率或产生障碍的因素都会减少花费在 AI 技术开发上的时间，因此他们希望获得完全无缝的体验，无需将不同的架构和系统配合使用。

英特尔至强 6 是首款同时配备 E-core（能效核）和 P-core（性能核）的英特尔至强处理器。它的工作负载和相关用例有哪些例子？

Mike Masci：首先，E-core（能效核）专为数据中心级工作负载设计和构建，可在经过优化的密度和功耗水平下提供高性能。这对我们的客户来说是一项巨大的优势，因为它具有可组合性，而且能够将适合各种工作负载的产品分配到合适的位置，无需承担复杂管理和部署所需的支出。

在网络边缘部署与数据中心内部相同类型的工作负载正逐渐成为常态。人们希望能够在不同位置使用相同的基础设施，以便更快速、更轻松地进行部署。长期而言，这样可以节省资金。

最重要的工作负载是云原生工作负载。英特尔至强 6 E-core（能效核）能够出色地处理此类工作负载。对于在网络和边缘侧充分利用其优势的用例，5G 无线内核是我们最重要的细分市场之一。前几代产品是固定功能的专有硬件，采用 NFV（网络功能虚拟化）和 SDN（软件定义网络）的原理，而现在正向云原生技术转型。正因如此，英特尔至强 6 处理器经过优化的多线程性能功耗比极其重要。

对于配备 P-core（性能核）的英特尔至强 6 的其他边缘应用而言，客户对英特尔^® Advanced Matrix Extensions（英特尔^® AMX）技术充满期待。具体而言，其 P-core（性能核）中固有的专用矢量 ISA 指令使他们可以在边缘进行轻量级推理，因为在边缘，客户可能没有属于训练集群典型配置的大规模 GPU 的功耗预算。AMX 的强大之处在于，对软件开发人员而言，它可以无缝运行，而且借助 OpenVINO^™ 和我们的 AI 套件等工具，无需了解如何对特定 ISA 进行编程，即可充分发挥 AMX 的优势。

Ryan Tabrah：实际情况是客户无法配置功耗更大或体积更大的加速器，边缘尤其如此，因此可以依赖已经集成到英特尔至强 6 P-core（性能核）家族中的更紧凑解决方案。

视频是另一个典型用例。只有可以轻松地扩展并提取视频并将其推送给最终用户，客户才能盈利。这就是我们专注于通过整合机架来运行更大视频工作负载的原因之一。与前几代产品相比，通过三合一的机架整合，可以在相同的性能下传输相同数量的视频。数据中心的性能更强、能效更高，能够以更少的设备和更大的密度为更多的客户提供服务。客户可以在 5G 网络的边缘采用相同的基础设施，在这里缓存视频并将其推送给最终用户。

您能否谈谈英特尔至强 6 在特定细分市场和用例中的应用？

Mike Masci：以医疗保健为例，该领域需要大量数据来训练医疗图像模型。为了获得可操作的数据和洞察，需要在云端训练模型，并在边缘有效运行。需要运行 RAG（检索增强生成）等功能，确保模型能够执行预期功能，辅助诊断方面尤其如此。那么需要重新训练模型时，会发生什么情况？边缘设备会向云端发送更多数据，在那里对其进行重新训练，然后将其重新发送到这些边缘设备。对于开发运维和机器学习运维领域的开发人员来说，整个流程就是一门完整的学科，而且可能是当今 AI 领域最重要的学科。

我们认为，如果能够获得经过训练的模型，将其部署到边缘，然后由边缘给模型重新提供数据，在云端进行训练，那么 AI 的真正价值才真正得到了发挥。对许多开发人员来说，将模型部署到可扩展系统上非常重要。

Ryan Tabrah：此外，世界各地的医疗保健机构也有许多老旧代码和应用程序，它们采用的是他们不愿升级或采取任何措施的内核。他们希望能够迁移这些工作负载，甚至将其容器化，将其迁移到无需进行任何更改即可直接运行的系统上。我们利用开源工具帮助他们更新了部分基础设施，新建了可以满足未来需求的数据中心，并与旧应用程序基础进行了连接。

这就是它的神奇之处，客户无需从头开始。医疗保健机构可以利用所有旧数据和旧应用程序执行全新的功能。这就回到了 Mike 刚才所说的，只要有一个从边缘到云端的统一平台，以便在电脑上进行开发，就不用担心这个问题。

至强 6 可以为客户带来哪些可持续发展优势？

Mike Masci：我们的部分网络和边缘工作负载的性能功耗比有显著提升。其性能功耗比是第二代英特尔^® 至强^® 可扩展处理器的 3 倍。简而言之，如果性能功耗比高达 3 倍，就可以将所需的服务器数量减少三分之二。这不仅可以节省 CPU 功耗，还可以节省整个系统的功耗，包括开关、机架本身的电源以及所有外设。

英特尔的使命就是推动这种可持续发展机制，因为 CPU 性能功耗比在很大程度上决定了客户在部署整体硬件方面的选择。

我们与 5G 内核领域领先的独立软件供应商爱立信的合作就是一个很好的例子。在爱立信内部的 5G 内核 UPF（用户平面功能）真实世界测试中，与上一代产品相比，其性能功耗比提升了 2.7 倍。更重要的是，在拥有 200 万订阅者的控制平面，与上一代产品相比，爱立信为相同数量的订阅者提供支持所需的功耗降低了 60%。这又回到了性能功耗比和可持续发展的范畴。它也显著节省了运营成本，对全球大有裨益。我们通过爱立信的例子证明，这不仅有可能，而且可以变为现实。

在这个方面，我们有基础设施功耗管理器，可以根据实际使用情况对 CPU 功耗和性能进行动态编程。例如，当负载较低时，CPU 会自行降低功耗。因此，整个产品线的负载线路性能有了巨大提升。当今的大多数服务器无法始终得到充分利用。英特尔至强 6 等英特尔 CPU 能够根据低利用率场景显著降低功耗，减少了整体功耗需求，从而提高了平台可持续性。

这看似一项基本要素，但难度超乎想象。需要在操作系统层面进行优化，才能充分利用这些电源状态。需要确保拥有合适的服务质量和 SLA 以及充足的正常运行时间，这一点非常重要。

Ryan Tabrah：我们在制造、验证实验以及制造供应链方面所做的努力，证明了我们在可持续发展方面的领先地位。如果客户知道他们使用的是英特尔芯片，他们就能确信，芯片的开发、测试、验证或制造都是以可持续性更强的方式完成的。我们在在全球各地制造产品时对水资源以及其他资源进行重复利用，对环境给与保护，我们在这个方面也持续处于领先地位。

英特尔至强 6 也为我们的客户提供了实现可持续发展目标的机会。由于英特尔至强 6 的核心数量大、效率高，我们的客户可以更换其数据中心的老旧服务器，将其整合为更少的服务器，从而减少需要能耗和占地空间。

请您介绍一下数据安全以及英特尔至强 6 的哪些增强功能使开发人员可以更轻松地构建更安全的解决方案。

Mike Masci：安全增强功能非常重要，对网络和边缘来说尤其如此，而我们的 SGX 和 TDX 技术的推出则是对它的一大补充。对客户来说，特别是在 AI 驱动的时代，成熟的技术在安全生态系统中极其重要。模型需要具备安全性。例如，如果要运行多租户，就需要设置安全区，这在云原生驱动的时代变得极其重要。总体而言，显而易见的是，英特尔至强 6 采用的成熟安全技术是一项差异化优势。

Ryan Tabrah：我们将安全作为基础构建模块，从头开始构建英特尔至强 6 及其平台。我们的几代至强都是如此，使机密计算尽可能成为合作伙伴生态系统中简单的基本要素。我们在英特尔至强 6 中引入了最新的量子电阻和平台增强技术，使客户能够通过安全性、隐私性和合规性实现业务目标。

您最后还有什么要补充的吗？

Mike Masci：英特尔至强 6 对边缘和网络 AI 来说必不可少。我们认为，构建一个简单顺畅的平台并通过可组合性轻松处理多种工作负载，这个理念已经获得了极大的成功。对我来说，这是英特尔至强 6 所蕴含的关键信息。它无缝且可扩展，因此可以在边缘运行与数据中心相同的应用程序，而无需担心在哪些硬件上运行。

Ryan Tabrah：我同意。在数据中心电力不足的不同环境和地区，无论是因为建设速度不够快，还是存在新的限制因素和清洁能源要求，情况尤其如此。我们提供了从边缘到数据中心的解决方案，对客户来说，其优势是显而易见的。

我认为，最佳验证方法就是客户的反馈。他们需要的不止如此。他们希望借助我们的力量实现更多的目标。他们不仅希望我们能够尽快优化处理器，而且希望我们尽快构建新一代处理器。英特尔在电信、边缘建设、基础设施建设和数据中心等关键领域占据领先地位，他们对此感到振奋不已，我们也很高兴能够与他们共同引领行业发展。

本文由 insight.tech 的编辑主管 Christina Cardoza 编辑。