加速开发人员之旅：边缘人工智能
构建在边缘运行的 AI 应用程序看似是一项艰巨的任务。但是，借助英特尔® OpenVINO™ 工具套件 2022.1 等合适的开发工具和平台，开发人员可以轻松上手、简化工作，并部署真实世界中的解决方案。
为了深入了解边缘 AI 的运营和商业价值，我采访了英特尔网络与边缘事业部 OpenVINO 开发人员工具副总裁 Adam Burns。Burns 谈到了为 OpenVINO 2022.1 引入新功能并使开发人员更容易专注于构建他们的应用程序的策略。从入门到解决 AI 开发人员面临的最大的挑战，我们的谈话内容涉及方方面面。
让我们首先讨论开发人员构建边缘 AI 解决方案应该知道的内容。
毕竟，边缘是产生运营数据的地方。在商店或餐厅，您尝试优化购物者或就餐者的体验。在医疗成像领域，它被用来做 X 光检查。或者以想要提高产量和生产效率的工厂为例。
然后，您需要了解 AI 是如何与现有应用程序结合的。例如，一家工厂里有台机器在装配线上运行部分操作。您可以利用该应用程序的数据进行外观检查，确保产品质量。或者您可以使用基于音频和数据的机器学习来监控机器运行状况并预防故障发生。它是这样一种组合：您如何将数据用于应用程序，然后再将其用于增强系统操作。
边缘非常多样。您的机器规格不同，成本和可靠性预期也不一样。因此，当我们探讨边缘 AI 时，我们是在思考如何应对各种各样的应用程序、外形规格和客户需求。
OpenVINO™ 2022.1 版本背后的策略和思路是什么？
我们首次发行 OpenVINO 时，很多边缘 AI 应用程序都专注于计算机视觉。
自那以后，我们一直在与数十万开发人员合作，倾听他们的意见。我们在此版本中加入了三样重要的东西。
首先是专注于开发人员的易用性。数百万开发人员都在使用诸如 PyTorch、TensorFlow 或 PaddlePaddle 的 AI 框架，我们希望让事情变得更容易。例如，有人从这些框架中打造标准模型，并希望将其转化应用在各种平台上。我们精简并更新了 API，使其与这些框架非常相似，于开发人员而言也非常熟悉。
其次，我们有一系列的边缘模型和应用。可以是音频，可以是自然语言处理 (NLP)，也可以是计算机视觉。在 OpenVINO 2022.1 中，我们特别强调支持其他用例，并注重真正提升这些不同系统的性能。
第三是自动化。我们希望开发人员能够在其所选择的任何设备或环境中专注于构建应用程序。现在 OpenVINO 2022.1 不是要很多参数进行真正微调并获得最佳性能，而是要自动检测您在使用什么平台、使用哪种模型，并确定适用于该系统的最佳设置。这让开发人员很容易在各种系统中部署，而不必具有优化方面的专业知识。
您可以详细说说如今是如何使用音频和 NLP AI 的吗？
让我们举例从一位客户说起，然后再讲到边缘。如今，很多人都在使用视频会议平台。这些平台在后台处理我们所说的内容，这样我们可以在需要的时候提供隐藏式字幕，以便保证意思清晰并起到协助作用。这就是自然语言处理。
同时也在进行噪声抑制。如果我请人来打理我的房子，并且我身后正开着一台高速运转的送风机，视频会议平台会尽最大努力捕捉我的声音，减少其他干扰。
我们再转向边缘，相似类型的工作负载十分关键。在餐饮零售业，自动下单一直受到很高的关注。NLP 可以用来处理得来速快餐店订单，确保订单准确无误后再向顾客显示。
音频处理可用来衡量工厂机器的运行状况，尤其是用在发动机和驱传动装置上。您可以给多种设备加上音频信号，那样就会检测到某些表示故障或异常的特定音频特征。
这样，您就可以通过计算机视觉获得更多缺陷通知，同时，您的音频特征也在学习一种发动机异常状况。这是一种信号，表明可能需要进行维修或要采取某种类型的纠正措施。
当今开发人员在构建 AI 应用程序时面临的最大挑战是什么？
主要问题之一是，大量围绕 AI 展开的研究和现有模型都是在云环境中构建的，在云环境中，您几乎可以拥有无限制的计算。如今在边缘里，许多开发人员都是在有限的环境中工作。
您如何让应用程序和功能从研究中走出，把它们部署起来？我们正在做的一件事就是使它在边缘上运行时足够经济而高效，因此，您从部署中得到的价值要高于部署所付出的成本。OpenVINO 让开发人员能够利用一些最先进而且足够高效的 AI 应用程序，能够真正部署在边缘。
对于希望了解更多、做更多工作的开发人员来说，他们应该从哪里着手？
首先从 openvino.ai 开始。您会看到入门指南，内容包含模型优化、Jupyter notebook 的访问、不同类型的应用程序以及代码示例。当然，您还可以免费下载 OpenVINO。
对于希望在托管环境中工作或希望跨不同类型英特尔系统进行原型制作的人而言，我们还提供 IoT DevCloud。花几分钟您就可以登录并使用 OpenVINO 运行会话。同样，还能够访问那些让人可以立即执行某些操作的笔记本和代码示例，无论是优化网络还是在数据集上运行特定类型的应用程序。可以访问一系列不同的模型类型和应用程序，人们也可以使用自己的示例数据。
最后，我们还有边缘 AI 认证计划。该计划不仅仅是在教授边缘 AI 应用程序，同时您也将 OpenVINO 用作工具。
我认为这三个都是开始的好地方，具体要根据您的开发进程而定。
您还有什么想说的吗？
有太多应用程序在边缘生成数据。而这些数据可以通过集成 AI 节省成本，或提升客户体验，或提高运营效率。OpenVINO 完全是从运营的角度利用边缘上已有的东西，并借助 AI 来增强边缘。
如今的许多 AI，特别是云端 AI，都部署在 GPU 上。许多情况下，这些解决方案太过火爆或昂贵。OpenVINO 通过调整这些 AI 工作负载和 AI 网络，使它们得以在标准、现成的英特尔® CPU 上高效运行，来帮助解决这个问题。这些 CPU 目前都具有出色的 AI 性能，并且普遍部署在世界各地——这意味着无需额外购置设备。这就带来了一系列新机会，而您在几年前无法部署这些应用程序，因为它们不够高效或成本效益不够高。
我们试图通过 OpenVINO 让更多开发人员加入边缘，并真正确保这些技术得到足够的投资，我们认为这些技术在客户体验、节省资金、提升制造以及生产更多产品方面十分有价值。
从这一角度来看，我们是在借助 OpenVINO 来解决两个问题。首先是让它足够经济，从而得以部署。其次就是从开发人员的角度使 AI 更容易访问，真正将 AI 推广开来，从而让更多能够创建和部署这些应用程序的开发人员加入进来。