Skip to main content

边缘人工智能

2022 年伊始成为人工智能开发人员意味着什么

人工智能开发者

想象一下,快餐店能够根据行驶路线上的车流确定调整提供的食物类型。想象一下,先进摄像头能够检测出汽车成品部件中存在的问题孔隙。亦或是放射科医生与虚拟助手合作筛选 X 射线影像,挑选出有问题的影像详细观察。

人工智能开发在当今时代的重要性

这些操作改进均受人工智能 (AI) 驱动,几乎每个行业的用例都在发生爆炸性的增长。只要有数据的存在,不仅有机会改善效率,甚至会有更多应用 AI 的机会。

技术转变的聚合 — 计算能力的加强和 5G 网络等更好的通信基础设施 — 正在推动 AI 革命的进展。

虽然我们正坚定不移地推动 AI 转型,但 AI 开发人才短缺可能会阻碍它的大规模部署。

“为了在各行各业推广 AI ,我们需要更多的开发人员迅速掌握 AI 技能,” 英特尔® 网络和边缘业务群副总裁兼物联网开发人员推进事业部总经理 Bill Pearson 表示。

最近一项关于企业 AI 部署现状的调查揭示, AI 开发人员和工程师被列入企业最需要的顶级人才。所有企业采取的模式一致,不论是经验丰富、技术娴熟,还是刚刚开始部署 AI 。Pearson 指出,遗憾的是,目前只有极少数开发人员掌握 AI 知识。

AI 人才缺口的原因可能是开发人员在接受该领域的工作之前仍须克服一些障碍。

AI 开发人员面临的最大挑战以及如何克服这些挑战

1。AI 知识储备不足

在创建 AI 模型之前,开发人员必须首先掌握什么是 AI 以及它能够做些什么。然而,现有的文档往往面向经验丰富的专业人士,完全无视入门者的需求。我们必须快速营造一个合适的环境,才能够迅速将新的 AI 开发人员纳入渠道。

当开发人员踏上 AI 学习旅程,他们需要更好的文档、实操培训和易于使用的工具。

“在过去, AI 一直是专家的地盘。我们需要开放更多的材料,推动 AI 的民主化,” Pearson 表示。“我们必须使开发人员轻松地在正确的时间找到正确的材料,让他们更容易获取想要寻找的信息。”

例如,英特尔面向对 AI 开发特定问题感兴趣的 开发人员提供各种类型的 AI 培训视频和文档。这些材料针对不同的 AI 专业知识水平量身定制,不仅初学者可进行探索,高级开发人员也可以凭借更详细的用例介绍找到答案。英特尔还列出开发人员开启学习之旅必须满足的一系列先决条件

英特尔边缘 AI 认证课程由经验丰富的开发人员开发,为开发人员讲授核心 AI 概念以及如何按照适合自己的节奏运用不同的用例。该课程的特色是提供免费工具和代码示例、开源资源以及预训练 AI 模型库。开发人员可以研究模型代码,探索如何运用到自己的工作中。

2。选择过多

面对纷繁芜杂的 AI 入门工具和资源,开发人员很容易不知所措。他们并不总是明白哪种工具适合自己的工作。而且也会担心该工具是否需要长期投资购买。开发人员必须了解哪些合适的硬件、软件、 AI 模型和算法能够长期满足他们的所有需求。

只有实现 AI 民主化并改善必要工具的可及性,才能让 AI 成为开发人员日常工作流程的组成部分。Pearson 认为,“在提供工具时我们必须重视开发人员,通过开放和灵活的平台来满足他们的需求。”

开发人员应特别关注自己熟悉和喜爱的各种工具的互操作性和开放生态系统。

例如,英特尔® 发行版 OpenVINO 工具套件支持其它常见 AI 框架,如 TensorFlow、Caffe、PyTorch 和 ONNX,因此开发人员不会受限于唯一的选择。

此外, AI 工具套件不仅方便初学者上手,而且足够高级,可帮助开发人员进行拓展,提升 AI 技能。“该工具套件可帮助开发人员利用 AI 和计算机视觉推理交付更快更准确的结果,” Pearson 指出。

OpenVINO 是开源平台,拥有强大的社区支持 — 允许开发人员参与其中,改善平台并利用社区已作出的其他改进。

Pearson 表示:“这是一种很好的方法,开发人员可以决定什么是适合的工具和框架,并且参与行业一流工具和框架的构建。”

3。构建 AI 模型

一旦开发人员获取开始这一旅程所需的工具和资源,他们将面临与 AI 模型开发和部署有关的挑战。例如,他们是否拥有正确的数据来开始创建模型?它是否处于有用状态或格式?他们如何将它应用到用例中?

Pearson 说:“适当运用数据去做一些有用的事情,这是我们面临的最大挑战之一。”数据科学家负责确定数据集的来源以及使用方法,他们需要确保 AI 模型清除任何偏见。

为了信守对开发人员优先的承诺,OpenVINO 平台提供 Model Zoo,它是一组开发人员可直接利用的预训练模型。该数据集包含使用行业标准框架开发的示例,如 TensorFlow 、 Pytorch 、 MXNet 和 PaddlePaddle 。Pearson 解释道,在开发人员正在使用的框架中提供 AI 代码符合开发人员优先的原则,他们可以在现有的工作流程中直接获益。

数据安全是云端和边缘 AI 模型需要解决的另一个问题。开发人员和数据科学家需要验证数据源,确保 AI 模型开发符合道德规范。Pearson 说:“这不仅涉及用于数据和算法的应用程序,还涉及相关人员及流程。这些都是构建符合道德规范以及公平 AI 解决方案的过程的一部分。” OpenVINO 工具套件通过数据保护附加组件提供额外的数据安全层。

“当使用安全附加组件时,它只是提供模型安全封装的方法,然后以安全方式执行。我们能够让拥有适配访问权限的用户访问模型,他们在指定的限制范围内,甚至可以在基于 KVM 的虚拟机中运行模型,” Pearson 解释道。

4。边缘-云两难困境

接下来是在何处存储、处理和分析数据的问题。Pearson 认为,AI 与传统软件开发的游戏规则不同,自然而然会改变开发人员的工作方式。

传统上,大多数物联网设备都是专有的嵌入式固定功能设备。但最近随着云和云原生技术的不断接纳和成熟,容器和融合开始日益流行。因此,开发人员正在转向软件定义的高负载计算开发环境,利用云原生技术进行物联网和人工智能开发。

云端 AI 正用于云机器学习模型的高负载运行,而边缘则提供在数据源分析 AI 模型的新机会

“如果您在过去和现在都是一名构建解决方案的嵌入式开发人员,一瞬间,您试图使用边缘 AI 捕获和理解数据,这是一种全新的范式”, Pearson 指出。云原生开发正在改变开发格局,开发人员必须了解云和边缘 AI 用例并相应地构建模型。

Pearson 表示,它完全取决于是否理解您的业务目的和目标。“根据开发人员的关键绩效指标 (KPI) 以及他们试图实现的目标,我们能够帮助他们确定运行 AI 工作负载的最佳地点,” 他指出。

云计算在成本和规模方面拥有优势。如果企业希望实现的目标不需要现场安全数据或低延迟,那么云可能是合适的选择。如果开发人员有带宽、安全性和规模方面的考虑,那么可以选择边缘。

“作为开发人员,我需要选择在哪个地点开始任务最合理。同样,我可以将自己需要的计算资源从云端几乎无限扩展至更为有限的地点,不论是功耗还是边缘性能。我仍然可以获取自己需要的 AI ,以达成预期中的商业目的,” Pearson 解释道。

通过可扩展的云原生开发,工作负载可轻松扩展到从边缘到云端的需要智能化的任何场景。

5。IT/OT 集成

AI 效用的本质 — IT 与 OT 的集成 — 则带来另一个挑战。开发人员需要搞清楚如何将边缘运营洞察集成到业务运营中,以实现效率。

开发人员还需要根据有待微调的 KPI 进行逆推,厘清可用于完成工作的合适软硬件组合。根据 KPI 的不同,团队可能需要不同的性能和功率选择。Pearson 说:“开发人员必须问自己,‘在什么样的硬件上运行我的应用程序,我才能得到想要的结果?’”。

假设 AI 开发人员可获得技术诀窍并进行软件开发,他们仍然需要在各种不同的硬件单元上测试软件。该过程既非易事,也非工作效率最高的方法。持续的全球芯片短缺让问题变得更加复杂,很难购买到使用这些芯片的硬件。

英特尔 DevCloud 可解决 AI 开发人员面临的一项最大挑战。它允许开发人员 在数百个边缘硬件设备上测试 AI 解决方案,消除决策瘫痪的困扰

“开发人员可快速了解其应用程序如何通过每一个硬件执行,找到最适合他们自身解决方案的硬件,” Pearson 表示。

最新版本的工具套件 OpenVINO 2022.1 在这一领域也可提供帮助,其新硬件自动发现和自动优化功能让硬件组合测试变得轻而易举。

通常情况下,AI 开发比较复杂,因为必须根据各种最终用例定制软件。此外,待使用的边缘硬件增加了需要测试的排列和组合数量。Pearson 指出, OpenVINO 工具套件可帮助您解决这一问题。“‘由于涉及 FPGA(现场可编程门阵列),我必须以不同的方式运行’或者‘为了利用某个特定的硬件功能,我可能需要使用一些不同的代码’,这些问题都是不存在的。”

开发人员优先原则体现在支持全局通用方法注入的跨架构工具套件中。Pearson 表示,“您可以通过我们的模型优化器轻松优化、调整和运行您的推理应用程序。” 更大的优势在于,不了解 GPU 和 CPU 差别的开发人员也可以让其发挥作用。

6。扩展 AI 开发

开发人员在入门后,接下来该怎么做?前进的道路并不清晰。

英特尔为高级开发人员提供 英特尔® Developer Catalog 中的参考实施例,它是一组经过市场验证的软件垂直实施。例如,期待实施缺陷检测 AI 系统或智能交通管理的开发人员可使用该目录中的实施例。“您可以看到所有代码,我们将引导整个实施过程,而您可以迅速了解正在发生的事情,” Pearson 表示。

AI 开发不仅涉及软件和硬件,也涉及部署环境。另外一个工具,英特尔® Smart Edge Open,可帮助开发人员了解如何将让 AI 应用程序成为可在某个环境中部署的基础设施的组成部分。Pearson 说:“开发人员有必要在棕地场景或其它环境中测试他们构建的 AI 应用程序。”

仅仅在几年前,开发人员访问和理解边缘数据还只是一个梦想而已。但情况一直在发生改变。Pearson 说:“[AI] 开发人员发挥的作用比以往任何时候都重要。”“我们必须确保开发人员可借助工具、产品和信息应对新环境,从而帮助他们构建大规模解决方案。”

迎接 AI 开发的未来

这是一个时代的开启。随着计算能力和 AI 采用率增加,用例将扩展到我们从未想象过能够梦想成真的场景, Pearson 解释并补充道,“开发人员将处于中心地带,他们可以利用技术推陈出新,创造出让人叹为观止的有趣解决方案。”

对于开发人员来说,了解他们试图解决的 AI 问题并让自己具备解决问题的技能,这才是成功的关键。

Pearson 说:“现在和未来要提供开发人员所需的具有更大灵活性、互操作性和可扩展性的开放式架构和开放式生态系统。”“AI 让开发人员有机会走进并顺应新世界,做一些有趣的新工作。”

AI 必将成为未来的方向。通过提升技能并使用简化工作流程和释放创造力的工具,各类开发人员都可以参与这一变革性的盛举。

 

本文由 insight.tech 的副主编 Christina Cardoza 编辑

作者简介

Poornima Apte is a trained engineer turned writer who specializes in the fields of smart manufacturing, robotics, AI, IoT, 5G, cybersecurity, and more. Winner of a reporting award from the South Asian Journalists’ Association, Poornima loves learning and writing about new technologies—and the people behind them. Her client list includes numerous B2B and B2C outlets, who commission features, profiles, white papers, case studies, infographics, video scripts, and industry reports. Poornima reviews literary fiction for industry publications, is a card-carrying member of the Cloud Appreciation Society, and is happy when she makes “Queen Bee” in the New York Times Spelling Bee.

Profile Photo of Poornima Apte