利用低代码平台更快地构建 AI 应用

July 8, 2024

Teresa Meek

低代码平台

无论目标是加快办公任务还是利用聊天机器人给客户留下深刻印象，当今的企业越来越渴望部署 AI 应用。

AI 应用一旦启动，就会极大地提升生产力。但创建这些应用可能会耗费大量时间，特别是生成式 AI 解决方案，由大型语言模型和图像识别系统驱动，需要进行大量的微调和测试。

现在，有更好的方法来实现 AI 解决方案。利用低代码平台，企业可以更快地开发定制 AI 应用。低代码应用更易于维护和定制，以适应未来的使用场景。

简化 AI 解决方案开发

在竞争激烈的 AI 应用领域，时间是一个关键因素，低代码 AI 平台开发商 Iterate.ai 的联合创始人、首席数字官兼首席技术官 Brian Sathianathan 这样表示。“许多公司都希望以创新的解决方案抢占市场先机。但这很难实现，因为他们的 IT 和科技团队已经非常忙碌”，他说。

Sathianathan 和他的同事创立了 Iterate，旨在简化 AI 应用构建流程，将开发时间从几个月缩短至几周。“平均来说，一个 AI 创意从概念变为现实的速度要快上八九倍”，Sathianathan 表示。“不复杂的 AI 解决方案的创建速度可以提升高达 17 倍。”

Iterate 通过为各种 AI 功能（例如聊天机器人、支付系统或图像识别）创建预先编写的代码块来节省时间。利用该公司的 Interplay 平台，开发人员可以将代码块拖放到自己的解决方案中。

“就像用卡车运来的零件建造一座豪宅一样”，Anton 说。“我们将整套厨房、卧室和浴室发给你，你可以非常快地将它们组装在一起。”代码块被组合成面向金融与保险、零售和汽车等行业的定制解决方案。

利用低代码平台节省时间

Interplay 的企业办公解决方案 GenPilot 使组织能够根据内部数据和文档构建自己的生成式 AI 大型语言模型 (LLM)。许多 LLM 专注于财务规划或物流管理等任务，GenPilot 允许公司选择其偏好的模型。虽然 ChatGPT 和 Microsoft Copilot 等公共 LLM 解决方案也可以用于生成式 AI 解决方案，但一些公司对将信息上传到这些平台仍犹豫不决。

“公共模型在多租户云环境中共享。我们提供一个安全的私有环境，各公司可以在本地运行其模型”，Sathianathan 表示。银行、保险公司和其他组织还可以制定符合不同地区数据管理规定的合规规则。

对于员工而言，GenPilot 可以跨数据库收集和解释文档，从而节省数小时的时间。例如，如果一名保险客户通过电子邮件向公司代表提出问题，但忘记提供保单号码，GenPilot 不仅会找到保单号码，还会确定保单如何适用于问题、客户为服务支付的金额以及变更是否会改变费用。然后，它会撰写回复给客户的电子邮件。

“它会用简明易懂的英语进行智能回复”，Sathianathan 说。公司可以设置规则来控制回复的语气和技术水平。

对于非结构化文档（如 PDF），员工可以使用另一个解决方案，Interplay OCR Reader。该应用程序可以将图像转换为机器可读的文本并启动工作流程。例如，当银行员工将客户的扫描文件上传到 OCR Reader 后，它会提取相关信息，并将其输入到贷款申请表中。

简化零售业 AI 管理

Iterate 最新的解决方案之一是 Interplay Drive-Thru，它可以构建语音聊天机器人，用于在繁忙的快餐店 (QSR) 接收客户订单和提供追加销售建议。

长期劳动力短缺问题往往使 QSR 员工身兼数职，不仅要包装食品、收款，还要为店内顾客以及得来速顾客提供服务。“聊天机器人能给他们多一些的喘息空间”，Sathianathan 说。订单处理速度更快，顾客的排队时间缩短，餐厅的吞吐量提升。

得来速餐厅和其他零售商可以通过 Interplay 的 LPR（车牌识别）解决方案加快支付速度。顾客需提供其车牌和信用卡的照片，这样只要他们到达参与的商家，就会被计算机视觉摄像头识别。Interplay LPR 符合 GDPR 和其他隐私法规，目前已部署在欧洲 1,000 多家加油站和便利店。

“它会自动为顾客打开油泵并收取油费。这些操作在 30 毫秒内完成”，Sathianathan 说。

Interplay 的 LLM 解决方案部署在英特尔^® 处理器上。对于企业来说，在高性能 CPU 上运行的应用程序要比那些还需要 GPU 的应用程序（许多 LLM 解决方案就是如此）更具成本效益。

“只使用 CPU 的系统每台机器的成本为 2,500 至 4,000 美元。同等的 GPU/CPU 组合为 8,000 至 12,000 美元”，Sathianathan 表示。零售 IT 团队也更熟悉标准操作系统，从而减少了培训时间。

部署低代码解决方案后，开发人员可以轻松地将相同的 Interplay 代码块移至新的解决方案，而无需整理数百万行代码来进行更改。此外，Interplay 的代码块使用英特尔^® OpenVINO^™ 工具套件，使开发人员能够更高效地优化其 AI 应用。“利用 OpenVINO，最多可以节省 350% 的计算能力。这是一个巨大的优势”，Sathianathan 说。