Skip to main content

安全和安保

生成式 AI 聊天机器人简化了我们的工作方式

拿着笔记本电脑并输入信息的女人。

对于当今面向公众的从业人员来说,管理者面临的挑战是为其员工提供复杂且不断变化的信息,以满足访客的需求。而在幕后,培养熟练的员工以执行复杂程序并遵守合规法规可能也面临困难。“每个人的角色都变得越来越复杂”,对话式 AI 的领导者 Vistry 创始人兼首席执行官 Atif Kureishy 表示。“员工需要能够获取实时信息,或者精通某个非常专业的领域的知识。”

雇主也要处理自己的问题,他们寻求创新方式来优化人力支出,以应对经济下行和复杂的运营环境。生成式 AI 聊天助手可以帮助员工和雇主解决这些问题。

部署在 F1 COTA 的生成式 AI 工具

Vistry 在位于德克萨斯州奥斯汀的一级方程式 (COTA) 美洲赛道 (COTA) 部署的 AI 聊天员工助手就是此类解决方案价值的有力例证。

COTA 赛事有 450,000 名观众和 10,000 名工作人员,其庞大的规模本身就是一个挑战。解答游客关于票务、交通、时间表和设施等各种主题的问题是很困难的。Vistry 与 COTA 官员及其 IT 合作伙伴合作,定制了 ZenoChat 生成式 AI 聊天助手,工作人员可通过移动设备访问该助手。

生成式 AI 模型使用赛事特定的数据进行训练以确保准确性,并配备多语言用户界面以促进工作人员和游客之间的沟通。该解决方案实现了对查询的实时响应,由第三方地图软件增强,帮助工作人员为游客提供方向指引,并在庞大的场地内自助导航。

结果让 COTA 领导层和员工都感到满意。在为期三天的赛事期间,Vistry 的 AI 平台能够处理数百个不同的查询。即使问题变得越来越频繁和复杂,工作人员对该工具的使用也越来越得心应手。结果是效率更高,而压力比往年减少了。正如一位工作人员所言,AI 助手“将潜在的混乱转化为井然有序的卓越表现”。而对赛事组织者而言,他们发现 AI 聊天机器人提高了员工的准备程度,并增强了客户体验。

生命科学领域中的 AI 聊天用例

AI 聊天解决方案在各种垂直细分市场和用例中都具有明显的优势。例如,在生命科学制造领域,定制的 AI 助手可以为实验室或工厂车间的工作人员提供支持。这些员工需要实时获取信息(通常存储在大量难以访问的文档中),以确保遵循正确的化学品制造和控制协议,并满足监管机构的合规要求。

经过良好训练的 AI 工具可以帮助制造、质量保证和研发团队找到物料清单 (BOM) 问题的答案,探索和了解原材料供应商与其他类型的组件和设备的供应商之间的依赖关系,并获取其工作所需的其他详细信息。

遵守 REACH、OSHA SDS 和 GHS 监管框架对于生命科学公司确保安全和运营成功至关重要。ZenoChat 平台可创建合规信息知识图谱、实现文档流程自动化并增强竞争分析,是一个强大的解决方案。因此,生命科学公司可以简化合规工作,减少错误,并在竞争激烈的行业中保持领先地位,同时确保满足所有监管标准。

当然,在准确性和精确性至关重要的行业中,“AI 幻觉”的风险是一个主要问题,这种错误是指生成式 AI 工具以虚假的确定性提供不正确的信息。但 Kureishy 表示,可以提高 AI 聊天助手在此类用例中的准确性。“我们的模型基于检索增强生成 (RAG) 架构,将回复建立在更为有限且可信的企业数据集上,并与知识图谱相结合,进一步提高回复的准确性和相关性。”

结果是,我们获得了将其他 LLM 中的幻觉风险降至最低的 AI 模型,并且可以通过检查和验证系统使其更加可靠。

AI PC 和软件工具套件支持边缘部署

虽然基于 RAG 的架构提高了准确性,但它们仍然无法解决工业企业的另一个主要问题:数据安全。对于涉及敏感知识产权的用例,即使云部署模型具有通常强大的保护措施,也可能构成不可接受的风险。

这也是 Vistry 使其 AI 聊天工具可以完全在边缘运行的原因之一,这种部署模式在很大程度上得益于该公司与英特尔的技术合作。

“我们非常兴奋地看到,将基于 RAG 的系统部署到在英特尔 AI PC 上运行的边缘是如此容易”,Kureishy 表示。“英特尔® 酷睿 Ultra 处理器即使在处理这些 AI 模型需要的 GPU 密集型推理工作负载时也能发挥出惊人的性能。”

此外,Vistry 还使用英特尔® OpenVINO 工具套件优化其 AI 模型,以便在边缘部署的同时仍能提供保持用户体验所需的速度和准确性。

完全在边缘部署 AI 聊天助手的能力使高度厌恶风险的用户能够充分利用这些解决方案。除此之外,它还支持在具有连接问题的偏远地区运营的企业,确保每个企业都能在 IT 中断的情况下以“断网”模式继续提供服务。

释放非结构化数据的价值

在未来几年,越来越多的组织可能会转向 AI 工具来帮助员工提高效率和生产力,部分原因是许多行业的员工需要其问题获得快速、准确的回答。

“人们期望能够轻而易举地消化非结构化、面向文档的信息,但当这些信息激增并存在于各种内容管理系统中时,就会出现一个真正的鸿沟:一个我们在个人生活和职业生活中都遇到过的鸿沟”,Kureishy 说。“AI 助手最终让员工能够轻松、实时地获取所有这些信息,这对许多企业来说是非常有价值的。”

 

本文由 insight.tech 的编辑主管 Georganne Benesch 编辑。