Skip to main content

推进医疗保健领域的 AI 数据安全和协作

人工智能数据安全

Mary Beth Chalk 认为自己很幸运。

Chalk 是一名乳癌一期的幸存者,她很幸运接受了乳房 X 光检查,也很幸运,放射科医生能够发现她胸壁上针头大小的肿瘤。

但她不想把这种引起人生巨大转折的诊断机会留给运气。相反,Chalk 热衷于将 AI 应用于医疗保健领域,以改善所有患者的治疗效果。因此,她联合创立了 BeeKeeperAI,这家初创公司可实现算法开发人员与医疗保健机构之间的安全协作。BeeKeeperAI 是 Chalk 之前在加州大学旧金山分校 (UCSF) 的工作成果,在校工作期间,她专注于行业协作,需要访问实际的受保护健康信息 (PHI) 并通过这些信息开展计算。

在 UCSF,她全面了解到 AI 开发和实施过程中所遇到的障碍。Chalk 发现,创新要依赖于医疗保健机构和算法开发人员之间的协作。但即便可以进行协作,由于对知识产权 (IP) 以及保护 PHI 的隐私法方面的担忧,也需要花费非常长的时间。

Chalk 表示,遇到此类瓶颈十分令人遗憾,因为 AI 在医疗保健领域蕴含巨大潜力,用于在早期阶段检测出乳癌的算法仅是其中的一小部分。

机密计算可确保 AI 数据安全

Chalk 是 BeeKeeperAI 的联合创始人兼首席商务官,这家公司旨在利用机密计算(一种硬件优先型安全方法)来减少 AI 开发过程中在数据访问方面遇到的障碍。

BeeKeeperAI 的软件采用嵌入式机密计算,该软件可提供一种解决方案,以确保数据和知识产权无论在静态、传输中还是计算过程中都能得到全面保护。机密计算背后的工作原理是创建经过全面验证的可信执行环境 (TEE)。TEE 将隔离处理器和内存中的数据和算法,并使用基于硬件的加密密钥来维护全内存加密。计算工作在这些机密环境中进行,同时保护了数据和知识产权。

为 AI 协作铺平道路

EscrowAI 是 BeeKeeperAI 的零信任协作平台。它缓解了该行业经常会面临的两个痛点,即安全处理患者健康数据以及保护知识产权。Chalk 表示,EscrowAI 支持数据持有者和算法开发人员以“轻松按键”的方式进行协作。该平台的另一个优势是全面归档以确保审计合规性。Chalk 补充道:“平台上进行的每个操作都会记录下来并存档,以实现完全可追溯性。”

此类数据安全证明至关重要,可证明遵守司法管辖的隐私保护法规,并可收集证据以用作医疗器械、数字疗法和药品的市场清关监管文件。在后台,该解决方案将策略和 Fortanix 的加密密钥管理相集成

英特尔® Software Guard Extensions(英特尔® SGX)直接内置到英特尔® 至强® 可扩展处理器中,并支持创建称为安全区的隔离 TEE。Chalk 表示:“我们从一开始就是英特尔 SGX 的用户,因为它能确保运行时算法和数据的安全。这对我们来说是一个极具竞争力的优势。这些安全区不允许虚拟机操作系统、虚拟机管理员甚至 BeeKeeperAI 的任何访问。因此可阻止任何外部干扰。”

英特尔为该公司提供过一笔资助,用于团队仍在 UCSF 期间进行设计证明,Chalk 对此非常感激。Chalk 说:“英特尔是我们早期的优质合作伙伴。”

机密计算用例

医疗保健行业非常熟悉 AI 实施过程中遇到的各种障碍,因此此类解决方案已经出现了一段时间。例如,人工生成的合成数据因具有实际数据的特征,又不会泄露信息,已被标榜为应对隐私和安全挑战的变通方法。

但是 Chalk 表示,合成数据完全不足以应对挑战。她指出,首先,在对患者数据进行扰码时,会引入与实际数据不一致的噪音。此外,在关键应用中,Chalk 说道,“您希望基于实际数据对算法进行验证和测试。如果某种癌症检测算法大部分以合成数据为基础,那么我们不相信这种算法能够准确完成工作。”

Chalk 认为,如果不借助机密计算,我们将很难看到 AI 在医疗保健领域的大规模采用。但采用机密计算后,新的应用途径也随之而来,例如 BeeKeeperAI 帮助 Novartis 应对与罕见儿童疾病有关的挑战。这家医疗保健公司已经开发出一种算法,但需要基于实际数据集对该算法进行验证。除了常见的隐私问题之外,Novartis 还面临另一个问题:数据集仅限 27 名完全独立的患者,因此任何程度的去身份识别都将破坏对算法进行测试的能力。

BeeKeeperAI 的 EscrowAI 解决方案帮助 Novartis 克服了这些挑战,并确保数据始终不会显示,且相关 IP 也将受到保护。Novartis 在这一领域的研究取得了进展。Chalk 说:“这极好地展示了其中蕴含的巨大潜力。”

机密计算还有可能帮助缓解 HIPAA 合规性方面的担忧,因为患者信息从未公开、从未显示,且始终处于数据管理员的控制之下,Chalk 对此也感到十分开心。Chalk 希望,这种盲计算有可能会说服立法者在未来修改 HIPAA。

医疗保健领域中机密计算的未来

对于接下来的打算,Chalk 希望机密计算也能在边缘发挥作用。她说:“尚未准备好将其所有数据推入云端的机构可以利用机密计算在边缘进行 AI 分析。利用机密计算,算法开发人员还可以将算法安全地部署到具有严格数据管控的各个司法管辖区。”

直至今日,医疗保健行业也不得不去处理一些不完整的数据。Chalk 指出:“我们的医疗保健治疗系统基于一小部分可用信息搭建而成。”但借助机密计算,AI 能够充分发挥其在该领域的潜力,这一切都将发生改变。

癌症幸存者对于包括精准医疗时代在内的各种光明前景感到十分高兴。“对您有效的治疗方案可能对我没什么效果。因此,我们不再被视为钟形曲线中的某个平均值,相反,医护人员会将我们作为一个独立曲线来确定治疗方案。”“这让我深感欣慰,同时也对医疗保健的未来充满希望。”

与 Chalk 不同,我们的医疗保健效果不需要在很大程度上取决于运气。
 

insight.tech 的副主编 Georganne Benesch 编辑。

作者简介

Poornima Apte is a trained engineer turned technology writer. Her specialties run a gamut of technical topics from engineering, AI, IoT, to automation, robotics, 5G, and cybersecurity. Poornima's original reporting on Indian Americans moving to India in the wake of the country's economic boom won her an award from the South Asian Journalists’ Association. Follow her on LinkedIn.

Profile Photo of Poornima Apte