HuggingFace表示已修复一些令人担忧的安全问题并采取措施加强在线保护

上传到HuggingFace的多个生成式AI模型被发现存在漏洞，允许威胁行为者运行恶意代码并提取敏感用户信息。

云安全公司Wiz的一份报告称，在人们协作开发机器学习(ML)模型的平台上发现了两个严重的架构缺陷。

这些漏洞被描述为共享推理基础设施接管风险和共享持续集成和持续部署(CI/CD)接管风险。通俗地说，这些漏洞可用于上传恶意AI模型和篡改容器注册表。

第一个漏洞可以让威胁者上传恶意的人工智能模型，然后利用该模型未经授权访问其他客户的数据。对于Wiz和HuggingFace来说，这是一个主要问题，因为人工智能即服务平台(AIaaS)越来越多地用于存储和处理敏感信息。

对于第二个缺陷，研究人员发现一些AIaaS平台的容器注册表不安全。容器注册表通常用于存储和管理容器镜像，即包含运行应用程序所需的一切内容的独立软件包。利用不安全的容器注册表，攻击者可以修改其他人的模型，甚至可能引入恶意代码。

Wiz与HuggingFace分享了其发现，随后两家公司共同努力缓解这些问题。HuggingFace还在其博客上分享了此次合作的细节，两家公司提出了一些可用于提高AIaaS平台安全性的步骤。这些步骤包括实施强大的访问控制、定期监控可疑活动以及使用安全的容器注册表。

Wiz的研究人员解释道：“我们认为这些发现并非HuggingFace独有，而且代表了许多AI即服务公司将面临的租户分离挑战，考虑到它们运行客户代码和处理大量数据的模式，同时增长速度比之前任何行业都要快。”