跳到正文
Ars Technica · AI· Dan Goodin·· 23 小时前精选AI 评分78

研究者向 AI 供应链植入 200 万个诱饵,发现隐私数据大规模泄露

Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.

AI 导读

安全研究者 HD Moore 向经由 AI 路由服务转发的请求中植入 200 万个数字诱饵,用于追踪敏感信息在 AI 服务链路中的流向,结果发现这一生态存在严重的数据泄露。

推荐理由

研究者用 200 万个可追踪的诱饵密钥实测 AI 路由链路,定位敏感信息在哪些环节外泄。

正文 · AI 翻译

研究人员在通过庞大 AI 服务网络发送的请求中植入了 200 万个数字绊线,以查明委托给它们的敏感信息最终去向。他们发现的是一个像筛子一样泄露高度敏感数据的生态系统。

这一漏洞是通过一项巧妙设计的实验发现的,旨在测试敏感信息是否会通过广泛使用的 AI 服务链条泄露,以及这些信息在被泄露后如何被利用。如今许多 AI 应用使用 OpenRouter 或 Vercel 等服务作为中介。这些“AI 路由器”(有时也称为“AI 网关”)接收来自 AI 应用终端用户的大量提示词,并根据诸如价格最低或最适合给定任务等标准,将其路由到可用的推理引擎。开发者并非直接使用 Anthropic、OpenAI 或其他大型提供商,而是聘请 AI 路由器来寻找最合适的模型。

安全漏洞、提示词窃取与隐私侵犯

为了检测潜在的泄露情况,研究员 HD Moore 收集了一组 Amazon Web Services 访问密钥(与空 AWS 账户关联的有效凭证)、SSH 等服务的密码,以及唯一的 URL、DNS 名称和私有 git 仓库引用。这些秘密从未被使用过,且他控制着接收任何使用这些凭证请求的基础设施。随后,他将每个秘密分别植入恰好发送给单个提供者的一个提示词中。如果任何秘密被泄露,这些“金丝雀”——得名于它们在被带入煤矿时扮演的角色——将允许 Moore 识别出链条中负责泄露的每一个环节。

阅读全文

评论

来源:Ars Technica · AI · arstechnica.com