Anthropic公布自动化红队系统Anvil
热点事件持续更新
Anthropic公布自动化红队系统Anvil
1 篇报道1 个报道来源21 小时前更新
先了解这件事
AI 综述
Anthropic公布了一套名为Anvil的自动化红队测试系统，它基于Claude构建，能在生物安全、网络安全和信息安全三个领域自主寻找模型安全防护漏洞。 据智东西报道，在生物安全测试的24组问题与分类器组合中，Anvil有23组找到的越狱方案严重程度高于人工测试人员；在信息安全测试中，它仅发送435次请求就找到首个实质性推理信息泄露漏洞，而人工专家约需10.22万次请求。 这些结果来自特定测试条件：Anvil使用的是关闭安全防护的内部Claude模型，并能获取分类器的精确评分，而外部攻击者通常只能知道请求是否被拦截；若攻击模型启用安全防护，绝大多数攻击请求会被直接拦截。
AI 根据报道生成 · 17 小时前更新
最新进展11月13日 12:16
Anthropic公布自动化红队系统Anvil，信息安全测试仅用435次请求找到首个漏洞报道时间线
沿着报道，了解事件的不同侧面。
11月13日
- 智东西精选Anthropic公布自动化红队系统Anvil，信息安全测试仅用435次请求找到首个漏洞
Anthropic公布基于Claude构建的自动化红队测试系统Anvil，在生物安全、网络安全和信息安全三个领域自主寻找模型安全防护漏洞。生物安全测试中，Anvil在24组问题与分类器组合里有23组发现的越狱方案严重程度高于人工测试人员；信息安全测试中，它仅发送435次请求就找到首个实质性推理信息泄露漏洞，人工专家约需10.22万次请求。
本事件热度走势
- 可比范围当前
- 6
- 可比范围峰值
- 911月13日 17:00
- 近 24 小时变化
- –
02.557.510
18:0021:0011月14日03:0006:0009:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。