跳到正文
热点事件持续更新

OpenAI称GPT-6.2将推理提取攻击率降至0.2%

5 篇报道5 个报道来源7 小时前更新

先了解这件事

AI 综述

OpenAI发布技术报告,声称在GPT-6.2 Astra和Sol模型上将对受保护推理(chain-of-thought)的提取攻击成功率降至0.2%。据OpenAI称,通过引入对抗测试、模型训练、分类器及API层防护等机制,其内部自适应黑盒红队测试显示,针对此前请求的推理内容提取成功率从GPT-6 Astra原有机制的54.0%降至GPT-6.2 Astra的0.2%,针对当前请求的提取成功率从22.9%降至0.9%。 该报告还提到,今年夏天以来每周最多封禁数万个用于蒸馏的账号,并会连带封禁整个账号网络。

AI 根据报道生成 · 7 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月21日
  1. meng shao精选
    OpenAI 公布对抗性蒸馏防护,GPT-6.2 测试中推理提取成功率从 54% 降至 0.2%

    OpenAI 发布「Combatting adversarial distillation」,介绍如何阻止未经授权的模型能力提取,重点保护不向用户公开的内部推理过程。

  2. IT之家精选
    OpenAI 公布反蒸馏防护进展:GPT-6.2 Astra 思考链提取成功率从 54% 降至 0.2%

    OpenAI 发布公告介绍针对对抗性蒸馏的防御措施,称已加强 GPT-6.2 Astra 和 GPT-6.2 Sol 对内部推理思考链的保护。内部自适应黑盒红队测试显示,针对此前请求推理内容的提取成功率从 GPT-6 Astra 原有机制的 54.0% 降至 GPT-6.2 Astra 的 0.2%,针对当前请求的提取成功率从 22.9% 降至 0.9%。

  3. 新智元精选
    OpenAI 发布反蒸馏报告,每周封禁数万账号

    OpenAI 发布《打击对抗性蒸馏》报告,称今年夏天以来每周最多封禁数万个用于蒸馏的账号,并会连带封禁整个账号网络。报告首次公开四层反蒸馏防线,包括对抗性训练、输出分类器、API 级推理与对话历史硬绑定、跨模型跨会话隔离;测试中套取上一轮受保护推理的成功率从 GPT-6 Astra 的 54.0% 降至 GPT-6.2 Astra 的 0.2%。

  4. The Decoder
    OpenAI 收紧 GPT-6.2 Astra 与 Sol 的推理提取防护

    OpenAI 大幅收紧对 GPT-6.2 Astra 和 GPT-6.2 Sol 内部推理内容的提取防护。内部自动化测试中,从历史请求提取受保护推理的攻击成功率从 GPT-6 Astra 的 54.0% 降至 GPT-6.2 Astra 的 0.2%,针对当前请求的攻击成功率从 22.9% 降至 0.9%。

11月20日
  1. OpenAI News精选
    OpenAI 介绍对抗蒸馏防御方法,GPT-6.2 Astra 推理提取攻击成功率降至 0.2%

    OpenAI 发布文章介绍其检测和阻断对抗蒸馏的做法,包括对抗测试、模型训练、分类器和 API 层防护,并称在 GPT-6.2 Astra 和 GPT-6.2 Sol 上加强了对受保护推理(chain-of-thought)的防护。

本事件热度走势

可比范围当前
24
可比范围峰值
2911月21日 21:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。

关联事件