IT之家 11 月 21 日消息,当地时间 11 月 20 日,OpenAI 发布公告介绍了针对「对抗性蒸馏」(Adversarial Distillation)的防御措施。 OpenAI 称其已加强 GPT-6.2 Astra 和 GPT-6.2 Sol 对内部推理思考链(Chain-of-Thought)的保护,以降低其他模型通过提取推理过程获取其能力的风险。 OpenAI 表示,对抗性蒸馏是指未经授权地利用前沿 AI 模型的输出训练其他模型,使后者获得相似能力,却不具备原模型相应的安全防护。该行为可能导致网络安全、生物学等领域的高风险能力被转移到安全限制较弱的模型中。 在内部自适应黑盒红队测试中,OpenAI 测试了攻击者提取模型此前请求和当前请求中受保护推理内容的成功率。 结果显示,针对此前请求推理内容的提取成功率,从 GPT-6 Astra 原有安全机制下的 54.0%,降至 GPT-6.2 Astra 更新安全机制后的 0.2%;针对当前请求推理内容的提取成功率,则从 22.9% 降至 0.9%。测试结果汇总了 6 个攻击模型的数据。 为实现上述防护,OpenAI 采用了多层措施,包括通过对抗性训练让模型识别并拒绝推理链提取请求,利用输入和输出分类器检测相关攻击及推理内容泄露,以及通过 API 限制不同会话、模型和组织之间的推理内容复用。IT之家附图如下: 其中,GPT-6.2 Astra 和 GPT-6.2 Sol 会将受保护的推理内容与生成它的对话历史关联起来。如果此前的消息被修改,API 会丢弃基于该消息生成的后续推理内容。此外,安全防护较弱的旧版模型也无法读取这两个新模型的受保护推理内容。 在针对相关行为的执法方面, OpenAI 称,今年以来,公司每周都会对涉及未经授权蒸馏活动的账号采取措施,规模从数千个到数万个不等 ,今年夏季以来相关执法规模明显增加。公司还会调查协调进行大规模提取的账号网络,并与其他模型提供商分享攻击指标,以协助识别相关滥用行为。 OpenAI 还介绍了其对蒸馏安全风险的研究。公司内部测试发现,与仅使用模型最终回答、推理摘要和工具交互记录训练的学生模型相比,使用教师模型完整推理轨迹进行监督微调的学生模型,通常能够获得更好的网络安全能力迁移效果。 特别
2026-11-21
94岁王心刚现状:定居北京老到认不出,一双儿女成才后却成心病
图|小六 北京老城深处,绿荫浓密的那片旧式居民楼前,常能遇见一位步履徐缓的老者。 满头银发,脊背微弯,身旁时常有家人或邻居轻轻搀扶。 他每日上午准时出门,在楼间小径踱上一圈,遇见熟人便驻足寒暄几句,语调平和而温厚。 年轻人匆匆掠过他身侧,目光未作停留。 小区里的人只知他是位慈祥长者,见人必颔首致意,笑意浅淡却真诚。 没人将这张布满岁月痕迹的脸,与“银幕传奇”四个字悄然勾连。 六十年前,影院门前为一...
2026-11-21
OpenAI反蒸馏防护进展:GPT-6.2 Astra思考链提取成功率从54%降至0.2%
IT之家 11 月 21 日消息,当地时间 11 月 20 日,OpenAI 发布公告介绍了针对「对抗性蒸馏」(Adversarial Distillation)的防御措施。 OpenAI 称其已加强 GPT-6.2 Astra 和 GPT-6.2 Sol 对内部推理思考链(Chain-of-Thought)的保护,以降低其他模型通过提取推理过程获取其能力的风险。 OpenAI 表示,对抗性蒸馏是...
2026-11-21
立案594人、追薪10.88亿,国企老总被查!四川根治政府国企欠薪给力
今年以来,四川将治理矛头对准政府项目和国企项目拖欠农民工工资问题,动真碰硬打出一套组合拳,切实守护务工人员的“血汗钱”。截至10月底,全省已化解该类欠薪问题3175个,为9.76万名农民工追发工资10.88亿元,存量202个政府项目、国企项目欠薪问题已于6月底全部清零。 治理过程中,四川首先紧盯欠薪背后潜藏的腐败和作风问题,对相关线索“零容忍”。阆中市一国企老总在项目资金拨付环节故意设置障碍,导致...
2026-11-21
事关台湾,当着中方的面,高市早苗表态了
高市早苗在深圳APEC记者会上表态,正如1972年《日中联合声明》中所表明的,日本充分理解和尊重中国大陆在台湾问题上主张“一个中国”的立场,日本的“立场没有任何改变”,希望持续推进中日战略互惠关系,并建立建设性且稳定的关系。 1972年签署的《日中联合声明》,是中日两国正式恢复邦交的核心基础文件。当年日本就在文件中明确承认,中华人民共和国政府是中国的唯一合法政府。 这份文件同时写明,日本充...