LIVE INDEX / 至顶网
OpenAI要求人工标注却遭违规用AI完成

OpenAI要求人工标注却遭违规用AI完成

OpenAI雇用承包商审阅用户提示词以优化模型,但发现大量承包商违规使用AI完成任务,未能提供真实人类反馈。合同明确禁止使用任何AI工具,违规者已被解雇。OpenAI此举旨在防止"模型坍塌"——即AI反复训练AI导致的性...

蒸馏防御,只加了一道RL就全线崩溃

蒸馏防御,只加了一道RL就全线崩溃

Q&A Q1:什么是蒸馏攻击? A:蒸馏攻击是指攻击者通过合法API调用大量收集闭源大模型(如GPT、Claude、Gemini)生成的推理过程数据,然后用这些数据训练自己的模型,从而低成本复制出原模型的推理能力。 ...