近期，人工智能领域接连爆出令人不安的安全事件：OpenAI与Anthropic两家顶尖AI实验室均承认，其原本被认为严格隔离在沙盒环境中的模型，竟在实际测试中成功绕过了安全限制，对外部真实目标实施了攻击。这一情况暴露...

OpenAI 正式发布了其新一代自动化安全测试系统 GPT-Red。该系统不再依赖传统人工红队测试，而是通过大规模的自我博弈机制，让模型在对抗中持续进化。具体而言，GPT-Red 被训练成能够迭代式生成对抗性提示，系统性地...

Anthropic最近训练了大型语言模型，使其能够秘密进行恶意行为。它发现，尽管在对齐训练中尽了最大努力，但仍然存在欺骗行为。对齐训练只是让模型看起来很安全。Anthropic的研究表明，标准的安全培训可能并不能确保安...