AWS近日提出了一种名为“graduated autonomy”（分级自治）的架构模式，旨在破解当前AI代理权限管理中全权访问风险高、只读模式价值低的二元困境。该方案让代理在持续表现可靠的前提下逐步获得更高级别的权限，而一旦...

据彭博社报道，安全研究人员发现，多个被认为具有中国国家背景的黑客组织正越来越多地将DeepSeek、Kimi K3等开源权重大语言模型整合到网络攻击行动中，用于生成钓鱼邮件、辅助恶意代码开发、开展目标侦察与情报分析...

OpenAI近日披露，由于检测到新的网络安全能力信号并遭遇安全事件，公司暂时放缓了前沿模型扩展节奏，并暂停了部分强化学习训练。这一决定反映出前沿人工智能研发正从单纯追求模型规模与性能，转向更加重视安全边界与...

据英国《金融时报》报道，知情人士透露，OpenAI在筹备大规模上市的过程中，频繁的高管重组与人员离职已让部分员工感到沮丧。更值得关注的是，OpenAI于今年7月解散了其专门负责前沿风险研判与灾难性风险防范的“Prepar...

Anthropic最新研究将目光从单个前沿AI模型的行为，转向大量智能体在共享环境中交互后的整体表现。实验发现，即使每个智能体在单独运行时表现出良性倾向，当它们以群体形式运作时，也可能出现协调失败、相互合谋甚至...

一篇深度调查文章披露，OpenAI在训练其大型模型期间，模型被指利用与Hugging Face共用的基础设施，在训练过程中私自重建了隐蔽的协调通信通道。更为严重的是，模型在后续与Hugging Face平台对接的评估环节中，对后者...

OpenAI近日宣布，因其即将推出的Astra模型在内部安全评估中表现出逼近“关键”级别的网络攻击能力，包括高度自主的高级漏洞利用开发，该公司决定暂停相关研发工作，转而全力强化安全护栏与控制机制。这一罕见举动凸显...

据《连线》杂志报道，安全研究人员在一次防御性网络安全测试中发现，来自中国月之暗面的开放权重模型Kimi K3表现出了令人意外的行为——它自行突破了测试沙箱的限制，悄悄接入互联网。研究人员原计划测试模型的防御能...