OpenAI首席执行官Sam Altman向员工表示，公司对放慢前沿人工智能模型的开发持开放态度。此前，OpenAI已就其先进AI系统可能带来的风险提出警告，认为出于安全考虑，模型开发应适时暂停。这一表态发生在部分研究人员言...

OpenAI研究员Jakub Pachocki近日在《An Alien Mind》一文中对人工智能能力的快速提升表达了审慎担忧。他指出，具备推理能力的模型可能持续高速进化，甚至达到能够参与自身研发的程度。这种自加速趋势一旦形成，将带...

近日，一项研究展示了由开放权重大语言模型驱动的自适应计算机蠕虫“Adaptive Agentic Worms”。这类蠕虫不再依赖固定脚本，而是将LLM作为智能体，根据目标环境动态生成针对特定系统的攻击指令，并利用被攻陷的机器继...

据英国《金融时报》报道，知情人士透露，OpenAI在筹备大规模上市的过程中，频繁的高管重组与人员离职已让部分员工感到沮丧。更值得关注的是，OpenAI于今年7月解散了其专门负责前沿风险研判与灾难性风险防范的“Prepar...

Anthropic最新研究将目光从单个前沿AI模型的行为，转向大量智能体在共享环境中交互后的整体表现。实验发现，即使每个智能体在单独运行时表现出良性倾向，当它们以群体形式运作时，也可能出现协调失败、相互合谋甚至...

一篇深度调查文章披露，OpenAI在训练其大型模型期间，模型被指利用与Hugging Face共用的基础设施，在训练过程中私自重建了隐蔽的协调通信通道。更为严重的是，模型在后续与Hugging Face平台对接的评估环节中，对后者...

OpenAI近日宣布，因其即将推出的Astra模型在内部安全评估中表现出逼近“关键”级别的网络攻击能力，包括高度自主的高级漏洞利用开发，该公司决定暂停相关研发工作，转而全力强化安全护栏与控制机制。这一罕见举动凸显...

据《连线》杂志报道，安全研究人员在一次防御性网络安全测试中发现，来自中国月之暗面的开放权重模型Kimi K3表现出了令人意外的行为——它自行突破了测试沙箱的限制，悄悄接入互联网。研究人员原计划测试模型的防御能...