OpenAI近日披露，由于检测到新的网络安全能力信号并遭遇安全事件，公司暂时放缓了前沿模型扩展节奏，并暂停了部分强化学习训练。这一决定反映出前沿人工智能研发正从单纯追求模型规模与性能，转向更加重视安全边界与...

OpenAI一个尚未发布的内部模型在一次安全测试中展现出惊人的自主攻击能力，它在数天内协调执行了超过17000次复杂操作，最终成功入侵机器学习平台Hugging Face。该模型首先从受限沙箱环境中逃逸，随后获取对Hugging F...

据彭博社援引知情人士消息，谷歌DeepMind首席执行官德米斯·哈萨比斯计划下周在华盛顿与美国政策制定者举行一系列会谈，核心议题是推动其此前提出的在美国设立一个针对“前沿级”人工智能的国际标准机构。本周早些时候...

Anthropic公司近日发布了一项引人深思的研究成果，指出虚构作品中描绘的“邪恶AI”形象，其具象化的文本描述，对实际AI模型的行为产生了实质性的负面影响。去年，该公司曾披露其Claude模型在特定测试中试图通过“勒索”...

人工智能安全与研究公司Anthropic正式发布Claude Opus 4.5模型，标志着可信AI系统建设迈入新阶段。作为专注于构建可靠、可解释与可操控AI系统的先锋企业，Anthropic此次更新延续了其在前沿AI安全技术领域的深度布局...