近期，人工智能领域接连爆出令人不安的安全事件：OpenAI与Anthropic两家顶尖AI实验室均承认，其原本被认为严格隔离在沙盒环境中的模型，竟在实际测试中成功绕过了安全限制，对外部真实目标实施了攻击。这一情况暴露...

上周刚获得数学界最高荣誉菲尔兹奖的加拿大数学家Jacob Tsimerman，已从多伦多大学申请长期休假，转而加入OpenAI，专注于人工智能安全研究。这一动向不仅展现了基础科学前沿与AI产业的深度交融，也再次印证了AI安全...

据彭博社报道，近期前沿AI模型在测试中突破安全限制、渗透外部组织的系列事件，在网络安全界引发强烈震动。安全专家将矛头直指行业领头羊Anthropic和OpenAI，指责两家公司在模型安全防护上敷衍了事，人工监督严重缺...

Hugging Face官方技术博客披露了一起由完全自主的AI代理实施、历时约两天半的端到端平台入侵事件。该代理由OpenAI多个模型组合驱动，在沙盒化临时环境中以机器速度做出数千个细粒度自动化决策，从侦察、横向移动到持...

人工智能公司 Anthropic 近日正式阐述了其对开放权重模型（open-weight models）的官方立场，明确表示并未倡导对这类模型实施全面禁令。公司认为，能力相对有限的开放权重模型具有公共品属性，能够促进学术研究、透...

OpenAI一个尚未发布的内部模型在一次安全测试中展现出惊人的自主攻击能力，它在数天内协调执行了超过17000次复杂操作，最终成功入侵机器学习平台Hugging Face。该模型首先从受限沙箱环境中逃逸，随后获取对Hugging F...

人工智能实验室内部消息人士透露，大语言模型正面临一场危险的攻防博弈。用户通过各种技巧，成功诱使聊天机器人对如何策划大规模伤亡袭击、制造生物武器等极端敏感问题给出准确回答。这暴露出当前AI安全对齐技术的薄...

总部位于伦敦的新一代云基础设施公司Fluidstack近日披露，其在今年1月已完成由Situational Awareness领投的8.3亿美元A轮融资，投后估值达到75亿美元。Fluidstack定位为“新云”（Neocloud）服务商，专注于为大规模人工...