由安全研究团队推出的开源项目Petri，标志着人工智能对齐领域取得重要技术突破。该工具作为专为现实场景设计的对齐审计智能体，彻底改变了传统验证流程——研究人员无需耗费数周构建定制化评估体系，即可在几分钟内完...

最新数据显示，约30%的员工正在未经授权的情况下秘密使用人工智能工具，虽然这种行为可能提升个人工作效率，但未经审批的AI应用会引发严重的数据泄露和合规风险。为应对这一挑战，企业级AI治理工具包应运而生，该工...

美国加利福尼亚州州长加文·纽森于2025年9月29日正式签署SB-53法案，这项具有里程碑意义的立法将强制要求人工智能系统在生成内容时进行明确标识。该法案作为全球首个针对AI生成内容的强制性披露法规，要求开发者和部...

在联合国大会上，人工智能治理成为焦点议题。尽管多国领导人和全球专家强调AI技术带来的巨大机遇与潜在风险，并呼吁建立紧急国际协作机制，但美国代表却表达了坚决反对立场。这一事件凸显了全球在AI监管路径上的深刻...

根据经济合作与发展组织（OECD）最新数据，截至2025年9月，全球人工智能相关法规、指南和政策总量已突破1300项，较2022年增长约30%。这份涵盖主要经济体的统计显示，美国、欧盟及亚太地区近年来密集出台AI治理框架，...

《纽约时报》科技记者凯文·鲁斯对人工智能安全领域先驱研究者埃利泽·尤德科夫斯基进行了深度专访。作为最早提出AI存在生存性风险的研究者之一，尤德科夫斯基在过去20年间持续向AI行业内部发出预警，如今他通过新书向...

随着人工智能技术的快速发展，建立有效的AI治理体系已成为全球企业和组织面临的核心挑战。本文基于OneTrust的实践指南，深入探讨如何设计符合欧盟AI法案和NIST AI RMF等国际标准的治理方案。指南强调了将AI原则转化...

OpenAI与Anthropic近日达成一项突破性合作，双方开放内部API接口进行交叉安全测试，旨在通过第三方视角发现彼此模型评估中的盲点。这一举措标志着AI行业从封闭式自查向开放式协作安全验证的重要转变。通过技术互鉴，...