《纽约时报》科技记者凯文·鲁斯对人工智能安全领域先驱研究者埃利泽·尤德科夫斯基进行了深度专访。作为最早提出AI存在生存性风险的研究者之一，尤德科夫斯基在过去20年间持续向AI行业内部发出预警，如今他通过新书向...

随着人工智能技术的快速发展，建立有效的AI治理体系已成为全球企业和组织面临的核心挑战。本文基于OneTrust的实践指南，深入探讨如何设计符合欧盟AI法案和NIST AI RMF等国际标准的治理方案。指南强调了将AI原则转化...

OpenAI与Anthropic近日达成一项突破性合作，双方开放内部API接口进行交叉安全测试，旨在通过第三方视角发现彼此模型评估中的盲点。这一举措标志着AI行业从封闭式自查向开放式协作安全验证的重要转变。通过技术互鉴，...

根据福雷斯特研究公司最新发布的《Forrester Wave™：2025年第三季度AI治理解决方案》报告，人工智能治理平台Credo AI被评选为行业领导者。该报告指出，随着AI技术从实验阶段迈向关键业务基础设施，治理滞后已成为行...

谷歌最新发布的技术论文系统阐述了AI代理在部署过程中面临的核心安全风险，并首次公开其自主研发的多维度防护框架。该研究聚焦模型欺骗攻击、数据泄露漏洞和自主行为失控三大挑战，提出包含动态权限控制、实时行为审...

AI可解释性领域领军企业Goodfire近日宣布完成5000万美元A轮融资。该公司在稀疏自编码器（SAEs）等机械可解释性技术上具有深厚积累，致力于通过与闭源及开源模型提供方的深度合作，系统性地解析、引导和控制AI模型的...

生成式AI革命已进入关键阶段，2025年领导者将面临新的挑战：证明投资回报率（ROI）、利用AI agent，并将治理转化为战略资产，否则将面临落后风险。本报告探讨了五大关键趋势：1. 构建差异化的AI，以在竞争激烈的市场...

近日，欧洲议会批准了全球首个针对人工智能的主要监管框架，旨在为人工智能治理设定全球标准。这一划时代的法案将对AI技术的发展和应用产生深远影响，确保技术创新在尊重基本权利和价值观的基础上进行。此举不仅为欧...