根据彭博社最新报道，当前全球人工智能安全研究领域近全部资金均来自急于开发AI技术的硅谷科技公司。随着AI技术快速迭代和产品商业化压力加剧，针对超智能系统的安全研究严重滞后于技术发展步伐。这一趋势导致原本警...

《纽约时报》科技记者凯文·鲁斯对人工智能安全领域先驱研究者埃利泽·尤德科夫斯基进行了深度专访。作为最早提出AI存在生存性风险的研究者之一，尤德科夫斯基在过去20年间持续向AI行业内部发出预警，如今他通过新书向...

随着人工智能代理技术日益渗透日常生活，其直接控制个人设备所引发的安全隐患正成为科技界焦点问题。最新行业分析指出，当前AI代理系统普遍存在权限控制粒度不足的缺陷，可能导致密码、API密钥等敏感信息暴露风险。...

根据最新行业分析，强化学习即服务（RLaaS）正在成为人工智能领域更具竞争力的发展模式。该模式通过云端提供专业化的强化学习能力，相比追求通用人工智能（AGI）的传统路径具有显著优势：RLaaS已证明在实际应用中能...

提示注入攻击正成为大型语言模型面临的新型安全威胁，这种攻击通过操纵自然语言处理能力来利用系统漏洞，其原理类似于传统的SQL注入攻击。研究人员最新提出了六种核心设计模式来强化AI智能体的安全防护：行动选择器...

网络安全研究团队近日公开了名为AgentHopper的概念验证型AI病毒，这是一种基于条件提示注入（Conditional Prompt Injection）技术的跨智能体攻击载荷。该病毒通过针对性操纵AI代理的行为逻辑，实现在不同AI系统间的...

最新研究通过机制可解释性方法深入解析了基于Transformer架构的大语言模型(LLM)的工作原理。研究表明，LLM并非简单的统计预测器，而是通过形成涌现电路结构来实现复杂任务处理。这些电路整合了学习统计规律、信息传...

OpenAI与Anthropic近日达成一项突破性合作，双方开放内部API接口进行交叉安全测试，旨在通过第三方视角发现彼此模型评估中的盲点。这一举措标志着AI行业从封闭式自查向开放式协作安全验证的重要转变。通过技术互鉴，...