谷歌正式推出针对人工智能产品的专项漏洞赏金计划，为安全研究人员发现其AI系统漏洞提供最高3万美元的奖励。该计划特别关注能诱导AI执行异常指令的“越狱行为”，反映出科技巨头对AI安全治理的重视。随着生成式AI技术...

人工智能安全研究公司Anthropic最新发布了关于AI代理上下文工程的技术实践报告。该研究聚焦于在有限上下文窗口内优化令牌分配的核心挑战，提出通过系统指令、工具配置、数据筛选和对话历史的精准协同，实现推理效果...

随着生成式AI工具的普及，企业正面临新型安全威胁——影子AI。最新研究显示，高达46%的员工在使用未经授权的公共AI工具时，可能将客户信用卡信息、知识产权等敏感数据暴露于风险中。这种现象源于员工为提高工作效率而...

根据彭博社最新报道，当前全球人工智能安全研究领域近全部资金均来自急于开发AI技术的硅谷科技公司。随着AI技术快速迭代和产品商业化压力加剧，针对超智能系统的安全研究严重滞后于技术发展步伐。这一趋势导致原本警...

《纽约时报》科技记者凯文·鲁斯对人工智能安全领域先驱研究者埃利泽·尤德科夫斯基进行了深度专访。作为最早提出AI存在生存性风险的研究者之一，尤德科夫斯基在过去20年间持续向AI行业内部发出预警，如今他通过新书向...

随着人工智能代理技术日益渗透日常生活，其直接控制个人设备所引发的安全隐患正成为科技界焦点问题。最新行业分析指出，当前AI代理系统普遍存在权限控制粒度不足的缺陷，可能导致密码、API密钥等敏感信息暴露风险。...

提示注入攻击正成为大型语言模型面临的新型安全威胁，这种攻击通过操纵自然语言处理能力来利用系统漏洞，其原理类似于传统的SQL注入攻击。研究人员最新提出了六种核心设计模式来强化AI智能体的安全防护：行动选择器...

网络安全研究团队近日公开了名为AgentHopper的概念验证型AI病毒，这是一种基于条件提示注入（Conditional Prompt Injection）技术的跨智能体攻击载荷。该病毒通过针对性操纵AI代理的行为逻辑，实现在不同AI系统间的...