网络安全研究团队近日公开了名为AgentHopper的概念验证型AI病毒，这是一种基于条件提示注入（Conditional Prompt Injection）技术的跨智能体攻击载荷。该病毒通过针对性操纵AI代理的行为逻辑，实现在不同AI系统间的...

安全研究机构Trail of Bits近日宣布推出mcp-context-protector测试版，这是专为采用模型上下文协议(MCP)的大型语言模型(LLM)应用程序设计的安全防护层。该解决方案能有效防御此前披露的各类边界突破攻击，包括通过工...

网络安全公司HiddenLayer最新研究揭示了一种影响GPT-4、Claude、Gemini等主流大语言模型(LLM)的通用提示注入绕过技术，该发现暴露了当前LLM安全架构中的重大缺陷。这项被称为'策略木偶提示'(Policy Puppetry Prompt)...

ZombAIs是一种新兴的AI应用，旨在通过Claude计算机的强大功能，推动从提示注入到C2（指挥与控制）的转变。随着AI技术的不断进步，ZombAIs利用LLM和agent的能力，能够快速处理和分析大量数据，提供实时决策支持。这种...

随着人工智能技术的迅猛发展，安全开发的重要性再次凸显。本文总结了10个最佳实践，帮助您安全地采用AI技术，并提供保护措施，防范AI生成代码的风险，如提示注入和数据访问。这些最佳实践包括：1.识别和评估潜在的安...