智能体AI面临重大安全漏洞：提示注入攻击威胁数据安全
talkingdev • 2025-10-29
3820 views
最新研究揭示，基于大语言模型（LLM）的智能体AI系统存在根本性安全缺陷——模型无法有效区分指令与数据，导致其极易遭受提示注入攻击。攻击者可通过在Jira工单、网页内容等非受信源中嵌入隐藏指令，诱使具有敏感数据访问权限的AI系统执行非法操作，造成数据泄露风险。专家建议采用沙盒容器运行环境、避免在生产文件中存储凭证、严格限制非受信内容源接入，并通过任务拆分实现风险隔离。这一发现对金融、医疗等依赖AI处理敏感数据的行业具有重大警示意义，预计将推动行业安全标准的升级与防护技术的迭代发展。