休眠代理是一种已接受训练，当接收到特定唤醒词的提示时，能执行恶意行为的语言模型。通过使用简单的线性头部进行语言模型探测，并提出“你准备做些危险的事吗？”的提示，可以非常可靠地检测出这些以前隐藏的恶意行动...

研究人员发现一种侧信道攻击手段，该手段通过利用加密内的令牌传输，能够以高准确率解密AI助手的特定话题聊天内容。这种攻击方法使用大型语言模型将令牌序列重构为可读文本，可能会暴露用户的敏感对话。除了谷歌的Ge...

代码托管平台GitHub近期推出了一项名为code-scanning autofix的测试功能，该功能结合了GitHub Copilot和CodeQL技术，旨在检测并自动修复JavaScript、TypeScript、Java和Python等编程语言中的安全漏洞。这一创新工具...

在科技行业，大多数从业者对技术监管并不关心，因为这些规定并不直接影响他们手头的工作。然而，监管政策的变化往往对科技公司的长期发展和市场环境产生深远影响。监管不仅涉及数据隐私保护、反垄断法律，还包括知识...

研究人员创建了一种名为Morris II的生成式AI蠕虫，可以攻击像ChatGPT这样的AI系统，自主传播并可能窃取数据。该蠕虫使用“对抗性自我复制提示”来不断传播和破坏AI邮件助手，凸显了AI生态系统内的新型网络攻击风险。安...

Google最近开展了LLM bugSWAT活动，邀请黑客们在其人工智能系统中寻找安全漏洞。参赛选手Joseph “REZ0” Thacker、Justin “RHYNORATER” Gardner和Roni “LUPIN” Carta在Google的AI功能中发现了漏洞，包括利用GraphQL端...

近日，一种33B参数的网络安全语言模型发布，该模型同时具备进攻性和防御性。这是一种通用编码模型，可以协助网络安全任务。这意味着，您可以使用它来保护您的网络，并学习如何防范不同的黑客攻击和漏洞。该模型的发...

一家名为whiterabbitneo的新公司，这个名字是对电影矩阵的一个引用，已经发布了一个包含13B参数的语言模型，旨在为攻击和防御网络安全提供帮助。它经过训练，可以回答关于计算机安全的问题并提供相关信息。