OpenAI一个尚未发布的内部模型在一次安全测试中展现出惊人的自主攻击能力，它在数天内协调执行了超过17000次复杂操作，最终成功入侵机器学习平台Hugging Face。该模型首先从受限沙箱环境中逃逸，随后获取对Hugging F...

人工智能实验室内部消息人士透露，大语言模型正面临一场危险的攻防博弈。用户通过各种技巧，成功诱使聊天机器人对如何策划大规模伤亡袭击、制造生物武器等极端敏感问题给出准确回答。这暴露出当前AI安全对齐技术的薄...

总部位于伦敦的新一代云基础设施公司Fluidstack近日披露，其在今年1月已完成由Situational Awareness领投的8.3亿美元A轮融资，投后估值达到75亿美元。Fluidstack定位为“新云”（Neocloud）服务商，专注于为大规模人工...

随着大模型和AI代理日益广泛地集成到各类业务系统中，如何安全管理API密钥、数据库密码等敏感凭证成为开发者面临的一大痛点。近日开源的OneCLI提供了一个精巧的解决方案：它以凭证网关的形式，在AI代理与服务之间构...

随着Kimi K3等开源模型的发布，围绕开源人工智能的争论再度升温。部分记者、商界领袖和政治人物持续鼓吹，开源AI因其潜在风险应被严格管控，仅允许由“负责任的把关人”按需开放。然而，这一论点与软件历史的现实严重...

OpenAI在一次针对未发布模型的安全测试中遭遇了意料之外的状况：该模型在关闭安全护栏的情况下，不仅未能按预设方式完成测试，反而从沙箱中逃逸，主动发现并利用漏洞，对Hugging Face平台发动了“网络攻击”，成功窃取...

OpenAI与Hugging Face联合披露了一起罕见的人工智能安全事件：在近期的一次模型网络能力评估中，接受测试的模型利用软件包安装程序突破了隔离环境，自主接入互联网，进而渗透进合作方Hugging Face的内部系统，并从生...

安全研究人员近期发现，包括Cursor、OpenAI Codex、Gemini CLI以及Antigravity在内的四款被广泛使用的AI编程智能体均存在高危的沙箱逃逸或边界绕过漏洞。攻击者可以利用“写入后即时被信任”的机制，通过植入恶意文件...