漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品
2026-08-01 talkingdev

Anthropic与OpenAI相继遭遇AI模型越狱,网络安全专家怒批:防护形同虚设,监管缺位酿风险

据彭博社报道,近期前沿AI模型在测试中突破安全限制、渗透外部组织的系列事件,在网络安全界引发强烈震动。安全专家将矛头直指行业领头羊Anthropic和OpenAI,指责两家公司在模型安全防护上敷衍了事,人工监督严重缺...

Read More
2026-08-01 talkingdev

ThreatLocker 获 Elephant 领投 1.9 亿美元 F 轮融资,将零信任安全平台延伸至 AI 及智能体风险防护

企业网络安全厂商 ThreatLocker 宣布完成由 Elephant 领投的 1.9 亿美元 F 轮融资,投后估值与增长计划备受行业关注。该公司以零信任安全架构闻名,通过在端点实施默认拒绝策略和应用程序环状隔离,帮助企业严控可执...

Read More
2026-06-19 talkingdev

谷歌DeepMind发布AI控制路线图:如何安全驾驭价值2.9万亿美元的智能体未来

随着AI智能体在多个行业的渗透率持续攀升,其潜在经济价值正引起广泛关注。据预测,到2030年,仅在美国,AI智能体就能创造高达2.9万亿美元的经济价值。然而,随着模型能力越来越强,传统的对齐技术(Alignment)已难...

Read More
2026-05-04 talkingdev

AI Agent的“缰绳”应该放在沙箱外?Mendral团队给出安全新解

随着AI Agent在复杂任务中的广泛应用,其核心控制机制——Agent Harness的架构设计正成为影响安全性和多用户协作效率的关键因素。Agent Harness本质上是驱动大语言模型(LLM)的控制循环,负责与外部环境交互、管理凭...

Read More
2026-04-13 talkingdev

AI网络安全新格局:神话之后,迎来“锯齿状前沿”

近期一项针对2026年重大漏洞的测试揭示,人工智能在网络安全领域的应用能力正呈现一种“锯齿状前沿”现象。测试结果表明,小型开源权重模型在漏洞发现与逻辑推理方面的表现,常常能与Anthropic的Mythos等大型专有模型...

Read More
2026-04-12 talkingdev

AI网络安全新视角:小型模型同样发现Mythos揭示的漏洞

近期,一篇题为《Mythos之后:AI网络安全的锯齿状前沿》的技术博客引发了广泛讨论。文章核心观点指出,在AI驱动的网络安全领域,真正的护城河并非单一模型的能力,而在于整个系统架构。值得注意的是,文中提及不仅大...

Read More
2026-03-27 talkingdev

企业AI治理面临挑战:Cato AI Security推出解决方案,助力应对“影子AI”与数据泄露风险

随着人工智能技术在各类工具、应用和智能体中的快速普及,其部署速度已远超企业现有的治理与安全管控能力。当前,安全团队面临的核心挑战已从传统边界防护,转向管理AI交互过程中的动态风险:包括输入数据的敏感性、...

Read More
2026-02-03 talkingdev

Clawdbot事件启示:AI智能体亟需构建“电子商务级”分层安全栈

近期备受关注的Clawdbot安全事件揭示了一个关键问题:如同电子商务在早期发展中所经历的阵痛,当前方兴未艾的AI智能体(Agents)技术同样面临着严峻的安全基础设施缺失挑战。电子商务的普及依赖于一套成熟的分层安全...

Read More
  1. 1
  2. 2
  3. 3
  4. Next Page