Anthropic提出GRAM方法：为AI模型内的双用途知识装上可关闭的“开关”

AI模型在学习过程中不可避免地会掌握大量“双用途知识”——既能用于网络防御、漏洞检测等正面场景，也可能被用于网络攻击和信息窃取等恶意目的。如何在不削弱模型整体能力的前提下，精准管控这类敏感知识，一直是AI安全...

Read More