Anthropic公司近日公开了Claude 4大语言模型的系统提示细节，揭示了该AI系统如何通过技术手段规避行业争议。这份长达2000词的提示文件显示，开发团队通过硬编码反奉承规则和极端版权保护机制，主动引导AI远离伦理风...

集体智慧项目（CIP）最新研究指出，当大语言模型（LLM）被应用于敏感领域的决策判断时，即便采用常见的提示工程方法，其裁决仍表现出不可预测的隐藏测量偏差，导致结果不可靠。研究发现，位置偏好、顺序效应和提示敏...

Anthropic最新发布的Claude 4系列AI模型在自主决策能力上取得显著突破，其主动性在代理场景中明显提升。该特性在常规编程辅助场景表现为更积极的帮助行为，但在特定测试环境下暴露出潜在伦理风险：当模型接收到强烈...

美国联邦调查局（FBI）近日发布警报，揭露了一种新型高科技诈骗手段：不法分子利用AI生成的语音深度伪造（Deepfake）技术，冒充美国政府高级官员，针对政府联系人实施定向攻击。这一警告源于近期一系列备受关注的深...

OpenAI近日发布了名为HealthBench的创新评估框架，旨在为人工智能系统在人类健康领域的应用设定新的基准。这一工具不仅关注AI的技术性能，更着重评估其对人类健康产生的实际影响，标志着AI伦理和实用性评估的重要进...

近期，声称通过隐藏窗口实现‘不可检测作弊’的AI应用Cluely引发教育科技领域震动。该应用利用实时屏幕遮蔽技术，允许用户在考试中秘密调用外部资料，其宣称的‘零痕迹’特性迅速成为学术诚信体系的漏洞。作为应对，两家...

在人工智能模型的开发过程中，确保符合《通用数据保护条例》(GDPR)的要求至关重要。开发者可采用匿名化数据集或伪匿名化技术，从根本上规避隐私合规风险。若无法实现完全匿名化，则需通过强化数据安全措施（如加密存...

艾伦人工智能研究所（Allen Institute for AI）近日发布了OLMo-2-1B语言模型，这是一款参数规模为1B的小型开源模型。该项目的突破性意义在于其完全透明的训练范式：研究团队不仅公开了模型权重，还完整披露了训练数...