近日，一项利用注意力图量化视觉模型内部偏差的新指标在GitHub上开源。该技术通过分析模型在识别过程中的注意力分布，能够有效识别出导致偏差的混淆特征，突破了传统基于群体准确率差异的评估局限。这项名为Attentio...

本文讨论了一种主动评估语言模型潜在歧视影响的方法。该方法包括为各种决策场景和人口统计信息变化生成广泛的潜在提示。减少正负歧视的策略主要涉及仔细的提示工程。一些大型科技公司已经开始在其算法中采用这种方法...

谷歌AI部门CEO Demis Hassabis警告称，世界需要像应对气候危机一样紧急应对AI风险。他建议成立一个监管机构，类似于气候变化政府间气候变化专门委员会，来处理AI风险。Hassabis认为，AI具有极高的潜力，但其潜在的风...

最近的研究表明，基于 AI 生成的内容进行训练的 AI 模型可能会发生崩溃，这意味着它们会忘记真实的底层数据分布并产生错误的响应。这可能会导致歧视和对现实的扭曲认知。 ## 警告内容 - AI 模型可能会忘记真实的底...