最近，研究人员开发了一种名为ShieldLM的安全检测器，可帮助大型语言模型遵守人类安全标准，并提供自定义检测和解释决策的功能。该工具可检测模型是否存在安全问题，例如对不同种族、性别或群体的人有偏见，或者可能...

Nginx核心开发者启动了名为“freenginx”的分支，该分支将由开发者而非公司实体运营，从而使其免于任意的公司行为。这一决定是由Nginx核心开发者Igor Sysoev做出的，他在一篇博客文章中解释说，他对Nginx的安全性产生...

OpenAI成立了一个儿童安全团队，旨在探索防止儿童误用其AI工具的方法。该团队将致力于研究如何保护儿童免受AI工具的潜在伤害，并提高公众对AI在儿童中的使用的意识。OpenAI表示，随着AI技术的进步，儿童安全问题变得...

本文介绍了一种在半分钟内在大脑中生成“足够随机”的数字的系统。该系统基于一系列的随机思考实验，通过人类的大脑结构和神经元的触发模式，产生了一种可靠的随机数生成方法。这种系统的应用范围非常广泛，可以应用在...

领先的创始人和风投投资者谈论人工智能的发展现状，从LLMs的应用到企业创新。如果“你应该了解的关于人工智能的事情”节奏有点令人不知所措，那么这是一个不错的快速回顾。人工智能正在成为越来越多行业的关键技术之一...

OpenAI的领导层变动引发了许多问题，从治理问题到公共安全问题都涉及到了AI的未来。本文将分解一些我们应该思考的核心要素。OpenAI是一个非营利机构，致力于开发人工智能技术，以利于全人类。然而，最近的领导层变动...

Giskard是一个Python库，可以自动检测从表格模型到LLM的AI模型的漏洞，包括：性能偏见、数据泄露、虚假相关性、幻觉、毒性、安全问题等等。让您的模型快速、安全地投入生产。在GitHub上安装Giskard或在Colab中尝试。

谷歌已扩大其漏洞赏金计划（VRP）以包括AI特定的安全问题。这项计划旨在鼓励安全研究人员向谷歌报告其产品和服务中的漏洞，并奖励他们做出贡献。现在，这个计划还将涵盖与AI相关的安全问题。具体来说，谷歌将接受与A...