xAI公司发布了PromptIDE，这是一个用于提示工程和可解释性研究的集成开发环境。PromptIDE可以帮助研究人员快速构建和测试自然语言处理模型，提高模型的可解释性和可采用性。它支持多种编程语言和平台，并提供了丰富...

谷歌的研究学者计划旨在为博士后研究人员提供机会，让他们加入一个资源充足的团队，继续他们的研究议程。该计划旨在培养和支持下一代科学家，从而推动科学界的创新和进步。申请人需要填写申请表格并提供简历、推荐信...

Layer 是一款利用人工智能技术的文献摘要工具，可将文献中的重点信息、论点和结论提取出来。通过 Layer，用户可以将研究时间缩短 40%，将更多时间用于深入研究和探索。Layer 提供了多种 AI 功能，包括自动摘要、主题...

最新深入研究揭示了生成式人工智能插件存在的一些新漏洞。在这种情况下，攻击类似于SQL注入，但是攻击者通过感染Google Doc来实现攻击。尽管Google已经解决了这个问题，但安全研究人员还是成功地窃取了其他用户的诱...

通用汽车旗下的自动驾驶公司Cruise经常向其车辆远程操作员寻求帮助，这挑战了该公司关于自主驾驶的声称。这一揭示引发了有关自动驾驶汽车真正能力的担忧，并引发了对这类车辆的安全性和自主性的透明度和调查的呼吁。

数据污染和其他数据管道攻击是网络安全界面临的巨大挑战，同时也是大多数AI组织的盲点。本文介绍了这些攻击的方式，并提供了代码以帮助未来进行缓解。AI数据管道遭受攻击可能会导致数据泄露，模型失效，模型被篡改等...

Deepspeed推出了一款新软件，旨在与vLLM和文本生成界面竞争，以快速提供语言模型服务。该软件配备了许多最先进的加速功能，初步结果表明，速度提升了2.4倍。

Giskard是一个Python库，可以自动检测从表格模型到LLM的AI模型的漏洞，包括：性能偏见、数据泄露、虚假相关性、幻觉、毒性、安全问题等等。让您的模型快速、安全地投入生产。在GitHub上安装Giskard或在Colab中尝试。