LangChain是一款可以方便地将语言模型集成到您的Go程序中的工具。这包括使用Ollama等框架运行本地模型。

加速自回归语言模型推理的方式有很多。人们正在热衷于使用草稿模型的一种方式。这需要两个模型，但速度可能会更慢。然而，通过从相同模型生成相关的n-gram，可以减轻对草稿模型的需求，并使生成速度线性加快。

原始稳定扩散模型的创新之一是在扩散过程中使用较小的潜在空间。这意味着扩散不是发生在像素上，而是在某种压缩的图像表示上。本文深入探讨了一些解释SDXL潜在空间的方法。

谷歌推迟了其大型语言模型（LLM）和GPT-4竞争对手Gemini的发布时间，直到2024年第一季度，原因是担心其无法达到或超越OpenAI的GPT-4，并且着重于在允许外部开发人员访问之前加强其消费者产品。

微软宣布了Windows AI Studio，这是一个供开发人员访问和配置AI模型的中心，提供了来自Azure AI Studio和Hugging Face的工具以及模型配置界面和性能测试模板等功能。英伟达更新了其TensorRT-LLM，支持GeForce RTX 30...

人工智能的迅速发展，尤其是通用人工智能（AGI），可能会通过增加竞争力，压缩利润，并减少对传统项目管理和CRUD应用程序的需求，同时通过挑战现有的AI本地化创业公司和自助应用程序创建来挑战现有的公司，最终导致...

一份在GitHub上公布的AI应用程序漏洞列表显示，已经发现并负责任地披露了多个AI应用程序的漏洞。这些漏洞包括机器学习模型中的数据泄露、对抗性攻击和针对自然语言处理模型的攻击等。该列表旨在帮助AI开发人员和研究...

Orca模型是微软的一组小型模型，擅长推理任务。由于许多信息被保密，因此存在关于其有效性的担忧。现在发布了Orca 2，该模型可在HuggingFace上获得。它展现了良好的性能，超过了几个较大模型的推理基准。