人工智能驱动软件的下一步演变并非聊天机器人，而是利用LLMs来完成实际工作的应用。AI基础设施联盟的此篇电子书全面覆盖了此领域的各个方面，包括Prompt工程、LLM逻辑和推理、主要框架如LlamaIndex、LangChain、Hays...

最近的研究表明，为ViTs注册器添加[reg]标记可以修复图像注意力映射的突增。这项工作表明，将一系列可学习的[pause]标记预置到序列中可以提高语言模型推理（仅解码器，最高可达10亿）的能力，最多可提高18%。直观上...

人工智能（AI）与硬件的结合，将推动虚拟现实（VR）和增强现实（AR）领域的开创性发展。以下是这些领域最新的新闻动态。AI是在计算机系统中模拟人类智能的过程，其中包括学习（获取和使用知识）、推理（找出与特定目...

Llava是一种将视觉能力插入语言模型的方法。现在，它已经通过指令调整，并运行了RLHF（强化学习和直觉推理）过程。Llava大大提高了指令遵循和推理能力。这种新方法将人工智能技术推向了一个新的高度，使得计算机不仅...

尽管OpenAI在防止其GPT-4视觉模型破解CAPTCHAS以及基于年龄和种族估计人的年龄方面已经取得了一定的进步，但它仍然有时难以进行推理，并且仍然容易产生幻觉。这些问题暴露出，尽管我们在人工智能的发展和应用上取得...

John Carmack 称，现阶段的人工智能之所以可能存在，可能要归功于他在《雷神之锤》上的工作，这款游戏引发了对 GPU 的需求。他认为，随着硬件和软件的发展，人工通用智能有望在2030年左右实现。他表示，目前的人工智...

开源的人工智能（AI）模型相比之下，对于专有模型有着显著的优势。对于大多数AI应用而言，控制能力、定制性、透明度和信任度比高级推理能力更为重要。AI原生公司应该专注于拥有他们的核心模型，而不是将他们的智能层...

MLPerf发布了两个基准测试套件的结果：MLPerf Inference v3.1和MLPerf Storage v0.5。前者显示了创纪录的参与度和性能提升，后者评估了机器学习训练工作负载的存储系统性能。推理基准测试套件引入了一个大型语言模型...

ExLlamaV2是一个在GitHub上开源的项目，它是为现代消费级图像处理单元（GPU）上运行本地语言模型（LLMs）而设计的推理库。这款推理库的出现，可以帮助用户在个人电脑上使用现代GPU进行深度学习模型的推理计算，而无...

大型语言模型（LLMs）是否具备人类般的推理能力的争论仍在进行中。一方面，有些研究显示，这些模型主要依赖于记忆和模式匹配。另一方面，也有研究显示，它们在与训练数据相关的任务中表现出色，显示出一定的推理能力...