微软公司的CEO Satya Nadella通过将OpenAI的语言模型与名为Sydney的聊天机器人集成到Bing中，并推出能够自动化编码方面的AI工具Copilot，将公司带入了人工智能技术的令人瞩目的复苏之路。尽管最初有些波折，但微软正...

近日，一种开源代码模型在编码任务中表现超越ChatGPT等语言模型。封闭模型之所以强大，是因为它们实际上是伪装成语言模型的代码模型。很多开放式语言模型表现不佳，因为它们无法从大规模的代码预训练中获得推理能力...

近日，研究人员提出了一种名为“对比输入解码（CID）”的新方法，旨在通过生成反映两个略有不同输入的独特特征的文本来揭示AI语言模型对微小变化的反应，从而使其响应更加易于理解和管理。这对于确保公平性和实用性至...

最近，关于语言模型的热潮导致了各种各样的声明，比如“我们的模型被 ChatGPT N% 的时间所偏好”。但这种声明通常隐藏了一个事实，那就是 ChatGPT 实际上是偏向 GPT4 模型的。这其中涉及到各种各样的问题，包括校准、...

近日，一篇介绍开源人工智能模型 FinGPT 的论文引起了广泛关注。该模型是为金融领域量身打造的，旨在为金融研究和开发提供易于使用的工具，包括自动化数据管理和类似机器人顾问和算法交易等应用的潜力。 以下是该模...

LLM是指语言模型，近来备受瞩目。它们是一种基于人工智能的算法，可以模拟人类的语言能力，甚至表现出惊人的人类特征。下面是该技术的三个核心点： - LLM可以模拟人类的语言能力，包括语法、语义和语用。 - LLM可以...

近日，研究人员提出了一种名为Sparse-Quantized Representation（SpQR）的新技术，可以实现对大型语言模型（LLMs）的几乎无损压缩，克服了量化带来的精度损失。这项技术使得强大的LLMs可以在像笔记本电脑和手机这样...

## 概述 本文讨论GPT分词器，这是大型语言模型用于将文本转换为预测所需的标记。我们介绍了一个Observable笔记本工具，它允许用户将文本转换为标记，反之亦然，并在完整的标记表中运行搜索。 ## 核心要点 - GPT分词...