Karpathy发布了一个最小化、干净、可扩展的实现字节对编码的语言模型分词器，Minbpe现已在GitHub Repo中开放。

Qwen团队发布了两个新的语言模型，分别是1.8B和72B的LLMs，与Llama 2相似，这些模型训练了3T个标记，并且在许多任务上表现出色。除了发布聊天版本和量化版本外，这些模型还在推理、数学和代码方面表现出色。

GPTScript是一种新的脚本语言，可以自动化与OpenAI大型语言模型的交互。该项目的最终目标是创建一个完全基于自然语言的编程体验。GPTScript使用了最新的自然语言处理技术，使得编程变得更加直观和容易上手。GPTScrip...

使用偏好数据对齐语言模型时，往往难以确定应该使用哪些示例。这项工作提出了一个出乎意料的稳健基准 - 选择1,000个最长的示例来进行对齐。

研究人员创建了OpenMathInstruct-1，这是一个用于训练开源大型语言模型数学的新数据集，可与闭源模型的性能相匹配。这一突破包含180万个问题解决对，为更加可访问和有竞争力的数学教学AI工具打开了大门。

据报道，OpenAI已经开发了两种类型的AI Agent软件超过一年。第一种类型可以通过接管客户设备来自动化复杂的任务。第二种AI代理类处理基于Web的任务并可以收集公共数据。目前尚不清楚公司计划何时发布这些代理。

谷歌发布了一款新的 MoE 模型，命名为 Gemini 1.5 Pro，它的性能可以与 Gemini 1.0 Ultra 媲美。同时，它支持上下文1百万令牌，并且相比较于 Gemini 1.0 Ultra，使用更少的计算资源，因为它更小巧。这个模型是本地多...

Anthropic正在测试Prompt Shield技术，该技术旨在将寻求政治和投票信息的Claude聊天机器人的美国用户重定向到TurboVote等权威来源。