本文讨论如何构建和扩展使用大型语言模型的应用程序。GitHub花费了三年时间，从想法到生产，开发了GitHub Copilot。该团队制定了一个三阶段计划进行开发：他们确定了LLM应用的有影响力的问题空间，创建了流畅的AI产...

据报道，苹果正在投入数百万美元的人工智能产品研究，旨在创建一款能够自动化涉及多个步骤的任务的Siri。大部分预算都用于模型训练，这需要大量昂贵的硬件。该公司已经研究了四年的大型语言模型，但尚不清楚它在多年...

这项研究探讨了大型语言模型（LLMs）解决数学问题的能力，及各种不同因素如何影响它们的能力。研究人员发现，一种名为“拒绝采样精细调整”（Rejection sampling Fine-Tuning, RFT）的方法有助于这些模型在数学上的提...

ragas是一个框架，它可以帮助你评估你的检索增强生成（Retrieval Augmented Generation，简称RAG）管道，这是一类使用外部数据来增强LLM（语言模型学习）上下文的应用程序。RAG管道是近年来人工智能领域的重要研究方...

LLM微调中心是一个包含代码和洞察的平台，专门用于微调各种大型语言模型以适应您的使用场景。不论您是开发者，还是研究人员，甚至是业务决策者，都可以在此找到有用的资源。通过微调，大型语言模型的性能可以得到显...

在训练大型语言模型以理解和匹配人类价值时，我们是使用评分（rating）还是比较（ranking）作为反馈？这项研究发现，选择的方式对结果影响颇大。例如，通过比较评估时，使用排名训练的模型往往更受青睐，但在打分评...

在当今的技术环境中，找到一个不基于Meta基础模型构建的模型是一项挑战。来自Writer的Palmyra模型经过了8000亿令牌和7万条精心策划的指令的训练。它擅长遵循复杂的指令，并且似乎易于进行微调。这种模型的出现，打破...

微软发布了一种名为“思想算法”（AoT）的新型AI训练方法，旨在使大型语言模型如ChatGPT的推理能力更加高效和类人化。这种新颖的AI训练方法是微软在人工智能领域的一项重要突破，表明了微软在深化机器学习和人工智能技...