研究人员创造了一个名为SpeechTokenizer的工具，该工具通过使用一种混合不同语音方面的特殊架构，帮助模型以更有效的方式理解口语。通过这种方式，它尝试解决语音模型在理解和处理口语时面临的挑战。它的创新之处在...

本文提出了一种新的系统，该系统可帮助模型在学习新任务的同时，不会忘记旧的任务。这是一种前沿的深度学习技术，主要解决了模型在学习新任务时往往会忘记旧任务的问题，这个问题在AI领域被称为灾难性遗忘。通过这种...

小型羊驼（Tiny Llama）项目旨在为3T代币训练出一个参数为11亿的羊驼2（Llama2）模型。根据扩展规律，这对于计算优化来说无疑是严重的过度训练，但它对于部署优化带来了显著的收益。此次的模型训练打破了传统的优化...

ragas是一个框架，它可以帮助你评估你的检索增强生成（Retrieval Augmented Generation，简称RAG）管道，这是一类使用外部数据来增强LLM（语言模型学习）上下文的应用程序。RAG管道是近年来人工智能领域的重要研究方...

LLM微调中心是一个包含代码和洞察的平台，专门用于微调各种大型语言模型以适应您的使用场景。不论您是开发者，还是研究人员，甚至是业务决策者，都可以在此找到有用的资源。通过微调，大型语言模型的性能可以得到显...

这篇文章分析了SQL Iceberg梗图，该图展示了日益复杂或先进的SQL命令或操作。文章逐个解释了每个“区域”的概念，从简单的命令如CREATE TABLE、JOIN和NULL开始，到中级和高级主题，如连接池、去规范化、火山模型和万圣...

X公司计划利用其收集的信息以及其他公开可用的信息来帮助训练其机器学习和AI模型。这个决定将大大提升AI模型的学习能力和处理复杂任务的能力。公开数据的利用将为模型的训练提供更丰富的素材，使得AI模型可以更好地...

近日，研究人员第一次公开比较了RLHF和RLAIF两种技术的性能。结果发现，这两种技术在最终模型性能方面基本相同，相比于基线模型，有大约70%的人类用户更青睐使用这两种技术。RLHF和RLAIF的研究和开发，推动了人工智...