针对图像-文本训练中使用的视觉基础模型，研究人员提出了一种名为ViSFT的新方法，以提高其性能。ViSFT使用类似于语言模型中的微调的两阶段过程来增强视觉基础模型。首先，该模型使用大规模的无监督预训练来学习图像...

HuggingFace发布了Datatrove，这是一个用于过滤大型文本数据集的库。它具有许多有用的原语和用于文本过滤的完整并行管道。可在C4中使用Gopher质量过滤器的示例。

Tiny Narrations是一个基于最受欢迎的Tiny Stories数据集的文本转语音版本。它使用SF Compute H100集群上的XTTS2。这个系统可以将短小精悍的故事转化为音频文件，方便用户在不同场景下收听。这个系统的优点是使用了...

HuggingFace于近日发布了Haiku DPO数据集，旨在帮助AI模型写出正确的日本俳句。该数据集由多位专业诗人参与标注，包含数千条俳句及其正确的音律和形式，涵盖了从传统到现代的各个风格。据悉，该数据集可以用于训练和...

WhisperSpeech是一种倒置Whisper技术实现的文本转语音系统。该系统目前仅在英语LibreLight数据集上进行了训练，但未来的版本将面向多种语言。在该仓库中提供了合成语音的示例。

本文探讨了评估LLM的挑战，将其与人类员工评估进行比较。文章讨论了衡量LLM智能和实用性的困难，突出了当前评估方法的局限性和需要更有效方法的必要性。在人工智能领域，评估是至关重要的，因为它决定了LLM的质量和...

AlphaCodium推出了一种新颖的方法来增强LLMs的代码生成能力。这种多阶段、基于测试的迭代过程显著提高了像GPT-4这样的模型在解决复杂编程问题时的准确性，如在CodeContests数据集上所展示的。

TACO是一个新的基准，用于评估系统生成代码的能力。它比现有数据集大得多，包含更具挑战性的问题。在简单的问题上，GPT-4的正确率达到30％，而在最难的问题子集上，它仅能达到2％。

自我指涉语句是一种挑战，例如“这个句子中的最后一个单词是is”。语言模型在处理这种语言时会遇到极大的困难。该论文介绍了一个数据集以及一些评估，以帮助改进语言模型的元语言能力。研究人员采用了一种混合方法来生...

Together Compute一直在探索不同的Transformer替代方案。最近，他们发布了一款检索模型，该模型的表现优于许多闭源嵌入式模型，适用于检索任务。该模型命名为Monarch Mixer 32k。它是一个基于深度神经网络的模型，可...