随着最近发布的优秀Zephyr语言模型，HuggingFace团队展示了如何在少数强大的预训练开源模型基础上训练个性化模型。HuggingFace对齐手册提供了一系列对齐技术的详细解释，并介绍了如何在不同任务上使用预训练模型。此...

这项研究提出了3DStyle-Diffusion模型，这是一种用于对3D网格进行细节风格化的新方法，整合了2D扩散模型以增加对外观和几何形状的控制。它通过首先使用隐式MLP网络将3D网格的纹理参数化为反射和照明，然后使用预训练...

本研究介绍了LLM4SGG弱监督场景图生成方法，该方法利用大型语言模型的能力，从图像标题中更好地提取和对齐关系，解决了图像标题中捕获详细关系和利用所有可用信息的挑战。

这项研究介绍了一种名为Ex-MCR的新方法，该方法可以有效地学习多个模态的统一对比表示，而无需配对数据。通过对齐现有的多模态对比表示，Ex-MCR在音频-视频检索和3D物体分类等任务中实现了最佳性能。该方法在GitHub...

本文将深入探讨人工智能研究暂停的辩论。这个辩论主要考虑，如果人工智能研究突然暂停6个月会发生什么？或者在恰到好处的时机暂停然后再重新开始会有何影响？又或者，暂停足够长的时间以制定良好的监管机制，甚至直...

Llava是一种将视觉能力插入语言模型的方法。现在，它已经通过指令调整，并运行了RLHF（强化学习和直觉推理）过程。Llava大大提高了指令遵循和推理能力。这种新方法将人工智能技术推向了一个新的高度，使得计算机不仅...

对齐技术有助于使语言模型更有用且无害。虽然有时可能会损害性能，但总的来说，这是一项正面的技术。对齐是昂贵的，需要大量的对齐数据。然而，如果您允许模型在生成后评估自身的输出并进行回溯，它可以提高冻结模型...

OpenAI计划到2027年将20%的计算能力用于解决AI对齐问题。AI对齐问题是指AI系统可能没有与人类目标一致的问题。如果开发出了超级智能的AI系统，这可能会成为未来的一个重要问题。本文采访了OpenAI对齐研究负责人Jan L...

人类反馈在改善语言模型对齐和整体性能方面扮演着关键角色。然而，使用近端策略优化进行训练的过程中存在一些挑战。最近的研究表明，可以直接针对人类偏好进行优化，从而绕过奖励模型。借助基于文本的强化学习，你可...

DeepMind最近推出了一款名为SynJax的新工具，该工具被设计为处理结构概率分布，如树、序列、分割、对齐等对象上的概率。SynJax的出现，无疑为我们在处理这类问题上提供了更多的便利。该工具不仅包含了许多实用的工具...