人工智能的发展极度依赖大量数据支持,科技公司对数据的渴求速度远超数据产生的速度,有预测指出到2026年高质量数字数据可能会耗尽。为此,像OpenAI、谷歌和Meta这样的公司正在探索获取更多数据的新方法,包括使用Yo...
Read MoreMeta的研究团队近日推出了一款新型的优化器,并已在X平台上公开代码及其多种集成方式。这款优化器的独特之处在于它不依赖于学习率(LR)调度,训练过程中无需预先设定总步数。经过实证,该优化器在包括语言模型在内...
Read More近期,科技巨头们在人工智能领域领跑的比赛中采取了一些颇具争议性的数据获取方式。OpenAI通过开发名为Whisper的语音识别工具,成功从YouTube视频中转录音频,为训练其AI系统提供了新文本。该团队最终转录了超过一百...
Read More自Facebook收购Oculus以来已过去十年,虚拟现实技术虽未大规模普及,但已多次成为主流。本文将探讨Meta接下来的发展方向,包括即将推出的Quest 3、人工智能、智能眼镜以及增强现实眼镜。Meta计划在本月晚些时候为Ray...
Read MoreMeta公司正计划为其雷朋品牌的智能眼镜增加人工智能功能。这些功能将包括实时翻译以及通过语音命令激活的物体、动物和纪念碑识别。这一创新将为用户带来更加便捷的交互体验,使得智能眼镜不仅仅是一种时尚配饰,更是...
Read MoreMeta公司近日发布了一个名为Torchtune的原生PyTorch库,专门用于精细调整语言模型。该库旨在为开发者提供更为便捷的工具,以便在PyTorch框架中进行语言模型的微调工作。通过Torchtune,开发者可以更容易地实现模型性...
Read MoreMeta Reality Labs最新研发的模型能够将视觉输入转换为场景的三维表示。这个拥有7000万个参数的模型能够在设备上快速运行,并且展现出极高的稳定性。这一技术的发展,不仅为虚拟现实和增强现实领域带来了新的突破,...
Read More人工智能的进步对广告技术行业构成了重大威胁,其过滤广告的能力可能会减少谷歌、Meta、TikTok等公司目前享受的每年1万亿美元的收入。本系列探讨了AI如何通过迎合消费者对无广告内容的需求来破坏关键的广告库存,并...
Read MoreMeta在这篇博客文章中概述了用于训练Llama 3的基础设施。它介绍了存储、网络、Pytorch、NCCL等改进。这将为Meta今年其余时间上线的H100s打下基础。
Read More本文介绍了Meta的两个版本的24,576 GPU数据中心规模集群的详细信息。这些集群支持公司当前和下一代AI模型以及GenAI和其他领域的AI研究和开发。Meta的长期愿景是建立一种人工智能,这种人工智能是开放的,建立在可负...
Read More