苹果的visionOS软件开发工具包(SDK)现已通过Xcode 15 beta 2提供。该SDK使开发者能够创建将数字内容与现实世界融合的空间计算应用程序。下个月,苹果将在库比蒂诺、伦敦、慕尼黑、上海、新加坡和东京开设开发者实...
Read MoreNvidia A100是市场上最强大的GPU之一。它们已被用于训练迄今为止最流行的模型之一。它们是数据中心的GPU,通常意味着您无法在自己的硬件上运行它们。本文探讨了如何以几千美元的价格自己组装一个本地运行的A100超级...
Read More近日,研究人员推出了一种改进型的Low Rank Adaptation(LoRA)技术,可帮助研究和实践社区更有效地微调大型模型。以下是本次发布的主要内容: - LoRA被广泛应用于研究和实践社区,作为一种参数高效的微调大型模型...
Read More深度学习公司DeepMind的AI系统AlphaDev可以创建出比人类生成的算法更快的排序数据,速度可高达人类生成的三倍。该系统已经创建了一些算法并成为两个标准C++代码库的一部分。AlphaDev被训练用于比较值,将值在不同位...
Read More苹果公司或许是消费级人工智能的潜在领导者,虽然他们从未明确提及过AI技术,但在以下几个方面表现出色: - **变压器键盘**:苹果公司新推出的MacBook Pro配备了变压器键盘,这意味着每个键都有自己的处理器,可以...
Read More最近,一篇名为“Activation-aware Weight Quantization (AWQ)”的论文在GitHub上开源。这篇论文提出了一种新的方法,可以更高效地压缩大型语言模型(LLMs),克服了高硬件要求和慢速令牌生成的问题。AWQ可以选择性地...
Read More在技术领域中,微调是一种比完全微调更便宜的模型微调方式。它通过仅更新模型的一个小而精心选择的子集来工作。然而,即使如此,在普通硬件上微调大型(超过13B参数)模型的成本仍然太高。量化减少了模型中参数的精...
Read More