最近,一篇名为“Activation-aware Weight Quantization (AWQ)”的论文在GitHub上开源。这篇论文提出了一种新的方法,可以更高效地压缩大型语言模型(LLMs),克服了高硬件要求和慢速令牌生成的问题。AWQ可以选择性地...
Read MoreLance是一种现代的机器学习数据格式。它提供了更快的随机访问、向量索引、数据版本控制等功能。Lance支持pandas、duckdb、polars和pyarrow等工具,可用于构建搜索引擎和特征库、大规模机器学习训练,以及存储、查询...
Read MoreNvidia在2023年Computex展示了一项新的生成式AI技术,可以让人们用自己的声音与游戏角色进行对话。Nvidia Avatar Cloud Engine将在本地和云端运行,包括部署大型语言模型、语音转文本、文本转语音等工具。文章中提供...
Read More谷歌最近推出了一种新的敏捷测试,名为Barkour,用于评估四足机器人的性能。以下是该新闻的三个核心要点: - 该敏捷测试旨在通过标准化方式,测量各种技术的性能。 - 四足机器人的运动是当前研究的热点,但由于评估...
Read More在本指南中,我们将介绍如何使用Lit-Parrot对自定义数据集进行LLMs的微调。Lit-Parrot是一个基于nanoGPT的实现GPT-NeoX模型的工具,支持StableLM、Pythia和RedPajama-INCITE模型权重。 下面是三个重点: - Lit-Par...
Read More#### 新闻摘要: - Scikit-LLM将强大的语言模型与scikit-learn无缝集成,提供强大的文本分析能力。 - 开发者可以轻松地使用ChatGPT等语言模型来处理自然语言文本。 - Scikit-LLM使得文本分析任务更加高效和准确。...
Read More苹果公司高度期待的AR / VR头戴设备的开发工作已经进行了七年,几乎每个高管都参与了其中。涉及到这款AR头盔的人员名单包括Mike Rockwell、Jeff Williams、Dan Ricco、Paul Meade和Jony Ive等。 ## 要点摘要 以下...
Read More社交媒体网红卡琳·马乔里(Caryn Marjorie)推出了CarynAI,这是一个利用由OpenAI开发的GPT-4 API技术的AI聊天机器人,可以复制她的声音、举止和个性。粉丝只需支付每分钟1美元的费用,就可以与CarynAI交流,这种“沉...
Read More