「impel」是一款专为Mac设计的全天候AI伴侣。这款产品理解您屏幕上的内容，无需任何提示，就能自动提供建议、信息和行动。它能够理解和解析用户在屏幕上进行的所有活动，并根据上下文，无需用户主动询问，就能主动提...

在一篇新的研究报告中，研究人员在聊天式提示中通过检索9个演示示例，使用预训练的Llama-2语言模型进行了在上下文中的学习。这种方法并没有改变模型的权重，但它使得与文本达芬奇-003模型相比，赢率增加了7倍，使其...

通过上传JSONL数据到你的云端硬盘，链接并运行带有QLoRA和SFT训练的笔记本，你就可以得到一个定制调整的Llama2模型。这似乎是我发现的最简单的调整例子，并且效果很好。最重要的是，该模型使用了（提示，响应）的格...

Parea AI是一个开发者工具包，专门用于调试和监控LLM应用。用户可以以版本化的方式实验提示和模型配置。在较大规模上，使用自定义的Python评估指标来评估提示。通过API监控LLM应用，并在仪表板上查看分析数据。Parea...

Magentic是一款强大的工具，它可以帮助开发者轻松地将大型语言模型（LLMs）集成到Python代码中。Magentic的特点在于，它将提示模板处理为函数，使用类型注释来指定结构化输出。然后，您可以无缝地将LLM查询和函数调...

谷歌近日宣布推出了项目IDX，这是一个AI驱动的基于浏览器的开发环境，用于构建全栈网页和多平台应用。项目IDX结合了人工智能的创新技术和强大的浏览器环境，提供了一种全新的开发方式。通过这个项目，开发者可以在一...

Edsger Dijkstra在他的职业生涯中提出了分布式和并发计算中的一些重要思想。多年来，Dijkstra逐渐减少了对大学的参与，每周只去校园一天。他似乎与繁忙相反，但他却产出了大量的工作。这一观察提示，忙碌实际上可能...

PromptTools是一套自托管工具，用于实验、测试和评估大型语言模型、向量数据库和提示。它允许开发者使用代码、笔记本和本地沙盒进行评估。开发者只需几行代码就可以测试不同模型上的提示和参数。PromptTools可以用于...

训练吞吐量、提示处理吞吐量和生成吞吐量都有不同的成本，并且受到不同计算资源的瓶颈制约。因此，某些工作负载在Llama 70B上实际上比支付GPT-3.5更昂贵。这篇博客写得非常优雅，围绕模型部署考虑问题有一些非常好的...

LLMFlows是一个用于构建LLM应用的框架。它提供了一套抽象，利用LLMs和向量存储来构建应用，无需隐藏提示或在LLM调用背后。LLMFlows通过确保每个组件的完全透明性，使开发过程更加简单。