Polyfire是一个开源的后端管理平台,为AI应用提供一站式的解决方案。它包括数据管理、模型管理、部署和监控等功能,可以帮助开发团队快速搭建和管理AI应用的后端。Polyfire支持多种框架和语言,例如PyTorch、TensorF...
Read MoreHono 是一款专为边缘计算设计的超快 Web 框架。它小巧,简单,可在任何 JavaScript 运行时上运行。Hono 具有内置中间件、自定义中间件和第三方中间件。它采用超级清晰的 API 和一流的 TypeScript 支持。Hono 的出现...
Read MoreOpenAgents是一款用于编写语言模型插件的框架,它为用户提供了完全的控制权。该框架可以帮助用户快速构建自己的语言模型,同时具备高度的灵活性和可扩展性,用户可以根据自己的需求自由地进行定制和扩展。OpenAgents...
Read More大多数组织机构没有资源在GPU上运行大型模型,但是有一个强大的开源推动力量在本地运行这些模型。本文探讨了这种推动力量以及LangChain + Ollama集成。 LLN(Local Low Rank Normalization)是一种用于处理基于卷积...
Read More人工智能驱动软件的下一步演变并非聊天机器人,而是利用LLMs来完成实际工作的应用。AI基础设施联盟的此篇电子书全面覆盖了此领域的各个方面,包括Prompt工程、LLM逻辑和推理、主要框架如LlamaIndex、LangChain、Hays...
Read MoreFastStream是一个Python框架,用于构建与事件流交互的异步服务。该框架旨在简化在异步代码中执行事件流处理的过程。FastStream 提供了一个轻量级且易于使用的API,允许开发人员将事件流处理任务与异步服务相结合。Fa...
Read More