近日，一款名为Mistral.rs的LLM推理平台在GitHub上备受关注。它可以支持多种设备上的推理，支持量化，并且具有易于使用的应用程序，带有OpenAI API兼容的HTTP服务器和Python绑定。无论是在深度学习推理、设备兼容性...

GitHub近日宣布启动一个新项目Copilot Workspace，其主要目标是允许语言模型以较为自主的方式完成特性开发和错误修复。该项目将为开发者提供更多便利，提高开发效率，同时也为人工智能在软件开发领域的应用开启了新...

FrugalGPT是一套可以大幅度降低LLM API成本的策略。这些策略包括提示压缩、缓存等操作。提示压缩可以通过减少数据大小来降低传输和存储成本，同时也可以提高数据处理速度。而缓存则可以通过存储经常访问的数据来减少...

OpenLIT是一个OpenTelemetry原生的GenAI和LLM应用观察性工具，旨在通过只需一行代码，就能实现观察性到GenAI项目的集成过程。OpenLIT的设计理念是简洁而强大，能够帮助开发者快速、有效地将观察性集成到他们的项目中...

由AI驱动的编码平台Augment已经从商业保密状态中启动，并且获得了2.52亿美元的融资，使该公司的估值接近9.77亿美元。该平台由前微软开发者Igor Ostrovsky创立，旨在使用先进的AI模型提高软件质量和生产力。Augment计...

Anthropic公司近日推出的一款新产品——智能提示库，不仅允许用户提交优化的提示，还可以让用户探索各种任务的优化提示。这一平台的目标是为广大用户提供一种轻松探索和提交优化提示的方式，以此来提高任务的执行效率...

近日，著名游戏开发者宣布离开其在Rust游戏开发领域的三年工作。他表示在Rust游戏开发过程中，他学到了很多，但同时也感受到了游戏开发的艰辛。他希望未来能够在其他游戏领域获得更多的经验和挑战。此外，他也对Rust...

在人工智能领域，神经网络是一种非常重要的模型。为了提高神经网络的性能，研究人员需要使用高效的工具来构建、编辑和可视化这些网络。近日，谷歌发布了名为Penzai的JAX研究工具包，旨在帮助研究人员更轻松地完成这...