谷歌工程师和科学家开发了一个新的代码库，名为CPP Gemma推理引擎。与llama.cpp类似，该代码库允许在SIMD CPU架构上进行推理。该工具的目的是鼓励实验和使用昨天发布的Gemma模型。

新加坡Brilliant Labs推出了一款名为Frame的轻量级AR眼镜，配备了一款名为Noa的多模态AI助手，可以通过集成的AI模型如GPT-4和稳定扩散执行视觉处理、图像生成等多项任务，获得了多位创业投资人的青睐。据悉，这款眼...

HuggingFace发布了一个轻量级的评估库lighteval，用于基于HELM和Eluther AI评估工具的语言模型训练。该评估库专注于提供高效易用的评估方法和指标，帮助用户快速准确地评估模型性能。同时，lighteval还提供了丰富的...

谷歌推出了Gemini Pro，这是其先进的AI模型Gemini Ultra的轻量级版本，在Vertex AI中公开预览，提供文本和图像处理能力以及可定制的上下文，适用于各种用例。Gemini Pro是一个快速而灵活的解决方案，可以自定义模型...

codapi-js是一个方便快捷的工具，能够将静态代码示例转换成轻量级的小型沙盒，从而能够嵌入产品文档、在线课程或博客文章中。它可以创建任何编程语言、数据库或软件的沙盒。它大多数沙盒需要Codapi服务器，但JavaScr...

受 Actor 框架的启发，这个轻量级的 Python 库使得创建基于 LLM 动力的代理变得非常容易。Langroid 多智能体编程框架（Langroid multi-agent programming framework）最近发布了他们的 GitHub Repo，使得该项目的开...

近日，一种名为MicroTCP的TCP/IP协议栈引起了广泛关注。相比于其他协议栈，MicroTCP非常小巧，只有1000行代码，运行时内存占用也非常少。该协议栈是用C语言编写的，可用于嵌入式设备，尤其适合一些资源有限的设备。M...

近日，PyTorch团队推出了一款新的轻量级运行时和模型转换工具，以支持在资源受限的边缘设备上运行。此次推出的PyTorch Lite运行时，具有轻量级、高效、低延迟等特点，可以在边缘设备上运行深度学习模型，解决传统云...

近日，由一群开发者共同开发的开源系统OpenLLMetry正式发布。OpenLLMetry基于OpenTelemetry，旨在提供对LLMs的观测性能分析。LLMs是轻量级的微服务，可以在边缘设备上运行，OpenLLMetry的发布将为开发人员提供更好的...

Surreal是一种mini jQuery替代品，具有无依赖的动画功能和行为本地化特性，它与HTMX配对使用。Surreal提供了丰富的例子，插件，以及相关资源。作为一种轻量级的JavaScript库，它旨在提供简洁，快速的解决方案，以便...