目标检测是识别物体及其边界框的过程。通常只能为训练前选择的一组固定物体进行检测。本研究介绍了一种实时方法，可以进行开放词汇目标检测，这意味着它可以检测任何在运行时指定的物体组合的边界框。该方法使用了一...

Low Latency Runtime (LLRT)是一种JavaScript运行时，旨在解决对快速高效Serverless应用程序的不断增长的需求。与在AWS Lambda上运行的其他JavaScript运行时相比，它提供了超过10倍的更快启动时间和最多2倍的总体更...

在机器学习中，形状错误是一种难以调试的问题，通常只有在运行模型时才能发现。通过将形状检查作为类型，您可以消除大部分这种挑战，并更快地开发。Jaxtyping 是一个库，它使用 JAX 的类型系统来提供形状检查，从而...

LLM是一种全新的机器学习技术，可以让应用程序在运行时不断学习和优化，从而实现更高效的性能和更低的成本。Tanuki是一款基于LLM技术的应用程序构建工具，可以帮助开发人员轻松创建这种具有自我学习和优化能力的应用...

大多数公司仍在思考如何为 AI 和 LLM 工具计费。是套餐？积分？代币？无论您选择哪种模型，Orb 都能使其实现起来非常容易。只需选择您的定价模型和计费指标即可！跟踪消费、防止欺诈，并将定价与价值（包括 GPU 运行...

Xbox和Inworld AI正在合作开发基于人工智能的工具，以帮助丰富游戏开发中的叙事和角色创作元素。合作将开发一个AI设计副驾驶员，以协助游戏设计师，并开发一个AI角色运行时引擎，提供沉浸式的游戏体验。他们预计这些...

近日，一种名为MicroTCP的TCP/IP协议栈引起了广泛关注。相比于其他协议栈，MicroTCP非常小巧，只有1000行代码，运行时内存占用也非常少。该协议栈是用C语言编写的，可用于嵌入式设备，尤其适合一些资源有限的设备。M...

DeepSparse是一种CPU推理运行时，它利用稀疏性加速神经网络推理。稀疏性是指神经网络中有很多权重为零的连接，DeepSparse利用这些零权重的连接，跳过不必要的计算，从而实现推理加速。DeepSparse是一个开源项目，可...

Hono 是一款专为边缘计算设计的超快 Web 框架。它小巧，简单，可在任何 JavaScript 运行时上运行。Hono 具有内置中间件、自定义中间件和第三方中间件。它采用超级清晰的 API 和一流的 TypeScript 支持。Hono 的出现...

近日，PyTorch团队推出了一款新的轻量级运行时和模型转换工具，以支持在资源受限的边缘设备上运行。此次推出的PyTorch Lite运行时，具有轻量级、高效、低延迟等特点，可以在边缘设备上运行深度学习模型，解决传统云...