Tile Language是一种简洁的领域特定语言（DSL），旨在简化和优化高性能GPU/CPU内核（如GEMM、Dequant GEMM、FlashAttention和LinearAttention）的开发流程。该语言采用类似Python的语法，并基于TVM（Tensor Virtual...

Vade Studio是一个基于Clojure语言构建的项目，选择Clojure的原因多方面。首先，Clojure是一种现代的Lisp方言，它运行在Java虚拟机上，这使得Vade Studio能够利用JVM强大的生态系统和性能。其次，Clojure以其出色的...

LMSYS发布了两项语言模型推理的新技术。第一项是对后端进行的改进，提高了每秒的标记总数性能。第二项是嵌入式领域特定语言，用于复杂提示技术，允许并行提示。