Tile Language是一种简洁的领域特定语言（DSL），旨在简化和优化高性能GPU/CPU内核（如GEMM、Dequant GEMM、FlashAttention和LinearAttention）的开发流程。该语言采用类似Python的语法，并基于TVM（Tensor Virtual...

Prima CPP是llama.cpp的一个扩展项目，旨在通过内存映射（mmaping）技术，使大型模型能够在低内存环境中高效运行。这一技术突破为资源受限的设备部署先进AI模型提供了可能，尤其适用于边缘计算和移动端场景。通过优...

NVIDIA在GitHub开源项目TensorRT-LLM中发布了名为Auto Deploy的创新工具，该技术实现了将PyTorch和Hugging Face模型转化为高效可部署格式的重大突破。通过TensorRT-LLM的优化编译器，模型推理速度可提升数倍，特别适...

近日，一款开源且支持自托管的文件转换工具引起技术社区广泛关注。该工具允许用户在私有环境中部署文件转换服务，无需依赖第三方云服务，有效解决了敏感文件处理过程中的数据隐私问题。作为完全开源项目，开发者可自...

GitHub开源项目Object Counting提出了一种突破性的全自动零样本物体计数方法，该方法通过融合深度特征图与自注意力机制，在FSC147数据集上实现了当前最先进的计数精度。该技术的核心创新在于：1）利用预训练视觉模型...

近期，GitHub上开源了一个名为CrystalFormer的Transformer模型，该模型利用空间群对称性生成晶体结构，显著提高了晶体生成的效率和数据友好性。晶体结构在材料科学、化学和物理学等领域具有重要应用，传统方法通常依...

人工智能领域迎来重要技术突破，Perplexity公司近日在GitHub开源了其混合专家系统(MoE)的核心计算库Pplx Cuda Kernels。这套基于CUDA的高性能计算内核在实际测试中展现出显著优势，在大规模运算场景下性能超越知名AI...

Nebius近日开源了Kvax项目，这是一个基于JAX框架的Flash Attention实现，专门针对长上下文训练场景进行了优化。Kvax通过创新的上下文并行技术和高效的文档掩码计算，实现了更快的训练速度和更高的数据密度压缩，在性...