Llama cpp现已支持跨多台机器的分布式推理。这一功能目前仅限于FP16（半精度浮点数），但对于开源部署来说，这无疑是一个巨大的进步。通过分布式推理，开发者可以更高效地利用集群资源，提升模型推理的速度和效率。...

该项目推出了一种用于遥感图像变化描述的新型概率扩散模型（RSICC）。这一模型的引入旨在通过对时间推移中的环境变化进行描述，提高遥感图像的解读能力。遥感图像变化描述（RSICC）技术在环境监测、灾害评估及土地利...

Alphabet 这家自封的“月球工厂”正在为项目开辟一条新路径，可以将其剥离为创业公司。虽然公司最初不愿让外部投资者分享其投资成果，也不愿冒险损害知识产权，但高管们最终决定，这比让有前途的技术凋零要好。这项新...

智能专家系统是一种利用大型语言模型（LLMs）进行文本分类的新方法。该系统通过减少对广泛的预处理和领域专业知识的需求，大大简化了文本分类过程。LLMs具备强大的自然语言处理能力，能够更高效地理解和分类复杂的文...

LeMeViT是一种新的方法，通过使用可学习元令牌来降低视觉Transformer的计算成本。这些元令牌能够高效地捕捉关键信息，从而显著提高推理速度。与传统的视觉Transformer相比，LeMeViT在保持高精度的同时，大幅减少了计...

谷歌近日发布了一款名为 'Model Explorer' 的模型探索器，该工具可以帮助用户轻松查看并审查自己的模型计算图。这项新的工具对于调试和性能工程来说相当有用。Model Explorer以GitHub Repo形式存在，用户可以方便地...

人工智能公司Hugging Face宣布，将免费提供价值1000万美元的共享图形处理器（GPUs）资源，以帮助开发者、学者和初创公司创建新的AI技术。此举旨在抵消科技巨头主导的AI发展的集中趋势。Hugging Face希望通过这项举措...

近日，知名开源平台GitHub Repo发布了全新的服务框架——AnythingLLM。该框架具有LLM（Low Level Management）和RAG（Risk Analysis and Governance）两大主要功能，提供了一站式的服务体验。AnythingLLM的目标是通过...