MaxText是一个高性能、高可扩展性的开源低级机器学习模型(LLM)，完全使用Python/Jax编写，目标是在Google Cloud的TPUs和GPUs上进行训练和推理。这个项目在GitHub上公开，充分展示了其强大的功能和优秀的性能。MaxTex...

Llama3是一种革命性的新技术，它通过使用Unsloth进行微调，可以在保持相同的计算效率的同时，显著降低VRAM的使用量。最近的研究表明，使用Unsloth微调Llama3可以使上下文长度增长六倍，这比HF的flash attention技术...

本文总结了专注于文本处理的初创公司Truss在过去六个月内发布数个基于大型语言模型（LLM）的功能中获得的七项宝贵经验。这些经验涵盖了如何改进提示方式、工具使用、GPT技术的最佳实践、以及GPT的局限性等方面。Trus...

谷歌在其Vertex AI平台上公开预览了最新一代生成型AI模型Gemini 1.5 Pro。该模型提供了高达100万个标记的大容量上下文窗口，这使得它能够处理更复杂的文本生成任务，同时保持高效的计算性能。此举进一步展示了谷歌在...

Longcontext Alpaca训练技术最近取得了重大突破，通过在H100硬件上使用新的梯度累积卸载技术，成功训练了超过200,000个上下文窗口。这种创新方法使得大规模深度学习模型的训练变得更加高效，显著提高了计算资源的利...

Meta公司近日确认，其最新一代大型语言模型Llama 3将于下月推出。Llama 3是Meta为其生成式人工智能助手而开发的先进技术，旨在提供更加精准、自然的对话体验。该模型经过深入的优化和升级，预计将为用户带来更加丰富...

OpenAI宣布推出GPT-4 Turbo，该模型融合了文本和图像处理功能，为开发者提供了一个全新的AI工具。GPT-4 Turbo的问世，意味着开发者可以通过单一模型来实现对文本和图像数据的综合处理，极大地提高了开发效率和创新潜...

Humanity.tools（Tools for Humanity）为Worldcoin Orb开发了一个安全且强大的计算环境，该环境采用NVIDIA Jetson进行处理，并使用Arm Cortex M4微控制器执行实时功能。Orb运行Rust应用程序，并使用NVIDIA的TensorRT...