本篇博客旨在为读者提供构建第一个LLM应用程序所需的一切知识。它还介绍了一些读者今天可以开始探索的问题空间。本博客涵盖了LLM应用程序的新兴架构以及LLM的现实影响。提供了进一步阅读的资源。

在最新的研究中，科学家们介绍了一种名为LLM-FP4的新型方法，该方法能够通过在训练后将大型语言模型的权重和活动转换为4位浮点值，实现对其进行压缩。这种技术的创新之处在于，它不仅能够显著减少模型的存储需求，还...

OpenAI成立了一支新的团队，专门处理AGI的前沿风险，如网络安全和核灾难。这个团队将利用OpenAI的技术知识和资源来评估和应对这些风险，以确保AGI的安全和可持续发展。据OpenAI的创始人Sam Altman表示，这个团队将成...

监控Kubernetes是一个艰巨的任务！使用这个速查表简化流程。快速查阅所有指标和命令，监控K8s环境——资源、磁盘I/O、网络性能等。此外，还提供了Datadog K8s仪表板使用的便捷快速入门指南。从Datadog免费获取速查表。

大多数组织机构没有资源在GPU上运行大型模型，但是有一个强大的开源推动力量在本地运行这些模型。本文探讨了这种推动力量以及LangChain + Ollama集成。 LLN（Local Low Rank Normalization）是一种用于处理基于卷积...

近日，PyTorch团队推出了一款新的轻量级运行时和模型转换工具，以支持在资源受限的边缘设备上运行。此次推出的PyTorch Lite运行时，具有轻量级、高效、低延迟等特点，可以在边缘设备上运行深度学习模型，解决传统云...

OpenAI计划在其开发人员工具中引入诸如内存存储和先进的视觉功能等更新，以显著降低应用程序成本，并促进各个领域的创新。 OpenAI的目标是使AI开发更加高效和可靠，以实现AI技术的广泛应用。随着这些新功能的引入，...

美国警告欧盟，其提出的人工智能（AI）规定可能偏向于资源充足的公司，而对小型公司造成伤害。华盛顿的分析批评了欧盟对AI模型开发的关注，而非模型使用的风险，这可能会威胁到在欧盟的投资和AI研发。关于如何在AI问...

Surreal是一种mini jQuery替代品，具有无依赖的动画功能和行为本地化特性，它与HTMX配对使用。Surreal提供了丰富的例子，插件，以及相关资源。作为一种轻量级的JavaScript库，它旨在提供简洁，快速的解决方案，以便...

谷歌的DeepMind与33个研究所联手，共同开发了名为Open X-Embodiment的数据库，这个数据库相当于计算机视觉中的ImageNet数据库。这个数据库包含来自22种机器人类型的500多个技能和150,000个任务，旨在通过提供共享资...