近日，llamafile发布了新的GitHub Repo，它是一种新的单文件分发工具，允许任何人使用单个文件分发和运行LLMs。LLMs可以在多个CPU微架构上运行，而不需要用户在每个平台上编译。这种工具可以节省开发者的时间和精力...

这个repo提供了一些数据工程师可能需要的资源。

使用语言模型构建工具是一种新兴的工程学科，涵盖了高性能计算、GPU编排和监控。在这个领域，LLMs（语言模型）是至关重要的组件，它们可以帮助工程师们开发出更智能、更高效的工具。本文将介绍如何在生产环境中使用L...

Nvidia在IEEE/ACM计算机辅助设计国际会议上发表主题演讲，介绍了一款名为ChipNeMo的大型语言模型，旨在提高芯片设计师的生产力。尽管尚未完全证明，但ChipNeMo有助于为设计工具编写脚本，总结错误报告，并为设计师提...

人工智能工作的困难在于必须处理非确定性的输出。开发人员每次运行他们的代码时，都会得到不同的结果。评估人工智能应用中的代码是困难的。这些问题是本周初次举行的人工智能工程师峰会的主题。本文包含了从峰会中获...

MIT和中国的一支工程团队设计了一种太阳能海水淡化系统，可以将海水被动地转化为饮用水。它通过水的涡旋环流，结合太阳的热量驱动水蒸发，将盐分留下。产生的水蒸气可以被冷凝和收集，而剩余的盐分则流出系统而不是...

根据最新数据显示，美国工程师薪资增长已连续两年不及通货膨胀增长。2019年，美国工程师的平均年薪为10.2万美元，较2018年仅增加了0.6%。而通货膨胀率则达到2.3%，再次导致工程师薪资实际购买力下降。此外，由于新冠...

近日，一个针对提升机器学习（ML）工程能力的深度资源在GitHub上获得了大量关注。这个资源提供了一系列详细的指南和建议，可以帮助工程师在机器学习领域提升技能水平。它包括了从基础理论到实际应用的各个方面，旨在...

Nvidia在人工智能领域的领先地位远非稳固。它目前的优势主要是因为几乎没有人在运行大型机器学习应用程序，竞争对手还没有成熟，研究人员拥有购买力，以及关注于模型训练方面。但在不久的将来，使用CPU进行推理将会...

本文探讨成功工程师的习惯，并解释了这些习惯如何使得这些工程师更加成功。例如，坚持一致的编码标准和风格，使代码更易于阅读和理解，至少在一个领域拥有深入的专业知识，良好的自我营销。本文深入探讨了编码习惯以...