在预训练中，如何积极选择下一批最好的样本是一个挑战性和开放性的问题。DeepMind的这项工作探索了如何只花费10%的浮点运算和硬挖掘负样本，仍然能匹配各种任务的最新技术。在这个过程中，他们采用了一种名为“联合样...

Golden Gate Claude 是一个出色的案例，展示了如何使用SAEs（稀疏自编码器）进行模型的驾驭和解读。该工作为我们提供了一个直观的解释，解释了它是如何工作的，并提供了一些用于训练这些模型的示例代码。自编码器是...

检索增强指令调整（RA-IT）通过大型语言模型对信息进行提取，从而提高了信息提取的效率。这种技术的出现，为我们理解和处理大量信息提供了新的可能。RA-IT不仅可以提高信息提取的速度，还可以提高提取信息的准确性，...

自2019年微软发布Surface Pro X以来，基于Arm架构的Windows操作系统体验取得了显著提升。Surface Pro X搭载的定制版高通SQ1处理器，不仅在能效上优于传统x86架构处理器，更在兼容性和性能上做了大量优化工作。通过持...

最新研究显示，桥梁重组技术允许科学家直接在基因组中书写，可以随意在任何位置插入所需序列而无需进行任何切割。这种革命性的基因组编辑技术为基因治疗和遗传疾病研究开辟了新途径。《自然》杂志最近发表了两篇关于...

设计软件Figma近日宣布了其用户界面(UI)的重大改革，并推出了新的生成式人工智能工具及内置的幻灯片展示功能。这次UI改革囊括了新工具栏设计、圆角元素以及200个新图标，使界面更为现代化和直观。新推出的生成式AI工...

Polyfill.io，一个广泛用于提高旧版浏览器兼容性的JavaScript代码库，近日被发现被恶意代码感染。目前，已有超过十万个网站使用该服务。这些网站建议立即移除相关代码以避免潜在的安全威胁。据悉，该问题源于今年早...

玩具反斗城（Toys “R” Us）与广告代理Native Foreign合作，利用OpenAI的文本到视频工具Sora，创作了一部品牌影片。这部影片通过AI生成的视频片段，讲述了公司创始人的故事。Sora自2月份推出以来，尚未对公众开放。该...