LoRA（Learning of Rate Adjustor）是一种被广泛应用于模型微调的方法，用于注入风格或知识。近期的一篇研究论文深入探讨了在使用LoRA时，学习能力和遗忘之间的权衡关系。研究发现，LoRA相比于全面微调，虽然学习的...

近日，在GitHub上出现了一个新的项目，名为Llama3.np，这是一个纯NumPy实现的Llama 3模型。NumPy是一种使用Python进行科学计算的基础软件包，而Llama 3模型则是一种流行的机器学习模型。Llama3.np 项目旨在提供一种...

CDFormer是一种全新的盲目图像超分辨率（BISR）方法，它通过一个创新的基于扩散的模块，整合了内容和降级理解。本方法突破了传统的盲目图像超分辨率技术，它不仅关注图像的内容，同时也关注图像的退化过程。CDFormer...

Hopfield Boosting是一种技术，该技术利用现代Hopfield能量来增强在机器学习模型中对分布外（OOD）数据的检测。在机器学习中，处理OOD数据一直是一项挑战，因为这些数据往往不符合模型的预期分布。通过Hopfield Boos...

近日，EfficientTrain++推出了一种新颖的课程学习策略，显著减少了主要视觉模型如ResNet和Swin在ImageNet数据库上的训练时间。据悉，这种新的学习策略最多可以将模型训练时间缩短三倍。EfficientTrain++的这一突破不...

深度学习中的SiLU和SoftMax函数在许多任务中都是必不可少的，但它们的计算成本很高。为了改进这一点，来自华盛顿大学的研究人员提出了两个新的指数函数，可以将它们的速度提高2倍，同时完全保持准确性。这些函数分别...

谷歌Deepmind最近发布了一款名为Veo的新型视频生成人工智能模型。这款AI模型拥有强大的视频生成能力，能够生成具有1080p分辨率的视频，且长度可以超越一分钟。在现有的视频生成技术中，这种能力是相当显著的。Veo利...

近日，Google发布了新的轻量级模型Gemini Flash。此模型具有多模态推理和高达一百万个符号的长上下文窗口。Google利用其先进的技术，使Gemini Flash在处理大量数据时保持了高效与精确。这种新型的轻量级模型将有助于...