AnswerAI开源新微调工具，可在消费级GPU上训练70B参数模型
talkingdev • 2024-03-08
923819 views
Answer AI发布了一款新的FSDP/QLoRA训练工具，可在消费级GPU上训练70B参数模型。该公司开源了代码，并使其易于本地运行或在runpod上运行。
核心要点
- Answer AI发布了一款新的微调工具，使其可能在消费级GPU上训练70B参数模型。
- 工具的代码已经开源，并且容易在本地或runpod上运行。
- 这款工具将使更多的人能够训练大型模型，而不需要昂贵的硬件。