Salesforce开源新的70亿语言模型
talkingdev • 2023-06-29
1652176 views
Salesforce发布了一组新的语言模型，该模型在GitHub上公开发布。这些模型使用4K和8K序列长度进行了15亿个令牌的训练，参数量为70亿。与目前许多开源模型如MPT或Falcon相比，这些模型具有更好或相当的性能。此外，它们还包括一个不具备商业可行性但可用于研究目的的教学模型。
talkingdev • 2023-06-29
1652176 views
Salesforce发布了一组新的语言模型，该模型在GitHub上公开发布。这些模型使用4K和8K序列长度进行了15亿个令牌的训练，参数量为70亿。与目前许多开源模型如MPT或Falcon相比，这些模型具有更好或相当的性能。此外，它们还包括一个不具备商业可行性但可用于研究目的的教学模型。