Yandex开源大型语言模型训练工具YaFSDP

时间：2024-06-14 03:11:53来源：界面新闻

6月11日消息，融易新媒体消息，跨国科技公司Yandex最近推出了用于训练大型语言模型的开源方法YaFSDP。YaFSDP可用于增强GPU通信并减少LLM训练中的内存使用量，与FSDP相比，其训练速度提升最高可达26%。YaFSDP方法目前已可以在Github上免费访问。

• 上一篇：华为否认曾对柔宇科技有投资计划
• 下一篇：没有了