Soup
模型生态Soup 是一个用 Python 写的 LLM 微调工具,只需一份 YAML 配置就能跑通整个流程,解决显存不够、配置繁琐的问题。它采用分层流式加载,让 8B 模型也能在 4 GB 显存的笔记本 GPU 上完成训练。
查看 GitHub 原始描述(英文)
Fine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.
按钮会在新标签页打开,本站不代理、不镜像仓库内容。