开源项目开源项目Soup:支持低显存微调 8B 大模型的 Python 工具Soup 是一款面向大语言模型微调的开源 Python CLI 工具。它核心通过 Layer Streaming(逐层流式加载)技术降低显存占用,解决了低配置设备无法本地微调大模型的问题,让 4GB 显存的消费级显卡也能运行 8B 模型的微调。 主要特性与功能包括: 极低显存占用…6 小时前10 次浏览#开源项目#AI工具#开发工具