BaoShare

探索高价值 AI 工具与资源

精选网盘资源、AI 教程与效率工具,持续更新,帮你少走弯路、快人一步

关键词 “QLoRA” 的搜索结果:共 1 条
开源项目开源项目

Soup:支持低显存微调 8B 大模型的 Python 工具

Soup 是一款面向大语言模型微调的开源 Python CLI 工具。它核心通过 Layer Streaming(逐层流式加载)技术降低显存占用,解决了低配置设备无法本地微调大模型的问题,让 4GB 显存的消费级显卡也能运行 8B 模型的微调。 主要特性与功能包括: 极低显存占用…