包装印刷加工

包装项目合作

包装成型机械

目前有什么可以本地部署的大模型推荐?

发布时间：人气：来源：

这里推荐一个本地微调大模型的框架。

ZO2，一个仅用18G显存就能全参微调175B大模型的框架（当然也支持微调小一些的模型）。

更新：现在ZO2支持Qwen3啦，全参微调32B的版本只需要6GB显存。

Code： ***s://github***/liangyuwang/zo2 Paper： ***s://arxiv.org/abs/2503.12668。

目前有什么可以本地部署的大模型推荐?

上一篇 : 想深入学习网站后台技术，有哪些建议？下一篇 : 西安一商场大屏播放巨大电风扇，这真的能起到「望扇止暑」效果吗？还是单纯营销创意？

返回列表相关新闻

在线留言

在线客服

QQ客服

联系方式

热线电话

上班时间

周一到周五

公司电话

二维码

在线客服