目前有什么可以本地部署的大模型推荐?

2025-06-22 07:00:10

这里推荐一个本地微调大模型的框架。

ZO2,一个仅用18G显存就能全参微调175B大模型的框架(当然也支持微调小一些的模型)。

更新:现在ZO2支持Qwen3啦,全参微调32B的版本只需要6GB显存。

Code: ***s://github***/liangyuwang/zo2 Paper: ***s://arxiv.org/abs/2503.12668。

目前有什么可以本地部署的大模型推荐?
广告位810*200
相关阅读
阿里云为什么没有一年的免费云服务?

阿里云为什么没有一年的免费云服务?

你真用了AWS的服务你就不会问这个问题了。 我个人是腾讯云...

2025-06-18
***如古代长城用的是C140混凝土,那千百年下来会完整的留存至今还是损坏的更加严重?

***如古代长城用的是C140混凝土,那千百年下来会完整的留存至今还是损坏的更加严重?

在下孤陋寡闻,就连听说,都只听说到C80混凝土。 至于亲眼...

2025-06-18
为什么欧美影视喜欢露点?

为什么欧美影视喜欢露点?

这么喜欢看露点的 那推荐一部俄罗斯的片子《契卡》 从头到尾都...

2025-06-18
慈禧为什么要反对戊戌变法?

慈禧为什么要反对戊戌变法?

别说慈禧,任何一个看过《戊戌变法》内容的现代人都会秒变“守旧...

2025-06-18
女朋友是体育生是一种什么体验?

女朋友是体育生是一种什么体验?

军校毕业,一女同学托人转告,非我不嫁。 高中时,因为女生太优...

2025-06-18