当前位置: 首页 >
目前有什么可以本地部署的大模型推荐?_米兰·(milan)中国官方网站
文章出处:网络 人气:发表时间:2025-06-22 07:00:10
这里推荐一个本地微调大模型的框架。
ZO2,一个仅用18G显存就能全参微调175B大模型的框架(当然也支持微调小一些的模型)。
更新:现在ZO2支持Qwen3啦,全参微调32B的版本只需要6GB显存。
Code: ***s://github***/liangyuwang/zo2 Paper: ***s://arxiv.org/abs/2503.12668。
同类文章排行
- 月之暗面 Kimi 首个 Agent 开启内测,可生成易追溯的万字报告,有哪些技术亮点?
- 显示器选32还是27,2k还是4k?
- 豆包推出 AI 编程,在「编辑模式」下可以直接前端改图和文字,体验如何?对行业会带来怎样的影响?
- obsidian用一两年后会有多大?全文搜索还快吗?
- 现在的年轻人为什么跟父母沟通不来了?
- 小米 YU7 发布会,有哪些大说特说的点其实是行业基操?
- 用K8s的公司有多少人会部署K8s?
- nodejs适合作为后端主要技术栈吗?
- 为什么朝鲜始终未解决粮食短缺问题?
- 为什么董明珠攻击小米空调,而公牛却没有攻击小米插座?
最新资讯文章
- 程序员用 Mac 都有哪些必备的 ***?
- 湖北襄阳一高中全班 45 人有 43 人超 600 分,这个班是怎么做到的?其成功经验是否可复制?
- DeepSeek-R1有没有多模态能力?
- 2025年,Gitea 和 GitLab 应当如何选择?
- 足球运动员的身材会不会像篮球运动员一样朝着巨型化的方向发展?
- 和女生旅游开一间房有什么注意事项?
- 程序员平时都是CRUD开发工作,真的需要深入理解原理性的知识点吗?
- 为什么有的房东喜欢把房间租给女租户?
- 如何看待小米yu7 3分钟大定破20w辆?
- 手术时把大脑拿出来还能接回去吗?
- 为什么索尼和任天堂已经不存在竞争关系,两家关系却还这么差?
- 如何评价英特尔再次退出汽车业务?
- 如何评价剪映svip,599一年,有替代方案吗?
- 如何设计一条 prompt 让 LLM 陷入死循环?
- 给你2万亿元,代价是你的财产每毫秒流失0.01元,你愿意吗?
- 你们是怎样看待警察这一职业的?
- 目前中国男性有什么困境?
- 豆包推出 AI 编程,在「编辑模式」下可以直接前端改图和文字,体验如何?对行业会带来怎样的影响?
- 为什么人到中年,很少有身材苗条的?
- 老公一个月给我1万3,但是我们没有钱旅行,到底是我不会管钱,还是老公给得太少?





