踩坑记录作者:周末跑模型2026-05-06

Review Detail

踩坑:本地 Ollama 跑模型慢,不一定是模型问题,可能是显存没吃满

这是一条社区沉淀内容。先看它解决了什么问题、用到了哪些工具、最后留下了哪些可复用经验。

Ollama本地模型显卡排查
我一开始以为自己的 3060 跑 14B 太慢,后来发现 Ollama 没正确走 GPU。检查方法:跑模型时打开任务管理器看 GPU 显存占用;如果几乎不动,大概率是驱动或环境没配好。 我的排查顺序: 1. 更新显卡驱动。 2. 确认 Ollama 是最新版。 3. 先跑 7B 小模型测试 GPU 是否被调用。 4. 再试 14B 或 32B。 别一上来就换模型,先确认硬件真的在工作。

写一条有效评论 +3XP

补充你的用法、坑点、替代工具或可执行步骤。社区现在按内容价值沉淀,不按铭牌展示。

Next Step

看完这条沉淀,下一步不要停在收藏

能复用就回学习路线做一个小成果;有结果就写复盘;缺工具就先把工具链补齐。