一、前言
相信很多朋友和我一样,对Ollama又爱有恨,爱她是因为她功能强大,兼容非常多的模型,又提供开放的接口,可以被最多的软件兼容、调用。恨她是因为她界面不友好,同时又存在安装程序和模型下载速度慢两大痛点!
二、解决安装程序下载慢,甚至根本下载不下来的问题
Ollama安装程序放在github上面,github上的文件下载国内需要使用代理同时对下载连接有带宽和时长限制,安装程序较大接近1G,所以造成无法下载问题。解决方法很简单:不要使用浏览器下载,使用下载软件多线程下载,迅雷,IDM等等,我个人用的是FDM。
三、最好不要把Ollama程序和模型放在C盘
可以参考我之前的一期视频:怎样把 Ollama 和下载的模型都放到指定磁盘和目录
1、在cmd窗口中输入以下指令:setx OLLAMA_MODELS d:\ollama\models /M。通过修改环境变量改变默认模型目录
2、修改Ollama安装目录:ollamaSetup.exe /dir=d:\ollama
四、解决模型下载慢和无法使用自己官方库里没有的模型的问题
1、在国内网站魔搭社区下载GGUF格式模型,无需代理。以Qwen3-4B-BF16.gguf为例。
2、把该模型导入Ollama。
a、创建文本文件,例子: Qwen3-4B-BF16.txt
文件内容:FROM ./Qwen3-4B-BF16.gguf
b、导入Ollama命令:ollama create Qwen3-4B-BF16 -f Qwen3-4B-BF16.txt
评论
发表评论