Ollama使用技巧,彻底解决安装程序和模型下载速度慢痛点,Ollama怎样使用自己官方库里没有的模型,怎样使用GGUF模型文件

 一、前言

    相信很多朋友和我一样,对Ollama又爱有恨,爱她是因为她功能强大,兼容非常多的模型,又提供开放的接口,可以被最多的软件兼容、调用。恨她是因为她界面不友好,同时又存在安装程序和模型下载速度慢两大痛点!

二、解决安装程序下载慢,甚至根本下载不下来的问题

    Ollama安装程序放在github上面,github上的文件下载国内需要使用代理同时对下载连接有带宽和时长限制,安装程序较大接近1G,所以造成无法下载问题。解决方法很简单:不要使用浏览器下载,使用下载软件多线程下载,迅雷,IDM等等,我个人用的是FDM。

Ollama官网

FDM官网

三、最好不要把Ollama程序和模型放在C盘

可以参考我之前的一期视频:怎样把 Ollama 和下载的模型都放到指定磁盘和目录

1、在cmd窗口中输入以下指令:setx OLLAMA_MODELS d:\ollama\models /M。通过修改环境变量改变默认模型目录

2、修改Ollama安装目录:ollamaSetup.exe /dir=d:\ollama

四、解决模型下载慢和无法使用自己官方库里没有的模型的问题

1、在国内网站魔搭社区下载GGUF格式模型,无需代理。以Qwen3-4B-BF16.gguf为例。

魔搭社区官网 

2、把该模型导入Ollama。

a、创建文本文件,例子: Qwen3-4B-BF16.txt

文件内容:FROM ./Qwen3-4B-BF16.gguf

b、导入Ollama命令:ollama create Qwen3-4B-BF16 -f Qwen3-4B-BF16.txt

 

 

评论