一 、安装ollama
1. 进入ollama官网,下载windows版本软件安装包
ollama官网地址:https://ollama.com/download
2.添加系统环境变量,用于指定模型文件下载目录
方法1:命令行方式
点击开始,在搜索框中输入 cmd,选择以管理员身份运行
在弹出的cmd窗口中输入以下指令
setx OLLAMA_MODELS d:\ollama\models /M
方法2:在windows设置里修改
点击开始,在搜索框中输入环境变量
点击编辑系统变量或下面的打开
点击下面的环境变量
在系统变量下面点击新建,按照下图输入后点确定
3. 安装ollama程序到指定目录
在d盘根目录下新建ollama目录。找到前面下载的ollama安装程序ollamaSetup.exe,把它移动到这个新建的ollama目录里。按照前面的方法以管理员身份运行cmd,然后执行下面指令
d:\
cd ollama
ollamaSetup.exe /dir=d:\ollama
在弹出的安装界面中,点 Install 后, 等待完成
二、下载、运行大模型
1. 到官网搜索想要的大模型
点 models 菜单, 或者在搜索框中输入要搜索的名称
2. 找到模型后,选择想要的模型尺寸,复制右侧的命令
3. 回到 CMD 窗口,粘贴命令,修改命令
原命令 ollama run deepseek-r1:1.5b
新命令 ollama pull deepseek-r1:1.5b
(下载速度变慢,可以 ctrl+c 中断,过一会再执行 ollama pull deepseek-r1:1.5b, 将会接着上一次的进度进行拉取下载)
4. 运行大模型
ollama run deepseek-r1:1.5b
在 >>> 后输入 想问的问题, 即可聊天
/bye 表示结束对话,退出. ctrl + d 也可以退出.
三、怎样安装越狱版deepseek
在ollama官网搜索huihui_ai/deepseek-r1-abliterated,或直接进网址:https://ollama.com/huihui_ai/deepseek-r1-abliterated:8b
然后用前面讲的方法下载,运行即可
评论
发表评论