Ollama通义千问大模型本地部署教程

1、下载Ollama

https://ollama.com/download

2、模型下载

Ollama官网的模型库当中找到对应模型的代码，复制到PowerShell（Win+R输入PowerShell回车打开）当中，就可以执行模型数据的拉取和安装。

1、进入Ollama官网，找到Models。

出现下载等待窗口，等待下载完成。

下载完成后稍微等待，看到success，即部署完成。

启动Ollama服务：

在终端运行以下命令启动Ollama服务：

ollama serve

服务启动后，可以通过访问 http://localhost:11434 来与模型进行交互。

注意知识库的设置需要“嵌入数据库”， ollama命令是：ollama pull nomic-embed-text 使用这一个嵌入数据库即可

常见问题及解决方法

模型下载超时：如果在下载模型时出现超时问题，可以尝试重新运行下载命令。
服务启动失败：确保Ollama服务已正确安装并启动。如果服务启动失败，可以尝试重启Ollama服务。

ollama常用命令：

退出模型：/bye

列出模型：ollama list

删除模型：ollama rm xxx