docker安装并使用 ollama的步骤
更新时间：2026年03月04日 14:45:38 作者：赴前尘
文章介绍了如何通过Docker安装并使用Ollama,包括CPU和GPU启动方式,以及如何进入容器、通过API进行单轮和多轮对话,感兴趣的朋友跟随小编一起看看吧
启动 ollama
1. CPU 方式启动
docker run -itd --name ollama -v ~/.ollama:/root/.ollama -p 11434:11434 ollama/ollama
2. GPU 方式启动
docker run -itd --name ollama --gpus=all -v ~/.ollama:/root/.ollama -p 11434:11434 ollama/ollama
启动模型
进入 ollama 容器
docker exec -it ollama /bin/bash
拉取 qwen2.5 大模型
ollama pull qwen2.5:0.5b
查看大模型列表
ollama list
对话
1. 进入容器，直接启动 qwen2.5 大模型，进行对话
docker exec -it ollama /bin/bash ollama run qwen2.5:0.5b
2. 在宿主机通过 curl 和 ollama api 交互，进行单轮对话
curl http://localhost:11434/api/generate \
-H "Content-Type: application/json" \
-d '{
"model": "qwen2.5:0.5b",
"prompt": "用 Go 写一个 Gin 示例",
"stream": false
}'3. 在宿主机通过 curl 和 ollama api 交互，进行多轮对话
curl http://localhost:11434/api/chat \
-H "Content-Type: application/json" \
-d '{
"model": "qwen2.5:0.5b",
"messages": [
{"role": "user", "content": "你是谁？"},
{"role": "assistant", "content": "我是 Qwen 模型"},
{"role": "user", "content": "给我一个 Go Web 示例"}
],
"stream": false
}'到此这篇关于docker 安装并使用 ollama的文章就介绍到这了,更多相关docker 安装使用 ollama内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！
相关文章
今天将向大家介绍，如何搭建容器下的Patroni集群环境，Patroni作为开箱即用PG高可用工具，越来越多的被各个厂商用于云环境下使用2021-11-11
Docker安装jenkins实现微服务多模块打包的示例代码
本文主要介绍了Docker安装jenkins实现微服务多模块打包的示例代码，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2022-07-07
使用Docker Compose安装GitLab是一个相对简单的过程,但需要按照一定的步骤来确保一切设置正确,这篇文章主要介绍了使用docker compose安装gitlab,需要的朋友可以参考下2024-12-12
基于CentOS8系统使用Docker搭建Gitlab的详细教程
这篇文章主要介绍了基于CentOS8系统使用Docker搭建Gitlab教程,本文通过实例代码给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2021-10-10
这篇文章主要介绍了如何构建本地Docker镜像仓库问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教2025-06-06
这篇文章主要介绍了详解Docker 端口映射与容器互联 ，小编觉得挺不错的，现在分享给大家，也给大家做个参考。一起跟随小编过来看看吧2018-06-06
这篇文章主要介绍了详解Docker Volume 之权限管理，小编觉得挺不错的，现在分享给大家，也给大家做个参考。一起跟随小编过来看看吧2018-10-10
文章总结：文章主要介绍了如何配置Docker引擎镜像,包括打开配置页面、定位镜像配置位置、替换镜像内容以及测试镜像是否可用,作者分享了个人经验,旨在帮助读者理解并操作Docker镜像配置,同时鼓励大家支持脚本之家2026-01-01
本文主要介绍了docker拉取clickhouse镜像的方法实现,解决从DockerHub拉取镜像时的网络连接问题,具有一定的参考价值,感兴趣的可以了解一下2025-03-03
在日常工作中,我们有时会需要将服务器A上的镜像上传至服务器B上,这篇文章主要介绍了迁移docker镜像到新服务器的具体操作流程,文中通过代码介绍的非常详细,需要的朋友可以参考下2025-07-07
最新评论