查看Ollama GPU资源使用情况的两种方法

📅 今日知识点

• 核心主题：Ollama GPU内存使用情况查看及监控方法

💻 如何查看Ollama的GPU内存使用情况

方法1. 通过ollama ps

通过命令"ollama ps"来查看当前运行的模型及其资源占用情况是最直接的方法：

# 查看当前运行的模型及资源使用情况
ollama ps

输出示例：

关键字段说明：

• NAME：模型名称和版本
• ID：模型ID
• SIZE：模型文件大小，即模型权重大小
• PROCESSOR：当前的共享GPU和专用GPU使用百分比，其中CPU指共享GPU
• CONTEXT：模型上下文窗口的内存占用
• UNTIL：模型运行了多长时间

实用技巧：

# 持续监控（每2秒刷新一次）
watch -n 2 ollama ps
# Windows PowerShell 等效命令（每2秒执行一次）
while ($true) { ollama ps; Start-Sleep 2 }

方法2. Windows平台下通过任务管理器查看

对于Windows用户，可以通过图形界面直观查看资源使用情况：

操作步骤：

1. 按 Ctrl + Shift + Esc 打开任务管理器
2. 切换到「详细信息」选项卡
3. 找到 ollama.exe 进程
4. 右键点击标题行 →「选择列(S)」→ 把「GPU」相关的列显示处理

查看要点：

• GPU：显示进程的GPU使用率
• 专用 GPU 内存：显示显存占用情况
• 共享 GPU 内存：显示系统内存作为显存使用的情况

下图展示了笔者环境中的情况：

此外，还可以在任务管理器的性能页面，查看GPU的总体使用情况，具体情况如下图所示：

到此这篇关于查看Ollama GPU资源使用情况的两种方法的文章就介绍到这了,更多相关Ollama GPU资源使用内容请搜索脚本之家以前的文章或继续浏览下面的相关文章，希望大家以后多多支持脚本之家！

最新评论