Nodejs本地部署DeepSeek的教程详解

npm i ollama

yarn add ollama

pnpm i ollama

import { Ollama } from 'ollama'
 
const ollama = new Ollama({
    host: 'http://127.0.0.1:11434'
})
 
const response = await ollama.chat({
    model: 'deepseek-r1:1.5b',
    messages: [{ role: 'user', content: '你好' }],
})
 
console.log(response.message.content)

# 一键安装脚本
curl -fsSL https://ollama.com/install.sh | sh

# 启动 Ollama 服务（后台运行）
ollama serve
 
# 停止服务
ollama stop

ollama upgrade

# 下载官方模型（如 llama2、mistral）
ollama pull <model-name>
# 示例
ollama pull llama2

# 启动交互式对话
ollama run <model-name>
# 示例
ollama run llama2

ollama list

ollama rm <model-name>

FROM llama2  # 基础模型
SYSTEM """你是一个友好的助手，用中文回答。"""
PARAMETER temperature 0.7  # 控制生成随机性（0-1）

ollama create my-model -f Modelfile

ollama run my-model

ollama serve

curl http://localhost:11434/api/generate -d '{
  "model": "llama2",
  "prompt": "你好，请介绍一下你自己",
  "stream": false
}'

# 启动一个会话并命名
ollama run llama2 --name chat1
# 在另一个终端启动新会话
ollama run llama2 --name chat2

# 更改默认端口
OLLAMA_HOST=0.0.0.0:8080 ollama serve
 
# 使用 GPU 加速（需 NVIDIA 驱动）
OLLAMA_GPU_METAL=1 ollama run llama2

# 使用镜像源（如中国用户）
OLLAMA_MODELS=https://mirror.example.com ollama pull llama2

tail -f ~/.ollama/logs/server.log

# 导出模型
ollama export my-model > my-model.tar
 
# 导入模型
ollama import my-model.tar