Python使用openai实现调用DeepSeek模型并调整参数

更新时间：2026年07月06日 08:30:14 作者：detayun

DeepSeek是深度求索推出的系列开源大模型,本文介绍了如何使用OpenAI官方Python库调用私有化部署的DeepSeek系列大模型（包括通用对话、代码和数学专用版本）,希望对大家有所帮助

前言

DeepSeek 是深度求索推出的系列开源大模型，包含通用对话、代码、数学专用版本，性能优秀，很多企业会基于 vLLM、SGLang 私有化部署 DeepSeek 推理服务。

这类推理服务全部兼容 OpenAI 标准 /v1 接口，我们不需要使用厂商专属SDK，直接通过官方 openai Python 库即可完成调用。

本文完整覆盖客户端初始化、普通同步调用、流式实时输出、参数说明、常见踩坑，全部代码可直接运行，适配本地私有化部署 DeepSeek 场景。

一、环境准备

1. 安装依赖包

仅需安装 openai 官方库，无需额外推理框架：

pip install openai

2. 部署前置条件

DeepSeek 模型已通过 vLLM / SGLang 部署完成，获取接口地址 http://ip:port/v1；
服务端配置鉴权 api_key；
本地网络能够正常访问模型服务器端口。

二、客户端基础初始化

不管是 DeepSeek-V2、DeepSeek-Coder、DeepSeek-R1，客户端初始化逻辑完全一致，仅修改模型名称即可。

from openai import OpenAI

# 替换为你的模型服务地址和密钥
client = OpenAI(
    base_url="http://127.0.0.1:8000/v1",
    api_key="自定义接口密钥"
)

三、完整实战代码

3.1 非流式同步调用（批量处理、结构化输出）

适用于文档处理、JSON生成、批量问答，一次性返回全部结果。

from openai import OpenAI

client = OpenAI(
    base_url="http://127.0.0.1:8000/v1",
    api_key="自定义接口密钥"
)

def deepseek_normal_chat(question: str) -> str:
    response = client.chat.completions.create(
        # 和部署时填写的模型名称保持一致
        model="DeepSeek-R1",
        messages=[
            {
                "role": "system",
                "content": "回答简洁严谨，严格遵循用户提示，输出无多余空行、无关解释"
            },
            {"role": "user", "content": question}
        ],
        max_tokens=4096,
        temperature=0.1,
        top_p=0.3,
        frequency_penalty=0.05,
        presence_penalty=0.0,
        stream=False,
        stop=None,
        # vLLM扩展参数放入extra_body，避免参数报错
        extra_body={
            "top_k": 30,
            "repetition_penalty": 1.06
        }
    )
    result = response.choices[0].message.content
    return result

if __name__ == "__main__":
    res = deepseek_normal_chat("Python列表嵌套字典怎么转为标准JSON字符串？")
    print("模型输出：\n", res)

3.2 流式调用（长文本、前端实时打字效果）

长文本生成推荐使用 stream 模式，分片实时返回内容，注意循环内必须做空值判断过滤无效分片。

from openai import OpenAI

client = OpenAI(
    base_url="http://127.0.0.1:8000/v1",
    api_key="自定义接口密钥"
)

def deepseek_stream_chat(question: str) -> str:
    stream = client.chat.completions.create(
        model="DeepSeek-R1",
        messages=[
            {"role": "system", "content": "直接输出答案，不要多余铺垫文字"},
            {"role": "user", "content": "讲解MySQL索引优化常用方案"}
        ],
        max_tokens=4096,
        temperature=0.1,
        top_p=0.3,
        stream=True,
        extra_body={
            "top_k": 30
        }
    )
    full_text = ""
    print("实时输出：", end="", flush=True)
    for chunk in stream:
        # 双重判空，过滤空分片，防止无输出、报错
        if chunk.choices and chunk.choices[0].delta.content:
            content = chunk.choices[0].delta.content
            full_text += content
            print(content, end="", flush=True)
    return full_text

if __name__ == "__main__":
    deepseek_stream_chat("梳理企业制度文档标准大纲层级")

四、参数分类详解

OpenAI SDK 会校验外层参数，推理框架私有参数必须放在 extra_body 字典内传递，否则会报参数不存在异常。

4.1 标准外层通用参数

model：模型标识，必须与部署名称完全匹配，示例：DeepSeek-R1、DeepSeek-Coder-V2。
messages：对话上下文，system 定义全局规则，user 用户提问，assistant 存放历史对话用于多轮交互。
max_tokens：单次最大输出token，中文1字约2token，通用场景4096足够，不要超过服务端限制。
temperature：随机性控制：0_{0.3适合结构化、严格指令；0.6}0.8适合普通问答、文案创作。
top_p：核采样，缩小词汇范围，搭配低 temperature 使用，减少模型自由发挥。
frequency_penalty：重复惩罚，正数抑制重复句子、循环换行，推荐0.05。
stream：布尔值，False一次性返回完整内容，True开启流式分片输出。
stop：自定义停止词列表，识别指定文本立刻终止生成，无需求填 None。

4.2 extra_body 扩展私有参数（vLLM专用）

不属于OpenAI官方规范，必须放入extra_body透传给后端推理服务：

top_k：限制每次采样候选词汇数量，收紧输出范围；
repetition_penalty：全局重复惩罚，数值大于1即可抑制重复段落。

补充：DeepSeek 原版模型无 Qwen3.6 那样的 enable_thinking 思考链开关，不需要配置该参数。

五、两套业务参数模板

模板1：结构化输出（JSON、大纲整理、数据提取）

max_tokens=4096,
temperature=0.1,
top_p=0.3,
frequency_penalty=0.05,
stream=False,
extra_body={
    "top_k":30,
    "repetition_penalty":1.06
}

模板2：通用问答、代码生成、创意文案

max_tokens=8192,
temperature=0.7,
top_p=0.8,
frequency_penalty=0.05,
stream=True,
extra_body={
    "top_k":40
}

六、高频报错与解决办法

1. unexpected keyword argument ‘top_k’

问题原因：将 top_k 直接写在 create 外层，SDK校验拦截非法参数。

解决方式：把 top_k、repetition_penalty 全部放入 extra_body 字典。

2. 流式调用无任何输出

常见两点原因：

输入文本过长，超出服务上下文限制，请求静默失败；
循环未做 choices、delta.content 判空，空分片直接跳过，看起来无返回。

解决方案：精简单次输入内容，循环增加双重空值判断。

3. 401 AuthenticationError 鉴权失败

api_key 填写错误、包含空格换行、服务密钥失效，重新复制完整密钥即可。

4. NameError: name ‘response’ is not defined

接口请求中途异常（超时、服务崩溃、上下文超限），请求未执行完成，response 变量未创建。

优化：业务代码外层增加 try-except 捕获异常，打印完整堆栈日志定位问题。

5. 输出内容重复、大量空行

调高 repetition_penalty 至1.06以上，同时配置 frequency_penalty=0.05，双重抑制重复文本。

七、DeepSeek 与 Qwen3 调用差异小结

参数差异：DeepSeek 无 enable_thinking 思考链开关，不需要配置；Qwen3.6 结构化场景必须关闭思考链；
通用逻辑：两者都兼容 OpenAI 接口，客户端、流式逻辑、extra_body 扩展参数规则完全通用；
调参区别：DeepSeek 代码、数学能力更强，代码生成场景可适度调高 temperature；千问文档排版、层级整理表现更稳定。

八、Python 使用OpenAI调用DeepSeek模型参数该如何调整

前置基础：参数存放规则

OpenAI SDK会强制校验外层入参，不在官方规范内的扩展参数直接抛unexpected keyword argument报错，参数分两类存放，必须严格遵守：

标准参数：model、messages、temperature、top_p、max_tokens、stream、frequency_penalty等，直接写在create()外层；
推理扩展参数：top_k、repetition_penalty，必须放入extra_body={}字典透传给后端DeepSeek服务；

补充：DeepSeek模型没有Qwen3.6系列的enable_thinking思考链参数，无需额外配置。

基础客户端固定代码，下文所有示例复用该初始化逻辑：

from openai import OpenAI
client = OpenAI(
    base_url="http://127.0.0.1:8000/v1", # 你的DeepSeek服务地址
    api_key="服务分配的鉴权密钥"
)

标准接口参数详解&调整思路

1. max_tokens 最大输出长度

作用：限制模型单次生成token上限，1个中文汉字约占用2个token，超出直接截断文本。

调整策略：

简单问答、单行代码：max_tokens=1024；
制度大纲、结构化JSON、批量数据：max_tokens=4096；
长文档总结、完整项目代码：max_tokens=8192；

禁忌：不要无脑填超大数值，多数vLLM服务有全局输出上限，超出会直接请求失败。

2. temperature 随机性核心参数（最重要）

取值范围0 ~ 2，直接决定模型是否严格遵守提示词，是调参第一优先级。

0 ~ 0.3 严谨模式（推荐0.1）：模型几乎不自主发挥，严格按照用户指令、格式输出，适合JSON结构化、大纲编号重排、数据提取、固定表格输出；
0.4 ~ 0.8 平衡模式（推荐0.7）：兼顾准确性与灵活性，通用问答、文档总结、普通文案创作首选；
>1.0 高发散模式：脑洞大、自由拓展内容，适合创意写作、故事生成，不适合规范类业务，极易忽略提示约束。

3. top_p 核采样阈值

和temperature作用重叠，两者一般只微调其中一个，无需同时拉高。

逻辑：只保留累计概率达到top_p的词汇参与生成，数值越小候选词池越窄。

搭配方案：

严谨结构化场景：top_p=0.3，配合低temperature使用；
通用问答场景：top_p=0.8，平衡多样性与准确度。

4. frequency_penalty 重复惩罚

取值范围-2 ~ 2，正数抑制文本内重复句子、重复标题、连续空行、循环话术。

调整建议：所有业务统一固定0.05；

若输出频繁出现重复段落、重复编号，上调至0.1；负数会鼓励重复，业务场景不建议使用。

5. presence_penalty 新词激励

正数会引导模型生成前文未出现过的词汇、新角度；负数会复用已有内容。

适用场景：创意写作可调至0.1；

结构化、大纲、固定格式场景保持0.0，防止模型擅自新增无关内容偏离需求。

6. stream 流式开关

布尔值，无需精细调整，按需切换：

stream=False：一次性返回完整结果，批量同步处理首选；
stream=True：分片实时输出，长文本、前端打字机交互场景使用。

7. stop 自定义停止符

数组格式，识别到指定字符串立刻终止生成，无自定义终止规则填None。

示例：stop=["###", "总结", "---"]，适合需要截断多余后文的场景。

extra_body扩展参数（vLLM部署DeepSeek专用）

这组参数不属于OpenAI官方标准，必须放在extra_body字典中，否则直接报错。

1. top_k

限制每次采样仅选取概率最高的K个词汇，进一步收紧输出范围，辅助低temperature提升指令遵循度。

规范结构化业务：top_k=30；
代码、创意问答：top_k=40；

不需要时可以不传入该键。

2. repetition_penalty 全局重复惩罚

针对全文本的重复抑制，数值大于1生效，专门解决长篇输出中反复出现相同篇章、相同句子的问题。

默认推荐1.06；文本重复严重可调至1.1；不要超过1.2，会导致语句生硬不通顺。

完整extra_body示例：

extra_body={
    "top_k": 30,
    "repetition_penalty": 1.06
}

四大业务场景成套参数模板（直接复制使用）

模板1：结构化输出（JSON、大纲重排、数据提取，强约束）

需求：严格按指定字段输出，禁止多余文字、空行、自行拓展内容

response = client.chat.completions.create(
    model="DeepSeek-R1",
    messages=[...],
    max_tokens=4096,
    temperature=0.1,
    top_p=0.3,
    frequency_penalty=0.05,
    presence_penalty=0.0,
    stream=False,
    stop=None,
    extra_body={
        "top_k": 30,
        "repetition_penalty": 1.06
    }
)

模板2：代码生成/代码解释（DeepSeek-Coder专用）

需求：逻辑准确、代码完整，允许适度拓展注释

response = client.chat.completions.create(
    model="DeepSeek-Coder-V2",
    messages=[...],
    max_tokens=8192,
    temperature=0.6,
    top_p=0.75,
    frequency_penalty=0.05,
    presence_penalty=0.05,
    stream=True,
    extra_body={
        "top_k": 40,
        "repetition_penalty": 1.05
    }
)

模板3：通用问答、文档总结（平衡严谨与灵活）

需求：回答通顺完整，不跑偏，少量拓展说明不影响主体

response = client.chat.completions.create(
    model="DeepSeek-R1",
    messages=[...],
    max_tokens=4096,
    temperature=0.7,
    top_p=0.8,
    frequency_penalty=0.05,
    presence_penalty=0.1,
    stream=True,
    extra_body={
        "top_k": 40,
        "repetition_penalty": 1.05
    }
)

模板4：创意写作、故事文案（高发散）

需求：脑洞丰富，允许自由发挥，不限制拓展内容

response = client.chat.completions.create(
    model="DeepSeek-V2",
    messages=[...],
    max_tokens=8192,
    temperature=1.2,
    top_p=0.9,
    frequency_penalty=0.03,
    presence_penalty=0.2,
    stream=True,
    extra_body={
        "top_k": 50,
        "repetition_penalty": 1.02
    }
)

九、总结

私有化部署的 DeepSeek 全部兼容 OpenAI 标准接口，仅依靠 openai 库即可完成调用，无需额外适配工具；
参数分为标准外层参数与 extra_body 扩展参数，区分存放是避免参数报错的关键；
结构化、JSON、规范排版类业务统一使用低 temperature 参数，提升提示词遵循度；
流式输出必须增加分片判空逻辑，解决无返回、内容丢失问题；
一套调用代码，仅修改 base_url、api_key、model 名称，即可在 DeepSeek、Qwen3 等各类开源模型之间无缝切换。

到此这篇关于Python使用openai实现调用DeepSeek模型并调整参数的文章就介绍到这了,更多相关Python调用DeepSeek模型内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！

您可能感兴趣的文章:

python图形开发GUI库pyqt5的基本使用方法详解
这篇文章主要介绍了python图形开发GUI库pyqt5的基本使用方法详解,需要的朋友可以参考下
2020-02-02
python获取网页表格的多种方法汇总
我们在网页上看到很多的表格,如果要获取里面的数据或者转化成其他格式,就需要将表格获取下来并进行整理,在Python中,获取网页表格的方法有多种,下面就跟随小编一起学习一下吧
2025-04-04
Python RawString与open文件的newline换行符遇坑解决
这篇文章主要为大家介绍了Python RawString与open文件的newline换行符遇坑解决示例详解，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步，早日升职加薪
2022-10-10
Python多线程threading模块用法实例分析
这篇文章主要介绍了Python多线程threading模块用法,结合实例形式分析了Python多线程threading模块原理、功能、常见应用及相关操作注意事项,需要的朋友可以参考下
2019-05-05
PyQt实现异步数据库请求的实战记录
开发软件的时候不可避免要和数据库发生交互,但是有些 SQL 请求非常耗时,如果在主线程中发送请求,可能会造成界面卡顿,本文将介绍一种让数据库请求变得和前端的 ajax 请求一样简单,希望对大家有所帮助
2023-12-12
python statsmodel的使用
这篇文章主要介绍了python statsmodel使用的相关资料，帮助大家更好的理解和使用python，感兴趣的朋友可以了解下
2020-12-12
python中列表推导式与生成器表达式对比详解
python当然不是一门编译型语言,但是它还是要被解析成二进制的字节码才能被执行,执行它的正是python解释器,下面这篇文章主要给大家介绍了关于python中列表推导式与生成器表达式对比的相关资料,需要的朋友可以参考下
2023-01-01
如何通过命令行进入python
在本篇文章中小编给各位分享的是一篇关于命令行进入python的方法，有需要的朋友们学习一下。
2020-07-07
python IO多路复用之epoll详解
这篇文章主要为大家详细介绍了python IO多路复用之epoll，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下
2022-08-08
Python批量写入数据到PostgreSQL三种主流方案对比详解
本文对比了Python结合PostgreSQL三种主流方案（executemany()、COPY命令、pandas.to_sql()）在百万级和千万级数据写入场景下的性能,并提出了优化建议,包括预处理语句、多线程并行写入等,需要的朋友可以参考下
2026-01-01