浅谈django的db性能调优

 更新时间:2026年02月04日 10:09:39   作者:哈里谢顿  
本文主要介绍了浅谈django的db性能调优,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧

1 环境准备

构建一个user_demo表

from django.db import models

class UserInfo(models.Model):
    # 1. 基础字段
    username = models.CharField(max_length=50, unique=True)
    # 给 email 一个默认空字符串,或者设为 null=True,防止迁移报错
    email = models.EmailField(default='') 

    # 2. 状态字段
    status = models.SmallIntegerField(default=1, help_text="0:Inactive, 1:Active, 2:Banned")
    role = models.CharField(max_length=10, default='member')

    # 3. 数值字段
    age = models.PositiveSmallIntegerField(null=True)
    balance = models.DecimalField(max_digits=19, decimal_places=4, default=0.0000)
    score = models.IntegerField(default=0)

    # 4. 时间字段
    # 使用 auto_now_add=True 让 Django 自动处理创建时间
    created_at = models.DateTimeField(auto_now_add=True) 
    last_login = models.DateTimeField(null=True, blank=True)

    # 5. 大文本/复杂字段
    bio = models.TextField(null=True, blank=True)
    
    # 6. JSON 字段
    extras = models.JSONField(default=dict, null=True, blank=True)

    class Meta:
        db_table = 'user_demo'

迁移

python manage.py makemigration
python manage.py migrate

2 创建调优

使用bulk_create创建1万条数据

import os
import sys
import random
import string
import django

# 1. 设置 Django 环境
BASE_DIR = os.path.dirname(os.path.dirname(os.path.abspath(__file__)))
sys.path.append(BASE_DIR)
os.environ.setdefault("DJANGO_SETTINGS_MODULE", "mysite.settings")
django.setup()

from main.models import UserInfo

def generate_random_string(length=10):
    """生成随机字符串"""
    letters = string.ascii_lowercase
    return ''.join(random.choice(letters) for i in range(length))

def create_demo_data(count=100):
    print(f"开始生成 {count} 条数据...")
    
    users = []
    # 预先定义好 choices,模拟真实数据分布
    ROLES = ['admin', 'editor', 'member', 'guest']
    
    for i in range(count):
        # 确保 username 唯一,这里简单加上索引 i
        username = f"user_{generate_random_string(5)}_{i}"
        
        user = UserInfo(
            username=username,
            email=f"{username}@example.com",
            status=random.choice([0, 1, 1, 1, 2]), # 1 的概率大一些
            role=random.choice(ROLES),
            age=random.randint(18, 80),
            balance=random.uniform(0, 100000),
            score=random.randint(0, 500000),
            bio=generate_random_string(500),
            extras={'preference': random.choice(['light', 'dark']), 'level': random.randint(1, 10)}
        )
        users.append(user)

    # bulk_create 一次性插入,性能更好
    UserInfo.objects.bulk_create(users)
    print(f"✅ 成功插入 {len(users)} 条数据到 UserInfo 表。")

if __name__ == "__main__":
    try:
        create_demo_data(1000000)
    except Exception as e:
        print(f"❌ 发生错误: {e}")

创建成功

mysql> select count(*) from user_demo;
+----------+
| count(*) |
+----------+
|    10000 |
+----------+
1 row in set (0.002 sec)

构建10万条失败,失败信息为:

开始生成 1000000 条数据...
❌ 发生错误: (2013, 'Lost connection to MySQL server during query')

采取分批插入的方式来解决问题

import os
import sys
import random
import string
import django

# 1. 设置 Django 环境
BASE_DIR = os.path.dirname(os.path.dirname(os.path.abspath(__file__)))
sys.path.append(BASE_DIR)
os.environ.setdefault("DJANGO_SETTINGS_MODULE", "mysite.settings")
django.setup()

from main.models import UserInfo

def generate_random_string(length=10):
    """生成随机字符串"""
    letters = string.ascii_lowercase
    return ''.join(random.choice(letters) for i in range(length))

def create_demo_data(count=100):
    print(f"开始生成 {count} 条数据...")
    
    users = []
    BATCH_SIZE = 5000  # 每次插入 5000 条
    # 预先定义好 choices,模拟真实数据分布
    ROLES = ['admin', 'editor', 'member', 'guest']
    batch_data = []
    for i in range(count):
        # 确保 username 唯一,这里简单加上索引 i
        username = f"user_{generate_random_string(5)}_{i}"
        
        user = UserInfo(
            username=username,
            email=f"{username}@example.com",
            status=random.choice([0, 1, 1, 1, 2]), # 1 的概率大一些
            role=random.choice(ROLES),
            age=random.randint(18, 80),
            balance=random.uniform(0, 100000),
            score=random.randint(0, 500000),
            bio=generate_random_string(500),
            extras={'preference': random.choice(['light', 'dark']), 'level': random.randint(1, 10)}
        )

        batch_data.append(user)
        # 当积攒够了 BATCH_SIZE,就插入一次
        if len(batch_data) >= BATCH_SIZE:
            UserInfo.objects.bulk_create(batch_data, batch_size=BATCH_SIZE)
            print(f"已插入 {i + 1} 条...")
            batch_data = [] # 清空列表

    # 插入剩余的数据(如果有的话)
    if batch_data:
        UserInfo.objects.bulk_create(batch_data)
        print(f"已插入剩余 {len(batch_data)} 条...")
    print(f"✅ 成功插入 {len(users)} 条数据到 UserInfo 表。")

if __name__ == "__main__":
    try:
        create_demo_data(1000000)
    except Exception as e:
        print(f"❌ 发生错误: {e}")

3 查找优化

这种查找,性能非常操作,因为本质上是在做:SELECT * FROM table ...

from main.models import UserInfo

users = UserInfo.objects.all()
users_usernames = [user.username for user in users]

改成

from main.models import UserInfo

users_usernames = list(UserInfo.objects.values_list('username', flat=True))

到此这篇关于浅谈django的db性能调优的文章就介绍到这了,更多相关django db性能调优内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • python学习之SpaCy库的高级特性详解

    python学习之SpaCy库的高级特性详解

    在之前的文章中,我们介绍了SpaCy库的一些基本概念和功能,在这篇文章中,我们将深入学习一些更高级的特性,包括词向量、依赖性解析、和自定义组件
    2023-07-07
  • Python中 CSV格式清洗与转换的实例代码

    Python中 CSV格式清洗与转换的实例代码

    这篇文章主要介绍了Python123 CSV格式清洗与转换的实例代码,非常不错,具有一定的参考借鉴价值,需要的朋友可以参考下
    2019-08-08
  • 使用numpy和PIL进行简单的图像处理方法

    使用numpy和PIL进行简单的图像处理方法

    今天小编就为大家分享一篇使用numpy和PIL进行简单的图像处理方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-07-07
  • Python解压zip文件名乱码问题的具体分析和解决方案

    Python解压zip文件名乱码问题的具体分析和解决方案

    使用Python处理含有中文文件名的压缩文件时,这些中文文件名会出现乱码,今天我们就来看一下如何来解决这个乱码的问题,以下是具体分析和解决方案,需要的朋友可以参考下
    2025-09-09
  • python读写csv文件实例代码

    python读写csv文件实例代码

    在本篇文章中小编给各位分享了关于python读取和写入csv文件的知识点以及实例代码,需要的朋友们参考下。
    2019-07-07
  • Python 弹窗设计小人发射爱心

    Python 弹窗设计小人发射爱心

    今天小编就为大家分享一篇使用Python画出小人发射爱心的代码,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2021-09-09
  • Python中使用gzip模块压缩文件的简单教程

    Python中使用gzip模块压缩文件的简单教程

    这篇文章主要介绍了Python中使用gzip模块压缩文件的简单教程,本文的例子主要针对类UNIXZ系统,需要的朋友可以参考下
    2015-04-04
  • python模块详解之pywin32使用文档(python操作windowsAPI)

    python模块详解之pywin32使用文档(python操作windowsAPI)

    pywin32是一个第三方模块库,主要的作用是方便python开发者快速调用windows API的一个模块库,这篇文章主要给大家介绍了关于python模块详解之pywin32使用文档的相关资料,文中将python操作windowsAPI介绍的非常详细,需要的朋友可以参考下
    2024-01-01
  • python+tkinter可视化GUI方式

    python+tkinter可视化GUI方式

    文章介绍了使用Python的tkinter库创建GUI窗口的过程,包括窗口和标签的定义、Entry和Text控件的基本属性和使用方法、网格布局的应用、按钮绑定事件和弹窗的使用、Combox下拉框的添加、控件属性值的获取和更改,以及tkinter自带的剪切板操作
    2026-04-04
  • 在Pycharm中将pyinstaller加入External Tools的方法

    在Pycharm中将pyinstaller加入External Tools的方法

    今天小编就为大家分享一篇在Pycharm中将pyinstaller加入External Tools的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-01-01

最新评论