python通用日志使用小结

 更新时间:2023年11月14日 10:59:39   作者:面向未来的历史  
日志则是程序中非常重要的一部分,它可以记录程序运行中的异常、警告等信息,方便开发人员调试程序,本文就来介绍一下python通用日志使用小结,感兴趣的可以了解一下

环境: python 3.10.x

背景

最近在进行数据处理方面的事。 对爬虫,数据处理任务加日志, 便于知晓任务是否正确执行以及发生的错误。

日志模块

spider_log.py

import logging
from logging.handlers import TimedRotatingFileHandler
import os
cwd =  os.path.dirname(os.path.abspath(__file__))
log_path = os.path.join(cwd, "logs")
if not os.path.exists(log_path):
    os.mkdir(log_path)

logger = logging.getLogger()
logger.setLevel(logging.INFO)
ch = logging.StreamHandler()
#fh = logging.handlers.RotatingFileHandler(log_path, encoding='utf-8', mode="a", maxBytes =30*1024*1024, backupCount =10)
fh = TimedRotatingFileHandler(filename= os.path.join(log_path, "spider.log"), when='midnight', backupCount=30)
fh.suffix = "%Y-%m-%d.log"
fh.encoding = "utf-8"

formatter = logging.Formatter(
    "%(asctime)s - %(module)s - %(funcName)s - line:%(lineno)d - %(levelname)s - %(message)s"
)

ch.setFormatter(formatter)
fh.setFormatter(formatter)
logger.addHandler(ch) #将日志输出至屏幕
logger.addHandler(fh) #将日志输出至文件

此处, 设置日志按照时间滚动保存, 每天一个日志文件。最多保留30天日志文件。

日志使用

1、import 日志模块
2、添加日志记录

test.py

from  spider_log import logger
import logging
import json

logger.log(msg=json.dumps({"Task":"product-spider","url":"https://example.com"}), level=logging.INFO)
logger.log(msg="Exception:  timeout 10s" , level=logging.ERROR)

说明:
有关日志的更多使用方法, 请查阅 python logging 的使用文档。此处只是个人笔记记录。

到此这篇关于python通用日志使用小结的文章就介绍到这了,更多相关python通用日志内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • PyTorch实现ResNet50、ResNet101和ResNet152示例

    PyTorch实现ResNet50、ResNet101和ResNet152示例

    今天小编就为大家分享一篇PyTorch实现ResNet50、ResNet101和ResNet152示例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-01-01
  • 新年福利来一波之Python轻松集齐五福(demo)

    新年福利来一波之Python轻松集齐五福(demo)

    这篇文章主要介绍了新年福利来一波之Python轻松集齐五福的小demo,本文通过实例代码给大家介绍的非常详细,具有一定的参考借鉴价值,需要的朋友可以参考下
    2020-01-01
  • django写单元测试的方法

    django写单元测试的方法

    这篇文章主要介绍了django写单元测试的方法,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2021-04-04
  • 关于Python的Thread线程模块详解

    关于Python的Thread线程模块详解

    这篇文章主要介绍了关于Python的Thread线程模块详解,进程是程序的一次执行,每个进程都有自己的地址空间、内存、数据栈以及其他记录其运行的辅助数据,需要的朋友可以参考下
    2023-05-05
  • python 获取list 长度

    python 获取list 长度

    这篇文章主要介绍了python 获取list 长度 ,下面文章我们将研究获取长度列表的不同方法,使用内置的len()函数,len是默认情况下python提供的内置函数,下面进入文章了解更多的详细内容吧
    2022-02-02
  • OpenCV 图像绘制的实现

    OpenCV 图像绘制的实现

    本文主要介绍了OpenCV 图像绘制的实现,主要包括直线,圆,多边形和自定义图形等,具有一定的参考价值,感兴趣的可以了解一下
    2021-07-07
  • Python PaddleNLP实现自动生成虎年藏头诗

    Python PaddleNLP实现自动生成虎年藏头诗

    这篇文章主要介绍了利用Python PaddleNLP实现自动生成虎年藏头诗功能,文中的示例代码讲解详细,感兴趣的同学可以跟随小编一起试一试
    2022-01-01
  • Python何时应该使用Lambda函数

    Python何时应该使用Lambda函数

    这篇文章主要介绍了Python何时应该使用Lambda函数,Python 中定义函数有两种方法,一种是用常规方式 def 定义,函数要指定名字,第二种是用 lambda 定义,不需要指定名字,称为 Lambda 函数,需要的朋友可以参考下
    2019-07-07
  • PyMongo安装使用笔记

    PyMongo安装使用笔记

    这篇文章主要介绍了PyMongo安装使用笔记,本文讲解使用pip方式安装PyMongo,并给出一个pymongo的简单使用代码实例,需要的朋友可以参考下
    2015-04-04
  • 完美解决python遍历删除字典里值为空的元素报错问题

    完美解决python遍历删除字典里值为空的元素报错问题

    下面小编就为大家带来一篇完美解决python遍历删除字典里值为空的元素报错问题。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2016-09-09

最新评论