测试、预发布后用python检测网页是否有日常链接

 更新时间:2014年06月03日 09:02:32   作者:  
难免会碰到秀逗了把测试的链接发布到线上的情况,一般这种都是通过一些测试的检查工具来检查链接来规避风险的,下面为大家简述下大概的实现思路
在大的互联网公司干技术的基本都会碰到测试、预发布、线上这种多套环境的,来实现测试和线上正式环境的隔离,这种情况下,就难免会碰到秀逗了把测试的链接发布到线上的情况,一般这种都是通过一些测试的检查工具来检查链接来规避风险的。前两天跟了一个问题也是这个情况,开发疏忽把日常url发布到线上了。但是测试那边没有自动化的监控工具,导致没有及时发现,由于最近正好在看python,后来处理完回家就想用python做个简单的监控。

大略思路是:用python写一个脚本来分析网页里的所有url,看是否包含日常的链接,然后把脚本放到crontab里跑定时任务,10分钟跑一次检查。如果发现非法链接,就发告警邮件给相关人员。脚本代码100行左右,比较好理解,贴上代码。

本来想用beautifulsoup,不过考虑到安装三方库麻烦,所以还是用自带的sgmllib来,不需要关心库。发邮件函数没有实现,根据各自的smtp服务器实现以下即可。
复制代码 代码如下:

#!/usr/bin/env python
#coding:UTF-8

import urllib2
from sgmllib import SGMLParser
import smtplib
import time
#from email.mime.text import MIMEText
#from bs4 import BeautifulSoup
#import re

class UrlParser(SGMLParser):
urls = []
def do_a(self,attrs):
'''''parse tag a'''
for name,value in attrs:
if name=='href':
self.urls.append(value)
else:
continue

def do_link(self,attrs):
'''''parse tag link'''
for name,value in attrs:
if name=='href':
self.urls.append(value);
else:
continue

def checkUrl(checkurl, isDetail):
'''''检查checkurl对应的网页源码是否有非法url'''
parser = UrlParser()
page = urllib2.urlopen(checkurl)
content = page.read()
#content = unicode(content, "gb2312").encode("utf8")
parser.feed(content)
urls = parser.urls

dailyUrls = []
detailUrl = ""
for url in urls:
if 'daily' in url:
dailyUrls.append(url);
if not detailUrl and not isDetail and 'www.bc5u.com' in url:
detailUrl = url

page.close()
parser.close()

if isDetail:
return dailyUrls
else:
return dailyUrls,detailUrl

def sendMail():
'''''发送提醒邮件'''
pass

def log(content):
'''''记录执行日志'''
logFile = 'checkdailyurl.log'
f = open(logFile,'a')
f.write(str(time.strftime("%Y-%m-%d %X",time.localtime()))+content+'\n')
f.flush()
f.close()

def main():
'''''入口方法'''
#检查ju
url = "www.bc5u.com"

dailyUrls,detailUrl=checkUrl(url, False)
if dailyUrls:
#检查到daily链接,发送告警邮件
sendMail()
log('check: find daily url')
else:
#没检查到daily链接,不处理
log('check: not find daily url')

#检查judetail
dailyUrls=checkUrl(detailUrl, True)
if dailyUrls:
#检查到daily链接,发送告警邮件
log('check: find daily url')
sendMail()
else:
#没检查到daily链接,不处理
log('check: not find daily url')

if __name__ == '__main__':
main()

相关文章

  • YOLOv5车牌识别实战教程(七)实时监控与分析

    YOLOv5车牌识别实战教程(七)实时监控与分析

    这篇文章主要介绍了YOLOv5车牌识别实战教程(七)实时监控与分析,在这个教程中,我们将一步步教你如何使用YOLOv5进行车牌识别,帮助你快速掌握YOLOv5车牌识别技能,需要的朋友可以参考下
    2023-04-04
  • python plt如何保存为emf图像

    python plt如何保存为emf图像

    这篇文章主要介绍了python plt如何保存为emf图像问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
    2023-09-09
  • Python requests模块实例用法

    Python requests模块实例用法

    在本篇文章中小编给大家分享了关于Python requests模块实例用法,有需要的朋友们学习参考下。
    2019-02-02
  • Django利用Channels+websocket开发聊天室完整案例

    Django利用Channels+websocket开发聊天室完整案例

    Channels是Django团队研发的一个给Django提供websocket支持的框架,使用它我们可以轻松开发需要长链接的实时通讯应用,下面这篇文章主要给大家介绍了关于Django利用Channels+websocket开发聊天室的相关资料,需要的朋友可以参考下
    2023-06-06
  • python之停止打印日志/重复打印日志方式

    python之停止打印日志/重复打印日志方式

    这篇文章主要介绍了python停止打印日志/重复打印日志方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
    2023-09-09
  • Python标准库之数据库 sqlite3

    Python标准库之数据库 sqlite3

    这篇文章主要介绍了Python标准库的数据库 sqlite3的相关资料,SQLite是一个轻量级、跨平台的关系型数据库。它的核心引擎本身不依赖第三方的软件,使用它也不需要“安装”。下面文字将对其简单介绍,需要的小伙伴可以参考下面文章内容
    2021-09-09
  • Python实现CET查分的方法

    Python实现CET查分的方法

    这篇文章主要介绍了Python实现CET查分的方法,实例分析了Python操作链接查询的技巧,需要的朋友可以参考下
    2015-03-03
  • 在Python程序中操作MySQL的基本方法

    在Python程序中操作MySQL的基本方法

    这篇文章主要介绍了再Python程序中操作MySQL的基本方法,主要借助了MYSQLdb module,需要的朋友可以参考下
    2015-07-07
  • media配置及把用户头像从数据库展示到前端的操作方法

    media配置及把用户头像从数据库展示到前端的操作方法

    media配置可以让用户上传的所有文件都固定的存放在某一个指定的文件夹下,接下来通过本文给大家介绍下media配置及把用户头像从数据库展示到前端的操作,需要的朋友可以参考下
    2022-09-09
  • python实现烟花小程序

    python实现烟花小程序

    这篇文章主要为大家详细介绍了python实现烟花小程序,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2019-01-01

最新评论