python3爬取数据至mysql的方法

 更新时间:2018年06月26日 08:38:49   作者:lcjasas  
这篇文章主要为大家详细介绍了python3爬取数据至mysql的方法 ,具有一定的参考价值,感兴趣的小伙伴们可以参考一下

本文实例为大家分享了python3爬取数据至mysql的具体代码,供大家参考,具体内容如下

直接贴代码

#!/usr/local/bin/python3.5 
# -*- coding:UTF-8 -*- 
from urllib.request import urlopen 
from bs4 import BeautifulSoup 
import re 
import datetime 
import random 
import pymysql 
 
connect = pymysql.connect(host='192.168.10.142', unix_socket='/tmp/mysql.sock', user='root', passwd='1234', db='scraping', charset='utf8') 
cursor = connect.cursor() 
cursor.execute('USE scraping') 
 
random.seed(datetime.datetime.now()) 
 
 
def store(title, content): 
 
  execute = cursor.execute("select * from pages WHERE `title` = %s", title) 
  if execute <= 0: 
    cursor.execute("insert into pages(`title`, `content`) VALUES(%s, %s)", (title, content)) 
    cursor.connection.commit() 
  else: 
    print('This content is already exist.') 
 
 
def get_links(acticle_url): 
  html = urlopen('http://en.wikipedia.org' + acticle_url) 
  soup = BeautifulSoup(html, 'html.parser') 
  title = soup.h1.get_text() 
  content = soup.find('div', {'id': 'mw-content-text'}).find('p').get_text() 
  store(title, content) 
  return soup.find('div', {'id': 'bodyContent'}).findAll('a', href=re.compile("^(/wiki/)(.)*$")) 
 
links = get_links('') 
 
try: 
  while len(links) > 0: 
    newActicle = links[random.randint(0, len(links) - 1)].attrs['href'] 
    links = get_links(newActicle) 
    print(links) 
finally: 
  cursor.close() 
  connect.close() 

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持脚本之家。

相关文章

  • 修改默认的pip版本为对应python2.7的方法

    修改默认的pip版本为对应python2.7的方法

    今天小编就为大家分享一篇修改默认的pip版本为对应python2.7的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-11-11
  • 如何使用python批量修改文本文件编码格式

    如何使用python批量修改文本文件编码格式

    把文本文件的编码格式进行批量幻化,比如ascii, gb2312, utf8等,相互转化,字符集的大小来看,utf8>gb2312>ascii,因此最好把gb2312转为utf8,否则容易出现乱码,这篇文章主要介绍了如何使用python批量修改文本文件编码格式,需要的朋友可以参考下
    2023-03-03
  • Python中Matplotlib的简单使用

    Python中Matplotlib的简单使用

    这篇文章主要介绍了Python中Matplotlib的简单使用,Matplotlib是一个用于绘制数据可视化图形的Python库,支持绘制各种静态,动态,交互式的图表,它是数据科学和机器学习领域最流行的可视化库之一,需要的朋友可以参考下
    2023-07-07
  • Python如何基于selenium实现自动登录博客园

    Python如何基于selenium实现自动登录博客园

    这篇文章主要介绍了Python如何基于selenium实现自动登录博客园,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2019-12-12
  • Python接口自动化之cookie、session应用详解

    Python接口自动化之cookie、session应用详解

    本文主要介绍cookie、session原理及在自动化过程中如何利用cookie、session保持会话状态的应用,有需要的朋友可以参考下,希望可以有所帮助
    2021-08-08
  • python模块之StringIO使用示例

    python模块之StringIO使用示例

    这篇文章主要介绍了python模块之StringIO使用示例,本文直接给出示例代码,需要的朋友可以参考下
    2015-04-04
  • Python中关于函数的具体用法范例以及介绍

    Python中关于函数的具体用法范例以及介绍

    函数是组织好的,可重复使用的,用来实现单一,或相关联功能的代码段。函数能提高应用的模块性,和代码的重复利用率。你已经知道Python提供了许多内建函数,比如print()。但你也可以自己创建函数,这被叫做用户自定义函数
    2021-09-09
  • Tensorflow实现将标签变为one-hot形式

    Tensorflow实现将标签变为one-hot形式

    这篇文章主要介绍了Tensorflow实现将标签变为one-hot形式,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-05-05
  • Python实现动态添加类的属性或成员函数的解决方法

    Python实现动态添加类的属性或成员函数的解决方法

    这篇文章主要介绍了Python实现动态添加类的属性或成员函数的解决方法,在类似插件开发的时候会比较有用,需要的朋友可以参考下
    2014-07-07
  • python用什么编辑器进行项目开发

    python用什么编辑器进行项目开发

    在本篇文章里小编给大家整理的是一篇关于python开发用的编辑器详细介绍,有需要的朋友们可以参考下哎。
    2020-06-06

最新评论