脚本之家 服务器常用软件
快捷导航
您的位置：首页 → 脚本专栏 → python → Python使用asyncio

Python使用asyncio标准库对异步IO的支持

 更新时间：2023年11月04日 15:19:51   投稿：yin  
Python中,所有程序的执行都是单线程的,但可同时执行多个任务,不同的任务被时间循环（Event Loop）控制及调度,Asyncio是Python并发编程的一种实现方式；是Python 3.4版本引入的标准库,直接内置了对异步IO的支持

Python中,所有程序的执行都是单线程的,但可同时执行多个任务,不同的任务被时间循环（Event Loop）控制及调度,Asyncio是Python并发编程的一种实现方式；是Python 3.4版本引入的标准库,直接内置了对异步IO的支持。

异步IO

CPU的速度远远快于磁盘、网络等IO。在一个线程中，CPU执行代码的速度极快，然而，一旦遇到IO操作，如读写文件、发送网络数据时，就需要等待IO操作完成，才能继续进行下一步操作。这种情况称为同步IO。

在IO操作的过程中，当前线程被挂起，而其他需要CPU执行的代码就无法被当前线程执行了。

因为一个IO操作就阻塞了当前线程，导致其他代码无法执行，所以我们必须使用多线程或者多进程来并发执行代码，为多个用户服务。每个用户都会分配一个线程，如果遇到IO导致线程被挂起，其他用户的线程不受影响。

多线程和多进程的模型虽然解决了并发问题，但是系统不能无上限地增加线程。由于系统切换线程的开销也很大，所以，一旦线程数量过多，CPU的时间就花在线程切换上了，真正运行代码的时间就少了，结果导致性能严重下降。

由于我们要解决的问题是CPU高速执行能力和IO设备的龟速严重不匹配，多线程和多进程只是解决这一问题的一种方法。

另一种解决IO问题的方法是异步IO。当代码需要执行一个耗时的IO操作时，它只发出IO指令，并不等待IO结果，然后就去执行其他代码了。一段时间后，当IO返回结果时，再通知CPU进行处理。

asyncio

asyncio是Python 3.4版本引入的标准库，直接内置了对异步IO的支持。

asyncio的编程模型就是一个消息循环。我们从asyncio模块中直接获取一个EventLoop的引用，然后把需要执行的协程扔到EventLoop中执行，就实现了异步IO。

用asyncio实现Hello world代码如下：

import asyncio

@asyncio.coroutine
def hello():
    print("Hello world!")
    # 异步调用asyncio.sleep(1):
    r = yield from asyncio.sleep(1)
    print("Hello again!")

# 获取EventLoop:
loop = asyncio.get_event_loop()
# 执行coroutine
loop.run_until_complete(hello())
loop.close()

@asyncio.coroutine把一个generator标记为coroutine类型，然后，我们就把这个coroutine扔到EventLoop中执行。

hello()会首先打印出Hello world!，然后，yield from语法可以让我们方便地调用另一个generator。由于asyncio.sleep()也是一个coroutine，所以线程不会等待asyncio.sleep()，而是直接中断并执行下一个消息循环。当asyncio.sleep()返回时，线程就可以从yield from拿到返回值（此处是None），然后接着执行下一行语句。

把asyncio.sleep(1)看成是一个耗时1秒的IO操作，在此期间，主线程并未等待，而是去执行EventLoop中其他可以执行的coroutine了，因此可以实现并发执行。

我们用Task封装两个coroutine试试：

import threading
import asyncio

@asyncio.coroutine
def hello():
    print('Hello world! (%s)' % threading.currentThread())
    yield from asyncio.sleep(1)
    print('Hello again! (%s)' % threading.currentThread())

loop = asyncio.get_event_loop()
tasks = [hello(), hello()]
loop.run_until_complete(asyncio.wait(tasks))
loop.close()

观察执行过程：

Hello world! (<_MainThread(MainThread, started 140735195337472)>)
Hello world! (<_MainThread(MainThread, started 140735195337472)>)
(暂停约1秒)
Hello again! (<_MainThread(MainThread, started 140735195337472)>)
Hello again! (<_MainThread(MainThread, started 140735195337472)>)

由打印的当前线程名称可以看出，两个coroutine是由同一个线程并发执行的。

如果把asyncio.sleep()换成真正的IO操作，则多个coroutine就可以由一个线程并发执行。

我们用asyncio的异步网络连接来获取sina、sohu和163的网站首页：

import asyncio

@asyncio.coroutine
def wget(host):
    print('wget %s...' % host)
    connect = asyncio.open_connection(host, 80)
    reader, writer = yield from connect
    header = 'GET / HTTP/1.0\r\nHost: %s\r\n\r\n' % host
    writer.write(header.encode('utf-8'))
    yield from writer.drain()
    while True:
        line = yield from reader.readline()
        if line == b'\r\n':
            break
        print('%s header > %s' % (host, line.decode('utf-8').rstrip()))
    # Ignore the body, close the socket
    writer.close()

loop = asyncio.get_event_loop()
tasks = [wget(host) for host in ['www.sina.com.cn', 'www.sohu.com', 'www.163.com']]
loop.run_until_complete(asyncio.wait(tasks))
loop.close()

执行结果如下：

wget www.sohu.com...
wget www.sina.com.cn...
wget www.163.com...
(等待一段时间)
(打印出sohu的header)
www.sohu.com header > HTTP/1.1 200 OK
www.sohu.com header > Content-Type: text/html
...
(打印出sina的header)
www.sina.com.cn header > HTTP/1.1 200 OK
www.sina.com.cn header > Date: Wed, 20 May 2015 04:56:33 GMT
...
(打印出163的header)
www.163.com header > HTTP/1.0 302 Moved Temporarily
www.163.com header > Server: Cdn Cache Server V2.0
...

可见3个连接由一个线程通过coroutine并发完成。

小结

asyncio提供了完善的异步IO支持；异步操作需要在coroutine中通过yield from完成；多个coroutine可以封装成一组Task然后并发执行。

到此这篇关于Python使用asyncio标准库对异步IO的支持的文章就介绍到这了,更多相关Python使用asyncio内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！

您可能感兴趣的文章:

相关文章

  • python orm 框架中sqlalchemy用法实例详解

    python orm 框架中sqlalchemy用法实例详解

    这篇文章主要介绍了python orm 框架中sqlalchemy用法,结合实例形式详细分析了Python orm 框架基本概念、原理及sqlalchemy相关使用技巧,需要的朋友可以参考下
    2020-02-02
  • Python实例之wxpython中Frame使用方法

    Python实例之wxpython中Frame使用方法

    本文介绍下wxpython中Frame的用法，不错的python编程实例，有需要的朋友参考下
    2014-06-06
  • Python利用Selenium实现自动化分页处理和信息提取

    Python利用Selenium实现自动化分页处理和信息提取

    在 Web 自动化测试或数据抓取场景中,分页处理是一个常见的需求,通过 Selenium,我们可以实现对多页面内容的自动遍历,并从中提取所需的信息,本文将详细介绍如何利用 Selenium 进行自动化分页处理和信息提取,需要的朋友可以参考下
    2025-06-06
  • python使用多线程不断刷新网页的方法

    python使用多线程不断刷新网页的方法

    这篇文章主要介绍了python使用多线程不断刷新网页的方法,涉及Python多线程thread及time模块操作技巧,具有一定参考借鉴价值,需要的朋友可以参考下
    2015-03-03
  • python3+PyQt5 数据库编程--增删改实例

    python3+PyQt5 数据库编程--增删改实例

    今天小编就为大家分享一篇python3+PyQt5 数据库编程--增删改实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
    2019-06-06
  • python 使用pandas同时对多列进行赋值

    python 使用pandas同时对多列进行赋值

    这篇文章主要介绍了python 使用pandas同时对多列进行赋值操作，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
    2021-03-03
  • 解决Python报错No module named Crypto问题

    解决Python报错No module named Crypto问题

    这篇文章主要介绍了解决Python报错No module named“Crypto”问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
    2024-06-06
  • Pytest中Fixtures的高级用法

    Pytest中Fixtures的高级用法

    Fixtures 是 pytest 中一个非常强大的特性,它可以帮助我们提高测试的可维护性、可读性和可重复性,下面就来介绍一下,具有一定的参考价值,感兴趣的可以了解一下
    2025-05-05
  • 利用python绘制蜂群图的示例代码

    利用python绘制蜂群图的示例代码

    蜂群图可以不重叠的显示各数据点的分布,相对于散点图,所绘制的点彼此靠近且不会重叠,能有效呈现出点分布的局部密度信息,本文给大家介绍了如何利用python绘制蜂群图,文中有详细的代码示例供大家参考,需要的朋友可以参考下
    2024-03-03
  • PHP实现发送和接收JSON请求

    PHP实现发送和接收JSON请求

    本篇文章给大家分享了PHP实现发送和接收JSON请求的详细方法和实例代码，有兴趣的朋友可以参考学习下。
    2018-06-06

最新评论