python协程异步IO中asyncio的使用

 更新时间:2023年12月30日 10:53:16   作者:金色旭光  
这篇文章主要介绍了python异步编程之asyncio的使用,python中异步IO操作是通过asyncio来实现的,为了更加详细说明asyncio,我们先从协程的最基础开始讲解

async await介绍

用asyncio提供的@asyncio.coroutine可以把一个生成器标记为协程类型,然后在协程内部用yield from 等待IO操作,让出cpu执行权。
然而异步的关键字yield 和 yield from毕竟是复用生成器关键字,两者在概念上纠缠不清,所以从Python 3.5开始引入了新的语法async和await替换yield 和 yield from,让协程的代码更易懂。
简单来说,可以这样理解:

  • async 替换 @asyncio.coroutine:标识一个函数为异步函数
  • await 替换 yield from:标识等待IO操作,让出CPU执行权

async实现协程示例 

由于协程在各个python版本中有细微差异,本篇以python3.10为例

import asyncio
async def coro1():
    print("start coro1")
    await asyncio.sleep(2)
    print("end coro1")
async def coro2():
    print("start coro2")
    await asyncio.sleep(1)
    print("end coro2")
# 创建事件循环
loop = asyncio.get_event_loop()
# 创建任务
task1 = loop.create_task(coro1())
task2 = loop.create_task(coro2())
# 运行协程
loop.run_until_complete(asyncio.gather(task1, task2))
# 关闭事件循环
loop.close()

输出结果:

start coro1
start coro2
end coro2
end coro1

代码逻辑:

  • 创建一个事件循环
  • 将两个异步函数coro1,coro2封装成两个任务task1,task2
  • 用asyncio.gather将两个任务组合到一起,并发执行task1,task2
  • 先执行task1,遇到IO切换到task2
  • 执行task2,遇到IO切换,但此时没有等待执行的任务,cpu为空
  • task2执行完成,task1执行完成

从示例代码可以看出,协程的几个关键要素:

  • 事件循环
  • 协程函数定义
  • 可等待对象
  • 并发执行

协程基本原理

组成协程最重要的因素就是事件循环和任务。

  • 任务就是一个对象,包括执行的代码,执行完成、失败等状态以及返回结果,任务中通常会有IO切换。
  • 事件循环,可以把它当做是一个while循环。while循环在周期性的运行并执行一些任务,所有任务执行完成会关闭循环。

伪代码示例如下:

任务列表 = [ 任务1, 任务2, 任务3,... ]

while True:
    可执行的任务列表,已完成的任务列表 = 去任务列表中检查所有的任务,将'可执行'和'已完成'的任务返回
    for 就绪任务 in 已准备就绪的任务列表:
        执行已就绪的任务
    for 已完成的任务 in 已完成的任务列表:
        在任务列表中移除 已完成的任务

    如果 任务列表 中的任务都已完成,则终止循环

获取和创建事件循环:loop = asyncio.get_event_loop()

驱动事件循环运行:loop.run_until_complete(asyncio.gather(task1, task2))

事件循环过程:

事件循环中执行任务,当执行到某一个任务时遇到IO时,协程会让出CPU给第二个任务执行,第二个任务中遇到IO再次让出CPU,直到所有任务完成。这就是协程并发性能好的一个关键能力:遇到IO切换任务执行避免了程序等待IO完成再执行的耗时。

示例代码的高级api实现

示例代码中使用了asyncio.get_event_loop()和 loop.run_until_complete()等代码,这些其实asyncio包的低级API,是为了展示底层原理而使用的。通常更推荐高级APIasyncio.run()实现协程并发。

import asyncio
async def coro1():
    print("start coro1")
    await asyncio.sleep(2)
    print("end coro1")
async def coro2():
    print("start coro2")
    await asyncio.sleep(1)
    print("end coro2")
async def main():
    task1 = asyncio.create_task(coro1())
    task2 = asyncio.create_task(coro2())
    await asyncio.gather(task1, task2)
asyncio.run(main())

run() 从功能上等价于以下低阶API

loop = asyncio.get_event_loop()
task = loop.create_task(coro())
loop.run_until_complete(task)

为什么协程在IO密集时性能较好

很多人可能会疑问,多线程遇到IO也会切换,为什么协程比线程性能好呢?

简单来是三点:

  • 协程更轻量级,切换需要恢复的上下文很少,所以比线程更快速
  • 线程切换CPU是抢占的,协程是主动让出的,协程对CPU的使用更充分
  • 协程更轻量级,启动线程需要的内存资源比协程更多

以上就是python协程异步IO中asyncio的使用的详细内容,更多关于python asyncio的资料请关注脚本之家其它相关文章!

相关文章

  • Python实现TCP协议下的端口映射功能的脚本程序示例

    Python实现TCP协议下的端口映射功能的脚本程序示例

    端口映射一个最基本的运作形态就是通过一个中间端口将一个端口发送的数据全部转给另一个端口,well,这里我们就来看一下Python实现TCP协议下的端口映射功能的脚本程序示例
    2016-06-06
  • Python实现定时文件备份到指定文件夹

    Python实现定时文件备份到指定文件夹

    随着数据的不断增长,文件备份变得越来越重要,本文将介绍如何使用Python编写一个定时备份文件的脚本,并将文件备份到指定的文件夹中,希望对大家有所帮助
    2024-11-11
  • Python如何使用Scapy实现端口探测

    Python如何使用Scapy实现端口探测

    Scapy 是一款使用纯Python编写的跨平台网络数据包操控工具,它能够处理和嗅探各种网络数据包,本文主要介绍了Python如何使用使用Scapy实现端口探测,有需要的可以参考下
    2023-10-10
  • Python操作mysql数据库实现增删查改功能的方法

    Python操作mysql数据库实现增删查改功能的方法

    这篇文章主要介绍了Python操作mysql数据库实现增删查改功能的方法,涉及Python针对mysql数据库的连接、增删改查等相关操作技巧,需要的朋友可以参考下
    2018-01-01
  • 使用python提取PowerPoint幻灯片中表格并保存到文本及Excel文件

    使用python提取PowerPoint幻灯片中表格并保存到文本及Excel文件

    owerPoint作为广泛使用的演示工具,常被用于展示各类数据报告和分析结果,其中,表格以其直观性和结构性成为阐述数据关系的不二之选,本文将介绍如何使用Python来提取PowerPoint幻灯片中的表格,并将表格数据写入文本文件以及Excel文件,需要的朋友可以参考下
    2024-06-06
  • 使用pytorch提取卷积神经网络的特征图可视化

    使用pytorch提取卷积神经网络的特征图可视化

    这篇文章主要给大家介绍了关于使用pytorch提取卷积神经网络的特征图可视化的相关资料,文中给出了详细的思路以及示例代码,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2022-03-03
  • Python面经之16个高频面试问题总结

    Python面经之16个高频面试问题总结

    这篇文章主要给大家介绍了关于Python面经之16个高频面试问题的相关资料,帮助大家回顾基础知识,了解面试套路,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2022-03-03
  • python中常用的数据结构介绍

    python中常用的数据结构介绍

    这篇文章主要介绍了python中常用的数据结构介绍,帮助大家更好的理解和学习python的基础知识,感兴趣的朋友可以了解下
    2021-01-01
  • Python使用MySQL8.2读写分离实现示例详解

    Python使用MySQL8.2读写分离实现示例详解

    在这篇文章中,我们将了解如何将 MySQL 8.2 的读写分离功能与 MySQL-Connector/Python 一起使用的方法示例详解,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪
    2023-11-11
  • 浅谈Python基础—判断和循环

    浅谈Python基础—判断和循环

    这篇文章主要介绍了Python基础—判断和循环,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-03-03

最新评论