Python 协程通过 async/await 语法实现协作式多任务,是处理 I/O 密集型并发的最佳实践,它能以更少的资源消耗达到与线程相近的吞吐量。
Python 协程与多线程对比:如何选择并发方案
协程和多线程是 Python 中实现并发的两大路径,但二者本质不同,协程在单线程内由事件循环调度,任务切换是显式的,几乎零开销;多线程则由操作系统抢占式调度,每个线程都持有独立的栈和寄存器状态,上下文切换成本在微秒级,数量一多就容易成为瓶颈。
适用场景的差异
- 协程:适合大量等待操作的场景,如网络请求、文件读写、数据库查询,这些操作在等待期间会主动让出 CPU,事件循环可以立即切换执行其他协程,业内专家指出,在 5000+ 并发连接下,协程的内存占用往往只有线程方案的 1/10。
- 多线程:适合需要利用多核 CPU 的 CPU 密集型运算,或遗留代码中不提供异步接口的阻塞型调用,Python 的 GIL 限制了线程对 CPU 密集型任务的并行度,但涉及外部系统调用时线程也可以释放 GIL。
性能与复杂度对比
| 维度 | 协程 | 多线程 |
|---|---|---|
| 调度方式 | 协作式,由 await 显式切换 | 抢占式,由操作系统切换 |
| 上下文切换开销 | 函数调用级别(纳秒级) | 系统调用级别(微秒级) |
| 最大并发数 | 轻松上千甚至上万 | 几十到几百后性能下降 |
| 内存占用 | 每个协程约 1-2KB | 每个线程约 1-2MB |
| 调试难度 | 调用栈清晰,可读性强 | 竞态条件、锁问题常见 |
| 适用框架 | FastAPI、aiohttp、uvicorn | Django(传统)、Flask |
行业共识认为,对于纯 I/O 密集型架构,协程是更优的选择;只有当任务混合大量计算且无法分解为异步操作时,才考虑通过多进程或线程池补充。
Python async await 异步编程实战
理解协程必须抓住三个核心:事件循环、协程函数、可等待对象。事件循环是调度中心,协程函数通过 async def 定义,内部用 await 挂起等待
,以下步骤覆盖最基本的开发流程。
定义并运行协程
- 导入 asyncio 库。
- 用
async def声明协程函数,内部用await调用另一个协程或可等待对象。 - 通过
asyncio.run()启动事件循环并执行入口协程。
import asyncio
async def say_hello():
await asyncio.sleep(1)
return "Hello, Coroutine"
async def main():
result = await say_hello()
print(result)
asyncio.run(main())
这段代码强制事件循环等待 1 秒,但在此间隔内可以执行其他协程。这就是协程高效利用 CPU 时间的本质。
并发执行多个任务
使用 Task 对象可以并发运行多个协程,任务会立即被调度,不会阻塞主流程。
- 用
asyncio.create_task()将协程包装为任务。 - 用
asyncio.gather()收集多个协程或任务,等待全部完成。
async def fetch_data(url):
# 模拟 IO 操作
await asyncio.sleep(1)
return f"Data from {url}"
async def main():
tasks = [fetch_data(f"https://api.example.com/{i}") for i in range(3)]
results = await asyncio.gather(tasks)
print(results)
asyncio.run(main())
gather 自动将协程封装为任务并并发执行,总耗时约等于最慢的那个操作。这种方式可以轻松将串行的网络请求提速 N 倍。
常见可等待对象
- 协程对象:直接 await 另一个协程。
- Task 对象:已调度的协程,await 它等待结果。
- Future 对象:底层异步结果的容器,通常由库提供。
- 上下文管理器:
async with用于资源管理,如异步文件、数据库连接。 - 迭代器:
async for用于遍历异步数据流。
实际项目中,绝大多数 await 操作由第三方库提供(aiohttp、aiomysql、aioredis 等)。尽量不要使用 time.sleep() 阻塞事件循环,必须使用 asyncio.sleep()。
Python 协程在爬虫与 Web 服务中的典型场景
协程在 I/O 密集业务中能发挥最大价值,爬虫和 Web 后端是最常见的两种应用。
协程爬虫如何提速
传统同步爬虫发送 HTTP 请求后会阻塞等待响应,而协程爬虫利用 aiohttp 在等待网络响应的间隙发起成百上千个请求。实测对比显示,10 个 URL 的爬取任务,同步版本耗时 10s+,协程版可以在 2s 内完成。
典型的步骤:
- 创建 aiohttp.ClientSession 作为请求上下文。
- 用
async with管理会话,避免手动关闭。 - 将每个请求的协程放入任务列表,通过
asyncio.gather并发执行。 - 解析响应结果并存储。
Web 服务中的协程框架
FastAPI、Sanic、Quart 等框架全部基于 asyncio,天然支持协程视图。接口函数用 async def 定义后,数据库查询、外部 API 调用都可用 await,单进程即可处理数千并发。
与 Flask 对比:
- Flask 默认同步,高并发时需额外配置 WSGI 服务器和工作进程。
- FastAPI 直接运行在 uvicorn 上,每个请求是一个协程任务,上下文切换无额外开销。
据 Python 官方技术文档,异步 Web 框架在 1000 并发连接下的延迟抖动远小于同步框架,错误率也更低。选择协程架构意味着用更少的硬件资源支撑更大的流量。
Python 协程常见的性能陷阱与优化技巧
即使有了协程语法,新手也容易写出阻塞事件循环的代码,以下陷阱值得关注。
在协程内部使用同步阻塞调用
在协程中使用 time.sleep()、requests.get() 或标准文件读写会直接阻塞整个事件循环,这些函数不会主动让出控制权,事件循环必须等它们返回才能处理其他任务。
- 解决方案:换成对应的异步版本(asyncio.sleep、aiohttp、aiofiles),或将阻塞操作放入线程池执行器。
# 错误示例
async def block_sleep():
time.sleep(1) # 阻塞所有协程
# 正确示例
async def async_sleep():
await asyncio.sleep(1)
协程函数内执行长时间 CPU 运算
协程适合等待型操作,不适合纯计算,如果协程内部进行大规模循环或加密哈希,事件循环同样被占用。
- 解决方案:将计算密集型部分委托给
loop.run_in_executor()分派到线程池或进程池执行,这样协程只需等待回调结果,不会阻塞调度。
忘记创建 Task 导致串行
直接 await coroutine() 会等待该协程完成,后续代码才执行;如果希望并发,必须用 asyncio.create_task() 或 gather。
小技巧:使用 asyncio.as_completed() 可以按完成顺序处理结果,适合进度不一的批量操作。
优化技巧:合理设置并发限流
并发请求太多可能耗尽文件句柄或被服务器封禁,用 asyncio.Semaphore 控制并发数:
sem = asyncio.Semaphore(50)
async def safe_fetch(url):
async with sem:
return await fetch_url(url)
Semaphore 内部是协程安全的,超出限制时自动 await 排队,这个模式在爬虫和 API 请求场景非常实用。
Python 协程常见问题解答
Q:协程和多线程相比,哪个更快?
没有绝对的“更快”,对于 I/O 操作为主的场景,协程无需线程上下文切换,总耗时更短;对于 CPU 密集计算,多线程受 GIL 限制,收益不大,多进程才是正确选择,简单判断:如果程序主要等待网络或磁盘,协程通常更快。
Q:如何在协程中处理第三方库不支持异步的情况?
可以使用 asyncio.to_thread()(Python 3.9+)将阻塞函数放到独立线程执行,从而不阻塞事件循环,或者使用 loop.run_in_executor() 配合 ThreadPoolExecutor,这种方式兼容性良好,但注意线程安全问题。
Q:Python 协程适合用在哪些商业项目中?
目前主流应用包括:高并发 Web API(FastAPI/Quart)、消息队列消费者(基于 aio-pika)、实时数据处理管道、大规模的网页爬虫,国内不少技术公司在将旧有 Django/Flask 项目逐步改造为协程架构,以应对日益增长的流量和节约服务器成本。
协程并非银弹,但它在 I/O 密集领域的效率提升已经被行业广泛验证。掌握 async/await 语法和事件循环调度逻辑,你就能用几行代码撬动远超同步方案的吞吐量。
首发原创文章,作者:世雄 - 原生数据库架构专家,如若转载,请注明出处:https://idctop.com/article/496877.html



