news 2026/4/18 20:04:18

故障排查:Pytest Asyncio Event Loop Closed 错误

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
故障排查:Pytest Asyncio Event Loop Closed 错误

1. 问题描述

在运行RetrievalService的集成测试(使用pytest-asyncio)时,当连续运行多个异步测试用例时,遇到了以下错误:

RuntimeError: Task <Task pending ...> got Future <Future pending ...> attached to a different loop ... RuntimeError: Event loop is closed

症状

  • 第一个测试用例 (test_search_knowledge_base_flow) 成功通过。
  • 第二个测试用例 (test_search_knowledge_base_no_results) 在 setup 或执行阶段立即失败,抛出RuntimeError

出错的代码(原始版本)

这是在修复之前,导致错误的测试代码结构和db_sessionfixture:

# test/services/test_retrieval_service.py@pytest.fixtureasyncdefdb_session():""" Creates a new database session for testing. """# 错误发生点:直接调用 get_async_engine(),它返回的是一个被缓存的 Engine 实例# 这个 Engine 绑定到了创建它时的 Event Loop(即第一个测试的 Loop)engine=get_async_engine()async_session=async_sessionmaker(engine,expire_on_commit=False)asyncwithasync_session()assession:asyncwithengine.begin()asconn:awaitconn.run_sync(Base.metadata.create_all)yieldsessionawaitsession.rollback()# 测试函数 1:使用新创建的 Loop A,成功获取 Engine(绑定到 Loop A)@pytest.mark.asyncioasyncdeftest_search_knowledge_base_flow(db_session):# ... PASS ...# 测试函数 2:使用新创建的 Loop B# 这里的 db_session fixture 再次运行,但 get_async_engine() 返回的是# 绑定到已关闭的 Loop A 的旧 Engine。导致报错。@pytest.mark.asyncioasyncdeftest_search_knowledge_base_no_results(db_session):# ... FAIL with RuntimeError: Event loop is closed ...

2. 根本原因分析

2.1 冲突来源

该问题源于pytest-asyncio管理 Event Loop 的机制与我们应用程序创建 SQLAlchemy Engine 的方式之间存在冲突。

  1. Pytest-Asyncio 的行为:默认情况下(严格模式),pytest-asyncio会为每个测试函数创建一个新的asyncio Event Loop,以确保隔离性。
  2. 应用程序的行为:我们的src/configs/db.py使用了functools.lru_cache来缓存AsyncEngine实例:
    # src/configs/db.pyfromfunctoolsimportlru_cache@lru_cache()# <--- Engine 实例被缓存了defget_async_engine():""" Returns a cached async engine instance. The engine is created on the first call and reused on subsequent calls within the same event loop. """logger.info("Creating new async engine instance.")returncreate_async_engine(DATABASE_URL,pool_pre_ping=True,echo=False,)

2.2 事件序列

  1. 测试 1 开始
    • Pytest 创建Loop A
    • get_async_engine()被调用。它创建了Engine 1并将其绑定到Loop A
    • 测试 1 结束。Pytest 关闭Loop A
  2. 测试 2 开始
    • Pytest 创建Loop B
    • get_async_engine()再次被调用。
    • 由于有缓存(@lru_cache),它返回了Engine 1(这个 Engine 仍然绑定在已关闭的Loop A上)。
    • 当 SQLAlchemy 尝试使用Engine 1Loop B中连接数据库或执行查询时,失败了,因为 Engine 的内部组件(如asyncpg连接池)试图使用已关闭的 Loop A。

3. 解决方案

3.1 修复方法

我们需要确保为每个测试上下文创建一个新的 AsyncEngine,并绑定到当前由pytest-asyncio提供的 Event Loop。

我们在测试文件 (test/services/test_retrieval_service.py) 的db_sessionfixture 中修改了代码,在请求 Engine 之前显式清除缓存。

@pytest.fixtureasyncdefdb_session():""" Creates a new database session for testing. """# 修复:强制为当前 Event Loop 创建一个新的 Engineget_async_engine.cache_clear()engine=get_async_engine()# 现在返回的是绑定到当前 Loop 的新 Engine# ... fixture 的其余部分 ...

3.2 为什么有效

通过调用get_async_engine.cache_clear(),我们使缓存的AsyncEngine实例失效。随后的get_async_engine()调用会重新执行函数体,创建一个正确绑定到当前运行 Event Loop 的新AsyncEngine实例。

4. 替代方案(供参考)

  1. Scope 匹配:将event_loopfixture 的 scope 更改为session(所有测试共用一个 Loop)。这虽然降低了隔离性,但避免了多 Loop 问题。
  2. 依赖覆盖:如果使用依赖注入框架,可以覆盖get_async_engine依赖。
  3. 全局 Conftest:在conftest.py的 autouse fixture 中实现缓存清除,从而全局应用于所有测试。
版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/4/18 2:43:12

b站pc主页视频屏蔽插件(原版,bewcat版)

README 点击链接下载&#xff1a; https://img.reisentyan.cn/i/2025/12/30/10ito4d.zip 文件sha256校验码&#xff1a;a24918091dbf4b5dbe9a7be894ffd56500a3143b1e738f95f3d36f02e107a620这一款插件我想了很久了 b站视频推荐机制一直很恶心&#xff0c;推的都是什么几把玩意 …

作者头像 李华
网站建设 2026/4/17 18:22:28

在Miniconda中激活环境失败?彻底解决conda activate问题

在Miniconda中激活环境失败&#xff1f;彻底解决conda activate问题 在搭建AI实验环境时&#xff0c;你是否曾遇到过这样的场景&#xff1a;刚创建好一个名为 pytorch-env 的Conda环境&#xff0c;信心满满地输入 conda activate pytorch-env&#xff0c;结果终端却冷冷地回你一…

作者头像 李华
网站建设 2026/4/15 17:46:28

Miniconda-Python3.10环境下部署HuggingFace大模型教程

Miniconda-Python3.10环境下部署HuggingFace大模型实战指南 在AI项目开发中&#xff0c;你是否曾遇到过这样的场景&#xff1a;刚写好的模型推理脚本&#xff0c;在同事的机器上却因“版本不兼容”报错&#xff1f;或者下载一个预训练模型&#xff0c;光是环境配置就花掉半天时…

作者头像 李华
网站建设 2026/4/15 20:17:24

如何将本地Miniconda环境打包用于云端GPU训练

如何将本地Miniconda环境打包用于云端GPU训练 在深度学习项目开发中&#xff0c;你是否经历过这样的场景&#xff1a;本地调试一切正常&#xff0c;代码提交到云服务器后却因“找不到模块”或“CUDA不兼容”而失败&#xff1f;又或者团队成员反复询问“我该装哪个版本的PyTorch…

作者头像 李华
网站建设 2026/4/18 5:53:59

Miniconda-Python3.10结合Supervisor管理长期运行AI进程

Miniconda-Python3.10结合Supervisor管理长期运行AI进程 在高校实验室、初创公司或边缘计算设备上部署一个AI推理服务时&#xff0c;你是否遇到过这样的场景&#xff1a;模型刚跑起来没两天&#xff0c;就因为某个依赖包升级导致整个环境崩溃&#xff1b;又或者服务半夜因内存溢…

作者头像 李华
网站建设 2026/4/15 20:19:39

Miniconda-Python3.10结合Web框架部署大模型API服务

Miniconda-Python3.10 结合 Web 框架部署大模型 API 服务 在当今 AI 工程化浪潮中&#xff0c;将训练好的大模型从实验环境推向生产服务&#xff0c;早已不再是“跑通代码”那么简单。越来越多团队面临这样的困境&#xff1a;本地能运行的模型&#xff0c;在服务器上却因依赖冲…

作者头像 李华