如何在 Jupyter 笔记本中运行 Python asyncio 代码?

Posted

技术标签:

【中文标题】如何在 Jupyter 笔记本中运行 Python asyncio 代码?【英文标题】:How do I run Python asyncio code in a Jupyter notebook? 【发布时间】:2017-11-27 19:58:57 【问题描述】:

我有一些在 Python 解释器 (CPython 3.6.2) 中运行良好的异步代码。我现在想在带有 IPython 内核的 Jupyter notebook 中运行它。

我可以运行它

import asyncio
asyncio.get_event_loop().run_forever()

虽然这似乎可行,但它似乎也阻止了笔记本,并且似乎与笔记本不兼容。

我的理解是 Jupyter 在后台使用 Tornado,所以我尝试install a Tornado event loop as recommended in the Tornado docs:

from tornado.platform.asyncio import AsyncIOMainLoop
AsyncIOMainLoop().install()

但是,这会产生以下错误:

---------------------------------------------------------------------------
AssertionError                            Traceback (most recent call last)
<ipython-input-1-1139449343fc> in <module>()
      1 from tornado.platform.asyncio import AsyncIOMainLoop
----> 2 AsyncIOMainLoop().install()

~\AppData\Local\Continuum\Anaconda3\envs\numismatic\lib\site- packages\tornado\ioloop.py in install(self)
    179         `IOLoop` (e.g.,     :class:`tornado.httpclient.AsyncHTTPClient`).
    180         """
--> 181         assert not IOLoop.initialized()
    182         IOLoop._instance = self
    183 

AssertionError: 

终于找到了以下页面:http://ipywidgets.readthedocs.io/en/stable/examples/Widget%20Asynchronous.html

所以我添加了一个包含以下代码的单元格:

import asyncio
from ipykernel.eventloops import register_integration

@register_integration('asyncio')
def loop_asyncio(kernel):
    '''Start a kernel with asyncio event loop support.'''
    loop = asyncio.get_event_loop()

    def kernel_handler():
        loop.call_soon(kernel.do_one_iteration)
        loop.call_later(kernel._poll_interval, kernel_handler)

    loop.call_soon(kernel_handler)
    try:
        if not loop.is_running():
            loop.run_forever()
    finally:
        loop.run_until_complete(loop.shutdown_asyncgens())
        loop.close()

在下一个单元格中我跑了:

%gui asyncio

这行得通,但我真的不明白它为什么以及如何工作。有人可以向我解释一下吗?

【问题讨论】:

【参考方案1】:

2019 年 2 月 21 日编辑:问题已修复

这不再是最新版本的 Jupyter Notebook 的问题。 Jupyter Notebook的作者详细介绍了这个案例here。

下面的答案是操作标记为正确的原始响应。


这是很久以前发布的,但如果其他人正在寻找在 Jupyter Notebook 中运行异步代码的问题的解释和解决方案;

Jupyter 的 Tornado 5.0 更新在添加了自己的 asyncio 事件循环后将 asyncio 功能变砖:

因此,对于在 Jupyter Notebook 上运行的任何 asyncio 功能,您不能调用 loop.run_until_complete(...),因为您将从 asyncio.get_event_loop() 收到的循环将处于活动状态。

相反,您必须将任务添加到当前事件循环中:

import asyncio
loop = asyncio.get_event_loop()
loop.create_task(some_async_function())

或者通过run_coroutine_threadsafe获取结果:

import asyncio
loop = asyncio.get_event_loop()
asyncio.run_coroutine_threadsafe(some_async_function(), loop)

【讨论】:

这种行为有文档吗? 真的很有帮助,谢谢。 + 上面有什么需要关闭的还是完整的? @QHarr 如果关闭循环,那么 Jupyter 将停止工作。 再次感谢您提供非常好的答案。 @GiorgioBalestrieri 更新帖子。【参考方案2】:

在最新的 jupyter 版本中,这不再是问题!

https://blog.jupyter.org/ipython-7-0-async-repl-a35ce050f7f7

只需编写一个异步函数,然后直接在 jupyter 单元中等待它。

async def fn():
  print('hello')
  await asyncio.sleep(1)
  print('world')

await fn()

【讨论】:

感谢您提供应用命令,我在使用旧的解决方法时有点卡住了 :)【参考方案3】:

我在 Jupyter 中使用 Asyncio 的瞬间是这样的:

import time,asyncio

async def count():
    print("count one")
    await asyncio.sleep(1)
    print("count four")

async def count_further():
    print("count two")
    await asyncio.sleep(1)
    print("count five")

async def count_even_further():
    print("count three")
    await asyncio.sleep(1)
    print("count six")

async def main():
    await asyncio.gather(count(), count_further(), count_even_further())

s = time.perf_counter()
await main()
elapsed = time.perf_counter() - s
print(f"Script executed in elapsed:0.2f seconds.")

输出:

count one
count two
count three
count four
count five
count six
Script executed in 1.00 seconds.

最初来自这里,但起初我并不清楚这个例子: https://realpython.com/async-io-python/

【讨论】:

【参考方案4】:

我最近遇到了无法在 Jupyter 笔记本中运行异步代码的问题。这个问题在这里讨论:https://github.com/jupyter/notebook/issues/3397

我尝试了讨论中的一种解决方案,到目前为止它解决了这个问题。

pip3 install tornado==4.5.3

这取代了默认安装的 tornado 版本 5.x。

Jupyter 笔记本中的异步代码随后按预期运行。

【讨论】:

你能用异步代码重新运行 jupyter 单元吗? 是的。到目前为止,一切都按预期工作。我不得不注释掉一些loop.close() 那么,只有删除 loop.close 才能保证可重新运行? 我没有资格说它是否保证可重复运行。它在我工作的特定环境中发挥了我预期的作用。降级到 tornado 4.5.3 后,RuntimeErrors 消失了。

以上是关于如何在 Jupyter 笔记本中运行 Python asyncio 代码?的主要内容,如果未能解决你的问题,请参考以下文章

如何使用Jupyter单元调用python命令行程序

如何在Google Colaboratory上的Jupyter笔记本中安装svmutil?

python 在适当的地方运行jupyter笔记本

Jupyter notebook 中 Python 子进程的实时标准输出输出

没有运行python 3的Jupyter笔记本

如何在从 docker 容器运行的 jupyter 笔记本中获取黑色代码格式?