FastAPI不异步运行

Question

我可能没有正确理解FastAPI中的异步概念。

我同时从两个客户端访问以下应用程序的根端点。我希望FastAPI在执行开始时连续两次打印Started：

from fastapi import FastAPI
import asyncio

app = FastAPI()

@app.get("/")
async def read_root():
    print('Started')
    await asyncio.sleep(5)
    print('Finished')
    return {"Hello": "World"}

相反，我得到了以下内容，它看起来非常非异步：

Started
Finished
INFO: ('127.0.0.1', 49655) - "GET / HTTP/1.1" 200
Started
Finished
INFO: ('127.0.0.1', 49655) - "GET / HTTP/1.1" 200

我遗漏了什么？

Answer 1

如何确保同时存在多个请求？

您的代码很好--尝试使用以下命令进行测试：

for n in {1..5}; do curl http://localhost:8000/ & ; done

您的浏览器可能会将后续请求缓存到同一个URL。

Answer 2

从这个github问题展示的演示来看，这可能不是FastAPI的原因，而是运行请求的客户端。

Answer 3

我在Chrome浏览器上做了同样的实验，结果和最初报道的一样。来自两个独立的Chrome浏览器的请求被一个接一个地处理(好像是连续的)。

@app.get("/test")
async def test():
    r = {"message": "Hello by /test api"}
    r['timestamp'] = datetime.datetime.utcnow()
    await asyncio.sleep(10)
    return r

两个请求花了20秒(每个10秒)完成整个过程，这显然不是一个并发的方式！

但是，当我按照答案中的建议尝试使用curl时，它被并行地处理(!)

我在两个Firefox浏览器上做了最后一次实验，结果也是并行执行。

最后，我从FastAPI的日志中找到了线索。当我尝试使用两个Chrome浏览器时，请求的来源(ip:port)被记录为相同

INFO:     10.10.62.106:54668 - "GET /test HTTP/1.1" 200 OK
INFO:     10.10.62.106:54668 - "GET /test HTTP/1.1" 200 OK

但是，如果我尝试使用Firefox，源代码就不一样了。

INFO:     10.10.62.106:54746 - "GET /test HTTP/1.1" 200 OK
INFO:     10.10.62.106:54748 - "GET /test HTTP/1.1" 200 OK

从上面的日志中，我可以得出结论，只有当源地址不同时，FastAPI (或前面的uvicorn )才并行处理请求。

请有人对上述结论提出评论。谢谢。