负载测试-使用Lambda时，高并发性=高延迟？

Question

我创建了一个lamdba函数，它从DynamoDB获取一条记录。

现在，我正在尝试获得一些关于体系结构性能的数字(在以后的迭代中将启用DAX )。

对于测试，我使用的是载荷测试包。下面是我的两个测试的细节

试验1

AWS Lambda配置

• 超时:30秒
• 内存: 1024 MB
• 储备并发: 900

测试输入

• 最大请求:1000
• 并发: 100

测试结果

• 总要求:1 000
• 总时间秒:15.028303200999997
• meanLatencyMs:1385.2
• maxLatencyMs:6536
• minLatencyMs:197

试验2

AWS Lambda配置

• 超时:30秒
• 内存: 1024 MB
• 储备并发: 900

测试输入

• 最大请求: 1000
• 并发: 1000

测试结果

• 总要求:1 000
• 总时间秒:19.298303200999997
• meanLatencyMs:8648.2
• maxLatencyMs:18749
• minLatencyMs:832

问题

1. 当我将lambda函数的备用并发性配置为运行900个并行实例时，为什么当将并发级别从100更改为1000时，平均延迟会增加这么多？
2. 我是否遗漏了任何AWS配置，可以提高数字？

Answer 1

测试1的请求数量是并发执行的10倍，这有助于摊销任何冷启动的成本。另一方面，测试2的结果更糟糕，因为测试2完全是冷启动的。

现在，您的测试不一定是一个公平的比较(取决于您要测量的是什么)。您可以尝试重复Test 2，请求数为并发数的10倍，以查看是否仍然获得与Test 1相似的结果。

Answer 2

你有没有检查兰博达是不是被勒死了？<=1000 (您在负载测试中使用哪一种)具有默认的Lambda帐户并发性，对于API或lambda是否存在http错误？

AWS："AWS Lambda将使无保留并发池至少保持100次并发执行，这样没有设置特定限制的函数仍然可以处理请求。因此，在实践中，如果您的总帐户限制为1000，则仅限于为单个函数分配900。“

检查：https://itnext.io/the-everything-guide-to-lambda-throttling-reserved-concurrency-and-execution-limits-d64f144129e5