云运行，理想的vCPU和每个实例的内存量？

Question

在设置云运行时，我担心每个服务器实例每次设置多少内存和vCPU。

我将云运行用于移动应用程序。

我很困惑什么时候应该增加vCPU和内存而不是增加服务器实例，以及什么时候应该增加服务器实例而不是vCPU和内存。

我该怎么算呢？

Answer 1

这个问题没有很好的答案。你必须知道限度：

• 可以与4cpu或/和32 up内存并发处理的最大并发请求数(最多1000个并发请求)
• 云运行时实例上的最大值(1000)

然后，这是一个权衡的问题，它高度依赖于您的用例。

• 更大的实例减少了冷启动的次数(以及当服务扩展时延迟太大)。但是，如果一次只有一个请求，您将为一个小的处理支付一个大实例。
• 较小的实例允许您优化成本，并且只在集群中添加一小部分资源，但是您将不得不经常生成一个新实例，并且您将有几个冷启动来忍受。

优化你喜欢的东西，找到合适的平衡。没有魔法公式！！

Answer 2

您可以使用k6.io在当前设置中模拟大量请求，检查容器的内存和cpu百分比，并将它们调整到较低或更高的设置，以确定是否可以从单个容器中获得更多的RPS。

一旦您对单个容器实例满意--假设每个容器实例有100个rps --那么您就可以使用gcloud指定标志--min-instances和--max-instances，当然这取决于--concurrency标志，在我的解释中，该标志将设置为100。

还请注意，它从默认的80开始，可以上升到1000。

有关此问题的更多信息可在以下链接上阅读：https://cloud.google.com/run/docs/about-concurrency https://cloud.google.com/sdk/gcloud/reference/run/deploy

我还建议您研究是否需要传递--cpu-throttling标志或--no-cpu-throttling，这取决于您是否需要调整以适应冷启动。