如何增加AWS EC2实例的网络带宽？

Question

我们在AWS EC2中托管了一个c4.8xlarge类型的站点。它是一个相当大的系统，具有大量的内存和计算资源。上周末，数千名用户试图在2小时的时间内访问该系统。虽然它没有崩溃，但它的速度慢了不少，未能达到预期的性能水平。分析统计数据显示，网络带宽有限是导致速度减慢的主要原因。CPU使用率保持在6%以下，但NetworkIn和NetworkOut似乎在这段时间内分别达到了60MB和200MB的峰值。虽然我不是一个网络预期，但一些在线阅读似乎表明，通过一个网卡的所有流量可能是有限的网络带宽的主要原因。这是真的吗？在不同类型的EC2实例上托管站点是否有助于增加网络带宽？以下是networkIn和networkOut指标在高负载下的显示情况。

​

​

Answer 1

如果您受到带宽的限制，那么当您达到带宽限制时，该图形将变得平坦。此外，正如其他人指出的那样，只有1MB/s的速度和3MB/s的速度，我可以在t2.microto外部互联网上做更多的事情。

系统对每个请求做了什么？下面是我要看的一系列事情，按顺序排列：

• 线程:您的应用程序中是否存在只有一个线程可以访问资源的瓶颈？这将保持较低的CPU使用率，但结果与您看到的模式完全相同。应用程序或服务器中的
• 错误的并发模式。负载测试，并寻找它变得越来越慢，随着连接的增加，同时进行nothing.
• Individual中央处理器:是否有一个中央处理器负载到100%，而其他的大部分是空闲的？(对于30+内核，饱和的CPU只能提供3%的CPU使用率)。一个饱和的CPU +其他空闲的CPU通常意味着并发问题，可能是在连接处理中。
• 内存使用是什么样子的？你在使用交换吗？(如果是这样，这是一个非常糟糕的迹象，并将导致问题)。如果内存使用过多，通常是内存中的会话存储或过大的处理程序线程池有问题。
• 磁盘I/O或外部网络请求:您是在读取还是写入每个请求？vmstat将告诉您是否花费了很长时间等待I/O得到服务。如果是这样的话，我会在做任何事情之前查看日志。
  • c4.8xlarge实例仅使用EBS，如果存储是磁性的，并且您写入访问日志，则每秒将获得数百次写入。一般用途的concurrent

每GB基数可提供3个IO/s，但可能会激增至3000个，直到IO配额耗尽为止。

• 操作系统将尝试合并写入，但会有数千个SSD

​

这并不是不可能的，但如果您的请求非常小，您可能会在网络层遇到连接创建或每秒数据包数的瓶颈。

Answer 2

是的，亚马逊有一个弹性网卡网络接口的概念。虽然您可以为实例添加NIC，但它仍然是一个逻辑接口。网络管道的供应和可用性在很大程度上取决于(完全取决于)您选择的类型实例。Amazon有几种类型/系列的实例，如R、I、C、D、G-分别在内存、IO、计算、密集存储、GPU上进行了优化。你可以看看你能不能挤到max。他们中的一员。

不管你选择哪种类型作为实例类型，你基本上都会达到一个阈值，并且不能扩展到超过某个点。与内存/ CPU等其他可伸缩性因素相比，可伸缩性尤其独特。

修改您的体系结构，而不是拥有非常大的实例，而不是后面的几个中型或大型实例和ELB。

Answer 3

你的NetworkIn和Out实际上是大于50mb/s的。如果你的CPU和内存保持在合理的范围内，那么你的实例就很好。你还应该检查你的数据库的连接日志(假设你在你的系统上运行一个RDB )，速度变慢实际上可能是因为你的数据库响应太慢，导致web服务器响应更慢。

此外，您应该使用AWS负载均衡器运行您的系统，并在网络输入/输出上使用触发器进行设置和自动缩放。这样，就会启动一个辅助实例来帮助临时增加网络上的负载。如果根本原因确实是数据库上连接的增加，那么负载均衡器将不会帮助解决问题。相反，你想改进缓存设置，这样每个用户/网站连接的数据库负担就会更小。