面试问题:如何扩展或优化接收数百万请求的微服务？

Question

在一次采访中，我被问到一个问题:如何优化一个接收数百万请求的微服务？如何优化多次访问的服务响应的延迟/频率？

我的回答是:我将检查使响应变慢的DB查询，然后配置缓存。

有没有人可以告诉我除了这些之外，还有什么方法可以优化服务？如果有任何云端的东西？

Answer 1

这是一个庞大而复杂的问题，根据您环境的上下文和结构，可能会有许多不同的(并且非常长的)答案。

有很多模式和概念适合不同的场景和架构。

我建议你从这里开始：https://microservices.io/patterns/index.html

这个网站背后的人(Chris Richardson)长期以来一直在倡导微服务。你可以在Youtube上找到很多关于这个人的讨论。这是开始您的微服务世界之旅的一个很好的方式。

当然还有：https://martinfowler.com/articles/microservices.html

Answer 2

以下是我对这个问题的看法：

正如您所提到的，在数据访问层周围，

• 缓存是一个很好的优化点。我会检查是否有机会在不破坏应用程序一致性或其他硬要求的情况下添加缓存。
• 我会分析CPU和内存使用情况，并在密切监控延迟的同时逐步调整它们。
• 如果微服务是用基于JVM的语言构建的，那么GC是一个可能引入延迟的组件，因此如果延迟峰值与GC周期相关，那么我将在那里搜索优化。
• 确保应用程序有效地重用到外部服务的连接是另一个优化点，它可以被认为是