Java 8并发哈希映射获得性能/替代

Question

我有一个高吞吐量、低延迟的应用程序(3000请求/Sec，每个请求100 we )，我们大量使用Java8 ConcurrentHashMap执行查找。通常，这些映射由单个后台线程和从这些映射读取的多个线程更新。

我看到了性能瓶颈，在分析中，我发现ConcurrentHashMap.get是热点，占用了大部分时间。

另一种情况是，我认为ConcurrentHashMap.computeIfAbsent是热点，尽管映射函数的延迟非常小，配置文件显示computeIfAbsent花费了90%的时间执行自身，而执行映射函数的时间却非常少。

我的问题是有什么办法可以提高我的表现吗？我有大约80个线程同时从CHM读取。

Answer 1

我有大约80个线程同时从CHM读取。

最简单的事情是

• 如果您有一个CPU绑定进程，则没有比CPU更多的活动线程，否则只会增加开销，如果这些线程在不运行时持有一个锁，因为您有太多的线程，这将是没有帮助的。
• 增加分区的数量。您将希望至少有4倍的段/分区数，并且有线程访问单个映射。但是，如果您使用40多个线程访问CHM，则会由于缓存一致性的工作方式而产生奇怪的行为。我建议使用更高效的数据结构来实现更高的并发性。在Java 8中，concurrencyLevel是一个提示，但它比保留默认的初始化大小16要好。
• 不要花那么多时间在CHM。找到一种在不触及共享资源的情况下完成有用工作的方法，您的线程将更有效地运行。

如果您在低延迟系统中看到任何延迟，则会遇到IMHO问题。