低延迟分布式Java & C++对象缓存

Question

背景

我正在处理一个用于信号分析/图像处理的java服务器端进程。主服务器进程将接受用户的请求/输入参数(XML / Image)。然后，它将向多个处理引擎分发请求/输入。处理引擎是用Java编写的。他们将执行对图像/信号处理的JNI调用。他们将通过马绍尔群岛进行沟通。

相同的请求将使用不同的输入参数再次处理，并且输入参数非常大(图像大小: 1-2MB)。我们不想每次都把请求发送到处理引擎。我们在处理引擎中缓存请求/输入。JNI对象是有状态的，并且保存在处理引擎中。相同的计算将始终由相同的处理引擎计算。

问题

我们无法准确地预测实时使用情况，工作量分布也不均匀。由于相同的请求总是运行相同的处理引擎，一些处理引擎可能会超载，而有些处理引擎处于空闲状态。

需求

下面是我想要实现的目标：-动态工作负载分布:请求可以由不同的引擎处理。-数据的低延迟缓存(大型XML / Imagine)：我们希望使用分布式缓存，而不是通过RMI将输入/数据发送到引擎。- JNI对象也将存储在分布式缓存中，并保持其状态

问题

1. 是否有适合我的需求的低延迟分布式Java缓存(特别是JNI对象的缓存)？
2. 我以前没有使用过分布式缓存，也没有看过Terracotta。还有其他建议吗？

谢谢您的意见！

Answer 1

Ehcache在我工作过的几个不同网站上很受欢迎。我听说的迹象是肯定的，但他们的用例要简单一些。即便如此，缓存的项不应该对缓存的性能产生任何影响，除非可能存在大小调整问题(而且您已经说过您的项相当大)。

还不清楚的是，您已经说过不希望每次发送参数，但是对于每个请求，它们是不同的。每次尝试缓存或绑定不同的东西对您都没有帮助，在这种情况下，您最好完全忘记缓存，只需承担发送请求参数的开销。也许我错过了什么！？