调整java类以提高CPU缓存的友好性

Question

在设计java类时，建议如何实现CPU缓存友好性？

到目前为止，我学到的是，应该尽可能多地使用POD (即int而不是整数)。因此，在分配包含的对象时，将连续地分配数据。例如。

class Local
{
    private int data0;
    private int data1;
    // ...
};

比缓存更友好

class NoSoLocal
{
    private Integer data0;
    private Integer data1;
    //...
};

后者将需要为Integer对象分配两个单独的分配，这些对象可以位于内存中的任意位置，尤其是内存中的任意位置。在GC运行之后。OTOH第一种方法在数据可重用的情况下可能导致数据重复。

是否有一种方法可以使它们在内存中彼此靠近，以便父对象及其“包含元素”将同时位于CPU缓存中，而不是任意分布在整个内存中，再加上GC将它们放在一起？

Answer 1

第一种方法可能导致重复使用数据的情况。

但在你提到的情况下。一个int是4个字节，引用通常是4个字节，所以您不能通过使用Integer获得任何信息。然而，对于一个更复杂的类型，它可以产生很大的不同。

是否有一种方法可以使它们在内存中彼此靠近，以便父对象及其“包含元素”将同时位于CPU缓存中，而不是任意分布在整个内存中，再加上GC将它们放在一起？

无论如何，GC都会这样做，只要对象只在一个地方使用。如果在多个地方使用对象，它们将接近一个引用。

注意:这并不一定是这样的，但是当分配对象时，它们通常是连续的，因为这是最简单的分配策略。当复制保留的对象时，HotSpot GC将以相反的发现顺序复制它们。也就是说，他们仍然在一起，但顺序相反。

注2:对于一个int使用4个字节仍然比对一个整数使用28个字节更有效(引用4个字节，对象头16个字节，值4个字节，填充4个字节)。

注3:最重要的是，与性能相比，您应该更倾向于清晰，除非您已经度量了您的需求，并且有了更好的解决方案。在这种情况下，int不能是null，但是integer可以是null。如果您想要一个不应该是null的值，请使用int，这不是为了性能，而是为了清晰。

Answer 2

您不能强迫JVM将相关的对象放置在彼此之间(尽管JVM试图自动这样做)。但是，有一些技巧可以使Java程序更易于缓存。

让我给你们看看现实项目中的一些例子。

小心！--这不是用编写代码的推荐方法！

除非你完全确定你为什么要这么做，否则不要采用以下技术。

1. 继承多于组合。你肯定听说过相反的原理“重于继承”。但有了作文，你就有了更多的参考。这对缓存局部性不好，也需要更多的内存。组合继承的典型例子是JDK、8加法器和累加器类，它们扩展了实用程序Striped64类。
2. 将结构数组转换为数组结构。这再次有助于节省内存和加快单个字段上的大容量操作，例如键查找： 类条目{长键；对象值；} Entry[]条目； 将以 long[]键；Object[]值；
3. 通过内联使数据结构变平。我最喜欢的例子是内联160位SHA1哈希，由byte[]表示。之前的守则： 类Blob {长偏移量；int长度；byte[] sha1_hash；} 以下代码之后的代码： 类Blob {长偏移；int长度；int hash0，hash1，hash2，hash3，hash4；}
4. 将String替换为char[]。您知道，Java中的String在遮罩下包含char[]对象。为什么要为额外的推荐信支付性能罚款？
5. 避免链接列表。链接列表非常缓存-不友好。硬件在线性结构中工作得最好。LinkedList通常可以被ArrayList取代。经典的HashMap可能会被打开地址哈希表所取代。
6. 使用原始集合。宝物是一个高性能的库，它为原语类型提供专门的列表、地图、集合等.
7. 在数组或ByteBuffers之上构建自己的数据布局。字节数组是一个完美的线性结构。要实现最佳缓存位置，可以手动将对象数据打包到单个字节数组中。