京都机柜TreeDB:在关闭数据库之前，内存使用量将无法控制地增长

Question

我一直在尝试使用kyotocabinet (MSVC10 build)，偶然发现了一个奇怪的内存问题:基本上，每次数据库写入时，内存使用量都会增加，直到数据库关闭时才会下降。

测试代码如下所示：

size_t BLOCK_SIZE = 1 << 20; // use 1MB-sized records
char* test_block = new char[BLOCK_SIZE]; // allocate record data

TreeDB db;
db.open("test.db")

// add 5000 records
for (int i = 0; i < 5000; ++i)
{
    // at each call, process virtual memory usage increases by 1 MB even though i'm not allocating more memory
    // also, as expected, in x86-32 process the whole thing runs out of memory and crashes when iteration counter comes close to 2000
    db.set(&i, sizeof(i), test_block, BLOCK_SIZE);
}

db.close(); // memory usage returns to normal here
delete [] test_block;

当然，我可以在添加每条记录时打开/关闭数据库，但这会带来巨大的延迟(大约1秒)，这对我的任务来说是不可接受的。此外，这个问题在HashDB中不会发生，但我不能真正使用HashDB，因为我偶尔需要按键顺序访问。

我尝试过修改调优参数(tune_page_cache、tune_buckets、tune_page)，但没有成功。有人能暗示一下我在这里错过了什么吗？我需要存储无法预测的100KB-10MB大小的记录，并在32位系统上运行它。

Answer 1

也许db.synchronize()会有所帮助，因为它应该将缓存的数据推送到文件系统，从而释放用户内存。如果是这样，并且您需要经常发生这种情况，请使用可选参数OAUTOSYNC调用open，尽管这可能会使您的速度变慢很多。