Mostproduction database servers that use InnoDB should set innodb_flush_method toO_DIRECT to avoid double-buffering
第二种方式叫做double-buffering,通过双缓冲区协同工作的方法,将神经网络训练过程中梯度计算和数据传递两部分进行时间上的重叠,使得单位时间能够执行更多的minibatch。
. // That's enough for double-buffering with our standard 20 ms rule of thumb for
它们通过投机性检索(speculative retrieval)、双缓冲(double-buffering)等技术,将部分缓存数据的传输与另一部分缓存的重新计算过程重叠执行,从而有效隐藏I/O延迟 23