Spring Boot多线程ItemWriter

Question

我有一个Spring Boot批处理作业，它有两个主要步骤，第一个步骤是从电子表格中读取一堆行。第二个是写入数据库。现在，它被设置为串行写入数据库

public CompositeItemWriter<SoftLayerData> compositeSoftlayerDataWriter(
    JpaItemWriter<SoftLayerData> softlayerDataWriter) {
  CompositeItemWriter<SoftLayerData> compositeWriter = new CompositeItemWriter<>();
  compositeWriter.setDelegates(asList(softlayerDataWriter));
  return compositeWriter;
}

问题是体积太大了。由于没有理由维护任何顺序，我希望有多个编写器。我试过这个：

final int writerCount = 10;
List<ItemWriter<? super SoftLayerData>> writers = new ArrayList<>(writerCount);
for(int counter=0;counter<writerCount;counter++) {
  writers.add(new JpaItemWriter<SoftLayerData>());
}
CompositeItemWriter<SoftLayerData> result = new CompositeItemWriter<>();
result.setDelegates(writers);
return result;

但我要买一台IllegalArgumentException: No EntityManagerFactory specified。

我喜欢这种方法，但我怀疑我必须遵循一些非常复杂的Spring Boot方法。使用多个编写器的最佳方法是什么？

谢谢，伐木人

Answer 1

CompositeItemWriter调用委托编写器是顺序的，而不是并行的。因此，在复合编写器中创建10个JpaItemWriter作为委托不会使您的步骤成为多线程的。

如果您希望该步骤成为多线程的，则需要向其添加一个TaskExecutor，如下所示：

@Bean
public TaskExecutor taskExecutor() {
    return new SimpleAsyncTaskExecutor("spring_batch");
}

@Bean
public Step sampleStep(TaskExecutor taskExecutor) {
    return this.stepBuilderFactory.get("sampleStep")
                .<String, String>chunk(10)
                .reader(itemReader())
                .writer(itemWriter())
                .taskExecutor(taskExecutor)
                .build();
}

请参考Multi-Threaded step。

现在您的问题是，您正在使用new操作符创建JpaItemWriter，因此Spring不会调用afterPropertiesSet方法来检查强制属性。您需要在此编写器上设置EntityManagerFactory。