我们使用ManiFoldCF documentum连接器从DCTM存储库中抓取数据,并将抓取的数据写入MongoDB。使用节流值500触发了爬网。但是爬网速度非常慢,连接器每分钟只能提取170个文档。安装MCF的服务器配置有足够的内存和8个逻辑核心(CPU)。有人能帮我们提高爬行速度吗?
发布于 2019-06-20 23:58:29
更好地调优爬行数据库(PostgreSQL)是一个很好的开始。
这里有一些你可以使用的引用:https://manifoldcf.apache.org/release/release-2.13/en_US/performance-tuning.html
https://stackoverflow.com/questions/54212531
复制相似问题