将外部数据文件上载到Apache的方法

Question

上下文

我正在运行官方码头枢纽Apache Solr 7.4图片在GCP引擎内。

问题

我需要将JSON文档上传到索引中。在过去，我只使用bin/post命令或Admin上传存储在宿主Solr实例的同一台机器上的文档。

现在，我需要将相当多的JSON文档从我的机器上传到Docker容器中的Solr实例(确切地说，是86份文档~30 my )。在图像中添加这么多额外的数据是没有意义的。JSON格式索引更新文档页面只提供两个选项：

• 上传与Solr实例或
• 在curl命令中直接指定JSON文档

我厌倦了使用我希望使用的命令添加文档(请注意，我在这里使用localhost，因为我首先在本地测试Docker映像，但想法是一样的)：

curl 'http://localhost:8983/solr/my_core/update?commit=true' --data-binary @/my/local/data/part1.json -H 'Content-type:application/json'

但是上面的代码返回500状态代码。我尝试了一些其他的变体，但都没有效果。

将外部数据文件上载到Apache的最佳方法是什么？

如果您提供适合我的上下文的替代解决方案，也会有所帮助。

更多信息

小样本JSON文件

它只是两个文档，但当我试图将它们上传到一个文件中时，我得到了相同的结果。

[{"iframe":"<iframe src=\"https:\/\/www.example.com\/embed\/ph5b8e18ce6b447\" frameborder=\"0\" height=\"481\" width=\"608\" scrolling=\"no\"><\/iframe>","main_thumbnail_url":"https:\/\/ci.excdn.com\/file\/201809\/04\/181459731\/original\/(m=eaf8Ggaaaa)(mh=sYnlTgQZyb7M8XKU)8.jpg","title":"Example 1","tags":["t1","t2","t3","t4","t5"],"categories":["a","b","c","d","e","f"],"author_name":null,"duration":501,"views":0,"likes":0,"dislikes":0,"likes_ratio":0.0,"id":4250000},{"iframe":"<iframe src=\"https:\/\/www.example.com\/embed\/ph5b8e18c2943af\" frameborder=\"0\" height=\"481\" width=\"608\" scrolling=\"no\"><\/iframe>","main_thumbnail_url":"https:\/\/ci.excdn.com\/files\/201809\/04\/181459741\/original\/(m=eaf8Ggaaaa)(mh=uumefyKUUQmKHNx0)5.jpg","title":"Example 2","tags":["t1","t2"],"categories":["a","b","c","d","e","f","g","h","i"],"author":null,"duration":53,"views":0,"likes":0,"dislikes":0,"likes_ratio":0.0,"id":4250001}]

斯塔克迹

{
  "responseHeader":{
    "status":500,
    "QTime":6},
  "error":{
/*
* 提示：该行代码过长，系统自动注释不进行高亮。一键复制会移除系统注释 
* "trace":"java.lang.NullPointerException\n\tat org.apache.solr.update.processor.AddSchemaFieldsUpdateProcessorFactory$AddSchemaFieldsUpdateProcessor.mapValueClassesToFieldType(AddSchemaFieldsUpdateProcessorFactory.java:509)\n\tat org.apache.solr.update.processor.AddSchemaFieldsUpdateProcessorFactory$AddSchemaFieldsUpdateProcessor.processAdd(AddSchemaFieldsUpdateProcessorFactory.java:396)\n\tat org.apache.solr.update.processor.UpdateRequestProcessor.processAdd(UpdateRequestProcessor.java:55)\n\tat org.apache.solr.update.processor.FieldMutatingUpdateProcessor.processAdd(FieldMutatingUpdateProcessor.java:118)\n\tat org.apache.solr.update.processor.UpdateRequestProcessor.processAdd(UpdateRequestProcessor.java:55)\n\tat org.apache.solr.update.processor.FieldMutatingUpdateProcessor.processAdd(FieldMutatingUpdateProcessor.java:118)\n\tat org.apache.solr.update.processor.UpdateRequestProcessor.processAdd(UpdateRequestProcessor.java:55)\n\tat org.apache.solr.update.processor.FieldMutatingUpdateProcessor.processAdd(FieldMutatingUpdateProcessor.java:118)\n\tat org.apache.solr.update.processor.UpdateRequestProcessor.processAdd(UpdateRequestProcessor.java:55)\n\tat org.apache.solr.update.processor.FieldMutatingUpdateProcessor.processAdd(FieldMutatingUpdateProcessor.java:118)\n\tat org.apache.solr.update.processor.UpdateRequestProcessor.processAdd(UpdateRequestProcessor.java:55)\n\tat org.apache.solr.update.processor.FieldNameMutatingUpdateProcessorFactory$1.processAdd(FieldNameMutatingUpdateProcessorFactory.java:75)\n\tat org.apache.solr.update.processor.UpdateRequestProcessor.processAdd(UpdateRequestProcessor.java:55)\n\tat org.apache.solr.update.processor.FieldMutatingUpdateProcessor.processAdd(FieldMutatingUpdateProcessor.java:118)\n\tat org.apache.solr.update.processor.UpdateRequestProcessor.processAdd(UpdateRequestProcessor.java:55)\n\tat org.apache.solr.update.processor.AbstractDefaultValueUpdateProcessorFactory$DefaultValueUpdateProcessor.processAdd(AbstractDefaultValueUpdateProcessorFactory.java:92)\n\tat org.apache.solr.handler.loader.JsonLoader$SingleThreadedJsonLoader.handleAdds(JsonLoader.java:501)\n\tat org.apache.solr.handler.loader.JsonLoader$SingleThreadedJsonLoader.processUpdate(JsonLoader.java:145)\n\tat org.apache.solr.handler.loader.JsonLoader$SingleThreadedJsonLoader.load(JsonLoader.java:121)\n\tat org.apache.solr.handler.loader.JsonLoader.load(JsonLoader.java:84)\n\tat org.apache.solr.handler.UpdateRequestHandler$1.load(UpdateRequestHandler.java:97)\n\tat org.apache.solr.handler.ContentStreamHandlerBase.handleRequestBody(ContentStreamHandlerBase.java:68)\n\tat org.apache.solr.handler.RequestHandlerBase.handleRequest(RequestHandlerBase.java:199)\n\tat org.apache.solr.core.SolrCore.execute(SolrCore.java:2539)\n\tat org.apache.solr.servlet.HttpSolrCall.execute(HttpSolrCall.java:709)\n\tat org.apache.solr.servlet.HttpSolrCall.call(HttpSolrCall.java:515)\n\tat org.apache.solr.servlet.SolrDispatchFilter.doFilter(SolrDispatchFilter.java:377)\n\tat org.apache.solr.servlet.SolrDispatchFilter.doFilter(SolrDispatchFilter.java:323)\n\tat org.eclipse.jetty.servlet.ServletHandler$CachedChain.doFilter(ServletHandler.java:1634)\n\tat org.eclipse.jetty.servlet.ServletHandler.doHandle(ServletHandler.java:533)\n\tat org.eclipse.jetty.server.handler.ScopedHandler.handle(ScopedHandler.java:146)\n\tat org.eclipse.jetty.security.SecurityHandler.handle(SecurityHandler.java:548)\n\tat org.eclipse.jetty.server.handler.HandlerWrapper.handle(HandlerWrapper.java:132)\n\tat org.eclipse.jetty.server.handler.ScopedHandler.nextHandle(ScopedHandler.java:257)\n\tat org.eclipse.jetty.server.session.SessionHandler.doHandle(SessionHandler.java:1595)\n\tat org.eclipse.jetty.server.handler.ScopedHandler.nextHandle(ScopedHandler.java:255)\n\tat org.eclipse.jetty.server.handler.ContextHandler.doHandle(ContextHandler.java:1253)\n\tat org.eclipse.jetty.server.handler.ScopedHandler.nextScope(ScopedHandler.java:203)\n\tat org.eclipse.jetty.servlet.ServletHandler.doScope(ServletHandler.java:473)\n\tat org.eclipse.jetty.server.session.SessionHandler.doScope(SessionHandler.java:1564)\n\tat org.eclipse.jetty.server.handler.ScopedHandler.nextScope(ScopedHandler.java:201)\n\tat org.eclipse.jetty.server.handler.ContextHandler.doScope(ContextHandler.java:1155)\n\tat org.eclipse.jetty.server.handler.ScopedHandler.handle(ScopedHandler.java:144)\n\tat org.eclipse.jetty.server.handler.ContextHandlerCollection.handle(ContextHandlerCollection.java:219)\n\tat org.eclipse.jetty.server.handler.HandlerCollection.handle(HandlerCollection.java:126)\n\tat org.eclipse.jetty.server.handler.HandlerWrapper.handle(HandlerWrapper.java:132)\n\tat org.eclipse.jetty.rewrite.handler.RewriteHandler.handle(RewriteHandler.java:335)\n\tat org.eclipse.jetty.server.handler.HandlerWrapper.handle(HandlerWrapper.java:132)\n\tat org.eclipse.jetty.server.Server.handle(Server.java:531)\n\tat org.eclipse.jetty.server.HttpChannel.handle(HttpChannel.java:352)\n\tat org.eclipse.jetty.server.HttpConnection.onFillable(HttpConnection.java:260)\n\tat org.eclipse.jetty.io.AbstractConnection$ReadCallback.succeeded(AbstractConnection.java:281)\n\tat org.eclipse.jetty.io.FillInterest.fillable(FillInterest.java:102)\n\tat org.eclipse.jetty.io.ChannelEndPoint$2.run(ChannelEndPoint.java:118)\n\tat org.eclipse.jetty.util.thread.strategy.EatWhatYouKill.runTask(EatWhatYouKill.java:333)\n\tat org.eclipse.jetty.util.thread.strategy.EatWhatYouKill.doProduce(EatWhatYouKill.java:310)\n\tat org.eclipse.jetty.util.thread.strategy.EatWhatYouKill.tryProduce(EatWhatYouKill.java:168)\n\tat org.eclipse.jetty.util.thread.strategy.EatWhatYouKill.run(EatWhatYouKill.java:126)\n\tat org.eclipse.jetty.util.thread.ReservedThreadExecutor$ReservedThread.run(ReservedThreadExecutor.java:366)\n\tat org.eclipse.jetty.util.thread.QueuedThreadPool.runJob(QueuedThreadPool.java:760)\n\tat org.eclipse.jetty.util.thread.QueuedThreadPool$2.run(QueuedThreadPool.java:678)\n\tat java.base/java.lang.Thread.run(Thread.java:844)\n",
*/
    "code":500}}

编辑：

是关于我JSON文件的格式..。我可以上传Solr示例JSON文件没有任何问题。

我很确定我的文件是一个格式正确的JSON，因为我是通过将Pandas DataFrame保存为JSON获得的。Python json模块也可以在没有任何问题的情况下加载文件。因此，它必须处理Solr/Java如何读取我的文件。

Answer 1

显然，Solr不允许null作为字段值(它导致Solr抛出NullPointerException)。在将示例JSON文件中的null更改为字符串后，我能够按照问题中描述的步骤上传这些文件。