首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >Apache光束不会将文件写入本地环境或Google存储

Apache光束不会将文件写入本地环境或Google存储
EN

Stack Overflow用户
提问于 2018-10-24 22:53:26
回答 1查看 337关注 0票数 2

出于某种原因,Apache光束不会将文件写入我的本地环境或Google Storage。我的目标是从谷歌PubSub读取数据,并将其批量写入谷歌存储。要做到这一点,我有以下代码:

代码语言:javascript
复制
        pipeline.begin()
            .apply(PubsubIO.readStrings()
                    .fromSubscription("projects/PROJECT/subscriptions/SUBNAME"))
            .apply(ParDo.of(new UpperCaseAndPrint()))
            .apply(Window.into(FixedWindows.of(Duration.millis(1000))))
            .apply(TextIO.write().to("gs://BUCKETNAME/outputData")
                .withWindowedWrites()
                .withNumShards(1));

ParDo函数打印传入的消息,并且似乎有数据传入:

代码语言:javascript
复制
19806 [direct-runner-worker] INFO  app  - message-4
19807 [direct-runner-worker] INFO  app  - message-3
19808 [direct-runner-worker] INFO  app  - message-2
19809 [direct-runner-worker] INFO  app  - message-1

有人知道为什么这些文件不会在本地或Google存储桶中创建吗?

EN

回答 1

Stack Overflow用户

发布于 2018-10-25 20:44:55

因此,事实证明,在使用PubsubIO时,使用DirectRunner和使用TextIO存在一些问题。当使用另一个流道时,问题就消失了。

我真的不能解决当地的问题,但我希望这能帮助下一个遇到这个问题并找到这篇文章的人。

票数 3
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/52972063

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档