首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >为什么writeStream不以增量格式编写代码,即使我已经编写了它

为什么writeStream不以增量格式编写代码,即使我已经编写了它
EN

Stack Overflow用户
提问于 2020-01-10 12:20:34
回答 1查看 790关注 0票数 0

这是我的代码。writeStream正在以“拼接”格式写入记录,而不是“增量”格式,尽管我提到了增量格式。

代码语言:javascript
复制
spark
.readStream
.format("delta")
.option("latestFirst","true")
.option("ignoreDeletes", "true")
.option("ignoreChanges","true")
.load("/mnt/data-lake/data/bronze/accounts")
.writeStream
.format("delta")
.outputMode("append")
.option("checkpointLocation","/mnt/data-lake/tmp/chkpnt_accounts_inserts")
.option("path","/mnt/data-lake/tmp/accounts_inserts")
.start()
EN

回答 1

Stack Overflow用户

发布于 2020-02-06 12:31:01

根据原帖的评论分享答案。

_delta_log目录中没有“增量格式”,而是带有事务日志的拼图。如果存在此目录,您可能会使用增量格式。

我在我们给出的" delta“格式中提到了delta。我知道它仍然是镶木地板的格式。然而,我的问题在下一次运行中得到了解决,并且创建了_delta_log目录。

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/59675471

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档