我正在将server表同步到雪花表。我可能会用卡夫卡来做这件事,并在码头中心找到了一个码头形象--沃斯特迈斯特/卡夫卡。我已经克隆了存储库wurstmeister/kafka-docker,并从克隆它的文件夹中运行了-d。在这里之前一切都很好。我现在想走下一步.
这些是我脑海中的问题,我被困住了。我真的很感谢你的帮助和指点。
发布于 2019-03-08 09:25:15
这是为了连接sql服务器表并运行sql语句以获取更改的行。
我建议使用Kafka从数据库中摄取数据。为此,在https://hub.docker.com/r/confluentinc/有卡夫卡连接图像(和其他图片)
具体而言,对于Server,您有三个选项:
如何将jdbc从这里安装到映像中,在docker文件中?集装箱里有什么路?
您可以使用内置的连接器构建自己的对接映像,也可以安装它作为运行它的一部分。本文讨论自动部署连接器。
如何设置连接,哪个文件
每个连接器都有自己的配置要求。从广义上讲,尽管您使用Kafka来配置它(或者在独立模式下使用一个属性文件)。
我是否也需要一个kakfak连接映像,如果需要,如何做到这一点,我假设它在yml文件中?
为此,在https://hub.docker.com/r/confluentinc/有卡夫卡连接图像(和其他图片)
有没有我能看到连接是否正常的日志。
Kafka Connect worker默认将日志写入stdout,您可以通过docker日志查看这些日志。有关使用Kafka和JDBC连接器的示例,请参阅这篇文章。
这些是我脑海中的问题,我被困住了。我真的很感谢你的帮助和指点。
卡夫卡连接是你需要寻找的地方。它既可以充当源(将数据输入Kafka),也可以充当接收器(从Kafka获取数据到其他地方)。本系列文章可能会有所帮助:
另外,这个演讲也展示了它的作用:https://www.youtube.com/watch?v=RJtEacDX4Oc
https://stackoverflow.com/questions/55056808
复制相似问题