我正在集成Apache 1.9.2 (安全集群)和NiFi 3.1.4。HDP包含带有SASL身份验证(Kerberos)的Zookeeper 3.4.6。NiFi节点成功连接到此Zookeeper,同步流和日志心跳。
同时,使用Zookeeper的NiFi处理器无法连接。GenerateTableFetch抛出:
org.apache.commons.dbcp.SQLNestedException: Cannot create PoolableConnectionFactory (Could not open client transport for any of the Server URI's in ZooKeeper: Unable to read HiveServer2 uri from ZooKeeper)ListHDFS尝试将其状态写入ZooKeeper时失败:
o.apache.nifi.processors.hadoop.ListHDFS ListHDFS Failed to retrieve timestamp of last listing from the State Manager. Will not perform listing until this is accomplished.但是GetHDFS (不与zk通信)工作正常。Enable HiveConnector工作正常,没有错误。
感谢您在之前提出的任何想法和支持。
发布于 2021-04-09 18:34:44
首先,我错过了state-management.xml中的zk连接字符串(感谢@BenYaakobi的提醒)。
其次,蜂窝处理器与nifi-hive3-nar library的Hive3ConnectionPool协同工作。库包含Hive3*处理器,但Hive1* (例如SelectHiveQL、GenerateTableFetch)处理器也可与Hive3连接器配合使用。
https://stackoverflow.com/questions/66672923
复制相似问题