腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(9999+)
视频
沙龙
2
回答
将sqoop
增量
导入
到单元表
hive
、
sqoop
、
oozie
我正在尝试对
hive
表执行sqoop
增量
导入
(lastmodified)。它在sqoop 1.4.5中工作,但在sqoop 1.4.6中不工作。:2011年11月13日17:57:58 +0530 2017 --incremental lastmodified option for
hive
浏览 3
提问于2017-11-13
得票数 2
回答已采纳
1
回答
hdfs和
hive
有什么关系?
hadoop
、
hive
我有psudeo分布式hadoop环境,并使用sqoop和
hive
进行数据
导入
和分析。我使用sqoop将数据从
mysql
导入
到蜂箱中,它起作用了,我在我的蜂巢位置(也就是/user/
hive
/warehouse/ )获得了数据,我可以在
hive
表中看到数据。我的怀疑是: 为什么它要在我的hdfs
浏览 5
提问于2017-01-11
得票数 0
1
回答
如何将更新的记录以及从RDBMS表到
Hive
表的
增量
导入
?
shell
、
hadoop
、
hive
、
sqoop
我使用Sqoop
增量
导入
,每天将数据输入到我的
hive
表中。
Hive
中,使用Sqoop
增量
导入
,通过cron作业将数据
导入
到shell脚本来完成工作。DATE=$(date +"%d-%m-%y")sqoop import --connect jdbc:
mysql
</home/cloud
浏览 2
提问于2017-04-17
得票数 1
回答已采纳
1
回答
增量
附加到文件
hive
、
hdfs
、
increment
、
sqoop
我在
MySQL
中有表,我想使用sqoop
导入
数据。我
导入
了数据并以file的形式存储在file中。现在,我想在hdfs中对这个文件运行
增量
更新。I am talking about files not
Hive
tables。 我希望
增量
数据作为单独的文件,而不是合并的文件。我的意思是,我们可以对文件进行
增量
更新吗?
浏览 3
提问于2017-03-17
得票数 0
回答已采纳
1
回答
Sqoop
增量
加载到分区的
hive
表
hadoop
、
hive
、
sqoop
、
apache-hive
如何将
增量
数据加载到已分区的配置单元表中id bigint,created_on string(yyyy-MM-dd),我已经创建了一个sqoop作业,根据上次修改日期以
增量
方式
导入
sqoop job --create users -- import --connect jdbc:
mysql
://<ip>/produ
浏览 5
提问于2016-11-18
得票数 0
1
回答
Sqoop
增量
导入
后配置单元表已过期
hive
、
hdfs
、
sqoop
我正在尝试使用"--incremental append“对
Hive
表执行Sqoop
增量
导入
。 我执行了一个初始sqoop
导入
,然后为
增量
导入
创建了一个作业。这两个文件都已成功执行,并且已将新文件添加到HDFS中相同的原始配置单元表目录中,但当我检查我的配置单元表时,
导入
的观察值不在那里。在sqoop
增量
导入
之前,
Hive
表是相等的。我有大约45个
Hive
表,并希望在Sqoop
增量
浏览 0
提问于2018-11-13
得票数 1
2
回答
Sqoop:
增量
导入
问题
mysql
、
hadoop
、
sqoop
我有一个需求,我需要从
mysql
导入
一个表,以
增量
的方式存储,并且在这样做时会遇到问题。这就是我迄今尝试过的: --
hive
-import--direct --check-columnlast_modified_time 第一次执行:按预期
导入
所有内容,
浏览 5
提问于2014-07-17
得票数 1
3
回答
如何使用Sqoop从
MySQL
增量
导入
到配置单元?
mysql
、
hadoop
、
hive
、
sqoop
我可以使用Sqoop成功地执行从
MySQL
到HDFS的
增量
导入
,方法是这是一个bug吗?预期的行为?有没有人有从
MySQL
增量
导入
数据并通过配置单元提供数据的过程? 我基本上希望我的Hadoop集群成为我的
MySQL
数据库的读从服务
浏览 0
提问于2012-12-28
得票数 2
1
回答
通过oozie从sqoop作业的
增量
导入
不会更新sqoop的元存储中的incremental.last.value
hadoop
、
sqoop
、
oozie
、
hortonworks-data-platform
尝试通过创建sqoop job从
mysql
到
hive
进行
增量
导入
,它在命令行中工作得很好,但当我尝试使用oozie执行同样的操作时,它不会更新sqoop的metastore中的incremental.last.value
浏览 4
提问于2017-04-28
得票数 0
4
回答
如何在SQOOP中自动执行
增量
导入
?
hadoop
、
mapreduce
、
sqoop
我们如何在SQoop中自动执行
增量
导入
?在
增量
导入
中,我们需要给--last-value从最后一个值开始
导入
,但我的工作是频繁地从关系型数据库
导入
,我不想手动给出最后一个值,有没有什么方法可以自动化这个过程?
浏览 4
提问于2016-01-14
得票数 4
1
回答
是否有其他方法使这个(
增量
的最后一个修改的)与--胞-
导入
一起工作?
hadoop
、
hive
、
sqoop
、
data-warehouse
、
pgadmin
我正在尝试为
hive
中的
增量
导入
创建sqoop作业。创建jdbc:hsqldb:hsql://192.168.225.129:16000/sqoop \ jdbc:postgresql://192.168.148.1:5432/movielens -
导入
-连接-用户名anm \-表分级-m 8-目标-dir/user/
hive
//user_-
增量
修改-字段-终止-by ',‘ 产
浏览 4
提问于2019-12-04
得票数 0
0
回答
使用sqoop
增量
更新来更新
Hive
表
mysql
、
hadoop
、
hive
、
sqoop
我正在尝试根据
mysql
表中的记录更新配置单元表。Fitness4 Apparel6 Outdoors我正在尝试使用sqoop,在department_id 8中使用
增量
更新将
mysql
表中的最后一条记录
导入
到
hive
表中。-password xxx --table delimiter_test --
hive
-import --
hive
-table my_test --split-
浏览 12
提问于2016-12-28
得票数 0
回答已采纳
2
回答
-不支持
hive
导入
的
增量
“最后修改”选项
hive
、
hql
、
sqoop
、
hortonworks-data-platform
port}/sqoop \ -- import --null-string "null" --null-non-string "null" --
mysql
-delimiters--
hive
-drop-import-delims \ --incrementalcolumnId \ --target-di
浏览 2
提问于2020-01-17
得票数 0
2
回答
使用自由格式查询的Sqoop作业
增量
导入
hadoop
、
hdfs
、
sqoop
我正在尝试使用自由形式查询进行sqoop作业的
增量
导入
。下面是正在使用的查询 sqoop job --create importjobinl -- import --connect jdbc:
mysql
://localhost/test --username当我使用
mysql
intest而不是--query时,它是有效的,但是我希望使用--query使用unix_timestamp将日期转换为纪元时间,因为
mysql
表intest中的值是yyyy-mm-dd
浏览 1
提问于2015-09-06
得票数 0
1
回答
使用Sqoop、timestamp数据类型
导入
数据
hadoop
、
hive
、
sqoop
是否可以通过Sqoop将数据
导入
到
Hive
表中,存储为Parquet,并且之前使用decimal和timestamp数据类型创建?
浏览 2
提问于2017-04-07
得票数 0
1
回答
添加到
mysql
中的新列在
Hive
中反映了相同的内容。
mysql
、
hive
、
sqoop
今天,我在
mysql
中有4列3行的表。我已经将这些数据直接
导入
到一个蜂巢表中。表测试:1 sam 123 hyd3 red 456 qer1 sam 123 hyd3 red 456 qer现在,我希望
hive
表与
my
浏览 2
提问于2017-03-06
得票数 0
回答已采纳
1
回答
如何使用linux脚本自动化Sqoop中从DB到HBase的
增量
导入
shell
、
hadoop
、
hbase
、
sqoop
、
sqoop2
使用sqoop作业,我们可以使用HBase对--lastval进行
增量
加载。 但是,我们如何对shell脚本进行同样的处理,以及在自动化脚本时如何获得--lastval呢?
浏览 2
提问于2016-09-28
得票数 2
回答已采纳
2
回答
配置单元中的
增量
更新
mysql
、
hadoop
、
hive
、
bigdata
我有一个源
MySql
表。出于分析目的,我必须将数据导出到
Hive
。最初,当
MySQL
中的数据较小时,使用Sqoop将
Mysql
数据完全导出到
Hive
不是问题。现在,随着我的数据大小的增长,我如何将
MySql
数据
增量
更新到
hive
?
浏览 0
提问于2016-05-03
得票数 0
1
回答
如何将
MySql
表
导入
到
hive
中的目标数据库?
hadoop
、
hive
、
sqoop
我已经使用以下sqoop命令成功地将一个SQL表- tblSystem
导入
到
hive
中:但是,我注意到这个命令将SQL表
导入
到
hive
中的“默认”要将<
浏览 2
提问于2015-05-04
得票数 1
回答已采纳
1
回答
MSSQL与KAFKA集成
apache-kafka
我正在尝试使用kafka (实时数据)将数据从MSSQL
导入
到
Hive
,其中包含
增量
和更新的数据。我看到了github的用于
mysql
到hdfs数据传输的融合平台,但我没有找到用于MSSQL的。
浏览 27
提问于2016-09-26
得票数 1
点击加载更多
相关
资讯
利用sqoop将hive和mysql数据互导入
mysql导入数据
实战-MySQL定时增量备份(2)
大数据系列 sqoop1的核心命令
实战-MySQL定时进行全量与增量备份
热门
标签
更多标签
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频
活动推荐
运营活动
广告
关闭
领券