首页
学习
活动
专区
圈层
工具
发布

kettle(pdi)使用变量连接MySQL

在kettle的连接数据库中,没有直接的提示可以使用变量,例如【变量替换】,从步骤中插入数据等, 开始以为kettle数据库连接只能每次都手动填写,每个转换都要新建一个数据库连接....一、共享数据库连接,让转换直接使用建好的连接 1. 在spoon中,点击左侧的【主对象树】-》DB连接->鼠标右击已有的数据库连接->选择【共享】,就可以复用相同的数据库连接了 二、使用变量 1....修改当前用户的[.kettle/.kettle.properties]文件,增加变量值  该属性文件位于 ${user.home}.kettle 下 mysql_ip = localhost...mysql_db = test mysql_user = root 2....在转换/job中设置变量   右击空表处,->【转换设置】->【命名参数】,设置默认值 3.在Job中定义,并传递给转换 三、 数据库连接信息中直接使用    ${mysql_ip}这样的信息,会自动转换成变量的值

22810
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    使用Kettle连接动态分库

    https://blog.csdn.net/wzy0623/article/details/53883505 一、问题提出 在一个数据仓库应用中,每天新建一个MySQL数据库,以当天日期命名...,如d_p20161201、d_p20161202等,并使用Kettle连接这些数据库做数据清洗和ETL工作。...由于数据库是用脚本每天动态生成的,Kettle如何连接动态分库呢? 二、解决方案 1. 建立数据库连接,在数据库名称中引入变量。此时是无法连接到数据库的。 2....使用JavaScript步骤给变量赋值,这种在Kettle中编程的方式,能够实现非常复杂的应用逻辑。 2. 数据库连接可以在运行时动态引用变量,这给实现统一的ETL调度提供了一种可能性。...先设置变量并赋值,然后在后面的步骤或作业项中使用变量,这是一种通用的方法。通过在Kettle中进行程序设计,大大增强了Kettle的功能。

    2.4K31

    Kettle与Hadoop(三)连接Hadoop

    目录 一、环境说明 二、连接Hadoop集群 三、连接Hive 四、连接Impala 五、后续(建立MySQL数据库连接) 参考:Use Hadoop with Pentaho Kettle...五、后续(建立MySQL数据库连接) 为了给后面创建的转换或作业使用,我们再定义一个普通的mysql数据库连接对象。 1....拷贝MySQL驱动jar文件 这里使用的是MySQL 5.6.14版本,需要将相应的驱动程序文件拷贝到Kettle安装目录的lib目录下。...图10 点击“Test”按钮,连接MySQL成功如图11所示。 ? 图11 然后点击“OK”保存数据库连接对象。 3....至此已经创建了一个Hadoop集群对象和三个数据库连接对象,如图12所示。 ? 图12 后面将在这些对象上进行一系列Kettle读写Hadoop组件的实验。

    4.9K21

    Kettle数据库连接中的集群与分片

    实例的数据导入相同实例的不同表中 ---- 本文介绍Kettle 8.3中数据库分区的使用。...在数据库连接中使用集群 在Kettle的数据库连接对话框中,可定义数据库分区,如图1所示。 ? 图1 在“集群”标签,勾选“使用集群”,然后定义三个分区。...Kettle假定所有的分区都是同一数据库类型和连接类型。 ? 图2 定义好分区后点击“测试”,结果如图3所示。 ? 图3 2....图6 现在可以在任何步骤里面应用这两个数据库分区schema(就是说使用这个分区的数据库连接)。Kettle将为每个数据库分区产生一个步骤复制,并且它将连接物理数据库。 3....图15 如果将图12中的数据库连接改为mysql_172.16.1.105,连接172.16.1.105的test.t1表。

    2.6K20

    Kettle教程一:Kettle简介和Kettle的部署安装

    所以了解并掌握一种ETL工具的使用,必不可少,这里我们要学习的ETL工具就是Kettle!...3、kettle的核心组件 4、Kettle的概念模型 Kettle的执行分为两个层次:Job(作业)和Transformation(转换)。...3、需准备的其他东西:数据库驱动,如将驱动放在kettle根目录的bin文件夹下面即可。...2、连接数据库报错 大部分连接数据库报错,除了IP/账号密码/端口/库不对之外,就是没有把数据库驱动放到data-integration7\lib下,下载好对应的驱动,放置到lib文件下即可。...3、kettle无法创建xml相关步骤,有相关步骤的.ktr文件也打不开 可能是因为路径中包含中文,将整个安装包移动到桌面或其他没有中文字符的路径下,重启Spoon.bat即可。

    88.5K67

    mysql:Java通过驱动包(jar包)连接MySQL数据库---步骤总结及验证

    Java 如何使用 JDBC 连接 MySQL 数据库,下面我们看看 一、下载驱动包 Java 连接 MySQL 需要驱动包,官网下载地址为MySQL驱动包官网下载 还是建议大家下载以前的版本...这是我选择的版本 解压后得到jar库文件 下面我们开始将jar包放入eclipse中,这里有两个地方可以放入我们的jar包。...,将下载好的JDBC放到该文件夹下,如下图所示: 将jar包放在WEB-INF/lib下,其他项目需要这些jar包的时候,便会通过Tomcat找到并使用了 因为tomcat应用服务器,它有其自己的类加载器...jar包导入,Apply----Apply and Close即可,如下图: 将jar包通过build path导入只是放在了我们这个项目中,其他项目中不能使用该jar包 如果按照我的步骤完整的做到现在...//MySQL配置时的用户名 String user = "root"; //MySQL配置时的密码 String password = "****

    5.1K10

    kettle连接tdsql报错Proxy ERROR: Access denied for user

    tdsql是腾讯云基于开源mysql的基础上开发的分片集群式的mysql        在使用和sql语句上和mysql是一样的,就完全可以当着mysql来用 二、 但在kettle连接tdsql时报错...我一开始,以为是在kettle中保存数据库的密码做了加密          在kettle连接过程中,因为mysql和tdsql的区别导致账号密码有问题         2....网上查找了一下,有文章说是mysql8.0连接kettle时需要mysql8的jdbc驱动          下载了,放到Lib目录下还是同样的问题       网上没有任何kettle连接tdsql的文章...,耗费半天时间解决不了问题,以为驱动无法支持,所以kettle无法连接tdsql 三、 就在放弃的时候,发现自己保存的数据库密码有一个空格,         原来是kettle中连接tdsql的时候,填写密码的时候...下次再碰到密码错误,一定要检查空格的问题   2. kettle完全可以像使用mysql一样连接tdsql   3. kettle连接mysql8和mysql5.7不需要更新Jdbc驱动

    18610

    【MySQL】MySQL 的 SSL 连接以及连接信息查看

    MySQL 的 SSL 连接以及连接信息查看 在上篇文章中,我们学习过 MySQL 的两种连接方式,回忆一下,使用 -h 会走 TCP 连接,不使用 -h 可以使用另两种方式来走 UnixSocket...我们就接着这个话题再聊点别的,首先要纠正一下之前讲的,-h 不一定全是走 TCP 连接。然后我们顺着这个话题,再看一下 MySQL 中如何指定使用安全连接的问题。...我们可以认为,在 MySQL 的内部,对这个特殊的名称做了特别的判断,如果连接的是 localhost ,就认为这个连接客户端和 MySQL 服务器是在同一台主机的,这时就会直接以 UnixSocket...我们直接用 WireShark 来抓包试试。 看到没有,如果是使用了非 SSL 的方式连接,那么我们通过抓包软件是可以抓到执行的 SQL 语句信息。...你可以自己再尝试下使用默认的开启 SSL 连接的方式去连接远程 MySQL 服务器,看看还能不能抓到我们执行的 SQL 语句。

    4.1K10
    领券