首页
学习
活动
专区
圈层
工具
发布

关于mysql导入大文本txt文件

前几天在偶然的情况下,获得了一个18G的txt文件,现在需要导入到数据库中,那么该怎么导入才能保证高效并且稳定呢?...mysql插入效率 首先应该知道的就是mysql的插入效率跟下面几个点有关 1:mysql数据库引擎,myisam,innodb,甚至是memory的插入效率都是不一样 2:索引,索引也会导致插入效率变慢...3:唯一索引冲突,在插入mysql数据库时,如果有相同数据,将会报错,降低插入效率 4:mysql硬盘,机械硬盘跟固态硬盘的插入效率也是不一样的 5:导入方法,单线程多线程等 6:mysql配置项,各种缓存区大小配置...数据库引擎 我们先测试下myisam 和innodb的插入效率对比,至于memory就不测试了.没有必要....` bigint(20) DEFAULT NULL,   PRIMARY KEY (`id`) ) ENGINE=MyISAM DEFAULT CHARSET=utf8; 2者都通过 Navicat txt

5.3K30

MySQL LOAD DATA INFILE—从文件(csv、txt)批量导入数据

需要开启对"load data inflie"的权限支持     mysqlcur.execute("SET GLOBAL local_infile = 1") (2)需要对mysql文件目录(笔者:...可以在读的同时支持写入,不过速度会稍微下降一点,笔者测试环境影响不大 (4)IGNORE 1 LINES (跳过第一行) 笔者通过python pandas to_csv()导出的csv是带标题的,如下: 不需要标题导入到数据库...,就跳过嘛 (5)@dummy ,通过占位符,跳过不需要的数据 导入到表的column顺序必须和文件保持一致,通过@dummy可以跳过不需要的column(示例跳过totoal_flow_size 和...引用:  如何导入5亿条数据到mysql — https://derwiki.tumblr.com/post/24490758395/loading-half-a-billion-rows-into-mysql...5年内把代码写好,技术博客字字推敲,坚持零拷贝和原创 写博客的意义在于打磨文笔,训练逻辑条理性,加深对知识的系统性理解;如果恰好又对别人有点帮助,那真是一件令人开心的事 ****************

11.5K11
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    如何把.csv文件导入到mysql中以及如何使用mysql 脚本中的load data快速导入

    1, 其中csv文件就相当于excel中的另一种保存形式,其中在插入的时候是和数据库中的表相对应的,这里面的colunm 就相当于数据库中的一列,对应csv表中的一列。...2,在我的数据库表中分别创建了两列A ,B属性为varchar。 3,在这里面中,表使用无事务的myISAM 和支持事务innodb都可以,但是MyISAM速度较快。...table demo fields terminated by ',' enclosed by '\\'' lines terminated by '\\r\\n'  (`A`,`B`) "; 这句话是MySql...的脚本在java中的使用,这个插入速度特别快,JDBC自动解析该段代码进行数据的读出,并且插入到数据库。...如果要使用load data直接进行执行一下这句话,(不过要记得更改成自己的文件名  和 表名)就可以把文件中的内容插入,速度特别快。

    9.7K40

    使用 go-mysql-elasticsearch 把 MySQL 中的业务日志导入 Elasticsearch

    go-mysql-elasticsearch 就是这样一个项目,它可以从 MySQL 的数据表中读取指定数据表的数据,发送到 ElasticSearch 之中。...它会使用 mysqldump 命令处理现有存量数据,并借助 binlog 的方式跟踪增量数据,从而保证 Elasticsearch 的数据和 MySQL 数据库中的数据保持同步。...make 转换配置 执行 go-mysql-elasticsearch --help,会看到一系列的参数,最主要的参数就是 -config,这个参数用于设置转换过程所需的参数配置文件,在源码的 /etc...此时打开 Kibana,执行 GET _search,会看到数据库记录已经进入了 ES 中,并且按照我们定义的规则进行了索引。在守护进行运行期间,如果有新的数据插入,也会同步到 ES 之中。...相关链接 项目地址:https://github.com/siddontang/go-mysql-elasticsearch 配置文件样本:https://github.com/siddontang/go-mysql-elasticsearch

    3.5K30

    把Mathtype导入word中

    今天导入的时候通过网络搜集信息并发现了三个常见 的问题 1.首先我们要安装MathType 位置(需要关闭office再安装)需要去下载(自己想办法) 2.打开Word查看有没有多出一个MathType...选项卡,若有,恭喜你,直接可用;若没有,再进行以下操作: 3.word文件选项卡 - 选项 - 信任中心 - 受信任位置 - 找到 “启动”的文件夹路径,复制到资源管理器中回车(win10一般就是...“MathPage”文件(可在Word - 开始 - 账户 -关于 中查看自己的位数,以下以64位为例),复制黏贴到 C:\Users\你的电脑名\AppData\Roaming\Microsoft\Word...\Startup\ 文件夹内,再从…\MathType\Office Support\64\ 中 复制文件 MathType Commands 2016(20xx)(具体后缀追随你的word版本,2019...文件复制到这个文夹 三个常见问题 1、出现两个Mathtype:删除路径C:\Users\用户名\AppData\Roaming\Microsoft\Word\STARTUP\ 中的.dotm文件,只保留

    1.7K10

    Sqlldr把文本文件导入到ORACLE中

    1 查看命令参数 2 查看需要导入的文本内容 2.1 查看文本的行数 2.2 查看文本的大小 2.3 查看文本的内容 3 编写导数据的CTL文件 3.1 查看CTL文件 3.2 查看SHELL脚本 4...- 错误文件名 data -- 数据文件名 discard -- 废弃文件名 discardmax -- 允许废弃的文件的数目...(默认: 常规路径 64, 所有直接路径) bindsize -- 常规路径绑定数组的大小 (以字节计) (默认 256000) silent -- 运行过程中隐藏消息...,如果oracle字段小写需要改成小写 append 是追加的形式,也可以是insert (为缺省方式,在数据装载开始时要求表为空),append(在表中追加新记录) , replace (删除旧记录...,按以上计算9415010/615 = 15308 / S 如果把参数rows修改为10000 bindsize修改为804857600 ,用时是:00:08:37.85 , 平均 9415010/

    2.5K10

    python 操作 txt 文件中数据教程-python 去掉 txt 文件行尾换行

    参考文章 python 操作 txt 文件中数据教程[1]-使用 python 读写 txt 文件[1] python 操作 txt 文件中数据教程[2]-python 提取 txt 文件中的行列元素...[2] python 操作 txt 文件中数据教程[3]-python 读取文件夹中所有 txt 文件并将数据转为 csv 文件[3] 误区 使用 python 对 txt 文件进行读取使用的语句是 open...参考资料 [1]python操作txt文件中数据教程[1]-使用python读写txt文件: https://blog.csdn.net/u013555719/article/details/84553722...[2]python操作txt文件中数据教程[2]-python提取txt文件中的行列元素: https://blog.csdn.net/u013555719/article/details/84554355...[3]python操作txt文件中数据教程[3]-python读取文件夹中所有txt文件并将数据转为csv文件: https://blog.csdn.net/u013555719/article/details

    3.9K20
    领券