首页
学习
活动
专区
圈层
工具
发布

关于mysql导入大文本txt文件

前几天在偶然的情况下,获得了一个18G的txt文件,现在需要导入到数据库中,那么该怎么导入才能保证高效并且稳定呢?...mysql插入效率 首先应该知道的就是mysql的插入效率跟下面几个点有关 1:mysql数据库引擎,myisam,innodb,甚至是memory的插入效率都是不一样 2:索引,索引也会导致插入效率变慢...3:唯一索引冲突,在插入mysql数据库时,如果有相同数据,将会报错,降低插入效率 4:mysql硬盘,机械硬盘跟固态硬盘的插入效率也是不一样的 5:导入方法,单线程多线程等 6:mysql配置项,各种缓存区大小配置...数据库引擎 我们先测试下myisam 和innodb的插入效率对比,至于memory就不测试了.没有必要....` bigint(20) DEFAULT NULL,   PRIMARY KEY (`id`) ) ENGINE=MyISAM DEFAULT CHARSET=utf8; 2者都通过 Navicat txt

5.3K30
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    LNMP 下使用命令导出导入 MySQL 数据库

    MySQL 数据库的导出和导入操作是必不可少的,对于一般的用户,可能使用的比较多的是 phpMyAdmin 这样的可视化操作界面,但是这种界面操作在数据库比较大的情况下,经常出错。...如果你对Linux下的命令比较熟悉,并且自己使用的是 vps 或云服务器的话,可以使用 MySQL 相关命令来导出和导入数据库,非常方便高效!...root 用户的密码 导入数据库 因为我们刚才导出的数据库是 gz 压缩的,所以导入前我们需要解压: 1 gzip -d db_wp.sql.gz 解压出来的文件为 db_wp.sql,然后导入到数据库...: 1 mysql -u数据库用户名 -p数据库密码 数据库名 < db_wp.sql --default-character-set=utf8 mysql 错误 server has gone away...在操作过程中,可能会出现 mysql server has gone away 的错误,这是数据库太大,缓存不够或操作超时导致的,可以修改下 mysql 的配置来解决: 1、打开配置文件(这里演示的是军哥的

    3.8K20

    MySQL LOAD DATA INFILE—从文件(csv、txt)批量导入数据

    可以在读的同时支持写入,不过速度会稍微下降一点,笔者测试环境影响不大 (4)IGNORE 1 LINES (跳过第一行) 笔者通过python pandas to_csv()导出的csv是带标题的,如下: 不需要标题导入到数据库...,就跳过嘛 (5)@dummy ,通过占位符,跳过不需要的数据 导入到表的column顺序必须和文件保持一致,通过@dummy可以跳过不需要的column(示例跳过totoal_flow_size 和...") mysqlcur.execute("SET SESSION sql_log_bin = 1") “DISABLE KEYS” 然后 “ENABLE KEYS”,笔者实际测试没什么用,只是导入数据更快...区别在于:一个是插入一条,创建一个索引;一个是全部导入完了后,再一次创建所有索引。...引用:  如何导入5亿条数据到mysql — https://derwiki.tumblr.com/post/24490758395/loading-half-a-billion-rows-into-mysql

    11.5K11

    MySQL命令行导出导入数据库和数据表

    MySQL命令行导出数据库: 1,进入MySQL目录下的bin文件夹:cd MySQL中到bin文件夹的目录 如我输入的命令行:cd C:\Program Files\MySQL\MySQL Server...5.7\bin 2,导出数据库:mysqldump -u 用户名 -p 数据库名 数据表名 > 导出的文件名和路径  如我输入的命令行:mysqldump -u root -p gctdb > F:\...命令行导入数据库: 1,进入MySQL目录下的bin文件夹:cd MySQL中到bin文件夹的目录 如我输入的命令行:cd C:\Program Files\MySQL\MySQL Server 5.7...\bin 3,进入MySQL:mysql -u 用户名 -p 如我输入的命令行:mysql -u root -p   (输入同样后会让你输入MySQL的密码) 4,在MySQL-Front中新建你要建的数据库...,这时是空数据库,如新建一个名为news的目标数据库 5,输入:mysql>use 目标数据库名 如我输入的命令行:mysql>use news; 6,导入文件:mysql>source 导入的文件名和路径

    9.8K20

    MySQL命令行导入导出数据

    目前的计划是将生产数据库的记录导出来,导入到测试环境的一个备份库,再用程序将数据转换导入到新的 PostgreSQL 数据库,所以涉及到生产数据库导出,由于生产数据库不能用 Navicat 等软件连接,...导出 这个步骤不需要登录数据库,直接使用 mysqldumpl 命令就可以进行导出。.../mysql/bin/mysqldump /usr/bin/ 执行完就可以使用 mysqldump 命令了。...导入 进入MySQL:mysql -u 用户名 -p 新建一个数据库,或者进入你要导入数据的数据库 输入:mysql>create database 要创建的数据库名; 或输入:mysql>use 要使用的数据库名...; 导入文件,使用 source 命令导入的文件 输入命令行:mysql>source /文件路径/文件名.sql; image.png 今天是神舟十二号发射的日子,祝神舟十二号一切顺利!

    5.2K20

    MySQL导出导入命令的用例

    1.导出整个数据库   mysqldump -u 用户名 -p 数据库名 > 导出的文件名   mysqldump -u wcnc -p smgp_apps_wcnc > wcnc.sql   2.导出一个表...  mysqldump -u 用户名 -p 数据库名 表名> 导出的文件名   mysqldump -u wcnc -p smgp_apps_wcnc users> wcnc_users.sql   ...3.导出一个数据库结构   mysqldump -u wcnc -p -d --add-drop-table smgp_apps_wcnc >d:wcnc_db.sql   -d 没有数据 --add-drop-table...在每个create语句之前增加一个drop table   4.导入数据库   常用source 命令   进入mysql数据库控制台,   如mysql -u root -p   mysql>use...数据库   然后使用source命令,后面参数为脚本文件(如这里用到的.sql)   mysql>source d:wcnc_db.sql

    3K40

    MySQL 数据库的导入导出

    目录 ---- 目录 导出数据库 导出数据和表结构 只导出表结构 导入数据库 首先建空数据库 导入数据库 ---- 导出数据库: 导出数据和表结构: 格式: mysqldump -u用户名 -...p密码 数据库名 > 数据库名.sql 举例: /usr/local/mysql/bin/ mysqldump -uroot -p abc > abc.sql 敲回车后会提示输入密码 只导出表结构...注:/usr/local/mysql/bin/ —> mysql的data目录 导入数据库 首先建空数据库 mysql>create database abc; 导入数据库 方法一: 选择数据库...mysql>use abc; 设置数据库编码 mysql>set names utf8; 导入数据(注意sql文件的路径) mysql>source /home/abc/abc.sql;...方法二: mysql -u用户名 -p密码 数据库名 数据库名.sql mysql -uabc_f -p abc < abc.sql

    21.8K20

    使用MYSQL命令直接导入导出SQL文件

    好吧,言归正传,其实,最简单的方法,就是直接使用mysql命令进行SQL语句的导入导出咯。虽然网上很多,但是感觉都是不太清晰,描述的格式啊什么的,难看死了,所以在这里自己整理下,再写一篇发了上来。...1.MYSQL中将数据库导出成SQL文件 其实很简单的,就是一条语句就可以了,首先我们打开cmd,不用进mysql指令界面,直接按照下列格式将导出语句敲进去,然后再输入密码即可了: mysqldump...-h[主机所在IP] -u[用户名] -p [要导出的数据库]>[导出的路径//[文件名].sql] 好吧,直接这样看可能有点抽象,我们来举个例子,目前我的MYSQL中有一个数据库bookinfodb,...2.从SQL文件中导入数据到MYSQL中 1>首先,我们应该在cmd中进入mysql指令界面中,格式很简单 ,就是mysql -u[用户名] -h[主机所在地址,默认不写是localhost] -p然后输入密码即可...2>使用CREATE  DATRABSE [数据库名字]创建一个数据库,然后使用use [数据库名]选择要使用的数据库 ?

    11K30

    Mysql数据库导入excel和乱码问题

    mysql数据库和sqlite数据库是我们做开发最常用到的两种数据库,在我们使用mysql数据库开发时,导入excel出现中文乱码,下面的name、channel和msg这三个字段都出现了乱码的情况,只有数字是正常的...1、首先,先得到一个excel表,里面有需要我们导入的数据。 2、导入数据库,需要先把excel表转成csv格式,这样数据库才可以导入此后缀名。...4、进入mysql首先创建一个表,然后选中该表。使用工具中“导入csv文件”,注意字段分隔符改为“,”,在目标 -> 表 ->新建表;随后一直点击确定就行了。...改成utf8编码,这样再重新导入就没问题了。 先记事本打开.csv文件,在另存里会看到文件的编码格式(ANSI)。 所以上面的步骤成功导入数据库,文件的编码是ANSI格式。...再使用相同步骤把.csv导入数据库,修改后再查看就不会出现乱码情况。

    12.9K10
    领券