首页
学习
活动
专区
圈层
工具
发布

关于mysql导入大文本txt文件

前几天在偶然的情况下,获得了一个18G的txt文件,现在需要导入到数据库中,那么该怎么导入才能保证高效并且稳定呢?...mysql插入效率 首先应该知道的就是mysql的插入效率跟下面几个点有关 1:mysql数据库引擎,myisam,innodb,甚至是memory的插入效率都是不一样 2:索引,索引也会导致插入效率变慢...3:唯一索引冲突,在插入mysql数据库时,如果有相同数据,将会报错,降低插入效率 4:mysql硬盘,机械硬盘跟固态硬盘的插入效率也是不一样的 5:导入方法,单线程多线程等 6:mysql配置项,各种缓存区大小配置...数据库引擎 我们先测试下myisam 和innodb的插入效率对比,至于memory就不测试了.没有必要....bigint(20) DEFAULT NULL,   PRIMARY KEY (`id`) ) ENGINE=MyISAM DEFAULT CHARSET=utf8; 2者都通过 Navicat txt导入方式导入

5.3K30
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    多个sheet Excel 数据 导入数据库 如何实现?

    多个sheet Excel 数据 导入数据库 如何实现? 将 Excel 文件中的多个 sheet 导入数据库,一般有以下几种实现方式: 使用 JDBC 直接插入。...综上所述,将 Excel 文件中的多个 sheet 导入数据库的实现方式有多种,具体使用哪种方式,还需要根据实际情况进行评估和选择。...Apache POI 使用 Apache POI 实现将 Excel 文件中的多个 sheet 导入到数据库的 Java 代码: import java.io.FileInputStream; import...JExcelAPI 使用 JExcelAPI 实现将 Excel 文件中的多个 sheet 导入到数据库的 Java 代码: import java.io.File; import java.sql.Connection...EasyExcel 使用 EasyExcel 实现将 Excel 文件中的多个 sheet 导入到数据库的 Java 代码: import com.alibaba.excel.EasyExcel; import

    3.3K10

    MySQL 数据库的导入导出

    目录 ---- 目录 导出数据库 导出数据和表结构 只导出表结构 导入数据库 首先建空数据库 导入数据库 ---- 导出数据库: 导出数据和表结构: 格式: mysqldump -u用户名 -...p密码 数据库名 > 数据库名.sql 举例: /usr/local/mysql/bin/ mysqldump -uroot -p abc > abc.sql 敲回车后会提示输入密码 只导出表结构...注:/usr/local/mysql/bin/ —> mysql的data目录 导入数据库 首先建空数据库 mysql>create database abc; 导入数据库 方法一: 选择数据库...mysql>use abc; 设置数据库编码 mysql>set names utf8; 导入数据(注意sql文件的路径) mysql>source /home/abc/abc.sql;...方法二: mysql -u用户名 -p密码 数据库名 数据库名.sql mysql -uabc_f -p abc < abc.sql

    21.9K20

    Java调用SqlLoader将大文本导入数据库

    Java调用SqlLoader将大文本导入数据库 业务场景:将一千万条数据,大约500M的文本文档的数据导入到数据库   分析:通过Java的IO流解析txt文本文档,拼接动态sql实现insert入库...,可以实现,缺点如下 第一:IO流解析大文本文件对机器性能要求较高,测试大约消耗2G左右的内存 第二:拼接sql语句insert一千万条数据大约需要2小时时间,长时间insert会锁表,如果是核心业务表...,例如订单表,会造成大量用户无法下单,影响数据库的性能 第三:这种操作可扩展性不强,每次只能针对指定的表,指定的列操作 针对以上缺点,现在通过接口调用数据库系统命令实现,通过可视化界面,选择要导入的表,...要导入那些字段,上传指定的txt文本,会自动生成对应的模板文件,实现大批量数据高效率的导入到数据库,通过可配置化即可实现,相对前一种思路扩展性较强, 具体接口如下 1 package com.sun.sqlloader.api...31 * @param pwd 数据库的密码 32 * @param database 连接数据库的地址 33 * @param fileRoute 文件路径 34

    1.9K30

    MySQL 数据库如何使用 Navicat 导出和导入 *.sql 文件

    对于做一些个人辅助软件,选择 MySQL 数据库是个明智的选择,有一个好的工具更是事半功倍。下面我将向大家介绍如何使用 Navicat Premium 导出和导入 *.sql 数据文件。 ?...1.5、查看输出文件详情信息 如果需要查看 SQL 文件详细信息,我们使用文本编辑工具打开刚才输出的 SQL 文件即可,如下图所示: ?...所以,如果你不建立与之对应的数据库,而是随便找一个数据导入,结果只是这个数据库多了几张刚刚导入的表。...---- 总结 本文我们掌握了 MySQL 数据库如何使用 Navicat 导出和导入 *.sql 文件,其余的 IDE 操作都是类似的。...这个时候你就需要多多注意并检查一下你的表文件够不够,如果不够那就再来一遍,如果还是不行,把剩下的表使用文本编辑工具打开命令界面手动导入即可。程序员永不言败! ?

    22.2K41

    如何实现数据通过表格批量导入数据库

    如何实现数据通过表格批量导入数据库 ☆* o(≧▽≦)o *☆嗨~我是IT·陈寒 ✨博客主页:IT·陈寒的博客 该系列文章专栏:Java学习路线 其他专栏:Java学习路线 Java面试技巧 Java...本文将介绍如何通过编程实现数据通过表格批量导入数据库,以提高数据导入的效率和准确性。我们将以 Python 和 MySQL 数据库为例进行讲解,同时提供一些拓展思路和优化建议。 1....创建数据库表 在 MySQL 数据库中,首先需要创建一个表来存储将要导入的数据。...此脚本会读取表格数据,并使用批量插入的方式将数据导入到 MySQL 数据库的 employee 表中。 4....总结 通过上述步骤,我们成功地实现了通过表格批量导入数据库的过程。这对于大规模数据的导入和数据仓库的构建非常有帮助。在实际应用中,可以根据具体需求进行更多的优化和拓展。

    2.2K10

    MySQL数据库如何实现AX规范

    MySQL 为我们提供了分布式事务解决方案,在前面的内容中 聊一聊分布式事务的解决方案 提到过 binlog 的同步,其实是 MySQL XA 规范的一个应用,那么 XA 规范是如何定义的,具体又是如何应用的呢...MySQL 有哪些一致性日志 问你一个问题,如果 MySQL 数据库断电了,未提交的事务怎么办?...MySQL 如何实现 XA 规范 MySQL 中 XA 事务有两种情况,内部 XA 和外部 XA,其区别是事务发生在 MySQL 服务器单机上,还是发生在多个外部节点间上。...MySQL 外部 XA 主要应用在数据库代理层,实现对 MySQL 数据库的分布式事务支持,例如开源的数据库中间层,比如淘宝的 TDDL、阿里巴巴 B2B 的 Cobar 等。...总结 本文介绍了 MySQL 一致性相关的几种日志,并分享了 MySQL 的 XA 规范相关内容,以及内外部 XA 事务如何实现。

    1.2K11

    Mysql数据库导入excel和乱码问题

    mysql数据库和sqlite数据库是我们做开发最常用到的两种数据库,在我们使用mysql数据库开发时,导入excel出现中文乱码,下面的name、channel和msg这三个字段都出现了乱码的情况,只有数字是正常的...1、首先,先得到一个excel表,里面有需要我们导入的数据。 2、导入数据库,需要先把excel表转成csv格式,这样数据库才可以导入此后缀名。...4、进入mysql首先创建一个表,然后选中该表。使用工具中“导入csv文件”,注意字段分隔符改为“,”,在目标 -> 表 ->新建表;随后一直点击确定就行了。...改成utf8编码,这样再重新导入就没问题了。 先记事本打开.csv文件,在另存里会看到文件的编码格式(ANSI)。 所以上面的步骤成功导入数据库,文件的编码是ANSI格式。...再使用相同步骤把.csv导入数据库,修改后再查看就不会出现乱码情况。

    12.9K10

    拷贝ibd实现MySQL的数据导入

    而同样的数据,测试使用sql文件导入的花费的时间:  10分钟。  二者高下立判。 附后来写的一个传输并导入远程主机的脚本: #!.../bin/bash # Description: 简单粗暴的将表空间文件传输到其他节点,并实现导入操作,线上使用出问题后果自行承担 # Date: 2017/01/08 # Author: Lee LOG...' # step1 传输*.ibd *.cfg文件到其他节点  # 参数说明: # $1 数据库名称 # $2 表名称 # $3 目标主机的地址 if [ $# -eq 3 ]; then   $MYSQL...$DATADIR$1/$2.cfg $3:/root; UNLOCK TABLES;" > /dev/null 2>&1 else   echo -e "\n\033[31mUsage: sh $0 数据库名...033[32m 传输到远程主机失败  $(date +"%F %T") \033[0m" | tee -a $LOG && exit 10 fi # step2 ssh 连接到远程节点,将拷贝的数据导入数据库

    4.7K30

    MySQL数据库(七):数据导出与导入

    一、数据导入 1.什么是导入:把系统文件的内容保存到数据库服务器的表里 2.导入数据时的注意事项?...'; *terminated by ‘分隔符’:指定列的分隔符 *lines terminated by ‘\n’:行的分隔符一般都是用’\n'(回车键) 3.例子: 1.1把系统用户信息保存到数据库服务器的...二、数据导出 1.什么是导出:把数据库表里的记录保存到系统文件里 吧mysql库下user表的所有记录保存到系统/tmp/user.txt文件里 2.导出的注意事项?...导出的内容有sql语句决定,若不指定路径,默认会放在执行导出命令时所在库对应的数据库目录下,应确保mysql用户对目标文件夹有写权限 3.导出数据命令格式:(不指定路径的话,默认文件保存在当前所在数据库的目录下...; 4.例子 导出mysql.user表到/tmp/user.txt mysql> select * from mysql.user into outfile '/tmp/user.txt'; Query

    13.9K50

    PhpMyAdmin创建导入导出MySQL数据库教程

    内容提要 PhpMyAdmin是网站管理员必须懂得使用的程序,很多新手都不会操作,笔者将图文演示使用PhpMyAdmin创建、导入、导出MySQL数据库的全过程。...一、创建MySQL用户及数据库 注:一般而言,只有PhpMyAdmin的超级管理员才可以直接使用PhpMyAdmin来创建用户和数据库,一般的虚拟主机用户是无法操作这一步的。...1.使用超级管理员账号(一般为root)登录后,点击【权限】>【添加新用户】 2.按照下图填写信息,一步步操作,最后点击【执行】就创建成功了: 二、导入MySQL数据库 注:接下来的导入和导出数据库的功能...1.点击左边栏数据库,然后点击【导入】>浏览选择你的数据库文件,最后点击【执行】 2.导入成功 三、导出MySQL数据库 在左边栏点击你要导出的数据库,然后点击【导出】>【全选】>勾选【另存为文件】...使用PhpMyAdmin创建、导入、导出MySQL数据库的教程就到这里,PhpMyAdmin的功能很强大,需要大家慢慢学习,如果你有疑问,欢迎在下面留言告知我们;

    14.5K20
    领券