首页
学习
活动
专区
圈层
工具
发布

关于mysql导入大文本txt文件

前几天在偶然的情况下,获得了一个18G的txt文件,现在需要导入到数据库中,那么该怎么导入才能保证高效并且稳定呢?...mysql插入效率 首先应该知道的就是mysql的插入效率跟下面几个点有关 1:mysql数据库引擎,myisam,innodb,甚至是memory的插入效率都是不一样 2:索引,索引也会导致插入效率变慢...3:唯一索引冲突,在插入mysql数据库时,如果有相同数据,将会报错,降低插入效率 4:mysql硬盘,机械硬盘跟固态硬盘的插入效率也是不一样的 5:导入方法,单线程多线程等 6:mysql配置项,各种缓存区大小配置...数据库引擎 我们先测试下myisam 和innodb的插入效率对比,至于memory就不测试了.没有必要....bigint(20) DEFAULT NULL,   PRIMARY KEY (`id`) ) ENGINE=MyISAM DEFAULT CHARSET=utf8; 2者都通过 Navicat txt导入方式导入

5.3K30
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    【DB笔试面试446】如何将文本文件或Excel中的数据导入数据库?

    题目部分 如何将文本文件或Excel中的数据导入数据库?...答案部分 有多种方式可以将文本文件的数据导入到数据库中,例如,利用PLSQL Developer软件进行复制粘贴,利用外部表,利用SQL*Loader等方式。...至于EXCEL中的数据可以另存为csv文件(csv文件其实是逗号分隔的文本文件),然后导入到数据库中。 下面简单介绍一下SQL*Loader的使用方式。...txt或csv格式才能导入到数据库中。...但是数据长度的确超出4000字节长度 控制文件中对应的列后边加上CHAR(4000) 7 SQL*Loader-566 最后一行数据分隔符号后面没有回车 定义行结尾符 8 “ORA-12899: 列的值太大”错误 从文本中读取的字段值超过了数据库表字段的长度

    8.3K20

    MySQL 数据库的导入导出

    目录 ---- 目录 导出数据库 导出数据和表结构 只导出表结构 导入数据库 首先建空数据库 导入数据库 ---- 导出数据库: 导出数据和表结构: 格式: mysqldump -u用户名 -...p密码 数据库名 > 数据库名.sql 举例: /usr/local/mysql/bin/ mysqldump -uroot -p abc > abc.sql 敲回车后会提示输入密码 只导出表结构...注:/usr/local/mysql/bin/ —> mysql的data目录 导入数据库 首先建空数据库 mysql>create database abc; 导入数据库 方法一: 选择数据库...mysql>use abc; 设置数据库编码 mysql>set names utf8; 导入数据(注意sql文件的路径) mysql>source /home/abc/abc.sql;...方法二: mysql -u用户名 -p密码 数据库名 数据库名.sql mysql -uabc_f -p abc < abc.sql

    21.9K20

    Java调用SqlLoader将大文本导入数据库

    Java调用SqlLoader将大文本导入数据库 业务场景:将一千万条数据,大约500M的文本文档的数据导入到数据库   分析:通过Java的IO流解析txt文本文档,拼接动态sql实现insert入库...,可以实现,缺点如下 第一:IO流解析大文本文件对机器性能要求较高,测试大约消耗2G左右的内存 第二:拼接sql语句insert一千万条数据大约需要2小时时间,长时间insert会锁表,如果是核心业务表...,例如订单表,会造成大量用户无法下单,影响数据库的性能 第三:这种操作可扩展性不强,每次只能针对指定的表,指定的列操作 针对以上缺点,现在通过接口调用数据库系统命令实现,通过可视化界面,选择要导入的表,...要导入那些字段,上传指定的txt文本,会自动生成对应的模板文件,实现大批量数据高效率的导入到数据库,通过可配置化即可实现,相对前一种思路扩展性较强, 具体接口如下 1 package com.sun.sqlloader.api...31 * @param pwd 数据库的密码 32 * @param database 连接数据库的地址 33 * @param fileRoute 文件路径 34

    1.9K30

    视频平台如何将旧数据库导入到新数据库?

    我们在此前的文章中和大家介绍过关于TSINGSEE青犀视频平台数据库切换、迁移等相关的技术操作文章,以及在操作过程中用户遇到的疑问解决,感兴趣的用户可以自行搜索了解。...图片在使用场景中,我们也会遇到用户现场需要升级或替换版本的需求,但是在操作过程中却出现了旧版本数据库无法使用的情况。那么这时候就需要在新的数据库中导入数据,具体应该如何操作?...1)在navicat中打开新旧版本的数据库easycvr.db文件,找到对应的5个表,如图:图片2)以表DBChannelInfo为例,右击选择数据表,可以看到所有的属性:图片与新版本流媒体软件的数据库...easycvr.db文件进行对比,调整属性的位置,增加缺少的属性:图片3)导出数据库,选择全部记录,注意,导出格式为SQL:图片图片4)打开对应的新数据库的DBChannelInfo表,产出表内的所有记录...5)保存数据库easycvr.db文件,并刷新EasyCVR平台登录页面,数据库导入步骤完成。

    2.6K20

    如何将 MySQL 数据库共享给他人?

    共享 MySQL 数据库可以分为两种类型:一种是共享所有数据库给他人,另一种是共享部分数据库给他人。本文将介绍如何实现这两种共享方式,并提供详细的步骤指南。 共享所有数据库给他人 1....连接到 MySQL 数据库 首先,我们需要通过终端连接到 MySQL 数据库,输入以下命令: mysql -u root -p 2....选择要使用的数据库 连接成功后,我们需要选择要使用的数据库,通常可以选择系统自带的 mysql 数据库: use mysql; 3....结语 通过本文的介绍,我们了解了如何将 MySQL 数据库共享给他人。无论是共享所有数据库还是共享部分数据库,都可以根据实际需求选择合适的方式,并按照上述步骤进行操作。...愿本文能够帮助到你,顺利地实现 MySQL 数据库的共享功能!

    1.1K10

    如何将MyEclipse项目导入eclipse

    我们经常会在网上下载一些开源项目,或者从别的地方迁移一些项目进来,但经常会发现导入后各种报错。这是初学java肯定会遇到的问题,本文对一些常见的处理方案做一个总结。...(本文将MyEclipse项目导入eclipse的过程为例,其他情况也可参考这个流程) 这是一个用MyEclipse新建的web项目 现在,要把它导入eclipse,让我们一探究竟,到底会发生什么有趣的事情呢...打开eclipse 在左侧项目视图的空白处右键: Import -- Import -- General -- Existing Projets into Workspace Next,然后选择需要导入的项目...然后点击Finish,项目就被导入进来了。 项目出现红叉,因为有些地方需要重新配置一下。 首先,之前的MyEclipse中,用到的 jdk 或者 jre 十有八九是不一样的。

    1.5K10

    Mysql数据库导入excel和乱码问题

    mysql数据库和sqlite数据库是我们做开发最常用到的两种数据库,在我们使用mysql数据库开发时,导入excel出现中文乱码,下面的name、channel和msg这三个字段都出现了乱码的情况,只有数字是正常的...1、首先,先得到一个excel表,里面有需要我们导入的数据。 2、导入数据库,需要先把excel表转成csv格式,这样数据库才可以导入此后缀名。...4、进入mysql首先创建一个表,然后选中该表。使用工具中“导入csv文件”,注意字段分隔符改为“,”,在目标 -> 表 ->新建表;随后一直点击确定就行了。...改成utf8编码,这样再重新导入就没问题了。 先记事本打开.csv文件,在另存里会看到文件的编码格式(ANSI)。 所以上面的步骤成功导入数据库,文件的编码是ANSI格式。...再使用相同步骤把.csv导入数据库,修改后再查看就不会出现乱码情况。

    12.9K10

    MySQL数据库(七):数据导出与导入

    一、数据导入 1.什么是导入:把系统文件的内容保存到数据库服务器的表里 2.导入数据时的注意事项?...'; *terminated by ‘分隔符’:指定列的分隔符 *lines terminated by ‘\n’:行的分隔符一般都是用’\n'(回车键) 3.例子: 1.1把系统用户信息保存到数据库服务器的...二、数据导出 1.什么是导出:把数据库表里的记录保存到系统文件里 吧mysql库下user表的所有记录保存到系统/tmp/user.txt文件里 2.导出的注意事项?...导出的内容有sql语句决定,若不指定路径,默认会放在执行导出命令时所在库对应的数据库目录下,应确保mysql用户对目标文件夹有写权限 3.导出数据命令格式:(不指定路径的话,默认文件保存在当前所在数据库的目录下...; 4.例子 导出mysql.user表到/tmp/user.txt mysql> select * from mysql.user into outfile '/tmp/user.txt'; Query

    13.9K50

    PhpMyAdmin创建导入导出MySQL数据库教程

    内容提要 PhpMyAdmin是网站管理员必须懂得使用的程序,很多新手都不会操作,笔者将图文演示使用PhpMyAdmin创建、导入、导出MySQL数据库的全过程。...一、创建MySQL用户及数据库 注:一般而言,只有PhpMyAdmin的超级管理员才可以直接使用PhpMyAdmin来创建用户和数据库,一般的虚拟主机用户是无法操作这一步的。...1.使用超级管理员账号(一般为root)登录后,点击【权限】>【添加新用户】 2.按照下图填写信息,一步步操作,最后点击【执行】就创建成功了: 二、导入MySQL数据库 注:接下来的导入和导出数据库的功能...1.点击左边栏数据库,然后点击【导入】>浏览选择你的数据库文件,最后点击【执行】 2.导入成功 三、导出MySQL数据库 在左边栏点击你要导出的数据库,然后点击【导出】>【全选】>勾选【另存为文件】...使用PhpMyAdmin创建、导入、导出MySQL数据库的教程就到这里,PhpMyAdmin的功能很强大,需要大家慢慢学习,如果你有疑问,欢迎在下面留言告知我们;

    14.5K20

    如何将 EPlan 数据导入 TIA Portal

    将 AML 文件导入 EPlan Electric P8 我们在 TIA 选择工具中创建的设备被导入到 EPlan 项目中。...导入 EPlan 的设备 我们可以将这些设备拖放到机架表上以创建机器的机架布局。 机器的机架布局 在 Bus 页面上,我们可以为我们的机器创建网络配置。...从 EPlan 导出控制配置 TIA 博途 在 TIA Portal 中,我们可以使用工具 > 导入 CAx 数据从 EPlan 导入 AML 文件。...将 CAx 数据导入 TIA Portal TIA Portal 从 AML 文件中读取详细信息,并在我们的设备和网络视图中自动创建设备以及它们之间的互连。...导入到 TIA Portal 的设备和网络配置 在项目结束时,项目数据可以从 TIA Portal 导出到 AML 文件,然后导入回 EPlan,确保在电气图纸中正确捕获竣工数据。

    2.7K30
    领券