首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >大型数据上传过程中的MySQL错误

大型数据上传过程中的MySQL错误
EN

Server Fault用户
提问于 2011-07-29 16:56:11
回答 2查看 1.4K关注 0票数 2

我使用python脚本和python库MySQLdb将大量数据上传到本地MySQL数据库。当我使用数据样本时,一切运行良好并上传。现在,我正在使用我的所有数据(大约300000行,分成12000个文本文件),并收到以下错误:

代码语言:javascript
复制
"OperationalError: (2003, ""Can't connect to MySQL server on 'localhost' (10055)"")"    

在崩溃的时候,它已经上传了17231行信息。我在桌面计算机上使用Python2.7、Win7 64和MySQL 5.1.53。我使用了WAMP安装,并使用PhpMyAdmin查看数据。下面是我用来上传数据的函数的一个例子:

代码语言:javascript
复制
# upload data
def updateDB(db, table, values):

    db = MySQLdb.connect (host = 'localhost', user = 'root', passwd = '', db = db)
    cursor = db.cursor()
    print str(values)
    cursor.execute(makeSQLHeader(table, values), values)     
    db.commit()
    db.close()

这对于测试数据很好,对于我的所有数据,文本文件结构都是相同的。解决这个问题的好策略是什么?

EN

回答 2

Server Fault用户

回答已采纳

发布于 2011-07-29 17:19:44

我在这方面的两个想法是,要么需要很长时间才能加载,要么就是中断与超时的连接。在python 在这里发现的中有一些自动重新连接的方法,下面是mysql中的相关超时变量:等_超时互动式_超时

第二个想法,从评论中的讨论来看,它看起来是正确的。通过打开每个文件的连接,您可能达到了mysql连接限制。

尝试打开一个连接并运行测试(当您这样做时,您可能会达到超时,这取决于所用的时间)。

票数 4
EN

Server Fault用户

发布于 2011-07-29 17:33:23

这可能是因为您遇到了最大允许数据包的限制。您可以在my.cnf中设置如下内容:

代码语言:javascript
复制
max_allowed_packet=12M

有关更多信息,请参见这篇文章参考指南中的MySQL。

票数 2
EN
页面原文内容由Server Fault提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://serverfault.com/questions/295579

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档