故事:
问题是:我有4年csv格式的数据(5.5gb)。
发布于 2016-10-22 14:06:43
在存储方面,我的MySQL没有任何限制,不过您应该看看社区版本和付费版本(即企业验证版)之间的区别。
我认为您通过选择python进行数据处理做出了正确的选择。我还处理来自多个数据源的数据,每个数据源在gigbit范围内,我使用python和MySQL。我建议您查看以下python库:
顺便说一句,您绝对可以用python打开任何csv文件。只需提供路径并使用csv库(或只使用熊猫)
是的,您可以将电子邮件发送到服务器的过程自动化,请记住,您需要使用像'os‘这样的库。
此外,由于python社区,有很多有用的信息。首先,您可以使用以下链接作为参考:
Import multiple csv files into pandas and concatenate into one DataFrame
如果您还需要使用python从Excel文件导入数据,熊猫也可以这样做(或者您可以查看xlrd库)。
https://stackoverflow.com/questions/40192779
复制相似问题