首页
学习
活动
专区
圈层
工具
发布
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    数据分析利器 pandas 系列教程(五):合并相同结构的 csv

    这是 月小水长 的第 122 篇原创干货 距离上一篇 pandas 系列教程:数据分析利器 pandas 系列教程(四):对比 sql 学 pandas 发布已经过去大半年,近来才记起以前开了这样一个坑...,本篇是本系列 pandas 实战 tricks 的首篇,不求大而全,力争小而精。...大家可能经常会有这样的需求,有很多结构相同的 xlsx 或者 csv 文件,需要合并成一个总文件,并且在总文件中需要保存原来的子文件名,一个例子就是合并一个人所有微博下的所有评论,每条微博的所有评论对应一个...csv 文件,文件名就是该条微博的 id,合并之后新增一列保存微博 id,这样查看总文件的时候能直观看到某一条评论属于哪一条微博。...只要某文件夹下所有的 csv 文件结构相同,在文件夹路径运行以下代码就能自动合并,输出结果在 all.csv ,结果 csv 在原有的 csv 结构上新增一列 origin_file_name,值为原来的

    1.8K30

    Pandas库的基础使用系列---获取行和列

    前言我们上篇文章简单的介绍了如何获取行和列的数据,今天我们一起来看看两个如何结合起来用。获取指定行和指定列的数据我们依然使用之前的数据。...我们先看看如何通过切片的方法获取指定列的所有行的数据info = df.loc[:, ["2021年", "2017年"]]我们注意到,行的位置我们使用类似python中的切片语法。...我们试试看如何将最后一列也包含进来。info = df.iloc[:, [1, 4, -1]]可以看到也获取到了,但是值得注意的是,如果我们使用了-1,那么就不能用loc而是要用iloc。...大家还记得它们的区别吗?可以看看上一篇文章的内容。同样我们可以利用切片方法获取类似前4列这样的数据df.iloc[:, :4]由于我们没有指定行名称,所有指标这一列也计算在内了。...如果要使用索引的方式,要使用下面这段代码df.iloc[2, 2]是不是很简单,接下来我们再看看如何获取多行多列。为了更好的的演示,咱们这次指定索引列df = pd.read_excel("..

    5.4K00

    Java 导出 Excel,相同列数据相同的情况下合并单元格【POI的相关依赖自行百度添加】

    Java 导出 Excel,相同列数据相同的情况下合并单元格【POI的相关依赖自行百度添加】 一、PoiModel 类用来记录 上一行数据 package com.hypersmart.dashboard.util.excelUtils...* @param @param widthAttr 单元格宽度 * @param @param maps 数据 * @param @param mergeIndex 要合并的列...,只能从第二列开始*/ /*当前同一列的内容与上一行同一列不同时,把那以上的合并, 或者在当前元素一样的情况下,前一列的元素并不一样,这种情况也合并...*/ /*如果不需要考虑当前行与上一行内容相同,但是它们的前一列内容不一样则不合并的情况,把下面条件中||poiModels.get(i)...,所有当到最后一行时则直接合并对应列的相同内容 加2是因为标题行前面还有2行*/ if(mergeIndex[j] == i && index

    6.1K10

    Excel与pandas:使用applymap()创建复杂的计算列

    标签:Python与Excel,pandas 我们之前讨论了如何在pandas中创建计算列,并讲解了一些简单的示例。...通过将表达式赋值给一个新列(例如df['new column']=expression),可以在大多数情况下轻松创建计算列。然而,有时我们需要创建相当复杂的计算列,这就是本文要讲解的内容。...记住,我们永远不应该循环遍历pandas数据框架/系列,因为如果我们有一个大的数据集,这样做效率很低。...pandas applymap()方法 pandas提供了一种将自定义函数应用于列或整个数据框架的简单方法,就是.applymap()方法,这有点类似于map()函数的作用。...图3 我们仍然可以使用map()函数来转换分数等级,但是,需要在三列中的每一列上分别使用map(),而applymap()能够覆盖整个数据框架(多列)。

    7.4K10

    Pandas 查找,丢弃列值唯一的列

    前言 数据清洗很重要,本文演示如何使用 Python Pandas 来查找和丢弃 DataFrame 中列值唯一的列,简言之,就是某列的数值除空值外,全都是一样的,比如:全0,全1,或者全部都是一样的字符串如...:已支付,已支付,已支付… 这些列大多形同虚设,所以当数据集列很多而导致人眼难以查找时,这个方法尤为好用。...上代码前先上个坑吧,数据列中的空值 NaN 也会被 Pandas 认为是一种 “ 值 ”,如下图: 所以只要把列的缺失值先丢弃,再统计该列的唯一值的个数即可。...代码实现 数据读入 检测列值唯一的所有列并丢弃 最后总结一下,Pandas 在数据清洗方面有非常多实用的操作,很多时候我们想不到只是因为没有接触过类似的案例或者不知道怎么转换语言描述,比如 “...列值唯一 ” --> “ 除了空值以外的唯一值的个数等于1 ” ,许多坑笔者都已经踩过了,欢迎查看我的其余文章,提建议,共同进步。

    11K21

    Pandas将三个聚合结果的列,如何合并到一张表里?

    一、前言 前几天在Python最强王者交流群【斌】问了一个Pandas数据处理的问题,一起来看看吧。 求教:将三个聚合结果的列,如何合并到一张表里?这是前两列,能够合并。...这是第三列,加权平均,也算出来了。但我不会合并。。。。 二、实现过程 后来【隔壁山楂】给了一个思路,Pandas中不能同时合并三个及以上,如下所示,和最开始的那一句一样,改下即可。...顺利地解决了粉丝的问题。另外也说下,推荐这个写法,df=pd.merge(df1, df2, on="列名1", how="left")。 三、总结 大家好,我是皮皮。...这篇文章主要盘点了一个Pandas数据处理的问题,文中针对该问题,给出了具体的解析和代码实现,帮助粉丝顺利解决了 ------------------- End -------------------

    1.5K20

    数据合并:pandas的concat()方法

    阅读完本,你可以知道: 1 数据合并是什么 2 pandas的concat()方法使用 1 数据合并 数据合并是PDFMV框架中Data环节的重要操作之一。...当我们为要解决的业务问题需要整合各方数据时,意味着需要进行数据合并处理了。数据合并的可以纵向合并,也可以横向合并,前者是按列拓展,生成长数据;后者是按行延伸,生成宽数据,也就是我们常说的宽表。 ?...2 pandas的concat()方法 pandas库提供了concat()方法来完成数据的合并。...,设置为某个数据框的索引,表示按着指定索引进行数据横向合并 例子1: import pandas as pd data1 = {'Name':['Jai', 'Princi', 'Gaurav',...该方法的参数集: ? 关于pandas的concat()方法,您有什么疑问或者想法请留言。

    4.7K30

    在 Pandas 中使用 Merge、Join 、Concat合并数据的效率对比

    在 Pandas 中有很多种方法可以进行DF的合并。本文将研究这些不同的方法,以及如何将它们执行速度的对比。 合并DF Pandas 使用 .merge() 方法来执行合并。...我们可以使用参数‘on’参数指定根据哪列进行合并。...Pandas 中的Merge Joins操作都可以针对指定的列进行合并操作(SQL中的join)那么他们的执行效率是否相同呢?...两个 DataFrame 都有相同数量的行和两列,实验中考虑了从 100 万行到 1000 万行的不同大小的 DataFrame,并在每次实验中将行数增加了 100 万。...但是,Join的运行时间增加的速度远低于Merge。 如果需要处理大量数据,还是请使用join()进行操作。

    3.1K50
    领券