pandas合并数据使用append。比如我要合并一个文件夹里面所有的pic类型的数据,那么先使用os模块,把所有文件名列出,
然后依次读入成dataframe, 读入过程中,一次append,

如果批量合并数据,并且数据列都是相同的,那么直接使用
append就可以了。
首先建立一个空空的数据表,

df = pd.DataFrame()

然后利用for循环,把数据表一个一个追加到df里面。最后形成的就是合并的总数据。

import os
os.listdir("dcy")
#数据集中最后一个不是数据文件
dcy_dir = os.listdir('dcy')[:-1]
dcy_dir
#dcy_data 是一个目录列表
dcy_data = []for i in range(len(dcy_dir)):dcy_data.append(dcy_dir[i])
#查看列表的文件名
dcy_data[1]
len(dcy_data)
#建立一个空数据
data = pd.DataFrame()
#合并,每读一次,保留需要的列
for pic in dcy_data:df_pic = pd.read_pickle('dcy/{}'.format(pic))df_pic['ld_name'] = picdf_pic = df_pic[["fid","ld_name", "subject", "content", "dateline", "stateInfo", "traceInfo", "domainName", "typeName", "title", "post_content", "reply_time", "reply_content", "comments_list", "sat_lsit", "score_list"]]data = data.append(df_pic)
#查看
data.shapedata.iloc[10, ]

pandas 合并数据相关推荐

  1. python pandas 合并数据

    问题是这样的,我有一个数据表集合,包括很多省份的年份数据.如下图: 每个表格数据表内部是这种: 比如上海: 再比如 云南 现在想要把31个省份合并到一个大表, 就是如下. 可以使用下面的命令: def ...

  2. python(numpy,pandas10)——pandas 合并数据 concat,append

    文章目录 前言 concat 参数axis,ignore_index 参数join append append添加一个数据索引不同的数列 前言 根据 莫烦Python的教程 总结写成,以便自己复习和使 ...

  3. pandas使用append函数在dataframe上纵向合并数据实战:多个dataframe合并、合并series左右dataframe的一样、合并字典数据作为dataframe的行

    pandas使用append函数在dataframe上纵向合并数据实战:多个dataframe合并.合并series左右dataframe的一样.合并字典数据作为dataframe的行 目录

  4. pandas纵向合并数据

    pandas纵向合并数据

  5. pandas python csv_python:pandas合并csv文件的方法(图书数据集成)

    数据集成:将不同表的数据通过主键进行连接起来,方便对数据进行整体的分析. 两张表:ReaderInformation.csv,ReaderRentRecode.csv ReaderInformatio ...

  6. 【Python基础】一文搞定pandas的数据合并

    作者:来源于读者投稿 出品:Python数据之道 一文搞定pandas的数据合并 在实际处理数据业务需求中,我们经常会遇到这样的需求:将多个表连接起来再进行数据的处理和分析,类似SQL中的连接查询功能 ...

  7. c++控制台应用每一列数据如何对齐_懂Excel就能轻松入门Python数据分析包pandas(十六):合并数据...

    此系列文章收录在公众号中:数据大宇宙 > 数据处理 >E-pd 转发本文并私信我"python",即可获得Python资料以及更多系列文章(持续更新的) 经常听别人说 ...

  8. pandas之数据合并

    在数据处理中,不免会遇到数据之间的合并.学过关系数据库的童鞋应该都清楚数据表之间的连接.今天要说的数据合并其实和数据表之间的连接有很多相似之处.由于 pandas 库在数据分析中比较方便而且用者较多, ...

  9. 一文搞定pandas的数据合并

    作者:来源于读者投稿 出品:Python数据之道 一文搞定pandas的数据合并 在实际处理数据业务需求中,我们经常会遇到这样的需求:将多个表连接起来再进行数据的处理和分析,类似SQL中的连接查询功能 ...

最新文章

  1. EF-Linq将查询结果转换为Liststring
  2. 彻底炸锅了!华为新天才少年出炉:武大94年博士生入选!任正非最新发声:江山代有才人出,不拘一格降人才!...
  3. [SCOI2005]扫雷
  4. 物流管理论文实现:基于遗传算法的带时间窗和载重约束的车辆路径优化
  5. matplotlib - ax.bar()ax.pie()
  6. php滴滴平台接口,图片服务API文档
  7. Windows中添加svnserve作为系统服务
  8. PHP设置按钮不可用,css怎么控制按钮不可用,button按钮css样式
  9. Memcache监控小工具stats命令
  10. linkedin api php,php – 如何使用linkedin api发送消息/通知?
  11. Matlab在高等数学中应用
  12. 华为鸿蒙系统操作教程_华为鸿蒙操作系统入门到精通教程
  13. Python标准库collections库:超好用的counter计数器,不接受反驳!
  14. Context Menus
  15. C#opencv(opencvsharp)- 打开笔记本相机显示画面
  16. 源码阅读工具-understand
  17. 人工智能入门参考资料
  18. 级数收敛与交换运算顺序
  19. hiredis的各种windows版本
  20. semantic-ui基础使用

热门文章

  1. 悬浮框_纯HTML实现某宝优惠券、商品列表和活动悬浮等布局(文末有源码)
  2. 不得自行对涉密计算机进行格式化,保密资格认证-涉密人员考试试题
  3. 雷达篇(八)合成孔径雷达工作模式
  4. 基于NSGAII的多目标优化算法的MATLAB仿真
  5. Git漏洞导致攻击者可在用户电脑上运行任意代码
  6. mysql分区方案的研究
  7. sqlserver 多排序的问题
  8. 探秘Hadoop生态12:分布式日志收集系统Flume
  9. [01分数规划]【学习笔记】
  10. 利用Traefik+Docker构建可弹性扩展的微服务或服务集群