关于巫术的事很抱歉。在

问题是工作线程必须具有唯一的数据帧实例。几乎所有对Pandas数据帧进行切片或分块的尝试都会导致原始数据帧的别名。这些别名仍将导致工作线程之间的资源争用。在

有两件事可以提高性能。首先要确保你和熊猫一起工作。使用iloc或iterrows逐行迭代,这会与数据帧的设计抗衡。使用一个新样式的类对象和applya方法是一种选择。在def get_example_df():

return pd.DataFrame(pd.np.random.randint(10, 100, size=(5,5)))

class Math(object):

def __init__(self):

self.summation = 0

def operation(self, row):

row_result = 0

for elem in row:

if elem % 2:

row_result += elem

else:

row_result += 1

self.summation += row_result

if row_result % 2:

return row_result

else:

return 1

def get_summation(self):

return self.summation

Custom = Math()

df = get_example_df()

df['new_col'] = df.apply(Custom.operation)

print Custom.get_summation()

第二个选项是为每个worker读入或生成每个数据帧。然后根据需要重组。在

^{pr2}$

然而,在大多数情况下不需要多处理。我在合理的时间内(在笔记本电脑上)处理了超过600万行的数据,而没有进行多次处理。在

注意:我没有为上面的代码计时,可能还有改进的余地。在

python画图表用引用数据_如何在python pandas中对数据帧使用按引用传递相关推荐

  1. python一行输出多个数据_如何在Python中让两个print()函数的输出打印在一行内?

    1.两个连续的print()函数为什么在输出时内容会分行显示? 解:print()中有两个默认参数sep和end,其中sep是代替分隔符,end是代替末尾的换行符,默认使用','代替空格,且默认末尾加 ...

  2. linux中python如何调用matlab的数据_?如何在Python中加入多个数据帧?

    全文共2235字,预计学习时长7分钟 来源:Pexels 初学Python编程的人,面临的是各种未知的挑战. 下面是一个几乎让所有更有抱负的数据科学家都感到意外的场景: 你正在处理一个从多个源收集数据 ...

  3. python画人脸编程怎么写_如何在Python(GUI)中绘制人脸

    首先让我以我只使用过Java作为开场白,所以Python对我来说确实是个新手.结果,我甚至在检查我的程序是否工作时遇到了很多麻烦.令人沮丧.(顺便说一下,我正在使用python2.7) 我不知道怎么画 ...

  4. python画对比双色柱状图_如何在Python中绘制一列被另一列着色的柱状图?

    我有一个数据集,其中包含3列,标题为Gender(要么M要么F).House(要么A要么B要么C)和Indicator(要么0要么1).我想绘制按性别划分的房屋直方图.这是我的代码:import pa ...

  5. django前端引用数据_「基于Python技术的智慧中医商业项目」Django前端网站篇-5.资讯的数据交互...

    如果你对中医感兴趣欢迎留言讨论,觉得我的内容对你有帮助的话,能够请我喝一杯沪上阿姨不禁万分感谢. 内容简介 本章介绍Django搭建中医网站项目平台前端建设之资讯模块的数据交互的内容.其中由于代码量较 ...

  6. 用python画六边形并填充颜色_如何用Python,画一个正多边形,长度和颜色还是任意的!...

    Python画基本形状,要用到自带的turtle库,这是个简单绘图的入门小工具. 任务设定如上,下面来一点点拆解它. 从键盘获取用户输入的边数. 画笔形状由原来的三角形,改为海龟形状. 长度随机产生, ...

  7. 用python画小猪佩奇的编码_如何用python绘制小猪佩奇-python绘图教程图文讲解

    原标题:如何用python绘制小猪佩奇-python绘图教程图文讲解 如何运用python来绘制小猪佩奇呢?通过几道简单的python代码即可让你绘制出小猪佩奇,话不多说,直接上代码. 用python ...

  8. python 抓取解析接口数据_[干货]用python抓取摩拜单车API数据并做可视化分析(源码)...

    原标题:[干货]用python抓取摩拜单车API数据并做可视化分析(源码) 在APP中能看到很多单车,但走到那里的时候,才发现车并不在那里.有些车不知道藏到了哪里:有些车或许是在高楼的后面,由于有GP ...

  9. 如何提取edit control中输入的数据_如何在Power Query中提取数据——列表篇(1)

    表名为列表,第一步骤名称为源 (一)从头开始提取 1. 获取列表第一个 List.First(list as list, optionaldefaultValue as any)as any 返回列表 ...

最新文章

  1. Datawhale组队学习周报(第032周)
  2. 绿色数据中心空调技术研讨会福州召开
  3. NYOJ 119 士兵杀敌(三)
  4. SGU 185 Two shortest
  5. LeetCode 988. 从叶结点开始的最小字符串(DFS)
  6. 1 io口 stm32_从STM32分享各种硬件以及总线之GPIO简介
  7. 认识和选购极致画质的显示器
  8. 1.Kubernetes权威指南 --- Kubernetes入门
  9. 【python小工具】vbb文件提取json
  10. Linux的DNS域名解析服务
  11. zoj_2481 Unique Ascending Array
  12. vue中清除浏览器缓存得方法
  13. c语言最小公倍数最简单求法,c语言最小公倍数与最大公约数的求法集锦
  14. ECCV 2022 | k-means Mask Transformer
  15. 大学英语综合教程一 Unit 1 课文内容英译中 中英翻译
  16. UE4-如何做一个简单的TPS角色(一)-创建一个基础角色
  17. 元数据是什么意思_中国股市:股票分红10转10股派5元,你看懂是什么意思了吗?...
  18. CEF:JavaScript 调用 C++ 函数 Demo(VS2013)
  19. HPC 网络技术 — Overview
  20. 2018-910-六

热门文章

  1. 搭建网络及服务器系统,网络服务器搭建与管理
  2. java 枚举 被继承_enum不能被继承
  3. malloc 初始化_关于内存分配malloc、calloc、realloc的区别
  4. 英特尔nuc能代替主机吗_制砂机生产的沙子可靠吗?能代替天然沙子吗?
  5. spark rdd saveAsTextFile保存为文件
  6. 454. 4Sum II ——查找本质:hash最快,二分次之
  7. expo开发React Native快捷键记录
  8. 雷林鹏分享:PHP 5 时区
  9. delphi的ArrayList
  10. MySQL分区的限制(最多有多少个分区)