更高效地利用 Jupyter+pandas 进行数据分析，6 种常用数据格式效率对比！

来源 | 早起Python（ID：zaoqi-python）

编译 | 刘早起(有删改)

头图 | CSDN 下载自东方IC

在使用 Python 进行数据分析时，Jupyter Notebook 是一个非常强力的工具，在数据集不是很大的情况下，我们可以使用 pandas 轻松对 txt 或 csv 等纯文本格式数据进行读写。

然而当数据集的维度或者体积很大时，将数据保存并加载回内存的过程就会变慢，并且每次启动 Jupyter Notebook 时都需要等待一段时间直到数据重新加载，这样 csv 格式或任何其他纯文本格式数据都失去了吸引力。

本文将对 pandas 支持的多种格式数据在处理数据的不同方面进行比较，包含 I/O速度、内存消耗、磁盘占用空间等指标，试图找出如何为我们的数据找到一个合适的格式的办法！

格式说明

现在对本文进行对比的几种数据格式进行说明。

CSV：最常用的数据格式
Pickle：用于序列化和反序列化Python对象结构
MessagePack：类似于json，但是更小更块
HDF5：一种常见的跨平台数据储存文件
Feather：一个快速、轻量级的存储框架
Parquet：Apache Hadoop的列式存储格式

指标说明

为了找到格式来存储数据，本文选择以下指标进行对比。

size_mb：带有序列化数据帧的文件的大小
save_time：将数据帧保存到磁盘所需的时间
load_time：将先前转储的数据帧加载到内存所需的时间
save_ram_delta_mb：在数据帧保存过程中最大的内存消耗增长
load_ram_delta_mb：数据帧加载过程中最大的内存消耗增长

注意，当我们使用有效压缩的二进制数据格式(例如Parquet)时，最后两个指标变得非常重要。它们可以帮助我们估算加载串行化数据所需的RAM数量，以及数据大小本身。我们将在下一部分中更详细地讨论这个问题。

对比

现在开始对前文介绍的5种数据格式进行比较，为了更好地控制序列化的数据结构和属性我们将使用自己生成的数据集。

下面是生成测试数据的代码，我们随机生成具有数字和分类特征的数据集。数值特征取自标准正态分布。分类特征以基数为C的uuid4随机字符串生成，其中2 <= C <= max_cat_size。

def generate_dataset(n_rows, num_count, cat_count, max_nan=0.1, max_cat_size=100):dataset, types = {}, {}def generate_categories():from uuid import uuid4category_size = np.random.randint(2, max_cat_size)return [str(uuid4()) for _ in range(category_size)]for col in range(num_count):name = f'n{col}'values = np.random.normal(0, 1, n_rows)nan_cnt = np.random.randint(1, int(max_nan*n_rows))index = np.random.choice(n_rows, nan_cnt, replace=False)values[index] = np.nandataset[name] = valuestypes[name] = 'float32'for col in range(cat_count):name = f'c{col}'cats = generate_categories()values = np.array(np.random.choice(cats, n_rows, replace=True), dtype=object)nan_cnt = np.random.randint(1, int(max_nan*n_rows))index = np.random.choice(n_rows, nan_cnt, replace=False)values[index] = np.nandataset[name] = valuestypes[name] = 'object'return pd.DataFrame(dataset), types

现在我们以 CSV 文件保存和加载的性能作为基准。将五个随机生成的具有百万个观测值的数据集转储到 CSV 中，然后读回内存以获取平均指标。并且针对具有相同行数的20个随机生成的数据集测试了每种二进制格式。

同时使用两种方法进行对比：

1.将生成的分类变量保留为字符串
2.在执行任何 I/O 之前将其转换为 pandas.Categorical 数据类型

1、以字符串作为分类特征

下图显示了每种数据格式的平均 I/O 时间。这里有趣的发现是 hdf 的加载速度比 csv 更低，而其他二进制格式的性能明显更好，而 feather 和 parquet 则表现的非常好。

保存数据并从磁盘读取数据时的内存消耗如何？下一张图片向我们展示了 hdf 的性能再次不那么好。但可以肯定的是，csv 不需要太多额外的内存来保存/加载纯文本字符串，而 feather 和 parquet 则非常接近。

最后，让我们看一下文件大小的对比。这次 parquet 显示出非常好的结果，考虑到这种格式是为有效存储大量数据而开发的，也是理所当然。

2、对特征进行转换

在上一节中，我们没有尝试有效地存储分类特征，而是使用纯字符串，接下来我们使用专用的 pandas.Categorical 类型再次进行比较。

从上图可以看到，与纯文本 csv 相比，所有二进制格式都可以显示其真强大功能，效率远超过 csv，因此我们将其删除以更清楚地看到各种二进制格式之间的差异。

可以看到 feather 和 pickle 拥有最快的 I/O 速度，接下来该比较数据加载过程中的内存消耗了。下面的条形图显示了我们之前提到的有关 parquet 格式的情况。

为什么parquet内存消耗这么高？因为只要在磁盘上占用一点空间，就需要额外的资源才能将数据解压缩回数据帧。即使文件在持久性存储磁盘上需要适度的容量，也可能无法将其加载到内存中。

最后我们看下不同格式的文件大小比较。所有格式都显示出良好的效果，除了hdf仍然需要比其他格式更多的空间。

结论

正如我们的上面的测试结果所示，feather 格式似乎是在多个 Jupyter 之间存储数据的理想选择。它显示出很高的 I/O 速度，不占用磁盘上过多的内存，并且在装回 RAM 时不需要任何拆包。

当然这种比较并不意味着我们应该在每种情况下都使用这种格式。例如，不希望将 feather 格式用作长期文件存储。此外，当其他格式发挥最佳效果时，它并未考虑所有可能的情况。所以我们也需要根据具体情况进行选择！

来源 | towardsdatascience、GitHub等

更多精彩推荐
☞机器人也开始"怕疼"了？科学家开发无需人工干预即可"自愈"的机器人☞对话指令集创始人兼CEO潘爱民：面向未来的新型物联网操作系统 | 人物志
☞@程序员，什么才是“2020-1024”的正确打开姿势？☞最新！百度首发 OCR 自训练平台 EasyDL OCR☞SQL分页查询方案的性能对比
☞2021年，很可能是以太坊的“高光之年”

点分享点点赞点在看