版权声明:本文为 cheng-zhi 原创文章,可以随意转载,但必须在明确位置注明出处!

Arena简介

Arena是leveldb项目里面使用的轻量级的内存池对象,leveldb 用这个对象来管理内存的分配,简化了new和delete的调用,我们也可以从这个轻量级的内存池对象学习 google 大神工程师是如何管理内存的。

内存管理模型

这是罗道文网站上关于 leveldb 的一张 Arena 的内存模型图:



Arena使用下面几个成员变量来描述上面的模型图:

// 当前内存块未分配内存的起始地址
char* alloc_ptr_;// 当前内存块剩余的内存
size_t alloc_bytes_remaining_;// Arena 使用 vector 来存储每个内存块的地址
std::vector<char*> blocks_;// 当前 Arena 已经分配的总内存量
port::AtomicPointer memory_usage_;

在开始分析之前你需要了解申请内存和分配内存的区别:

  • 申请内存:使用 new 来向操作系统申请一块连续的内存区域。
  • 分配内存:将已经申请的内存分配给项目组件使用,这体现在增加 alloc_ptr_ 和减少 alloc_bytes_remaining_ 这两个指针上。

为什么要强调这两个概念呢?因为 Arena 是一个内存池,他的功能就是内存的管理,包括申请内存,分配内存,释放内存。

Arena 的构造和析构位于Arena源码:/leveldb/util/arena.h, /leveldb/util/arena.cc

// 良好的初始化风格
Arena::Arena() : memory_usage_(0) {alloc_ptr_ = NULL;  alloc_bytes_remaining_ = 0;
}Arena::~Arena() {// 分别释放 vector 中每个指针指向的内存块for (size_t i = 0; i < blocks_.size(); i++) {delete[] blocks_[i];}
}

Arena 提供的接口函数

Arena给我们提供了3个public 函数来简化我们的内存访问:

public:// 基本的内存分配函数char* Allocate(size_t bytes);// 按照字节对齐来分配内存char* AllocateAligned(size_t bytes);// 返回目前分配的总的内存size_t MemoryUsage() const;

下面一一分析。

Allocate

这是一个最重要的内存分配函数,这个函数会根据你要申请的内存大小来调用另外两个私有的内存分配函数:

inline char* Arena::Allocate(size_t bytes) {// 不需要分配 0 字节的内存assert(bytes > 0);// 申请的内存小于剩余的内存,就直接在当前内存块上分配内存if (bytes <= alloc_bytes_remaining_) {char* result = alloc_ptr_;alloc_ptr_ += bytes;alloc_bytes_remaining_ -= bytes;return result;}// 申请的内存的大于当前内存块剩余的内存,就用这个函数来重新申请内存return AllocateFallback(bytes);
}

AllocateFallback

在申请的内存大于当前块剩余内存时,AllocateFallback会被调用,它提供 2 种申请内存的策略:(默认内存块大小4096KB)

  1. 申请的内存 <= 默认内存块大小的1/4,重新申请一个默认大小的内存块 (4096 KB)。
  2. 申请的内存 > 默认内存块大小的1/4,直接申请一个需要的的 bytes 大小的内存块。

第二种分配方法的理由是可以减少内存分配的次数,分析如下:

假如我当前块剩余 900 KB 内存,而我需要申请 1200 KB 内存,如果我直接申请一块大小为 1200 KB 的内存块,就只需要申请一次;但是如果我在当前块先分配 900 KB 内存,然后再申请一个新的 4096 KB 的内存块,再在里面分配 1200 - 900 = 300 KB 的内存,这样就需要申请 1 次内存,分配两次内存,效率低下了不少(在分配比较频繁的时候),因此这样直接申请并分配一个 bytes 大小的内存块非常高效方便。

// bytes 代表实际要申请的内存大小
char* Arena::AllocateFallback(size_t bytes) {// kBlockSize = 4096 KB// bytes > 1 / 4 (1024 KB),调用 AllocateNewBlock 申请一块新的大小为 bytes 的内存if (bytes > kBlockSize / 4) {char* result = AllocateNewBlock(bytes);return result;}// bytes < 1 / 4 (1024 KB),申请一个默认大小为 4096 KB 的内存块alloc_ptr_ = AllocateNewBlock(kBlockSize);alloc_bytes_remaining_ = kBlockSize;// 在申请的默认大小的内存块里分配 bytes 字节内存char* result = alloc_ptr_;alloc_ptr_ += bytes;alloc_bytes_remaining_ -= bytes;return result;
}

AllocateNewBlock

这是AllocateNewBlock 的实现,它就是简单的申请了一个 block_bytes 大小的内存块:

char* Arena::AllocateNewBlock(size_t block_bytes) {// 申请一个 block_bytes 大小的内存块char* result = new char[block_bytes];// 向 vector 中添加这个内存块的地址blocks_.push_back(result);// 增加当前内存分配的总量memory_usage_.NoBarrier_Store(reinterpret_cast<void*>(MemoryUsage() + block_bytes + sizeof(char*)));return result;
}

AllocateAligned

这个函数可以分配字节对齐的内存,实现稍微有些复杂,不过仔细分析还是有很多营养的,注释很详细:

char* Arena::AllocateAligned(size_t bytes) {// 设置要对齐的字节数,最多 8 字节对齐,否则就按照当前机器的 void* 的大小来对齐const int align = (sizeof(void*) > 8) ? sizeof(void*) : 8;// 字节对齐必须是 2 的次幂, 例如 align = 8// 8 & (8 - 1) = 1000 & 0111 = 0, 表示 8 是字节对齐的assert((align & (align-1)) == 0);   // 了解一个公式:A & (B - 1) = A % B// 所以,这句话的意思是将 alloc_ptr_ % align 的值强制转换成 uintptr_t 类型// 这个 uintptr_t 类型代表了当前机器的指针大小size_t current_mod = reinterpret_cast<uintptr_t>(alloc_ptr_) & (align-1);// 如果上面的代码返回 0 代表当前 alloc_ptr_ 已经是字节对齐了// 否则就计算出对齐的偏差// 例如 current_mod = 2, 则还需要 8 - 2 = 6 个字节才能使得 alloc_ptr 按照 8 字节对齐size_t slop = (current_mod == 0 ? 0 : align - current_mod);// 分配的字节数加上对齐偏差就是最后需要分配的内存字节总量size_t needed = bytes + slop;char* result;// 当总量小于当前内存块的剩余大小,就直接在当前内存块分配 needed 大小的内存if (needed <= alloc_bytes_remaining_) {result = alloc_ptr_ + slop;alloc_ptr_ += needed;alloc_bytes_remaining_ -= needed;} else {// 否则就按照这个函数的内存分配策略来申请内存,见上面的分析result = AllocateFallback(bytes);}assert((reinterpret_cast<uintptr_t>(result) & (align-1)) == 0);return result;
}

总结

总的来说,Arena 有 3 种内存分配策略,下面申请的内存用 bytes 表示:

  1. bytes <= 当前块剩余内存 => 直接在当前块分配。
  2. bytes <= 1024 KB => 直接申请一个默认大小为4096KB的内存块,然后分配内存。
  3. bytes > 1024 KB => 直接申请一个新的大小为bytes的内存块,并分配内存。

Arena 是一个内存池对象,用来管理 leveldb 的内存分配,可以说是整个项目非常重要的模块了,不可不知。

leveldb Arena分析(转载)相关推荐

  1. leveldb Arena 分析

    leveldb Arena 分析 版权声明:本文为 cheng-zhi 原创文章,可以随意转载,但必须在明确位置注明出处! Arena Arena 是 leveldb 项目里面使用的轻量级的内存池对象 ...

  2. LevelDB Arena源码分析

    欢迎访问我的个人博客 https://vincillau.github.io/ 文章目录 欢迎访问我的个人博客 https://vincillau.github.io/ LevelDB Arena源码 ...

  3. 差异表达基因分析[转载]

    转自:https://wenku.baidu.com/view/2532ab5176c66137ef06191a.html 1.转录组 2.转录组研究重要性 3.转录组研究技术 3.1三种的比较 3. ...

  4. 远程教育中教师能力特点分析(转载)

    学生自主学习是远程教育的基本特性.自主学习是指学生可以对学习作自由的.灵活的安排或选择.远程教育产生和发展的基本动因和目的就是要有效地实现学生的这种安排和选择.因此,从这一意义上说,学生自主学习是远程 ...

  5. RPC调用框架比较分析--转载

    原文地址:http://itindex.net/detail/52530-rpc-%E6%A1%86%E6%9E%B6-%E5%88%86%E6%9E%90 什么是RPC:  RPC(Remote P ...

  6. apache kafka源码分析-Producer分析---转载

    原文地址:http://www.aboutyun.com/thread-9938-1-1.html 问题导读 1.Kafka提供了Producer类作为java producer的api,此类有几种发 ...

  7. MySQL批量更新死锁案例分析--转载

    问题描述 在做项目的过程中,由于写SQL太过随意,一不小心就抛了一个死锁异常,如下: [java] view plaincopyprint? com.mysql.jdbc.exceptions.jdb ...

  8. 单因素方差分析[转载]

    转自:https://blog.csdn.net/ch1209498273/article/details/78322701 http://www.cnblogs.com/think-and-do/p ...

  9. HashMap源码分析(转载)

    一.HashMap概述 HashMap基于哈希表的 Map 接口的实现.此实现提供所有可选的映射操作,并允许使用 null 值和 null 键.(除了不同步和允许使用 null 之外,HashMap  ...

  10. linux下载ccle数据,对CCLE数据库可以做的分析--转载

    转载:http://www.bio-info-trainee.com/1327.html 收集了那么多的癌症细胞系的表达数据,拷贝数变异数据,突变数据,总不能放着让它发霉吧! 这些数据可以利用的地方非 ...

最新文章

  1. new Integer 和 Integer.valueOf 有什么不同
  2. android intent.putextras,关于android:如何使用putExtra()和getExtra()来表示字符串数据
  3. 120天的烧脑只为孩子设计一套教具~
  4. 训练集的识别率一直波动_机器学习验证集为什么不再有新意?
  5. apache和mysql 403_如何使用mysql(lamp)分离环境搭建dedecms织梦网站及apache服务器常见的403http状态码及其解决方法...
  6. deployment:声明式的升级应用
  7. 好用到爆!电脑必装软件清单,四款软件工具,一个都绝不能少!让你的电脑瞬间开挂!
  8. 深入浅出面板数据分析
  9. c语言三角形的周长和面积公式,计算三角形的周长和面积
  10. Apache Curator客户端的使用
  11. 薛兆丰经济学讲义 | 第2章 成本
  12. urlencode的使用
  13. 华为推出智能眼镜;苹果首次在俄罗斯被起诉
  14. 剑指 Offer 33. 二叉搜索树的后序遍历序列
  15. type接口和class的区别(类型和类)
  16. SQL 的日期函数 day() 、month()、year()
  17. android 动态注册sdcard插播事件监听器
  18. Win10系统VS2015上配置YOLOv3运行训练环境(包含OpenCv3.40安装配置,cuda9.2安装配置)
  19. idea操作redis
  20. 2020TED演讲学习分享(正念、焦虑、目标、决策)

热门文章

  1. 摘抄:不注明来源,就是违反契约
  2. MAC下的环境变量配置
  3. 云安全:这也是需要花大钱去建设的部分
  4. IBM最新调研表明:大数据等于大回报
  5. 7.通过scp命令从linux服务器下载文件夹
  6. NIST:制定Cybersecurity的框架进行时
  7. 10.企业应用架构模式 --- 数据源架构模式
  8. 1.Docket 安装简介
  9. 12. No More MVC
  10. 50. PHP 页面静态化(3)