一文看懂内存池原理及创建（C++实现）

1. 什么是内存池

1.1 池化技术

池是在计算技术中经常使用的一种设计模式，其内涵在于：将程序中需要经常使用的核心资源先申请出来，放到一个池内，有程序自管理，这样可以提高资源的利用率，也可以保证本程序占有的资源数量，经常使用的池化技术包括内存池，线程池，和连接池等，其中尤以内存池和线程池使用最多

1.2 内存池

内存池（Memory Pool）是一种动态内存分配与管理技术，通常情况下，程序员习惯直接使用new，delete，malloc,free等API申请和释放内存，这样导致的后果就是：当程序运行的时间很长的时候，由于所申请的内存块的大小不定，频繁使用时会造成大量的内存碎片从而降低程序和操作系统的性能。
内存池则是在真正使用内存之前，先申请分配一大块内存（内存池）留作备用。当程序员申请内存时，从池中取出一块动态分配，当程序员释放时，将释放的内存放回到池内，再次申请，就可以从池里取出来使用，并尽量与周边的空闲内存块合并。若内存池不够时，则自动扩大内存池，从操作系统中申请更大的内存池。
2. 为什么需要内存池

2.1 内存碎片问题
造成堆利用率很低的一个主要原因就是内存碎片化。如果有未使用的存储器，但是这块存储器不能用来满足分配的请求，这时候就会产生内存碎片化问题。内存碎片化分为内部碎片和外部碎片。
- 内碎片
  内部碎片是指一个已分配的块比有效载荷大时发生的。(假设以前分配了10个大小的字节，现在只用了5个字节，则剩下的5个字节就会内碎片)。内部碎片的大小就是已经分配的块的大小和他们的有效载荷之差的和。因此内部碎片取决于以前请求内存的模式和分配器实现(对齐的规则)的模式。
- 外碎片
  假设系统依次分配了16byte、8byte、16byte、4byte，还剩余8byte未分配。这时要分配一个24byte的空间，操作系统回收了一个上面的两个16byte，总的剩余空间有40byte，但是却不能分配出一个连续24byte的空间，这就是外碎片问题。
  
  2.2 申请效率问题
  例如：我们上学家里给生活费一样，假设一学期的生活费是6000块。
  方式1：开学时6000块直接给你，自己保管，自己分配如何花。
  方式2：每次要花钱时，联系父母，父母转钱。
  同样是6000块钱，第一种方式的效率肯定更高，因为第二种方式跟父母的沟通交互成本太高了。
  同样的道理，程序就像是上学的我们，操作系统就像父母，频繁申请内存的场景下，每次需要内存，都像系统申请效率必然有影响。
3.内存池设计

3.1 为什么要使用内存池
- 解决内碎片问题
- 由于向内存申请的内存块都是比较大的，所以能够降低外碎片问题
- 一次性向内存申请一块大的内存慢慢使用，避免了频繁的向内存请求内存操作，提高内存分配的效率
- 但是内碎片问题无法避免，只能尽可能的降低
3.2 内存池的演变
- 最简单的内存分配器
  做一个链表指向空闲内存，分配就是取出一块来，改写链表，返回，释放就是放回到链表里面，并做好归并。注意做好标记和保护，避免二次释放，还可以花点力气在如何查找最适合大小的内存快的搜索上，减少内存碎片，有空你了还可以把链表换成伙伴算法。
  优点： 实现简单
  缺点： 分配时搜索合适的内存块效率低，释放回归内存后归并消耗大，实际中不实用。
- 定长内存分配器
  即实现一个 FreeList，每个 FreeList 用于分配固定大小的内存块，比如用于分配 32字节对象的固定内存分配器，之类的。每个固定内存分配器里面有两个链表，OpenList 用于存储未分配的空闲对象，CloseList用于存储已分配的内存对象，那么所谓的分配就是从 OpenList 中取出一个对象放到 CloseList 里并且返回给用户，释放又是从 CloseList 移回到 OpenList。分配时如果不够，那么就需要增长 OpenList：申请一个大一点的内存块，切割成比如 64 个相同大小的对象添加到 OpenList中。这个固定内存分配器回收的时候，统一把先前向系统申请的内存块全部还给系统。
  优点： 简单粗暴，分配和释放的效率高，解决实际中特定场景下的问题有效。
  缺点： 功能单一，只能解决定长的内存需求，另外占着内存没有释放。
- 哈希映射的FreeList 池
  在定长分配器的基础上，按照不同对象大小(8，16，32，64，128，256，512，1k…64K),构造十多个固定内存分配器，分配内存时根据要申请内存大小进行对齐然后查H表，决定到底由哪个分配器负责，分配后要在内存头部的 header 处写上 cookie，表示由该块内存哪一个分配器分配的，这样释放时候你才能正确归还。如果大于64K，则直接用系统的 malloc作为分配，如此以浪费内存为代价你得到了一个分配时间近似O(1)的内存分配器。这种内存池的缺点是假设某个 FreeList 如果高峰期占用了大量内存即使后面不用，也无法支援到其他内存不够的 FreeList，达不到分配均衡的效果。
  优点： 这个本质是定长内存池的改进，分配和释放的效率高。可以解决一定长度内的问题。
  缺点： 存在内碎片的问题，且将一块大内存切小以后，申请大内存无法使用。多线程并发场景下，锁竞争激烈，效率降低。
  范例： sgi stl 六大组件中的空间配置器就是这种设计实现的。
  
  关于STL空间配置器参考： https://blog.csdn.net/LF_2016/article/details/53511648
- 了解malloc底层原理
  关于malloc底层: https://blog.csdn.net/hudazhe/article/details/79535220
  malloc优点: 使用自由链表的数组，提高分配释放效率；减少内存碎片，可以合并空闲的内存
  **malloc缺点: ** 为了维护隐式/显示链表需要维护一些信息，空间利用率不高；在多线程的情况下，会出现线程安全的问题，如果以加锁的方式解决，会大大降低效率。
4.并发内存池

4.1 项目介绍
我写这个项目呢，主要是为了学习，参考的是tc_malloc，项目设计分为三层结构：
- 第一层是Thread Cache，线程缓存是每个线程独有的，在这里设计的是用于小于64k的内存分配，线程在这里申请不需要加锁，每一个线程都有自己独立的cache，这也就是这个项目并发高效的地方。
- 第二层是Central Cache，在这里是所有线程共享的，它起着承上启下的作用，Thread Cache是按需要从Central Cache中获取对象，它就要起着平衡多个线程按需调度的作用，既可以将内存对象分配给Thread Cache来的每个线程，又可以将线程归还回来的内存进行管理。Central Cache是存在竞争的，所以在这里取内存对象的时候是需要加锁的，但是锁的力度可以控制得很小。
- 第三层是Page Cache，存储的是以页为单位存储及分配的，Central Cache没有内存对象(Span)时，从Page cache分配出一定数量的Page，并切割成定长大小的小块内存，分配给Central Cache。Page Cache会回收Central Cache满足条件的Span(使用计数为0)对象，并且合并相邻的页，组成更大的页，缓解内存碎片的问题。
注：怎么实现每个线程都拥有自己唯一的线程缓存呢？
为了避免加锁带来的效率，在Thread Cache中使用（tls）thread local storage保存每个线程本地的Thread Cache的指针，这样Thread Cache在申请释放内存是不需要锁的。因为每一个线程都拥有了自己唯一的一个全局变量。
TLS分为静态的和动态的：
静态的TLS是：直接定义
动态的TLS是：调用系统的API去创建的，我们这个项目里面用到的就是静态的TLS
https://blog.csdn.net/evilswords/article/details/8191230
https://blog.csdn.net/yusiguyuan/article/details/22938671

4.2 设计Thread Cache

ThreadCache.h:
```
#pragma once#include "Common.h"class ThreadCache
{private:Freelist _freelist[NLISTS];//自由链表public://申请和释放内存对象void* Allocate(size_t size);void Deallocate(void* ptr, size_t size);//从中心缓存获取对象void* FetchFromCentralCache(size_t index, size_t size);//释放对象时，链表过长时，回收内存回到中心堆void ListTooLong(Freelist* list, size_t size);
};//静态的，不是所有可见
//每个线程有个自己的指针, 用(_declspec (thread))，我们在使用时，每次来都是自己的，就不用加锁了
//每个线程都有自己的tlslist
_declspec (thread) static ThreadCache* tlslist = nullptr;
```
申请内存:
- 当内存申请size<=64k时在Thread Cache中申请内存，计算size在自由链表中的位置，如果自由链表中有内存对象时，直接从FistList[i]中Pop一下对象，时间复杂度是O(1)，且没有锁竞争。
- 当FreeList[i]中没有对象时，则批量从Central Cache中获取一定数量的对象，插入到自由链表并返回一个对象。
释放内存：
- 当释放内存小于64k时将内存释放回Thread Cache，计算size在自由链表中的位置，将对象Push到FreeList[i].
- 当链表的长度过长，也就是超过一次向中心缓存分配的内存块数目时则回收一部分内存对象到Central Cache。
4.3 对齐大小的设计（对齐规则）
```
//专门用来计算大小位置的类
class SizeClass
{public://获取Freelist的位置inline static size_t _Index(size_t size, size_t align){size_t alignnum = 1 << align;  //库里实现的方法return ((size + alignnum - 1) >> align) - 1;}inline static size_t _Roundup(size_t size, size_t align){size_t alignnum = 1 << align;return (size + alignnum - 1)&~(alignnum - 1);}public:// 控制在12%左右的内碎片浪费// [1,128]              8byte对齐 freelist[0,16)// [129,1024]         16byte对齐 freelist[16,72)// [1025,8*1024]        128byte对齐 freelist[72,128)// [8*1024+1,64*1024]    1024byte对齐 freelist[128,184)inline static size_t Index(size_t size){assert(size <= MAX_BYTES);// 每个区间有多少个链static int group_array[4] = { 16, 56, 56, 56 };if (size <= 128){return _Index(size, 3);}else if (size <= 1024){return _Index(size - 128, 4) + group_array[0];}else if (size <= 8192){return _Index(size - 1024, 7) + group_array[0] + group_array[1];}else//if (size <= 65536){return _Index(size - 8 * 1024, 10) + group_array[0] + group_array[1] + group_array[2];}}// 对齐大小计算，向上取整static inline size_t Roundup(size_t bytes){assert(bytes <= MAX_BYTES);if (bytes <= 128){return _Roundup(bytes, 3);}else if (bytes <= 1024){return _Roundup(bytes, 4);}else if (bytes <= 8192){return _Roundup(bytes, 7);}else {//if (bytes <= 65536){return _Roundup(bytes, 10);}}//动态计算从中心缓存分配多少个内存对象到ThreadCache中static size_t NumMoveSize(size_t size){if (size == 0)return 0;int num = (int)(MAX_BYTES / size);if (num < 2)num = 2;if (num > 512)num = 512;return num;}// 根据size计算中心缓存要从页缓存获取多大的span对象static size_t NumMovePage(size_t size){size_t num = NumMoveSize(size);size_t npage = num*size;npage >>= PAGE_SHIFT;if (npage == 0)npage = 1;return npage;}
};
```
4.4 设计Thread Cache
- Central Cache本质是由一个哈希映射的Span对象自由双向链表构成
- 为了保证全局只有唯一的Central Cache，这个类被可以设计成了单例模式
- 单例模式采用饿汉模式，避免高并发下资源的竞争
CentralCache.h:
```
#pragma once#include "Common.h"//上面的ThreadCache里面没有的话，要从中心获取/*
进行资源的均衡，对于ThreadCache的某个资源过剩的时候，可以回收ThreadCache内部的的内存
从而可以分配给其他的ThreadCache
只有一个中心缓存，对于所有的线程来获取内存的时候都应该是一个中心缓存
所以对于中心缓存可以使用单例模式来进行创建中心缓存的类
对于中心缓存来说要加锁
*///设计成单例模式
class CentralCache
{public:static CentralCache* Getinstence(){return &_inst;}//从page cache获取一个spanSpan* GetOneSpan(SpanList& spanlist, size_t byte_size);//从中心缓存获取一定数量的对象给threa cachesize_t FetchRangeObj(void*& start, void*& end, size_t n, size_t byte_size);//将一定数量的对象释放给span跨度void ReleaseListToSpans(void* start, size_t size);private:SpanList _spanlist[NLISTS];private:CentralCache(){}//声明不实现，防止默认构造，自己创建CentralCache(CentralCache&) = delete;static CentralCache _inst;
};
```
申请内存：
- 当Thread Cache中没有内存时，就会批量向Central Cache申请一些内存对象，Central Cache也有一个哈希映射的freelist，freelist中挂着span，从span中取出对象给Thread Cache，这个过程是需要加锁的。
- Central Cache中没有非空的span时，则将空的span链在一起，向Page Cache申请一个span对象，span对象中是一些以页为单位的内存，切成需要的内存大小，并链接起来，挂到span中。
- Central Cache的span中有一个_usecount，分配一个对象给Thread Cache，就++_usecount。
释放内存：
- 当Thread Cache过长或者线程销毁，则会将内存释放回Central Cache中的，释放回来时- -_usecount。
- 当_usecount减到0时则表示所有对象都回到了span，则将Span释放回Page Cache，Page Cache中会对前后相邻的空闲页进行合并。
特别关心：什么是span?一个span是由多个页组成的一个span对象。一页大小是4k。
```
//Span是一个跨度，既可以分配内存出去，也是负责将内存回收回来到PageCache合并
//是一链式结构，定义为结构体就行，避免需要很多的友元
struct Span
{PageID _pageid = 0;//页号size_t _npage = 0;//页数Span* _prev = nullptr;Span* _next = nullptr;void* _list = nullptr;//链接对象的自由链表，后面有对象就不为空，没有对象就是空size_t _objsize = 0;//对象的大小size_t _usecount = 0;//对象使用计数,
};
```
特别关心：关于spanlist，设计为一个双向链表，插入删除效率较高。
```
//和上面的Freelist一样，各个接口自己实现，双向带头循环的Span链表
class SpanList
{public:Span* _head;std::mutex _mutex;public:SpanList(){_head = new Span;_head->_next = _head;_head->_prev = _head;}~SpanList()//释放链表的每个节点{Span * cur = _head->_next;while (cur != _head){Span* next = cur->_next;delete cur;cur = next;}delete _head;_head = nullptr;}//防止拷贝构造和赋值构造，将其封死，没有拷贝的必要，不然就自己会实现浅拷贝SpanList(const SpanList&) = delete;SpanList& operator=(const SpanList&) = delete;//左闭右开Span* Begin()//返回的一个数据的指针{return _head->_next;}Span* End()//最后一个的下一个指针{return _head;}bool Empty(){return _head->_next == _head;}//在pos位置的前面插入一个newspanvoid Insert(Span* cur, Span* newspan){Span* prev = cur->_prev;//prev newspan curprev->_next = newspan;newspan->_next = cur;newspan->_prev = prev;cur->_prev = newspan;}//删除pos位置的节点void Erase(Span* cur)//此处只是单纯的把pos拿出来，并没有释放掉，后面还有用处{Span* prev = cur->_prev;Span* next = cur->_next;prev->_next = next;next->_prev = prev;}//尾插void PushBack(Span* newspan){Insert(End(), newspan);}//头插void PushFront(Span* newspan){Insert(Begin(), newspan);}//尾删Span* PopBack()//实际是将尾部位置的节点拿出来{Span* span = _head->_prev;Erase(span);return span;}//头删Span* PopFront()//实际是将头部位置节点拿出来{Span* span = _head->_next;Erase(span);return span;}void Lock(){_mutex.lock();}void Unlock(){_mutex.unlock();}
};
```
特别关心：怎么才能将Thread Cache中的内存对象还给它原来的span呢？
答：可以在Page Cache中维护一个页号到span的映射，当Span Cache给Central Cache分配一个span时，将这个映射更新到unordered_map中去，在Thread Cache还给Central Cache时，可以查这个unordered_map找到对应的span。

4.5 设计Page Cache
- Page cache是一个以页为单位的span自由链表。
- 为了保证全局只有唯一的Page cache，这个类可以被设计成了单例模式。
- 本单例模式采用饿汉模式。
PageCache.h
```
#pragma once#include "Common.h"//对于Page Cache也要设置为单例，对于Central Cache获取span的时候
//每次都是从同一个page数组中获取span
//单例模式
class PageCache
{public:static PageCache* GetInstence(){return &_inst;}Span* AllocBigPageObj(size_t size);void FreeBigPageObj(void* ptr, Span* span);Span* _NewSpan(size_t n);Span* NewSpan(size_t n);//获取的是以页为单位//获取从对象到span的映射Span* MapObjectToSpan(void* obj);//释放空间span回到PageCache，并合并相邻的spanvoid ReleaseSpanToPageCache(Span* span);private:SpanList _spanlist[NPAGES];//std::map<PageID, Span*> _idspanmap;std::unordered_map<PageID, Span*> _idspanmap;std::mutex _mutex;
private:PageCache(){}PageCache(const PageCache&) = delete;static PageCache _inst;
};
```
申请内存：
- 当Central Cache向page cache申请内存时，Page Cache先检查对应位置有没有span，如果没有则向更大页寻找一个span，如果找到则分裂成两个。比如：申请的是4page，4page后面没有挂span，则向后面寻找更大的span，假设在10page位置找到一个span，则将10page span分裂为一个4page span和一个6page span。
- 如果找到128 page都没有合适的span，则向系统使用mmap、brk或者是VirtualAlloc等方式申请128page span挂在自由链表中，再重复1中的过程。
释放内存：
- 如果Central Cache释放回一个span，则依次寻找span的前后_pageid的span，看是否可以合并，如果合并继续向前寻找。这样就可以将切小的内存合并收缩成大的span，减少内存碎片。
4.6 向系统申请内存
- VirtualAlloc https://baike.baidu.com/item/VirtualAlloc/1606859?fr=aladdin
- brk和mmap https://www.cnblogs.com/vinozly/p/5489138.html
5. 项目不足及扩展学习
- 项目的独立性不足：
1. 不足：当前实现的项目中我们并没有完全脱离malloc，比如在内存池自身数据结构的管理中，如SpanList中的span等结构，我们还是使用的new Span这样的操作，new的底层使用的是malloc，所以还不足以替换malloc，因为们本身没有完全脱离它。
2. 解决方案：项目中增加一个定长的ObjectPool的对象池，对象池的内存直接使用brk、VirarulAlloc等向系统申请，new Span替换成对象池申请内存。这样就完全脱离的malloc，就可以替换掉malloc。
- 平台及兼容性：
1. linux等系统下面，需要将VirtualAlloc替换为brk等。
2. x64系统下面，当前的实现支持不足。比如：id查找Span得到的映射，我们当前使用的是map<id,
  Span*>。在64位系统下面，这个数据结构在性能和内存等方面都是撑不住。需要改进后基数树。
  具体参考：基数树(radix tree) https://blog.csdn.net/weixin_36145588/article/details/78365480
6. 参考资料

几个内存池库的对比： https://blog.csdn.net/junlon2006/article/details/77854898
tcmalloc源码学习： https://www.cnblogs.com/persistentsnail/p/3442185.html
TCMALLOC 源码阅读： https://blog.csdn.net/math715/article/details/80654167

7. 项目源码

https://github.com/Winter-Win/ConcurrentMemoryPool

一文看懂内存池原理及创建（C++实现）相关推荐

一文搞懂线程池原理——Executor框架详解
文章目录 1 使用线程池的好处 2 Executor 框架 2.1 Executor 框架结构 2.2 Executor 框架使用示意图 2.3 Executor 框架成员 2.3.1 Executo ...
一文搞懂内存映射原理及使用方法
a. 内存映射原理内存映射即在进程的虚拟地址空间中创建一个映射,分为两种: 文件映射:文件支持的内存映射,把文件的一个区间映射到进程的虚拟地址空间,数据源是存储设备上的文件. 匿名映射:没有文件支持 ...
AI绘画火了！一文看懂背后技术原理
导语 | 近些年AI蓬勃发展,在各行各业都有着不同方式的应用.而AI创作艺术和生产内容无疑是今年以来最热门的话题,AI创作到底发生过什么,原理又是如何,是噱头还是会有对我们有用的潜在应用场景呢?我们旨 ...
一文看懂Transformer内部原理（含PyTorch实现）
Transformer注解及PyTorch实现原文:http://nlp.seas.harvard.edu/2018/04/03/attention.html 作者:Alexander Rush 转 ...
一文看懂 | 内存交换机制
本文基于 Linux-2.4.16 内核版本由于计算机的物理内存是有限的, 而进程对内存的使用是不确定的, 所以物理内存总有用完的可能性. 那么当系统的物理内存不足时, Linux内核使用什么方案来 ...
一文看懂POE供电原理
现在越来越多的人,开始接触和了解使用POE监控供电系统,于是乎,在网上找了一些关于POE供电的基本原理资料,与大家共同分享. 标准的五类网线有四对双绞线但是在10M BASE-T和100M BASE- ...
一文看懂CDN加速原理
随着互联网的发展,用户在使用网络时对网站的浏览速度和效果愈加重视,但由于网民数量激增,网络访问路径过长,从而使用户的访问质量受到严重影响.特别是当用户与网站之间的链路被突发的大流量数据拥塞时,对于异 ...
神经网络通俗指南：一文看懂神经网络工作原理
现在谈人工智能已经绕不开"神经网络"这个词了.人造神经网络粗线条地模拟人脑,使得计算机能够从数据中学习. 机器学习这一强大的分支结束了 AI 的寒冬,迎来了人工智能的新时代.简而言 ...
π型滤波频率计算_一文看懂π型滤波电路原理
π型滤波器简介 π型滤波器包括两个电容器和一个电感器,它的输入和输出都呈低阻抗.π型滤波有RC和LC两种, 在输出电流不大的情况下用RC,R的取值不能太大,一般几个至几十欧姆,其优点是成本低.其缺点是 ...

一文看懂内存池原理及创建（C++实现）

1. 什么是内存池

2. 为什么需要内存池

3.内存池设计

4.并发内存池

5. 项目不足及扩展学习

6. 参考资料

7. 项目源码

一文看懂内存池原理及创建（C++实现）相关推荐

最新文章

热门文章