--------------------------------------------------------------------------------
标题: 固定尺寸内存块的缓冲队列类及实现源代码
作者: 叶飞虎
日期: 2014.10.21
--------------------------------------------------------------------------------

在一般的线性操作应用中(如: 接收缓冲区), 可能须要频繁分配和释放内存块, 频繁操
作会给系统带来非常大开销, 怎样降低系统开销? 通过拉大分配和释放之间间距来降低操作的
频度, 从而达到降低系统开销。

拉大分配和释放之间间距的方法有非常多, 能够通过大内存块自己管理, 也能够通过内存
块缓冲队列。

本文着重讲内存块缓冲队列, 涉及队列就会考虑到无锁进出队列, 即进队列和
出队列在二个线程中能够同一时候操作。

无锁队列的实现方法有非常多, 有数组方式的环形无锁队
列, 也有链接方式的无锁队列。

数组方式在队列容量确定时比較适合, 而链接方式更适合于
队列容量可变情况, 适用性更好。

数组方式无锁队列见我的博文 <在一读一写限制下，无锁环形队列怎样实现？>
    链接方式无锁队列见我的博文 <一读一写情况下。无锁队列怎样实现？>

本文讲的缓冲队列为链接方式, 链接方式一般通过预分配一个结点作为接力点来实现无
锁队列, 长处是实现简单, 缺点是浪费一个结点的内存, 当结点内存块尺寸较大时浪费就大
了。怎样不浪费一个结点内存的链接方式无锁队列? 当队列中仅仅有一个结点时, 本缓冲队列
中使用了原子锁进行操作, 这是一种平衡策略, 若读者有更好方法最好还是告之中的一个下!

固定尺寸内存块的缓冲队列类(TKYCache)源代码例如以下:

// =======================================
// Unit   : 固定尺寸的内存块缓冲
// Version: 3.0.0.0 (build 2014.10.21)
// Author : Kyee Ye
// Email  : kyee_ye(at)126.com
// Copyright (C) Kyee workroom
// =======================================#ifndef _KYCache_H_
#define _KYCache_H_#include "KYObject.h"// KYLib 2.0 開始使用 KYLib 命名空间
namespace KYLib
{// ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~/* TKYCache - 固定尺寸的内存块缓冲类 */// 注:
// 1. 为了多线程存取安全, New 和 Delete 分属二个线程时能够同一时候操作而不须要加锁,
//    但多线程 New 时必须用锁控制, 多线程 Delete 时必须用锁控制!
// 2. 此缓冲类一般应用于线性操作的类中, 以降低频繁分配和释放内存的缓冲使用.class TKYCache
{
private:// 内存块的链接typedef struct{void*       Self;                // 内存块所属对象void*       Next;                // 下一块} TLink, *PLink;public:// 构造函数// 1. ABlockSize  内存块的固定尺寸, 取值范围: [0x40..0x40000000]// 2. AMaxCount   内存块缓冲的最大个数TKYCache(long ABlockSize = 1024, long AMaxCount = 256);virtual ~TKYCache();// 属性long           Count() const        { return FPushCount - FPopCount; }long           MaxCount() const     { return FMaxCount; }   // default: AMaxCountlong           BlockSize() const    { return FBlockSize; }  // default: ABlockSize// 设置内存块缓冲的最大个数void           SetMaxCount(long AMaxCount){ FMaxCount = (AMaxCount >= 0) ? AMaxCount : 0; }// 分配固定尺寸的内存块void*          New(){TLink* pItem = DoNew();return (pItem != NULL) ?

(char*)pItem + sizeof(TLink) : NULL; } // 释放固定尺寸的内存块 void Delete(void* ABlock) { if (ABlock != NULL) { TLink* pItem = (TLink*)((char*)ABlock - sizeof(TLink)); if (pItem->Self == this) DoDelete(pItem); } } private: // 运行分配/释放带链接的内存块 TLink* DoNew(); void DoDelete(TLink* ALink); // 运行清除缓冲队列 void DoClear(TLink* AHead); private: TLink* FHead; // 缓冲的头链接 TLink* FTail; // 缓冲的尾链接 long FFlag; // 缓冲队列标志 long FMaxCount; // 缓冲最大个数 long FBlockSize; // 内存块的尺寸 Longword FPushCount; // 压入缓冲计数 Longword FPopCount; // 弹出缓冲计数 }; } #endif

// =======================================
// Unit   : 固定尺寸的内存块缓冲
// Version: 3.0.0.0 (build 2014.10.21)
// Author : Kyee Ye
// Email  : kyee_ye(at)126.com
// Copyright (C) Kyee workroom
// =======================================#include <malloc.h>
#include "KYCache.h"// KYLib 2.0 開始使用 KYLib 命名空间
namespace KYLib
{// ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~/* TKYCache - 固定尺寸的内存块缓冲类 */// ---------------- 构造函数和析构函数 ----------------
// 构造函数
TKYCache::TKYCache(long ABlockSize, long AMaxCount)
{// 初始化FHead       = NULL;FTail       = NULL;FFlag       = 0;FPushCount  = 0;FPopCount   = 0;// 设置缓冲最大个数FMaxCount   = (AMaxCount >= 0) ? AMaxCount : 0;// 设置内存块的尺寸if (ABlockSize <= 0x40)FBlockSize  = 0x40;else if (ABlockSize <= 0x40000000)FBlockSize  = ABlockSize;elseFBlockSize  = 0x40000000;
}// 析构函数
TKYCache::~TKYCache()
{// 运行清除缓冲队列if (FPopCount != FPushCount){FPopCount   = FPushCount;DoClear(FHead);}
}// ---------------- 私有函数 ----------------
// 运行分配带链接的内存块
TKYCache::TLink* TKYCache::DoNew()
{// 初始化TLink* result = NULL;// 推断缓冲队列是否为空if (FPopCount == FPushCount)result = (TLink*)malloc(sizeof(TLink) + FBlockSize);else if (FPushCount - FPopCount != 1){// 取第一项, 而且计数加 1result = FHead;FHead  = (TLink*)result->Next;FPopCount++;}else{// 取第一项result = FHead;// 推断是否须要等待, 防止 DoDelete 冲突if (InterlockedIncrement(&FFlag) == 1){FPopCount++;if (FPopCount == FPushCount){FHead  = NULL;FTail  = NULL;}InterlockedDecrement(&FFlag);}else{FPopCount++;InterlockedDecrement(&FFlag);// 循环等待 FPushCount 变化while (FPopCount == FPushCount)Sleep(1);}// 改动缓冲的头链接if (result->Next != NULL)FHead = (TLink*)result->Next;}// 初始化链接项if (result != NULL){result->Self = this;result->Next = NULL;}// 返回结果return result;
}// 运行释放带链接的内存块
void TKYCache::DoDelete(TLink* ALink)
{// 推断是否已满if (FPushCount - FPopCount >= (Longword)FMaxCount)free(ALink);else{// 置空ALink->Next = NULL;// 引用计数加 1, 若不等于 1 则等待 DoNew 变成 1if (InterlockedIncrement(&FFlag) != 1)while (FFlag != 1)Sleep(0);// 推断是否为第一项if (FTail == NULL){FTail       = ALink;FHead       = ALink;}else{FTail->Next = ALink;FTail       = ALink;}// 计数加 1, 且引用计数减 1(注: 顺序不能改, 否则可能会导致DoNew死循环)FPushCount++;InterlockedDecrement(&FFlag);}
}// 运行清除缓冲队列
void TKYCache::DoClear(TLink* AHead)
{// 初始化void* pCurr;// 循环释放while (AHead != NULL){pCurr = AHead;AHead = (TLink*)AHead->Next;// 释放free(pCurr);}
}}

--------------------------------------------------------------------------------