一.Base64编码/解码

  一般用到的是Delphi自带的单元EncdDecd,当然还有第三方提供的单元或控件,其中我所接触到的认为比较好的有Indy的TIdMimeEncode / TIdMimeDecode组件,以及RjMime单元.

  在这里主要想讲讲如何才能获得最好的编码/解码性能,EncdDecd提供了EncodeStream/DecodeString, EncodeString/DecodeString两对函数,如果你使用EncodeString/DecodeString,这没有什麽可争议,效率是死的,如果你使用了EncodeStream/DecodeStream,这里面可大有文章了. 先来看看两个函数的声明:

procedure EncodeStream(Input, Output: TStream);

procedure DecodeStream(Input, Output: TStream);

  很明了, 两个参数,都为TStream, TStream是抽象类, 其派生类主要有TMomoryStream,TStringStream,TFileStream等,都可以作为参数传递进去,对於Input参数,无论TMemoryStream, TStringStream, TFileStream都不会影响性能,但是对於Output参数,由於压缩的结果是写住OutputStream,因此压缩过程中不断地执行TStream的Write方法,如果是TMemoryStream,那效率真是太糟糕了,我作过测试,编码一个5M多的文件,要十几秒钟!但如果是TStringStream呢,只要0.2~0.3秒! 这究竟是为什麽呢,因为TMemoryStream里不断调用Write方法的结果是,不断地向Windows要求分配内存!从而导致性能下降!而TStringStream和TFileStream则没有这个问题. 因此,在这里极力向朋友们建议,Output参数最好不用TMemoryStream.

  不过不要紧,你一定要用的话,也是有方法解决性能下降这个问题的! 因为效率下降的原因是不断的申请内存空间,我们可以从这个方向首手,能不能一次性给它分配好内存空间呢,如果我们事先能确定编码或解码后的数据大小(字节数),那麽这是可行的. 问题的关键就是如何确定这个编码或解码后的字节数了. 对於EncdDecd,我可以给出这个计算方法:

  (1)假设编码前的字节数为X,那麽编码后的字节数为 (X + 2) div 3 * 4. 不过,要对EncdDecd进行相应的修改,找到这一小段:

   if K > 75 then     

   begin

    BufPtr[0] := #$0D;

    BufPtr[1] := #$0A;

    Inc(BufPtr, 2);

    K := 0;

   end;

  将其注释掉, 因为这其实是没什麽用的,只是用来对编码后的字符串分行的~,我们可以注释后将单元另存为EncdDecdEx,以后就使用它了!!!

  (2)假设解码前的字节数是X,那麽解码后的字节数约为 (X + 3) div 4 * 3

*****注:与编码不同的是,解码的字节数不是确定的,差值在0~2之间.

  这样我们就可以在编码/解码前对Output参数的TMemoryStream事先设置缓冲区大小了....

 

 uses

  encddecdEx;

 var

  Input,Output:TMemoryStream;

 begin

  Input:=TMemoryStream.Create;

  try

   Input.LoadFromFile('c:\aaa.txt');

   Output:=TMemoryStream.Create;

   try

    Output.Size:=(Input.Size + 2) div 3 * 4;

    EncodeStream(Input,Output);

   finally

    Output.Free;

   end;

  finally

   Input.Free;

  end;

 end;

 OK! 大功告成!!! 大家有兴趣可以测试一下,加不加Output.Size:=(Input.Size + 2) div 3 * 4这一句的不同效果~

二.ZLib压缩/解压

  在一些分布式系统中,特别是Internet分布式系统,由於网络带宽所限,我们需要对传输的大流量数据进行压缩,以减轻网络的负担,加快程序运行速度,一般用到的压缩/解压方法是使用ZLib单元. ZLib单元主要提供了两个类:TCompressionStream和TDeCompressionStream. 这两个类分别处理压缩和解压缩. 使用方法可以查阅相关的资料. 在这里提供两个过程,再对压缩时的参数作些比较:

uses

 ZLib;

procedure Zip(Input,Output:TStream;Compress:Boolean);

const

 MAXBUFSIZE=1024 * 16;  //16 KB

var

 CS:TCompressionStream;

 DS:TDecompressionStream;

 Buf:array[0..MAXBUFSIZE-1] of Byte;

 BufSize:Integer;

begin

  if Assigned(Input) and Assigned(Output) then

 begin

  if Compress then

  begin

   CS:=TCompressionStream.Create(clDefault,Output);

   try

    CS.CopyFrom(Input,0); //从开始处复制

   finally

    CS.Free;

   end;

  end else

  begin

   DS:=TDecompressionStream.Create(Input);

   try

    BufSize:=DS.Read(Buf,MAXBUFSIZE);

    while BufSize>0 do

    begin

     Output.Write(Buf,BufSize);

     BufSize:=DS.Read(Buf,MAXBUFSIZE);

    end;

   finally

    DS.Free;

   end;

  end;

 end;

end;

function Zip(Input:string;Compress:Boolean):string;

var

 InputStream,OutputStream:TStringStream;

begin

 if Input='' then Exit;

 InputStream:=TStringStream.Create(Input);

 try

  OutputStream:=TStringStream.Create('');

  try

   Zip(InputStream,OutputStream,Compress);

   Result:=OutputStream.DataString;

  finally

   OutputStream.Free;

  end;

 finally

  InputStream.Free;

 end;

end;

  以上两个方法是两个名称一样,参数不同的过程. 第一个是对流进行压缩/解压,Input,Output分别是压缩/解压前的流与压缩/解压后的流. 第二个是对字符串进行压缩/解压. 两个过程都有Compress参数,这个参数用来决定进行压缩操作还是解压操作: True--压缩; false--解压.

  在第一个过程中,有这样一句:

  CS:=TCompressionStream.Create(clDefault,Output);

  这是在建立压缩类以对流进行压缩, 这里面有个参数clDefault,当然还有其它的选项:clNone, clFastest, clDefault, clMax;

clNone与clFastest就不讨论了,因为不能获得良好的压缩效果,在这里想讨论clDeafult与clMax哪一个好点,我作了一些测试,测试数据如下:

        源文件大小  压缩所用时间   压缩后文件大小

 clDefault   2.71M     ~1.4s      ~937K

         5.10M     ~2.8s      ~1.77M

 clMax     2.71M     ~2.5s      ~934K

         5.10M     ~4.7s      ~1.77M

  由这些数据可以看出,clDefault参数与clMax参数,压缩率已经非常接近了,但是所用的时间却相差了近一倍! 也就是说,差不多的压缩效率,clDefault参数比clMax参数节省了一半的时间! 因此,建议大家使用参数clDefault,这是压缩效率比较好的参数.

三. 何对MIDAS封包进行压缩.

  我们知道,MIDAS封包外在类型是OleVariant,其内部格式没有对外公开! 经过我的一些测试,该封包是以varByte为基础类型的VarArray数组.

因此,我们可以将其转换成string类型再进行压缩,至於压缩后是以string传输还是转换回VarByte array类型,就由个人决定了. 下面的函数完成将MIDAS数据包转换成string类型.

function UnpackMIDAS(vData:OleVariant):string;

var

 P:Pointer;

 Size:Integer;

begin

 if not VarIsArray(vData) then Exit;

 Size:=VarArrayHighBound(vData,1)-VarArrayLowBound(vData,1)+1;

 P:=VarArrayLock(vData);

 try

  SetLength(Result,Size);

  Move(P^,Result[1],Size);

 finally

  VarArrayUnLock(vData);

 end;

end;

假设以下为MIDAS服务器或COM+对象一个方法.

function TDeptCoor.GetDeptData: OleVariant;

var

 Command:WideString;

 Options:TGetRecordOptions;

 RecsOut:Integer;

 Params,OwnerData:OleVariant;

begin

 try

  Command:='SELECT DeptID,DeptNo,DeptName,MasterID FROM Department ORDER BY DeptNo';

  Options:=[grReset,grMetaData];

  Result:=FCommTDM.AS_GetRecords('CommDsp',-1,RecsOut,Byte(Options),Command,Params,OwnerData);

  Result:=UnpackMIDAS(Result);  //将MIDAS封包转换成string类型

  Result:=Zip(Result,True);      //进行压缩,再将压缩后结果转回.

  SetComplete;

 except

  SetAbort;

  raise;

 end;

end;

客户端只要压压缩后就可以使用了:

procedure TForm1.Button1Click(sender:TObject);

var

 vData:string;

begin

 vData:=DeptCoor.GetDeptData;

 vData:=Zip(vData,False);     //解压

 ClientDataSet1.XMLData:=vData;  //注意,这里用的是XMLData,不是Data,否则会报错!!!

end;

        

四. SOAP系统中压缩后编码:

 在SOAP系统中,由於二进制数据不能直接传递,需要进行Base64编码, 我们可以在数据传递前先压缩/Base64编码,接收后再Base64解码/解压缩.

同样,也给出两个函数,来分别完成这两个过程

function SoapPacket(const Input:string):string; 

var

 InputStream,OutputStream:TStringStream;

begin

 InputStream:=TStringStream.Create(Input);

 try

  OutputStream:=TStringStream.Create('');

  try

   Zip(InputStream,OutputStream,True);

   InputStream.Size:=0;

   OutputStream.Position:=0;  //很重要!!!

   EncodeStream(OutputStream,InputStream);

   Result:=InputStream.DataString;

  finally

   OutputStream.Free;

  end;

 finally

  InputStream.Free;

 end;

end;

function SoapUnpack(const Input:string):string;

var

 InputStream,OutputStream:TStringStream;

begin

 InputStream:=TStringStream.Create(Input);

 try

  OutputStream:=TStringStream.Create('');

  try

   DecodeStream(InputStream,OutputStream);

   InputStream.Size:=0;

   OutputStream.Position:=0; //很重要!!!

   Zip(OutputStream,InputStream,False);

   Result:=InputStream.DataString;

  finally

   OutputStream.Free;

  end;

 finally

  InputStream.Free;

 end;

end;

转载于:https://www.cnblogs.com/FuYan/p/4570280.html

delphi Base64编码/解码及数据压缩/解压知识相关推荐

  1. 一些Base64编码/解码及数据压缩/解压方面的知识

    一.Base64编码/解码 一般用到的是Delphi自带的单元EncdDecd,当然还有第三方提供的单元或控件,其中我所接触到的认为比较好的有Indy的TIdMimeEncode / TIdMimeD ...

  2. Delphi Base64编码/解码及ZLib压缩/解压

    最近在写的程序与SOAP相关,所以用到了一些Base64编码/解码及数据压缩/解压方面的知识. 在这里来作一些总结: 一.Base64编码/解码 一般用到的是Delphi自带的单元EncdDecd,当 ...

  3. Base64编码解码原理详解

    Base64编码解码原理详解 1. Base64字符的组成部分 Base64所用字符: 0,1,2 -.9 A,B,C,D-Z a,b,c,d-z + / 对应ASCII: 48,49-58,65,6 ...

  4. linux中常用的加密总结--base64编码解码与openssl实现

    linux中常用的加密总结–base64编码解码与openssl实现 一.base64 !!!base64是一种数据编码方式,可逆,不是严格意义上的加密算法,不能作为安全加密使用 -d,–decode ...

  5. TSDB 时序数据库时序数据压缩解压技术浅析

    摘要:目前,物联网.工业互联网.车联网等智能互联技术在各个行业场景下快速普及应用,导致联网传感器.智能设备数量急剧增加,随之而来的海量时序监控数据存储.处理问题,也为时序数据库高效压缩.存储数据能力提 ...

  6. TSDB时序数据库时序数据压缩解压技术浅析

    简介: 目前,物联网.工业互联网.车联网等智能互联技术在各个行业场景下快速普及应用,导致联网传感器.智能设备数量急剧增加,随之而来的海量时序监控数据存储.处理问题,也为时序数据库高效压缩.存储数据能力 ...

  7. GZIPOutputStream GZIPInputStream 数据压缩解压

    提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 数据压缩&解压 前言 一.最终走上了压缩的路 GZIPOutputStream 二.收到数据进行解压 GZIPInputStr ...

  8. Base64 Encode/Decode Class C++ SourceCode - Base64编码/解码 类 C++ 源码

    Base64 Encode/Decode Class C++ SourceCode - Base64编码/解码 类 C++ 源码 1.Base64.h // Base64.h: interface f ...

  9. js base64 编码解码

    js base64 编码解码 encode decode,可以直接使用 function Base64() {// private property_keyStr = "ABCDEFGHIJ ...

最新文章

  1. 无敌了,不需要操作系统就能运行 Python 了!
  2. Kotlin学习 PART 3:类,对象和接口
  3. 大名鼎鼎的红黑树,你get了么?2-3树 绝对平衡 右旋转 左旋转 颜色反转
  4. cassandra可视化工具_程序员绘图工具——PlantUML
  5. P4198 楼房重建
  6. mysql的binary、char、varchar区别
  7. windows副本不是正版怎么办_盗版系统总是崩溃?别着急,让我来告诉你正版系统怎么下载...
  8. java 写文件时,输入换行字符.
  9. linux镜像文件_深度UI + Ubuntu系统,堪称最强最美Linux发行版!你敢升级吗?
  10. ICML22:NAFS: A SIMPLE YET TOUGH-TO-BEAT BASELINE FOR GRAPH REPRESENTATION LEARNING(ICLR22转投)
  11. wgs84坐标系拾取工具_Wgs84坐标系转换为gcj02坐标系及bd09坐标系的验证
  12. 搜索和浏览离线 Wikipedia 维基百科(中/英)数据工具
  13. 百练 4118 开餐馆
  14. html5星空效果图,HTML5 canvas炫酷星空背景特效
  15. 实践▍用大数据扒一扒蔡徐坤的真假流量粉 | Alfred数据室
  16. 直属上司,才是你最该管的人
  17. 计算机通过网线连接不到网络,电脑有网线连不上网怎么解决
  18. 宏碁施振荣:大陆是国际化的练兵场
  19. 小程序集-朋友圈集赞神器
  20. 冬季旅游,北海的风景、历史与美食,气候温暖如春

热门文章

  1. 验证工程师如何才能脱颖而出?
  2. 三种点云下采样方法(一) — open3d python
  3. 英特尔显卡linux管理_英特尔二号人物被解雇:7nm全面落后,芯片还要外包代工...
  4. 志德阳光会:云游戏赛道又迎新玩家
  5. SkyWalking 源码分析 —— Collector Storage 存储组件
  6. ultraiso注册码
  7. python对浏览器的常用操作_python+selenium(4)--浏览器操作的基本方法
  8. 用Python实现最简单的文字识别:基于百度云文字识别API
  9. kali linux安装中文输入法(ibus)
  10. 计算机公式等级评定,《斗破苍穹》等级评定计算公式及评分细则