这段时间在研究BT数据流如何突破防火墙的,但是最后好像有点拦截的意思,反了:(,还是把它总结一下,欢迎讨论,wengpingbo@gmail.com

BitTorrent协议介绍

BitTorrent是一种P2P协议。用于在对等网络中,用户群和用户群(peer-to-peer)之间的文件分享。并且,对于一个文件,用户群越大,下载速度就越快。BitTorrent协议能够减少服务端和网络环境对分享大文件的影响,由于是分布式节点互传数据,某一部分的网络拥堵或服务器宕机并不会对整个传输链路造成太大的影响。

BitTorrent协议是由程序员Bram Cohen在2001年四月份设计的,最终版本在2008年确定。有很多客户端实现了BitTorrent协议,最常见的有Vuze、µTorrent、BitTorrent、BitComet、Transmission和Xunlei。

BitTorrent协议组成部分

一个BitTorrent文件传输过程,通常需要由以下几个部分组成:

  • WEB服务器
  • 文件元信息(metainfo,种子)
  • BitTorrent Tracker
  • 原始下载者(发布资源者)
  • 终端用户浏览器(下载.torrent种子)
  • 终端用户下载者

种子文件结构

一个种子文件,通常是以.torrent后缀结尾。BitTorrent协议规定,torrent文件本身,内容必须是utf8编码格式,并且其中的字段结构采用bencoding编码格式。

Torrent种子文件由两部分组成:announce(tracker url)和文件信息。

下面以一个正常的torrent文件来分析种子文件的结构。

该种子文件的一部分如下:

d8:announce78:http://www.chinahdtv.org/announce.php?passkey=6e7a1c7ca4164d87e9b0e00ec63aa74910:created by13:uTorrent/204013:creation datei1369699038e8:encoding5:UTF-84:infod5:filesld6:lengthi158784e4:pathl53:Iron.Man.3.2013.HDSCR.ULTRA.EDiTiON.720p.x264.chn.srteed6:lengthi107117e4:pathl54:Iron.Man.3.2013.HDSCR.ULTRA.EDiTiON.720p.x264.chn1.srteed6:lengthi93644e4:pathl54:Iron.Man.3.2013.HDSCR.ULTRA.EDiTiON.720p.x264.chn2.srteed6:lengthi4272200020e4:pathl49:Iron.Man.3.2013.HDSCR.ULTRA.EDiTiON.720p.x264.mkveee4:name56:钢铁侠3.Iron.Man.3.2013.HDSCR.ULTRA.EDiTiON.720p.x26412:piece lengthi4194304e6:pieces20380:012ef......:privatei1e6:source23:[hd.gg] CNHD  ChinaHDTVee

根据bencoding编码格式,把这段字符解码还原后,就是如下内容:

announce:http://www.chinahdtv.org/announce.php?passkey=6e7a1c7ca4164d87e9b0e00ec63aa749

created by:uTorrent/2040

creation date:1369699038

encoding:UTF-8

info:

{files:[

{length:158784,path:[Iron.Man.3.2013.HDSCR.ULTRA.EDiTiON.720p.x264.chn.srt]}, {length:107117,path:[Iron.Man.3.2013.HDSCR.ULTRA.EDiTiON.720p.x264.chn1.srt]}, {length:93644,path:[Iron.Man.3.2013.HDSCR.ULTRA.EDiTiON.720p.x264.chn2.srt]},

{length:4272200020,path:[Iron.Man.3.2013.HDSCR.ULTRA.EDiTiON.720p.x264.mkv]}],

name:钢铁侠3.Iron.Man.3.2013.HDSCR.ULTRA.EDiTiON.720p.x264,

piece length:4194304,

pieces:P1,P2,P3...P1019

private:1

source:[hd.gg] CNHD ChinaHDTV

}

关于具体bencoding编码,请参考引用中的链接。从上面的结果可以看出,一个torrent种子文件有点类似于XML格式的文件,包含如下组成部分:

  • tracker地址,这里就是announce后面的url
  • 种子创建软件及其版本号,这里是uTorrent软件创建的,版本号为2040
  • 创建日期,这里是1369699038,这个数字显示的是从UTC 1970-1-1 00:00:00到到现在所经历的秒数,如果你用工具转换一下,你会发现创建的时间是2013-5-28 7:57:18
  • 编码格式,这里是UTF-8
  • info区,这里指定的是该种子有几个文件,文件有多长,目录结构,以及目录和文件的名字,从上面的结果,可以看出这个种子有4个文件,3个字幕,一个视频文件
  • Name字段,指定顶层目录名字
  • 每个段的大小,Bittorrent协议是把一个文件分成很多个小段,然后分段下载的,这个地方就是指定每个段的大小,单位是字节,这里每个段的大小大约为4MB
  • 段哈希值,就是整个种子中,每个段的SHA1哈希值拼在一起,后面的那个省略号是全部段的SHA1哈希值,很长,这里用省略号代替。每个段的哈希长度是固定的,20个字符,所以pieces后面跟的那个数字20380其实是段数量*20,如果你用20380除以20,就会发现这个种子段数量为1019,乘上前面的段大小,这个种子大概有4GB大小,也就是说你把这个种子下载完后,占硬盘4GB空间
  • private值,这个属性主要显示这个种子是私有的,还是公有的。一般那些各大PT站就是私有的。私有的种子会禁掉DHT(distributed hash table),因为如果你的client开这个功能,那就会跳过tracker来和其他peer进行数据交换,在很多PT内站(CHDbits,CMCT,CNHD)把这种行为称为作弊,会直接ban掉你在PT站上的帐号。关于DHT的具体信息,请参考引用中的链接。
  • 源,显示该种子的来源,这里是CNHD

注意,以上的每个属性并不是必须的,有的属性属于BitTorrent Enhancement Proposals (BEPs),就是BitTorrent协议的扩展,虽然不属于正式标准的一部分,但是很多客户端都支持这种格式

BitTorrent通信流程与网络包结构

BitTorrent协议支持基于TCP或UTP网络协议进行数据传输,但是由于TCP协议是有连接的,需要先进行握手。在进行数据传输的过程中,每个种子会占有大量的TCP连接,从而占有大量的用户带宽。这给其他需要高实时性的应用造成很大的网络压力。

于是BitTorrent又支持UTP协议用来进行数据传输,这也是当前大部分BT下载客户端所采用的实现方式。UTP(uTorrent Transport Protocol)是基于UDP网络协议的,也就是无连接协议,采用这种协议进行数据交换,可以很容易进行带宽控制,不会造成网络拥堵。

下面主要分析BitTorrent中的UTP协议,因为这个常用嘛!

UTP协议的包结构如下:(不包含UDP header)

Fig. 1 UTP包结构(来自bittorrent.org)

  • type:数据包类型,0--带负载数据包,就是通常在连接建立后,上传数据或下载数据的包;1--连接结束数据包,结束一个连接;2--数据回应包,当一个peer收到一个带负载数据包后,会回一个ACK包,来表示这个包已正确接收,有点类似于TCP的SYN的感觉,但是这个是在UDP包的数据段做连接控制;3--重置连接;4--开始一个连接
  • ver:协议版本,通常为1
  • extension:扩展段,用于支持BEPs
  • connection_id:连接id,同一个连接id的数据包属于一个连接,一般每两个peer之间会开两个连接,一个用于发,一个用于收
  • timestamp_microseconds:包的发送时间
  • timestamp_difference_microseconds:对于当前连接,最近收到的包时间和当前要发送的包之间的时间间隔
  • wnd_size:发送方当前剩余窗口大小,用于进行速度和带宽控制。BitTorrent协议中每一个发出去的数据包,都要求接收方回一个ACK包。而一个peer的窗口大小是指当前发送出去,但还没有收到回应的包的总大小,单位为字节。每一个peer都一个最大窗口值和一个窗口大小上限值。当wnd_size小于最小UTP包大小的时候,发送方会停止发送数据包,或调整每个数据包的数据负载大小
  • seq_nr:相对于一个连接,数据包的序列号,以一个包为计数单位
  • ack_nr:发送方最近接收到的包的序列号

可能说这么多,有点混乱了,下面以一个具体的UTP包做说明。

数据包内容如下:

0000   78 ac c0 55 45 4a 00 0c 86 23 b8 00 08 00 45 00

0010   00 30 2f e7 00 00 66 11 a4 23 01 a4 60 2e db f6

0020   42 ea 8f b9 cf 46 00 1c 00 00 21 00 19 a2 ec 07

0030   ea 27 c3 62 4a be 00 37 f5 10 11 89 32 d4

其中0x00-0x29是UDP header,这里不再分析。咱来看一下它的数据部分:

210019a2ec07ea27c3624abe0037f510118932d4

可以看出来:

  • 0x2是type字段,代表这是一个数据回应包
  • 0x1是它的协议版本号
  • 0x00是它的扩展字段
  • 00代表该包没有扩展信息
  • 0x19a2是该包的连接id,这是一个随机数
  • 0xec07ea27是该包的发送时间
  • 0xc3624abe是这个包的发送方最近一次接收包到这次发生包之间的间隔,间隔这么长,表示当前网络环境不行,数据传输速度不是很快
  • 0x0037f510是发送方的窗口大小,也就是说当前发送方还可以接收3.5MB的数据
  • 0x1189是该数据包的序列包,也就意味着发送方在这个连接上已经发送了4489个包
  • 0x32d4是该发送方最近接受到的包序列号

BitTorrent数据包的特征与识别

由于BitTorrent数据包是应用层协议,所以必须要通过DPI技术,才能识别这种协议的流量。识别这种流量有两种方法:

一是检测两个peer之间的大流量连接。如果发现两个ip之间出现大量异常udp数据包,可以采取丢包的方式,来限制传输速率。

另外一种方法,就是运用DPI技术,读取UDP数据部分,如果发现大量的UDP包的负载前几个字节是0x0100,则判断为BitTorrent流量,并采取相应的措施。

References

1. http://en.wikipedia.org/wiki/BitTorrent_client

2. http://en.wikipedia.org/wiki/BitTorrent

3. http://www.bittorrent.org/beps/bep_0000.html

常见P2P协议之BitTorrent 分析相关推荐

  1. p2p服务器的协议,P2P文件传输协议之BitTorrent协议

    BitTorrent协议是支持网络当中数据的上下传输的一个P2P文件传输协议.那么基于这个协议的BT软件大家肯定更不会陌生.但是它却有着更为广泛的使用,尤其是在一些大型网络数据交换平台中,也常常会使用 ...

  2. scsi协议_存储协议有哪些类型?常见存储协议分析

    一.存储协议类型 1.1.协议概况 通过上一章节的学习,应该对数据中心存储协议有了比较基础的了解,我们知道了现在的数据中心已经变为SAN为主流的部署模式.下面我们来更深层次的从协议的角度了解存储协议类 ...

  3. 目前几种常见穿NAT的方法分析

    目前几种常见穿NAT的方法分析 本文转自http://blog.csdn.net/wcl0715/archive/2006/04/25/676078.aspx NAT的出现在一定程度上解决了发展中国家 ...

  4. 基于Sip的P2P设计和原理分析

    基于Sip的P2P设计和原理分析 1.            SIP网络 2.            P2P技术在互联网上的应用 3.            P2P网络架构 3.1.    集中目录式 ...

  5. 基于服务器的p2p协议实现,基于P2P协议的文件服务器技术.PDF

    基于P2P协议的文件服务器技术.PDF 第 15 卷 第 6 期 微 机 发 展 Vol. 15 No. 6 2005 年 6 月 Microcomputer Development J un. 20 ...

  6. 计算机网络协议(四)——HTTP、HTTPS、P2P协议

    底层网络知识详解:最常用的应用层 概述 一.HTTP协议 1.1.HTTP 1.1 1.2.HTTP 2.0 1.3 QUIC协议 二.HTTPS协议 三.P2P协议 概述 这个专栏的计算机网络协议, ...

  7. 现有P2P协议分类与简介

    现有P2P协议分类与简介 http://blog.csdn.net/u012888602/article/details/48241165 (一) 常用p2p协议 一.Napster:世界上第一个大型 ...

  8. UNIX 网络协议的深度分析

    https://www.ibm.com/developerworks/cn/aix/library/au-deepprotocolanalysis/index.html?mhq=http%E5%8D% ...

  9. 博客专题计划:《在实践中深入理解常见网络协议》

    为什么要写这个系列的技术博文: 距离学习CCIE的课程已经有近一年的时间,虽然这一年来已经丢下了挺多关于路由交换技术的知识,不过随着这一年时间以来通过对Linux和Python的学习研究和学校相关课程 ...

最新文章

  1. R语言使用ggplot2包使用geom_dotplot函数绘制分组点图(双分类变量分组可视化、颜色自定义、添加箱图)实战(dot plot)
  2. (DOM艺术) 实用的动画
  3. oracle 连接查询--内连接与外连接
  4. 个人工作总结09(第二阶段)
  5. FD32 查询客户信贷管理中,销售值是怎么来的?
  6. python xml
  7. 机械硬盘 运行 linux 很慢,如果读写硬盘操作有问题,假死机、很慢等,就检查一下硬盘坏道...
  8. (干货!最全)Tomcat入门
  9. SimpleUI 2.0 发布,采用element-ui+vue给django admin带来全新体验
  10. swagger 常用注解
  11. 逍遥刘强 - 期货大作手风云录(2015年8月28日)
  12. 基于 STM32 空气质量检测装置设计
  13. Office 开发版本号与版本对应关系
  14. winform使用多线程时跨线程访问控件
  15. xilinx Edition arm M3 使用笔记
  16. ubuntu16.04更新系统后桌面出错的解决办法
  17. python专场——暴力破解(DVWA)
  18. 【机房收费系统】 之 收费模式
  19. Vue错误03:Property or method “xxx“ is not defined on the instance but referenced during render.
  20. Hugging Face创始人亲述:一个GitHub史上增长最快的AI项目

热门文章

  1. 【MAPBOX基础功能】26、mapbox地图基础工具 -定位到指定的位置
  2. 团队协作:充分讨论,达成一致,然后执行
  3. vue 钩子函数 使用async await
  4. css 圆凹角_css 这种凹陷下去的效果怎么做
  5. 图像质量评价(四):SSIM和MSSIM
  6. oracle如何导入excel数据库文件,如何将excel导入oracle数据库的教程
  7. 51单片机PCB实物DCDC可调负电源负压+12V输入-2.5V~-9V输出500MA电流
  8. 记CentOS7一个百万PV商城的测试
  9. 22年春福师《大学英语(2)》在线作业一-6
  10. 不得不写的AJ-Ministory