本教程使用proto3版本的protocol buffer语言,提供了一个基本的在Go程序中使用protocol buffer的介绍。通过创建一个简单的示例应用程序,向你展示如何

  • 在 .proto文件中定义消息格式。

  • 使用protoc编译器编译生成Go代码。

  • 使用Go的protocol buffer API读写消息。

它不是一个全面的在Go中使用protocol buffer的指南,更详细的参考信息请查看前面的两个教程。

Protobuf语言指南

Protobuf生成Go代码指南

为什么使用protocol buffer

我们将要使用的示例是一个非常简单的“地址簿”应用程序,可以在文件中读取和写入人员的联系人详细信息。地址簿中的每个人都有姓名,ID,电子邮件地址和联系电话号码。

如何序列化和检索这样的结构化数据?有几种方法可以解决这个问题:

  • 使用gobs(Go中自定义的序列化编码格式)序列化Go数据结构。这是Go特定环境中的一个很好的解决方案,但如果需要与为其他平台编写的应用程序共享数据,它将无法正常工作。

  • 可以发明一种特殊的方法将数据项编码为单个字符串 - 例如将4个整数编码为“12:3:-23:67”。这是一种简单而灵活的方法,虽然它确实需要编写一次性编码和解析代码,并且解析会产生较小的运行时成本。这最适合编码非常简单的数据。

  • 将数据序列化为XML。这种方法非常有吸引力,因为XML(有点)是人类可读懂的,并且有许多语言都有相应的类库。如果您想与其他应用程序/项目共享数据,这可能是一个不错的选择。然而,XML是众所周知的空间密集型,并且编码/解码它会对应用程序造成巨大的性能损失。此外,导航XML DOM树比通常在类中导航简单字段要复杂得多。

protocol buffer是灵活,高效,自动化的解决方案,可以解决这个问题。使用protocol buffer,您可以编写要存储的数据结构的 .proto描述。由此,protocol buffer编译器会创建一个类,该类使用有效的二进制格式实现协议缓冲区数据的自动编码和解析。生成的类会为构成protocol buffer的字段提供getter和setter,并负责将protocol buffer作为一个单元读取和写入的细节。重要的是,protocol buffer格式支持随着时间的推移扩展格式的想法,使得代码仍然可以读取使用旧格式编码的数据。

获得示例程序

示例是一组用于管理地址簿数据文件的命令行应用程序,使用protocol buffer进行编码。命令 add_person_go向数据文件添加新条目。命令 list_people_go解析数据文件并将数据打印到控制台。

PS: 微信不让加外链点击原文链接去github上下载程序代码吧。

下载这些文件到你的项目目录中:

  • 描述protocol buffer消息格式的 .proto文件 addressbook.proto

  • 命令行程序addperson.go,listpeople.go

定义协议格式

要创建地址簿应用程序,您需要从 .proto文件开始。.proto文件中的定义很简单:为要序列化的每个数据结构定义消息,然后为消息中的每个字段指定名称和类型。在我们的示例中,定义消息的.proto文件是addressbook.proto。

.proto文件以包声明开头,这有助于防止不同项目之间的命名冲突。

syntax = "proto3";
package tutorial;
import "google/protobuf/timestamp.proto";

在Go中,protocol buffer的包名称用作Go包,除非您指定了gopackage。即使你确实提供了gopackage,你仍然应该在 .proto文件中定义一个包名,以避免在Protocol Buffers命名空间和非Go语言中发生名称冲突。

接下来,是消息定义。消息只是包含一组类型字段的聚合。许多标准的简单数据类型都可用作字段类型,包括bool,int32,float,double和string。您还可以使用其他消息类型作为字段类型,为消息添加更多结构。

message Person {string name = 1;int32 id = 2;  // Unique ID number for this person.string email = 3;enum PhoneType {MOBILE = 0;HOME = 1;WORK = 2;}message PhoneNumber {string number = 1;PhoneType type = 2;}repeated PhoneNumber phones = 4;google.protobuf.Timestamp last_updated = 5;
}
// Our address book file is just one of these.
message AddressBook {repeated Person people = 1;
}

在上面的示例中, Person消息包含 PhoneNumber消息,而 AddressBook消息包含 Person消息。您甚至可以定义嵌套在其他消息中的消息类型 - 如您所见, PhoneNumber类型在 Person中定义。如果您希望其中一个字段值的取值范围是预定义的值列表中的值,还可以定义枚举类型 - 此处你要指定电话号码可以是 MOBILEHOMEWORK之一。

每个元素上的“= 1”,“= 2”标记标识该字段在二进制编码中使用的唯一“标记”。标签号1-15编码时比更大编号少需要一个字节,因此作为优化,您可以决定将这些标签用于常用或重复的元素,将标签16和更高标签留给不太常用的可选元素。重复字段中的每个元素都需要重新编码标记号,因此重复字段特别适合此优化。

如果未设置字段值,则使用默认值:数字类型为零,字符串为空字符串,bools为false。对于嵌入式消息,默认值始终是消息的“默认实例”或“原型”,其中没有设置其字段。调用访问器以获取尚未显式设置的字段的值始终返回该字段的默认值。

如果一个字段是可重复的,该字段可以重复任意次数(包括零)。重复值的顺序将保留在protocol buffer中。将可重复字段视为变长数组。

您将在Protobuf语言指南中找到编写.proto文件的完整指南 - 包括所有可能的字段类型。不要去寻找类继承类似的东西,protocol buffer不支持这些。

编译protocol buffers

有了 .proto后,你需要做的下一件事是生成你需要读取和写入AddressBook(以及Person和PhoneNumber)消息所需的类(Go中是结构体和结构体方法)。为此,你需要在.proto上运行protocol buffer译器protoc:

  1. 请先确保已经安装了编译器 protoc

  2. protoc需要安装插件才能编译生成Go代码,可以运行如下命令安装插件

    go get -u github.com/golang/protobuf/protoc-gen-go
    
  3. 现在运行编译器,指定源目录(应用程序的源代码所在的位置 - 如果不提供值,则使用当前目录),目标目录(您希望生成的代码在哪里;通常与$相同) SRC_DIR),以及.proto的路径。在这种情况下,你...:

    protoc -I=$SRC_DIR --go_out=$DST_DIR $SRC_DIR/addressbook.proto

  4. 我们使用的示例go代码中导入编译后的 pb.go文件的路径是 pb"github.com/protocolbuffers/protobuf/examples/tutorial" 所以用protoc编译时使用的目标路径应该是

protoc --go_out=$GOPATH/src/github.com/protocolbuffers/protobuf/examples/tutorial ./addressbook.proto

$GOPATH/src/github.com/protocolbuffers/protobuf/examples/tutorial目录需要提前创建好。

Protocol buffer API

生成addressbook.pb.go提供以下有用类型:

  • 拥有有People字段的AddressBook结构体。

  • 拥有Name,Id,Email和Phones字段的Person结构体。

  • Person_PhoneNumber结构体,包含Number和Type字段。

  • 类型Person_PhoneType和为Person.PhoneType枚举中的每个值定义的常量。

可以有关“生成代码”指南中生成的内容的详细信息,但在大多数情况下,您可以将这些视为完全普通的Go类型。

行动胜千言,下载教程中提供的代码,运行上面的编译命令,去看看生成的 addressbook.pb.go中的代码吧。

下面是如何创建Person实例的示例:

p := pb.Person{Id:    1234,Name:  "John Doe",Email: "jdoe@example.com",Phones: []*pb.Person_PhoneNumber{{Number: "555-4321", Type: pb.Person_HOME},},
}

在Go中序列化protocol buffer数据

使用protocl buffer目的是序列化你的结构化数据,以便可以在其他地方解析它。在Go中,使用 proto库的 Marshal函数来序列化protocol buffer数据。指向消息的结构体的指针实现了 proto.Message接口。调用 proto.Marshal会返回以其有线格式编码的protocol buffer。例如,我们在add_person命令中使用此函数:

book := &pb.AddressBook{}
// ...
// Write the new address book back to disk.
out, err := proto.Marshal(book)
if err != nil {log.Fatalln("Failed to encode address book:", err)
}
if err := ioutil.WriteFile(fname, out, 0644); err != nil {log.Fatalln("Failed to write address book:", err)
}

在Go中解析protocol buffer

要解析编码消息,请使用 proto库的 Unmarshal函数。调用它将buf中的数据解析为protocol buffer,并将结果放在结构体中。因此,要在list_people命令中解析文件,我们使用:

// Read the existing address book.
in, err := ioutil.ReadFile(fname)
if err != nil {log.Fatalln("Error reading file:", err)
}
book := &pb.AddressBook{}
if err := proto.Unmarshal(in, book); err != nil {log.Fatalln("Failed to parse address book:", err)
}

运行Go应用程序

  • 命令行中运行 go build add_person.go 和 go build list_people.go 会生成两个二进制文件 add_person和 list_people

  • 命令行运行 ./add_person ADDRESS_BOOK 程序会在命令行中提示输入,用命令行的输入构建地址簿数据然后将数据序列化为protocol buffer存储到文件 ADDRESS_BOOK中。

  • 命令行运行 ./list_people 程序会从文件 ADDRESS_BOOK读取protocol buffer数据,解析到结构体中然后打印出结构体中的 Person数据。

在Go中使用Protobuf相关推荐

  1. 在网络通讯中应用Protobuf

    Protobuf的设计非常适用于在网络通讯中的数据载体,它序列化出来的数据量少再加上以K-V的方式来存储数据,对消息的版本兼容性非常强:还有一个比较大的优点就是有着很多的语言平台支持.下面讲解一下如何 ...

  2. 怎样在Spark、Flink应用中使用Protobuf 3的包

    如果在在Spark.Flink应用中使用Protobuf 3的包,因为Spark默认使用的是2.5版本的包,提交任务时,可能会报如下异常: com.google.protobuf.CodedInput ...

  3. unity项目源码_在Unity中使用protobuf

    Protocol Buffers (通常简称为protobuf) 是Google开发的一种格式,这种格式与开发语言无关.与运行平台无关,用于序列化结构数据,并且很容易扩展.这种格式可以用于通信协议.数 ...

  4. Netty中集成Protobuf实现Java对象数据传递

    场景 Netty的Socket编程详解-搭建服务端与客户端并进行数据传输: https://blog.csdn.net/BADAO_LIUMANG_QIZHI/article/details/1086 ...

  5. ProtoBuf的介绍以及在Java中使用protobuf将对象进行序列化与反序列化

    场景 ProtoBuf简介 protocol buffers 是一种语言无关.平台无关.可扩展的序列化结构数据的方法,它可用于(数据)通信协议.数据存储等. Protocol Buffers 是一种灵 ...

  6. C#中使用ProtoBuf将list进行序列化并保存到文件

    场景 C#中使用ProtoBuf提高序列化速度对比二进制序列化: https://blog.csdn.net/BADAO_LIUMANG_QIZHI/article/details/99850052 ...

  7. netty系列之:在netty中使用protobuf协议

    文章目录 简介 定义protobuf 定义handler 设置ChannelPipeline 构建client和server端并运行 总结 简介 netty中有很多适配不同协议的编码工具,对于流行的g ...

  8. php protobuf 二进制,PHP环境中使用ProtoBuf数据格式

    1.syntax="proto3":表明使用的是proto3格式,如果不指定则为proto2 2.package test:定义包名为test,生成类时,会产生一个目录为test ...

  9. ROS中使用protoBuf通信

    ROS自身话题也挺好的,不过暂时还不知道如何判断网络,因此,还是想换回tcp/udp通信. 但是发现通信时数据比较多,调查一下,发现ROS支持google的protoBuf. 先建立一个ROS的项目, ...

  10. Beetle在Tcp通讯中使用Protobuf

    Protobuf是google制定的一种对象序列化格式,而在.net下的实现有protobuf-net.而protobuf-net在序列化方面有着出色的性能,效率是.net二进制序列化几倍,而序列化后 ...

最新文章

  1. Google Gflags使用
  2. java.util.ConcurrentModificationException(并发修改错...
  3. 2 Powershell与Cmd以及Unix/Linux Shell
  4. QT的QDesignerTaskMenuExtension类的使用
  5. java提取字符从mysql_MySQL 字符串截取SUBSTRING()函数
  6. LeetCode2:Add Two Numbers
  7. Animator 设置动画效果
  8. 吃糖果(HDU-1205)
  9. 华米OV坐不住了!九大手机厂商围剿微信小程序
  10. 问题六十八: 着色模型(shading model)(0)——《Ray Tracing from the Ground Up》代码的移植
  11. 数领科技|solidworks教程:如何打包solidworks工程文件
  12. phpspider 的简单使用
  13. word修改正文样式影响标题样式
  14. 数据挖掘 任务一:预测贷款是否逾期
  15. 大冬与小冉的故事 !!!-----阿冬专栏
  16. 天干地支计算公式_天干地支怎么算?年柱的计算方法!
  17. 计算机毕设结束语致谢,毕业设计结束语和致谢
  18. 2020-9-20 周报
  19. 【ZJOI2022】 众数(根号分治)
  20. 大数据和云计算具体是什么概念

热门文章

  1. 精简Linux文件路径
  2. 阿里巴巴在宁成立江苏总部
  3. 网管,请别随意关闭默认共享
  4. WPF 可触摸移动的ScrollViewer控件
  5. 一种避免 iOS 内存碎片的方法
  6. Page Object设计模式实践
  7. JAVA学习篇--Java类加载
  8. [转]Oracle中字符集的类型决定varchar2的字符长度
  9. ORM内核原理解析之:延迟加载
  10. 范例 在 Setting 里加入 HiApk Settings 选项