本文是官方protocol buffers v3指南的翻译。

本文翻译自https://developers.google.com/protocol-buffers/docs/proto3

定义一个消息类型

首先让我们看一个非常简单的例子。假设您想要定义一个搜索请求消息格式,其中每个搜索请求都包含一个查询词字符串、你感兴趣的查询结果所在的特定页码数和每一页应展示的结果数。

下面是用于定义这个消息类型的 .proto 文件。

syntax = "proto3";

message SearchRequest {
  string query = 1;
  int32 page_number = 2;
  int32 result_per_page = 3;
}
  • 文件的第一行指定使用 proto3 语法: 如果不这样写,protocol buffer编译器将假定你使用 proto2。这个声明必须是文件的第一个非空非注释行。
  • SearchRequest 消息定义指定了三个字段(名称/值对) ,每个字段表示希望包含在此类消息中的每一段数据。每个字段都有一个名称和一个类型。

指定字段类型

在上面的示例中,所有字段都是标量类型(scalar types): 两个整数(page_numberresult_per_page)和一个字符串(query)。但是也可以为字段指定组合类型,包括枚举和其他消息类型。

分配字段编号

如你所见,消息定义中的每个字段都有一个唯一的编号。这些字段编号用来在消息二进制格式中标识字段,在消息类型使用后就不能再更改。注意,范围1到15中的字段编号需要一个字节进行编码,包括字段编号和字段类型。范围16到2047的字段编号采用两个字节。因此,应该为经常使用的消息元素保留数字1到15的编号。切记为将来可能添加的经常使用的元素留出一些编号。

你可以指定的最小字段数是1,最大的字段数是 $2^{29} -1$ ,即536,870,911。你也不能使用19000到19999 (FieldDescriptor::kFirstReservedNumberFieldDescriptor::kLastReservedNumber)的编号,它们是预留给Protocol Buffers协议实现的。如果你在你的.proto文件中使用了预留的编号Protocol Buffers编译器就会报错。同样,你也不能使用任何之前保留的字段编号。

指定字段规则

消息字段可以是下列字段之一:

  • singular: 格式良好的消息可以有这个字段的零个或一个(但不能多于一个)。这是 proto3语法的默认字段规则。
  • repeated: 该字段可以在格式良好的消息中重复任意次数(包括零次)。重复值的顺序将被保留。

在 proto3中,标量数值类型的repeated字段默认使用packed编码。

你可以在 Protocol Buffer Encoding 中找到关于packed编码的更多信息。

添加更多消息类型

可以在一个.proto 文件中定义多个消息类型。如果你正在定义多个相关的消息,这是非常有用的——例如,如果想定义与 SearchRequest 消息类型对应的应答消息格式SearchResponse,你就可以将其添加到同一个.proto文件中。

message SearchRequest {
  string query = 1;
  int32 page_number = 2;
  int32 result_per_page = 3;
}

message SearchResponse {
 ...
}

添加注释

要给你的.proto文件添加注释,需要使用C/C++风格的///* ... */语法。

/* SearchRequest represents a search query, with pagination options to
 * indicate which results to include in the response. */

message SearchRequest {
  string query = 1;
  int32 page_number = 2;  // Which page number do we want?
  int32 result_per_page = 3;  // Number of results to return per page.
}

保留字段

如果你通过完全删除字段或将其注释掉来更新消息类型,那么未来的用户在对该类型进行自己的更新时可以重用字段号。如果其他人以后加载旧版本的相同.proto文件,这可能会导致严重的问题,包括数据损坏,隐私漏洞等等。确保这种情况不会发生的一种方法是指定已删除字段的字段编号(和/或名称,这也可能导致 JSON 序列化问题)是保留的(reserved)。如果将来有任何用户尝试使用这些字段标识符,protocol buffer编译器将发出提示。

message Foo {
  reserved 2, 15, 9 to 11;
  reserved "foo", "bar";
}

注意,不能在同一个reserved语句中混合字段名和字段编号。

从你的.proto文件生成了什么?

当你使用 protocol buffer 编译器来运行.proto文件时,编译器用你选择的语言生成你需要使用文件中描述的消息类型,包括获取和设置字段值,将消息序列化为输出流,以及从输入流解析消息的代码。

  • C++来说,编译器会为每个.proto文件生成一个.h文件和一个.cc文件,.proto文件中的每一个消息有一个对应的类。
  • 对于 Java,编译器生成一个.java 文件,每种消息类型都有一个类,还有一个特殊的 Builder 类用于创建消息类实例。
  • 对于 Kotlin,除了 Java 生成的代码之外,编译器还生成一个每种消息类型的 .kt 文件,包含一个 DSL,可用于简化消息实例的创建。
  • Python 稍有不同ー Python 编译器为.proto文件中的每个消息类型生成一个带静态描述符的模块,然后与*metaclass*一起使用,在运行时创建必要的 Python 数据访问类。
  • 对于 Go,编译器为文件中的每种消息类型生成一个类型(type)到一个.pb.go 文件。
  • 对于 Ruby,编译器生成一个.rb 文件,其中包含一个包含消息类型的 Ruby 模块。
  • 对于 Objective-C,编译器从每个.proto文件生成一个 pbobjc.hpbobjc.m 文件,.proto文件中描述的每种消息类型都有一个类。
  • 对于 C# ,编译器生从每个.proto文件生成一个.cs 文件。.proto文件中描述的每种消息类型都有一个类。
  • 对于 Dart,编译器为文件中的每种消息类型生成一个.pb.dart 文件。

你可以通过学习所选语言的教程(proto3版本即将推出)了解更多关于使用每种语言的 API 的信息。有关 API 的更多细节,请参阅相关的 API reference(proto3版本也即将推出)。

标量值类型

标量消息字段可以具有以下类型之一——该表显示了.proto文件,以及自动生成类中的对应类型:

.proto Type Notes C++ Type Java/Kotlin Type[1] Python Type[3] Go Type Ruby Type C# Type PHP Type Dart Type
double double double float float64 Float double float double
float float float float float32 Float float float double
int32 Uses variable-length encoding. Inefficient for encoding negative numbers – if your field is likely to have negative values, use sint32 instead. int32 int int int32 Fixnum or Bignum (as required) int integer int
int64 Uses variable-length encoding. Inefficient for encoding negative numbers – if your field is likely to have negative values, use sint64 instead. int64 long int/long[4] int64 Bignum long integer/string[6] Int64
uint32 Uses variable-length encoding. uint32 int[2] int/long[4] uint32 Fixnum or Bignum (as required) uint integer int
uint64 Uses variable-length encoding. uint64 long[2] int/long[4] uint64 Bignum ulong integer/string[6] Int64
sint32 Uses variable-length encoding. Signed int value. These more efficiently encode negative numbers than regular int32s. int32 int int int32 Fixnum or Bignum (as required) int integer int
sint64 Uses variable-length encoding. Signed int value. These more efficiently encode negative numbers than regular int64s. int64 long int/long[4] int64 Bignum long integer/string[6] Int64
fixed32 Always four bytes. More efficient than uint32 if values are often greater than 228. uint32 int[2] int/long[4] uint32 Fixnum or Bignum (as required) uint integer int
fixed64 Always eight bytes. More efficient than uint64 if values are often greater than 256. uint64 long[2] int/long[4] uint64 Bignum ulong integer/string[6] Int64
sfixed32 Always four bytes. int32 int int int32 Fixnum or Bignum (as required) int integer int
sfixed64 Always eight bytes. int64 long int/long[4] int64 Bignum long integer/string[6] Int64
bool bool boolean bool bool TrueClass/FalseClass bool boolean bool
string A string must always contain UTF-8 encoded or 7-bit ASCII text, and cannot be longer than 232. string String str/unicode[5] string String (UTF-8) string string String
bytes May contain any arbitrary sequence of bytes no longer than 232. string ByteString str (Python 2) bytes (Python 3) []byte String (ASCII-8BIT) ByteString string List

在使用 Protocol Buffer Encoding 对消息进行序列化时,可以了解有关这些类型如何编码的更多信息。

[1] Kotlin 使用来自 Java 的相应类型,甚至是无符号类型,以确保混合 Java/Kotlin 代码库的兼容性。

[2] 在 Java 中,无符号的32位和64位整数使用它们的有符号对应项来表示,最高位存储在有符号位中。

[3] 在任何情况下,为字段设置值都将执行类型检查,以确保其有效。

[4] 64位或无符号的32位整数在解码时总是表示为 long ,但如果在设置字段时给出 int,则可以表示为 int。在任何情况下,值必须与设置时表示的类型相匹配。见[2]。

[5] Python 字符串在解码时表示为 unicode,但如果给出了 ASCII 字符串,则可以表示为 str (这可能会更改)。

[6] 整数用于64位机器,字符串用于32位机器。

默认值

当解析消息时,如果编码消息不包含特定的 singular 元素,则解析对象中的相应字段将设置为该字段的默认值。

  • 对于字符串,默认值为空字符串。
  • 对于字节,默认值为空字节。
  • 对于布尔值,默认值为 false。
  • 对于数值类型,默认值为零。
  • 对于枚举,默认值是第一个定义的枚举值,该值必须为0。
  • 对于消息字段,未设置该字段。其确切值与语言有关。详细信息请参阅生成的代码指南

repeated 字段的默认值为空(通常是适当语言中的空列表)。

请注意,对于标量消息字段,一旦消息被解析,就无法判断字段是显式设置为默认值(例如,是否一个布尔值是被设置为 false)还是根本没有设置: 在定义消息类型时应该牢记这一点。例如,如果您不希望某个行为在默认情况下也发生,那么就不要设置一个布尔值,该布尔值在设置为 false 时会开启某些行为。还要注意,如果将标量消息字段设置为默认值,则该值将不会在传输过程中序列化。

有关生成的代码的默认工作方式的更多详细信息,请参阅所选语言的生成代码指南

枚举

在定义消息类型时,你可能希望其中一个字段只能是预定义的值列表中的一个值。例如,假设你想为每个 SearchRequest 添加一个语料库字段,其中语料库可以是 UNIVERSALWEBIMAGESLOCALNEWSPRODUCTSVIDEO。你可以通过在消息定义中添加一个枚举,为每个可能的值添加一个常量来非常简单地完成这项工作。

在下面的例子中,我们添加了一个名为 Corpusenum,包含所有可能的值,以及一个类型为 Corpus 的字段:

message SearchRequest {
  string query = 1;
  int32 page_number = 2;
  int32 result_per_page = 3;
  enum Corpus {
    UNIVERSAL = 0;
    WEB = 1;
    IMAGES = 2;
    LOCAL = 3;
    NEWS = 4;
    PRODUCTS = 5;
    VIDEO = 6;
  }
  Corpus corpus = 4;
}

如你所见,Corpus enum 的第一个常量映射为零: 每个 enum 定义必须包含一个常量,该常量映射为零作为它的第一个元素。这是因为:

  1. 必须有一个零值,这样我们就可以使用0作为数值默认值。
  2. 零值必须是第一个元素,以便与 proto2语义兼容,其中第一个枚举值总是默认值。

你可以通过将相同的值分配给不同的枚举常量来定义别名。为此,你需要将 allow _ alias 选项设置为 true,否则,当发现别名时,protocol 编译器将生成错误消息。

message MyMessage1 {
  enum EnumAllowingAlias {
    option allow_alias = true;
    UNKNOWN = 0;
    STARTED = 1;
    RUNNING = 1;
  }
}
message MyMessage2 {
  enum EnumNotAllowingAlias {
    UNKNOWN = 0;
    STARTED = 1;
    // RUNNING = 1;  // Uncommenting this line will cause a compile error inside Google and a warning message outside.
  }
}

枚举的常数必须在32位整数的范围内。由于枚举值在传输时使用变长编码,因此负值效率低,因此不推荐使用。可以在消息定义中定义枚举,如上面的例子所示,也可以在外面定义——这样就可以在.proto文件中的消息定义中重用这些枚举。你还可以使用_MessageType_._EnumType_ 语法,使用在一个消息中声明的enum类型作为不同消息中的字段类型。

当对一个使用了枚举的.proto文件运行 protocol buffer 编译器的时候,对于 Java, Kotlin,或 C++ 生成的代码中将有一个对应的enum,或者对于 Python 会生成一个特殊的EnumDescriptor类,它被用于在运行时生成的类中创建一组带有整数值的符号常量。

注意:生成的代码可能会受到特定于语言的枚举数限制(单种语言的数量低于千)。请检查你计划使用的语言的限制。

在反序列化过程中,不可识别的枚举值将保留在消息中,尽管当消息被反序列化时,这种值的表示方式依赖于语言。在支持值超出指定符号范围(如 C++ 和 Go)的开放枚举类型的语言中,未知枚举值仅存储为其底层的整数表示形式。在具有闭合枚举类型(如 Java)的语言中,枚举中的一个类型将用于表示一个无法识别的值,并且可以使用特殊的访问器访问底层的整数。在这两种情况下,如果消息被序列化,那么不可识别的值仍然会与消息一起被序列化。

有关如何在应用程序中使用消息enum的详细信息,请参阅为所选语言生成的代码指南

预留值

如果通过完全删除枚举条目或注释掉枚举类型来更新枚举类型,那么未来的用户在自己更新该类型时可以重用该数值。这可能会导致严重的问题,如果以后有人加载旧版本的相同.proto文件,包括数据损坏,隐私漏洞等等。确保不发生这种情况的一种方法是指定已删除条目的数值(和/或名称,这也可能导致 JSON 序列化问题)为 reserved。如果任何未来的用户试图使用这些标识符,protocol buffer 编译器将报错。你可以使用 max关键字指定保留的数值范围最大为可能的值。

enum Foo {
  reserved 2, 15, 9 to 11, 40 to max;
  reserved "FOO", "BAR";
}

注意,不能在同一个保留语句中混合字段名和数值。

使用其他消息类型

你可以使用其他消息类型作为字段类型。例如,假设你希望在每个 SearchResponse消息中包含UI个 Result消息——为了做到这一点,你可以在同一个.proto文件中定义 Result消息类型。然后在 SearchResponse中指定 Result 类型的字段。

message SearchResponse {
  repeated Result results = 1;
}

message Result {
  string url = 1;
  string title = 2;
  repeated string snippets = 3;
}

导入定义

在上面的示例中,Result消息类型定义在与 SearchResponse相同的文件中——如果你希望用作字段类型的消息类型已经在另一个.proto文件中定义了,该怎么办?

你可以通过 import 来使用来自其他 .proto 文件的定义。要导入另一个.proto 的定义,你需要在文件顶部添加一个 import 语句:

import "myproject/other_protos.proto";

默认情况下,只能从直接导入的 .proto 文件中使用定义。但是,有时你可能需要将 .proto 文件移动到新的位置。你可以在旧目录放一个占位的.proto文件使用import public 概念将所有导入转发到新位置,而不必直接移动.proto文件并修改所有的地方。

注意,Java 中没有 import public 功能。

import public依赖项可以被任何导入包含import public语句的 proto 的代码传递依赖。例如:

// new.proto
// All definitions are moved here
// old.proto
// This is the proto that all clients are importing.
import public "new.proto";
import "other.proto";
// client.proto
import "old.proto";
// You use definitions from old.proto and new.proto, but not other.proto

protocol 编译器使用命令行-I/--proto_path参数指定的一组目录中搜索导入的文件。如果没有给该命令行参数,则查看调用编译器的目录。一般来说,你应该将 --proto_path 参数设置为项目的根目录并为所有导入使用正确的名称。

使用proto2消息类型

导入 proto2消息类型并在 proto3消息中使用它们是可能的,反之亦然。然而,proto2 enum 不能直接在 proto3语法中使用(如果一个导入的 proto2消息使用了它们,那没问题)。

嵌套类型

你可以在其他消息类型中定义和使用消息类型,如下面的例子——这里的Result消息是在 SearchResponse消息中定义的:

message SearchResponse {
  message Result {
    string url = 1;
    string title = 2;
    repeated string snippets = 3;
  }
  repeated Result results = 1;
}

如果要在其父消息类型之外重用此消息类型,请通过_Parent_._Type_使用:

message SomeOtherMessage {
  SearchResponse.Result result = 1;
}

你可以随心所欲地将信息一层又一层嵌入其中:

message Outer {                  // Level 0
  message MiddleAA {  // Level 1
    message Inner {   // Level 2
      int64 ival = 1;
      bool  booly = 2;
    }
  }
  message MiddleBB {  // Level 1
    message Inner {   // Level 2
      int32 ival = 1;
      bool  booly = 2;
    }
  }
}

更新消息类型

如果现有的消息类型不再满足你的所有需要——例如,你希望消息格式有一个额外的字段——但是你仍然希望使用用旧格式创建的代码,不要担心!在不破坏任何现有代码的情况下更新消息类型非常简单,只需记住以下规则:

  • 不要更改任何现有字段的字段编号
  • 如果添加新字段,那么任何使用“旧”消息格式通过代码序列化的消息仍然可以通过新生成的代码进行解析。你应该记住这些元素的默认值,以便新代码能够正确地与旧代码生成的消息交互。类似地,新代码创建的消息可以通过旧代码解析: 旧的二进制文件在解析时直接忽略新字段。有关详细信息,请参阅 未知字段 部分。
  • 字段可以被删除,只要字段编号不再用于你更新的消息类型。你可能希望改为重命名字段,或者为其添加”OBSOLETE_“前缀,或者声明字段编号为reserved,以便.proto的未来用户不可能不小心重复使用这个编号。
  • int32uint32int64uint64bool都是兼容的——这意味着您可以在不破坏向前或向后兼容性的情况下将一个字段从这些类型中的一个更改为另一个。
  • 如果一个数字被解析到一个并不适当的类型中,你会得到与在 C++ 中将数字转换为该类型相同的效果(例如,如果一个64位的数字被读作 int32,它将被截断为32位)
  • sint32sint64相互兼容,但与其他整数类型不兼容。
  • stringbytes是兼容的,只要字节是有效的 UTF-8。
  • 如果字节包含消息的编码版本,则嵌入的消息与bytes兼容。
  • fixed32sfixed32兼容 fixed64sfixed64兼容。
  • 对于stringbytes和消息字段,optional字段与repeated字段兼容。给定重复字段的序列化数据作为输入,如果该字段是基本类型字段,期望该字段为可选字段的客户端将接受最后一个输入值; 如果该字段是消息类型字段,则合并所有输入元素。注意,这对于数字类型(包括 bools 和 enums)通常是不安全的。重复的数值类型字段可以按packed的格式序列化,如果是optional字段,则无法正确解析这些字段。
  • Enum 在格式方面与 int32、 uint32、 int64和 uint64兼容(请注意,如果不适合,值将被截断)。但是要注意,当消息被反序列化时,客户端代码可能会区别对待它们: 例如,未被识别的 proto3 enum类型将保留在消息中,但是当消息被反序列化时,这种类型的表示方式依赖于语言。Int 字段总是保留它们的值。
  • 将单个值更改为oneof成员是安全的,并且二进制兼容。如果确保没有代码一次设置多个字段,那么将多个字段移动到新的oneof字段中可能是安全的。将任何字段移动到现有的字段中都是不安全的。

未知字段

未知字段是格式良好的协议缓冲区序列化数据,表示解析器不识别的字段。例如,当旧二进制解析由新二进制发送的带有新字段的数据时,这些新字段将成为旧二进制中的未知字段。

最初,proto3消息在解析过程中总是丢弃未知字段,但在3.5版本中,我们重新引入了未知字段的保存来匹配 proto2行为。在3.5及以后的版本中,解析期间保留未知字段,并将其包含在序列化输出中。

Any

Any 消息类型允许你将消息作为嵌入类型使用,而不需要其 .proto 定义。Any包含一个任意序列化的字节消息,以及一个解析为该消息的类型作为消息的全局唯一标识符的URL。要使用 Any类型,需要导入google/protobuf/any.proto

import "google/protobuf/any.proto";

message ErrorStatus {
  string message = 1;
  repeated google.protobuf.Any details = 2;
}

给定消息类型的默认类型 URL 是type.googleapis.com/_packagename_._messagename_

不同的语言实现将支持运行库助手以类型安全的方式打包和解包 Any值。例如在java中,Any类型会有特殊的pack()unpack()访问器,在C++中会有PackFrom()UnpackTo()方法。

// Storing an arbitrary message type in Any.
NetworkErrorDetails details = ...;
ErrorStatus status;
status.add_details()->PackFrom(details);

// Reading an arbitrary message from Any.
ErrorStatus status = ...;
for (const Any& detail : status.details()) {
  if (detail.Is<NetworkErrorDetails>()) {
    NetworkErrorDetails network_error;
    detail.UnpackTo(&network_error);
    ... processing network_error ...
  }
}

目前正在开发用于处理任何类型的运行时库。

如果你已经熟悉 proto2语法,Any 可以保存任意的 proto3消息,类似于 proto2消息,可以允许扩展。

oneof

如果你有一条包含许多字段的消息,并且最多同时设置一个字段,那么你可以通过使用其中一个特性来强制执行此行为并节省内存。

oneof字段类似于常规字段,只不过共享内存中的一个字段中的所有字段都是常规字段,而且最多可以同时设置一个字段。设置其中的任何成员都会自动清除所有其他成员。根据所选择的语言,可以使用特殊 case()WhichOneof() 方法检查 one of 中的哪个值被设置(如果有的话)。

使用oneof

要定义 oneof 字段需要在你的.proto文件中使用oneof关键字并在后面跟上名称,在下面的例子中字段名称为test_oneof

message SampleMessage {
  oneof test_oneof {
    string name = 4;
    SubMessage sub_message = 9;
  }
}

然后将其中一个字段添加到该字段的定义中。你可以添加任何类型的字段,除了map字段和repeated字段。

在生成的代码中,其中一个字段具有与常规字段相同的 getter 和 setter。你还可以获得一个特殊的方法来检查其中一个设置了哪个值(如果有的话)。你可以在相关的 API 参考文献中找到更多关于所选语言的 API。

oneof 特性

  • 设置一个字段将自动清除该字段的所有其他成员。因此,如果你设置了多个 oneof字段,那么只有最后设置的字段仍然具有值。
  SampleMessage message;
  message.set_name("name");
  CHECK(message.has_name());
  message.mutable_sub_message();   // Will clear name field.
  CHECK(!message.has_name());
  • 如果解析器在连接中遇到同一个成员的多个成员,则只有最后看到的成员用于解析消息。

  • oneof 不支持repeated

  • 反射 api 适用于 oneof 字段。

  • 如果将 oneof 字段设置为默认值(例如将 int32 oneof 字段设置为0) ,则将设置该字段的“ case”,并在连接上序列化该值。

  • 如果你使用 C++ ,确保你的代码不会导致内存崩溃。下面的示例代码将崩溃,因为通过调用 set_name()方法已经删除了 sub_message

  SampleMessage message;
  SubMessage* sub_message = message.mutable_sub_message();
  message.set_name("name");      // Will delete sub_message
  sub_message->set_...            // Crashes here
  • 在C++中,如果你使用Swap()两个 oneof 消息,每个消息,两个消息将拥有对方的值,例如在下面的例子中,msg1会拥有sub_message并且msg2会有name
  SampleMessage msg1;
  msg1.set_name("name");
  SampleMessage msg2;
  msg2.mutable_sub_message();
  msg1.swap(&msg2);
  CHECK(msg1.has_sub_message());
  CHECK(msg2.has_name());

向后兼容性问题

添加或删除一个字段时要小心。如果检查 one of 的值返回None/NOT_SET,这可能意味着 one of 没有被设置,或者它已经被设置为 one of 的不同版本中的一个字段。这没有办法区分,因为没有办法知道未知字段是否是 oneof 的成员。

标签重用问题

  • 将字段移入或移出 oneof:在序列化和解析消息之后,你可能会丢失一些信息(某些字段将被清除)。但是,你可以安全地将单个字段移动到新的 oneof 字段中,并且如果已知只设置了一个字段,则可以移动多个字段。
  • 删除一个oneof 字段再添加回来:这可能会在消息被序列化和解析后清除当前设置的 oneof 字段。
  • 拆分或合并oneof:这与移动常规字段有类似的问题。

Maps

如果你想创建一个关联映射作为你数据定义的一部分,protocol buffers提供了一个方便的快捷语法:

map<key_type, value_type> map_field = N;

…其中key_type可以是任何整型或字符串类型(因此,除了浮点类型和字节以外的任何标量类型) 。注意,枚举不是有效的key_typevalue_type可以是除另一个映射以外的任何类型。

例如,如果你想创建一个项目映射,其中每个Project消息都与一个字符串键相关联,你可以这样定义:

map<string, Project> projects = 3;
  • 映射字段不能重复。
  • 映射值的有线格式排序和映射迭代排序是未定义的,因此不能依赖于映射项的特定排序。
  • 当为 .proto 生成文本格式时,映射按键排序。数字键按数字排序。
  • 当从连接解析或合并时,如果有重复的映射键,则使用最后看到的键。当从文本格式解析映射时,如果有重复的键,解析可能会失败。
  • 如果为映射字段提供了键但没有值,则该字段序列化时的行为与语言相关。在 C++ 、 Java、 Kotlin 和 Python 中,类型的默认值是序列化的,而在其他语言中,没有任何值是序列化的。

生成的映射 API 目前可用于所有支持 proto3的语言。您可以在相关的 API 参考中找到更多关于所选语言的映射 API 的信息。

向后兼容性

map语法序列化后等同于如下内容,因此即使是不支持map语法的protocol buffer实现也是可以处理你的数据的:

message MapFieldEntry {
  key_type key = 1;
  value_type value = 2;
}

repeated MapFieldEntry map_field = N;

任何支持映射的protocol buffers实现都必须生成并接受上述定义可以接受的数据。

Packages

可以向 .proto 文件添加一个可选package说明符,以防止协议消息类型之间的名称冲突。

package foo.bar;
message Open { ... }

然后,你可以在定义消息类型的字段时使用package说明符:

message Foo {
  ...
  foo.bar.Open open = 1;
  ...
}

package 说明符影响生成代码的方式取决于你选择的语言:

  • 对于C++,产生的类会被包装在C++的命名空间中,如上例中的Open会被封装在 foo::bar空间中;
  • 对于JavaKotlin,包声明符会变为java的一个包,除非在.proto文件中提供了一个明确有option java_package
  • 对于 Python,这个包声明符是被忽略的,因为Python模块是按照其在文件系统中的位置进行组织的
  • 对于Go,包可以被用做Go包名称,除非你显式的提供一个option go_package在你的.proto文件中。
  • 对于Ruby,生成的类可以被包装在内置的Ruby名称空间中,转换成Ruby所需的大小写样式 (首字母大写;如果第一个符号不是一个字母,则使用PB_前缀),例如Open会在Foo::Bar名称空间中。

  • C# 中,包在转换到 PascalCase 后被用作名称空间,除非你在.proto文件中提供option csharp_namespace。例如,Open 将位于Foo.Bar名称空间中。

package和名称解析

在 protocol buffer 语言中,类型名称解析的工作原理类似于 C++ : 首先搜索最内层的作用域,然后搜索下一个最内层的作用域,依此类推,每个包都被认为是其父包的“ inner”。前导的“ .”(例如,.foo.bar.Baz)表示从最外侧的范围开始。

protocol buffer 通过解析导入的 .proto 文件来解析所有类型名称。每种语言的代码生成器都知道如何引用该语言中的每种类型,即使它有不同的作用域规则。

定义服务

如果希望将消息类型与 RPC (远程过程调用)系统一起使用,可以在.proto 文件和 protocol buffer 编译器将用你选择的语言生成服务接口代码和存根。因此,例如你希望定义一个 RPC 服务,其方法接受你的 SearchRequest并返回一个 SearchResponse,则可以在.proto文件如下定义。

service SearchService {
  rpc Search(SearchRequest) returns (SearchResponse);
}

使用 protocol buffers 最直接的 RPC 系统是 gRPC,这是 Google 开发的一个语言和平台中立的开源 RPC 系统,可以与 protocol buffers 一起使用。gRPC 特别适用于protocol buffers ,它可以让你直接从你的.proto文件使用特殊的 protocol buffers 编译器插件。

如果你不想使用 gRPC,你也可以在你自己的 RPC 实现中使用协议缓冲。你可以在《proto2语言指南》中找到更多相关信息。

还有一些正在进行的第三方项目正在开发 RPC 的实施协议缓冲。有关我们所知道的项目的链接列表,请参阅第三方添加项 wiki 页面

JSON 映射

proto3支持 JSON 的规范编码,使得系统之间更容易共享数据。下表按类型逐一描述了编码。

如果 json 编码的数据中缺少某个值,或者该值为 null,那么在解析为 protocol buffer 时,该值将被解释为适当的默认值。如果一个字段在 protocol buffer 中具有默认值,为了节省空间,默认情况下 json 编码的数据中将省略该字段。具体实现可以提供在JSON编码中可选的默认值。

proto3 JSON JSON example Notes
message object {"fooBar": v, "g": null, …} Generates JSON objects. Message field names are mapped to lowerCamelCase and become JSON object keys. If the json_name field option is specified, the specified value will be used as the key instead. Parsers accept both the lowerCamelCase name (or the one specified by the json_name option) and the original proto field name. null is an accepted value for all field types and treated as the default value of the corresponding field type.
enum string "FOO_BAR" The name of the enum value as specified in proto is used. Parsers accept both enum names and integer values.
map object {"k": v, …} All keys are converted to strings.
repeated V array [v, …] null is accepted as the empty list [].
bool true, false true, false
string string "Hello World!"
bytes base64 string "YWJjMTIzIT8kKiYoKSctPUB+" JSON value will be the data encoded as a string using standard base64 encoding with paddings. Either standard or URL-safe base64 encoding with/without paddings are accepted.
int32, fixed32, uint32 number 1, -10, 0 JSON value will be a decimal number. Either numbers or strings are accepted.
int64, fixed64, uint64 string "1", "-10" JSON value will be a decimal string. Either numbers or strings are accepted.
float, double number 1.1, -10.0, 0, "NaN", "Infinity" JSON value will be a number or one of the special string values “NaN”, “Infinity”, and “-Infinity”. Either numbers or strings are accepted. Exponent notation is also accepted. -0 is considered equivalent to 0.
Any object {"@type": "url", "f": v, … } If the Any contains a value that has a special JSON mapping, it will be converted as follows: {"@type": xxx, "value": yyy}. Otherwise, the value will be converted into a JSON object, and the "@type" field will be inserted to indicate the actual data type.
Timestamp string "1972-01-01T10:00:20.021Z" Uses RFC 3339, where generated output will always be Z-normalized and uses 0, 3, 6 or 9 fractional digits. Offsets other than “Z” are also accepted.
Duration string "1.000340012s", "1s" Generated output always contains 0, 3, 6, or 9 fractional digits, depending on required precision, followed by the suffix “s”. Accepted are any fractional digits (also none) as long as they fit into nano-seconds precision and the suffix “s” is required.
Struct object { … } Any JSON object. See struct.proto.
Wrapper types various types 2, "2", "foo", true, "true", null, 0, … Wrappers use the same representation in JSON as the wrapped primitive type, except that null is allowed and preserved during data conversion and transfer.
FieldMask string "f.fooBar,h" See field_mask.proto.
ListValue array [foo, bar, …]
Value value Any JSON value. Check google.protobuf.Value for details.
NullValue null JSON null
Empty object {} An empty JSON object

JSON选项

一个proto3协议 JSON 实现可能提供以下选项:

  • 提供默认值的字段:在proto3 JSON 输出中,值为默认值的字段被省略。可以提供一个选项,用默认值覆盖此行为和输出字段。
  • 忽略位置字段:在缺省情况下,Proto3 JSON 解析器应该拒绝未知字段,但在解析过程中可能会提供一个忽略未知字段的选项。
  • 使用 proto 字段名而不是小驼峰名称:默认情况下,proto3 JSON 打印机应该将字段名转换为 lowerCamelCase,并使用它作为 JSON 名称。可以提供一个选项,用原型字段名作为 JSON 名。需要协议3 JSON 解析器同时接受转换后的 lowerCamelCase 名称和原始字段名称。
  • 以整数而不是字符串形式展示枚举值:在 JSON 输出中,默认情况下使用枚举值的名称。可以提供一个选项来代替使用枚举值的数值。

Options

Proto 文件中的单个声明可以使用许多选项进行注释。选项不会改变声明的总体含义,但可能会影响在特定上下文中处理声明的方式。可用选项的完整列表在 google/protobuf/descriptor.proto 中定义。

有些选项是文件级选项,这意味着它们应该在顶级作用域中编写,而不是在任何消息、枚举或服务定义中。有些选项是消息级选项,这意味着它们应该写在消息定义中。有些选项是字段级选项,这意味着它们应该写在字段定义中。也可以在枚举类型、枚举值、一个字段、服务类型和服务方法上编写选项; 但是,目前对于这些选项都不存在有用的选项。

以下是一些最常用的选项:

  • java_package(文件选项):要用于生成的 Java/Kotlin 类的包。如果没有显示在.proto文件中指明java_package,默认会使用proto package名称(在.proto文件中使用package关键字指定的)。然而,proto package 通常不会成为有效的 Java 软件包,因为原始软件包不会以反向域名开始。如果不生成 Java 或 Kotlin 代码,则此选项不起作用。
  option java_package = "com.example.foo";

扫码关注微信公众号