Pulsar Schema

Posted 2021-03-20

一 Pulsar Schema 基本概念
Schema是定义在topic上
Schema的更新策略是在命名空间定义。
以下图片是一个 schema JSON格式的例子

字段	说明
name	Schema 名称(发现和topic名称相同)
type	Schema 类型,类型常用的JSON格式，其他详见官方文档
schema	Schema 数据是一个由 8 位无符号字节和模式类型特定组成的序列,这一属性可能是内部使用
schemaDefinition	具体业务数据结构
properties	存放用户自定义属性

二 Schema的生成
通过3种途径生成Topic上的schema
1 producer 生产者
2 consumer 消息者
3 管理API
topic上默认没有schema,以上3种途径谁先访问Topic,就按谁的schema结构做为第一个版本。
三 JAVA 管理 API
1 建立连接
PulsarAdmin admin = PulsarAdmin.builder() .serviceHttpUrl(url).build();
Schemas schemas=admin.schemas();//获取schemas管理对象
2 查看schmea
指定topic上schema所有版本
List<SchemaInfo> allSchemaInfo=schemas.getAllSchemas("topic名称");
指定topic上schema最新版本
SchemaInfo snedschemaInfo=schemas.getSchemaInfo("topic名称");
3 删除schmea
schemas.deleteSchema("topic名称")
4 创建schema
schemas.createSchema("topic名称",schemaInfo);
关于schemaInfo对象的生成
1)可以通过RecordSchemaBuilder类型
RecordSchemaBuilder recordSchemaBuilder = SchemaBuilder.record("schemaName");
recordSchemaBuilder.field("ww").type(SchemaType.INT32);
SchemaInfo schemaInfo = recordSchemaBuilder.build(SchemaType.JSON);
2)也可以通过Schema
SchemaInfo schemaInfo=Schema.JSON(UserModel.class).getSchemaInfo();
四 schema更新策略
设置schema策略方法
Namespaces namespaces=admin.namespaces();
namespaces.setSchemaAutoUpdateCompatibilityStrategy("命名空间名称", SchemaAutoUpdateCompatibilityStrategy.属性);
是否强制效验schema
namespaces.setSchemaValidationEnforced("命名空间名称", false);

假设你有一个包含三个方案的主题 (V1、V2和V3)，V1 是最老的，V3 是最新的

属性	说明	检查哪个 schema
Full	架构 V3 和 V2 之间向后和向前兼容 (默认策略)	最新版本
FullTransitive	架构 V3、V2 和 V1 之间向后和向前兼容	所有之前的版本
AlwaysCompatible	可以更改schema结构,结构不同会产生新版本	所有之前的版本
AutoUpdateDisabled	禁用更新schema结构	无
Backward	使用 schema V3 的消费者可以处理生产者使用 schema V3 或 V2 编写的数据	最新版本
BackwardTransitive	使用 schema V3 的消费者可以处理生产者使用 schema V3、V2 或 V1 编写的数据。	所有之前的版本
Forward	使用 schema V3 或 V2 的消费者可以处理生产者使用 schema V3 编写的数据。	最新版本
ForwardTransitive	使用 schema V3、V2 或 V1 的消费者可以处理生产者使用 schema V3 编写的数据	所有之前的版本