Kafka 软件包 使您能够通过可重用会话自动执行连接到 Apache Kafka 集群的过程、向主题发布消息、通过轮询消费消息以及管理消费者组偏移量。
概览
注: 从 Kafka
软件包 1.0.4 版本开始,在 API 任务 中支持Kafka
软件包。
Kafka 软件包 可让您自动执行与 Apache Kafka 的交互。Apache 是一个分布式事件流平台。 您可以使用此软件包连接到通过多种身份验证模式保护的 Kafka 集群,向主题发布消息,轮询并消费消息,并提交消费者组偏移量,作为端到端自动化工作流的一部分。
以下表格提供了在 Kafka 中使用的一些关键概念:
| 概念 | 描述 |
|---|---|
| Broker | 一个存储并提供消息的 Kafka 服务器。 一个集群由一个或多个 broker 组成。 |
| 主题 | 可供写入和读取消息的命名流。 |
| 分区 | 主题被拆分为分区以实现并行处理。 分区中的每条消息都有一个顺序偏移量。 |
| 生产者 | 向主题发布消息的客户端。 |
| 消费者 | 从主题读取消息的客户端。 消费者属于消费者组,以分担负载。 |
| 偏移 | 分区内消息的位置。 提交偏移量表示所有先前消息均已处理。 |
| 引导服务器 | 客户端为发现集群其余部分而连接的初始 broker 地址。 |
Kafka 软件包 中的 操作
| 操作 | 描述 |
|---|---|
| 提交偏移量 | Kafka 软件包 中的提交偏移量 操作 |
| 连接 | Kafka 软件包 中的连接 操作 |
| 消费消息 | Kafka 软件包 中的消费消息 操作 |
| 断开连接 | Kafka 软件包 中的断开连接 操作 |
| 发布消息 | Kafka 软件包 中的发布消息 操作 |