零:规划
本次计划安装三台OpenEuler 22.03 版本操作系统的服务器,用于搭建 kafka和flink 集群。因为从kafka 2.8 版本以后开始不依赖 zookeeper ,同时考虑到需要找一个发布时间早于 flink 1.17 的kafka 版本且应尽量稳定,综合考虑下选择了 kafka 3.3.2。
服务器名 | IP地址 | 作用 | 其他应用 |
---|---|---|---|
flink01 | 192.168.159.133 | kafka | jdk11、flink-1.17.2 |
flink02 | 192.168.159.134 | kafka | jdk11、flink-1.17.2 |
flink03 | 192.168.159.135 | kafka | jdk11、flink-1.17.2 |
一、准备工作
关于服务器安装与免密、防火墙设置等操作可以参考上一篇 flink集群的搭建 。kafka可以从 中文官网 下载到kafka 3.3.2 版本,需要注意的是,每个版本的 kafka 都会用 scala 2.12和2.13,如果后续的使用不涉及 scala 的部分,那么下载哪个scala版本的 kafka都无所谓。
另外,kafka 的常用端口包括9092和9093 两个,前者用于接收集群producer和consumer等的通信,后者用于集群内部的管理和监控。
二、安装
2.1、部署
登录到 192.168.159.133 服务器,执行 如下命令下载安装包并解压到 /usr/local/路径下
## 进入 /usr/local/
[root@flink01 local]# cd /usr/local/
## 下载
[root@flink01 local]# wget https://archive.apache.org/dist/kafka/3.3.2/kafka_2.13-3.3.2.tgz
## 解压
[root@flink01 local]# tar -vxf kafka_2