文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

Linux下如何部署分布式消息系统Kafka

2023-06-27 13:13

关注

今天小编给大家分享一下Linux下如何部署分布式消息系统Kafka的相关知识点,内容详细,逻辑清晰,相信大部分人都还太了解这方面的知识,所以分享这篇文章给大家参考一下,希望大家阅读完这篇文章后有所收获,下面我们一起来了解一下吧。

Kafka是最初由Linkedin公司开发,是一个分布式、支持分区的(partition)、多副本的(replica),基于zookeeper协调的分布式消息系统,它的最大的特性就是可以实时的处理大量数据以满足各种需求场景:比如基于hadoop的批处理系统、低延迟的实时系统、storm/Spark流式处理引擎,web/nginx日志、访问日志,消息服务等等。

Linux下如何部署分布式消息系统Kafka

Kafka:2.12-2.5.0

1、安装JDK 1.8

yum -y install java-1.8.0*

java -version 命令查看JDK版本,如图安装成功:

Linux下如何部署分布式消息系统Kafka

2、安装zookeeper服务

参考文章:Linux下ZooKeeper的安装及使用

3、创建工作目录,下载安装包:

#创建安装目录mkdir -p /opt/kafka#移动到目录cd /opt/kafka#下载kafka安装包wget https://mirrors.aliyun.com/apache/kafka/2.5.0/kafka_2.12-2.5.0.tgz#解压缩tar -zxvf kafka_2.12-2.5.0.tgz

4、配置文件:

#进入配置目录cd kafka_2.12-2.5.0/config/#备份配置文件cp server.properties server.properties.bak#修改配置文件vim server.properties#修改及添加以下配置broker.id=1listeners=PLAINTEXT://127.0.0.1:9092advertised.listeners=PLAINTEXT://127.0.0.1:9092#其他自定义配置(根据实际修改)zookeeper.connect=127.0.0.1:2181zookeeper.connection.timeout.ms=18000#保存退出:wq

#配置说明 broker.id:当前机器在集群中的唯一标识。例如有三台Kafka主机,则分别配置为1,2,3。

listeners:服务监听端口。

advertised.listeners:提供给生产者,消费者的端口号,即外部访问地址。默认为listeners的值。

zookeeper.connect:zookeeper连接地址。如有集群配置,每台Kafka主机都需要连接全部zookeeper服务,实例如下:

zookeeper.connect=192.168.1.41:2181,192.168.1.42:2181,192.168.1.47:2181

zookeeper.connection.timeout.ms:zookeeper连接超时时间。

5、启动Kafka:

(首先确保已启动zookeeper)

#移到工作目录cd /opt/kafka/kafka_2.12-2.5.0/bin/#启动kafka./kafka-server-start.sh -daemon ../config/server.properties#关闭kafka服务./kafka-server-stop.sh

查看端口已被监听,启动成功:

Linux下如何部署分布式消息系统Kafka

6、测试创建一个topic:

#移到工作目录cd /opt/kafka/kafka_2.12-2.5.0/bin/#创建topic./kafka-topics.sh --create --zookeeper 127.0.0.1:2181 --replication-factor 1 --partitions 1 --topic topic1#查看topic信息./kafka-topics.sh --describe --zookeeper 127.0.0.1:2181 --topic topic1
Linux下如何部署分布式消息系统Kafka
#启动生产者控制台./kafka-console-producer.sh --broker-list 127.0.0.1:9092 --topic topic1#启动消费者控制台(新开一个窗口)./kafka-console-consumer.sh --bootstrap-server 127.0.0.1:9092 --topic topic1 --from-beginning

此时在生成者控制台发一条测试消息,消费者控制台即可收到:

Linux下如何部署分布式消息系统Kafka
Linux下如何部署分布式消息系统Kafka

以上就是“Linux下如何部署分布式消息系统Kafka”这篇文章的所有内容,感谢各位的阅读!相信大家阅读完这篇文章都有很大的收获,小编每天都会为大家更新不同的知识,如果还想学习更多的知识,请关注编程网行业资讯频道。

阅读原文内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     813人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     354人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     318人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     435人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     224人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-人工智能
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯