分享好友 最新动态首页 最新动态分类 切换频道
kafka安装和相关命令操作——修改中
2024-12-27 00:24

目录

kafka安装和相关命令操作——修改中

一、kafka开发环境安装

二、kafka相关操作

1、使用命令创建topic

2、列出所有的topic

3、删除topic:second_topic

4、查看topic的相关信息

三、kafka-console-producer-生产消息

四、kafka-console-consumer-消费消息


kafka的安装需要先安装docker,如果之前没有安装过docker,可以看我的这篇文章进行安装

Docker镜像、容器和数据管理

为了方便一次性安装kafka的开发环境,我们使用github开源的镜像

GitHub - lensesio/fast-data-dev: Kafka Docker for development. Kafka, Zookeeper, Schema Registry, Kafka-Connect, Landoop Tools, 20+ connectors

安装命令,可以直接用,不用改动任何东西

 

安装过程有点长,文件比较多,请耐心等待,如下是安装的服务列表

 

安装完后,访问http://192.168.43.36:3030/可以看到如下界面,此ip是我linux的地址

 当然你也可以一个一个的进行安装,下边是不错的安装文档

Docker搭建kafka和zookeeper:http://blog.70ci.com/post/736.html

首先,我们在所有服务都启动的情况下,进入landoop/fast-data-dev容器

注意此处我们需要重新开一个命令窗口,不要关闭当前服务的启动窗口

 
 

使用kafka-topics创建第一个topic:first_topic

 

创建topic,必须指定注册中心,topic的名字,创建多少个partitions,以及备份replication-factor的数量(实际中replication-factor应该为3,但我目前只在一台服务器上安装了kafka,只有一个broker,因此只能设置为1,因为replication-facto数量不能大于brokers的数量

如果重复创建first_topic,服务会输出错误信息,从而保证topic的唯一性

 
 
 
 
 

可以看到以下相关信息,如Partition和replicationFactor的数量等

 
 

使用kafka-console-producer生产消息,需要指定broker和topic,命令如下

 

输入如上命令回车后,会出现输入提示,我们输入如下消息

 

然后进入kafka可视化页面,我们看到输入的message,被随机分配在了三个partition中

有时,我们需要把消息进行顺序的存储,而不是随机的分布在所有partition中,此时,我们可以设置一个key,那么相同key的消息都会被顺序的存储在一个partiton中

如下,我们加了两个属性,使用key,以及指定key和value的分隔符

 

我们来看下输入

 

然后进入kafka可视化页面,我们看到输入的message,被顺序的存储在相同partiton中

使用kafka-console-consumer消费消息,需要指定broker和topic,命令如下

 

输入如上命令时,如果此时我们没有生产message,那么我们将看不到任何效果,因为此时的消费者默认读取从当前启动时间后生产的message,因此启动时间之前的message都将不被消费

我们此时创建一个生产者,并输入一些message,来看看效果

如果想要消费消息队列中所有的message(包括历史消息,需要加上参数 --from-beginning

 

如果需要指定消费的partition,可以加上--partition参数

 

上边,我们指定消费partition2中的消息,一共消费了5条,我们通过UI界面,也可以看到partition2中确实有5条消息

ConsumerGruop

使用ConsumerGruop,把多个消费者划分到一个组中,组的名字通过group.id进行指定

 

通过group.id划分到组的consumer,每消费完一个message,都会提交一个committed offset,当组内的下一个consumer读数据时,会从committed offset处开始读取。因此,分组后的consumer,并不会重复消费组内中任意一个consumer已经消费完成的消息。

kafka中message存储的json形式

最新文章
魔音工坊的文案制作过程融合了先进的人工智能技术和大数据分析,为客户提供了一种全新的文案创作体验。以下是具体步骤和优化后的
在数字化时代人工智能的应用已经渗透到各行各业文案创作也不例外。魔音工坊作为一家专注于音频制作和文案生成的企业凭借其特别的技术,为广大创作者提供了高效、便捷的文案生成解决方案。本文将深入探讨魔音工坊的文案制作过程,揭示其背后
淘宝店铺该应该如何补单才会迅速的提升排名?
五、成交额=客单价成交笔数,成交笔数=流量转化率,流量=直通车投入费用/平均点击费用六、利润=营业额利润率=客户价格成交笔数利润率=客户价格流量转换率利润率=客户价格转换率转换率开通费用/平均点击费用在综合排名中,店铺质量得分会影
重磅通报“正宗南通长牌怎么开挂”玩家曝光开挂详情-知乎
您好:正宗南通长牌这款游戏可以开挂,确实是有挂的,咨询加微信【5722507】很多玩家在这款游戏中打牌都会发现很多用户的牌特别好,总是好牌,而且好像能看到其他人的牌一样。所以很多小伙伴就怀疑这款游戏是不是有挂,实际上这款游戏确实
抖音直播的5种主流玩法
抖音直播的主流玩法有哪些,抖音是时下特别热门的营销平台,那么在直播方面有哪些主流玩法呢。一起来看看下面的介绍吧。1、 模式分析:兴趣电商+Tiktok选择联盟,即商家在选择联盟中选择高佣金产品,使用直播内容(如前文写的跑步)激发观
苹果手机最好用的浏览器【手机最好用的浏览器 知乎】
有时候我们在手机上看视频或听音乐时,遇到好的在线资源想下载回来,这时就需要用到嗅探功能去找到资源的真实地址,再把它下载到手机里。带有这种功能的浏览器在安卓系统的手机里比比皆是,但苹果手机里却是凤毛麟角,不是功能不够好,就是
耐克300亿美元买来的教训:品牌没效?不,是你做品牌的方式失效了
前些天我去上海出差,见了我的好朋友苗庆显老师,苗老师最近金句频出,他说:"自从有了成熟的品牌理论,就很少诞生伟大品牌了"。正好,最近又有另一位好朋友王赛老师发了条消息,他说呼吁了多年将"Marketing"译为"营销"是一个失误,目前学
白板标注器
直播讲课画笔标注工具白板标注器直播讲课工具,占用空间小;网课标注工具,操作简单,界面简洁;线上会议重点标注,用途广泛,开启快速;主播都在用,赶紧下载吧! 51下载站提供白板标注器app官方版下载地址,有需要的用户可免费下载使用!
肠炎和直肠炎的区别是什么
肠炎和直肠炎的区别在于病变部位、病因、症状、治疗方法以及预后情况。1.病变部位肠炎指的是整个肠道出现炎症反应,包括小肠和大肠。而直肠炎仅涉及直肠末端部分。2.病因肠炎可能由病毒、细菌感染或食物不耐受引起,如轮状病毒感染、志贺菌
聊天被诬陷性骚扰犯法吗
一、聊天被诬陷性骚扰犯法吗在交流过程中受到指控涉嫌性骚扰,然而仅凭恶意的指责而缺乏实际行为作为支撑,此种情况并不符合犯罪构成要件。若该项诬告最终导致指控者承受了不当的制裁或名誉受到了实质性的伤害,那么诽谤者则有可能就其恶意
苹果哪款手机拍照效果最好?苹果十大最佳拍照手机排名
苹果当中拍照好的手机很多,苹果十大最佳拍照手机排名为:iPhone SE 2020,iPhone 12 Pro,iPhone 11,iPhone SE 2,iPhone 6S Plus,iPhone 6S,iPhone12 Pro Max,iPhone 12 mini,iphone 12,iPhone 13 mini,这十款苹果手机是目前拍照
相关文章
推荐文章
发表评论
0评