kafka是近年来非常火热的一个分布式平台,是为规模而构建的,这意味着它可以处理高频率的读写和存储大量数据。它确保数据始终可靠,还支持从故障中恢复的强大机制。
今天跟大家好好聊聊kafka,也给正想学习的kafka的同学一篇入门指南。
消息中间件基本架构
消息中间件基本上可以分为三部分:
Product 生产者,消息的产生方,生产者会将消息发送到消息队列。queue 消息队列,接受并存储生产者的消息。Consumer 消费者,消费消息队列中的消息。消息中间件的作用
消息队列的主要作用削峰填谷、异步、解耦。
消费消息的两种模式
消息消费的两种模式,发布订阅模式和点对点模式:
发布订阅模式(一对多)
消费者消费完消联通大流量卡息后,消息不会被删除,消息会存储一段时间,这种模式下的消息会被所有消费者消费。
这种模式下消费消息又有两种方式:
推模式,这种方式由queue直接将消息推给消费者,由于各消费者处理消息的能力不一样,所以这种方式某些消费者可能消费不过来推过来的消息。 拉模式,这种方式是由消费者去拉取queue中的消息,这种方式下消费者可以根据自己的消费能力来拉取数据,但是每个消费者需要维护一个拉取消息的任务,及时队列里面没有消息,这个任务也不能停下来。 点对点模式(一对一):点对点模式是消费者主动拉取数据,消息确认被消费后,消息队列会删除队列中的消息,一条消息只会被一个消费者消费。Kafka基本概念
Kafka是一个分布联通大流量卡式的消息队列,使用Zookeeper进行集群的管理。
不同消费者组之间是基于发布/订阅的拉模式来实现的;同一消费者组里面的消费者,消费消息使用的是点对点模式,只是这里消费完消息后不会删除消息。
Producer
消息生产者,就是向 kafka broker 发消息的客户端;
Broker
一台 kafka 服务器就是一个 broker。一个kafka集群由多个 broker 组成,然后通过Zookeeper来进行集群的管理。
Consumer
消息消费者,向 kafka broker 取消息的客户端;
Consumer Group
消费者组,由多个 consumer 组成。同一个消费者组中消费者只能消费一个分区联通大流量卡里面的数据。
Topic
Topic是一个逻辑上的消息队列,同一类型的消息可以放到一个Topic(消息队列)中。主要作用是用来屏蔽底层分区和副本的复杂逻辑。
Partition
Partition(分区),是Kafka下数据存储的基本单元,这个是物理上的概念。一个 topic 可以分为多个 partition,每个 partition 都是一个有序的队列,同一个分区(partition)可以被不同的消费者组同时消费,但是同一个消费者组内只能被一个消费者消费,通过提升分区数量可以提升同一个Topic的吞吐量。
Replica
Replica(副本),就是Partition的一个备份。一个分区(Partiti联通大流量卡on)只能有一个leader,但是可以设置多个副本(follower),同一分区的副本不能在同一台机器上。也就是说如果有2 台 Broker,那么一个分区就最多会有1个副本。leader的主要作用是:完成与生产者、消费者的交互;follower的主要作用是:做数据备份,当 leader 发生故障时,某个 follower 会成为新的 leader,以此来保证kafka的可用性。
如果我们需要提升kafka消费性能的时候,我们需要同时扩充Partition(分区)数量和同一消费者组中的消费者数量。
我这里使用数据库设计中的分库分表设计来做一个类比:一个订单库,DB分为db_order_1、db_or联通大流量卡der_2,然后每个数据库中的t_order表有分为t_order_1、t_order_2表。这里db_order_1、db_order_2就相当于kafka的Broker;t_order_1、t_order_2就相当于kafka的Partition(分区);t_order是一个逻辑表,就相当于kafka中的Topic;如果还有从库,那么从库中的t_order_1、t_order_2就相当于kafka的Replica(副本)。
代码示例
发送消息
@Resource private KafkaTemplate<String, String> kafkaTemplate; public <T> voidplain联通大流量卡Notify(String topic, T obj) { try { this.kafkaTemplate.send(topic, JSON.toJSONString(obj)); } catch (Exception e) { // TODO } }消费消息
@Service @Slf4j public class Consumer { @KafkaListener(id = “ConsumerGroupId”, topics = {“TOPIC1”, “TOPIC2”}) public void consumer(List<String> msgs, Acknowledgmen联通大流量卡t ack) {for (String msg : msgs) { // TODO } ack.acknowledge(); } }福利
今天再给大家免费分享一份文档《Kafka知识点》,这份文档包含了基础、进阶和高阶所有的知识点,由于文章有限制,截图展示文档的部分内容
内容展示
需要完整版的朋友看下图领取
注:文章来源于网络,侵删
友情提醒: 请添加客服微信进行免费领取流量卡!
QQ交流群:226333560 站长微信:qgzmt2
原创文章,作者:sunyaqun,如若转载,请注明出处:https://www.dallk.cn/62578.html