kafka

二进制部署(单节点测试)

参考:

kafka之二:手把手教你安装kafka2.8.0(绝对实用) - 知乎 (zhihu.com)

(13条消息) Centos7离线二进制安装Kafka(单节点测试)_zhang35的博客-CSDN博客

Kafka实战系列--Kafka的安装/配置 - mumuxinfei - 博客园 (cnblogs.com)

官网下载 Kafka的官网地址是:http://kafka.apache.org/ 得到安装包:kafka_2.12-2.8.0.tgz 拷贝到linux下

#进入kafka_2.12-2.8.0.tgz目录
cd  /data3/test-kafka
#解压
tar -zxvf kafka_2.12-2.8.0.tgz
#进入解压目录
ls
cd kafka_2.12-2.8.0/
# 修改配置,允许外部访问服务:
vim config/server.properties
# 添加以下配置,ip地址改为本机地址
listeners=PLAINTEXT://192.168.11.109:9092
# 开启zookeeper-server服务
bin/zookeeper-server-start.sh config/zookeeper.properties &> /dev/null &
# 开启kafka-server服务
nohup ./bin/kafka-server-start.sh config/server.properties &> /dev/null &
或
bin/kafka-server-start.sh -daemon config/server.properties 

docker安装(单节点测试)

参考:

docker安装kafka及使用

#下载镜像
docker pull wurstmeister/zookeeper
docker pull wurstmeister/kafka
#启动zookeeper
docker run -d --name zookeeper -p 2181:2181 -t wurstmeister/zookeeper
#启动kafka
docker run -d --name kafka \
-p 9092:9092 \
-e KAFKA_BROKER_ID=0 \
-e KAFKA_ZOOKEEPER_CONNECT=10.0.0.101:2181 \
-e KAFKA_ADVERTISED_LISTENERS=PLAINTEXT://10.0.0.101:9092 \
-e KAFKA_LISTENERS=PLAINTEXT://0.0.0.0:9092 wurstmeister/kafka

spring boot整合Kafka

pom.xml依赖

<parent>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-parent</artifactId>
    <version>2.0.7.RELEASE</version>
    <relativePath/>
</parent>
<dependencies>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>
        <dependency>
            <groupId>org.projectlombok</groupId>
            <artifactId>lombok</artifactId>
            <optional>true</optional>
        </dependency>
    
     	<!--kafka-->
        <dependency>
            <groupId>org.springframework.kafka</groupId>
            <artifactId>spring-kafka</artifactId>
        </dependency>
</dependencies>

添加配置

#============== kafka ===================
#指定kafka server的地址,集群配多个,中间,逗号隔开
spring.kafka.bootstrap-servers=127.0.0.1:9092

#=============== provider  =======================
# 写入失败时,重试次数。当leader节点失效,一个repli节点会替代成为leader节点,此时可能出现写入失败,
# 当retris为0时,produce不会重复。retirs重发,此时repli节点完全成为leader节点,不会产生消息丢失。
spring.kafka.producer.retries=0
# 每次批量发送消息的数量,produce积累到一定数据,一次发送
#spring.kafka.producer.batch-size=16384
# produce积累数据一次发送,缓存大小达到buffer.memory就发送数据
#spring.kafka.producer.buffer-memory=33554432

#procedure要求leader在考虑完成请求之前收到的确认数,用于控制发送记录在服务端的持久化,其值可以为如下:
#acks = 0 如果设置为零,则生产者将不会等待来自服务器的任何确认,该记录将立即添加到套接字缓冲区并视为已发送。在这种情况下,无法保证服务器已收到记录,并且重试配置将不会生效(因为客户端通常不会知道任何故障),为每条记录返回的偏移量始终设置为-1。
#acks = 1 这意味着leader会将记录写入其本地日志,但无需等待所有副本服务器的完全确认即可做出回应,在这种情况下,如果leader在确认记录后立即失败,但在将数据复制到所有的副本服务器之前,则记录将会丢失。
#acks = all 这意味着leader将等待完整的同步副本集以确认记录,这保证了只要至少一个同步副本服务器仍然存活,记录就不会丢失,这是最强有力的保证,这相当于acks = -1的设置。
#可以设置的值为:all, -1, 0, 1
spring.kafka.producer.acks=1

# 指定消息key和消息体的编解码方式
spring.kafka.producer.key-serializer=org.apache.kafka.common.serialization.StringSerializer
spring.kafka.producer.value-serializer=org.apache.kafka.common.serialization.StringSerializer

#=============== consumer  =======================
# 指定默认消费者group id --> 由于在kafka中,同一组中的consumer不会读取到同一个消息,依靠groud.id设置组名
spring.kafka.consumer.group-id=test-kafka-group
spring.kafka.consumer.auto-offset-reset=earliest
设置自动提交offset
spring.kafka.consumer.enable-auto-commit=true
#如果'enable.auto.commit'为true,则消费者偏移自动提交给Kafka的频率(以毫秒为单位),默认值为5000。
spring.kafka.consumer.auto-commit-interval=100
# 指定消息key和消息体的编解码方式
spring.kafka.consumer.key-deserializer=org.apache.kafka.common.serialization.StringDeserializer
spring.kafka.consumer.value-deserializer=org.apache.kafka.common.serialization.StringDeserializer

#订阅主题
kafka.consumer.topic=topic1,topic2

#日志
#logging.level.root=debug

消费者

import org.apache.kafka.clients.consumer.ConsumerRecord;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.kafka.annotation.KafkaListener;
import org.springframework.stereotype.Component;

@Component
public class ConsumerListener {

    @Autowired
    private RestTemplate restTemplate;

        @KafkaListeners({ @KafkaListener(topics = {"topic3","topic4"}),
                      @KafkaListener(topics = "#{'${spring.kafka.consumer.topic}'.split(',')}")
                    })
    @KafkaListener(topics = {"topic3","topic4"})
    @KafkaListener(topics = "#{'${kafka.consumer.topic}'.split(',')}")
    public void onMessage(String message){
        System.out.println(message);
        //TODO
    }
}

生产者

import io.swagger.annotations.Api;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.kafka.core.KafkaTemplate;
import org.springframework.web.bind.annotation.*;

@RestController
public class ProducerController {

    @Autowired
    private KafkaTemplate<String,Object> kafkaTemplate;

    @GetMapping("/send")
    public boolean send(@RequestParam String topic,@RequestBody String msg){
        kafkaTemplate.send(topic,msg);
        return true;
    }
}

测试

http://localhost:8080/send?topic=topic2&msg=你好
上一篇:rabbitMq 全量同步数据 出现consumer和mq断开


下一篇:从零开始实现简单 RPC 框架 4:注册中心