angela 发表于 2017-6-1 12:28:09

CentOS 7部署Kafka和Kafka集群

CentOS 7部署Kafka和Kafka集群

注意事项
  需要启动多个shell脚本交互客户端进行验证,运行中的客户端不要停止。

准备工作:
  

安装java并设置java环境变量,在`/etc/profile`中加入  

  
export JAVA_HOME=/usr/java/jdk1.8.0_65
  
export PATH=$PATH:$JAVA_HOME/bin
  

安装kafka


[*]  下载:wget http://mirrors.cnnic.cn/apache/kafka/0.10.0.1/kafka_2.10-0.10.0.1.tgz

[*]  解压:tar -zxvf kafka_2.10-0.10.0.1.tgz

[*]  移动到指定目录:mv kafka_2.10-0.10.0.1 /usr/local/kafka

功能验证


[*]启动zookeeper
  /usr/local/kafka/bin/zookeeper-server-start.sh -daemon /usr/local/kafka/config/zookeeper.properties


[*]启动kafka服务
  /usr/local/kafka/bin/kafka-server-start.sh /usr/local/kafka/config/server.properties


[*]创建topic
  /usr/local/kafka/bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test


[*]产生消息
  /usr/local/kafka/bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test
  输入以下内容:
  

Hello world!  
Hello Kafka!
  


[*]消费消息
  /usr/local/kafka/bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic test --from-beginning
  如果能正常接收消息,则说明kafka配置成功

集群配置

单机多broker 集群配置

  利用单节点部署多个broker。 不同的broker 设置不同的>  cp /usr/local/kafka/config/server.properties /usr/local/kafka/config/server-1.properties
  编辑配置:
  

config/server-1.properties:  broker.id=1
  port=9093
  log.dir=/tmp/kafka-logs-1
  

  启动Kafka服务:
  bin/kafka-server-start.sh config/server-1.properties &
  启动多个服务,按上文类似方式产生和消费消息。

多机多broker 集群配置
  分别在多个节点按上述方式安装Kafka,配置启动多个Zookeeper 实例。 例如: 在10.4.253.22,10.4.253.23,10.4.253.24三台机器部署,Zookeeper配置如下:
  

initLimit=5  
syncLimit=2
  
server.1=10.4.253.22:2888:3888
  
server.2=10.4.253.23:2888:3888
  
server.3=10.4.253.24:2888:3888
  


  分别配置多个机器上的Kafka服务 设置不同的broke>  zookeeper.connect=10.4.253.22:2181,10.4.253.23:2181,10.4.253.24:2181
  启动Zookeeper与Kafka服务,按上文方式产生和消费消息,验证集群功能。
  参考文档:



[*]https://mos.meituan.com/library/32/how-to-install-kafka-on-centos7/
[*]http://kafka.apache.org/documentation.html
页: [1]
查看完整版本: CentOS 7部署Kafka和Kafka集群