Kafka架构介绍和安装
写在前面
还是那句话，当你学习一个新的东西之前，你总得知道这个东西是什么？这个东西可以用来做什么？然后你才会去学习它，使用它。简单来说，kafka既是一个消息队列，如今，它也演变为一个分布式的流处理平台，这一点就是很厉害的了。所以，学习kafka对于大数据的小伙伴们来说，是非常有益的。
（一）Kafka概述
1.Kafka是一个分布式的流处理平台，有消息的订阅系统（订阅之后，一旦有新的消息产生，你就会收到消息），可以以多副本的方式进行存储，可以构建实时数据管道，以及实时的流处理，能够横向水平扩展，容错等特点。大数据的实时流处理场景很多时候都会使用到kafka
上面是官网中的图片
Kafka和消息系统类似，消息中间件的一种：有生产者和消费者的概念。
（二）Kafka架构
从上面官网给出的图片中，我们知道，kafka是有以下几个主要的该丽娜
1）producer：生产者，
2）consumer：消费者，
3）broker：一个broker就是一个kafka,
4）topic：主题，给生产的消息打上一个标签，代表是谁生产的.
First a few concepts:[几个概念]
Kafka is run as a cluster on one or more servers.
The Kafka cluster stores streams of records in categories called topics.
Each record consists of a key, a value, and a timestamp.
（三）Kafka的安装部署
我们首先来到官网上去，http://kafka.apache.org/quickstart
从这个快速开始中，知道我们的kafka是依赖于zookeeper的，所以我们第一步来安装zookpeer,然后安装Kafka
zookeeper的安装
- 下载zookeeper，地址在cdh5的页面http://archive.cloudera.com/cdh5/cdh/5/
- 解压到自己指定的目录中去，我一般喜欢~/app，这个看自己的习惯就好，这里我把解压后的文件修改名称为zk,
- 把解压的目录导出，
[hadoop@hadoop000 zk]$ vim ~/.bash_profile
# .bash_profile
# Get the aliases and functions
if [ -f ~/.bashrc ]; then
. ~/.bashrc
fi
# User specific environment and startup programs
export JAVA_HOME=/home/hadoop/app/jdk1.8.0_144
export PATH=$JAVA_HOME/bin:$PATH
export FLUME_HOME=/home/hadoop/app/flume
export PATH=$FLUME_HOME/bin:$PATH
export ZK_HOME=/home/hadoop/app/zk
export PATH=$ZK_HOME/bin:$PATH
#:wq 保存退出
4.再source一个系统环境
[hadoop@hadoop000 zk]$ source ~/.bash_profile
[hadoop@hadoop000 zk]$
5.配置zookeeper，来到解压目录下的conf文件
拷贝一份
[hadoop@hadoop000 conf]$ cp zoo_sample.cfg zoo.cfg
[hadoop@hadoop000 conf]$ vim zoo.cfg
#修改数据的临时存放目录，默认是在tmp目录下的
dataDir=/home/hadoop/app/tmp/zk
#:wq 保存退出
6.启动zookeeper
[hadoop@hadoop000 conf]$ cd ../bin/
[hadoop@hadoop000 bin]$ zkServer.sh start
JMX enabled by default
Using config: /home/hadoop/app/zk/bin/../conf/zoo.cfg
Starting zookeeper ... already running as process 10943.
[hadoop@hadoop000 bin]$
7.查看进程
[hadoop@hadoop000 bin]$ jps
27179 Jps
10943 QuorumPeerMain
[hadoop@hadoop000 bin]$
#看见QuorumPeerMain，说明就启动成功了
Kafka的安装部署
按照官网上的指南，我们先下载Kafka,点击官网上面的downloadhttp://kafka.apache.org/downloads 在选择版本的时候，我们推荐使用0.9.0.0版本的，目前这个版本在上产上比较常用，
- 下载https://archive.apache.org/dist/kafka/0.9.0.0/kafka_2.11-0.9.0.0.tgz 因为kafka是scala语言写的，后面我们也可能会使用到scala，因为我安装的scala是2.11版本。这个下载的版本主要看自己的情况，在官网上选择合适的就好
- 解压到指定目录，再导出到系统环境中‘’
[hadoop@hadoop000 ~]$ vim ~/.bash_profile
# .bash_profile
# Get the aliases and functions
if [ -f ~/.bashrc ]; then
. ~/.bashrc
fi
# User specific environment and startup programs
export JAVA_HOME=/home/hadoop/app/jdk1.8.0_144
export PATH=$JAVA_HOME/bin:$PATH
export FLUME_HOME=/home/hadoop/app/flume
export PATH=$FLUME_HOME/bin:$PATH
export ZK_HOME=/home/hadoop/app/zk
export PATH=$ZK_HOME/bin:$PATH
export KAFKA_HOME=/home/hadoop/app/kafka
export PATH=$KAFKA_HOME/bin:$PATH
#:wq保存退出
3.再source一下
4.配置，修改解压目录下config配置文件
配置server.properties[需要注意的地方]
broker.id=0 解释：是kafka，一个broker
listeners 解释：监听的端口
host.name 解释：当前机器
log.dirs 解释：kafka的日志存放目录
zookeeper.connect zk的地址
修改好之后，保存退出
5.现在，就可以来启动了
如何启动呢？？看官网是如何说的，http://kafka.apache.org/quickstart
bin/zookeeper-server-start.sh config/zookeeper.properties
2）.再启动我们的kafka
bin/kafka-server-start.sh config/server.properties
#启动kafka的命令
kafka-server-start.sh $KAFKA_HOME/config/server.properties
6.启动之后
[hadoop@hadoop000 ~]$ jps
27251 Kafka
27334 Jps
10943 QuorumPeerMain
[hadoop@hadoop000 ~]$
#可以看见Kafka的进程，就对啦
好的，到这里我们的kafka就安装完成了，接下来，我们就开始做broker的部署...
推荐一下：Kafka系列二之部署与使用
http://blog.csdn.net/liuge36/article/details/78593404