01.FastDFS的安装部署

2022-05-24 21:06:56

1.FastDFS简介

(1)FastDFS的功能介绍

FastDFS是一个开源的分布式文件系统，它对文件进行管理，功能包括：文件存储、文件同步、文件访问（文件上传、文件下载）等，解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务，如相册网站、视频网站等等。其下载地址：http://fastdfs.sourceforge.net/

(2)FastDFS的工作原理

FastDFS
服务端有两个角色：跟踪器（tracker）和存储节点（storage）。跟踪器主要做调度工作，在访问上起负载均衡的作用。存储节点存储文件，完成文
件管理的所有功能：存储、同步和提供存取接口，FastDFS同时对文件的meta data进行管理。所谓文件的meta
data就是文件的相关属性，以键值对（key value
pair）方式表示，如：width=1024，其中的key为width，value为1024。文件meta
data是文件属性列表，可以包含多个键值对。
跟踪器和存储节点都可以由一台多台服务器构成。跟踪器和存储节点中的服务器均可以随时增加或下线而不会影响线上服务。其中跟踪器中的所有服务器都是对等的，可以根据服务器的压力情况随时增加或减少。
为
了支持大容量，存储节点（服务器）采用了分卷（或分组）的组织方式。存储系统由一个或多个卷组成，卷与卷之间的文件是相互独立的，所有卷
的文件容量累加就是整个存储系统中的文件容量。一个卷可以由一台或多台存储服务器组成，一个卷下的存储服务器中的文件都是相同的，卷中的多台存储服务器起
到了冗余备份和负载均衡的作用。
在卷中增加服务器时，同步已有的文件由系统自动完成，同步完成后，系统自动将新增服务器切换到线上提供服务。
当存储空间不足或即将耗尽时，可以动态添加卷。只需要增加一台或多台服务器，并将它们配置为一个新的卷，这样就扩大了存储系统的容量。
FastDFS中的文件标识分为两个部分：卷名和文件名，二者缺一不可。

(3)FastDFS系统架构

    1.FastDFS系统结构如下图所示：

    2.上传文件交互过程：

        1.client询问tracker上传到的storage，不需要附加参数；
        2.tracker返回一台可用的storage；
        3.client直接和storage通讯完成文件上传。
    3.下载文件交互过程：

        1.client询问tracker下载文件的storage，参数为文件标识（卷名和文件名）；
        2.tracker返回一台可用的storage；
        3.client直接和storage通讯完成文件下载。
    4.同步机制
        1.同一组内的storage server之间是对等的，文件上传、删除等操作可以在任意一台storage server上进行；
        2.文件同步只在同组内的storage server之间进行，采用push方式，即源服务器同步给目标服务器；
        3.源头数据才需要同步，备份数据不需要再次同步，否则就构成环路了；
        4.上述第二条规则有个例外，就是新增加一台storage server时，由已有的一台storage server将已有的所有数据（包括源头数据和备份数据）同步给该新增服务器。

(4)运行时目录结构
1.tracker server目录结构：

${base_path}
    |__data
    |   |__storage_groups.dat：存储分组信息
    |   |__storage_servers.dat：存储服务器列表
    |__logs
        |__trackerd.log：tracker server日志文件

2.storage server 目录结构：

${base_path}
    |__data
    |     |__.data_init_flag：当前storage server初始化信息
    |     |__storage_stat.dat：当前storage server统计信息
    |     |__sync：存放数据同步相关文件
    |     |     |__binlog.index：当前的binlog文件索引号
    |     |     |__binlog.###：存放更新操作记录（日志）
    |     |     |__${ip_addr}_${port}.mark：存放同步的完成情况
    |     |
    |     |__一级目录：256个存放数据文件的目录，如：00, 1F
    |           |__二级目录：256个存放数据文件的目录
    |__logs
          |__storaged.log：storage server日志文件

2.FastDFS的安装过程

(1)准备工作-安装libevent
    FastDFS内部绑定了libevent作为http服务器，必须安装libevent。
    1.判断是否安装了libevent
        命令：rpm -qa|grep libevent。如果有输出，则说明已经安装了libevent；Fastdfs对libevent版本有要求，所以先删除系统自带的libevent,然后安装最新稳定版本。
    2.卸载已有的libevent
        命令：rpm -e libevent –nodeps

    3.安装最新的libevent（例如：libevent-2.0.21-stable.tar.gz）
        命令：tar zvxf libevent-2.0.21-stable.tar.gz
        命令：cd libevent-2.0.21-stable
        命令：./configure --prefix=/usr
        命令：make
        命令：make install
    4.检查是否安装成功
        命令：ls –al /usr/lib |grep libevent（或者ls –al /usr/local/lib |grep libevent）    若有结果，则说明安装正确
    5.为libevent创建软链接到/lib库下（64位系统对应/lib64）
        假设libevent 的安装目录在/usr/local/lib/下
        命令：ln –s /usr/local/lib/libevent-2.0.so.5 /usr/lib/libevent-2.0.so.5
        命令：ln –s /usr/local/lib/libevent-2.0.so.5 /usr/lib64/libevent-2.0.so.5(64位系统)

(2)安装 FastDFS

    1.下载 FastDFS 源程序FastDFS_v3.11.tar.gz(FastDFS_v4.06.tar.gz)。
    2.解压FastDFS_v3.11.tar.gz
    3.修改make.sh文件
        由于要使用内置的 http 服务，因此编辑 %FastDFS%/make.sh 文件，找到#WITH_HTTPD=1修改成WITH_HTTPD=1以支持 http。支持HTTP服务可以使用浏览器下载文件。
    4.安装
        进入 %FastDFS% 目录，执行：
        sudo ./make.sh
        sudo ./make.sh install
(3)修改配置文件
    1.FastDFS的配置文件在/etc/fdfs目录下包含如下文件
        client.conf         客户端上传配置文件
        storage.conf        文件存储服务器配置文件
        tracker.conf        负责均衡调度服务器配置文件
        http.conf           http服务器配置文件
    2.配置tracker Server(tracker.conf)
        修改用于存储日志及storage server等文件的目录：
            base_path=/home/yuqing/fastdfs --> base_path=/home/soar/fastdfs_tracker
        修改将来http下载文件的端口号：
            http.server_port= 8080 --> http.server_port= 8090
        设置http服务支持：
            ##include http.conf --> #include http.conf
    3.配置storage server(storage.conf)
        修改用于存储storage相关的log、group内的相关信息的目录：
            base_path=/home/yuqing/fastdfs -> /home/soar/fastdfs_storge
        设置tracker Server的端口号：
            tracker_server=192.168.209.121 : 22122 -> tracker_server=10.0.2.15 : 22122
        设置http服务支持：
            ##include http.conf ->#include http.conf
    4.配置client(client.conf)
        设置tracker Server的端口号：
            tracker_server=192.168.209.121:22122 -> tracker_server=10.0.2.15:22122
        修改将来http下载文件的端口号：
            http.tracker_server_port=8080 ->http.tracker_server_port=8090
        设置http服务支持：
            ##include http.conf ->#include http.conf
(4)启服动务与停止服务
    1.tracker Server
        启动命令：/usr/local/bin/fdfs_trackerd /etc/fdfs/tracker.conf
        停止命令：/usr/local/bin/stop.sh /usr/local/bin/fdfs_trackerd/etc/fdfs/tracker.conf
        重启命令：/usr/local/bin/restart.sh /usr/local/bin/fdfs_trackered
    2.storage server
        启动命令：/usr/local/bin/fdfs_storaged /etc/fdfs/storage.conf
        停止命令：/usr/local/bin/stop.sh /usr/local/bin/fdfs_storaged /etc/fdfs/storage.conf
        重启命令：/usr/local/bin/restart.sh /usr/local/bin/fdfs_storaged
(5)测试功能
        文件上传：/usr/local/bin/fdfs_test /etc/fdfs/client.conf upload /etc/fdfs/test.jpg

下载文件：/usr/local/bin/fdfs_download_file /etc/fdfs/client.conf download
group1/00/00/CowXd1BQhA7jF-mjAAAALrcEX_4772.txt
(6)常用命令


文件上传：fdfs_upload_file <config_file> upload <local_filename> 
    /usr/local/bin/fdfs_upload_file /etc/fdfs/client.conf upload /home/test.jpg
文件下载：fdfs_download_file <config_file> <file_id> download <local_filename> 

    /usr/local/bin/fdfs_download_file /etc/fdfs/client.conf download group1/00/00/CowXd1BQhA7jF-mjAAAALrcEX_4772.txt
文件删除：fdfs_delete_file <config_file> 
    groupid/file_name /usr/local/bin/fdfs_delete_file /etc/fdfs/client.conf <file_url>(group3/…)
文件查看：dfs_file_info <config_file> <remote_file-id> 
    /usr/local/bin/fdfs_file_info /etc/fdfs/client.conf <file_url>(group3/…)
文件附加：fdfs_append_file <config_filename> <appender_file_id> <local_filename> 
    /usr/local/bin/fdfs_append_file /etc/fdfs/client.conf <file_url>(group3/…)
存储服务器信息查看：fdfs_monitor <config_file> [-h <tracker_server>] [list|delete <group_name> [storage_ip]] 
    /usr/local/bin/fdfs_monitor /etc/fdfs/storage.conf -h 10.192.64.103 list
存储服务器踢出集群：fdfs_monitor <config_file> [-h <tracker_server>] [list|delete <group_name> [storage_ip]] 
    fdfs_monitor /etc/fdfs/storage.tracker -h 10.192.64.103 delete group1 10.192.64.104 
查看集群整体状态：/usr/local/bin/fdfs_monitor /etc/fdfs/storage.conf