FastDFS是一个开源的轻量级分布式文件系统,它对文件进行管理,功能包括:文件存储、文件同步、文件访问(文件上传、文件下载)等,解决了大容量存储和负载均衡的问题。FastDFS特别适合以文件为载体的在线服务,多图片、多视频的服务等等。
先普及一下在fastDFS的结构中的一些概念:
在fastDFS中,共分为三个部分:client、tracker Server、storage Server;→ 其中的client是用来对fastDFS发起操作的,如上传、下载;→ 其中的tracker Server是一个调配角色(中间人),当我们在client发起操作请求后,需要tracker Server来将我们与storage Server联系起来,它是负载均衡的核心;→ 其中storage Server可以理解为仓库,文件的存储就在于storage Server,一个完整的fastDFS的存储结构中,最大单位为group(或volume),通常以group来划分文件类型,如图片类型为一个group、视频类型为一个group等等,而一个group内,含有一个或多个storage Server。重点:storage Server是文件存储的核心,但它并不是文件存储中的最大单位,很多初学者会在这个地方迷惑。
一、两个角色:
FastDFS服务端有两个角色:跟踪器(tracker)和存储节点(storage)。
①跟踪器(tracker)
tracker Server是fastDFS的协调者(中间人角色);完整的fastDFS服务运行期间,我们将对无法对storage Server进行直接管理,仅仅我们发起的操作会对storage Server内的文件进行操作,而真正对storage Server进行管理的是tracker Server——每个storage Server在启动后,会连接tracker Server并告知之自己的信息(如所在group),并且在tracker Server与该storage Server之间保持连接,两个角色之间会进行信息的交流,tracker Server会根据storage Server的反馈信息,在内存中(tracker Server不需要持久化任何数据)建立group==>[storage server list]映射表。
在fastDFS集群中,多个tracker Server之间的信息数据会进行同步,而这一机制并不是由tracker Server之间互相完成的,而是由storage Server完成的。因为在storage Server的配置文件有该fastDFS服务中的所有tracker Server,storage Server会为每一个tracker Server创建一个通信线程,在storage Server与tracker Server通信过程中,如果该tracker Server返回的该group的storage Server列表信息相对于本机较少,那么storage Server就会将该tracker Server上所没有的该group的storage Server列表信息同步给该tracker Server。这就使得各tracker Server之间的数据保持一致。
②存储节点(storage)
storage Server是存储的角色,存储文件由storage Server进行管理。每一个storage Server的数据存储目录会有两级子目录,每一级都有256个子文件夹,一共有256*256=65536个文件夹。当有新文件被写入时,会以hash的方式被路由到其中的某个子目录下,然后新文件数据直接作为一个本地文件存储到该目录中。
storage Server以group【或volume(一个意思)】为单位组织,即便整个fastDFS只有一个storage Server,它也有一个group。
在fastDFS集群中,以group为单位可以方便负载均衡,由tracker Server配合可以实现改组内访问压力的均衡;也可以方便副本(即备份)数量的定制,同一组内的storage Server的数量减一,即为副本的数量。
在一个group内的storage Server之间的数据会互为备份,这一功能是由后台线程完成的。当客户端将一个文件写入group内的一个storage Server,则会认为文件写入成功,后台线程便会将文件同步到该group内的storage Server。注意:由于一个group内的storage Server数据互为备份,所以存储空间的容量由该group内的最小容量的storage Server决定。
同一个group内的storage Server在写文件后,会写一份binlog,这个binlog记录着文件名等元信息,它用于后台的同步,每个storage Server会记录向该group内其他storage Server的同步进度,记录进度的方式是时间戳,为的是避免机器down掉失去同步进度,以便在机器重启后接着进度继续同步。同时storage Server的同步进度会以元数据发送给tracker Server,以便在client访问文件时,作为tracker Server选择服务的storage Server的参考(即哪台strong Server上有该文件)。
图解:
二、文件的Upload过程
1、选择tracker Server
当集群不止一个tracker Server时,由于tracker Server之间是数据互为同步,完全对等,客户端任意选择即可。
2、选择存储的group
这个是tracker.conf配置文件的两项,其中的store_lookup用来选择group的规则;当tracker接收到upload file的请求时,会为该文件分配一个可以存储该文件的group,支持如下选择group的规则: 1. Round robin,所有的group间轮询 2. Specified group,指定某一个确定的group 3. Load balance,剩余存储空间多多group优先。当store_lookup为2时,可通过store_group进行指定group。
3、选择storage Server
这个是tracker.conf配置文件的一项,其中的store_server用来选择storage Server的规则;当选定group后,tracker会在group内选择一个storage server给客户端,支持如下选择storage的规则: 1. Round robin,在group内的所有storage间轮询 2. First server ordered by ip,按ip排序 3. First server ordered by priority,按优先级排序(优先级在storage上配置)。
4、选择storage path
这个是tracker.conf配置文件的一项,其中的store_path用来选择storage path的规则;当分配好storage server后,客户端将向storage发送写文件请求,storage将会为文件分配一个数据存储目录,支持如下规则: 1. Round robin,多个存储目录间轮询 2. 剩余存储空间最多的优先。
5、选择目录并生成文件名
当选定存储目录后,storage Server会为文件生成一个file_id,然后将文件路由到一个二级目录,并以file_id为文件名存储到该子目录。当文件存储到某个子目录后,即认为该文件存储成功,接下来会为该文件生成一个文件名,文件名由group、存储目录、两级子目录、fileid、文件后缀名(由客户端指定,主要用于区分文件类型)拼接而成。
三、文件的下载及Nginx模块
访问过程:
client发送download请求给某个tracker Server,必须带上文件名信息,tracke Server从文件名中解析出文件的group、大小、创建时间等信息,然后为该请求选择一个storage Server用来服务该download请求。
HTTP访问支持:
FastDFS的tracker Server和storage Server都内置了http协议的支持,客户端可以通过http协议来下载文件,tracker在接收到请求时,通过http的redirect机制将请求重定向至文件所在的storage Server上;除了内置的http协议外,FastDFS还提供了通过apache或nginx扩展模块下载文件的支持。
Nginx扩展模块:
在storage Server节点与tracker Server节点都需要安装nginx模块。
目的:
1、在storage Server安装nginx模块是结合fastdfs-nginx-module模块提供的Http访问服务,同时解决group中storage Serve而服务器的同步延迟;可能有些同学不理解,通俗一下:
假设Tracker服务器将文件上传到了192.168.1.80,文件ID已经返回客户端,这时,后台会将这个文件复制到192.168.1.30,如果复制没有完成,客户端就用这个ID在192.168.1.30取文件,肯定会出现错误。这个fastdfs-nginx-module可以重定向连接到源服务器取文件,避免客户端由于复制延迟的问题,出现错误。
2、在tracker Server上安装nginx模块是为了反向代理到storage Server上的nginx,并进行负载均衡,同时利用ngx_cache_purge模块实现缓存。
四、配置文件详解
(摘自XuJiaqing的博客)
1、tracker Server的配置详解
1 # is this config file disabled
2
3 # false for enabled
4
5 # true for disabled
6
7 disabled=false
8
9 #当前配置是否不可用false可用,true不可用
10
11
12
13 # bind an address of this host
14
15 # empty for bind all addresses of this host
16
17 bind_addr=
18
19 #是否绑定IP如果一个服务器上有多个IP则设置哪个IP可用,如果不设置则不限制
20
21
22
23 # the tracker server port
24
25 port=22122
26
27
28
29 #默认端口为22122 如果不冲突,则尽量不要修改
30
31 # connect timeout in seconds
32
33 # default value is 30s
34
35 connect_timeout=30
36
37 #针对socket套接字函数connect的连接超时时间设置
38
39
40
41 # network timeout in seconds
42
43 # default value is 30s
44
45 network_timeout=60
46
47 #设置网络超时,单位秒,发送或接收数据时,如果在超时时间之后依然不能进行,则本次网络通讯失败
48
49
50
51 # the base path to store data and log files
52
53 base_path=/home/fdfs
54
55 #配置保存根目录地址,这个目录必须存在,子目录将自动创建,保存数据和日志文件呢
56
57
58
59 # max concurrent connections this server supported
60
61 max_connections=256
62
63 #服务器支持的最大连接数
64
65
66
67 # work thread count, should <= max_connections
68
69 # default value is 4
70
71 # since V2.00
72
73 work_threads=1
74
75 #工作线程数,通常设置为CPU数量
76
77
78
79 # the method of selecting group to upload files
80
81 # 0: round robin
82
83 # 1: specify group
84
85 # 2: load balance, select the max free space group to upload file
86
87 store_lookup=2
88
89 #上传组(卷)的方式:0轮询,1:指定,2:负载平衡(剩余空间最大选择)
90
91
92
93 # which group to upload file
94
95 # when store_lookup set to 1, must set store_group to the group name
96
97 store_group=group2
98
99 #如果上一参数选择1方式,即制定组名,当前参数用来设置指定的组,如果选择其他方式,当前参数无效
100
101
102
103 # which storage server to upload file
104
105 # 0: round robin (default)
106
107 # 1: the first server order by ip address
108
109 # 2: the first server order by priority (the minimal)
110
111 store_server=0
112
113 #同组推送方式0.轮询方式,1.根据ip地址进行排序选择第一个服务器,2.根据优先级进行排序(优先级由storeServer的配置文件中upload_priority属性设置)
114
115
116
117 # which path(means disk or mount point) of the storage server to upload file
118
119 # 0: round robin
120
121 # 2: load balance, select the max free space path to upload file
122
123 store_path=0
124
125 #选择哪个文件目录进行上传(一个StoreServer上面可以有多个base_path)0.轮询,2.剩余空间最大
126
127
128
129 # which storage server to download file
130
131 # 0: round robin (default)
132
133 # 1: the source storage server which the current file uploaded to
134
135 download_server=0
136
137 #选择哪个storeServer最为下载服务器,0.轮询,1.哪个为源则哪个下载
138
139
140
141 # reserved storage space for system or other applications.
142
143 # if the free(available) space of any stoarge server in
144
145 # a group <= reserved_storage_space,
146
147 # no file can be uploaded to this group.
148
149 # bytes unit can be one of follows:
150
151 ### G or g for gigabyte(GB)
152
153 ### M or m for megabyte(MB)
154
155 ### K or k for kilobyte(KB)
156
157 ### no unit for byte(B)
158
159 ### XX.XX% as ratio such as reserved_storage_space = 10%
160
161 reserved_storage_space = 10%
162
163 #系统保留空间大小,用来保证系统和其他应用的正常运行
164
165
166
167 #standard log level as syslog, case insensitive, value list:
168
169 ### emerg for emergency
170
171 ### alert
172
173 ### crit for critical
174
175 ### error
176
177 ### warn for warning
178
179 ### notice
180
181 ### info
182
183 ### debug
184
185 log_level=info
186
187 #日志级别
188
189
190
191 #unix group name to run this program,
192
193 #not set (empty) means run by the group of current user
194
195 run_by_group=
196
197 #使用那个系统用户组运行FastDFS,默认为启动线程的用户组
198
199
200
201 #unix username to run this program,
202
203 #not set (empty) means run by current user
204
205 run_by_user=
206
207 #使用那个系统用户运行FastDFS。默认为启动线程的用户
208
209
210
211 # allow_hosts can ocur more than once, host can be hostname or ip address,
212
213 # "*" means match all ip addresses, can use range like this: 10.0.1.[1-15,20] or
214
215 # host[01-08,20-25].domain.com, for example:
216
217 # allow_hosts=10.0.1.[1-15,20]
218
219 # allow_hosts=host[01-08,20-25].domain.com
220
221 allow_hosts=*
222
223 #设置可以连接当前tracker的IP范围,包括client和store_server,* 代表所有
224
225
226
227 # sync log buff to disk every interval seconds
228
229 # default value is 10 seconds
230
231 sync_log_buff_interval = 10
232
233 #同步或刷新日志到本地硬盘的时间间隔,单位:秒
234
235
236
237 # check storage server alive interval seconds
238
239 check_active_interval = 120
240
241 #检测storage_server的存活状态时间间隔,单位:秒,本参数要大于storage server的心跳包发送间隔一般为2-3倍
242
243
244
245 # thread stack size, should >= 64KB
246
247 # default value is 64KB
248
249 thread_stack_size = 64KB
250
251 #tracker server的线程栈大小,要求大于等于64K
252
253
254
255 # auto adjust when the ip address of the storage server changed
256
257 # default value is true
258
259 storage_ip_changed_auto_adjust = true
260
261 #当storage server的IP发生变化时集群是否自动调整。只有在storage server进程重启时才能完成自动调整
262
263
264
265 # storage sync file max delay seconds
266
267 # default value is 86400 seconds (one day)
268
269 # since V2.00
270
271 storage_sync_file_max_delay = 86400
272
273 #存储服务器之间同步文件的最大延迟时间,缺省为1天,可以根据实际情况进行调整
274
275
276
277 # the max time of storage sync a file
278
279 # default value is 300 seconds
280
281 # since V2.00
282
283 storage_sync_file_max_time = 300
284
285 #同步一个文件需要消耗的最大时间,缺省为300秒,即5分钟
286
287
288
289 # if use a trunk file to store several small files
290
291 # default value is false
292
293 # since V3.00
294
295 use_trunk_file = false
296
297 #是否使用小文件合并存储特性,缺省关闭,打开时可以减少碎片文件的出现,但同时加大服务器的负载
298
299
300
301 # the min slot size, should <= 4KB
302
303 # default value is 256 bytes
304
305 # since V3.00
306
307 slot_min_size = 256
308
309 #为trunk file分配的最小字节数,比如一个文件只有16字节,根据当前设置,也会为其分配256字节
310
311
312
313 # the max slot size, should > slot_min_size
314
315 # store the upload file to trunk file when it's size <= this value
316
317 # default value is 16MB
318
319 # since V3.00
320
321 slot_max_size = 16MB
322
323 #为trunk file分配的最大字节数,如果文件小于大小则使用trunk方式存储,当文件大小大于这个数值是直接保存到一个文件中(不采用合并存储方式)
324
325
326
327 # the trunk file size, should >= 4MB
328
329 # default value is 64MB
330
331 # since V3.00
332
333 trunk_file_size = 64MB
334
335 #trunk file的大小,不建议设置过大
336
337
338
339 # if create trunk file advancely
340
341 # default value is false
342
343 # since V3.06
344
345 trunk_create_file_advance = false
346
347 #是否提前创建好trunk文件,只用当这个参数设置为true时下面的3个以trunk_create_file开头的参数将不用设置
348
349
350
351 # the time base to create trunk file
352
353 # the time format: HH:MM
354
355 # default value is 02:00
356
357 # since V3.06
358
359 trunk_create_file_time_base = 02:00
360
361 #创建trunk file的起始时间点,当前为凌晨2点开始
362
363
364
365 # the interval of create trunk file, unit: second
366
367 # default value is 38400 (one day)
368
369 # since V3.06
370
371 trunk_create_file_interval = 86400
372
373 #提前创建trunk file的时间间隔,默认为1天
374
375
376
377 # the threshold to create trunk file
378
379 # when the free trunk file size less than the threshold, will create
380
381 # the trunk files
382
383 # default value is 0
384
385 # since V3.06
386
387 trunk_create_file_space_threshold = 20G
388
389 #提前创建trunk file时,需要达到的空闲trunk大小
390
391 #例如:当前配置为20G,现在空闲的trunk file大小为4G,那么只创建16G的trunk file
392
393
394
395 # if check trunk space occupying when loading trunk free spaces
396
397 # the occupied spaces will be ignored
398
399 # default value is false
400
401 # since V3.09
402
403 # NOTICE: set this parameter to true will slow the loading of trunk spaces
404
405 # when startup. you should set this parameter to true when neccessary.
406
407 trunk_init_check_occupying = false
408
409 #trunk file 初始化时,是否检查可用空间是否被占用
410
411
412
413 # if ignore storage_trunk.dat, reload from trunk binlog
414
415 # default value is false
416
417 # since V3.10
418
419 # set to true once for version upgrade when your version less than V3.10
420
421 trunk_init_reload_from_binlog = false
422
423 #是否无条件从trunk binlog中加载trunk可用空间信息
424
425
426
427 # if use storage ID instead of IP address
428
429 # default value is false
430
431 # since V4.00
432
433 use_storage_id = false
434
435 #是否使用 serverID作为storage server标识
436
437
438
439 # specify storage ids filename, can use relative or absolute path
440
441 # since V4.00
442
443 storage_ids_filename = storage_ids.conf
444
445 #use_storage_id设置为true,才需要设置本参数,详见源码目录下的conf/storage_ids.conf
446
447 #这个文件中设置组名、serverID和对应的IP地址
448
449
450
451 # id type of the storage server in the filename, values are:
452
453 ## ip: the ip address of the storage server
454
455 ## id: the server id of the storage server
456
457 # this paramter is valid only when use_storage_id set to true
458
459 # default value is ip
460
461 # since V4.03
462
463 id_type_in_filename = ip
464
465 #use_storage_id设置为true时才需要设置本参数
466
467
468
469
470
471 # if store slave file use symbol link
472
473 # default value is false
474
475 # since V4.01
476
477 store_slave_file_use_link = false
478
479 #存储从文件是否采用symbol link(符号链接)方式
480
481 #如果设置为true,一个从文件将占用两个文件:原始文件及指向它的符号链接
482
483
484
485 # if rotate the error log every day
486
487 # default value is false
488
489 # since V4.02
490
491 rotate_error_log = false
492
493 #是否定期轮转error log,目前仅支持一天轮转一次
494
495
496
497 # rotate error log time base, time format: Hour:Minute
498
499 # Hour from 0 to 23, Minute from 0 to 59
500
501 # default value is 00:00
502
503 # since V4.02
504
505 error_log_rotate_time=00:00
506
507 #error log定期轮转的时间节点,rotate_error_log参数设置为true时,本参数有效
508
509
510
511 # rotate error log when the log file exceeds this size
512
513 # 0 means never rotates log file by log file size
514
515 # default value is 0
516
517 # since V4.02
518
519 rotate_error_log_size = 0
520
521 #error log按大小进行轮转 0代表不按大小进行轮转,否则当error log文件达到大小则轮转
522
523
524
525 # if use connection pool
526
527 # default value is false
528
529 # since V4.05
530
531 use_connection_pool = false
532
533 #是否使用连接池
534
535
536
537 # connections whose the idle time exceeds this time will be closed
538
539 # unit: second
540
541 # default value is 3600
542
543 # since V4.05
544
545 connection_pool_max_idle_time = 3600
546
547 #连接池链接的最大生存时间,单位秒,use_connection_pool设置为true时有效
548
549
550
551 # HTTP port on this tracker server
552
553 http.server_port=8080
554
555 #http服务端口,默认情况下V4.06是不安装http服务的,详见INSTALL文件
556
557
558
559 # check storage HTTP server alive interval seconds
560
561 # <= 0 for never check
562
563 # default value is 30
564
565 http.check_alive_interval=30
566
567 #检查长链接的存活时间30秒
568
569
570
571 # check storage HTTP server alive type, values are:
572
573 # tcp : connect to the storge server with HTTP port only,
574
575 # do not request and get response
576
577 # http: storage check alive url must return http status 200
578
579 # default value is tcp
580
581 http.check_alive_type=tcp
582
583 #长链接的存在方式,当前配置为tcp方式
584
585
586
587 # check storage HTTP server alive uri/url
588
589 # NOTE: storage embed HTTP server support uri: /status.html
590
591 http.check_alive_uri=/status.html
592
593 #利用什么标识进行检查
2、storage Server配置详解
1 #这个配置文件是否失效
2
3 disabled=false
4
5 #false为有效 true为无效
6
7
8
9 # 本storage server所属的group名
10
11 group_name=group1
12
13
14
15 # 可以版定一个ip,默认为空,绑定所有ip
16
17 bind_addr=
18
19
20
21 # 本配置只有在bind_addr设置以后才生效
22
23 # 本机作为客户端访问其他服务时,是否使用绑定的ip去访问其他服务器
24
25 client_bind=true
26
27 # storage server监听端口
28
29 port=23000
30
31 #默认23000,如果不冲突,尽量不修改
32
33
34
35 # 连接超时时间,针对socket套接字函数connect,默认为30秒
36
37 connect_timeout=30
38
39
40
41 # 网络通讯超时时间,默认是60秒
42
43 network_timeout=60
44
45
46
47 # 向tracker server发送心跳时间间隔,默认30秒
48
49 heart_beat_interval=30
50
51
52
53 # 向tracker server汇报磁盘使用情况时间间隔,默认为60秒
54
55 stat_report_interval=60
56
57
58
59 # 工作文件夹,日志也存在此(这里不是上传的文件存放的地址)
60
61 base_path=/home/yuqing/fastdfs
62
63
64
65 # 本traceserver最大连接数
66
67 max_connections=256
68
69
70
71 # 发送或接收数据的buffer大小,工作队列消耗的内存大小 = buff_size * max_connections
72
73 # 建议这个设置大于8k,默认256k
74
75 buff_size = 256KB
76
77
78
79 # 接收数据的线程数
80
81 # 默认1个
82
83 # since V4.07
84
85 accept_threads=1
86
87
88
89 # 工作线程数,小于max_connections
90
91 # 默认4个,通常设置为CPU核数,效率最高
92
93 work_threads=4
94
95
96
97 # 磁盘读写是否分离,默认为true
98
99 disk_rw_separated = true
100
101
102
103 # 磁盘读取的线程数(每个工作文件夹)
104
105 # 对于磁盘读写不分离的模式,这个参数可以设置为0
106
107 # 默认为1
108
109 disk_reader_threads = 1
110
111
112
113 # 磁盘写的线程数(每个工作文件夹)
114
115 # 对于磁盘读写不分离的模式,这个参数可以设置为0
116
117 # 默认为1
118
119 disk_writer_threads = 1
120
121
122
123 # 当发现没有需要同步的文件时,需要等待sync_wait_msec毫秒再去binlog中检查
124
125 # 不能设置为0,默认为50毫秒
126
127 sync_wait_msec=50
128
129
130
131 # 同步完一个文件后,休眠sync_interval毫秒后继续同步下一个文件
132
133 sync_interval=0
134
135
136
137 # 允许存储同步的开始时间
138
139 # Hour from 0 to 23, Minute from 0 to 59
140
141 sync_start_time=00:00
142
143
144
145 # 允许存储同步的结束时间,也就是说,storage server只能在sync_start_time到sync_end_time这段时间内同步数据
146
147 # 默认是全天都可以同步
148
149 # Hour from 0 to 23, Minute from 0 to 59
150
151 sync_end_time=23:59
152
153 #由开始时间和结束时间,指定了同步时间的范围
154
155
156
157 # 同步完write_mark_file_freq个文件后,如果markfile有变化,将mark file写入磁盘
158
159 write_mark_file_freq=500
160
161
162
163 # 工作路径个数(可以挂载多个磁盘),默认是1个
164
165 store_path_count=1
166
167
168
169 # 工作路径列表,如果store_path0不设置,那么使用base_path存储
170
171 # 设置的路径一定是存在的文件夹
172
173 # 需要配置store_path_count个
174
175 store_path0=/home/yuqing/fastdfs
176
177 #store_path1=/home/yuqing/fastdfs2
178
179
180
181 # FastDFS是通过二级目录来存储文件的,该配置是每级目录的文件夹数据
182
183 # 如果设置为256,那么会生成256*256=65535个文件夹
184
185 # 这个值默认大小256,可以设置区间1-256
186
187 subdir_count_per_path=256
188
189
190
191 # tracer server列表,多个tracer server的话,分行列出
192
193 tracker_server=192.168.209.121:22122
194
195
196
197 #日志级别
198
199 ### emerg for emergency
200
201 ### alert
202
203 ### crit for critical
204
205 ### error
206
207 ### warn for warning
208
209 ### notice
210
211 ### info
212
213 ### debug
214
215 log_level=info
216
217
218
219 # 运行本进程的Unix用户组,如果不设置,默认是当前用户所在的group
220
221 run_by_group=
222
223
224
225 # 运行本进程的用户名,如果不设置,默认是当前用户的用户名
226
227 run_by_user=
228
229
230
231 # 可以连接到本机的主机ip范围,*代表允许所有服务器
232
233 # 支持这样的表达式:10.0.1.[1-15,20] or host[01-08,20-25].domain.com
234
235 allow_hosts=*
236
237
238
239 # 文件分布式存储策略
240
241 # 0: 轮询
242
243 # 1: 根据文件名hash结果随机存储
244
245 file_distribute_path_mode=0
246
247 # 本配置在 file_distribute_path_mode=0 时有效
248
249
250
251 # 当写文件数据达到file_distribute_rotate_count值时,换轮换到另外一个路径继续写入
252
253 # 本配置默认值是100
254
255 file_distribute_rotate_count=100
256
257
258
259 # 是否在写大文件的时候,调用fsync落地文件
260
261 # 0:永远不调用
262
263 # 其他数值:每写入fsync_after_written_bytes个字节,调用一次fsync
264
265 # 默认为0
266
267 fsync_after_written_bytes=0
268
269
270
271 # 将缓存中的日志落地到磁盘的间隔时间,默认是10秒
272
273 sync_log_buff_interval=10
274
275
276
277 # 将缓存中的binlog落地到磁盘的间隔时间,默认是10秒
278
279 sync_binlog_buff_interval=10
280
281
282
283 # 将storage server缓存中的状态数据落地到磁盘的间隔时间,默认是10秒
284
285 sync_stat_file_interval=300
286
287
288
289 # 线程栈大小,默认64k,不建议设置小于64k,默认512k
290
291 thread_stack_size=512KB
292
293
294
295 # 和 tracker.conf 中store_server= 2时的配置相对应,本storage server作为目标服务器,上传文件的优先级,可以为负数。值越小,优先级越高。
296
297 # tracker.conf 中store_server参数的描述:
298
299 # 上传文件选择服务器的规则:
300
301 # 0:轮询(默认)
302
303 # 1:按照IP排序,排在第一的server
304
305 # 2:按照优先级排序,最小的server
306
307 upload_priority=10
308
309
310
311 # 网卡别名,用ifconfig -a可以看到很多本机的网卡别名,类似eth0,eth0:0等等
312
313 # 多个网卡别名使用逗号分割,默认为空,让系统自动选择
314
315 if_alias_prefix=
316
317
318
319 # 是否检查重复文件,如果设置成true,使用FastDHT来存储文件索引
320
321 # 1 or yes: 需要检查
322
323 # 0 or no: 不需要检查
324
325 # 默认值是 0
326
327 check_file_duplicate=0
328
329
330
331 # 文件签名形式,hash或md5,用来做文件排重,默认为hash
332
333 file_signature_method=hash
334
335
336
337 # 存储文件索引的命名空间(在check_file_duplicate=1是生效)
338
339 key_namespace=FastDFS
340
341
342
343 # 是否和FastDHT之间使用长连接
344
345 # 0代表短链接,1代表长连接
346
347 # 默认值为0
348
349 keep_alive=0
350
351
352
353 # 可以使用#include filename来加载FastDHT服务器列表,filename可以是相对路径(基于base_path)
354
355 # 在check_file_duplicate=1时有效
356
357
358
359 # 更多信息参见FastDHT的安装须知
360
361 ##include /home/yuqing/fastdht/conf/fdht_servers.conf
362
363
364
365 # 是否记录访问日志
366
367 use_access_log = false
368
369
370
371 # 是否定期轮转访问日志,目前仅支持一天轮转一次
372
373 rotate_access_log = false
374
375
376
377 # 如果按天轮转访问日志,具体生成新错误日志文件的时间
378
379 # Hour from 0 to 23, Minute from 0 to 59
380
381 access_log_rotate_time=00:00
382
383
384
385 # 是否定期轮转错误日志,目前仅支持一天轮转一次
386
387 rotate_error_log = false
388
389
390
391 # 如果按天轮转错误日志,具体生成新错误日志文件的时间
392
393 # Hour from 0 to 23, Minute from 0 to 59
394
395 error_log_rotate_time=00:00
396
397
398
399 # 是否在错误访问文件达到一定大小时生成新的访问日志文件
400
401 # 0代表对日志文件大小不敏感
402
403 rotate_access_log_size = 0
404
405
406
407 # 是否在错误日志文件达到一定大小时生成新的错误日志文件
408
409 # 0代表对日志文件大小不敏感
410
411 rotate_error_log_size = 0
412
413
414
415 # 日志文件保存日期
416
417 # 0表示永久保存,不删除
418
419 # 默认为0
420
421 log_file_keep_days = 0
422
423
424
425 # if skip the invalid record when sync file
426
427 # default value is false
428
429 # since V4.02
430
431 file_sync_skip_invalid_record=false
432
433
434
435 # 是否使用连接池
436
437 use_connection_pool = false
438
439
440
441 # 连接闲置超时时间,连接如果闲置的时间超过本配置,则关闭次连接,单位秒
442
443 connection_pool_max_idle_time = 3600
444
445 # storage server的http访问方式的域名,如果域名为空,则只能使用ip访问
446
447 http.domain_name=
448
449
450
451 # HTTP端口
452
453 http.server_port=8888
3、client的配置文件详解
1 # 连接超时时间
2
3 # 默认30秒
4
5 connect_timeout=30
6
7
8
9 # 网络超时时间
10
11 # default value is 30s
12
13 network_timeout=60
14
15
16
17 # 工作文件夹,日志存在此
18
19 base_path=/home/yuqing/fastdfs
20
21
22
23 # tracer server列表,多个tracer server的话,分行列出
24
25 tracker_server=192.168.0.197:22122
26
27
28
29 #日志级别
30
31 ### emerg for emergency
32
33 ### alert
34
35 ### crit for critical
36
37 ### error
38
39 ### warn for warning
40
41 ### notice
42
43 ### info
44
45 ### debug
46
47 log_level=info
48
49
50
51 # 是否使用连接池
52
53 use_connection_pool = false
54
55
56
57 # 连接闲置超时时间,连接如果闲置的时间超过本配置,则关闭次连接,单位秒
58
59 connection_pool_max_idle_time = 3600
60
61
62
63 # 是否从tracer server读取fastdfs的参数,默认为false
64
65 load_fdfs_parameters_from_tracker=false
66
67
68
69
70
71
72
73 # 是否使用storage id 替换 ip,默认为false
74
75 # 和tracker.conf该参数含义一样
76
77 # 本配置只有在load_fdfs_parameters_from_tracker=false时生效
78
79 # 本配置默认为false
80
81 use_storage_id = false
82
83
84
85 # 指定storage id的文件名,允许使用绝对路径
86
87 # 和tracker.conf该参数含义一样
88
89 # 本配置只有在load_fdfs_parameters_from_tracker=false时生效
90
91 storage_ids_filename = storage_ids.conf
92
93
94
95
96
97 #HTTP settings
98
99 http.tracker_server_port=8080
100
101
102
103 #引入HTTP相关配置
104
105 ##include http.conf
五、总结
fastDFS是为集群而生,单机的fastDFS意义不大,因为fastDFS存在的意义在于其分布式文件系统,想要玩转fastDFS,仅仅掌握fastDFS是远远不够的。