我是靠谱客的博主 光亮面包,最近开发中收集的这篇文章主要介绍FastDFS分布式文件存储系统解析 简介 安装,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

简介

FastDFS是一个开源的轻量级 分布式文件系统,它对文件进行管理,功能包括:文件存储、文件同步、文件访问(文件上传、文件下载)等,解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务,如相册网站、视频网站等等。

FastDFS为互联网量身定制,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。

FastDFS服务端有两个角色:跟踪器(tracker)和存储 节点(storage)。跟踪器主要做调度工作,在访问上起负载均衡的作用。






存储节点存储文件,完成文件管理的所有功能:就是这样的存储、同步和提供存取接口,FastDFS同时对文件的metadata进行管理。所谓文件的meta data就是文件的相关属性,以键值对(key valuepair)方式表示,如:width=1024,其中的key为width,value为1024。文件metadata是 文件属性列表,可以包含多个键值对。
跟踪器和存储节点都可以由一台或多台服务器构成。跟踪器和存储节点中的服务器均可以随时增加或下线而不会影响线上服务。其中跟踪器中的所有服务器都是对等的,可以根据服务器的压力情况随时增加或减少。
为了支持大容量,存储 节点(服务器)采用了分卷(或分组)的组织方式。 存储系统由一个或多个卷组成,卷与卷之间的文件是相互独立的,所有卷的文件容量累加就是整个存储系统中的文件容量。一个卷可以由一台或多台 存储服务器组成,一个卷下的存储服务器中的文件都是相同的,卷中的多台存储服务器起到了 冗余备份和负载均衡的作用。
在卷中增加服务器时,同步已有的文件由系统自动完成,同步完成后,系统自动将新增服务器切换到线上提供服务。
当存储空间不足或即将耗尽时,可以动态添加卷。只需要增加一台或多台服务器,并将它们配置为一个新的卷,这样就扩大了 存储系统的容量。
FastDFS中的文件标识分为两个部分:卷名和文件名,二者缺一不可。


安装


一:编译安装

 
 
  1. [root@db1 ~]# wget http://cloud.github.com/downloads/libevent/libevent/libevent-2.0.14  
  2. -stable.tar.gz  
  3. [root@db1 ~]# tar -zxvpf libevent-2.0.14-stable.tar.gz   
  4. [root@db1 ~]# cd libevent-2.0.14-stable  
  5. [root@db1 libevent-2.0.14-stable]# ./configure --prefix=/usr/local/libevent-2.0.14 &&   
  6. make && make install  
  7. [root@db1 ~]# wget http://fastdfs.googlecode.com/files/FastDFS_v3.02.tar.gz  
  8. [root@db1 ~]# tar -zxvf FastDFS_v3.02.tar.gz   
  9. [root@db1 ~]# cd FastDFS  
  10. [root@db1 FastDFS]# grep -A 4 '/usr/local/FastDFS' make.sh   
  11. TARGET_PREFIX=/usr/local/FastDFS  
  12. TARGET_CONF_PATH=/etc/fdfs  
  13. WITH_HTTPD=1 
  14. WITH_LINUX_SERVICE=1 
  15. [root@db1 FastDFS]# ./make.sh C_INCLUDE_PATH=/usr/local/libevent-2.0.14/include    
  16. LIBRARY_PATH=/usr/local/libevent-2.0.14/lib  
  17. [root@db1 FastDFS]# ./make.sh install  
  18. [root@db1 FastDFS]# ls /etc/fdfs/  
  19. client.conf  http.conf  mime.types  storage.conf  tracker.conf 

二:tracker配置文件

 
 
  1. [root@db1 ~]# grep -v '^#' /etc/fdfs/tracker.conf |grep -v '^$'  
  2. disabled=false 
  3. bind_addr=192.168.123.110  
  4. port=22122 
  5. connect_timeout=30 
  6. network_timeout=60 
  7. base_path=/home/data/fastdfs  
  8. max_connections=256 
  9. work_threads=4 
  10. store_lookup=2 
  11. store_group=group2 
  12. store_server=0 
  13. store_path=0 
  14. download_server=0 
  15. reserved_storage_space = 4GB 
  16. log_level=info 
  17. run_by_group=  
  18. run_by_user=  
  19. allow_hosts=*  
  20. sync_log_buff_interval = 10 
  21. check_active_interval = 120 
  22. thread_stack_size = 64KB 
  23. storage_ip_changed_auto_adjust = true 
  24. storage_sync_file_max_delay = 86400 
  25. storage_sync_file_max_time = 300 
  26. use_trunk_file = false   
  27. slot_min_size = 256 
  28. slot_max_size = 16MB 
  29. trunk_file_size = 64MB 
  30. http.disabled=false 
  31. http.server_port=8080 
  32. http.check_alive_interval=30 
  33. http.check_alive_type=tcp 
  34. http.check_alive_uri=/status.html  
  35. http.need_find_content_type=true 
  36.  
  37. [root@db1 ~]# grep -v '^#' /etc/fdfs/http.conf  |grep -v '^$'  
  38. http.default_content_type = application/octet-stream  
  39. http.mime_types_filename=/etc/fdfs/mime.types  
  40. http.anti_steal.check_token=false 
  41. http.anti_steal.token_ttl=900 
  42. http.anti_steal.secret_key=FastDFS1234567890 
  43. http.anti_steal.token_check_fail=/home/data/fastdfs/conf/anti-steal.jpg 

三:启动tracker服务,需要注意tracker.conf文件最后一行为#include httpd.conf

 
 
  1. [root@db1 ~]# /usr/local/FastDFS/bin/fdfs_trackerd /etc/fdfs/tracker.conf   
  2. /usr/local/FastDFS/bin/fdfs_trackerd: error while loading shared libraries: libevent-  
  3. 2.0.so.5: cannot open shared object file: No such file or directory  
  4. [root@db1 ~]# echo '/usr/local/libevent-2.0.14/include/' >> /etc/ld.so.conf  
  5. [root@db1 ~]# echo '/usr/local/libevent-2.0.14/lib/' >> /etc/ld.so.conf  
  6. [root@db1 ~]# ldconfig  
  7. [root@db1 ~]# /usr/local/FastDFS/bin/fdfs_trackerd /etc/fdfs/tracker.conf   
  8. [2012-07-04 17:52:25] ERROR - file: tracker_func.c, line: 160, "/home/data/fastdfs"   
  9. can't be accessed, error info: No such file or directory  
  10. [root@db1 ~]# mkdir -p /home/data/fastdfs  
  11. [root@db1 ~]# /usr/local/FastDFS/bin/fdfs_trackerd /etc/fdfs/tracker.conf   
  12. [root@db1 ~]# echo $?  
  13. 22  
  14. [root@db1 ~]# cat  /home/data/fastdfs/logs/trackerd.log   
  15. [2012-07-04 17:52:50] ERROR - file: ../common/fdfs_http_shared.c, line: 128, param   
  16. "http.mime_types_filename" not exist or is empty  
  17. [root@db1 ~]# tail -1 /etc/fdfs/tracker.conf   
  18. #include http.conf  
  19. [root@db1 ~]# /usr/local/FastDFS/bin/fdfs_trackerd /etc/fdfs/tracker.conf   
  20. [root@db1 ~]# echo $?  
  21. 0  
  22. [root@db1 ~]# ps -ef |grep track  
  23. root      3535     1  0 15:47 ?        00:00:00 /usr/local/FastDFS/bin/fdfs_trackerd   
  24. /etc/fdfs/tracker.conf  
  25.  
  26. [root@db1 ~]# netstat -ntpl |grep fdfs  
  27. tcp        0      0 192.168.123.110:22122       0.0.0.0:*                   LISTEN        
  28. 3535/fdfs_trackerd    
  29. tcp        0      0 192.168.123.110:8080        0.0.0.0:*                   LISTEN        
  30. 3535/fdfs_trackerd  

四:storage配置文件

 
 
  1. [root@db2 ~]# grep -v '^#' /etc/fdfs/storage.conf |grep -v '^$'  
  2. disabled=false 
  3. group_name=group1 
  4. bind_addr=192.168.123.20  
  5. client_bind=true 
  6. port=23000 
  7. connect_timeout=30 
  8. network_timeout=60 
  9. heart_beat_interval=30 
  10. stat_report_interval=60 
  11. base_path=/home/data/fastdfs  
  12. max_connections=256 
  13. buff_size = 256KB 
  14. work_threads=4 
  15. disk_rw_separated = true 
  16. disk_rw_direct = false 
  17. disk_reader_threads = 1 
  18. disk_writer_threads = 1 
  19. sync_wait_msec=50 
  20. sync_interval=0 
  21. sync_start_time=00:00  
  22. sync_end_time=23:59  
  23. write_mark_file_freq=500 
  24. store_path_count=1 
  25. store_path0=/home/data/fastdfs  
  26. subdir_count_per_path=256 
  27. tracker_server=192.168.123.110:22122  
  28. log_level=info 
  29. run_by_group=  
  30. run_by_user=  
  31. allow_hosts=*  
  32. file_distribute_path_mode=0 
  33. file_distribute_rotate_count=100 
  34. fsync_after_written_bytes=0 
  35. sync_log_buff_interval=10 
  36. sync_binlog_buff_interval=10 
  37. sync_stat_file_interval=300 
  38. thread_stack_size=512KB 
  39. upload_priority=10 
  40. if_alias_prefix=  
  41. check_file_duplicate=0  
  42. key_namespace=FastDFS 
  43. keep_alive=0 
  44. http.disabled=false 
  45. httphttp.domain_name=  
  46. http.server_port=8888 
  47. http.trunk_size=256KB 
  48. http.need_find_content_type=true 
  49.  
  50. [root@db2 ~]# grep -v '^#' /etc/fdfs/client.conf  |grep -v '^$'  
  51. connect_timeout=30 
  52. network_timeout=60 
  53. base_path=/home/data/fastdfs  
  54. tracker_server=192.168.123.110:22122  
  55. log_level=info 
  56. http.tracker_server_port=8080 
  57.  
  58. [root@db2 ~]#  grep -v '^#' /etc/fdfs/http.conf |grep -v '^$'  
  59. http.default_content_type = application/octet-stream  
  60. http.mime_types_filename=mime.types  
  61. http.anti_steal.check_token=false 
  62. http.anti_steal.token_ttl=900 
  63. http.anti_steal.secret_key=FastDFS1234567890 
  64. http.anti_steal.token_check_fail=/home/data/fastdfs/conf/anti-steal.jpg 

五:启动storage,需要注意storage.conf文件最后一行为#include httpd.conf

 
 
  1. [root@db2 ~]# mkdir -p /home/data/fastdfs  
  2. [root@db2 ~]# echo '/usr/local/libevent-2.0.14/include/' >> /etc/ld.so.conf  
  3. [root@db2 ~]# echo '/usr/local/libevent-2.0.14/lib/' >> /etc/ld.so.conf  
  4. [root@db2 ~]# ldconfig  
  5.  
  6. [root@db2 ~]# tail -2 /etc/fdfs/storage.conf   
  7. #use "#include" directive to include HTTP other settings  
  8. #include http.conf  
  9.  
  10. [root@db2 ~]# /usr/local/FastFDS/bin/fdfs_storaged /etc/fdfs/storage.conf   
  11. mkdir data path: 00 ...  
  12. mkdir data path: 01 ...  
  13. mkdir data path: 02 ...  
  14. ———输出省略————  
  15. data path: /home/data/fastdfs/data, mkdir sub dir done.  
  16.  
  17. [root@db2 ~]# ps -ef |grep fdfs  
  18. root     14451     1  0 16:15 ?        00:00:00 /usr/local/FastFDS/bin/fdfs_storaged   
  19. /etc/fdfs/storage.conf  
  20. root     14468  8238  0 16:16 pts/1    00:00:00 grep fdfs  
  21.  
  22. [root@db2 ~]# netstat -ntpl |grep fdfs  
  23. tcp        0      0 192.168.123.20:8888         0.0.0.0:*                   LISTEN        
  24. 14451/fdfs_storaged   
  25. tcp        0      0 192.168.123.20:23000        0.0.0.0:*                   LISTEN        
  26. 14451/fdfs_storaged  

五:测试文件上传

 [root@db2 ~]# /usr/local/FastFDS/bin/fdfs_test /etc/fdfs/client.conf upload /etc/passwd
This is FastDFS client test program v3.02
Copyright (C) 2008, Happy Fish / YuQing
FastDFS may be copied only under the terms of the GNU General
Public License V3, which may be found in the FastDFS source kit.
Please visit the FastDFS Home Page http://www.csource.org/ 
for more detail.

[2012-07-30 16:25:59] INFO - base_path=/home/data/fastdfs, connect_timeout=30,

network_timeout=60, tracker_server_count=1, anti_steal_token=0, anti_steal_secret_key length=0tracker_query_storage_store_list_without_group: 
server 1. group_name=group1, ip_addr=192.168.123.20, port=23000
 group_name=group1, ip_addr=192.168.123.20, port=23000
storage_upload_by_filename
group_name=group1, remote_filename=M00/00/00/wKh7FFAWRRfcMOGtAAAHKBGhZhE8065783
source ip address: 192.168.123.20
file timestamp=2012-07-30 16:25:59
file size=1832
file crc32=295790097
file url: 
http://192.168.123.110:8080/group1/M00/00/00/wKh7FFAWRRfcMOGtAAAHKBGhZhE8065783
storage_upload_slave_by_filename
group_name=group1, remote_filename=M00/00/00/wKh7FFAWRRfcMOGtAAAHKBGhZhE8065783_big
source ip address: 192.168.123.20
file timestamp=2012-07-30 16:25:59
file size=1832
file crc32=295790097
file url: 
http://192.168.123.110:8080/group1/M00/00/00/wKh7FFAWRRfcMOGtAAAHKBGhZhE8065783_big

[root@db2 ~]# /usr/local/FastFDS/bin/fdfs_test /etc/fdfs/client.conf upload 2.jpg 
This is FastDFS client test program v3.02
Copyright (C) 2008, Happy Fish / YuQing
FastDFS may be copied only under the terms of the GNU General
Public License V3, which may be found in the FastDFS source kit.
Please visit the FastDFS Home Page http://www.csource.org/ 
for more detail.

[2012-07-30 16:29:22] INFO - base_path=/home/data/fastdfs, connect_timeout=30, network_timeout=60, tracker_server_count=1, anti_steal_token=0, anti_steal_secret_key length=0tracker_query_storage_store_list_without_group: 
server 1. group_name=group1, ip_addr=192.168.123.20, port=23000
 group_name=group1, ip_addr=192.168.123.20, port=23000
storage_upload_by_filename
group_name=group1, remote_filename=M00/00/00/wKh7FFAWReLzPs4sAAEYquSDGwc472.jpg
source ip address: 192.168.123.20
file timestamp=2012-07-30 16:29:22
file size=71850
file crc32=3833797383
file url: 
http://192.168.123.110:8080/group1/M00/00/00/wKh7FFAWReLzPs4sAAEYquSDGwc472.jpg
storage_upload_slave_by_filename
group_name=group1, remote_filename=M00/00/00/wKh7FFAWReLzPs4sAAEYquSDGwc472_big.jpg
source ip address: 192.168.123.20
file timestamp=2012-07-30 16:29:22
file size=71850
file crc32=3833797383
file url: 
http://192.168.123.110:8080/group1/M00/00/00/wKh7FFAWReLzPs4sAAEYquSDGwc472_big.jpg






最后

以上就是光亮面包为你收集整理的FastDFS分布式文件存储系统解析 简介 安装的全部内容,希望文章能够帮你解决FastDFS分布式文件存储系统解析 简介 安装所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(39)

评论列表共有 0 条评论

立即
投稿
返回
顶部