概述
简介
FastDFS是一个开源的轻量级
分布式文件系统,它对文件进行管理,功能包括:文件存储、文件同步、文件访问(文件上传、文件下载)等,解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务,如相册网站、视频网站等等。
FastDFS为互联网量身定制,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。
FastDFS服务端有两个角色:跟踪器(tracker)和存储
节点(storage)。跟踪器主要做调度工作,在访问上起负载均衡的作用。
存储节点存储文件,完成文件管理的所有功能:就是这样的存储、同步和提供存取接口,FastDFS同时对文件的metadata进行管理。所谓文件的meta data就是文件的相关属性,以键值对(key valuepair)方式表示,如:width=1024,其中的key为width,value为1024。文件metadata是
文件属性列表,可以包含多个键值对。
跟踪器和存储节点都可以由一台或多台服务器构成。跟踪器和存储节点中的服务器均可以随时增加或下线而不会影响线上服务。其中跟踪器中的所有服务器都是对等的,可以根据服务器的压力情况随时增加或减少。
为了支持大容量,存储
节点(服务器)采用了分卷(或分组)的组织方式。
存储系统由一个或多个卷组成,卷与卷之间的文件是相互独立的,所有卷的文件容量累加就是整个存储系统中的文件容量。一个卷可以由一台或多台
存储服务器组成,一个卷下的存储服务器中的文件都是相同的,卷中的多台存储服务器起到了
冗余备份和负载均衡的作用。
在卷中增加服务器时,同步已有的文件由系统自动完成,同步完成后,系统自动将新增服务器切换到线上提供服务。
当存储空间不足或即将耗尽时,可以动态添加卷。只需要增加一台或多台服务器,并将它们配置为一个新的卷,这样就扩大了
存储系统的容量。
FastDFS中的文件标识分为两个部分:卷名和文件名,二者缺一不可。
安装
- [root@db1 ~]# wget http://cloud.github.com/downloads/libevent/libevent/libevent-2.0.14
- -stable.tar.gz
- [root@db1 ~]# tar -zxvpf libevent-2.0.14-stable.tar.gz
- [root@db1 ~]# cd libevent-2.0.14-stable
- [root@db1 libevent-2.0.14-stable]# ./configure --prefix=/usr/local/libevent-2.0.14 &&
- make && make install
- [root@db1 ~]# wget http://fastdfs.googlecode.com/files/FastDFS_v3.02.tar.gz
- [root@db1 ~]# tar -zxvf FastDFS_v3.02.tar.gz
- [root@db1 ~]# cd FastDFS
- [root@db1 FastDFS]# grep -A 4 '/usr/local/FastDFS' make.sh
- TARGET_PREFIX=/usr/local/FastDFS
- TARGET_CONF_PATH=/etc/fdfs
- WITH_HTTPD=1
- WITH_LINUX_SERVICE=1
- [root@db1 FastDFS]# ./make.sh C_INCLUDE_PATH=/usr/local/libevent-2.0.14/include
- LIBRARY_PATH=/usr/local/libevent-2.0.14/lib
- [root@db1 FastDFS]# ./make.sh install
- [root@db1 FastDFS]# ls /etc/fdfs/
- client.conf http.conf mime.types storage.conf tracker.conf
- [root@db1 ~]# grep -v '^#' /etc/fdfs/tracker.conf |grep -v '^$'
- disabled=false
- bind_addr=192.168.123.110
- port=22122
- connect_timeout=30
- network_timeout=60
- base_path=/home/data/fastdfs
- max_connections=256
- work_threads=4
- store_lookup=2
- store_group=group2
- store_server=0
- store_path=0
- download_server=0
- reserved_storage_space = 4GB
- log_level=info
- run_by_group=
- run_by_user=
- allow_hosts=*
- sync_log_buff_interval = 10
- check_active_interval = 120
- thread_stack_size = 64KB
- storage_ip_changed_auto_adjust = true
- storage_sync_file_max_delay = 86400
- storage_sync_file_max_time = 300
- use_trunk_file = false
- slot_min_size = 256
- slot_max_size = 16MB
- trunk_file_size = 64MB
- http.disabled=false
- http.server_port=8080
- http.check_alive_interval=30
- http.check_alive_type=tcp
- http.check_alive_uri=/status.html
- http.need_find_content_type=true
- [root@db1 ~]# grep -v '^#' /etc/fdfs/http.conf |grep -v '^$'
- http.default_content_type = application/octet-stream
- http.mime_types_filename=/etc/fdfs/mime.types
- http.anti_steal.check_token=false
- http.anti_steal.token_ttl=900
- http.anti_steal.secret_key=FastDFS1234567890
- http.anti_steal.token_check_fail=/home/data/fastdfs/conf/anti-steal.jpg
- [root@db1 ~]# /usr/local/FastDFS/bin/fdfs_trackerd /etc/fdfs/tracker.conf
- /usr/local/FastDFS/bin/fdfs_trackerd: error while loading shared libraries: libevent-
- 2.0.so.5: cannot open shared object file: No such file or directory
- [root@db1 ~]# echo '/usr/local/libevent-2.0.14/include/' >> /etc/ld.so.conf
- [root@db1 ~]# echo '/usr/local/libevent-2.0.14/lib/' >> /etc/ld.so.conf
- [root@db1 ~]# ldconfig
- [root@db1 ~]# /usr/local/FastDFS/bin/fdfs_trackerd /etc/fdfs/tracker.conf
- [2012-07-04 17:52:25] ERROR - file: tracker_func.c, line: 160, "/home/data/fastdfs"
- can't be accessed, error info: No such file or directory
- [root@db1 ~]# mkdir -p /home/data/fastdfs
- [root@db1 ~]# /usr/local/FastDFS/bin/fdfs_trackerd /etc/fdfs/tracker.conf
- [root@db1 ~]# echo $?
- 22
- [root@db1 ~]# cat /home/data/fastdfs/logs/trackerd.log
- [2012-07-04 17:52:50] ERROR - file: ../common/fdfs_http_shared.c, line: 128, param
- "http.mime_types_filename" not exist or is empty
- [root@db1 ~]# tail -1 /etc/fdfs/tracker.conf
- #include http.conf
- [root@db1 ~]# /usr/local/FastDFS/bin/fdfs_trackerd /etc/fdfs/tracker.conf
- [root@db1 ~]# echo $?
- 0
- [root@db1 ~]# ps -ef |grep track
- root 3535 1 0 15:47 ? 00:00:00 /usr/local/FastDFS/bin/fdfs_trackerd
- /etc/fdfs/tracker.conf
- [root@db1 ~]# netstat -ntpl |grep fdfs
- tcp 0 0 192.168.123.110:22122 0.0.0.0:* LISTEN
- 3535/fdfs_trackerd
- tcp 0 0 192.168.123.110:8080 0.0.0.0:* LISTEN
- 3535/fdfs_trackerd
- [root@db2 ~]# grep -v '^#' /etc/fdfs/storage.conf |grep -v '^$'
- disabled=false
- group_name=group1
- bind_addr=192.168.123.20
- client_bind=true
- port=23000
- connect_timeout=30
- network_timeout=60
- heart_beat_interval=30
- stat_report_interval=60
- base_path=/home/data/fastdfs
- max_connections=256
- buff_size = 256KB
- work_threads=4
- disk_rw_separated = true
- disk_rw_direct = false
- disk_reader_threads = 1
- disk_writer_threads = 1
- sync_wait_msec=50
- sync_interval=0
- sync_start_time=00:00
- sync_end_time=23:59
- write_mark_file_freq=500
- store_path_count=1
- store_path0=/home/data/fastdfs
- subdir_count_per_path=256
- tracker_server=192.168.123.110:22122
- log_level=info
- run_by_group=
- run_by_user=
- allow_hosts=*
- file_distribute_path_mode=0
- file_distribute_rotate_count=100
- fsync_after_written_bytes=0
- sync_log_buff_interval=10
- sync_binlog_buff_interval=10
- sync_stat_file_interval=300
- thread_stack_size=512KB
- upload_priority=10
- if_alias_prefix=
- check_file_duplicate=0
- key_namespace=FastDFS
- keep_alive=0
- http.disabled=false
- httphttp.domain_name=
- http.server_port=8888
- http.trunk_size=256KB
- http.need_find_content_type=true
- [root@db2 ~]# grep -v '^#' /etc/fdfs/client.conf |grep -v '^$'
- connect_timeout=30
- network_timeout=60
- base_path=/home/data/fastdfs
- tracker_server=192.168.123.110:22122
- log_level=info
- http.tracker_server_port=8080
- [root@db2 ~]# grep -v '^#' /etc/fdfs/http.conf |grep -v '^$'
- http.default_content_type = application/octet-stream
- http.mime_types_filename=mime.types
- http.anti_steal.check_token=false
- http.anti_steal.token_ttl=900
- http.anti_steal.secret_key=FastDFS1234567890
- http.anti_steal.token_check_fail=/home/data/fastdfs/conf/anti-steal.jpg
- [root@db2 ~]# mkdir -p /home/data/fastdfs
- [root@db2 ~]# echo '/usr/local/libevent-2.0.14/include/' >> /etc/ld.so.conf
- [root@db2 ~]# echo '/usr/local/libevent-2.0.14/lib/' >> /etc/ld.so.conf
- [root@db2 ~]# ldconfig
- [root@db2 ~]# tail -2 /etc/fdfs/storage.conf
- #use "#include" directive to include HTTP other settings
- #include http.conf
- [root@db2 ~]# /usr/local/FastFDS/bin/fdfs_storaged /etc/fdfs/storage.conf
- mkdir data path: 00 ...
- mkdir data path: 01 ...
- mkdir data path: 02 ...
- ———输出省略————
- data path: /home/data/fastdfs/data, mkdir sub dir done.
- [root@db2 ~]# ps -ef |grep fdfs
- root 14451 1 0 16:15 ? 00:00:00 /usr/local/FastFDS/bin/fdfs_storaged
- /etc/fdfs/storage.conf
- root 14468 8238 0 16:16 pts/1 00:00:00 grep fdfs
- [root@db2 ~]# netstat -ntpl |grep fdfs
- tcp 0 0 192.168.123.20:8888 0.0.0.0:* LISTEN
- 14451/fdfs_storaged
- tcp 0 0 192.168.123.20:23000 0.0.0.0:* LISTEN
- 14451/fdfs_storaged
|
最后
以上就是光亮面包为你收集整理的FastDFS分布式文件存储系统解析 简介 安装的全部内容,希望文章能够帮你解决FastDFS分布式文件存储系统解析 简介 安装所遇到的程序开发问题。
如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。
本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
发表评论 取消回复