搭建FastDFS

Posted 笨小孩

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了搭建FastDFS相关的知识,希望对你有一定的参考价值。

---恢复内容开始---

  FastDFS是用c语言编写的一款开源的分布式文件系统。FastDFS为互联网量身定制,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务,文件上传流程如下图所示:

 

图片下载流程类似

1.1   上传文件的文件名

  客户端端上传文件后存储服务器将文件ID返回给客户端,此文件ID用于以后访问该文件的索引信息。文件索引信息包括:组名,虚拟磁盘路径,数据两级目录,文件名。

  (1). 组名:文件上传后所在的storage组名称,在文件上传成功后有storage服务器返回,需要客户端自行保存。

  (2). 虚拟磁盘路径:storage配置的虚拟路径,与磁盘选项store_path*对应。如果配置了store_path0则是M00,如果配置了store_path1则是M01,以此类推。

  (3). 数据两级目录:storage服务器在每个虚拟磁盘路径下创建的两级目录,用于存储数据文件。

  (4). 文件名:与文件上传时不同。是由存储服务器根据特定信息生成,文件名包含:源存储服务器IP地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息

1.2    FastDFS搭建

可以使用一台虚拟机来模拟,只有一个Tracker、一个Storage服务,配置nginx访问图片。详细步骤如下:

1.3 搭建步骤

  (1). 把fastDFS都上传到linux系统。
  (2). 安装FastDFS之前,先安装libevent工具包。
    yum -y install libevent
  (3). 安装libfastcommonV1.0.7工具包。
    <1> 解压缩
    <2> ./make.sh
    <3> ./make.sh install
    <4> 把/usr/lib64/libfastcommon.so文件向/usr/lib/下复制一份
  (4). 安装Tracker服务。
    <1> 解压缩
    <2> ./make.sh
      <3> ./make.sh install
    安装后在/usr/bin/目录下有以fdfs开头的文件都是编译出来的,配置文件都放到/etc/fdfs文件夹
       <4> 把/root/FastDFS/conf目录下的所有的配置文件都复制到/etc/fdfs下。
         <5> 配置tracker服务,修改/root/FastDFS/conf/tracker.conf文件。

     <6> 启动tracker。/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf 

              重启使用命令:/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart

  (5). 安装storage服务
    <1> 如果是在不同的服务器安装,第四步的1~4需要重新执行
    <2> 配置storage服务。修改/root/FastDFS/conf/storage.conf文件

     <3> 启动storage服务

        /usr/bin/fdfs_storaged /etc/fdfs/storage.conf restart

  (6). 测试服务

     <1> 修改配置文件/etc/fdfs/client.conf

      执行命令: /usr/bin/fdfs_test /etc/fdfs/client.conf upload anti-steal.jpg 上传anti-steal.jpg到配置文件中指定目录下

   (7). 搭建nginx提供http服务     

     可以使用官方提供的nginx插件。要使用nginx插件需要重新编译。fastdfs-nginx-module_v1.16.tar.gz
      <1> 解压插件压缩包
      <2> 修改/root/fastdfs-nginx-module/src/config文件,把其中的local去掉。

      <3> 对nginx重新config
        ./configure \\
        --prefix=/usr/local/nginx \\
        --pid-path=/var/run/nginx/nginx.pid \\
        --lock-path=/var/lock/nginx.lock \\
        --error-log-path=/var/log/nginx/error.log \\
        --http-log-path=/var/log/nginx/access.log \\
        --with-http_gzip_static_module \\
        --http-client-body-temp-path=/var/temp/nginx/client \\
        --http-proxy-temp-path=/var/temp/nginx/proxy \\
        --http-fastcgi-temp-path=/var/temp/nginx/fastcgi \\
        --http-uwsgi-temp-path=/var/temp/nginx/uwsgi \\
        --http-scgi-temp-path=/var/temp/nginx/scgi \\
        --add-module=/root/fastdfs-nginx-module/src
    <4> make
    <5> make install
    <6> 把/root/fastdfs-nginx-module/src/mod_fastdfs.conf文件复制到/etc/fdfs目录下。编辑:

     <7> nginx的配置

        在nginx的配置文件中添加一个Server:

server {
        listen       80;
        server_name  192.168.101.3; // 必须配置为本机IP地址,localhost 貌似有些情况不行

        location /group1/M00/{
                //配置文件中数据存放目录
                root /home/FastDFS/fdfs_storage/data; 
                ngx_fastdfs_module;
        }
}

      <8> 将libfdfsclient.so拷贝至/usr/lib下

        cp /usr/lib64/libfdfsclient.so /usr/lib/

      <9> 启动nginx

备注:

  有些情况下,图片上传成功,但浏览器就是无法查看该图片,经常出现404错误,根据实际情况,主要有以下几种解决情况:

    1. 文件存放目录权限问题,可以增加目录的读写权限

      chmod -R 777 path_data

    2. nginx的nginx.conf配置文件中第一行 user属性指定为:root

    3. 配置server的时候,尽量不要使用localhost,以ip地址取代之,同时需要配置location属性中的文件存放目录,即就是:  

      root /home/FastDFS/fdfs_storage/data; 

 

 

 

---恢复内容结束---

---恢复内容开始---

  FastDFS是用c语言编写的一款开源的分布式文件系统。FastDFS为互联网量身定制,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务,文件上传流程如下图所示:

 

图片下载流程类似

1.1   上传文件的文件名

  客户端端上传文件后存储服务器将文件ID返回给客户端,此文件ID用于以后访问该文件的索引信息。文件索引信息包括:组名,虚拟磁盘路径,数据两级目录,文件名。

  (1). 组名:文件上传后所在的storage组名称,在文件上传成功后有storage服务器返回,需要客户端自行保存。

  (2). 虚拟磁盘路径:storage配置的虚拟路径,与磁盘选项store_path*对应。如果配置了store_path0则是M00,如果配置了store_path1则是M01,以此类推。

  (3). 数据两级目录:storage服务器在每个虚拟磁盘路径下创建的两级目录,用于存储数据文件。

  (4). 文件名:与文件上传时不同。是由存储服务器根据特定信息生成,文件名包含:源存储服务器IP地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息

1.2    FastDFS搭建

可以使用一台虚拟机来模拟,只有一个Tracker、一个Storage服务,配置nginx访问图片。详细步骤如下:

1.3 搭建步骤

  (1). 把fastDFS都上传到linux系统。
  (2). 安装FastDFS之前,先安装libevent工具包。
    yum -y install libevent
  (3). 安装libfastcommonV1.0.7工具包。
    <1> 解压缩
    <2> ./make.sh
    <3> ./make.sh install
    <4> 把/usr/lib64/libfastcommon.so文件向/usr/lib/下复制一份
  (4). 安装Tracker服务。
    <1> 解压缩
    <2> ./make.sh
      <3> ./make.sh install
    安装后在/usr/bin/目录下有以fdfs开头的文件都是编译出来的,配置文件都放到/etc/fdfs文件夹
       <4> 把/root/FastDFS/conf目录下的所有的配置文件都复制到/etc/fdfs下。
         <5> 配置tracker服务,修改/root/FastDFS/conf/tracker.conf文件。

     <6> 启动tracker。/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf 

              重启使用命令:/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart

  (5). 安装storage服务
    <1> 如果是在不同的服务器安装,第四步的1~4需要重新执行
    <2> 配置storage服务。修改/root/FastDFS/conf/storage.conf文件

     <3> 启动storage服务

        /usr/bin/fdfs_storaged /etc/fdfs/storage.conf restart

  (6). 测试服务

     <1> 修改配置文件/etc/fdfs/client.conf

      执行命令: /usr/bin/fdfs_test /etc/fdfs/client.conf upload anti-steal.jpg 上传anti-steal.jpg到配置文件中指定目录下

   (7). 搭建nginx提供http服务     

     可以使用官方提供的nginx插件。要使用nginx插件需要重新编译。fastdfs-nginx-module_v1.16.tar.gz
      <1> 解压插件压缩包
      <2> 修改/root/fastdfs-nginx-module/src/config文件,把其中的local去掉。

      <3> 对nginx重新config
        ./configure \\
        --prefix=/usr/local/nginx \\
        --pid-path=/var/run/nginx/nginx.pid \\
        --lock-path=/var/lock/nginx.lock \\
        --error-log-path=/var/log/nginx/error.log \\
        --http-log-path=/var/log/nginx/access.log \\
        --with-http_gzip_static_module \\
        --http-client-body-temp-path=/var/temp/nginx/client \\
        --http-proxy-temp-path=/var/temp/nginx/proxy \\
        --http-fastcgi-temp-path=/var/temp/nginx/fastcgi \\
        --http-uwsgi-temp-path=/var/temp/nginx/uwsgi \\
        --http-scgi-temp-path=/var/temp/nginx/scgi \\
        --add-module=/root/fastdfs-nginx-module/src
    <4> make
    <5> make install
    <6> 把/root/fastdfs-nginx-module/src/mod_fastdfs.conf文件复制到/etc/fdfs目录下。编辑:

     <7> nginx的配置

        在nginx的配置文件中添加一个Server:

server {
        listen       80;
        server_name  192.168.101.3; // 必须配置为本机IP地址,localhost 貌似有些情况不行

        location /group1/M00/{
                //配置文件中数据存放目录
                root /home/FastDFS/fdfs_storage/data; 
                ngx_fastdfs_module;
        }
}

      <8> 将libfdfsclient.so拷贝至/usr/lib下

        cp /usr/lib64/libfdfsclient.so /usr/lib/

      <9> 启动nginx

备注:

  有些情况下,图片上传成功,但浏览器就是无法查看该图片,经常出现404错误,根据实际情况,主要有以下几种解决情况:

    1. 文件存放目录权限问题,可以增加目录的读写权限

      chmod -R 777 path_data

    2. nginx的nginx.conf配置文件中第一行 user属性指定为:root

    3. 配置server的时候,尽量不要使用localhost,以ip地址取代之,同时需要配置location属性中的文件存放目录,即就是:  

      root /home/FastDFS/fdfs_storage/data; 

 

 

 

---恢复内容结束---

以上是关于搭建FastDFS的主要内容,如果未能解决你的问题,请参考以下文章

Linux(Ubuntu)搭建FastDFS文件管理系统

fastdfs集群搭建

FastDFS图片服务器搭建流程:

CentOS7搭建FastDFS V5.11分布式文件系统

虚拟机上图片服务器搭建(FastDFS+nginx)

Docker 搭建FastDFS文件系统