FastDFS设计与实现

本文由用户“Derekkwok66”分享发布 更新时间:2022-03-03 14:10:47 举报文档

以下为《FastDFS设计与实现》的无排版文字预览,完整格式请下载

下载前请仔细阅读文字预览以及下方图片预览。图片预览是什么样的,下载的文档就是什么样的。

1 介绍

FastDFS是一个开源的分布式文件系统,它对文件进行管理,功能包括:文件存储、文件同步、文件访问(文件上传、文件下载)等,解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务,如相册网站、视频网站等等。

FastDFS服务端有两个角色:跟踪器(tracker)和存储节点(storage)。跟踪器主要做调度工作,在访问上起负载均衡的作用。存储节点存储文件,完成文件管理的所有功能:存储、同步和提供存取接口,FastDFS同时对文件的meta data进行管理。所谓文件的meta data就是文件的相关属性,以键值对(keyvalue pair)方式表示,如:width=1024,其中的key为width,value为1024。文件meta data是文件属性列表,可以包含多个键值对。FastDFS系统结构如下图所示:

/

跟踪器和存储节点都可以由一台多台服务器构成。跟踪器和存储节点中的服务器均可以随时增加或下线而不会影响线上服务。其中跟踪器中的所有服务器都是对等的,可以根据服务器的压力情况随时增加或减少。

为了支持大容量,存储节点(服务器)采用了分卷(或分组)的组织方式。存储系统由一个或多个卷组成,卷与卷之间的文件是相互独立的,所有卷的文件容量累加就是整个存储系统中的文件容量。一个卷可以由一台或多台存储服务器组成,一个卷下的存储服务器中的文件都是相同的,卷中的多台存储服务器起到了冗余备份和负载均衡的作用。在卷中增加服务器时,同步已有的文件由系统自动完成,同步完成后,系统自动将新增服务器切换到线上提供服务。当存储空间不足或即将耗尽时,可以动态添加卷。只需要增加一台或多台服务器,并将它们配置为一个新的卷,这样就扩大了存储系统的容量。FastDFS中的文件标识分为两个部分:卷名和文件名,二者缺一不可。

2 交互过程

2.1 上传文件

/

1)client询问tracker上传到的storage,不需要附加参数;

2)tracker返回一台可用的storage;

3)client直接和storage通讯完成文件上传。

客户端 client发起对 FastDFS的文件传输动作,是通过连接到某一台 Tracker Server的指定端口来实现的,Tracker Server根据目前已掌握的信息,来决定选择哪一台 Storage Server,然后将这个Storage Server的地址等信息返回给 client,然后 client再通过这些信息连接到这台 Storage Server,将要上传的文件传送到给 Storage Server上。

2.2 下载文件

/

1)client询问tracker下载文件的storage,参数为文件标识(卷名和文件名);

2)tracker返回一台可用的storage;

3)client直接和storage通讯完成文件下载。

3 集群计划

3.1 FastDFS集群架构图

/

3.2 环境及资源

高可用负载集群的VIP:192.168.1.vip

跟踪服务器1:192.168.101.t1 zspt-dfs-tracker-1

跟踪服务器2:192.168.101.t2 zspt-dfs-tracker-2

存储服务器1:192.168.101.s1 zspt-dfs-storage-group1-1

存储服务器2:192.168.101.s2 zspt-dfs-storage-group1-2

存储服务器3:192.168.101.s3 zspt-dfs-storage-grou 内容过长,仅展示头部和尾部部分文字预览,全文请查看图片预览。 文件,避免客户端由于复制延迟导致的文件无法访问错误。(解压后的fastdfs-nginx-module在nginx安装时使用)

在跟踪器节点上安装Nginx

在tracker上安装的nginx主要为了提供http访问的反向代理、负载均衡以及缓存服务。

使用Keepalived + Nginx组成的高可用负载均衡集群做两个 Tracker节点中Nginx的负载均

通过Keepalived+Nginx组成的高可用负载集群的VIP(192.168.1.vip)来访问FastDFS集群中的文件

注意:千万不要使用 kill -9命令强某某FastDFS进程,否则可能会导致 binlog数据丢失。

[文章尾部最后300字内容到此结束,中间部分内容请查看底下的图片预览]

以上为《FastDFS设计与实现》的无排版文字预览,完整格式请下载

下载前请仔细阅读上面文字预览以及下方图片预览。图片预览是什么样的,下载的文档就是什么样的。

图片预览