1.介绍
go-fastdfs是一个基于http协议的分布式文件系统,go语言版本的fastdfs,它基于大道至简的设计理念,一切从简设计,使得它的运维及扩展变得更加简单,它具有高性能、高可靠、无中心、免维护等优点。
- 支持curl命令上传
- 支持浏览器上传
- 支持HTTP下载
- 支持多机自动同步
- 支持断点下载
- 支持小文件自动合并(减少inode占用
- 支持配置自动生成
- 支持自监控告警
- 支持集群文件信息查看
- 使用通用HTTP协议
- 无需专用客户端(支持wget,curl等工具)
- 类fastdfs
- 高性能 (使用leveldb作为kv库)
- 高可靠(设计极其简单,使用成熟组件)
- 无中心设计(所有节点都可以同时读写
2.部署图如下
3.安装过程:
下载fileserver,建议下载1.2.8版本以上,下载地址为https://github.com/sjqzhang/go-fastdfs/releases
# 安装并编译,会生成配置文件
chmod +x fileserver ./ fileserver &
tree -L 2 #查看配置文件结构
# 需要修改 conf
目录下的 cfg.json
文件;
1)需要把两台机器的 IP 地址和端口号 添加到 peers
的组里面,
2)需要修改admin_ips,如何获取白名单,可以通过访问地址获取到。
访问接口
http://10.1.5.9:8080/group1/status之后会获取到一个返回data的ip就是我们需要配置的白名单
3.配置好之后都需要重新启动相关的./fileserver &
root# cat conf/cfg.json { "绑定端号": "端口", "addr": ":8080", "PeerID": "集群内唯一,请使用0-9的单字符,默认自动生成", "peer_id": "2", "本主机地址": "本机http地址,默认自动生成(注意端口必须与addr中的端口一致),必段为内网,自动生成不为内网请自行修改,下同", "host": "http://172.16.13.103:8080", "集群": "集群列表,注意为了高可用,IP必须不能是同一个,同一不会自动备份,且不能为127.0.0.1,且必须为内网IP,默认自动生成", "peers": ["http://172.16.13.103:8080","http://172.16.13.104:8080"], "组号": "用于区别不同的集群(上传或下载)与support_group_upload配合使用,带在下载路径中", "group": "group1", "是否合并小文件": "默认不合并,合并可以解决inode不够用的情况(当前对于小于1M文件)进行合并", "enable_merge_small_file": false, "重试同步失败文件的时间": "单位秒", "refresh_interval": 1800, "是否自动重命名": "默认不自动重命名,使用原文件名", "rename_file": false, "是否支持web上传,方便调试": "默认支持web上传", "enable_web_upload": true, "是否支持非日期路径": "默认支持非日期路径,也即支持自定义路径,需要上传文件时指定path", "enable_custom_path": true, "下载域名": "用于外网下载文件的域名,不包含http://", "download_domain": "", "场景列表": "当设定后,用户指的场景必项在列表中,默认不做限制(注意:如果想开启场景认功能,格式如下:\'场景名:googleauth_secret\' 如 default:N7IET373HB2C5M6D ", "scenes": [], "默认场景": "默认default", "default_scene": "default", "是否显示目录": "默认显示,方便调试用,上线时请关闭", "show_dir": true, "邮件配置": "", "mail": { "user": "abc@163.com", "password": "abc", "host": "smtp.163.com:25" }, "告警接收邮件列表": "接收人数组", "alram_receivers": [], "告警接收URL": "方法post,参数:subjet,message", "alarm_url": "", "下载是否需带token": "真假", "download_use_token": false, "下载token过期时间": "单位秒", "download_token_expire": 600, "是否自动修复": "在超过1亿文件时出现性能问题,取消此选项,请手动按天同步,请查看FAQ", "auto_repair": true, "文件去重算法md5可能存在冲突,默认md5": "sha1|md5", "file_sum_arithmetic": "md5", "是否支持按组(集群)管理,主要用途是Nginx支持多集群": "默认不支持,不支持时路径为http://10.1.5.4:8080/action,支持时为http://10.1.5.4:8080/group(配置中的group参数)/action,action为动作名,如status,delete,sync等", "support_group_manage": false, "管理ip列表": "用于管理集的ip白名单,", "admin_ips": ["127.0.0.1"], "是否启用迁移": "默认不启用", "enable_migrate": false, "文件是否去重": "默认去重", "enable_distinct_file": true, "是否开启跨站访问": "默认开启", "enable_cross_origin": true, "是否开启Google认证,实现安全的上传、下载": "默认不开启", "enable_google_auth": false, "认证url": "当url不为空时生效,注意:普通上传中使用http参数 auth_token 作为认证参数, 在断点续传中通过HTTP头Upload-Metadata中的auth_token作为认证参数,认证流程参考认证架构图", "auth_url": "", "下载是否认证": "默认不认证(注意此选项是在auth_url不为空的情况下生效)", "enable_download_auth": false, "默认是否下载": "默认下载", "default_download": true, "本机是否只读": "默认可读可写", "read_only": false, "是否开启断点续传": "默认开启", "enable_tus": true
4.安装go-fastdfs-web
下载地址:https://github.com/perfree/go-fastdfs-web/releases
我是用的是1.1.2版本
首先解压tar xvzf 安装包.gz
./goFastDfsWeb.sh start
./goFastDfsWeb.sh status
./goFastDfsWeb.sh restart
中间可能遇到的报错,需要重新设置goFastDfsWeb.sh的格式为:set ff=unix
配置
由于默认端口号是 8088,所以就可以 web 访问了,
地址:172.16.13.103:8088
1.登陆界面需要注册个账号;特别注意下面的集群服务地址是我们上面配置的8080端口地址,指的是gofastdfs的服务器地址
2.安装好之后就可以登录访问了。
接下来如何用代码调用接口上传文件可参考下面: