go etcd

时间:2022-01-11 03:25:22

etcd介绍

GitHub:https://github.com/coreos/etcd

官网:https://coreos.com/etcd/

下载:https://github.com/coreos/etcd/releases/

概念:高可用的分布式key-value存储,可以用于配置共享和服务发现。

具有以下优点:
  • 简单 : 相比于晦涩难懂的paxos算法,etcd基于相对简单且易实现的raft算法实现一致性,并通过gRPC提供接口调用
  • 安全:支持TLS通信,并可以针对不同的用户进行对key的读写控制
  • 高性能:10,000 /秒的写性能

类似项目:zookeeper和consul

开发语言:Go

接口:提供restful的http接口,使用简单

实现算法:基于raft算法的强一致性、高可用的服务存储目录

etcd的应用场景:

  • 服务发现和服务注册
  • 配置中心
  • 分布式锁
  • master选举

etcd单机部署

1、下载安装包etcd-v3.2.7-linux-amd64.tar.gz

tar -zxvf etcd-v3.2.7-linux-amd64.tar.gz
cd etcd-v3.2.7-linux-amd64

2、服务启动

nohup etcd--data-dir /var/lib/data.etcd --listen-client-urls http://10.10.83.162:2379--advertise-client-urls http://10.10.83.162:2379 & > /var/log/etcd.log &

etcd集群部署

集群搭建有三种方式,分布是静态配置,etcd发现,dns发现

三种发现方式:Static,etcd Discovery,DNS Discovery。 
● Static适用于有固定IP的主机节点 
● etcd Discovery适用于DHCP环境 
● DNS Discovery依赖DNS SRV记录

1、部署环境

操作系统:centos6.8

3台服务器:10.10.83.162、10.10.83.163、10.10.83.229

2、配置项说明

  • --name
etcd集群中的节点名,这里可以随意,可区分且不重复就行  
  • --data-dir
指定节点的数据存储目录
  • --wal-dir
指定节点的was文件的存储目录,若指定了该参数,wal文件会和其他数据文件分开存储。
  • --listen-peer-urls
监听的用于节点之间通信的url,可监听多个,集群内部将通过这些url进行数据交互(如选举,数据同步等)
  • --initial-advertise-peer-urls
建议用于节点之间通信的url,节点间将以该值进行通信。
  • --listen-client-urls
监听的用于客户端通信的url,同样可以监听多个。
  • --advertise-client-urls
建议使用的客户端通信url,该值用于etcd代理或etcd成员与etcd节点通信。
  • --initial-cluster-token
节点的token值,设置该值后集群将生成唯一id,并为每个节点也生成唯一id,当使用相同配置文件再启动一个集群时,只要该token值不一样,etcd集群就不会相互影响。
  • --initial-cluster
也就是集群中所有的initial-advertise-peer-urls 的合集
  • --initial-cluster-state
新建集群的标志

静态配置

https://coreos.com/etcd/docs/latest/op-guide/clustering.html

静态配置主要预先将集群的配置信息分配好,然后将集群分布启动,集群将根据配置信息组成集群。这里按如下的配置信息分别启动三个etcd。
  • 10.10.83.162
./etcd --name infra0 --initial-advertise-peer-urls http://10.10.83.162:2380 \
--listen-peer-urls http://10.10.83.162:2380 \
--listen-client-urls http://10.10.83.162:2379,http://127.0.0.1:2379 \
--advertise-client-urls http://10.10.83.162:2379 \
--initial-cluster-token etcd-cluster-1 \
--initial-cluster infra0=http://10.10.83.162:2380,infra1=http://10.10.83.163:2380,infra2=http://10.10.83.229:2380 \
--initial-cluster-state new
  • 10.10.83.163
./etcd --name infra1 --initial-advertise-peer-urls http://10.10.83.163:2380 \
--listen-peer-urls http://10.10.83.163:2380 \
--listen-client-urls http://10.10.83.163:2379,http://127.0.0.1:2379 \
--advertise-client-urls http://10.10.83.163:2379 \
--initial-cluster-token etcd-cluster-1 \
--initial-cluster infra0=http://10.10.83.162:2380,infra1=http://10.10.83.163:2380,infra2=http://10.10.83.229:2380 \
--initial-cluster-state new
  • 10.10.83.229
./etcd --name infra2 --initial-advertise-peer-urls http://10.10.83.229:2380 \
--listen-peer-urls http://10.10.83.229:2380 \
--listen-client-urls http://10.10.83.229:2379,http://127.0.0.1:2379 \
--advertise-client-urls http://10.10.83.229:2379 \
--initial-cluster-token etcd-cluster-1 \
--initial-cluster infra0=http://10.10.83.162:2380,infra1=http://10.10.83.163:2380,infra2=http://10.10.83.229:2380 \
--initial-cluster-state new

按如上配置分别启动集群,启动集群后,将会进入集群选举状态

  • 查看集群成员
./etcdctl  member list

go etcd

  • 查看集群健康状态
./etcdctl cluster-health

go etcd

etcd发现

静态配置前提是在搭建集群之前已经提前知道各节点的信息,而实际应用中可能存在预先并不知道各节点ip的情况,这时可通过已经搭建的etcd来辅助搭建新的etcd集群,具体过程如下:

分为私有方式和公有方式

1、私有方式

首先需要在已经搭建的etcd集群。这种启动方式,依赖另外一个ETCD集群,在该集群中创建一个目录,并在该目录中创建一个_config的子目录,并且在该子目录中增加一个size节点,指定集群的节点数目。

curl -X PUT http://10.10.83.11:2379/v2/keys/discovery/6c007a14875d53d9bf0ef5a6fc0257c817f0fb83/_config/size -d value=3

返回

{"action":"set","node":{"key":"/discovery/6c007a14875d53d9bf0ef5a6fc0257c817f0fb83/_config/size","value":"3","modifiedIndex":16,"createdIndex":16}}

如上表示创建一个集群大小为3的etcd发现url,创建成功后按如下配置启动各节点

./etcd --name infra0 --initial-advertise-peer-urls http://10.10.83.162:2380 \
--listen-peer-urls http://10.10.83.162:2380 \
--listen-client-urls http://10.10.83.162:2379,http://127.0.0.1:2379 \
--advertise-client-urls http://10.10.83.162:2379 \
--discovery http://10.10.83.11:2379/v2/keys/discovery/6c007a14875d53d9bf0ef5a6fc0257c817f0fb83
./etcd --name infra1 --initial-advertise-peer-urls http://10.10.83.163:2380 \
--listen-peer-urls http://10.10.83.163:2380 \
--listen-client-urls http://10.10.83.163:2379,http://127.0.0.1:2379 \
--advertise-client-urls http://10.10.83.163:2379 \
--discovery http://10.10.83.11:2379/v2/keys/discovery/6c007a14875d53d9bf0ef5a6fc0257c817f0fb83
./etcd --name infra2 --initial-advertise-peer-urls http://10.10.83.229:2380 \
--listen-peer-urls http://10.10.83.229:2380 \
--listen-client-urls http://10.10.83.229:2379,http://127.0.0.1:2379 \
--advertise-client-urls http://10.10.83.229:2379 \
--discovery http://10.10.83.11:2379/v2/keys/discovery/6c007a14875d53d9bf0ef5a6fc0257c817f0fb83

如上当所有etcd均注册到用于发现的url后,独立的各节点将形成集群。

2、公有方式

如果没有搭建好的etcd集群用于注册和发现,可使用etcd公有服务来进行服务注册发现。

curl https://discovery.etcd.io/new?size=3

返回

https://discovery.etcd.io/580e3f6a132634250f2f790ac159f44e

将返回的url替换上面的 --discovery部分,启动各个节点etcd,建立集群。

dns发现

dns 发现主要通过dns服务来记录集群中各节点的域名信息,各节点到dns服务中获取相互的地址信息,从而建立集群。etcd各节点通过--discovery-serv配置来获取域名信息。

部署方式参考官方介绍

etcd集群运行过程中的改配

主要用于故障节点替换,集群扩容需求。

1、从集群中删除老member

./etcdctl member remove 169547ffdcc5110d

go etcd

2、向集群中新增新member

./etcdctl member add infra2 http://10.10.83.163:2380

go etcd

3、删除老节点data目录

4、在新member上启动etcd进程

nohup ./etcd --name infra1 --initial-advertise-peer-urls http://10.10.83.163:2380 --listen-peer-urls http://10.10.83.163:2380 --listen-client-urls http://10.10.83.163:2379,http://127.0.0.1:2379 --advertise-client-urls http://10.10.83.163:2379 --initial-cluster infra0=http://10.10.83.162:2380,infra1=http://10.10.83.163:2380,infra2=http://10.10.83.229:2380 --initial-cluster-state existing &

go etcd

集群可服务性对故障的容忍度

以3节点集群为例。

结论:

  • 在1个member故障时,即小部分节点故障: 集群处于健康态,读写都正常。
  • 在2个member故障时,即大部分节点故障情况:集群整体状态为”不健康“,剩下的member也为”不健康“。只能read,但不能write,可能是因为剩下的member竞选leader失败,拿不到多数票。
  • 在大部分节点恢复后,集群整体状态为”健康“,每个member也为”健康“

使用示例

package main

import (
"fmt"
etcd_client "github.com/coreos/etcd/clientv3"
"time"
) func main() { cli, err := etcd_client.New(clientv3.Config{
Endpoints: []string{"10.10.83.162:2379", "10.10.83.163:2379", "10.10.83.229:2379"},
DialTimeout: 5 * time.Second,
})
if err != nil {
fmt.Println("connect failed, err:", err)
return
} fmt.Println("connect succ")
defer cli.Close()
}

  

go etcd的更多相关文章

  1. 一次基于etcd的分布式锁自动延时失败问题的排查

    今天在测试基于etcd的分布式锁过程中,在测试获取锁后,释放之前超出TTL时长的情况下自动延长TTL这部分功能,在延长指定key的TTL时总是返回404错误信息,在对目标KEY更新TTL时目标KEY已 ...

  2. etcd:用于服务发现的键值存储系统

    etcd是一个高可用的键值存储系统,主要用于共享配置和服务发现.etcd是由CoreOS开发并维护的,灵感来自于 ZooKeeper 和 Doozer,它使用Go语言编写,并通过Raft一致性算法处理 ...

  3. Centos7下Etcd集群搭建

    一.简介 "A highly-available key value store for shared configuration and service discovery." ...

  4. 通过docker-machine和etcd部署docker swarm集群

    本片文章介绍一下 使用docker-machine 搭建docker swarm 集群:docker swarm是docker 官方搭建的容器集群编排工具:容器编排,就是可以使你像使用一太机器一样来使 ...

  5. etcd第三集

    简单说下golang的etcd接口例子.etcd api有v2(http+json)和v3(grpc)两个版本,目前大家都用v2,所以... v2: https://github.com/coreos ...

  6. etcd第二集

    参考文章:https://github.com/coreos/etcd/blob/master/Documentation/v2/api.mdhttp://www.cnblogs.com/zhengr ...

  7. etcd第一集

    网站:https://github.com/coreos/etcd 一些观点:https://yq.aliyun.com/articles/11035 1.etcd是键值存储仓库,配置共享和服务发现2 ...

  8. etcd命令说明 etcd Version: 3.0.15

    etcd Version: 3.0.15Git SHA: fc00305Go Version: go1.6.3Go OS/Arch: linux/amd64 https://github.com/co ...

  9. etcd api 接口

    etcd api接口 基本操作api: https://github.com/coreos/etcd/blob/6acb3d67fbe131b3b2d5d010e00ec80182be4628/Doc ...

  10. Key/Value存储系统etcd的特性

    etcd 是一个高可用的Key/Value存储系统,和其他KV存储系统不同的是,它的灵感来自于 ZooKeeper 和 Doozer,主要用于分享配置和服务发现.利用 etcd 的特性,应用程序可以在 ...

随机推荐

  1. 老猪带你玩转android自定义控件一——打造最简单viewpagerindicator

    viewpagerindicator,既使用viewpager翻页时候,标题的指示条随着改变的控件,是常用android控件之一,几乎所有的新闻类APP中都有使用.如下图所示: 今天,我们将从0到1实 ...

  2. 小心一些,断言可能让你的造成循环引用NSAssert

    block和self的相互引用造成的循环引用,想必大家都是明白的.上下面的代码(截取部分) __weak typeof(self) weakSelf = self; self.jsBridgeFunc ...

  3. The document has been modified outside of Code Composer. Would you like to reload the file

    2013-06-20 10:03:32 烧写过程是合众达给出的文档 problem: I'm new to using Code Composer Studio 3.3 and am having a ...

  4. iOS:处理XML文件

    NSXMLParser是标准库类 Book.xml <?xml version="1.0" encoding="UTF-8"?> <!--Do ...

  5. QT编程环境搭建

    使用QT需要QT的库以及QT creator,在QT5以后的版本中,两者已经集成,不需要单独下载了,只需要下载一个文件即可.配置步骤如下: 1.下载qt-opensource-windows-x86- ...

  6. Docker&colon; 限制容器可用的 CPU

    默认情况下容器可以使用的主机 CPU 资源是不受限制的.和内存资源的使用一样,如果不对容器可以使用的 CPU 资源进行限制,一旦发生容器内程序异常使用 CPU 的情况,很可能把整个主机的 CPU 资源 ...

  7. Vue 学习笔记 — filter

    简书 对将要插入html的对象进行处理 一个简单的Vue示例 基本过滤器用法 带参数的过滤器 全局过滤器 (这张图片有点问题,最后显示的应该是 hello world不是null) 过滤器的简单应用 ...

  8. 【Crash】C&plus;&plus;程序崩溃排查方法

    windows下C++程序release版本崩溃错误排查方法. 一个你精心设计的24小时不间断运行,多线程的程序,突然运行了几个月后崩了,此问题是非常难以排查的,也是很头疼的问题. 现利用Google ...

  9. 在Python中进行自动化单元测试的教程

    From: https://www.jb51.net/article/64119.htm 一.软件测试 大型软件系统的开发是一个很复杂的过程,其中因为人的因素而所产生的错误非常多,因此软件在开发过程必 ...

  10. 可视化学习Tensorboard

    可视化学习Tensorboard TensorBoard 涉及到的运算,通常是在训练庞大的深度神经网络中出现的复杂而又难以理解的运算.为了更方便 TensorFlow 程序的理解.调试与优化,发布了一 ...