golang grpc 负载均衡的方法

时间:2022-10-24 16:27:35

微服务架构里面,每个服务都会有很多节点,如果流量分配不均匀,会造成资源的浪费,甚至将一些机器压垮,这个时候就需要负载均衡,最简单的一种策略就是轮询,顺序依次选择不同的节点访问。

grpc 在客户端提供了负载均衡的实现,并提供了服务地址解析和更新的接口(默认提供了 DNS 域名解析的支持),方便不同服务的集成

使用示例

?
1
2
3
4
5
6
7
8
conn, err := grpc.Dial(
  "",
  grpc.WithInsecure(),
  // 负载均衡,使用 consul 作服务发现
  grpc.WithBalancer(grpc.RoundRobin(grpclb.NewConsulResolver(
    "127.0.0.1:8500", "grpc.health.v1.add",
  ))),
)

创建连接的时候可以使用 WithBalancer 选项来指定负载均衡策略,这里使用 RoundRobin 算法,其实就是轮询策略

与 consul 的集成

有了负载均衡策略,还需要一个地址解析和更新策略,可以使用 DNS 服务来实现,但如果我们使用 consul 来做服务的注册和发现,可以通过实现 ‘naming.Resolver' 和 ‘naming.Watcher' 接口来支持

  • naming.Resolver: 实现地址解析
  • naming.Watcher: 实现节点的变更,添加或者删除
?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
func NewConsulResolver(address string, service string) naming.Resolver {
  return &consulResolver{
    address: address,
    service: service,
  }
}
type consulResolver struct {
  address string
  service string
}
func (r *consulResolver) Resolve(target string) (naming.Watcher, error) {
  config := api.DefaultConfig()
  config.Address = r.address
  client, err := api.NewClient(config)
  if err != nil {
    return nil, err
  }
  return &consulWatcher{
    client: client,
    service: r.service,
    addrs:  map[string]struct{}{},
  }, nil
}
type consulWatcher struct {
  client  *api.Client
  service  string
  addrs   map[string]struct{}
  lastIndex uint64
}
func (w *consulWatcher) Next() ([]*naming.Update, error) {
  for {
    services, metainfo, err := w.client.Health().Service(w.service, "", true, &api.QueryOptions{
      WaitIndex: w.lastIndex, // 同步点,这个调用将一直阻塞,直到有新的更新
    })
    if err != nil {
      logrus.Warn("error retrieving instances from Consul: %v", err)
    }
    w.lastIndex = metainfo.LastIndex
    addrs := map[string]struct{}{}
    for _, service := range services {
      addrs[net.JoinHostPort(service.Service.Address, strconv.Itoa(service.Service.Port))] = struct{}{}
    }
    var updates []*naming.Update
    for addr := range w.addrs {
      if _, ok := addrs[addr]; !ok {
        updates = append(updates, &naming.Update{Op: naming.Delete, Addr: addr})
      }
    }
    for addr := range addrs {
      if _, ok := w.addrs[addr]; !ok {
        updates = append(updates, &naming.Update{Op: naming.Add, Addr: addr})
      }
    }
    if len(updates) != 0 {
      w.addrs = addrs
      return updates, nil
    }
  }
}
func (w *consulWatcher) Close() {
  // nothing to do
}

参考链接

gRPC Name Resolution: https://github.com/grpc/grpc/blob/master/doc/naming.md

Load Balancing in gRPC: https://github.com/grpc/grpc/blob/master/doc/load-balancing.md

dns_resolver: https://github.com/grpc/grpc-go/blob/30fb59a4304034ce78ff68e21bd25776b1d79488/naming/dns_resolver.go

代码地址: https://github.com/hatlonely/hellogolang/blob/master/sample/addservice/cmd/client/main.go

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持服务器之家。

原文链接:https://studygolang.com/articles/13546