MySQL高可用架构之MHA架构全解

时间：2022-09-11 14:32:41

mha（master ha）是一款开源的 mysql 的高可用程序，它为 mysql 主从复制架构提供了 automating master failover 功能。mha 在监控到 master 节点故障时，会提升其中拥有最新数据的 slave 节点成为新的master 节点，在此期间，mha 会通过于其它从节点获取额外信息来避免一致性方面的问题。mha 还提供了 master 节点的在线切换功能，即按需切换 master/slave 节点。
mha 是由日本人 yoshinorim（原就职于dena现就职于facebook）开发的比较成熟的 mysql 高可用方案。mha 能够在30秒内实现故障切换，并能在故障切换中，最大可能的保证数据一致性。目前淘宝也正在开发相似产品 tmha， 目前已支持一主一从。

MySQL高可用架构之MHA架构全解

一、介绍

mha（master high availability）目前在mysql高可用方面是一个相对成熟的解决方案，它由日本dena公司youshimaton（现就职于facebook公司）开发，是一套优秀的作为mysql高可用性环境下故障切换和主从提升的高可用软件。在mysql故障切换过程中，mha能做到在0~30秒之内自动完成数据库的故障切换操作，并且在进行故障切换的过程中，mha能在最大程度上保证数据的一致性，以达到真正意义上的高可用。

二、组成

两部分组成：mha manager（管理节点）和mha node（数据节点）。
当master出现故障时，它可以自动将最新数据的slave提升为新的master，然后将所有其他的slave重新指向新的master。整个故障转移过程对应用程序完全透明。

三、工作过程

在mha自动故障切换过程中，mha试图从宕机的主服务器上保存二进制日志，最大程度的保证数据的不丢失，但这并不总是可行的。例如，如果主服务器硬件故障或无法通过ssh访问，mha没法保存二进制日志，只进行故障转移而丢失了最新的数据。使用mysql 5.5的半同步复制，可以大大降低数据丢失的风险。mha可以与半同步复制结合起来。如果只有一个slave已经收到了最新的二进制日志，mha可以将最新的二进制日志应用于其他所有的slave服务器上，因此可以保证所有节点的数据一致性。

四、架构

搭建mha,要求一个复制集群中必须最少有三台数据库服务器，一主二从，即一台充当master，一台充当备用master，另外一台充当从库。

MySQL高可用架构之MHA架构全解

（1）从宕机崩溃的master保存二进制日志事件（binlog events）;
（2）识别含有最新更新的slave；
（3）应用差异的中继日志（relay log）到其他的slave；
（4）应用从master保存的二进制日志事件（binlog events）；
（5）提升一个slave为新的master；
（6）使其他的slave连接新的master进行复制；

manager工具包主要功能

?
1
2
3
4
5
6
7
masterha_check_ssh              检查mha的ssh配置状况
masterha_check_repl             检查mysql复制状况
masterha_manger                 启动mha
masterha_check_status           检测当前mha运行状态
masterha_master_monitor         检测master是否宕机
masterha_master_switch          控制故障转移（自动或者手动）
masterha_conf_host              添加或删除配置的server信息

node工具包功能

?
1
2
3
4
save_binary_logs                保存和复制master的二进制日志
apply_diff_relay_logs           识别差异的中继日志事件并将其差异的事件应用于其他的slave
filter_mysqlbinlog              去除不必要的rollback事件（mha已不再使用这个工具）
purge_relay_logs                清除中继日志（不会阻塞sql线程）

五、实例展示

部署mha准备工作：

?
1
2
3
4
5
角色                    ip地址          主机名          server_id                  类型
monitor host            192.168.0.20    server01            -                      监控复制组
master                  192.168.0.50    server02            1                      写入
candicate master        192.168.0.60    server03            2                      读
slave                   192.168.0.70    server04            3                      读

master对外提供写服务，备选master（实际的slave，主机名server03）提供读服务，slave也提供相关的读服务，一旦master宕机，将会把备选master提升为新的master，slave指向新的master

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
## 1.关闭防火墙
systemctl stop firewalld
systemctl disable firewalld
setenforce 0
 
## 2.设置主机名
hostnamectl set-hostname mysql1
hostnamectl set-hostname mysql2
hostnamectl set-hostname mysql3
 
## 3.节点设置：master、slave1、slave2配置文件/etc/my.cnf
 
## a、master 节点##
vim /etc/my.cnf
[mysqld]
server-id = 1
log_bin = master-bin
log-slave-updates = true
systemctl restart mysqld
 
##slave1、slave2 节点##
vim /etc/my.cnf
server-id = 2                       #三台服务器的 server-id 不能一样
log_bin = master-bin
relay-log = relay-log-bin
relay-log-index = slave-relay-bin.index
systemctl restart mysqld
 
## 4.创建软链接
ln -s /usr/local/mysql/bin/mysql /usr/sbin/
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/
 
## 5.一主两从：所有节点进行mysql授权
mysql -uroot -p
grant replication slave on *.* to 'myslave'@'192.168.80.%' identified by '123';     #从数据库同步使用
grant all privileges on *.* to 'mha'@'192.168.80.%' identified by 'manager';        #manager 使用
 
grant all privileges on *.* to 'mha'@'mysql1' identified by 'manager';              #防止从库通过主机名连接不上主库
grant all privileges on *.* to 'mha'@'mysql2' identified by 'manager';
grant all privileges on *.* to 'mha'@'mysql3' identified by 'manager';
?
1
2
3
4
5
6
7
## 主master上可看到二进制文件，同步点
show master status;
+-------------------+----------+--------------+------------------+-------------------+
| file              | position | binlog_do_db | binlog_ignore_db | executed_gtid_set |
+-------------------+----------+--------------+------------------+-------------------+
| master-bin.000002 |     1745 |              |                  |                   |
+-------------------+----------+--------------+------------------+-------------------+
?
1
2
3
4
5
## slave1、slave2节点数据同步结果
show slave status\g    
//确保 io 和 sql 线程都是 yes，代表同步正常。
slave_io_running: yes
slave_sql_running: yes
?
1
2
# slave1、slave2设置为只读模式
set global read_only=1;
?
1
2
3
4
5
6
# 创建数据库测试
##在 master 主库插入条数据，测试是否同步##
create database test_db;
use test_db;
create table test(id int);
insert into test(id) values (1);
?
1
2
3
4
5
6
7
# 从数据库查看
select * from test_db.test;
+------+
| id   |
+------+
|    1 |
+------+

安装 mha 软件

（1）所有服务器上都安装 mha 依赖的环境，首先安装 epel 源

?
1
2
3
4
5
6
7
8
9
yum install epel-release --nogpgcheck -y
 
yum install -y perl-dbd-mysql \
perl-config-tiny \
perl-log-dispatch \
perl-parallel-forkmanager \
perl-extutils-cbuilder \
perl-extutils-makemaker \
perl-cpan

（2）安装 mha 软件包，先在所有服务器上必须先安装 node 组件

对于每个操作系统版本不一样，这里 centos7.4 必须选择 0.57 版本。
在所有服务器上必须先安装 node 组件，最后在 mha-manager 节点上安装 manager 组件，因为 manager 依赖 node 组件。

?
1
2
3
4
5
cd /opt
tar zxvf mha4mysql-node-0.57.tar.gz
cd mha4mysql-node-0.57
perl makefile.pl
make && make install

（3）在 mha manager 节点上安装 manager 组件

?
1
2
3
4
5
cd /opt
tar zxvf mha4mysql-manager-0.57.tar.gz
cd mha4mysql-manager-0.57
perl makefile.pl
make && make install

7．在所有服务器上配置无密码认证
（1）在 manager 节点上配置到所有数据库节点的无密码认证

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
-----------------------------------------------------------------------------------------
#manager 组件安装后在/usr/local/bin 下面会生成几个工具，主要包括以下几个：
masterha_check_ssh              检查 mha 的 ssh 配置状况
masterha_check_repl             检查 mysql 复制状况
masterha_manger                 启动 manager的脚本
masterha_check_status           检测当前 mha 运行状态
masterha_master_monitor         检测 master 是否宕机
masterha_master_switch          控制故障转移（自动或者手动）
masterha_conf_host              添加或删除配置的 server 信息
masterha_stop                   关闭manager
 
#node 组件安装后也会在/usr/local/bin 下面会生成几个脚本（这些工具通常由 mhamanager 的脚本触发，无需人为操作）主要如下：
save_binary_logs                保存和复制 master 的二进制日志
apply_diff_relay_logs           识别差异的中继日志事件并将其差异的事件应用于其他的 slave
filter_mysqlbinlog              去除不必要的 rollback 事件（mha 已不再使用这个工具）
purge_relay_logs                清除中继日志（不会阻塞 sql 线程）

（2）在 mysql1 上配置到数据库节点 mysql2 和 mysql3 的无密码认证

?
1
2
3
4
ssh-keygen -t rsa               #一路按回车键
ssh-copy-id 192.168.80.10
ssh-copy-id 192.168.80.20
ssh-copy-id 192.168.80.30

（3）在 mysql2 上配置到数据库节点 mysql1 和 mysql3 的无密码认证

?
1
2
3
ssh-keygen -t rsa
ssh-copy-id 192.168.80.20
ssh-copy-id 192.168.80.30

（4）在 mysql3 上配置到数据库节点 mysql1 和 mysql2 的无密码认证

?
1
2
3
ssh-keygen -t rsa
ssh-copy-id 192.168.80.10
ssh-copy-id 192.168.80.30

8．在 manager 节点上配置 mha
（1）在 manager 节点上复制相关脚本到/usr/local/bin 目录

?
1
2
3
4
5
6
7
8
cp -rp /opt/mha4mysql-manager-0.57/samples/scripts /usr/local/bin
//拷贝后会有四个执行文件
ll /usr/local/bin/scripts/
----------------------------------------------------------------------------------------------------------
master_ip_failover          #自动切换时 vip 管理的脚本
master_ip_online_change     #在线切换时 vip 的管理
power_manager               #故障发生后关闭主机的脚本
send_report                 #因故障切换后发送报警的脚本

（2）复制上述的自动切换时 vip 管理的脚本到 /usr/local/bin 目录，这里使用master_ip_failover脚本来管理 vip 和故障切换

?
1
cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin

（3）修改内容如下：（删除原有内容，直接复制并修改vip相关参数）

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
vim /usr/local/bin/master_ip_failover
#!/usr/bin/env perl
use strict;
use warnings fatal => 'all';
 
use getopt::long;
 
my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);
#############################添加内容部分#########################################
my $vip = '192.168.80.200';                                 #指定vip的地址
my $brdc = '192.168.80.255';                                #指定vip的广播地址
my $ifdev = 'ens33';                                        #指定vip绑定的网卡
my $key = '1';                                              #指定vip绑定的虚拟网卡序列号
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";       #代表此变量值为ifconfig ens33:1 192.168.80.200
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";        #代表此变量值为ifconfig ens33:1 192.168.80.200 down
my $exit_code = 0;                                          #指定退出状态码为0
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -a -c 1 -i $ifdev $vip;iptables -f;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
##################################################################################
getoptions(
'command=s' => \$command,
'ssh_user=s' => \$ssh_user,
'orig_master_host=s' => \$orig_master_host,
'orig_master_ip=s' => \$orig_master_ip,
'orig_master_port=i' => \$orig_master_port,
'new_master_host=s' => \$new_master_host,
'new_master_ip=s' => \$new_master_ip,
'new_master_port=i' => \$new_master_port,
);
 
exit &main();
 
sub main {
 
print "\n\nin script test====$ssh_stop_vip==$ssh_start_vip===\n\n";
 
if ( $command eq "stop" || $command eq "stopssh" ) {
 
my $exit_code = 1;
eval {
print "disabling the vip on old master: $orig_master_host \n";
&stop_vip();
$exit_code = 0;
};
if ($@) {
warn "got error: $@\n";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {
 
my $exit_code = 10;
eval {
print "enabling the vip - $vip on the new master - $new_master_host \n";
&start_vip();
$exit_code = 0;
};
if ($@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
print "checking the status of the script.. ok \n";
exit 0;
}
else {
&usage();
exit 1;
}
}
sub start_vip() {
`ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
}
## a simple system call that disable the vip on the old_master
sub stop_vip() {
`ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
}
 
sub usage {
print
"usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
}

（4）创建 mha 软件目录并拷贝配置文件，这里使用app1.cnf配置文件来管理 mysql 节点服务器

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
mkdir /etc/masterha
cp /opt/mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterha
 
vim /etc/masterha/app1.cnf                      #删除原有内容，直接复制并修改节点服务器的ip地址
[server default]
manager_log=/var/log/masterha/app1/manager.log
manager_workdir=/var/log/masterha/app1
master_binlog_dir=/usr/local/mysql/data
master_ip_failover_script=/usr/local/bin/master_ip_failover
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
password=manager
ping_interval=1
remote_workdir=/tmp
repl_password=123
repl_user=myslave
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.80.20 -s 192.168.80.30
shutdown_script=""
ssh_user=root
user=mha
 
[server1]
hostname=192.168.80.10
port=3306
 
[server2]
candidate_master=1
check_repl_delay=0
hostname=192.168.80.20
port=3306
 
[server3]
hostname=192.168.80.30
port=3306

说明：

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
[server default]
manager_log=/var/log/masterha/app1/manager.log　　　　　 　#manager日志
manager_workdir=/var/log/masterha/app1.log　　　　　　　 　#manager工作目录
master_binlog_dir=/usr/local/mysql/data/　　　　　　　 　　#master保存binlog的位置，这里的路径要与master里配置的binlog的路径一致，以便mha能找到
master_ip_failover_script=/usr/local/bin/master_ip_failover　　#设置自动failover时候的切换脚本，也就是上面的那个脚本
master_ip_online_change_script=/usr/local/bin/master_ip_online_change　　#设置手动切换时候的切换脚本
password=manager            #设置mysql中root用户的密码，这个密码是前文中创建监控用户的那个密码
ping_interval=1             #设置监控主库，发送ping包的时间间隔，默认是3秒，尝试三次没有回应的时候自动进行failover
remote_workdir=/tmp         #设置远端mysql在发生切换时binlog的保存位置
repl_password=123           #设置复制用户的密码
repl_user=myslave           #设置复制用户的用户
report_script=/usr/local/send_report　　　　　#设置发生切换后发送的报警的脚本
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.80.20 -s 192.168.80.30    #指定检查的从服务器ip地址
shutdown_script=""          #设置故障发生后关闭故障主机脚本（该脚本的主要作用是关闭主机防止发生脑裂,这里没有使用）
ssh_user=root               #设置ssh的登录用户名
user=mha                    #设置监控用户root
 
[server1]
hostname=192.168.80.10
port=3306
 
[server2]
hostname=192.168.80.20
port=3306
candidate_master=1
#设置为候选master，设置该参数以后，发生主从切换以后将会将此从库提升为主库，即使这个从库不是集群中最新的slave
 
check_repl_delay=0
#默认情况下如果一个slave落后master 超过100m的relay logs的话，mha将不会选择该slave作为一个新的master，
因为对于这个slave的恢复需要花费很长时间；通过设置check_repl_delay=0，mha触发切换在选择一个新的master的
时候将会忽略复制延时，这个参数对于设置了candidate_master=1的主机非常有用，因为这个候选主在切换的过程中一定是新的master
 
[server3]
hostname=192.168.80.30
port=3306

开启master的虚拟ip

?
1
/sbin/ifconfig ens33:1 192.168.80.200/24

10.在 manager 节点上测试 ssh 无密码认证

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
masterha_check_ssh -conf=/etc/masterha/app1.cnf
 
tue nov 26 23:09:45 2020 - [warning] global configuration file /etc/masterha_default.cnf not found. skipping.
tue nov 26 23:09:45 2020 - [info] reading application default configuration from /etc/masterha/app1.cnf..
tue nov 26 23:09:45 2020 - [info] reading server configuration from /etc/masterha/app1.cnf..
tue nov 26 23:09:45 2020 - [info] starting ssh connection tests..
tue nov 26 23:09:46 2020 - [debug]
tue nov 26 23:09:45 2020 - [debug]  connecting via ssh from root@192.168.80.20(192.168.80.20:22) to root@192.168.80.30(192.168.80.30:22)..
tue nov 26 23:09:46 2020 - [debug]   ok.
tue nov 26 23:09:47 2020 - [debug]
tue nov 26 23:09:46 2020 - [debug]  connecting via ssh from root@192.168.80.30(192.168.80.30:22) to root@192.168.80.20(192.168.80.20:22)..
tue nov 26 23:09:47 2020 - [debug]   ok.
tue nov 26 23:09:47 2020 - [info] all ssh connection tests passed successfully.
# 无密码认证成功

11.在 manager 节点上测试 mysql 主从连接情况

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
masterha_check_repl -conf=/etc/masterha/app1.cnf
 
tue nov 26 23:10:29 2020 - [info] slaves settings check done.
tue nov 26 23:10:29 2020 - [info]
192.168.80.20(192.168.80.20:3306) (current master)
 +--192.168.80.30(192.168.80.30:3306)
 
tue nov 26 23:10:29 2020 - [info] checking replication health on 192.168.80.30..
tue nov 26 23:10:29 2020 - [info]  ok.
tue nov 26 23:10:29 2020 - [info] checking master_ip_failover_script status:
tue nov 26 23:10:29 2020 - [info]   /usr/local/bin/master_ip_failover --command=status --ssh_user=root --orig_master_host=192.168.80.20 --orig_master_ip=192.168.80.20 --orig_master_port=3306
 
 
in script test====/sbin/ifconfig ens33:1 down==/sbin/ifconfig ens33:1 192.168.80.200===
 
checking the status of the script.. ok
tue nov 26 23:10:29 2020 - [info]  ok.
tue nov 26 23:10:29 2020 - [warning] shutdown_script is not defined.
tue nov 26 23:10:29 2020 - [info] got exit code 0 (not master dead).
 
mysql replication health is ok.
# 主从连接成功
?
1
2
# manager 节点上启动 mha
nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &
?
1
2
3
4
5
6
7
--remove_dead_master_conf：该参数代表当发生主从切换后，老的主库的 ip 将会从配置文件中移除。
--manger_log：日志存放位置。
--ignore_last_failover：在缺省情况下，如果 mha 检测到连续发生宕机，且两次宕机间隔不足 8 小时的话，
  则不会进行 failover， 之所以这样限制是为了避免 ping-pong 效应。该参数代表忽略上次 mha 触发切换产生的文件，
  默认情况下，mha 发生切换后会在日志记目录，也就是上面设置的日志app1.failover.complete文件，
  下次再次切换的时候如果发现该目录下存在该文件将不允许触发切换，除非在第一次切换后收到删除该文件，
  为了方便，这里设置为--ignore_last_failover。
?
1
2
3
4
5
6
7
8
9
10
11
# b查看 mha 状态，可以看到当前的 master 是 mysql1 节点。
masterha_check_status --conf=/etc/masterha/app1.cnf
 
# a日志方式查看
cat /var/log/masterha/app1/manager.log | grep "current master"
 
# c 查看 mysql1 的 vip 地址 192.168.80.200 是否存在，这个 vip 地址不会因为 manager 节点停止 mha 服务而消失。
ifconfig
//若要关闭 manager 服务，可以使用如下命令。
masterha_stop --conf=/etc/masterha/app1.cnf
或者可以直接采用 kill 进程 id 的方式关闭。

模拟故障

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
# a在 manager 节点上监控观察日志记录
tail -f /var/log/masterha/app1/manager.log
 
# b在 master 节点 mysql1 上停止mysql服务
systemctl stop mysqld
或
pkill -9 mysql
 
# c正常自动切换一次后，mha 进程会退出。hma 会自动修改 app1.cnf 文件内容，将宕机的 mysql1 节点删除。查看 mysql2 是否接管 vip
ifconfig
故障切换备选主库的算法：
1．一般判断从库的是从（position/gtid）判断优劣，数据有差异，最接近于master的slave，成为备选主。
2．数据一致的情况下，按照配置文件顺序，选择备选主库。
3．设定有权重（candidate_master=1），按照权重强制指定备选主。
（1）默认情况下如果一个slave落后master 100m的relay logs的话，即使有权重，也会失效。
（2）如果check_repl_delay=0的话，即使落后很多日志，也强制选择其为备选主。

故障修复

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
1.重启mysql服务
systemctl restart mysqld
2.修复主从：先查看二进制文件和同步点
show master status;
3.原主库服务器 mysql1 执行同步操作
change master to master_host='192.168.80.20',master_user='myslave',master_password='123',master_log_file='master-bin.000001',master_log_pos=1745;
start slave;
 
4.在 manager 节点上修改配置文件app1.cnf
vi /etc/masterha/app1.cnf
......
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.80.10 -s 192.168.80.30
......
[server1]
hostname=192.168.80.20
port=3306
 
[server2]
candidate_master=1
check_repl_delay=0
hostname=192.168.80.10
port=3306
 
[server3]
hostname=192.168.80.30
port=3306
?
1
2
3
4
5
6
7
8
5.从库必须设置为只读模式：当前从库为mysql
set global read_only=1;
 
6.在 manager 节点上启动 mha，并查看vip是否漂移到mysql2
nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &
 
##查看 mha 状态，可以看到当前的 master 是 mysql2 节点
masterha_check_status --conf=/etc/masterha/app1.cnf

到此这篇关于mysql高可用架构之mha的文章就介绍到这了,更多相关mysql高可用架构内容请搜索服务器之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持服务器之家！

原文链接：https://blog.csdn.net/qq_41425613/article/details/118479735

标签：

相关文章