MY SQL 知识

时间:2021-04-28 05:27:32

LINUX配置优化

  • 诊断命令
  • 硬件优化
    • raid 10
    • ssd
    • Fusion-io
    • 大内存
    • 电池后备SCSI磁盘缓存
  • 系统优化
    • 日志,数据分盘
    • IO调度算法 deadline适用于磁盘 noop适用于ssd
    • XFS文件系统
    • 避免使用swap 分区
    • fd限制 ulimit

MySQL参数配置

  • 基础配置
    • 字符集
    • 数据目录,日志目录,临时目录
    • sql_mode
  • 缓存设置
    • 线程缓存
    • 表缓存
    • 排序缓存
    • join缓存
    • 查询缓存
    • binlog缓存
    • ......
  • 阈值设置
    • max connection
    • timeout
    • slow query time
    • ......
  • innodb 设置
    • instances
    • size
    • io_capacity
    • innodb_flush_method=O_DIRECT 数据直接写盘,避过OS cache 日志还是OS flush
    • 双一设置
    • ......

MySQL开发规范

  • DDL
    • 类型使用要精确
    • not null
    • 避免text/blob
    • 避免外键
    • 自增主键
    • 避免冗余索引
    • 索引数量控制
    • 索引字段过滤度
  • DML
    • 避免使用触发器,存储过程
    • 存储使用Mysql,不要有运算逻辑
    • 更新操作禁用limit
    • select * 禁用
    • in 优先 or
    • 同表alter操作合并

BIG SQL

  • 索引优化
    • WHERE 条件索引使用率,符合最左原则
    • 联合索引,注意索引过滤度
    • 表join操作,注意加索引,且join字段类型必须一致
  • SQL优化
    • 子查询变成连接操作,优先使用独立子查询
    • 利用覆盖索引,分页操作
    • 拆分SQL,加缓存表或者汇总表
    • 外在条件下推,减少中间结果集
    • 重写SQL,利用过滤性更好的索引

主从延迟

  • 避免
    • 避免3B
    • 较少从库压力,包括服务器和数据库本身的
    • 从库上有触发操作,控制更新量
  • 改善
    • 升级从库机器硬件ssd
    • 升级数据库版本,5.6的库并发 5.7的binlog线程并发
    • 第三方工具,丁奇的transfer插件
    • inset...select rbr模式,可以先select 缓存结果,后insert

排查方法

  • 服务器
    • top
      • 查看负载
      • 查看CPU耗时
    • iostat
    • free
    • ps aux | grep pid
      • 查看具体进程信息
  • MySQL
    • SHOW FULL PROCESSLIST / dbaslowing
      • 数据库目前运行SQL,连接数
      • 慢查询实时采集,格式话输出
    • SHOW ENGINE INNODB STATUS
      • 运行事务信息
      • 死锁信息 / pt-deadlock-logger 周期采集死锁信息
      • buffer pool 信息查看
    • dbaprocess.sh
      • 查看连接数排序,显示连接服务

紧急恢复

  • 切换
    • 主从切换
      • 双主模式,设置自增间隔,不停服
      • read_only 切换,保留静态老主
  • 连接数打满
    • pt-kill
    • mysqladmin kill

日常指标

  • zabbix
    • 历史状态查询
    • 报警监控
    • 组合定制脚本监控
  • 运维脚本
    • 慢查询脚本每日邮件
    • 数据库周健康度邮件
    • 核心表每日备份
    • 扩容从库脚本
    • 搭建级联脚本
    • 测试库同步脚本
    • 试运行环境对比脚本
  • 备份
    • hotbak,dump
    • nfs挂载磁盘
    • hdfs数据冗余

自动化运维

  • 自动审核inception
  • 自动授权系统

MySQL HA

  • 中间件

    • dbproxy
      • 读写分离
      • 从库HA,负载均衡
    • mycat
      • 读写分离
      • 从库负载均衡
      • 分库分表&全局表
      • HA
      • 不支持分布式事务
      • 业务SQL限制,需要有路由key
      • 性能有所损耗
  • MHA

  • PXC

常用PT

  • pt-config 数据库替换时,验证参数一致性
  • pt-deadlock-logger 记录历史死锁信息
  • pt-duplicate-key-checker 冗余索引检测
  • pt-ioprofile IO调试
  • pt-kill 定制kill连接线程
  • pt-online-schema-change OSC
  • pt-query-digest 状态输出慢查询
  • pt-table-checksum 主从一致性验证
  • pt-slave-find 主从拓扑结构
  • pt-fifo-split 大文件导入