mysql 进阶篇

时间：2022-11-27 17:01:53

Mysql体系结构分为 连接层，服务层，引擎层(索引在这一层)，存储层


存储引擎就是存储数据、建立索引、更新/查询数据等技术的实现方式。存储引擎是基于表而不是基于库的，所以存储引擎也可以被称为表类型。

默认存储引擎是InnoDB。

相关操作：

-- 查询建表语句
show create table account;
-- 建表时指定存储引擎
CREATE TABLE 表名(
    ...
) ENGINE=INNODB;
-- 查看当前数据库支持的存储引擎
show engines;

InnoDB

InnoDB 是一种兼顾高可靠性和高性能的通用存储引擎，在 MySQL 5.5 之后，InnoDB 是默认的 MySQL 引擎。

特点：

  • DML 操作遵循 ACID 模型，支持事务
  • 行级锁，提高并发访问性能
  • 支持外键约束，保证数据的完整性和正确性

文件：

  • xxx.ibd: xxx代表表名，InnoDB 引擎的每张表都会对应这样一个表空间文件，存储该表的表结构（frm、sdi）、数据和索引。

参数：innodb_file_per_table，决定多张表共享一个表空间还是每张表对应一个表空间

知识点：

查看 Mysql 变量：
​​show variables like 'innodb_file_per_table';​​

MyISAM

MyISAM 是 MySQL 早期的默认存储引擎。

特点：

  • 不支持事务，不支持外键
  • 支持表锁，不支持行锁
  • 访问速度快

文件：

  • xxx.sdi: 存储表结构信息
  • xxx.MYD: 存储数据
  • xxx.MYI: 存储索引

Memory

Memory 引擎的表数据是存储在内存中的，受硬件问题、断电问题的影响，只能将这些表作为临时表或缓存使用。

特点：

  • 存放在内存中，速度快
  • hash索引（默认）

文件：

  • xxx.sdi: 存储表结构信息

索引

索引是帮助 MySQL 高效获取数据的数据结构（有序）。在数据之外，数据库系统还维护着满足特定查找算法的数据结构，这些数据结构以某种方式引用（指向）数据，这样就可以在这些数据结构上实现高级查询算法，这种数据结构就是索引。

优缺点：

优点：

  • 提高数据检索效率，降低数据库的IO成本
  • 通过索引列对数据进行排序，降低数据排序的成本，降低CPU的消耗

缺点：

  • 索引列也是要占用空间的
  • 索引大大提高了查询效率，但降低了更新的速度，比如 INSERT、UPDATE、DELETE

索引结构

索引结构

描述

B+Tree

最常见的索引类型，大部分引擎都支持B+树索引

Hash

底层数据结构是用哈希表实现，只有精确匹配索引列的查询才有效，不支持范围查询

R-Tree

(空间索引)

空间索引是 MyISAM 引擎的一个特殊索引类型，主要用于地理空间数据类型，通常使用较少

Full-Text

(全文索引)

是一种通过建立倒排索引，快速匹配文档的方式，类似于 Lucene, Solr, ES

索引

InnoDB

MyISAM

Memory

B+Tree索引

支持

支持

支持

Hash索引

不支持

不支持

支持

R-Tree索引

不支持

支持

不支持

Full-text

5.6版本后支持

支持

不支持


索引分类

分类

含义

特点

关键字

主键

索引

针对于表中主键创建的索引

默认自动创建

只能有一个

PRIMARY

唯一

索引

避免同一个表中某数据列中的值重复

可以有多个

UNIQUE

常规

索引

快速定位特定数据

可以有多个

全文

索引

全文索引查找的是文本中的关键词，而不是比较索引中的值

可以有多个

FULLTEXT

在 InnoDB 存储引擎中，根据索引的存储形式，又可以分为以下两种：

分类

含义

特点

聚集索引

(Clustered Index)

将数据存储与索引放一块，索引结构的叶子节点保存了行数据

必须有

且只有一个

二级索引

(Secondary Index)

将数据与索引分开存储，索引结构的叶子节点关联的是对应的主键

可以存在多个

聚集索引选取规则：(无论如何聚集索引都一定存在)

1.如果存在主键，主键就是聚集索引。

2.如果不存在主键，将使用第一个唯一索引作为聚集索引。

3.如果表没有主键或没有合适的唯一索引，则InnoDB会自动生成一个rowid作为隐藏的聚集索引

mysql 进阶篇

说到底就是聚集索引的叶子节点下面挂的是自己那一行的数据

图中二级索引是以name建立的索引在叶子节点下面挂的是主键id

回表查询：

例如上图：我们进行姓名查找

select * from user where name ='Arm';

查找顺序是：先进行二级索引，是A开头的名字我们向左查找，最后找到其Id为10，然后进行聚集索引查找拿到10所在的那一行数据。所以叫回表查询

语法

创建索引：
​​CREATE [ UNIQUE | FULLTEXT ] INDEX index_name ON table_name (index_col_name, ...);​​如果不加 CREATE 后面不加索引类型参数，则创建的是常规索引 mysql：是BTREE；（b+树）

查看索引：​​SHOW INDEX FROM table_name;​​

删除索引：​​DROP INDEX index_name ON table_name;​​

案例：

-- name字段为姓名字段，该字段的值可能会重复，为该字段创建索引
create index idx_user_name on tb_user(name);
-- phone手机号字段的值非空，且唯一，为该字段创建唯一索引
create unique index idx_user_phone on tb_user (phone);
-- 为profession, age, status创建联合索引
create index idx_user_pro_age_stat on tb_user(profession, age, status);
-- 为email建立合适的索引来提升查询效率
create index idx_user_email on tb_user(email);

-- 删除索引
drop index idx_user_email on tb_user;

性能分析

查看执行频次

查看当前数据库的 INSERT, UPDATE, DELETE, SELECT 访问频次：
​​​SHOW GLOBAL STATUS LIKE 'Com_______';​​​ 或者 ​​SHOW SESSION STATUS LIKE 'Com_______';​​

查看数据库哪些命令使用比较多，是查询多还是插入多等等。

慢查询日志

慢查询日志记录了所有执行时间超过指定参数（long_query_time，单位：秒，默认10秒）的所有SQL语句的日志。
MySQL的慢查询日志默认没有开启，需要在MySQL的配置文件（/etc/my.cnf）中配置如下信息：

# 开启慢查询日志开关
slow_query_log=1
# 设置慢查询日志的时间为2秒，SQL语句执行时间超过2秒，就会视为慢查询，记录慢查询日志
long_query_time=2

更改后记得重启MySQL服务，日志文件位置：/var/lib/mysql/localhost-slow.log

查看慢查询日志开关状态：
​​​show variables like 'slow_query_log';​​

就是看哪些命令执行时花费时间超过了我们预期的时间，然后记录在慢查询日志。可以给我们参考优化等情况。

profile

show profile 能在做SQL优化时帮我们了解时间都耗费在哪里。通过 have_profiling 参数，能看到当前 MySQL 是否支持 profile 操作：
​​​SELECT @@have_profiling;​​

profiling 默认关闭，可以通过set语句在session/global级别开启 profiling：
​​​SET profiling = 1;​​

查看所有语句的耗时：​​show profiles;​​

​查看指定query_id的SQL语句各个阶段的耗时：
​​​show profile for query query_id;​​

​查看指定query_id的SQL语句CPU的使用情况
​​​show profile cpu for query query_id;​​

开启后是可以查看所有执行的语句的耗时情况 也是为了优化使用的语句

explain

EXPLAIN 或者 DESC 命令获取 MySQL 如何执行 SELECT 语句的信息，包括在 SELECT 语句执行过程中表如何连接和连接的顺序。
语法：

# 直接在select语句之前加上关键字 explain / desc
EXPLAIN SELECT 字段列表 FROM 表名 HWERE 条件;

mysql 进阶篇

EXPLAIN 各字段含义：

  • id：select 查询的序列号，表示查询中执行 select 子句或者操作表的顺序（id相同，执行顺序从上到下；id不同，值越大越先执行）多表查询的时候会有用 就是比如上图中id还有2，3，就是先执行3然后2最后1
  • select_type：表示 SELECT 的类型，常见取值有 SIMPLE（简单表，即不适用表连接或者子查询）、PRIMARY（主查询，即外层的查询）、UNION（UNION中的第二个或者后面的查询语句）、SUBQUERY（SELECT/WHERE之后包含了子查询）等
  • type：表示连接类型，性能由好到差的连接类型为 NULL、system、const、eq_ref、ref、range、index、all 一般用不到NULL，只有不访问别的表时才会是NULL，system只有访问系统表时才会出现，一般对主键和唯一索引访问是const 尽量使用前面的
  • possible_key：可能应用在这张表上的索引，一个或多个
  • Key：实际使用的索引，如果为 NULL，则没有使用索引
  • Key_len：表示索引中使用的字节数，该值为索引字段最大可能长度，并非实际使用长度，在不损失精确性的前提下，长度越短越好
  • rows：MySQL认为必须要执行的行数，在InnoDB引擎的表中，是一个估计值，可能并不总是准确的
  • filtered：表示返回结果的行数占需读取行数的百分比，filtered的值越大越好

使用规则

最左前缀法则

如果索引关联了多列（联合索引），要遵守最左前缀法则，最左前缀法则指的是查询从索引的最左列开始，并且不跳过索引中的列。
如果跳跃某一列，索引将部分失效（后面的字段索引失效）。即先看表中是否含有联合索引，存在的话我们对于联合索引，遵循上述规则 与查询时位置没关系，只要存在就可

联合索引中，出现范围查询（<, >），范围查询右侧的列索引失效。可以用>=或者<=来规避索引失效问题。

索引失效情况

  1. 在索引列上进行运算操作，索引将失效。如：​​explain select * from tb_user where substring(phone, 10, 2) = '15';​​
  2. 字符串类型字段使用时，不加引号，索引将失效。如：​​explain select * from tb_user where phone = 17799990015;​​，此处phone的值没有加引号
  3. 模糊查询中，如果仅仅是尾部模糊匹配，索引不会是失效；如果是头部模糊匹配，索引失效。如：​​explain select * from tb_user where profession like '%工程';​​，前后都有 % 也会失效。
  4. 用 or 分割开的条件，如果 or 其中一个条件的列没有索引，那么涉及的索引都不会被用到。
  5. 如果 MySQL 评估使用索引比全表更慢，则不使用索引。

SQL 提示

是优化数据库的一个重要手段，简单来说，就是在SQL语句中加入一些人为的提示来达到优化操作的目的。

例如，使用索引：
​​​explain select * from tb_user use index(idx_user_pro) where profession="软件工程";​​

不使用哪个索引：
​​​explain select * from tb_user ignore index(idx_user_pro) where profession="软件工程";​​

必须使用哪个索引：
​​​explain select * from tb_user force index(idx_user_pro) where profession="软件工程";​​

use 是建议，实际使用哪个索引 MySQL 还会自己权衡运行速度去更改，force就是无论如何都强制使用该索引。

即当软件工程同时拥有联合索引和单列索引时，mysql系统会自己判断走哪个索引，此时可以使用SQL提示来优化操作

覆盖索引&回表查询

尽量使用覆盖索引（查询使用了索引，并且需要返回的列，在该索引中已经全部能找到），减少 select *。

explain 中最后一个字段 extra 字段含义：
​​using index condition​​：查找使用了索引，但是需要回表查询数据 效率比下面一个低
​​using where; using index;​​：查找使用了索引，但是需要的数据都在索引列中能找到，所以不需要回表查询

即如果我们select的内容 都存在索引中，就不需要回表查询。

所以尽量不要用​​select *​​，容易出现回表查询，降低效率，除非有联合索引包含了所有字段


前缀索引

当字段类型为字符串（varchar, text等）时，有时候需要索引很长的字符串，这会让索引变得很大，查询时，浪费大量的磁盘IO，影响查询效率，此时可以只将字符串的一部分前缀，建立索引，这样可以大大节约索引空间，从而提高索引效率。

语法：​​create index idx_xxxx on table_name(columnn(n));​​前缀长度：可以根据索引的选择性来决定，而选择性是指不重复的索引值（基数）和数据表的记录总数的比值，索引选择性越高则查询效率越高，唯一索引的选择性是1，这是最好的索引选择性，性能也是最好的。
求选择性公式：

select count(distinct email) / count(*) from tb_user;
select count(distinct substring(email, 1, 5)) / count(*) from tb_user;

show index 里面的sub_part可以看到接取的长度

mysql 进阶篇

即会进行辅助索引找到第一个前五个字符一样的Id然后进入聚集索引，从聚集索引中拿出数据和搜索的进行比较确认是不是，之后还会再进入辅助索引的下一个位置看看前五个是否一样。 这样操作会有回表查询和多次查询，会有额外开销，但是相比于很长的字符串创建索引，效率还是提升的。

单列索引&联合索引

单列索引：即一个索引只包含单个列
联合索引：即一个索引包含了多个列
在业务场景中，如果存在多个查询条件，考虑针对于查询字段建立索引时，建议建立联合索引，而非单列索引。

注意事项
  • 多条件联合查询时，MySQL优化器会评估哪个字段的索引效率更高，会选择该索引完成本次查询

设计原则

  1. 针对于数据量较大，且查询比较频繁的表建立索引
  2. 针对于常作为查询条件（where）、排序（order by）、分组（group by）操作的字段建立索引
  3. 尽量选择区分度高的列作为索引，尽量建立唯一索引，区分度越高，使用索引的效率越高
  4. 如果是字符串类型的字段，字段长度较长，可以针对于字段的特点，建立前缀索引
  5. 尽量使用联合索引，减少单列索引，查询时，联合索引很多时候可以覆盖索引，节省存储空间，避免回表，提高查询效率
  6. 要控制索引的数量，索引并不是多多益善，索引越多，维护索引结构的代价就越大，会影响增删改的效率
  7. 如果索引列不能存储NULL值，请在创建表时使用NOT NULL约束它。当优化器知道每列是否包含NULL值时，它可以更好地确定哪个索引最有效地用于查询


SQL 优化

插入数据

普通插入：

  1. 采用批量插入（一次插入的数据不建议超过1000条）
  2. 手动提交事务
  3. 主键顺序插入

大批量插入：
如果一次性需要插入大批量数据，使用insert语句插入性能较低，此时可以使用MySQL数据库提供的load指令插入。

# 客户端连接服务端时，加上参数 --local-infile（这一行在bash/cmd界面输入）
mysql --local-infile -u root -p
# 设置全局参数local_infile为1，开启从本地加载文件导入数据的开关
select @@local_infile;//查询是否开启
set global local_infile = 1;
# 执行load指令将准备好的数据，加载到表结构中
load data local infile '/root/sql1.log' into table tb_user fields terminated by ',' lines terminated by '\n';




标签：

相关文章