掌握 MySQL 这 19 个骚操作,效率至少提高3倍

时间:2024-09-03 13:36:44

  本文我们来谈谈项目中常用的MySQL优化方法,共19条,利用好这19条方法,会让你的效率提升至少3倍。
  
  1、EXPLAIN
  
  做MySQL优化,我们要善用EXPLAIN查看SQL执行计划。
  
  下面来个简单的示例,标注(1、2、3、4、5)我们要重点关注的数据:
  
  type列,连接类型。一个好的SQL语句至少要达到range级别。杜绝出现all级别。
  
  key列,使用到的索引名。如果没有选择索引,值是NULL。可以采取强制索引方式。
  
  key_len列,索引长度。
  
  rows列,扫描行数。该值是个预估值。
  
  extra列,详细说明。注意,常见的不太友好的值,如下:Using filesort,Using temporary。
  
  2、SQL语句中IN包含的值不应过多
  
  MySQL对于IN做了相应的优化,即将IN中的常量全部存储在一个数组里面,而且这个数组是排好序的。但是如果数值较多,产生的消耗也是比较大的。再例如:select id from t where num in(1,2,3) 对于连续的数值,能用between就不要用in了;再或者使用连接来替换。
  
  3、SELECT语句务必指明字段名称
  
  SELECT*增加很多不必要的消耗(CPU、IO、内存、网络带宽);增加了使用覆盖索引的可能性;当表结构发生改变时,前断也需要更新。所以要求直接在select后面接上字段名。
  
  4、当只需要一条数据的时候,使用limit 1
  
  这是为了使EXPLAIN中type列达到const类型
  
  5、如果排序字段没有用到索引,就尽量少排序
  
  6、如果限制条件中其他字段没有索引,尽量少用or
  
  or两边的字段中,如果有一个不是索引字段,而其他条件也不是索引字段,会造成该查询不走索引的情况。很多时候使用union all或者是union(必要的时候)的方式来代替“or”会得到更好的效果。
  
  7、尽量用union all代替union
  
  union和union all的差异主要是前者需要将结果集合并后再进行唯一性过滤操作,这就会涉及到排序,增加大量的CPU运算,加大资源消耗及延迟。当然,union all的前提条件是两个结果集没有重复数据。
  
  8、不使用ORDER BY RAND()
  
  select id from `dynamic` order by rand() limit 1000;
  
  上面的SQL语句,可优化为:
  
  select id from `dynamic` t1 join (select rand() * (select max(id) from `dynamic`) as nid) t2 on t1.id > t2.nidlimit 1000;
  
  9、区分in和exists、not in和not exists
  
  select * from 表A where id in (select id from 表B)
  
  上面SQL语句相当于
  
  select * from 表A where exists(select * from 表B where 表B.id=表A.id)
  
  区分in和exists主要是造成了驱动顺序的改变(这是性能变化的关键),如果是exists,那么以外层表为驱动表,先被访问,如果是IN,那么先执行子查询。所以IN适合于外表大而内表小的情况;EXISTS适合于外表小而内表大的情况。
  
  关于not in和not exists,推荐使用not exists,不仅仅是效率问题,not in可能存在逻辑问题。如何高效的写出一个替代not exists的SQL语句?
  
  原SQL语句:
  
  select colname … from A表 where a.id not in (select b.id from B表)
  
  高效的SQL语句:
  
  select colname … from A表 Left join B表 on where a.id = b.id where b.id is null
  
  取出的结果集如下图表示,A表不在B表中的数据:
  
  10、使用合理的分页方式以提高分页的效率
  
  select id,name from product limit 866613, 20
  
  使用上述SQL语句做分页的时候,可能有人会发现,随着表数据量的增加,直接使用limit分页查询会越来越慢。
  
  优化的方法如下:可以取前一页的最大行数的id,然后根据这个最大的id来限制下一页的起点。比如此列中,上一页最大的id是866612。SQL可以采用如下的写法:
  
  select id,name from product where id> 866612 limit 20
  
  11、分段查询
  
  在一些用户选择页面中,可能一些用户选择的时间范围过大,造成查询缓慢。主要的原因是扫描行数过多。这个时候可以通过程序,分段进行查询,循环遍历,将结果合并处理进行展示。
  
  如下图这个SQL语句,扫描的行数成百万级以上的时候就可以使用分段查询:
  
  12、避免在where子句中对字段进行null值判断
  
  对于null的判断会导致引擎放弃使用索引而进行全表扫描。
  
  13、不建议使用%前缀模糊查询
  
  例如LIKE“%name”或者LIKE“%name%”,这种查询会导致索引失效而进行全表扫描。但是可以使用LIKE “name%”。
  
  那如何查询%name%?
  
  如下图所示,虽然给secret字段添加了索引,但在explain结果并没有使用:
  
  那么如何解决这个问题呢,答案:使用全文索引。
  
  在我们查询中经常会用到select id,fnum,fdst from dynamic_201606 where user_name like '%zhangsan%'; 。这样的语句,普通索引是无法满足查询需求的。庆幸的是在MySQL中,有全文索引来帮助我们。
  
  创建全文索引的SQL语法是:
  
  ALTER TABLE `dynamic_201606` ADD FULLTEXT INDEX `idx_user_name` (`user_name`);
  
  使用全文索引的SQL语句是:
  
  select id,fnum,fdst from dynamic_201606 where match(user_name) against('zhangsan' in boolean mode);
  
  注意:在需要创建全文索引之前,请联系DBA确定能否创建。同时需要注意的是查询语句的写法与普通索引的区别。
  
  14、避免在where子句中对字段进行表达式操作
  
  比如:
  
  select user_id,user_project from user_base where age*2=36;
  
  中对字段就行了算术运算,这会造成引擎放弃使用索引,建议改成:
  
  select user_id,user_project from user_base where age=36/2;
  
  15、避免隐式类型转换
  
  where子句中出现column字段的类型和传入的参数类型不一致的时候发生的类型转换,建议先确定where中的参数类型。
  
  16、对于联合索引来说,要遵守最左前缀法则
  
  举列来说索引含有字段id、name、school,可以直接用id字段,也可以id、name这样的顺序,但是name;school都无法使用这个索引。所以在创建联合索引的时候一定要注意索引字段顺序,常用的查询字段放在最前面。
  
  17、必要时可以使用force index来强制查询走某个索引
  
  有的时候MySQL优化器采取它认为合适的索引来检索SQL语句,但是可能它所采用的索引并不是我们想要的。这时就可以采用forceindex来强制优化器使用我们制定的索引。
  
  18、注意范围查询语句
  
  对于联合索引来说,如果存在范围查询,比如between、>、<等条件时,会造成后面的索引字段失效。
  
  19、关于JOIN优化
  
  LEFT JOIN A表为驱动表,INNER JOIN MySQL会自动找出那个数据少的表作用驱动表,RIGHT JOIN B表为驱动表。
  
  注意:
  
  1)MySQL中没有full join,可以用以下方式来解决:
  
  select * from A left join B on B.name = A.namewhere B.name is nullunion allselect * from B;
  
  2)尽量使用inner join,避免left join:
  
  参与联合查询的表至少为2张表,一般都存在大小之分。如果连接方式是inner join,在没有其他过滤条件的情况下MySQL会自动选择小表作为驱动表,但是left join在驱动表的选择上遵循的是左边驱动右边的原则,即left join左边的表名为驱动表。
  
  3)合理利用索引:
  
  被驱动表的索引字段作为on的限制字段。
  
  4)利用小表去驱动大表:
  
  从原理图能够直观的看出如果能够减少驱动表的话,减少嵌套循环中的循环次数,以减少 IO总量及CPU运算的次数。
  
  5)巧用STRAIGHT_JOIN:
  
  inner join是由MySQL选择驱动表,但是有些特殊情况需要选择另个表作为驱动表,比如有group by、order by等「Using filesort」、「Using temporary」时。STRAIGHT_JOIN来强制连接顺序,在STRAIGHT_JOIN左边的表名就是驱动表,右边则是被驱动表。在使用STRAIGHT_JOIN有个前提条件是该查询是内连接,也就是inner join。其他链接不推荐使用STRAIGHT_JOIN,否则可能造成查询结果不准确。
  
  public static boolean isTableExistOldAPI(String tableName) throws MasterNotRunningException, ZooKeeperConnectionException, IOException {
  
  // HBase配置文件
  
  @SuppressWarnings(www.jiahuayulpt.com"deprecation")
  
  HBaseConfiguration conf = new HBaseConfiguration();
  
  // 设置zookeeper地址
  
  conf.set("hbase.zookeeper.quorum", "192.168.25.102");
  
  conf.set("hbase.www.taoyang2vip.com zookeeper.property.clientPort", "2181");
  
  // 获取HBase管理员对象
  
  @SuppressWarnings(www.zhengxianzaixian.cn"deprecation")
  
  HBaseAdmin hBaseAdmin = www.yongshiyule178.com new HBaseAdmin(conf);
  
  boolean tableExists = hBaseAdmin.tableExists(tableName);
  
  // 关闭
  
  hBaseAdmin.close();
  
  return tableExists;
  
  }
  
  新API
  
  // 判断表是否存在-新API
  
  public static boolean isTableExistNewAPI(String www.dfgjpt.com tableName) throws MasterNotRunningException, ZooKeeperConnectionException, IOException {
  
  // HBase配置文件
  
  Configuration conf = HBaseConfiguration.create();
  
  // 设置zookeeper地址
  
  conf.set("hbase.zookeeper.quorum", "192.168.25.102");
  
  conf.set("hbase.www.yongshi123.cn zookeeper.property.clientPort", "2181");
  
  // 获取连接对象,执行
  
  Connection connection = ConnectionFactory.createConnection(conf);
  
  Admin admin = connection.getAdmin();
  
  boolean tableExists = admin.tableExists(TableName.valueOf(tableName));
  
  // 关闭资源
  
  admin.close();
  
  return tableExists;
  
  }
  
  6.2.2 抽取获取 Configuration、Connection、Admin 对象的方法以及关闭资源的方法
  
  static Admin admin = null;
  
  static Connection conn = null;
  
  static Configuration conf = null;
  
  static {
  
  // HBase配置文件
  
  conf = HBaseConfiguration.create();
  
  // 设置zookeeper地址
  
  conf.set("hbase.zookeeper.quorum", "192.168.25.102");
  
  conf.set("hbase.zookeeper.property.clientPort", "2181");
  
  try {
  
  // 获取连接对象,执行
  
  conn = ConnectionFactory.createConnection(conf);
  
  admin = conn.getAdmin();
  
  } catch (IOException e) {
  
  e.printStackTrace();
  
  private static void close(Connection conn, Admin admin) {
  
  if (conn != null) {
  
  try {
  
  conn.close();
  
  } catch (IOException www.myzx1.com e) {
  
  e.printStackTrace();
  
  if (admin != null) {
  
  try {
  
  admin.close();
  
  } catch (IOException e) {
  
  e.printStackTrace();
  
  注意:以下演示均使用新API!
  
  6.2.3 创建表(admin)
  
  // 创建表
  
  public static void createTable(String www.mhylpt.com tableName, String... columnFamily) throws IOException {
  
  if (isTableExistNewAPI(tableName)) {
  
  System.out.println("表" + tableName + "已存在!");
  
  return;
  
  }
  
  // 创建表描述器
  
  HTableDescriptor hTableDescriptor = new HTableDescriptor(TableName.valueOf(tableName));
  
  // 添加列族
  
  for (String cf : columnFamily) {
  
  // 创建列描述器
  
  HColumnDescriptor HColumnDescriptor = new HColumnDescriptor(cf);
  
  // 指定列族的版本个数,默认个数是一个
  
  // HColumnDescriptor.setMaxVersions(www.68076.cn);
  
  hTableDescriptor.addFamily(HColumnDescriptor);
  
  }
  
  // 创建表操作
  
  admin.createTable(hTableDescriptor);
  
  System.out.println("表" + tableName + "创建成功!");
  
  }
  
  6.2.4 删除表(admin)
  
  // 删除表
  
  public static void deleteTable(String tableName) throws IOException {
  
  if (isTableExistNewAPI(tableName)www.68079.cn) {
  
  // 删除表之前先使表不可用(下线)
  
  admin.disableTable(TableName.valueOf(tableName));
  
  // 执行删除操作
  
  admin.deleteTable(TableName.valueOf(tableName));
  
  System.out.println("表" + tableName + "删除成功!");
  
  } else {
  
  System.out.println("表" + tableName + "不存在!");
  
  注意:truncate,清空表数据,实际底层操作是先使表不可用(下线),然后删除表,最后根据表信息重新创建一张新表。
  
  6.2.5 向表中插入数据(put)
  
  // 向表中插入数据(或修改)
  
  public static void putRowData(www.yongxin7.com String tableName, String rowKey, String columnFamily, String column, String value) throws IOException {
  
  // 创建HTable对象
  
  // 旧API
  
  // HTable hTable = new HTable(conf, TableName.valueOf(tableName));
  
  // 获取Table对象
  
  // 新API
  
  Table table = conn.getTable(TableName.valueOf(tableName));
  
  Put put = new Put(Bytes.toBytes(rowKey));
  
  // 向Put对象中组装数据
  
  put.addColumn(Bytes.toBytes(www.078881.cn columnFamily), Bytes.toBytes(www.thd178.com column), Bytes.toBytes(value));
  
  // 执行向表中插入数据的操作
  
  table.put(put);
  
  System.out.println("插入数据成功");
  
  table.close();
  
  // 批量插入数据提示:1、同一个RowKey下添加不同的列;2、不同的RowKey,可以将RowKey(Put)放到List集合。
  
  这个方式有时能减少3倍的时间。
  
  以上19条MySQL优化方法希望对大家有所帮助~呐,如果觉得有帮助的话,欢迎转发分享哦~