关于Mysql5.7及8.0版本索引失效情况汇总
TIPS:
- 没有特殊说明,测试环境均为MySQL8.0,早期版本可能会有更多情况导致索引失效。8.0失效的情况,早期版本也失效;8.0不失效的情况,早期版本可能失效。
- 所有测试默认不考虑表为空的情况,特殊情况文中会有说明。
- 本文只介绍Innodb引擎下的索引失效情况。
DROP TABLE IF EXISTS `test_idx`;
CREATE TABLE `test_idx` (
`id` int(11) NOT NULL AUTO_INCREMENT,
`unique_idx` int(11) NOT NULL,
`notnull_idx` int(11) NOT NULL,
`str_idx` varchar(20) DEFAULT NULL,
`normal_idx` int(11) DEFAULT NULL,
`str_col` varchar(10) DEFAULT NULL,
PRIMARY KEY (`id`),
UNIQUE KEY `idx_unique_idx` (`unique_idx`),
KEY `idx_str_idx` (`str_idx`),
KEY `idx_normal_idx` (`normal_idx`) USING BTREE
) DEFAULT CHARSET=utf8;
— 插入几条测试数据,因为当表里没有数据时,部分使用到索引的情况会失效。
INSERT INTO test_idx VALUES
(1,1,’1′,1,’111′),
(2,2,’2′,2,’222′),
(3,3,’3′,3,’333′)
一个独立索引
1、使用like且在左边有“%”。
EXPLAIN select * from test_idx where bid like ‘%1%’;
— 可以使用索引
EXPLAIN select * from test_idx where bid like ‘1%’;
2、隐式类型转换,索引字段与条件或关联字段的类型不一致。
EXPLAIN select * from test_idx where bid = 1;
— 可以使用索引
EXPLAIN select * from test_idx where bid = ‘1’;
3、条件中对索引列进行运算或使用函数
EXPLAIN SELECT * FROM test_idx WHERE SUBSTR(bid, 1) = ‘1’;
EXPLAIN SELECT * FROM test_idx WHERE id – 1 = 1;
— 可以使用索引
EXPLAIN SELECT * FROM test_idx WHERE id = 4 – 2;
EXPLAIN SELECT * FROM test_idx WHERE id = TIME_TO_SEC(1);
4、不可空索引使用 is not null,仅当查询列只有该索引列时会使用索引
EXPLAIN SELECT * FROM test_idx WHERE notnull_idx IS NOT NULL;
— 可以使用索引
EXPLAIN SELECT notnull_idx FROM test_idx WHERE notnull_idx IS NOT NULL;
EXPLAIN SELECT * FROM test_idx WHERE normal_idx IS NOT NULL;
5、使用OR且存在非索引列
EXPLAIN SELECT * FROM test_idx WHERE id > 1 OR str_col = ‘1’;
— 使用OR时,OR包含的所有列必须都是独立索引才有可能用到索引
6、使用 NOT IN、IN、IS NULL、IS NOT NULL,且返回值中不止包含条件索引列。
— 当表里没有数据时不使用索引
— 本次测试当后面的条件查询的返回值大于等于总数据50%时不使用索引;少于总数据50%则使用索引
— 该数据不一定准,这跟数据总量、表统计信息等会有不同的表现,因此还是得看最终优化器的选择!
EXPLAIN SELECT * FROM test_idx WHERE normal_idx IN (1,2);
EXPLAIN SELECT * FROM test_idx WHERE normal_idx NOT IN (1,2);
EXPLAIN SELECT * FROM test_idx WHERE normal_idx IS NULL;
EXPLAIN SELECT * FROM test_idx WHERE normal_idx IS NOT NULL;
拓展:
- MySQL环境变量eq_range_index_dive_limit的值对IN语法有很大影响,该参数表示使用索引情况下IN中参数的最大数量。MySQL 5.7.3以及之前的版本中,eq_range_index_dive_limit的默认值为10,之后的版本默认值为200。
- 我们拿MySQL8.0.19举例,eq_range_index_dive_limit=200表示当IN (…)中的值 >200个时,该查询一定不会走索引。<=200则可能用到索引。
7、使用非主键范围条件查询时,部分情况索引失效。
— 当表里没有数据时不使用索引
— 本次测试当范围条件查询的返回值大于等于总数据50%时不使用索引;少于总数据50%则使用索引
— 该数据不一定准,这跟数据总量、表统计信息等会有不同的表现,因此还是得看最终优化器的选择!
EXPLAIN SELECT * FROM test_idx WHERE normal_idx > 1;
EXPLAIN SELECT * FROM test_idx WHERE normal_idx <= 1;
EXPLAIN SELECT * FROM test_idx WHERE normal_idx BETWEEN 0 AND 1;
EXPLAIN SELECT * FROM test_idx WHERE normal_idx BETWEEN 2 AND 5;
8、MySQL5.7,使用 IS NOT NULL或 IS NULL 部分情况下索引失效。
— 当表里没有数据时索引失效
— 本次测试条件查询的返回值大于等于总数据50%时不使用索引;少于总数据50%则使用索引
— 该数据不一定准,这跟数据总量、表统计信息等会有不同的表现,因此还是得看最终优化器的选择!
EXPLAIN SELECT normal_idx FROM test_idx WHERE normal_idx IS NOT NULL;
EXPLAIN SELECT normal_idx FROM test_idx WHERE normal_idx IS NULL;
9、MySQL5.7,使用 != 或 IN 或 NOT IN 部分情况下索引失效
— 本次测试当条件查询的返回值大于等于总数据50%时不使用索引;少于总数据50%则使用索引
— 该数据不一定准,这跟数据总量、表统计信息等会有不同的表现,因此还是得看最终优化器的选择!
EXPLAIN SELECT * FROM test_idx WHERE normal_idx IN (1);
EXPLAIN SELECT * FROM test_idx WHERE normal_idx NOT IN (1);
— 使用 != 也跟数据的筛选率有关,具体数值不能确定(但肯定筛选率要>50%)。视实际情况而定,还得看优化器的选择。
— 可能使用索引,也可能不使用:
EXPLAIN SELECT * FROM test_idx WHERE normal_idx IN (1);
— 可以使用索引,但是这里不是使用索引去查数据,而且是去查索引键值。
— 即先根据该索引去查其他索引的值,再根据查出来的索引值去查数据。
— extra中显示 Using index 均表示该情况。
EXPLAIN SELECT normal_idx FROM test_idx WHERE normal_idx IN (1);
EXPLAIN SELECT normal_idx FROM test_idx WHERE normal_idx NOT IN (1);
10、MySQL5.7,表关联时,关联字段字符集不一致会导致索引失效。
CREATE TABLE `test_idx2` (
`id` int(11) NOT NULL AUTO_INCREMENT,
`unique_idx` int(11) DEFAULT NULL,
`notnull_idx` int(11) NOT NULL,
`str_idx` varchar(20) DEFAULT NULL,
`normal_idx` int(11) DEFAULT NULL,
`str_col` varchar(10) DEFAULT NULL,
PRIMARY KEY (`id`) USING BTREE,
UNIQUE KEY `idx_unique_idx` (`unique_idx`),
KEY `idx_str_idx` (`str_idx`),
KEY `idx_normal_idx` (`normal_idx`) USING BTREE
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4;
— 插入数据,如果没有数据,在MySQL8.0中索引也会失效
INSERT INTO test_idx2 values
(1,1,1,’1′,1,’11’),
(2,2,2,’2′,2,’22’),
(3,3,3,’3′,3,’33’);
— 无法使用索引
EXPLAIN SELECT * FROM test_idx t1
LEFT JOIN test_idx2 t2 ON t1.str_idx = t2.str_idx;
— 子查询可以使用索引,但是这里不是使用索引去查数据,而且是去查索引键值。
— 即先根据该索引去查其他索引的值,再根据查出来的索引值去查数据。
— extra中显示 Using index 均表示该情况。
EXPLAIN SELECT * FROM test_idx t1 WHERE t1.id =
(SELECT id FROM test_idx2 WHERE t1.str_idx = str_idx LIMIT 1);
11、MySQL5.7,表关联时,关联字段字符集排序规则不一致会导致索引失效。
— 1267 – Illegal mix of collations (utf8mb4_german2_ci,IMPLICIT) and (utf8mb4_general_ci,IMPLICIT) for operation ‘=’
— 翻译:操作“=”的排序规则(utf8mb4_german2_ci,隐式)和(utf8mb4_general_ci,隐式)的非法混合
— 使用其他类型索引进行关联时,索引失效。
— 使用其他类型索引进行子查询时,可以使用索引。
— 这里就不做举例了,实际情况下出现的可能性不大。
多个独立索引
1、使用OR且第一个条件是范围查询,且返回值中不止包含条件索引列。
EXPLAIN SELECT * FROM test_idx WHERE id > 1 OR normal_idx = 1;
— 部分情况下可以使用索引
— 当表里没有数据时不使用索引
— 当后面的条件查询的返回值超过总数据50%时不使用索引;少于总数据50%则使用索引
EXPLAIN SELECT * FROM test_idx WHERE id = 1 OR normal_idx > 2;
— 由于一次查询中一张表只能使用一个索引,所以优化器是将该sql优化成UNION执行的。
— 因此我们可以直接将OR语句改成UNION语句(如果肯定两个条件不会出现重复返回值,则可以使用UNION ALL,UNOIN在查询后还需要做一次去重操作,UNOIN ALL则不需要,可以进一步提高查询速度)。
EXPLAIN
SELECT * FROM test_idx WHERE id = 1
UNION ALL
SELECT * FROM test_idx WHERE normal_idx > 2;
2、 MySQL5.7,使用OR且存在条件是范围查询,且返回值中不止包含条件索引列。
EXPLAIN SELECT * FROM test_idx WHERE id > 1 OR normal_idx = 1;
EXPLAIN SELECT * FROM test_idx WHERE id = 1 OR normal_idx > 1;
3、组合索引
CREATE TABLE test_idx4 (
id INT ( 11 ) PRIMARY KEY auto_increment,
col1 VARCHAR ( 11 ) DEFAULT NULL,
col2 VARCHAR ( 11 ) DEFAULT NULL,
col3 VARCHAR ( 11 ) DEFAULT NULL,
col4 VARCHAR ( 11 ) DEFAULT NULL,
KEY idx_col1_col2_col3( col1, col2, col3 ) USING BTREE
);
— 插入测试数据
INSERT INTO test_idx4
VALUES
( 1, ‘1’, ‘1’, ‘1’, ‘1’ ),
( 2, ‘1’, ‘1’, ‘1’, ‘1’ ),
( 3, ‘1’, ‘1’, ‘1’, ‘1’ ),
( 4, ‘1’, ‘1’, ‘1’, ‘1’ );
— 最左匹配原则:只要查询条件中带有组合索引最左边的列(此处即 col1) , 那么查询就会使用到索引。
— 所以想让组合索引失效很简单,条件中不包含索引最左边的列(此处即 col1), 则索引失效。
扩展:
SELECT col2,col3 FROM test_idx4 WHERE col2 = ‘1’ AND col3=’2′
- 以上两条SQL是可以使用到索引的,原理就是上面提到的索引覆盖,
- 虽然根据最左匹配原则是没法使用索引去快速检索数据的;但是因为该查询中所查询的列是col1,col2,而该索引只包含col1,col2,col3三个字段信息,而主键索引中包含所有字段信息,用该索引做全表扫描的效率更高,所以还是会使用到该索引!
总结
上述所有可能用到可能没用到索引的情况,并不是一定的!导致索引失效的阈值也不一定100%准确,毕竟不同数据类型、不同数据量的情况下,MySQL的优化器的选择可能不同。但可以肯定的是,同样一条语句,可能由于筛选率等原因导致索引失效。
所有简单查询(执行计划中 select_type = simple),只要where条件中有索引列(无论什么条件),且返回值中只包含该索引列(和主键),都会用到索引。根据执行计划中的extra可以区分索引的用途:
1、extra = Using index,表示索引覆盖。
2、extra = Using index, Using where,表示存在回表操作。
拓展:
为什么只要返回值只包含索引和主键就会用到索引?
众所周知,InnoDB保存数据是通过B+树结构存储的。且只有主键索引所在的B+树的叶子节点会保存实际数据,其他节点只保存主键值,这种数据与索引在一起的索引我们称之为聚簇索引。
二级索引(非主键索引)的所有节点除了保存索引列的值外还会保存主键的值。
所以当我们通过二级索引查询数据时,第一步先通过二级索引查询到对应的主键值;再通过主键值到主键索引中查询对应的实际数据,这个过程我们称之为回表。
而回表操作是随机IO,所以性能较差,当需要回表的数据量比较大时,优化器可能就会选择不走索引,直接全表扫描,因为走全表是顺序IO,指不定走全表比走索引还快。(这也解释了为什么同样的SQL,表数据不同查询策略也不同)
其中一个特殊情况是当我们的查询只涉及到索引列和主键的时候,我们就不需要再回表查询实际数据了,因为二级索引中保存了主键和索引列的数据,这个时候就肯定会走索引了。
在复制其他地方提供的sql建表脚本时,注意其字符集和排序规则是否跟自己数据库默认的一致,否则可能出现索引失效的问题。
不同版本不同情况下,索引的使用情况不一致。上文提到的可能使用可能不使用的情况是由MySQL的优化器决定的,可能还会有其他情况下优化器也不使用索引,此时我们可以强制指定需要使用的索引:
EXPLAIN SELECT * FROM test_idx force index (idx_notnull_idx) WHERE notnull_idx BETWEEN 1 AND 2;
以上为个人经验,希望能给大家一个参考,也希望大家多多支持。