怎么给字符串字段加索引()
假设,你现在维护一个支持邮箱登录的系统,用户表是这么定义的:
create table SUser(
ID bigint unsigned primary key,
email varchar(64),
...
)engine=innodb;
由于要使用邮箱登录,所以业务代码中一定会出现类似于这样的语句:
select f1, f2 from SUser where email='xxx';
如果 email 这个字段上没有索引,那么这个语句就只能做全表扫描。
1)那我可以在邮箱地址这个字段上面建索引吗?
- MySQL 是支持前缀索引的,可以定义字符串的一部分作为索引
- 索引就会包含整个字符串
alter table SUser add index index1(email);
或
alter table SUser add index index2(email(6));
- index1 索引里面,包含了每个记录的整个字符串
- index2 索引里面,对于每个记录都是只取前 6 个字节
文章图片
文章图片
明显看出email(6) 这个索引结构占用的空间会更小
5)email(6) 这个索引结构有什么缺点吗?
- 可能会增加额外的记录扫描次数
select id,name,email from SUser where email='zhangssxyz@xxx.com';
index1(即 email 整个字符串的索引结构),执行顺序
- 从 index1 索引树找到满足索引值是’zhangssxyz@xxx.com’的这条记录,取得 ID2 的值;
- 回表查到主键值是 ID2 的行,判断 email 的值是正确的,将这行记录加入结果集;
- 【怎么给字符串字段加索引()】继续在index索引树的下一条记录,发现已经不满足 email='zhangssxyz@xxx.com’的条件了,循环结束。
index2(即 email(6) 索引结构),执行顺序
- 从 index2 索引树找到满足索引值是’zhangs’的记录,找到的第一个是 ID1;
- 到主键上查到主键值是 ID1 的行,判断出 email 的值不是’zhangssxyz@xxx.com’,这行记录丢弃;
- 取 index2 上刚刚查到的位置的下一条记录,发现仍然是’zhangs’,取出 ID2,再到 ID 索引上取整行然后判断,这次值对了,将这行记录加入结果集;
- 重复上一步,直到在 idxe2 上取到的值不是’zhangs’时,循环结束。
7)通过上面的对比,能得出什么结论?
- 使用前缀索引后,可能会导致查询语句读数据的次数变多。
- 如果我们定义的 index2 不是 email(6) 而是 email(7),那满足前缀’zhangss’的记录只有一个,直接就查到 ID2了,只扫描一行就结束了。
- 长度选择合理
- 统计索引上有多少个不同的值来判断要使用多长的前缀。
select count(distinct email) as L from SUser;
12)拿到了索引对应的有多少个不同的值之后下一步该做什么?
- 依次选取不同长度的前缀来看这个值
select
count(distinct left(email,4))as L4,
count(distinct left(email,5))as L5,
count(distinct left(email,6))as L6,
count(distinct left(email,7))as L7,
from SUser;
- 然后,在 L4~L7 中,找出第一个不小于 L * 95% 的值,说明通过这个索引可以找出百分之95以上的数据。
下面这个 SQL 语句:
select id,email from SUser where email='zhangssxyz@xxx.com';
与前面例子中的 SQL 语句
select id,name,email from SUser where email='zhangssxyz@xxx.com';
相比,第一个语句只要求返回 id 和 email 字段。
- 如果使用 index1(即 email 整个字符串的索引结构)的话,查email的话就能得到ID,那就不用回表了,这个就是覆盖索引。
- 用 index2(即 email(6) 索引结构)的话,就不得不回到 ID 索引再去判断 email 字段的值。
- 这个18是你自己定义的,系统不知道18这个长度是否已经大于我的email长度,所以它还是会回表去查一下验证。
15)对于类似于邮箱这样的字段来说,使用前缀索引的效果可能还不错。但是,遇到身份证这种前缀的区分度不够好的情况时,我们要怎么办呢?
- 索引选取的要更长一些。
- 但是所以越长的话,占的磁盘空间更大,相同的一页能放下的索引值就变少了,反而会影响查询效率。
- 但是所以越长的话,占的磁盘空间更大,相同的一页能放下的索引值就变少了,反而会影响查询效率。
- 既然正过来相同的多,那我就把它倒过来存。查询时候这样查
select field_list from t where id_card = reverse('input_id_card_string');
使用 的时候用count(distinct) 方法去做个验证
- 使用 hash 字段。在表上再创建一个整数字段,来保存身份证的校验码,同时在这个字段上创建索引。
alter table t add id_card_crc int unsigned, add index(id_card_crc);
每次插入新记录的时候,都同时用 crc32() 这个函数得到校验码填到这个新字段。由于校验码可能存在冲突,也就是说两个不同的身份证号通过 crc32() 函数得到的结果可能是相同的,所以你的查询语句 where 部分要判断 id_card 的值是否精确相同。
select field_list from t where id_card_crc=crc32('input_id_card_string') and id_card='input_id_card_string'
这样,索引的长度变成了 4 个字节(int类型),比原来小了很多
17)使用倒序存储和使用 hash 字段这两种方法有什么异同点?
- 相同点:都不支持范围查询
- 倒序存储的字段上创建的索引是按照倒序字符串的方式排序的,已经没有办法利用索引方式查出身份证号码在[ID_X, ID_Y]的所有市民了。同样地,hash 字段的方式也只能支持等值查询。
- 倒序存储的字段上创建的索引是按照倒序字符串的方式排序的,已经没有办法利用索引方式查出身份证号码在[ID_X, ID_Y]的所有市民了。同样地,hash 字段的方式也只能支持等值查询。
- 区别
- 从占用的额外空间来看,倒序存储方式在主键索引上,不会消耗额外的存储空间,而 hash 字段方法需要增加一个字段。当然,倒序存储方式使用 4 个字节的前缀长度应该是不够的,如果再长一点,这个消耗跟额外这个 hash 字段也差不多抵消了。
- 在 CPU 消耗方面,倒序方式每次写和读的时候,都需要额外调用一次 reverse 函数,而 hash 字段的方式需要额外调用一次 crc32() 函数。如果只从这两个函数的计算复杂度来看的话,reverse 函数额外消耗的 CPU 资源会更小些。
- 从查询效率上看,使用 hash 字段方式的查询性能相对更稳定一些。因为 crc32 算出来的值虽然有冲突的概率,但是概率非常小,可以认为每次查询的平均扫描行数接近 1。而倒序存储方式毕竟还是用的前缀索引的方式,也就是说还是会增加扫描行数。
- 从占用的额外空间来看,倒序存储方式在主键索引上,不会消耗额外的存储空间,而 hash 字段方法需要增加一个字段。当然,倒序存储方式使用 4 个字节的前缀长度应该是不够的,如果再长一点,这个消耗跟额外这个 hash 字段也差不多抵消了。
案例:如果你在维护一个学校的学生信息数据库,学生登录名的统一格式是”学号 @gmail.com", 而学号的规则是:十五位的数字,其中前三位是所在城市编号、第四到第六位是学校编号、第七位到第十位是入学年份、最后五位是顺序编号。
18)系统登录的时候都需要学生输入登录名和密码,验证正确后才能继续使用系统。就只考虑登录验证这个行为的话,你会怎么设计这个登录名的索引呢?
- 一个学校每年预估2万新生,50年才100万记录,能节省多少空间,直接全字段索引。省去了开发转换及局限性风险,碰到超大量迫不得已再用后两种办法
- 实际操作上直接全字段索引就行了,一个学校数据库的数据量和查询压力都不会大到哪儿去。 如果单从优化数据表的角度: \1. 后缀@gmail可以单独一个字段来存,或者用业务代码来保证, \2. 城市编号和学校编号估计也不会变,也可以用业务代码来配置 \3. 然后直接存年份和顺序编号就行了,这个字段可以全字段索引
推荐阅读
- 程序人生|为什么要写博客(写博客可以给我们带来什么好处?)
- 技巧(怎么快速把电话号码批量导存入手机通讯录)
- 单片机|我是怎么提高单片机编程能力的()
- c语言|最近在学C语言,非常痛苦,怎么办()
- 关于C#|关于C# 调用Dll 传递字符串指针参数的问题
- C语言|C语言 数据结构与算法之字符串详解
- Python学习之字符串常用方法总结
- Java|工作11年被公司辞退,中年危机怎么自救()
- 单链表反转
- 今年的面试这么卷,没有这份《Android开发相关源码精编解析》怎么行