mysql 优化 难题

Posted 2023-05-02

SELECT `g`.`id`,`g`.`goods_title`,c.name as class_name,`p`.`class_id`,`p`.`model_id`,

CASE WHEN g.user_id=15 THEN y.product_seller_price ELSE y.price END as key_price,

`y`.`market`,g.product_design_id design_id,`g`.`user_id`,p.id product_id,i.name user_name,`g`.`seo_title`

FROM `ink_goods_design` `g` LEFT JOIN `ink_product` `p` ON `p`.`id`=`g`.`product_id` LEFT JOIN `ink_product_design` `d` ON `p`.`id`=`d`.`product_id` LEFT JOIN `ink_product_class` `c` ON `c`.`id`=`p`.`class_id` INNER JOIN `ink_goods_money` `y` ON `p`.`id`=y.product_id and g.id=y.goods_id INNER JOIN `ink_user` `u` ON `u`.`id`=`g`.`user_id`

INNER JOIN `ink_user_info` `i`
ON `i`.`user_id`=`g`.`user_id` WHERE `p`.`design` = 1
AND `g`.`display` = 1 AND `g`.`del` = 1 AND `g`.`sell` = 1

AND `d`.`display` = 1
AND `d`.`del` = 0 GROUP BY `g`.`id`
LIMIT 0,20

这个语句运行4,5秒。经过分析

CASE WHEN g.user_id=15 THEN y.product_seller_price ELSE y.price END as key_price,
是这个语句的影响，好像导致user表全表扫描，我想问，这个要怎么处理

参考技术A

在开始演示之前，我们先介绍下两个概念。

概念一，数据的可选择性基数，也就是常说的cardinality值。

查询优化器在生成各种执行计划之前，得先从统计信息中取得相关数据，这样才能估算每步操作所涉及到的记录数，而这个相关数据就是cardinality。简单来说，就是每个值在每个字段中的唯一值分布状态。

比如表t1有100行记录，其中一列为f1。f1中唯一值的个数可以是100个，也可以是1个，当然也可以是1到100之间的任何一个数字。这里唯一值越的多少，就是这个列的可选择基数。

那看到这里我们就明白了，为什么要在基数高的字段上建立索引，而基数低的的字段建立索引反而没有全表扫描来的快。当然这个只是一方面，至于更深入的探讨就不在我这篇探讨的范围了。

概念二，关于HINT的使用。

这里我来说下HINT是什么，在什么时候用。

HINT简单来说就是在某些特定的场景下人工协助mysql优化器的工作，使她生成最优的执行计划。一般来说，优化器的执行计划都是最优化的，不过在某些特定场景下，执行计划可能不是最优化。

比如：表t1经过大量的频繁更新操作，（UPDATE,DELETE,INSERT），cardinality已经很不准确了，这时候刚好执行了一条SQL，那么有可能这条SQL的执行计划就不是最优的。为什么说有可能呢？

来看下具体演示

譬如，以下两条SQL，

A：

select * from t1 where f1 = 20;


B：

select * from t1 where f1 = 30;


如果f1的值刚好频繁更新的值为30，并且没有达到MySQL自动更新cardinality值的临界值或者说用户设置了手动更新又或者用户减少了sample page等等，那么对这两条语句来说，可能不准确的就是B了。

这里顺带说下，MySQL提供了自动更新和手动更新表cardinality值的方法，因篇幅有限，需要的可以查阅手册。

那回到正题上，MySQL 8.0 带来了几个HINT，我今天就举个index_merge的例子。

示例表结构：

mysql> desc t1;+------------+--------------+------+-----+---------+----------------+| Field      | Type         | Null | Key | Default | Extra          |+------------+--------------+------+-----+---------+----------------+| id         | int(11)      | NO   | PRI | NULL    | auto_increment || rank1      | int(11)      | YES  | MUL | NULL    |                || rank2      | int(11)      | YES  | MUL | NULL    |                || log_time   | datetime     | YES  | MUL | NULL    |                || prefix_uid | varchar(100) | YES  |     | NULL    |                || desc1      | text         | YES  |     | NULL    |                || rank3      | int(11)      | YES  | MUL | NULL    |                |+------------+--------------+------+-----+---------+----------------+7 rows in set (0.00 sec)


表记录数：


mysql> select count(*) from t1;+----------+| count(*) |+----------+|    32768 |+----------+1 row in set (0.01 sec)


这里我们两条经典的SQL：

SQL C：

select * from t1 where rank1 = 1 or rank2 = 2 or rank3 = 2;


SQL D：

select * from t1 where rank1 =100  and rank2 =100  and rank3 =100;


表t1实际上在rank1,rank2,rank3三列上分别有一个二级索引。

那我们来看SQL C的查询计划。

显然，没有用到任何索引，扫描的行数为32034，cost为3243.65。

mysql> explain  format=json select * from t1  where rank1 =1 or rank2 = 2 or rank3 = 2\\G*************************** 1. row ***************************EXPLAIN:  "query_block":    "select_id": 1,    "cost_info":      "query_cost": "3243.65"    ,    "table":      "table_name": "t1",      "access_type": "ALL",      "possible_keys": [        "idx_rank1",        "idx_rank2",        "idx_rank3"      ],      "rows_examined_per_scan": 32034,      "rows_produced_per_join": 115,      "filtered": "0.36",      "cost_info":        "read_cost": "3232.07",        "eval_cost": "11.58",        "prefix_cost": "3243.65",        "data_read_per_join": "49K"      ,      "used_columns": [        "id",        "rank1",        "rank2",        "log_time",        "prefix_uid",        "desc1",        "rank3"      ],      "attached_condition": "((`ytt`.`t1`.`rank1` = 1) or (`ytt`.`t1`.`rank2` = 2) or (`ytt`.`t1`.`rank3` = 2))"      1 row in set, 1 warning (0.00 sec)


我们加上hint给相同的查询，再次看看查询计划。

这个时候用到了index_merge,union了三个列。扫描的行数为1103，cost为441.09，明显比之前的快了好几倍。

mysql> explain  format=json select /*+ index_merge(t1) */ * from t1  where rank1 =1 or rank2 = 2 or rank3 = 2\\G*************************** 1. row ***************************EXPLAIN:  "query_block":    "select_id": 1,    "cost_info":      "query_cost": "441.09"    ,    "table":      "table_name": "t1",      "access_type": "index_merge",      "possible_keys": [        "idx_rank1",        "idx_rank2",        "idx_rank3"      ],      "key": "union(idx_rank1,idx_rank2,idx_rank3)",      "key_length": "5,5,5",      "rows_examined_per_scan": 1103,      "rows_produced_per_join": 1103,      "filtered": "100.00",      "cost_info":        "read_cost": "330.79",        "eval_cost": "110.30",        "prefix_cost": "441.09",        "data_read_per_join": "473K"      ,      "used_columns": [        "id",        "rank1",        "rank2",        "log_time",        "prefix_uid",        "desc1",        "rank3"      ],      "attached_condition": "((`ytt`.`t1`.`rank1` = 1) or (`ytt`.`t1`.`rank2` = 2) or (`ytt`.`t1`.`rank3` = 2))"      1 row in set, 1 warning (0.00 sec)


我们再看下SQL D的计划：

不加HINT，

mysql> explain format=json select * from t1 where rank1 =100 and rank2 =100 and rank3 =100\\G*************************** 1. row ***************************EXPLAIN:  "query_block":    "select_id": 1,    "cost_info":      "query_cost": "534.34"    ,    "table":      "table_name": "t1",      "access_type": "ref",      "possible_keys": [        "idx_rank1",        "idx_rank2",        "idx_rank3"      ],      "key": "idx_rank1",      "used_key_parts": [        "rank1"      ],      "key_length": "5",      "ref": [        "const"      ],      "rows_examined_per_scan": 555,      "rows_produced_per_join": 0,      "filtered": "0.07",      "cost_info":        "read_cost": "478.84",        "eval_cost": "0.04",        "prefix_cost": "534.34",        "data_read_per_join": "176"      ,      "used_columns": [        "id",        "rank1",        "rank2",        "log_time",        "prefix_uid",        "desc1",        "rank3"      ],      "attached_condition": "((`ytt`.`t1`.`rank3` = 100) and (`ytt`.`t1`.`rank2` = 100))"      1 row in set, 1 warning (0.00 sec)


加了HINT，

mysql> explain format=json select /*+ index_merge(t1)*/ * from t1 where rank1 =100 and rank2 =100 and rank3 =100\\G*************************** 1. row ***************************EXPLAIN:  "query_block":    "select_id": 1,    "cost_info":      "query_cost": "5.23"    ,    "table":      "table_name": "t1",      "access_type": "index_merge",      "possible_keys": [        "idx_rank1",        "idx_rank2",        "idx_rank3"      ],      "key": "intersect(idx_rank1,idx_rank2,idx_rank3)",      "key_length": "5,5,5",      "rows_examined_per_scan": 1,      "rows_produced_per_join": 1,      "filtered": "100.00",      "cost_info":        "read_cost": "5.13",        "eval_cost": "0.10",        "prefix_cost": "5.23",        "data_read_per_join": "440"      ,      "used_columns": [        "id",        "rank1",        "rank2",        "log_time",        "prefix_uid",        "desc1",        "rank3"      ],      "attached_condition": "((`ytt`.`t1`.`rank3` = 100) and (`ytt`.`t1`.`rank2` = 100) and (`ytt`.`t1`.`rank1` = 100))"      1 row in set, 1 warning (0.00 sec)


对比下以上两个，加了HINT的比不加HINT的cost小了100倍。

总结下，就是说表的cardinality值影响这张的查询计划，如果这个值没有正常更新的话，就需要手工加HINT了。相信MySQL未来的版本会带来更多的HINT。

Android性能优化——性能优化的难题总结

前言

现在都在谈性能优化或者在面试的时候被问到性能优化相关问题，那么我们为什么要做性能优化呢？以及性能优化的难点是什么？在整个项目周期中不同的阶段该做什么？优化效果如何长期保持？作为一名Android高级工程师或者架构师，我们看待问题的角度不能单一而是要学会从多个维度来仔细考量 ，这样才能更全面的认识以及解决问题！下文会从多个视角来学习性能优化工作当中 我们可能会遇到哪些难题！

性能优化有哪些难题

难点一：性能表现差

性能优化的第一个难题是APP的自身性能表现差，这是从APP自身性能使用来说的：

• 第一种问题是用户可以直观的感受到，比如说：APP启动慢、卡顿、丢桢等，用户肯定会报怨手机太卡了！
• 第二种问题是用户虽然不会直观的感受到，比如说：内存占用高，抖动频繁，但是这种隐藏的问题可能会导致内存溢出，从而影响程序的正常运行
• 此外性能问题还有应用耗电、网络请求慢、崩溃率和异常率高

其中崩溃率和异常率属于稳定性的范畴，崩溃率比较好理解需要注意的是应用异常率。异常是指APP不能正常的作出反应，比如说我们点击了一个按钮，它并没有正确的跳转到下一个界面，此时APP并没有崩溃，但是同样它也处于不可用的状态，带来的非常不好的用户体验。

难点二：线上问题无法排查

线上问题排查困难对于很多Android程序员来说就是个烧（tuo）脑（fa）的问题，下面来说说线上问题排查的主要难点！

性能优化的第一个难题是线上问题无从排查，这是从排查问题的视角来说， 通俗来讲的是耽误线上出现了异常时我们如何才能够保证较高的异常感知灵敏度。

当我们发布了一个新版本或者上线了一个新功能没有用户反馈，我们也千万不能够认为已经成功上线了，因为仅仅依赖于用户反馈这个单一的渠道非常容易错过异常出现的第一时间，等到有用户不堪忍受来反馈造成的损失已经太大，而且也已经错过最好的处理时机。

线上问题排查的第二个难点：如何复原案发现场， 假设用户给了我们反馈但是此刻我们也不能够高兴过早。因为用户有反馈不代表我们一定能够复现，很多问题并不是所有用户都会发生，发生了这种特殊问题的用户，他可能是使用了特殊的设备或者是他的账户处于特定的异常状态。等到我们在公司用自己的设备和自己的账户去复现他的问题的时候很有可能会因为条件不足而无法复现，自然也就没有办法快速解决。

线上问题的第三个难点：如何快速修复成功， 针对线上问题而言时间就是生命必须尽早的成功修复。在我们修复之后，为了保险起见一般都会开放部分小流量用户或者找特定用户来进行测试。但是如果说我们的手段是连续用户重新安装然后等待结果，这样的解决方案它的周期实在是太长，而且多次下来后用户也会有些反感，最终可能找不到配合你要用户。

难点三：性能优化的长期开销大

性能优化的第三个难题是性能优化的长期开销大，这是从团队管理者的视角来说。如果我们在每个版本当中都需要花费大量的精力来跟踪关于性能的问题，长期来看说团队的资源消耗非常大，团队的产出的也就变少，于是我们就要思考如何才能将问题扼杀在萌芽之中，尽可能的在上线之前将问题解决。

性能优化的长期开销大难点在于性能优化的效果不能够得到长期的保持，我们优化完成了之后的程序，如果没有措施那么很可能在接下来的版本当中会再次到了破坏，出现性能问题还是需要我们优化 ，这样长期的重复肯定会导致开销变大。

总结

通过上文所说性能优化工作当中遇到难题，我们反推也很容易总结出来我们对性能工作优化的要求指标：

• 性能表现好
• 线上问题容易排查
• 长期投入成本小

最后

本文已收入到我的Github，同时收录整理的 Android学习PDF+架构视频+源码笔记github地址 ，高级架构技术进阶脑图、Android开发面试专题资料，高级进阶架构资料

这些都是我现在闲暇还会反复翻阅的精品资料。里面对近几年的大厂面试高频知识点都有详细的讲解。相信可以有效的帮助大家掌握知识、理解原理。

当然你也可以拿去查漏补缺，提升自身的竞争力。

相信它会给大家带来很多收获。如果你有需要的话，可以 来我的Github！

喜欢本文的话，不妨顺手给我点个赞、评论区留言或者转发支持一下呗~