面试中常问:mysql数据库做哪些优化也提高mysql性能

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了面试中常问:mysql数据库做哪些优化也提高mysql性能相关的知识,希望对你有一定的参考价值。

网站的数据库,每天在线用户量也不特别大,大概4000左右,服务器经常会负载很高,其中就是mysql占用资源太多怎么优化

在开始演示之前,我们先介绍下两个概念。


概念一,数据的可选择性基数,也就是常说的cardinality值。


查询优化器在生成各种执行计划之前,得先从统计信息中取得相关数据,这样才能估算每步操作所涉及到的记录数,而这个相关数据就是cardinality。简单来说,就是每个值在每个字段中的唯一值分布状态。


比如表t1有100行记录,其中一列为f1。f1中唯一值的个数可以是100个,也可以是1个,当然也可以是1到100之间的任何一个数字。这里唯一值越的多少,就是这个列的可选择基数。


那看到这里我们就明白了,为什么要在基数高的字段上建立索引,而基数低的的字段建立索引反而没有全表扫描来的快。当然这个只是一方面,至于更深入的探讨就不在我这篇探讨的范围了。


概念二,关于HINT的使用。


这里我来说下HINT是什么,在什么时候用。


HINT简单来说就是在某些特定的场景下人工协助MySQL优化器的工作,使她生成最优的执行计划。一般来说,优化器的执行计划都是最优化的,不过在某些特定场景下,执行计划可能不是最优化。


比如:表t1经过大量的频繁更新操作,(UPDATE,DELETE,INSERT),cardinality已经很不准确了,这时候刚好执行了一条SQL,那么有可能这条SQL的执行计划就不是最优的。为什么说有可能呢?


来看下具体演示


譬如,以下两条SQL,

    A:

    select * from t1 where f1 = 20;

    B:

    select * from t1 where f1 = 30;

    如果f1的值刚好频繁更新的值为30,并且没有达到MySQL自动更新cardinality值的临界值或者说用户设置了手动更新又或者用户减少了sample page等等,那么对这两条语句来说,可能不准确的就是B了。

    这里顺带说下,MySQL提供了自动更新和手动更新表cardinality值的方法,因篇幅有限,需要的可以查阅手册。

    那回到正题上,MySQL 8.0 带来了几个HINT,我今天就举个index_merge的例子。

    示例表结构:

    mysql> desc t1;+------------+--------------+------+-----+---------+----------------+| Field      | Type         | Null | Key | Default | Extra          |+------------+--------------+------+-----+---------+----------------+| id         | int(11)      | NO   | PRI | NULL    | auto_increment || rank1      | int(11)      | YES  | MUL | NULL    |                || rank2      | int(11)      | YES  | MUL | NULL    |                || log_time   | datetime     | YES  | MUL | NULL    |                || prefix_uid | varchar(100) | YES  |     | NULL    |                || desc1      | text         | YES  |     | NULL    |                || rank3      | int(11)      | YES  | MUL | NULL    |                |+------------+--------------+------+-----+---------+----------------+7 rows in set (0.00 sec)

    表记录数:

    mysql> select count(*) from t1;+----------+| count(*) |+----------+|    32768 |+----------+1 row in set (0.01 sec)

    这里我们两条经典的SQL:

    SQL C:

    select * from t1 where rank1 = 1 or rank2 = 2 or rank3 = 2;

    SQL D:

    select * from t1 where rank1 =100  and rank2 =100  and rank3 =100;

    表t1实际上在rank1,rank2,rank3三列上分别有一个二级索引。

    那我们来看SQL C的查询计划。

    显然,没有用到任何索引,扫描的行数为32034,cost为3243.65。

    mysql> explain  format=json select * from t1  where rank1 =1 or rank2 = 2 or rank3 = 2\\G*************************** 1. row ***************************EXPLAIN:  "query_block":    "select_id": 1,    "cost_info":      "query_cost": "3243.65"    ,    "table":      "table_name": "t1",      "access_type": "ALL",      "possible_keys": [        "idx_rank1",        "idx_rank2",        "idx_rank3"      ],      "rows_examined_per_scan": 32034,      "rows_produced_per_join": 115,      "filtered": "0.36",      "cost_info":        "read_cost": "3232.07",        "eval_cost": "11.58",        "prefix_cost": "3243.65",        "data_read_per_join": "49K"      ,      "used_columns": [        "id",        "rank1",        "rank2",        "log_time",        "prefix_uid",        "desc1",        "rank3"      ],      "attached_condition": "((`ytt`.`t1`.`rank1` = 1) or (`ytt`.`t1`.`rank2` = 2) or (`ytt`.`t1`.`rank3` = 2))"      1 row in set, 1 warning (0.00 sec)

    我们加上hint给相同的查询,再次看看查询计划。

    这个时候用到了index_merge,union了三个列。扫描的行数为1103,cost为441.09,明显比之前的快了好几倍。

    mysql> explain  format=json select /*+ index_merge(t1) */ * from t1  where rank1 =1 or rank2 = 2 or rank3 = 2\\G*************************** 1. row ***************************EXPLAIN:  "query_block":    "select_id": 1,    "cost_info":      "query_cost": "441.09"    ,    "table":      "table_name": "t1",      "access_type": "index_merge",      "possible_keys": [        "idx_rank1",        "idx_rank2",        "idx_rank3"      ],      "key": "union(idx_rank1,idx_rank2,idx_rank3)",      "key_length": "5,5,5",      "rows_examined_per_scan": 1103,      "rows_produced_per_join": 1103,      "filtered": "100.00",      "cost_info":        "read_cost": "330.79",        "eval_cost": "110.30",        "prefix_cost": "441.09",        "data_read_per_join": "473K"      ,      "used_columns": [        "id",        "rank1",        "rank2",        "log_time",        "prefix_uid",        "desc1",        "rank3"      ],      "attached_condition": "((`ytt`.`t1`.`rank1` = 1) or (`ytt`.`t1`.`rank2` = 2) or (`ytt`.`t1`.`rank3` = 2))"      1 row in set, 1 warning (0.00 sec)

    我们再看下SQL D的计划:

    不加HINT,

    mysql> explain format=json select * from t1 where rank1 =100 and rank2 =100 and rank3 =100\\G*************************** 1. row ***************************EXPLAIN:  "query_block":    "select_id": 1,    "cost_info":      "query_cost": "534.34"    ,    "table":      "table_name": "t1",      "access_type": "ref",      "possible_keys": [        "idx_rank1",        "idx_rank2",        "idx_rank3"      ],      "key": "idx_rank1",      "used_key_parts": [        "rank1"      ],      "key_length": "5",      "ref": [        "const"      ],      "rows_examined_per_scan": 555,      "rows_produced_per_join": 0,      "filtered": "0.07",      "cost_info":        "read_cost": "478.84",        "eval_cost": "0.04",        "prefix_cost": "534.34",        "data_read_per_join": "176"      ,      "used_columns": [        "id",        "rank1",        "rank2",        "log_time",        "prefix_uid",        "desc1",        "rank3"      ],      "attached_condition": "((`ytt`.`t1`.`rank3` = 100) and (`ytt`.`t1`.`rank2` = 100))"      1 row in set, 1 warning (0.00 sec)

    加了HINT,

    mysql> explain format=json select /*+ index_merge(t1)*/ * from t1 where rank1 =100 and rank2 =100 and rank3 =100\\G*************************** 1. row ***************************EXPLAIN:  "query_block":    "select_id": 1,    "cost_info":      "query_cost": "5.23"    ,    "table":      "table_name": "t1",      "access_type": "index_merge",      "possible_keys": [        "idx_rank1",        "idx_rank2",        "idx_rank3"      ],      "key": "intersect(idx_rank1,idx_rank2,idx_rank3)",      "key_length": "5,5,5",      "rows_examined_per_scan": 1,      "rows_produced_per_join": 1,      "filtered": "100.00",      "cost_info":        "read_cost": "5.13",        "eval_cost": "0.10",        "prefix_cost": "5.23",        "data_read_per_join": "440"      ,      "used_columns": [        "id",        "rank1",        "rank2",        "log_time",        "prefix_uid",        "desc1",        "rank3"      ],      "attached_condition": "((`ytt`.`t1`.`rank3` = 100) and (`ytt`.`t1`.`rank2` = 100) and (`ytt`.`t1`.`rank1` = 100))"      1 row in set, 1 warning (0.00 sec)

    对比下以上两个,加了HINT的比不加HINT的cost小了100倍。

    总结下,就是说表的cardinality值影响这张的查询计划,如果这个值没有正常更新的话,就需要手工加HINT了。相信MySQL未来的版本会带来更多的HINT。

参考技术A

优化“mysql数据库”来提高“mysql性能”的方法有:

1、选取最适用的字段属性。

MySQL可以很好的支持大数据量的存取,但是一般说来,数据库中的表越小,在它上面执行的查询也就会越快。因此,在创建表的时候,为了获得更好的性能,我们可以将表中字段的宽度设得尽可能小。

2、使用连接(JOIN)来代替子查询(Sub-Queries)。

MySQL从4.1开始支持SQL的子查询。这个技术可以使用SELECT语句来创建一个单列的查询结果,然后把这个结果作为过滤条件用在另一个查询中。

3、使用联合(UNION)来代替手动创建的临时表。    

MySQL 从4.0的版本开始支持UNION查询,它可以把需要使用临时表的两条或更多的SELECT查询合并的一个查询中。在客户端的查询会话结束的时候,临时表会被自动删除,从而保证数据库整齐、高效。

4、事务。

要把某个数据同时插入两个相关联的表中,可能会出现这样的情况:第一个表中成功更新后,数据库突然出现意外状况,造成第二个表中的操作没有完成,这样,就会造成数据的不完整,甚至会破坏数据库中的数据。要避免这种情况,就应该使用事务,它的作用是:要么语句块中每条语句都操作成功,要么都失败。

5、锁定表。

尽管事务是维护数据库完整性的一个非常好的方法,但却因为它的独占性,有时会影响数据库的性能,尤其是在很大的应用系统中。由于在事务执行的过程中,数据库将会被锁定,因此其它的用户请求只能暂时等待直到该事务结束。

6、使用外键。

锁定表的方法可以维护数据的完整性,但是它却不能保证数据的关联性。这个时候我们就可以使用外键。

7、使用索引 

索引是提高数据库性能的常用方法,它可以令数据库服务器以比没有索引快得多的速度检索特定的行,尤其是在查询语句当中包含有MAX(), MIN()和ORDERBY这些命令的时候,性能提高更为明显。

8、优化的查询语句 

绝大多数情况下,使用索引可以提高查询的速度,但如果SQL语句使用不恰当的话,索引将无法发挥它应有的作用。

参考技术B Mysql占用CPU过高的时候,该从哪些方面下手进行优化?
占用CPU过高,可以做如下考虑:
1)一般来讲,排除高并发的因素,还是要找到导致你CPU过高的哪几条在执行的SQL,show processlist语句,查找负荷最重的SQL语句,优化该SQL,比如适当建立某字段的索引;
2)打开慢查询日志,将那些执行时间过长且占用资源过多的SQL拿来进行explain分析,导致CPU过高,多数是GroupBy、OrderBy排序问题所导致,然后慢慢进行优化改进。比如优化insert语句、优化group by语句、优化order by语句、优化join语句等等;
3)考虑定时优化文件及索引;
4)定期分析表,使用optimize table;
5)优化数据库对象;
6)考虑是否是锁问题;
7)调整一些MySQL Server参数,比如key_buffer_size、table_cache、innodb_buffer_pool_size、innodb_log_file_size等等;
8)如果数据量过大,可以考虑使用MySQL集群或者搭建高可用环境。
9)可能由于内存latch(泄露)导致数据库CPU高
10)在多用户高并发的情况下,任何系统都会hold不住的,所以,使用缓存是必须的,使用memcached或者redis缓存都可以;
11)看看tmp_table_size大小是否偏小,如果允许,适当的增大一点;
12)如果max_heap_table_size配置的过小,增大一点;
13)mysql的sql语句睡眠连接超时时间设置问题(wait_timeout)
14)使用show processlist查看mysql连接数,看看是否超过了mysql设置的连接数(http://www.cnblogs.com/kevingrace/p/6226324.html
参考技术C 1.查询时,能不用* 就不用,尽量写全字段名。
2.索引不是越多越好,每个表控制在6个索引以内。范围where条件的情况下,索引不起作用,比如where value<100
3.大部分情况连接效率远大于子查询,但是有例外。当你对连接查询的效率都感到不能接受的时候可以试试用子查询,虽然大部分情况下你会更失望,但总有碰到惊喜的时候不是么...
4.多用explain 和 profile分析查询语句
5.有时候可以1条大的SQL可以分成几个小SQL顺序执行,分了吧,速度会快很多。
6.每隔一段时间用alter table table_name engine=innodb;优化表
7.连接时注意:小表 jion 大表的原则
8.学会用explain 和 profile判断是什么原因使你的SQL慢。
9.查看慢查询日志,找出执行时间长的SQL试着优化去吧~~本回答被提问者和网友采纳
参考技术D 可能是代码上重复调用数据库,

php高级研发或架构师必了解---很多问题面试中常问到!

版权声明:本文为博主原创文章,未经博主允许不得转载。
最近接连面试了几家公司,有些重要问题记录一下,督促自己学习提高,同时希望给朋友们一些帮助。
内容很多,一点点完善,一步步学习。。
有些是面试被问,有些是招聘要求,有些是自己整理加的。

一、MySQL相关知识
    1、 mysql优化方式
            MYSQL 优化常用方法
            mysql 性能优化方案
  
    2、如何分库分表
           参考:
   http://blog.sina.com.cn/s/blog_6e322ce70100zs9a.html
           http://www.jb51.net/article/29771.htm

   3、 Mysql+如何做双机热备和负载均衡
http://www.dewen.org/q/51/Mysql+如何做双机热备和负载均衡
   
   4、数据表类型有哪些
       MyISAM、InnoDB、HEAP、BOB,ARCHIVE,CSV等
       MyISAM:成熟、稳定、易于管理,快速读取。一些功能不支持(事务等),表级锁。
       InnoDB:支持事务、外键等特性、数据行锁定。空间占用大,不支持全文索引等。

       myisam和Innodb引擎的主要特点
       MySQL的存储引擎MyISAM与InnoDB有什么区别?

   5、防sql注入方法
      mysql_escape_string(strip_tags($arr["$val"]));

   6、mysql把一个大表拆分多个表后,如何解决跨表查询效率问题

[php] view plain copy
在CODE上查看代码片派生到我的代码片

    /** 
    * 函数名称:post_check()  
    * 函数作用:对提交的编辑内容进行处理  
    * 参  数:$post: 要提交的内容  
    * 返 回 值:$post: 返回过滤后的内容  
    */  
    function post_check($post){  
    if(!get_magic_quotes_gpc()){// 判断magic_quotes_gpc是否为打开   
    $post = addslashes($post);// 进行magic_quotes_gpc没有打开的情况对提交数据的过滤   
    }  
    $post = str_replace("_","\_", $post);// 把 ‘_‘过滤掉  
    $post = str_replace("%","\%", $post);// 把 ‘%‘过滤掉  
    $post = nl2br($post);// 回车转换   
    $post = htmlspecialchars($post);// html标记转换   
    return $post;  
    }  

   7、索引应用
         什么情况下考虑索引
         什么情况不适合索引
         一个语句是否用到索引如何判断
        经常发生的用不到索引的场景:
                like %.....
                数据类型隐式转换
                or 关键字加其它条件约束
       全文索引:
                只能用于MYIsAM表,在CHAR,VARCHAR,TEXT类型的列上创建。
      

   8、mysql对于大表(千万级),要怎么优化呢?
        参考http://www.zhihu.com/question/19719997

   9、mysql的慢查询问题
  其实通过慢查询日志来分析是一种比较简单的方式,如果不想看日志,可以借助工具来完成,

如mysqldumpslow, mysqlsla, myprofi, mysql-explain-slow-log, mysqllogfilter等,感觉自己来分析一个需要丰富的经验,一个浪费时间。

10、关于用户登录状态存session,cookie还是数据库或者memcache的优劣 http://www.dewen.org/q/11504/

关于用户登录状态存session%2Ccookie还是数据库或者memcache的优劣

  11、事务应用极端情况处理
  12、sql语言分4大类请列举
        DDL--CREATE,DROP,ALTER
        DML--INSERT,UPDATE,DELETE
        DQL-SELECT
        DCL--GRANT,REVOKE,COMMIT,ROLLBACK
        

二、php基础

      session的跨域共享

        php连接mysql数据库的几种方式及区别
    mysql:面向过程
    mysqli:面向对象
    pdo:可移植性高 
    请参考:php基础系列:PHP连接MySQL数据库用到的三种API


三、php高级

    长连接和短连接的使用

    socket的使用

    支付安全问题

    面向对象
    三大特性:封装、继承、多态(方法重写)。
    抽象类:abstract,至少有一个方法是抽象方法,不能被实例化,为子类定义公共接口。
    接口:interface,解决php的单继承问题,所有方法都是public访问权限的抽象方法,不能声明变量只能声明常量。
    继承一个类的同时实现多个接口
    class A  extends B implements 接口1,接口2...,接口n(){
          //实现所有接口中的方法
    }
    lamp 和 lnmp 网站架构性能差异的原因分析
    解释性语言和编译性语言的性能分析,举例。

四、正则

      email,html,js等匹配

五、开发基础

          进程和线程定义,区别和联系。
           进程的状态:运行run、就绪ready、等待wait

六、Nosql数据库
       memcached、redis、mongodb的区别联系
       3个场景完全不同的东西。1.memcached:单一键值对内存缓存的,做对象缓存无可替代的分布式缓存;2.redis:是算法和数据结构的集合,快速的数据结构操作是他最大的特点,支持数据持久化;3.mongodb是bson结构、介于rdb和nosql之间的,更松散更灵活的,但是不支持事务,只用作非重要数据存储。
     参考 MongoDB 或者 redis 可以替代 memcached 吗?

七、常用linux命令
      比如软链接

八、架构相关

           项目上线前的压力测试,单台服务器支持的并发数,pv数。


           服务器资源合理分配问题

             CPU:Apache
                   MySQL处在高负载环境下,磁盘IO读写过多,肯定会占用很多资源,必然会CPU占用过高。
             内存:内存库,数据库软件
                
             硬盘:文件

           web2.0架构选择

              MongoDB+Redis 或者 MySQL+Memcached 比较好的组合,逻辑简单的就用NOSQL

           当前流行主要网站架构
    LAMP、LNMP、LLMP
    现在网络上还有一种LNAMP构架,也就是综合了nginx和Apache的优点,使用Apache负载PHP,nginx负责解析其他Web请求,使用nginx的rewrite模块,但是Apache端口不对外开放,Apache的许多模块都可以不加载减少资源。

 

以上是关于面试中常问:mysql数据库做哪些优化也提高mysql性能的主要内容,如果未能解决你的问题,请参考以下文章

面试中常问的SQL注入题

面试-MySQL篇:数据库调优

面试季:Java面试中常问的数据库方面问题

Java面试中常问的数据库方面问题

常见的MySQL面试题有哪些?

Java面试中常问的Spring方面问题