服务器之家:专注于服务器技术及软件下载分享
分类导航

Mysql|Sql Server|Oracle|Redis|MongoDB|PostgreSQL|Sqlite|DB2|mariadb|Access|数据库技术|

服务器之家 - 数据库 - MongoDB - MongoDB使用profile分析慢查询的步骤

MongoDB使用profile分析慢查询的步骤

2021-07-25 21:58DBA随笔 MongoDB

这篇文章主要介绍了MongoDB profile分析慢查询的示例,帮助大家更好的理解和学习使用MongoDB数据库,感兴趣的朋友可以了解下

      在mongodb中,如果发生了慢查询,我们如何得到这些慢查询的语句,并优化呢?今天来看这块儿的一些心得。

01 如何收集慢查询?

    在mongodb中,通常可以开启profile来收集慢日志,查看当前profile状态的语句如下:

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
test1:primary> db.getprofilingstatus()
{
        "was" : 2,
        "slowms" : 0,
        "samplerate" : 1,
        "$glestats" : {
                "lastoptime" timestamp(0, 0),
                "electionid" : objectid("7fffffff0000000000000005")
        },
        "lastcommittedoptime" timestamp(1619186976, 2),
        "$configserverstate" : {
                "optime" : {
                        "ts" timestamp(1619186976, 1),
                        "t" : numberlong(2)
                }
        },
        "$clustertime" : {
                "clustertime" timestamp(1619186976, 2),
                "signature" : {
                        "hash" : bindata(0,"zvwfpgc0kfxiempj7mbpdrononi="),
                        "keyid" : numberlong("6904838687771590657")
                }
        },
        "operationtime" timestamp(1619186976, 2)
}

这里我们可以看到2个关键参数,分别是was和slowms,其中:

was=0,代表不记录任何的语句;

was=1,代表记录执行时间超过slowms的语句

was=2,代表记录所有的语句

slowms代表语句的阈值,单位是ms

上图中的结果代表我们的实例会收集所有的查询语句。profile收集的查询语句结果存放在admin数据库中的system.profile集合中,可以通过下面的方法进行访问:

?
1
2
3
4
5
6
7
8
9
10
11
12
13
test1:primary> use admin
switched to db admin
 
test1:primary> db.system.profile.find({'op':'query'},{'op':1,'ns':1,'millis':1,'ts':1})
"op" "query""ns" "admin.system.users""millis" : 0, "ts" : isodate("2020-08-27t07:22:14.815z") }
"op" "query""ns" "admin.system.users""millis" : 0, "ts" : isodate("2020-08-27t07:22:15.139z") }
"op" "query""ns" "admin.system.users""millis" : 0, "ts" : isodate("2020-08-27t07:22:15.141z") }
"op" "query""ns" "admin.system.users""millis" : 0, "ts" : isodate("2020-08-27t07:22:15.239z") }
"op" "query""ns" "admin.system.version""millis" : 0, "ts" : isodate("2020-08-27t07:22:16.155z") }
"op" "query""ns" "admin.system.version""millis" : 0, "ts" : isodate("2020-08-27t07:22:16.192z") }
"op" "query""ns" "admin.system.users""millis" : 0, "ts" : isodate("2020-08-27t07:22:16.225z") }
"op" "query""ns" "admin.system.users""millis" : 0, "ts" : isodate("2020-08-27t07:22:16.273z") }
"op" "query""ns" "admin.system.version""millis" : 0, "ts" : isodate("2020-08-27t07:22:16.276z") }

02 system.profile慢查询集合分析

   admin数据库中的system.profile是一个固定集合,保存着超过设置的慢查询的结果。我们来看里面的一条慢查询。

    利用下面的方法,来拿到一条数据,并对其中的关键字段进行注释说明:

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
test1:primary> db.system.profile.findone({'op':'query'})
{
        "op" "query",  # 操作类型
        "ns" "admin.system.users",  # 命名空间
        "command" : {
                "find" "system.users",
                "filter" : {
                        "_id" "admin.root"  # 过滤的字段
                },
                "limit" : 1,
                "singlebatch" true,
                "lsid" : {
                        "id" : uuid("a6034f5e-77c1-4b19-9669-60e1253edf4b")
                },
                "$readpreference" : {
                        "mode" "secondarypreferred"
                },
                "$db" "admin"
        },
        "keysexamined" : 1,   # 扫描的索引数
        "docsexamined" : 1,   # 扫描的行数
        "cursorexhausted" true,  
        "numyield" : 0,
        "nreturned" : 1,   # 返回的值的行数
        "locks" : {
                xxxx   #  锁信息
        },
        "flowcontrol" : {
 
        },
        "storage" : {
        },
        "responselength" : 647,
        "protocol" "op_query",
        "millis" : 0,    # 这个查询的执行时间,因为我们设置的profilestatus是0,因此所有操作都被记录了。
        "plansummary" "idhack",  # 针对_id进行查询
        "execstats" : {   # 查询执行状态
                "stage" "idhack",
                "nreturned" : 1,
                "executiontimemillisestimate" : 0,
                "works" : 2,
                "advanced" : 1,
                "needtime" : 0,
                "needyield" : 0,
                "savestate" : 0,
                "restorestate" : 0,
                "iseof" : 1,
                "keysexamined" : 1,
                "docsexamined" : 1
        },
        "ts" : isodate("2020-08-27t07:22:14.815z"),
        "client" "xx.xx.xx.xx",  # 查询的客户端ip地址
        "allusers" : [   #  所有的用户信息
                {
                        "user" "root",
                        "db" "admin"
                }
        ],
        "user" "root@admin"   # 使用的用户信息
}

03 慢查询分析利器---explain

   通常情况下,我们可以使用mongodb的explain语法来分析一个语句的查询性能,包含是否用到索引、扫描行数等信息,explain语法的基本用法:

?
1
2
3
4
后置写法
db.system.profile.find({'op':'query'}).explain()
前置写法
db.system.profile.explain().find({'op':'query'})

其中,explain可以放在查询语句的后面或者前面,当然find语法也可以是update、remove、insert

explain语法的输出分为3种不同的详细程度,分别如下:

三种清晰度模式,清晰度越高,则输出的信息越全,默认情况下是queryplanner:

1、queryplanner模式(默认)
db.products.explain().count( { quantity: { $gt: 50 } } )

2、executionstats模式
db.products.explain("executionstats").count( { quantity: { $gt: 50 } } )

3、allplansexecution模式
db.products.explain("allplansexecution").count( { quantity: { $gt: 50 } } )

其中,allplansexecution模式输出的信息最多。

下面是一个explain语法的输出内容,查询的sql如下:

?
1
2
3
4
5
db.getcollection('files').find(
{"ctime":{
           "$gte":isodate("2021-04-18"),
           "$lt":isodate("2021-04-19")
       }}).limit(1000).explain("allplansexecution")

输出的结果如下:

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
{
        "queryplanner" : {   # 代表查询的执行计划
                "plannerversion" : 1,   # 版本号
                "namespace" "fs.files",   # 查询的命名空间,也就是集合名称
                "indexfilterset" false,   # 是否使用了索引过滤,注意,它并不能判定是否使用了索引
                "parsedquery" : {    # 查询语法解析树
                        "$and" : [
                                {
                                        "ctime" : {
                                                "$lt" : isodate("2021-04-19t00:00:00z")
                                        }
                                },
                                {
                                        "ctime" : {
                                                "$gte" : isodate("2021-04-18t00:00:00z")
                                        }
                                }
                        ]
                },
                "winningplan" : {    # 最终选择的查询计划
                        "stage" "limit",   # 查询的阶段,很重要,下面详细介绍
                        "limitamount" : 1000,   # 查询结果的limit值
                        "inputstage" : {
                                "stage" "fetch",
                                "inputstage" : {
                                        "stage" "ixscan",  # 代表索引扫描
                                        "keypattern" : {
                                                "ctime" : 1
                                        },
                                        "indexname" "ctime_1",  #  索引名称
                                        "ismultikey" false,    # 下面4个字段都是索引类型分析
                                        "isunique" false,
                                        "issparse" false,
                                        "ispartial" false,
                                        "indexversion" : 1,
                                        "direction" "forward",
                                        "indexbounds" : {
                                                "ctime" : [
                                                        "[new date(1618704000000), new date(1618790400000))"
                                                ]
                                        }
                                }
                        }
                },
                "rejectedplans" : [ ]  # 候选的没被选中的查询计划
        },
        "serverinfo" : {
                "host" "xxxx",
                "port" : 24999,
                "version" "3.2.8",
                "gitversion" "ed70e33130c977bda0024c125b56d159573dbaf0"
        },
        "ok" : 1
}

首先解释下stage的几个阶段:

  1. collscan---全表扫描
  2. ixscan---索引扫描
  3. fetch---根据索引去检索文档
  4. shard_merge---合并分片结果
  5. idhack---针对id进行查询
  6. limit---执行limit

了解了这些stage的阶段之后,我们可以看到,一个查询的过程是一层一层解析的,所以可以看到,stage这个字段有嵌套的情况。winningplan中的执行计划也是按照一层一层的顺序去执行:

1、先执行最内层的索引扫描(ixscan);

2、再执行外面的fetch,根据索引去拿文档

3、执行最后一步的limit,取指定数目个结果返回给客户端

以上就是mongodb profile分析慢查询的示例的详细内容,更多关于mongodb profile分析慢查询的资料请关注服务器之家其它相关文章!

延伸 · 阅读

精彩推荐
  • MongoDBMongoDB系列教程(五):mongo语法和mysql语法对比学习

    MongoDB系列教程(五):mongo语法和mysql语法对比学习

    这篇文章主要介绍了MongoDB系列教程(五):mongo语法和mysql语法对比学习,本文对熟悉Mysql数据库的同学来说帮助很大,用对比的方式可以快速学习到MongoDB的命...

    MongoDB教程网3252020-05-01
  • MongoDBWindows下MongoDB配置用户权限实例

    Windows下MongoDB配置用户权限实例

    这篇文章主要介绍了Windows下MongoDB配置用户权限实例,本文实现需要输入用户名、密码才可以访问MongoDB数据库,需要的朋友可以参考下 ...

    MongoDB教程网3082020-04-29
  • MongoDBMongodb索引的优化

    Mongodb索引的优化

    MongoDB 是一个基于分布式文件存储的数据库。由 C++ 语言编写。接下来通过本文给大家介绍Mongodb索引的优化,本文介绍的非常详细,具有参考借鉴价值,感...

    MRR3252020-05-05
  • MongoDBmongodb数据库基础知识之连表查询

    mongodb数据库基础知识之连表查询

    这篇文章主要给大家介绍了关于mongodb数据库基础知识之连表查询的相关资料,文中通过示例代码介绍的非常详细,对大家学习或者使用mongodb具有一定的参...

    ZJW02155642020-05-22
  • MongoDBMongoDB多条件模糊查询示例代码

    MongoDB多条件模糊查询示例代码

    这篇文章主要给大家介绍了关于MongoDB多条件模糊查询的相关资料,文中通过示例代码介绍的非常详细,对大家学习或者使用MongoDB具有一定的参考学习价值...

    浅夏晴空5902020-05-25
  • MongoDBMongoDB的索引

    MongoDB的索引

    数据库中的索引就是用来提高查询操作的性能,但是会影响插入、更新和删除的效率,因为数据库不仅要执行这些操作,还要负责索引的更新 ...

    MongoDB教程网2532020-05-12
  • MongoDB在mac系统下安装与配置mongoDB数据库

    在mac系统下安装与配置mongoDB数据库

    这篇文章主要介绍了在mac系统下安装与配置mongoDB数据库的操作步骤,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪...

    CXYhh1219312021-11-14
  • MongoDBMongoDB查询之高级操作详解(多条件查询、正则匹配查询等)

    MongoDB查询之高级操作详解(多条件查询、正则匹配查询等)

    这篇文章主要给大家介绍了关于MongoDB查询之高级操作(多条件查询、正则匹配查询等)的相关资料,文中通过示例代码介绍的非常详细,对大家的学习或者...

    w田翔3872020-12-19