某一天,監(jiān)控到mongo數(shù)據(jù)庫cpu使用率高了很多,查了一下,發(fā)現(xiàn)是下面這種語句引起的:
為臨潁等地區(qū)用戶提供了全套網(wǎng)頁設(shè)計制作服務(wù),及臨潁網(wǎng)站建設(shè)行業(yè)解決方案。主營業(yè)務(wù)為網(wǎng)站建設(shè)、網(wǎng)站設(shè)計、臨潁網(wǎng)站設(shè)計,以傳統(tǒng)方式定制建設(shè)網(wǎng)站,并提供域名空間備案等一條龍服務(wù),秉承以專業(yè)、用心的態(tài)度為用戶提供真誠的服務(wù)。我們深信只要達到每一位用戶的要求,就會得到認可,從而選擇與我們長期合作。這樣,我們也可以走得更遠!db.example_collection.find({ "idField" : { "$regex" : "123456789012345678"} , "dateField" : { "$regex" : "2019/10/10"}}) |
通常,遇到這種情況,我第一反應(yīng)是缺少相關(guān)字段的索引,導(dǎo)致每執(zhí)行一次這種語句都會全表掃描一次。
但是我用explain( )語句分析了下,發(fā)現(xiàn)上面所涉及的兩個字段idField、dateField是有索引的,并且該語句也是有使用到索引的。如下為explain( )的結(jié)果:
mgset-11111111:PRIMARY> db.example_collection.find({ "idField" : { "$regex" : "123456789012345678"} , "dateField" : { "$regex" : "2019/10/10"}}).explain("queryPlanner") { "queryPlanner" : { ???? "plannerVersion" : 1, ???? "namespace" : "example_db.example_collection", ???? "indexFilterSet" : false, ???? "parsedQuery" : { ???????????? "$and" : [ ???????????????????? { ???????????????????????????? "idField" : { ???????????????????????????????????? "$regex" : "123456789012345678" ???????????????????????????? } ???????????????????? }, ???????????????????? { ???????????????????????????? "dateField" : { ???????????????????????????????????? "$regex" : "2019/10/10" ???????????????????????????? } ???????????????????? } ???????????? ] ???? }, ???? "winningPlan" : { ???????????? "stage" : "FETCH", ???????????? "inputStage" : { ???????????????????? "stage" : "IXSCAN", ???????????????????? "filter" : { ???????????????????????????? "$and" : [ ???????????????????????????????????? { ???????????????????????????????????????????? "idField" : { ???????????????????????????????????????????????????? "$regex" : "123456789012345678" ???????????????????????????????????????????? } ???????????????????????????????????? }, ???????????????????????????????????? { ???????????????????????????????????????????? "dateField" : { ???????????????????????????????????????????????????? "$regex" : "2019/10/10" ???????????????????????????????????????????? } ???????????????????????????????????? } ???????????????????????????? ] ???????????????????? }, ???????????????????? "keyPattern" : { ???????????????????????????? "idField" : 1, ???????????????????????????? "dateField" : 1 ???????????????????? }, ???????????????????? "indexName" : "idField_1_dateField_1", ???????????????????? "isMultiKey" : false, ???????????????????? "multiKeyPaths" : { ???????????????????????????? "idField" : [ ], ???????????????????????????? "dateField" : [ ] ???????????????????? }, ???????????????????? "isUnique" : false, ???????????????????? "isSparse" : false, ???????????????????? "isPartial" : false, ???????????????????? "indexVersion" : 2, ???????????????????? "direction" : "forward", ???????????????????? "indexBounds" : { ???????????????????????????? "idField" : [ ???????????????????????????????????? "[\"\", {})", ???????????????????????????????????? "[/123456789012345678/, /123456789012345678/]" ???????????????????????????? ], ???????????????????????????? "dateField" : [ ???????????????????????????????????? "[\"\", {})", ???????????????????????????????????? "[/2019/10/10/, /2019/10/10/]" ???????????????????????????? ] ???????????????????? } ???????????? } ???? }, ???? "rejectedPlans" : [ ] }, "ok" : 1 } |
查看mongo的日志發(fā)現(xiàn),這種語句執(zhí)行一次就要800~900ms,的確是比較慢。除非數(shù)據(jù)庫cpu核數(shù)很多,要不然只要這種語句每秒并發(fā)稍微高一點,cpu很快就被占滿了。
之后搜索了下,發(fā)現(xiàn)有可能是正則表達式的問題。原來,雖然該語句的確是使用了索引,但是explain( )語句的輸出中還有一個字段"indexBounds",表示執(zhí)行該語句時所需掃描的索引范圍。說實話,上面那個輸出中,我始終沒看明白它那個索引范圍。上面的語句對idField、dateField這兩個字段都進行了普通的正則表達式匹配,我猜測它應(yīng)該是掃描了整個索引樹,所以導(dǎo)致索引并未實際提升該語句的查詢效率。
我看了下數(shù)據(jù)庫里面的數(shù)據(jù),發(fā)現(xiàn)idField、dateField這兩個字段完全沒有必要進行正則匹配,進行普通的文本匹配就行。將正則匹配操作$regex去掉之后,再分析一下,結(jié)果是這樣的:
mgset-11111111:PRIMARY> db.example_collection.find({ "idField" : "123456789012345678", "dateField" : "2019/10/10"}).explain("queryPlanner") { "queryPlanner" : { ???? "plannerVersion" : 1, ???? "namespace" : "example_db.example_collection", ???? "indexFilterSet" : false, ???? "parsedQuery" : { ???????????? "$and" : [ ???????????????????? { ???????????????????????????? "idField" : { ???????????????????????????????????? "$eq" : "123456789012345678" ???????????????????????????? } ???????????????????? }, ???????????????????? { ???????????????????????????? "dateField" : { ???????????????????????????????????? "$eq" : "2019/10/10" ???????????????????????????? } ???????????????????? } ???????????? ] ???? }, ???? "winningPlan" : { ???????????? "stage" : "FETCH", ???????????? "inputStage" : { ???????????????????? "stage" : "IXSCAN", ???????????????????? "keyPattern" : { ???????????????????????????? "idField" : 1, ???????????????????????????? "dateField" : 1 ???????????????????? }, ???????????????????? "indexName" : "idField_1_dateField_1", ???????????????????? "isMultiKey" : false, ???????????????????? "multiKeyPaths" : { ???????????????????????????? "idField" : [ ], ???????????????????????????? "dateField" : [ ] ???????????????????? }, ???????????????????? "isUnique" : false, ???????????????????? "isSparse" : false, ???????????????????? "isPartial" : false, ???????????????????? "indexVersion" : 2, ???????????????????? "direction" : "forward", ???????????????????? "indexBounds" : { ???????????????????????????? "idField" : [ ???????????????????????????????????? "[\"123456789012345678\", \"123456789012345678\"]" ???????????????????????????? ], ???????????????????????????? "dateField" : [ ???????????????????????????????????? "[\"2019/10/10\", \"2019/10/10\"]" ???????????????????????????? ] ???????????????????? } ???????????? } ???? }, ???? "rejectedPlans" : [ ] }, "ok" : 1 } |
可以看到,仍然使用到了索引,并且索引掃描范圍是僅限于一個值的。
后來跟開發(fā)人員確認了下,該語句確實沒必要使用正則匹配,就讓他把正則匹配去掉了。之后就沒有再出現(xiàn)問題了,mongo慢日志中也未再出現(xiàn)該語句。
另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)建站aaarwkj.com,海內(nèi)外云服務(wù)器15元起步,三天無理由+7*72小時售后在線,公司持有idc許可證,提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國服務(wù)器、虛擬主機、免備案服務(wù)器”等云主機租用服務(wù)以及企業(yè)上云的綜合解決方案,具有“安全穩(wěn)定、簡單易用、服務(wù)可用性高、性價比高”等特點與優(yōu)勢,專為企業(yè)上云打造定制,能夠滿足用戶豐富、多元化的應(yīng)用場景需求。
分享題目:由正則表示式匹配($regex)引起的一次mongo數(shù)據(jù)庫c-創(chuàng)新互聯(lián)
分享鏈接:http://aaarwkj.com/article18/pgjdp.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供手機網(wǎng)站建設(shè)、外貿(mào)網(wǎng)站建設(shè)、定制開發(fā)、定制網(wǎng)站、關(guān)鍵詞優(yōu)化、App設(shè)計
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容