MySQL:什么時候NOT IN不等于NOT EXISTS
當你想對兩個表進行差分運算時,你有兩種選擇:使用NOT EXISTS 的子查詢或者NOT IN 。后者可以說更易于編寫,可以使查詢方法更加明顯。現代數據庫系統可以優化兩種執行計劃從而查詢到類似的結果,可以在外部和內部處理查詢的相關性(我說“現代”,因為在上世紀90年代中期我已經吸取教訓,當時我正在使用Oracle 7.3,它沒有這個功能)。
兩種結構有一個很大的不同:如果子查詢返回的結果為NULL,那么 NOT IN 的條件將不執行,因為 NULL不等于它或不等于其它值。但是如果你注意到這一點,它們是等價的。事實上,這些消息告訴我們,NOT IN 查詢更快,人們更喜歡用它查詢。
這篇文章是關于一個數據庫顯著變慢的情況,而空值正是罪魁禍首。
考慮以下兩個可能是用來追蹤點擊流數據的表。由于我們跟蹤匿名和注冊用戶, EVENTS.USER_ID是可空的。然而,當用戶不空,二級指標標就會具有較高的基數。
- create table USERS
- (
- ID integer auto_increment primary key,
- ...
- )
- create table EVENTS
- (
- ID integer auto_increment primary key,
- TYPE smallint not null,
- USER_ID integer
- ...
- )
- create index EVENTS_USER_IDX on EVENTS(USER_ID);
好的,現在讓我們使用這些表:從一小部分用戶開始,我們想找到那些沒有特定事件的用戶。 使用NOT IN子句,并確保null值不出現在內部結果中,查詢如下所示:
- select ID
- from USERS
- where ID in (1, 7, 2431, 87142, 32768)
- and ID not in
- (
- select USER_ID
- from EVENTS
- where TYPE = 7
- and USER_ID is not null
- );
對于我的測試數據集,USERS表有100,000行,EVENTS表有10,000,000行,并且EVENTS表中大約75%的USER_ID為空。 我在我的筆記本電腦上運行這條查詢,它有一個Core i7處理器,12 GB的RAM和一個SSD。
我一直運行了約2分鐘,這真是...哇。
讓我們用NOT EXISTS和相關的子句替換NOT IN:
- select ID
- from USERS
- where ID in (1, 7, 2431, 87142, 32768)
- and not exists
- (
- select 1
- from EVENTS
- where USER_ID = USERS.ID
- and TYPE = 7
- );
這個版本運行在0.01秒,這比我預期的時間更短。
是時候比較一下執行計劃了。 ***個計劃來自NOT IN查詢,第二個來自NOT EXISTS。
- +----+--------------------+--------+------------+----------------+-----------------+-----------------+---------+------+------+----------+--------------------------+
- | id | select_type | table | partitions | type | possible_keys | key | key_len | ref | rows | filtered | Extra |
- +----+--------------------+--------+------------+----------------+-----------------+-----------------+---------+------+------+----------+--------------------------+
- | 1 | PRIMARY | USERS | NULL | range | PRIMARY | PRIMARY | 4 | NULL | 5 | 100.00 | Using where; Using index |
- | 2 | DEPENDENT SUBQUERY | EVENTS | NULL | index_subquery | EVENTS_USER_IDX | EVENTS_USER_IDX | 5 | func | 195 | 10.00 | Using where |
- +----+--------------------+--------+------------+----------------+-----------------+-----------------+---------+------+------+----------+--------------------------+
執行計劃幾乎相同:都是從USERS表中選擇行,然后使用嵌套循環連接(“DEPENDENT SUBQUERY”)從EVENTS表中檢索行。都聲稱使用EVENTS_USER_IDX在子查詢中選擇行。并且他們在每一步都估計了相似的行數。
但更仔細地查看連接類型。 NOT IN版本使用 index_subquery,而NOT EXISTS版本使用 ref。再查看ref列:NOT EXISTS版本使用了對其它列的顯式引用,而NOT IN使用了一個函數。這里發生了什么?
index_subquery連接類型表示MySQL將掃描索引以查找子查詢的相關行。可能是這個問題嗎?我不這么認為,因為EVENTS_USER_IDX索引是“narrow”類型:它只有一列,所以引擎不應該讀取大量的塊來查找對應的外部查詢的ID行(的確,我嘗試了各種查詢來測試這個索引,并且所有的運行都在幾百分之一秒內)。
為了獲取更多信息,我轉向使用“extended”執行計劃。 要查看此計劃,請使用explain extended作為查詢前綴,并接著使用 show warnings得到被MySQL優化器優化后的查詢語句。 這是從NOT IN查詢得到的(為了清晰重新格式化了):
- /* select#1 */ select `example`.`USERS`.`ID` AS `ID`
- from `example`.`USERS`
- where ((`example`.`USERS`.`ID` in (1,7,2431,87142,32768))
- and (not(
- (`example`.`USERS`.`ID`,
- (
- (
- (`example`.`USERS`.`ID`) in EVENTS on EVENTS_USER_IDX checking NULL where ((`example`.`EVENTS`.`TYPE` = 7) and (`example`.`EVENTS`.`USER_ID` is not null)) having
- (`example`.`EVENTS`.`USER_ID`)))))))
我找不到“on EVENTS_USER_IDX checking NULL”的解釋,但我認為發生的是:優化器認為它正在執行一個IN查詢,可以在結果中包含NULL; 在做出此決定時,它不考慮where子句中的空檢查。 因此,它將檢查(examine)USER_ID為null的750萬行,以及與外部查詢的值匹配的幾十行。 通過“檢查(examine)”,我的意思是它將讀取表行,然后應用不為null條件。 此外,基于運行查詢所花費的時間,我認為它為外部查詢中的每個候選值執行了此操作。
所以,本文的論點是:每當你想在可為空的列上使用IN或NOT IN子查詢時,請重新思考并使用EXISTS或NOT EXISTS代替。