最近在忙著優化集團公司的一個報表。優化完成后，報表查詢速度有從半小時以上(甚至查不出)到秒查的質變。從修改SQL查詢語句邏輯到決定創建存儲
過程實現，花了我3天多的時間，在此總結一下，希望對朋友們有幫助。
數據背景首先項目是西門子中國在我司實施部署的MES項目，由于項目是在產線上運作(3 years+)，數據累積很大。在項目的數據庫中，大概上億條數據的表有5個以上，千萬級數據的表10個以上，百萬級數據的表，很多...
(歷史問題，當初實施無人監管，無人監控數據庫這塊的性能問題。ps:我剛入職不久...)
不多說，直接貼西門子中國的開發人員在我司開發的SSRS報表中的SQL語句：
1 select distinct b.MaterialID as matl_def_id, c.Descript, case when right(b.MESOrderID, 12) < '001000000000' then right(b.MESOrderID, 9) 2 else right(b.MESOrderID, 12) end as pom_order_id, a.LotName, a.SourceLotName as ComLot, 3 e.DefID as ComMaterials, e.Descript as ComMatDes, d.VendorID, d.DateCode,d.SNNote, b.OnPlantID,a.SNCUST 4 from 5 ( 6 select m.lotname, m.sourcelotname, m.opetypeid, m.OperationDate,n.SNCUST from View1 m 7 left join co_sn_link_customer as n on n.SNMes=m.LotName 8 where 9 ( m.LotName in (select val from fn_String_To_Table(@sn,',',1)) or (@sn) = '') and 10 ( m.sourcelotname in (select val from fn_String_To_Table(@BatchID,',',1)) or (@BatchID) = '')11 and (n.SNCust like '%'+ @SN_ext + '%' or (@SN_ext)='')12 ) a13 left join 14 (15 select * from Table1 where SNType = 'IntSN'16 and SNRuleName = 'PRoductSNRule'17 and OnPlantID=@OnPlant18 ) b on b.SN = a.LotName19 inner join MMdefinitions as c on c.DefID = b.MaterialID20 left join Table1 as d on d.SN = a.SourceLotName 21 inner join MMDefinitions as e on e.DefID = d.MaterialID22 where not exists (23 select distinct LotName, SourceLotName from ELCV_ASSEMBLE_OPS 24 where LotName = a.SourceLotName and SourceLotName = a.LotName25 ) 26 and (d.DateCode in (select val from fn_String_To_Table(@DCode,',',1)) or (@DCode) = '')27 and (d.SNNote like '%'+@SNNote+'%' or (@SNNote) = '')28 and ((case when right(b.MESOrderID, 12) < '001000000000' then right(b.MESOrderID, 9) 29 else right(b.MESOrderID, 12) end) in (select val from fn_String_To_Table(@order_id,',',1)) or (@order_id) = '')30 and (e.DefID in (select val from fn_String_To_Table(@comdef,',',1)) or (@comdef) = '')31 --View1是一個嵌套兩層的視圖(出于保密性，實際名稱可能不同)，里面有一張上億數據的表和幾張千萬級數據的表做左連接查詢32 --Table1是一個數據記錄超過1500萬的表View Code
這個查詢語句，實際上通過我的檢測和調查，在B/S系統前端已無法查出結果，半小時，一小時 ... 。因為我直接在SQL查詢分析器查，半小時都沒有結果。
(原因是里面對一張上億級數據表和3張千萬級數據表做全表掃描查詢)
不由感慨，西門子中國的素質(或者說責任感)就這樣？
下面說說我的分析和走的彎路(思維誤區)，希望對你也有警醒。
探索和誤區首先相關表的索引，沒有建全的，把索引給建上。
索引這步完成后，發現情況還是一樣，查詢速度幾乎沒有改善。后來想起相關千萬級數據以上的表，都還沒有建立表分區。于是考慮建立表分區以及數據復制的方案。
這里有必要說明下：我司報表用的是一個專門的數據庫服務器，數據從產線訂閱而來。就是常說的“讀寫分離”。
如果直接在原表上建立表分區，你會發現執行表分區的事物會直接死鎖。原因是：表分區操作本身會鎖表，產線還在推數據過來，這樣很容易“阻塞”，“死鎖”。
我想好的方案是：建立一個新表(空表)，在新表上建好表分區，然后復制數據過來。
正打算這么干。等等！我好像進入了一個嚴重的誤區！
分析： 原SQL語句和業務需求，是對產線的數據做產品以及序列號的追溯，關鍵是查詢條件里沒有有規律的"條件"(如日期、編號)，
貿然做了表分區，在這里幾乎沒有意義！反而會降低查詢性能！
好險！還是一步一步來，先做SQL語句分析。
一. 對原SQL語句的分析1. 查詢語句的where條件，有大量@var in ... or (@var ='') 的片段
2. where條件有like '%'+@var+'%'
3. where條件有 case ... end 函數
4. 多次連接同一表查詢，另外使用本身已嵌套的視圖表，是不是必須，是否可替代？
5. SQL語句有*號，視圖中也有*號出現
二. 優化設計首先是用存儲過程改寫，好處是設計靈活。
核心思想是：用一個或多個查詢條件(查詢條件要求至少輸入一個)得到臨時表，每個查詢條件如果查到集合，就更新這張臨時表，最后匯總的時候，
只需判斷這個臨時表是否有值。以此類推，可以建立多個臨時表，將查詢條件匯總。
這樣做目前來看至少兩點好處：1.省去了對變量進行 =@var or (@var='')的判斷；
2.拋棄sql拼接，提高代碼可讀性。
再有就是在書寫存儲過程，這個過程中要注意：
1. 盡量想辦法使用臨時表掃描替代全表掃描；
2. 拋棄in和not in語句，使用exists和not exists替代；
3. 和客戶確認，模糊查詢是否有必要，如沒有必要，去掉like語句；
4. 注意建立適當的，符合場景的索引；
5. 踩死 "*" 號；
6. 避免在where條件中對字段進行函數操作；
7. 對實時性要求不高的報表，允許臟讀(with(nolock))。
三. 存儲過程如果想參考優化設計片段的詳細內容，請參閱SQL代碼：
1 /** 2 * 某某跟蹤報表 3 **/ 4 --exec spName1 '','','','','','','公司代號' 5 CREATE Procedure spName1 6 @MESOrderID nvarchar(320), --工單號,最多30個 7 @LotName nvarchar(700), --產品序列號,最多50個 8 @DateCode nvarchar(500), --供應商批次號,最多30個 9 @BatchID nvarchar(700), --組裝件序列號/物料批號,最多50個 10 @comdef nvarchar(700), --組裝件物料編碼,最多30個 11 @SNCust nvarchar(1600), --外部序列號,最多50個 12 @OnPlant nvarchar(20) --平臺 13 AS 14 BEGIN 15 SET NOCOUNT ON; 16 /** 17 * 1)定義全局的臨時表，先根據六個查詢條件的任意一個，得出臨時表結果 18 **/ 19 CREATE TABLE #FinalLotName 20 ( 21 LotName NVARCHAR(50), --序列號 22 SourceLotName NVARCHAR(50), --來源序列號 23 SNCust NVARCHAR(128) --外部序列號 24 ) 25 --1.1 26 IF @LotName<>'' 27 BEGIN 28 SELECT Val INTO #WorkLot FROM fn_String_To_Table(@LotName,',',1) 29 SELECT LotPK,LotName INTO #WorkLotPK FROM MMLots WITH(NOLOCK) WHERE EXISTS(SELECT 1 FROM #WorkLot b WHERE b.Val=MMLots.LotID) 30 31 --求SourceLotPK只能在這里求 32 SELECT a.LotPK,a.SourceLotPK into #WorkSourcePK FROM MMLotOperations a WITH(NOLOCK) WHERE EXISTS(SELECT 1 FROM #WorkLotPK b WHERE b.LotPK=a.LotPK) AND a.SourceLotPK IS NOT NULL 33 34 SELECT a.LotPK,a.SourceLotPK,b.LotName INTO #WorkSourcePK2 FROM #WorkSourcePK a JOIN #WorkLotPK b ON a.LotPK=b.LotPK 35 36 INSERT INTO #FinalLotName SELECT a.LotName,b.LotName AS SourceLotName,NULL FROM #WorkSourcePK2 a JOIN (SELECT LotPK,LotName FROM MMLots WITH(NOLOCK) ) b on a.SourceLotPK=b.LotPK --b的里面加不加WHERE RowDeleted=0待確定 37 SELECT a.LotName,a.SourceLotName,b.SNCust INTO #FinalLotNameX1 FROM #FinalLotName a LEFT JOIN CO_SN_LINK_CUSTOMER b WITH(NOLOCK) ON a.LotName=b.SNMes 38 DELETE FROM #FinalLotName 39 INSERT INTO #FinalLotName SELECT LotName,SourceLotName,SNCust FROM #FinalLotNameX1 40 END 41 --1.2 42 IF @BatchID<>'' 43 BEGIN 44 SELECT Val INTO #WorkSourceLot FROM fn_String_To_Table(@BatchID,',',1) 45 IF EXISTS(SELECT 1 FROM #FinalLotName)--如果@LotName也不為空 46 BEGIN 47 SELECT a.LotName,a.SourceLotName,a.SNCust INTO #FinalLotNameX2 FROM #FinalLotName a WHERE EXISTS(SELECT 1 FROM #WorkSourceLot b WHERE a.SourceLotName=b.Val) 48 DELETE FROM #FinalLotName 49 INSERT INTO #FinalLotName SELECT LotName,SourceLotName,SNCust FROM #FinalLotNameX2 50 END 51 ELSE --@LotName條件為空 52 BEGIN 53 SELECT LotPK AS SourceLotPK,LotName AS SourceLotName INTO #2 FROM MMLots WITH(NOLOCK) WHERE EXISTS(SELECT 1 FROM #WorkSourceLot b WHERE b.Val=MMLots.LotID) 54 SELECT a.LotPK,a.SourceLotPK into #21 FROM MMLotOperations a WITH(NOLOCK) WHERE EXISTS(SELECT 1 FROM #2 b WHERE b.SourceLotPK=a.SourceLotPK) 55 SELECT a.LotPK,a.SourceLotPK,b.SourceLotName INTO #22 FROM #21 a JOIN #2 b ON a.SourceLotPK=b.SourceLotPK 56 INSERT INTO #FinalLotName SELECT b.LotName,a.SourceLotName,NULL FROM #22 a JOIN (SELECT LotPK,LotName FROM MMLots WITH(NOLOCK) ) b on a.LotPK=b.LotPK --b的里面加不加WHERE RowDeleted=0待確定 57 SELECT a.LotName,a.SourceLotName,b.SNCust INTO #FinalLotNameX21 FROM #FinalLotName a LEFT JOIN CO_SN_LINK_CUSTOMER b WITH(NOLOCK) ON a.LotName=b.SNMes 58 DELETE FROM #FinalLotName 59 INSERT INTO #FinalLotName SELECT LotName,SourceLotName,SNCust FROM #FinalLotNameX21 60 END 61 END 62 --1.3 63 IF @SNCust<>'' 64 BEGIN 65 SELECT Val INTO #WorkCustomSN FROM fn_String_To_Table(@SNCust,',',1) 66
新聞熱點
疑難解答
