sql質量-九游会j9娱乐平台
a. 如何優化sql語句
一、問題的提出
在應用系統開發初期,由於開發資料庫數據比較少,對於查詢sql語句,復雜視圖的的編寫等體會不出sql語句各種寫法的性能優劣,但是如果將應用系統提交實際應用後,隨著資料庫中數據的增加,系統的響應速度就成為目前系統需要解決的最主要的問題之一。系統優化中一個很重要的方面就是sql語句的優化。對於海量數據,劣質sql語句和優質sql語句之間的速度差別可以達到上百倍,可見對於一個系統不是簡單地能實現其功能就可,而是要寫出高質量的sql語句,提高系統的可用性。
在多數情況下,oracle使用索引來更快地遍歷表,優化器主要根據定義的索引來提高性能。但是,如果在sql語句的where子句中寫的sql代碼不合理,就會造成優化器刪去索引而使用全表掃描,一般就這種sql語句就是所謂的劣質sql語句。在編寫sql語句時我們應清楚優化器根據何種原則來刪除索引,這有助於寫出高性能的sql語句。
二、sql語句編寫注意問題
下面就某些sql語句的where子句編寫中需要注意的問題作詳細介紹。在這些where子句中,即使某些列存在索引,但是由於編寫了劣質的sql,系統在運行該sql語句時也不能使用該索引,而同樣使用全表掃描,這就造成了響應速度的極大降低。
1.
is
null
與
is
not
null
不能用null作索引,任何包含null值的列都將不會被包含在索引中。即使索引有多列這樣的情況下,只要這些列中有一列含有null,該列就會從索引中排除。也就是說如果某列存在空值,即使對該列建索引也不會提高性能。
任何在where子句中使用is
null或is
not
null的語句優化器是不允許使用索引的。
2.
聯接列
對於有聯接的列,即使最後的聯接值為一個靜態值,優化器是不會使用索引的。我們一起來看一個例子,假定有一個職工表(employee),對於一個職工的姓和名分成兩列存放(first_name和last_name),現在要查詢一個叫比爾.柯林頓(bill
cliton)的職工。
下面是一個採用聯接查詢的sql語句,
select
*
from
employss
where
first_name||''||last_name
='beill
cliton';
上面這條語句完全可以查詢出是否有bill
cliton這個員工,但是這里需要注意,系統優化器對基於last_name創建的索引沒有使用。
當採用下面這種sql語句的編寫,oracle系統就可以採用基於last_name創建的索引。
***
where
first_name
='beill'
and
last_name
='cliton';
.
帶通配符(%)的like語句
同樣以上面的例子來看這種情況。目前的需求是這樣的,要求在職工表中查詢名字中包含cliton的人。可以採用如下的查詢sql語句:
select
*
from
employee
where
last_name
like
'%cliton%';
這里由於通配符(%)在搜尋詞首出現,所以oracle系統不使用last_name的索引。在很多情況下可能無法避免這種情況,但是一定要心中有底,通配符如此使用會降低查詢速度。然而當通配符出現在字元串其他位置時,優化器就能利用索引。在下面的查詢中索引得到了使用:
select
*
from
employee
where
last_name
like
'c%';
4.
order
by語句
order
by語句決定了oracle如何將返回的查詢結果排序。order
by語句對要排序的列沒有什麼特別的限制,也可以將函數加入列中(象聯接或者附加等)。任何在order
by語句的非索引項或者有計算表達式都將降低查詢速度。
仔細檢查order
by語句以找出非索引項或者表達式,它們會降低性能。解決這個問題的辦法就是重寫order
by語句以使用索引,也可以為所使用的列建立另外一個索引,同時應絕對避免在order
by子句中使用表達式。
5.
not
我們在查詢時經常在where子句使用一些邏輯表達式,如大於、小於、等於以及不等於等等,也可以使用and(與)、or(或)以及not(非)。not可用來對任何邏輯運算符號取反。下面是一個not子句的例子:
...
where
not
(status
='valid')
如果要使用not,則應在取反的短語前面加上括弧,並在短語前面加上not運算符。not運算符包含在另外一個邏輯運算符中,這就是不等於(<>)運算符。換句話說,即使不在查詢where子句中顯式地加入not詞,not仍在運算符中,見下例:
...
where
status
<>'invalid';
對這個查詢,可以改寫為不使用not:
select
*
from
employee
where
salary<3000
or
salary>3000;
雖然這兩種查詢的結果一樣,但是第二種查詢方案會比第一種查詢方案更快些。第二種查詢允許oracle對salary列使用索引,而第一種查詢則不能使用索引。
雖然這兩種查詢的結果一樣,但是第二種查詢方案會比第一種查詢方案更快些。第二種查詢允許oracle對salary列使用索引,而第一種查詢則不能使用索引。
b. sql server有哪些查詢優化方法
可以通過如下方法來優化查詢 1、把數據、日誌、索引放到不同的i/o設備上,增加讀取速度,以前可以將tempdb應放在raid0上,sql2000不在支持。數據量(尺寸)越大,提高i/o越重要. 2、縱向、橫向分割表,減少表的尺寸(sp_spaceuse) 3、升級硬體 4、根據查詢條件,建立索引,優化索引、優化訪問方式,限制結果集的數據量。注意填充因子要適當(最好是使用默認值0)。索引應該盡量小,使用位元組數小的列建索引好(參照索引的創建),不要對有限的幾個值的欄位建單一索引如性別欄位 5、提高網速; 6、擴大伺服器的內存,windows 2000和sql server 2000能支持4-8g的內存。配置虛擬內存:虛擬內存大小應基於計算機上並發運行的服務進行配置。運行 microsoft sql server? 2000 時,可考慮將虛擬內存大小設置為計算機中安裝的物理內存的 1.5 倍。如果另外安裝了全文檢索功能,並打算運行 microsoft 搜索服務以便執行全文索引和查詢,可考慮:將虛擬內存大小配置為至少是計算機中安裝的物理內存的 3 倍。將 sql server max server memory 伺服器配置選項配置為物理內存的 1.5 倍(虛擬內存大小設置的一半)。 7、 增加伺服器cpu個數;但是必須明白並行處理串列處理更需要資源例如內存。使用並行還是串列程是mssql自動評估選擇的。單個任務分解成多個任務,就可 以在處理器上運行。例如耽擱查詢的排序、連接、掃描和group by字句同時執行,sql server根據系統的負載情況決定最優的並行等級,復雜的需要消耗大量的cpu的查詢最適合並行處理。但是更新操作update,insert, delete還不能並行處理。 8、如果是使用like進行查詢的話,簡單的使用index是不行的,但是全文索引,耗空間。 like 'a%' 使用索引 like '%a' 不使用索引用 like '%a%' 查詢時,查詢耗時和欄位值總長度成正比,所以不能用char類型,而是varchar。對於欄位的值很長的建全文索引。 9、db server 和application server 分離;oltp和olap分離 10、 分布式分區視圖可用於實現資料庫伺服器聯合體。聯合體是一組分開管理的伺服器,但它們相互協作分擔系統的處理負荷。這種通過分區數據形成資料庫伺服器聯合 體的機制能夠擴大一組伺服器,以支持大型的多層 web 站點的處理需要。有關更多信息,參見設計聯合資料庫伺服器。(參照sql幫助文件'分區視圖') a、在實現分區視圖之前,必須先水平分區表 b、在創建成員表後,在每個成員伺服器上定義一個分布式分區視圖,並且每個視圖具有相同的名稱。這樣,引用分布式分區視圖名的查詢可以在任何一個成員服務 器上運行。系統操作如同每個成員伺服器上都有一個原始表的復本一樣,但其實每個伺服器上只有一個成員表和一個分布式分區視圖。數據的位置對應用程序是透明 的。 11、重建索引 dbcc reindex ,dbcc indexdefrag,收縮數據和日誌 dbcc shrinkdb,dbcc shrinkfile. 設置自動收縮日誌.對於大的資料庫不要設置資料庫自動增長,它會降低伺服器的性能。 在t-sql的寫法上有很大的講究,下面列出常見的要點:首先,dbms處理查詢計劃的過程是這樣的:
1、 查詢語句的詞法、語法檢查 2、 將語句提交給dbms的查詢優化器 3、 優化器做代數優化和存取路徑的優化 4、 由預編譯模塊生成查詢規劃 5、 然後在合適的時間提交給系統處理執行 6、 最後將執行結果返回給用戶其次,看一下sql server的數據存放的結構:一個頁面的大小為8k(8060)位元組,8個頁面為一個盤區,按照b樹存放。 12、commit和rollback的區別 rollback:回滾所有的事物。 commit:提交當前的事物. 沒有必要在動態sql里寫事物,如果要寫請寫在外面如: begin tran exec(@s) commit trans 或者將動態sql 寫成函數或者存儲過程。 13、在查詢select語句中用where字句限制返回的行數,避免表掃描,如果返回不必要的數據,浪費了伺服器的i/o資源,加重了網路的負擔降低性能。如果表很大,在表掃描的期間將表鎖住,禁止其他的聯接訪問表,後果嚴重。 14、sql的注釋申明對執行沒有任何影響 15、盡可能不使用游標,它佔用大量的資源。如果需要row-by-row地執行,盡量採用非游標技術,如:在客戶端循環,用臨時表,table變數,用子查詢,用case語句等等。游標可以按照它所支持的提取選項進行分類: 只進 必須按照從第一行到最後一行的順序提取行。fetch next 是唯一允許的提取操作,也是默認方式。可滾動性 可以在游標中任何地方隨機提取任意行。游標的技術在sql2000下變得功能很強大,他的目的是支持循環。
有四個並發選項 read_only:不允許通過游標定位更新(update),且在組成結果集的行中沒有鎖。 optimistic with values: 樂觀並發控制是事務控制理論的一個標准部分。樂觀並發控制用於這樣的情形,即在打開游標及更新行的間隔中,只有很小的機會讓第二個用戶更新某一行。當某個 游標以此選項打開時,沒有鎖控制其中的行,這將有助於最大化其處理能力。如果用戶試圖修改某一行,則此行的當前值會與最後一次提取此行時獲取的值進行比 較。如果任何值發生改變,則伺服器就會知道其他人已更新了此行,並會返回一個錯誤。如果值是一樣的,伺服器就執行修改。 選擇這個並發選項optimistic with row versioning:此樂觀並發控制選項基於行版本控制。使用行版本控制,其中的表必須具有某種版本標識符,伺服器可用它來確定該行在讀入游標後是否有所更改。 在 sql server 中,這個性能由 timestamp 數據類型提供,它是一個二進制數字,表示資料庫中更改的相對順序。每個資料庫都有一個全局當前時間戳值:@@dbts。每次以任何方式更改帶有 timestamp 列的行時,sql server 先在時間戳列中存儲當前的 @@dbts 值,然後增加 @@dbts 的值。如果某 個表具有 timestamp 列,則時間戳會被記到行級。伺服器就可以比較某行的當前時間戳值和上次提取時所存儲的時間戳值,從而確定該行是否已更新。伺服器不必比較所有列的值,只需比較 timestamp 列即可。如果應用程序對沒有 timestamp 列的表要求基於行版本控制的樂觀並發,則游標默認為基於數值的樂觀並發控制。 scroll locks 這個選項實現悲觀並發控制。在悲觀並發控制中,在把資料庫的行讀入游標結果集時,應用程序將試圖鎖定資料庫行。在使用伺服器游標時,將行讀入游標時會在其 上放置一個更新鎖。如果在事務內打開游標,則該事務更新鎖將一直保持到事務被提交或回滾;當提取下一行時,將除去游標鎖。如果在事務外打開游標,則提取下 一行時,鎖就被丟棄。因此,每當用戶需要完全的悲觀並發控制時,游標都應在事務內打開。更新鎖將阻止任何其它任務獲取更新鎖或排它鎖,從而阻止其它任務更 新該行。 然而,更新鎖並不阻止共享鎖,所以它不會阻止其它任務讀取行,除非第二個任務也在要求帶更新鎖的讀取。滾動鎖根據在游標定義的 select 語句中指定的鎖提示,這些游標並發選項可以生成滾動鎖。滾動鎖在提取時在每行上獲取,並保持到下次提取或者游標關閉,以先發生者為准。下次提取時,伺服器 為新提取中的行獲取滾動鎖,並釋放上次提取中行的滾動鎖。滾動鎖獨立於事務鎖,並可以保持到一個提交或回滾操作之後。如果提交時關閉游標的選項為關, 則 commit 語句並不關閉任何打開的游標,而且滾動鎖被保留到提交之後,以維護對所提取數據的隔離。所獲取滾動鎖的類型取決於游標並發選項和游標 select 語句中的鎖提示。 鎖提示 只讀 樂觀數值 樂觀行版本控制 鎖定無提示 未鎖定 未鎖定 未鎖定 更新 nolock 未鎖定 未鎖定 未鎖定 未鎖定 holdlock 共享 共享 共享 更新 updlock 錯誤 更新 更新 更新 tablockx 錯誤 未鎖定 未鎖定 更新其它 未鎖定 未鎖定 未鎖定 更新 *指定 nolock 提示將使指定了該提示的表在游標內是只讀的。
16、用profiler來跟蹤查詢,得到查詢所需的時間,找出sql的問題所在;用索引優化器優化索引 17、注意union和union all 的區別。union all好 18、注意使用distinct,在沒有必要時不要用,它同union一樣會使查詢變慢。重復的記錄在查詢里是沒有問題的 19、查詢時不要返回不需要的行、列 20、用sp_configure 'query governor cost limit'或者set query_governor_cost_limit來限制查詢消耗的資源。當評估查詢消耗的資源超出限制時,伺服器自動取消查詢,在查詢之前就扼殺掉。 set locktime設置鎖的時間 21、用select top 100 / 10 percent 來限制用戶返回的行數或者set rowcount來限制操作的行 22、在sql2000以前,一般不要用如下的字句: "is null", " <> ", "!=", "!> ", "! <", "not", "not exists", "not in", "not like", and "like 'p0'",因為他們不走索引全是表掃描。也不要在where字句中的列名加函數,如convert,substring等,如果必須用函數的時候,創建計算列再創建索引來替代.還可以變通寫法:where substring(firstname,1,1) = 'm'改為where firstname like 'm%'(索引掃描),一定要將函數和列名分開。並且索引不能建得太多和太大。not in會多次掃描表,使用exists、not exists ,in , left outer join 來替代,特別是左連接,而exists比in更快,最慢的是not操作.如果列的值含有空,以前它的索引不起作用,現在2000的優化器能夠處理了。相同的是is null,「not", "not exists", "not in"能優化她,而」 <> 」等還是不能優化,用不到索引。 23、使用query analyzer,查看sql語句的查詢計劃和評估分析是否是優化的sql。一般的20%的代碼占據了80%的資源,我們優化的重點是這些慢的地方。 24、如果使用了in或者or等時發現查詢沒有走索引,使用顯示申明指定索引: select * from personmember (index = ix_title) where processid in (『男』,『女』) 25、將需要查詢的結果預先計算好放在表中,查詢的時候再select。這在sql7.0以前是最重要的手段。例如醫院的住院費計算。 26、min() 和 max()能使用到合適的索引 27、資料庫有一個原則是代碼離數據越近越好,所以優先選擇default,依次為rules,triggers, constraint(約束如外健主健checkunique……,數據類型的最大長度等等都是約束),procere.這樣不僅維護工作小,編寫程序質量高,並且執行的速度快。 28、如果要插入大的二進制值到image列,使用存儲過程,千萬不要用內嵌insert來插入(不知java是否)。因為這樣應用程序首先將二進制值轉換成字元串(尺寸是它的兩倍),伺服器受到字元後又將他轉換成二進制值.存儲過程就沒有這些動作: 方法:create procere p_insert as insert into table(fimage) values (@image), 在前台調用這個存儲過程傳入二進制參數,這樣處理速度明顯改善。 29、between在某些時候比in速度更快,between能夠更快地根據索引找到范圍。用查詢優化器可見到差別。 select * from chineseresume where title in ('男','女') select * from chineseresume where between '男' and '女' 是一樣的。由於in會在比較多次,所以有時會慢些。 30、在必要是對全局或者局部臨時表創建索引,有時能夠提高速度,但不是一定會這樣,因為索引也耗費大量的資源。他的創建同是實際表一樣。 31、不要建沒有作用的事物例如產生報表時,浪費資源。只有在必要使用事物時使用它。 32、 用or的字句可以分解成多個查詢,並且通過union 連接多個查詢。他們的速度只同是否使用索引有關,如果查詢需要用到聯合索引,用union all執行的效率更高.多個or的字句沒有用到索引,改寫成union的形式再試圖與索引匹配。一個關鍵的問題是否用到索引。 33、 盡量少用視圖,它的效率低。對視圖操作比直接對表操作慢,可以用stored procere來代替她。特別的是不要用視圖嵌套,嵌套視圖增加了尋找原始資料的難度。我們看視圖的本質:它是存放在伺服器上的被優化好了的已經產生 了查詢規劃的sql。對單個表檢索數據時,不要使用指向多個表的視圖,直接從表檢索或者僅僅包含這個表的視圖上讀,否則增加了不必要的開銷,查詢受到干 擾.為了加快視圖的查詢,mssql增加了視圖索引的功能。 34、沒有必要時不要用distinct和order by,這些動作可以改在客戶端執行。它們增加了額外的開銷。這同union 和union all一樣的道理。 select top 20 ad.companyname,comid,position,ad.referenceid,worklocation, convert(varchar(10),ad.postdate,120) as postdate1,workyear,degreedescription from jobcn_query.dbo.companyad_query ad where referenceid in('jcnad00329667','jcnad132168','jcnad00337748','jcnad00338345','jcnad00333138','jcnad00303570', 'jcnad00303569','jcnad00303568','jcnad00306698','jcnad00231935','jcnad00231933','jcnad00254567', 'jcnad00254585','jcnad00254608','jcnad00254607','jcnad00258524','jcnad00332133','jcnad00268618', 'jcnad00279196','jcnad00268613') order by postdate desc 35、在in後面值的列表中,將出現最頻繁的值放在最前面,出現得最少的放在最後面,減少判斷的次數 36、當用select into時,它會鎖住系統表(sysobjects,sysindexes等等),阻塞其他的連接的存取。創建臨時表時用顯示申明語句,而不是 select into. drop table t_lxh begin tran select * into t_lxh from chineseresume where name = 'xyz' --commit 在另一個連接中select * from sysobjects可以看到 select into 會鎖住系統表,create table 也會鎖系統表(不管是臨時表還是系統表)。所以千萬不要在事物內使用它!!!這樣的話如果是經常要用的臨時表請使用實表,或者臨時表變數。 37、一般在group by 個having字句之前就能剔除多餘的行,所以盡量不要用它們來做剔除行的工作。他們的執行順序應該如下最優:select 的where字句選擇所有合適的行,group by用來分組個統計行,having字句用來剔除多餘的分組。這樣group by 個having的開銷小,查詢快.對於大的數據行進行分組和having十分消耗資源。如果group by的目的不包括計算,只是分組,那麼用distinct更快 38、一次更新多條記錄比分多次更新每次一條快,就是說批處理好 39、少用臨時表,盡量用結果集和table類性的變數來代替它,table 類型的變數比臨時表好 40、在sql2000下,計算欄位是可以索引的,需要滿足的條件如下: a、計算欄位的表達是確定的 b、不能用在text,ntext,image數據類型 c、必須配製如下選項 ansi_nulls = on, ansi_paddings = on, ……. 41、 盡量將數據的處理工作放在伺服器上,減少網路的開銷,如使用存儲過程。存儲過程是編譯好、優化過、並且被組織到一個執行規劃里、且存儲在資料庫中的 sql語句,是控制流語言的集合,速度當然快。反復執行的動態sql,可以使用臨時存儲過程,該過程(臨時表)被放在tempdb中。以前由於sql server對復雜的數學計算不支持,所以不得不將這個工作放在其他的層上而增加網路的開銷。sql2000支持udfs,現在支持復雜的數學計算,函數 的返回值不要太大,這樣的開銷很大。用戶自定義函數象游標一樣執行的消耗大量的資源,如果返回大的結果採用存儲過程 42、不要在一句話里再三的使用相同的函數,浪費資源,將結果放在變數里再調用更快