資料庫優化,自己瞎扒的

資料庫優化,自己瞎扒的

來自專欄 Python程序員8 人贊了文章

1. 主鍵 超鍵 候選鍵 外鍵

主 鍵：

資料庫表中對儲存數據對象予以唯一和完整標識的數據列或屬性的組合。一個數據列只能有一個主鍵，且主鍵的取值不能缺失，即不能為空值（Null）。

超 鍵：

在關係中能唯一標識元組的屬性集稱為關係模式的超鍵。一個屬性可以為作為一個超鍵，多個屬性組合在一起也可以作為一個超鍵。超鍵包含候選鍵和主鍵。

候選鍵：

是最小超鍵，即沒有冗餘元素的超鍵。

外 鍵：

在一個表中存在的另一個表的主鍵稱此表的外鍵。

2.資料庫事務的四個特性及含義

資料庫事務transanction正確執行的四個基本要素。ACID,原子性(Atomicity)、一致性(Correspondence)、隔離性(Isolation)、持久性(Durability)。

原子性:整個事務中的所有操作，要麼全部完成，要麼全部不完成，不可能停滯在中間某個環節。事務在執行過程中發生錯誤，會被回滾（Rollback）到事務開始前的狀態，就像這個事務從來沒有執行過一樣。

一致性:在事務開始之前和事務結束以後，資料庫的完整性約束沒有被破壞。

隔離性:隔離狀態執行事務，使它們好像是系統在給定時間內執行的唯一操作。如果有兩個事務，運行在相同的時間內，執行 相同的功能，事務的隔離性將確保每一事務在系統中認為只有該事務在使用系統。這種屬性有時稱為串列化，為了防止事務操作間的混淆，必須串列化或序列化請 求，使得在同一時間僅有一個請求用於同一數據。

持久性:在事務完成以後，該事務所對資料庫所作的更改便持久的保存在資料庫之中，並不會被回滾。

3.視圖的作用，視圖可以更改么？

視圖是虛擬的表，與包含數據的表不一樣，視圖只包含使用時動態檢索數據的查詢；不包含任何列或數據。使用視圖可以簡化複雜的sql操作，隱藏具體的細節，保護數據；視圖創建後，可以使用與表相同的方式利用它們。

視圖不能被索引，也不能有關聯的觸發器或默認值，如果視圖本身內有order by 則對視圖再次order by將被覆蓋。

創建視圖：create view XXX as XXXXXXXXXXXXXX;

對於某些視圖比如未使用聯結子查詢分組聚集函數Distinct Union等，是可以對其更新的，對視圖的更新將對基表進行更新；但是視圖主要用於簡化檢索，保護數據，並不用於更新，而且大部分視圖都不可以更新。

4.drop,delete與truncate的區別

drop直接刪掉表 truncate刪除表中數據，再插入時自增長id又從1開始 delete刪除表中數據，可以加where字句。

（1） DELETE語句執行刪除的過程是每次從表中刪除一行，並且同時將該行的刪除操作作為事務記錄在日誌中保存以便進行進行回滾操作。TRUNCATE TABLE 則一次性地從表中刪除所有的數據並不把單獨的刪除操作記錄記入日誌保存，刪除行是不能恢復的。並且在刪除的過程中不會激活與表有關的刪除觸發器。執行速度快。

（2） 表和索引所佔空間。當表被TRUNCATE 後，這個表和索引所佔用的空間會恢復到初始大小，而DELETE操作不會減少表或索引所佔用的空間。drop語句將表所佔用的空間全釋放掉。

（3） 一般而言，drop > truncate > delete

（4） 應用範圍。TRUNCATE 只能對TABLE；DELETE可以是table和view

（5） TRUNCATE 和DELETE只刪除數據，而DROP則刪除整個表（結構和數據）。

（6） truncate與不帶where的delete ：只刪除數據，而不刪除表的結構（定義）drop語句將刪除表的結構被依賴的約束（constrain),觸發器（trigger)索引（index);依賴於該表的存儲過程/函數將被保留，但其狀態會變為：invalid。

（7） delete語句為DML（data maintain Language),這個操作會被放到 rollback segment中,事務提交後才生效。如果有相應的 tigger,執行的時候將被觸發。

（8） truncate、drop是DLL（data define language),操作立即生效，原數據不放到 rollback segment中，不能回滾

（9） 在沒有備份情況下，謹慎使用 drop 與 truncate。要刪除部分數據行採用delete且注意結合where來約束影響範圍。回滾段要足夠大。要刪除表用drop;若想保留表而將表中數據刪除，如果於事務無關，用truncate即可實現。如果和事務有關，或老師想觸發trigger,還是用delete。

（10） Truncate table 表名 速度快,而且效率高,因為:

truncate table 在功能上與不帶 WHERE 子句的 DELETE 語句相同：二者均刪除表中的全部行。但 TRUNCATE TABLE 比 DELETE 速度快，且使用的系統和事務日誌資源少。DELETE 語句每次刪除一行，並在事務日誌中為所刪除的每行記錄一項。TRUNCATE TABLE 通過釋放存儲表數據所用的數據頁來刪除數據，並且只在事務日誌中記錄頁的釋放。

（11） TRUNCATE TABLE 刪除表中的所有行，但表結構及其列、約束、索引等保持不變。新行標識所用的計數值重置為該列的種子。如果想保留標識計數值，請改用 DELETE。如果要刪除表定義及其數據，請使用 DROP TABLE 語句。

（12） 對於由 FOREIGN KEY 約束引用的表，不能使用 TRUNCATE TABLE，而應使用不帶 WHERE 子句的 DELETE 語句。由於 TRUNCATE TABLE 不記錄在日誌中，所以它不能激活觸發器。

5.索引的工作原理及其種類

資料庫索引，是資料庫管理系統中一個排序的數據結構，以協助快速查詢、更新資料庫表中數據。索引的實現通常使用B樹及其變種B+樹。

在數據之外，資料庫系統還維護著滿足特定查找演算法的數據結構，這些數據結構以某種方式引用（指向）數據，這樣就可以在這些數據結構上實現高級查找演算法。這種數據結構，就是索引。

為表設置索引要付出代價的：一是增加了資料庫的存儲空間，二是在插入和修改數據時要花費較多的時間(因為索引也要隨之變動)。

上圖展示了一種可能的索引方式。左邊是數據表，一共有兩列七條記錄，最左邊的是數據記錄的物理地址（注意邏輯上相鄰的記錄在磁碟上也並不是一定物理相鄰的）。為了加快Col2的查找，可以維護一個右邊所示的二叉查找樹，每個節點分別包含索引鍵值和一個指向對應數據記錄物理地址的指針，這樣就可以運用二叉查找在O(log2n)的複雜度內獲取到相應數據。

創建索引可以大大提高系統的性能。

第一，通過創建唯一性索引，可以保證資料庫表中每一行數據的唯一性。

第二，可以大大加快數據的檢索速度，這也是創建索引的最主要的原因。

第三，可以加速表和表之間的連接，特別是在實現數據的參考完整性方面特別有意義。

第四，在使用分組和排序子句進行數據檢索時，同樣可以顯著減少查詢中分組和排序的時間。

第五，通過使用索引，可以在查詢的過程中，使用優化隱藏器，提高系統的性能。

也許會有人要問：增加索引有如此多的優點，為什麼不對表中的每一個列創建一個索引呢？因為，增加索引也有許多不利的方面。

第一，創建索引和維護索引要耗費時間，這種時間隨著數據量的增加而增加。

第二，索引需要佔物理空間，除了數據表占數據空間之外，每一個索引還要佔一定的物理空間，如果要建立聚簇索引，那麼需要的空間就會更大。

第三，當對表中的數據進行增加、刪除和修改的時候，索引也要動態的維護，這樣就降低了數據的維護速度。

索引是建立在資料庫表中的某些列的上面。在創建索引的時候，應該考慮在哪些列上可以創建索引，在哪些列上不能創建索引。一般來說，應該在這些列上創建索引：在經常需要搜索的列上，可以加快搜索的速度；在作為主鍵的列上，強制該列的唯一性和組織表中數據的排列結構；在經常用在連接的列上，這些列主要是一些外鍵，可以加快連接的速度；在經常需要根據範圍進行搜索的列上創建索引，因為索引已經排序，其指定的範圍是連續的；在經常需要排序的列上創建索引，因為索引已經排序，這樣查詢可以利用索引的排序，加快排序查詢時間；在經常使用在WHERE子句中的列上面創建索引，加快條件的判斷速度。

同樣，對於有些列不應該創建索引。一般來說，不應該創建索引的的這些列具有下列特點：

第一，對於那些在查詢中很少使用或者參考的列不應該創建索引。這是因為，既然這些列很少使用到，因此有索引或者無索引，並不能提高查詢速度。相反，由於增加了索引，反而降低了系統的維護速度和增大了空間需求。

第二，對於那些只有很少數據值的列也不應該增加索引。這是因為，由於這些列的取值很少，例如人事表的性別列，在查詢的結果中，結果集的數據行佔了表中數據行的很大比例，即需要在表中搜索的數據行的比例很大。增加索引，並不能明顯加快檢索速度。

第三，對於那些定義為text, image和bit數據類型的列不應該增加索引。這是因為，這些列的數據量要麼相當大，要麼取值很少。

第四，當修改性能遠遠大於檢索性能時，不應該創建索引。這是因為，修改性能和檢索性能是互相矛盾的。當增加索引時，會提高檢索性能，但是會降低修改性能。當減少索引時，會提高修改性能，降低檢索性能。因此，當修改性能遠遠大於檢索性能時，不應該創建索引。

根據資料庫的功能，可以在資料庫設計器中創建三種索引：唯一索引、主鍵索引和聚集索引。

唯一索引

唯一索引是不允許其中任何兩行具有相同索引值的索引。

當現有數據中存在重複的鍵值時，大多數資料庫不允許將新創建的唯一索引與表一起保存。資料庫還可能防止添加將在表中創建重複鍵值的新數據。例如，如果在employee表中職員的姓(lname)上創建了唯一索引，則任何兩個員工都不能同姓。 主鍵索引 資料庫表經常有一列或列組合，其值唯一標識表中的每一行。該列稱為表的主鍵。 在資料庫關係圖中為表定義主鍵將自動創建主鍵索引，主鍵索引是唯一索引的特定類型。該索引要求主鍵中的每個值都唯一。當在查詢中使用主鍵索引時，它還允許對數據的快速訪問。 聚集索引 在聚集索引中，表中行的物理順序與鍵值的邏輯（索引）順序相同。一個表只能包含一個聚集索引。

如果某索引不是聚集索引，則表中行的物理順序與鍵值的邏輯順序不匹配。與非聚集索引相比，聚集索引通常提供更快的數據訪問速度。

局部性原理與磁碟預讀

由於存儲介質的特性，磁碟本身存取就比主存慢很多，再加上機械運動耗費，磁碟的存取速度往往是主存的幾百分分之一，因此為了提高效率，要盡量減少磁碟I/O。為了達到這個目的，磁碟往往不是嚴格按需讀取，而是每次都會預讀，即使只需要一個位元組，磁碟也會從這個位置開始，順序向後讀取一定長度的數據放入內存。這樣做的理論依據是計算機科學中著名的局部性原理：當一個數據被用到時，其附近的數據也通常會馬上被使用。程序運行期間所需要的數據通常比較集中。

由於磁碟順序讀取的效率很高（不需要尋道時間，只需很少的旋轉時間），因此對於具有局部性的程序來說，預讀可以提高I/O效率。

預讀的長度一般為頁（page）的整倍數。頁是計算機管理存儲器的邏輯塊，硬體及操作系統往往將主存和磁碟存儲區分割為連續的大小相等的塊，每個存儲塊稱為一頁（在許多操作系統中，頁得大小通常為4k），主存和磁碟以頁為單位交換數據。當程序要讀取的數據不在主存中時，會觸發一個缺頁異常，此時系統會向磁碟發出讀盤信號，磁碟會找到數據的起始位置並向後連續讀取一頁或幾頁載入內存中，然後異常返回，程序繼續運行。

B-/+Tree索引的性能分析

到這裡終於可以分析B-/+Tree索引的性能了。

上文說過一般使用磁碟I/O次數評價索引結構的優劣。先從B-Tree分析，根據B-Tree的定義，可知檢索一次最多需要訪問h個節點。資料庫系統的設計者巧妙利用了磁碟預讀原理，將一個節點的大小設為等於一個頁，這樣每個節點只需要一次I/O就可以完全載入。為了達到這個目的，在實際實現B-Tree還需要使用如下技巧：

每次新建節點時，直接申請一個頁的空間，這樣就保證一個節點物理上也存儲在一個頁里，加之計算機存儲分配都是按頁對齊的，就實現了一個node只需一次I/O。

B-Tree中一次檢索最多需要h-1次I/O（根節點常駐內存），漸進複雜度為O(h)=O(logdN)。一般實際應用中，出度d是非常大的數字，通常超過100，因此h非常小（通常不超過3）。

而紅黑樹這種結構，h明顯要深的多。由於邏輯上很近的節點（父子）物理上可能很遠，無法利用局部性，所以紅黑樹的I/O漸進複雜度也為O(h)，效率明顯比B-Tree差很多。

綜上所述，用B-Tree作為索引結構效率是非常高的。

6.連接的種類

查詢分析器中執行：

--建表table1,table2：

create table table1(id int,name varchar(10))

create table table2(id int,score int)

insert into table1 select 1,lee

insert into table1 select 2,zhang

insert into table1 select 4,wang

insert into table2 select 1,90

insert into table2 select 2,100

insert into table2 select 3,70

如表

-------------------------------------------------

table1 | table2 |

-------------------------------------------------

id name |id score |

1 lee |1 90|

2 zhang| 2 100|

4 wang| 3 70|

-------------------------------------------------

以下均在查詢分析器中執行

一、外連接

1.概念：包括左向外聯接、右向外聯接或完整外部聯接

2.左連接：left join 或 left outer join

(1)左向外聯接的結果集包括 LEFT OUTER 子句中指定的左表的所有行，而不僅僅是聯接列所匹配的行。如果左表的某行在右表中沒有匹配行，則在相關聯的結果集行中右表的所有選擇列表列均為空值(null)。

(2)sql 語句

select * from table1 left join table2 on table1.id=table2.id

-------------結果-------------

idnameidscore

------------------------------

1lee190

2zhang2100

4wangNULLNULL

------------------------------

注釋：包含table1的所有子句，根據指定條件返回table2相應的欄位，不符合的以null顯示

3.右連接：right join 或 right outer join

(1)右向外聯接是左向外聯接的反向聯接。將返回右表的所有行。如果右表的某行在左表中沒有匹配行，則將為左表返回空值。

(2)sql 語句

select * from table1 right join table2 on table1.id=table2.id

-------------結果-------------

idnameidscore

------------------------------

1lee190

2zhang2100

NULLNULL370

------------------------------

注釋：包含table2的所有子句，根據指定條件返回table1相應的欄位，不符合的以null顯示

4.完整外部聯接:full join 或 full outer join

(1)完整外部聯接返回左表和右表中的所有行。當某行在另一個表中沒有匹配行時，則另一個表的選擇列表列包含空值。如果表之間有匹配行，則整個結果集行包含基表的數據值。

(2)sql 語句

select * from table1 full join table2 on table1.id=table2.id

-------------結果-------------

idnameidscore

------------------------------

1lee190

2zhang2100

4wangNULLNULL

NULLNULL370

------------------------------

注釋：返回左右連接的和（見上左、右連接）

二、內連接

1.概念：內聯接是用比較運算符比較要聯接列的值的聯接

2.內連接：join 或 inner join

3.sql 語句

select * from table1 join table2 on table1.id=table2.id

-------------結果-------------

idnameidscore

------------------------------

1lee190

2zhang2100

------------------------------

注釋：只返回符合條件的table1和table2的列

4.等價（與下列執行效果相同）

A:select a.*,b.* from table1 a,table2 b where a.id=b.id

B:select * from table1 cross join table2 where table1.id=table2.id (註：cross join後加條件只能用where,不能用on)

三、交叉連接(完全)

1.概念：沒有 WHERE 子句的交叉聯接將產生聯接所涉及的表的笛卡爾積。第一個表的行數乘以第二個表的行數等於笛卡爾積結果集的大小。（table1和table2交叉連接產生3*3=9條記錄）

2.交叉連接：cross join (不帶條件where...)

3.sql語句

select * from table1 cross join table2

-------------結果-------------

idnameidscore

------------------------------

1lee190

2zhang190

4wang190

1lee2100

2zhang2100

4wang2100

1lee370

2zhang370

4wang370

------------------------------

注釋：返回3*3=9條記錄，即笛卡爾積

4.等價（與下列執行效果相同）

A:select * from table1,table2

7.資料庫範式

1 第一範式（1NF）

在任何一個關係資料庫中，第一範式（1NF）是對關係模式的基本要求，不滿足第一範式（1NF）的資料庫就不是關係資料庫。

所謂第一範式（1NF）是指資料庫表的每一列都是不可分割的基本數據項，同一列中不能有多個值，即實體中的某個屬性不能有多個值或者不能有重複的屬性。如果出現重複的屬性，就可能需要定義一個新的實體，新的實體由重複的屬性構成，新實體與原實體之間為一對多關係。在第一範式（1NF）中表的每一行只包含一個實例的信息。簡而言之，第一範式就是無重複的列。

2 第二範式（2NF）

第二範式（2NF）是在第一範式（1NF）的基礎上建立起來的，即滿足第二範式（2NF）必須先滿足第一範式（1NF）。第二範式（2NF）要求資料庫表中的每個實例或行必須可以被惟一地區分。為實現區分通常需要為表加上一個列，以存儲各個實例的惟一標識。這個惟一屬性列被稱為主關鍵字或主鍵、主碼。

第二範式（2NF）要求實體的屬性完全依賴於主關鍵字。所謂完全依賴是指不能存在僅依賴主關鍵字一部分的屬性，如果存在，那麼這個屬性和主關鍵字的這一部分應該分離出來形成一個新的實體，新實體與原實體之間是一對多的關係。為實現區分通常需要為表加上一個列，以存儲各個實例的惟一標識。簡而言之，第二範式就是非主屬性非部分依賴於主關鍵字。

3 第三範式（3NF）

滿足第三範式（3NF）必須先滿足第二範式（2NF）。簡而言之，第三範式（3NF）要求一個資料庫表中不包含已在其它表中已包含的非主關鍵字信息。例如，存在一個部門信息表，其中每個部門有部門編號（dept_id）、部門名稱、部門簡介等信息。那麼在員工信息表中列出部門編號後就不能再將部門名稱、部門簡介等與部門有關的信息再加入員工信息表中。如果不存在部門信息表，則根據第三範式（3NF）也應該構建它，否則就會有大量的數據冗餘。簡而言之，第三範式就是屬性不依賴於其它非主屬性。（我的理解是消除冗餘）

8.資料庫優化的思路

這個我借鑒了慕課上關於資料庫優化的課程。

1.SQL語句優化

1）應盡量避免在 where 子句中使用!=或<>操作符，否則將引擎放棄使用索引而進行全表掃描。

2）應盡量避免在 where 子句中對欄位進行 null 值判斷，否則將導致引擎放棄使用索引而進行全表掃描，如：

select id from t where num is null

可以在num上設置默認值0，確保表中num列沒有null值，然後這樣查詢：

select id from t where num=0

3）很多時候用 exists 代替 in 是一個好的選擇

4）用Where子句替換HAVING 子句 因為HAVING 只會在檢索出所有記錄之後才對結果集進行過濾

2.索引優化

看上文索引

3.資料庫結構優化

1）範式優化： 比如消除冗餘（節省空間。。） 2）反範式優化：比如適當加冗餘等（減少join） 3）拆分表： 分區將數據在物理上分隔開，不同分區的數據可以制定保存在處於不同磁碟上的數據文件里。這樣，當對這個表進行查詢時，只需要在表分區中進行掃描，而不必進行全表掃描，明顯縮短了查詢時間，另外處於不同磁碟的分區也將對這個表的數據傳輸分散在不同的磁碟I/O，一個精心設置的分區可以將數據傳輸對磁碟I/O競爭均勻地分散開。對數據量大的時時表可採取此方法。可按月自動建表分區。

4）拆分其實又分垂直拆分和水平拆分： 案例： 簡單購物系統暫設涉及如下表： 1.產品表（數據量10w，穩定） 2.訂單表（數據量200w，且有增長趨勢） 3.用戶表 （數據量100w，且有增長趨勢） 以mysql為例講述下水平拆分和垂直拆分，mysql能容忍的數量級在百萬靜態數據可以到千萬 垂直拆分： 解決問題：表與表之間的io競爭 不解決問題：單表中數據量增長出現的壓力 方案： 把產品表和用戶表放到一個server上 訂單表單獨放到一個server上 水平拆分： 解決問題：單表中數據量增長出現的壓力 不解決問題：表與表之間的io爭奪

方案： 用戶表通過性別拆分為男用戶表和女用戶表 訂單表通過已完成和完成中拆分為已完成訂單和未完成訂單 產品表 未完成訂單放一個server上 已完成訂單表盒男用戶表放一個server上 女用戶表放一個server上(女的愛購物 哈哈)

4.伺服器硬體優化

這個么多花錢咯！

9.存儲過程與觸發器的區別

觸發器與存儲過程非常相似，觸發器也是SQL語句集，兩者唯一的區別是觸發器不能用EXECUTE語句調用，而是在用戶執行Transact-SQL語句時自動觸發（激活）執行。觸發器是在一個修改了指定表中的數據時執行的存儲過程。通常通過創建觸發器來強制實現不同表中的邏輯相關數據的引用完整性和一致性。由於用戶不能繞過觸發器，所以可以用它來強制實施複雜的業務規則，以確保數據的完整性。觸發器不同於存儲過程，觸發器主要是通過事件執行觸發而被執行的，而存儲過程可以通過存儲過程名稱名字而直接調用。當對某一表進行諸如UPDATE、INSERT、DELETE這些操作時，SQLSERVER就會自動執行觸發器所定義的SQL語句，從而確保對數據的處理必須符合這些SQL語句所定義的規則。

10.面試回答資料庫優化問題從以下幾個層面入手

（1）、根據服務層面：配置mysql性能優化參數；

（2）、從系統層面增強mysql的性能：優化數據表結構、欄位類型、欄位索引、分表，分庫、讀寫分離等等。

（3）、從資料庫層面增強性能：優化SQL語句，合理使用欄位索引。

（4）、從代碼層面增強性能：使用緩存和NoSQL資料庫方式存儲，如MongoDB/Memcached/Redis來緩解高並發下資料庫查詢的壓力。

（5）、減少資料庫操作次數，盡量使用資料庫訪問驅動的批處理方法。

（6）、不常使用的數據遷移備份，避免每次都在海量數據中去檢索。

（7）、提升資料庫伺服器硬體配置，或者搭建資料庫集群。

（8）、編程手段防止SQL注入：使用JDBC PreparedStatement按位插入或查詢；正則表達式過濾（非法字元串過濾）；

推薦閱讀：