database/sql
database/sql是golang的標準庫之一,它提供了一系列接口方法,用于訪問關系數據庫。它并不會提供數據庫特有的方法,那些特有的方法交給數據庫驅動去實現。
database/sql庫提供了一些type。這些類型對掌握它的用法非常重要。
****DB**** 數據庫對象。 sql.DB類型代表了數據庫。和其他語言不一樣,它并是數據庫連接。golang中的連接來自內部實現的連接池,連接的建立是惰性的,當你需要連接的時候,連接池會自動幫你創建。通常你不需要操作連接池。一切都有go來幫你完成。
****Results**** 結果集。數據庫查詢的時候,都會有結果集。sql.Rows類型表示查詢返回多行數據的結果集。sql.Row則表示單行查詢結果的結果集。當然,對于插入更新和刪除,返回的結果集類型為sql.Result。
****Statements**** 語句。sql.Stmt類型表示sql查詢語句,例如DDL,DML等類似的sql語句。可以把當成prepare語句構造查詢,也可以直接使用sql.DB的函數對其操作。
warming up
下面就開始我們的sql數據庫之旅,我們使用mysql數據庫為例子,驅動使用go-sql-driver/mysql
。
對于其他語言,查詢數據的時候需要創建一個連接,對于go而言則是需要創建一個數據庫抽象對象。連接將會在查詢需要的時候,由連接池創建并維護。使用sql.Open函數創建數據庫對象。它的第一個參數是數據庫驅動名,第二個參數是一個連接字串(符合DSN風格,可以是一個tcp連接,一個unix socket等)。
import (
"database/sql"
"log"
_ "github.com/go-sql-driver/mysql"
)
func main() {
db, err := sql.Open("mysql", "root:@tcp(127.0.0.1:3306)/test?parseTime=true")
if err != nil{
log.Fatal(err)
}
defer db.Close()
}
創建了數據庫對象之后,在函數退出的時候,需要釋放連接,即調用sql.Close方法。例子使用了defer語句設置釋放連接。
接下來進行一些基本的數據庫操作,首先我們使用Exec方法執行一條sql,創建一個數據表:
func main() {
db, err := sql.Open("mysql", "root:@tcp(127.0.0.1:3306)/test?parseTime=true")
if err != nil{
log.Fatal(err)
}
defer db.Close()
_, err = db.Exec("CREATE TABLE IF NOT EXISTS test.hello(world varchar(50))")
if err != nil{
log.Fatalln(err)
}
}
此時可以看見,數據庫生成了一個新的表。接下來再插入一些數據。
func main() {
db, err := sql.Open("mysql", "root:@tcp(127.0.0.1:3306)/test?parseTime=true")
...
rs, err := db.Exec("INSERT INTO test.hello(world) VALUES ('hello world')")
if err != nil{
log.Fatalln(err)
}
rowCount, err := rs.RowsAffected()
if err != nil{
log.Fatalln(err)
}
log.Printf("inserted %d rows", rowCount)
}
同樣使用Exec方法即可插入數據,返回的結果集對象是是一個sql.Result類型,它有一個LastInsertId
方法,返回插入數據后的id。當然此例的數據表并沒有id字段,就返回一個0.
插入了一些數據,接下來再簡單的查詢一下數據:
func main() {
db, err := sql.Open("mysql", "root:@tcp(127.0.0.1:3306)/test?parseTime=true")
...
rows, err := db.Query("SELECT world FROM test.hello")
if err != nil{
log.Fatalln(err)
}
for rows.Next(){
var s string
err = rows.Scan(&s)
if err !=nil{
log.Fatalln(err)
}
log.Printf("found row containing %q", s)
}
rows.Close()
}
我們使用了Query方法執行select查詢語句,返回的是一個sql.Rows類型的結果集。迭代后者的Next方法,然后使用Scan方法給變量s賦值,以便取出結果。最后再把結果集關閉(釋放連接)。
通過上面一個簡單的例子,介紹了database/sql的基本數據查詢操作。而對于開篇所說的幾個結構類型尚未進行詳細的介紹。下面我們再針對database/sql庫的類型和數據庫交互做更深的探究。
sql.DB
正如上文所言,sql.DB是數據庫的抽象,雖然通常它容易被誤以為是數據庫連接。它提供了一些跟數據庫交互的函數,同時管理維護一個數據庫連接池,幫你處理了單調而重復的管理工作,并且在多個goroutines也是十分安全。
sql.DB表示是數據庫抽象,因此你有幾個數據庫就需要為每一個數據庫創建一個sql.DB對象。因為它維護了一個連接池,因此不需要頻繁的創建和銷毀。它需要長時間保持,因此最好是設置成一個全局變量以便其他代碼可以訪問。
創建數據庫對象需要引入標準庫database/sql,同時還需要引入驅動go-sql-driver/mysql。使用_
表示引入驅動的變量,這樣做的目的是為了在你的代碼中不至于和標注庫的函數變量namespace沖突。
連接池
只用sql.Open函數創建連接池,可是此時只是初始化了連接池,并沒有創建任何連接。連接創建都是惰性的,只有當你真正使用到連接的時候,連接池才會創建連接。連接池很重要,它直接影響著你的程序行為。
連接池的工作原來卻相當簡單。當你的函數(例如Exec,Query)調用需要訪問底層數據庫的時候,函數首先會向連接池請求一個連接。如果連接池有空閑的連接,則返回給函數。否則連接池將會創建一個新的連接給函數。一旦連接給了函數,連接則歸屬于函數。函數執行完畢后,要不把連接所屬權歸還給連接池,要么傳遞給下一個需要連接的(Rows)對象,最后使用完連接的對象也會把連接釋放回到連接池。
請求一個連接的函數有好幾種,執行完畢處理連接的方式稍有差別,大致如下:
- db.Ping() 調用完畢后會馬上把連接返回給連接池。
- db.Exec() 調用完畢后會馬上把連接返回給連接池,但是它返回的Result對象還保留這連接的引用,當后面的代碼需要處理結果集的時候連接將會被重用。
- db.Query() 調用完畢后會將連接傳遞給sql.Rows類型,當然后者迭代完畢或者顯示的調用.Clonse()方法后,連接將會被釋放回到連接池。
- db.QueryRow()調用完畢后會將連接傳遞給sql.Row類型,當.Scan()方法調用之后把連接釋放回到連接池。
- db.Begin() 調用完畢后將連接傳遞給sql.Tx類型對象,當.Commit()或.Rollback()方法調用后釋放連接。
因為每一個連接都是惰性創建的,如何驗證sql.Open調用之后,sql.DB對象可用呢?通常使用db.Ping()方法初始化:
db, err := sql.Open("driverName", "dataSourceName")
if err != nil{
log.Fatalln(err)
}
defer db.Close()
err = db.Ping()
if err != nil{
log.Fatalln(err)
}
調用了Ping之后,連接池一定會初始化一個數據庫連接。當然,實際上對于失敗的處理,應該定義一個符合自己需要的方式,現在為了演示,簡單的使用log.Fatalln(err)
表示了。
連接失敗
關于連接池另外一個知識點就是你不必檢查或者嘗試處理連接失敗的情況。當你進行數據庫操作的時候,如果連接失敗了,database/sql會幫你處理。實際上,當從連接池取出的連接斷開的時候,database/sql會自動嘗試重連10次。仍然無法重連的情況下會自動從連接池再獲取一個或者新建另外一個。好比去買雞蛋,售貨員會從箱子里掏出雞蛋,如果發現是壞蛋則連續掏10次,仍然找不到合適的就會換一個箱子招,或者從別的庫房再拿一個給你。
連接池配置
無論哪一個版本的go都不會提供很多控制連接池的接口。知道1.2版本以后才有一些簡單的配置。可是1.2版本的連接池有一個bug,請升級更高的版本。
配置連接池有兩個的方法:
- db.SetMaxOpenConns(n int) 設置打開數據庫的最大連接數。包含正在使用的連接和連接池的連接。如果你的函數調用需要申請一個連接,并且連接池已經沒有了連接或者連接數達到了最大連接數。此時的函數調用將會被block,直到有可用的連接才會返回。設置這個值可以避免并發太高導致連接mysql出現too many connections的錯誤。該函數的默認設置是0,表示無限制。
- db.SetMaxIdleConns(n int) 設置連接池中的保持連接的最大連接數。默認也是0,表示連接池不會保持釋放會連接池中的連接的連接狀態:即當連接釋放回到連接池的時候,連接將會被關閉。這會導致連接再連接池中頻繁的關閉和創建。
對于連接池的使用依賴于你是如何配置連接池,如果使用不當會導致下面問題:
- 大量的連接空閑,導致額外的工作和延遲。
- 連接數據庫的連接過多導致錯誤。
- 連接阻塞。
- 連接池有超過十個或者更多的死連接,限制就是10次重連。
大多數時候,如何使用sql.DB對連接的影響大過連接池配置的影響。這些具體問題我們會再使用sql.DB的時候逐一介紹。
掌握了database/sql關于數據庫連接池管理內容,下一步則是使用這些連接,進行數據的交互操作啦。