數據庫查詢
我們了解了數據庫連接與連接池。拿到了連接當然就是為了跟數據庫交互。對于數據庫交互,無怪乎兩類操作,讀和寫。其中怎么讀,怎么寫,讀和寫的過程糅合一起就會遇到復雜的事務。本篇內容主要關注數據庫的讀寫操作,后面再涉及事務的介紹。
讀取數據
database/sql提供了Query和QueryRow方法進行查詢數據庫。對于Query方法的原理,正如前文介紹的主要分為三步:
- 從連接池中請求一個連接
- 執行查詢的sql語句
- 將數據庫連接的所屬權傳遞給Result結果集
Query返回的結果集是sql.Rows類型。它有一個Next方法,可以迭代數據庫的游標,進而獲取每一行的數據,大概使用范式如下:
rows, err := db.Query("SELECT world FROM test.hello")
if err != nil{
log.Fatalln(err)
}
for rows.Next(){
var s string
err = rows.Scan(&s)
if err !=nil{
log.Fatalln(err)
}
log.Printf("found row containing %q", s)
}
rows.Close()
上述代碼我們已經見過好多次了,想必大家都輕車熟路啦。rows.Next方法設計用來迭代。當它迭代到最后一行數據之后,會觸發一個io.EOF的信號,即引發一個錯誤,同時go會自動調用rows.Close方法釋放連接,然后返回false。此時循環將會結束退出。
通常你會正常迭代完數據然后退出循環。可是如果并沒有正常的循環而因其他錯誤導致退出了循環。此時rows.Next處理結果集的過程并沒有完成,歸屬于rows的連接不會被釋放回到連接池。因此十分有必要正確的處理rows.Close事件。如果沒有關閉rows連接,將導致大量的連接并且不會被其他函數重用,就像溢出了一樣。最終將導致數據庫無法使用。
那么如何阻止這樣的行為呢?上述代碼已經展示,無論循環是否完成或者因為其他原因退出,都顯示的調用rows.Close方法,確保連接釋放。又或者使用defer指令在函數退出的時候釋放連接,即使連接已經釋放了,rows.Close仍然可以調用多次,是無害的。
使用defer的時候需要注意,如果一個函數執行很長的邏輯,例如main函數,那么rows的連接釋放就會也很長,好的實踐方案是盡可能的越早釋放連接。
rows.Next循環迭代的時候,因為觸發了io.EOF而退出循環。為了檢查是否是迭代正常退出還是異常退出,需要檢查rows.Err。例如上面的代碼應該改成:
rows, err := db.Query("SELECT world FROM test.hello")
if err != nil{
log.Fatalln(err)
}
defer rows.Close()
for rows.Next(){
var s string
err = rows.Scan(&s)
if err !=nil{
log.Fatalln(err)
}
log.Printf("found row containing %q", s)
}
rows.Close()
if err = rows.Err(); err != nil {
log.Fatal(err)
}
讀取單條記錄
Query方法是讀取多行結果集,實際開發中,很多查詢只需要單條記錄,不需要再通過Next迭代。golang提供了QueryRow方法用于查詢單條記錄的結果集。
var s string
err = db.QueryRow("SELECT world FROM test.hello LIMIT 1").Scan(&s)
if err != nil{
if err == sql.ErrNoRows{
log.Println("There is not row")
}else {
log.Fatalln(err)
}
}
log.Println("found a row", s)
QueryRow方法的使用很簡單,它要么返回sql.Row類型,要么返回一個error,如果是發送了錯誤,則會延遲到Scan調用結束后返回,如果沒有錯誤,則Scan正常執行。只有當查詢的結果為空的時候,會觸發一個sql.ErrNoRows錯誤。你可以選擇先檢查錯誤再調用Scan方法,或者先調用Scan再檢查錯誤。
rows.Scan原理
結果集方法Scan可以把數據庫取出的字段值賦值給指定的數據結構。它的參數是一個空接口的切片,這就意味著可以傳入任何值。通常把需要賦值的目標變量的指針當成參數傳入,它能將數據庫取出的值賦值到指針值對象上。
var var1, var2 string
err = row.Scan(&var1, &var2)
在一些特殊案例中,如果你不想把值賦值給指定的目標變量,那么需要使用*sql.RawBytes
類型。如何使用*sql.RawBytes需要參考更細的官方文檔。大多數情況下我們不必這么做。但是還是需要注意在db.QueryRow().Scan()中不能使用 *sql.RawBytes。
Scan還會幫我們自動推斷除數據字段匹配目標變量。比如有個數據庫字段的類型是VARCHAR
,而他的值是一個數字串,例如"1"
。如果我們定義目標變量是string,則scan賦值后目標變量是數字string。如果聲明的目標變量是一個數字類型,那么scan會自動調用strconv.ParseInt()或者strconv.ParseInt()方法將字段轉換成和聲明的目標變量一致的類型。當然如果有些字段無法轉換成功,則會返回錯誤。因此在調用scan后都需要檢查錯誤。
var world int
err = stmt.QueryRow(1).Scan(&world)
此時scan會把字段轉變成數字整型的賦值給world變量
var world string
err = stmt.QueryRow(1).Scan(&world)
此時scan取出的字段就是字串。同樣的如果字段是int類型,聲明的變量是string類型,scan也會自動將數字轉換成字串賦值給目標變量。
空值處理
數據庫有一個特殊的類型,NULL空值。可是NULL不能通過scan直接跟普遍變量賦值,甚至也不能將null賦值給nil
。對于null必須指定特殊的類型,這些類型定義在database/sql庫中。例如sql.NullFloat64。如果在標準庫中找不到匹配的類型,可以嘗試在驅動中尋找。下面是一個簡單的例子:
var (
s1 string
s2 sql.NullString i1 int
f1 float64
f2 float64
)
// 假設數據庫的記錄為 ["hello", NULL, 12345, "12345.6789", "not-a-float"]
err = rows.Scan(&s1, &s2, &i1, &f1, &f2) if err != nil {
log.Fatal(err) }
因為最后一個f2字段的值不是float,這會英法一個錯誤。
sql: Scan error on column index 4: converting string "not-a- oat" to a oat64: strconv.ParseFloat: parsing "not-a- oat": invalid syntax
如果忽略err,強行讀取目標變量,可以看到最后一個值轉換錯誤會處理,而不是拋出異常:
err = rows.Scan(&s1, &s2, &i1, &f1, &f2)
log.Printf("%q %#v %d %f %f", s1, s2, i1, f1, f2)
// 輸出
"hello" sql.NullString{String:"", Valid:false} 12345 12345.678900
0.000000
可以看到,除了最后一個轉換失敗變成了零值之外,其他都正常的取出了值,尤其是null匹配了NullString類型的目標變量。
對于null的操作,通常仍然需要驗證:
var world sql.NullString
err := db.QueryRow("SELECT world FROM hello WHERE id = ?", id).Scan(&world)
...
if world.Valid {
wrold.String
} else {
// 數據庫的value是不是null的時候,輸出 world的字符串值, 空字符串
world.String
}
對應的,如果world字段是一個int,那么聲明的目標變量類似是sql.NullInt64,讀取其值的方法為world.Int64。
但是有時候我們并不關心值是不是Null,我們只需要吧他當一個空字符串來對待就行。這時候我們可以使用[]byte(null byte[]可以轉化為空string)
var world []byte
err := db.QueryRow("SELECT world FROM hello WHERE id = ?", id).Scan(&world)
...
log.Println(string(real_name)) // 有值則取出字串值,null則轉換成 空字串。
自動匹配字段
在執行查詢的時候,我們定義了目標變量,同時查詢的時候也寫明了字段,如果不指名字段,或者字段的順序和查詢的不一樣,都有可能出錯。因此如果能夠自動匹配查詢的字段值,將會十分節省代碼,同時也易于維護。
go提供了Columns方法用獲取字段名,與大多數函數一樣,讀取失敗將會返回一個err,因此需要檢查錯誤。
cols, err := rows.Columns()
if err != nil{
log.Fatalln(er)
}
對于不定字段查詢,我們可以定義一個map的key和value用來表示數據庫一條記錄的row的值。通過rows.Columns得到的col作為map的key值。下面是一個例子
func main() {
db, err := sql.Open("mysql", "root:@tcp(127.0.0.1:3306)/test?parseTime=true")
if err != nil{
log.Fatal(err)
}
defer db.Close()
rows, err := db.Query("SELECT * FROM user WHERE gid = 1")
if err != nil{
log.Fatalln(err)
}
defer rows.Close()
cols, err := rows.Columns()
if err != nil{
log.Fatalln(err)
}
fmt.Println(cols)
vals := make([][]byte, len(cols))
scans := make([]interface{}, len(cols))
for i := range vals{
scans[i] = &vals[i]
}
var results []map[string]string
for rows.Next(){
err = rows.Scan(scans...)
if err != nil{
log.Fatalln(err)
}
row := make(map[string]string)
for k, v := range vals{
key := cols[k]
row[key] = string(v)
}
results = append(results, row)
}
for k, v :=range results{
fmt.Println(k, v)
}
}
數據表user有三個字段,id(int),gid(int),real_name(varchar)。我們使用*
取出所有的字段。使用rows.Columns()獲取字段名,是一個string的數組。然后創建一個切片vals,用來存放所取出來的數據結果,類似是byte的切片。接下來還需要定義一個切片,這個切片用來scan,將數據庫的值復制到給它。
完成這一步之后,vals則得到了scan復制給他的值,因為是byte的切片,因此在循環一次,將其轉換成string即可。
轉換后的row即我們取出的數據行值,最后組裝到result切片中。
運行結果如下
[id gid real_name]
0 map[id:4 gid:1 real_name:瑟蘭督依]
1 map[real_name:來格拉斯 id:5 gid:1]
2 map[id:15 gid:1 real_name:]
有一條記錄的 real_name 值為空字串,因為其數據庫存儲的是NULL。
Exec
前面介紹了很多關于查詢方面的內容,查詢是讀方便的內容,對于寫,即插入更新和刪除。這類操作與query不太一樣,寫的操作只關系是否寫成功了。database/sql提供了Exec方法用于執行寫的操作。
我們也見識到了,Eexc返回一個sql.Result類型,它有兩個方法LastInsertId
和RowsAffected
。LastInsertId返回是一個數據庫自增的id,這是一個int64類型的值。
Exec執行完畢之后,連接會立即釋放回到連接池中,因此不需要像query那樣再手動調用row的close方法。
關于LastInsertId
和RowsAffected
方法執行錯誤的返回,這跟底層的數據庫是有關系的。因此更多的細節可以參考驅動的文檔。
總結
目前,我們大致了解了數據庫的CURD操作。對于讀的操作,需要定義目標變量才能scan數據記錄。scan會智能的幫我們轉換一些數據,取決于定義的目標變量類型。對于null的處理,可以使用database/sql或驅動提供的類型聲明,也可以使用[]byte將其轉換成空字串。除了讀數據之外,對于寫的操作,database/sql也提供了Exec方法,并且對于sql.Result提供了LastInsertId
和RowsAffected
方法用于獲取寫后的結果。
在實際應用中,與數據庫交互,往往寫的sql語句還帶有參數,這類sql可以稱之為prepare語句。prepare語句有很多好處,可以防止sql注入,可以批量執行等。但是prepare的連接管理有其自己的機制,也有其使用上的陷進,關于prepare的使用,我們將會在以后討論。