系統中能夠隨機(無需按順序)訪問固定大小數據片的硬件設備稱作塊設備(如硬盤、閃存等),這些固定大小的數據片就是塊。字符設備按照字符流的方式被有序訪問,如鍵盤。
本章學習內核如何對塊設備和塊設備的請求進行管理,這部分在內核中稱為塊I/O層。
一、剖析一個塊設備
塊設備中最小的可尋址單元是扇區(也稱硬扇區或設備快)。扇區大小一般是2的整數倍,常見為512字節,這是設備的物理屬性,是所有塊設備的基本單元。
雖然物理磁盤尋址是按照扇區級進行的,但是內核執行的所有磁盤操作都是按照塊進行的。塊是文件系統的最小尋址單元,也稱文件塊或I/O塊。塊大小必須是扇區大小的2的整數倍,并且小于頁面大小,通常塊大小是512字節、1KB或4KB。
二、緩沖區和緩沖區頭
當一個塊被調入內存時,會存儲在一個緩沖區中。每個緩沖區對一個塊,相當于磁盤塊在內存中的表示。
每個緩沖區有一個對應的描述符,buffer_head表示描述符,稱為緩沖區頭,包含了內核操作緩沖區所需的全部信息。
struct buffer_head {
unsigned long b_state; /* buffer state bitmap (see above) */
struct buffer_head *b_this_page;/* circular list of page's buffers */
struct page *b_page; /* the page this bh is mapped to */
sector_t b_blocknr; /* start block number */
size_t b_size; /* size of mapping */
char *b_data; /* pointer to data within the page */
struct block_device *b_bdev;
bh_end_io_t *b_end_io; /* I/O completion */
void *b_private; /* reserved for b_end_io */
struct list_head b_assoc_buffers; /* associated with another mapping */
struct address_space *b_assoc_map; /* mapping this buffer is
associated with */
atomic_t b_count; /* users using this buffer_head */
spinlock_t b_uptodate_lock; /* Used by the first bh in a page, to serialise IO completion of other buffers in the page */
};
緩沖區頭說明緩沖區到塊的映射關系,但有兩個弊端:
- 緩沖區頭數據結構體太大且不易控制,對數據的操作不方便也不清晰;
- 僅能描述單個緩沖區。
三、bio結構體
目前內核塊I/O操作的基本容器由bio結構體表示,代表正在現場的以片段(segment)鏈表形式組織的塊I/O操作。一個片段是一小塊連續的內存緩沖區,這樣就無需保證單個緩沖區一定要連續。
bio結構體的bi_io_vec域是一個bio_vec結構體數組,該數組表示了一個完整的緩沖區,bio_vec結構體則表示組成該緩沖區的片段。
每個塊I/O請求都通過一個bio結構體表示,每個請求包含一個或多個塊,這些塊存儲在bio_vec結構體數組中。
四、請求隊列
塊設備將其掛起的塊I/O請求保存在請求隊列中。請求隊列只要不空,隊列對應的塊設備驅動程序就會從隊列頭獲取請求,將其放入對應的塊設備中。請求可能要操作多個連續的磁盤塊,所以每個請求可以由多個bio結構體組成。
五、I/O調度程序
磁盤尋址是整個計算機中最慢的操作之一,所以盡量縮短尋址時間是提高系統性能的關鍵。為了優化尋址操作,內核會在執行請求前對請求進行合并與排序的預操作,在內核中負責提交I/O請求的子系統稱為I/O調度程序。
I/O調度程序管理快設備的請求隊列,決定隊列中的請求排列順序以及在什么時候派發請求到塊設備,I/O調度程序可能為了提高系統整體性能而對某些請求不公。
I/O調度程序減少磁盤尋址時間的方法有:
- 合并:將兩個或多個請求結合成一個請求
- 排序:整個請求隊列按扇區增長方向有序排序,縮短所有請求的磁盤尋址時間
5.1 Linus電梯
Linux電梯是一種I/O調度程序:
- 若隊列中已存在一個隊相鄰磁盤扇區操作的請求,那么將新請求和該請求合并成一個請求;
- 若隊列中存在一個駐留時間過長的請求,那么新請求插到隊尾,防止舊請求饑餓;
- 若隊列中以扇區方向為序存在合適的插入位置,那么新的請求將被插入到該位置,保證隊列中的請求是以被訪問磁盤物理位置為序進行排列;
- 若隊列不存在合適的請求插入位置,那么將請求插入隊尾。
5.2 最終期限I/O調度程序
Linus電梯對較遠位置的其他請求不公平,而且戶造成讀操作的饑餓,直接影響系統性能。
最后期限I/O調度程序中,每個請求都有操作時間。除了Linus的排序隊列,還為讀請求和寫請求分別維護一個FIFO隊列,若FIFO隊列頭的請求超時,則從FIFO隊列中提取請求進行服務:
5.3 預測I/O調度程序
最終期限I/O調度程序降低了讀寫操作響應時間,但也降低了系統吞吐量。
預測I/O調度程序的改進是增加預測啟發能力,也就是請求提交后并不直接返回處理其他請求,而是有意空閑片刻,若有對相鄰磁盤位置操作的請求都會得到立刻處理。
5.4 完全公正的排隊I/O調度程序(CFQ)
CFQ(Complete Fair Queueing)是為專有工作復負荷設計的,但在實際中,為多種工作負荷提供了良好的性能。CFQ你是請求放入對應進程組織的排隊中,每個進程隊列進行合并和排序。CFQ以時間片輪轉調度隊列,從每個隊列中選取請求數(默認為4)進行調度。
5.5 空操作的I/O調度程序
空操作的I/O調度程序只是維護一個近似FIFO的請求隊列,對新請求提交到隊列時,把它和任一相鄰的請求合并。