新聞中心
在現(xiàn)代計算機系統(tǒng)中,調(diào)度機制是非常重要的一部分。它是操作系統(tǒng)的一種重要組成部分,用于在有限的資源條件下,合理安排各個進程的執(zhí)行順序和優(yōu)先級,實現(xiàn)系統(tǒng)的高效率和良好的響應性能。而在Linux操作系統(tǒng)中,其調(diào)度機制又是如何實現(xiàn)的?又該如何對其進行優(yōu)化,以提高整個系統(tǒng)的性能和資源利用率呢?本文將從這兩個方面來探討。

創(chuàng)新互聯(lián)建站長期為超過千家客戶提供的網(wǎng)站建設(shè)服務(wù),團隊從業(yè)經(jīng)驗10年,關(guān)注不同地域、不同群體,并針對不同對象提供差異化的產(chǎn)品和服務(wù);打造開放共贏平臺,與合作伙伴共同營造健康的互聯(lián)網(wǎng)生態(tài)環(huán)境。為江孜企業(yè)提供專業(yè)的成都網(wǎng)站制作、成都網(wǎng)站建設(shè)、外貿(mào)營銷網(wǎng)站建設(shè),江孜網(wǎng)站改版等技術(shù)服務(wù)。擁有十余年豐富建站經(jīng)驗和眾多成功案例,為您定制開發(fā)。
一、Linux的調(diào)度機制
我們需要了解的是Linux調(diào)度器的種類。在Linux內(nèi)核中有兩種調(diào)度器:O(1)和CFS。O(1)調(diào)度器又稱舊調(diào)度器,因為它在2.6.23版本之前一直是Linux默認的調(diào)度器,而CFS則是較新的調(diào)度器。下面我們分別來了解一下這兩種調(diào)度器的特點。
1. O(1)調(diào)度器
O(1)調(diào)度器的名稱中的“O(1)”表示它具有常數(shù)時間復雜度。這意味著,無論有多少個進程在系統(tǒng)中,它的執(zhí)行時間都是一樣的。它采用了基于運行隊列的調(diào)度方式,將等待CPU的進程放入不同優(yōu)先級的就緒隊列中,并且每個隊列都有一個時間片(即CPU分配給該隊列的時間)來運行等待中的進程。
此外,O(1)調(diào)度器還具有以下特點:
(1)舊調(diào)度器對對稱多處理(P)體系結(jié)構(gòu)提供支持。每個CPU在其本地隊列上執(zhí)行(但不一定是運行在調(diào)度讓步程序的進程)。
(2)O(1)調(diào)度器是基于優(yōu)先級調(diào)度的,優(yōu)先級越高的進程會獲得更多的時間片。但這也導致低優(yōu)先級進程可能會處于長時間等待狀態(tài)。
(3)O(1)調(diào)度器可以通過修改源代碼來優(yōu)化調(diào)度策略,以適應不同的工作負載和應用程序。
2. CFS調(diào)度器
CFS調(diào)度器是Linux內(nèi)核2.6.23版本之后引入的新調(diào)度器。該調(diào)度器的設(shè)計初衷是為了實現(xiàn)完全公平的進程計劃(即,給每個進程提供公平的CPU使用時間)。CFS通過對每個運行中的進程分配權(quán)重,計算出每個進程所需的運行時間,并將CPU資源分配給它們。這使得每個進程都能夠獲得公平的CPU使用時間,并且按照權(quán)重比例分配CPU。
CFS調(diào)度器還有以下特點:
(1)CFS調(diào)度器相對于O(1)調(diào)度器更加公平和高效。它可以通過伸縮權(quán)重因子來提高實時進程的優(yōu)先級,以確保它們始終獲得足夠的CPU使用時間。
(2)CFS調(diào)度器可以自適應地調(diào)整調(diào)度策略,以適應不同的工作負載和應用程序。
(3)CFS調(diào)度器可以防止進程饑餓。它通過使用紅黑樹來維護進程列表,并使用旋轉(zhuǎn)技術(shù)來保持樹的平衡。
二、優(yōu)化Linux的性能與資源分配
了解了Linux的調(diào)度機制后,下一步就是對其進行優(yōu)化。實際上,在Linux中,我們可以通過幾種方法來優(yōu)化性能和資源分配。以下是一些優(yōu)化策略:
1. 實時優(yōu)先級
實時優(yōu)先級是Linux內(nèi)核中的另一個調(diào)度機制,它為需要快速執(zhí)行的任務(wù)提供專用的時間片。即使在代碼塊運行期間系統(tǒng)中斷,也可以確保實時任務(wù)得到執(zhí)行。實時優(yōu)先級還可以通過nice值的方式為非實時進程提供優(yōu)先級。
2. CPU綁定
CPU綁定是Linux內(nèi)核中的另一個重要選項,它可確保進程分配到固定的CPU器件以進行計算。CPU綁定提供了更加穩(wěn)定的性能,并減少了CPU堆棧上下文切換的開銷。
3. I/O調(diào)度
I/O調(diào)度可以優(yōu)化硬盤讀寫操作的性能。在Linux系統(tǒng)中,我們可以使用一些調(diào)度器,如 CFQ、NOOP和Deadline來調(diào)整硬盤的I/O行為,在不同的工作負載中實現(xiàn)更好的性能。例如CFQ在執(zhí)行磁盤I/O操作時優(yōu)先考慮磁盤間隔時間(即,等待時間)以確保磁盤的更大吞吐量,而Deadline則專注于快速處理磁盤請求,提供對交互式應用程序的支持。
4. 內(nèi)存管理
Linux內(nèi)存管理機制對計算機系統(tǒng)的空間性能至關(guān)重要。Linux使用一系列算法來管理可用內(nèi)存以及可用磁盤空間。為了優(yōu)化內(nèi)存的使用,可以使用緩存技術(shù)、支持內(nèi)存回收和內(nèi)存壓縮的遠程嗅探功能、記錄內(nèi)存與交換委托等方式來實現(xiàn)。這些方法通常涉及分析CPU和磁盤的不同工作負載,以確定出更佳的調(diào)度和內(nèi)存大小。
5. CPU頻率調(diào)整
如果你的系統(tǒng)中有大量CPU應用程序正在運行,那么你可能會發(fā)現(xiàn)CPU負載增加。在這種情況下,可以采用動態(tài)硬件節(jié)電策略,根據(jù)工作負載需求調(diào)整CPU精度和頻率。這將有助于優(yōu)化系統(tǒng)性能并合理利用磁盤空間。
調(diào)度機制是Linux操作系統(tǒng)中一個非常重要的組成部分,它能夠合理安排各個進程的執(zhí)行順序和優(yōu)先級,提高整個系統(tǒng)的性能和響應性能。本文從調(diào)度器的角度深入探究了Linux的調(diào)度機制,介紹了O(1)調(diào)度器和CFS調(diào)度器的特點以及優(yōu)化方法。如果想要進一步提高Linux系統(tǒng)的性能和資源利用率,可以從實時優(yōu)先級、CPU綁定、I/O調(diào)度、內(nèi)存管理和CPU頻率調(diào)整等方面進行優(yōu)化。
相關(guān)問題拓展閱讀:
- Linux 磁盤IO
Linux 磁盤IO
磁盤結(jié)構(gòu)與數(shù)據(jù)存儲方式, 數(shù)據(jù)是如何存儲的,又通過怎樣的方式被訪問?
機械硬盤主要由磁盤盤片、磁頭、主軸與傳動軸等組成;數(shù)據(jù)就存放在磁盤盤片中
現(xiàn)代硬盤尋道都是采用CHS( Cylinder Head Sector )的方式,硬盤讀取數(shù)據(jù)時,讀寫磁頭沿徑向移動,移到要讀取的扇區(qū)所在磁道的上方,這段時間稱為
尋道時間(seek time)
。
因讀寫磁頭的起始位置與目標位置之間的距離不同,尋道時間也不同
。磁頭到達指定磁道后,然后通過盤片的旋轉(zhuǎn),使得要讀取的扇區(qū)轉(zhuǎn)到讀寫磁頭的下方,這段時間稱為
旋轉(zhuǎn)延遲時間(rotational latencytime)
。然后再讀寫數(shù)據(jù),讀手租寫數(shù)據(jù)也需要時間,這段時間稱為
傳輸時間(transfer time)
。
固態(tài)硬盤主要由主控芯片、閃存顆粒與緩存組成;數(shù)據(jù)就存放在閃存芯片中
通過主控芯片進行尋址, 因為畢好兆是電信號方式, 沒有任何物理結(jié)構(gòu), 所以尋址速度非常快且與數(shù)據(jù)存儲位置無關(guān)
如何查看系統(tǒng)IO狀態(tài)
查看磁盤空間
調(diào)用 open , fwrite 時到底發(fā)生了什么?
在一個IO過程中,以下5個API/系統(tǒng)調(diào)用是必不可少的
Create 函數(shù)用來打開一個文件,如果該文件不存在,那么需要在磁盤上創(chuàng)建該文件
Open 函數(shù)用于打開一個指定的文件。如果在 Open 函數(shù)中指定 O_CREATE 標記,那么 Open 函數(shù)同樣可以實現(xiàn) Create 函數(shù)的功能
Clos e函數(shù)用于釋放文件句柄
Write 和 Read 函數(shù)用于實現(xiàn)文件的讀寫過程
O_SYNC (先寫緩存, 但是需要實際落襪粗盤之后才返回, 如果接下來有讀請求, 可以從內(nèi)存讀 ), write-through
O_DSYNC (D=data, 類似O_SYNC, 但是只同步數(shù)據(jù), 不同步元數(shù)據(jù))
O_DIRECT (直接寫盤, 不經(jīng)過緩存)
O_ASYNC (異步IO, 使用信號機制實現(xiàn), 不推薦, 直接用aio_xxx)
O_NOATIME (讀取的時候不更新文件 atime(access time))
sync() 全局緩存寫回磁盤
fsync() 特定fd的sync()
fdatasync() 只刷數(shù)據(jù), 不同步元數(shù)據(jù)
mount noatime(全局不記錄atime), re方式(只讀), sync(同步方式)
一個IO的傳奇一生 這里有一篇非常好的資料,講述了整個IO過程;
下面簡單記錄下自己的理解的一次常見的Linux IO過程, 想了解更詳細及相關(guān)源碼,非常推薦閱讀上面的原文
Linux IO體系結(jié)構(gòu)
Superblock
超級描述了整個文件系統(tǒng)的信息。為了保證可靠性,可以在每個塊組中對superblock進行備份。為了避免superblock冗余過多,可以采用稀疏存儲的方式,即在若干個塊組中對superblock進行保存,而不需要在所有的塊組中都進行備份
GDT 組描述符表
組描述符表對整個組內(nèi)的數(shù)據(jù)布局進行了描述。例如,數(shù)據(jù)塊位圖的起始地址是多少?inode位圖的起始地址是多少?inode表的起始地址是多少?塊組中還有多少空閑塊資源等。組描述符表在superblock的后面
數(shù)據(jù)塊位圖
數(shù)據(jù)塊位圖描述了塊組內(nèi)數(shù)據(jù)塊的使用情況。如果該數(shù)據(jù)塊已經(jīng)被某個文件使用,那么位圖中的對應位會被置1,否則該位為0
Inode位圖
Inode位圖描述了塊組內(nèi)inode資源使用情況。如果一個inode資源已經(jīng)使用,那么對應位會被置1
Inode表
(即inode資源)和數(shù)據(jù)塊。這兩塊占據(jù)了塊組內(nèi)的絕大部分空間,特別是數(shù)據(jù)塊資源
一個文件是由inode進行描述的。一個文件占用的數(shù)據(jù)塊block是通過inode管理起來的
。在inode結(jié)構(gòu)中保存了直接塊指針、一級間接塊指針、二級間接塊指針和三級間接塊指針。對于一個小文件,直接可以采用直接塊指針實現(xiàn)對文件塊的訪問;對于一個大文件,需要采用間接塊指針實現(xiàn)對文件塊的訪問
最簡單的調(diào)度器。它本質(zhì)上就是一個鏈表實現(xiàn)的
fifo
隊列,并對請求進行簡單的
合并
處理。
調(diào)度器本身并沒有提供任何可以配置的參數(shù)
讀寫請求被分成了兩個隊列, 一個用訪問地址作為索引,一個用進入時間作為索引,并且采用兩種方式將這些request管理起來;
在請求處理的過程中,deadline算法會優(yōu)先處理那些訪問地址臨近的請求,這樣可以更大程度的減少磁盤抖動的可能性。
只有在有些request即將被餓死的時候,或者沒有辦法進行磁盤順序化操作的時候,deadline才會放棄地址優(yōu)先策略,轉(zhuǎn)而處理那些即將被餓死的request
deadline算法可調(diào)整參數(shù)
read_expire
: 讀請求的超時時間設(shè)置(ms)。當一個讀請求入隊deadline的時候,其過期時間將被設(shè)置為當前時間+read_expire,并放倒fifo_list中進行排序
write_expire
:寫請求的超時時間設(shè)置(ms)
fifo_batch
:在順序(sort_list)請求進行處理的時候,deadline將以batch為單位進行處理。每一個batch處理的請求個數(shù)為這個參數(shù)所限制的個數(shù)。在一個batch處理的過程中,不會產(chǎn)生是否超時的檢查,也就不會產(chǎn)生額外的磁盤尋道時間。這個參數(shù)可以用來平衡順序處理和饑餓時間的矛盾,當饑餓時間需要盡可能的符合預期的時候,我們可以調(diào)小這個值,以便盡可能多的檢查是否有饑餓產(chǎn)生并及時處理。增大這個值當然也會增大吞吐量,但是會導致處理饑餓請求的延時變長
writes_starved
:這個值是在上述deadline出隊處理之一步時做檢查用的。用來判斷當讀隊列不為空時,寫隊列的饑餓程度是否足夠高,以時deadline放棄讀請求的處理而處理寫請求。當檢查存在有寫請求的時候,deadline并不會立即對寫請求進行處理,而是給相關(guān)數(shù)據(jù)結(jié)構(gòu)中的starved進行累計,如果這是之一次檢查到有寫請求進行處理,那么這個計數(shù)就為1。如果此時writes_starved值為2,則我們認為此時饑餓程度還不足夠高,所以繼續(xù)處理讀請求。只有當starved >= writes_starved的時候,deadline才回去處理寫請求??梢哉J為這個值是用來平衡deadline對讀寫請求處理優(yōu)先級狀態(tài)的,這個值越大,則寫請求越被滯后處理,越小,寫請求就越可以獲得趨近于讀請求的優(yōu)先級
front_merges
:當一個新請求進入隊列的時候,如果其請求的扇區(qū)距離當前扇區(qū)很近,那么它就是可以被合并處理的。而這個合并可能有兩種情況,一個是向當前位置后合并,另一種是向前合并。在某些場景下,向前合并是不必要的,那么我們就可以通過這個參數(shù)關(guān)閉向前合并。默認deadline支持向前合并,設(shè)置為0關(guān)閉
在調(diào)度一個request時,首先需要選擇一個一個合適的cfq_group。Cfq調(diào)度器會為每個cfq_group分配一個時間片,當這個時間片耗盡之后,會選擇下一個cfq_group。每個cfq_group都會分配一個vdisktime,并且通過該值采用紅黑樹對cfq_group進行排序。在調(diào)度的過程中,每次都會選擇一個vdisktime最小的cfq_group進行處理。
一個cfq_group管理了7棵service tree,每棵service tree管理了需要調(diào)度處理的對象cfq_queue。因此,一旦cfq_group被選定之后,需要選擇一棵service tree進行處理。這7棵service tree被分成了三大類,分別為RT、BE和IDLE。這三大類service tree的調(diào)度是按照優(yōu)先級展開的
通過優(yōu)先級可以很容易的選定一類Service tree。當一類service tree被選定之后,采用service time的方式選定一個合適的cfq_queue。每個Service tree是一棵紅黑樹,這些紅黑樹是按照service time進行檢索的,每個cfq_queue都會維護自己的service time。分析到這里,我們知道,cfq算法通過每個cfq_group的vdisktime值來選定一個cfq_group進行服務(wù),在處理cfq_group的過程通過優(yōu)先級選擇一個最需要服務(wù)的service tree。通過該Service tree得到最需要服務(wù)的cfq_queue。該過程在 cfq_select_queue 函數(shù)中實現(xiàn)
一個cfq_queue被選定之后,后面的過程和deadline算法有點類似。在選擇request的時候需要考慮每個request的延遲等待時間,選擇那種等待時間最長的request進行處理。但是,考慮到磁盤抖動的問題,cfq在處理的時候也會進行順序批量處理,即將那些在磁盤上連續(xù)的request批量處理掉
cfq調(diào)度算法的參數(shù)
back_seek_max
:磁頭可以向后尋址的更大范圍,默認值為16M
back_seek_penalty
:向后尋址的懲罰系數(shù)。這個值是跟向前尋址進行比較的
fifo_expire_async
:設(shè)置異步請求的超時時間。同步請求和異步請求是區(qū)分不同隊列處理的,cfq在調(diào)度的時候一般情況都會優(yōu)先處理同步請求,之后再處理異步請求,除非異步請求符合上述合并處理的條件限制范圍內(nèi)。當本進程的隊列被調(diào)度時,cfq會優(yōu)先檢查是否有異步請求超時,就是超過fifo_expire_async參數(shù)的限制。如果有,則優(yōu)先發(fā)送一個超時的請求,其余請求仍然按照優(yōu)先級以及扇區(qū)編號大小來處理
fifo_expire_sync
:這個參數(shù)跟上面的類似,區(qū)別是用來設(shè)置同步請求的超時時間
slice_idle
:參數(shù)設(shè)置了一個等待時間。這讓cfq在切換cfq_queue或service tree的時候等待一段時間,目的是提高機械硬盤的吞吐量。一般情況下,來自同一個cfq_queue或者service tree的IO請求的尋址局部性更好,所以這樣可以減少磁盤的尋址次數(shù)。這個值在機械硬盤上默認為非零。當然在固態(tài)硬盤或者硬RAID設(shè)備上設(shè)置這個值為非零會降低存儲的效率,因為固態(tài)硬盤沒有磁頭尋址這個概念,所以在這樣的設(shè)備上應該設(shè)置為0,關(guān)閉此功能
group_idle
:這個參數(shù)也跟上一個參數(shù)類似,區(qū)別是當cfq要切換cfq_group的時候會等待一段時間。在cgroup的場景下,如果我們沿用slice_idle的方式,那么空轉(zhuǎn)等待可能會在cgroup組內(nèi)每個進程的cfq_queue切換時發(fā)生。這樣會如果這個進程一直有請求要處理的話,那么直到這個cgroup的配額被耗盡,同組中的其它進程也可能無法被調(diào)度到。這樣會導致同組中的其它進程餓死而產(chǎn)生IO性能瓶頸。在這種情況下,我們可以將slice_idle = 0而group_idle = 8。這樣空轉(zhuǎn)等待就是以cgroup為單位進行的,而不是以cfq_queue的進程為單位進行,以防止上述問題產(chǎn)生
low_latency
:這個是用來開啟或關(guān)閉cfq的低延時(low latency)模式的開關(guān)。當這個開關(guān)打開時,cfq將會根據(jù)target_latency的參數(shù)設(shè)置來對每一個進程的分片時間(slice time)進行重新計算。這將有利于對吞吐量的公平(默認是對時間片分配的公平)。關(guān)閉這個參數(shù)(設(shè)置為0)將忽略target_latency的值。這將使系統(tǒng)中的進程完全按照時間片方式進行IO資源分配。這個開關(guān)默認是打開的
target_latency
:當low_latency的值為開啟狀態(tài)時,cfq將根據(jù)這個值重新計算每個進程分配的IO時間片長度
quantum
:這個參數(shù)用來設(shè)置每次從cfq_queue中處理多少個IO請求。在一個隊列處理事件周期中,超過這個數(shù)字的IO請求將不會被處理。這個參數(shù)只對同步的請求有效
slice_sync
:當一個cfq_queue隊列被調(diào)度處理時,它可以被分配的處理總時間是通過這個值來作為一個計算參數(shù)指定的。公式為: time_slice = slice_sync + (slice_sync/5 * (4 – prio)) 這個參數(shù)對同步請求有效
slice_async
:這個值跟上一個類似,區(qū)別是對異步請求有效
slice_async_rq
:這個參數(shù)用來限制在一個slice的時間范圍內(nèi),一個隊列最多可以處理的異步請求個數(shù)。請求被處理的更大個數(shù)還跟相關(guān)進程被設(shè)置的io優(yōu)先級有關(guān)
通常在Linux上使用的IO接口是同步方式的,進程調(diào)用 write / read 之后會阻塞陷入到內(nèi)核態(tài),直到本次IO過程完成之后,才能繼續(xù)執(zhí)行,下面介紹的異步IO則沒有這種限制,但是當前Linux異步IO尚未成熟
目前Linux aio還處于較不成熟的階段,只能在 O_DIRECT 方式下才能使用(glibc_aio),也就是無法使用默認的Page Cache機制
正常情況下,使用aio族接口的簡要方式如下:
io_uring 是 2023 年 5 月發(fā)布的 Linux 5.1 加入的一個重大特性 —— Linux 下的全新的異步 I/O 支持,希望能徹底解決長期以來 Linux AIO 的各種不足
io_uring 實現(xiàn)異步 I/O 的方式其實是一個生產(chǎn)者-消費者模型:
邏輯卷管理
RAID0
RAID1
RAID5(糾錯)
條帶化
Linux系統(tǒng)性能調(diào)整:IO過程
Linux的IO調(diào)度
一個IO的傳奇一生
理解inode
Linux 文件系統(tǒng)是怎么工作的?
Linux中Buffer cache性能問題一探究竟
Asynchronous I/O and event notification on linux
AIO 的新歸宿:io_uring
linux 調(diào)度機制的介紹就聊到這里吧,感謝你花時間閱讀本站內(nèi)容,更多關(guān)于linux 調(diào)度機制,深入探究Linux的調(diào)度機制,優(yōu)化性能與資源分配,Linux 磁盤IO的信息別忘了在本站進行查找喔。
香港服務(wù)器選創(chuàng)新互聯(lián),2H2G首月10元開通。
創(chuàng)新互聯(lián)(www.cdcxhl.com)互聯(lián)網(wǎng)服務(wù)提供商,擁有超過10年的服務(wù)器租用、服務(wù)器托管、云服務(wù)器、虛擬主機、網(wǎng)站系統(tǒng)開發(fā)經(jīng)驗。專業(yè)提供云主機、虛擬主機、域名注冊、VPS主機、云服務(wù)器、香港云服務(wù)器、免備案服務(wù)器等。
分享文章:深入探究Linux的調(diào)度機制,優(yōu)化性能與資源分配(linux調(diào)度機制)
URL分享:http://www.dlmjj.cn/article/dpescgh.html


咨詢
建站咨詢
