建站
咨詢
售后
建站咨詢
新聞中心
說明
創(chuàng)新互聯(lián)建站長期為上千余家客戶提供的網(wǎng)站建設服務，團隊從業(yè)經(jīng)驗10年，關注不同地域、不同群體，并針對不同對象提供差異化的產(chǎn)品和服務；打造開放共贏平臺，與合作伙伴共同營造健康的互聯(lián)網(wǎng)生態(tài)環(huán)境。為白城企業(yè)提供專業(yè)的成都網(wǎng)站制作、網(wǎng)站設計、外貿(mào)網(wǎng)站建設，白城網(wǎng)站改版等技術服務。擁有10余年豐富建站經(jīng)驗和眾多成功案例,為您定制開發(fā)。
在學習Netty的時候，ByteBuf隨處可見，但是如何高效分配ByteBuf還是很復雜的，Netty的池化內(nèi)存分配這塊還是比較難的，很多人學習過，看過但是還是云里霧里的，本篇文章就是主要來講解：Netty分配池化的堆外內(nèi)存的細節(jié)，期待可以讓你明白!!!
由于為了更好的表達，文章中的圖我最少畫了6小時，畫的不熟悉，并且也強調(diào)一些細節(jié)上。
由于該源碼中涉及到大量的二進制操作，建議看看其他二進制文章。
ByteBuf重要性
ByteBuf在Netty中一直存在，讀寫必備!ByteBuf是Netty的數(shù)據(jù)容器，高效分配ByteBuf至關重要!
Netty從socket讀取數(shù)據(jù)。
Netty準備把數(shù)據(jù)寫到socket中去。
通過這里我們就可以看到，再把數(shù)據(jù)寫socket的之前會判斷是否是堆外內(nèi)存，如果不是會構造一個directbuffer對象的，細節(jié)代碼如下：
所以本篇文章就是主要來講解：Netty分配池化的堆外內(nèi)存的細節(jié)，其實分配堆內(nèi)存的細節(jié)很多也是類似的。
備注： 為什么不是堆外內(nèi)存還要轉(zhuǎn)堆外內(nèi)存，為什么加這個判斷，我之前也不理解，忽然有天和滌生大佬討論，討論討論就清晰了，后續(xù)有空寫篇。
總覽
本次主要討論的是關于池化內(nèi)存的分配，PooledByteBufAllocator就是netty分配池化內(nèi)存的操作入口。
其提供對外常用操作api：
Netty在發(fā)送數(shù)據(jù)的時候會判斷是否是堆外內(nèi)存，如果不是會進行封裝的：
所有這里我們以分配池化的堆外內(nèi)存為例，進行本文說明。池化的堆內(nèi)存分配其實流程都差不多的。
下面我們來看看分配示例demo：
后續(xù)我們都會根據(jù)這段簡單的demo進行分析。
操作入口類
PooledByteBufAllocator的初始化：
進去之后可以看到核心類的一初始化操作：
分配理論是jemalloc，可以理解為java版本的jemalloc實現(xiàn)。
PoolThreadCache
通過上圖可以清晰的了解到PoolThreadCache的主要數(shù)據(jù)結(jié)構。
開始的時候，這些Cache里面都是沒有值的，只有在調(diào)用free釋放的時候(在后續(xù)釋放內(nèi)存中會講解)，才會把之前分配的內(nèi)存大小放到該cache的queue里面，其實每次分配的時候都是先看看是否緩存里面有，如果有直接返回，沒有則進行正常的分配流程(內(nèi)存分配會講解)。
我們來看看PoolArena directArena內(nèi)容：
下面我們來看看PoolArena結(jié)構。
PoolArena
通過下圖可以清晰的了解到PoolArena的主要數(shù)據(jù)結(jié)構。
在PoolArena里面涉及到PoolChunkList和PoolSubpage對應的結(jié)構有PoolChunk和PoolSubpage，我們來詳細的看看這2塊內(nèi)容。
PoolChunk
第一次的時候，PoolChunkList、PoolSubpage都是默認值，需要新增一個Chunk，默認一個Chunk是16M。內(nèi)部會結(jié)構是完全二叉樹一共有4096個節(jié)點，有2048個葉子節(jié)點(每個葉子節(jié)點大小為一個page，就是8k)，非葉子節(jié)點的內(nèi)存大小等于左子樹內(nèi)存大小加上右子樹內(nèi)存大小。
完全二叉樹結(jié)構如下：
這顆完全二叉樹在java中是使用數(shù)組來進行表示的。
唯一需要注意的是，下標是從1開始而不是0。
depthMap的值初始化后不再改變，memoryMap的值則隨著節(jié)點分配而改變。
這個值太多就不都截圖了，就是把上面那顆完全二叉樹用數(shù)組表示了而已，只是值存的不是節(jié)點的下標而是存的樹的深度而已。
depthMap數(shù)組值為0表示可以分配16M空間，如果為1 表示可以分配8M，，如果為2表示嗯可以分配4M，如果為3表示可以分配2M ……………………如果為11表示可以分配8k空間。
如果該節(jié)點已經(jīng)分配完成，就設置為12即可。
怎么確定需要分配的大小在深度是多少?
如果需要分配的內(nèi)存規(guī)格化之后，是小于8k，那么在8k上面分配即可(即深度為11)。
如果為8k或者大于8k那么通過下面代碼就可以定位到深度了：
- int d = maxOrder - (log2(normCapacity) - pageShifts);
知道深度之后，怎么進行定位到那個節(jié)點呢???
找到該節(jié)點之后，先把該節(jié)點顯示占用，在更新起父節(jié)點父節(jié)點的父………………如下：
SubpagePool
上面的圖就是關于SubpagePool的內(nèi)存結(jié)構了。我們在分配page的時候，根據(jù)memoryMap對于的值就知道是否被分配了，那么如果是subpagePool呢?
subpagePool分為2類：tinySubpagePools和smallSubpagePools，大小對于也對于上面的圖里面了，每類都是固定大小的，如果分配256b的大小，那么一個page就是8k，8*1024/256 = 32塊。那么怎么怎么表示每個還被分配了呢?
- private final long[] bitmap;
由于一個long占用的字節(jié)數(shù)為64，我們這里僅僅是需要表示32個，所以使用一個long即可了，二進制每位 1表示已經(jīng)使用了，0表示還未使用。
由于subpage不僅僅需要定位到完全二叉樹在那個節(jié)點，還需要知道在long的第幾個 并且是第幾位，所以要復雜一些：
通過一個long的前32位來表示subpage的第幾個long的第幾位上面，通過后32來表示在完全二叉樹的那個節(jié)點上面，完美。
分配核心
分配入口：ByteBuf byteBuf = alloc.directBuffer(256);
進行跟進代碼：
我們來看：PooledByteBuf buf = newByteBuf(maxCapacity);
構建PooledByteBuf對象。最后返回PooledByteBuf對象。
我們來看下類繼承結(jié)構：
所有ByteBuf byteBuf = alloc.directBuffer(256);這句話是沒有什么問題的，不會報錯。
我們來看看newByteBuf(maxCapacity)的細節(jié)實現(xiàn)：
這里借助了Netty增加實現(xiàn)的Recycler對象池技術。Recycler設計也非常精巧，后續(xù)可以專門寫篇Recycler文章，今天不是重點，我們只要知道由于分配PolledByteBuf對象的代價有點大，如果需要頻繁使用到PolledByteBuf對象，并且對性能有所要求，那么池化技術是一個不錯的選擇(比如我們以前使用的線程池、數(shù)據(jù)庫連接池等都是類似道理)，池化技術在一定程度上面減少了頻繁創(chuàng)建對象帶來的性能開銷。其實這個類似的思想非常常見(比如我們查詢數(shù)據(jù)庫成本高，緩存到redis，思路也是一樣的)，在本篇后續(xù)中還可以體會到(PoolThreadCache)。
通過PooledByteBuf buf = newByteBuf(maxCapacity);僅僅是獲取到了一個初始對象而已。
分配的核心在：allocate(cache, buf, reqCapacity);
- 先嘗試在1步驟 進行分配，根據(jù)不同的類型定位到不同的Caches，如果有進行分配直接返回。
- 如果1步驟 分配不了，進行2步驟上面分配。
2步驟分配細節(jié)：看看需要分配的是什么類型 page還是subpage，如果是subpage在根據(jù)看看是tinySubpagePools還是smallSubpagePools，找到對應的槽位，看看鏈表里是否有可用的PoolSubpage，如果有就進行分配修改標記退出，如果沒有就現(xiàn)需要在先分配一個page了，根據(jù)chunklist的這些看看是否有合適的，如果有合適的，那么在這些已經(jīng)有的chunk上面進行分配一個page (分配page也是這個情況了)。
之后在根據(jù)分配到的page，進行該請求大小的分配 (由于一個page可以存儲很多同大小的數(shù)量)需要用long的位標記，表示該位置分配了，并且修改完全二叉樹的父等值，分配結(jié)束。如果沒有chunk那么需要新分配一塊chunk之后重復上面步驟即可。
釋放核心
釋放入口 ：byteBuf.release();
進行跟進代碼：
通過這段代碼我們就這段放入到相應的queue了：
緩存到了對應的Cache的queue里面了。
網(wǎng)站欄目：看完這篇還不清楚Netty的內(nèi)存管理，那我就哭了！
轉(zhuǎn)載源于：http://www.dlmjj.cn/article/ccdjhsd.html
