近日，中國科學院軟件研究所總體部研究團隊在處理器緩存性能優(yōu)化與結(jié)構(gòu)設(shè)計方面取得進展。該研究提出一種基于合并相似訪存模式的數(shù)據(jù)緩存預(yù)取方法，可有效提升處理器整體性能。 

　　硬件數(shù)據(jù)預(yù)取是通過提前加載處理器核心所需數(shù)據(jù)到緩存，來降低處理器核心對內(nèi)存的平均訪問延遲，從而提升處理器整體性能。硬件數(shù)據(jù)預(yù)取方法研究是計算機體系結(jié)構(gòu)領(lǐng)域長期的研究熱點之一。 

　　研究團隊通過分析不同程序負載下的訪存行為模式，發(fā)現(xiàn)具有相同觸發(fā)地址偏移的訪存模式之間存在較高的相似性。基于這一發(fā)現(xiàn)，研究提出了基于合并相似訪存模式的硬件預(yù)取新方法——PMP。PMP是根據(jù)觸發(fā)偏移和程序計數(shù)（PC）特征對訪存模式進行聚類，然后通過量化統(tǒng)計方法進行相似模式合并，最后在預(yù)取階段基于訪問頻率對預(yù)取目標進行提取。 

　　在相同的實驗環(huán)境下，PMP性能超過國際先進預(yù)取方法Bingo約2.9%，且所需存儲開銷僅為其1/30。這解決了當前先進硬件預(yù)取方法實現(xiàn)復(fù)雜、硬件存儲開銷大、在商業(yè)產(chǎn)品的應(yīng)用上受到限制等問題。 

　　相關(guān)研究成果以Merging Similar Patterns for Hardware Prefetching為題，被計算機體系結(jié)構(gòu)領(lǐng)域頂級學術(shù)會議MICRO 2022錄用。

基于合并相似訪存模式的預(yù)取器設(shè)計概覽

對比實驗結(jié)果