[Asp.net5]Caching-緩存架構與源碼分析

2019-11-14 14:20:10

字體：大中小

來源：轉載

供稿：網友

首先奉獻caching的開源地址[微軟源碼]

1.工程架構

為了提高程序效率，我們經常將一些不頻繁修改，但是使用了還很大的數據進行緩存。尤其是互聯網產品，緩存可以說是提升效率優化第一利器。微軟為我們實現了倆種緩存方式：內存緩存、分布式緩存。個人理解如果緩存在前端電腦內存的緩存叫做內存緩存，如果緩存在其它設備上，那么叫做分布式緩存。

倆種緩存方式的優缺點

　　我開發程序經歷過三個時間點，開始的時候從來不使用緩存，之后將數據緩存在內存中，最后使用分布式緩存。內存緩存的優點是速度快，缺點是內存損耗比較大，可能緩存的數據太大的時候就放不下了，另外一個缺點就是對于多前端程序的原則上是不支持的。而分布式緩存的優點是，理論上緩存大小沒有上線，可以通過擴充物理硬件進行擴展，對于多前端支持的較好。

Microsoft.Framework.Caching.Abstractions

這個工程定義的是緩存的整體架構。我們的思想是面向接口編程，而不是面向實現編程。所以該工程定義了我們想要的接口

從上圖顯而易見，微軟將內存緩存和分布式緩存割裂開來，而不是我們一般意義上定義一個ICache接口，之后讓IMemoryCache和IDistributedCache分別繼承ICache接口。

所以我們用分布式緩存，內存緩存原則不能無縫的直接切換。需要我們修改程序代碼，或者進行適配封裝。

分布式緩存

　這部分包含內容只包含簡單的倆點：配置項（DistributedCacheEntryOptions）、緩存接口（IDistributedCache）。而DistributedCacheEntryExtentions是DistributedCacheEntryOptions的擴展方法包裝類，CaceheExtensions是IDistributedCache擴展方法包裝類,CacheItemPRiority是優先級枚舉。

內存緩存

　　內存緩存，微軟的設計就比較復雜，考慮到方方面面。首先時緩存的配置項（IMemoryCacheEntryOptions）、緩存接口（IMemoryCache）以及它們擴展項（MemoryCacheEntryExtentions、CacheExtentions）。

　　但是微軟的想法，緩存不止應該只有過期失效，當我程序update一個字段后，我想通知內存緩存，我更改了，那又該怎么辦呢？于是微軟設計了右上角的部分（*由于代碼的持續更新原因右上角部分的接口已經被去掉，由IList<IChangeToken> ExpirationTokens { get; }屬性替代，但是原則都是一樣的，即外部通知內部，數據已經更新）。

　　既然外部數據更新能通知緩存，那反向呢？緩存更新是否能夠通知外部使用對象呢？答案是這個可以支持，所有上邊框，下面的部分。

　　既然能外部修改通知內部，內部修改也能通知外部應用程序。設計已經趨近完美了？微軟說還不夠，于是上圖左邊的部分產生了。它的意義就是，我可以為緩存創建一個范圍，至于范圍是做什么的？答案是“我也不知道”，但是從內存緩存的實現上來看，是用于整體緩存token等信息的。

　　緩存配置項的時間選項：AbsoluteExpiration、AbsoluteExpirationRelativeToNow、SlidingExpiration。分別表示的是絕對的過期時間點、相對于現在多久的絕對過期時間點，有效期時長。我們注意下類型AbsoluteExpiration是DateTimeOffset不是DateTime。（*DateTimeOffset 是對于1970年1月1日0時的時間偏移量，和DateTime相比，缺少時區的概念。而此處不需要有時區相關概念，所以選用了DateTimeOffset ）。

Microsoft.Extensions.Caching.Memory

　　內存緩存的實現。此處代碼結構如下圖所示：

大邏輯

　　1，緩存太大時，壓縮緩存空間（個人理解）

　　系統創建內存緩存對象（MemoryCache）的時候，同時創建GcNotification對象，之后GcNotification對象立馬失效。GC需要析構的時候，會調用GcNotification的析構函數，析構函數被調用后會執行CallBack函數（定義在MemoryCache），之后再次注冊析構函數，循環往復的如此。所以當內存占用太高的時候，緩存會縮減緩存空間。

        if (reRegister && !Environment.HasShutdownStarted)            {                GC.ReRegisterForFinalize(this);            }

注冊析構函數

　　2，緩存對象（MemoryCache）的釋放，沒有對象引用緩存的話，難免GC會回收緩存對象。那么怎么避免緩存被GC回收？下面代碼的思路還是不錯的

        ~MemoryCache()        {            Dispose(false);        }        public void Dispose()        {            Dispose(true);        }        protected virtual void Dispose(bool disposing)        {            if (!_disposed)            {                if (disposing)                {                    GC.SuppressFinalize(this);                }                _disposed = true;            }        }        private void CheckDisposed()        {            if (_disposed)            {                throw new ObjectDisposedException(typeof(MemoryCache).FullName);            }        }

緩存對象析構

　　3，IEntryLink對象的跨線程訪問

　　緩存過期的時候，很可能不是本線程訪問的，可能是另外一個線程，通過獲取IEntryLink，之后通過IChangeToken對象通知緩存，所以不同線程間必須是可以共享IEntryLink對象。此處使用的是CallContext.LogicalGetData與CallContext.LogicalSetData。關于線程見數據通信，請參考“如何實現對上下文（Context）數據的統一管理”

    internal static class EntryLinkHelpers    {        private const string ContextLinkDataName = "EntryLinkHelpers.ContextLink";        public static EntryLink ContextLink        {            get            {                var handle = CallContext.LogicalGetData(ContextLinkDataName) as ObjectHandle;                if (handle == null)                {                    return null;                }                return handle.Unwrap() as EntryLink;            }            set            {                CallContext.LogicalSetData(ContextLinkDataName, new ObjectHandle(value));            }        }        internal static IEntryLink CreateLinkingScope()        {            var parentLink = ContextLink;            var newLink = new EntryLink(parent: parentLink);            ContextLink = newLink;            return newLink;        }        internal static void DisposeLinkingScope()        {            var currentLink = ContextLink;            var priorLink = ((EntryLink)currentLink).Parent;            ContextLink = priorLink;        }    }