https://hch1212.github.io/tags/%E6%B7%98%E6%B1%B0%E7%AD%96%E7%95%A5/Recent content in 淘汰策略 on giftiaのblogHugozh-CNWed, 15 Jul 2026 17:23:30 +0800https://hch1212.github.io/posts/2026/07/w-tinylfucaffeine-%E7%9A%84%E9%AB%98%E5%91%BD%E4%B8%AD%E7%8E%87%E7%BC%93%E5%AD%98%E6%B7%98%E6%B1%B0%E7%AE%97%E6%B3%95/Tue, 14 Jul 2026 00:00:00 +0000https://hch1212.github.io/posts/2026/07/w-tinylfucaffeine-%E7%9A%84%E9%AB%98%E5%91%BD%E4%B8%AD%E7%8E%87%E7%BC%93%E5%AD%98%E6%B7%98%E6%B1%B0%E7%AE%97%E6%B3%95/<h2 id="背景">背景</h2> <p>缓存淘汰算法决定<strong>当缓存满时该踢谁</strong>。一个理想的淘汰算法需要同时满足：</p> <ol> <li><strong>高命中率</strong>：尽量保留未来会被访问的数据</li> <li><strong>低内存开销</strong>：淘汰算法自身的元数据不能太占内存</li> <li><strong>时间/空间适应性</strong>：能应对访问模式随时间变化</li> </ol> <h2 id="lfuleast-frequently-used">LFU（Least Frequently Used）</h2> <p>记录每个元素的访问频率，淘汰频率最低的。</p> <p>优点：</p> <ul> <li>对热点数据友好：高频数据不容易被淘汰</li> </ul> <p>缺点：</p> <ul> <li><strong>新元素冷启动</strong>：刚加入的元素频率很低，还没积累就被踢了</li> <li><strong>历史包袱</strong>：曾经高频但现在已经冷的数据占据缓存，很难被淘汰</li> <li>频率计数器占用内存大（每个 key 都要记录精确计数）</li> </ul> <h2 id="lruleast-recently-used">LRU（Least Recently Used）</h2> <p>按最近访问时间排序，淘汰最久没访问的。</p> <p>优点：</p> <ul> <li>实现简单（双向链表 + 哈希表）</li> <li>对突发流量友好</li> </ul> <p>缺点：</p> <ul> <li><strong>扫描污染</strong>：一次全表扫描会把整个缓存洗成新数据，真正热数据被挤出</li> <li><strong>频率盲区</strong>：只关心时间，不关心访问频率，一次访问和一百次访问在 LRU 里权重相同</li> </ul> <h2 id="slrusegmented-lru">SLRU（Segmented LRU）</h2> <p>将缓存分成两段：<strong>试用段（probation）</strong> 和 <strong>保护段（protected）</strong>。</p> <ul> <li>新元素先进入试用段</li> <li>在试用段内被再次访问，晋升到保护段</li> <li>淘汰从试用段发生</li> </ul> <p>优点：</p> <ul> <li>用&quot;二次机会&quot;解决 LRU 的扫描污染问题</li> </ul> <p>缺点：</p> <ul> <li>依然是纯 LRU 思想，不感知频率——保护段满时元素降级回试用段而非直接淘汰，但一个被访过 100 次却在试用段的元素仍可能先被踢</li> </ul> <h2 id="countminsketch近似计数器">CountMinSketch（近似计数器）</h2> <p>精确记录每个 key 的访问频率代价太高。Count-Min Sketch 用<strong>概率换空间</strong>：</p> <ul> <li>维护一个 <code>d × w</code> 的二维计数器矩阵</li> <li>每个元素经过 d 个哈希函数映射到每行的某个位置，计数器 +1</li> <li>查询时取 d 个位置的最小值作为估计频率</li> </ul> <p>特点：</p> <ul> <li>只会<strong>高估</strong>不会低估（保证 No False Negative）</li> <li>内存固定，与缓存元素数量无关</li> <li>支持周期性衰减（除以 2），让历史数据随时间自然消退</li> </ul> <h2 id="tinylfu">TinyLFU</h2> <p>TinyLFU 是 W-TinyLFU 的核心组件。它的思想：<strong>用一个轻量级频率估计器替代精确计数</strong>。</p>