使用Cache Reserve，减少源站负载，节省云出口费用，并最大限度提高缓存命中率

2022年早些时候，我们推出了Cache Reserve。Cache Reserve利用R2的持久数据存储，帮助用户更长久地从Cloudflare的缓存中提供内容。从Cloudflare的缓存中提供内容能够降低从源站获取内容的出口费用账单，从而给网站运营者带来利益，同时还能更快地加载内容，为网站访问者带来好处。

Cache Reserve的封闭测试持续了几个月的时间，我们从初始用户处收集到了一些反馈，并持续改进该产品。在对此反馈进行几轮迭代后，今天，我们非常激动地宣布，Cache Reserve正式进入公开测试阶段——用户无需再苦苦等待，现在即可对其进行测试，并将其集成至内容交付策略中。

如果您想要了解Cache Reserve能够给您带来的好处，并为我们提供一些反馈，可以前往Cloudflare仪表板，导航至Caching板块，按下一个按钮，从而启用Cache Reserve。

Cache Reserve的整体运作情况

从Cloudflare的缓存中提供的内容，其旅程始于源服务器，也就是内容托管的地方。当对内容的请求到达源站时，源站会对响应所需的内容进行编译，并将其返回给访问者。

访问者与源站之间的距离会影响资产的性能，因为其可能需要经过一段长长的距离才能完成响应。正因为如此，用户需要支付一定的费用，使内容从源站上的存储位置移动到请求内容的访问者所在的地方。这些费用称为“带宽”或“出口”费用，对于在云提供商处托管内容的用户而言，这是发票上常见的月明细项目。

Cloudflare的CDN位于源站和访问者之间，会评估源站的响应以了解其是否可缓存。如果能够将其添加到Cloudflare的缓存中，则当再一次接收到针对该内容的请求时，Cloudflare可以使用缓存的资产作出响应，这意味着不需要将请求发送到源站，从而减少我们客户的出口费用。我们还会在靠近访问者的数据中心中缓存内容，以改善性能并减少响应的传输时间。

为了更长时间地保留缓存的资产，几年前我们引入了分层缓存，将我们所拥有的250多个全球数据中心整理成一个包含较低层（通常靠近访问者）与较高层（通常靠近源站）的层次结构。无法从较低层的缓存中提供请求的内容时，会先检查较高层，然后再前往源站获取最新的内容副本。将数据中心分层通过在访问者的请求与源站之间放置多份缓存，帮助我们在正确的位置更长时间地保留缓存内容。

为什么会发生缓存未命中？

当Cloudflare无法从缓存中提供内容，而必须返回源站检索最新副本时，就会发生未命中。当客户将缓存控制时间设置为内容过时（陈旧）且需要重新验证的时间时，可能会发生此情况。另一个影响因素是网络想要保留缓存内容的时间，这一因素较为复杂，可能因逐出条件而波动。

CDN必须考虑是否需要在缓存空间已满时提前逐出内容，为其他资产腾出存储空间。Cloudflare会使用“最近最少使用”（LRU）算法，基于缓存内容的最新请求情况来排列逐出的优先顺序。这意味着，即使缓存控制设置为某一内容片段缓存的天数，我们仍有可能将其提前逐出（如果它是该缓存中请求最少的），以便缓存更常用的内容。

这对于大部分客户和网站访问者都运作良好，但时常会让人们产生困惑，为什么有些内容会意外地显示未命中。如果未发生逐出，则内容将需要缓存到离请求该数据的访问者较远的数据中心中，这会损害资产的性能，导致Cloudflare的网络运行效率低下。

然而，部分客户拥有大型内容库，他们可能长期不会请求其中的内容。如果使用传统缓存，这些资产很有可能被逐出，当被再次请求时，则需要从源站提供。资产需要在互联网上保持常用才能保留在缓存中，这并不容易，因为常用或流行的内容是不断变化的。将不再热门的内容逐出，意味着当需要从源站重复提取该内容时，将对客户收取额外的源站出口费用。

Cache Reserve正式登场

这正是Cache Reserve发挥作用的地方。Cache Reserve作为最终的上层数据中心，保留本应从缓存中逐出的内容。在提交到Cache Reserve后，内容可在此处默认储存30天。如果在该期间内进来了针对该内容的另一个请求，则会再延长30天（以此类推），或者直到缓存控制表示我们不能再从缓存中提供该内容。Cache Reserve可作为保留所有可缓存内容的安全网，客户无需再担忧不必要的缓存逐出和源站出口费用。

Cache Reserve如何节省出口费用？

Cache Reserve的承诺是，对于极少被请求且可能从缓存中被逐出的长尾内容，命中率将提高，源站出口费用将减少。

然而，该产品还能带来额外的出口节省。例如，当未命中时，对象将写入Cache Reserve。这意味着，当缓存未命中而从源站提取内容时，我们不仅会使用该内容响应请求，还会将该资产写入Cache Reserve，这样，客户可以在很长时间内提供该资产而不必支付出口费用。

Cache Reserve设计为与分层缓存搭配使用，以尽可能地避免从源站提供内容。当在较低层和较高层都出现缓存未命中时，会检查Cache Reserve，如果在其中出现了命中，则在该响应返回至访问者时，将同时在较低层和较高层中缓存，源站无需看到该请求或提供任何额外数据。

基于R2成本，Cache Reserve以极低的价格实现了这些源站出口节省。如需有关Cache Reserve价格和操作的更多信息，请参见此处的文档。

在Cloudflare的开发人员平台上

扩展Cache Reserve

当我们首次宣布推出Cache Reserve时，反响非常热烈。超过20,000名用户想要访问测试版，关于人们想要如何使用Cache Reserve，我们很快发现了一些有意思的事情。

我们发现的第一项重大挑战是，用户和我们一样讨厌出口费用，并且希望确保在Cache Reserve中缓存尽可能多的内容。在封闭测试期间，我们所看到的使用情况为每秒实施超过8,000个PUT操作，以及以每秒超过3,000个GET的速度提供对象。我们还为部分大客户缓存了约600Tb的内容。我们知道，我们希望将该产品开放给所有想要使用它的人，为了进行扩展以满足此需求，我们需要尽快进行一些更改。因此，我们将目光转向了Cloudflare开发人员平台。

Cache Reserve使用其S3兼容API在R2上存储数据。在后台，R2利用我们性能极佳且可扩展的开发人员原语（Workers和Durable Objects）处理对象存储系统的所有复杂性。我们决定使用开发人员平台工具，是因为它让我们能够快速实施不同的扩展策略。在Cloudflare开发人员平台上进行构建的优势是，我们能够轻松试验Cache Reserve，看看如何最佳分配我们所看到的高负载，同时对用户屏蔽Cache Reserve运作机制的复杂性。

只需按一个按钮，Cache Reserve即可执行以下功能：

·当发生缓存未命中时，Pingora（我们的新L7代理）会联络源站获取内容，并将响应写入R2。这会在内容返回给访问者的过程中进行（从而避免不必要的延迟）。

·在R2内部，一个Worker会将内容写入R2的持久数据存储，同时使用Durable Objects存储跟踪Pingora传送的有关该对象的重要元数据（如源站标头、新鲜度值和保留信息）。

·当下一次请求该内容时，Pingora会计算缓存键，查找数据在R2中的存储位置。缓存键的哈希确定了R2中的对象名称以及它所写入的存储桶，因为每个区域的资产都以碎片形式分布在多个存储桶中，以分配负载。

·在找到该内容后，Pingora会附加相关元数据并将内容从R2发送至最近的较高层以进行缓存，然后发送至较低层，并最终返回给访问者。

这就像变魔法一样！上面的所有操作都不需要用户进行管理。将R2、Workers、Durable Objects、Pingora和分层缓存结合在一起之后，我们能够快速构建和更改Cache Reserve，以根据需要扩展…

Cache Reserve的后续计划

除了我们为扩展Cache Reserve所做的工作外，开放该产品也意味着开放更多的功能以及Cloudflare内部产品的集成。我们计划为Cache Reserve用户提供更多的分析和指标，让他们能够清楚知道Cache Reserve中的内部活动以及节省了多少出口费用。我们还计划与R2构建更复杂的集成，这样，如果客户想要开始管理其存储，他们可以轻松完成过渡。最后，我们将努力为客户提供更多选项，以精准控制哪些内容有资格存入Cache Reserve中。对于客户在Cloudflare上控制和自定义其缓存的旅途而言，这些功能仅仅只是开始。

迄今为止我们收到了哪些反馈？

作为Cloudflare的长期客户，我们非常想要部署Cache Reserve来节省成本，并为最终用户提升性能。确保我们的应用程序始终为我们的全球合作伙伴和配送骑手提供优质性能是Delivery Hero的首要关注点。使用Cache Reserve，我们的缓存命中率提升了5%，让我们能够相应缩减基础结构的规模，简化运营全球网站所需的设施，同时节省额外支出。

Wai Hang Tang，Delivery Hero工程部总监

Anthology使用Cloudflare的全球缓存为我们在学校和大学的最终用户大幅提升了内容性能。通过按下单个按钮来启用Cache Reserve，我们能够为师生们带来出色的体验，并将我们的日常出口流量减少三分之二。

Paul Pearcy，Anthology资深主任工程师

在Enjoei，我们一直想方设法帮助我们的最终用户网站更快速、更高效地运行。通过使用Cloudflare Cache Reserve，我们能够将缓存命中率大幅提高10%以上，从而相应减少了我们的源站出口费用。Cache Reserve还提升了我们在南美洲的许多商家网站的性能，改善了他们在整个互联网（Google、Criteo、Facebook、Tiktok）上的SEO和可发现性，而且设置所需时间极短。

Elomar Correia，DevOps SRE负责人|Enjoei企业解决方案架构师

在现场活动行业，我们可缓存内容的规模和需求可能变化极大，导致出口费用不可预测的波动。此外，使数据尽可能靠近用户，对于使用我们产品的高流量和低带宽场景（例如集会和音乐节）中的客户体验至关重要。Cache Reserve可帮助我们缓解这两个问题，同时尽量减少对我们工程团队的影响，为我们带来比现有解决方案更加可预测的费用和更低的延迟。

Jarrett Hawrylak，Patron Technology工程部|企业票据部副总裁

如何立即开始使用？

今天，Cache Reserve已进入公开测试阶段，这意味着想要使用它的所有人都可以对其进行访问。

要使用Cache Reserve，请执行以下操作：

·前往仪表板中的Caching板块。

·导航至Cache Reserve页面，按下“启用数据同步”按钮（或“购买”按钮）。

Enterprise客户可以与其Cloudflare客户团队合作以存取Cache Reserve。

客户可以查看关于缓存了多少数据以及仪表板的Cache Reserve板块中显示的操作数的基准指标，确保Cache Reserve运转正常。可以使用Logpush v2并使用字段“CacheReserveUsed”查找HTTP请求，查看Cache Reserve为其提供响应的具体请求。

我们将继续努力，快速分类您向我们提供的反馈，并对产品进行改进，以帮助确保Cache Reserve易于使用且好处多多，并使其成为您缓存内容以减少出口费用的首选方案。

我们也很期待听到您的试用反馈

能让更多的人使用Cache Reserve，我们感到非常兴奋。我们将持续投入，对Cache Reserve进行更多令人兴奋的开发，为您提供构建完美缓存所需的全部工具。

相关推荐: G20史上首份贸易部长声明发布：关注重点跨境电商及投资

7月10日上午10点15分，正在上海举行的二十国集团（G20）贸易部长会议完成关于第四项议程“全球价值链”的讨论，中国商务部部长高虎城宣布暂时休会半小时，期间将制定最后的贸易部长声明，供参会的各国贸易部长及代表审议。 不过，这次休会时间最终超过了两个小时，中方…