Cloudflare、1.1.1.1のDNSキャッシュ56%削減で100TBのRAM解放
Cloudflareは、1.1.1.1の基盤プラットフォーム「Big Pineapple」において、2500億件のキャッシュエントリのサイズをそれぞれ953バイトから420バイトに縮小し、約100TBのメモリを解放した。これは同社の第13世代サーバー130台分のRAMに相当する。このメモリ節約は、移植性の高いRustの実装上の工夫によるものだ。可変長のVecやStringを固定長のBox型に置き換え、answer、authority、additionalの各セクションをu16のオフセットで参照する単一のリストに統合した。さらに、NAPTRやSVCBといったまれなレコードバリアントをBox化し、enumのサイズが最大のメンバーに合わせて拡張されるのを防いだ。この最適化によるトレードオフは一切発生していない。2026年5月18日から7月6日にかけてのロールアウトにおいて、挿入スループットは43%増の毎秒893,000件に向上し、検索レイテンシは19%減の670ナノ秒に短縮された。また、インスタンスあたりのp99メモリ使用量は9.3GBから5.3GBへと減少している。
出典： blog.cloudflare.com ↗
その規模だと、1エントリあたり1バイトを無駄にするだけで、当社の全フリートで250ギガバイト以上のメモリコストがかかる。
Cloudflare
なぜ重要か
- → 100TBのRAM解放により、Cloudflareは130台少ないサーバーで同じワークロードを実行できるようになった。
- → パフォーマンスは挿入スループットが43%向上、レイテンシが19%低下し、速度と容量のトレードオフはなかった。
- → 移植性の高いRustの最適化技術（fixed-size Box、enum boxing、bitpacking）は大規模システムにもスケールする。
1バイト、100テラバイト