S2は、プロバイダーのAPIレート制限(毎秒約5件のUPSERT)が、クライアントに対して無制限の「basins」を提供することを妨げていることを発見し、AWS Route53から移行しました。このボトルネックは、悪意のあるアクターが数万のbasinsを急速に作成し、クォータを使い果たして数時間に及ぶバックログが発生し、すべてのDNS更新が停止した際に深刻な問題となりました。
スケーリングのボトルネック
S2の「basins」は、データストリームのトップレベルのコンテナとして機能するコアな名前空間構造です。各basinは、my-basin.b.s2.devのような固有のサブドメインとして表現され、クライアントを正しいアーキテクチャセルにルーティングするためにCNAMEレコードを必要とします。
Route53のようなマネージドサービスは一般的に堅牢ですが、そのコントロールプレーンAPIは高頻度かつ大量のレコード作成のために設計されていません。S2は、バッチ処理を行っても、これらの制限により新しいbasinが即座に解決可能であることを保証することが不可能であり、これは強力な一貫性のための要件であると発見しました。
「悪意のあるアクターが急速に数万のbasinを作成し、Route53レコードの全クォータを使い果たしたとき、それが明らかになりました。」
— It’s always DNS, so why are we running our own?
カスタムDNSアーキテクチャ
新しいシステムは、DNSサーバーをS2の既存のアカウントデータベースの直接的な呼び出し元として扱うことで機能します。レコードを別のシステムに同期する代わりに、サーバーはすべての受信リクエストのマッピングを解決するために、Google Cloud Spannerに対してライブのSELECTクエリを実行します。
この図は、標準的なRoute53同期方法に代わる新しいDNSサーバーのコアアーキテクチャを示しています。
サーバーは、A、AAAA、NS、CNAME、およびSOAレコードの権威クエリを処理するために、miekg/dnsライブラリを使用してGoで構築されました。チームは、特定のユースケースに対する最大限の柔軟性を維持するため、CoreDNSモジュールよりもライブラリベースのアプローチを優先しました。
セキュリティとインフラのトレードオフ
すべてのDNSリクエストに対してデータベースをクエリする際の重大なリスクは、「NXDOMAIN」攻撃です。存在しないレコードに対するクエリの洪水がデータベースを圧倒する可能性があります。これに対抗するため、S2はCloudflare DNS Firewallを導入し、オリジンサーバーがCloudflareの既知のIPアドレスからのトラフィックのみを受け入れるように構成しました。
本番環境は、異なるリージョンの2つの独立したGKEクラスターで実行されています。最終的なセットアップは複雑な委任チェーンを伴います。メインドメインはCloudflareによって管理され、CloudflareはbasinサブドメインをDNS Firewallサービスに委任し、それがGKEでホストされているDNSサーバーに接続します。
この図は、NXDOMAIN攻撃からデータベースを保護するために追加されたセキュリティレイヤーを説明しています。
残された不確実性
システムは現在安定しており、数千のbasinをサポートしていますが、いくつかの最適化が内部のロードマップに残っています。これには、DNSキャッシュの調整、DNS Firewallとアプリケーション間の通信パスの最適化、および将来のDNSSEC拡張の検討が含まれます。

このチャートは、新しいシステムが正常に処理しているトラフィックの規模を実証しています。
Hacker Newsの読者の反応
- 疑問: あるコメント投稿者は、なぜ会社がサブドメインのワイルドカードを使用する代わりに明示的なDNSレコードを選択したのか疑問を呈し、ワイルドカードCNAMEを使用していれば、毎回のクエリでデータベースにアクセスすることに関連するリスクを回避できた可能性があると示唆しました。 コメント ↗
- 代替案: 別のユーザーは、SpannerデータベースをDNSのスパイクから保護するために、CloudSQLバックエンドを使用したPowerDNSを使用することも実行可能な代替案であったかもしれないと提案しました。 コメント ↗
- 懐疑的: あるコメント投稿者は、DNSは最終的な一貫性を取るように設計されているため、新しいレコードを即座に解決可能にすることを保証するのは複雑であると指摘し、DNSにおける強力な一貫性の達成の難しさについて懸念を表明しました。 コメント ↗
Hacker Newsのスレッドで出た意見の要約です。事実として検証されたものではありません。 議論の全文を読む ↗