Chapter 50: Thiết Kế GKE Quy Mô Lớn — 1000+ Nodes
Giới Thiệu
GKE clusters vượt quá 1000 nodes không chỉ là "scaling up" version nhỏ hơn. Tại thang độ này, mỗi quyết định kiến trúc được bảo hành tại thời điểm tạo cluster sẽ ảnh hưởng sâu sắc đến ceiling scalability, operational stability, và deployment velocity.
Vì sao quan trọng:
- Limits kiến trúc không phải constraints do business mà là ràng buộc vật lý của hệ thống (API server request rate, etcd object size, CPU/memory control plane, endpoint count per service, DNS query throughput)
- Trade-offs quyết định lúc cluster creation (node pool strategy, CIDR sizing, service mesh architecture) không thể đảo ngược chi phí cao
- Operational characteristics thay đổi chất lượng (API latency, upgrade window, scheduler convergence time, metrics cardinality cost) thay vì chỉ là scale
Tài liệu này tập trung vào internal model — cách GKE control plane và data plane vận hành thực tế ở quy mô lớn, vì sao limit tồn tại, những bottleneck nào vỡ trước, cách reasoning đúng về hệ thống ở scale này.
Điều Kiện Tiên Quyết
Bạn nên đã quen thuộc với:
- Chapter 5 — GKE cluster architecture cơ bản
- Chapter 7 — GKE networking (VPC, Service, Dataplane)
- Chapter 11 — Storage và persistence patterns
- Chapter 14 — Observability, logging, metrics
Cấu Trúc Tài Liệu
Tài liệu này được tổ chức thành hai nhóm chính:
Phần 1: Kiến Thức Cốt Lõi (Core Knowledge)
Giải thích internal model, cơ chế vận hành, limits, trade-offs:
- GKE Scalability Limits — Hard limits ở mỗi layer: node count, Pod count, Service count, etcd object size, API server request rate
- Node Pool Planning — Node pool sizing strategy, Pod density, bin packing, placement optimization
- API Server at Scale — Request routing, watch connections, list response encoding, latency SLOs
- etcd Scalability — Object storage, compaction, size limits, Spanner migration
- Controller Manager Scalability — Work queue, goroutines, reconciliation latency, bottleneck diagnosis
- Scheduler Performance — Scheduling algorithm, latency curves, predicates at scale, Topology Aware Scheduling
- IP Planning for Large Scale — CIDR allocation, Pod density vs IP exhaustion, subnet expansion, GKE Dataplane V2 implications
- Service Mesh Scalability — xDS protocol, sidecar memory overhead, endpoint count limit (260K), Istio behavior at scale
- NodeLocal DNSCache — DNS performance bottleneck, caching strategy, when mandatory
- Network Policy Scalability — eBPF limits, endpoint cardinality, Dataplane V2 eBPF maps, policy compilation overhead
Phần 2: Operational Patterns & Trade-offs
Cách áp dụng kiến thức để decide về architecture & operations:
- Node Pool Strategy — Tradeoffs: multiple small pools vs fewer large pools, blast radius, scheduling flexibility
- Workload Distribution — Topology spread, affinity, bin packing, balancing across zones
- Large-Scale Upgrade — Surge sizing, node pool concurrency, disruption budgets, upgrade latency
- Metrics Cardinality Management — Cardinality explosion, scrape filtering, high-cardinality metric patterns, cost optimization
- Logging at Scale — Log volume management, sampling strategies, exclusion filters, cost vs observability trade-off
Mục Tiêu Học Tập
Sau khi đọc chapter này, bạn sẽ:
- Hiểu rõ limits kiến trúc ở mỗi layer của GKE (nodes, Pods, Services, API server, etcd) và vì sao limit đó tồn tại
- Reason đúng về trade-offs design decisions (node pool sizing, service mesh, network policy enforcement) với kiến thức về cơ chế bên trong
- Predict failure modes khi approach limits (API latency degradation, scheduler convergence time, etcd stability)
- Plan operations dựa trên actual bottleneck thay vì generic best practices (upgrade strategy, workload distribution, metrics collection)
- Diagnose scaling issues bằng cách identify bottleneck layer dựa trên patterns observability
Điều Không Nằm Trong Scope
- Cluster creation walkthrough — này là implementation, không knowledge
- Feature-by-feature docs — docs chính thức GCP xử lý điều này
- Cost optimization tactics — phụ thuộc vào workload, không universal principle
- Open-source Kubernetes scaling — tài liệu này GCP-specific, vì GKE có enhancements (Spanner etcd, Dataplane V2, custom scheduler)