Herd Effect
Định nghĩa
Herd Effect là hiện tượng nhiều client/task cùng retry, restart, refresh hoặc repopulate cache gần như đồng thời, làm backend đang hồi phục bị quá tải.
Cách hiểu bằng lời của tôi
Sau khi incident được “fix”, hệ thống vẫn có thể chết tiếp vì tất cả thành phần cùng lao vào dependency vừa sống lại. Google Cloud us-central1 phục hồi chậm vì task restart hàng loạt hit Spanner; Cloudflare cũng nhắc tới nguy cơ mass cache repopulation sau KV recovery.
Cách giảm thiểu
- Randomized exponential backoff.
- Throttle restart hoặc namespace re-enable.
- Progressive recovery thay vì bật lại tất cả cùng lúc.
- Queue hoặc rate limiter cho cold read/cache refill.