Prometheus fait trop de bruit les alerts sont n'importe quoi

stephane19 02/09/2024
RÉSOLU
stephane19
Auteur Actif
Avatar de stephane19
stephane19
Auteur Actif

salut la team j'ai un gros souci de fatigue avec prometheus les alertes sont devenues insupportables. genre un pod qui crash et redémarre en 2s paf j'ai une alerte slack. une instance qui a une micro-coupure réseau paf alerte. mes channels sont spammés je loupe les vraies alertes. comment on gère ça proprement sans tout muter

02/09/2024 à 14:34

10 commentaires

celina-arnaud
Membre Actif
Avatar de celina-arnaud
celina-arnaud
Membre Actif

check tes for: clauses dans tes alert rules c'est la base si tu veux pas d'alertes pour des événements transitoires un for: 5m ça fait des miracles pour les alertes non critiques

Modifié le 23/05/2026 à 16:20
lucy60
Membre
Avatar de lucy60
lucy60
Membre

c'est ça for c'est clé. ensuite regarde comment tes alerts sont groupées dans alertmanager si tu as group_by: [alertname, cluster] ça peut faire beaucoup de bruit

Modifié le 23/05/2026 à 16:20

grave le grouping c'est essentiel. essaie group_by: [alertname, service, namespace] et augmente le group_wait et group_interval dans alertmanager pour éviter le burst d'alertes sur un même problème

Modifié le 23/05/2026 à 16:20
celina-arnaud
Membre Actif
Avatar de celina-arnaud
celina-arnaud
Membre Actif

aussi tes seuils sont ptete trop bas une instance cpu à 70% pendant 30s c'est pas une alerte si c'est normal pour ton app revoit les seuils et mets-les plus haut ou plus longs

05/09/2024 à 19:36
stephane19
Auteur Actif
Avatar de stephane19
stephane19
Auteur Actif

j'ai bien des for sur certaines mais pas toutes et le grouping je l'ai laissé par défaut. je vais regarder group_wait et group_interval merci

Modifié le 23/05/2026 à 16:20
lucy60
Membre
Avatar de lucy60
lucy60
Membre

pense aux inhibitions dans alertmanager aussi si une alerte critique est levée (genre cluster down) tu peux inhiber des alertes moins importantes (genre pod down) pour pas avoir les deux en même temps

07/09/2024 à 11:05
celina-arnaud
Membre Actif
Avatar de celina-arnaud
celina-arnaud
Membre Actif

et relabeling des métriques avant qu'elles arrivent à prometheus ça peut aider à uniformiser les noms pour le grouping et éviter des alertes dupliquées si tes labels sont un peu n'importe quoi

08/09/2024 à 05:53

un truc con mais tu monitorer quoi exactement. si tu monitors la santé des pods en soi c'est normal que ça spam quand k8s les redémarre. vaut mieux monitorer la santé du service au global derrière un ingress par exemple

09/09/2024 à 04:35
lucy60
Membre
Avatar de lucy60
lucy60
Membre

utilise des blackbox exporters pour monitorer tes endpoints externes ça simule l'expérience utilisateur et t'alertes que si un service est vraiment inaccessible et pas juste un pod qui tousse

10/09/2024 à 00:36
stephane19
Auteur Actif
Avatar de stephane19
stephane19
Auteur Actif

ok je vois le tableau je vais refaire un passe sur les for sur toutes les alertes les seuils aussi et surtout le group_by et group_wait dans alertmanager. les inhibitions ça a l'air super utile aussi pour les alertes critiques. merci les gars ça me sauve la vie

Modifié le 23/05/2026 à 16:20

Laisser une réponse

Vous devez être connecté pour poster un message !

Rejoindre la communauté

Recevoir les derniers articles gratuitement en créant un compte !

S'inscrire