alertes prometheus trop bruyantes sur les changements de target

martin-caron 08/06/2025
RÉSOLU
martin-caron
Auteur Actif
Avatar de martin-caron
martin-caron
Auteur Actif

yo la team mes alertes prometheus sont un enfer à chaque déploiement on a une avalanche d'alertes sur les targets down genre pendant 30s c'est injouable surtout quand t'as plusieurs services qui déploient en même temps ça me rend fou

08/06/2025 à 23:47

6 commentaires

bernadette-launay
Membre Actif Rédacteur
Avatar de bernadette-launay
bernadette-launay
Membre Actif Rédacteur

ouais classique faut gérer ça avec un alertmanager receiver qui met en mute pendant la fenêtre de déploiement avant le rollout tu crées un silence via l'api c'est le plus propre

09/06/2025 à 21:34
martin-caron
Auteur Actif
Avatar de martin-caron
martin-caron
Auteur Actif

comment je fais ça je peux cibler un label spécifique pour le silence

10/06/2025 à 19:39
bernadette-launay
Membre Actif Rédacteur
Avatar de bernadette-launay
bernadette-launay
Membre Actif Rédacteur

exactement tu peux configurer des silences dans alertmanager basés sur des labels comme env service ou même pod si c'est pertinent c'est très flexible et tu peux l'automatiser

# exemple de silence via l'api alertmanager
{
  "matchers": [
    { "name": "service", "value": "mon-service", "isRegex": false },
    { "name": "alertname", "value": "TargetDown", "isRegex": false }
  ],
  "startsAt": "2023-10-27T10:00:00Z",
  "endsAt": "2023-10-27T10:15:00Z",
  "createdBy": "deploy-bot",
  "comment": "Silence during deployment of mon-service"
}
11/06/2025 à 15:26
martin-caron
Auteur Actif
Avatar de martin-caron
martin-caron
Auteur Actif

ok je vois je vais essayer de coder un script pour ça avant chaque rollout ça a l'air pas mal

12/06/2025 à 11:19
bernadette-launay
Membre Actif Rédacteur
Avatar de bernadette-launay
bernadette-launay
Membre Actif Rédacteur

ouais et pense aussi à la grace period de ton discovery dans prometheus pour qu'il attende un peu avant de marquer une target comme down tu peux jouer sur le scrape_interval et le scrape_timeout pour un peu plus de souplesse

13/06/2025 à 09:41
martin-caron
Auteur Actif
Avatar de martin-caron
martin-caron
Auteur Actif

top je vais regarder ça aussi en plus du silence ça m'aidera à calmer le jeu pendant les maj merci

14/06/2025 à 03:47

Laisser une réponse

Vous devez être connecté pour poster un message !

Rejoindre la communauté

Recevoir les derniers articles gratuitement en créant un compte !

S'inscrire
An Error Occurred: Internal Server Error

Oops! An Error Occurred

The server returned a "500 Internal Server Error".

Something is broken. Please let us know what you were doing when this error occurred. We will fix it as soon as possible. Sorry for any inconvenience caused.