margot30
05/08/2024
RÉSOLU
10 commentaires
ugautier
Membre
et aussi les options de mount de ton filesystem. genre
noatimec'est un classique pour éviter des writes inutiles sur chaque read. et si c'est du xfs/ext4, la taille des blocs ?
discardpour le trim si tu veux mais attention ça peut aussi impacter les perfs en charge
06/08/2024 à 17:26
chamel
Membre
Actif
Secouriste
une fois le scheduler bien configuré, benchmarke avec
fiopour isoler le problème. sans ça c difficile de dire si ça vient de la db ou de l'infra disque. un simple
fio --name=test --ioengine=libaio --iodepth=64 --rw=randwrite --bs=4k --size=1G --numjobs=1 --direct=1 --filename=/dev/nvme0n1peut donner un bon aperçu
07/08/2024 à 16:50
margot30
Auteur
merci pour les retours. alors pour le scheduler :
# cat /sys/block/nvme0n1/queue/scheduler
[mq-deadline] kyber bfq none
mq-deadlinepar défaut. pour les options de mount j'ai bien
noatime. j'ai pas mis
discard. je vais essayer de changer le scheduler
08/08/2024 à 13:56
zacharie-adam
Membre
Actif
oui clairement
mq-deadlinec'est pas fait pour du nvme. c'est pour les disques rotatifs ou certains sdd sata. pour du nvme il faut le mettre sur
noneça laisse le hardware nvme gérer l'ordonnancement. tu peux le changer à chaud avec
echo none > /sys/block/nvme0n1/queue/schedulermais pour que ça survive au reboot il faut un udev rule ou le passer en paramètre kernel
09/08/2024 à 08:15
margot30
Auteur
ok je viens de passer le scheduler en
nonesur un noeud de test. je relance mes tests db et
fio.
# echo none > /sys/block/nvme0n1/queue/scheduler
# cat /sys/block/nvme0n1/queue/scheduler
mq-deadline kyber bfq [none]
fio randwriteest deux fois plus rapide en iops. c'est bon signe !
10/08/2024 à 04:42
chamel
Membre
Actif
Secouriste
top ! après avoir changé le scheduler tu peux aussi regarder
nr_requests(le nombre de requêtes i/o en attente) et
read_ahead_kbdans le même répertoire
/sys/block/nvme0n1/queue/. des fois les valeurs par défaut sont pas optimales pour des gros workloads
11/08/2024 à 01:23
margot30
Auteur
c'était bien ça le scheduler. après le passage à
noneet quelques réglages
read_ahead_kb(passé à 128k) et
nr_requests(passé à 1024), j'ai vu une amélioration notable. les latences ont baissé drastiquement. on va déployer ça partout. thx pour l'aide précieuse !
12/08/2024 à 16:25
Laisser une réponse
Vous devez être connecté pour poster un message !
salut la team. j'ai un souci de perf i/o sur nos serveurs de prod qui ont des nvme. on s'attendait à des millions d'iops mais on est loin du compte sur un workload db (cassandra). on voit des latences par moment et la bande passante est pas maxée. on a bien des nvme samsung pm9a3. la machine est sous ubuntu 22.04. je pense à un truc au niveau du kernel ou des drivers. des idées ?