Job galaxy tournant dans le vide

Bonjour, j'ai lancé des analyses lundi qui normalement tournent assez rapidement (moins de 10 min/fichier de la dataset collection). En consultant mon historique aujourd'hui, cela tourne encore:

Cela ne vient pas des fichiers ni des paramètres car j'en avais déjà fait tourner une partie précédemment dans un historique de test.

Y-a-il un soucis avec galaxy en ce moment? Que dois-je faire pour débloquer la situation?

Merci par avance.

Cordialement.

Carole

Bonjour suite à mon message du 3 juin, mes jobs sont toujours en train de tourner, à l’exception d'un job qui s'est mis en erreur :

Je suis également bloquée pour toutes autres analyses dans la mesure où les jobs sans fin ne me libèrent pas de créneaux pour d'autres jobs.

@team.galaxy Avez-vous une solution?

Merci par avance

Carole

Bonjour,

Nous avons "normalement" fait de la place sur notre stockage en milieu de fin de semaine.

Pouvez-vous nous dire si il y a une amélioration ?

ping @team.galaxy

Bonjour,

Il semble que vos jobs étaient bloqués pour une raison assez inhabituelle. Je suis intervenu en base de données pour les libérer, ils semblent passer normalement à présent.

Je n'ai pas d'indices pour le job qui a échoué, le plus simple sera sans doute de le relancer, si c'est faisable simplement pour vous.

Désolé pour le désagrément

Bonjour, merci pour vos retours. Les jobs se sont effectivement lancés après que des précédents se soient enfin terminés. Par contre, il reste encore quelques jobs qui tournent encore dans le vide (a priori, parmi ceux qui se sont lancés par la suite). Par ailleurs, pour tenter d'avancer, vendredi j'ai partagé mes données au compte d'une collègue qui n'avait pas d'analyse Galaxy en cours, afin de pouvoir lancer les analyses depuis son compte, et bien que certains jobs soient passés il y a aussi une poignée de jobs qui tournent dans le vide. Le problème va-t-il être récurent ? Merci par avance pour votre retour.

Bonjour,
En effet en regardant ce matin, certains jobs sont tombés sur 3 noeuds de calcul qui ont un problème technique et sont bloqués. On s'en occupe, mais les jobs vont très probablement finir en échec dans galaxy, il faudra les relancer.
Le problème est dû à un effet de bord lié à une migration vers un nouvel espace de stockage, il ne devrait pas être récurrent.

Bonjour en effet, tous les jobs ont fini en échec aussi bien dans mon historique que dans celui de ma collègue. Depuis, j'ai fait un peu de ménage en éliminant plusieurs historiques inutiles en les purgeant et en supprimant les partages? Ensuite, j'ai créé un nouvel historique "propre" que j'ai relancé mercredi soir. Depuis, les jobs tournent encore dans le vide. Pourriez-vous regarder s'il y a une récurrence des causes à ces problèmes et agir pour que la situation se débloque? Je ne peux absolument pas avancer sur le traitement de mon projet et suis coincée depuis un mois. Merci par avance pour votre aide car je ne sais plus quoi faire! Cordialement. Carole

Bonjour,

Ok, j'ai débloqué votre file d'attente manuellement.

Nous allons continuer de surveiller la situation pour éviter que ça se reproduise, sur User with jobs stuck in running state (#331) · Issues · Institut Français de Bioinformatique / usegalaxy.fr / infrastructure · GitLab et User jobs stucked when destination_user_concurrent_jobs reached with resubmitted jobs · Issue #22974 · galaxyproject/galaxy · GitHub

Anthony

Merci beaucoup d'être intervenu aussi rapidement. Cela semble tourner "normalement".
Bon we.
Carole

Bonjour, je vérifie tous les jours depuis lundi mais malheureusement rien n'a changé! Il reste 9 data qui tournent toujours. Que me conseillez-vous de faire? Merci par avance. Carole

Bonjour

ça tourne toujours dans le vide! Pourriez-vous relancer manuellement? J'ai cru comprendre qu'il y allait avoir une mise à jour avec une modification faite par Mélanie qui pourrait améliorer les choses.

Merci par avance.

Carole

Bonjour,

Les jobs qui restaient bloqués étaient dans un état particulier, j'ai corrigé à priori, et relancer le dernier job qui semble tourner à présent.

La modif de Mélanie devrait permettre de faire du préventif sur les prochains jobs de ce type.

N'hésitez pas si ça rebloque, désolé pour le dérangement (on va y arriver !)

Anthony

Bonjour, les précédent jobs étaient passés sans soucis suite aux modifications apportées, cependant j'ai du relancé les jobs avec des paramètres un peu différents et c'est repassé en re-soumission qui tourne dans le vide. Je suis donc à nouveau bloquée. C'est un peu surprenant car on s'attend à ce que le changement de paramètres filtre plus le jeu que le précédent paramétrage et donc potentiellement utilise moins de mémoire. Est-il possible de débloquer manuellement? Merci par avance. Carole

Bonjour,

C'est débloqué (pas trop le temps d'investiguer plus aujourd'hui par contre)

Anthony

Merci pour votre intervention. Cela a bien avancé mais malheureusement il reste 5 data qui tournent encore dans le vide. Pourriez-vous les relancer manuellement svp? Merci par avance. Carole

Bonjour,
Pour information, j'ai regardé les caractéristiques des jobs finis après déblocage manuel, et ils ont en effet bien toujours bugué suite à la relance :

Mais en regardant les caractéristiques, ils auraient dû passer directement en mode "plus de Go", ce qui de fait aurait dû ne pas entrainer de relance, car les ressources allouées dans la conditionnelle ajoutée sont normalement suffisantes :

Je n'ai pas trouvé l'erreur dans la conditionnelle :frowning: Est-ce que ça serait ok si on bascule sur simplement 48 Go par défaut pour tous les jobs de cet outil ? C'est un outil qui peut être un peu gourmand en mémoire, mais par contre il tourne assez vite (même pas une dizaine de minutes).

Salut,

La modif du TPV n'est pas encore passée en prod, ce sera le cas dans la journée : [prod] w4m mem, nginx, ceph (!1459) · Requêtes de fusion · Institut Français de Bioinformatique / usegalaxy.fr / infrastructure · GitLab
Pour les 5 jobs encore bloqués, je regarde ça

Bonjour, il ne sait toujours rien passé

Bonjour,
Les 5 derniers jobs sont passés. On a été ralenti par un autre problème sur le serveur qui nous a pas ma monopolisé, et empêchait de débloquer ces jobs.

C'est passé! Merci bien.