OpenPBS

Connecter PBS avec CycleCloud

CycleCloud gère les clusters OpenPBS via un agent installable appelé azpbs. Cet agent se connecte à CycleCloud pour lire les configurations de cluster et de machine virtuelle et s’intègre également à OpenPBS pour traiter efficacement les informations du travail et de l’hôte. Toutes les azpbs configurations sont trouvées dans le autoscale.json fichier, normalement /opt/cycle/pbspro/autoscale.json.

  "password": "260D39rWX13X",
  "url": "https://cyclecloud1.contoso.com",
  "username": "cyclecloud_api_user",
  "logging": {
    "config_file": "/opt/cycle/pbspro/logging.conf"
  },
  "cluster_name": "mechanical_grid",

Fichiers importants

L’agent azpbs analyse la configuration PBS chaque fois qu’il est appelé : travaux, files d’attente, ressources. Les informations sont fournies dans stderr et stdout de la commande, ainsi qu’à un fichier journal, à des niveaux configurables. Toutes les commandes de gestion PBS (qcmd) avec des arguments sont également journalisées dans le fichier.

Tous ces fichiers se trouvent dans le répertoire /opt/cycle/pbspro/ où l’agent est installé.

Fichier	Emplacement	Description
Configuration de mise à l’échelle automatique	autoscale.json	Configuration de la mise à l’échelle automatique, de la carte des ressources, des informations d’accès CycleCloud
Journal de mise à l’échelle automatique	autoscale.log	Journalisation des threads principaux de l’agent, y compris la gestion des hôtes CycleCloud
Journal de la demande	demand.log	Journal détaillé pour la correspondance des ressources
qcmd Trace Log	qcmd.log	Journalisation des appels de l’agent qcmd
Configuration de journalisation	logging.conf	Configurations pour la journalisation des masques et des emplacements de fichiers

Définition des ressources OpenPBS

Ce projet permet une association générale de ressources OpenPBS avec des ressources de machine virtuelle Azure via le projet cyclecloud-pbspro (azpbs). Cette relation de ressource définie dans autoscale.json.

Les ressources par défaut définies avec le modèle de cluster que nous fournissons sont

{"default_resources": [
   {
      "select": {},
      "name": "ncpus",
      "value": "node.vcpu_count"
   },
   {
      "select": {},
      "name": "group_id",
      "value": "node.placement_group"
   },
   {
      "select": {},
      "name": "host",
      "value": "node.hostname"
   },
   {
      "select": {},
      "name": "mem",
      "value": "node.memory"
   },
   {
      "select": {},
      "name": "vm_size",
      "value": "node.vm_size"
   },
   {
      "select": {},
      "name": "disk",
      "value": "size::20g"
   }]
}

La ressource OpenPBS nommée mem est équivalente à un attribut de nœud nommé node.memory, qui est la mémoire totale de n’importe quelle machine virtuelle. Cette configuration permet azpbs de traiter une demande de ressource, par -l mem=4gb exemple en comparant la valeur des besoins en ressources de travail aux ressources de nœud.

Notez que le disque est actuellement codé en size::20gdur sur . Voici un exemple de gestion de la taille de disque spécifique à la taille de disque de machine virtuelle

   {
      "select": {"node.vm_size": "Standard_F2"},
      "name": "disk",
      "value": "size::20g"
   },
   {
      "select": {"node.vm_size": "Standard_H44rs"},
      "name": "disk",
      "value": "size::2t"
   }

Mise à l’échelle automatique et groupes identiques

CycleCloud traite les travaux de répartition et de série différemment dans les clusters OpenPBS. L’étendue des travaux atterrit sur les nœuds qui font partie du même groupe de placement. Le groupe de placement a une signification particulière (VirtualMachineScaleSet avec SinglePlacementGroup=true) et CC gère un groupe de placement nommé pour chaque ensemble de nœuds étendus. Utilisez la ressource group_id PBS pour ce nom de groupe de placement.

La hpc file d’attente ajoute l’équivalent en -l place=scatter:group=group_id utilisant les valeurs par défaut de la file d’attente native.

Installation de l’agent CycleCloud OpenPBS azpbs

Le cluster OpenPBS CycleCloud gère l’installation et la configuration de l’agent sur le nœud du serveur. La préparation comprend la définition des ressources PBS, des files d’attente et des hooks. Une installation scriptée peut également être effectuée en dehors de CycleCloud.

# Prerequisite: python3, 3.6 or newer, must be installed and in the PATH
wget https://github.com/Azure/cyclecloud-pbspro/releases/download/2.0.5/cyclecloud-pbspro-pkg-2.0.5.tar.gz
tar xzf cyclecloud-pbspro-pkg-2.0.5.tar.gz
cd cyclecloud-pbspro

# Optional, but recommended. Adds relevant resources and enables strict placement
./initialize_pbs.sh

# Optional. Sets up workq as a colocated, MPI focused queue and creates htcq for non-MPI workloads.
./initialize_default_queues.sh

# Creates the azpbs autoscaler
./install.sh  --venv /opt/cycle/pbspro/venv

# Otherwise insert your username, password, url, and cluster name here.
./generate_autoscale_json.sh --install-dir /opt/cycle/pbspro \
                             --username user \
                             --password password \
                             --url https://fqdn:port \
                             --cluster-name cluster_name

azpbs validate

CycleCloud prend en charge un ensemble standard d’attributs autostop parmi les planificateurs :

Attribut	Description
cyclecloud.cluster.autoscale.stop_enabled	L’arrêt automatique est-il activé sur ce nœud ? [true/false]
cyclecloud.cluster.autoscale.idle_time_after_jobs	Durée (en secondes) pendant laquelle un nœud doit rester inactif après avoir terminé les travaux avant qu’il ne soit réduit.
cyclecloud.cluster.autoscale.idle_time_before_jobs	Durée (en secondes) pendant laquelle un nœud doit rester inactif avant d’effectuer des travaux avant qu’il ne soit réduit.

Notes

CycleCloud ne prend pas en charge la configuration de rafale avec Open PBS.

Notes

Même si Windows est une plateforme Open PBS officiellement prise en charge, CycleCloud ne prend pas en charge l’exécution d’Open PBS sur Windows à ce stade.