OpenPBS

Connettere PBS con CycleCloud

CycleCloud gestisce i cluster OpenPBS tramite un agente installabile denominato azpbs. Questo agente si connette a CycleCloud per leggere le configurazioni di cluster e vm e si integra anche con OpenPBS per elaborare in modo efficace le informazioni sul processo e sull'host. Tutte le azpbs configurazioni si trovano nel autoscale.json file, in genere /opt/cycle/pbspro/autoscale.json.

  "password": "260D39rWX13X",
  "url": "https://cyclecloud1.contoso.com",
  "username": "cyclecloud_api_user",
  "logging": {
    "config_file": "/opt/cycle/pbspro/logging.conf"
  },
  "cluster_name": "mechanical_grid",

File importanti

L'agente azpbs analizza la configurazione pbs ogni volta che viene chiamata, ovvero processi, code, risorse. Le informazioni vengono fornite in stderr e stdout del comando e in un file di log, entrambi a livelli configurabili. Tutti i comandi di gestione PBS (qcmd) con argomenti vengono registrati anche nel file.

Tutti questi file sono disponibili nella directory /opt/cycle/pbspro/ in cui è installato l'agente.

File	Posizione	Descrizione
Configurazione della scalabilità automatica	autoscale.json	Configurazione per la scalabilità automatica, la mappa delle risorse, le informazioni di accesso a CycleCloud
Log di scalabilità automatica	autoscale.log	Registrazione dei thread principali dell'agente, inclusa la gestione degli host CycleCloud
Log della domanda	demand.log	Log dettagliato per la corrispondenza delle risorse
Log di traccia qcmd	qcmd.log	Registrazione delle chiamate dell'agente qcmd
Configurazione di registrazione	logging.conf	Configurazioni per le maschere di registrazione e i percorsi dei file

Definizione delle risorse OpenPBS

Questo progetto consente in genere un'associazione di risorse OpenPBS alle risorse di macchine virtuali di Azure tramite il progetto cyclecloud-pbspro (azpbs). Relazione di risorsa definita in autoscale.json.

Le risorse predefinite definite con il modello di cluster fornito con sono

{"default_resources": [
   {
      "select": {},
      "name": "ncpus",
      "value": "node.vcpu_count"
   },
   {
      "select": {},
      "name": "group_id",
      "value": "node.placement_group"
   },
   {
      "select": {},
      "name": "host",
      "value": "node.hostname"
   },
   {
      "select": {},
      "name": "mem",
      "value": "node.memory"
   },
   {
      "select": {},
      "name": "vm_size",
      "value": "node.vm_size"
   },
   {
      "select": {},
      "name": "disk",
      "value": "size::20g"
   }]
}

La risorsa OpenPBS denominata mem è equivalente a un attributo del nodo denominato node.memory, ovvero la memoria totale di qualsiasi macchina virtuale. Questa configurazione consente di azpbs elaborare una richiesta di risorsa, ad -l mem=4gb esempio confrontando il valore dei requisiti delle risorse del processo con le risorse del nodo.

Si noti che il disco è attualmente hardcoded in size::20g. Di seguito è riportato un esempio di gestione delle dimensioni specifiche del disco della macchina virtuale

   {
      "select": {"node.vm_size": "Standard_F2"},
      "name": "disk",
      "value": "size::20g"
   },
   {
      "select": {"node.vm_size": "Standard_H44rs"},
      "name": "disk",
      "value": "size::2t"
   }

Scalabilità automatica e set di scalabilità

CycleCloud gestisce in modo diverso lo spanning e i processi seriali nei cluster OpenPBS. I processi che si estendono verranno inseriti nei nodi che fanno parte dello stesso gruppo di posizionamento. Il gruppo di posizionamento ha un significato specifico della piattaforma (VirtualMachineScaleSet con SinglePlacementGroup=true) e CC gestirà un gruppo di posizionamento denominato per ogni set di nodi esteso. Usare la risorsa group_id PBS per questo nome del gruppo di posizionamento.

La hpc coda aggiunge l'equivalente di -l place=scatter:group=group_id usando le impostazioni predefinite della coda nativa.

Installazione dell'agente CycleCloud OpenPBS azpbs

Il cluster OpenPBS CycleCloud gestirà l'installazione e la configurazione dell'agente nel nodo del server. La preparazione include l'impostazione di risorse, code e hook PBS. Un'installazione con script può essere eseguita anche all'esterno di CycleCloud.

# Prerequisite: python3, 3.6 or newer, must be installed and in the PATH
wget https://github.com/Azure/cyclecloud-pbspro/releases/download/2.0.5/cyclecloud-pbspro-pkg-2.0.5.tar.gz
tar xzf cyclecloud-pbspro-pkg-2.0.5.tar.gz
cd cyclecloud-pbspro

# Optional, but recommended. Adds relevant resources and enables strict placement
./initialize_pbs.sh

# Optional. Sets up workq as a colocated, MPI focused queue and creates htcq for non-MPI workloads.
./initialize_default_queues.sh

# Creates the azpbs autoscaler
./install.sh  --venv /opt/cycle/pbspro/venv

# Otherwise insert your username, password, url, and cluster name here.
./generate_autoscale_json.sh --install-dir /opt/cycle/pbspro \
                             --username user \
                             --password password \
                             --url https://fqdn:port \
                             --cluster-name cluster_name

azpbs validate

CycleCloud supporta un set standard di attributi autostop tra utilità di pianificazione:

Attributo	Descrizione
cyclecloud.cluster.autoscale.stop_enabled	Autostop è abilitato in questo nodo? [true/false]
cyclecloud.cluster.autoscale.idle_time_after_jobs	Quantità di tempo ,in secondi, per cui un nodo deve rimanere inattivo dopo aver completato i processi prima che venga ridotto.
cyclecloud.cluster.autoscale.idle_time_before_jobs	Quantità di tempo ,in secondi, per cui un nodo deve rimanere inattivo prima di completare i processi prima che venga ridotto.

Nota

CycleCloud non supporta la configurazione di bursting con Open PBS.

Nota

Anche se Windows è una piattaforma Open PBS supportata ufficialmente, CycleCloud non supporta l'esecuzione di Open PBS in Windows in questo momento.