OpenPBS

PBS verbinden met CycleCloud

CycleCloud beheert OpenPBS-clusters via een installeerbare agent met de naam azpbs. Deze agent maakt verbinding met CycleCloud om cluster- en VM-configuraties te lezen en kan ook worden geïntegreerd met OpenPBS om de taak- en hostgegevens effectief te verwerken. Alle azpbs configuraties zijn te vinden in het autoscale.json bestand, normaal gesproken /opt/cycle/pbspro/autoscale.json.

  "password": "260D39rWX13X",
  "url": "https://cyclecloud1.contoso.com",
  "username": "cyclecloud_api_user",
  "logging": {
    "config_file": "/opt/cycle/pbspro/logging.conf"
  },
  "cluster_name": "mechanical_grid",

Belangrijke bestanden

De azpbs agent parseert de PBS-configuratie telkens wanneer deze wordt aangeroepen: taken, wachtrijen, resources. Informatie wordt verstrekt in de stderr en stdout van de opdracht en aan een logboekbestand, beide op configureerbare niveaus. Alle PBS-beheeropdrachten (qcmd) met argumenten worden ook vastgelegd in het bestand.

Al deze bestanden zijn te vinden in de map /opt/cycle/pbspro/ waar de agent is geïnstalleerd.

File	Locatie	Beschrijving
Configuratie automatisch schalen	autoscale.json	Configuratie voor automatisch schalen, resourcetoewijzing, cycleCloud-toegangsgegevens
Logboek voor automatisch schalen	autoscale.log	Hoofdthreadlogboekregistratie van agents, inclusief CycleCloud-hostbeheer
Aanvraaglogboek	demand.log	Gedetailleerd logboek voor resourcekoppeling
qcmd-traceringslogboek	qcmd.log	De aanroepen van de agent qcmd registreren
Configuratie van logboekregistratie	logging.conf	Configuraties voor logboekregistratiemaskers en bestandslocaties

OpenPBS-resources definiëren

Dit project maakt een algemene koppeling van OpenPBS-resources met Azure VM-resources mogelijk via het project cyclecloud-pbspro (azpbs). Deze resourcerelatie gedefinieerd in autoscale.json.

De standaardbronnen die zijn gedefinieerd met de clustersjabloon waarmee we verzenden, zijn

{"default_resources": [
   {
      "select": {},
      "name": "ncpus",
      "value": "node.vcpu_count"
   },
   {
      "select": {},
      "name": "group_id",
      "value": "node.placement_group"
   },
   {
      "select": {},
      "name": "host",
      "value": "node.hostname"
   },
   {
      "select": {},
      "name": "mem",
      "value": "node.memory"
   },
   {
      "select": {},
      "name": "vm_size",
      "value": "node.vm_size"
   },
   {
      "select": {},
      "name": "disk",
      "value": "size::20g"
   }]
}

De OpenPBS-resource met de naam mem is gelijk aan een knooppuntkenmerk met de naam node.memory, het totale geheugen van een virtuele machine. Met deze configuratie kunt azpbs u een resourceaanvraag verwerken, bijvoorbeeld -l mem=4gb door de waarde van de taakresourcevereisten te vergelijken met knooppuntresources.

Houd er rekening mee dat de schijf momenteel is vastgelegd in size::20g. Hier volgt een voorbeeld van het verwerken van de vm-grootte die specifiek is voor de schijfgrootte

   {
      "select": {"node.vm_size": "Standard_F2"},
      "name": "disk",
      "value": "size::20g"
   },
   {
      "select": {"node.vm_size": "Standard_H44rs"},
      "name": "disk",
      "value": "size::2t"
   }

Automatische schaalaanpassing en schaalsets

CycleCloud behandelt spannings- en seriële taken anders in OpenPBS-clusters. Spanningstaken komen terecht op knooppunten die deel uitmaken van dezelfde plaatsingsgroep. De plaatsingsgroep heeft een bepaalde platformbetekening (VirtualMachineScaleSet met SinglePlacementGroup=true) en CC beheert een benoemde plaatsingsgroep voor elke spanned-knooppuntset. Gebruik de PBS-resource group_id voor de naam van deze plaatsingsgroep.

De hpc wachtrij voegt het equivalent toe van het gebruik van -l place=scatter:group=group_id standaardinstellingen voor systeemeigen wachtrijen.

De CycleCloud OpenPBS-agent installeren azpbs

Het OpenPBS CycleCloud-cluster beheert de installatie en configuratie van de agent op het serverknooppunt. De voorbereiding omvat het instellen van PBS-resources, wachtrijen en hooks. Er kan ook een script worden geïnstalleerd buiten CycleCloud.

# Prerequisite: python3, 3.6 or newer, must be installed and in the PATH
wget https://github.com/Azure/cyclecloud-pbspro/releases/download/2.0.5/cyclecloud-pbspro-pkg-2.0.5.tar.gz
tar xzf cyclecloud-pbspro-pkg-2.0.5.tar.gz
cd cyclecloud-pbspro

# Optional, but recommended. Adds relevant resources and enables strict placement
./initialize_pbs.sh

# Optional. Sets up workq as a colocated, MPI focused queue and creates htcq for non-MPI workloads.
./initialize_default_queues.sh

# Creates the azpbs autoscaler
./install.sh  --venv /opt/cycle/pbspro/venv

# Otherwise insert your username, password, url, and cluster name here.
./generate_autoscale_json.sh --install-dir /opt/cycle/pbspro \
                             --username user \
                             --password password \
                             --url https://fqdn:port \
                             --cluster-name cluster_name

azpbs validate

CycleCloud ondersteunt een standaardset autostopkenmerken voor schedulers:

Kenmerk	Beschrijving
cyclecloud.cluster.autoscale.stop_enabled	Is autostop ingeschakeld op dit knooppunt? [waar/onwaar]
cyclecloud.cluster.autoscale.idle_time_after_jobs	De hoeveelheid tijd (in seconden) voor een knooppunt dat inactief is na het voltooien van taken voordat het omlaag wordt geschaald.
cyclecloud.cluster.autoscale.idle_time_before_jobs	De hoeveelheid tijd (in seconden) voor een knooppunt dat inactief is voordat taken worden voltooid voordat het omlaag wordt geschaald.

Notitie

CycleCloud biedt geen ondersteuning voor de bursting-configuratie met Open PBS.

Notitie

Hoewel Windows een officieel ondersteund Open PBS-platform is, biedt CycleCloud momenteel geen ondersteuning voor het uitvoeren van Open PBS in Windows.