OpenPBS

Ansluta PBS med CycleCloud

CycleCloud hanterar OpenPBS-kluster via en installerbar agent som heter azpbs. Den här agenten ansluter till CycleCloud för att läsa kluster- och VM-konfigurationer och integreras även med OpenPBS för att effektivt bearbeta jobbet och värdinformationen. Alla azpbs konfigurationer finns i autoscale.json filen, vanligtvis /opt/cycle/pbspro/autoscale.json.

  "password": "260D39rWX13X",
  "url": "https://cyclecloud1.contoso.com",
  "username": "cyclecloud_api_user",
  "logging": {
    "config_file": "/opt/cycle/pbspro/logging.conf"
  },
  "cluster_name": "mechanical_grid",

Viktiga filer

Agenten azpbs parsar PBS-konfigurationen varje gång den anropas – jobb, köer, resurser. Information finns i stderr och stdout för kommandot samt till en loggfil, både på konfigurerbara nivåer. Alla PBS-hanteringskommandon (qcmd) med argument loggas också till filen.

Alla dessa filer finns i katalogen /opt/cycle/pbspro/ där agenten är installerad.

Fil	Location	Description
Autoskalningskonfiguration	autoscale.json	Konfiguration för autoskalning, resurskarta, CycleCloud-åtkomstinformation
Autoskalningslogg	autoscale.log	Agentens huvudtrådsloggning inklusive CycleCloud-värdhantering
Begärandelogg	demand.log	Detaljerad logg för resursmatchning
qcmd-spårningslogg	qcmd.log	Logga agentanropen qcmd
Loggningskonfiguration	logging.conf	Konfigurationer för loggningsmasker och filplatser

Definiera OpenPBS-resurser

Det här projektet möjliggör en allmän association av OpenPBS-resurser med Azure VM-resurser via projektet cyclecloud-pbspro (azpbs). Den här resursrelationen definieras i autoscale.json.

Standardresurserna som definieras med klustermallen som vi skickar med är

{"default_resources": [
   {
      "select": {},
      "name": "ncpus",
      "value": "node.vcpu_count"
   },
   {
      "select": {},
      "name": "group_id",
      "value": "node.placement_group"
   },
   {
      "select": {},
      "name": "host",
      "value": "node.hostname"
   },
   {
      "select": {},
      "name": "mem",
      "value": "node.memory"
   },
   {
      "select": {},
      "name": "vm_size",
      "value": "node.vm_size"
   },
   {
      "select": {},
      "name": "disk",
      "value": "size::20g"
   }]
}

OpenPBS-resursen med namnet mem motsvarar ett nodattribut med namnet node.memory, vilket är det totala minnet för alla virtuella datorer. Med den här konfigurationen kan azpbs du bearbeta en resursbegäran, till exempel -l mem=4gb genom att jämföra värdet för jobbresurskraven med nodresurserna.

Observera att disken för närvarande är hårdkodad till size::20g. Här är ett exempel på hantering av vm-storleksspecifik diskstorlek

   {
      "select": {"node.vm_size": "Standard_F2"},
      "name": "disk",
      "value": "size::20g"
   },
   {
      "select": {"node.vm_size": "Standard_H44rs"},
      "name": "disk",
      "value": "size::2t"
   }

Autoskalning och skalningsuppsättningar

CycleCloud behandlar utsträcknings- och seriejobb på olika sätt i OpenPBS-kluster. Utsträckningsjobb hamnar på noder som ingår i samma placeringsgrupp. Placeringsgruppen har en viss plattform som betyder (VirtualMachineScaleSet med SinglePlacementGroup=true) och CC kommer att hantera en namngiven placeringsgrupp för varje spanned node set. Använd PBS-resursen group_id för det här placeringsgruppnamnet.

Kön hpc lägger till motsvarigheten -l place=scatter:group=group_id till med hjälp av interna köstandardvärden.

Installera CycleCloud OpenPBS-agenten azpbs

OpenPBS CycleCloud-klustret hanterar installationen och konfigurationen av agenten på servernoden. Förberedelsen omfattar inställning av PBS-resurser, köer och hookar. En skriptinstallation kan även göras utanför CycleCloud.

# Prerequisite: python3, 3.6 or newer, must be installed and in the PATH
wget https://github.com/Azure/cyclecloud-pbspro/releases/download/2.0.5/cyclecloud-pbspro-pkg-2.0.5.tar.gz
tar xzf cyclecloud-pbspro-pkg-2.0.5.tar.gz
cd cyclecloud-pbspro

# Optional, but recommended. Adds relevant resources and enables strict placement
./initialize_pbs.sh

# Optional. Sets up workq as a colocated, MPI focused queue and creates htcq for non-MPI workloads.
./initialize_default_queues.sh

# Creates the azpbs autoscaler
./install.sh  --venv /opt/cycle/pbspro/venv

# Otherwise insert your username, password, url, and cluster name here.
./generate_autoscale_json.sh --install-dir /opt/cycle/pbspro \
                             --username user \
                             --password password \
                             --url https://fqdn:port \
                             --cluster-name cluster_name

azpbs validate

CycleCloud stöder en standarduppsättning autostop-attribut mellan schemaläggare:

Attribut	Beskrivning
cyclecloud.cluster.autoscale.stop_enabled	Är autostop aktiverat på den här noden? [sant/falskt]
cyclecloud.cluster.autoscale.idle_time_after_jobs	Hur lång tid (i sekunder) en nod ska vara inaktiv när jobben har slutförts innan den skalas ned.
cyclecloud.cluster.autoscale.idle_time_before_jobs	Hur lång tid (i sekunder) en nod ska vara inaktiv innan jobben slutförs innan den skalas ned.

Anteckning

CycleCloud stöder inte burst-konfigurationen med Open PBS.

Anteckning

Även om Windows är en Open PBS-plattform som stöds officiellt har CycleCloud inte stöd för att köra Open PBS på Windows just nu.