OpenPBS

A PBS csatlakoztatása a CycleClouddal

A CycleCloud az OpenPBS-fürtöket egy telepíthető, úgynevezett azpbs. Ez az ügynök a CycleCloudhoz csatlakozik a fürt- és virtuálisgép-konfigurációk olvasásához, valamint integrálható az OpenPBS-sel a feladat és a gazdagép adatainak hatékony feldolgozása érdekében. Általában minden azpbs konfiguráció megtalálható a autoscale.json fájlban /opt/cycle/pbspro/autoscale.json.

  "password": "260D39rWX13X",
  "url": "https://cyclecloud1.contoso.com",
  "username": "cyclecloud_api_user",
  "logging": {
    "config_file": "/opt/cycle/pbspro/logging.conf"
  },
  "cluster_name": "mechanical_grid",

Fontos fájlok

Az azpbs ügynök minden híváskor elemzi a PBS-konfigurációt – feladatok, üzenetsorok, erőforrások. Az információkat a parancs stderr- és stdout-fájljában, valamint egy naplófájlban lehet megadni, mindkettő konfigurálható szinten. A rendszer az összes argumentumot tartalmazó PBS-felügyeleti parancsot (qcmd) is naplózza a fájlba.

Ezek a fájlok az /opt/cycle/pbspro/ könyvtárban találhatók, ahol az ügynök telepítve van.

Fájl	Hely	Description
Automatikus skálázási konfiguráció	autoscale.json	Az automatikus skálázás, az erőforrástérkép és a CycleCloud hozzáférési adatainak konfigurálása
Automatikus méretezési napló	autoscale.log	Ügynök fő szálnaplózása, beleértve a CycleCloud-gazdagépek kezelését
Igénynapló	demand.log	Az erőforrás-egyeztetés részletes naplója
qcmd nyomkövetési napló	qcmd.log	Az ügynökhívások qcmd naplózása
Naplózási konfiguráció	logging.conf	Konfigurációk naplózási maszkokhoz és fájlhelyekhez

OpenPBS-erőforrások definiálása

Ez a projekt lehetővé teszi az OpenPBS-erőforrások és az Azure-beli virtuálisgép-erőforrások társítását a cyclecloud-pbspro (azpbs) projekten keresztül. Ez az erőforrás-kapcsolat a következőben van definiálva autoscale.json: .

Az általunk szállított fürtsablonnal definiált alapértelmezett erőforrások a következők:

{"default_resources": [
   {
      "select": {},
      "name": "ncpus",
      "value": "node.vcpu_count"
   },
   {
      "select": {},
      "name": "group_id",
      "value": "node.placement_group"
   },
   {
      "select": {},
      "name": "host",
      "value": "node.hostname"
   },
   {
      "select": {},
      "name": "mem",
      "value": "node.memory"
   },
   {
      "select": {},
      "name": "vm_size",
      "value": "node.vm_size"
   },
   {
      "select": {},
      "name": "disk",
      "value": "size::20g"
   }]
}

A megnevezett mem OpenPBS-erőforrás egy csomópontattribútumnak node.memoryfelel meg, amely a virtuális gépek teljes memóriája. Ez a konfiguráció lehetővé teszi azpbs egy erőforrás-kérés feldolgozását, például -l mem=4gb a feladat erőforrás-követelményeinek és a csomópont-erőforrások értékének összehasonlításával.

Vegye figyelembe, hogy a lemez jelenleg a merevlemezére size::20gvan kódolva. Íme egy példa a virtuális gép méretéhez tartozó lemezméret kezelésére

   {
      "select": {"node.vm_size": "Standard_F2"},
      "name": "disk",
      "value": "size::20g"
   },
   {
      "select": {"node.vm_size": "Standard_H44rs"},
      "name": "disk",
      "value": "size::2t"
   }

Automatikus skálázás és méretezési csoport

A CycleCloud az OpenPBS-fürtökben eltérően kezeli a spanning és a soros feladatokat. Az átfedésben lévő feladatok olyan csomópontokra kerülnek, amelyek ugyanahhoz az elhelyezési csoporthoz tartoznak. Az elhelyezési csoportnak van egy adott platform jelentése (VirtualMachineScaleSet with SinglePlacementGroup=true), és a MÁSOLATOT egy elnevezett elhelyezési csoportot kezel minden egyes átnyúlt csomópontkészlethez. Ehhez az elhelyezési csoportnévhez használja a PBS-erőforrást group_id .

Az hpc üzenetsor a natív üzenetsor alapértelmezett értékeinek használatával fűzi hozzá a megfelelőt -l place=scatter:group=group_id .

A CycleCloud OpenPBS-ügynök telepítése azpbs

Az OpenPBS CycleCloud-fürt kezeli az ügynök telepítését és konfigurációját a kiszolgálócsomóponton. Az előkészítés magában foglalja a PBS-erőforrások, üzenetsorok és horgok beállítását. A szkriptelt telepítés a CycleCloudon kívül is elvégezhető.

# Prerequisite: python3, 3.6 or newer, must be installed and in the PATH
wget https://github.com/Azure/cyclecloud-pbspro/releases/download/2.0.5/cyclecloud-pbspro-pkg-2.0.5.tar.gz
tar xzf cyclecloud-pbspro-pkg-2.0.5.tar.gz
cd cyclecloud-pbspro

# Optional, but recommended. Adds relevant resources and enables strict placement
./initialize_pbs.sh

# Optional. Sets up workq as a colocated, MPI focused queue and creates htcq for non-MPI workloads.
./initialize_default_queues.sh

# Creates the azpbs autoscaler
./install.sh  --venv /opt/cycle/pbspro/venv

# Otherwise insert your username, password, url, and cluster name here.
./generate_autoscale_json.sh --install-dir /opt/cycle/pbspro \
                             --username user \
                             --password password \
                             --url https://fqdn:port \
                             --cluster-name cluster_name

azpbs validate

A CycleCloud támogatja az autostop attribútumok szabványos készletét az ütemezők között:

Attribútum	Leírás
cyclecloud.cluster.autoscale.stop_enabled	Engedélyezve van az automatikus beállítás ezen a csomóponton? [igaz/hamis]
cyclecloud.cluster.autoscale.idle_time_after_jobs	Az az idő (másodpercben), a amíg egy csomópont tétlenül ül a feladatok elvégzése után, mielőtt leskálázható lenne.
cyclecloud.cluster.autoscale.idle_time_before_jobs	Az az idő (másodpercben), a amíg egy csomópont tétlenül ül a feladatok elvégzése előtt, mielőtt leskálázódik.

Megjegyzés

A CycleCloud nem támogatja az open PBS-sel történő teljesítményfokozási konfigurációt.

Megjegyzés

Annak ellenére, hogy a Windows hivatalosan támogatott Open PBS platform, a CycleCloud jelenleg nem támogatja az Open PBS windowsos futtatását.