OpenPBS

Conexión de PBS con CycleCloud

CycleCloud administra los clústeres de OpenPBS a través de un agente instalable denominado azpbs. Este agente se conecta a CycleCloud para leer configuraciones de clúster y máquina virtual y también se integra con OpenPBS para procesar eficazmente la información del trabajo y del host. Todas las azpbs configuraciones se encuentran en el autoscale.json archivo, normalmente /opt/cycle/pbspro/autoscale.json.

  "password": "260D39rWX13X",
  "url": "https://cyclecloud1.contoso.com",
  "username": "cyclecloud_api_user",
  "logging": {
    "config_file": "/opt/cycle/pbspro/logging.conf"
  },
  "cluster_name": "mechanical_grid",

Archivos importantes

El agente azpbs analiza la configuración de PBS cada vez que se llama: trabajos, colas y recursos. La información se proporciona en stderr y stdout del comando, así como, en un archivo de registro, ambos en niveles configurables. Todos los comandos de administración de PBS (qcmd) con argumentos también se registran en el archivo.

Todos estos archivos se pueden encontrar en el directorio /opt/cycle/pbspro/ donde está instalado el agente.

Archivo	Ubicación	Descripción
Configuración de escalabilidad automática	autoscale.json	Configuración del escalado automático, mapa de recursos, información de acceso de CycleCloud
Registro de escalabilidad automática	autoscale.log	Registro principal de subprocesos del agente, incluida la administración de hosts de CycleCloud
Registro de demanda	demand.log	Registro detallado para la coincidencia de recursos
qcmd Trace Log	qcmd.log	Registro de las llamadas del agente qcmd
Configuración de registro	logging.conf	Configuraciones de máscaras de registro y ubicaciones de archivos

Definición de recursos de OpenPBS

Este proyecto permite la asociación general de recursos de OpenPBS con recursos de máquina virtual de Azure a través del proyecto cyclecloud-pbspro (azpbs). La relación de recursos está definida en autoscale.json. Los recursos predeterminados definidos con la plantilla de clúster que enviamos son

{"default_resources": [
   {
      "select": {},
      "name": "ncpus",
      "value": "node.vcpu_count"
   },
   {
      "select": {},
      "name": "group_id",
      "value": "node.placement_group"
   },
   {
      "select": {},
      "name": "host",
      "value": "node.hostname"
   },
   {
      "select": {},
      "name": "mem",
      "value": "node.memory"
   },
   {
      "select": {},
      "name": "vm_size",
      "value": "node.vm_size"
   },
   {
      "select": {},
      "name": "disk",
      "value": "size::20g"
   }]
}

El recurso OpenPBS denominado mem se equivale a un atributo de nodo denominado node.memory, que es la memoria total de cualquier máquina virtual. Esta configuración permite azpbs procesar una solicitud de recursos, como -l mem=4gb comparando el valor de los requisitos de recursos de trabajo con los recursos de nodo.

Actualmente, el tamaño del disco está codificado de forma dura en size::20g. Este es un ejemplo de control del tamaño de disco específico del tamaño de máquina virtual

   {
      "select": {"node.vm_size": "Standard_F2"},
      "name": "disk",
      "value": "size::20g"
   },
   {
      "select": {"node.vm_size": "Standard_H44rs"},
      "name": "disk",
      "value": "size::2t"
   }

Escalado automático y conjuntos de escalado

CycleCloud trata los trabajos paralelos y en serie de manera diferente en los clústeres de OpenPBS. La expansión de trabajos se colocará en nodos que forman parte del mismo grupo de selección de ubicación. El grupo de colocación tiene una plataforma particular (VirtualMachineScaleSet con SinglePlacementGroup=true) y CycleCloud administra un grupo de colocación con nombre para cada conjunto de nodos extendidos. Use el recurso group_id de PBS para este nombre de grupo de selección de colocación.

La hpc cola anexa el equivalente de mediante valores predeterminados de -l place=scatter:group=group_id cola nativa.

Instalación del agente openPBS de CycleCloud azpbs

El clúster de OpenPBS CycleCloud administra la instalación y configuración del agente en el nodo de servidor. La preparación incluye la configuración de recursos, colas y enlaces de PBS. También se puede realizar una instalación con script fuera de CycleCloud.

# Prerequisite: python3, 3.6 or newer, must be installed and in the PATH
wget https://github.com/Azure/cyclecloud-pbspro/releases/download/2.0.5/cyclecloud-pbspro-pkg-2.0.5.tar.gz
tar xzf cyclecloud-pbspro-pkg-2.0.5.tar.gz
cd cyclecloud-pbspro

# Optional, but recommended. Adds relevant resources and enables strict placement
./initialize_pbs.sh

# Optional. Sets up workq as a colocated, MPI focused queue and creates htcq for non-MPI workloads.
./initialize_default_queues.sh

# Creates the azpbs autoscaler
./install.sh  --venv /opt/cycle/pbspro/venv

# Otherwise insert your username, password, url, and cluster name here.
./generate_autoscale_json.sh --install-dir /opt/cycle/pbspro \
                             --username user \
                             --password password \
                             --url https://fqdn:port \
                             --cluster-name cluster_name

azpbs validate

CycleCloud admite un conjunto estándar de atributos de detención automática en los planificadores.

Atributo	Descripción
cyclecloud.cluster.autoscale.stop_enabled	¿Está habilitado el autostop en este nodo? [verdadero/falso]
cyclecloud.cluster.autoscale.tiempo_inactivo_después_de_tareas	Cantidad de tiempo (en segundos) que un nodo permanece inactivo después de completar los trabajos antes de ser reducido de escala.
cyclecloud.cluster.autoscale.idle_time_before_jobs	Cantidad de tiempo (en segundos) que un nodo permanece inactivo tras completar trabajos antes de ser reducido.

Nota:

CycleCloud no admite la configuración de expansión con Open PBS.

Nota:

Aunque Windows es una plataforma open PBS compatible oficialmente, CycleCloud no admite la ejecución de Open PBS en Windows en este momento.