Difference between revisions of "¿Cómo correr trabajos?"

From Supercomputación y Cálculo Científico UIS
Line 72: Line 72:
 
mpirun --map-by node -mca btl ^openib -np 20 ./programaMPIejecutable
 
mpirun --map-by node -mca btl ^openib -np 20 ./programaMPIejecutable
 
</pre>
 
</pre>
}}  Descomente la l&iacute;nea '''#echo $SLURM_NODELIST | sort | uniq &gt; nodos''' si desea conocer los nodos asignados a la tarea. La opci&oacute;n '''--map-by node''' balancea el n&uacute;mero de procesos de MPI en todos los nodos solicitados. La opci&oacute;n '''-mca btl ^openib''' obligan el uso de la red de alta velocidad infiniband. La opci&oacute;n '''-np 20''' indica que se crear&aacute;n 20 procesos de MPI, puede cambiar este valor de acuerdo a sus necesidades. Finalmente se especifica el programa ejecutable ('''programaMPIejecutable'''). Recuerde que los nodos de guane tienen capacidad de 16 y 24 hilos.  Luego, ejecute siguiente comando:    {{Command|sbatch --partition=all --nodes=2 --ntasks-per-node=10 ./mpi.sh}}
+
}}  Descomente la l&iacute;nea '''#echo $SLURM_NODELIST | sort | uniq &gt; nodos''' si desea conocer los nodos asignados a la tarea. La opci&oacute;n '''--map-by node''' balancea el n&uacute;mero de procesos de MPI en todos los nodos solicitados. La opci&oacute;n '''-mca btl ^openib''' obligan el uso de la red de alta velocidad infiniband. La opci&oacute;n '''-np 20''' indica que se crear&aacute;n 20 procesos de MPI, puede cambiar este valor de acuerdo a sus necesidades. Finalmente se especifica el programa ejecutable ('''programaMPIejecutable'''). Recuerde que los nodos de guane tienen capacidad de 16 y 24 hilos.  Luego, ejecute siguiente comando:    {{Command|sbatch --partition&#61;all --nodes&#61;2 --ntasks-per-node&#61;10 ./mpi.sh}}
 
<p>Este comando ejecuta el script '''./mpi.sh''' en el conjunto de los nodos del cluster. seleccionados con la opci&oacute;n '''--nodes=2'''. La opci&oacute;n '''--partition=all''' indica que los nodos necesrios para ejecutar el trabajo se seleccionar&aacute;n de todo el conjunto de nodos del cluster. Guane cuenta con 5 nodos de 8 cores doble hebra (16 hilos de ejecuci&oacute;n) y el resto de 12 cores doble hebra (24 hilos de ejecuci&oacute;n). As&iacute;, usted puede seleccionar las siguientes particiones:</p>
 
<p>Este comando ejecuta el script '''./mpi.sh''' en el conjunto de los nodos del cluster. seleccionados con la opci&oacute;n '''--nodes=2'''. La opci&oacute;n '''--partition=all''' indica que los nodos necesrios para ejecutar el trabajo se seleccionar&aacute;n de todo el conjunto de nodos del cluster. Guane cuenta con 5 nodos de 8 cores doble hebra (16 hilos de ejecuci&oacute;n) y el resto de 12 cores doble hebra (24 hilos de ejecuci&oacute;n). As&iacute;, usted puede seleccionar las siguientes particiones:</p>
 
<ul>
 
<ul>
Line 103: Line 103:
 
<h3 class="panel-title">&iquest;C&oacute;mo Crear una Sesi&oacute;n Interactiva?</h3>
 
<h3 class="panel-title">&iquest;C&oacute;mo Crear una Sesi&oacute;n Interactiva?</h3>
 
</div>
 
</div>
<div class="panel-body">Ejecute los siguientes comandos:  {{Command|salloc --partition=all --nodes=1 --time=01:00:00 }} {{Command| srun -u bash -i}}
+
<div class="panel-body">Ejecute los siguientes comandos:  {{Command|salloc --partition&#61;all --nodes&#61;1 --time&#61;01:00:00 }} {{Command| srun -u bash -i}}
 
<p>Esto abre un shell a un nodo del cluster. .</p>
 
<p>Esto abre un shell a un nodo del cluster. .</p>
 
{{Note|Use este comando s&oacute;lo para pruebas. Todos los trabajos deben ser ejecutados en modo batch}}</div>
 
{{Note|Use este comando s&oacute;lo para pruebas. Todos los trabajos deben ser ejecutados en modo batch}}</div>
Line 178: Line 178:
 
<p>Las primera l&iacute;nea indica que el archivo es un script shell. La segunda l&iacute;nea sirve para asignar un nombre al trabajo en el sistema de gesti&oacute;n de tareas. La siguiente  l&iacute;nea est&aacute; comentada (comienza con #), si la descomenta generar&aacute; un archivo de nobre '''nodos''' que tendr&aacute; los nodos que le fueron asignados al trabajo. Finalmente, la &uacute;ltima l&iacute;nea ejecutar&aacute; el programa paralelo MPI. la opci&oacute;n '''-map-by node''' distribuye equitativamente los procesos entre los nodos asignados. La opci&oacute;n '''-machinefile $OAR_FILE_NODES''' indica en cuales nodos se ejecutar&aacute; el programa paralelo; estos son seleccionados autom&aacute;ticamente por OAR.. La opci&oacute;n '''-np 96''' indica cuantos procesos se generar&aacute;n (usted lo puede cambiar seg&uacute;n sus necesidades) y por &uacute;ltimo, '''./programaParaleloEjecutable''' es el programa que se desea ejecutar.</p>
 
<p>Las primera l&iacute;nea indica que el archivo es un script shell. La segunda l&iacute;nea sirve para asignar un nombre al trabajo en el sistema de gesti&oacute;n de tareas. La siguiente  l&iacute;nea est&aacute; comentada (comienza con #), si la descomenta generar&aacute; un archivo de nobre '''nodos''' que tendr&aacute; los nodos que le fueron asignados al trabajo. Finalmente, la &uacute;ltima l&iacute;nea ejecutar&aacute; el programa paralelo MPI. la opci&oacute;n '''-map-by node''' distribuye equitativamente los procesos entre los nodos asignados. La opci&oacute;n '''-machinefile $OAR_FILE_NODES''' indica en cuales nodos se ejecutar&aacute; el programa paralelo; estos son seleccionados autom&aacute;ticamente por OAR.. La opci&oacute;n '''-np 96''' indica cuantos procesos se generar&aacute;n (usted lo puede cambiar seg&uacute;n sus necesidades) y por &uacute;ltimo, '''./programaParaleloEjecutable''' es el programa que se desea ejecutar.</p>
 
<p>2) Luego, ub&iacute;quese en el mismo directorio donde cre&oacute; el scrip shell anterior y ejecute el siguiente comando</p>
 
<p>2) Luego, ub&iacute;quese en el mismo directorio donde cre&oacute; el scrip shell anterior y ejecute el siguiente comando</p>
{{Command| <nowiki> oarsub -l nodes=2 ./parallel_job.sh </nowiki>}}
+
{{Command| oarsub -l nodes&#61;2 ./parallel_job.sh }}
 
<p>La opci&oacute;n '''-l nodes=2''' indica que el trabajo se ejecutar&aacute; en 2 nodos del cluster. Usted puede cambiar este valor a conveniencia.</p>
 
<p>La opci&oacute;n '''-l nodes=2''' indica que el trabajo se ejecutar&aacute; en 2 nodos del cluster. Usted puede cambiar este valor a conveniencia.</p>
 
<p>&nbsp;</p>
 
<p>&nbsp;</p>

Revision as of 19:37, 16 October 2015

Logo_sc33.png

 

 

MANEJADORES DE TAREAS

Esta sección describe el uso de los manejadores de tareas utilizados en el SC3, los cuales constituyen la herramienta obligatoria paa la ejecución de trabajos

Ejecución de Programas Utilizando Slurm

¿Cómo Ejecutar Trabajos Seriales?

Para ejecutar programas seriales pasivos, es decir, que no requieran de alguna entrada de parámetros de forma interactiva, ejecute un comando como el que sigue:
srun ./programa &> salida &

Este comando ejecuta ./programa en alguno de los nodos del cluster. El argumento &> salida indica que tanto la salida como los errores se almacenan en un archivo de nombre salida que se creará en el mismo directorio desde donde se ejecutó el programa. Finalmente, el últmo caracter & es para liberar la cónsola desde donde se lanza la ejecución del programa.

¿Cómo Ejecutar Trabajos Seriales Usando un Script Shell?

Para ejecutar programas seriales pasivos utilizando un script shell, que no requieran de alguna entrada de parámetros de forma interactiva, ejecute un comando como el que sigue:
sbatch ./script.sh

Este comando ejecuta ./script.sh en alguno de los nodos del cluster. .

¿Cómo Ejecutar Trabajos Paralelos con OpenMP? (Memoria Compartida)

Para ejecutar programas paralelos con OpenMP edite un script shell con el siguiente contenido:
File: openmp.sh
#!/bin/bash
#export OMP_NUM_THREADS=`grep processor /proc/cpuinfo | wc -l`
export OMP_NUM_THREADS=4
./programa_ejecutable > salida
La línea export OMP_NUM_THREADS=4 indica que se utilizarán 4 hilos de ejecución. El valor de esta variable debe fijarse según las necesidades y características de su programa ejecutable (programa_ejecutable). Recuerde que los nodos de guane tienen capacidad de 16 y 24 hilos. Si quiere utilizar la máxima capacidad de hilos de un nodo puede descomentar la segunda línea simplemente eliminando el caracter # y colocándolo al principio de la tercera línea. Luego, ejecute siguiente comando:
sbatch ./script.sh

Este comando ejecuta el script ./openmp.sh en alguno de los nodos del cluster.

¿Cómo Ejecutar Trabajos Paralelos con OpenMPI? (Memoria Distribuida)

Para ejecutar programas paralelos con OpenMPI edite un script shell con el siguiente contenido:
File: mpi.sh
#!/bin/bash
#echo $SLURM_NODELIST | sort | uniq > nodos
mpirun --map-by node -mca btl ^openib -np 20 ./programaMPIejecutable
Descomente la línea #echo $SLURM_NODELIST | sort | uniq > nodos si desea conocer los nodos asignados a la tarea. La opción --map-by node balancea el número de procesos de MPI en todos los nodos solicitados. La opción -mca btl ^openib obligan el uso de la red de alta velocidad infiniband. La opción -np 20 indica que se crearán 20 procesos de MPI, puede cambiar este valor de acuerdo a sus necesidades. Finalmente se especifica el programa ejecutable (programaMPIejecutable). Recuerde que los nodos de guane tienen capacidad de 16 y 24 hilos. Luego, ejecute siguiente comando:
sbatch --partition=all --nodes=2 --ntasks-per-node=10 ./mpi.sh

Este comando ejecuta el script ./mpi.sh en el conjunto de los nodos del cluster. seleccionados con la opción --nodes=2. La opción --partition=all indica que los nodos necesrios para ejecutar el trabajo se seleccionarán de todo el conjunto de nodos del cluster. Guane cuenta con 5 nodos de 8 cores doble hebra (16 hilos de ejecución) y el resto de 12 cores doble hebra (24 hilos de ejecución). Así, usted puede seleccionar las siguientes particiones:

  • manycores16
  • manycores24
  • all

Finalmente, la opción --ntasks-per-node=10 indica que se ejecutarán 10 procesos por nodo.

 

¿Cómo Eliminar un Trabajo?

Ejecute el siguiente comando:
scancel ID

Donde ID es el identificador del trabajo. Este se puede visualizar con el comando squeue.

¿Cómo Crear una Sesión Interactiva?

Ejecute los siguientes comandos:
salloc --partition=all --nodes=1 --time=01:00:00
srun -u bash -i

Esto abre un shell a un nodo del cluster. .

NOTE: Use este comando sólo para pruebas. Todos los trabajos deben ser ejecutados en modo batch

¿Cómo Ver la Cola de Trabajos?

Ejecute el siguiente comando:
squeue

Este comando muestra las tareas que se encuentran en la cola. La primera columna muestra el identificador del trabajo. Cada tarea puede tener un estado diferente:

  • PD Pendiente o en espera
  • R En ejecución
  • CD El trabajo se ha completado en todos los nodos
Para más información ejecute el comando
man squeue

 

¿Cómo Hacer Uso de GPUs?

Agregue la opción --gres=gpu:N a los comandos srun o sbatch para especificar el uso de GPUs, done N es un número entero que indica la cantidad de GPUs a utilizar. En el caso del cluster guane va de 1 a 8.

Ejecutar Programas Utilizando OAR

¿Cómo Ejecutar Trabajos Seriales?

1) Editar un script shell, de nombre serial_job.sh, con el siguiente contenido

File: serial_job.sh
#!/bin/bash
#OAR -n nombreDelTrabajo
/camino/del/programa

Las primera línea indica que el archivo es un script shell. La segunda línea sirve para asignar un nombre al trabajo en el sistema de gestión de tareas. La última línea es el camino absoluto del programa que se desea ejecutar.

2) Luego, ubíquese en el mismo directorio donde creó el scrip shell anterior y ejecute el siguiente comando

oarsub ./serial_job.sh

¿Cómo Ejecutar Trabajos Paralelos MPI?

1) Editar un script shell, de nombre parallel_job.sh, con el siguiente contenido

File: parallel_job.sh
#/bin/bash
#OAR -n mpitest
# cat $OAR_FILE_NODES | sort | uniq > nodos #Si descomenta esta línea podrá conocer cuales nodos le fueron asignados al trabajo
mpirun -map-by node  -mca btl ^openib -machinefile $OAR_FILE_NODES -np 96 ./programaParaleloEjecutable

Las primera línea indica que el archivo es un script shell. La segunda línea sirve para asignar un nombre al trabajo en el sistema de gestión de tareas. La siguiente línea está comentada (comienza con #), si la descomenta generará un archivo de nobre nodos que tendrá los nodos que le fueron asignados al trabajo. Finalmente, la última línea ejecutará el programa paralelo MPI. la opción -map-by node distribuye equitativamente los procesos entre los nodos asignados. La opción -machinefile $OAR_FILE_NODES indica en cuales nodos se ejecutará el programa paralelo; estos son seleccionados automáticamente por OAR.. La opción -np 96 indica cuantos procesos se generarán (usted lo puede cambiar según sus necesidades) y por último, ./programaParaleloEjecutable es el programa que se desea ejecutar.

2) Luego, ubíquese en el mismo directorio donde creó el scrip shell anterior y ejecute el siguiente comando

oarsub -l nodes=2 ./parallel_job.sh

La opción -l nodes=2 indica que el trabajo se ejecutará en 2 nodos del cluster. Usted puede cambiar este valor a conveniencia.

 

 

Probando el toche editor