Difference between revisions of "Introducción a la programación paralela"

From Supercomputación y Cálculo Científico UIS
(33 intermediate revisions by 2 users not shown)
Line 1: Line 1:
 
Volver a  [[Cursos]]
 
Volver a  [[Cursos]]
  
__NOTOC__
 
  
=== '''Introducción a la Programación Paralela - Código 28661''' ===
+
'''Introducción a la Computación Paralela - Código 28661'''
 
<div class="column clearfix">
 
<div class="column clearfix">
     <div class="col-md-14"><div class="panel-body"><p></p><p><b>[https://sites.google.com/site/carlosjaimebh/ Carlos Jaime Barrios Hernandez, PhD.]</b> - (c b a r r i o s (@) u i s . e d u . c o )</p><p>Asistencia Técnica-Teóric:. Equipo SC3UIS y CAGE</p>[[File:NoThanksButWereBusy.png|border|center|630x630px]]</div></div></div>
+
     <div class="col-md-14"><div class="panel-body"><p></p><p><b>[https://sites.google.com/site/carlosjaimebh/ Carlos Jaime Barrios Hernandez, PhD.]</b> - (c b a r r i o s (@) u i s . e d u . c o )</p><p>Asistencia Técnica-Teórica:. Equipo SC3UIS y CAGE</p>[[File:NoThanksButWereBusy.png|border|center|630x630px]]</div></div></div>
  
=== '''PRESENTACION DEL CURSO''' ===
+
==='''PRESENTACION DEL CURSO'''===
 
<div class="column clearfix">
 
<div class="column clearfix">
 
La ruptura tecnológica hace que la computación sea quizás el área del conocimiento más dinámico que existe y que no solo promueve tendencias sino también cambios sociales, desde que la información y su tratamiento no solo es una necesidad sino una exigencia. La computación paralela, si bien no es nada nuevo, como parte de esa "exigencia" permite la explotación de sistemas que desde hace más de treinta años están disponibles, pero que en algunos medios se ve aún como algo exótico, ignorando que gracias a esas posibilidades, desde poder escuchar música, hablar y tomar fotos de manera simultánea en un dispositivo móvil, pasando por pronosticar el clima o mercados, almacenar datos en la nube hasta la realidad de implementar soluciones y algoritmos de inteligencia artificial hoy, existe porque hay múltiples unidades de procesamiento que pueden ser programadas de manera paralela y concurrente.
 
La ruptura tecnológica hace que la computación sea quizás el área del conocimiento más dinámico que existe y que no solo promueve tendencias sino también cambios sociales, desde que la información y su tratamiento no solo es una necesidad sino una exigencia. La computación paralela, si bien no es nada nuevo, como parte de esa "exigencia" permite la explotación de sistemas que desde hace más de treinta años están disponibles, pero que en algunos medios se ve aún como algo exótico, ignorando que gracias a esas posibilidades, desde poder escuchar música, hablar y tomar fotos de manera simultánea en un dispositivo móvil, pasando por pronosticar el clima o mercados, almacenar datos en la nube hasta la realidad de implementar soluciones y algoritmos de inteligencia artificial hoy, existe porque hay múltiples unidades de procesamiento que pueden ser programadas de manera paralela y concurrente.
  
El curso, que es introductorio, esta dirigido a estudiantes de ingeniería de sistemas y ciencias de la computación, cuyo principal objetivo es ofrecer fundamentos para la explotación de la concurrencia, la explotación de paradigmas de programación dirigidos al paralelismo, sin ignorar algunos conceptos arquitecturales necesarios para entender que soporta ese procesamiento en paralelo. A partir de este curso, los participantes manejaran la terminología necesaria igualmente y tendrán la base para a partir de allí seguir cursos avanzados y seminarios especializados.
+
El curso, que es para principiantes, esta dirigido a estudiantes de ingeniería de sistemas y ciencias de la computación, cuyo principal objetivo es ofrecer fundamentos para la explotación de la concurrencia, la explotación de paradigmas de programación dirigidos al paralelismo, sin ignorar algunos conceptos arquitecturales necesarios para entender que soporta ese procesamiento en paralelo. A partir de este curso, los participantes manejaran la terminología necesaria igualmente y tendrán la base para a partir de allí seguir cursos avanzados y seminarios especializados.
  
 
</div>
 
</div>
  
=== '''Contenido''' ===
+
==='''Contenido'''===
 
<div class="col-md-14">
 
<div class="col-md-14">
# Introducción a la Computación Paralela
+
#Introducción a la Computación Paralela
#* Pensamiento Paralelo y Pervasibidad
+
#*Pensamiento Paralelo y Pervasibidad
#* Elementos de Paralelismo  
+
#*Elementos de Paralelismo
#* Evolución de la Computación Paralela  
+
#*Evolución de la Computación Paralela
#* Computación de Alto Rendimiento (HPC)  
+
#*Computación de Alto Rendimiento (HPC)
# Arquitecturas Paralelas y Sistemas Escalables
+
#Arquitecturas Paralelas y Sistemas Escalables
#* Modelos de Máquinas Paralelas
+
#*Modelos de Máquinas Paralelas
#* Modelos de Ejecución Paralela
+
#*Modelos de Ejecución Paralela
#* Paralelismo y Comunicación
+
#*Paralelismo y Comunicación
#* Caracterización de Flynn  
+
#*Caracterización de Flynn
#* Multinucleos y Multiprocesamiento
+
#*Multinúcleos y Multiprocesamiento (multicores - multiprocessing)
#* Procesamiento Vectorial
+
#*Procesamiento Vectorial
#* Arquitecturas para el Procesamiento Masivamente Paralelo (Manycores)
+
#*Arquitecturas para el Procesamiento Masivamente Paralelo (Manycores)
#* Modelos de Memoria
+
#*Modelos de Memoria
#** Jerarquia de Memoria
+
#**Jerarquia de Memoria
#* Sistemas Distribuidos de Gran Escala  
+
#*Sistemas Distribuidos de Gran Escala
#* Unidades de Procesamiento Tensor  
+
#*Unidades de Procesamiento Tensor
#* Unidades de Procesamiento Cuántico  
+
#*Unidades de Procesamiento Cuántico
#* Sistemas Operativos, Sistemas de Archivos, Calendarización y Monitoreo en Arquitecturas Paralelas
+
#*Sistemas Operativos, Sistemas de Archivos, Calendarización y Monitoreo en Arquitecturas Paralelas
#** Aspectos especiales de Linux y Slurm  
+
#**Aspectos especiales de Linux y Slurm
#* Top500 y Otros Rankings  
+
#*Top500 y Otros Rankings
# Algoritmos Concurrentes y Paralelos
+
#Algoritmos Concurrentes y Paralelos
#* Caracterización de Paralelismo
+
#*Caracterización de Paralelismo
#* Granularidad
+
#*Granularidad
#* Multihilos y Multiprocesos
+
#*Multihilos y Multiprocesos
#* Modelos de Computación (RAM, PRAM, Sorting Networks, BSP, LogP y otros)
+
#*Modelos de Computación (RAM, PRAM, Sorting Networks, BSP, LogP y otros)
#* Modelos de Algoritmos Concurrentes
+
#*Modelos de Algoritmos Concurrentes
#** Descomposición de Tareas
+
#**Descomposición de Tareas
#** Descomposición de Datos
+
#**Descomposición de Datos
#** Dividir y Conquistar
+
#**Dividir y Conquistar
#** Tuberias (Pipeline)
+
#**Tuberias (Pipeline)
#** Recursividad y Otros (Embarrassingly Parallelism y Otros)
+
#**Recursividad y Otros (Embarrassingly Parallelism y Otros)
#* Algoritmos No Paralelos
+
#*Algoritmos No Paralelos
#* Balanceo de Carga y Calendarización (Scheduling)
+
#*Balanceo de Carga y Calendarización (Scheduling)
# Paradigmas y Modelos de Programación Paralela
+
#Paradigmas y Modelos de Programación Paralela
#* Ambientes de Programación Paralela
+
#*Ambientes de Programación Paralela
#* Modelo de Programación de Memoria Compartida
+
#*Modelo de Programación de Memoria Compartida
#** OpenMP
+
#**OpenMP
#* Modelo de Programación de Memoria Distribuída
+
#*Modelo de Programación de Memoria Distribuída
#** Paso de Mensajes con MPI
+
#**Paso de Mensajes con MPI
#* Modelo Programación de Memoria Híbrida/Heterogénea
+
#*Modelo Programación de Memoria Híbrida/Heterogénea
#** Programación de Sistemas CPU-GPU (Sistemas GPGPU)
+
#**Programación de Sistemas CPU-GPU (Sistemas GPGPU)
#*** Fundamentos de Programación de GPUs y Múltiples GPU con CUDA
+
#***Fundamentos de Programación de GPUs y Múltiples GPU con CUDA
#* Uso de Directivas de Aceleración con OpenACC
+
#*Uso de Directivas de Aceleración con OpenACC
#* Otros Mecanismos de Implementación y Aceleración de Aplicaciones
+
#*Otros Mecanismos de Implementación y Aceleración de Aplicaciones
# Optimización
+
#Optimización
#* Optimización Local y Global Paralela
+
#*Optimización Local y Global Paralela
# Evaluación de Desempeño
+
#Evaluación de Desempeño
#* Latencia y Throughput
+
#*Latencia y Throughput
#* Speedup (Aceleración), Eficiencia y Escalabilidad
+
#*Speedup (Aceleración), Eficiencia y Escalabilidad
#* Ley de Amhdal
+
#*Ley de Amhdal
#* Ley de Gustaffon-Barsis
+
#*Ley de Gustaffon-Barsis
#* Complejidad Asimptótica (Aceleración y Eficiencia)
+
#*Complejidad Asimptótica (Aceleración y Eficiencia)
#* Modelo de Little  
+
#*Modelo de Little
#* Análisis de Rendimiento y Tunning (Ajuste)  
+
#*Análisis de Rendimiento y Tunning (Ajuste)
# Debugging and Profiling
+
#Debugging and Profiling
#* Consideraciones de Debugging y Monitoreo de Rendimiento y Comportamiento  
+
#*Consideraciones de Debugging y Monitoreo de Rendimiento y Comportamiento
#* Herramientas para el Debugging y el Profling
+
#*Herramientas para el Debugging y el Profling
# Lineamientos para el Desarrollo de Aplicaciones Paralelas
+
#Lineamientos para el Desarrollo de Aplicaciones Paralelas
#* Patrones para el Flujo de Control y de Ejecución
+
#*Patrones para el Flujo de Control y de Ejecución
#* Patrones para la Administración de Datos
+
#*Patrones para la Administración de Datos
#* Espacios de Diseño y Desarrollo de Programas Paralelos
+
#*Espacios de Diseño y Desarrollo de Programas Paralelos
#** Búsqueda de Explotación de Concurrencia
+
#**Búsqueda de Explotación de Concurrencia
#** Diseño de Estructura de Algoritmo
+
#**Diseño de Estructura de Algoritmo
#** Selección de Estructuras de Soporte de Algoritmos Paralelos
+
#**Selección de Estructuras de Soporte de Algoritmos Paralelos
#** Selección de Mecanismos de Implementación
+
#**Selección de Mecanismos de Implementación
# Direcciones y Tendencias en Programación Paralela
+
#Direcciones y Tendencias en Programación Paralela
#* HPC@Green: Eficiencia Computacional Hoy (Consumo Energético/Procesamiento)
+
#*HPC@Green: Eficiencia Computacional Hoy (Consumo Energético/Procesamiento)
#* Explotación de Unidades Tensor y Aplicaciones Emergentes
+
#*Explotación de Unidades Tensor y Aplicaciones Emergentes
#* Extracción de Paralelismo en Códigos Secuenciales
+
#*Extracción de Paralelismo en Códigos Secuenciales
#* Explotación de Memoria
+
#*Explotación de Memoria
#* Paradigmas de Programación Emergentes
+
#*Paradigmas de Programación Emergentes
 
</div>
 
</div>
  
=== '''Evaluación''' ===
+
==='''<big>Metodología - Curso Especial 1- 2020</big>'''===
 +
Se realizarán sesiones teóricas via visioconferencia de manera sincrónica los dias martes de 10:15 a.m. a 11:45 y de manera sincrónica/semi-asincrónica laboratorios prácticos en la tarde de los dias martes. El acompañamiento e interacción se realizará a través de un foro para algunas de las prácticas que esta a disposición en este sitio.
 +
<br />
 +
==='''<big>Evaluación</big>'''===
 +
====='''Evaluaciones programadas para el 1er Semestre de 2020'''=====
 +
Las evaluaciones programadas para este semestre, se detallarán en la sesión teórica, normalmente dos semanas antes de la fecha de entrega. Igualmente las prácticas serán informadas en la sesión teórica previa así como las fechas y horas limites de entrega. Las diferentes entregas que son individuales o en grupo de acuerdo se diga,  se realizarán principalmente via github.
 +
<br />
  
===== '''Evaluaciones programadas para el 2do Semestre de 2018''' =====
+
*'''Evaluación 1 (20%) C/C++  Procesamiento Memoria Compartida (Individual): Entrega: 30 de Junio de 2020'''
* '''Evaluación Inicial:''' 20% Evaluación Escrita de Fundamentos (Individual), Unidades 1 a la 3. : Martes 4 de Diciembre de 2018  de 7:00 a 9:00 
+
*'''Evaluación 2 (20%) C/C++ Procesamiento Memoria Distribuída (Individual): Entrega: 28 de Julio de 2020'''
* '''Evaluación Dos''': 30% Participación en el [http://www.ccarla.org #CARLA2018] (Domingo 23 al Viernes 28 de Septiembre de 2018) de la siguiente manera:
+
*'''Evaluación 3 (20%) C/C++ Procesamiento Memoria Híbrida CPU/GPU (Individual): Entrega: 18 de Agosto de 2020'''
** Participación en al menos un tutorial
+
*'''Evaluación 4 (25%) Proyecto Final (Parejas y Trios): Entrega: 6 de Septiembre de 2020 / Presentación 7 de Septiembre de 2020'''
** Participación en al menos uno de los workshops
+
*'''Evaluación 5 (15%) Prácticas: Entregas programadas desde el Martes 2 de Junio de 2020'''
** Participación en el cuerpo central de la conferencia
 
DEBE PRESENTAR EL CERTIFICADO DE PARTICIPACIÓN DE CADA UNA DE LAS ACTIVIDADES el martes 2 de octubre. Los matriculados en el curso están exonerados del pago de registro e inscripción.
 
* '''Evaluación Tres''': 20% Taller de Evaluación de Programación Paralela (Individual): Martes 23 de Octubre de 2018 de 7:00 a 9:00
 
* '''Evaluación Final:''' 30% Proyecto de Aplicación Final (Por Parejas Asignadas por el Profesor): Presentación: Martes 4 de Diciembre de 2018 de 7:00 a 9:00
 
** Se asignará un problema a desarrollar y tratar por parejas que deberá presentarse y se tendrán en cuenta los siguientes elementos:
 
*** Análisis y Diseño del Algoritmo de Solución
 
*** Calidad, Escalabilidad y Rendimiento de la Implementación (Selección de Paradigma de Programación)
 
*** Análisis de Rendimiento y Optimización
 
** Previa a la presentación de resultados deberá enviarse un reporte tipo articulo de no mayor de 8 páginas a doble columna y entregar los códigos fuente y las condiciones de ejecución de la aplicación.
 
  
=== '''Bibliografía y Fuentes de Información''' ===
+
====='''Grupos de Trabajo y Asignaciones 2-2018'''=====
 +
{| class="wikitable"
 +
!Grupo
 +
!Participantes
 +
!Descripción del Trabajo
 +
|-
 +
|1
 +
|'''2103657''' - ALVAREZ TEJADA GABRIEL DE JESUS
 +
 
 +
'''2122485''' - HERNANDEZ PABON JORGE ANDRES
 +
|'''Problema de N - Cuerpos (https://es.wikipedia.org/wiki/Problema_de_los_n_cuerpos<nowiki/>)'''
 +
 
 +
El problema de N-Cuerpos es bien conocido y básicamente lo que trata es determinar los movimientos individuales de un grupo de partículas materiales siguiendo física newtoniana. Diferentes propuestas para realizar la simulación de n-cuerpos se encuentran implementadas, por ejemplo la que se encuentra en: http://www.new-npac.org/projects/cdroms/cewes-1999-06-vol2/cps615course/examples96/nbody-stuff/nbody.c
 +
 
 +
La asignación de este problema es realizar un código paralelo que permita la interacción de mínimo 1000 (mil) partículas en tres dimensiones. No se recomienda el uso de interpretadores. Bonus en nota: Si presenta gráficamente la simulación de los cuerpos.
 +
|-
 +
|2
 +
|'''2140180''' - LEON PEREZ FABIAN ANDRES
 +
 
 +
'''2151196''' - LOPEZ DURAN JHON EDINSON
 +
|'''Ecuación de Calor (https://es.wikipedia.org/wiki/Ecuaci%C3%B3n_del_calor<nowiki/>)'''
 +
 
 +
La ecuación del calor es una importante ecuación diferencial en derivadas parciales del tipo parabólica que describe la distribución del calor (o variaciones de la temperatura) en una región a lo largo del transcurso del tiempo. Dependiendo de las dimensiones a trabajar (siendo la más conocida en 2D) existen diferentes implementaciones como la que se encuentra en: https://people.sc.fsu.edu/~jburkardt/c_src/heated_plate/heated_plate.c
 +
 
 +
El objetivo que se busca en esta asignación es realizar un código paralelo que permita el análisis de la ecuación de calor de manera tridimensional en un cubo. No se recomienda el uso de interpretadores. Bonus de nota: Si se presenta gráficamente la simulación correspondiente a la solución.
 +
 
 +
|-
 +
|3
 +
|'''2143696''' - MANTILLA LOPEZ JUAN DAVID
 +
 
 +
'''2141354''' - OÑATE LIZARAZO LEYSTON ALEXANDER
 +
|'''Ecuación de Onda (https://es.wikipedia.org/wiki/Ecuaci%C3%B3n_de_onda<nowiki/>)'''
 +
 
 +
La ecuación de onda es una importante ecuación diferencial en derivadas parciales lineal de segundo orden que describe la propagación de una variedad de ondas, como las ondas sonoras, las ondas de luz y las ondas en el agua. Computacionalmente se encuentran soluciones para tratar la sumación y propagación, siendo muy conocidas aquellas que han sido implementadas por supuesto en una o dos dimensiones ( http://www.labbookpages.co.uk/audio/beamforming/waveSum.html o https://computing.llnl.gov/tutorials/parallel_comp/#ExamplesWave)
 +
 
 +
La asignación a este trabajo es proponer una solución paralela para la ecuación de onda en 2D. No se recomienda el uso de interpretadores. Bonus de nota: Si se presenta gráficamente la simulación correspondiente a la solución dada. 
 +
|}
 +
 
 +
==='''Bibliografía y Fuentes de Información'''===
 
<div class="col-md-14">
 
<div class="col-md-14">
 
     <div class="panel panel-darker-white-border"><ul>
 
     <div class="panel panel-darker-white-border"><ul>
Line 171: Line 205:
 
</div>
 
</div>
  
=== '''PRESENTACIONES DEL CURSO''' ===
+
==='''PRESENTACIONES DEL CURSO'''===
* [[:File:ArchiParSca.pdf|Arquitecturas Escalables y Paralelas I]]
+
 
* [[:File:ArchiParSca2.pdf|Arquitecturas Escalables y Paralelas II]]
+
*An Introduction to HPC and Advanced Computing
 +
**[[:File:IntroPPHPC_1.pdf|Part 1]]
 +
**[[:File:IntroPPHPC_2.pdf|Part 2]]
 +
**[[:File:IntroPPHPC_3.pdf|Part 3]]
 +
*[[:File:Tutorial Linux.pdf|Introducción Linux]]
 +
*[[:File:slurm.pdf|Simple Linux Utility for Resource Management]]
 +
*[[:File:PP-ConcIntro.pdf|Concurrency and Paralellism]]
 +
*[[:File:MemCompOpenMP2.pdf|Shared Memory Programming with OpenMP]] (In Spanish/En Español)
 +
*[[:File:SharedMPI14c.pdf|Distributed Memory Exploitation with MPI: An Introduction]]
  
=== '''CONSULTA A ESTUDIANTES''' ===
+
==='''CONSULTA A ESTUDIANTES'''===
Los martes puede realizarse consulta en LP226 o en Supercomputación UIS 4to piso del CENTIC pero se recomienda solicitar cita por email previamente.
+
Debido a las circunstancias actuales, las consultas pueden planificarse de manera asincrónica via correo electrónico, enviando un correo al profesor de la asignatura. En la práctica, via el foro creado para tal fin.

Revision as of 17:38, 26 May 2020

Volver a Cursos


Introducción a la Computación Paralela - Código 28661

Carlos Jaime Barrios Hernandez, PhD. - (c b a r r i o s (@) u i s . e d u . c o )

Asistencia Técnica-Teórica:. Equipo SC3UIS y CAGE

NoThanksButWereBusy.png

PRESENTACION DEL CURSO

La ruptura tecnológica hace que la computación sea quizás el área del conocimiento más dinámico que existe y que no solo promueve tendencias sino también cambios sociales, desde que la información y su tratamiento no solo es una necesidad sino una exigencia. La computación paralela, si bien no es nada nuevo, como parte de esa "exigencia" permite la explotación de sistemas que desde hace más de treinta años están disponibles, pero que en algunos medios se ve aún como algo exótico, ignorando que gracias a esas posibilidades, desde poder escuchar música, hablar y tomar fotos de manera simultánea en un dispositivo móvil, pasando por pronosticar el clima o mercados, almacenar datos en la nube hasta la realidad de implementar soluciones y algoritmos de inteligencia artificial hoy, existe porque hay múltiples unidades de procesamiento que pueden ser programadas de manera paralela y concurrente.

El curso, que es para principiantes, esta dirigido a estudiantes de ingeniería de sistemas y ciencias de la computación, cuyo principal objetivo es ofrecer fundamentos para la explotación de la concurrencia, la explotación de paradigmas de programación dirigidos al paralelismo, sin ignorar algunos conceptos arquitecturales necesarios para entender que soporta ese procesamiento en paralelo. A partir de este curso, los participantes manejaran la terminología necesaria igualmente y tendrán la base para a partir de allí seguir cursos avanzados y seminarios especializados.

Contenido

  1. Introducción a la Computación Paralela
    • Pensamiento Paralelo y Pervasibidad
    • Elementos de Paralelismo
    • Evolución de la Computación Paralela
    • Computación de Alto Rendimiento (HPC)
  2. Arquitecturas Paralelas y Sistemas Escalables
    • Modelos de Máquinas Paralelas
    • Modelos de Ejecución Paralela
    • Paralelismo y Comunicación
    • Caracterización de Flynn
    • Multinúcleos y Multiprocesamiento (multicores - multiprocessing)
    • Procesamiento Vectorial
    • Arquitecturas para el Procesamiento Masivamente Paralelo (Manycores)
    • Modelos de Memoria
      • Jerarquia de Memoria
    • Sistemas Distribuidos de Gran Escala
    • Unidades de Procesamiento Tensor
    • Unidades de Procesamiento Cuántico
    • Sistemas Operativos, Sistemas de Archivos, Calendarización y Monitoreo en Arquitecturas Paralelas
      • Aspectos especiales de Linux y Slurm
    • Top500 y Otros Rankings
  3. Algoritmos Concurrentes y Paralelos
    • Caracterización de Paralelismo
    • Granularidad
    • Multihilos y Multiprocesos
    • Modelos de Computación (RAM, PRAM, Sorting Networks, BSP, LogP y otros)
    • Modelos de Algoritmos Concurrentes
      • Descomposición de Tareas
      • Descomposición de Datos
      • Dividir y Conquistar
      • Tuberias (Pipeline)
      • Recursividad y Otros (Embarrassingly Parallelism y Otros)
    • Algoritmos No Paralelos
    • Balanceo de Carga y Calendarización (Scheduling)
  4. Paradigmas y Modelos de Programación Paralela
    • Ambientes de Programación Paralela
    • Modelo de Programación de Memoria Compartida
      • OpenMP
    • Modelo de Programación de Memoria Distribuída
      • Paso de Mensajes con MPI
    • Modelo Programación de Memoria Híbrida/Heterogénea
      • Programación de Sistemas CPU-GPU (Sistemas GPGPU)
        • Fundamentos de Programación de GPUs y Múltiples GPU con CUDA
    • Uso de Directivas de Aceleración con OpenACC
    • Otros Mecanismos de Implementación y Aceleración de Aplicaciones
  5. Optimización
    • Optimización Local y Global Paralela
  6. Evaluación de Desempeño
    • Latencia y Throughput
    • Speedup (Aceleración), Eficiencia y Escalabilidad
    • Ley de Amhdal
    • Ley de Gustaffon-Barsis
    • Complejidad Asimptótica (Aceleración y Eficiencia)
    • Modelo de Little
    • Análisis de Rendimiento y Tunning (Ajuste)
  7. Debugging and Profiling
    • Consideraciones de Debugging y Monitoreo de Rendimiento y Comportamiento
    • Herramientas para el Debugging y el Profling
  8. Lineamientos para el Desarrollo de Aplicaciones Paralelas
    • Patrones para el Flujo de Control y de Ejecución
    • Patrones para la Administración de Datos
    • Espacios de Diseño y Desarrollo de Programas Paralelos
      • Búsqueda de Explotación de Concurrencia
      • Diseño de Estructura de Algoritmo
      • Selección de Estructuras de Soporte de Algoritmos Paralelos
      • Selección de Mecanismos de Implementación
  9. Direcciones y Tendencias en Programación Paralela
    • HPC@Green: Eficiencia Computacional Hoy (Consumo Energético/Procesamiento)
    • Explotación de Unidades Tensor y Aplicaciones Emergentes
    • Extracción de Paralelismo en Códigos Secuenciales
    • Explotación de Memoria
    • Paradigmas de Programación Emergentes

Metodología - Curso Especial 1- 2020

Se realizarán sesiones teóricas via visioconferencia de manera sincrónica los dias martes de 10:15 a.m. a 11:45 y de manera sincrónica/semi-asincrónica laboratorios prácticos en la tarde de los dias martes. El acompañamiento e interacción se realizará a través de un foro para algunas de las prácticas que esta a disposición en este sitio.

Evaluación

Evaluaciones programadas para el 1er Semestre de 2020

Las evaluaciones programadas para este semestre, se detallarán en la sesión teórica, normalmente dos semanas antes de la fecha de entrega. Igualmente las prácticas serán informadas en la sesión teórica previa así como las fechas y horas limites de entrega. Las diferentes entregas que son individuales o en grupo de acuerdo se diga, se realizarán principalmente via github.

  • Evaluación 1 (20%) C/C++ Procesamiento Memoria Compartida (Individual): Entrega: 30 de Junio de 2020
  • Evaluación 2 (20%) C/C++ Procesamiento Memoria Distribuída (Individual): Entrega: 28 de Julio de 2020
  • Evaluación 3 (20%) C/C++ Procesamiento Memoria Híbrida CPU/GPU (Individual): Entrega: 18 de Agosto de 2020
  • Evaluación 4 (25%) Proyecto Final (Parejas y Trios): Entrega: 6 de Septiembre de 2020 / Presentación 7 de Septiembre de 2020
  • Evaluación 5 (15%) Prácticas: Entregas programadas desde el Martes 2 de Junio de 2020
Grupos de Trabajo y Asignaciones 2-2018
Grupo Participantes Descripción del Trabajo
1 2103657 - ALVAREZ TEJADA GABRIEL DE JESUS

2122485 - HERNANDEZ PABON JORGE ANDRES

Problema de N - Cuerpos (https://es.wikipedia.org/wiki/Problema_de_los_n_cuerpos)

El problema de N-Cuerpos es bien conocido y básicamente lo que trata es determinar los movimientos individuales de un grupo de partículas materiales siguiendo física newtoniana. Diferentes propuestas para realizar la simulación de n-cuerpos se encuentran implementadas, por ejemplo la que se encuentra en: http://www.new-npac.org/projects/cdroms/cewes-1999-06-vol2/cps615course/examples96/nbody-stuff/nbody.c

La asignación de este problema es realizar un código paralelo que permita la interacción de mínimo 1000 (mil) partículas en tres dimensiones. No se recomienda el uso de interpretadores. Bonus en nota: Si presenta gráficamente la simulación de los cuerpos.

2 2140180 - LEON PEREZ FABIAN ANDRES

2151196 - LOPEZ DURAN JHON EDINSON

Ecuación de Calor (https://es.wikipedia.org/wiki/Ecuaci%C3%B3n_del_calor)

La ecuación del calor es una importante ecuación diferencial en derivadas parciales del tipo parabólica que describe la distribución del calor (o variaciones de la temperatura) en una región a lo largo del transcurso del tiempo. Dependiendo de las dimensiones a trabajar (siendo la más conocida en 2D) existen diferentes implementaciones como la que se encuentra en: https://people.sc.fsu.edu/~jburkardt/c_src/heated_plate/heated_plate.c

El objetivo que se busca en esta asignación es realizar un código paralelo que permita el análisis de la ecuación de calor de manera tridimensional en un cubo. No se recomienda el uso de interpretadores. Bonus de nota: Si se presenta gráficamente la simulación correspondiente a la solución.

3 2143696 - MANTILLA LOPEZ JUAN DAVID

2141354 - OÑATE LIZARAZO LEYSTON ALEXANDER

Ecuación de Onda (https://es.wikipedia.org/wiki/Ecuaci%C3%B3n_de_onda)

La ecuación de onda es una importante ecuación diferencial en derivadas parciales lineal de segundo orden que describe la propagación de una variedad de ondas, como las ondas sonoras, las ondas de luz y las ondas en el agua. Computacionalmente se encuentran soluciones para tratar la sumación y propagación, siendo muy conocidas aquellas que han sido implementadas por supuesto en una o dos dimensiones ( http://www.labbookpages.co.uk/audio/beamforming/waveSum.html o https://computing.llnl.gov/tutorials/parallel_comp/#ExamplesWave)

La asignación a este trabajo es proponer una solución paralela para la ecuación de onda en 2D. No se recomienda el uso de interpretadores. Bonus de nota: Si se presenta gráficamente la simulación correspondiente a la solución dada.

Bibliografía y Fuentes de Información

  • Elements of Parallel Computing, Eric Aubanel (Chapman & Hall/CRC)
  • Essentials of Computer Architecture, D. Comer (CRC Press)
  • High Performance Embedded Computing: Applications in Cyber-Physical systems and Mobile Computing, M. Wolf (Morgan Kaufmann)
  • The Fourth Paradigm: Data-Intensive Scientific Discovery
  • Designing and Building Parallel Programs, by Ian Foster
  • Patterns for Parallel Programming, by Timothy G. Mattson, Beverly A. Sanders and Berna L. Massingill. Software Patterns Series, Addison Wesley Ed., USA. 2009
  • Patterns for Parallel Software Design, Jorge Luis Ortega-Arjona (Wiley)
  • Structured Parallel Programming: Patterns for Efficient Computation, M. McCool, A. D. Robison and J. Reinders (Morgan Kaufmann)
  • The Art of Concurrency “A thread Monkey’s Guide to Writing Parallel Applications”, by Clay Breshears (Ed. O Reilly, 2009)
  • Parallel Scientific Computing in C++ and MPI « A Seamless Approach to Parallel Algorithms and Their Implementation », Karniadakis and Kirby II (Cambridge Press)
  • Parallel And Distributed Computation Numerical Methods, D. P. Bertsekas and J. N. Tsitsiklis (Prentice Hall)
  • An Introduction to High Performance Scientific Computing, Scientific and Engineering Computation Series, Ll. D. Fosdick, E. R. Jessup, C. J. C. Schauble and G. Dmik (MIT Press)
  • The Algorithms Design Manual, S. S. Skiena ( Springer)
  • Algorithms Sequential and Parallel « A Unified Approach » Miller and Boxer (Computing Engineering Series)
  • Parallel Algorithms, Cassanova, Legrand and Robert (Chapman and Hall/CRC)
  • Fundamentals of Multicore Software Development, Ed. Victor Pankratius, Ali-Reza Adl-Tabatabai and Walter Tichy (CRC Press)
  • Introduction to HPC with MPI for Data Science, Frank Nielsen (Springer)
  • Programming Massively Parallel Processors « A Hands-on Approach » , Kirk and Hwu (Nvidia/Morgan Kaufmann)
  • CUDA Application Design and Development, Rob Farber (Nvidia/Morgan Kaufmann)
  • Introduction to High Performance Computing for Scientists and Engineers, Hager and Wellein (Chapman and Hall/CRC)
  • Sourcebook of Parallel Computing , Dongarra, Foster, Fox, Groop, Kennedy, Torczon and White (Morgan Kaufmann)
  • CUDA Programming: A Developer's Guide to Parallel Computing with GPUs, S. Cook (Morgan Kaufmann)
  • The CUDA Handbook: A Comprehensive Guide to GPU Programming, N. Wilt (Addison-Wesley)
  • CUDA by Example « An Introduction to General-Purpose GPU Programming » Sanders and Kandrot (Nvidia/Addison Wesley)
  • CUDA Fortran for Scientists and Engineers: Best Practices for Efficient CUDA Fortran Programming, G. Ruetsch and M. Fatica (Morgan Kaufmann/PGI/Nvidia)
  • HPC@Green IT: Green High Performance Computing Methods, R. Gruber and V. Keller (Springer)
  • OpenACC for Programmers: Concepts and Strategies, S. Chandraserkaran and G. Juckeland (Addison-Wesley)
  • OpenACC: Parallel Programming with OpenACC, Edited by Rob Farber (Morgan Kaufmann)
  • High Performance Parallelism Pearls: Multicore and Many-core Programming Approaches, J. Reinders and J. Jeffers (Morgan Kaufmann)
  • OpenMP
  • OpenACC
  • NVIDIA
  • SC3
  • RICAP
  • Computing.llnl.gov
  • SC-Camp

PRESENTACIONES DEL CURSO

CONSULTA A ESTUDIANTES

Debido a las circunstancias actuales, las consultas pueden planificarse de manera asincrónica via correo electrónico, enviando un correo al profesor de la asignatura. En la práctica, via el foro creado para tal fin.