? Los sistemas paralelos MIMD presentan dos arquitecturas diferenciadas: memoria compartida y memoria distribuida. ? El modelo de memoria utilizado hace que la programación de aplicaciones paralelas para cada caso sea esencialmente diferente.
? Alternativas: • usar un lenguaje paralelo nuevo, o modificar la sintaxis de uno secuencial (HPF, UPC… / Occam, Fortran M…). • usar un lenguaje secuencial junto con directivas al compilador para especificar el paralelismo. • usar un lenguaje secuencial junto con rutinas de librería.
? En el caso de memoria compartida, tenemos más opciones: > trabajar con procesos (UNIX) > usar threads: Pthreads (POSIX), Java, OpenMP…
(Gp:) heap (Gp:) pila (Gp:) IR (Gp:) proceso j (Gp:) rutinas interrup. (Gp:) código (Gp:) ficheros
? procesos concurrentes: Fork / Join ? gran overhead, son muy “caros”
(Gp:) heap (Gp:) rutinas interrup. (Gp:) código (Gp:) ficheros
(Gp:) pila (Gp:) IR (Gp:) thread 1
(Gp:) pila (Gp:) IR (Gp:) thread 2
? los threads son más “ligeros” ? la sincronización (variables compartidas) es sencilla ? habitual en el S.O. (solaris, windows XP…)
? Para los sistemas de memoria distribuida, el estándar actual de programación, mediante paso de mensajes, es MPI. ? Para los sistemas de memoria compartida, de tipo SMP, la herramienta más extendida es OpenMP. ? En ambos casos hay más opciones, y en una máquina más general utilizaremos probablemente una mezcla de ambos.
? Qué esperamos de una “herramienta” para programar aplicaciones en máquinas de memoria distribuida (MPI): • un mecanismo de identificación de los procesos. • una librería de funciones de comunicación punto a punto: send, receive… • funciones de comunicación global: broadcast,, scatter, reduce… • alguna función para sincronizar procesos.
? Qué esperamos de una “herramienta” para programar aplicaciones en máquinas de memoria compartida: • un mecanismo de identificación de los threads. • un método para declarar las variables como privadas (private) o compartidas (shared). • un mecanismo para poder definir “regiones paralelas”, bien sea a nivel de función o a nivel de iteración de bucle. • facilidades para sincronizar los threads.
? Qué no esperamos de una “herramienta” para programar aplicaciones paralelas: • un analizador de dependencias entre tareas (queda en manos del programador).
Introducción ? OpenMP es el estándar actual para programar aplicaciones paralelas en sistemas de memoria compartida tipo SMP.
Entre otras características, es portable, permite paralelismo “incremental”, y es independiente del hardware.
Participan en su desarrollo los fabricantes más importantes: HP, IBM, SUN, SG…
| Página siguiente |