Codificación y compresión de video (página 2)

Televisión de alta definición (HDTV). Existen diferentes variantes acerca HDTV. 1920×1080/60, 1920×1080/30-24, 1280×720/30-24 Relación de aspecto 16:9

Vídeo digital profesional (studio-quality). Estándar ITU-R (CCIR-601) de vídeo digital.

2.4 Tipos de vídeo (según su calidad) II Vídeo de difusión (TV broadcast). Difusión de señales de televisión analógicas. Estándares NTSC y PAL/SECAM.

Reproductor de Vídeo (VCR-quality). Grabación de vídeo analógico (en VHS) Menor resolución de imagen (la mitad de PAL/SECAM).

Videoconferencia (Low-speed). Tasas de bits pequeñas (alrededor de 128 Kbps) Resolución de imagen 4 veces inferior al vídeo digital. ITU-TS H.261: Common Intermediate Format (CIF) 352×288 La secuencia de cuadros/s se reduce entre 5 y 10.

2.5 Parámetros específicos de red I Lo que debe suministrar una red para el envío en tiempo real de una secuencia de vídeo.

Tasa de bits.

2.5 Parámetros específicos de red II Retardo y varianza del retardo. Normalmente se envían una secuencia de vídeo sincronizada con el audio correspondiente. La sincronización es muy importante y necesaria desde HDTV hasta VCR. En Videoconferencia no es tan importante ya que la imagen no es continua (pocos cuadros/s). En estos casos, los requerimientos para estos parámetros los impone el audio (más sensible). Valores indicativos para la varianza del retardo: HDTV: 50 ms. Vídeo difusión: 100 ms. Videconferencia: 400 ms.

2.5 Parámetros específicos de red III Tasa de error. El vídeo comprimido es más sensible a los errores. La degradación de la calidad de vídeo percibida depende: BER de la red Del tipo de error (simple, ráfaga, bloque, etc.) Donde se produce ese error. El índice de compresión de vídeo. Mecanismos de recuperación ante errores: Técnicas de protección de la señal. FEC (Forward Correction Codes). Marcas de resincronización. Reversible VLC. Técnicas de paquetización. Ocultación de errores (error concealment) Cuando se pierden bloques o llegan demasiado tarde. Técnicas de extrapolación e interpolación de cuadros.

3.1 Redundancia temporal. Se basa en la similitud de cuadros sucesivos en una secuencia de vídeo. Ej.: Secuencias de plano estático. Se utilizan técnicas de codificación diferencial o transformada 3D Sólo se codificarán las diferencias entre cuadros sucesivos (DPCM). La reconstrucción de un cuadro puede estar basado en otro(s) anterior(es). Un algoritmo típico de eliminación de redundancia temporal (motion compensation) es el que emplea MPEG.

Redundancia temporal (MPEG-1) Cuadros de referencia y cuadros auto-contenidos Si F1 lo usamos para construir F2, se dice que F1 es un cuadro de referencia (reference frame). Si un cuadro no se construye a partir de ningún otro, se dice que es auto-contenido (intracoded frame) Normalmente estos sirven de referencia para otros. Macrobloques (macroblocks) 16×16 pixels (6 bloques de 8×8: 4Y,1U y 1V). (Gp:) F1

(Gp:) F2

(Gp:) F3

Redundancia temporal (MPEG-1) Vectores de movimiento (motion vector) Identifican el desplazamiento de un determinado macrobloque en el cuadro actual respecto a la posición que tenía en el cuadro de referencia. Los vectores de movimiento se aplican cuando se identifica un macrobloque existente en el cuadro de referencia (matching blocks)

(Gp:) F1 (Gp:) F2 (Gp:) Macrobloques idénticos (Gp:) Vector de movimiento ?x = -20, ?y = 0 (Gp:) Cuadro de referencia

Redundancia temporal (MPEG-1) Búsqueda de macrobloques. Se buscan los macrobloques del cuadro a codificar en el cuadro de referencia. Si se encuentra el mismo macrobloque, sólo se codifica el vector de movimiento correspondiente. Si no se encuentra exactamente el mismo se elige el más parecido (macrobloque INTER). Se codifica el vector de movimiento. Se calcula el macrobloque error (las diferencias) aplicándole codificación estilo JPEG (DCT, quant, RLE+VLC en zigzag). Si no se encuentra ningún bloque similar (mb. INTRA) Se codifica dicho macrobloque con codificación estilo JPEG.

Redundancia temporal (MPEG-1) Tipos de cuadros I (Intracoded frames): Cuadro codificado usando JPEG (autocontenido). P (Predictive frames): Cuadro basado en las diferencias respecto a un cuadro de referencia anterior (tipo I). B (Bidirectional frames): Cuadros basados en la interpolación de un cuadro anterior y otro posterior en la secuencia (tipo I o P). (Gp:) F1 (Gp:) F2 (Gp:) F3 (Gp:) Cuadro de tipo I autocontenido (Gp:) Cuadro de tipo B basado en F1 y F3 (Gp:) Cuadro de tipo P basado en F1 (Gp:) Macrobloque encontrado!! (Gp:) Macrobloque encontrado!!

Redundancia temporal (MPEG-1) Secuencias de cuadros (Group Of Pictures) Los cuadros de tipo I son los menos comprimidos, a continuación los de tipo P y por último los que más compresión obtiene son los de tipo B. Secuencias típicas: IBBBPBBBI IBBPBBPBBI (PAL) IBBPBBPBBPBBI (NTSC) (Gp:) I (Gp:) B (Gp:) B (Gp:) P (Gp:) B (Gp:) B (Gp:) P (Gp:) B (Gp:) B (Gp:) I

Redundancia temporal (MPEG-1) La importancia de los cuadros de tipo I. En un sistema de vídeo es habitual el usar los controles de avance, retroceso, pausa, etc. Si queremos detener la secuencia de vídeo, necesitamos encontrar el último cuadro I para reconstruir el cuadro donde se ha detenido la imagen. Sirven como puntos de sincronización. Se estima que deben aparecer al menos un cuadro I cada 300-400 ms. Si se está difundiendo una secuencia de vídeo comprimida (TV broadcast, videoconferencia, etc) Permite “engancharse” rápidamente y recuperarse ante la recepción de algún cuadro dañado.

3.2 Estimación de movimiento: Algoritmos. La parte más costosa de la estimación de movimiento corresponde a los algoritmos de búsqueda de macrobloques en el cuadro(s) de referencia. Provoca codificación asimétrica Los algoritmos más conocidos son los siguientes: Búsqueda completa (Full-Search). TTS (Three-Step Search) Búsqueda logarítmica. Búsqueda en cruz (Cross-Search) OTS (One-at-a-Time Search) Vecinos más próximos (Nearest Neighbours Search) Búsqueda jerárquica.

Estimación de movimiento. Se define una función de coste que calcula el error entre dos macrobloques, por ejemplo, SAE (Sum of Absolute Errors)* :

(i,j) está definido dentro del área de búsqueda (NxM) determina las dimensiones del macrobloque. C(i,j) y R(i,j) definen los pixels del macrobloque actual y referencia respectivamente. Las coordenadas (i,j) que menor SAE exhiban determinarán el vector de movimiento del macrobloque actual. (*) Más conocido como SAD (Sum of Absolute Differences)

Algoritmos: Full Search. Examina todos los puntos del área de búsqueda (+/- p) Complejidad computacional por macrobloque: Número total de posiciones: (2p + 1)2 Cada posición (i,j), MxN pixels. Cada pixel requiere: 1 resta, 1 suma y 1 valor absoluto.

Complejidad (secuencia IxJ pixels @ F fps)

Ejemplo: Broadcast TV (I=720, J=480, F=30, N=M=16) Coste de este algoritmo: 29.89 GOPS (p=15) ó 6.99 GOPS (p=7)

Algoritmos: Three-Step Search. Coste: Examina puntos 1.02 GOPS (p=15) ó 770 MOPS (p=7). MV: (7,-3) (Gp:) (-7,-7) (Gp:) (0,-7) (Gp:) (7,-7) (Gp:) (-7,7) (Gp:) (0,7) (Gp:) (7,7)

(Gp:) 1 (Gp:) 1 (Gp:) 1 (Gp:) 1 (Gp:) 1 (Gp:) 1 (Gp:) 1 (Gp:) 1 (Gp:) 1

(Gp:) 2 (Gp:) 2 (Gp:) 2 (Gp:) 2 (Gp:) 2 (Gp:) 2 (Gp:) 2 (Gp:) 2

(Gp:) 3 (Gp:) 3 (Gp:) 3 (Gp:) 3 (Gp:) 3 (Gp:) 3 (Gp:) 3 (Gp:) 3

Busca en la posición (0,0) S=2N-1 (step size) Busca 8 posiciones a +/-S píxeles alrededor de (0,0) De las nueva posiciones elige aquella con el SAD menor. S=S/2 y el nuevo origen de búsqueda el punto obtenido en 4. Repetir pasos 3-5 hasta que S=1.

Algoritmos: Búsqueda logarítmica. Coste: Examina 20 puntos 616 MOPS (p=7 y N=2). (Gp:) (-7,-7) (Gp:) (0,-7) (Gp:) (7,-7) (Gp:) (-7,7) (Gp:) (0,7) (Gp:) (7,7)

(Gp:) 1 (Gp:) 1 (Gp:) 1 (Gp:) 1 (Gp:) 1

(Gp:) 2 (Gp:) 2 (Gp:) 2

(Gp:) 3 (Gp:) 3

(Gp:) 4 (Gp:) 4

(Gp:) 5 (Gp:) 5 (Gp:) 5 (Gp:) 5 (Gp:) 5 (Gp:) 5 (Gp:) 5 (Gp:) 5

MV: (5,-3) Busca en la posición (0,0) y establece S=N (step size) Selecciona 4 posiciones a S píxeles del origen en los ejes X e Y. Calcula la posición que ofrece el menor SAD, fijándola como el nuevo origen de la búsqueda Si esta posición es la central de las 5 seleccionadas S=S/2 Si S=1 ir al paso 6, sino ir al paso 2. Selecciona el origen actual y las 8 posiciones de alrededor, y calcula aquella que minimiza el SAD

Algoritmos: Búsqueda en cruz (Cross Search) Coste: Examina puntos 523 MOPS (p=7). MV: (-3,-5) (Gp:) (-7,-7) (Gp:) (0,-7) (Gp:) (7,-7) (Gp:) (-7,7) (Gp:) (0,7) (Gp:) (7,7)

(Gp:) 1 (Gp:) 1 (Gp:) 1 (Gp:) 1 (Gp:) 1

(Gp:) 4 (Gp:) 4

(Gp:) 2 (Gp:) 2 (Gp:) 2 (Gp:) 2

(Gp:) 3 (Gp:) 3 (Gp:) 3 (Gp:) 3

Establece el origen en la posición (0,0). S=2N-1 (step size) Selecciona 4 posiciones a +/-S píxeles del origen formando una cruz (X) y el propio origen. Calcula la posición que ofrece el menor SAE, fijándola como el nuevo origen de la búsqueda Si (S>1) entonces S=S/2 y va al punto 2. Sino ir al punto 5. Si la mejor posición está en el punto superior izquierda o inferior derecha de la X, evaluar 4 puntos más en forma de X a una distancia de +/-1 pixel. Sino hacer lo mismo pero con los 4 puntos distribuidos en “+”.

Algoritmos: OTS (One-at-a-Time Search) Coste: Examina 12 puntos 369 MOP. MV: (-4,-3) (-7,-7) (0,-7) (7,-7) (-7,7) (0,7) (7,7) (Gp:) 1 (Gp:) 1 (Gp:) 1

2 3 4 5 Establece el origen en (0,0). Selecciona el origen y las dos posiciones vecinas en el eje X Calcula la posición que menor SAD exhiba. Si es el origen ir al paso 5. Establece el nuevo origen en la posición que ha ofrecido el menor SAD. Ir al paso 2. Repetir los pasos 2 al 4 seleccionando las posiciones en el sentido vertical (eje Y). (Gp:) 6 (Gp:) 6

7 8 9 Puede dar lugar a mínimos locales !

Algoritmos: Vecino más próximo. Coste: Examina 12 puntos 369 MOP. MV: (-3,-4) Calcula el SAD del (0,0). Establece el origen de búsqueda a la posición del vector supuesto (predicted vector) Selecciona 4 posiciones alrededor del origen en forma de “+”. Si el origen de búsqueda (o la posición 0,0 en la primera iteración) ofrece el menor SAD entonces “fin de búsqueda”. Sino establece el nuevo origen de búsqueda en la posición que menor SAD ha ofrecido. (Gp:) (-7,-7) (Gp:) (0,-7) (Gp:) (7,-7) (Gp:) (-7,7) (Gp:) (0,7) (Gp:) (7,7)

0 (Gp:) 1 (Gp:) 1 (Gp:) 1 (Gp:) 1 (Gp:) 1

(Gp:) 2 (Gp:) 2 (Gp:) 2

(Gp:) 3 (Gp:) 3

Propuesto para H.263 y MPEG-4.

Estimación de movimiento: Otras consideraciones. Estimación de movimiento con fracciones de pixel Se basa en realizar la estimación de movimiento con mayor precisión, ya que a veces el movimiento real no se ajusta a desplazamientos de píxel enteros. Half-Pixel motion estimation Se obtiene un imagen de mayor resolución interpolando un punto de la imagen entre cada dos píxeles.

(Gp:) A (Gp:) A (Gp:) A (Gp:) c (Gp:) b (Gp:) A (Gp:) A (Gp:) A (Gp:) A (Gp:) A (Gp:) A (Gp:) c (Gp:) c (Gp:) d (Gp:) b (Gp:) b (Gp:) b (Gp:) b (Gp:) b (Gp:) d (Gp:) c (Gp:) c (Gp:) c (Gp:) d (Gp:) d

A: Píxeles reales (Enteros) b,c,d: Píxeles interpolados. Las flechas indican la dirección de interpolación. Se incrementan notablemente las prestaciones del algoritmo de estimación de movimiento a expensas de un mayor coste computacional. H.263 utiliza está técnica, incluso se propone utilizar ¼ y 1/8 de píxel para el estándar H.264

Estimación de movimiento: Mejoras propuestas. Vectores de movimiento fuera del cuadro de referencia. Para estimar correctamente el movimiento que se produce en los bordes del cuadro. Tamaño de bloque variable. Para realizar estimación de movimiento más precisa. Se utiliza en H.263 (Anexo F) y H.264. Tamaños: 16×16;8×8;4×4;8×16;16×8…. OBMC (Overlapped Block Motion Compensation) Objetivo: Suavizar los efectos de “blocking” que aparecen en los bordes de los macrobloques. Incremento significativo del coste computacional. H.263 recomiendo utilizar filtros de salida (deblocking filters) que realizan esta operación a un coste computacional muy inferior. Modelos de estimación más complejos: Region-based, Picture Warping, Mesh-based, Object-based…

3.3 Estándar MPEG. Conjunto de estándares ISO para la grabación y transmisión digital de audio y vídeo. En su evolución se han desarrollado varias versiones del estándar MPEG: MPEG-1 (ISO 11172) (‘91): CD-ROM vídeo (1,5 Mbps). MPEG-2 (ISO 13818) (‘93): TV Broadcast (4-6 Mbps). HDTV (25-34 Mbps). MPEG-4 (ISO 14496) (‘99): Originalmente: Videoconferencia (4,8 a 64 Kbps). Enfoque universal de tratamiento de elementos multimedia. MPEG-7 (00-?): Descripción de contenido multimedia (videodatabases) MPEG-21 (01-?): Uso transparente de contenido multimedia entre redes y usuarios heterogéneos.

Relación entre los estándares MPEG.

MPEG-1. MPEG-1 (ISO 11172) (‘91) MPEG-Vídeo (IS 11172-2) MPEG-Audio (IS 11172-3) MPEG-System (IS 11172-1): Multiplexado y sincronización. MPEG-Conformance Testing (IS 11172-4) Patrones de prueba, medida de calidad, etc MPEG-Software Coding (IS 11172-5) Directrices para la codificación de los algoritmos.

Propósito de MPEG-1 Almacenamiento en CD-ROM de audio (calidad CD) y vídeo (calidad VCR) sincronizado (1,5 Mbps).

MPEG-1 Características de MPEG-1: Resolución de imagen: 352x(288 ó 240) (PAL/NTSC). Reducción de color (sub-sampling): 4:2:0. Barrido progresivo (no entrelazado). Tasa de cuadros: 25/30 (PAL/NTSC). Incluye cuadros de tipo D (DC-coded): Operaciones de avance rápido (Fast Forward). Codificador/decodificador asimétrico. (Gp:) Audio encoder (Gp:) Vídeo encoder (Gp:) System Mux. (Gp:) Reloj (Gp:) Salida MPEG-1

Tasa de compresión: 27:1. Los codificadores de audio y vídeo trabajan por separado. Utilizan un reloj común para establecer el tiempo de cada una de sus capturas (system).

MPEG-2 Conjunto de estándares ISO 13818 (‘93). Propósito: Mejorar la calidad de imagen respecto al anterior sin incrementar excesivamente la tasa de bits requerida Calidad de vídeo profesional (studio-quality) y HDTV Aplicación: Difusión de señales de TV, HDTV, VOD La codificación/decodificación es muy similar a la de MPEG-1 salvo algunas diferencias: No se incluyen cuadros de tipo D. Permite bloques de 16×8 para vídeo entrelazado. Otras mejoras (permite DC de hasta 10 bits, cuantización no lineal, nuevas tablas VLC, escalabilidad SNR y multiresolución)

MPEG-2 Características de MPEG-2. Soporta barrido entrelazado y progresivo. Puede trabajar con distintas resoluciones (nivel): CIF: 352×288/240 (VCR quality) (Compatibilidad MPEG-1) Principal: 720×576/480 (studio-quality) High-1440: 1440×1152 (HDTV) High: 1920×1080 (HDTV) Define varios perfiles de implementación Detalles de los algoritmos de compresión y parámetros de imagen, barrido, etc. El multiplexado y sincronización es más general y flexible que MPEG-1 Se pueden multiplexar/sincronizar varias fuentes de audio, vídeo y datos (ej.: subtítulos en varios idiomas).

MPEG-4 Propósito: Diseño de aplicaciones multimedia interactivas distribuidas.

Aplicación: Televisión digital Compatibilidad con MPEG-2 (backware compatibility) Aplicaciones multimedia interactivas El usuario puede interaccionar con los objetos multimedia de la sesión. Distribución de información multimedia (tipo WWW) A través de una red, se permitirá el acceso y distribución a información multimedia, facilitando su diseño y presentación.

MPEG-4 Características: Accesibilidad de la información de manera universal y robusta. Alta interactividad con la información multimedia. Definición de escenarios virtuales compuestos por objetos independientes (AVOs). El usuario puede modificar/configurar el escenario actual. Codificación conjunta de datos sintéticos y reales. Codificación eficiente de la información. Mejoras en la compresión y multiplexación de la información. Codificación de objetos con forma irregular.