Bueno,
Mi tarjeta es intel 915 y tengo el mismo problema.
El tema de que compiz funciona lento con EXA es un BUG importante todavía abierto:
http://bugs.debian.org/compiz
Ahora, mientras se arregla, se puede usar XAA (Option "AccelMethod" "XAA"), tal como ya lo haces, o bien no usar compiz.
Ahora si usas compiz con XAA, para que funcionen los reproductores de video, debes setearlos para que usen la salida de video adecuada:
1. Para gstreamer debes escribir en consola: gstreamer-properties, y elegir en la pestaña video, en Salida predeterminada->complemento, la opción X-Windows System (Sin Xv).
2. Para VLC debes ir a opciones->video->modulos de salida, y habilitar abajo "opciones avanzadas". entoces podrás elegir en Modulo de Salida de Video la opcion ""Salida de vídeo X11"" en vez de ""Por Defecto"".
Ahora, hay que notar que la calidad de video es algo menor. Yo uso Gstreamer mientras tengo compiz activado, pero cuando quiero ver una pelicula desactivo compiz y uso VLC con la salida de video "Por Defecto" (VLC se cae al tener compiz activado si no se usa X11).
Cabe notar que ubuntu 8.04.1 tiene un problema similar, compiz usa EXA, pero no funciona lento. Sin embargo el video funciona pero a veces se traba y congela el equipo obligando a reiniciar (con ALT+ImprPant REISUB). Esto se arregla usando las salidas de video que funcionan en lennyconcompiz, además de no ver esos feos bordes azules.
Este ejemplo es muy bueno para ilustrar las diferencias de filosofía entre Ubuntu y Debian, mientras en Ubuntu encontraron una solucion al BUGde compiz con EXA que no funciona perfecto, pues crea problemas con otras cosas en algunos hardwares, en Debian seguirá el BUG abierto hasta encontrar la solucion perfecta, y que los usuarios tengan que no usar los paquetes, o probar otras configuraciones por mientras.