Hola , ya lo he solucionado
necesitaba poner el safe mode en Off del php ini
y poner unas variables antes de ejecutar el ffmpeg en el exec del php
Código PHP:
exec('export TMPDIR=/home/dominio/tmp;
export PATH=/home/dominio/bin;
export LD_LIBRARY_PATH=/home/dominio/lib;
export LIBRARY_PATH=/home/dominio/lib;
export CPATH=/home/dominio/include/:home/dominio/include/lame/; /home/animalita/bin/ffmpeg 2>&1 -i /home/dominio/animalita.cl/videos/'.$archivo_random_extension.' -ab 56 -ar 22050 -b 500 -r 15 -s 320x240 /home/dominio/dominio.cl/videos/'.$archivoFlv_final,$res); ?>
estas variables export que uso son porque el ffmpeg lo tengo instalado en un shared hosting como es dreamhost
Saludos, ojala que a alguien le sirva