Supongo que es un reproductor que admite archivos AVI ¿cierto?
Primero instalate el AC3 ACM:
http://fcchandler.home.comcast.net/AC3ACM/ (extrae todos ficheros a una carpeta cualquiera, haz clic con el botón derecho sobre el .inf y elige instalar).
En virtualdubmod, abre el vídeo AVI, ve a Streams -> Stream list, selecciona la pista de audio con el botón derecho y marca "Full processing mode". Luego da a Save WAV y guárdala como WAV.
Una vez tienes el WAV, conviértelo a MP3 con tu conversor de audio preferido, hay cientos...
Cuando tengas el mp3, vuelve al Streams -> Stream list de virtualdubmod, haz doble clic en el audio AC3 para deshabilitarlo y añade (Add) el MP3 (si te sale un aviso de audio VBR stream detected dale a NO). Luego ve al menú video y marca direct stream copy. Finalmente a File -> Save as... y lo guardas (pon otro nombre para no sobreescribir el original).
Espero que te sirva