Lo que necesitas indicar un archivo PHP que contenga al principio uno o varios headers indicando que tipo de información vas a enviar al navegador. Tienes que indicar que el código que enviaras es binario, que tipo de extensión es e imprimir en los datos binarios. El navegador entenderá lo que le estás enviando por causa de los headers.
Mira en el manual de PHP el ejemplo de lo que hacen con el PDF y algo así es que tienes que hacer con los archivos que quieres que visualizen.