Pues tendrías que especificar en la cabecera Content-Type (usando la función
header())que se trata de un archivo de Word. Creo que el tipo MIME es application/msword.
Si especificás que lo que estás mandando es un DOC, es probable que el navegador lo mande directamente al Word. Digo es probable porque siempre puede suceder que el navegador esté configurado para preguntar, o para descargarlo en vez de abrirlo, y esa configuración no se puede modificar con PHP.
Saludos.