Hola:
Los "files" solo pueden enviarse desde un formulario con el método y el enctype que tienes, pero si quieres que se realice en un popup, debes usar un target y abrir el popup antes (Mira este artículo:
Formularios y enlaces dirigidos a ventanas
Si a la vez quieres enlazar, debes tener cuidado de hacerlo después de enviar el formulario. Puedes hacerlo con el método open, desde el evento onclick del botón (por ejemplo) y darle como destino "_self" si quieres que se abra en la ventana activa, u otro nombre si quieres que sea un popup (por ejemplo "_blank")
Saludos
