Hola, prueba poniendole otro content type ...
Código PHP:
response.setContentType("application/octet-string");
response.setHeader("Content-Disposition", "attachment; filename=documento.pdf;");
PrintStream salida = new PrintStream(response.getOutputStream());
...
salida.write(bytes, 0, i);
...
salida.close();
A veces los browser ya te configuran para abrir un tipo de archivo por defecto. Y si le cambias de extensión?...