Hacer ese tipo de comunicaciones no es algo tribial, para esto existen cosas como CORBA, pero deberias hacer todos un estudio hacerca de como funciona esta API, por lo demas lo mas seguro es que tengas k modificar el programa externo para que tambien se comunique con CORBA, por lo que si no tienes los fuentes para compilar pues ya estas en un lio.
Si el programa externo es capas de recibir parametros de entrada del modo
Código PHP:
programa.exe param1 param2 paramX
puedes tratar de hacer algo como lo que intentas.