Si, tendrias que hacer un programa con estos pasos logicos:
1. Localizacion de ventanas que sean necesarias (editbox donde se pone el numero, boton para el calculo por ejemplo)
2. Envio de mensajes simulando la actividad del usuario a esas ventanas
3. Recoleccion del resultado en las ventanas correspondientes
Para el primer punto debes tener muy en claro los elementos del programa, yo hice una aplicacion que enumera las ventanas, busca alguno parecido. Despues buscarlo con FindWindow por ejemplo.
Para los otros puntos se usaria SendMessage.
De cualquier manera es probable que sea mas facil implementar las funciones matematicas ...