Hola.
Como bien mencionas. Por cuestiones de seguridad, no puedes ejecutar ejecutables en navegadores (a menos que le den permisos, y aun asi, se ejecutaria del lado del cliente (ignorando la estructura de carpetas y librerias que tenga en el servidor).
Una opcion, similar a RDP, pero sin necesidad de requerir iniciar sesion, seria que utilices un servidor de VNC, y los clientes empleen un cliente web de VNC:
https://www.realvnc.com/es/news/cont...r-web-browser/
Lo ideal seria, que migres dicha aplicacion a web. ¿En que lenguaje esta desarrollada dicha aplicacion?.
Saludos.