Es que no se puede como imaginas, ¿que parte no entiendes tu?
Además piensa un poco, cualquier modulo de Apache (que no tiene relación con PHP) podría ser maligno si alguien de cualquier forma introduce código malicioso que haga uso de el.
Así que siendo o no una extensión de PHP (eso si corresponde a PHP) los peligros son los mismos, si no tienes seguridad todo es posible.
Entiende que un palo no te hace daño, amenos que te golpees con él.
Por donde lo quieras ver debes usar FFMPEG, y usar exec() es lo que hay, no más.