Depende del S.O. que uses .. el salto de línea puede ser:
\n <-- Unix/Linux y otros ..
\r <-- windows
\r\n <-- Mac
(si no me equivoqué en el orden).
Si la función nl2br no hace lo esperado .. puedes hacer dos cosas:
1) usas srt_replace() sustituyendo los \n o \r o \r\n por tus <br />
2) usas print_r() en conjunto con <pre> y </pre>:
Código PHP:
echo "<pre>";
print_r(el resultado de tu system() ..)
echo "</pre>";
Un saludo,