podrías guardar los nombres en una BBDD, y a partir de una función que te genere una nº aleatorio (int rand ([ int $min ], int $max ) elegir los archivos que quieras.
ver
http://us.php.net/rand
$aleatorio = rand(0,numArchivos-5);
$sql="select nombreArchivo from directorio limit $aleatorio, 5";
si quieres que sean los cinco aleatorios (no seguidos) realiza 5 rand() y comprueba que no se repitan.
$aleatorioX = rand(0,numArchivos);
$sql= "select nombreArchivo from directorio where id=$alatorio1 OR id=$aleatorio2...;(me parece que mysql no acepta el comando IN, si lo acepta: where id in ($aleatorio1, $aleatorio2...)