Lo primero, decirte que esto es más bien una consulta de mysql. Hay un foro muy hermoso para ello.
Lo segundo, yo lo pondría así:
Código:
SELECT * FROM categoriasimgs WHERE cat != '5' ORDER BY rand() LIMIT 1
Y lo tercero, te aconsejo que compruebes el resultado del mysql_query antes de seguir con la ejecución de tu programa.
Un saludo,