Busca en el foro... ya se ha tratado.
Básicamente es que primero busques el nick que se quiere ingresar como nuevo, ejecutas tu función mysql_num_rows() y creas una condicianal (un if) ... num_rows te devuelve el número de resultados, por lo que si éste es diferente de 0 el nick ya existe... ó es 0 si no existe... depende de cómo quieras trabajarlo... Suerte!