Lo siento no doy códigos hechos. El problema que tienes es que estas comparando directamente la variable $result con $_POST['nick'], lo que debes de hacer es un simple mysql_num_rows para ver si hay más de una fila, en cuyo caso es que el nick existe.
ej:
Código PHP:
Ver originalif (mysql_num_rows($result) > 0) {
echo "error nick existe";
}
Saludos.