Pues puedes hacer una consulta previa a la base de datos...
Código PHP:
$tal=mysql_query("select count(*) from tutabla where nombre=$nombre");
$cuantos=mysql_result($tal,0);
if ($cuantos>0){
//ERROR!!! Aqui muestras que ya existe, y que escoja otro nombre
} else {
//AQUI copias tu codigo para insertar...
}