lo pirmero que podrias hacer es con tu gestor de base de datos decir que determinados campos sean unicos. Lo otro seria ya con php hacer una consulta para chequear que el valor del campo pasado en el formulario no se exita en la bd y de existir puedas mostrar un mesajito de error
si pudieras decirnos que gestor db usas podriamos decirte como hacerlo.
en cuanto al codigo php, hay varias formas de hacerlo... pero lo basico seria hacer la consulta que busque por duplicados y con la funcion mysql_num_rows() recoger el total de registros que tiene la consulta, si te devuelve 0 es que no hay coincidencias y en ese caso realizas la insercion, de lo contrario muestras tu mensaje de error y no realizas la insersion.
Suerte