El problema de la unicidad del nombre de usuario se resuelve en la base de datos.
ALTER TABLE usuarios
MODIFY usuario
VARCHAR(100) UNIQUE
Si ejecutas esto en el servidor de base de datos, la misma base de datos se encargará de verificar si ese nombre de usuario ya existe.
Estas verificaciones nunca deben hacerse por PHP, ya que la Base de Datos es mucho más eficiente en esta materia. Si se hace por PHP se está perdiendo tiempo y memoria, dos cosas de un inmenso valor en la informática.
Sobre tus consultas:
1) ¿como hago que en el formulario de registro al registrarse tengan que confirmar el mail y la contraseña?
Deberías enviarle un mail a esa persona, esto lo haces con la función
mail().
si haces esto, puedes crear el usuario y dar un password por defecto (desconocido por el usuario) y guardar en otra tabla, su nombre de usuario y el password que el te dio.
¿Para qué esto?
Así, si el usuario no confirma su mail, no podrá acceder al usuario, porque el password registrado no sería el que el tipeo.
¿Y cómo reestablecer su password?
EN el link que mandarás por correo, donde deberá acceder el usuario, puedes dar un argumento con el nombre de usuario (con algun tipo de encriptación por seguridad, te recomiendo MD5), así, cuando haga click, el PHP buscará a ese usuario en la tabla de respaldo, y cambiará el password creado por ti, por el password que el usuario te dio.
2) ¿Como hago que al terminar el registro se envie un mail a la casilla de correo de la persona que se registro para que confirme la cuenta?
Con la función mail()
3) ¿Como mostrar un mensaje a la persona si se registro correctamente y el mensaje de que se le envio un mail a su casilla de correo?
con un alert() de javascript puede ser una forma sencilla