Bueno.. necesitas una combinacion de programacion y diseño CSS ..para poder colocar una capa exactamente donde quieres, esa "capa", la vas a llenar con AJAX... es decir, si llega un error despues de que validaste , ese mismo, va a hacer traido con ajax, pero mostrado con JS y CSS(para colocar la capa).
Empieza buscando manuales de AJAX.. es muy facil.
Y lo que mencionas que no quieres que ingrese datos si hubo un error.. pues es mas facil: puedes hacer una funcion que valide, y ya solo la mandas llamar
Código PHP:
function error()//le pasas tus parametros
{
//TODO , tu codigo
if(condicion)
return true;//en caso de error, despues de que validaste
else
return false;
}
Código PHP:
if(!error){
//TODO tu codigo // introduces a DB/////
}
else{
print "error";//por ejemplo
}