en ese caso ya lo tienes solucionado.....
Código HTML:
<script>
function verifica()
{
if(document.test.nick.value == "cleider")
{
alert("1");
return false; //no se realiza el submit
}
.......
</script> si deseas un pop-up en otra pestaña del navegado, requeriras crea una pagina con la que llenar este pop-up.
yo creo que para lo que deseas hacer, tratando de mantenerlo lo mas simple posible, la mejor opcion es alert().
Saludos