Pues los mensajes de alert se tienen que seguir haciendo en JavaScript. Se entiende que sale una ventanita con el mensaje.
Sin JavaScript lo que podrás hacer con php será mostrar ese mensaje "Registro guardado" en la página, después de guardarlo, obviamente.
Lo que puedes hacer (no estoy seguro) para que pase lo que tú quieres es algo así:
si se guardó el registro:
En lugar de hacer:
Código PHP:
echo "Registro guardado";
Haces:
Código PHP:
echo "<script>alert('registro guardado')</script>"
Saludos
