Tienes que abrir la consola del servidor dns, abres el servidor y te pones encima de zona de bsuqueda inversa y pulsas el botón derecho sobre ella y selecciona la opción Crear nueva zona. Te mandara que le pongas que rando de ip estas usando en la red, lo pones. siguiente dejas todo por defecto y aceptas todo.
Al final se te creará la zona de busqueda inversa, ahora lo que tienes es que crear un registro ptr al servidor. Te pedirá que direccio ip tiene asignada la máquina cual es su nombre dns aunque tienes un boton para explorar el servidor dns y seleccionarlo.
Puedes seguir mejor los pasos desde este
genial manual de configuración de un dns en windows server.
Un saludo.
P.D: otra pregunta, ¿has configurado los reenviadores en el servidor dns? porque en la configuracion tcp/ip del servidor solo tiene que estar como servidor dns primario su direccion ip, nada mas. Los dns del ips los tienes que configurar como reenviadores en el servidor dns, en el manual que te he puesto antes lo explica como configurarlos.