Estimado,
Ese problema que has visto en DNSReport, no tiene nada que ver con el servicio de Mails, sino con una posible explotación del servicio DNS por medio de un ataque DOS. En tu caso, puedes llegar a ser víctima de este tipo de ataque ya que tienes configurado el servidor de nombres con recursividad abierta.
Más información para evitar esta vulnerabilidad.
Respecto al problema del e-mail, como ves dice "550 Command rejected for policy reasons.", creo que la IP de tu server, esta listada en alguna lista RBL. Si este fuese tu caso, Hotmail podria estar denegando recibir correos desde tu server.
Para saber si estas en listas RBL, puedes revisar tu IP en el Spam Database Lookup de
www.dnsstuff.com, y ahi mismo te dara el enlace a las bases de datos para que puedas tratar de removerte.
Un saludo!