Saludos
RedBaron tiene en cierta forma razón, ISA Server e IPTables son dos cosas muy distintas, la razón es sencilla Microsoft necesitó de un tanque de guerra para poder proteger una red Microsoft
(Lo siento no me aguante)
Si bien ISA Server es una solución más completa en cualquier distro decente Linux consigues la misma funcionalidad y con la ventaja de que ahorraras el dinero de las licencias, recursos del servidor y obtendras mayor control sobre lo que deseas que tu servidor haga.
Hoy en día se usa el termino Servidor de conexióno (o de seguridad) el cual puede incluir los siguientes servicios
DHCP
Gateway,Brigde o nat (te da un nivel extra de seguridad a nivel de protocolo)
Firewall
VPN
IDS (Intrussion Detection System)
Proxy
Todo esto salvo el IDS (que si usas snort es gratis y excelente ) viene incluido en cualquier distro y obtendrás un robusto sistema de seguridad que facilmente supera a ISA Server
Espero que esto te ayude
Atentamente
Guillermo Calvo