No entiendo muy bien lo que quieres... Supongo que deberías empezar por descubrir QUE puertos están abiertos y tratar de identificar protocolos usados por esos puertos...
Pero si lo que buscas es algo orientado a web, podrías empezar por aquí (muy buenas herramientas, pero mucho, varias de ellas):
http://sectools.org/web-scanners.html