Hola
Hay varias formas de hacer eso, te voy a explicar 2 usando jquery
1. Usas jquery con el plugin jframe
http://garage.pimentech.net/scripts_doc_jquery_jframe/ esto emula un iframe usando ajax
2. Haces que jquery invoque un script php y muestre el resultado en un div bien sea usando un link o con un formulario, como puedes ver
aqui y
aqui