Hola:
La funcionalidad de ajax no es abrir páginas, sino actualizarlas dinámicamente con peticiones de datos del servidor. La única opción es usar un iframe (no deberías tenerle miedo)... además, es aconsejable evitar la dependencia de javascript -así son las páginas accesibles-...
La idea de ajax es evitar cargar páginas completas, cuando solo se necesitan pocos datos... como en paginaciones, algunas validaciones...
Saludos