Hola:
jsp es java server page, o sea no es javascript... supongo que te refieres a javascript ya que has usado este foro.
Tampoco tengo claro lo de jquery, que es una librería javascript...
Para subir archivos simulando ajax (en realidad es una variante de ajax), es enviar un formulario a un iframe (oculto o no), y con Ajax nivel 2, mediante un objeto FormData... una referencia:
Subir archivos con Ajax.
Saludos
