JSP no es más que una forma de integrar HTML con java, así que lo que tienes que buscar es qué componente de HTML se adapte a lo que buscas.
Puedes probrar con esto
http://www.html5rocks.com/es/tutorials/file/dndfiles/
Lo del JFileChooser olvidate, eso es de aplicaciones de escritorio, tú estás en web .