En la BD tendrás un campo tipo Clob o Blob en la que estará el contenido del PDF, word, excel.
No recomiendo obtener lo que llamas "imagen del archivo", más que nada porque tendrías que embeber el archivo en la aplicación (tipo slideshare).
Si tal lo que puedes obtener es el tipo de documento y mostrar una imagen genérica que simbolice el pdf, doc o xls (mira el ejemplo de coquette:
http://a.dryicons.com/images/icon_se...8/xls_file.png ).
Al pinchar en esa imagen llamarias a otro metodo aparte que con el id del documento, sacase el content del clob o blob correspondiente de BD, lo convirtiese a un array de bytes (byte[]) y generase el documento con sus correspondientes metadatos.