Si tienes acceso desde la web lo puedes borrar, desde outlook no. Hay un cliente de correo que es el Incredimail Premium que si tiene esta opción, pero no es gratuito. Con él puedes ver tus email en el servidor, así como su tamaño y asunto y si lo deseas lo descargas o lo borras directamente allí.
Saludos
