por google apps me imagino te refieres específicamente a Gmail, ahora con el Thunderbird...
menú Herramientas - Configuración de las cuentas... - Configuración del servidor
desactivar la opción
[_] Dejar los mensajes en el servidor.
en el Gmail...
Configuración - Reenvío y Correo POP/IMAP - Cuando se accede a los mensajes a través de POP - eliminar la copia de Gmail.
aunque me parece que esta opción igual deja una copia, de ser el caso, usa los filtros...
De:
[email protected]
[x] Suprimirlo
[x] Aplicar también filtro a las x conversaciones siguientes.