Para una persona que tenga años, y me refiero años de experiencia, esto de la copa es una pesadilla. Si no tienes experiencia, te recomiendo que hables con tu cliente y le digas que no se puede.
Básicamente no es una cuestión de transparencia y máscaras, es un problema de simular la refracción del fondo en el vidrio de la copa, y quizá algunos reflejos.
Con un fondo liso de color a otro color bastará con girar el matiz, pero con una foto...
Otra alternativa, pero igual de complicada si no tienes la experiencia es generar una copa en 3D... pero tampoco es cosa sencilla, repito sin experiencia.