Imagen bajo mascara pierde calidad

[Bandit]

Hola AliciaM:
Bienvenida al Foro.
Una imagen no tiene porque dejar de ser nítida, por el simple hecho de ponerle una máscara.
La máscara no es otra cosa que una ventana por donde dejará verse la imagen y eso de que el relleno de color de la máscara esté en alpha menor que 100% nada tiene que hacer.
Vamos con un ejemplo de como poner una máscara a una imagen:
En la capa 1 frame 1 coloca una imagen.
En la capa 2 frame 1 dibuja un rectángulo o la figura geométrica que más te guste con cualquier color de relleno encima de la imagen, haces clic en la capa 2 con el botón derecho y en la ventana que aparece le das a: Máscara.

Espero haberte sido de ayuda.