Photoshop - Convertir 1 color de una capa a transparente

[Blade_Stom]

ya pero como hago eso... porque yo tengo una capa que es como un rectangulo. Dicho rectangulo tiene los bordes mas o menos decorados como si fuera un marco de fotos. y lo de dentro de dicho rectangulo kiero que sea transparente. Como divido o hago ese color transparente?

Saludos