Photoshop - Convertir 1 color de una capa a transparente

[pao01]

Blade_Stom
Como primera medida ayudaría ver la imágen que tenés para poder hablar en concreto.
Sin esto lo que se me ocurre en base a lo que imagino por tu descripción es lo siguiente:
duplicá la capa de la imágen como primera medida.
Dejá como no visible el background (fondo). En la capa duplicada podés hacer lo siguiente:
si es netamente un rectángulo como el que ocuparía una foto allí seleccionas con la herramienta de selección rectangular y le das en suprim.
Si en cambio no fuera un rectángulo y se tratara de una forma más compleja, pues seleccioná con el lazo y una vez seleccionada la forma a retirar >Supr. Caso contrario, podés trabajar con máscara de capa e ir retocando si te pasaras en los bordes lo que fuiste borrando.
Si luego quisieras que dentro del rectángulo se muestre una imágen, o bien colocás la imágen en una capa por debajo de ésta que estás trabajando, o si fuera un rectángulo sencillamente la ubicas en el lugar vaciado.

No entro más en detalle pues de cada uno de las cosas que te he enunciado en internet encontrás infinidad de tutoriales bien gráficos.
Así que si tenés duda sobre herramientas de recorte, herramientas de selección y máscara de capa vas a encontrar mucho material.