conseguir esto con photoshop ( es simple )

[valentina4you]

Qiero acotar algo.. no todo es automático en la vida. Este tipo de efectos es más cuestión de dibujo que de "filtros o efectos". Puedes hacerlo perfectamente por medio de una selección ese triángulo que tanto dices que no consigues. Puedes tomar la pluma realizar el trazo con la curva deseada y luego convertir a selección pintar y de ahí trabajar las luces y sombras.