Cita: no se por donde empezar.....
1) Estudiando.
2) Razonando.
Lo que te piden es un algoritmo, que por definición es una secuencia ordenada de pasos para realizar una tarea o proceso. Es una parte previa a programación, por lo que más que venir a preguntar a este foro, lo que tienes que haces es sentarte con papel y lapiz y pensar cómo harías tu para dar el vuelto a un cliente si tuvieses todas ese tipo de monedas disponibles.
El ejercicio que te piden resolver es un ejercicio elemental de algoritmia, y requere sólo razonar. Y eso lo tienes que hacer tu, el razonamiento no se puede prestar. Es una capacidad personal.
Si no puedes razonar un algoritmo básico, programar es una ficción incumplible.