Hola majony
Es asi de simple:
$consula= "Update usuario set nick='".$nick."' , passwd=md5('".$passwd."'), nivel=".$nivel." where id="$id;
Fijate bien:
1. el $password va dentro de comillas simples
2. el md5 esta dentro de la cadena (comillas dobles) y no afuera.
Yo lo he hecho asi y me ha funcionado,
Espero te sirva.
Saludos