Guarda todo en los datos de los EditText en un Bundle. Luego cuando retornas al verificas si el Bundle pasado en por el metodo oncreate es null...si lo es mostras el formulario directamente, si no lo es, recuperas los datos almacenados en el Bundle y completas con el metodo setText() los Edit Text.
Dejo tutoriial simple:
http://www.intertech.com/Blog/saving...-state-part-1/