creo que se a lo que te refieres...
algo como lo que tiene esta web:
http://web.rcarcamonster.com/ en el login y contraseña...
Para hacer eso no hace falta lo que propones... simplemente en el css del input le pones un background que es el icono y le pones un margin que sea suficiente como para que no escribas encima...
Saludos!