Hola
El DOCTYPE (en mayúscula) como su nombre deja entrever, es una indicación del tipo de documento. Puede ser xhtml o html, en ambos casos tenemos diversas versiones a escoger, por ejemplo: html 2, html 3.2, html 4.01... si escogemos usar html 4.01 tendremos que escoger entre los tres tipos definidos: estricto, transicional, o para marcos.
En otras palabras, al escribir un documento web debemos indicar: el lenguaje utilizado, la versión del lenguaje y el tipo (en el caso de que halla varios)
Son muchas las combinaciones posibles, El DOCTYPE indica cual es la usada en un documento.
¿Cuando usarlo? Siempre, al principio del documento
¿Una "referencia donde poder aprender más"?
Aquí tienes la referencia máxima sobre html 4.01 y
aqui todas las demás.