que tal,
el stencil buffer es un buffer que se tiene para manejar el valor de los pixeles.
Esta tecnica generalmente es aplicada para generar Sombras y Reflecciones en aplicaciones en 3D.
En la pagina de nehe puedes encontrar unos tutoriales para crear reflexiones y sombras usando esta tecnica. Hacerlo no es tan sencillo y se requieren un conocimiento de todas las funciones basicas de opengl para que lo puedas entender bien.
La direccion exacta de los tutoriales es esta:
http://nehe.gamedev.net/lesson.asp?index=06
espero te sirva.....
saludos,