En mi opinión lo mejor que podrías hacer es ponerte a leer el código fuente de ese tipo de aplicaciones, te vendría bien mirar
http://www.minibb.net/ ó
http://bbpress.org/.
Saludos
PS. Justamente estoy desarrollando un pequeño foro como parte de un trabajo que tengo