1) .. Podrías poner algo más concreto sobre lo que ingresas y lo que obtienes como para intentar identificar el problema o que aplicar ..
En principio hay funciones como urlencode() .. stripslashes() .. utf8_decode() .. htmlspecialchars() y algunas más que podrían servirte (sólas o en conjunto).
2) Lo que usa este foro son "tag's" própios para indicar donde tendrá que aplicarse el HTML/Css/javacript correspondiente ante una cadena tipo [b ] esto sería en negrita [/ b] .. así lo interpretará para dejarlo en <b>esto sería en negrita</b> que sería HTML ..
Tienes otro tipo de editores completamente visuales para tal fin basados en DHTML (no en PHP) o en Java (applet Java) e incluso ActiveX para tal fin .. por ejemplo:
HTML Area
http://www.interactivetools.com/products/htmlarea/
Un saludo,
PD: Estos foros no son GNU/GPL (son de pago) .. así que las rutinas que veas en el como esa del "editor" puede ser o no de uso público y/o bajo licencia GNU/GPL o similares.