Hola... mira.. no te ejecuta el replace puesto que estas mandando a llamar el contenido de tu recordset.. mas no de la variable
Cita: Response.Write ""&RS("mensaje")&""%>
intenta esto:
comenta = Replace(rs("mensaje"),":)","<img src=imagen.gif>")
comenta = Replace(comenta,";)","<img src=imagen1.gif>")
comenta = Replace(comenta,":)","<img src=imagen2.gif>")
response.write comenta
Saludos