Hola:
Me he tomado la libertad de tocarte un poco el código, haciéndolo así mas corto para una sentencia de borrado.
A la vez creo haber corregido el fallo:
<%
' Recogemos el dato del anterior formulario.
NOMBRE = Request.Form("Idmensaje")
' Instanciamos y abrimos nuestro objeto conexion
' utilizando el
último driver de conexión
Set Conn = Server.CreateObject("ADODB.Connection")
Conn.Open "Provider=Microsoft.Jet.OLEDB.4.0; Data Source=" & Server.MapPath("./foro.mdb")
' Ahora ejecutamos el borrado.
Conn.Execute(" DELETE
* FROM discusion Where IdMensaje= ' "&
NOMBRE & " ' ")
Conn.Close
Set Conn = nothing
%>
<html><body>
<h1><div align="center">Registro Borrado</div></h1>
<div align="center"><a href="foro.asp">Visualizar el contenido de la base</a></div>
</BODY></HTML>
Prueba y avisame.
Espero haberte ayudado