Tienes que escapar las comillas doble del alert de javascript, del form y del input ya que estas tratando de usarlas en el echo de PHP
Código PHP:
<?php
echo "
<script type='javascript/text'>
function mensaje() {
alert(\"Esto es un mensaje de JavaScript\")
}
</script>
<FORM NAME=\"Formulario1\">
<INPUT TYPE=\"Button\" NAME=\"Boton1\" VALUE=\"Prueba\" onClick=\"mensaje()\">
</FORM>
";
?>