Lo que puedes hacer es asegurarte q estas tratando numeros y no strings
Código:
<script language="javascript">
function validaFilter () {
var lim = parseInt( document.form.limitMsg.value, 10);
var find = parseInt( document.form.findMsg.value, 10);
if (lim >= find) {
alert("El limite de mensajes no debe superar al N° de mensajes encontrados");
document.form.limitMsg.focus();
return false;
}
document.form.submit();
}
</script>