Si lo que quieres es solo verificar que escriban un "." sería asi:
Código:
<html>
<head>
<script language="JavaScript">
function validaArchivo(){
if (document.formulario.nombre.value == "")
alert("Debe escribir el nombre del archivo");
else
if (document.formulario.nombre.value.indexOf(".") == -1)
alert("Debe especificar la extensión del archivo");
}
</script>
</head>
<body>
<form name="formulario">
<table>
<tr>
<td align="right">
Nombre del archivo:
</td>
</tr>
<tr>
<td>
<input type="text" name="nombre">
</td>
</tr>
<tr>
<td colspan="2">
<input type="button" name="listo" value="Validar" onclick="validaArchivo()">
</td>
</tr>
</table>
</form>
</body>
</html>
Saludos