Este error está ocurriendo porque tus datos no siguen el formato dd.mm.yyyy que comentas, seguramente tienes algo como esto en alguno de los registros "01.13.2010". Esto es un error, pues no se puede asignar un mes 13 a una fecha.
Aquí depende de qué quieras hacer con los varchar que no sigan con el formato de fecha, tienes dos opciones, primero sería corregir aquellos registros erroneos o simplemente filtrar estos registros. Puedes hacer esto:
Código:
SET LANGUAGE Spanish
SELECT * FROM TuTabla T1
WHERE ISDATE(REPLACE(T1.col_fecha, '.', '/')) = 0
esto te regresará todos los registros que no cumplan con el formato de fecha dd.mm.yyyy, para que hagas las modificaciones pertinentes.
Saludos
Leo.