Cita: La única "ventaja", es que nunca te devolverá más de un registro... y eso puede hacer que una aplicación sea un poco más segura.. o robusta..
Puede ser todo lo contrario, si lo que la consulta debe devolvers es más de un registro. Eso haría que el resultado pueda ser erróneo y genere colapsos en otros procesos por falta de integridad o consistencia, puede obtener registros equivocados (devuelve el primero según índices usados), y cuando luego la usas en volcados de datos masivos, los resultados pueden bien ser catastróficos.
LIMIT es una cláusula
para usar si y sólo si la necesitas. No es un comodín inocuo.