Puedes hacer tú mismo un script PHP
Sobre protegerte.. Puedes crear una tabla en MySQL en el que almacenes la IP, intentos con sus respectivas fechas y bloqueo. Mediante las matemáticas puedes deducir en cuánto tiempo han pasado 5 intentos, si el tiempo excede 5 minutos (por ejemplo, minuto por intento), le pones la fecha del bloqueo a tu campo MySQL e impides el inicio de sesión con PHP. Ya después puedes otorgar el inicio de sesión si entre la fecha de bloqueo y la actual hay diferencia de 10+ minutos.
Ya está la idea, te toca el código
Saludos!