Como tu dices que gestionas ya un sistema de usuarios con su respectivo "login" .. y esa es la "puerta" por donde todos pasan, en ese script que valida tu usuario puedes usar un "flag" (bandera) que determine que ya otro usuario hizo login y no permitir nuevos "login" hasta que el primer usuario salga del sistema.
Se trataría de que al hacer "login" tu usuario en tu BBDD para ese usuario le coloques un "1" por ejemplo .. así para próximos login (en general con todo login) verificas que el par usuario/contraseña sea correcto .. pero también que ese "online" (campo estado, flag ... como lo quieras llamar) tenga un "0" para permitir nuevos "login". El problema vendrá cuando el usuario no salga por la "salida" de tu sistema, en esos casos se tendría que usar las técnicas de "tiempo de inactividad" para determinar o considerar por "tiempo" si el usuario está en el sistema o ya se considera que no lo está.
Revisa este tema .. se hicieron y propusieron algunas alternativas:
http://www.forosdelweb.com/f18/aporte-permitir-solo-1-instancia-usuario-369361/
Un saludo,