Hola
daosorio!
Una manera de hacerlo, sería en la tabla de tu base de datos donde tienes todos los datos de los usuarios, agregues una columna que cumpla tal fin y que solo guarde valores(0 -> desconectado y 1 -> conectado), que cuando entren a tu página, cuando hace la consulta para ver si el usuarios y clave son correctos, si lo son que cambie el valor a 1 de esa columna, así vas a tener que usuarios estan en línea con una simple consulta
También tendrías que agregar una columna de tiempo, para establecer un límite de inactividad y así poder cambiar el valor de la columna a 0 (inactivo) para los usuarios que sobrepasaron dicho límite.
Un saludo!