Puedes probar un sistema ya hecho y ver como funciona:
Autentificator
http://php.cluster-web.com/autentificator
Ahí veras el uso de sesiones aplicado a este caso concreto: Autentificación y seguimiento de usuarios.
Lo importante es que conozcas que son las sesiones .. si tienes dudas "teóricas" al respecto: pregunta ...
Un saludo,