La directiva session.gc_maxlifetime es la que determina cuanto tiempo es válida una sesión .. pasado ese tiempo pasa al estado "garbage" (en espera de ser borradas).
El proceso de "garbage" (recolección de la basura = borrar esos archivos) se incia por "porcentaje" de ejecuciones de session_start() lo cual lo define:
session.gc_probality (si lo escribí bien ..) y otra más (que ahora no recuerdo) ->
www.php.net/session esta todo ....
Ademas de esto .. sobre que Windows borre o no esos archivos hay un comentario al respecto en la documentación de PHP oficial sobre sesiones que se refiere al "nivel" (ramas de directorio) que estén esos archivos creados).
Un saludo,