Hola,
al hacer la comparación a ti no te ha de importar la nueva hora final (solo has de comprobar que sea mayor que la nueva hora inicial). Lo importante es comprobar que lo nueva hora inicial no está comprendida entre dos horas (inicial y final) ya existentes. Por lo tanto como decia flacoluis un:
SELECT * FROM reservas WHERE hora BETWEEN #20:00:00# AND #23:59:59# and mesa='"&mesas&"'
deberia funcionar. Aunque si los campos donde tienes las horas son de tipo texto...no lo veo claro.
quizá tengas que jugar con transformaciones de datos...