1- La funcion mysql_connect() solo
crea una conexion entre PHP y el motor de base de datos, no tiene absolutamente nada que ver con tu sistema de login
2- Una vez
establecida la conexion podras verificar si el usuario que intenta ingresar existe en la
tabla usuarios y que su contraseña (password) sea correcta.
Cita: Pero bueno, el tema es que si hago login con un usuario creado en la bbdd no hay problema
Asi como tienes configurado tu script te funciona unica y exclusivamente cuando el usuario en tu tabla es el mismo para conectar a MySQL, por lo que cualquier otro nombre de usuario en mysql_connect te dara ese mensaje de error.