Pásate por este enlace:
Best Open-Source Live Chat Applications
La mayoría de los chats usan AJAX con un tiempo de espera para buscar nuevos mensajes. Si la cantidad de tus visitantes es baja eso no representará problema, pero si tienes muchas visitas, entonces habrá que pensar en un chat que funcione con sockets, que no son fáciles de instalar si no tienes un servidor dedicado o, cuando menos, un VPS, aunque me reservo mis dudas con este último.