Efecto se llama Mouseover de fuego y animación... X-)
Ha de llamarse Fluid simulator.
Y la tecnología usada es... Javascript. Lo que desafortunadamente es peor respuesta de la que esperabas.
Puedes buscar Fluid simulation Javascript
:
https://www.google.com.mx/search?q=f...ion+Javascript
Hay varias librerías.
Si revisas el código fuente está usando una llamada GLFluid.js
La respuesta más a fondo la desconozco. ¿Cual más a fondo? Debe de estar usando Canvas, lo cual se manipula usando JavaScript, y probablemente esté usando cosas como WebGL (Revisando el código, lo confirmo) o cosas así para usar la aceleración de gráficos... todo eso que desconozco totalmente en realidad, así que te tendrás que conformar con: JavaScript.