Hola t-udis,
La diferencia mas notoria es que si hay variables en tu cadena y usas "", PHP evalúa el contenido de las variables, y si usas '' deja la variable como esta.
Código PHP:
$nombre = "Juan";
echo "Hola $nombre"; // imprime Hola Juan
echo 'Hola $nombre'; // imprime Hola $nombre
Saludos.