Hola!
Una de las diferencias más importantes, creo yo, es la siguiente:
Código PHP:
$variable = "Cielo";
// El Cielo es azul
echo "El $variable es azul";
// El $variable es azul
echo 'El $variable es azul';
Lo que hacen las comillas dobles es reemplazar las variables por su valor. En cambio las comillas simples no leen el valor, solo entregan texto plano.
Creo que existen más diferencias, pero para mi ésta es la que más peso tiene.
saludos,!
tuky.-