Muy simple. Cuando usas comillas dobles para encerrar cadenas de texto, las que estan dentro tienes que "escaparlas" para q el interprete de PHP no se crea que ha terminado el string:
Código PHP:
echo "Hola \"Mundo\"";
escupe Hola "Mundo".
Idem cuando usas comillas simples para encerrar cadenas de texto, solo tendras que escapar las simples en este caso. Todos deberiamos usar comillas simples para encerrar cadenas de caracteres por cierto.
Por cierto, los atributos de las etiquetas (x)HTML van encerrados entre comillas dobles. Cualquier otra forma es incorrecta. :)