Pués eso...
$_SERVER['PHP_SELF'] es PHP y para utilizarlo debe estar entre etiquetas PHP. Lo correcto sería:
Código PHP:
<form action='<?php echo $_SERVER['PHP_SELF']; ?>' method='get'>
www.php.net/language.basic-syntax
Si tu código lo mandas a imprimir con un echo ó similares (no lo indicas) entonces tu problema es que no escapas comillas. Lo correcto es:
Código PHP:
echo "<form action='".$_SERVER['PHP_SELF']."' method='get'>"; // usando comillas dobles ó
echo '<form action=\''.$_SERVER['PHP_SELF'].'\' method=\'get\'>'; // usando comillas simples
www.php.net/echo
... un buen tutorial y la documentación oficial lo explican mejor.
