Domina de donde biene, ej:
Teniendo pagina 1 y 2, en pagina 1 declara la pagina que se ve con php_self y , la guardas en una session o cookie, y en pagina dos, levantas ese valor, y lo metes en el link. EJ, usando sessiones, en pagina 1 pones:
$_SESSION['history'] = $_SERVER['PHP_SELF'];
if(isset($_SERVER['QUERY_STRING'])) $_SESSION['history'] .= '?'.$_SERVER['QUERY_STRING'];
En pagina 2, pones:
<a href="<?php echo isset($_SESSION['history']) ? $_SESSION['history'] 'index.php';?>">Back</a>