algo como esto:
Código PHP:
<?php
echo '<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">';
echo '<html>';
echo '<head>';
echo '<title>Probando cosas</title>';
echo '<script type="text/javascript">';
echo 'function pregunta() { if(confirm("Esta seguro?")) document.location.href="delete.php"; }';
echo '</script>';
echo '</head>';
echo '<body>';
echo "<a href='#' OnClick='pregunta(); return false;'>Borrar</a>";
echo '</body>';
echo '</html>';
?>