Lo que quieres hacer se le conoce como un "force download", y si se puede hacer, se logra modificando los headers del script PHP (que es por donde debes hacer la descarga, y no directamente del archivo txt). Los header son estos:
Código PHP:
header ("Cache-Control: must-revalidate, post-check=0, pre-check=0");
header ("Content-Type: application/octet-stream");
header ("Content-Length: " . filesize('archivo.txt'));
header ("Content-Disposition: attachment; filename=archivo.txt");
readfile("archivo.txt");
Suerte.