Lo que tu estas utilizando es una función, por tanto te sobra el $, lo correcto es usarlo de esta manera:
$host =gethostbyaddr($_SERVER['REMOTE_ADDR']);
como se menciona en el manual...
http://mx2.php.net/manual/en/function.gethostbyaddr.php
SAludos!