No, la extensión mssql no es para windows sólo .. también sirve (su versión) para Linux .. Lo que si que necesitas en el equipo Linux que va a correr esa extensión (tu servicio de hosting actual) es que tengan instalados un "TDS" como por ejemplo:
www.freetds.org
Y todo esto (la extensión para PHP mssql que le proporciona el juego de funciones "mssql_xxx()" a PHP y el "TDS" que permite la conexión remota Linux->Windows (M$ SQL Server)) tiene que proporcionartelo tu proveedor de hosting = Debes consultar a ellos. (tu no puedes instalar nada .. ¿a no ser que tengas contratado un housing o servidor dedicado?)
Un saludo,