Las funciones mssql_xxx() vs mysql_xxx() no cambian mucho en su filosofía de uso .. pero si que cambia el SQL a emplear (fuera del "básico" o "standard" que todo RDBMS comparte).
Con respecto a la adaptación de "Autentificator" a MS SQL Server no será mucho problema ... Autentificator usa sentencias SQL muy básicas. De hecho el "gestor de usuarios" própio de Autentificator (donde administras tus usuarios) no usa ni "paginación" que sería donde tendrías los principales cambios drásticos; Mysql tiene su "LIMIT" y con el es sencillo implementar scripts de "paginado" .. SQL Server no tiene "LIMIT" .. usa "TOP" pero se usa de otra forma y para paginar se usan otras técnicas (creo que en las FAQ's de las últimas hay una sobre como paginar en MS SQL Server .. ).
Por lo demás .. te convendría ya empezar a usar lo que se llaman "Capas de abstración" de base de datos .. ya que tienes aplicaciones usando Mysql y otras que vas a usar otro RDBMS (como Mysql).
Algunos que puedes probar son:
ADOdb
http://adodb.sourceforge.net/
(tiene sus própios médios para paginar resultados sin tener que implementar SQL complejo .. de hecho esta es la virturd para hacer lo más independiente del Motor de BD que uses del código SQL a emplear y código PHP también)
ezSQL
http://www.jvmultimedia.com/home/topics.php?topicId=5
(tiene su própia classe anexa para paginación, pero no funciona con MS SQL Server .. sólo Mysql y Oracle :( )
Todos pueden acceder a MS SQL Server y Mysql (entre otros) .. así de esta forma tu desarrollas aplicaciones que eventualmente pueden funcionar sin apenas cambios con otro motor de BD.
Un saludo,