BUeno si hubiera sido el windows2000 seria normal lo que te ocurre.
CReo que lo mejor que puedes hacer es eliminar el modem de Panel de control -->Modems.
Verifica que el cable que conecta el modem con el ordenador esta bien conectado y en que puerto (Com1 o Com2).
Intenta descargarte desde esta pagina <a href='ir.asp?http://www.diamondmm.com/default.asp?menu=support&submenu=drivers' target='_blank'>http://www.diamondmm.com/default.asp?men...</a> los drivers actualizados para tu modelo de modem. El modelo en concreto de tu modem tiene que estar especificado o en su caja original o en alguna etiqueta suya (ejemplo SUP2380).
Busca en la web lso drivers para windows98 y los descargas. Los instalas y vuelve a instalar el modem. Acuerdate de seleccionar bien el puerto al que esta conectado el modem.
Espero que lo consigas, ...ánimo y suerte. ;)