Sería algo así ..
Código PHP:
ini_set("SMTP","mail.noseISPtuyo.tal");
Pero, asegurate que tu ISP (tu proveedor que te proporciona el SMTP) no requiera autentificación .. mail() de PHP NO autentifica (no puede directamente) ..
Si osCommerce no tiene su própia classe/plug-ing o "parche" que pueda usar SMTP con autentificación .. mejor cambiate de servicio de hosting ... o de aplicación ...
Un saludo,
pd: Cuando te hablen de una función de php .. Acude a
www.php.net y busca ahí priméro .. Y si hablan de SMTP y mails .. pues ahí mismo encontraras esas directivas y toda la explicación que te acabo de dar.