Para que VB6 pueda usar las funciones de una DLL compilada con C/C++ estas deberan usar la convencion de llamadas 
_stdcall. Un ejemplo sacado de 
aqui: 
 Cita:  #include "Windows.h"
 
 //Prototipo de la funcion:
        short _stdcall Multiply(short Num1, short Num2);
 
 //Codigo de la funcion:
        short _stdcall Multiply(short Num1, short Num2)
        {
        return Num1*Num2;
        }
    
Salu2...