Ese es el valor de retorno de la funcion SendMessageA de cualquier manera no te devuelve una String de VB sino una cadena de caracteres (array de bytes) para lo que queres obtener.
¿Como lo hace? Cuando llamas a SendMessageA el segundo parametro (Msg) siendo WM_GETTEXT el tercero debe ser el tamaño del array (en bytes) y el cuarto el puntero a la direccion del array donde copiar los datos.
PD. El valor de retorno es en el caso de WM_GETTEXT el numero de caracteres que copio en la cadena.
Para mas informacion la Biblia (MSDN):
http://msdn.microsoft.com/library/en...wm_gettext.asp