¿Al hacer click en el botón no está mostrando ningún mensaje en el Spy++?. Entonces significa que no estás obteniendo el hWnd correcto.
.
Lo del ByVal es código de Visual Basic, permite obligar instanciar la variable, ya que SendMessage trabaja con punteros.