No uso FindWindow para obtener el handle y si se que el primer parametro es el handle y el segundo como mostrar la ventana; así obtengo el handle:
Código vb:
Ver originalDim mHandle As Long = Nothing
Dim i As Process() = Process.GetProcessByName("proceso")
For Each x As Process In i
mHandle = i.MainWindowHandle
Exit For
Next