Debes de manejar las propiedades DialogResult de los botones y con las propiedades AcceptButton y CancelButton del formulario de busquedas, ademas debes de agregarle una propiedad al form en la cual te va a retornar el valor que estas buscando, resumiendo tendrias algo de este estilo
Código:
Dim frm As FormularioBuscar();
If frm.ShowDialog() = DialogResult.Ok Then
object abuscar = frm.ValorABuscar;
End If
PD. Normalmente trabajo con C#, asi que puedes encontrar algunos errores en la "traducción", pero la idea es esa, cualquier duda me mandas un MP