yo lo tengo asi
Private Declare Function ShellExecute Lib "shell32.dll" Alias "ShellExecuteA" (ByVal hwnd As Long, ByVal lpOperation As String, ByVal lpFile As String, ByVal lpParameters As String, ByVal lpDirectory As String, ByVal nShowCmd As Long) As Long
y luego
archivo = ShellExecute(Me.hwnd, "Open", App.Path & "\ayuda.chm", "", "", 1)
donde [ App.Path & "\ayuda.chm" ] seria el archivo a abrir.
Eso seria para abrir cualquier archivo, no se si existe algun comando especifico para abrir ayuda...
Como lo tienes tu?