Esto te puede servir lo encontre en este sitio:
http://www.elguille.info/colabora/pu...evinstance.htm
Código:
'Agregar todo el código en el formulario principal.
Shared Sub Main()
'Usamos la clase Process para sacar información de procesos en ejecución.
'Definimos una matríz de procesos
Dim MisProcesos() As Process
'Asignamos a la matríz todos los procesos en ejecución
'que tengan por nombre el de nuestra aplicación.
MisProcesos = Process.GetProcessesByName(Application.ProductName.ToString)
'MisProcesos.Length nunca es cero, porque
'este mismo proceso cuenta;
'por eso miramos si solo hay una coincidencia.
If MisProcesos.Length = 1 Then
'Ejecutamos nuestra aplicación
Application.Run(New Form1())
Else 'Hay más de un proceso ejecutandose
'MessageBox.Show("Ya se está ejecutando una instancia")
Application.Exit()
End If
End Sub