Bueno, para empezar, en el código donde estás cargando en el ListView los datos, deberías poner algo como esto (suponiendo que el nuevo elemento lo asignaste a una variable llamada Item):
Código PHP:
Item.Tag = "NO-DELETABLE"
Luego en el código que utilizas para eliminar coloca esto:
Código PHP:
If .SelectedItem.Tag = "NO-DELETABLE" Then
MsgBox "No se puede eliminar", vbCritical
Else
' Código para eliminar '
End If