tendrias que usar un evento keypress, seria algo asi:
Código:
Private Sub DataGridView_KeyPress(keyascii As Integer)
If keyascii = 46 Then
'Aqui pones ti codigo donde le indicas que segun el row y la col
'seleccionada te elimine ese datos de la DB
End If
End Sub
el 46 si no estoy mal es el codigo ascii para la tecla sup.
Saludos.