Primeramente, la forma como estás filtrando los números está incorrecta, así va a ser mejor:
Código:
Private Sub Text1_Change()
If Not IsNumeric(Text1) Then
Text1 = Text1.Tag
MsgBox "Ingrese solo numeros", vbCritical, "Numeros"
Else
Text1.Tag = Text1
End If
End Sub
Y en el KeyPress solo colocas el KeyAscii 13 para filtrar el Enter y KeyAscii 9 para anular el Tab.... nos vemos