Probé tu código y me funciona bien:
    
Código vb:
Ver original- cmbCategoria.AddItem "A1" 
- cmbCategoria.AddItem "A2" 
- cmbCategoria.AddItem "A3" 
- cmbCategoria.AddItem "A4" 
- cmbCategoria.AddItem "A5" 
-   
- cmbCategoria.ListIndex = 4 
Teniendo en cuenta que se comienza a contar desde el 0, aparece seleccionado "A5". Debes tener el problema en otro lado.