Para transformar una cadena en un numero utilizando una base numerica especifica puedes utilizar
Byte.parseByte
Pero byte no te serviria para transformar 0xFF. El tipo primitivo byte de Java acepta un byte con signo. Eso significa que los valores van desde -128 hasta 127. Si tratas de transformar 0xFF a byte te va a causar una exception
Primitive Data Types
Tendrias que utilizar
Integer.parseInt