Hola,
Necesitas un Editor y un Renderer personalizado (Custom Renderer).
Revisa la información de Custom Renderer en el Tutorial de Java (Inglés),
http://java.sun.com/docs/books/tutor...nts/table.html
Aunque seleccionar un solo JRadioButton va a ser un poco complicado. Puesto que todas las filas de la tabla comparten el mismo Renderer, var a tener que implementar una lógica interna tuya para saber cual fila del JTable está seleccionada y cual no.
Saludos.