Hola:
El GridLayout tiene todas las celdas iguales y no hay forma de modificarlas, se ajustan al ancho/alto disponible y se reparten por igual.
Tienes dos opciones
Una es añadir una columna adicional para esas fichas, pero estás limitado a 8 filas (igual que el resto del tablero) y serán del mismo tamaño que las casillas del tablero.
La otra es hacer algo un poco más complejo.
Haz el tablero en un JPanel con el GridLayout.
Al JFrame, dejando el BorderLayout que tiene por defecto, añádele en el CENTER el JPanel con el tablero y un lateral (WEST o EAST el que más te guste) otro JPanel que te hagas con las fichas para seleccionar. Aquí tienes algo del BorderLayout y de FlowLayout/BoxLayout que puede ayudarte para ese segundo panel con las fichas
http://www.chuidiang.com/java/layout/BorderLayout.php
Se bueno.