Hola:
No sé qué valor tiene weighty por defecto, pero ponlo a 1.0 por si acaso. De esta forma los "huecos" para el botón y la etiqueta se estirarán verticalmente.
El fill y anchor de la etiqueta deberían ser NONE y CENTER. Así la etiqueta no se agrandará dentro de su hueco y quedará centrada. Otra opción es la que tú tienes de fill=BOTH, pero entonces el JLabel se agranda con su hueco y debes poner en el jLabel los setAlignement() adecuados para que el texto salga centrado dentro del JLabel. Por defecto sale a la izquierda, creo.
anchor debería ser NORTHEAST para el botón, para que se vaya arriba a la derecha en su hueco. El fill del botón a NONE.
No lo he probado, pero inténtalo y si tienes problemas, cuenta cual es el resultado y trataré de ponerte aquí el código. Por si te sirve de ayuda, aquí tienes un pequeño
tutorial sobre el GridBagLayout.
Se bueno.