calichecal ( o a quien este interesado en este tema ) te dejo un enlace de un tutorial excelente que te da el código para crear la base de datos y una tabla ( luego tu modificando el código puedes crearte la tabla o tablas que necesites), también te dice como hacer insert en la tabla de la base de datos y como consultar los resultados.
http://rchavarria.wordpress.com/2010/06/24/usar-apache-derby-como-base-de-datos
Lo único que no te pone es el código que tendrías que poner una vez quieras dejar de usar la base de datos, que seria el siguiente:
Código:
DriverManager.getConnection("jdbc:derby:;shutdown=true");
Si no lo pones la base de datos crea un archivo de bloqueo porque detecta que se a salido inesperadamente del programa.
Solo te faltaría el como borrar tablas o registros de una tabla. Solo tendrías que modificar el código sql que se ejecuta en el insert, DELETE para registro y DROP para tabla, si no tienes mucha idea de sql mírate algún manual.