Exacto, para poder conectar con una base de datos desde Java necesitas el driver JDBC correpondiente. El driver JDBC para MySQL lo puedes encontrar en
www.mysql.com en la sona de descargas>conectores, el driver debe ser el Connector/J JDBC Driver para Java.
Con ello te descragaras un .zip con muchos archivos dentro, de los cuales nos interesan solo un par con extencion .jar que con los drivers, estos drivers para una aplicacion web, debes dejarlo en la carpeta WEB-INF/lib de tu aplicacion web y eso es todo.
Saludos