Es una muy buena pregunta, lamentablemente creo que nadie por aca tiene aun esa respuesta...
Sin embargo si bien, puede que no alla limite de tiempo, si exieten limites de conexiones simultaneas a la base de datos, por ende, si muchos hilos se tratan de conectar a un mismo tiempo o mienstras existan muchas otras conexiones abiertas lo mas probable es que el servidor te empezara a rechazar dichas conexiones, por lo que no es muy recomendable habrir un nueva conexion por cada hilo.
Si lo haces de la otra forma, simpre usaras una misma conexion para hacer consultas a la base de datos y esto podria generarte un cuello de botella cuando muchos hilos esten tratando de hacer consultas sobre un mismo flujo...
En este momento no veo una respuesta clara a este tema, pero si pudieses explicar mejor que aplicacion estas desarrollando y como, y para que usas la base de datos y en que momento y kienes la deben consultar quiza podriamos aclarar un poco el panorama.
Es un bonito problema y lo interesante es solucionarlo
Saludos