Es javascript más que java, por lo que el foro no es el correcto.
De todas formas, DataTable tiene un parámetro bServerSide que debes poner a true para indicarle al DataTable que no se tiene que traer todos los datos y la parte de la paginación se hace en el servidor, así sólo va al navegador una página de datos. Un ejemplo en la documentación
http://datatables.net/release-datata...rver_side.html
Se bueno.