abres el management studio -> boton derecho sobre el servidor de base de datos->propiedades->Memory
y ahi viene un apartado en donde dice Maximum server memory y ahi le dices que tome un maximo de memoria
te dejo un link en donde vienen las configuraciones sugeridas dependiendo la ram de tu servidor.
http://www.sqlservercentral.com/blog...005_2F00_2008/