Hasta donde yo se(y si no es asi que me corrijan),en Windows XP no se puede
asignar mas o menos memoria a un programa en concreto...
Que yo recuerde esto se podia hacer en Mac SO 9,o en programas concretos
como Photoshop,pero desde el propio programa.
Lo que puedes hacer es optimizar la memoria para un mejor rendimiento de
las aplicaciones.
Leete esto...
http://support.microsoft.com/kb/308417/es
Salud.