Creo de deberias tener un acumulador para cada columan y aprobechar el mismo ciclo.
Algo así...
for(int col=0;col<a[0].length;col++)
{
acum1=acum1+a[0][col];
acum2=acum2+a[1][col];
acum3=acum3+a[2][col];
acum4=acum4+a[3][col];
}
luego al final del ciclo ya tienes cada uno de los totales