Mirá, este enlace corresponde a flash, pero verás que tiene bastantes similitudes con canvas y, aunque no las tuviera, lo que importa en este caso es la lógica para determinar los colores predominantes. Vas a ver cálculos que te resultarán, seguramente, muy interesantes y afines con tu objetivo:
http://blog.soulwire.co.uk/flash/act...olour-palette/