Acá está el ejemplo. Es que tienes desactivada esta casilla marcada en rojo:
Los DPI son dots per inch o puntos por pulgada y dpcm dots per cm por centímetro.
Puedes crear una imagen de 25x25 cm (10x10 pulgadas)
Si le pones 300 dpi el tamaño va a ser de 10x300= 3,000x3,000 pixéles.
Si pones 100dpi 10x10= 1000... 1000x1000 pixéles, 9 veces más chica, por lo tanto el pixelito se nota más.
Si es para verse en pantalla fijate más el tamaño en px, y olvidate un poco de los dpi.