Básicamente, las máscaras de capa lo que hacen es seleccionar qué partes de una capa son transparente y qué partes son opacas: las zonas oscuras de la máscara se corresponden con zonas transparentes de la capa, y vice-versa.
Por ejemplo, puedes duplicar una capa, aplicar un determinado efecto a la capa superior (desenfoque, desaturación, luminosidad, ...) y usar la máscara para seleccionar qué partes de la foto final se verán afectadas por ese efecto y qué partes no.
Espero haber ayudado.
Marcadores