Expert : La puissance de « Comparaison sur » (Blend If)

1. Introduction

La section « Comparaison sur » fait partie des options de fusion d’un calque. C’est une fonction extrêmement puissante et de plus en plus utilisée, mais dont la documentation reste difficile à trouver. Les meilleurs ouvrages sur Photoshop n’y consacrent au mieux que quelques paragraphes, alors que cette fonction en mériterait à minima tout un chapitre.

Avant d’aller plus loin, précisons que le terme anglais de « Comparaison sur » est « Blend if », littéralement « Fusionner si ». Il s’agit bel et bien de doser la fusion du calque actif avec les calques du dessous, mais en comparant un calque avec l’autre (par simplification, on va considérer les calques du dessous comme un unique calque, équivalent à la copie fusionnée de tous les calques du dessous existant).

Pour déterminer la fusion entre les deux calques (actif et du dessous), c’est la luminosité qui va intervenir. La puissance de cette fonction vient du contrôle extrêmement précis que l’on aura, via les curseurs de luminosité, pour dire à Photoshop comment fusionner – ou non, les pixels des deux calques. Il y a deux barres de luminosité, allant de 0 (noir) à 255 (blanc), une pour chacun des deux calques: le calque actif (barre du haut) et les calques du dessous (barre du bas). Chacune des deux barres de luminosité présente un curseur à son extrémité, ce qui permet de gérer les tons sombres (curseur de gauche) et les hautes lumières (curseur de droite). Pour terminer, chacun des 4 curseurs peut être scindé en deux afin de définir une transition plus ou moins progressive en fonction de l’écart que l’on va donner entre les deux parties d’un curseur.

Nous avons vu que le contrôle de la fusion se fait par comparaison de la luminosité des deux calques. Or nous pouvons aller encore plus loin, en précisant si la comparaison porte sur la luminosité globale (du composite, soit des trois couches Rouge, Verte et Bleu, appelé ici tout simplement « Gris »), ou sur la luminosité d’une couche précise. Il est aussi possible de préciser la fusion séparément pour chacune des couches en plus de la comparaison sur le gris (globale). Quelle que soit la couche Rouge, Vert, Bleu ou Gris sur laquelle porte la comparaison, le réglage de cette fonction suit le même principe. Seul le résultat obtenu diffère, et nous verrons cela via des exemples concrets.

Par défaut, les curseurs des deux barres de luminosité sont aux deux extrémités des barres, ce qui signifie que toute la gamme de luminosité (du noir au blanc) sont « actifs ». La fusion se fait sur toute la gamme de luminosité du calque actif, et impacte toute la gamme de luminosité des calques inférieurs.

La dernière question qu’il nous reste à aborder, c’est comment choisir sur quel calque on va intervenir ? Le calque actif ou les calques du dessous ? On pourrait penser que peu importe et que l’on peut obtenir le même résultat en partant de l’autre côté de la barre de luminosité, mais ce n’est pas vrai.

Une action sur les curseurs du Calque actif permet de déterminer quelle gamme de luminosité du calque actif ne sera pas visible dans le résultat. En d’autres termes, cela nous permet d’éliminer du résultat de la fusion les pixels qui ne sont pas dans la gamme de luminosité délimitée par les curseurs.
Une action sur les curseurs des Calques du dessous permet de déterminer quelle gamme de luminosité des calques inférieurs ne seront pas impactés par la fusion (ou recouverts dans le cas du mode de fusion « Normal ») par le calque actif. Seule la gamme de luminosité comprise entre les curseurs sera fusionnée, les autres apparaîtront tels quels. C’est le choix le plus pertinent à faire quand le calque actif est un calque de réglage.

La « Comparaison sur » est donc une sorte de masque de luminosité paramétrable finement et pouvant porter sur une ou plusieurs couches de façon indépendante, ou sur les trois couches en même temps et à l’identique pour la « couche » Gris (composite RVB). L’avantage par rapport à une technique classique de masque de luminosité, c’est que le calque actif peut être limité par un calque de fusion, ce qui permet de limiter son action différemment et indépendamment des considérations de luminosité. Tous les autres paramétrages de la fusion, tels que le mode de fusion ou la transparence (opacité) restent bien évidemment actifs, augmentant encore la finesse de fusion que l’on obtient.

2. Les options de fusion

Maintenant que nous avons compris les enjeux proposés par la « Comparaison sur », voyons où et comment on peut les paramétrer. Nous allons aussi procéder à diverses démonstrations pour bien comprendre le fonctionnement de ces options.

Pour qu’il puisse y avoir une fusion, il faut qu’il y ait au minimum deux calques visibles. Les options de fusion régissent comment le calque du dessus interagit, fusionne, avec les calques du dessous, ou plus exactement avec le résultat des calques du dessous. C’est sur le calque du dessus que l’on règle les options de fusion, raison pour laquelle on parle de calque actif. En réalité, s’il n’y a qu’un seul calque, on peut parfaitement utiliser la comparaison sur avec le curseur du calque actif (le curseur du calque du dessous est inactif). Photoshop considère simplement qu’il y a dessous un calque de la couleur du fond défini, à savoir un fond transparent quand on ouvre une photo.

La première option de fusion, c’est le mode de fusion, qui est réglé par défaut sur Normal. Le calque actif se superpose aux calques du dessous. Pour le fonctionnement détaillé des divers modes de fusion, veuillez vous référer à ce tuto.

La deuxième option de fusion, c’est l’opacité. Avec le mode de fusion, ce sont les deux seules options directement paramétrables dans le panneau Calques. Pour toutes les autres options de fusion, nous devons ouvrir la fenêtre des options de fusion.

Il existe cinq possibilités d’ouvrir la fenêtre des options de fusion:

Via la commande de menu « Calque>Style de claque>Options de fusion… »
Par un double clic sur la zone grise à côté du nom du calque
Par un clic sur le bouton Fx au bas du panneau Calques, puis en choisissant « Options de fusion… » (la première entrée)
Par le menu du panneau Calques, en choisissant la première entrée, « Options de fusion… »
Par un clic droit sur le calque actif et en choisissant « Options de fusion… » dans le menu contextuel

Quelle que soit la méthode utilisée pour ouvrir cette fenêtre, on arrive toujours au même résultat, la fenêtre présentée ci-dessus. La partie des Options de fusion y est présélectionnée dans le menu de gauche. et la partie centrale de la fenêtre nous présente toutes les options de fusions disponibles, réparties en trois sections (marquées en rouge sur la capture d’écran).

La section 1 regroupe la fusion générale, soit le mode de fusion et l’opacité du calque, les deux options directement accessibles dans le panneau Calques.

La section 2 présente les options de fusion avancée, et plus exactement l’opacité du fond, réglage également disponible dans le panneau Calques. Notons cependant qu’ici, nous avons accès à divers paramétrages de l’opacité du fond pour en modifier son comportement. Nous n’abordons pas ici cette option de fusion. Rappelons jusque que le curseur fond paramétré par défaut (donc agissant sur les trois couches) donne le même résultat que le curseur opacité, sauf quand le calque possède un des huit modes de fusion spéciaux (Densité couleur +, Densité linéaire +, Densité couleur -, Densité linéaire – (ajout), Lumière vive, Lumière linéaire, Mélange maximal et Différence).

La section 3 est celle qui nous intéresse dans ce tutoriel et se nomme « Comparaison sur: ». Comme nous l’avons déjà décrit, nous avons à côté du titre de la section une liste déroulante, réglée sur « Gris » et permettant de choisir sur quelle couche de luminosité s’applique la comparaison sur. Nous avons le choix entre les couches Rouge, Vert ou Bleu, ainsi que la couche Gris qui n’est autre que la couche composite RVB en terme de luminosité.

Toujours dans la section 3, nous avons en dessous les deux barres de luminosité représentant le calque actif (« Ce calque: »), et le « Calque du dessous ». Les barres présentent l’échelle de luminosité allant de 0 (noir) à 255 (blanc). Le niveau de luminosité pour les tons sombres (par défaut 0) et les hautes lumières (par défaut 255) s’affiche au dessus de la barre, alors que juste en dessous de la barre, on trouve les curseurs de réglage. Si l’on regarde attentivement ces curseurs, qui ont la forme de petits triangles, on voit que chaque curseur possède une barre verticale, ce qui nous montre que le curseur est actuellement d’une pièce, mais peut être scindé en deux. Le niveau de luminosité du curseur s’affiche au dessus de la barre. Si on a scindé un curseur en ses deux parties, on aura alors deux valeurs affichées au dessus de la barre, une pour chaque partie du curseur. Ces chiffres sont parfois la seule manière de savoir comment est réglé un demi-curseur, car il devient alors difficile de déterminer s’il appartient au curseur des tons sombres ou des hautes lumières…

Voyons quelques exemples de réglages présentés sur la barre du haut (« Ce calque »). Pour scinder un curseur en ses deux moitiés, il suffit de faire un clic dessus en maintenant appuyé la touche ALT (Win) ou Option (Mac).

Dans cette configuration, nous avons déplacé les curseurs des tons sombres (le curseur noir) jusqu’à la valeur de 25, et le curseur des hautes lumières (le curseur blanc) jusqu’à la valeur 242, et ce sans scinder aucun des deux curseurs. Le résultat de ce réglage est que seuls les pixels du calque actif ayant des valeurs de luminosité comprises entre 25 et 242 seront visibles. Les noirs de 0 à 25 et les blancs de 242 à 255 seront transparents et laisseront voir les calques du dessous.

Dans cette configuration, nous avons déplacé et scindé le curseur noir aux valeurs de 25 et de 60 pour les deux moitiés de curseur, et le curseur blanc à 242 comme précédemment. Cela signifie que les pixels du calque actif seront transparents pour les gammes de luminosité de 0 à 25 et de 242 à 255 comme avant, qu’ils seront totalement opaque (et donc visible) pour des gammes de luminosité de 60 à 242, et que pour gamme de luminosité de 25 à 60, les pixels vont passer progressivement de transparent à opaque. Alors que la transition est toujours dure dans les hautes lumières (le curseur blanc n’est pas scindé), la transition devient plus douce dans les tons sombres (le curseur est scindé).

A l’opposé de la configuration précédente, nous avons déplacé sans le scinder le curseur noir à 29, tandis que nous avons déplacé et scindé le curseur blanc aux valeurs respectives de 106 et 242. Cette fois, nous avons une transition douce dans les hautes lumières, et dure dans les tons sombres. On remarque que la transition est plus douce que dans l’exemple précédent, puis que nous avons écarté les deux demi-curseurs bien plus que précédemment.

Enfin, dernière configuration étudiée, nous avons déplacé et scindé les deux curseurs. Nous avons également croisé les demi-curseurs « intérieurs », ce qui fait que le curseur noir a les valeurs 29 et 158, alors que le curseur blanc a les valeurs 106 et 242. Comment interpréter le résultat d’une telle configuration ? Ce qui est sur, c’est que les gammes de luminosité du calque actif de 0 à 29 et de 242 à 255 sont complètement transparentes. Nous voyons aussi que les tons sombre deviennent progressivement opaque entre 29 et 158, et que les hautes lumières deviennent progressivement opaque entre 242 et 106. Nous avons donc limité l’effet de cette fusion de manière particulièrement douce, progressive, et en impactant le plus fortement les tons moyens, tout en touchant une large gamme tonale.

En agissant sur la barre tonale du calque actif, nous avons définit quelle gamme de pixels de ce calque ne sera pas utilisée dans la fusion. Si nous agissons sur la barre tonale des calques du dessous, nous faisons de même, mais en considérant les pixels du dessous. Il est assez difficile de bien appréhender cette différence, et tout aussi difficile de la présenter sur des images statiques. La meilleure méthode est encore de prendre deux calques et de jouer avec les curseurs tout en visualisant en direct les effets. Sur deux calques identiques, cela ne sera pas très parlant, mais sur deux calques très différents, on voit de suite que l’impact n’est pas le même quand on agit sur le calque actif ou sur les calques du dessous.

Attention ! Les chapitres suivants, de 2.1 à 2.4, sont plutôt techniques et d’un abord relativement complexes. Ils sont là pour vous permettre de mieux appréhender le fonctionnement de la fusion avec les curseurs de la comparaison sur. Ils ne sont aucunement indispensable à la compréhension de cette technique et vous pouvez sauter directement au chapitre 2.5 qui présente les conclusions de cette partie principalement théorique. Je vous recommande cependant de les lire et même d’essayer de jouer avec (je peux vous fournir le PSD préparé dans le chapitre 2.1 pour vous simplifier la vie sur simple demande via messenger), mais ne cherchez pas forcément à tout comprendre, sauf si la technique pure vous tient à cœur…

2.1. La préparation de nos différents calques pour l’exemple

Avant d’étudier quelques utilisations concrètes de ces options de fusion, nous allons construire quelques exemples permettant de visualiser le résultat de la comparaison sur, avec la possibilité d’en prédire le résultat. Afin de simplifier la prédiction du résultat, nous n’utiliserons que le mode de fusion normal et une opacité de 100% pour le calque actif.

Commençons par construire la partie des « calques du dessous ». Nous allons en créer plusieurs, mais nous utiliserons un seul de ces calques à la fois. Nous utilisons pour ces calques des calques de remplissage couleur unie. Nous allons créer un calque noir, un calque blanc, un calque gris à 25%, un calque gris à 50%, un calque gris à 75%, un calque rouge pur à 60% de luminosité, un calque vert pur à 60% de luminosité et un calque bleu pur à 60% de luminosité. Ces huit calques sont regroupés dans un groupe nommé « Calque du dessous », que nous conservons développé, et dont un seul calque à la fois aura la propriété visible.

Pour créer les bonnes nuances de gris, il suffit de taper le pourcentage de luminosité désiré dans la valeur L de la partie TSL. Pour les couleurs primaires à 60% de luminosité, le plus simple est de procéder en deux étapes: taper 255 dans la valeur de la couche de la couleur primaire voulue dans la partie RVB, puis corriger la valeur de la luminosité à la valeur voulue dans la partie TSL. Pour ceux qui n’y arrivent pas, les valeurs des triplettes TSL sont respectivement (0,0,0) pour le noir, (0,0,100) pour le blanc, (0,0,25) pour le gris 25%, (0,0,50) pour le gris 50%, (0,0,75) pour le gris 75%, (0,100,60) pour le rouge 60%, (120,100,60) pour le vert 60% et (240,100,60) pour le bleu 60%.

Il nous reste à construire le calque du dessus, qui sera le calque actif sur lequel nous expérimenterons les réglages de la comparaison sur. Nous allons créer des carrés ou des rectangles sur notre document. Chacun sera rempli d’une couleur ou d’un niveau de gris dont nous connaissons la valeur de la luminosité.Pour créer mon canevas, j’ai utilisé la commande du menu « Affichage>Nouvelle disposition de repères… » et j’ai choisi 11 colonnes et 6 lignes. En activant le magnétisme, avec la marquise de sélection (raccourci clavier M), je sélectionne carré par carré, puis « Edition>Remplir… », et je choisi dans le menu déroulant « Couleur… » pour afficher le sélectionneur de couleurs.

Pour les 11 colonnes, je gère la valeur de la luminosité (je règle mes couleurs avec les choix TSL), par palier de 10 de 0 à 100%. Pour les lignes, la première et la dernière sont vides (je vais ajouter un calque de texte non fusionné pour marquer les niveaux de luminosité). La deuxième ligne va du noir au blanc en passant par les niveaux de gris (Teinte 0°, Saturation 0%, Luminosité de 0 à 100% par palier de 10). La troisième ligne est pour le rouge (Teinte 0°, Saturation 100% et Luminosité de 0 à 100% par palier de 10), la quatrième ligne est pour le vert (Teinte 120°, Saturation 100% et Luminosité de 0 à 100% par palier de 10), et la cinquième ligne est pour le bleu (Teinte 240°, Saturation 100% et Luminosité de 0 à 100% par palier de 10).

Au dessus de ce calque, j’ajoute des calques de texte pour « afficher » la valeur de la luminosité de chaque colonne de carrés. J’ai mis les valeurs dans la première ligne et le mot luminosité dans la dernière ligne. J’ai ensuite fusionné tous les calques de texte afin de n’en avoir qu’un seul. J’ai écrit en noir. J’ai aussi dupliqué ce calque de texte et inversé la couleur, afin d’avoir toujours un texte visible en fonction du fond (calques du dessous) qui sera sélectionné). Mon affichage donne la capture présentée ici, avec le fond noir sélectionné, et donc le texte en blanc pour être lisible.

Quelques petites constatations pour commencer. On voit clairement que le noir n’est pas influencé par la teinte ou la saturation et ne dépend que de la luminosité. Par contre, le blanc (luminosité à 100%) est clairement influencé par la teinte et la saturation. Nous avons donc toujours du noir dans la colonne à 0% de luminosité. Dans la colonne à 100% de luminosité, nous avons du blanc si la saturation est à 0%, et la teinte pure si la saturation est à 100%. Dans cette colonne, nous avons donc, de haut en bas, du blanc pur, du rouge pur, du vert pur et du bleu pur.

De gauche à droite, nous allons de l’absence de lumière (noir) à 100% de lumière (blanc ou teinte pure), avec des couleurs pour les trois lignes du bas de plus en plus claires, toujours avec une saturation maximale.

2.2. Le comportement de la fusion en comparant la luminosité du calque du dessous

Nous l’avons vu, les options de fusion « Comparaison sur » permettent de doser la fusion en fonction de la luminosité. On va donc sélectionner un fond (noir dans notre exemple), puis sélectionner le Calque 2, et nous allons ouvrir les options de fusion. Commençons par déplacer les curseurs de la barre « Calque du dessous ». Rappelons que le calque du dessous choisi est le fond noir, soit une luminosité de 0%. Le calque actif contient lui notre damier de nuances de gris et de couleurs (et le texte ne sera pas impacté puisqu’il est sur un calque différent, placé tout en haut de la pile des calques). En agissant sur la barre « Calque du dessous », on sait que nous allons décider de la plage tonale du calque du dessous qui sera impacté par la fusion. Seuls la gamme tonale comprise entre les curseurs noir et blanc sera impactée, et ceux que nous supprimons de la plage en déplaçant les curseurs ne le seront pas. En d’autres termes, si le pixel du dessous à une luminosité comprise entre les deux curseurs (dont on pourra voir la valeur au dessus de la barre), il est fusionné et sera donc recouvert par le pixel du calque du dessus (mode de fusion normal).

J’ai commencé par déplacer le curseur blanc (celui de droite) et je l’ai amené tout à gauche, par dessus le curseur noir. On peut lire sur la capture ci-dessus que la plage tonale sélectionnée pour être fusionnée (recouverte dans notre mode de fusion normal) est la plage de luminosité de 0 à 0. Cela signifie que seuls les pixels d’une luminosité de 0 (donc noirs) seront fusionnés. Et c’est bien le résultat que l’on observe, puisque rien ne change en apparence à notre affichage. Validons nos options de fusion par un clic sur OK, puis sélectionnons les différends fonds pour observer le résultat de la fusion. Rappelons que nous avons réglé la comparaison sur pour que la fusion ne se fasse que sur les pixels du calque du dessous (donc du fond) qui ont une luminosité de 0 (donc du noir pur). Comme tous les autres fonds ne sont pas du noir pur, la fusion ne doit pas se faire, et c’est exactement ce que nous observons. Il n’y a qu’avec le fond noir que nous voyons le calque actif et son damier de nuances. Dans tous les autres cas, nous ne voyons que le fond et le texte (bien sûr, le texte blanc ne sera pas visible sur le fond blanc).

Reprenons notre fond noir et réactivons les options de fusion. On va remettre le curseur blanc à sa place (valeur 255), et déplacer le curseur noir pour le mettre à la valeur 1. Nous réglons ainsi la fusion comme étant active uniquement si les pixels du calque du dessous (fond) ont une luminosité comprise entre 1 et 255, donc s’ils ne sont pas noir pur. Et en effet, dès que nous atteignons la valeur de 1 pour le curseur noir, le calque actif et son damier de nuances disparait de l’affichage, pour ne montrer plus que notre fond noir (et le texte qui n’est bien sûr pas impacté puisqu’au dessus de tout). Si l’on valide les options de fusion et que l’on active la visibilité des différends fonds, la fusion se fait à nouveau, puisque tous les autres fonds ont une luminosité supérieurs à 1.

Nous constatons donc qu’il semble relativement facile de prédire l’effet de la comparaison sur réglée sur la barre de luminosité du calque du dessous. C’est en partie vrai, mais souvenons nous que nous avons créé des fonds unis, où tous les pixels du calque ont exactement les mêmes valeurs (que l’on soit en TSL, en RVB, en CMJN ou en Lab). D’autre part, nous avons utilisé les réglages TSL pour créer nos couleurs, car c’est plus facile à créer des colonnes de luminosité ainsi. Or dans les réglages TSL, la luminosité est réglée en pourcent, de 0 à 100. Et sur nos barres de luminosité des options de fusion « Comparaison sur », à l’instar des niveaux ou des courbes, nous avons un réglage de 0 à 255, soit un réglage par couche RVB. Illustrons ce problème par un nouvel exemple.

Nous réglons nos options de fusion du calque du dessous pour aller de 60 à 255 comme l’image ci-contre, et nous validons les options. On s’attend en principe que la fusion s’opère avec les fonds blanc, gris à 75% et les trois couleurs qui sont à 60% de luminosité, mais pas avec les autres fonds (noir, gris à 25% et gris à 50%). Le résultat est bien celui attendu pour les fonds noir et blanc, mais pas vraiment pour les autres. Pour prédire comment la fusion s’opère, il nous faut donc chercher d’autres éléments.Voyons ce qui se passe du côté des valeurs de couleurs en mode RVB.

Pour visualiser les valeurs d’un pixel, il nous suffit d’afficher le panneau Informations (menu Fenêtre>Informations si on ne le voit pas) et avec l’outil pipette, de survoler une couleur. Dans le panneau Informations, les valeurs colorimétriques des pixels survolés s’affichent. En utilisant la ligne du bas à côté du mot Luminosité, nous avons le fond qui apparaît. Je vous recommande, dans les options de panneau du panneau Informations, de sélectionner Couleurs TSL pour la 1ère lecture et Couleurs RVB pour la 2ème lecture, comme sur l’illustration ci-contre.

Quand on survole un fond sélectionné, nous voyons dans le panneau affichage les différentes valeurs, à la fois TSL (telles que nous les avons définies lors de la création des fonds) et RVB qui vont nous permettre de comprendre le fonctionnement de la fusion.

Noir: TSL (0,0,0) et RVB (0,0,0)
Blanc: TSL (0,0,100) et RVB (255,255,255)
Gris 25%: TSL (0,0,25) et RVB (64,64,64)
Gris 50%: TSL (0,0,50) et RVB (128,128,128)
Gris 75%: TSL (0,0,75) et RVB (191,191,191)
Rouge 60%: TSL (0,100,60) et RVB (153,0,0)
Vert 60%: TSL (120,100,60) et RVB (0,153,0)
Bleu 60%: TSL (240 100 60) et RVB (0,0,152)

Rappelons que nous avons décidé, par nos réglages, que la fusion s’opère pour la gamme 60 à 255 de luminosité du calque du dessous. Reprenons notre liste et voyons ce qui se passe:

Noir: avec une valeur de 0, nous sommes en dehors de la plage, la fusion ne s’opère pas et nous voyons le fond noir. C’est bien le résultat escompté que nous observons dans la pratique.
Blanc: la valeur est de 255, dans la plage. La fusion s’opère et nous voyons le damier de nuances. Théorie et pratique concordent.
Gris 25%: la valeur étant de 64, ce qui est dans la plage, la fusion doit s’opérer. Là encore, la théorie et la pratique sont d’accord.
Gris 50% et 75%: les valeurs, respectivement de 128 et 191, sont toutes deux dans la gamme pour que la fusion s’opère. Dans les deux cas, la pratique rejoint la théorie.
Rouge 60%: ici, la valeur du canal rouge est de 153, ce qui est dans la gamme permettant la fusion. Or en pratique, nous obtenons uniquement le fond rouge. La pratique diffère de la théorie !
Vert 60%: la valeur du canal vert, 153 est dans la plage et la fusion devrait s’opérer, ce que la pratique confirme.
Bleu 60%: la valeur du canal bleu est de 152, ce qui devrait conduire à la fusion. Ici encore, tout comme pour le rouge, la pratique diffère de la théorie.

Nous pouvons tirer une première conclusion, à savoir que quand la valeur des trois canaux rouge, vert et bleu est identique, cette valeur est totalement prédictive du résultat obtenu. C’est quand les valeurs diffèrent d’un canal à l’autre que le résultat n’est plus directement prédictible. Nous avons volontairement construit nos couleurs à partir des tons purs, saturés à 100% et avec une luminosité réelle de 60% selon le modèle TSL, c’est-à-dire la roue chromatique standard dans le monde du numérique et ses couleurs additives. Or nous savons que l’œil humain diffère dans sa perception des couleurs. Le modèle s’approchant le plus de la vision humaine est le modèle Lab, qui code les couleurs selon deux axes chromatiques (a pour le vert . rouge, et b pour le bleu – jaune) et un axe pour la clarté L, ou luminosité perçue. De la même manière que nous avons trouvé les valeurs RVB de nos fonds, nous obtenons les valeurs suivantes de clarté dans le modèle Lab: Noir 0, Blanc 100, Gris 25% 27, Gris 50% 54, Gris 75% 77, Rouge 60% 32, Vert 60% 55 et Bleu 60% 15. Si l’on prend toute ces valeurs, nous pouvons classer nos fonds par luminosité perçue croissante, ce qui donne l’ordre suivant: Noir -> Bleu 60% -> Gris 25% -> Rouge 60% -> Gris 50% -> Vert 60% -> Gris 75% -> Blanc. C’est bel et bien ainsi que notre œil perçoit la luminosité de ces différents fonds.

Le modèle Lab nous permet d’entrevoir la solution pour prédire le comportement de la comparaison sur. En effet, comme notre vision ne perçoit pas les couleurs de façon linéaire, et en particulier la perception de leur luminosité, Photoshop interprète la luminosité théorique sur une base non linéaire. En d’autres termes, plutôt que de prendre la valeur moyenne (arithmétique) des triplettes RVB comme valeur de luminosité globale, il en fait une moyenne pondérée avec 30% de rouge, 59% de vert et 11% de bleu. Pour les nuances de gris, les trois canaux ayant la même valeur, elle est directement utilisable. Pour toutes les autres couleurs, il faut considérer la moyenne pondérée. Voici les résultats des calculs pour nos trois fonds colorés: Rouge 46, Vert 90 et Bleu 17 (valeurs arrondies). En considérant ces valeurs, la pratique rejoint la théorie: avec les fonds rouge et bleu, la fusion ne s’opère pas, tandis qu’elle s’opère avec le fond vert.

Prenons un dernier exemple avec la barre du calque du dessous. Nous allons régler le curseur noir à 40 et le curseur blanc à 70 comme dans l’exemple ci-contre. Nous décidons ainsi de permettre la fusion si le fond à une luminosité globale perçue comprise entre 40 et 70. Un coup d’œil à nos calculs précédents nous prédisent une fusion (donc le damier de nuances visible) avec les fonds Gris 25% et Rouge 60%. Tous les autres fonds doivent apparaître tels quels (avec juste le texte de visible, n’oublions pas que ce dernier n’est pas concerné par la fusion du calque actif, situé au dessous de lui). Cette fois, nos prédictions s’avèrent correctes dans tous les cas. Nous avons donc trouvé le bon modèle de prédiction du résultat. On pourrait continuer à jouer avec les curseurs de la barre du calque du dessous, mais nos fonds étant uniformes, nous n’apprendrons plus rien de cette étude. Rappelons uniquement que ce n’est ni la luminosité du modèle TSL, ni la clarté du modèle Lab, toutes deux exprimées en pourcent, qu’il faut considérer, mais bel et bien la moyenne pondérée des valeurs RVB.

2.3. Le comportement de la fusion en comparant la luminosité du calque actif

Il est temps de passer à l’étude du comportement de la fusion quand on joue avec la barre du calque actif. On ne va pas pousser la théorie aussi loin que précédemment vu le nombre de nuances de gris et de couleurs que nous avons créé. Je vous invite simplement à jouer avec les curseurs noirs et blancs, sans les séparer, pour bien comprendre ce qui ce passe.

Rappelons simplement que la luminosité du pixel qui va déterminer si la fusion se fait ou pas, est maintenant celle du pixel du calque actif. Si sa luminosité est hors de la plage de luminosité réglée par les curseurs, ce pixel « disparait » de la fusion. Il devient transparent et laisse apparaître les calques du dessous. Si l’on règle notre barre du calque actif de la comparaison sur comme sur l’image ci-contre, à savoir pour permettre la fusion entre les valeurs de 1 à 255 de luminosité globale, la première colonne avec la luminosité de 0 disparaît, quel que soit le fond. Évidemment, avec le fond noir, comme c’est du noir pur qui a « disparu » du calque actif, on ne voit pas la différence. Avec tous les autres fonds, on voit bien la couleur du fond dans la première colonne.

Quand on joue avec les curseurs, on voit les carrés de nuance « disparaître » les uns après les autres, de manière qui semble en partie aléatoire, mais qui suit la règle de la luminosité globale perçue telle que nous avons appris à la calculer au chapitre précédent. En fonction du « poids » du canal et de la valeur de luminosité de ce canal, différentes tonalité de couleurs peuvent disparaître en même temps. Il y a par contre toujours un « ordre » logique au sein d’une même ligne. Si on joue avec le curseur noir, la carrés « disparaitront » depuis la gauche, et vice versa pour le curseur blanc. Si on ne regarde que les lignes de couleurs, quand on déplace le curseur noir, c’est la couleur apparemment la plus « sombre » qui disparaît en premier, à savoir le bleu, suivi du rouge et enfin du vert. Ce sera dans l’ordre inverse quand on joue avec le curseur blanc. Mais n’oublions pas que la pondération va s’immiscer dans l’ordre de disparition des nuances.

Si l’on voulait prédire le comportement exact de la fusion en comparaison sur gris du calque actif, il faudrait numéroter toutes les cases de nuance, relever les valeurs RVB de chacune, et calculer la luminosité globale perçue par la moyenne pondérée par les coefficients déjà donnés. On serait ainsi en mesure de prédire exactement le résultat escompté, et de vérifier que la pratique colle à la théorie. Je laisse celui ou celle qui veut le faire à ce travail et publierai volontiers le résultat s’il le désire et me le transmet…

2.4. Le comportement de la fusion en comparant la luminosité par canal

Nous pouvons effectuer les mêmes essais en basant la comparaison sur un canal précis. Ici, la prédiction est relativement plus simple, puisque nous n’avons plus besoin de calculer la luminosité apparente. C’est directement la valeur du canal en question qui est prise en compte. Ne pas oublier que les nuances de gris ont des valeurs dans les trois canaux, tout comme les couleurs, à l’exception des couleurs primaires qui n’ont de valeur que dans leur canal. Nous pouvons donc assez facilement prédire le résultat de la fusion avec le modèle mis en place pour cette théorie de la fusion en comparaison sur.

Pour ce qui est de nos fonds, nous avons les valeurs de luminosité suivante: noir 0, blanc 255, gris 25% 64, gris 50% 128, gris 75% 191, et 152 pour le canal de la couleur primaire (avec bien sûr 0 dans les deux autres canaux). Donc quand on compare sur le canal rouge par exemple, avec une comparaison basée sur le calque du dessous, le noir, le vert et le bleu se comportent de manière identique puisqu’ils ont une valeur à 0. Dès qu’on exclu le 0 de la fusion, nous verrons le fond sans le damier de nuance.

Quand on considère la fusion avec une comparaison sur le calque actif, la ligne des nuances de gris se comportera comme la ligne de la couleur du canal choisi. Dès que l’on exclu la luminosité 0 de la fusion, le noir et les deux autres couleurs primaires disparaissent. Si on ne joue qu’avec le curseur blanc, donc que l’on conserve la valeur 0 dans tous les cas, seuls les nuances de gris et de la couleur du canal choisi « disparaissent » progressivement. Cette fois, les colonnes de même luminosité disparaissent simultanément, puisqu’elles ont la même valeur.

2.5. Conclusion sur la théorie de la comparaison sur

Maintenant que nous sommes capable de prévoir le résultat théorique d’une fusion en comparaison sur, il nous faut déterminer quelques règles pratiques que nous pourrons utiliser concrètement quand nous désirons gérer de manière subtile les options de fusion de calques.

Le première règle à retenir est que la comparaison sur permet de définir les pixels du calque actif qui vont intervenir dans la fusion. En effet, que nous jouions sur la barre du calque actif ou sur celle du calque du dessous, ce sera toujours les pixels du calque actif qui participeront ou non à la fusion des calques.

La deuxième règle à retenir, c’est que la comparaison sur gris se fait sur la luminosité globale perçue, tandis que la comparaison sur une couche précise se fait sur la valeur de la couche en question.

La troisième règle à retenir, c’est que quand on joue avec les curseurs de la comparaison sur, on obtient des transitions très dure. Dans la plupart des cas, on souhaite des transitions beaucoup plus douces. Cela s’obtient en scindant le curseur via un ALT / Option + clic sur le curseur que l’on veut scinder.

Savoir sur quelle barre de luminosité on veut agir est un choix relativement subjectif. Si on veut gérer les pixels directement du calque actif, on va bien évidemment travailler sur la barre de luminosité du calque actif. A relever quand, dans ce cas, il n’est pas nécessaire d’avoir de calque au dessus, pour autant que le calque ne soit pas verrouillé. Les curseurs de la barre du calque du dessous ne sont d’ailleurs pas actif dans ce cas. Si par contre on veut gérer les pixels du calque actif en fonction de ceux du calque du dessous, on doit travailler sur la barre du dessous.

Enfin, si le calque actif est un calque de réglage, il ne contient pas de pixels. Si on gère la comparaison sur avec la barre du calque actif, Photoshop va appliquer l’effet du calque, puis décider si l’effet est réellement appliqué en fonction des réglages des curseurs. Le résultat devient difficile à appréhender. Dans la majorité des cas, avec un calque de réglage, on travaille sur la barre de luminosité du calque du dessous, bien plus facile à appréhender.

Pour terminer, malgré toute cette théorie de calculs pour prédire le comportement de la fusion en comparaison sur, dans la pratique, on va régler nos curseurs de façon visuelle, empirique, d’autant plus que ces curseurs agissent de manière dynamique tant que la visibilité de l’aperçu est activée dans la fenêtre des options de fusion. On a parfois besoin de jouer sur les curseurs noirs et blancs en même temps, en particulier pour cibler les tons moyens, mais le plus souvent, on ne travaille que d’un côté. il est parfois plus facile de régler la comparaison sur en gardant le mode de fusion normal, puis de choisir le mode de fusion par la suite, que l’inverse. Tout dépend du travail et de la fusion que l’on veut.

3. Applications concrètes

Il est temps de passer à la partie pratique de ce tutoriel. Les applications concrètes de la fusion en comparaison sur sont innombrables, et j’en ai sélectionné quelques unes pour vous montrer ce que l’on peut faire grâce à cette option de fusion.Difficile pour ne pas dire impossible d’être exhaustif, en particulier en considérant que Photoshop n’a pour seule limite que votre imagination (et votre dextérité bien sûr). Il n’y a pas réellement d’ordre logique dans les exemples qui suivent. Cependant, afin d’éviter trop de redondances, je ne vais pas insister sur les explications déjà présentées dans un chapitre antérieur. Il est donc judicieux de suivre l’ordre de lecture naturel, au moins pour une première lecture.

J’utilise la dernière version de Photoshop au moment où je rédige ce tutoriel, à savoir Ps CC 2020, version 21.0.2, sur un Mac tournant sous Catalina (MacOS version 10.15.2). Je précise également que je ne cherche pas à montrer forcément des exemples crédibles, mais surtout à illustrer de manière concrète comment on peut utiliser la comparaison sur pour obtenir le résultat désiré. Les images illustrant ces exemples sont soit des images obtenues sur Adobe Stock et libre de droits, soit des photos que j’ai prise.

3.1. Alternative à un détourage

Nous avons vu que la comparaison sur, basée sur le calque actif, permet de définir quelle gamme de luminosité de pixels participe à la fusion, les autres étant transparents. Nous pouvons donc, par ce biais, détourer un sujet de son fond. Il y a bien évidemment certaines conditions à remplir pour que cette méthode de détourage fonctionne:

Le fond doit être le plus uniforme possible, surtout en terme de luminosité.
La gamme de luminosité du fond ne doit pas apparaître dans le sujet.
Dans l’idéal, le fond est blanc ou noir.

Nous pouvons bien sûr combiner les options de fusion avec un masque de fusion. On pourrait s’attendre également qu’il soit possible de détourer un sujet sur un fond de couleur unie si cette couleur est une couleur primaire pure. Ce n’est cependant que rarement possible, car c’est oublier que toute couleur, dans la synthèse additive, est constituée d’un mélange des trois couleurs primaires. On a donc des valeurs dans chacun des trois canaux Rouge, Vert et Bleu, rendant ainsi quasi impossible un détourage d’un fond de teinte unie par le biais de la fusion en comparaison sur, car on obtiendra fatalement des zones de transparence dans notre sujet à détourer, sauf si cette couleur primaire est totalement absente de l’image à détourer.

Illustrons par un exemple le détourage par le biais de la comparaison sur. On pourrait travailler directement sur l’image à détourer, mais l’exemple sera plus complet en détourant une image par dessus une autre. Prenons la photo d’une mésange sur sa branche.

On lui ajoute une images de feuilles mortes sur fond blanc que voici:

Une fois les options de fusion réglées, sur le calque actif, et depuis la droite puisque le fond est blanc, voici ce que l’on obtient:

On voit sur la capture d’écran ci-contre qu’il nous a suffit de régler les options de fusion en basant la comparaison sur le calque actif, situé au dessus du calque de la mésange. Comme d’habitude, il s’agit simplement de bien doser l’effet, en particulier dans sa progressivité, pour obtenir en un seul clic une fusion du calque supérieur avec le calque inférieur. Bien évidemment, dans cet exemple, je n’ai pas cherché à peaufiner le travail, ni à le rendre crédible. Il convient aussi de relevé que nous ne pourrons pas utiliser d’autres options de fusion, telle que l’ombre portée par exemple, à moins de convertir ce calque en calque dynamique, ce qui aura pour effet « d’appliquer » la transparence du fond blanc obtenue par les options de fusion.

Ce point est important à garder à l’esprit, car il signifie que la comparaison sur est avant tout un moyen de fusion, et que le détourage en est une application particulière qui ne fonctionnera que dans certaines situations. Dans notre exemple, on a bel et bien fait « disparaître » le fond blanc – ce qui correspond à un détourage – mais si on observe bien le résultat obtenu, on s’aperçoit que l’on a aussi une certaine transparence sur certains des objets détourés. Par exemple, la feuille devant le tronc sur la gauche de l’image est semi-transparente et laisse voir la texture du tronc au travers de la couleur de la feuille. Il conviendrait donc de l' »effacer » en ajoutant un masque de fusion au calque pour la cacher. Et c’est bien la preuve que cette technique ne donne pas un « vrai » détourage, mais que c’est une méthode simple et rapide pour obtenir un résultat similaire dans certaines situations bien définies.

3.2. La fusion d’images

Pour la fusion d’images, on va jouer sur les curseurs de la comparaison sur les différentes couches, gris, rouge, vert ou bleu. Le choix du curseur sur lequel agir (calque actif ou calque du dessous, voire encore un mélange des deux) va dépendre, comme on s’en doute, des deux images à fusionner. Il en va de même sur le choix de la ou des couches sur lesquelles on va intervenir. Il est dès lors impossible de donner une recette absolue pour la fusion d’images en utilisant cette technique, et on n’obtiendra un résultat qu’en procédant par tâtonnement avec une bonne dose de réflexion en amont. L’avantage est ici que nous voyons en direct l’effet des curseurs sur le résultat de la fusion.

Rappelons que la comparaison sur la couche grise revient à comparer les niveaux de luminosité des deux calques sur l’ensemble des trois canaux, et que l’on peut également comparer la luminosité de chacun des canaux des couleurs primaires indépendamment des autres. Toutes les combinaisons sont possibles, et le résultat serait quasiment impossible à atteindre à l’aide d’un masque de fusion, aussi perfectionné soit-il.

Pour illustrer le principe, j’ai repris la photo de la mésange de l’exemple précédent, et j’ai ajouté un calque de texte, écrit en blanc, avec le nom de l’oiseau. J’ai donc le calque d’arrière plan avec l’oiseau et le texte blanc au-dessus. En jouant avec les options de fusion de la comparaison sur, et en travaillant sur le curseur du calque du dessous pour chacune des trois couches, j’ai obtenu le résultat suivant (qui ne présente aucun intérêt mais me permet d’illustrer le principe).On y voit le texte se fondre avec les branches et les feuilles, ce qui était bien le but d’une fusion. Si je joue avec la comparaison sur gris sur le calque actif (celui du texte), il ne se passe rien du côté gauche (noir), et le texte disparaît si je joue du côté droit (blanc). Je dois donc jouer sur le calque du dessous. Dans cette situation (comparaison sur le calque du dessous), une fois encore, si je travaille en comparaison sur gris, le texte étant de luminosité homogène, je n’obtiendrai pas une fusion très subtile. Par contre, si je travaille couche par couche, je peux décider avec beaucoup plus de finesse quelle partie du texte disparaît en fonction de l’image du dessous.

Encore une fois, il importe de préciser que la fusion d’images par ce biais ne pourra être efficace qu’en multipliant les essais et surtout les combinaisons possibles. Même s’il est théoriquement possible de prévoir le résultat, et donc les réglages à effectuer en maîtrisant les opérations mathématiques sous-jacentes à la fusion, dans la pratique, il est quasi impossible de dire sur quel curseur et sur quelle couche agir ni comment. Comme pour tout dans la retouche d’images, expérimenter et s’entraîner est à la base du succès.

3.3. Alternative aux masques de luminosité

C’est je pense une des fonctionnalités de la comparaison sur la plus utilisée, car aussi la plus simple à appréhender, et le résultat est visuel, contrairement aux autres techniques.

Pour rappel, un masque de luminosité est un masque de fusion basé sur la luminosité de l’image. On peut le créer de différentes manières, les plus connues utilisant les couches ou la commande « Appliquer une image… » du menu Image. La création du masque est relativement simple, elle peut être automatisée dans une action, mais le dosage précis du masque est pour le moins délicat, le résultat n’étant visible qu’une fois le masque créé.

Comme la comparaison sur gris permet de doser la fusion de deux calques en se basant sur la luminosité des pixels, il est évident que le résultat est équivalent à un masque de luminosité,… sans le masque ! Et comme l’effet des curseurs est directement visible sur l’image, le dosage peut être fait en direct. Avantage supplémentaire: on pourra en outre limiter l’effet avec un masque de fusion.

Les masques de luminosité sont en général appliqués sur les calques de réglage, et c’est ainsi que nous allons les aborder ici. J’ai pris l’exemple d’un athlète que j’ai dupliqué deux fois pour obtenir trois versions. Celle de gauche est la photo d’origine, sans traitement. Pour la photo du centre, j’ai simplement ajouté au dessus un calque de couleur unie blanc, en mode de fusion normal, et j’ai joué sur les options de fusion (comparaison sur gris, calque du dessous, le curseur noir – de gauche – est scindé aux positions 156 / 229) afin de limité le blanc uniquement sur les zones les plus claires. J’ai ainsi éclairci les tons clairs, ce qui met bien en valeur la musculature et d’une manière générale toutes les hautes lumières. Pour la photo de droite, il y a toujours l’effet du calque blanc comme sur celle du milieu, mais j’ai ajouté un calque de couleur unie noir, en mode de fusion normal, dont j’ai modifié les options de fusion (comparaison sur gris, calque du dessous, avec le curseur blanc – de droite – scindé aux positions 6 / 24), ce qui a assombri les tons foncés et ainsi augmenté sélectivement le contraste.

Je vous invite à répéter ce genre d’exercice chez vous, sur une image de grande taille, afin de bien visualiser l’effet, car ce n’est pas évident à illustrer sur des images de dimensions réduite comme ici, même en exagérant le rendu. A noter également que l’on aurait pu utiliser en parallèle les modes de fusion, soit ceux du groupe de contraste (Incrustation, Lumière tamisée…), soit ceux du groupe correspondant à l’effet recherché (Éclaircir ou Superposition pour le calque blanc; Obscurcir ou Produit pour le calque noir).

Cette technique pour limiter l’effet d’un calque à une gamme de luminosité s’applique particulièrement bien à la technique du dodge & brun, comme je l’avais d’ailleurs proposé dans le tutoriel sur le sujet (Expert : Eclaircir/Assombrir (Dodge &Burn) Tuto avancé.). Il est en effet intéressant de prévoir un calque pour éclaircir ou assombrir spécifiquement les tons clairs ou les tons foncés, ce qui rend le travail de dodge & brun plus souple et plus facile (à condition de choisir le bon calque bien sûr).

4. Conclusion

Nous l’avons vu, la comparaison sur est une technique de retouche avancée, extrêmement puissante, relativement complexe à appréhender, mais en même temps suffisamment intuitive pour rester abordable. Il est difficile d’illustrer correctement les possibilités offertes par ces techniques sous une forme purement écrite, même avec les meilleures images possible. Je m’y suis attelé du mieux possible, en fonction de mes connaissances et de ma pratique. Nul doute que l’on peut trouver une multitude d’autres applications pratiques.

Rappelons en guise de conclusions les éléments essentiels à retenir pour bien utiliser la comparaison sur.

Les options de fusion concernent toujours les pixels du calque actif, quel que soit le curseur avec lequel on va jouer.
La comparaison sur gris s’effectue sur la luminosité globale perçue des pixels, basée sur une échelle allant de 0 à 255. Le « poids » relatif des différents canaux est de 30% pour le rouge, 59% pour le vert et 11% pour le bleu.
La comparaison sur une couche ne prend en compte que la valeur « RVB » de la couche en question.
Pour obtenir des transitions douces, il faut scinder les curseurs, ce qui se fait par un ALT ou Option + Clic sur le curseur.
On peut utiliser la luminosité du calque actif pour décider de la fusion ou non, ou celle des calques du dessous.
On ne peut pas utiliser la comparaison sur un calque verrouillé.
Si on utilise la comparaison sur le calque actif et que ce dernier est un calque de réglage, le réglage est d’abord appliqué, puis la luminosité résultante est comparée pour savoir si la fusion s’opère ou pas. La « fusion » d’un calque de réglage, c’est l’application de son effet.
Et surtout, l’effet sur le curseur est dynamique et le résultat directement visuel, alors, amusez-vous !

J.-P. Schorro, le 08.04.2020