Keying des cheveux fins dans After Effects sans detruire les bords

Chaque compositeur a rencontré ce cas : un plan sur fond vert où les cheveux de l'acteur se transforment en bouillie numérique dès qu'on tire la clé. Les cheveux fins occupent une place à part, car ils existent à la limite de la résolution : les pixels d'une mèche mêlent la couleur du premier plan (les cheveux), le spill vert et la couleur du fond, et le keyer doit décider où l'objet s'arrête. Aucun keyer ne sépare parfaitement ce signal — la vraie question est de savoir quels paramètres l'affectent et lesquels relèvent de la simple habitude. Voici uniquement ce que confirment la documentation d'Adobe, le guide de The Foundry et les spécifications des caméras.

Deux choses déterminent le pixel au bord d'un cheveu : la taille du capteur et la manière dont la caméra écrit la couleur. Voici ce que fixent les spécifications. RED KOMODO : capteur CMOS 19,9 MP, Super 35 mm, obturateur global ; pixels effectifs 6144 × 3240 ; taille du capteur 27,03 mm sur 14,26 mm, diagonale 30,56 mm ; plage dynamique de 16+ stops. Cadences d'enregistrement REDCODE RAW : 6K (6144 × 3240) à 40 fps, 4K (4096 × 2160) à 60 fps, 2K (2048 × 1080) à 120 fps. En R3D, la caméra écrit 16 bits par pixel, et les sorties moniteur délivrent 10 bits en 4:2:2. Sony FX3 : capteur Exmor R CMOS plein format de 35,6 mm sur 23,8 mm ; 4K (QFHD) en 3840 × 2160 pixels, XAVC S-I DCI 4K en 4096 × 2160 ; enregistrement interne en 10 bits avec un échantillonnage couleur 4:2:2 ; plage dynamique de 15+ stops. Le chroma et la profondeur de bits décident de la quantité d'information colorimétrique qui atteint le bord du cheveu. Adobe le formule directement : « Use footage with the least color subsampling possible — for example, 4:2:2 rather than 4:2:0 or 4:1:1 ». Apple ProRes 4444 encode du 4:4:4:4 RGBA, avec un canal alpha sans perte jusqu'à 16 bits ; ProRes 4444 XQ prend en charge jusqu'à 12 bits par canal de couleur ; ProRes 422 HQ travaille en 4:2:2 sur 10 bits, avec un débit cible d'environ 220 Mbit/s en 4:2:2 en 1920×1080 à 29,97 fps, et ProRes 4444 environ 330 Mbit/s en 4:4:4 dans les mêmes conditions. Plus il y a d'échantillons colorimétriques par pixel et plus la profondeur de bits est élevée, plus il reste d'information dans le bord semi-transparent. Mais la résolution ne remplace pas cela : au bord, il ne reste que quelques pixels, et le keyer travaille avec ce que la caméra a enregistré.

Keylight est le keyer natif d'After Effects : Adobe l'inclut dans la version d'essai et recommande d'essayer Keylight avant les keyers couleur intégrés, car Color Key et Luma Key sont considérés comme dépassés par rapport à lui. Les paramètres clés viennent du guide de The Foundry. Screen Colour : prélevez à la pipette une zone verte représentative de l'écran — c'est la base statistique à partir de laquelle se calcule tout le matte. Une erreur à ce niveau ne se répare pas en corrigeant le Clip. Screen Gain : augmenter cette valeur accroît la zone keyée, mais en faire trop laisse transparaître le fond à travers le premier plan et détruit les détails de bord, cheveux fins compris. C'est un équilibre, pas un maximum. Screen Balance : la valeur indique laquelle des deux composantes restantes de la couleur d'écran sert de référence pour mesurer la saturation. À 100 % on prend la plus petite, à 0 % la plus grande, à 50 % leur moyenne. Le guide de The Foundry précise : pour un écran bleu, un balance d'environ 95 %, pour un écran vert d'environ 50 % ; si la clé fonctionne mal, essayez environ 5 %, 50 % et 95 %. Clip Black et Clip White : une valeur d'alpha inférieure ou égale à Clip Black est ramenée à zéro, une valeur supérieure ou égale à Clip White devient 100. Ce sont des outils de découpe des bords du matte, pas des outils de « renforcement » de la clé. Despill Bias : indique à Keylight quelle couleur protéger lors de la suppression du spill ; la documentation montre, pour un écran bleu, un prélèvement de teintes de peau à la pipette. Edge Correction : Edge Softness floute la zone considérée comme le bord sur un nombre de pixels donné, Edge Grow l'étend sur un nombre de pixels donné.

Primatte est un keyer tiers de Maxon, pas un effet natif d'After Effects. La documentation d'Adobe ne décrit pas ses réglages : les plages numériques que nous utilisons au studio ne sont donc pas publiées ici. C'est notre pratique, pas une spécification du fournisseur, et il n'existe pas de source primaire pour la vérifier. La pratique se décrit en mots : la clé est tirée dans un passage séparé et la suppression du spill se fait après — ainsi le suppresseur de spill ne mange pas la couleur propre des cheveux. Les échantillons se prennent sur différentes zones de l'écran et on ne clique pas sur les bords des mèches : un pixel semi-transparent ne doit pas entrer dans le modèle de premier plan plein. Si la clé est bonne mais que le bord « flotte » encore, passez au flou d'alpha : Adobe recommande explicitement de flouter le canal alpha après le keying pour adoucir les bords du matte.

Supercomp n'est pas un keyer mais un outil de compositing tiers : il travaille sur un calque déjà keyé et le mélange avec le fond. Il agit sur le bord plutôt que sur l'alpha, si bien que le résultat dépend de la façon dont l'outil construit le light wrap et la carte de suppression du spill. Comme il s'agit d'un produit tiers doté de sa propre documentation, les préréglages numériques que nous utilisons ne sont pas publiés ici : c'est un réglage de studio. L'ordre de travail est commun à ce type d'outils : on obtient une clé grossière avec un effet séparé, sans chercher tout de suite à parfaire le bord des cheveux ; on pose l'outil de compositing par-dessus ; le fond est fourni par une entrée séparée ; la suppression du spill n'est activée que localement, sur le bord.

Chaque keyer embarque une suppression de spill : des traces de la couleur de l'écran sur les bords du premier plan, qui apparaissent parce que la lumière de l'écran se réfléchit sur le sujet. Adobe répartit cette tâche entre deux effets. Advanced Spill Suppressor propose deux méthodes. Standard est plus simple : il détecte lui-même la couleur de clé dominante et demande moins de manipulations ; Ultra se base sur la suppression de spill de l'effet Ultra Key de Premiere Pro. L'effet est désactivé par défaut : on prélève d'abord la couleur de l'écran dans Keylight, puis on l'active s'il reste effectivement du spill à supprimer. Spill Suppressor est le prédécesseur qu'Adobe a fait passer dans la catégorie Obsolete effects avec la version de juin 2014 et qu'il déconseille d'utiliser. Il travaille avec une couleur 32 bits. Key Cleaner se place dans la chaîne entre le keying et la suppression du spill : il récupère les détails du canal alpha perdus à cause des artefacts de compression. Si une semi-transparence indésirable apparaît sur des bords qui devraient être nets, limitez Key Cleaner avec un masque d'effet et un léger adoucissement du masque. L'ordre que Adobe propose pour du footage bien éclairé sur écran coloré : Color Difference Key → Spill Suppressor ou Advanced Spill Suppressor → Matte effects. Pour du footage comportant plusieurs couleurs ou un écran éclairé inégalement — Color Range ; pour les zones sombres et les ombres — Extract Key sur le canal Luminance ; pour un fond statique — Difference Matte. Si la suppression intégrée ne suffit pas, Adobe propose une autre approche : appliquer Hue/Saturation au calque et diminuer la saturation pour atténuer la couleur de clé.

Le light wrap est le phénomène par lequel la lumière du fond contourne les bords d'un objet au premier plan. Les cheveux fins en dépendent plus que tout autre élément de compositing : une mèche est assez fine pour que la lumière la traverse et passe autour d'elle, et sans wrap le bord paraît détaché du fond. Un light wrap manuel dans After Effects s'assemble à partir de calques et d'effets standard : une copie du fond placée au-dessus du premier plan keyé, un flou appliqué à cette copie, le mode de fusion Screen ou Add, le canal alpha du premier plan comme matte de suivi, et l'inversion du matte pour que le fond flou n'atteigne que le bord. Adobe note séparément que le flou du canal alpha après le keying adoucit les bords du matte et améliore le résultat du compositing — c'est la base technique d'un bord doux. Le test est simple : activez et désactivez le calque de wrap. Si le basculement produit un saut visible, les cheveux ont cessé de « flotter » au-dessus du fond et le wrap fonctionne. Nous ne citons pas de préréglages numériques de rayon et d'opacité : c'est un réglage de studio, pas une spécification.

Parfois l'écran coloré est éclairé si mal que le keying ne fonctionne pas du tout. Adobe le formule clairement : si le fond n'a pas une couleur régulière et distinctive, on ne peut pas l'éliminer avec des effets de keying — il faut alors du roto, c'est-à-dire redessiner ou peindre image par image. Les seuils à garder en tête : - Un fond ni régulier ni distinct par la couleur : ce n'est pas du keying, c'est du roto. - Un écran marbré d'ombres : Adobe conseille d'éclairer uniformément l'écran coloré, de le garder sans plis et de tourner avec le moins de sous-échantillonnage chroma possible. - Beaucoup de bruit et d'artefacts de compression : un léger flou avant le keying réduit le bruit et les artefacts et améliore la clé. - Un plan tourné sans penser au compositeur : une clé de qualité exige souvent plusieurs effets de keying à la suite et un réglage soigné de leurs propriétés, surtout si le plan a été acquis sans les exigences du compositeur en tête. - Une garbage matte n'est pas du roto : on masque grossièrement le contour du sujet, on key à l'intérieur du masque, puis on affine avec les Matte effects. Mais si une garbage matte parfaite demande beaucoup de temps, on perd l'avantage du keying sur le roto. Les outils de roto d'After Effects sont Roto Brush et Refine Edge. Refine Edge améliore un matte existant en créant une transparence partielle là où se trouvent les détails fins — cheveux et poils. La segmentation se propage sur 20 images vers l'avant et 20 images vers l'arrière depuis l'image de base ; avec ces outils, travaillez en résolution Full, et gardez la limite de segmentation à quelques pixels du bord souhaité. Le passage de Roto Brush à Refine Edge se fait avec Alt+W (Windows) ou Option+W (Mac OS).