After Effects, est certainement le logiciel de compositing au champ d’application le plus vaste. Parmi ses compétences se trouve l’incrustation. Petite mise au point sur le sujet…
Une grande part du travail de compositing consiste à isoler une portion d’une image pour lui appliquer une série d’effet ou la remplacer par une autre image. Il existe de nombreuses méthodes pour cela. La plus courante avec After Effects est le détourage, que l’on réalise en traçant un masque le long du contour de l’objet à isoler. Or, si cela est possible pour des objets simples, en général inanimés (c’est-à-dire indéformables), l’exercice se transforme en cauchemar lorsqu’il s’agit de détourer un humain (vivant) en mouvement. On est alors pratiquement forcé de travailler image par image…fastidieux. Cette technique montre aussi ses limites lorsqu’elle s’intéresse aux zones semi-transparentes ou translucides comme les cheveux, la fumée de cigarette ou l’eau.
Pour toutes ces raisons, la méthode de l’incrustation, keying en anglais, est souvent préférable lorsqu’il s’agit de travailler avec des humains ou des animaux. Son principe est simple : d’abord l’extraction d’un premier plan par rapport à un fond à peu près uniforme, puis le composite de cet élément isolé avec un autre fond.
Luminosité ou couleur ?
Ici, ce n’est plus le truquiste qui décide des contours de l’élément à « extraire », mais le logiciel qui repère une portion de l’image en fonction de certains critères. Or, si notre cerveau permet d’identifier les objets qui composent une image, un logiciel n’a pas cette faculté. Il ne peut décomposer l’image qu’en pixels, eux-mêmes associés à des caractéristiques telles que la couleur, la saturation, la luminosité, la teinte, etc. Ces propriétés de la matière numérique n’ont rien à voir avec le regard subjectif de l’opérateur. Si celui-ci voit où commence le ciel bleu et où s’arrête la mer, le logiciel ne voit que des pixels très semblables, ou pour être plus juste, très dissemblables. Le bleu de l’horizon n’est assurément pas le même que celui de la mer, mais il est aussi très éloigné de celui du ciel en altitude. Et pour corser le tout, il faut rappeler que les pixels sont définis par trois couches (RVB) si bien que parler d’une couleur est en soi une erreur. Un objet ne peut donc être repéré que si du point de vue de l’une au moins des propriétés des pixels qui le composent, il diffère du reste de l’image. En pratique, il existe deux types d’extraction, l’une fondée sur la couleur des pixels, l’autre sur leur luminosité. Bien souvent l’extraction ne fonctionnera que sur des images préparées par un tournage adéquat. L’extraction par luminosité ne fonctionne que dans des cas très précis, tournés généralement sur fond noir, mais avec des résultats relativement aléatoires dans la mesure où une ombre, liée au relief de l’objet, risquera d’être éliminée au même titre que le fond. Plus généralement, le truquiste sera confronté à des images tournées sur fond bleu ou vert. Pourquoi ces deux couleurs, et pas du rouge ou du jaune ? Tout simplement parce qu’elles sont peu présentes dans la pigmentation naturelle de la peau. Quant à l’usage du fond vert , apparu bien après le bleu, on le relie généralement à la naissance de la vidéo par opposition à l’argentique… il est très probable que sa popularité doive autant au Blue-Jean et à la généralisation des vêtements de couleur bleue.
Une voie parsemée d’embûches
Les difficultés que rencontrera le truquiste au cours de l’incrustation sont multiples. En premier lieu, il est rare que le fond coloré soit parfaitement uniforme. Pour parvenir à l’éliminer, le logiciel devra étendre la plage de couleur à rendre transparente avec le risque d’y inclure des pixels appartenant au premier plan. Le travail peut aussi être compliqué par la présence dans le premier plan d’éléments proches de la couleur d’extraction, ou au contraire, d’objets parasites dans l’arrière-plan, comme un micro ou un socle. Enfin, reste la question des semi-transparences et des contours des éléments extraits, sur laquelle devra réellement se porter l’attention du truquiste. En effet, s’il existe des techniques simples pour résoudre les deux premiers problèmes cités, ce dernier point constitue le véritable défi de l’incrustation : conserver plus de nuances possibles, pour conserver le réalisme des éléments extraits et faciliter leur incrustation sur le nouveau fond.
Contrôle de l’image
Une image sur fond coloré n’est pratiquement jamais dans son état optimal pour l’extraction lorsqu’elle est reçue par le graphiste. Il faudra lui faire subir des corrections colorimétriques, parfois violentes, avant d’appliquer l’effet d’extraction proprement dit. De même, l’extraction aura pour effet secondaire de transformer légèrement la colorimétrie de l’image. Pour cette raison, le calque sur lequel sera effectuée l’extraction sera placé en cache par approche de l’image originale, afin de pouvoir manipuler les filtres sans agir sur la colorimétrie de l’image elle-même. Un cache par approche est un calque A qui définit la couche alpha d’un calque B. Autrement dit, le calque B utilise des informations du calque A pour générer sa propre transparence. Ces informations peuvent être soit la transparence (cache alpha), soit la luminosité (cache en luminance). Pour l’extraction, on préférera le cache en luminance au cache alpha dans un souci de lisibilité. Les effets de masquage permettent en effet de n’afficher que le masque d’extraction, image en noir et blanc représentant les zones opaques (blanc), semi-transparentes (niveaux de gris) et transparentes (noir) crées par l’effet. Avant d’appliquer l’effet d’extraction, on pourra appliquer un effet de contrôle colorimétrique tel que Niveaux (effet>réglages) afin de préparer l’image au mieux en accentuant les différences existantes entre le premier plan et le fond. Cette technique permet de réussir une extraction difficile en raison d’un fond trop pâle par exemple.
Une variante consiste à ne régler les niveaux qu’àprès avoir appliqué l’effet de masquage, en contrôlant directement sur le masque d’extraction les conséquences des réglages.
En image :
On est obligé de dégrader le premier plan pour uniformiser et saturer le fond vert. Cette image ne peux donc être utiliser que comme cache.
Les effets de masquage d’After Effects
After Effects propose de nombreux filtres d’extraction. Ils sont normalement situés dans les catégories « Masquage » et « Keying ». Jusqu’à la version 5.5 du logiciel, l’effet le plus performant pour l’extraction sur fond coloré était le « Masquage par différence de couleur ». Les autres filtres de masquage (masque par couleur, linéaire par couleur, par extraction…) ne sont utiles que dans des cas exotiques, où en détournement de leur fonction première, à l’exclusion de « Nettoyage de masque » dont il sera question plus tard. Depuis sa version 6, After Effects est fourni avec un nouvel effet, Keylight, développé par Tinderbox, que l’on retrouve d’ailleurs dans Shake. Si dans bien des cas, il s’avère plus efficace, plus intuitif et simple à paramétrer que Difference de couleur, ce dernier peut donner de très bons résultats lorsqu’on le manipule correctement. Pour chacun de ces effets, le principe reste identique. Il s’agit de réaliser un masque d’extraction en fonction de la couleur de fond et d’autres critères, puis d’agir sur cette image en noir et blanc, indépendamment de l’image originale, pour ajuster ses contrastes et régler les problèmes de contour.
Quelques pistes pour commencer
Masquage par différence de couleur :
Le fonctionnement du « Masquage par différence de couleur » étant des plus mystérieux, il convient de respecter certaines recettes de cuisine. Dans le menu Afficher, sélectionner Masque après correction ou [A,B,Masque], résultat final. Ne jamais agir les options de sorties des masques partiels A et B. Faire varier les paramètres d’entrée des partiels A et B par petites touches pour obtenir quelque chose de satisfaisant (blanc pour les parties à garder, noir pour celles à éliminer, grises pour les cheveux, les verres, la fumée, etc.). Puis agir sur les paramètres Masque pour éliminer les résidus gris foncés dans le fond.
Keylight :
Choisir la couleur de fond avec la pipette, régler le paramère View sur Screen Matte et agir d’abord sur Screen Balance. Ce paramètre très étrange permet en théorie de régler l’effet en fonction de la teinte de la couleur de fond. En pratique, il faut s’attendre à tout et donc, tâtonner. Augmenter ensuite légèrement la valeur du paramètre Screen Strength pour éliminer du fond.
Le masque établi, les corrections du masque sont situées dans le menu Screen Matte. Agir sur les paramètres Clip Black et Clip White pour réduire les contrastes. Eviter le paramètre Screen blur, séduisant mais peu élégant qui agit en flouttant le masque mais préférer le Pre-blur qui agit sur l’image avant l’extraction et qui donne généralement un résultat plus naturel.
Sur les bords…
Après avoir appliqué l’extracteur, se pose le problème des contours de la découpe. La contamination (spill en anglais) résulte du reflet du fond coloré sur le personnage au moment du tournage. On l’éliminera facilement en appliquant l’effet Nettoyage de Masque sur l’image visible (celle qui utilise l’image extraite comme cache)
Ne pas oublier de sélectionner la couleur à éliminer grâce à la pipette en désactivant temporairement le cache. Si vous avez décidé de faire l’extraction en agissant directement sur l’image, Keylight possède son propre « décontamineur » : le Despill Bias, qu’il faut découpler de l’Apha Bias en cochant la case Lock Biases Together. Autre souci, les bords demeurent souvent imparfaits : crénelés, liserés de noir ou de blanc. Là aussi, Keylight possède l’outil adéquat en interne, dans le menu Screen Matte : Donnez une valeur négative (entre 0 et -5) au paramètre Screen grow/shrink. Plus efficace mais plus délicat à paramétrer est l’effet Dilaté-érodé répétitif situé dans la catégorie « assistants de masquage ».
Avant et après le nettoyage de masques
Les éléments parasites
Qu’il soient à éliminer (micro, décor…) ou a conserver (cravate bleue, pochette verte, etc.), les éléments parasitent ne doivent pas être pris en compte dans l’application de l’effet d’extraction. Leur traitement doit être effectué au moyen de masques plus ou moins grossiers. Dans le cas d’une cravate, par exemple, qui disparaît à l’extraction, il suffit de rajouter un calque de l’image originale au-dessus des autres et d’y détourer grossièrement l’objet du délit. Elle se surimposera au personnage extrait du fond coloré et viendra boucher le trou. On peut en cas de mouvement faire évoluer le masque en animant le paramètre Forme de masque. Là aussi Keylight possède son propre arsenal, l’Inside Mask qui utilise un masque du calque extrait en rendant parfaitement opaque la portion de l’image délimitée. Dans la même optique, un masque extérieur (garbage mask) permet de ne se préoccuper que de ce qui se trouve à proximité du personnage à extraire. Là aussi, keylight reconnaît un tel masque (mais il ne faut pas oublier de cocher la case invert).
Il est important de comprendre que ces masques, internes et externes, permettent au truquiste de se concentrer précisement sur ce qui pose de réels problèmes: les contours de l’objet à extraire et les semi-transprences. Leur mise en place peut paraître longue dans la mesure où il faudra souvent animer ces masques dans le temps, mais ils peuvent constituer la clé d’une incrustation réussie.
Façon puzzle
Dans des cas extrêmes, si par exemple le décor contient des zones semi transparentes délicates comme une bouteille d’eau, une vitre… il faudra diviser l’image au moyen de masques et s’attaquer à chacune des parties séparément. Chaque calque étant transparent, la superposition des différentes pièces du puzzle ne posera à priori par de problème.
Le composite
L’incrustation proprement dite est la dernière étape du processus. Elle consiste à intégrer le premier plan dans un nouvel arrière plan. Plus l’extraction aura été soignée, plus cette étape sera simplifiée. On utilisera des effets de corrections colorimétriques tels que Niveaux, Courbes ou Balance des couleurs, tous situés dans la catégorie Réglages, pour harmoniser la chromie des éléments à incruster. Pour parfaire ce travail, on peut récupérer le contour des éléments extraits et s’en servir pour flouter le composite sur l’interface entre le premier plan et l’arrière plan. Cette technique permet d’intégrer plus finement l’élément à incruster et est préférable au flou du masque d’extraction.
Article précédemment paru dans SONOVISION
