Dossier Animation 2D/3D : Panorama des shaders Toon

La 3D est caméléon. Pour les films à effets spéciaux, des moteurs de rendering hyper-réalistes à base de ray-tracing et de radiosité ont été développés. En animation, ce sont des techniques de calculs proches du graphisme de l’animation traditionnelle qui sont recherchées. Par opposition au réalisme, elles sont nommées NPR pour « Non-Photorealistic Rendering » et englobent des rendus très divers, aquarelle, peinture à l’huile, traits de crayon, etc. Tous les deux ans, des conférences scientifiques très poussées sur ce sujet complexe, ont lieu à Annecy pendant le festival d’animation. Pourtant, il n’existe pas de solution commerciale globale qui fonctionne en animation et qui soit convaincante. En images fixes en revanche, il existe des outils merveilleux, comme Piranesi d’Informatix, destiné aux architectes et aux paysagistes, et idéal pour donner un look d’esquisse à une scène 3D. Le seul domaine où de nombreux logiciels sont utilisés couramment est pour le rendering dit « toon » composé d’aplats de couleurs, avec ombres et lumières, et de traits de contour.

Une foison de plugins

Comme dans d’autres secteurs, les logiciels 3D les mieux pourvus en plugins Toon sont 3DS Max et Maya. Ne nous attardons pas sur « The Incredible ComicShop » de Meme-X. Bien que distribué par Digimation, ce plugin n’évolue plus, et n’est pas compatible au delà des versions 3 de Max et 2 de Viz. Il a pourtant été utilisé encore récemment pour une partie du rendering cartoon du long-métrage « les Triplettes de Belleville ». Il existe de meilleurs plugins, compatibles avec les dernières versions de 3DS. Les rois du plugin Max, Reyes et Cebas, commercialisent chacun leur solution. FinalToon de Cebas, est vendu 510 Euros. Son intérêt par rapport à un shader est de tracer réellement des traits une fois le rendering effectué. Un tel procédé a de multiples avantages dont le réglage en temps réel. Il n’y a pas besoin de relancer le rendering complet. Enfin, cette technique offre la possibilité de tracer des lignes cachées. Le prix du plugin s’explique par les nombreux paramètres 2D et 3D disponibles pour régler le type de traits souhaité. Il est aussi possible d’utiliser une texture pour simuler les traits de crayons.

Reyes tente l’aventure du NPR

La société espagnole Reyes, de son côté, commercialise un plugin généraliste pour le rendering non réaliste, NPR1 Reyes à 275 Euros, destiné à remplacer son ancien plugin Cartoon Reyes, à 165 Euros, qui ne fait que du rendering toon. NPR1 offre la possibilité de calculer une scène 3D avec plusieurs types de rendering artistiques préparamétrés, comme le crayon, l’aquarelle ou la peinture, simulés à partir de traits de brosse ou de crayons statistiquement répartis dans l’image. A utiliser si le frétillement de l’image ne pose pas problème. Le calcul en post-traitement ne permet pas de garantir une parfaite continuité lors de l’animation, bien que le frétillement informatique soit moins fort que l’équivalent manuel.

Pour tous les goûts

Il existe d’autres plugins toon, qui se défendent très bien et qui existent à la fois pour Max et pour Maya. Le premier est le renommé Illustrate, développé par David Gould, et qui a été utilisé sur de nombreux long-métrages dont « Corto Maltese : la cour secrète des arcanes ». Il est distribué par Digimation, à moins de 400 US$. La dernière version 5.2 proposent plusieurs nouvelles fonctionnalités dont une taille de traits variable en fonction de la distance à la caméra, et un calcul en passes séparées. Le rendering des aplats de couleurs a aussi progressé et inclut des fonctions standards de 3DS comme les ombres, les réflections et les réfractions. Enfin, le contrôle manuel de chaque trait a été amélioré. La sortie des images peut être vectorielle, dans les formats Adobe Illustrator, Autocad DXF, et Shockwave Flash, ce qui ouvre là aussi de nouvelles possibilités pour le web. Cambridge Animation, qui développe un logiciel complet d’animation 2D, avec scan, gouachage et compositing, commercialise Animo Inkworks au prix de 299 US$. A noter que de son côté la société française Mediapegs commercialise un nouveau module 3D Fusion, qui permet de régler en temps réel l’intégration entre les éléments 2D du layout et des éléments 3D issus de scènes 3DS Max. Les modifications faites dans cet éditeur, comme le réglage des lumières, sont exportables dans le render 3D pour être calculées en batch.

Des shaders qui se perfectionnent

Les plugins palliaient à une insuffisance des shaders toon livrés en standard dans les différents logiciels. En effet, si ce type de fonction est incontournable dans tout bon logiciel 3D qui se respecte, il faut avouer que les éditeurs n’avaient guère mis la priorité sur ce sujet en dehors de Softimage. C’est en train de changer, l’utilisation de la 3D dans les films d’animation 2D n’est plus l’exception. C’est devenu la règle dans tous films d’animation 2D ambitieux. Pas étonnant que les dernières versions des shaders toon soient devenus excellentes, que ce soit dans Maya, 3DS ou XSI. Le toon shading de Softimage puis de XSI, a été utilisé par le studio Ghibli, pour les deux derniers films de Hayao Miyazaki, « Princesse Mononoke » et « le Voyage de Chihiro ». 3DS Max de son côté, propose depuis peu, un nouveau shader, Ink’n Paint, assez comparable à Illustrate bien qu’un peu plus lent, et qui a l’avantage d’être inclus en standard. Enfin, Maya a non seulement un toon shader honorable, mais aussi depuis la version 5, un calcul vectoriel qui exporte du flash animé. Lightwave reste une exception. L’animation n’est pas son marché principal, les sociétés qui affrontent un projet d’envergure avec Lightwave, sont obligées de développer leur propre solution de render toon. Il existe des plugins mais qui sont insuffisants pour les cas sophistiqués.

La post-production reste incontournable

Tout n’est pourtant pas résolu dans un domaine qui semble, à tort, simple techniquement. Les cernés posés en dessin d’animation ne sont pas posés au hasard, et répondent à des règles de construction précises. L’équivalent généré automatiquement par ordinateur à partir d’une base de données 3D a souvent le défaut de ne pas commencer et s’arrêter aux bons endroits, et souvent bouge bizarrement en animation. Du coup, il n’est pas rare que l’automatisme pur soit abandonné. Les traits de contour sont alors définis manuellement ou même modélisés sur la surface de l’objet. Et pour la qualité du résultat, les traits sont généralement calculés dans une couche séparée des couleurs, et retravaillés en post-production avant le compositing. C’est le cas pour les projets les plus exigeants artistiquement. Pour le web, le traité est plus simple mais la génération optimisée des vecteurs n’est pas si évidente non plus. La plupart des outils toon ont maintenant des doubles sorties images et vecteurs. Il existe aussi d’excellent outils dédiés Internet, comme Swift3D (voir Pixel N°65) ou Plasma (voir Pixel N°70), qui exportent en vectoriel des objets 3DS Max animés.

Pour en savoir plus :

Piranesi / Informatix : www.informatix.co.uk
FinalToon / Cebas : www.cebas.com
NPR1 Reyes : www.reyes-infografica.com
Illustrate / David Gould : www.davidgould.com
Animo Inkworks / Cambridge Animation : www.cam-ani.co.uk
Swift3D / Electric Rain : www.erain.com
Plasma / Discreet : www.discreet.com

© juin/juillet 2003 François Ploye et Pixel SA