L’IA au festival d’Annecy

L’utilisation du phénakistoscope à miroir, Camille Gilbert, gravé par E.A. Tilly, 1884.

Voici un compte-rendu de la conférence intitulée L’IA au service de l’animation ?¹ à laquelle j’ai participé lors du festival international du film d’animation d’Annecy, ainsi que des discussions tenues pendant le festival, notamment autour du rassemblement pour la régulation des I.A. génératives organisé par plusieurs organisations syndicales et associations.

Sur l’usage de l’IA dans les studios

Le thème central de la conférence portait sur l’usage d’outils d’intelligence artificielle dans les studios d’animation. Comme toujours, lorsque l’on parle d’I.A., il faut commencer par s’accorder sur ce qu’on met derrière le mot.

Dans ce cas précis, il faut commencer par différencier l’usage d’I.A. générative, qui sortirait à partir de presque rien des images finales, des outils plus spécialisés qui viennent épauler la production ou ouvrir de nouvelles portes en améliorant les techniques et la qualité du produit fini.

Si la première est encore peu (ou pas) utilisée en studios (bien qu’il y ait une veille sur le sujet, et qu’il soit en réalité impossible de savoir si une personne s’est individuellement appuyée ou non sur des outils d’I.A. dans la chaîne de production), les seconds sont déjà relativement présents et utilisés, comme outils techniques et spécifiques, par exemple pour extraire de l’information d’images, faire de la rotoscopie, vieillir ou rajeunir des personnages, etc. On peut se poser la question de l’usage différencié de ses outils entre productions d’effets spéciaux pour la prise de vues, et production d’animation.

Une fois de plus, il faut donc bien savoir différencier et classer ce que recouvre le terme trop général « I.A. ».

Sur le sujet, Quentin Auger⁴, qui participait à la conférence avec moi, me redirige vers Karen Hao⁵, qui fait le parallèle entre le mot « IA » et « Transports » :

« I.A. » est un mot intéressant parce qu’il est similaire au mot « transports », qui inclue les vélos, les camions bouffeurs de gazoil, les fusées. Tous sont des moyens de transport, mais ils ont tous un but différent et une balance bénéfice-risque différent.⁶

Pourtant, savoir différencier les I.A. selon leurs échelles, leurs fonctionnements et leurs usages, pour notamment séparer les plus grands modèles et la quête de l’intelligence artificielle « générale » des outils spécialisés, est primordial :

La quête de l’intelligence artificielle générale a la pire des balances, parce qu’on essaie de construire une machine à tout faire, mais qui finalement ne peut pas réellement tout faire. Donc non seulement on induit le public en erreur sur ce que peuvent réellement faire ces technologies, ce qui est délétère parce que les gens commencent à demander des choses comme de l’information médical mais reçoivent au contraire de la désinformation, mais aussi ça a (…) une consommation de resources colossales, une exploitation du travail colossale. Mais il y a beaucoup de types différents de technologies d’I.A., qui je pense sont immensément bénéfiques. Ce sont des modèles spécialisés à certaines tâches (…) comme intégrer des énergies renouvelables dans la grille, les prévisions météo, la conception de médicaments, la santé (…). On peut créer de tout petits ensembles de données, et les entraîner sur de tout petits ordinateurs.⁷

Précisons ici tout de même que, même si les « petites » I.A. spécialisées sont relativement très légères, si on les compare aux gargantuesques modèles génératifs à usage général, elles restent incomparablement plus impactantes, en terme de ressources (numériques autant que matérielles), que des algorithmes et programmes « classiques » ; par exemple, une simple application très spécialisée permettant de séparer la voix des instruments d’une musique, basée sur apprentissage automatique⁸, pèse pas moins de 1,7 Go en téléchargement (pour faire tourner le modèle localement et non en ligne). Si c’est incommensurablement plus faible qu’une I.A. générative, c’est aussi gigantesque par exemple si on compare à FFmpeg, un logiciel classique mais bien plus versatile, capable en moins de 100 Mo (c’est-à-dire plus de 15 fois moins) de convertir toutes sortes de flux multimédias dans des dizaines de standards et d’y appliquer des dizaines de filtres audio et vidéo différents.

Partant de cette constatation, le problème qu’il ne faudrait pas ignorer en ce concentrant sur ces cas individuels, en isolant chacune de ces « petites » I.A. comme si elles n’étaient que de simples outils comme les autres, est que si on analyse cette tendance à l’usage du machine-learning avec une vision plus globale et en faisant la somme de tous ces nouveaux usages, la multiplication des besoins en transferts de données et en puissance de calcul n’est plus négligeable, d’autant plus qu’il faut aussi prendre en compte l’effet rebond et le paradoxe de Jevons, connu depuis 1865. Ce paradoxe énonce qu’à mesure que les améliorations technologiques augmentent l’efficacité avec laquelle une ressource est employée, la consommation totale de cette ressource peut augmenter au lieu de diminuer. En particulier, ce paradoxe implique que l’introduction de technologies plus efficaces en matière d’énergie peut, dans l’agrégat, augmenter la consommation totale de l’énergie. Il est tout à fait applicable à ces nouveaux outils d’intelligence artificielle, et leurs usages dans les effets spéciaux et le cinéma d’animation dont nous avons parlé lors du festival d’Annecy, où effectivement, pris individuellement, isolément, ils peuvent sembler permettre une économie de ressources en facilitant et en accélérant le travail, mais ne manqueront pas, à l’échelle globale, de surtout faire exploser la quantité produite (notamment en multipliant les productions à bas coût et les usages semi-amateurs et amateurs, une tendance qu’on peut déjà noter), pour un bilan très négatif, en terme de consommations.

Peut-être serait-il temps que la notion de sobriété fasse son entrée dans le numérique, et dans la production de films, et faudrait-il aussi se poser la question de l’utilité réelle de ces nouveaux outils, en fonction de leurs domaines d’application, de leur importance, mise en balance avec les coûts et impacts négatifs qui doivent prendre en compte l’augmentation productiviste qui va avec. Des choix seront inévitablement à faire sur une planète aux ressources (matérielles et énergétiques) finies.

J’ai souligné un autre aspect inquiétant lors de la conférence, qui est que les outils spécialisés et plus légers ne sont pas ce que voient les actionnaires, les financeurs, les producteurs, qui généralement s’intéressent peu aux détails techniques de fabrication (ce n’est d’ailleurs pas ce qu’on leur demande), et qui auront naturellement tendance à tirer les équipes et les prestataires vers les nouvelles technologies dans un but purement économique (afin d’économiser aussi bien du temps que de la main d’œuvre), quitte à faire des compromis de qualité, et tireront la corde vers l’usage d’I.A. génératives permettant la suppression de secteurs entiers de la production. Tous ne le feront peut-être pas, bien sûr, mais la tendance semble malgré tout inévitable, en particulier dans les productions déjà considérées « à bas coût » où des compromis que la qualité existent déjà (par exemple en production de séries TV, motion design, etc.).

Ce qui sauve encore, temporairement, ces productions de l’inondation IA générative est peut-être l’illégalité évidente de la récolte des données d’entrainement, pouvant mener à une violation de copyright, de propriété intellectuelle, même involontaire (et inconsciente), dans l’œuvre générée. Mais c’est aussi, surtout, l’impossibilité de protéger une image 100 % générée par I.A. par la propriété intellectuelle. Sans cette protection, les modèles économiques d’une grande partie des productions, dont la valeur provient spécifiquement de cette propriété intellectuelle, vacillent.

Mais il y a fort à parier que ces limitations seront un jour ou l’autre surmontées, que ce soit par des accords entre éditeurs, par l’usage d’IA « légales » comme on commence à en voir arriver (comme nous en parlons dans la suite), ou de nouvelles règlementation.

Des outils d’intelligence artificielle à disposition des artisans numériques

Du point de vue de l’artisan, il est évident que certains outils spécialisés d’I.A. peuvent être utiles et ne rien enlever à la qualité du travail. De tels outils sont amenés à être de plus en plus nombreux.

Dans ce contexte, Quentin Auger souligne qu’il faut rester vigilant et reconnaître deux approches opposées de l’usage de tels outils : d’un côté, pris comme des outils ouvrant de nouvelles portes, tout en gardant un contrôle précis (notamment grâce à l’expérience technique et artistique de l’artisan), ils peuvent permettre, comme tout outil spécialisé, une amélioration du travail ; alors que mal maitrisés, ou utilisés dans le simple but de « gagner du temps » (et non pas de la qualité), ils outrepassent leur rôle d’assistants obéissant et introduisent une perte de contrôle sur la fabrication, des compromis qualitatifs, et l’artisan finit dépossédé de son travail.

Nous soulignons alors le problème de la formation des débutants : comment un ou une jeune inexpérimentée peut s’y retrouver et contrôler l’I.A. plutôt que d’être contrôlée par l’I.A. ? La question reste ouverte. Thierry Paalman l’exprime bien en demandant ce qui fera la différence entre l’artisan expert et un monde où n’importe quel amateur pourra générer une image terminée plus que correcte. L’importance de l’éducation et de l’expérience artistique et narrative est primordiale.

Alors que, dans ce podcast, je m’inquiète d’une perte de savoirs et de connaissances liée à l’usage des I.A. statistiques, nous arrivons à la conclusion que l’enseignement des connaissances, des savoirs, de l’art, de la narration, autant que l’expérience, deviennent toujours plus indispensables. La facilité d’usage de l’I.A. doit nous pousser à compenser ces pertes qui m’inquiètent. La question reste ouverte sur la manière dont nous devons enseigner ces savoirs et transmettre cette expérience, justement parce qu’ils ne semblent pas nécessaires, à priori, à la génération des œuvres, et alors que l’importance de l’expérience est déjà un aspect difficile à transmettre aux plus jeunes. Gardons bien conscience que jusqu’ici, l’enseignement technique servait aussi de prétexte et de support à l’enseignement artistique ; il est très facile d’émettre la volonté de prioriser l’enseignement artistique, mais nous, enseignants, savons bien que cet enseignement à la créativité se nourrit aussi des contraintes et difficultés techniques, et qu’à contrario la facilité technique comme celle apportée par l’I.A. ne fait que nourrir aussi la fainéantise intellectuelle.

Quentin et Jean-Jacques Lonni⁹ ont justement tous deux constaté lors des « JAMs » Creative Machines ?¹⁰ que ce sont bien les artisans les plus expérimentés qui ont su générer des films un minimum corrects, au contraire des amateurs et des débutants.

Des I.A. éthiques ?

Lors de la conférence, Arvid Tappert nous a expliqué comment Asteria Film explore les usages de l’I.A. pour produire des films et de l’animation, et développe avec Moonvalley une I.A. générative de vidéo dite « éthique », c’est-à-dire entraînée avec des données acquises légalement et utilisées sous licence.

Récemment, la création de Common Pile v0.1¹¹ a montré qu’on pouvait entraîner un LLM fonctionnel et relativement performant en n’utilisant que des données acquises légalement.

Mais il faut tout de suite relever une certaine confusion sémantique, entre légalité et éthique. Tout d’abord, ces deux exemples évacuent l’impact environnemental du domaine de l’éthique, ne le mentionnant pas, comme s’il n’en faisait pas partie. On peut relever la même lacune en ce qui concerne les impacts sociaux de l’I.A., le travail délocalisé et ses éventuels ouvriers du clic qui classent les données, entrainent et alignent les I.A. L’éthique se limite donc ici au respect du droit, de la loi, dans la collecte des données d’entraînement.

Pour aller plus loin, ajoutons que « légalité » ne rime pas avec « éthique ». Ces ensembles de données reposent notamment sur du code informatique « open source » notamment disponible sous des licences dites « libres »¹², et des œuvres disponibles sous des licences Creative Commons¹³. Ces licences libres et une partie conséquente des licences Creative Commons¹⁴ imposent aux utilisateurs des travaux concernés de repartager ce qu’ils en font sous les mêmes licences ou des licences compatibles, interdisant la fermeture, la privatisation, et perpétuant ainsi le partage et l’ouverture. Ce n’est clairement pas ce que font les I.A. statistiques, qui diluent ce qu’elles ingurgitent, le gardent privé, et n’imposent aucune restriction sur ce qui est régurgité. Généralisons. S’il est légal d’utiliser l’œuvre d’un auteur pour entraîner une I.A. grâce à une licence ou un contrat signé avant que ce type d’usage ne soit seulement imaginable, est-ce pour autant éthique ? Les auteurs et les autrices n’auraient-elles pas leur mot à dire sur l’usage qui est fait de leurs œuvres ?

Une mobilisation contre l’I.A. générative

Comme nous l’avons mentionné plus tôt, un usage contrôlé de l’I.A. (pas nécessairement générative) pourrait être vertueux, si et seulement s’il se limitait à un choix technique des artisans eux-mêmes, des travailleurs et travailleuses, sous un contrôle étroit et en gardant du recul, accompagné d’une nécessaire éducation populaire. Mais l’I.A. imposée pour des raisons économiques constitue un danger évident pour le travail, les œuvres et celles et ceux qui les fabriquent. Le malaise des travailleurs et des travailleuses est inévitable et prégnant. Elles et ils sont encore une fois impuissants, car ne maitrisant pas leur propre outil de travail et subissant potentiellement des choix de méthodes imposées et qui ne respectent pas leur propre expertise, qui visent souvent à simplement les remplacer par des machines. Le combat initié par les luddites est toujours d’actualité.

Les I.A. génératives posent aussi des problèmes aux artistes, aux auteurs et aux autrices, qui, comme nous venons de l’expliquer, ne maitrisent plus l’usage qui est fait de leurs propres œuvres, même quand cet usage est légal.

Cette impuissance individuelle peut et doit alors se traduire par une prise de pouvoir collective et des revendications fortes, notamment (mais pas uniquement) dans le cadre syndical.

C’est ce qui a pu être rappelé lors du rassemblement de plusieurs organisations le jeudi 12 au festival d’Annecy.

Voici la déclaration qui a été lue lors du rassemblement :

This statement was composed and supported by a collective of international Animation Unions, federations, and organisations calling for action in regards to the usage of generative Artificial Intelligence and its destructive impact, not only on the global animation industry and the craft itself, but also on everyone who is employed by it, our culture and our planet.

It is an undeniable fact that the animation industry has been suffering greatly these last few years. The economics of streaming have been proven to be not at all lucrative and the increased spending during the pandemic led to the unavoidable burst of the streaming bubble. It is the workers that were staffed up with false promises that are feeling the repercussions through mass layoffs, the increased use of outsourcing, mergers and acquisitions that lead to the closure of studios and ever decreasing budgets.

This echoes across multiple audiovisual entertainment industries and affects workers in animation, music, VFX and the gaming industry.

The rapid expansion of Generative AI in animation is propelled by the perceived beliefs that it is the answer to these developments. To work in these industries is a constant battle to prove our economic worth to a very small number of people, and to those people genAI brings an offer too good to be true: a near magical machine that can produce words and images from a simple and vague description.

Generative AI is neither a tool, nor effective, nor cheap. It is a copying machine that is flawed, destructive and expensive to run. GenAI literally builds upon and draws not only from the copyrighted works it was trained on, but also from the local human cultural values and norms embedded within those works. It poses an immediate threat to creative innovation and renewal, replacing the richness and diversity that characterize human creativity with a creativity shaped by the biases of those controlling and using it. It actively pushes creatives out of their respective industries, which will not only lead to the inevitable loss of knowledge and talent that will never be recuperated fully, but also directly leads to the privatisation of allart process and thinking.

GenAI is a technology that seeks not to support artists, but to destroy them. The absence of humans is a feature, not a bug, of AI art. It is not a tool. We do not “use” genAi – we negotiate with it to try and make it do the things we want it to do. GenAI promises only the loss of employment and livelihood for the millions of people worldwide that work at keeping the world connected through their art.

Unfortunately, the audiovisual industry is not the only victim of this increasingly damaging tech development. This same technology is being used to foster dissent, confusion and distrust among the public and has wide-ranging implications beyond international security, including the fabrication of criminal evidence and news, new forms of sexual harassment including deepfake pornography and/or privacy violations.

The computational power required to train and use generative AI models demands a staggering amount of electricity and water which directly strains municipal water supplies and disrupts local ecosystems. This unchecked growth and unjustified techno-optimism comes with incredible environmental consequences, including expanding demand for computing power, larger carbon footprints, shifts in patterns of electricity demands and an accelerated depletion of natural resources, additionally exploiting without any respect for human rights.

As such, there is a need for protection frameworks around the ethical and fair use of AI. For this we refer to the research brief of the International Labour Organization (ILO) which proposes the concept of “3Cs” (compensation, control on the use of the work of the creator, informed consent), but also for policies, nationally and internationally, to manage workforce transition through skills development, as well as the use of social protection to support workers affected by AI.

Consent: A reasonable balance between on the one hand technological innovation and on the other hand a sustainable and strong cultural and creative sector, requires that training AI with copyright-protected works should only be possible with the (informed) consent of the author(s) of those works.

Compensation: Performers and creators should be fairly compensated for the use of their work including but not limited to illustrations, animations, writing, voicework, likeness, or image, in AI generated content.

Controls: Creators—such as writers, musicians, filmmakers, visual artists, and other professionals—need to be able to govern how their works, identities, and creative inputs are used, adapted, or reproduced by AI systems. This control ensures that the creators’ intellectual property (IP), labour, and reputations are respected and that they receive fair recognition and compensation. In order for this to be realized, creators need to have an understanding on what AI – and particularly GenAI – entails; it is also necessary to build agency among them to negotiate relevant employment conditions.

We call upon the regulators, lawmakers and governments to fight for culture and art and the value it provides, to draft and implement legislation that protects those workers and those rights.

We call upon producers, showrunners, studio heads and production staff to understand and protect our creative culture and to prioritize both the workers and our work.

We call upon all creative workers worldwide to unite. We ask that you support human made works. We ask that you speak up against the implementation of AI. We ask that you become informed and unionise with your fellow workers to protect ourart and culture, our work and our livelihood.

Signed and supported by:

ABRACA (Belgium, animation workers union)
AGrAF (France, directors, graphic authors and writers association)
BECTU (Broadcasting, Entertainment, Communications and Theatre Union)
AWI (Ireland, animation workers union)
CNT-SIPMCS (France, press media culture and show union)
CSVI (Spain, video game union)
FIA (The International Federation of Actors)
FIM (The International Federation of Musicians)
FNSAC-CGT (France, CGT Federation of Entertainment Unions)
La Guilde française des scénaristes (France, writers union)
GWUI (Ireland, videogame workers union)
Les Intervalles (France, association against abuse and discrimination in animation)
Kunstenbond (Netherlands, illustration, comic and animation workers)
La Ligue des auteurs professionnels (France, authors union)
Syndicat des Scénaristes (France, writers union)
SFA-CGT (France, actors dubbing, comedians union)
Snam-CGT (France, musicians union)
SNTPCT (France, animation and VFX workers union)
SPIAC-CGT (France, animation workers union)
STJV (France, video game workers union)
The Animation Guild (USA, animation workers and writers union)
TouchePasàMaVF (France, actors dubbing association against GenAI)
Uni MEI (International Art and Entertainment Alliance)

1. Conférence et discussion de Quentin Auger, Thierry Paalman, Arvid Tappert et moi-même (Nicolas Dufresne), modérée par Flavio Perez des Fées Spéciales. ↩︎
2. Réalisateur à Asteria Film Co ↩︎
3. Responsable Technologie à Submarine Animation ↩︎
4. Co-fondateur et directeur de l’innovation à Dada ! Animation ↩︎
5. Karen Hao est une journaliste étasunienne et autrice de Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI, publié en anglais chez Penguin Press. ↩︎
6. « AI is such an interesting word because it’s sort of like the word transportation in that you have bicycles, you have gas guzzling trucks, you have rocket ships. They’re all forms of transportation, but they all serve different purposes and they have different cost-benefit trade-offs. »
   Voir la vidéo sur LinkedIn. ↩︎
7. « The quest to artificial general intelligence has the worst trade-offs because you are trying to build fundamentally an « Everything »-machine, but ultimately it can’t actually do all of the things. So not only do you confuse the public about what you can actually do with these technologies, which leads to harm because then people start asking it for things like medical information and instead getting medical misinformation back, but also it requires all of these things that I described, the colossal resource consumption, the colossal labor exploitation. But there are many, many different types of AI technologies that I think are hugely beneficial. And this is task-specific models that are meant to target solving a specific well-scoped challenge, something like integrating renewable energy into the grid, weather prediction, drug discovery, healthcare, where you identify cancer earlier on in an MRI scan. These are all very task-specific. It’s very clear what the use case is. You can curate very, very small datasets, train them on very, very small computers. And I think if we want broad-based benefit from AI, we need broad-based distribution of these types of AI technologies across all different industries. »
   Voir la vidéo sur LinkedIn. ↩︎
8. Ultimage Vocal Remover ↩︎
9. Auteur, réalisateur, co-président des Auteurs Groupés de l’Animation Française (AGrAF) ↩︎
10. Creative Machines ? est une communauté de réflexion sur l’impact des IA Génératives dans les industries culturelles et créatives. Le serveur de discussion Discord de la communauté est librement accessible. ↩︎
11. The Common Pile v0.1: An 8TB Dataset of Public Domain and Openly Licensed Text ↩︎
12. Ce sont des licences pour les logiciels, le code informatique, garantissant la liberté des utilisateurs et le partage des sources. ↩︎
13. Ce sont des licences dont le but est de favoriser le partage de la culture, du savoir, dans le respect des auteurs. ↩︎
14. Les licences Creative Commons peuvent inclure une clause « Share Alike » qui impose aux utilisateurs des oeuvres de repartager leurs travaux sous une licence identique. Cette clause est une partie intégrante des licences libres pour le code informatique. ↩︎