Transformer son portrait en personnages animés. Un jeu aussi inoffensif qu’il ne le semble ?
« Je ressens fortement que l’IA est une insulte à la vie », déclarait en 2016 le grand dessinateur de mangas Hayao Miyazaki. « Les humains ne doivent pas perdre la foi en eux-mêmes », concluait-il.
Ces paroles résonnent plus que jamais alors que, depuis deux semaines, les réseaux sociaux sont innondés d’images émulant le style très particulier du fondateur des studios Ghibli, générées par ChatGPT et partagées par les utilisateurs.
Portraits personnels, de chiens et de chats, de personnalités, etc. aux airs de manga. Tout y passe. Sam Altman a reconnu que les serveurs d’OpenAI étaient littéralement en train de fondre, croulant sous la demande.
Alors, ce jeu apparemment trivial est-il aussi inoffensif qu’il ne le semble ?
On doit d’abord mentionner le coût environnemental. Selon des données de l’Universidad Nacional Autónoma de México, générer une seule image au style de Miyazaki peut émettre jusqu’à 135g de CO₂.
Sans parler des millions de litres d’eau nécessaire pour refroidir ces processeurs de données qui tournent à plein régime.
Mais envoyer sa propre photo à ChatGPT, c’est aussi livrer sur un plateau des données très personnelles à OpenAI et consentir à ce que l’entreprise les utilise pour entraîner ses modèles, sans devoir justifier un « intérêt légitime » tel que le RGPD l’y contraint, ni rendre aucun compte.
Vous n’aurez donc rien à dire si votre portrait devient un ingrédient pour alimenter des deepfakes.
Sam Altman est par ailleurs connu pour avoir fondé Worldcoin, un service proposant de scanner l'iris dans des centres commerciaux en échange d'une poignée d'euros — sans préciser l’utilisation qu’il allait faire de ces données.
Enfin, il y a bien sûr la question des droits d’auteur. Les modèles d’OpenAI se sont nourris de centaines de milliers de dessins créés par des humains et qui n'ont pas eu leur mot à dire.
Alors, en particulier dans le contexte actuel où la big tech a baissé les masques et avoué son programme techno-fasciste, ce petit jeu en vaut-il la chandelle ?
Vous souhaitez réagir à ce billet ou lire d’autres contenus sur les défis auxquels nous faisons face en lien avec le numérique ?
⮕ Rendez-vous sur LinkedIn.
⮕ Souscrivez à OFF, la newsletter pour reprendre le contrôle.