Où passer les prochaines vacances? L’IA vous propose des destinations qui correspondent à vos préférences. Rédiger un discours ou élaborer un concept? L’outil vous fait des propositions concrètes. Créer une image ou une vidéo pour les réseaux sociaux? Quelques instructions suffisent. L’IA générative est un outil encore récent, mais qui occupe déjà une place importante dans de nombreux domaines. Création de textes, d’images, de musique... ce qui prenait auparavant des heures, voire des jours, est à présent possible en l’espace de quelques secondes.
Un phénomène qui s’accompagne aussi d’inconvénients. L’IA peut diffuser des fausses informations, enfreindre des droits d’auteur et consomme énormément d’énergie lors de la formation des modèles et, de plus en plus, lors de la pratique quotidienne. Entre fascination et scepticisme, l’enjeu est de savoir comment utiliser cette technologie de manière responsable.
Les domaines d’application de l’IA sont nombreux. Pourquoi ne peut-on pas tous les évaluer de la même manière?
Dorothea Baur : L’IA a depuis longtemps trouvé sa place dans le domaine scientifique. Les chercheurs utilisent l’IA de manière ciblée. On parle ici d'applications dites spécialisées. Le prix Nobel de chimie de 2024, par exemple, a récompensé des travaux de recherche assistés par l’IA sur la structure des protéines, montre à quel point l’utilisation de l’IA peut être utile et efficace. Une telle application apporte une réelle contribution au monde scientifique. Les modèles d’IA générative, sont accessibles sans restriction et à un grand nombre de personnes. Les performances énormes de ces outils consomment beaucoup d’énergie.
L'IA au service de l'environnement
Pourquoi considérez-vous que l'IA générative n'est pas durable?
Les centres de données consomment beaucoup d’énergie et d’eau et ne sont donc pas écologiques. La rentabilité économique de l’IA est controversée, car son utilité pour la collectivité est souvent faible et nombre de ses applications relèvent de l’expérimentation ou constituent des instruments de marketing. Les coûts externes n’ont pas non plus été intégrés. Prenons l’exemple du droit d’auteur: si les droits de propriété intellectuelle avaient été acquis correctement, l’IA générative n’aurait jamais pu voir le jour. Enfin, elle peut accentuer les inégalités sociales si elle prend des décisions pour l'avenir sur la base de données injustes issues du passé.
IA basée sur des règles: les décisions du système sont basées sur des règles prédéfinies et programmées par des humains. Chaque règle suit un schéma précis: si la condition x est remplie, exécute l’action y. Exemple: si la température est supérieure à 30°C, enclenche la climatisation. Ce type d’IA permet de résoudre des problèmes clairement structurés, mais n’a pas de grandes capacités d’apprentissage.
Apprentissage automatique: le système apprend à partir des données plutôt que de suivre des règles prédéfinies. Il reconnaît des structures dans les données disponibles et peut ainsi établir des prévisions ou prendre des décisions. Exemple: un algorithme est entraîné à l’aide de milliers d’images de chats et de chiens et apprend à reconnaître les différences entre ces deux animaux. L’apprentissage automatique peut s’adapter à différentes tâches et s’améliore avec le volume de données disponibles. La qualité du système dépend fortement des données utilisées pour l’entraîner.
Apprentissage profond: le système est basé sur des réseaux neuronaux artificiels. Ceux-ci sont composés de nombreuses couches (d’où le terme «profond») et peuvent reconnaître des structures complexes. Exemple: les assistants vocaux tels que Siri ou ChatGPT, la reconnaissance faciale ou les traducteurs automatiques. Ces systèmes sont très performants dans le travail avec des données non structurées (images, sons, textes) et apprennent de manière autonome à reconnaître des caractéristiques sans qu’il soit nécessaire de les définir au préalable. En revanche, ils utilisent de grandes quantités de données et sont très énergivores.
Quelle est la responsabilité des utilisateurs de l’IA?
Lorsque j’achète un produit chez un grand distributeur, je ne suis pas responsable de vérifier si des lois ont été enfreintes lors de sa fabrication. Les utilisateurs n'ont ni la responsabilité ni le pouvoir de résoudre les problèmes structurels liés à la technologie. C'est le rôle des politiques et des entreprises. Notre responsabilité consiste à décider en toute conscience où nous utilisons l'IA: est-ce que je souhaite aiguiser mon esprit ou déléguer cette tâche à une machine ? Est-ce que j'agis dans l'espace numérique en accord avec mes propres valeurs? Ce niveau individuel est important, mais il ne remplace pas la responsabilité systémique.
«Les entreprises technologiques ne sont plus des partenaires fiables en ce qui concerne les valeurs que nous défendons.»
Quel est le rôle des entreprises technologiques, selon vous?
Les responsables politiques, les utilisateurs et les entreprises technologiques ont tous leur rôle à jouer. Je constate que les entreprises technologiques se sont discréditées, notamment en matière de durabilité. Jusqu’à il y a trois ans, elles misaient toutes sur la durabilité. Aujourd'hui, une grande partie de ces acquis ont été abandonnés. La vision éthique des entreprises de la Silicon Valley ne vise pas à contribuer de manière notable au développement durable. Je pense qu’il y a beaucoup de choses qui ne vont pas dans ce domaine. À cela s’ajoute le manque de transparence quant au financement de ces nouvelles technologies. De nombreux observateurs parlent d’une bulle spéculative qui risque d’éclater et dont les répercussions pourraient être plus importantes que celles de la bulle Internet de 2003. Beaucoup d’argent est encore investi dans des promesses, et pas dans de la substance.
L'IA au service de l'environnement
Les choses ont évolué extrêmement vite dans le domaine de l’IA. Quelles sont vos observations?
Les développements liés à l'IA prennent le pas sur les questions centrales de durabilité. Pendant un court instant, il semblait que nous étions parvenus à un consensus autour du principe «Leave No One Behind» (ne laisser personne de côté). Mais avec l'émergence de nouvelles technologies et l'augmentation des incertitudes géopolitiques, cette priorité a de nouveau été fortement remise en question. Du point de vue de la durabilité, nous ne pouvons pas nous permettre cette stagnation.
Le vrai et le faux se côtoient souvent dans le monde de l’IA.
Les contenus générés par l’IA et les nombreuses fausses informations érodent notre confiance sur Internet. Aujourd’hui, des mensonges peuvent être diffusés dans le monde entier en un clin d’œil et sans grand effort. Dans son livre intitulé «Enshitification», l’auteur canadien Cory Doctorow décrit comment les plate-formes numériques s’autodétruisent: d’abord, elles fascinent les utilisateurs, puis elles les exploitent. La même chose se passe avec les publicitaires. Après un certain temps, tout n’est plus qu’une question de maximisation des profits et la plate-forme finit par disparaître. À cet égard, je suis presque reconnaissante envers l’IA: d’une certaine manière, elle nous fait fuir Internet et nous permet d’apprécier à nouveau la valeur des rencontres authentiques.
«Est-ce que je défends les mêmes valeurs dans l’espace numérique que dans la vie réelle?»
Le manque de transparence est-il un problème majeur?
Une grande partie de la recherche scientifique est effectuée dans des entreprises privées, et non dans des universités. Les entreprises ne sont pas soumises à un double processus de vérification. De plus, pour des raisons de confidentialité commerciale, il n’existe aucune transparence concernant les données et les modèles utilisés. Les systèmes sont si complexes que leurs résultats sont difficiles à retracer. Aussi, la frontière entre la recherche et le marketing devient de plus en plus floue.
L’IA générative a-t-elle donc bientôt atteint ses limites?
Lorsque l’IA base son apprentissage sur un volume trop important de contenus qu’elle a elle-même générés, elle perd en qualité. Or, les humains créent de moins en moins de nouveaux contenus, ils ne font plus que présenter ce qui est créé pour eux. Mais l’IA est dépendante de nous, elle a besoin de nos idées, de nos actions et de notre créativité. Sans nous, elle n'a pour ainsi dire pas de nourriture.
Dorothea Baur
est conférencière, consultante et enseignante dans les domaines de l'éthique, du développement durable et de l'intelligence artificielle. Elle a obtenu son doctorat à l'université de Saint-Gall et a travaillé dans la recherche et l'enseignement à l'échelle internationale avant de se mettre à son compte il y a dix ans. Aujourd'hui, elle travaille à la croisée de la responsabilité sociale et des développements technologiques, dans le cadre de conférences, de formations continues et de conseils stratégiques. Le 27 novembre, elle était l'oratrice principale de la Conférence sur l'observation de l'environnement à Berne.