NUMÉRIQUE RESPONSABLE | STRATÉGIE

[L’œil de l’expert] Intelligence artificielle générative, entre risques et opportunités

Février 2024

L’Intelligence Artificielle (IA) générative revêt bien des réalités différentes. Sources d’opportunités, elle est tout autant source des plus grandes inquiétudes. Aux yeux de l’enseignant-chercheur Vincent Courboulay, c’est bien cette injonction contradictoire qui le confronte le plus à sa difficulté à entrevoir un futur complètement positif avec l’IA.

« Je suis comme un enfant diabétique dans un magasin de bonbons ». Face à la montée de l’IA, Vincent Courboulay, enseignant-chercheur à La Rochelle Université n’est pas dupe, les opportunités sont très nombreuses mais les risques bien trop élevés pour pouvoir créer une intelligence artificielle vertueuse et compatible avec les enjeux socio-environnementaux que nous rencontrons.

« J’ai les yeux qui brillent et les genoux qui tremblent », nous confie-t-il « Je sais que c’est potentiellement en train de changer le monde pour le meilleur comme pour le pire ». Pour Vincent Courboulay, les choses se développent à une rapidité jamais vue dans aucun écosystème technologique ou technique durant ces 150 dernières années, ni connue dans d’autres secteurs ou d’autres révolutions.

Pour lui, c’est encore un paramètre supplémentaire dans un métier dont la finalité est sans cesse questionnée. « Je ne suis pas dubitatif, j’étais déjà dans un univers d’injonctions contradictoires, j’ai l’impression d’avoir acheté une pelle pour creuser encore un trou de plus ! » ajoute-t-il.

Ce spécialiste du numérique responsable, auteur de deux livres sur ce sujet parus aux éditions Actes Sud, Vers un numérique responsable (2021) et L’archipel des GAFAM (2023) travaille dans les métiers du numérique avec passion et un brin d’angoisse. Compte tenu des dérives observées des métiers de l’IT et conscient des défis environnementaux, il s’est très vite engagé pour travailler sur la question du Green IT au début des années 2010.

Il a ensuite co-fondé l’Institut du Numérique Responsable fin 2018. A travers la notion plus élargie de numérique responsable, Vincent Courboulay ouvre ses travaux aux impacts sociaux du numérique. L’intelligence artificielle et plus particulièrement l’IA générative en sont de très bons exemples.

Etat de l’art des travaux

Maître de conférences habilité à diriger des travaux de recherche, Vincent Courboulay encadre des étudiants en thèse. Il accompagne, en ce moment même, une thèse en cours d’achèvement autour de l’IA. « C’est une entreprise qui est venue nous voir avec la volonté de financer des travaux sur des méthodes de réduction de consommation énergétique des modèles d’IA » décrit-il, « nos travaux revêtent un intérêt mais compte tenu des évolutions, l'écosystème de l’IA ayant changé, ils restent de fait difficilement déployables tellement tout a été vite en l’espace de trois ans ».

Il faut bien dire qu’il y a trois ans, ChatGPT 3.5 n’existait pas encore et le grand public n’avait donc pas encore en main l’accès à cette technologie. « À l’époque, il y avait beaucoup moins d’intérêt sur le sujet ; la recherche avançait mais avec bien moins de célérité que sur l’année et demi qui vient de s’écouler » précise Vincent Courboulay, « entre-temps, le monde a changé ».

Des études exploratoires ont par ailleurs accompagné la sortie de ChatGPT. Des études scientifiques poussées et des livres blancs ont vu le jour pour tenter d’analyser les risques et opportunités liés à l’IA générative. En France, nous pouvons citer les très bons travaux Data for Good, association à but non lucratif, qui a publié, en septembre 2023, un livre blanc nommé “Les défis de l’IA Générative”.

Les entreprises opérantes

Dans le foisonnement de l’IA générative, bon nombre d’entreprises opèrent et fleurissent aux quatre coins du globe. La plus emblématique est bien sûr OpenAI et son créateur Sam Altman, l’entreprise par laquelle le déferlement de l’IA générative auprès du grand public est arrivée. Dans le même temps, les générateurs d’images tels DALL-E ou Midjourney ont également étonné par leur capacité créative.

En France, c’est mi-2023 qu’une entreprise, ou plutôt un embryon d’entreprise, est sorti du bois : Mistral AI. Créée quelques mois plus tôt par des personnes venues tout droit de Meta et Google, Mistral AI a levé au cours de l’année 2023 pas moins de 490 millions d’euros. Ainsi, sept mois après sa création, en décembre 2023, Mistral AI se retrouve propulsée à 1,85 milliard de dollars de valorisation.

De quoi se poser la question, face aux défis environnementaux croissants, du sens réel d’une telle valorisation. De quoi aussi donner de grands espoirs à celles et ceux qui aspirent à la création d’une IA à la française. « Je pense que beaucoup voient Mistral AI comme le “cocorico national”, la fierté du pays ; ils espèrent que c’est l’entreprise qui réussira à concurrencer ChatGPT ; c’est assez classique dans l’économie de marché » explique Vincent Courboulay.

Plus que le développement de nouvelles entreprises, il y a un nombre très importants de plugins qui apparaissent en lien avec ces IA, spécialisés sur certaines thématiques particulières. Ces plugins orientés métiers ou usage utilisent un aspect spécifique de l’IA générative pour accélérer un certain nombre de tâches perçues jusqu’alors comme, entre autres, chronophages.

Des opportunités

Partout, directement à son niveau, au niveau pédagogique, au niveau de la recherche, Vincent Courboulay voit les opportunités potentielles. Celles-ci sont telles qu’il est encore difficile d’entrevoir l’ensemble des usages possibles. Dans tous les cas, pour ce spécialiste du sujet de l’IA, le quotidien de l’entreprise, demain, pourrait bien être de déployer le RAG  (Génération Augmentée de Récupération). « La RAG, c’est la possibilité de coupler un LLM avec tous les datalakes qui portent des données de l’entreprise. »

Décryptage. Le RAG est un processus qui consiste à utiliser un modèle de langage d’intelligence artificielle générative (LLM) avec des données spécifiques, en ayant à le réentraîner uniquement sur les connaissances spécifiques ajoutées, et non sur toutes les connaissances. En somme, le RAG permet de bénéficier de l’expérience acquise par un LLM via l’entraînement sur des données massives, pour une utilisation spécifique sur les données de l’entreprise (datalakes).  

« Ainsi, le modèle de langage d’IA générative de l’entreprise n’est pas utilisé sur des données génériques provenant de l’ensemble du web. L’utilisation et l’apprentissage qui en découle se centrent sur les informations de l’entreprise ; l’IA devient alors la spécialiste de la donnée de l’entreprise  » explique en détail Vincent Courboulay, « autant “l’ingénieur prompteur” j’y crois peu, mais développer les compétences autour du RAG me semble essentiel et vecteur d’opportunités pour les entreprises françaises. »

Un risque d’affadissement

Vincent Courboulay identifie aussi des risques majeurs. Parmi eux : la perte de compétence, la dépendance et la banalité. « Demain, par manque de créativité, on pourrait se retrouver avec des personnes en entreprise incapables de disrupter ! », explique l’expert en IA « la sérendipité est pour l’instant mise à mal. Je ne sais pas si cela va durer mais c’est le cas aujourd’hui ».

L’autre enjeu, à ses yeux, est la globalisation de nos modes de pensées, « tout pourrait se ressembler ! Si on n’y prend pas garde, demain, le monde va s’affadir par uniformisation » précise Vincent Courboulay, « nous avons déjà moins d’expérience car tout s’uniformise avec la mondialisation. Demain, les expériences pourraient avoir toutes le même goût sauf dans certaines niches, mais alors ce ne sera pas le même prix ! »

Cette peur d’affadisation s’explique très bien par logique même de fonctionnement de l’IA générative. A force d’interroger les IA génératives pour créer le contenu à la place de notre cerveau, les propositions vont s’aligner. Aucune ne sera mauvaise, mais aucune ne sortira du lot. L’enrichissement des langages commence déjà à se faire sur la base de contenus que les IA génératives ont elles-même généré, ce qui renforce ce risque d’affadisation.

La formation enjeu clé

Pour maîtriser la complexité de l’IA générative, la formation est un enjeu clé dont l’État et les établissements doivent se saisir selon Vincent Courboulay, « pour éviter que la France se réveille trop tard et perde son influence ». « L’état doit prendre en compte cet enjeu urgentissime » précise-t-il, « intégrer l’IA dans les métiers est essentiel. Si on doit préparer les étudiants à des métiers qui n’existent pas encore, il faut prendre les devants. »

« J’ai récemment donné un cours à des étudiants en marketing, j’ai pris un temps pour leur montrer tout ce qui existe, en matière d’outils destinés à leurs métiers demain. C’est essentiel qu’ils s’y intéressent dès maintenant » reprend-il.

Peut-être plus urgent encore, est de former ces étudiants aux enjeux environnementaux et à la compréhension des limites planétaires : au même titre que l’intelligence artificielle, les enjeux environnementaux n’étaient pas au programme de ces étudiants en marketing.

Les limites planétaires

Vincent Courboulay observe qu’à l’heure actuelle, l’IA générative dans son modèle de développement n’est pas compatible avec la trajectoire sociale, humaine ou symbiotique avec la nature que nous devons avoir. A titre d’exemples, sur le volet social, l’entraînement des IA nécessite l’intervention d’un certain nombre de personnes sur des micro-tâches de qualification des contenus. Open AI s’est fait épingler l’année dernière pour un contrat avec un sous-traitant kényan. La précarité, la faible rémunération et l’impact sur la santé mentale des travailleurs, soumis à des textes à qualifier souvent violents, étaient au cœur de la polémique.

Sur le volet environnemental, les quelques études sur le sujet de l’impact de l’IA générative indiquent une empreinte très importante autant sur la phase d'entraînement que sur la phase d’utilisation. Mais la question des limites planétaires pour Vincent Courboulay se pose surtout sur les conséquences de l’IA. Pour lui, tout va dépendre du périmètre qu’on accorde autour du développement de l’IA « Si l’IA permet de faire en deux jours ce que nous faisions habituellement en 20 jours, la question est : que faisons-nous des 18 jours restants ? ».

Si c’est au service de temps libre, l’enseignant-chercheur, se permet de rêver que c’est une potentielle bascule vers la semaine de quatre jours ou vers d’autres modèles « plus raccords avec les limites planétaires ». Dans ce cas de figure, il est envisageable que l’IA générative soit compatible avec les limites planétaires. Mais si c’est au service de plus de productivité alors ce ne sera pas le cas.

Les deux plus gros risques de l’IA générative à ses yeux sont à ce titre l’effet rebond et le business as usual : profiter des capacités de l’IA générative pour produire encore plus dans le même modèle productiviste avec une logique de croissance basée sur le volume telle que nous la connaissons aujourd’hui.

Vincent Courboulay rappelle aussi le rôle des citoyens dans ces choix de société, même si c’est bien sûr tout un système qui doit se questionner pour entrevoir mieux la finitude de ce monde et l’enjeu de se reconnecter au vivant.

En attendant, Sam Altman compte bien continuer à développer son entreprise valorisée aujourd’hui à près de 30 milliards de dollars. Il cherche même à la rendre complètement indépendante et lever ainsi, tenez-vous bien, entre 5 000 milliards et 7 000 milliards de dollars, rien qu’environ 7% du PIB mondial de 2023, pour être pleinement autonome dans l’approvisionnement en puces électroniques.

Si cette hypothèse ne semble pas tenir compte des limites planétaires, elle montre la course à toujours plus de productivité. Le pied sur l’accélérateur dans un monde aux ressources finies, qui vient de passer une année 2023 à +1,48°C et qui manque de plus en plus de ressources en eau - nécessaire par exemple pour faire refroidir les datacenters, combien de temps l’IA générative pourra-t-elle continuer son exponentielle expansion ?

A propos

Vincent Courboulay est enseignant-chercheur à La Rochelle Université. Investi dans le numérique responsable depuis près de 15 ans, il co-fonde l’Institut du Numérique Responsable en 2018. Il est l’auteur de deux livres parus aux éditions Actes Sud : Vers un numérique responsable (2021) et L’archipeldes GAFAM (2023). Il est également membre du Comité de Programme de GreenTech Forum Brussels 2024 (18 et 19 juin).

Auteur de l'article : Rémy Marrone pour GreenTech Forum

GreenTech Forum est le rendez-vous professionnel dédié au Numérique et à l'Environnement.
Organisé sous le haut patronage de Planet Tech'Care, initiative pilotée par le programme Numérique Responsable de Numeum, l'édition 2024 se tiendra les 5 et 6 novembre au Palais des Congrès de Paris.
Plus d'informations