Grand témoin
« Le vrai danger, ce n’est pas que l’IA nous remplace. C’est qu’elle nous habitue à ne plus penser »
Maître de conférences en sciences de gestion à Aix-Marseille Université et auteur de L’Homme diminué par l’IA aux éditions Hermann qui a reçu le prix Jacques Ellul 2024, Marius Bertolucci observe et documente depuis plusieurs années les conséquences des systèmes algorithmiques sur les individus et les organisations.
À contre-courant des discours dithyrambiques sur l’IA générative, il défend une approche « technocritique », fondée sur les études scientifiques et les observations de terrain. S’il reconnaît des gains réels, il met en garde contre toute naïveté. Panorama des limites identifiées de l’IA et des compétences à préserver.
Vous évoquez le concept de « workslop ». Comment le définissez-vous et pourquoi les organisations doivent y prêter attention ?
Le workslop, traduit par travail dégénératif, c’est la bouillie de travail produite par IA cela a une belle apparence, mais dès que l’on creuse, cela ne fait pas avancer la tâche confiée. Une étude publiée dans la Harvard Business Review a posé une question simple : que pensez-vous d’un collègue qui vous envoie ce type de production ? Les réponses convergent : moins créatif, moins fiable, moins intelligent (autour de 45 à 50 % à chaque critère).
Le pire, et ce qui est vraiment frappant, c’est que plus de la moitié des sondés ont admis avoir eux-mêmes envoyé du workslop. Qu’est-ce que cela dit du travail effectué ? On vit tous sous une tempête de travail médiocre, qu’on subit et qu’on envoie. Cela coûte cher, car encore une fois, nous avons l’illusion de gains de productivité quand en moyenne, c’est deux heures perdues par personne à devoir revérifier la production de l’IA. Et on laisse souvent passer des erreurs !
« On vit tous sous une tempête de travail médiocre, qu’on subit »
Comment cette dépendance progressive aux systèmes d’IA transforme les organisations ?
Prenez le cas du cabinet Deloitte qui a facturé un rapport à plusieurs centaines de milliers d’euros au gouvernement australien et à plus d’un million et demi pour une province au Canada. Ces rapports contenaient des références inventées. C’est révélateur de quelque chose de plus profond : le dispositif technique lui-même n’est pas neutre, il vous pousse à déléguer, et quand vous déléguez à une entité autre, les comportements non éthiques deviennent plus faciles.
Le sens moral est percuté. Et le système judiciaire est un autre exemple frappant : les avocats produisent désormais une très grande quantité de textes qui ont une belle apparence mais ne font pas avancer les dossiers. Le système se retrouve donc écrasé sous la masse de workslop.
« Le système se retrouve écrasé sous la masse de ce qu’on appelle du workslop »
Vous citez plusieurs études sur les erreurs et le déclin des compétences. Quels enseignements doit-on retenir ?
L’étude sur les consultants du BCG est très révélatrice. Une recherche menée par Harvard, le MIT et Warwick a testé 758 consultants avec GPT-4. La presse en a retenu la partie flatteuse : « les consultants ont augmenté de 40 % leur créativité individuelle ». Mais quand on y regarde de plus près, on voit que sur les tâches de résolution de problèmes commerciaux, les consultants assistés par GPT-4 faisaient 23 % d’erreurs en plus que ceux qui ne l’utilisaient pas. Et que dire de la perte de 41 % de créativité à l’échelle collective… Pourtant, ce sont des professionnels sortis de Yale ou d’Harvard, grassement payés. Quand on leur demande pourquoi ils ont suivi la machine, ils répondent : « parce qu’elle avait l’air très convaincante. »
On touche alors au cœur du problème. Sur le déclin des compétences, l’étude publiée dans The Lancet est très parlante : des médecins pratiquant des endoscopies en Pologne ont été suivis trois mois sans IA, puis trois mois avec. Quand on leur retire l’IA, leur capacité de diagnostic a baissé de 6 %. Leurs compétences s’étaient érodées. Tout simplement : si vous arrêtez de vous entraîner, la compétence disparaît. C’est aussi vrai pour les muscles que pour l’esprit. Ce phénomène a un nom : le délestage cognitif. On externalise l’effort de réflexion vers la machine.
« Si vous arrêtez de vous entraîner, la compétence disparaît. »
Les décideurs sont-ils particulièrement exposés à ces biais ?
Oui, et c’est là que les dégâts sont les plus structurels. Le cas de Zillow en est l’exemple, l’entreprise immobilière américaine avait décidé d’utiliser des algorithmes pour estimer et acheter des maisons plus vite et mieux que ses agents (humains).
Elle a ainsi mis de côté ses professionnels, convaincue que l’algorithme était supérieur. Résultat : des milliers de maisons achetées au mauvais prix, des licenciements massifs et une quasi-faillite.
Dans ces cas-là, c’est une croyance idéologique aveugle dans la technique, sans tests réels préalables. C’est un problème structurel de l’IA : il est difficile de tester ces systèmes en amont, parce que ce sont des systèmes probabilistes c’est-à-dire que même si la réponse est juste cent fois, rien ne le garantit la cent-unième fois.
Ce qui est inquiétant, c’est que les directions, qui ont mis des moyens et habitué leurs équipes à ne plus réfléchir ne voient les erreurs que quand il est trop tard.
« Même si la réponse est juste cent fois, rien ne le garantit la cent-unième fois. »
Le secteur de la communication est particulièrement exposé à ces transformations. Quelles compétences deviennent justement encore plus importantes à préserver ?
Le sens esthétique, la culture de l’image… Ce sont des compétences qui ne se développent pas quand on travaille avec de l’IA. La capacité à lire des textes à comprendre la nuance des mots, c’est à ça que sert l’humain.
Ce qui va être vital dans la communication selon moi, c’est la culture générale, le vocabulaire, une perspective singulière sur le monde, de l’éloquence. Des gens agiles, capables de répondre du tac au tac quand un client dit « et si on faisait plutôt ça ? ».
« La capacité à lire des textes à comprendre la nuance des mots, c’est à ça que sert l’humain. »
Et, à titre individuel, quelles règles faut-il s’appliquer selon vous à soi-même ?
Déjà, j’inviterais tout le monde à regarder concrètement ce qu’il fait avec l’IA. Moi, par exemple, j’utilise ChatGPT comme moteur de recherche complémentaire. Pour aller chercher de la littérature académique, il est très bon.
Le problème n’est pas l’usage ponctuel. Le problème, c’est ce que ces usages transforment progressivement chez nous. Est-ce qu’on a encore envie aujourd’hui de lire des textes longs, de les comprendre et de les résumer ? Non, parce que tout le monde les met dans ChatGPT.
Et là, on ne parle même plus seulement de compétence cognitive brute, de capacité d’écriture ou de compréhension. On parle de l’envie même de faire l’effort. Et c’est ça qu’il faut préserver. Cette volonté d’affronter par nous-même une difficulté pour progresser.
« Le problème n’est pas l’usage ponctuel. (…) c’est ce que ces usages transforment progressivement chez nous.»
« J’inviterais tout le monde à regarder concrètement ce qu’il fait avec l’IA .»
Et comment voyez-vous l’impact à plus long terme sur le monde du travail ? Y a-t-il une note d’optimisme pour le futur ?
Dans les années 60, Jacques Ellul posait déjà la question du choix à effectuer face aux gains de productivité de l’industrie : devons-nous travailler moins pour le même niveau de production ou travailler plus et produire encore davantage ?
Pour l’instant, notre choix se porte sur la deuxième option. Si l’IA contracte massivement la quantité de travail, et nous permet de travailler moins pour le même niveau de production, je serai le premier ravi !
Mon point d’optimisme, ou plutôt mon souhait pour l’avenir, c’est que l’école et l’université redeviennent des espaces de transmission et de création du savoir, pour que les individus soient heureux et dignes. Les machines pourront se charger du reste.
« Si l’IA contracte massivement la quantité de travail, je serai le premier ravi ! »
Maître de conférences en sciences de gestion à Aix-Marseille Université, Marius Bertolucci est spécialisé en gestion publique au sein de l’Institut de management public et gouvernance territoriale (IMPGT) et du laboratoire CERGAM.
Ses nombreux travaux portent notamment sur les effets des technologies sur les individus, les organisations et le travail, avec une attention particulière aux transformations induites par l’intelligence artificielle.
Il publie en 2024 L’Homme diminué par l’IA, un essai qui propose une lecture technocritique de l’IA générative et interroge ses conséquences cognitives, organisationnelles et sociales à partir d’études scientifiques et d’observations de terrain.
