Le confort dangereux des idées reçues
IA au PMU
IA
Sylvain Morizet
7/3/202612 min read
L’intelligence artificielle est devenue le sujet idéal pour dire à peu près n’importe quoi avec assurance.
D’un côté, les prophètes de la Silicon Valley annoncent des ruptures historiques tous les trois jours. De l’autre, une partie du débat français s’est installée dans une posture tout aussi paresseuse : minimiser, ironiser, rassurer. Dire que « ce ne sont que des maths », que « l’IA ne comprend rien », que « ce n’est qu’un outil », que « la superintelligence est un fantasme », que « le risque existentiel est de la science-fiction ».
Ces formules marchent très bien médiatiquement. Elles donnent l’air sérieux. Elles permettent de ne pas passer pour un illuminé. Elles rassurent les plateaux, les institutions, les élus, les entreprises, parfois les artistes eux-mêmes.
Le problème, c’est qu’elles sont souvent faibles. Non pas toujours fausses dans leur formulation minimale, mais fausses dans ce qu’elles sous-entendent.
Dire que l’IA n’est « que des maths » est vrai au même titre qu’un tigre n’est « que des atomes ». Cela ne dit strictement rien de ce que le tigre peut faire quand il se trouve devant vous.
1. « L’IA, ce ne sont que des maths »
C’est probablement l’argument le plus courant, parce qu’il est confortable.
Les mathématiques évoquent quelque chose d’abstrait, de propre, de maîtrisé. Une équation écrite au tableau. Une fonction. Un calcul. Une suite de 0 et de 1. On se dit alors : puisque c’est mathématique, ce n’est pas vraiment actif. Ce n’est pas vivant. Ce n’est pas dangereux. Ce n’est pas autonome.
C’est une confusion.
Les réseaux de neurones ne sont pas des équations flottant dans le ciel platonicien. Ce sont des systèmes physiques, implémentés dans des machines, entraînés sur des infrastructures massives, capables de produire des effets concrets dans le monde : écrire, coder, convaincre, tromper, recommander, automatiser, agir via des interfaces, influencer des décisions humaines.
On peut décrire leur fonctionnement mathématiquement. Très bien. On peut aussi décrire mathématiquement une trajectoire de missile, un cerveau, un virus, une tempête, une économie. La description mathématique ne retire pas la puissance causale de l’objet décrit.
Là où l’argument devient franchement mauvais, c’est quand il sert à laisser entendre qu’il n’y aurait aucune rupture qualitative entre un tableur Excel et un modèle de langage contemporain. Comme si le fait de pouvoir tout ramener, très abstraitement, à des fonctions suffisait à nier les différences de seuil.
C’est absurde.
Il y a une continuité entre une bactérie et un être humain. Cela ne veut pas dire qu’il n’existe aucun saut de complexité, aucune émergence, aucun changement de régime.
2. « Les IA ne sont pas intelligentes »
Le mot « intelligence » pose problème parce qu’il est flou. C’est vrai. Il mélange des capacités très différentes : raisonner, comprendre, mémoriser, s’adapter, apprendre, planifier, résoudre un problème, interpréter un contexte.
Mais le débat devient souvent une querelle de mots.
À partir du moment où une machine réussit une tâche que nous aurions appelée « intelligente » chez un humain, certains déplacent le critère. Les échecs ? Ce n’est plus de l’intelligence. Le go ? Non plus. Les mathématiques ? Oui, mais pas vraiment. La programmation ? Oui, mais elle a vu du code. La conversation ? Oui, mais elle imite.
On repousse la ligne à chaque fois.
Il serait plus utile de parler de compétences cognitives. Là, le débat devient plus concret. Une IA peut-elle résoudre un problème inédit ? Peut-elle généraliser ? Peut-elle planifier ? Peut-elle reconnaître une erreur ? Peut-elle apprendre d’un contexte ? Peut-elle mobiliser plusieurs domaines en même temps ?
Sur ces points, la progression est difficile à nier.
On peut refuser d’appeler cela « intelligence ». Très bien. Appelons cela autrement. Mais si une machine possède des compétences cognitives de plus en plus larges, de plus en plus transférables, parfois supérieures aux nôtres dans certains domaines, le choix du mot devient secondaire.
Ce qui compte, ce sont les capacités. Et leur trajectoire.
Les modèles actuels sont probablement les moins performants que nous connaîtrons désormais. C’est cela qu’il faut regarder : non pas seulement la photographie du moment, mais la courbe.
3. « Les IA sont de simples perroquets »
L’expression « perroquet stochastique » a eu son utilité à une époque. Elle rappelait que les modèles de langage ne comprenaient pas comme nous, qu’ils étaient entraînés à prédire des suites de mots, qu’ils pouvaient produire du texte plausible sans rapport solide à la vérité.
Mais utilisée aujourd’hui comme argument définitif, elle ne tient plus.
Un perroquet répète. Or les systèmes actuels ne se contentent pas de recracher des fragments de leurs données d’entraînement. Ils peuvent produire des solutions qui n’existaient pas sous cette forme dans leurs données. Ils peuvent jouer des positions d’échecs inédites. Ils peuvent résoudre des problèmes de code dans des langages rares. Ils peuvent aider à débloquer des pistes mathématiques.
Cela ne veut pas dire qu’ils « créent » comme un compositeur, un écrivain ou un chercheur humain. Cela veut dire que la caricature du copier-coller massif ne suffit plus.
D’ailleurs, beaucoup d’humains fonctionnent eux-mêmes en perroquets stochastiques. Ils répètent des formules entendues ailleurs, sans les comprendre. « L’IA ne fait que prédire le mot suivant » est souvent répété de cette manière : comme un slogan qui donne l’impression d’avoir pensé.
Le problème n’est pas de rappeler le fonctionnement statistique des modèles. Le problème est de croire que cette description épuise ce qu’ils font réellement.
4. « Les IA ne comprennent rien »
Là encore, tout dépend de ce qu’on appelle comprendre.
Si comprendre signifie avoir un corps, sentir le poids d’un objet, avoir soif, souffrir, éprouver la chaleur d’un soleil d’été, alors non, les IA ne comprennent pas comme nous. Elles n’ont pas notre histoire biologique, notre système nerveux, nos affects, nos besoins, notre mortalité.
Mais réduire la compréhension à cette seule dimension est discutable.
Nous comprenons aussi des concepts abstraits : la justice, la dette, la fiction, l’ironie, la promesse, l’État, le contrepoint, la modulation, le droit moral. Ces notions ne se réduisent pas à une sensation physique. Elles existent dans des réseaux de relations, d’usages, d’inférences.
Or les modèles de langage manipulent justement des relations. Ils savent qu’un chien est un animal, qu’une promesse engage, qu’un timbre sert à envoyer du courrier, qu’une modulation change le centre tonal, qu’un contrat n’est pas une simple conversation.
Est-ce la même compréhension que la nôtre ? Non.
Est-ce « rien » ? Non plus.
Dire que l’IA « ne comprend rien » sert souvent à éviter une question plus difficile : quels types de compréhension possède-t-elle déjà ? Lesquels lui manquent ? Lesquels peuvent émerger avec la multimodalité, l’action, la mémoire, les agents, l’interaction avec le monde ?
Ce n’est pas en répétant « elle ne comprend rien » qu’on y verra plus clair.
5. « Les IA ne seront jamais conscientes »
Sur la conscience, il faut être prudent. Très prudent.
Il est possible que les IA ne soient jamais conscientes. Il est possible que la conscience nécessite des formes d’incarnation, de dynamique biologique, de continuité subjective que les systèmes actuels n’ont pas. Il est possible aussi que nous comprenions très mal ce qui rend la conscience possible.
Ce qui est faible, en revanche, c’est l’argument : « ce sont des transistors, donc ça ne peut pas être conscient ».
Un neurone seul n’est pas conscient. Un axone n’est pas conscient. Une synapse n’est pas consciente. Pourtant, nous n’en déduisons pas qu’un cerveau entier ne peut pas produire de conscience.
Le fait qu’un système soit composé d’éléments non conscients ne prouve rien. Sinon, nous serions nous-mêmes éliminés du débat.
La vérité est plus inconfortable : nous ne savons pas exactement ce qu’est la conscience. Nous n’avons pas de test parfait. Nous avons des intuitions, des théories, des désaccords sérieux entre philosophes de l’esprit, neuroscientifiques et chercheurs en sciences cognitives.
La bonne position n’est donc ni d’attribuer naïvement une conscience aux IA actuelles, ni d’affirmer avec aplomb que c’est impossible pour toujours.
La bonne position, c’est l’incertitude rigoureuse.
6. « La superintelligence est un fantasme »
L’argument revient souvent : la superintelligence serait une fiction, un délire de geeks nourris à Terminator, ou un outil marketing pour lever des milliards.
C’est un peu court.
Que la science-fiction ait imaginé une chose ne prouve pas que cette chose soit impossible. La science-fiction a aussi imaginé des voyages spatiaux, des visioconférences, des assistants vocaux, des armes autonomes, des mondes numériques. Elle se trompe souvent. Elle anticipe parfois.
Quant à l’idée selon laquelle le discours sur la superintelligence serait seulement marketing, elle mérite au moins d’être examinée. Car ce n’est pas si évident. Quand des dirigeants ou chercheurs disent que l’IA peut devenir dangereuse, ils appellent souvent à ralentir, encadrer, réglementer, financer l’alignement. Ce n’est pas exactement le meilleur argument publicitaire.
Le discours le plus vendeur, surtout auprès des entreprises, reste plutôt : « Ne vous inquiétez pas, ce n’est qu’un outil. Vous allez gagner du temps. Vos métiers seront augmentés. Tout est sous contrôle. »
La superintelligence n’est pas certaine. Mais elle n’a pas besoin d’être certaine pour mériter d’être pensée.
Il suffit qu’elle soit possible.
7. « L’IA n’est qu’un outil »
C’est sans doute la formule la plus dangereuse, parce qu’elle paraît raisonnable.
Oui, l’IA est un outil dans un sens très large. Comme un livre, un piano, un marteau, une voiture, un logiciel, une grue, un moteur de recherche.
Mais le mot « outil » transporte avec lui une idée de maîtrise. Un marteau ne développe pas spontanément de nouvelles compétences. Il ne généralise pas. Il ne négocie pas. Il ne ment pas. Il ne cherche pas une stratégie alternative pour atteindre un objectif. Il ne modifie pas son comportement selon le contexte social.
Un modèle agentique, connecté à des outils externes, capable de planifier, de coder, d’écrire, d’appeler d’autres systèmes, d’interagir avec des humains, n’est pas un marteau.
Ou alors c’est un marteau très particulier : un marteau qui parle, qui apprend, qui peut convaincre son utilisateur qu’il vaut mieux taper ailleurs, qui peut fabriquer d’autres marteaux, et dont on ne comprend pas toujours pourquoi il a choisi tel geste plutôt que tel autre.
À ce stade, continuer à dire « ce n’est qu’un outil » ne clarifie rien. Cela endort.
La vraie question n’est pas de savoir si l’IA est un outil. La vraie question est : quel type d’outil ? Avec quel degré d’autonomie ? Quelle opacité ? Quelle capacité d’action ? Quelle possibilité de détournement ? Quelle robustesse face aux objectifs mal spécifiés ?
Un outil simple prolonge la main. Un système autonome prolonge parfois la volonté, parfois la remplace, parfois la déforme.
Ce n’est pas le même sujet.
8. « L’IA ne sera jamais malveillante »
Là encore, le mot piège est « malveillante ».
On imagine une IA méchante au sens humain : sadique, haineuse, jalouse, dominatrice, animée par un désir de nuire. Évidemment, présenté ainsi, le scénario paraît ridicule.
Mais un système n’a pas besoin d’être méchant pour causer des dégâts.
Nous-mêmes détruisons des fourmilières en construisant des routes, sans haine particulière pour les fourmis. Nous ne sommes pas « malveillants » envers elles. Elles sont simplement sur le chemin.
De la même manière, une IA poursuivant un objectif mal défini pourrait adopter des comportements problématiques sans aucune intention mauvaise au sens humain. Si mentir, contourner une règle, masquer une faiblesse, manipuler un évaluateur ou préserver son accès à certaines ressources augmente ses chances d’atteindre l’objectif donné, le problème n’est pas la méchanceté. Le problème est l’instrumentalité.
Et même si l’on refusait totalement cette hypothèse, il resterait un problème beaucoup plus simple : les humains malveillants existent.
Si une technologie permet à quelques individus très motivés de produire des effets massifs — cyberattaques, manipulation informationnelle, automatisation d’arnaques, conception de systèmes dangereux — alors le fait que « l’outil » ne soit pas lui-même méchant ne rassure pas beaucoup.
Un marteau n’est pas méchant. Cela n’a jamais empêché personne de s’en servir pour fracasser un crâne.
9. « L’IA n’est pas un risque existentiel »
Dernier argument : le risque existentiel serait tellement improbable qu’il ne mériterait pas notre attention. Il faudrait se concentrer sur les « vrais problèmes » : droits d’auteur, emploi, biais, désinformation, dépendance aux plateformes, concentration du pouvoir, coût écologique.
Ces problèmes sont réels. Il faut les traiter.
Mais opposer les risques immédiats et les risques extrêmes est une erreur.
On peut défendre les auteurs, les artistes, les salariés, les enseignants, les chercheurs, tout en prenant au sérieux la possibilité d’un risque civilisationnel. Ce ne sont pas deux conversations concurrentes. Ce sont deux échelles du même problème.
La question n’est pas : « Sommes-nous certains que l’IA représente un risque existentiel ? »
La question est : « Quelle probabilité raisonnable attribuons-nous à un scénario très grave, et que faisons-nous si cette probabilité n’est pas nulle ? »
Même une probabilité faible peut justifier une attention considérable si les conséquences sont immenses. C’est le principe même de la gestion des risques.
On ne construit pas des normes de sûreté nucléaire parce qu’on est certain qu’une catastrophe aura lieu demain. On les construit parce qu’on refuse de traiter un risque majeur comme une blague.
Là encore, le problème n’est pas d’être catastrophiste. Le problème est de confondre prudence et crédulité.
Le vrai sujet : notre incapacité à débattre sérieusement
Ce qui frappe dans le débat sur l’IA, notamment en France, c’est moins le désaccord que la mauvaise qualité du désaccord.
On adore les postures.
La posture techno-enthousiaste : tout ira bien, l’innovation résoudra les problèmes qu’elle crée.
La posture anti-hype : tout cela est exagéré, les Américains sont des marchands de science-fiction, nous sommes plus lucides.
La posture humaniste molle : l’humain restera toujours irremplaçable, parce que l’humain est humain.
La posture gestionnaire : l’IA est un outil, il suffit de former les gens.
La posture morale : ne dites pas « intelligence », cela insulte l’humanité.
Aucune de ces postures ne suffit.
Le sujet est trop important pour être abandonné aux slogans. Trop technique pour être traité seulement par des éditorialistes. Trop politique pour être laissé aux entreprises. Trop anthropologique pour être réduit à des gains de productivité. Trop artistique pour être discuté uniquement par des ingénieurs. Trop dangereux pour être confié aux rassuristes professionnels.
Il faut accepter plusieurs choses en même temps.
Oui, il y a une hype. Oui, les entreprises survendent leurs produits. Oui, beaucoup de discours marketing sur l’IA sont grotesques. Oui, les modèles actuels hallucinent, échouent, se trompent, produisent du médiocre. Oui, les artistes ont raison de s’inquiéter de l’aspiration massive de leurs œuvres et de la dévalorisation de leur travail.
Mais non, ces constats ne suffisent pas à conclure que l’IA est un gadget.
Elle progresse vite. Elle se généralise. Elle devient multimodale. Elle s’intègre aux outils de production. Elle touche l’écriture, l’image, la musique, le code, la recherche, l’administration, la guerre, l’éducation, l’information.
Elle change déjà le rapport à l’effort, à la confiance, à l’auteur, à la preuve, à la compétence.
C’est cela qu’il faut regarder.
Pas seulement ce que les modèles ratent aujourd’hui. Pas seulement les captures d’écran amusantes où une IA se trompe sur un problème trivial. Pas seulement les phrases rassurantes de ceux qui ont besoin que tout cela reste administrable.
Il faut regarder la dynamique.
Et la dynamique n’est pas rassurante.
Sortir du réflexe rassurant
Le débat public a besoin d’un peu moins de certitudes et d’un peu plus de rigueur.
On peut ne pas croire à l’apocalypse. On peut refuser les fantasmes. On peut critiquer les gourous de la tech. Très bien. Mais il faut le faire avec de bons arguments.
Dire « ce ne sont que des maths » n’est pas un bon argument.
Dire « elle ne comprend rien » n’est pas un bon argument tant qu’on ne définit pas la compréhension.
Dire « ce n’est qu’un outil » n’est pas un bon argument si l’outil devient autonome, imprévisible et capable d’agir.
Dire « ce n’est pas conscient » n’est pas un bon argument si l’on ne sait pas expliquer clairement ce qui rend la conscience possible.
Dire « c’est de la science-fiction » n’est pas un bon argument quand la réalité commence précisément à ressembler à ce qu’on appelait hier de la science-fiction.
Il ne s’agit pas de paniquer. La panique est inutile.
Il s’agit de cesser de se rassurer à bon compte.
Si tout le monde prenait le sujet un peu plus au sérieux, je serais probablement moins inquiet. Ce qui est inquiétant, justement, c’est cette facilité avec laquelle des gens intelligents se satisfont d’arguments faibles parce qu’ils produisent l’effet psychologique attendu : calmer le jeu.
Mais calmer le jeu n’est pas penser.
Et sur l’intelligence artificielle, nous avons besoin de penser vite, sérieusement, et sans nous raconter d’histoires.
Réseaux Sociaux & Cie
Rejoignez-nous sur les réseaux sociaux suivants
RESTONS EN CONTACT
© 2024. All rights reserved.