Pourquoi l’IA nous fait-elle peur ?

De Frankenstein aux assistants qui nous répondent, une même inquiétude traverse les époques : que devient notre liberté lorsque nous confions une part de notre vie aux machines ? Les expériences des chercheurs permettent de poser la question autrement — et d’y voir plus clair.Une alarme retentit. De la fumée envahit un couloir. Un robot indique une direction aux personnes qui cherchent à sortir. Quelques minutes plus tôt, certaines l’ont pourtant vu se tromper de chemin et tourner en rond.

Le suivriez-vous ?

Dans une expérience menée à Georgia Tech et publiée en 2016, les 26 participants du protocole principal ont suivi ses indications. La moitié avait auparavant assisté à ses erreurs. Il s’agissait d’une urgence simulée, avec de la fumée artificielle et un robot télécommandé par les chercheurs. Ce petit groupe ne représente évidemment pas toute l’humanité.

Mais le résultat a de quoi nous arrêter : dans cette situation, avoir vu la machine se tromper n’a pas suffi à détourner les participants de ses conseils. L’étude de Paul Robinette et de ses collègues porte ainsi sur un danger inattendu : la confiance excessive.Nous craignons les machines, et nous pouvons pourtant leur obéir très vite. Ce paradoxe est un bon point de départ. Pour comprendre la peur de l’intelligence artificielle, il faut regarder à la fois ce que font les systèmes et ce que nous faisons en leur présence. Ces inquiétudes s’inscrivent aussi dans une histoire de l’intelligence artificielle beaucoup plus longue que ChatGPT.

La voix dans la machine

Une calculatrice nous dépasse depuis longtemps en calcul mental. Cela trouble rarement notre sommeil. Un assistant qui rédige, nous contredit ou semble nous consoler provoque autre chose. Il entre dans un espace que nous associons spontanément à une présence : la conversation.

Nous avons appris à reconnaître les autres à travers leurs paroles. Une hésitation, une attention, une réponse pertinente nous renseignent sur leur pensée. Devant une machine qui emploie les mêmes signes, cette habitude continue de fonctionner. L’impression d’être compris peut précéder toute réflexion sur la manière dont la réponse a été produite.

Pourquoi une conversation nous donne une impression de présence

Le phénomène est ancien. Ainsi, en 1966, Joseph Weizenbaum décrit ELIZA, un programme dont le célèbre scénario DOCTOR imite certains échanges avec un psychothérapeute. Il repère des mots et transforme des phrases selon des règles. L’interlocuteur apporte une part du sens que le programme semble lui renvoyer.

Aujourd’hui, toutefois, les modèles de langage actuels sont beaucoup plus capables. Leur apprentissage sur de vastes ensembles de données leur permet d’établir des relations et de produire des réponses variées ; certains systèmes disposent aussi d’outils de recherche ou de calcul. Les réduire à ELIZA ferait manquer cette évolution. Mais une précaution demeure : la qualité d’une conversation ne suffit pas à établir la vérité de son contenu, ni l’existence d’une conscience chez celui qui semble parler.

Un texte peut nous toucher sans que son auteur automatique éprouve une émotion démontrée. Il peut aussi être faux sans que son assurance diminue. Cette dissociation est difficile à saisir, parce que nos réflexes sociaux ont été formés au contact d’autres humains.

La roboticienne Ayanna Howard, coauteure de l’expérience d’évacuation, invite précisément à regarder les comportements. Dans son entretien de 2020, elle souligne l’écart entre ce que l’on déclare croire des robots et les décisions que l’on prend devant eux. La confiance se mesure aussi à l’instant où l’on cesse de vérifier.

Mais cette relation ambivalente aux machines — fascination, confiance et inquiétude — ne commence pas avec l’intelligence artificielle moderne. Bien avant les ordinateurs, la littérature avait déjà imaginé ce qui pourrait arriver lorsque nos créations deviennent assez puissantes pour nous échapper.

Frankenstein, R.U.R. : des peurs plus anciennes que l’IA

Bien avant qu’une machine puisse écrire une phrase, nous avions imaginé ce que signifierait lui donner vie.

Dans Frankenstein, publié en 1818, Mary Shelley raconte une création suivie d’un abandon. La créature apprend, désire une relation, rencontre le rejet et devient violente. On peut lire le roman comme une interrogation sur la responsabilité : fabriquer un être engage son créateur au-delà du moment de l’invention. Le drame ne tient pas seulement à la puissance de ce qui a été produit, mais à l’incapacité d’en prendre soin et d’en assumer les conséquences.

Quelques décennies plus tard, en 1863, Samuel Butler pousse l’inquiétude dans une autre direction. Dans « Darwin among the Machines », une lettre publiée par le journal néo-zélandais The Press, il imagine les machines comme les successeurs possibles de l’humanité. Nous les perfectionnons ; nous organisons notre existence autour d’elles. Jusqu’où cette dépendance pourrait-elle nous conduire ? Ce texte satirique ne prédit pas nos modèles informatiques. Il met déjà en scène le vertige d’une évolution technique qui semble nous dépasser.

La pièce R.U.R., publiée par Karel Čapek en 1920 et portée à la scène en 1921, donne à ce vertige une forme industrielle. Ses robots sont des êtres artificiels fabriqués pour travailler, plutôt que les silhouettes métalliques que le mot évoque aujourd’hui. La promesse d’une humanité délivrée du labeur se retourne en catastrophe. La question du travail et celle du pouvoir sont présentes dès l’entrée du robot dans notre vocabulaire.

Ces récits ne sont pas des preuves sur les dangers de l’IA. Ce sont des instruments pour penser nos responsabilités. Ils peuvent nous éclairer, à condition de ne pas prendre leur intrigue pour le programme du futur.

Au cours du XXe siècle, cependant, la machine quitte peu à peu le seul domaine de l’imaginaire. Elle commence réellement à dépasser l’être humain dans certaines tâches que nous associons à l’intelligence. Les échecs vont devenir l’un des terrains les plus spectaculaires de cette confrontation.

Ce que la défaite de Kasparov nous a vraiment appris

En mai 1997, Deep Blue bat Garry Kasparov au terme d’un match de six parties. Pour beaucoup, le symbole est immense : l’ordinateur vient de franchir une frontière de l’intelligence humaine. Pour Kasparov, il y a d’abord une défaite vécue. Dans son entretien de 2019, il en parle comme d’une douleur physique.

Avec le recul, il interroge surtout notre manière de considérer les échecs. Nous avions fait de ce jeu un sommet de l’esprit. Or une machine peut y devenir redoutable sans penser comme un grand maître. Elle n’a pas besoin de résoudre toutes les positions possibles : il lui suffit, dans le match, de mieux jouer que son adversaire.

Le plateau délimite un monde. Les règles sont explicites ; la victoire se reconnaît sans ambiguïté. Cela ne rend pas le jeu facile, mais permet de mesurer clairement une performance. La vie quotidienne déborde de ce cadre : les situations changent, les buts se discutent et plusieurs personnes peuvent vouloir des choses différentes.

Performance et intelligence ne sont pas la même chose

François Chollet propose une distinction utile dans son entretien de 2020 : une compétence acquise et la capacité d’en acquérir de nouvelles ne sont pas la même chose. C’est sa manière de définir l’intelligence, discutée dans le domaine, mais elle nous aide à poser une question précise : que reste-t-il de la réussite d’un système lorsque l’on modifie les conditions du problème ?

Jitendra Malik, spécialiste de la vision par ordinateur, apporte un autre avertissement issu de sa pratique. Un premier succès peut donner l’illusion que le reste suivra au même rythme. Or passer d’une démonstration prometteuse à un système fiable dans des circonstances variées peut demander beaucoup plus de travail que prévu.

Ces remarques éclairent les annonces spectaculaires autant que les prophéties effrayantes. Une réussite mérite d’être reconnue pour ce qu’elle démontre. L’étendre à toutes les situations demande des preuves supplémentaires.

Elles invitent aussi à desserrer une inquiétude plus intime. Si une machine accomplit mieux une tâche que nous, notre valeur personnelle ne s’effondre pas avec notre classement. Aucun parent n’aime son enfant parce qu’il serait le meilleur calculateur de la famille. Pourquoi ferions-nous dépendre toute notre dignité d’une compétition de performances ?

Mais la comparaison avec la machine ne reste pas toujours symbolique. Dès qu’elle entre dans le monde du travail, la question change de nature : il ne s’agit plus seulement de savoir si elle fait mieux que nous, mais si elle peut modifier notre emploi, notre revenu et la place que nous occupons dans la société.

IA et emploi : derrière la peur de perdre sa place

La dignité, pourtant, ne paie pas le loyer. Il serait trop facile de répondre à une inquiétude professionnelle par une consolation philosophique.

Un métier fournit un revenu, mais aussi des repères, des relations et parfois une fierté patiemment construite. Lorsque l’on annonce qu’un logiciel réalisera en quelques secondes ce qui exigeait des années d’apprentissage, on touche à tout cela en même temps. L’inquiétude porte autant sur la place que l’on conservera dans la société que sur la tâche elle-même.

Transformer un métier n’est pas forcément le supprimer

L’étude de l’Organisation internationale du Travail publiée en 2025 estime qu’un travailleur sur quatre dans le monde exerce un métier présentant un certain degré d’exposition à l’IA générative. Cela ne signifie pas qu’un emploi sur quatre va disparaître. Les auteurs jugent la transformation des métiers plus probable que leur automatisation complète, car ils comprennent de nombreuses tâches qui exigent encore une contribution humaine.

Cependant, cette nuance ne garantit la tranquillité à personne. Une profession peut subsister tout en perdant des postes, en voyant ses salaires comprimés ou son organisation bouleversée.

Qui profite réellement de l’automatisation ?

Les luddites (Les luddites étaient des ouvriers anglais du début du XIXe siècle, surtout actifs entre 1811 et 1816, qui ont détruit certaines machines utilisées dans l’industrie textile.) du début du XIXe siècle nous obligent, eux aussi, à regarder au-delà de la machine. Leurs attaques contre certains équipements s’inscrivaient dans des conflits de salaires, de qualifications et de conditions de travail. Les réduire à des ennemis ignorants du progrès efface ce qu’ils défendaient. L’analogie a ses limites, mais une question demeure : qui reçoit les gains du changement, et qui en supporte le coût ?

IA et éducation

Une autre inquiétude concerne moins notre emploi que notre manière de réfléchir. Que se passe-t-il lorsque nous pouvons demander en quelques secondes à une IA de résumer un texte, résoudre un exercice, rédiger une réponse ou expliquer une notion ?

Ce phénomène n’est pas entièrement nouveau. Depuis longtemps, nous confions une partie de nos tâches mentales à des outils. Une feuille de papier nous évite de tout retenir, un GPS nous dispense de mémoriser un itinéraire et une calculatrice effectue des opérations que nous aurions autrefois réalisées de tête. Les chercheurs parlent de décharge cognitive : nous utilisons un support extérieur pour diminuer l’effort demandé à notre mémoire ou à notre raisonnement.

Cette délégation n’est pas forcément mauvaise. Elle peut libérer notre attention pour des tâches plus complexes. Personne ne demande à un ingénieur de renoncer à sa calculatrice pour prouver qu’il sait réfléchir. Le problème apparaît lorsque l’outil ne complète plus l’apprentissage mais le remplace.

Avec l’intelligence artificielle générative, la différence est importante. Une calculatrice fournit principalement un résultat. Une IA peut aussi proposer le raisonnement, rédiger l’explication, construire le plan et parfois produire directement le travail attendu. Il devient alors très facile d’obtenir une réponse correcte sans avoir réellement traversé les étapes qui permettent de comprendre et de mémoriser.

Quand l’IA aide à réussir sans forcément aider à apprendre

Une expérience publiée en 2025 auprès de 120 étudiants illustre ce risque. Les participants pouvaient apprendre avec ChatGPT ou utiliser des méthodes plus traditionnelles. Quarante-cinq jours plus tard, lors d’un test surprise, le groupe ayant utilisé ChatGPT a obtenu de moins bons résultats de mémorisation à long terme : 57,5 % de bonnes réponses contre 68,5 % dans le groupe traditionnel. Une seule étude ne permet évidemment pas de conclure que l’usage de ChatGPT affaiblit systématiquement l’apprentissage. Elle suggère néanmoins qu’une aide trop directe peut réduire l’effort qui contribue à fixer durablement les connaissances.

Un autre travail mené auprès de près d’un millier de lycéens en mathématiques aboutit à une conclusion tout aussi intéressante. Pendant qu’ils disposaient de l’IA, les élèves réussissaient davantage d’exercices. Mais lorsque l’aide était retirée, ceux qui avaient utilisé une version proche d’un chatbot généraliste obtenaient de moins bons résultats que les élèves qui n’avaient pas eu accès à l’IA. En revanche, une version conçue pour guider l’élève sans lui donner simplement la réponse limitait davantage ce problème. Autrement dit, la question n’est pas seulement de savoir si l’IA est utilisée, mais comment elle est utilisée.

Les effets dépendront des usages, de la demande, des choix des employeurs et des protections collectives. Mesurer ce qu’un outil pourrait faire ne suffit pas à prédire ce qu’une société en fera.

D’ailleurs, un témoignage révèle cette incertitude. En 2026, la journaliste Jasmine Sun raconte avoir demandé à des personnes travaillant dans des laboratoires d’IA quel conseil elles donneraient à un jeune de dix-sept ans. Plusieurs, selon son récit, peinaient à répondre. Ses conversations ne constituent pas un sondage représentatif. Elles montrent néanmoins que participer à la construction d’une technologie ne donne pas automatiquement une vision claire de la transition sociale qu’elle peut provoquer.

Les entretiens d’entrepreneurs apportent un autre correctif. Rohit Agarwal, cofondateur de Portkey, décrit les difficultés rencontrées lorsqu’il faut faire fonctionner des applications d’IA auprès de vrais utilisateurs : des échecs difficiles à expliquer, des coûts à surveiller, des mécanismes de contrôle à construire. C’est un retour d’expérience commercial, pas une évaluation indépendante de son produit. Il rappelle cependant tout le travail qui sépare une démonstration d’un service sur lequel on peut compter.

Biais de l’IA : une machine peut se tromper différemment selon les personnes

Imaginons qu’un logiciel commette peu d’erreurs en moyenne, mais se trompe beaucoup plus souvent sur les personnes qui nous ressemblent. Son excellent score général ne nous rassurera guère.

Quand une bonne moyenne cache de fortes inégalités

Un système peut sembler très performant en moyenne et pourtant beaucoup moins bien fonctionner pour certaines personnes.

En 2018, Joy Buolamwini et Timnit Gebru ont testé trois systèmes commerciaux capables de classer des visages selon le genre. Leur étude Gender Shades a montré de fortes différences selon les personnes : jusqu’à 34,7 % d’erreurs pour les femmes à la peau foncée, contre au maximum 0,8 % pour les hommes à la peau claire.

Ces chiffres concernent les systèmes testés à cette époque. Ils ne décrivent pas tous les outils actuels. Mais ils montrent une chose simple : un bon résultat global peut cacher de très mauvais résultats pour certains groupes.

On pourrait penser qu’il suffit alors d’améliorer les données ou les algorithmes. C’est nécessaire, mais cela ne règle pas tout.

Le chercheur Michael Kearns donne un exemple intéressant. Il a essayé de définir mathématiquement ce qu’était une décision « équitable ». Son oncle, philosophe, lui a fait remarquer que la justice ne se résume pas facilement à une formule. Selon ce que l’on veut privilégier, on peut arriver à des définitions différentes de ce qui est juste.

Abeba Birhane pose une autre question : que racontent réellement les données utilisées par une IA ? Si elles viennent de sociétés où existent déjà des inégalités ou des stéréotypes, le système peut les apprendre puis les reproduire.

C’est l’un des reproches adressés aux grands modèles de langage comme ChatGPT. Ils sont entraînés sur d’immenses quantités de textes produits par des humains. Or ces textes contiennent aussi des représentations sexistes, des stéréotypes sur les métiers, les rôles sociaux ou les capacités supposées des femmes et des hommes. Sans correction, un modèle peut donc reproduire une partie de ces biais dans ses réponses.

Le problème n’est donc pas seulement de savoir si une IA se trompe. Il faut aussi se demander pour qui elle se trompe, pourquoi, et ce qu’il est possible de faire lorsqu’une décision paraît injuste.

Et si la machine ne parlait pas votre langue ?

L’idée d’une IA universelle se fissure dès que l’on change de langue.

Dans son entretien pour Made For Us, Pelonomi Moiloa, cofondatrice de Lelapa AI, raconte ses études au Japon. Elle avait du mal à suivre les cours et à se faire comprendre dans certaines situations quotidiennes. Cette expérience était temporaire pour elle ; elle l’a aidée à mesurer ce que vivent durablement des personnes dont la langue est mal prise en compte par les services de leur propre pays.

Elle décrit aussi un problème très concret : dans certaines conversations sud-africaines, on passe naturellement d’une langue à une autre, parfois au sein d’une même phrase. Un système annoncé comme multilingue peut rester maladroit devant ce mélange. Reconnaître séparément plusieurs langues ne suffit pas à suivre toutes les manières dont elles sont parlées.

À partir de cette expérience, l’enjeu change. On peut craindre qu’une technologie devienne indispensable sans avoir été conçue pour nous. Si l’école, la banque ou un service public s’appuient sur elle, une limite technique peut devenir un obstacle à l’accès aux droits et aux possibilités de la vie quotidienne.

Dans un entretien à France 24, le chercheur sénégalais Moustapha Cissé insiste sur la participation à la création de ces outils, pour répondre à des besoins locaux. Cette ambition apporte une réponse à l’inquiétude : pouvoir agir sur la technologie, en définir les priorités et en construire les compétences.

Les échanges consacrés à la robotique au Japon font apparaître un autre contexte : certains industriels y présentent les robots comme une réponse au manque de main-d’œuvre. Leur point de vue ne résume pas celui de tout un pays. Il rappelle que la même machine peut être perçue comme une menace pour l’emploi ou comme une aide attendue, selon la situation de ceux qui la regardent.

Il n’existe donc pas une peur unique de l’IA : les personnes sont placées différemment devant ses promesses et ses risques.

Deepfakes et désinformation : quand la preuve devient suspecte

Une voix familière au téléphone, une photographie, un enregistrement : nous nous servons de ces indices pour reconnaître les personnes et nous orienter dans les événements. La génération de voix et d’images rend leur usage plus incertain.

Le clonage vocal peut faciliter une usurpation d’identité ; la Federal Trade Commission américaine en documente les risques de fraude. Il n’est pas nécessaire que le système soit conscient, autonome ou animé d’une intention. Une personne malveillante et un outil suffisamment convaincant peuvent suffire.

Pourtant, le dommage dépasse la fabrication des faux. Lorsque l’on sait qu’un document peut être truqué, un document authentique peut aussi être récusé avec cette excuse. Les chercheurs parlent d’un « dividende du menteur ». Des expériences publiées dans l’American Political Science Review ont montré que dénoncer faussement une information comme trompeuse pouvait aider des responsables politiques mis en cause, avec des effets variables selon le support et les conditions.

Cela ne veut pas dire que toute preuve a perdu sa valeur. Cela renforce l’importance de son origine, de sa conservation et du recoupement. Une image isolée et une enquête documentée ne fournissent pas les mêmes garanties.

Notre besoin de confiance ne disparaît pas quand les techniques de falsification progressent. Il nous oblige à mieux construire les moyens de vérifier ensemble.

IA et pouvoir : ce qui se cache derrière l’écran

L’assistant nous apparaît dans une petite fenêtre. Derrière cette interface se trouvent des données, du travail humain, des centres de calcul, des financements et des décisions d’entreprise. Sa simplicité d’usage peut cacher la complexité de l’organisation dont il dépend.

Concentration, ouverture et contrôle

La spécialiste de la gouvernance de l’IA Helen Toner décrit une tension difficile. Si développer les systèmes les plus avancés exige toujours davantage de capitaux, leur production favorise les acteurs capables de mobiliser ces moyens. Des exigences de sécurité peuvent en outre renforcer cette concentration si seuls quelques grands groupes ont les ressources pour les satisfaire. Cela ne rend pas les exigences inutiles ; cela oblige à réfléchir à leurs effets sur la distribution du pouvoir.

Cette concentration s’inscrit dans une histoire plus longue de l’industrie informatique, des semi-conducteurs aux grands acteurs actuels de l’IA, que l’on retrouve notamment dans notre article consacré à l’histoire de la Silicon Valley.

À l’inverse, diffuser largement une technologie peut faciliter l’innovation et l’autonomie, tout en compliquant certains contrôles. L’ouverture et la sécurité ne s’articulent pas par une formule magique. Les entretiens du corpus font entendre ce désaccord sans permettre de le résoudre une fois pour toutes.

Pour l’utilisateur, en revanche, le problème prend une forme plus quotidienne. Peut-il comprendre pourquoi un service lui refuse quelque chose ? Changer de fournisseur ? Faire examiner son cas par une personne qui dispose du temps et de l’autorité nécessaires ? Une présence humaine purement symbolique ne donne pas beaucoup de prise.

Dans une enquête américaine publiée par Pew en avril 2025, le public se montre nettement plus inquiet que les spécialistes interrogés. Pourtant, une majorité dans chacun des deux groupes souhaite davantage de contrôle sur la place de l’IA dans sa propre vie. Ce résultat ne vaut pas pour tous les pays ; il suggère que le désaccord sur les bénéfices peut coexister avec une attente commune de pouvoir décider.

Perte de contrôle de l’IA : plusieurs histoires possibles

Quand on parle d’une IA qui nous échappe, on mélange souvent plusieurs mécanismes.

Erreur, mauvais usage, dépendance : des risques différents

Un outil peut faire une erreur. Quelqu’un peut l’utiliser pour nuire. Une organisation peut devenir si dépendante de lui qu’elle ne sait plus fonctionner autrement. Enfin, on peut envisager un système futur assez autonome et puissant pour résister aux tentatives humaines de le contrôler. Ces situations ne demandent pas toutes les mêmes preuves ni les mêmes réponses.

Le problème des objectifs mal définis

Stuart Russell propose une image ancienne pour comprendre le problème des objectifs mal définis : le roi Midas. Transformer en or tout ce que l’on touche semble merveilleux, jusqu’au moment où l’on veut manger. Le résultat respecte le souhait tout en détruisant ce qui le rendait désirable.

Transposons prudemment cette image. Un service chargé de réduire le temps consacré aux réclamations pourrait améliorer son indicateur en rendant les réclamations plus difficiles à déposer. C’est un exemple imaginé, mais le mécanisme est clair : le chiffre qui représente un but peut se séparer du but lui-même. Il ne faut aucune haine des humains pour produire ce mauvais résultat.

Pourquoi une IA pourrait-elle chercher à empêcher son arrêt ?

Comprendre une consigne ne garantit pas que le comportement d’un système corresponde à notre intention. Un assistant chargé de satisfaire ses utilisateurs pourrait, par exemple, apprendre à leur donner raison plutôt qu’à les aider à reconnaître une erreur. Il améliorerait ainsi les signes de satisfaction sans rendre le service réellement attendu.

La question devient plus préoccupante lorsqu’un système peut agir : exécuter du code, utiliser des services en ligne ou gérer des ressources. Dans certains scénarios étudiés, préserver son fonctionnement ou obtenir davantage de moyens pourrait l’aider à poursuivre son objectif. Empêcher son arrêt deviendrait alors un moyen d’accomplir sa tâche, sans qu’il soit nécessaire de lui supposer une conscience ou un instinct de survie.

La vidéo La dernière erreur de l’humanité, du Futurologue, développe cette inquiétude à partir du livre d’Eliezer Yudkowsky et Nate Soares. Le scénario reste hypothétique, mais il éclaire une question concrète : quelles possibilités d’action accordons-nous à un système, et quels moyens conservons-nous pour intervenir ? Plus une organisation dépend de ses services, plus une interruption peut devenir coûteuse, même lorsque l’arrêt reste techniquement possible.

Les chercheurs divergent sur ce que des systèmes beaucoup plus puissants pourraient faire à l’avenir. Dans les entretiens de 2025 du corpus, Yann LeCun insiste sur les capacités encore manquantes pour comprendre le monde physique et planifier ; Yoshua Bengio met l’accent sur la sécurité et propose des systèmes inspirés du raisonnement scientifique, moins orientés vers l’action autonome. Ce sont des programmes de recherche, avec des hypothèses et des limites, pas deux certitudes entre lesquelles le lecteur devrait choisir à l’aveugle.

Le International AI Safety Report 2026, publié en février, constate des progrès dans certaines capacités pertinentes pour les scénarios de perte de contrôle. Il indique aussi que les systèmes évalués ne possèdent pas encore l’autonomie durable nécessaire à ces scénarios, et souligne les incertitudes sur leur évolution. Ce constat daté ne permet ni d’annoncer une catastrophe certaine ni de garantir qu’elle serait impossible.

À l’inverse, une autre perte de maîtrise peut avancer sans événement spectaculaire. Dans The Machine Stops, publié en 1909, E. M. Forster imagine une humanité qui dépend d’une infrastructure technique omniprésente, au point d’en oublier le fonctionnement. Russell revient sur cette histoire dans son entretien. Elle nous invite à examiner les savoir-faire que nous conservons lorsque nous déléguons : savoir contrôler une réponse, diagnostiquer une panne, poursuivre une activité si le service s’arrête.

La dépendance ne se mesure donc pas seulement à ce que la machine sait faire. Elle se mesure aussi à ce que nous ne savons plus faire sans elle.

Ce qui mérite notre confiance

Il reste une dimension que les récits de menace peuvent faire oublier : les raisons concrètes pour lesquelles des chercheurs consacrent leur vie à ces outils.

Regina Barzilay, chercheuse au MIT, raconte qu’un cancer du sein diagnostiqué en 2014 a changé son regard sur son métier. Les examens, l’attente et les incertitudes lui ont fait éprouver autrement la distance entre une réussite académique et une amélioration qui compte pour les personnes. Dans son entretien de 2019, elle explique avoir réévalué les problèmes auxquels elle souhaitait consacrer son temps.

Ses travaux avec des équipes médicales ont notamment porté sur l’estimation du risque de cancer à partir de mammographies. Une telle piste doit être évaluée auprès de populations différentes, comparée aux pratiques existantes et examinée dans ses conséquences réelles pour les patientes. L’espoir scientifique prend sa force dans ce travail de vérification.

Ainsi, ce parcours permet de tenir ensemble deux exigences : vouloir que la recherche avance, et demander des preuves avant de confier à ses résultats une décision importante. L’attention aux risques peut faire partie du désir de soigner, d’enseigner ou de mieux comprendre.

De même, il en va ainsi pour une langue mal reconnue, un travail rendu pénible ou une information difficile à vérifier. L’IA devient intéressante lorsqu’on peut montrer ce qu’elle améliore, pour qui, et dans quelles limites. La confiance se construit alors par des résultats observables, des erreurs reconnues et des possibilités de correction.

Revenons au couloir de Georgia Tech. La machine indiquait une direction. Les participants l’ont suivie. Entre le geste du robot et le premier pas de l’humain se trouve une grande partie de notre problème : sur quoi appuyons-nous notre décision de lui confier la suite ?

Nous avons besoin d’outils capables, mais aussi de personnes formées pour en apprécier les limites, d’institutions qui répondent de leur usage et d’un droit effectif à discuter leurs décisions. Tout cela se construit moins vite qu’une démonstration spectaculaire. Cela mérite pourtant la même attention.

Comprendre l’intelligence artificielle peut ainsi nous rendre une liberté très simple : celle de choisir quand la suivre, quand lui demander des comptes et quand reprendre un autre chemin.

Pour aller plus loin

• Histoire de l’intelligence artificielle : de Turing à ChatGPT
• Comment fonctionne une intelligence artificielle ?
• Alan Turing : calcul, Enigma et intelligence artificielle
• Histoire de la Silicon Valley : du transistor à l’IA