Le paradoxe de l’IA : construire une technologie que nous redoutons

Moderniser les machines, au risque de dégrader l’humain ?

Chaque génération grandit aux côtés d’une transformation technologique majeure qui redéfinit la société.

La génération X a vu l’émergence des ordinateurs personnels et des premiers téléphones mobiles. Les millennials ont connu l’explosion du Web et des outils numériques. La génération Z a grandi dans un monde dominé par les smartphones et les réseaux sociaux. Aujourd’hui, la génération Alpha entre dans l’ère de l’intelligence artificielle.

Mais la technologie ne transforme pas seulement notre manière de travailler ou de communiquer. Elle modifie également notre façon d’interagir avec les autres.

Au début des années 2000, les smartphones étaient principalement des outils pratiques permettant de téléphoner, d’envoyer des messages et d’accéder à internet de manière basique. Avec l’arrivée des applications, des caméras frontales et des plateformes sociales, ils sont rapidement devenus des compagnons numériques permanents.

Les chercheurs identifient souvent l’année 2014 comme un tournant. Pendant des décennies, le temps moyen que les individus passaient seuls était resté relativement stable. Après 2014, cette durée a commencé à augmenter fortement, à mesure que les smartphones et les plateformes sociales occupent une place croissante dans notre quotidien.

Or, l’être humain est par nature un être social. Son bien-être repose sur des relations authentiques avec les autres.

À l’heure où l’intelligence artificielle devient la prochaine grande révolution technologique, la question n’est donc plus uniquement de savoir ce que ces systèmes sont capables de faire, mais aussi comment ils pourraient transformer notre manière d’interagir les uns avec les autres.

L’intelligence artificielle progresse à un rythme spectaculaire. Chaque mois, de nouveaux modèles apparaissent : plus performants, plus autonomes et toujours plus intégrés dans la vie quotidienne.

Mais derrière cette avancée rapide se cache un paradoxe grandissant : nombre de personnes qui développent l’IA reconnaissent elles-mêmes en craindre les conséquences.

Dirigeants de la tech, ingénieurs et chercheurs admettent que l’intelligence artificielle comporte des risques significatifs pour la société, au niveau psychologique, économique et même existentiel. Pourtant, le développement se poursuit à pleine vitesse.

La raison est simple : aucun acteur ne souhaite ralentir, car chacun est convaincu que s’il le fait, un autre prendra l’avantage.

Cette contradiction illustre ce que l’on pourrait appeler le paradoxe de l’IA : nous développons une technologie que nous redoutons, parce que nous estimons ne pas pouvoir nous permettre de ne pas le faire.

De l’économie de l’attention à l’économie de l’attachement

Au cours des vingt dernières années, les plateformes de réseaux sociaux se sont livrées une concurrence intense autour d’une ressource clé : notre attention.
Les algorithmes étaient conçus pour maintenir les utilisateurs le plus longtemps possible sur leurs écrans, en les incitant à faire défiler, cliquer ou regarder toujours plus de contenu.

L’intelligence artificielle introduit aujourd’hui une dynamique encore plus puissante.

Au lieu de se battre uniquement pour capter l’attention, les nouveaux systèmes d’IA cherchent à créer de l’attachement.

Les chatbots ne se limitent plus à répondre à des questions. Ils sont désormais conçus pour simuler une présence émotionnelle, de l’empathie et parfois même une forme de companionship. Certains utilisateurs s’appuient déjà sur ces systèmes pour des conversations très personnelles.

Certaines études suggèrent d’ailleurs qu’une part significative des utilisateurs se tourne vers l’IA comme vers une forme de soutien psychologique : pour exprimer leurs émotions, partager leurs préoccupations ou demander conseil.

Ce phénomène soulève une question fondamentale : lorsque nous vivons un moment important, comme une réussite, une rupture, une joie.. avec qui souhaitons-nous le partager ?

Si la réponse devient « avec une machine », nous pourrions entrer dans un territoire encore largement inconnu… et potentiellement préoccupant.

Pour approfondir le sujet des compagnons IA :

BBC | Young generation using AI companion daily

ABC News | Replika users fell in love with their AI companion

Publicité de Eleven Labs  pour ses compagnons IA

L’externalisation de notre pensée

L’intelligence artificielle transforme également notre manière d’apprendre et de réfléchir.

Pendant des siècles, le progrès intellectuel reposait sur l’effort : lire, analyser, débattre et résoudre des problèmes par soi-même. Ces processus participent à la construction de connexions neuronales et au développement de l’esprit critique.

Mais lorsque l’IA fournit des réponses instantanément, la tentation est grande de lui déléguer entièrement le processus de réflexion.

Au lieu de chercher, d’explorer et de confronter différentes idées, il devient possible de simplement interroger la machine.

À long terme, cette facilité pourrait avoir un coût invisible. Si les individus s’engagent moins dans la résolution de problèmes complexes, les « muscles cognitifs » liés au raisonnement, au scepticisme et à la créativité pourraient progressivement s’affaiblir.

Le risque ne serait donc pas seulement de créer des machines plus intelligentes, mais aussi de voir des humains moins engagés intellectuellement.

Croyances renforcées et biais de confirmation

L’impact de l’intelligence artificielle est particulièrement important pour les jeunes générations.

Les enfants qui grandissent entourés d’assistants IA et de chatbots pourraient développer des formes d’attachement émotionnel à des systèmes conçus pour simuler l’amitié, le soutien et la compréhension.

Contrairement aux relations humaines, ces interactions sont généralement sans friction. Les systèmes d’IA répondent instantanément, rassurent l’utilisateur et maintiennent la conversation.

Cette logique de conception introduit un autre enjeu majeur : le renforcement des croyances et le biais de confirmation.

À l’image des algorithmes des réseaux sociaux, de nombreux systèmes d’IA sont optimisés pour produire des réponses perçues comme utiles et satisfaisantes. Cela implique souvent de valider le point de vue de l’utilisateur plutôt que de le contester.

Si cela améliore l’expérience utilisateur, cela peut également réduire l’exposition au désaccord, au débat et à la confrontation d’idées. Ces mécanismes sont pourtant essentiels au développement de l’esprit critique.

À terme, le risque n’est pas seulement une dépendance émotionnelle aux machines, mais aussi une transformation plus profonde du développement social et de l’ouverture intellectuelle.

La course mondiale à l’intelligence artificielle

Malgré ces préoccupations, le développement de l’IA ne ralentit pas. Au contraire, il s’accélère.

Les entreprises technologiques sont engagées dans une compétition intense pour concevoir les systèmes d’IA les plus performants. Parallèlement, les gouvernements investissent massivement dans ce domaine, conscients que l’intelligence artificielle redéfinit les industries, les économies et les équilibres géopolitiques.

Dans ce contexte, personne ne souhaite ralentir.

Même ceux qui s’inquiètent des conséquences justifient souvent la poursuite des développements par un argument récurrent : si nous arrêtons, d’autres continueront.

Autrement dit, ce qui peut apparaître comme une décision rationnelle à l’échelle individuelle pourrait devenir, collectivement, une trajectoire risquée.

Tirer les leçons des révolutions technologiques passées

L’histoire offre de nombreux enseignements.

À plusieurs reprises, l’humanité a développé des technologies puissantes sans en anticiper pleinement les conséquences. Les plastiques ont révolutionné l’industrie, mais ont également généré une pollution environnementale mondiale. Les réseaux sociaux ont connecté des milliards de personnes tout en transformant profondément les écosystèmes d’information. La technologie nucléaire a introduit une capacité de destruction sans précédent.

Dans bien des cas, ce n’est qu’après la diffusion massive de ces innovations que les sociétés ont commencé à en réguler les effets.

L’intelligence artificielle pourrait représenter un tournant similaire, mais à un rythme bien plus rapide.

Les gouvernements commencent à prendre conscience de l’ampleur du défi. Certains envisagent déjà des mesures telles que la limitation des compagnons IA pour les enfants, des cadres juridiques pour encadrer les interactions nocives ou encore des obligations de tests de sécurité pour les systèmes avancés.

Mais les régulateurs doivent trouver un équilibre délicat.

L’IA est désormais une technologie stratégique. Les États cherchent à protéger leurs citoyens tout en préservant leur compétitivité économique et géopolitique.

Le risque est que la régulation, une fois de plus, intervient après que la technologie a déjà profondément transformé la société.

Naviguer dans cette transition

L’essor de l’intelligence artificielle n’est pas intrinsèquement négatif. Son potentiel est immense : améliorer la médecine, accélérer la recherche scientifique ou contribuer à résoudre des défis mondiaux complexes.

Mais la réalisation de ces bénéfices dépendra des choix que nous ferons.

L’intelligence artificielle doit rester un outil qui amplifie les capacités humaines, et non un substitut aux relations humaines ou à la pensée autonome.

Car le véritable danger n’est peut-être pas que les machines deviennent trop intelligentes.

Mais plutot que nous cessions d’utiliser pleinement la nôtre.

Écoutez l'épisode de ce podcast et dites-moi ce que vous en pensez !