#HAC2024 Insights - Gerd Gigerenzer | Comment reprendre le contrôle dans un monde façonné par l'IA
Invité à The Human Advantage Conference 2024 pour la session de clôture de l’évènement, le professeur Gerd Gigerenzer, directeur du Harding Center for Risk Literacy, a abordé des questions cruciales liées à l’intelligence artificielle (IA) et à ses implications sur la société moderne. Dans un monde où les technologies numériques sont omniprésentes, Gigerenzer a proposé une analyse lucide des limites de l’IA et des risques qu’elle engendre, tout en offrant des pistes pour « rester intelligent dans un monde intelligent », thème central de son intervention.
L’IA, pas si intelligente que ça ?
Le professeur Gigerenzer a commencé par souligner que l’IA, malgré ses promesses, est loin d’être une « super intelligence » capable de tout résoudre.
Il a distingué les environnements où l’IA excelle, à savoir les mondes stables, comme le jeu d’échecs ou les modèles prédictifs basés sur de grandes bases de données, des mondes incertains où l’IA échoue souvent. « Lorsque l’IA tente de prédire des comportements humains, elle se heurte à des échecs », a-t-il déclaré, citant l’exemple du projet Watson Oncology d’IBM, finalement démantelé.
Il a ajouté que « l’IA est plus performante dans des environnements où les règles sont fixes, mais elle peine dans des contextes incertains, comme la prédiction du comportement humain ». Gigerenzer insiste sur la nécessité d’aborder l’IA avec un esprit critique, en reconnaissant ses limites afin d’éviter des attentes irréalistes.
Le piège des fausses corrélations : l’illusion du « tireur d’élite texan »
Gigerenzer a également mis en garde contre ce qu’il appelle le « tireur d’élite texan », une illusion statistique où les chercheurs ajustent les modèles pour correspondre aux données disponibles, créant ainsi des corrélations qui semblent significatives mais ne le sont pas. « De nombreuses études en sciences sociales et en économie se contentent d’ajuster leurs modèles aux données et appellent cela une prédiction », a-t-il expliqué, pointant du doigt une mauvaise compréhension des limites des algorithmes complexes. Ce phénomène peut conduire à des décisions basées sur des données erronées, entraînant des conséquences néfastes dans divers domaines, notamment la santé publique, les finances et même les politiques publiques. En soulignant l’importance de l’intégrité des données, Gerd Gigerenzer appelle à une vigilance accrue lors de l’interprétation des résultats fournis par l’IA.
Surveillance numérique : quand nous devenons le produit
L’un des points clés de son intervention a été la question de la surveillance numérique, exacerbée par l’usage intensif des réseaux sociaux. Il compare ainsi l’expérience des utilisateurs de plateformes comme Facebook et Instagram à celle de clients dans un café gratuit, où « chaque mot que vous dites est enregistré et analysé ». Pour Gigerenzer, « nous ne sommes pas les clients de ces plateformes, nous en sommes le produit ». Cette métaphore illustre bien le paradoxe de la vie privée : bien que les utilisateurs s’inquiètent de la collecte de leurs données, peu sont prêts à payer pour préserver leur vie privée. Il a souligné l’ironie de cette situation, où l’accès gratuit à des services attractifs amène les utilisateurs à sacrifier leur vie privée. En retour, il appelle à une prise de conscience collective et à un changement de mentalité face à la façon dont les données personnelles sont traitées.
Vers une IA plus transparente et responsable
Gigerenzer plaide ainsi pour une transparence accrue des algorithmes, en particulier ceux ayant un impact majeur sur la vie des individus, comme les scores de crédit ou les décisions judiciaires. « Nous devons exiger que les algorithmes critiques soient transparents ». Il a également proposé de changer le modèle économique des grandes entreprises technologiques, en passant de la publicité à un modèle payant qui garantirait la propriété des données personnelles aux utilisateurs. Enfin, il a insisté sur l’importance de l’éducation à la littératie numérique pour permettre aux citoyens de mieux comprendre les risques liés à l’IA et de développer des outils de vérification des faits. Cette éducation est essentielle pour doter les citoyens des compétences nécessaires pour naviguer dans un paysage numérique complexe et souvent trompeur.
Un futur numérique éclairé : éducation et responsabilité
En dépit de ce constat parfois sombre, Gerd Gigerenzer s’est montré optimiste quant à la capacité de l’humanité à reprendre le contrôle de son avenir numérique. « Je ne suis pas du genre à abandonner ». Pour lui, les citoyens et les gouvernements doivent agir pour construire un monde numérique où la technologie sert les individus plutôt que de les manipuler. Il a appelé à une mobilisation collective, impliquant tous les acteurs de la société, des gouvernements aux citoyens, pour instaurer des normes éthiques autour de l’utilisation de l’IA. Cela nécessite un engagement non seulement à informer et éduquer, mais aussi à réguler et à encadrer le développement technologique de manière responsable.
L’intervention de Gerd Gigerenzer a mis en lumière les défis et les opportunités liés à l’IA dans notre société. Il a appelé à une réflexion plus nuancée sur l’usage de ces technologies, rappelant que « parfois, le plus simple peut être meilleur ». Son message, à la fois avertissement et appel à l’action, résonne fortement dans un monde de plus en plus dominé par le numérique, nous incitant à rester vigilants et proactifs face aux avancées technologiques.
Contenus additionnels - Bibliographie
Quelques ressources additionnelles sur Gerd Gigerenzer et ses travaux, en particulier sur les thèmes de la prise de décision, des risques et des implications de l’intelligence artificielle :
- Rationality for Mortals: How People Cope with Uncertainty – Ce livre examine comment le raisonnement humain et la prise de décision peuvent être plus rationnels que ce que l’on pense. Il remet en question les vues conventionnelles sur la rationalité en soulignant comment les gens s’adaptent aux complexités de la vie réelle.
- Risk Savvy : Comment prendre de bonnes décisions – Dans ce livre, Gigerenzer développe une réflexion sur la prise de décisions éclairées dans divers aspects de la vie, y compris la santé et les finances. Ce guide met l’accent sur l’importance de la littératie statistique dans la prise de décision.
- Gut Feelings : L’intelligence de l’inconscient – Ce livre aborde le rôle de l’intuition dans la prise de décision et comment des heuristiques simples peuvent conduire à de meilleurs résultats dans des environnements incertains. C’est une exploration pratique de la façon dont nous pouvons tirer parti de nos instincts pour une meilleure prise de décision.
- Podcast BE GOOD! par BVA Nudge Consulting avec Gerd Gigerenzer (Date de sortie : lundi 14 octobre 2024). Dans le dernier épisode de BE GOOD! podcast, nous avons eu le plaisir d’échanger avec Gerd Gigerenzer au sujet de son nouveau livre, « Smart Management: How Leaders Make Good Decisions in an Uncertain World. »
