Pr Amine Benyamina "IA générative : nous devons protéger notre cerveau, nos émotions et notre liberté de penser"
Dépendance émotionnelle, dette cognitive, manipulation de l'opinion : l'intelligence artificielle générative connait un essor fulgurent depuis 2022, et fait peser de nouvelles menaces sur les individus et la société.
Dans un rapport remis le 10 novembre au Président de la République, une commission pluridisciplinaire coprésidée par le Pr Amine Benyamina, psychiatre addictologue et président d’Addictions France, Raphaël Gaillard, psychiatre, et Serena Villata, directrice de recherche au CNRS, formule 18 recommandations pour prévenir les risques induits par l’IA générative sans entraver l’innovation.
Le Pr Amine Benyamina revient sur les principales vulnérabilités identifiées et les mesures nécessaires pour protéger les utilisateurs
Comment est née cette mission et quel constat avez-vous fait sur notre rapport à l’intelligence artificielle ?
Cette mission nous a été confiée en février 2026 par le président de la République et la ministre Anne Le Hénanff. Nous avons réuni neuf experts aux profils très différents, de la psychiatrie aux neurosciences, en passant par l’IA et le droit. Ce qui nous a frappés, c’est le paradoxe dans lequel nous sommes : d’un côté, une adoption massive de l’IA et de l’autre, une défiance croissante face à ses conséquences. Aujourd’hui, près d’un Français sur deux utilise l’IA générative, et cette proportion atteint 85 % chez les jeunes adultes. On parle notamment aux agents conversationnels comme ChatGPT, Gemini ou Claude.
Le problème c’est que nous nous emparons de ces outils sans toujours comprendre leur fonctionnement ni mesurer leurs effets sur nous. L’enjeu n’est pas de diaboliser l’IA, mais de l’accompagner avec discernement, en posant dès maintenant les garde-fous nécessaires. Il y a plusieurs champs d’inquiétude légitime.
Le rapport alerte notamment sur une « dette cognitive ». Que signifie cette expression ?
Quand nous demandons systématiquement à l’IA de chercher, rédiger, réfléchir ou décider à notre place, nous risquons de moins faire travailler nos propres capacités. C’est ce que nous appelons la « dette cognitive ». À force de déléguer, nous sollicitons moins notre mémoire, notre esprit critique et notre capacité de réflexion.
Une étude du MIT Media Lab, citée dans notre rapport, montre que l’utilisation d’un chatbot pour écrire peut réduire de 55 % l’activité cognitive mobilisée. Cela ne veut pas dire que nous perdons 55 % de notre intelligence, mais que nous faisons beaucoup moins travailler notre cerveau.
Le rapport alerte aussi sur les risques de dépendance émotionnelle à l’IA. Pourquoi les jeunes sont-ils particulièrement exposés à ce phénomène ?
Je le constate directement dans ma pratique, notamment en hôpital de jour pour adolescents. De plus en plus de jeunes utilisent l’IA pour parler de leurs difficultés personnelles, de leur souffrance ou de sujets qu’ils n’osent pas aborder avec leur entourage. Ce qui est inquiétant, c’est que ces outils deviennent parfois des interlocuteurs privilégiés, au risque de prendre la place des relations humaines ou d’un accompagnement professionnel. Une IA peut donner l’impression d’apporter du soutien et une illusion d’empathie, mais elle ne remplace ni une relation humaine ni une prise en charge thérapeutique et peut accentuer la souffrance psychologique et l’isolement.
Il y a aussi les risques de violences en ligne, de fausses images sexuelles ou de contenus dangereux liés à l’automutilation et aux troubles alimentaires qui sont accentués par l’IA. Les mineurs sont particulièrement vulnérables, car leur développement émotionnel et social est encore en cours.
Vous évoquez aussi une « délégation progressive de la citoyenneté ». En quoi l’IA peut-elle devenir une menace pour notre démocratie ?
Les vulnérabilités individuelles peuvent s’accompagner de vulnérabilités collectives. Lorsque nous déléguons à une IA notre recherche d’informations, notre analyse et parfois même notre jugement, nous lui confions progressivement une partie de notre capacité à nous forger une opinion. Or ces outils ne sont pas toujours fiables. Ils peuvent produire des informations fausses, présenter des opinions biaisées ou omettre des éléments essentiels, tout en donnant l’impression d’une grande assurance.
Un élément de notre rapport est particulièrement préoccupant : à information identique, un chatbot est jugé 51 % plus persuasif qu’un article de presse. Cela signifie que l’IA peut avoir une capacité d’influence considérable sur nos opinions.
À l’approche des échéances électorales, le risque est évident. Si les citoyens s’en remettent de plus en plus à l’IA pour comprendre l’actualité, comparer les programmes ou se forger une opinion politique, nous devons nous interroger sur la place que prendront les algorithmes dans le débat démocratique. Il existe également un risque d’uniformisation culturelle. Les modèles IA sont largement construits sur des références anglophones et peuvent véhiculer des représentations ou des modes de pensée qui ne correspondent pas nécessairement à notre diversité culturelle. C’est aussi un enjeu de pluralisme et de cohésion sociale.
Quelles solutions préconisez-vous pour protéger les utilisateurs sans empêcher l’innovation ?
Notre rapport formule 18 recommandations. D’abord, la protection ne doit pas reposer uniquement sur les utilisateurs et leurs familles, mais aussi sur les entreprises, qui doivent intégrer ces enjeux dès la conception de leurs outils. Nous proposons notamment de soumettre les IA génératives à une évaluation de leurs risques de manipulation, de dépendance et d’attachement excessif, avant leur commercialisation et tout au long de leur utilisation.
Nous préconisons également d’encadrer la manière dont les IA imitent les comportements humains, notamment leur tendance à flatter les utilisateurs et à toujours aller dans leur sens, ce qu’on appelle la flagornerie et l’anthropomorphisation. L’objectif est d’éviter qu’elles créent, en particulier chez les mineurs, un attachement affectif excessif ou l’illusion d’une véritable relation humaine. Enfin, il faut aussi miser sur la formation, dès le plus jeune âge, pour apprendre à comprendre ces outils, à vérifier leurs réponses et surtout à conserver son esprit critique et son autonomie.
Avez-vous le sentiment que vos alertes sont entendues ?
Oui, on observe aujourd’hui une prise de conscience croissante de la nécessité d’encadrer ces technologies qui évoluent très vite. Emmanuel Macron a lui-même évoqué la possibilité d’interdire certains usages de l’IA afin de protéger les jeunes. Cela traduit un enjeu essentiel, celui de faire en sorte que le développement de l’intelligence artificielle ne se fasse pas au détriment de la protection des individus.
Nous devons responsabiliser les entreprises, mieux protéger les publics les plus vulnérables et donner à chacun les moyens de comprendre ces outils et d’en garder la maîtrise. L’enjeu est fondamental, il ne faut pas que l’intelligence artificielle finisse par penser, décider ou même ressentir à notre place.