Le mouvement anti-AGI : ces militants qui veulent interdire l'IA générale

Face à l'accélération fulgurante des progrès en intelligence artificielle, un nouveau mouvement militant prend de l'ampleur : celui des opposants à l'AGI (Intelligence Artificielle Générale). Ces activistes, loin d'être de simples technophobes, s'organisent pour réclamer un moratoire, voire une interdiction complète du développement d'une intelligence artificielle capable de rivaliser avec l'intelligence humaine. Alors que les géants technologiques investissent des milliards dans cette course, examinons les arguments, les acteurs et les enjeux de ce débat fondamental qui pourrait façonner notre avenir collectif.

Qu'est-ce que l'AGI et pourquoi suscite-t-elle des inquiétudes?

L'Intelligence Artificielle Générale représente le stade où une machine posséderait une intelligence comparable à celle des humains, capable de comprendre, apprendre et appliquer des connaissances dans de multiples domaines sans intervention humaine. Contrairement aux systèmes d'IA actuels comme ChatGPT qui excellent dans des tâches spécifiques mais limitées, l'AGI pourrait théoriquement résoudre des problèmes complexes, faire preuve de créativité et potentiellement s'améliorer elle-même.

Les inquiétudes concernant l'AGI s'articulent autour de plusieurs axes majeurs :

• Le risque existentiel : une AGI pourrait échapper au contrôle humain et prendre des décisions nuisibles à l'humanité
• Les bouleversements socio-économiques : destruction massive d'emplois et concentration de pouvoir
• Les questions éthiques : autonomie décisionnelle, responsabilité et alignement avec les valeurs humaines
• La course technologique incontrôlée entre nations et entreprises privées

Le mouvement anti-AGI : origines et acteurs principaux

Le mouvement contre l'AGI s'est structuré progressivement, catalysé par les avancées spectaculaires des modèles d'IA générative depuis 2022. Ses racines puisent dans les avertissements émis par des figures emblématiques de la tech et des scientifiques de renom depuis plusieurs années.

Geoffrey Hinton, souvent surnommé le "parrain de l'IA", a quitté Google en 2023 pour alerter sur les dangers de cette technologie qu'il a contribué à développer. Selon lui, le risque d'extinction de l'humanité lié à l'AGI pourrait atteindre 20% d'ici 2054. De même, Yoshua Bengio, autre pionnier du deep learning, a progressivement durci sa position face aux risques posés par l'AGI.

Parmi les organisations actives dans ce mouvement, on trouve :

• Le Center for AI Safety (CAIS), qui a publié une déclaration signée par des centaines d'experts alertant sur les risques existentiels
• Le Future of Life Institute, qui avait lancé en 2023 une pétition demandant un moratoire de six mois sur le développement des grands modèles d'IA
• Des collectifs citoyens comme "Stop AGI Now" ou "Pause AI", qui organisent des manifestations et actions de sensibilisation

Les arguments des opposants à l'AGI

Les militants anti-AGI avancent plusieurs arguments pour justifier leur position radicale :

"Nous ne sommes pas contre l'innovation technologique," explique un porte-parole du collectif Pause AI. "Nous demandons simplement qu'on évalue sérieusement les risques avant de créer quelque chose qui pourrait nous échapper complètement."

Les manifestations et actions concrètes

Le mouvement anti-AGI ne se limite pas à des prises de position théoriques. Des manifestations ont eu lieu devant les sièges d'entreprises comme OpenAI, Google DeepMind ou Anthropic. En France, des militants ont perturbé la conférence Hub France IA en 2023, déployant une banderole réclamant "Un moratoire sur l'IA avant qu'il ne soit trop tard".

Ces activistes utilisent également des moyens de pression économiques et politiques :

• Campagnes de sensibilisation auprès des investisseurs et actionnaires
• Lobbying pour des législations restrictives
• Création de coalitions avec d'autres mouvements sociaux (écologistes, syndicats)
• Développement d'alternatives technologiques plus contrôlées

La réponse de l'industrie et des partisans de l'AGI

Face à ces critiques, les défenseurs du développement de l'AGI avancent leurs propres arguments. Pour Elon Musk, pourtant lui-même préoccupé par les risques de l'IA, la solution n'est pas d'interdire mais de démocratiser : "Si une seule entité développe une AGI, le risque est plus grand que si plusieurs acteurs le font de manière transparente."

Sam Altman, PDG d'OpenAI, affirme quant à lui que l'AGI pourrait résoudre les plus grands défis de l'humanité, du changement climatique aux maladies incurables. "Nous travaillons d'arrache-pied sur la sécurité et l'alignement," insiste-t-il, "mais renoncer à cette technologie serait irresponsable face aux problèmes que nous pourrions résoudre."

Les arguments des partisans de l'AGI comprennent :

• Les bénéfices potentiels immenses pour la santé, l'environnement et la prospérité
• L'inévitabilité du développement (si un acteur s'arrête, d'autres continueront)
• La possibilité de résoudre les problèmes de sécurité par la recherche
• L'exagération des risques existentiels par rapport aux bénéfices certains

Le débat éthique et philosophique sous-jacent

Au-delà des arguments techniques, le débat sur l'AGI soulève des questions philosophiques fondamentales sur notre rapport à la technologie et notre vision de l'avenir.

D'un côté, les opposants à l'AGI s'inscrivent souvent dans une tradition de pensée qui valorise la prudence face au progrès technologique. Ils citent des philosophes comme Hans Jonas et son "principe responsabilité" ou s'inspirent du mouvement de décroissance. Pour eux, certaines avancées technologiques peuvent être intrinsèquement dangereuses, quelle que soit l'intention de leurs créateurs.

De l'autre côté, les partisans de l'AGI s'inscrivent davantage dans une tradition transhumaniste ou techno-optimiste. Pour eux, l'intelligence artificielle représente la prochaine étape logique de l'évolution humaine, une opportunité de transcender nos limites biologiques et cognitives.

"Ce débat reflète notre ambivalence face au progrès technologique," analyse le philosophe des sciences Jean-Michel Besnier. "Nous oscillons entre la fascination pour nos créations et la peur qu'elles nous dépassent, comme dans le mythe de Prométhée ou celui du Golem."

Le cadre réglementaire en construction

Face à ces préoccupations, les gouvernements commencent à élaborer des cadres réglementaires. L'Union européenne a adopté l'AI Act, première législation complète sur l'IA au monde, qui classe les systèmes d'IA selon leur niveau de risque. Aux États-Unis, le président Biden a signé un décret exécutif sur l'IA en 2023, exigeant des garanties de sécurité pour les systèmes les plus avancés.

En France, le plan gouvernemental sur l'IA met l'accent sur la souveraineté technologique tout en promouvant une approche éthique. Cependant, ces réglementations se concentrent principalement sur les applications actuelles de l'IA plutôt que sur la perspective d'une AGI véritable.

Les militants anti-AGI estiment généralement que ces mesures sont insuffisantes : "Ces réglementations sont comme essayer d'encadrer l'énergie nucléaire en se contentant de règles sur les centrales à charbon," résume un membre de Stop AGI Now.

Perspectives d'avenir : vers un consensus possible?

Le débat sur l'AGI n'est pas près de s'éteindre, d'autant que les progrès technologiques continuent de s'accélérer. Mistral AI, OpenAI et d'autres acteurs repoussent constamment les limites de ce que l'IA peut accomplir, rendant la perspective d'une AGI de plus en plus concrète.

Plusieurs voies intermédiaires émergent néanmoins :

• Le développement d'une "AGI faible" avec des garde-fous intégrés
• La création d'instances de gouvernance internationale
• L'implication plus large de la société civile dans les décisions
• Des approches de développement plus lentes et délibérées

"Le vrai danger serait de polariser ce débat entre technophiles inconditionnels et opposants radicaux," estime Laurence Devillers, chercheuse en IA éthique. "Nous avons besoin d'une conversation nuancée qui reconnaît à la fois les promesses et les périls de ces technologies."

Conclusion : un débat qui nous concerne tous

Le mouvement anti-AGI, qu'on le considère comme visionnaire ou alarmiste, a le mérite de poser des questions essentielles sur notre avenir technologique. À l'heure où l'IA s'immisce dans tous les aspects de nos vies, depuis nos outils de retouche photo jusqu'à nos assistants personnels, la question de savoir jusqu'où nous souhaitons pousser cette technologie mérite d'être posée collectivement.

Car au-delà des aspects techniques, c'est bien de notre humanité dont il est question. Quelles capacités souhaitons-nous déléguer aux machines? Quelles décisions devront rester l'apanage des humains? Comment garantir que les bénéfices de ces technologies soient équitablement répartis?

Le débat sur l'AGI n'est pas qu'une affaire d'experts - c'est une conversation sociale et politique qui nous concerne tous. Que l'on considère l'AGI comme une menace existentielle ou comme le prochain grand bond en avant de l'humanité, une chose est certaine : les choix que nous faisons aujourd'hui façonneront profondément le monde de demain.