Pour la première fois Joep Meindertsma n’est pas en bonne position. Il fond en larmes en décrivant une conversation dans laquelle il a averti son neveu des dangers de l’intelligence artificielle provoquant l’effondrement de la société. Après cela, elle a eu une crise de panique. « Je pleure tous les jours », dit-elle via Zoom depuis sa propre maison dans la ville néerlandaise d’Utrecht. « Chaque fois que je dis au revoir à mes parents ou à mes amis, j’ai l’impression que ce sera la dernière fois », dit-elle.
Meindertsma, 31 ans, copropriétaire d’une société de bases de données, s’intéresse à l’IA depuis plusieurs années. Mais il a vraiment commencé à s’inquiéter de la menace que la technologie pourrait représenter pour l’humanité lorsque Open AI a publié son dernier modèle de langage, GPT-4, en mars. Depuis lors, il a observé l’énorme succès du chatbot ChatGPT (d’abord basé sur GPT-3 puis GPT-4), prouvant au monde à quel point l’IA a avancé et les géants de la technologie se précipitent pour rattraper leur retard. Et il a vu des pionniers comme Geoffrey Hinton, le soi-disant parrain de l’IA, mettre en garde contre les dangers associés aux systèmes qu’ils ont construits. « Les capacités de l’IA progressent beaucoup plus rapidement que presque personne ne l’avait prédit », déclare Meindertsma. « Nous risquons un effondrement social. Nous sommes au bord de l’extinction humaine.
Un mois avant notre conversation, Meindertsma a quitté son emploi. Il était tellement préoccupé par l’idée que l’IA détruirait la civilisation humaine qu’il avait du mal à penser à autre chose. Il sentait qu’il devait faire quelque chose pour éviter le désastre. Peu de temps après, il a lancé Pause AI, comme son nom l’indique, un groupe de protestation populaire faisant campagne pour arrêter le développement de l’IA. Et depuis, il a amassé une poignée d’adeptes qui ont manifesté à Bruxelles, Londres, San Francisco et Melbourne. Ces manifestations étaient petites, avec moins de 10 personnes à chaque fois, mais Meindertsma se fait des amis en haut. Il a dit qu’il avait déjà été invité à s’entretenir avec des responsables du parlement néerlandais et de la Commission européenne.
L’idée que l’IA pourrait anéantir l’humanité semble extrême. Mais c’est une idée qui gagne du terrain à la fois dans le secteur de la technologie et dans la politique dominante. Hinton a démissionné de son poste chez Google en mai et s’est lancé dans une interview mondiale soulevant le spectre que les humains ne peuvent plus contrôler l’IA à mesure que la technologie progresse. Le même mois, des leaders de l’industrie, dont les PDG des laboratoires d’intelligence artificielle Google DeepMind, OpenAI et Anthropic, ont signé une lettre reconnaissant le « risque d’extinction », et le Premier ministre britannique Rishi Sunak est devenu le premier chef de gouvernement à admettre publiquement qu’il croyait lui aussi . Cette IA pose un risque existentiel pour l’humanité.
Meindertsma et ses partisans ont un aperçu de la façon dont ces avertissements se propagent dans la société, créant un nouveau phénomène appelé anxiété liée à l’IA et donnant aux jeunes générations (dont beaucoup sont déjà sérieusement préoccupées par le changement climatique) de nouvelles raisons de craindre l’avenir. peut. Selon une enquête du sondeur YouGov, le pourcentage de personnes qui craignent que l’intelligence artificielle ne mène à la fin a fortement augmenté au cours de l’année écoulée. Hinton ne veut pas que le développement de l’IA s’arrête temporairement ou indéfiniment. Mais ses déclarations publiques sur le danger que représente l’IA pour l’humanité ont donné naissance à un groupe de jeunes qui ont le sentiment de n’avoir pas d’autre choix.
à diverses personnes, « Risque existentiel » signifie différentes choses. Meindertsma a déclaré : « Le scénario principal qui me préoccupe personnellement est l’effondrement de la société en raison du piratage de masse. Tout Internet. C’est un scénario que les experts disent extrêmement rare. Cependant, Meindertsma est toujours préoccupé par la résilience des services bancaires et de distribution alimentaire. « Les gens ne pourront pas trouver de nourriture en ville. Les gens vont se battre. « Des milliards de dollars vont mourir à mon avis. »