La recherche incessante de l’intelligence générale artificielle (AGI) – une IA qui rivalise ou surpasse les capacités cognitives humaines – fait l’objet d’une attention croissante de la part d’éminents chercheurs, décideurs politiques et personnalités publiques. Plus de 700 personnalités éminentes ont signé une déclaration appelant à une pause dans le développement de la superintelligence de l’IA jusqu’à ce que des mesures de sécurité vérifiables et un large consensus public soient en place.
L’alarme grandissante concernant la croissance incontrôlée de l’IA
La principale préoccupation ne concerne pas les avantages potentiels de l’IA ; il s’agit de la rapidité et du manque de surveillance de son développement. La progression rapide vers l’AGI présente des risques allant de la perturbation économique et de l’érosion des libertés individuelles aux menaces existentielles. Il ne s’agit pas d’une hypothétique campagne de peur. Même certains des pionniers de la recherche sur l’IA, comme Yoshua Bengio et Geoffrey Hinton (surnommés « les parrains de l’IA »), expriment désormais de sérieuses réserves.
La déclaration publiée jeudi souligne les dangers de la création de systèmes d’IA qui pourraient surpasser l’intelligence humaine sans garanties adéquates. Elon Musk, un critique virulent du développement incontrôlé de l’IA, a déjà averti que ce domaine « invoque un démon ». Lui et d’autres leaders technologiques ont lancé un appel similaire en faveur d’une pause en 2023.
L’opinion publique reflète un profond scepticisme
Le débat ne se limite pas aux cercles technologiques. Un récent sondage national réalisé par le Future of Life Institute révèle que seulement 5 % des Américains soutiennent la trajectoire actuelle, rapide et non réglementée vers la superintelligence. Une grande majorité – 64 % – pense que le développement devrait s’arrêter jusqu’à ce que la sécurité et le contrôle soient démontrés, tandis que 73 % plaident pour une réglementation plus stricte des systèmes d’IA avancés.
Quelle est la prochaine étape ?
La déclaration reste ouverte aux signatures (actuellement plus de 27 700), ce qui indique un mouvement croissant exigeant la prudence. La question est maintenant de savoir si les développeurs tiendront compte de ces avertissements ou continueront d’accélérer vers un avenir où les risques potentiels de l’IA pourraient dépasser ses avantages. Ce débat ne concerne pas simplement la technologie ; il s’agit de l’avenir de l’action humaine et de la sécurité.
