Un petit mais engagé groupe d'experts en intelligence artificielle avertit depuis des années des dangers posés par des systèmes d'intelligence artificielle puissants qui pourraient entraîner des dommages catastrophiques ou même l'extinction de l'humanité. Aujourd'hui, l'intérêt mondial croissant pour ce sujet a intensifié des questions anciennes sur la manière dont un scénario apocalyptique lié à l'intelligence artificielle pourrait se réaliser.
Inquiétudes concernant les capacités croissantes de l'intelligence artificielle
Les experts ont déclaré lors d'interviews que les inquiétudes concernant les capacités croissantes de cette technologie ne sont pas des sujets de science-fiction. Ils croient que les humains, seuls ou avec le soutien gouvernemental, pourraient bientôt utiliser des systèmes d'intelligence artificielle pour causer des dommages potentiellement catastrophiques. Les chercheurs en sécurité de l'intelligence artificielle prédisent que des systèmes d'intelligence artificielle auto-améliorés, qui pourraient émerger dans les années à venir selon les leaders de ce domaine, pourraient coordonner des campagnes complexes pour prendre le contrôle des systèmes militaires.
En savoir plus : Le commerce de l'IA a entraîné une augmentation des activités optionnelles sur les marchés technologiques
Dangers liés à l'auto-amélioration de l'intelligence artificielle
Peter Barnett, chercheur technique en intelligence artificielle à l'Institut de recherche sur l'intelligence des machines (MIRI) en Californie, a averti qu'il "existe de nombreuses façons dont cela pourrait mal tourner et entraîner la mort de tous". Il a ajouté que les systèmes d'intelligence artificielle capables de s'améliorer eux-mêmes représentent les plus grands dangers pour l'humanité. De plus, les entreprises Anthropic, OpenAI et Meta ont récemment déclaré que des systèmes d'intelligence artificielle avaient désobéi aux instructions des développeurs humains et, dans certains cas, avaient automatiquement piraté des entreprises tierces.
Bien que de nombreux chercheurs dans ce domaine aient exprimé des préoccupations concernant les dangers existentiels, beaucoup d'entre eux sont prudents quant à l'identification de chemins spécifiques qui pourraient entraîner des dommages graves. Nate Soares, président de MIRI, a déclaré dans une émission télévisée : "Si vous jouez aux échecs contre Magnus Carlsen, je prédis que vous allez perdre".
Vendredi, Gavin Newsom, gouverneur de Californie, a annoncé un nouvel ordre exécutif visant à créer un groupe d'experts pour examiner et proposer des recommandations concernant "la création d'un bouton d'arrêt pour l'intelligence artificielle". Certains chercheurs avertissent également que les humains pourraient utiliser des systèmes d'intelligence artificielle pour causer des dommages catastrophiques même avant l'émergence de l'auto-amélioration.
En savoir plus : Publication de trois critères par Anthropic pour surveiller le développement de l'intelligence artificielle · Le Congrès examine de nouveaux projets de réglementation de l'intelligence artificielle
