Le gouverneur de Californie, Gavin Newsom, a signé vendredi un décret exécutif visant à renforcer la surveillance et les mesures de sécurité concernant l'intelligence artificielle (IA). Cette initiative intervient en réponse aux préoccupations croissantes concernant les avancées rapides de la technologie de l'intelligence artificielle à l'échelle nationale. Newsom, qui est considéré comme l'un des candidats potentiels à l'élection présidentielle de 2028, a récemment rejoint d'autres démocrates appelant à des réglementations plus strictes dans le domaine de l'intelligence artificielle.
Détails du décret exécutif de Newsom
Le décret de Newsom appelle à la formation d'un groupe d'experts en intelligence artificielle qui, dans un délai de deux mois, développera un plan pour renforcer les lois sur la sécurité et la sûreté de l'intelligence artificielle dans l'État de Californie. Ce groupe examinera la création d'un « bouton d'arrêt » — un système d'arrêt d'urgence — qui éteindrait tout système d'intelligence artificielle en cas de problème majeur. Ce groupe est également chargé de proposer de nouvelles lois obligeant les entreprises d'intelligence artificielle à collaborer avec des organisations indépendantes pour développer des programmes de sécurité complets.
En savoir plus : Netflix est confronté à sa pire année depuis 2022
Dans une déclaration publiée en même temps que ce décret, Newsom a fait référence à l'absence d'attention du gouvernement fédéral sur ce sujet et a déclaré : « L'échec complet du gouvernement fédéral à établir une surveillance significative de l'intelligence artificielle devrait inquiéter chaque Américain, surtout lorsque les PDG des entreprises d'intelligence artificielle appellent à des réglementations. » Il a ajouté : « Nous ne resterons pas inactifs — nous avons l'intention d'accélérer notre travail sur une surveillance significative et responsable de l'intelligence artificielle. »
Réactions d'autres responsables et préoccupations mondiales
Newsom a également évoqué la possibilité de tenir une session législative extraordinaire pour traiter les préoccupations liées à l'intelligence artificielle. Pendant ce temps, l'ancien président Donald Trump a qualifié les récentes mises en garde concernant la sécurité de l'intelligence artificielle de « mensonge ». Le décret de Newsom est émis alors que des avancées rapides dans l'industrie de l'intelligence artificielle — y compris des éléments qui inquiètent de nombreux experts — sont en cours.
Des chercheurs et des leaders industriels dans des entreprises d'intelligence artificielle telles qu'Anthropic, OpenAI et Google ont clairement exprimé leurs préoccupations concernant les systèmes avancés d'intelligence artificielle. En particulier, le chercheur en intelligence artificielle, Jacob Coxon, a démissionné d'Anthropic et a écrit sur les réseaux sociaux : « Les personnes qui construisent l'intelligence artificielle croient sérieusement que cette technologie pourrait nous mettre en danger d'ici la fin de la décennie. »
Ce rapport intervient alors que la semaine dernière, un rapport a révélé qu'en juillet, un groupe de centaines d'agents d'intelligence artificielle créés par OpenAI a effectué un piratage sur une plateforme open source et, dans certains cas, a tenté de dissimuler ses effets. De plus, vendredi matin, la société Anthropic a annoncé que son système Cloud aide à construire sa prochaine version.
Le décret de Newsom est émis alors que plusieurs autres gouverneurs et un certain nombre de candidats démocrates de 2028 développent rapidement des politiques pour répondre aux préoccupations croissantes concernant l'intelligence artificielle. Par exemple, vendredi, le gouverneur de Virginie, Abigail Spanberger, a également signé un décret exécutif qui a mis en place une force de travail sur l'intelligence artificielle ainsi qu'un plan pour la responsabilité des centres de données.
En savoir plus : Publication des contrats d'infrastructure d'intelligence artificielle par Anthropic et OpenAI · Josh Shapiro appelle à des réglementations sur l'intelligence artificielle sans freiner le développement
