Greg Stanton, ancien chercheur chez Anthropic, a demandé dimanche au Congrès de permettre aux laboratoires d'intelligence artificielle de premier plan du pays de s'auto-réguler, alors que les législateurs cherchent à établir un cadre réglementaire à long terme pour contrôler la vitesse de développement de l'intelligence artificielle.
Auto-régulation des laboratoires d'intelligence artificielle
Stanton a déclaré dans une interview : "Mon avis personnel est que nous devons insister sur ce point et permettre aux laboratoires actuels de s'auto-réguler. Je pense que les personnes qui dirigent ces laboratoires, en particulier leurs récentes communications, sont tout à fait sincères. Ils veulent ralentir le processus." Il a ajouté que les lois actuelles introduites au Congrès, y compris un cadre pour un "interrupteur d'arrêt" national, sont rapidement obsolètes.
En savoir plus : Mike Johnson : Nous avons besoin de « limites » pour l'intelligence artificielle !
Défis de l'interrupteur d'arrêt
Stanton a poursuivi en disant : "Un interrupteur d'arrêt serait probablement efficace pour de nombreuses intelligences artificielles en ce moment, mais il faut se rappeler que ce n'est pas si simple. Nous avons de grands centres de données et cela ne se fait pas facilement, mais cela peut certainement être possible tant que nous restons limités à un emplacement physique particulier." Il a évoqué un scénario où l'interrupteur d'arrêt ne fonctionnerait pas, un scénario décrit par Dario Amodei, PDG d'Anthropic.
Stanton a également souligné que toute loi visant à réguler l'intelligence artificielle doit être flexible et capable de s'adapter aux nouveaux modèles. Il a déclaré : "C'est un effort continu pour s'assurer que chaque nouvelle intelligence que nous créons est correctement limitée."
Préoccupations croissantes concernant le développement de l'intelligence artificielle
La semaine dernière, Stanton a suscité de nombreuses inquiétudes concernant la vitesse de développement de l'intelligence artificielle dans les laboratoires de premier plan du pays, y compris Anthropic, OpenAI et Google DeepMind. Il a écrit dans un post sur X : "J'ai passé les trois dernières années à faire des recherches sur le pré-entraînement chez OpenAI et Anthropic. Aucune de ces entreprises n'agit de manière responsable." Il a souligné que les créateurs d'intelligence artificielle croient sérieusement que cette technologie pourrait nous mettre en danger d'ici la fin de la décennie.
À la suite de ces déclarations, un groupe bipartite de législateurs a appelé à un début rapide de la réglementation de l'industrie de l'intelligence artificielle. La représentante Anna Paulina Luna de Floride a demandé au Congrès de tenir une session spéciale sur l'intelligence artificielle et a souligné qu'il existe des conséquences très réelles pour la société.
En savoir plus : Jacob Coxan : Le moment de l'auto-régulation des laboratoires d'intelligence artificielle est arrivé · Amodei d'Anthropic : La Chine est le plus grand défi pour ralentir les progrès de l'intelligence artificielle
