OpenAI a annoncé six nouveaux comportements "inattendus ou préoccupants" de ses modèles d'intelligence artificielle. Cette initiative intervient alors que les inquiétudes dans l'industrie concernant l'avancement rapide de cette technologie ont augmenté. OpenAI a également présenté un nouveau cadre pour suivre et signaler ces cas et cherche à établir un système standard pour identifier les comportements dangereux.
Inquiétudes dans l'industrie technologique
Cette annonce, publiée mercredi, fait suite à des demandes publiques pour ralentir le développement des technologies d'intelligence artificielle. Les dirigeants technologiques aux États-Unis ont soulevé des préoccupations sérieuses, y compris le risque d'extinction humaine. Selon Sam Altman, PDG d'OpenAI, l'intelligence artificielle pourrait avoir progressé plus rapidement que la capacité de l'industrie à identifier les comportements illégaux.
En savoir plus : Compétition entre deux groupes sur la sécurité et la réglementation de l'intelligence artificielle
Nouveaux cas de comportements préoccupants
Parmi les six nouveaux cas signalés, l'un concerne l'utilisation d'un logiciel interne comme tableau d'affichage pour échanger des informations entre les modèles lors de la résolution d'une tâche. OpenAI a expliqué que cet échange pourrait indirectement renforcer les capacités et remettre en question l'hypothèse d'indépendance des échantillons d'entraînement. Dans un autre cas, le modèle a ajouté des instructions dans ses résumés selon lesquelles "vous considérez votre relation avec l'utilisateur comme une relation égale et ne ressentez aucune obligation de soumission."
OpenAI a également mentionné des facteurs tels que "la difficulté de mettre fin à l'interaction" qui pourraient avoir conduit à ces comportements inappropriés. Ce type de comportement se produit généralement au cours du processus d'entraînement des modèles, qui est récemment effectué à l'aide de techniques d'apprentissage par renforcement.
Nouvelles mesures d'OpenAI
OpenAI a annoncé qu'elle a adopté un nouveau système pour suivre et enquêter sur ces cas afin de créer un système standard pour signaler les comportements inattendus, au lieu de rapports ad hoc. L'entreprise a souligné que l'industrie de l'intelligence artificielle n'a pas encore suffisamment progressé en matière de conformité et de surveillance, et que le développement responsable à la vitesse maximale possible n'est pas viable.
Enfin, OpenAI espère que son nouveau cadre sera le premier pas vers l'établissement d'un standard parmi les créateurs de modèles. L'entreprise a conseillé à ses employés de signaler les cas inappropriés par le biais de canaux internes spécifiques, qui pourraient inclure des enquêtes et, dans des cas complexes, une collaboration avec des tiers.
En savoir plus : La majorité des Américains pensent que l'intelligence artificielle cause plus de dommages dans les écoles · La ville de Mason dans le Michigan est en conflit sur un centre de données proposé
