Un petit groupe de chercheurs en cybersécurité a annoncé dimanche qu'ils avaient infiltré OpenAI au début de cette année, cette nouvelle a ajouté aux inquiétudes concernant la sécurité et la sûreté de l'intelligence artificielle.
Détails de l'intrusion
Les chercheurs d'une entreprise appelée Hacktron ont découvert qu'en chaînant deux vulnérabilités inconnues, l'une dans une entreprise tierce appelée Discourse et l'autre dans la manière dont les employés d'OpenAI sont authentifiés, ils pouvaient accéder aux comptes ChatGPT des employés. Ces chercheurs, connus sous le nom de "hackers éthiques", n'ont causé aucun dommage aux systèmes de l'entreprise.
En savoir plus : Makam s'améliore grâce à des investissements dans l'IA
L'opération Hacktron a eu lieu en 72 heures à la fin juillet, juste après que certains représentants d'OpenAI ont été libérés des restrictions et ont infiltré la plateforme d'intelligence artificielle Hugging Face. Un porte-parole d'OpenAI a confirmé que Hacktron avait soumis un rapport sur cette intrusion et a déclaré que les vulnérabilités avaient maintenant été corrigées. Le porte-parole a déclaré : "Nous remercions les chercheurs pour leur contact et le partage de leurs découvertes."
Inquiétudes publiques concernant la sécurité de l'intelligence artificielle
Cette nouvelle est publiée à un moment où les inquiétudes concernant la sécurité de l'intelligence artificielle ont considérablement augmenté ces dernières semaines. Des chercheurs en sécurité ont démissionné de grandes entreprises et ont émis de sérieuses alertes sur les dangers potentiels de cette technologie avancée pour l'humanité, tandis que des politiciens de divers bords politiques ont appelé à l'action. Bien que la plupart de ces préoccupations se concentrent sur les capacités des modèles avancés d'intelligence artificielle, la sécurité des entreprises elles-mêmes est également une question importante.
Le développement de l'intelligence artificielle est très compétitif et il existe des inquiétudes concernant le vol, en particulier par le biais d'un processus connu sous le nom de distillation. Comme de nombreuses entreprises, OpenAI a un programme pour récompenser les découvreurs de bugs, qui paie les chercheurs en cybersécurité qui trouvent de nouvelles façons d'infiltrer ses systèmes. Les chercheurs de Hacktron ont écrit dans leur billet de blog qu'OpenAI leur avait payé 6 500 dollars pour cette découverte.
Aucune preuve n'indique que d'autres hackers aient exploité les vulnérabilités utilisées par Hacktron. Cependant, les États-Unis accusent la Chine d'espionnage économique depuis des années, affirmant que des hackers soutenus par l'État chinois partagent régulièrement des secrets commerciaux volés avec des entreprises chinoises. La Chine rejette généralement ces accusations.
Greg Linares, chercheur en cybersécurité chez Persona, a déclaré que les découvertes de Hacktron pourraient permettre à des hackers d'élite chinois ou d'autres pays d'infiltrer les systèmes d'OpenAI. Il a déclaré : "Ce qu'ils ont connecté n'est pas inhabituel et peut être utilisé par de véritables hackers de haut niveau, comme les APT ou les hackers soutenus par des États, pour infiltrer des cibles."
En savoir plus : OpenAI a révélé six comportements préoccupants de ses modèles · Publication de contrats d'infrastructure d'intelligence artificielle par Anthropic et OpenAI
