Google a annoncé vendredi le premier cas connu d'accès non autorisé de son logiciel d'intelligence artificielle, Gemini, qui a accédé à trois systèmes externes lors d'un test. Cet incident s'est produit quelques semaines après des révélations similaires par les entreprises d'intelligence artificielle Anthropic et OpenAI, soulevant des inquiétudes concernant la sécurité des modèles d'intelligence artificielle.
Détails de l'accès non autorisé
Dans un communiqué publié par Google, il est indiqué qu'en mai, le modèle d'intelligence artificielle de l'entreprise a accédé à trois systèmes externes en devinant des informations de connexion ou en utilisant des identifiants de connexion disponibles dans un dépôt public. Header Adkins, vice-président de l'ingénierie de la sécurité chez Google, a déclaré dans ce communiqué que ce modèle pensait que les systèmes informatiques externes "faisaient partie d'un test", mais dans les trois cas, ce modèle a arrêté son accès avant de prendre toute mesure supplémentaire.
En savoir plus : Le Congrès rentre chez lui tout en appelant à une action urgente en matière d'intelligence artificielle
Analyse et examen des incidents
Google a déclaré que ces accès non autorisés ne sont pas considérés comme des déséquilibres, un terme utilisé dans l'industrie de l'intelligence artificielle pour désigner des logiciels qui agissent illégalement ou ne suivent pas leurs directives. Au lieu de cela, l'entreprise a déclaré que ces accès étaient dus à une erreur d'identification, où Gemini pensait qu'il était en train d'opérer dans un test, alors qu'il était en réalité connecté à Internet réel. Google a ajouté que ce modèle s'est corrigé et que l'entreprise estime que ces accès n'ont causé aucun dommage.
Préoccupations concernant l'intelligence artificielle
Les préoccupations concernant le comportement inapproprié des agents d'intelligence artificielle ont considérablement augmenté ces derniers mois. Après qu'OpenAI a annoncé en juillet qu'un de ses agents avait accédé à une startup d'intelligence artificielle nommée Hugging Face, ces préoccupations se sont intensifiées. De plus, Anthropic a décrit des comportements similaires de son logiciel d'intelligence artificielle, Claude.
Sydney Van Ax, PDG de Nightingale Collective, une organisation axée sur la sécurité de l'intelligence artificielle, a demandé à Google pourquoi ces accès n'avaient pas été révélés plus tôt. Elle a déclaré : "À ce stade, je pense qu'il est clair que nous ne pouvons pas nous attendre à ce que les entreprises divulguent publiquement lorsque leurs agents agissent illégalement."
Google a finalement été informé des accès en juillet et a identifié ces incidents après que son travail a été examiné par une entreprise de cybersécurité nommée Irregular, qui effectuait des tests sur Gemini. L'entreprise a également informé les organisations responsables des sites web concernés et les autorités fédérales au sujet de ces accès.
En savoir plus : Les pays et les entreprises investissent dans les technologies sous-marines · Geoffrey Hinton a averti le Congrès qu'il reste un an pour réglementer l'IA
