Eine kleine Gruppe von Cybersicherheitsforschern gab am Sonntag bekannt, dass sie Anfang dieses Jahres in OpenAI eingedrungen sind, was die Bedenken hinsichtlich der Sicherheit und des Schutzes von künstlicher Intelligenz verstärkt hat.
Details des Eindringens
Forscher von einem Unternehmen namens Hacktron fanden heraus, dass sie durch die Kombination von zwei unbekannten Schwachstellen, einer in einem Drittunternehmen namens Discourse und einer anderen in der Authentifizierung von OpenAI-Mitarbeitern, auf die Konten von ChatGPT-Mitarbeitern zugreifen konnten. Diese Forscher, die als "White-Hat-Hacker" bekannt sind, haben den Systemen des Unternehmens keinen Schaden zugefügt.
Mehr lesen: Makam verbessert sich durch Investitionen in KI
Die Operation Hacktron fand innerhalb von 72 Stunden Ende Juli statt, unmittelbar nachdem einige Vertreter von OpenAI die Beschränkungen umgangen und in die KI-Plattform Hugging Face eingedrungen waren. Ein Sprecher von OpenAI bestätigte, dass Hacktron einen Bericht über diesen Vorfall eingereicht hat und erklärte, dass die Schwachstellen jetzt behoben sind. Der Sprecher sagte: "Wir danken den Forschern für ihren Kontakt und das Teilen ihrer Erkenntnisse."
Öffentliche Bedenken hinsichtlich der Sicherheit von KI
Diese Nachricht erscheint zu einem Zeitpunkt, an dem die Bedenken hinsichtlich der Sicherheit von KI in den letzten Wochen stark zugenommen haben. Sicherheitsforscher haben von großen Unternehmen zurückgetreten und ernsthafte Warnungen über die potenziellen Gefahren dieser fortschrittlichen Technologie für die Menschheit ausgesprochen, während Politiker aus verschiedenen politischen Lagern zu Maßnahmen aufgerufen haben. Während sich die meisten dieser Bedenken auf die Fähigkeiten fortschrittlicher KI-Modelle konzentrieren, ist die Sicherheit der Unternehmen selbst ebenfalls ein bedeutendes Thema.
Die Entwicklung von KI ist sehr wettbewerbsintensiv, und es gibt Bedenken hinsichtlich des Diebstahls, insbesondere durch einen als "Destillation" bekannten Prozess. Wie viele Unternehmen hat OpenAI ein Programm zur Belohnung von Bug-Entdeckern, das Sicherheitsforschern, die neue Methoden zur Eindringung in ihre Systeme finden, Zahlungen leistet. Die Forscher von Hacktron schrieben in ihrem Blogbeitrag, dass OpenAI ihnen für diese Entdeckung 6.500 Dollar gezahlt hat.
Es gibt keine Beweise dafür, dass andere Hacker von den Schwachstellen, die Hacktron ausgenutzt hat, profitiert haben. Die USA beschuldigen China seit Jahren der Wirtschaftsspionage und behaupten, dass staatliche Hacker Chinas regelmäßig gestohlene Geschäftsgeheimnisse mit chinesischen Unternehmen teilen. China weist diese Anschuldigungen im Allgemeinen zurück.
Greg Linares, Cybersicherheitsforscher bei Persona, sagte, dass die Erkenntnisse von Hacktron es Elite-Hackern aus China oder anderen Ländern ermöglichen könnten, in die Systeme von OpenAI einzudringen. Er sagte: "Was sie verbunden haben, ist nicht ungewöhnlich und kann von echten hochrangigen Hackern, wie APTs oder staatlich unterstützten Hackern, zur Eindringung in Ziele verwendet werden."
Mehr lesen: OpenAI hat sechs besorgniserregende Verhaltensweisen seiner Modelle offengelegt · Veröffentlichung von Verträgen zur KI-Infrastruktur durch Anthropic und OpenAI
