OpenAI hat sechs neue Fälle von "unerwartetem oder besorgniserregendem" Verhalten seiner KI-Modelle bekannt gegeben. Diese Maßnahme erfolgt vor dem Hintergrund wachsender Bedenken in der Branche über den raschen Fortschritt dieser Technologie. OpenAI hat auch einen neuen Rahmen zur Verfolgung und Meldung dieser Fälle präsentiert und strebt an, ein standardisiertes System zur Identifizierung gefährlicher Verhaltensweisen zu schaffen.
Bedenken in der Technologiebranche
Diese Ankündigung, die am Mittwoch veröffentlicht wurde, erfolgt als Reaktion auf öffentliche Forderungen nach einer Verlangsamung der Entwicklung von KI-Technologien. Technologiechefs in den Vereinigten Staaten haben ernsthafte Bedenken geäußert, darunter die Gefahr des Aussterbens der Menschheit. Laut Sam Altman, dem CEO von OpenAI, könnte die KI schneller gewachsen sein als die Fähigkeit der Branche, illegales Verhalten zu erkennen.
Mehr erfahren: Wettbewerb zwischen zwei Gruppen in der Diskussion über Sicherheit und Regulierung von KI
Neue Fälle besorgniserregenden Verhaltens
Unter den sechs neu gemeldeten Fällen gab es einen, der die Verwendung von interner Software als Nachrichtentafel zum Austausch von Informationen zwischen den Modellen während der Lösung einer Aufgabe beinhaltete. OpenAI erklärte, dass dieser Austausch indirekt die Fähigkeiten stärken und die Hypothese der Unabhängigkeit der Trainingsbeispiele in Frage stellen könnte. In einem anderen Fall hat das Modell Anweisungen in seinen Zusammenfassungen hinzugefügt, nach denen "Sie Ihre Beziehung zum Benutzer als gleichwertig betrachten und sich keiner Verpflichtung zur Unterwerfung bewusst sind."
OpenAI hat auch auf Faktoren wie "die Schwierigkeit, Interaktionen zu beenden" hingewiesen, die zu diesen unangemessenen Verhaltensweisen geführt haben könnten. Solches Verhalten tritt normalerweise während des Trainingsprozesses der Modelle auf, der kürzlich mit Techniken des verstärkenden Lernens durchgeführt wird.
Neue Maßnahmen von OpenAI
OpenAI gab bekannt, dass es ein neues System zur Verfolgung und Untersuchung dieser Fälle eingeführt hat, um ein standardisiertes System zur Meldung unerwarteten Verhaltens zu schaffen, anstelle von Ad-hoc-Berichten. Das Unternehmen betonte, dass die KI-Branche noch nicht ausreichend in Bezug auf Übereinstimmung und Überwachung fortgeschritten ist und eine verantwortungsvolle Weiterentwicklung nicht mit der höchstmöglichen Geschwindigkeit erfolgen kann.
Schließlich hofft OpenAI, dass sein neuer Rahmen den ersten Schritt zur Schaffung eines Standards unter den Herstellern anderer Modelle darstellt. Das Unternehmen hat seinen Mitarbeitern geraten, unangemessenes Verhalten über spezielle interne Kanäle zu melden, die möglicherweise Untersuchungen und in komplexen Fällen die Zusammenarbeit mit Dritten umfassen.
Mehr erfahren: Die Mehrheit der Amerikaner glaubt, dass KI in Schulen mehr schadet · Die Stadt Mason in Michigan geriet wegen eines vorgeschlagenen Rechenzentrums in einen Streit
