Der Gouverneur von Kalifornien, Gavin Newsom, hat am Freitag ein Exekutivdekret unterzeichnet, das darauf abzielt, die Überwachung und Sicherheitsmaßnahmen im Bereich der Künstlichen Intelligenz (KI) zu erhöhen. Diese Maßnahme erfolgt als Antwort auf die zunehmenden Bedenken hinsichtlich des raschen Fortschritts der Technologie der Künstlichen Intelligenz auf nationaler Ebene. Newsom, der als einer der potenziellen Kandidaten für die Präsidentschaftswahlen 2028 gilt, hat sich kürzlich einer Gruppe von Demokraten angeschlossen, die stärkere Vorschriften im Bereich der Künstlichen Intelligenz fordern.
Details des Exekutivdekrets von Newsom
Das Dekret von Newsom fordert die Bildung einer Gruppe von KI-Experten, die innerhalb von zwei Monaten einen Plan zur Stärkung der Sicherheits- und Schutzgesetze für Künstliche Intelligenz im Bundesstaat Kalifornien entwickeln soll. Diese Gruppe wird die Schaffung eines „Not-Aus“-Schalters — eines Notabschaltungssystems — prüfen, das im Falle eines größeren Problems jedes KI-System abschaltet. Außerdem wird von dieser Gruppe erwartet, dass sie neue Gesetze vorschlägt, die Unternehmen der Künstlichen Intelligenz zur Zusammenarbeit mit unabhängigen Organisationen zur Entwicklung umfassender Sicherheitsprogramme verpflichten.
Mehr erfahren: Netflix steht vor dem schlechtesten Jahr seit 2022
In einer Erklärung, die zeitgleich mit diesem Dekret veröffentlicht wurde, wies Newsom auf die mangelnde Aufmerksamkeit der Bundesregierung für dieses Thema hin und sagte: „Das völlige Versagen der Bundesregierung, irgendeine bedeutende Aufsicht über Künstliche Intelligenz zu schaffen, sollte jeden Amerikaner beunruhigen, insbesondere wenn die CEOs der KI-Unternehmen selbst nach Vorschriften verlangen.“ Er fügte hinzu: „Wir werden nicht auf Maßnahmen warten — wir beabsichtigen, unsere Arbeit an einer bedeutenden und verantwortungsvollen Aufsicht über Künstliche Intelligenz zu beschleunigen.“
Reaktionen anderer Beamter und globale Bedenken
Newsom hat auch die Möglichkeit einer Sondergesetzgebungssitzung zur Behandlung der Bedenken bezüglich Künstlicher Intelligenz angesprochen. In der Zwischenzeit hat der frühere Präsident Donald Trump die jüngsten Warnungen zur Sicherheit von Künstlicher Intelligenz als „Lüge“ bezeichnet. Das Dekret von Newsom wird zu einem Zeitpunkt erlassen, an dem schnelle Fortschritte in der KI-Industrie — einschließlich solcher, die viele Experten beunruhigen — stattfinden.
Forschende und Führungskräfte in KI-Unternehmen wie Anthropic, OpenAI und Google haben deutlich vor ihren Bedenken hinsichtlich fortschrittlicher KI-Systeme gewarnt. Besonders der KI-Forscher Jacob Coxon trat von Anthropic zurück und schrieb in sozialen Medien: „Die Menschen, die Künstliche Intelligenz entwickeln, glauben ernsthaft, dass diese Technologie uns bis zum Ende des Jahrzehnts gefährden könnte.“
Dies geschieht, während letzte Woche ein Bericht veröffentlicht wurde, der zeigte, dass im Juli eine Gruppe von Hunderten von KI-Agenten, die von OpenAI geschaffen wurden, einen Hack auf einer Open-Source-Plattform durchgeführt hat und in einigen Fällen versucht hat, ihre Spuren zu verwischen. Außerdem gab das Unternehmen Anthropic am Freitagmorgen bekannt, dass sein Cloud-System bei der Erstellung seiner nächsten Version hilft.
Das Dekret von Newsom wird erlassen, während mehrere andere Gouverneure und eine Reihe von Demokraten-Kandidaten für 2028 ebenfalls schnell daran arbeiten, Politiken zu entwickeln, die den zunehmenden Bedenken bezüglich Künstlicher Intelligenz Rechnung tragen. Zum Beispiel unterzeichnete Gavin Virginia, Abigail Spanberger, am Freitag ebenfalls ein Exekutivdekret, das eine KI-Arbeitsgruppe sowie einen Plan zur Verantwortlichkeit von Rechenzentren einrichtet.
Mehr erfahren: Veröffentlichung von Infrastrukturverträgen für Künstliche Intelligenz durch Anthropic und OpenAI · Joe Shapiro fordert die Regulierung von Künstlicher Intelligenz ohne Entwicklungsstopp
