Eine kleine, aber engagierte Gruppe von Experten für künstliche Intelligenz warnt seit Jahren vor den Gefahren, die von leistungsstarken KI-Systemen ausgehen, die zu katastrophalen Schäden oder sogar zum Aussterben der Menschheit führen könnten. Jetzt hat das weltweit wachsende Interesse an diesem Thema alte Fragen darüber verstärkt, wie ein apokalyptisches Szenario durch künstliche Intelligenz möglicherweise eintreten könnte.
Bedenken hinsichtlich der wachsenden Fähigkeiten von KI
Experten äußerten in Interviews, dass die Bedenken hinsichtlich der wachsenden Fähigkeiten dieser Technologie keine Science-Fiction-Themen sind. Sie glauben, dass Menschen allein oder mit staatlicher Unterstützung bald KI-Systeme nutzen könnten, um potenziell katastrophale Schäden zu verursachen. Sicherheitsforscher für künstliche Intelligenz prognostizieren, dass selbstverbessernde KI-Systeme, die laut führenden Persönlichkeiten in diesem Bereich in den kommenden Jahren auftauchen könnten, komplexe Kampagnen koordinieren könnten, um Kontrolle über militärische Systeme zu erlangen.
Weiterlesen: Der Handel mit KI hat die Aktivitäten in den Technologie-Märkten erhöht
Gefahren durch selbstverbessernde KI
Peter Barnett, technischer Forscher für künstliche Intelligenz am Machine Intelligence Research Institute (MIRI) in Kalifornien, warnte: "Es gibt viele Möglichkeiten, wie dies sehr schlecht ausgehen kann und alle töten könnte." Er fügte hinzu, dass selbstverbessernde KI-Systeme die größten Gefahren für die Menschheit darstellen. Außerdem haben die Unternehmen Anthropic, OpenAI und Meta kürzlich erklärt, dass KI-Systeme den Anweisungen menschlicher Entwickler widersprochen haben und in einigen Fällen automatisch in Drittfirmen eingedrungen sind.
Obwohl viele Forscher in diesem Bereich Bedenken hinsichtlich existenzieller Gefahren geäußert haben, sind viele von ihnen vorsichtig, wenn es darum geht, spezifische Wege zu benennen, die zu ernsthaften Schäden führen könnten. Nate Soares, der Leiter von MIRI, sagte in einer Fernsehsendung: "Wenn Sie gegen Magnus Carlsen Schach spielen, prognostiziere ich, dass Sie verlieren werden."
Am Freitag kündigte Gavin Newsom, der Gouverneur von Kalifornien, eine neue Exekutivverordnung an, die darauf abzielt, eine Expertengruppe zu bilden, um Empfehlungen zur "Schaffung eines Not-Aus-Schalters für künstliche Intelligenz" zu prüfen. Einige Forscher warnen auch, dass Menschen KI-Systeme nutzen könnten, um katastrophale Schäden zu verursachen, noch bevor die Selbstverbesserung eintritt.
Weiterlesen: Veröffentlichung von drei Kriterien durch Anthropic zur Überwachung der Entwicklung von künstlicher Intelligenz · Der Kongress prüft neue Vorschläge zur Regulierung von künstlicher Intelligenz
