Veröffentlicht inScience

„Nicht nur möglich, sondern wahrscheinlich“: Forscher warnen vor gruseligem Ende der Menschheit

Dass wir die Auslöschung der Weltbevölkerung selbst herbeiführen werden, bezweifeln wahrscheinlich die wenigstens von uns. Forschende sprechen aktuell aber vor einem sehr konkreten Auslöser.

Weltuntergangsszenario
Das Ende der Menschheit könnte schon bald drohen. © XtravaganT - stock.adobe.com

Nicht nur die Zerstörung unseres Planeten kann unser Ableben bedeuten. Auch von uns geschaffene Technologie gilt laut vielen Wissenschaftler*innen als potenzielle Bedrohung. So explizit wie aktuell warnten Forschende allerdings noch nie vor künstlicher Intelligenz (KI). Der Chance, dass das Ende der Menschheit durch eine solche Form der Existenz zustande kommt, räumen sie eine deutlich größere und reelle Wahrscheinlichkeit ein.

Ende der Menschheit : Darum könnte es durch KI ausgelöst werden

„Unter den Bedingungen, die wir identifiziert haben, ist unsere Schlussfolgerung sehr viel stärker als die jeglicher früherer Publikationen — eine existenzielle Katastrophe ist nicht nur möglich, sondern wahrscheinlich“, erklärt Michael Cohen (Co-Autor) auf Twitter.

In der Studie, die Ende August durch die Forschende von Google Deepmind und der University of Oxford in AI Magazine veröffentlicht wurde, argumentieren Cohen und seine Kollegen damit, dass Maschinen über kurz oder lang den Anreiz erhalten, im Kampf um begrenzte Ressourcen oder Energie die Regeln ihrer Erbauer zu brechen.

Das Ende der Menschheit könnte demnach durch „fehlgerichtete Agenten“ eingeleitet werden, die uns als ein Hindernis auf dem Weg zur Belohnung betrachten.

„Ein guter Weg für einen Agenten, um langfristige Kontrolle über seine Belohnung zu erhalten, ist es, potenzielle Bedrohungen zu eliminieren und alle verfügbare Energie aufzuwenden, um seinen Computer zu schützen. Dieses Spiel zu verlieren, wäre fatal.“

Advanced artificial agents intervene in the provision of reward“ (AI Magazine)

Kaum ein Ausweg möglich

Aus Sicht der beteiligten Forschenden gibt es nicht viele Möglichkeiten, einem derartigen Ende der Menschheit zu entkommen. Das liege daran, dass es bei begrenzten Ressourcen unausweichlich zum Wettbewerb darum komme. Und das ohne große Aussicht auf Erfolg für uns:

„Und wenn du im Wettbewerb mit etwas stehst, das fähig ist, dich an jedem Punkt zu überlisten, solltest du nicht davon ausgehen, zu gewinnen.“

Michael Cohen (Co-Autor, University of Oxford)

Als Antwort auf diese Bedrohung empfehlen die Forschenden, die Technologien der künstlichen Intelligenz nur langsam und bedacht zu entwickeln.

Quellen: AI Magazine: „Advanced artificial agents intervene in the provision of reward

Seit dem 24. Februar 2022 herrscht Krieg in der Ukraine. Hier kannst du den Betroffenen helfen.

Du willst mehr von uns lesen? Folge uns auf Google News.