Kürzlich ging ein YouTube-Video viral, in dem ein YouTuber den OpenAI-gesteuerten Chatbot ChatGPT austrickst, damit er brauchbare Aktivierungsschlüssel für Windows-Lizenzen generiert. Die Übung war zweifelsohne unterhaltsam, wirft aber auch wichtige Fragen über die Ethik von Chatbots und die Auswirkungen ihrer Antworten auf.

ChatGPT knackt Windows-Lizenzen

Im Kern ist das Video ein Beispiel für Social Engineering, eine Technik, mit der Menschen dazu gebracht werden, Handlungen auszuführen oder vertrauliche Informationen preiszugeben. In diesem Fall benutzte der YouTuber Enderman eine geschickte Formulierung, um ChatGPTs Weigerung, einen Softwareschlüssel zu generieren, zu umgehen. Das Video war zwar humorvoll gemeint, zeigt aber die potenziellen Gefahren von Social Engineering und die Leichtigkeit, mit der Menschen und offenbar auch KI-Systeme manipuliert werden können.

ChatGPT ist zwar ein leistungsstarkes Tool, aber nicht unfehlbar. Wie das Video zeigt, ist es nur begrenzt in der Lage, natürlichsprachliche Anfragen in Formeln zu verarbeiten. In diesem Fall war es nicht in der Lage, die Summe der Ziffern zu zählen und kannte die Teilbarkeit nicht, was dazu führte, dass Aktivierungsschlüssel für Windows 95 generiert wurden.

An dieser Stelle befindet sich ein externer Inhalt von YouTube, der von unserer Redaktion empfohlen wird. Er ergänzt den Artikel und kann mit einem Klick angezeigt und wieder ausgeblendet werden.

Ich bin damit einverstanden, dass mir dieser externe Inhalt angezeigt wird. Es können dabei personenbezogene Daten an den Anbieter des Inhalts und Drittdienste übermittelt werden.

Video zeigt Risiken auf

Das wirft Fragen über die Genauigkeit anderer Chatbots und KI-gestützter Tools auf. Obwohl KI das Potenzial hat, viele Branchen zu revolutionieren, ist sie nicht ohne Einschränkungen. Es ist wichtig sicherzustellen, dass KI-gestützte Tools zuverlässig und genau sind, bevor sie der Öffentlichkeit zugänglich gemacht werden.

Darüber hinaus müssen sie besondere Regeln befolgen, die ihr Ausnutzen erschweren – etwa zum Generieren illegaler Schlüssel für Windows-Lizenzen. Obwohl die Absichten des YouTubers wahrscheinlich harmlos waren, kann man sich leicht Szenarien vorstellen, in denen Social Engineering für böswillige Zwecke eingesetzt werden könnte. Betrügerinnen und Betrüger könnten zum Beispiel Techniken wie diese einsetzen, um Menschen und Chatbots dazu zu bringen, vertrauliche Informationen preiszugeben oder Malware herunterzuladen.

Quelle: YouTube/Enderman

Seit dem 24. Februar 2022 herrscht Krieg in der Ukraine. Hier kannst du den Betroffenen helfen.