Digital Life 

Mensch oder Maschine - So enttarnst du eine KI am Telefon

Google Duplex kann für den Nutzer Anrufe erledigen. Dabei merkt der Angerufene nicht, dass er gerade mit einem Bot telefoniert.
Google Duplex kann für den Nutzer Anrufe erledigen. Dabei merkt der Angerufene nicht, dass er gerade mit einem Bot telefoniert.
Foto: Screenshot
Wenn Googles Vision in Zukunft Wirklichkeit wird, könnten Roboter bald Telefonate für uns führen. Nicht alle Menschen fühlen sich mit dieser Idee wohl. Doch mit einem Trick kann die künstliche Intelligenz entlarvt werden.

Auf der diesjährigen Entwicklerkonferenz I/O stellte Google den digitalen Assistenten Duplex vor, der für den Nutzer telefonisch Termine beim Friseur vereinbaren, einen Tisch im Restaurant reservieren oder die Öffnungszeiten eines Geschäfts erfragen kann.

Weiterentwicklung von Siri & Co.

Eigentlich ist Google Duplex keine echte Neuheit, sondern nur eine konsequente Weiterentwicklung der schon bestehenden Technik, die uns allen bestens bekannt ist. Die sprachliche Interaktion mit einem Computer gehört längst zu unserem Alltag. Wir fragen Siri, wie alt unsere Bundeskanzlerin ist, in der Warteschleife einer Service-Hotline lotst uns eine freundliche Stimme nach mündlicher Eingabe der Kundennummer zum richtigen Sachbearbeiter.

Doch Google Duplex ist anders. Während die Stimme in der Warteschleife nach wenigen Momenten als Computer erkennbar ist, da sie die Kundennummer auch nach dem vierten Versuch noch immer nicht verstanden hat, reagiert Googles neuer Assistent einem Menschen zum Verwechseln ähnlich.

Duplex imitiert Menschen

Die künstliche Intelligenz streut “mmhs” und “ahs” in das Gespräch ein, macht Denkpausen in Momenten, in denen auch ein Mensch kurz innehalten würde, und reagiert mit einer bisher nicht gekannten Natürlichkeit dem menschlichen Gesprächsteilnehmer gegenüber. Dem ist dabei nicht bewusst, dass er gerade mit einer KI telefoniert, wie bei den Demo-Telefonaten, die Google auf der I/O zeigte, deutlich wird.

Google’s Duplex Assistant phone call blew my mind!

Genau das macht einigen Menschen jedoch Angst. Sie wollen nicht mit einer künstlichen Intelligenz interagieren, ohne darüber Bescheid zu wissen.

Laut der Soziologin Zeynep Tufekci repräsentiere Google Duplex die ethische Einstellung der amerikanischen Tech-Industrie: Der Bot bleibe dem Gegenüber nicht nur eine Erklärung über seine künstliche Natur schuldig, sondern versuche ihn sogar mit menschlich klingenden Füllwörtern zu täuschen.

Google reagiert

Auf die Bedenken der Nutzer hat Google unmittelbar reagiert, und betont, dass ein Mechanismus in Duplex eingebaut werde, der dem Nutzer erkennbar mache, dass es sich um einen Anruf von Google Assistant handele.

Zwar konnte Google mit der Reaktion die Diskussionen um den Assistenten beruhigen, ein mulmiges Gefühl bleibt dennoch, schließlich ist davon auszugehen, dass auch andere Unternehmen Assistenten mit ähnlichen Fähigkeiten auf den Markt bringen werden. Bis zur lizenzierten Nutzung, die die Technik auch Privatpersonen und kleineren Firmen zugänglich macht, ist es dann kein langer Weg mehr.

Gefährlich wird es, sobald die künstliche Sprachintelligenz für kriminelle Zwecke missbraucht wird. Millionenfache Enkeltrick-Anrufe oder intelligent verpackte Spam-Telefonate wären mit der neuen Technik möglich.

Wie man den Bot erkennt

Glücklicherweise gibt es einen einfachen Trick, mit der die Identität des Telefon-Bots offengelegt werden kann, den David Gunkel, Professor für Kommunikation an der Universität von Northern Illinois, in einem Gespräch mit Motherboard erklärt: “"Duplex kann natürlich klingende Gespräche über ein bestimmtes Thema, wie beispielsweise den Kundenservice eines Netzbetreibers, führen. Fragt man das System jedoch, ob es Orangensaft oder Hummer lieber mag oder was es von den angenehm warmen Temperaturen hält, wird es merkbare Schwierigkeiten bei der Beantwortung haben."

Sollte euch ein Anruf in Zukunft also dubios vorkommen, und ihr wollt wissen, ob der Anrufer tatsächlich ein Mensch ist, versucht einfach bedeutungslosen Smalltalk zu betreiben. Wirkt die Antwort unnatürlich, könnte es sich möglicherweise um einen KI-gestützten Assistenten handeln. Fraglich ist, wie lange mit diesem Trick ein Bot noch enttarnt werden kann, schließlich wird das Programm hinter der Computerstimme in den nächsten Jahren laufend weiterentwickelt und auf Natürlichkeit getrimmt werden.

Neueste Videos von futurezone in der Autoplay Video Playlist

Die neuesten Videos von futurezone und der FUNKE Zentralredaktion.

Die neuesten Videos von futurezone und der FUNKE Zentralredaktion.

Beschreibung anzeigen
Mehr lesen