Digital Life 

Mensch statt KI: Wie Dienstleister mit dem Begriff schummeln

Wenn die von Unternehmen versprochene Technologie doch keine KI enthält, muss der Mensch aushelfen.
Wenn die von Unternehmen versprochene Technologie doch keine KI enthält, muss der Mensch aushelfen.
Foto: imago/ Jochen Tack
KI ist zu einem Schlagwort verkommen, mit dem sich viele Dienstleister schmücken. Oft genug ohne, dass auch wirklich künstliche Intelligenz involviert ist.

Dank digitaler Assistenten wie Alexa, Cortana und Siri sind Gespräche mit Robotern mittlerweile keine Besonderheit mehr. Doch man sollte aufpassen, was man gegenüber den vermeintlich virtuellen Gesprächspartnern sagt – oftmals steckt ein Mensch dahinter. Denn obwohl für viele Technologie-Konzerne und Start-ups kein Problem unlösbar scheint, ist die Entwicklung von künstlicher Intelligenz ein zeitaufwändiges und kostspieliges Unterfangen. Stattdessen greifen immer mehr Unternehmen, von Google und Facebook bis hin zu kleinen Start-ups, auf Menschen zurück, die den Roboter spielen.

Menschen spielen KI-Roboter, um Business-Ideen zu testen

Die „Pseudo-KIs“ sind weiterverbreitet als man glaubt. Das Vorgehen wird als die „Zauberer von Oz“-Methode bezeichnet. Benannt nach dem gleichnamigen Kinderbuch, in dem ein alter Mann vorgab, Zauberkräfte zu besitzen, nehmen hier Menschen die Rolle von Robotern ein. Die Methode wird vor allem von Start-ups eingesetzt, die so überprüfen können, ob sich eine Geschäftsidee lohnt. Doch zuletzt haben auch große Konzerne den „Zauberer von Oz“ für sich entdeckt, glaubt man dem Guardian.

Facebook und Google setzen nicht immer zu 100 Prozent auf KI

Hinter Facebooks KI-Assistenten „M“ standen eigentlich „mehrere dutzend Mitarbeiter“, die die Anfragen der Nutzer beantworteten. „M“ war lediglich für wenige hundert Nutzer in San Francisco verfügbar und wollte ein wahrer persönlicher Assistent sein. Seien es nun Blumen, die zum Geburtstag an die Mutter geschickt werden sollten, eine Flugbuchung für eine kurzfristige Reise oder eine Pizzabestellung – „M“ sollte all diese Aufgaben auf Wunsch übernehmen können. Doch die komplexen Bestellvorgänge übernahmen in Wirklichkeit Menschen, die die Nachricht der Nutzer kategorisierten. Facebooks Dienst "M" wurde schließlich Anfang des Jahres eingestellt, eine Handvoll der KI-Features wanderte in die Messenger-App des sozialen Netzwerkes.

Video: Google’s Duplex Assistant phone call blew my mind!

Auch Googles neuestes KI-Experiment Duplex setzt stark auf Menschen im Hintergrund. Duplex kann selbstständig bei Restaurants und Frisören anrufen und Reservierungen vornehmen. Der US-Konzern verblüffte bei der Demonstration damit, wie echt der Roboteranruf klang: Die Software erkannte auch komplexe Satzstrukturen und streute immer wieder „Ähm“ und Sprechpausen an, um wie ein Mensch zu wirken. Doch während der Testphase, die in den kommenden Wochen starten soll, werden alle Anrufe von Menschen überwacht, die im Notfall den Anruf übernehmen können.

Der Mensch als KI ist moralisch verwerflich

Die Vorzüge der Methode sind klar: Man erspart sich die kostspielige Entwicklung einer Technologie und kann diese sofort im Alltag erproben. „Man simuliert, wie sich etwas anfühlen wird. Wie so oft bei KI, sitzt eigentlich ein Mensch hinter dem Vorhang statt eines Algorithmus“, sagt Allison Darcy, Entwickler des Woebot, ein Therapie-Chatbot, der Menschen mit Depressionen und anderen psychischen Problemen helfen soll. Doch zugleich wirft der „Zauberer von Oz“ vor allem ethische Fragen auf. Wie Studien zeigen, verhalten sich Menschen gegenüber Computerprogrammen ehrlicher und offener – auch weil sie keine Angst haben, von ihrem Gegenüber verurteilt zu werden.

Aus diesem Grund verzichtet auch der Woebot bewusst auf Menschen im Hintergrund, um das Vertrauen seiner Nutzer zu bewahren. Auch Google kündigte zuletzt an, dass Duplex sich künftig klar als Roboter zu erkennen geben soll – obwohl viel Aufwand darin gesteckt wird, die Technologie menschlich wirken zu lassen.

Video: Therapie-Chatbot Woebot

Wenn die Technologie fehlt, müssen die Mitarbeiter leiden

Die „Zauberer von Oz“-Methode bereitet aber auch Probleme in der hart umkämpften Start-up-Welt. Jungunternehmen, die Probleme mit künstlicher Intelligenz lösen können, werden derzeit mit Risikokapital überhäuft. Viele Unternehmen überschätzen ihre Fähigkeiten und müssen verstärkt auf Menschen zurückgreifen, um ihre Versprechen einhalten zu können. Das beste Beispiel dafür lieferte das deutsche Start-up GoButler, bei dem unter anderem der bekannte TV-Moderator Joko Winterscheidt als Investor auftrat. Wie Facebooks „M“ war GoButler ein „digitaler Concierge“, der Aufträge des Nutzers erledigte.

Weil die KI-Technologie fehlte, mussten rund um die Uhr Menschen Anfragen beantworten. Der Aufwand war dermaßen groß, dass die Mitarbeiter nicht einmal für die Mittagspause den Schreibtisch verlassen durften. Selbst die Teilnahme an der Weihnachtsfeier musste in 30-Minuten-Schichten eingeteilt werden, um die Verfügbarkeit zu gewährleisten. Zu Spitzenzeiten mussten Mitarbeiter bis zu zehn Anfragen gleichzeitig beantworten.

„Jeder fühlte sich überarbeitet und nicht gewertschätzt“, sagte ein ehemaliger Mitarbeiter gegenüber Bloomberg. Die Folge: Das Unternehmen musste laufend Mitarbeiter abbauen und konzentrierte sich zum Schluss nur mehr auf Flugbuchungen, bis es 2016 komplett eingestellt wurde.

Sensible Daten werden zwangsweise von Menschen gelesen

Ähnliche Berichte gibt es über den US-Konkurrenten X.ai, der die Terminfindung übernehmen soll. Obwohl diese Aufgabe bereits zum Teil von Algorithmen gemeistert werden kann, müssen dennoch oft Menschen einspringen. Ehemalige Mitarbeiter beschreiben die Arbeit, die bis zu zwölf Stunden pro Tag dauert, als „langweilig“ und „unglaublich frustrierend“ – auch weil der vermeintliche virtuelle Gesprächspartner „Amy“ bis zu zehn Mal pro Monat nach sexuellen Gefälligkeiten gefragt wird.

Problematisch wird es auch, wenn persönliche oder heikle Daten nicht nur wie angegeben verarbeitet werden. Erst vergangene Woche sorgte ein Bericht des Wall Street Journal für Aufsehen, wonach zwei Start-ups E-Mails von Menschen statt, wie behauptet, einer künstlichen Intelligenz analysieren ließen. In diesem konkreten Fall sollten die Menschen die Leistung der KI überprüfen und mögliche Fehler bei der Kategorisierung der E-Mails korrigieren.

Immer wieder lagern Start-ups Aufgaben über Crowdworking-Plattformen wie Amazons Mechanical Turk an Dritte aus. Das Start-up Expensify, das das automatisierte Digitalisieren von gedruckten Rechnungen versprach, sorgte so für Schlagzeilen. Unbekannte Dritte statt Computer-Algorithmen übernahmen das mühsame Abtippen der Rechnungsdetails, während das Start-up weiterhin an der bereits beworbenen Technologie arbeitete.

Video: Wie schlau ist KI eigentlich?

Tarnung als KI kann Therapeuten nötig machen

Dass sich am Zusammenspiel zwischen Menschen und Algorithmen rasch etwas ändern wird, ist unwahrscheinlich. Viele komplexe Aufgaben, wie das Erkennen von rechtlich und moralisch fragwürdigen Inhalten, wird nach wie vor an Menschen ausgelagert – oftmals zu einem hohen Preis. Google-Mitarbeiter mussten sich bereits nach kurzer Zeit in dieser Position einer Therapie unterziehen. Insbesondere Facebook, das immer wieder auf das Potenzial künstlicher Intelligenz verweist, investiert verstärkt in menschliche Moderatoren. Allein dieses Jahr soll die Zahl der für Community und Sicherheit zuständigen Mitarbeiter von 10.000 auf 20.000 verdoppelt werden.

Dieser Artikel erschien ursprünglich auf futurezone.at.

Zu den Kommentaren

Neueste Videos auf futurezone.de

Die neuesten Videos von futurezone.

Neueste Videos auf futurezone.de

Beschreibung anzeigen