Programmiererin entwickelt Chatbot, um mit totem Freund zu reden

9. Oktober 2016, 10:41
124 Postings

Der "Roman-Bot" wirft ethische Fragen auf, soll aber therapeutische Zwecke erfüllen

Eugenia Kuyda und Roman Mazurenko waren jahrelang beste Freunde gewesen: Sie machten Moskaus Nachtleben unsicher, zogen gemeinsam nach San Francisco und schmiedeten Zukunftspläne in der Start-up-Szene. Dann starb Mazurenko plötzlich: Bei einem Besuch in Moskau rammte ihn ein zu schnell fahrendes Auto, als er einen Zebrastreifen querte. Ein Schock für Kuyda: Plötzlich war ihr bester Freund verschwunden. Doch die Programmiererin nahm dies zum Anlass, ihrem Freund ein digitales Denkmal zu bauen: Einen Chatbot, der nach ihm modelliert war.

Restaurant-Bot wird Denkmal

Kuyda hatte in diesem Bereich einige Erfahrung aufzuweisen: Sie arbeitet hauptberuflich beim Startup Luka, das einen Bot für Restaurantbesucher programmiert hatte. Damit konnten Nutzer automatisierte Antworten auf Fragen zu beispielsweise vegetarischen Speisen erhalten. Kuyda begann, ihre Kollegen zu bitten, etwas Arbeitszeit in den "Roman-Bot" zu investieren. Tausende SMS und Chatlogs sollten die Grundlage für den nachgebauten Freund liefern.

Google-Technologie

Technologisch basiert der Bot auf Googles TensorFlow, einem Open Source-System im Bereich Maschinenlernen, das beispielsweise auf YouTube zum Einsatz kommt. Seit November 2015 ist das Tool frei verfügbar. Kuydas Freund Roman war zwei Wochen später gestorben. Ihr Start-Up Kuyda war zu diesem Zeitpunkt gerade dabei, TensorFlow für den Restaurant-Bot zu adaptieren. Später beginnen Mitarbeiter, zum Spaß die Sprechart von Charakteren aus Fernsehserien mit TensorFlow nachzubauen.

"Black Mirror" als Inspiration

Spätestens, als Kuyda eine Folge der Scifi-Dystopie "Black Mirror" sah, in der Verstorbene als Roboter wieder zum Leben erweckt wurden, war ihr klar, dass sie einen Bot basteln musste, der ihren Freund imitiert – obwohl "Black Mirror" eigentlich vehement vor solchen Experimenten warnt. Dementsprechend heftig waren auch die Kontroversen, die Kuydas Entscheidung in ihrem Freundeskreis auslöste. "Das ist sehr, sehr schlimm", schrieb eine gute Freundin der beiden, als Kuyda den Roman-Bot auf Facebook präsentierte. "Die Ausführung ist wie ein Witz – ja, Roman hat ein Denkmal verdient, aber nicht in dieser Art."

natália paiva

Kritik

Auch Mazurenkos Vater tut sich schwer damit, mit der Kopie seines verstorbenen Sohnes zu chatten. "Es ist hart, Antworten von einem Programm zu erhalten, das manchmal komplett danebenliegt", sagt er zu TheVerge. Doch andere sind begeistert. Mazurenkos Mutter gibt an, nun viel mehr über ihren toten Sohn als zu dessen Lebzeiten erfahren zu können. Sie habe es einfach verpasst, mit ihm über bestimmte Themen zu reden. Der Chatbot zeige ihr nun, welche Meinung er über dieses oder jenes gehabt habe.

Therapeutischer Zweck

Kuyda, die mit dem Einverständnis der Betroffenen zu Analysezwecken die Chatprotokolle durchlesen durfte, sagt, dass ein Großteil von Romans Freunden den Chatbot nutze, um über Probleme aus ihrem Alltag zu berichten. Es habe einen "therapeutischen Effekt", der digitalen Kopie des Verstorbenen sein Herz ausschütten zu können. Tatsächlich war der allererste Chatbot, der von Nutzern in Tests mit einem Menschen verwechselt wurde, die Imitation eines Psychotherapeuten.

Nicht nur kommerziell

In Zukunft will Kuyda den Chatbot mit noch mehr Material füttern. Es ginge ihr aber mehr darum, "einen Platz zum Trauern" zu haben, als tatsächlich Antworten zu erwarten, erklärt sie gegenüber TheVerge. Ihr Experiment zeigt jedenfalls, in welche Richtung Chatbots gehen könnten. Lust, an einem Restaurant-Bot zu arbeiten, hat Kuyda jedenfalls nicht mehr. "Bots müssen etwas in uns auslösen", sagt Kuyda. Ein rein kommerzieller Zwecke tue ihnen nicht Genüge. (fsc, 9.10.2016)

  • Auch in der Fernsehserie "Black Mirror" werden digital wiedererweckte Tote thematisiert – Kuyda war davon inspiriert worden
    foto: black mirror

    Auch in der Fernsehserie "Black Mirror" werden digital wiedererweckte Tote thematisiert – Kuyda war davon inspiriert worden

Share if you care.