Computer schreibt "menschliche" Restaurant-Bewertungen – Forscher warnt

    5. September 2017, 14:55
    64 Postings

    Nicht nur Gefahr für Yelp und Co., sondern für die gesamte Gesellschaft

    Egal ob beim Kauf eines Produktes, der Wahl eines Arztes oder vor dem Besuch eines Restaurants: Wer sich vorab im Netz über die Qualitäten der Ware oder des Dienstleisters informieren möchte, schaut nicht selten bei Bewertungsplattformen nach. Die Eindrücke anderer Nutzer helfen bei der Entscheidungsfindung.

    Doch dieses Prinzip ist anfällig. Schon in der Vergangenheit gab es immer wieder Fälle von Fake-Rezensionen, die etwa der Geschäftsschädigung der Konkurrenz oder dem in den Himmel loben des eigenen Angebots dienten. Ein Phänomen, das künftig noch problematischer werden könnte – denn nun sind auch Computeralgorithmen in der Lage, mitzumischen, berichtet Business Insider.

    KI schreibt Restaurantkritiken

    Forscher der University of Chicago haben eine künstliche Intelligenz (KI) entwickelt, die in der Lage sind, Bewertungen für Restaurants, Pubs und andere gastronomische Einrichtungen zu verfassen, die sich von menschlichen Rezensionen kaum unterscheiden lassen.

    "I love this place. I went with my brother and we had the vegetarian pasta and it was delicious. The beer was good and the service was amazing. I would definitely recommend this place to anyone looking for a great place to go for a great breakfast and a small spot with a great deal", liest sich eine der vom schlauen Algorithmus kreierten Kritiken.

    Wenngleich die Formulierung des letzten Satzes etwas unüblich ausfällt, würde dieser Text nicht auf den ersten Blick auffallen, zumal er jene Eindrücke transportiert, die man von einer solchen Rezension erwartet. Auch weitere zitierte Fakes wirken glaubhaft.

    Ähnlich "nützlich" wie menschliche Rezensionen

    Zwecks Untersuchung legte man 600 Personen sowohl generierte, als auch von Menschen geschriebene Rezensionen vor und ließ sie diese auf einer Skala von 1 bis 5 (je höher, desto besser) hinsichtlich ihrer Nützlichkeit bewerten. Die Computertexte schnitten dabei mit einem Schnitt von 3,15 nur minimal schlechter ab, als ihre echten Pendants mit 3,28.

    Laut Forschungsleiter Ben Zhao sei gängige Software zur Abwehr gefälschter Rezensionen daher nicht anwendbar. Würde man diese anpassen, um die Fakes zu erkennen, würde sie unweigerlich auch viele echte Texte als Fälschung markieren. Im konkreten Fall war es auf eine andere Art möglich, menschliche von computergenerierten Reviews zu unterscheiden. Denn der Algorithmus, der mit einem Datensatz aus echten Bewertungen trainiert worden war, fiel mit einer bestimmten Buchstabenverteilung auf, was eine Enttarnung mit statistischen Berechnungen ermöglicht.

    Bedrohung für die Gesellschaft

    Durch die Verwendung besserer Hardware und leistungsfähigeren neuralen Netzwerken sowie mehr Daten ließe sich dies jedoch beheben, denkt Zhao. Er sieht KI dieser Art nicht nur als Bedrohung für Bewertungsportale wie Yelp oder die Glaubwürdigkeit von Kundenrezensionen auf Shoppingportalen wie Amazon.

    "Ich denke es ist eine Bedrohung der gesamten Gesellschaft (…) und unseren Glauben daran, was echt und was unecht ist. Ich denke, das ist von fundamentaler Bedeutung", sagt der Forscher. (gpi, 05.09.2017)

    • Kluge Algorithmen können bereits glaubhafte Restaurantkritiken schreiben.
      foto: derstandard.at/pichler

      Kluge Algorithmen können bereits glaubhafte Restaurantkritiken schreiben.

    Share if you care.