"Negobot": Chatprogramm forscht Pädophile aus

15. Juli 2013, 12:03
80 Postings

Künstliche Intelligenz mimt verletzlichen Teenager

Spanische Forscher von der Deusto-Universität haben einen Chatbot namens "Negobot" entwickelt, der Pädophile aufspüren und ihnen Informationen entlocken soll. Diese, so das Ziel der Erfinder, könnten Behörden dabei helfen, Missbrauchsfälle aufzuklären und Täter zu finden.

Dazu wurde eine ausgeklügelte künstliche Intelligenz entwickelt, die sich als 14-jährige Schülerin ausgibt. Sie macht absichtliche Schreibfehler, verwendet Slang-Ausdrücke, gibt sich kindlich und besitzt Wissen über Popkultur.

Stufenweise Kommunikationsänderung

Einem Chatpartner begegnet Negobot dabei zuerst in einem "neutralen" Modus. In diesem spricht er zwanglos über allgemeine Smalltalk-Themen, etwa Musik oder Filme. Dabei bleibt es auch, solange das Gegenüber nicht die Grenzen des Üblichen überschreitet.

Beginnt der Gesprächspartner, anzüglich zu werden, ändert auch Negobot langsam den eigenen Kommunikationsstil und wechselt in den "möglicherweise pädophil"-Modus. In diesem simuliert das Programm den naiven, verletzlichen Teenager, der Zuwendung sucht. Dabei gibt er stückchenweise falsche Informationen preis und erzählt beispielsweise von einem zerrütteten Zuhause, wie Tech News Daily beschreibt.

Informationsbeschaffung

Verstärkt sich die sexuelle Ebene des Gesprächs, wechselt das Ziel des Chatbots erneut. Nun versucht das Programm, das Gespräch so lange wie möglich aufrecht zu erhalten. Dabei sollen dem Gegenüber, wiederum mit Hilfe falscher Identitätsangaben, möglichst viele Informationen (etwa Social Media-Profile oder Kontaktmöglichkeiten) entlockt und gegebenenfalls ein reales Treffen vereinbart werden.

Wird der Gesprächspartner der Konversation müde und drückt dies in weniger höflicher Manier aus, gibt sich Negobot besonders verletzlich und zuwendungssbedürftig. Dies kann soweit gehen, dass er Sex im Gegenzug für Aufmerksamkeit anbietet.

Spieltheorie

Die Programmierung der künstlichen Intelligenz basiert auf Erkenntnissen der Spieltheorie und wissenschaftlichen Erkenntnissen zur Entscheidungsfindung. Sie erinnert sich an alle bisherigen Konversationen mit verschiedenen Usern und kann bereits abgehandelte Themen aufgreifen, sollte sie jemandem zum zweiten Mal "antreffen". Die Chatlogs könnten zudem auch als Beweismaterial dienen.

Vielversprechend, aber...

Sophos-Sicherheitsexpertin Lisa Vaas sieht Negobot als vielversprechenden Ansatz. Die BBC hat mit einem Berater der britischen Regierung über das Projekt gesprochen. Carr hält Negobot ebenfalls für eine potenzielle Hilfe für die Behörden, weist aber darauf hin, dass die Vorgehensweise wohl zu extrem ist.

Insbesondere das Stellen einer Falle könnte dazu führen, etwaige Strafverfolgung unmöglich zu machen, da das Beweismaterial dann aus rechtlichen Gründen nicht verwertbar ist. Weiters könnten auf diesem Wege auch ressourcenintensive Undercover-Operationen gefährdet werden.

Verbesserungen geplant

Erste Feldtests wurden bereits über Googles Chatdienst durchgeführt. Seitens der baskischen Polizei soll bereits Interesse bestehen. Allerdings hat Negobot noch einige Limitierungen, die auch andere künstliche Intelligenzen noch nicht gemeistert haben. Beispielsweise ist das Programm noch nicht in der Lage, Ironie zu verstehen.

An diesem Problem wollen die Forscher künftig arbeiten. Dazu soll Negobot bald auch linguistische Trends im Web erfassen und in den eigenen Kommunikationsstil einbauen können, um für sein Gegenüber möglichst real zu wirken. (gpi, derStandard.at, 15.07.2013)

  • "Negobot" gibt sich in Chats als vierzehnjährige, verletzliche Schülerin aus.
    foto: teclado / sxc.hu/photo/754170

    "Negobot" gibt sich in Chats als vierzehnjährige, verletzliche Schülerin aus.

Share if you care.