Abkommen: KI-Führende warnen vor autonomen Waffen, bevor es zu spät ist

    18. Juli 2018, 09:44
    48 Postings

    KI-Systeme, die Menschen automatisch ohne menschliches Zutun töten, sollen verboten werden

    Tech-Chefs wie Elon Musk und drei Gründer von Googles-KI-Projekt DeepMind haben ein Versprechen abgeleistet, dass sie keine tödlichen autonomen Waffen entwickeln werden. In dem Schreiben wird vor solchen Systemen gewarnt, die Menschen auswählen und töten – ohne menschliches Eingreifen. Sie würden eine moralische und realpolitische Gefahr darstellen.

    Maschine soll nicht über Tod oder Leben entscheiden

    Die Entscheidung einen Menschen zu töten, sollte nicht einer Maschine überlassen werden, wird ferner argumentiert. Zudem würden diese Systeme den gesamten Globus destabilisieren. Unterzeichnet haben das Abkommen Elon Musk, die DeepMind-Gründer Shane Legg, Mustafa und Demis Hassabis, Skype-Gründer Jaan Tallinn und etliche namhafte KI-Forscher wie Stuart Russell, Yoshua Bengio und Jürgen Schmidhuber.

    UN-Regulierung gefordert

    Organisiert wurde das Abkommen vom Future of Life Institute, ein Projekt aus Boston, das potentielle Risiken gegen die Menschheit erforscht. Veröffentlicht wurde das Abkommen bei einer KI-Konferenz in Stockholm. Das Future of Life Institute warnt bereits länger vor derartigen Systemen. In einem Brief an die UN wurde eine Regulierung von autonomen Waffen bereits gefordert. Zum ersten Mal haben sich nun auch jene beteiligt, die an der KI-Forschung beteiligt sind.

    Erstes Mal Taten statt nur Worte

    Max Tegmark, einer der Unterzeichner, hat in einem Statement betont, wie wichtig, das Abkommen ist. Es sei das erste Mal, dass KI-Führende nicht nur reden, sondern auch Taten setzen. Tegmark ist Physik-Professor am namhaften Massachusetts Institute of Technology. Es wäre auch ein gewisses Zeichen an die Politik, da in dieser Richtung hier noch nichts unternommen wurde. "Autonome Waffen sind abscheulich und genauso destabilisierend wie Biowaffen", fügte er hinzu.

    USA & China führend und nicht willig

    Ein Verbot von autonomen Waffen ist allerdings schwieriger als gedacht, da vielerorts computerunterstützte Systeme bereits im Einsatz sind. Außerdem haben sich China und die USA hinsichtlich einer Regulierung bisher nicht wirklich gewillt gezeigt – sie sind auch führend in der Entwicklung derartiger Waffen. Russlands Präsident Putin sagte bereits, dass jenes Land, das führend bei der KI-Forschung ist, die Welt beherrschen wird.

    Proteste zeigten Wirkung

    Von politischer Seite darf somit nicht wirklich mit einem Umdenken gerechnet werden. Allerdings haben Proteste gegen Firmen, die sich an der Entwicklung beteiligen, zumindest dafür gesorgt, dass diese hierbei zurückstecken. Bei Google entbrannte etwa ein interner Streit, als bekannt wurde, dass das Unternehmen dabei hilft, eine nichttödliche KI-Drohne für das Pentagon zu entwickeln. Nach dem Protest betonte der Konzern, dass man nicht mehr helfen wird, KI-Waffen herzustellen. Computergestützte Militärsysteme wird man aber weiterhin entwickeln. (red, 18.07.2018)

    • Bild nicht mehr verfügbar

      Ein Abkommen, das Elon Musk, Co-Gründer von DeepMind und etliche KI-Forscher unterschrieben haben, stellt sich gegen KI-Waffen, die Menschen autonom töten.

    Share if you care.