KI-Pionier: "Maschinen könnten uns in allen Fähigkeiten übertreffen"

    Interview23. September 2018, 11:00
    321 Postings

    Leben wir in Zukunft in einem Blade Runner-Szenario? Oder werden wir durch künstliche Intelligenz eine zweite Renaissance erleben? Es liegt an uns, sagt Toby Walsh

    Wann auch immer es darum geht, die Zukunft der künstlichen Intelligenz zu skizzieren, ist er zur Stelle – zumindest im englischsprachigen Raum: Toby Walsh, wegen seiner medialen Auftritte auch als "Rockstar" der KI-Forschung betitelt. Der gebürtige Brite, der in Australien forscht, engagiert sich außerdem federführend für ein UN-Verbot von Killerrobotern. Am Donnerstag war er zu Gast in der LogicLounge der Technischen Universität Wien.

    foto: corn
    "Ich bin optimistisch, was die langfristige Perspektive betrifft", sagt der KI-Pionier Toby Walsh. Aber es stehe ein langer, holpriger Weg bevor, bis die neue Technologie das Leben der Menschen verbessern könne.

    STANDARD: Ihr neues Buch heißt "2062", benannt nach dem Jahr, in dem Maschinen die Intelligenz von Menschen erreicht haben werden, zumindest mit einer 50-prozentigen Wahrscheinlichkeit.

    Walsh: Diese Schätzung basiert auf den Prognosen von KI-Experten. Bis es tatsächlich so weit ist, kann es 45 Jahre dauern, vielleicht 100 Jahre, aber sehr wahrscheinlich weniger als 200 Jahre.

    STANDARD: Wann auch immer dieser Zeitpunkt exakt eintritt, was glauben Sie als eingefleischter Science-Fiction-Fan: In welchem Filmszenario werden wir leben – in "Blade Runner", wo künstliche Menschen zur Gefahr werden, oder in "Her", einer KI-Romanze?

    Walsh: Beides ist möglich. Hollywood ist ganz gut darin, mögliche Zukunftsszenarien zu entwerfen. Es liegt an uns, jetzt gute Entscheidungen zu treffen, damit wir nicht in der Welt von Blade Runner leben, sondern eher in der von Her.

    STANDARD: Sie sprechen von steigender Ungleichheit, dem Ende demokratischer Politik, dem Ende des Lebens, wie wir es kennen, indem wir unser Gehirn vollends in eine virtuelle Welt auslagern. Das klingt sehr deprimierend.

    Walsh: Teile unseres Gehirns auszulagern kann auch etwas Gutes sein. Als wir die Schrift erfanden, kam es zu einem Verlust der oralen Kultur, aber wir bekamen dafür Literatur. Wir gaben etwas auf und bekamen etwas viel Wundervolleres, Universelleres. Das ist bei KI und anderen Technologien nicht anders, wir werden Dinge aufgeben, die wir mit unserem Gehirn machen, aber wir werden wahrscheinlich etwas viel Wertvolleres zurückbekommen.

    STANDARD: Was könnten wir gewinnen?

    Walsh: Die positive Vision ist, dass künstliche Intelligenz aufhört, künstlich zu sein, und zu unserer erweiterten Intelligenz wird. Dann werden Maschinen großartige Werkzeuge sein, die unsere Kreativität und unsere Fähigkeiten verstärken. Sie werden all die langweiligen, repetitiven Tätigkeiten übernehmen, und wir hätten Zeit, uns auf jene Dinge zu konzentrieren, die wir für wichtig halten. Es könnte eine zweite Renaissance werden, ein Erblühen der menschlichen Gesellschaft, in der man Zeit miteinander verbringt anstatt zu arbeiten.

    STANDARD: Was ist die negative Vision? China überwacht schon heute die Bürger mit KI.

    Walsh: Wir könnten in einer Welt enden, in der die Gesellschaft gespalten ist, in der Reiche immer reicher werden, mit einer Unterschicht von arbeitslosen Menschen. Es wäre eine sehr dunkle Zukunft. Das Missbrauchspotenzial von KI ist immens. Wir sehen schon jetzt viele dieser Gefahren. Welch zersetzenden Effekt Algorithmen auf die Medienblase haben, in der wir leben, wie sie den politischen Diskurs manipulieren. Wie bei allen Technologien muss man die Veränderungen in der Gesellschaft bedenken und Entscheidungen treffen, wie sie zum Wohl der Allgemeinheit genutzt werden können.

    STANDARD: Welche Entscheidungen sind das?

    Walsh: Im Zuge der Industriellen Revolution führten wir bedeutsame Veränderungen ein. Wohlfahrtsstaaten entstanden, mit Gewerkschaften und Arbeitsrecht, universeller Bildung, Pensionssystemen. Für die Zukunft bedeutet das, dass wir über ein bedingungsloses Grundeinkommen diskutieren müssen, über einen neuen Sozialstaat, Bildungssysteme, die Kreativität fördern.

    STANDARD: Wie intelligent können Maschinen werden? Gibt es ein Limit?

    Walsh: Es wäre sehr eingebildet, zu denken, dass wir an Intelligenz nicht zu überbieten sind. Im Moment sind wir die Klügsten auf dem Planeten, aber die Leistungsfähigkeit unseres Gehirns ist beschränkt. Wir bauen schon jetzt Maschinen, die bestimmte Tätigkeiten – Röntgenbilder lesen oder Go spielen – viel besser als Menschen ausführen. Wenn sie uns in manchen Dingen überlegen sind, könnten sie uns eines Tages in all unseren Fähigkeiten übertreffen. Sie werden, davon sind ich und viele Kollegen überzeugt, intelligenter werden als wir.

    STANDARD: Heute erscheint künstliche Intelligenz oft noch dümmer als erhofft.

    Walsh: Heute ist KI noch sehr dumm. Aber selbst dumme Algorithmen können nützlich sein und etwa Muster besser erkennen als Menschen. Was mir Sorgen macht, ist, dass wir zu viel Verantwortung an dumme KI abgeben. Wir vertrauen zu viel auf Technologien, die noch nicht ausgereift sind – siehe selbstfahrende Autos. In zehn bis 20 Jahren werden sie aber viel sicherer als Menschen fahren. Das wird unsere Gesellschaft transformieren und prägen, unsere Städte neu definieren.

    STANDARD: Werden Maschinen auch andere menschliche Fähigkeiten erlangen: Gefühle, Moral, freien Willen, Bewusstsein?

    Walsh: Wir werden zweifellos Maschinen programmieren, die größere emotionale Fähigkeiten haben als jetzt. Wir werden ihnen wohl Fake-Gefühle geben, denn menschliche Gefühle sind chemisch gesteuert. Es könnte sein, dass wir Maschinen schaffen, die ein ähnlich reiches Gefühlsleben haben wie wir. Es kann auch sein, dass sie superintelligent und gefühllos sind wie Spock aus Star Trek. Maschinen haben heute kein Bewusstsein, und es ist unklar, ob sie irgendwann so etwas haben werden, etwa um ethisch zu handeln. Es könnte sein, dass sich Bewusstsein aus der steigenden Komplexität von KI herausentwickelt, so wie in der Natur: Je komplexer das Gehirn, desto eher entsteht Bewusstsein. Oder dass Maschinen lernen, ein Bewusstsein zu entwickeln, so wie kleine Kinder. Wenn wir Maschinen mit Bewusstsein kreieren, muss uns klar sein, was das bedeutet. Sie werden vermutlich leiden, und dann müssen wir ihnen wohl auch Rechte geben.

    STANDARD: Der Wettlauf um die Führungsrolle bei AI-Technologien ist bereits voll im Gange. Sie sagen, um mit China mithalten zu können, muss sich der Westen eine freundlichere und reguliertere Form von Kapitalismus zu eigen machen. Was meinen Sie damit?

    Walsh: Wir haben zwei Extreme: auf der einen Seite China, wo KI vom Staat genutzt wird, um die Bürger zu kontrollieren und Menschenrechte zu unterdrücken. Auf der anderen Seite haben wir das Silicon Valley, wo es um Durchbrüche um jeden Preis geht, darum, alles dafür zu riskieren, Stichwort Cambridge Analytica. Es gibt eine Handvoll Datenmonopolisten mit einer Winner-takes-it-all-Mentalität, die offenbar nicht bereit ist, Steuern zu zahlen. Das ist keine wünschenswerte Zukunft. Die sechs größten Unternehmen der Welt sind heute Techfirmen. Und sie müssen reguliert werden, so wie man immer schon Märkte oder Banken reguliert hat. Europa ist der beste Platz dafür, das zu tun, siehe die Datenschutzgrundverordnung. Es geht auch darum, KI mit Werten auszustatten, philosophische Fragen dahinter zu klären.

    STANDARD: Sind Sie zuversichtlich?

    Walsh: Ich bin optimistisch, was die langfristige Perspektive angeht, aber pessimistisch im kurzfristigen Sinn. Es wird ein holpriger Weg werden und wie bei der Industriellen Revolution lange dauern – es gab 50 Jahre Leid, bevor die Lebensqualität der meisten Menschen entscheidend besser wurde. So eine Phase steht auch uns bevor. (Karin Krichmayr, 22.9.2018)


    Toby Walsh, geb. 1964, schloss seine Studien in Mathematik, theoretischer Physik und künstlicher Intelligenz an den Universitäten Cambridge und Edinburgh ab. Heute ist er Professor für künstliche Intelligenz an der University of New South Wales und leitet eine Forschungsgruppe an Australiens Centre of Excellence for ICT Research. Zuletzt erschien 2062 im Original und vor wenigen Tagen die deutsche Ausgabe von It's alive: Wie künstliche Intelligenz unser Leben verändern wird. Vergangenen Donnerstag war Walsh zu Gast bei der LogicLounge, eine öffentliche Diskussionsreihe, die vom Vienna Centre for Logic an Algorithms der TU Wien organisiert wird.

    Links

    Share if you care.