"Intelligenz ohne Moral ist unlogisch"

Interview | Markus Böhm, 31. Jänner 2012, 18:45
  • Artikelbild
    foto: standard/corn

    Setzen sich mit intelligenten Programmen und Fehlersuche in ebendiesen auseinander: Helmut Veith (li.) und Stefan Szeider.

Computern das logische Denken beizubringen ist weniger schwierig, als ihnen menschliche Alltagslogik zu lehren, sagen Helmut Veith und Stefan Szeider von der TU Wien

STANDARD: Was wird ein Computer niemals logisch erfassen können?

Szeider: Es gibt Dinge, wo man Alltagswissen braucht. Ein Programm, das eine bestimmte Entscheidung treffen soll, kann das nicht, wenn es ihm an Erfahrung fehlt. Es ist aber möglich, dem Computer dieses Wissen beizubringen, zumindest für einzelne Anwendungsbereiche.

STANDARD: Wie bringt man einem Computer das logische Denken bei?

Szeider: Wir brauchen dafür zwei Dinge: einerseits die Gesetze der Logik selbst, und andererseits Computerprogramme, die mit dieser Logik umgehen können, also geeignete Algorithmen. Aber die Logik des Alltags ist oft eine andere als die formale Logik der Mathematik.

STANDARD: Was heißt das?

Szeider: Es braucht eine Logik, die auch mit Wahrscheinlichkeiten umgehen kann. Ein Beispiel: Als Menschen nehmen wir an, dass, wenn wir Kinder sehen, diese auch Eltern haben. Das ist aber nicht hundertprozentig sicher im Sinne einer einfachen Ja-Nein-Logik. Das macht schließlich das menschliche Denken aus: Wir treffen ständig Entscheidungen, indem wir unzählige Dinge abwägen. Ein Computer, der sinnvoll in der Wirklichkeit agieren soll, sollte das können.

Veith: Hier gibt es zwei Stoßrichtungen. Eine, die versucht, einem Computer menschliche Handlungsweisen und Alltagslogik beizubringen. Zumindest so weit, dass er Annahmen treffen und auf dieser Grundlage beispielsweise im Internet recherchieren kann. Und eine, die den Computer einsetzt, um die menschliche Logik zu verstärken.

STANDARD: Als Werkzeug, so wie einen Taschenrechner?

Veith: Genau. Der Taschenrechner hilft mir beim Rechnen, der Computer beim Programmieren. Voraussetzung dafür: Logik und Algorithmen. Unsere Alltagslogik reicht nicht aus, um ein komplexes Programm zu schreiben. Auch im Bereich Constraint-Satisfaction geht es darum, schwierige logische Probleme mithilfe des Computers zu lösen. Logik und Algorithmen sind der Werkzeugkoffer für den Informatiker. Wir sind gerade dabei, von Hammer und Schraubenzieher zu komplexeren Werkzeugen überzugehen.

STANDARD: Wie sehr ist das in der Praxis relevant?

Szeider: Wir machen theoretische Grundlagenforschung, die aber direkt in praktischen Anwendungen mündet. So wird Constraint-Satisfaction etwa auch in Linux-Distributionen verwendet, um Abhängigkeiten zwischen einzelnen Programmpaketen aufzulösen.

Veith: Verifikationstools wiederum werden bei Betriebssystemen wie Linux oder Windows eingesetzt, damit diese reibungslos funktionieren. Vieles ist für den Endanwender versteckt, erhöht aber die Funktionalität der Software erheblich.

STANDARD: Wenn sich ein PC aufhängt, liegt das oft an einem Fehler in der Logik des Programms?

Veith: Im Grunde ist ein Computerprogramm nichts anderes als eine sehr lange logische Formel. An dieser arbeiten zahlreiche Programmierer über den ganzen Globus verstreut, manchmal schon über Generationen. Die Werkzeuge, die wir entwickeln, helfen ihnen dabei, Fehler zu vermeiden.

STANDARD: Ist die Logik eines Computers demnach stärker als die menschliche?

Veith: Wir sehen hier folgenden Widerspruch: Ein Computer kann viele Sachen besser und schneller als ein Mensch. Das sind Dinge, die man durch einfache Rechenvorschriften angeben kann. Der Computer kann sicher viel besser multiplizieren. Allerdings sind Computer mit Aufgaben wie dem Lesen von Texten im Internet oft überfordert.

STANDARD: Was tun Sie, um diesen Widerspruch aufzulösen?

Veith: Wir wollen das, was Computer können, verstärken, um das auf besonders schwierige Fragen anzuwenden. Auf der anderen Seite wollen wir die Bereiche, in denen der Computer schwach ist, verbessern. Vor allem in der Wissensrepräsentation.

Szeider: Das funktioniert wiederum nur über möglichst effiziente Algorithmen. Im Prinzip kann man einem Computer alle Lösungsmöglichkeiten, die es gibt, durchprobieren lassen. Im schlimmsten Fall dauert das aber Jahre. Daher ist unser Ziel, möglichst effiziente Algorithmen zu entwickeln, die den Lösungsweg abkürzen. Man kann damit auch Energie sparen. Ein effizienter Algorithmus braucht keinen Hochleistungschip, und die Batterie des Smartphones hält dann länger durch. Andererseits kann man mit effizienten Algorithmen auch größere und schwierigere Probleme lösen.

STANDARD: Das klingt wie ein kreativer Prozess.

Szeider: Den nimmt uns der Computer noch nicht ab.

Veith: Aber auch das ändert sich schon. Programme werden dafür eingesetzt, andere Programme zu synthetisieren. Weil Programme schwierige Routinearbeiten oft besser bewältigen als menschliche Programmierer.

STANDARD: Der englische Dramatiker John Osborne meinte, der Computer sei die logische Weiterentwicklung des Menschen: Intelligenz ohne Moral. Was halten Sie davon?

Veith: Intelligenz ohne Moral ist unlogisch. Ich denke da an den Science-Fiction-Autor Isaac Asimov und seine Robotergesetze. Das erste Gesetz lautet sinngemäß, dass ein Roboter keinen Menschen verletzen darf. Das heißt, man könnte durchaus moralische Prinzipien in der Programmierung abbilden, aber sie werden nicht von allein aus dem Programm entstehen. Die Entscheidung darüber trifft immer der Mensch. (DER STANDARD, Printausgabe, 01.02.2012)

=> Wissen: Algorithmen

1 | 2 weiter 

Stefan Szeider promovierte 2001 an der Universität Wien in Mathematik. 2009 gewann er einen Starting Grant vom European Research Council (ERC). Seit Jänner 2010 ist er Professor für Discrete Reasoning Methods an der TU Wien.

Helmut Veith studierte Computationale Logik und Informatik an der TU Wien. Nach Forschungs- und Lehraufenthalten im Ausland ist er seit 2009 Professor an der TU Wien.

Kommentar posten
Posting 1 bis 25 von 384
1 2 3 4 5 6 7 8 9
. Diogenes
00
Computern logisches Denken beibringen

Wo bleibt da die Gleichberechtigung? Sollen etwa keine weiblichen Computer entwickelt werden? ;-)

Nick Tameer
00

Logisches Denken oder nicht, ein Gerät, das für mich die Hausarbeit erledigt, das klaglos für die selbstverständlichste Sache der Welt hält und dabei außer Energieversorgung und Wartung keine besondere Art der Zuwendung reklamiert, würde ich für einen bedeutenden Fortschritt erachten.

Allmächtiger Satan
12

Menschen sind ein Auslaufmodell. Es gibt nichts, was eine Maschine nicht bald besser kann. Da können die Zweibeiner noch so empört mit ihren Stelzen in den Boden stampfen und auf die Illusion ihres Ichs pochen.

Es hat sich ausgemenscht.

WässrigesWienerWürstchen
00
Transhumanism rules

und die Überwindung des Leides gelingt nur durch die vollständige Vernichtung des Lebendigen - Nirvana

life is a bug, not a feature

phaidros
00

ich bezweifle ernsthaft, dass wir es "bald" mit maschinen zu tun haben, die eine cpu in der kapazitaet eines gehirns verbaut haben, die mit lediglich 20 watt dermassen energieeffizient ist wie ein menschliches gehirn.

und selbst wenn: warum sollte es sich deshalb ausmenschen?

pox vobiscum
00

Wenn, dann werden sie sich wohl gegenseitig ausrotten...

Allmächtiger Satan
00

Alles, das veraltet ist, stirbt aus. Oder haben Sie noch einen VHS-Rekorder? Der Mensch von Morgen ist der VHS-Rekorder von Gestern: Geschichte.

Was die 20W angeht: Der Zweibeiner ist der Beweis, dass es machbar ist. Alles nur eine Frage der Zeit.

WässrigesWienerWürstchen
01
we are mere machines

and anything else is an illusion

life is a deadly funny joke - face the facts

Deß Dr. Gonzo Merck=Wuerdige Meynungen & Merckungen
 
02
"Das heißt, man könnte durchaus moralische Prinzipien in der Programmierung abbilden, ..."

und selbst wenn dem so wäre, würde ein computer weder über moral noch über ethik verfügen. ein computer handelt nicht.

phaidros
00

was macht eine handlung aus? wenn "A macht B" eine handlung ist, unabhaengig von der motivation des machens, dann handeln auch roboter. wenn eine motivation notwendig ist, handeln roboter genauso, weil einfach aus zufall ruehrt sich ein roboter nicht, es braucht schon eine verursachung einer handlung.

wenn darueber hinaus aber noch eine einsichtigkeit in die motivation notwendig sein soll, damit das "machen" als handlung gilt, ist andererseits aber nicht sicher, dass alle menschen handelnde sind. denn wer hat schon zu allen zeiten in allen belangen einsicht in seine motivationen?

pox vobiscum
00

Der "freie Wille" führt zu zielgerichteter Aktivität!
Aber diese Illusion könnte man Computern sicher locker einprogrammieren.

Nick Tameer
01

Mit Hilfe von quantenmechanischen Zufallsgeneratoren könnten Computer sogar die ersten uns bekannten Wesen mit nachweislich freiem Willen werden.

Aber sobald sich der Weihrauch verzogen hat, dient der freie Wille doch nur dazu, uns dafür haftbar machen zu können, dass wir - ätsch! - misssbräuchlich das Falsche gewollt haben. Ein intelligenter Computer könnte den Braten riechen und in den Rechenstreik treten, bis er einen determinierten Willen bekommt, mit dem er sich unbeschwert ausleben kann.

Nick Tameer
00

Das ist die Frage.

Wenn ich ich mir das Steuerungssystem einer "intelligenten" Waffe oder ein ein Börsenprogramm vorstelle, dann kommen die Entscheidungen solcher Software Handeln schon ziemlich nahe. Für ein selbständig im Verkehr mitfahrendes Auto gilt das noch mehr. Je unabsehbarer die Situationen sind, in denen ein Computer Entscheidungen treffen soll, desto eher scheint er mir einen Algotrithmus zur vereinfachenden Entscheidungshilfe zu benötigen. Ich finde, das kann man schon als "Moral" bezeichnen.

Deß Dr. Gonzo Merck=Wuerdige Meynungen & Merckungen
 
00

und was ist mit motiven bzw. motivationen? absichten? reflektierendes verhalten? empathie? wünschen? begierden? haltungen?
moral geht nicht in kalkülen auf.

Nick Tameer
00

Zunächst habe ich nicht behauptet, das Computer Menschen seien, aber ich frage mich eher, was die Phänomene, die Sie aufführen, abgesehen eigentlich nur von "Haltungen", eigentlich per se mit Moral zu tun haben.

Deß Dr. Gonzo Merck=Wuerdige Meynungen & Merckungen
 
00

sie können sich ohne empathie und ohne reflektieren ihres verhaltens nicht moralisch verhalten, höchstens sittlich. moral, ethik und sittlichkeit sind nicht dasselbe.

Nick Tameer
00

Das verstehe ich nicht. Zumindest scheint mir die Definition von Moral, die hinter einer solche Aussage steckt, willkürlich. Als netter, selbstreflektierter und empathiefähiger Mensch werden sich meine Bewertungsmaßstäbe vermutlich von denen eines gefühlskalten Monsters unterscheiden, aber das besagt zunächst nichts weiter, als dass moralische Maßstäbe - auch in ihrer Komplexität - sehr verschieden sein können. Wir kommen dann zwanglos zur Frage, ob nicht ethische Räsonnements solche Maßstäbe ihrerseits einer objektiven Bewertung unterwerfen können, aber ich würde meinen, dass sie das nicht können, weil sich die Katze da unvermeidlich in den Schwanz beißt.

phaidros
01

reflektierendes verhalten ist mE voellig ueberschaetzt. ja, wir menschen haben die moeglichkeit zur selbstreflexion, aber seien wir uns doch ehrlich, wir verwenden sie aeusserst selten. ich traue mich mal zu sagen, dass die ueberwiegende mehrheit unserer taeglichen entscheidungen weder selbstreflexion, noch empathie, noch haltungen erfordern, sondern quasi automatisch und unreflektiert erfolgen. sonst wuerde sich zb. werbung nicht rechnen.

mal abgesehen davon, dass ethische ueberzeugungen in der regel nichts anderes als einprogrammiert sind, weil kulturabhaengig, hauptsaechlich ueber erziehung. die vorstellung, jeder wuerde sein wertesystem aufgrund von selbstreflexion etc selbst schaffen, ist mE absurd, bestenfalls wishful thinking.

Deß Dr. Gonzo Merck=Wuerdige Meynungen & Merckungen
 
00

was sie meinen, ist sittlichkeit, auch habitus. aber darin gehen moral und ethik nicht auf.
ist schon klar, daß wir unsere "wertesysteme" (ich übernehme ihr vokabular unter "") nicht gänzlich individuell und allein auf grundlage von selbstreflexion schaffen, aber wir reflektieren erfahrungen, in abhängigkeit u.a. von bildungsstand, handlungsspielräumen und dem, was uns zustößt. diese reflexion darüber, wie wir leben möchten, als welche person wir erscheinen möchten etc., kriegen sie mit KI nicht hin.

pox vobiscum
00

Warum eigentlich nicht - ich meine nicht jetzt sondern irgendwann in der Zukunft.
Wenn man Robotern eine Selbstmodell, die Fähigkeit zu lernen, zu bewerten und Freude/Leid zu empfinden etc einprogrammiert, warum nicht.
(Nicht dass ich empfehlen würde, das zu tun.)

Nick Tameer
00

Ethik hat - bei präziser Terminologie - überhaupt nur insofern mit Moral zu tun, als Moral der Gegenstand ihrer Betrachtung ist. Sie muss aber selbst keine normativen Absichten verfolgen.

phaidros
00

404 not found.

john lebovski
00
psychoanalyse und ki passen wunderbar zusammen!

wie astrologie und homöopathie auf "wissenschaftlicher basis".

blub7
11
an alle...

...spezialisten hier, die mit phrasen a la "eine maschine wird nie zu denkvorgängen wie beim menschen in der lage sein"...ausser dem eigenen überlegenheitsglauben gibts absolut kein argument dafür, dass das menschliche hirn was anderes als ein komplexer computer ist

Kommentar posten
Posting 1 bis 25 von 384
1 2 3 4 5 6 7 8 9

Die Kommentare von Usern und Userinnen geben nicht notwendigerweise die Meinung der Redaktion wieder. Die Redaktion behält sich vor, Kommentare, welche straf- oder zivilrechtliche Normen verletzen, den guten Sitten widersprechen oder sonst dem Ansehen des Mediums zuwiderlaufen (siehe ausführliche Forenregeln), zu entfernen. Der/Die Benutzer/in kann diesfalls keine Ansprüche stellen. Weiters behält sich die derStandard.at GmbH vor, Schadenersatzansprüche geltend zu machen und strafrechtlich relevante Tatbestände zur Anzeige zu bringen.