Autonome Systeme werfen soziale, rechtliche und ethische Fragen auf

22. August 2009, 10:37

Britischer Bericht fordert umfassende Diskussion über ihren Einsatz

London/Karlsruhe - Autonome Systeme wie fahrerlose Autos, robotische Gefährten oder intelligente Häuser werden in den kommenden Jahrzehnten voraussichtlich Anwendungsrealität, so die britische Royal Academy of Engineering (RAEng). Daher fordert sie in dem Bericht "Autonomous Systems: Social, Legal & Ethical Issues" eine umfassende Diskussion über soziale, rechtliche und ethische Fragen rund um den Einsatz solcher Systeme beispielsweise im Transport- und Betreuungsbereich. 

Verantwortung

Denn wenngleich autonome Systeme viele Vorteile versprechen, ist so mancher wichtiger Punkt aus Sicht der Gelehrtengesellschaft bislang ungeklärt. So sei etwa fraglich, wer genau die Verantwortung trägt, wenn durch ein autonomes System Menschen zu Schaden kommen.

Robotische Fahrzeuge, die ganz ohne Fahrer auskommen wurden bereits im Rahmen der Grand Challenge der amerikanischen Defense Advanced Research Projects Agency (DARPA) erfolgreich erprobt. Bis vollautonome Autos die Straßen im Alltag erobern, wird es zwar noch dauern. Wie auch in anderen Anwendungsbereichen wird sich dann aber die Frage stellen, wer im Unfallsfall die Verantwortung trägt - etwa der Entwickler, der Hersteller, der Programmierer oder der Nutzer. 

Pflegebereich

Im Pflegebereich werden Roboter von Forschern beispielsweise als Gefährten autistischer Kinder als vielversprechend gesehen. Intelligente Häuser, die auf medizinische oder andere Bedürfnisse der Einwohner eingehen können, könnten wiederum die Betreuung älterer Personen erleichtern. Hier warnt die RAEng etwa davor, dass das zu ungewollter Isolation führen könnte. Auch stelle sich die Frage, ob Pfleglinge die Technologien verstehen und ihrer Nutzung sinnvoll zustimmen könnten.

Empfehlungen der Akademie

"Unsere rechtlichen Strukturen und unser ethisches Denken stecken noch im Zeitalter der Automation - sie müssen aufholen, ehe unsere Sicherheit und Lebensqualität von autonomen Systemen profitieren kann", meint Academy-Fellow Chris Elliott. Daher empfiehlt die Royal Academy of Engineering beispielsweise, frühzeitig ältere Personen zu konsultieren, um deren Erwartungen und Befürchtungen rund um neue Technologien zu verstehen, damit diese schon in der Entwicklungsphase berücksichtigt werden können.

Einschätzung

"Der Report gibt einen guten und umfassenden Überblick vor allem zu den juristischen
Problemen autonomer Systeme sowie zu einigen damit verbundenen ethischen", urteilt Mathias Gutmann, Professor für Technikphilosophie an der Universität Karlsruhe. Der Fokus liege auf anwendungsnahen Systemen im Feld des Verkehrs und der medizinischen sowie der pflegerischen Techniken. Ziel sei die Erkundung der Möglichkeiten der Implementierung solcher Techniken und der "richtigen" Entgegnungen auf ethischem Gebiet, so der Experte.

"Es bleiben dabei aber grundsätzliche methodologische und anthropologische Fragen nach dem Verständnis von Autonomie, der Transformation des Autonomie- und Subjektbegriffes sowie der Veränderung der conditio humana ausgeblendet, sodass die möglichen Folgen der Implementierung im wesentlichen als Problem der technischen Beherrschbarkeit thematisiert werden", gibt Gutmann zu bedenken. Die Gefahren solcher Einschränkungen und Engführungen hätten die Debatten um Großtechniken der letzten vierzig Jahre deutlich gemacht. (pte/red)

Kommentar posten
20 Postings
Raubkopierer
00
29.8.2009, 22:43
zum thema schuldfrage bei personenschaden

ich würde sagen, hier muss ermitelt werden ob unfall, sabotage oder produktionsmängel vorliegen. bei sabotage: der saboteur muss geunden und zur verantwortung gezogen werden.
bei produktionsmangel: der hersteller hat zu haften
bei unfall: versicherungsfall

Kamine glühen leise
10
24.8.2009, 09:26
einfache lösung

der hersteller muss die 3 gesetze der robotik implementieren!

tempa
00
23.8.2009, 12:12
II.

Wir sind nun mal Menschen. Unvollkommen. Aber wir müssen diese Unvollkommenheit bei uns und anderen erkennen und damit leben lernen. Wir können uns natürlich unsere (digitalen)Traumwelten erschaffen. Aber dann sind wir wie Kinder, die sich ihre imaginären Freunde erschaffen, weil sie mit anderen Kindern keine Freundschaft aufbauen können.
Was für ein trauriges Leben, wenn man wenn man am Ende keine Freunde mehr hat, die einem besuchen. Wenn man nicht mal mehr die (traurige) Erinnerung an (vielleicht längst vergangene) Freunde hat, weil man vieleicht sein ganzes Leben mit "perfekten" digitalen Freunden verbrachte.
Diese Dinge werden natürlich kommen. Aber wir müssen sie auf verantwortungsbewusste Weise integrieren.

Raubkopierer
00
29.8.2009, 22:41

kommt mir wie ein Philip k. Dick/Asimov-Hybrid vor.

tempa
00
23.8.2009, 11:58
I.)"Intelligente Häuser, die auf medizinische oder andere Bedürfnisse der Einwohner eingehen können, könnten wiederum die Betreuung älterer Personen erleichtern."

Tja, der Mensch mit seinen emotinalen Bedürfnissen und seine (selbsterschaffene) Umwelt: Eliza(http://www.zeit.de/1996/34/e... ml?page=1) brachte selbst Menschen, die um das einfache Konzept dahinter wussten, dazu, einem einfachen Basic-Programm ihr Herz auszuschütten.
Der freundliche Nachrichtensprecher im Fernsehen, der für viele alte Menschen in einer einsamen Welt eines der wenigen verlässlichen, freundlichen Gesichter ist. Und nun wird die Wohnung selber zum belebten Ort. Eine freundliche Stimme, nie ungeduldig, nie gereizt, die uns am Morgen begrüsst, uns über den Tag begeleitet und am Abend eine gute Nacht wünscht. Das ist verlockend. Es ist eine Verbesserung für viele einsame Menschen. Aber es ist eine Traumwelt.

Katrin333
00
22.9.2009, 14:08

Diese "intelligenten Häuser" sind keine Wunschvorstellung mehr. Es gibt von der Firma Moeller in Linz schon einige Schauwohnungen wo man sich ansehen kann, wie durch Gebäudeautomatisierung altersgerechtes Wohnen umgesetzt werden kann.

Ich finde, wenn jemand eh schon so isoliert ist, dass er auf den Nachrichtensprecher angewiesen ist, dann wäre ein intelligentes Haus für ihn ein richtiger Gewinn, nur halt das interaktive Hin und Her (sprich Kommunikation) fehlt mir. Was das Unpersönliche bei der Pflege angeht, dann finde ich, muss ja nicht wirklich ALLES durch andere Menschen erledigt werden. Die Unangenehmen Dinge kann man ja getrost einem Roboter überlassen, und mit dem Menschen soweit es möglich ist ja das angenehme machen wie Reden.

Koppe
00
23.9.2009, 20:33

Also dass die Hauspflege zur Gänze Robotern übernommen werden sollte finde ich nicht.
Das Problem bei den Unangenehmen Sachen in der Hauspflege ist das diese zumeist einen zu komplizierten Bewegungsablauf haben um von einem Roboter ausgeführt werden zu können.
Als Unterstützung jedoch würde ein intelligentes Haussystem wie es jetzt gerade aktuell ist sicher gut funktionieren. Zum Thema der Schuld wenn bei automatisierten Systemen etwas schief läuft. Als erstes sind auf alle Fälle die 3 Gesetzte der Robotik zu installieren, für denn Fall das es dann noch Probleme gibt muss zur eindeutigen Schuldzuweisung wohl alles auf Video aufgezeichnet werden.

Erwin Wolfram
00
22.8.2009, 20:47

Vertuschung

Wenn ich einen Kommentar wegklicke und nicht lese treffe ich vielleicht auch eine Fehlentscheidung an der menschen sterben und es war bevor die industrie nicht neue Produkte verkaufen wollte kackegal.

her wig
00
22.8.2009, 15:28
Produkthaftung

Wenn ich in einem vollautomatischen KFZ von A nach B fahre, und das Ding baut einen Unfall, dann liegt ein Produktfehler vor. Darüber braucht man nicht zu diskutieren.

Voronwe
00
23.8.2009, 00:12

Was ist wenn zwei solche Dinger miteinander einen Unfall haben? Bei beiden ein Produktfehler? Nur bei einem? Wenn zweiteres, bei welchem? Doch kein Produktfehler, sondern höhere Macht? Wer wäre in diesem Fall verantwortlich?

Also ich sehe da massig Disputationsmaterial...

Nick Tameer
00
23.8.2009, 17:44

Nach heutigen Maßstäben spielt die Vorhersehbarkeit von Zwischenfällen eine entscheidende Rolle, aber es scheint fast unabsehrbar, was alles einen außerhalb einer eindeutig definierten Umgebung agierenden Roboter davon abhalten kann, so zu funktionieren wie das, gerade auch unter Sicherheitsaspekten, gewünscht wird.

tempa
00
25.8.2009, 08:25
Tja, "eindeutig definierten Umgebung agierenden Roboter " ist mit Verlaub die völlig falsche Richtung.Ich verstehe auch den Artikel nicht ganz, geht doch die Entwicklung zB bei Verkehrsmitteln in eine andere Richtung.Statt des autonomen, isolierten

"Roboters", mit notwendiger, teurer Sensorik und Rechenleistung wird es eine Art "Schwarmverhalten" geben. Fahrzeuge werden Informationenvaustauschen, zB Geschwindigkeit, Beschleunigung, Hindernisse auf der Stecke, Wetterdaten. Optische Sensoren werden zb den Augen des Fahrers auf Ermüdungserscheinungen prüfen und bei Sekundenschlaf eingreifen.
Im häuslichen Bereich werden, wie jetzt schon in Japan erprobt, Sensoren in Plüschtieren bei Umarmungen Körperdaten messsen und weiterleiten. Keine "autonomen Roboter", sondern viele, eigentlich simple Systeme, die Daten austauschen. Und man sollte sich bewusst sein, das es Systeme dieser Art auf einer virtuellen Ebene(Internet) schon gibt:Verhaltensmuster werden erfasst und ausgewertet.

her wig
00
23.8.2009, 00:36

Da gibt's aber auch schon Vorbild-Lösungen aus dem Bereich menschengelenkter KFZ. So neu ist das auch wieder nicht.

ChesneyB
00
23.8.2009, 12:12

Und welche wären das? Jetzt bin ich neugierig. Haben Sie da einen Link für mich?

Die Zensur gibt nach langer Beratung frei:
11
22.8.2009, 17:48

Das Problem ist wenn Sie auf dem Weg von A nach B C überfahren und C dann tot ist.

Irgendwer muss dann ins Gefängnis - nur wer ist das.

her wig
00
23.8.2009, 00:34

Wenn eine Firma am Tod schuldig ist, wird sie kaum in's Gefängnis kommen. Es wird eher Schadenersatz fällig, und evtl. der Verkauf verboten...

ChesneyB
00
23.8.2009, 12:20

In Deutschland auch sicher nicht, weil da nur natürliche Personen belangt werden können. (Siehe meine Antwort auf das Posting von 2Meter Peter.) Ich weiß allerdings nicht, wie das in Österreich ist. In Kaprun wurde laut Wiki ein Prozeß auch gegen die Geschäftsführung geführt: http://de.wikipedia.org/wiki/Bran... n_Kaprun_2

Also Gefängnis ist m.E. durchaus möglich.

Nick Tameer
00
23.8.2009, 17:39

Zwar gibt es Länder, in denen auch z.B. Firmen als solche strafrechtlich belangt werden können, aber ein Gefängnis für juristische Personen würde ich doch gern mal sehen.

2Meter Peter
00
22.8.2009, 20:33
Gefängnis?

ich denke wenn heute ein Zug entgleist und leute sterben geht nicht unbedingt wer ins Gefängnis

ChesneyB
00
23.8.2009, 12:16

Hängt davon ab. Beispiel:

http://de.wikipedia.org/wiki/ICE-... #Rechtlich

Es gab da zumindest einen Prozeß wegen fahrlässiger Tötung.

Die Kommentare von Usern und Userinnen geben nicht notwendigerweise die Meinung der Redaktion wieder. Die Redaktion behält sich vor, Kommentare, welche straf- oder zivilrechtliche Normen verletzen, den guten Sitten widersprechen oder sonst dem Ansehen des Mediums zuwiderlaufen (siehe ausführliche Forenregeln), zu entfernen. Der/Die Benutzer/in kann diesfalls keine Ansprüche stellen. Weiters behält sich die derStandard.at GmbH vor, Schadenersatzansprüche geltend zu machen und strafrechtlich relevante Tatbestände zur Anzeige zu bringen.