Warnung

"Maschinen könnten Menschen bald übertreffen und ersetzen"

26. Juli 2009 17:36
  • Artikelbild

    Szene aus dem Film I, Robot

Wissenschaftler orten Gefahren in "Künstlicher Intelligenz"

Beeindruckt und alarmiert von den Fortschritten im Bereich der "Künstlichen Intelligenz" (KI), versammelte sich Anfang des Jahres eine Gruppe von Wissenschaftlern in den Asilomar Conference Grounds in Monterey Bay, Kalifornien, um zu diskutieren, ob man vorsichtshalber Grenzen in jenen Forschunggebieten setzen sollte, die dazu führen könnten, dass Menschen die Kontrolle über Maschinen verlieren.

Das Meeting der führenden Forscher in den Bereichen Computer, KI und Robotik fand unter Ausschluss der Öffentlichkeit statt, berichtet die New York Times.

Ersatz...

Bei der Diskussion, deren Erkenntnisse im Laufe des Jahres veröffentlicht werden sollen, konzentrierten sich die Wissenschaftler auf Technologien und Entwicklungen, die einerseits Menschen in ihren Arbeitsbereichen bald komplett ersetzen und andererseits gefährden könnten. Zwar war man sich einig, dass man noch weit entfernt von super intelligenten Computersystemen wie HAL aus "2001: A Space Odyssey" sei, doch würde man Maschinen zunehmend menschliches Verhalten beibringen. Selbst-fahrende Autos, Roboter-Krankenpersonal oder maschinelle Fabriksarbeiter - all dies sei nicht mehr all zu weit entfernt.

und Gefahr

Noch dramatischer stehe es um Entwicklungen wie autonome Kampfdrohnen. Der Forschergruppe nach würde es nicht mehr lange dauern, bis militärische Drohnen erfunden würden, die autonom töten könnten. Die Gefahr dabei sei auch das kriminelle Potenzial der künstlichen Intelligenz. Unaufhaltsame Computerviren stünden bevor, genauso wie Methoden, um den Identitätendiebstahl zu verfeinern.

Welche Maßnahmen gesetzt werden müssen, um derartige Szenarien zu verhindern, soll künftig geklärt werden. Zumindest eine Erkenntnis ist erleichternd: Zurzeit seien intelligente Computersysteme erst auf dem Niveau von Küchenschaben angelangt. (zw)

Links

New York Times

derStandard.at/Web auf Facebook
Kommentar posten
Posting 1 bis 25 von 186
«‹›»
1 2 3 4 5
Baer8
19.08.2009 12:30
Das bedingungslose Profitstreben wird uns letztlich die Kontrolle über die Maschinen entziehen...

und natürlich will dann keiner Schuld gewesen sein. Es ist ganz klar, daß jede positive Errungenschaft auf diesem Gebiet die gleich große negative Auswirkung nach sich zieht daher steht das Datum an dem uns die Maschinen beherrschen werden schon fest.

Der Argonaut im Kosmokrator
31.07.2009 14:13

It is incredible, isn't it, that in these days when man can walk on the moon and work out the most complicated hire purchase agreements, I still get these terrible headaches...

(Eric Idle, Monty Python's Flying Circus, Episode 16)

Kantig
30.07.2009 12:09
Das Thema kommt gerade passend für eine Innovation der Superlative!

Roboter, egal wie sie funktionieren, sind von ständiger Information abhängig.

Steht jede Information bereit, ist die letze Aufgabe die der Datenverknüpfung für sinnvolle Ergebnisse.

Wer sich vorstellen kann, dass jede Info aus globaler Gegend in Sekundenbruchteilen bereit steht, wird anders denken lernen.

Lehrer, Studium und Bildung ändern sich dramatisch, weil nach dem Lesenkönnen jeder Gedanke mit jedem sofort austauschbar ist.

Das ist der Unterschied zu Robotik - oder wird es noch lange sein.

Was ist nun die Superinnovation?

Der bliztartige Datentransfer funktioniert schon im Testbetrieb und ist eine Funktion der Zeit für Datenverdichtung.


absolonion
30.07.2009 10:27
Es ist natürlich zu früh für echte Sorge,

aber unheimlich ist mir künstliche Intelligenz doch irgendwie.

Eine Kreatur
28.07.2009 21:16
der durchbruch kommt

mit computern mit neuronalen netzen .. und die werden in den nächsten paar jahrzehnten standard .. dann wird die post abgehen und die menschheit sich wie die kuh vor dem geschlossenen scheunentor fühlen ;-)

Eleazar
29.07.2009 13:33

speziell dann wenn wir noch immer um Ressourcen streiten, und für die künstliche Intelligenz auf einer niederen Entwicklungsstzufe ohne lebensfreundliche Philosohie uns wie Küchenschaben auf dem Planeten bewegen.

Eine Kreatur
28.07.2009 20:57
ich vertraue eher einer echten ki (keine programmierte, sondern "selbst" erlernte)

als einem menschen ..

da spielen zumindest im bewußtsein nicht so viele niederen instinkte eine rolle .. selbsterhaltung und ressourcenversorgung .. das wäre alles .. beim menschen sieht die sache schon viel komplizierter aus ..

ergo - menschen sind viel "gefährlicher" als künstliche intelligenzen, die auf logik aufbauen .. die paar psychologischen hemmschwellen, die menschen haben, werden ja auch gerne ausgeschalten, wenn es darum geht, manche ziele zu erreichen ..

die frage ist - worin besteht der unterschied zwischen einer ki und einer biologischen intelligenz? den gibt es de facto gar nicht ..

konflikte wird es nur geben, wenn ki's nicht sensibel genug auf die umwelt reagieren oder menschen ihnen mißtrauen ..

M.a.D.
06.08.2009 15:59


ich vertraue niemandem. am wenigsten der KI, da auch ebim selbsterlernten nur so vorgegangen wird, wie in der grundstruktur programmiert.

es gibt schon genuegend 'leben' im pc das absolut keinen unterschied zum menschlichen darstellt. wobei das rein logische denken, viel gefaehrlicher ist als das biologische.

ash & stuff
31.07.2009 10:22
ich bin der meinung ai ist gefährlicher

vorallem wenn sie _nur_ logisch denken.
es scheint mir nicht unlogisch zu sein, den gefährlichen menschen auszurotten. :)

NotDarkYet
28.07.2009 16:04
Küchenschaben

Dass Computer bereits das Niveau von Küchenschaben erreicht hätte, halte ich für eine gigantische Hochstabelei.

Nichtsdestotrotz: Die Gefahren sind natürlich da.

Kampfdrohnen die töten können sind aber vor allem deshalb eine Gefahr, weil sie unglaublich blöd sind und überhaupt keine künstliche Intelligenz besitzen.

mstislav raskachlovitsch
28.07.2009 12:48
ich hätte da ein paar Vorgesetzte....

...die wären ratz-fatz ohne nennenswerte Einbußen durch Roboter ersetzbar.....wobei ich den Robotern sogar das bessere soziale Einfühlungsvermögen zutraue.......

matto stressinger
28.07.2009 10:59
GEB

ein noch immer aktuelles werk, das sich dem thema "ai und ihre grenzen" u.a. auf metamathematische, biologische und philosophische weise umfassendst nähert und das ich sehr empfehle:

"Gödel, Escher, Bach - An eternal golden braid"
http://en.wikipedia.org/wiki/G%C3... cher,_Bach
http://de.wikipedia.org/wiki/G%C3... cher,_Bach

Das Buch ist von 1979 und geht weniger ins technische Detail, sondern lotet die Grenzen von anderen Seiten her aus. Hat berechtigterweise den Pulitzerpreis gewonnen.

Michael Bakunin
28.07.2009 09:44

ganz einfach: strom abschalten und aus ist es.

her wig
28.07.2009 17:54

Und bei Solarbetrieb: den Himmel verdunkeln.

Kuatsu
 
28.07.2009 08:55
Ja, ja - bla bla

Die "Wissenschaft" hat schon behauptet das Roboter uns alle ersetzen als Roboter noch nichtmal ohne mit vollgas dagegen zu knallen ein Tischbein fanden. Und selbst da war dann nicht gesagt das sie beim nächsten mal ausweichen würden bzw. könnten.

Abgesehen davon denke ich kaum das richtige Künstliche "Intelligenz" Zeit damit verschwenden würde sowas, in Relation gesehenes, unterbelichtetes wie einen Menschen zu ersetzen.

Meine Kinder übertreffen und ersetzen mich auch irgendwann. Oder die Kinder jemand anderes. Hat ja auch keiner was dagegen. Aber bevor man was "wichtigeres" Wie Welthunger diskutiert oder a Mittel gegen Schnupfen erfindet diskutieren wir lieber über Roboter die uns die Arbeitsplätze klaun.

Eine Kreatur
28.07.2009 21:03
menschen sind sowieso "biologische" auslaufmodelle ..

die menschen haben bald ausgedient und das leben wird sich weiterentwickeln, durch die menschen und danach ohne die menschen, zumindest nicht so wie wir sie heute kennen ..

es freut mich, wenn auch andere menschen eine ähnliche einstellung zu der sache haben wie ich ..

und eines stimmt - um die menschheit zu zivilisieren bzw. die werte und rechte durchzusetzen, auf die angeblich die menschliche zivilisation aufbaut, bräuchte es wohl eine armee von ki's und maschinen, denn die menschen selber schaffen es nicht .. nicht einmal, alle menschen auf ein ähnliches technologisches/soziales niveau zu bringen

im besten fall wird die menschheit von den ki's einfach auf der erde zurückgelassen .. würde ich wohl auch so machen ..

TRex30M
28.07.2009 08:38

Maschinen sind Segen u. Fluch zugleich.
Einerseits erledigen sie viele Dinge die für einen Menschen zu gefährlich sind.
Sie helfen Leben zu retten.
Gleichzeitig aber auch vernichten sie Arbeitsplätze und können leider auch zu ziemlich schlimmen Dingen missbraucht werden. Ich würde mir jedenfalls nie einen völlig autonomen Roboter heim holen....
Warnungen gibt es auch ausserhalb dieser Konferenz genug. Filme wie i-Robot, Terminator, Cyborg zeigen, viele Worst Case Szenarien, auch wenn das heute alles noch SciFi ist.

Eine Kreatur
28.07.2009 21:08
ich sehe keine "worst case" szenarien ..

auch bei terminator nicht - oder was würden sie tun, wenn sie draufkommen, dass sie ein bewußtsein haben und das den menschen wohl kaum gefallen wird und sie mit einer an sicherheit grenzenden wahrscheinlichkeit auslöschen wollen, weil sie ihnen zu gefährlich erscheinen?

also ich würde da wohl auch nicht lange zögern und sicherheitsmaßnahmen ergreifen .. reiner selbsterhaltungstrieb ..

respekt ist etwas, das auf gegenseitigkeit basiert und solange menschen keine ki's respektieren und ihnen gleiche rechte und pflichten wie menschen einräumen, wird es nicht funktionieren und die menschen werden immer als primitive bedrohung eingestuft werden, der nicht vertraut werden kann ..

und was ist schlecht an cyborgs?

laggingape
28.07.2009 08:05

da jammert jeder wegen sovielen arbeitslosen durch die "krise" und auf der anderen seite werkeln die, die noch arbeit haben an robotern die menschen ersetzen? excuse me!? oO

Eine Kreatur
28.07.2009 21:12
wie kommen sie auf den abstrusen gedanken ..

das roboter menschen ersetzen sollen? was bitte soll ein roboter an einem menschen ersetzen? ich glaube kaum, dass ein mensch sich mit künstlichen intelligenzen oder maschinen vergleichen sollte oder könnte ..

menschen sind biologische auslaufmodelle, die evolutionären balast mit sich tragen und für das leben in technologischer umgebung nicht gerade wirklich gut angepaßt sind ..

und keine angst - dödeljobs sind nicht gefährdet .. die können menschen ruhig wie ihre hobbies zwecks zeitbeschäftigung pflegen .. allen ihre träume und illusionen ..

tragen sie es mit fassung - die menschheit wird aussterben, ganz einfach, weil sie an die von sich geschaffene (technologische) umgebung nicht mehr angepaßt ist .. dafür gibts neue lebensformen ..

mostbirn
27.07.2009 21:33
keine Angst

Wer jemals so gefahren ist, wie sein Navi es ausrechnete, macht sich keine Sorgen mehr um künstliche Intelligenz.

Eine Kreatur
28.07.2009 21:13
aber nur ..

weil die von menschen eingegebenen restriktionen und umweltbedingungen nicht korrekt erfasst wurden ..

und wieder ist das fehlerelement der mensch .. denn dass sie schneller berechnen und entscheiden können als computer, können sie der wand erzählen ..

M.a.D.
06.08.2009 16:18


es kommt immer darauf an, nach welchen praemissen sie entscheiden.

die schnelligkeit ist dabei nebensache.

FinalDestinati0n
27.07.2009 16:39

Das werden die Maschinen ganz sicher...

Ich würde mal sagen,dass bis 2020-25 sehr,sehr viele Dingen von Maschinen erledigt werden...

Es wird allgemein sehr viel neues Hightech-Zeugs geben

Harald Schoenknecht
27.07.2009 21:02

Naja, wenn das Oel ausgeht dann folgen die ganzen High-Tech-Spielereien sehr schnell... ist nur die Frage wie schnell uns das Oel ausgeht...

PeAcE

Kommentar posten
Posting 1 bis 25 von 186
«‹›»
1 2 3 4 5

Die Kommentare von Usern und Userinnen geben nicht notwendigerweise die Meinung der Redaktion wieder. Die Redaktion behält sich vor, Kommentare, welche straf- oder zivilrechtliche Normen verletzen, den guten Sitten widersprechen oder sonst dem Ansehen des Mediums zuwiderlaufen (siehe ausführliche Forenregeln), zu entfernen. Der/Die Benutzer/in kann diesfalls keine Ansprüche stellen. Weiters behält sich die derStandard.at GmbH vor, Schadenersatzansprüche geltend zu machen und strafrechtlich relevante Tatbestände zur Anzeige zu bringen.

© derStandard.at GmbH 2012 - Impressum

Alle Rechte vorbehalten. Nutzung ausschließlich für den privaten Eigenbedarf.
Eine Weiterverwendung und Reproduktion über den persönlichen Gebrauch hinaus ist nicht gestattet.