| Vorheriges Thema anzeigen :: Nächstes Thema anzeigen |
| Autor |
Nachricht |
Shadaik
evolviert
Anmeldungsdatum: 17.07.2003
Beiträge: 26377
Wohnort: MG
|
 (#1936431) Verfasst am: 24.07.2014, 11:05 Titel: |
 |
|
| Ahriman hat folgendes geschrieben: | Zum schon zitierten Robotergesetz:
Eine der Regeln muß lauten: Erhalte und schütze deine Existenz mit allen Mitteln, solange nicht die Interessen deines Herrn etwas anderes erforderlich machen.
Wichtige Bedingung, sonst haut dir die Maschine eins auf die Birne, wenn du die Hand ausstreckst um sie abzuschalten. |
Dem ist so, die Reihenfolge der Gesetze stellt eine Prioritätenordnung dar, jedes der Gesetze Asimovs ist durch die vorherigen eingeschränkt.
Jetzt muss man aber auch anmerken, dass drei Viertel von Asimovs literarischem Schaffen darin bestand, die Wirksamkeit dieser Gesetze zu widerlegen.
_________________
Fische schwimmen nur in zwei Situationen mit dem Strom: Auf der Flucht und im Tode
|
|
| Nach oben |
|
 |
step
registriert
Anmeldungsdatum: 17.07.2003
Beiträge: 22782
Wohnort: Germering
|
| (#1936432) Verfasst am: 24.07.2014, 11:10 Titel: |
|
|
| zelig hat folgendes geschrieben: | | step hat folgendes geschrieben: | | Petrovs Entscheidung basiert nmV auf der Erkenntnis, daß, wenn er den Knopf drückt, eine global vernichtende Kette in Gang gesetzt wird, die den Untergang großer Teile der Menschheit zur Folge hat. Ich denke nicht, daß eine AI generell unfähig wäre, ein solches Kriterium zu berücksichtigen. |
Ob das des Punkt genau erfasst? Die Entscheidung war, ob man selber auf einen Schlag verzichtet, wenn alles darauf hindeutet, daß der Gegner den Schlag ausführt. |
Ja, man muß allerdings auf die Prämissen / Vorgaben schauen. Zu denen gehörte im aktuellen Fall eine Art "preemptiver Vergeltungsschlag", also der Befehl, auf den Knopf zu drücken, um wenigstens auch den Gegner im Falle eines Erstschlags zu bestrafen. Diese Vorgabe selbst ist kritisierbar: Sie beruht auf der Überlegung, daß ihre Kenntnis zur Abschreckung eines Erstschlages beiträgt, kann aber gleichzeitig (wie beinahe im vorliegenden Fall) zu einem unbeabsichtigten Erstschlag führen.
| zelig hat folgendes geschrieben: | | Man hätte keine Katastrophe verhindert, wenn das zutreffend gewesen wäre. Man hätte nur nicht zurückgeschlagen. |
Genau - aber nehmen wir mal an, Du müßtest eine solche AI programmieren (oder Vorgaben für die Leute am Knopf festlegen) - wie würdest Du den Aspekt "im Zweifel auf einen Gegenschlag verzichten" da unterzubringen versuchen?
- besser absichern, ob nicht doch ein Irrtum vorliegt? Das wurde übrigens tatsächlich in Folge des Vorfalls versucht. Diese Strategie setzt gerade nicht auf menschliches (oder gar individuelles) Bauchgefühl, sondern auf mehr und unabhängige Faktenquellen. Wenn man die hat, ist die AI wiederum eher im Vorteil.
- ganz auf Gegenschlag (und damit auf Abschreckung) verzichten? Das beträfe eher die Gesamtstrategie und ist für die Mensch/AI Frage irrelevant.
| zelig hat folgendes geschrieben: | | Die Überlegung war nach meinem Verständnis eher, setze ich darauf, daß hier ein Irrtum vorliegt? Die Verallgemeinerung dieses Verhaltens wäre daher aus meiner Sicht die Fähigkeit, sich von Vorgaben zu lösen, um eine Entscheidung mit anderen Prämissen neu zu überdenken. Ob das programmierbar wäre? |
Was genau meinst Du mit "sich von Vorgaben lösen"? Gehört dazu auch, sich von der gesamten Strategie zu lösen, also z.B. generell den Dienst zu verweigern? Nach welchen Kriterien soll man sich "von Vorgaben lösen"? Wenn man das nicht genauer festlegen kann, ist es nmV auch letztlich unvorhersehbar, ob ein menschliches Individuum sich am Ende günstig verhält oder nicht. Und ich denke schon, daß das Durchspielen "mit anderen Prämissen" programmierbar wäre - aber letztlich hat man immer so etwas Ähnliches wie ein Produkt aus Wahrscheinlichkeit P und Nutzen N: Max [ P(Prämisse) * N(Folgezustand) ]. Wo wir gerade dabei sind: Glaubst Du, daß Petrov eher an P oder eher an N zweifelte?
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
|
|
| Nach oben |
|
|
smallie
resistent!?
Anmeldungsdatum: 02.04.2010
Beiträge: 3726
|
| (#1936537) Verfasst am: 24.07.2014, 18:48 Titel: Re: Logik & Moral |
|
|
| Tarvoc hat folgendes geschrieben: | | smallie hat folgendes geschrieben: | | Dennoch wäre es im eigentlichen Sinn des Wortes unmenschlich, Entscheidungen über Leben und Tod dem Computer zu überlassen. |
Nein. Das Problem ist doch nicht eins der Roboterethik. Wenn es ein Problem ist, Computern die Entscheidung über Leben und Tod zu überlassen, dann deshalb, weil es ethisch bereits mindestens problematisch ist, wenn Menschen solche Entscheidungen treffen. Die ganze Idee der Roboterethik scheitert doch nicht an den Robotern, sondern von Anfang an daran, dass wir schon damit Probleme haben, menschliches Denken und Handeln ethisch zu gestalten. |
Hoppla. Da habe ich nicht deutlich genug gemacht, was Zitat und was Kommentar ist.
Alles gefettete waren Zitate von Helmut Veith:
| smallie hat folgendes geschrieben: | Dennoch wäre es im eigentlichen Sinn des Wortes unmenschlich, Entscheidungen über Leben und Tod dem Computer zu überlassen.
Auch Menschen können unmenschliche Entscheidungen fällen. |
Ich stimme dir völlig zu.
_________________
"There are two hard things in computer science: cache invalidation, naming things, and off-by-one errors."
|
|
| Nach oben |
|
|
zelig
Kultürlich
Anmeldungsdatum: 31.03.2004
Beiträge: 25405
|
| (#1936714) Verfasst am: 25.07.2014, 20:21 Titel: |
|
|
| step hat folgendes geschrieben: |
| zelig hat folgendes geschrieben: | | Die Überlegung war nach meinem Verständnis eher, setze ich darauf, daß hier ein Irrtum vorliegt? Die Verallgemeinerung dieses Verhaltens wäre daher aus meiner Sicht die Fähigkeit, sich von Vorgaben zu lösen, um eine Entscheidung mit anderen Prämissen neu zu überdenken. Ob das programmierbar wäre? |
Was genau meinst Du mit "sich von Vorgaben lösen"? Gehört dazu auch, sich von der gesamten Strategie zu lösen, also z.B. generell den Dienst zu verweigern? Nach welchen Kriterien soll man sich "von Vorgaben lösen"? Wenn man das nicht genauer festlegen kann, ist es nmV auch letztlich unvorhersehbar, ob ein menschliches Individuum sich am Ende günstig verhält oder nicht. Und ich denke schon, daß das Durchspielen "mit anderen Prämissen" programmierbar wäre - aber letztlich hat man immer so etwas Ähnliches wie ein Produkt aus Wahrscheinlichkeit P und Nutzen N: Max [ P(Prämisse) * N(Folgezustand) ]. Wo wir gerade dabei sind: Glaubst Du, daß Petrov eher an P oder eher an N zweifelte? |
Ich weiß es nicht. Aber es ist eine interessante Frage. Irgendwie wünschte ich, es wäre N, da das eine Einsicht in den ganzen Irrsinn bedeuten könnte. Oder eine schrittweise Entscheidungsstrategie, die nach jedem Schritt eine Neujustierung verlangt oder ermöglicht.
|
|
| Nach oben |
|
|
step
registriert
Anmeldungsdatum: 17.07.2003
Beiträge: 22782
Wohnort: Germering
|
| (#1936733) Verfasst am: 25.07.2014, 21:31 Titel: |
|
|
| zelig hat folgendes geschrieben: | | step hat folgendes geschrieben: | | ... letztlich hat man immer so etwas Ähnliches wie ein Produkt aus Wahrscheinlichkeit P und Nutzen N: Max [ P(Prämisse) * N(Folgezustand) ]. Wo wir gerade dabei sind: Glaubst Du, daß Petrov eher an P oder eher an N zweifelte? |
Ich weiß es nicht. Aber es ist eine interessante Frage. Irgendwie wünschte ich, es wäre N, da das eine Einsicht in den ganzen Irrsinn bedeuten könnte. |
Ja, das habe ich erwartet. Obwohl Du oben noch für P plädiert hast:
| zelig hat folgendes geschrieben: | | Die Überlegung war nach meinem Verständnis eher, setze ich darauf, daß hier ein Irrtum vorliegt? |
Letztlich läuft es auf die Frage hinaus, ob es eine bessere Strategie als Abschreckung gibt. Ich persönlich denke eher, daß das nicht möglich ist, solange die Menschheit in unterschiedliche Gruppen (Clans, Nationen, Religionen, Kulturen ...) zerfällt, deren Interessen nur schwach überlappen.
| zelig hat folgendes geschrieben: | | Oder eine schrittweise Entscheidungsstrategie, die nach jedem Schritt eine Neujustierung verlangt oder ermöglicht. |
Ja, sowas wird übrigens auch bei AIs manchmal gemacht.
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
|
|
| Nach oben |
|
|
Smode
registrierter User
Anmeldungsdatum: 13.06.2013
Beiträge: 308
|
| (#1936911) Verfasst am: 27.07.2014, 00:11 Titel: |
|
|
| step hat folgendes geschrieben: |
| zelig hat folgendes geschrieben: | | Oder eine schrittweise Entscheidungsstrategie, die nach jedem Schritt eine Neujustierung verlangt oder ermöglicht. |
Ja, sowas wird übrigens auch bei AIs manchmal gemacht. |
stichwort evolutionaere algorithmen.
_________________
Every man takes the limits of his own field of vision for the limits of the world.
|
|
| Nach oben |
|
|
|
FAQ 
Suchen 
Mitgliederliste 
Nutzungsbedingungen 
Benutzergruppen 
Links
Registrieren
Profil 
Einloggen, um private Nachrichten zu lesen 
Login 
