Logik & Moral

[zelig]

Frage SZ vom 19. Juli 2014:

[Casual3rdparty]

ein problem ist, dass soldaten bereits heute amoralische weisungen erhalten. israelische soldaten schießen steinewerfenden jugendlichen den Unterschenkel weg, auf weisung von oben.
oder piloten bombardieren häuser mit der gewissheit, dass statistisch dabei eine gewisse anzahl zivilisten getötet werden. warum sollten die gleichen weisungsbefugten den drohnen eine bessere moral einpflanzen? oder nimmt helmut veith an, dass über das moralicshe logikprogramm von drohnen inhaltlich detailliert demokratisch abgestimmt wird, das ganze also, anders als Soldaten, einer art höheren parlamentarischen kontrolle unterliegen wird?

[Samson83]

Ich bin tatsächlich der Ansicht, dass Drohnen zu einer gewissen humanisierung der Kriegsführung beitragen können, zivile Opfer vermidnern und natürlich die Schäden bei der eigenen Truppe minimieren. Daher ist mir nicht ganz einsichtig, wieso Drohnen besändig als Übel dargestellt werden, meist ohne Begründung.

Wahr ist, dass sich das Verhalten logisch bestimmen und planen lässt, wenn vorher gewisse Wertmaßstäbe begründet sind - in Bezug auf die Drohne etwa, nicht auf Ziele unter 1,60 (wahrscheinlich Kinder) zu schießen. Keine Ahnung ob das technisch geht.

Aber die Wertmaßstäbe selbst sind keineswegs logischen Ursprungs.
_________________
An alle: Lasst Euch dadurch nicht in die Irre führen. Dieser braune Burschi muss bearbeitet werden - immer hart an der Sache. Macht ihn mürbe! (Kramer)

[beachbernie]

Ich plaediere dafuer die "3 Regeln der Robotik" nach Issac Asimov in alle "intelligenten Maschinen" zu implementieren.

1. Ein Roboter darf keinen Menschen toeten oder verletzen.

2. Ein Roboter muss allen Befehlen eines Menschen gehorchen.

3. Ein Roboter darf sich nicht selbst zerstoeren oder seine Existenz gefaehrden.

Wobei die 3 Regeln hierarchisch zu verstehen sind: Regel 3 gilt nur, wenn dadurch weder Regel 1 noch Regel 2 verletzt wird. Regel 2 gilt nur, wenn dadurch Regel 1 nicht verletzt wird.


Nach diesen Regeln waere der Bau von militaerischen Kampfdrohnen nicht zulaessig.
_________________
Defund the gender police!!

[Casual3rdparty]

[beachbernie]

[Samson83]

[Casual3rdparty]

[Casual3rdparty]

[Shadaik]

[smallie]

[Lord Snow]

[sehr gut]

'Selbstfahrende' Autos werden bald kommen, da geht es immer mehr um Haftungsfragen. Denn um Unfälle wirklich zu vermeiden müsste man so fahren wie man es üblicherweise nicht macht. Man kann zB nicht mit 50km/h an einem Bürgersteig mit einem Kind drauf vorbeifahren und darauf vertrauen das dieses Kind nicht doch plötzlich auf die Strasse läuft. Wenn es danach ginge könnte man in vielen Bereichen kaum schneller wie 15km/h fahren wo man heute 3-4x so schnell fährt.

d.h. auch die computergesteuerten Fahrzeuge werden Unfälle mit Personenschaden verursachen, auch wenn sie sich korrekt an die StVO halten, weil bestimmte Unfälle damit nicht ausgeschlossen werden können.
Bei derartigen 'Unfällen' wo der Fahrer korrekt fuhr wär eben die Aufsichtsperson des Kindes Schuld, die hätte aufpassen müssen.

Auf bewaffnete Drohnen bezogen ist es absurd davon auszugehen eine Rakete in eine eng bebaute Gegend zu schiessen ohne einzukalkulieren das auch Unbeteiligte dadurch verletzt oder getötet werden. Wenn man dies wirklich ausschliessen will kann man kaum noch Raketen abschiessen.

[Fake]

Die ursprüngliche Frage, die zelig hier aufgeworfen hat, war doch: sollten Computer Entscheidungen treffen können? Hypothetisch eine interessante Frage aber völlig ohne praktische Relevanz, denn für solche Drohnen gibt es gar kein Bedürfnis. Niemand will Drohnen losschicken mit dem Auftrag "führe Krieg". Es geht immer um konkrete Einsätze, wie "zerstöre Haus xy". Die Frage der Moral stellt sich dann aber nicht mehr.

[Ahriman]

Ihr solltet bedenken, daß Computer gar keine Entscheidungen treffen können. Die trifft immer nur der Programmierer
if a>b then
Computer haben kein Urteilsvermögen, und ohne eine richtige artifizielle Intelligenz werden sie es nie haben. Wie unterscheidet eine Drohne einen Jungen mit Spielzeugpistole von einem bewaffneten jugendlichen Rauschgiftdealer? Das dürfte schon für den Menschen schwer möglich sein, der vor dem Bildschirm am Fernsteuerpult einer Drohne sitzt.
In den USA ist es schon vorgekommen, daß Polizisten auf vermeintlich bewaffnete Kinder schossen, und da haben auch schon Kinder mit vermeintlichen Spielzeugpistolen Polizisten umgelegt. Und Polizisten sollten wohl doch etwas mehr Intelligenz haben als ein Computer. Hoffe ich.

[Smode]

[Shadaik]

Die Unterscheidung setzt auch voraus, dass es einen echt und zweifellos freien Willen gibt, sonst ist auch jede menschliche Entscheidung von Parametern in Gehirn und Umgebung abhängig. Dann sprechen wir von etwas, was nicht nur für Elektronenhirne, sondern ganz grundsätzlich für jedes System unmöglich ist.
Noch weiter: Schafften wir es, eine solche Intelligenz zu entwickeln, hätten wir etwas geschaffen, was sich mit besserer Begründung als frei und entscheidungsfähig bezeichnen kann als wir arme Fleischsäcke.
_________________
Fische schwimmen nur in zwei Situationen mit dem Strom: Auf der Flucht und im Tode

[step]

[caballito]

[Smode]

[AlexJ]

[Tarvoc]

[caballito]

[zelig]

Vorausgesetzt, moralische Entscheidungen wären anhand logischer Operatoren abbildbar, und man könnte nun die Entscheidungsfindung einer zuverlässigen AI überlassen. Dann wäre zunächst eine Überlegung, ob die Entscheidungen der AI nicht der menschlichen Entscheidung überlegen, da weniger störanfällig wäre. Menschen begehen Fehler in Stresssituationen, die eine AI nicht kennt. Jetzt kommt aber Helmut Veith und erinnert an Stanislaw Petrow, der die logische Entscheidung verwirft, und durch eine fehlerhafte Entscheidung - im Sinne einer zuverlässig funktionierenden AI fehlerhaft- ersetzt.
Wir werten die Entscheidung Petrows als eine gute Entscheidung. Es hätte für eine AI keinen Weg gegeben, zu dieser Entscheidung zu gelangen. Dafür müsste sie menschlich werden, und gegen die Logik auf eine Zukunft setzen können, die auf so was wie Vertrauen gebaut war.

[step]

[step]

[zelig]

[caballito]

[Ahriman]

Alles ganz gut und schön. Aber allzu oft geht es bei einer Entscheidung darum, von zwei oder mehr Übeln das am wenigsten üble rauszufinden. Ich erinnere euch nur an die Bundestagswahlen. Ich fürchte, das wird für einen Computer noch schwieriger als für mich.

Zum schon zitierten Robotergesetz:
Eine der Regeln muß lauten: Erhalte und schütze deine Existenz mit allen Mitteln, solange nicht die Interessen deines Herrn etwas anderes erforderlich machen.
Wichtige Bedingung, sonst haut dir die Maschine eins auf die Birne, wenn du die Hand ausstreckst um sie abzuschalten.

[Smode]