Freigeisterhaus Foren-Übersicht
 FAQFAQ   SuchenSuchen   MitgliederlisteMitgliederliste   NutzungsbedingungenNutzungsbedingungen   BenutzergruppenBenutzergruppen   LinksLinks   RegistrierenRegistrieren 
 ProfilProfil   Einloggen, um private Nachrichten zu lesenEinloggen, um private Nachrichten zu lesen   LoginLogin 

Künstliche Intelligenz - Interessante Nachrichten aus der Praxis
Gehe zu Seite Zurück  1, 2, 3 ... 5, 6, 7 ... 16, 17, 18  Weiter
 
Neues Thema eröffnen   Neue Antwort erstellen   Drucker freundliche Ansicht    Freigeisterhaus Foren-Übersicht -> Wissenschaft und Technik
Vorheriges Thema anzeigen :: Nächstes Thema anzeigen  
Autor Nachricht
fwo
Caterpillar D9



Anmeldungsdatum: 05.02.2008
Beiträge: 25830
Wohnort: im Speckgürtel

Beitrag(#2118281) Verfasst am: 16.12.2017, 16:25    Titel: Antworten mit Zitat

zelig hat folgendes geschrieben:
...
step hat folgendes geschrieben:
...
zelig hat folgendes geschrieben:
... Muss der Funktionalist also für einen Roboter, der sich äußerlich nicht von einem Menschen oder einem anderen empfindungsfähigen Wesen unterscheiden lässt, ethische Sorgfalt walten lassen? Ich denke das muss er. Das ist allerdings noch kein valides Argument gegen den Funtionalismus, auch wenn die Konsequenzen irrwitzig erscheinen. Der Funktionalist könnte die ethischen Bedenken ja befürworten. Ich glaube das wird er aber nicht.

Doch, zumindest ich neige dazu, unter den oben geäußerten Voraussetzungen.
Wenn Du das auf die KI beziehst, dann ist es wenigstens konsequent. Aber es hätte massive Folgen. Ich wäre übrigens auch geneigt, bei dem kleinsten Hinweis auf Selbstbewußtsein oder Sinneswahrnehmungen bei KIs, sie als ethische Objekte zu behandeln.

@fwo Wärst du auch dazu bereit?

Das Zitat wurde insofern von mir verfälscht, als ich es um zeligs Statement vor dem steps erweitert habe, um steps aussage zu verstehen.

Warum fragst Du. Du weißt doch aus Erfahrung, dass ich vor keiner Schandtat zurückschrecke, auch nicht vor der, eine abweichende Meinung auch dann zu äußern, wenn es für alle Seiten anstrengend wird. zwinkern

Wenn wir eine KI herstellen, die leidensfähig ist, dann gehe ich davon aus, dass wir uns davon besondere Qualitäten versprechen. Sie dann absichtlich leiden zu lassen, würde sie in dieser Qualität sehr wahrscheinlich beeinträchtigen und wäre ganz einfach kontraproduktiv. Da eine derartige Schöpfung zwangsläufig individuell wäre, könnte ich mir auch eine persönliche Gefühle gegenüber dieser Dose vorstellen - schon dadurch wäre sie ein ethisches Objekt.

Aber ich habe in dem Post, den Du Dich zu lesen geweigert hast, dargestellt, warum ich den Schluss, dass ein mit Sinneswahrnehmungen ausgestatteter und selbstbewusster Roboter auch leidensfähig sein muss, für falsch halte. Vielleicht wir meine Antwort an Kramer da etwas aufhellen.
_________________
Ich glaube an die Existenz der Welt in der ich lebe.

The skills you use to produce the right answer are exactly the same skills you use to evaluate the answer. Isso.

Es gibt keinen Gott. Also: Jesus war nur ein Bankert und alle Propheten hatten einfach einen an der Waffel (wenn es sie überhaupt gab).
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
fwo
Caterpillar D9



Anmeldungsdatum: 05.02.2008
Beiträge: 25830
Wohnort: im Speckgürtel

Beitrag(#2118282) Verfasst am: 16.12.2017, 16:31    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
...
zelig hat folgendes geschrieben:
... Der Funktionalist müsste davon ausgehen, daß auch alle "verlässlichen Indikatoren" für Schmerz simuliert oder gebaut werden können.

Ja, aber Du hattest extra ein Beispiel gewählt (Sexpuppe), bei dem unklar blieb, ob das der Fall ist zwinkern

zelig hat folgendes geschrieben:
... Der Gegeneinwand ist: ... (b) Wenn man aber trotzdem daran glaubt, daß eine KI funktional mit dem Gehirn identisch ist, muss man ethische Vorsicht walten lassen.

Dem habe ich ja auch zugestimmt. Ich würde sogar sagen, daß funktionale Identität nicht einmal eine notwendige Bedingung ist. Meine Kritik bezog sich darauf, daß die Konsequenzen weit weniger absurd sind, als Dein Beispiel mit der Sexpuppe suggeriert.

zelig hat folgendes geschrieben:
Auch ist der Schauspieler eher ein Argument dafür, daß eine Funktion oder ein Phänomen, das einem anderen gleicht, kein hinreichender Grund für die Annahme ist, daß wir es mit identischen Phänomenen zu tun haben.

Daher mein Einwand, daß Deine Kritik nur gegen einen sehr oberflächlichen Funktionalismus (Stöhnen) greift. Ob fwo's Linie darunter fällt, mögt Ihr selbst austragen.
....

Zumindestens bei zeligs Sexpuppe (ich hoffe, er verzeiht mir diesen Genitiv) scheinen wir beide einer Meinung zu sein.
_________________
Ich glaube an die Existenz der Welt in der ich lebe.

The skills you use to produce the right answer are exactly the same skills you use to evaluate the answer. Isso.

Es gibt keinen Gott. Also: Jesus war nur ein Bankert und alle Propheten hatten einfach einen an der Waffel (wenn es sie überhaupt gab).
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
swifty
auf eigenen Wunsch deaktiviert



Anmeldungsdatum: 26.03.2017
Beiträge: 5000

Beitrag(#2118284) Verfasst am: 16.12.2017, 16:36    Titel: Antworten mit Zitat

fwo hat folgendes geschrieben:
... selbstbewusster Roboter ...

So etwas gibt es nicht und es gibt auch keine Anzeichen dafür, dass es so etwas geben könnte.

Nochmal zur Erinnerung:


Despiteful hat folgendes geschrieben:
Nenn mir einfach ein einziges nicht vorher von Menschenhand definiertes Ziel, das eine Maschine je erreicht hat. Ein einziges Beispiel genügt, dann sehe ich mich sofort als widerlegt. zwinkern


Despiteful hat folgendes geschrieben:

Wie gesagt, nenn mir einfach ein einziges Ziel, das sich eine Maschine jemals selbst gesetzt hat oder eine Handlung, die intrinsisch motiviert war (Danke smallie für den Ausdruck zwinkern ) oder eine künstliche Intelligenz, die etwas anderes tut, als wofür sie entwickelt wurde, dann können wir gerne weiterreden.


Despiteful hat folgendes geschrieben:
Naja, ich versteh vom Programmieren immerhin soviel, dass ich weiß, dass man zunächst mal ein Ziel definieren muss. Das ist meines Erachtens der springende Punkt. Die Maschinen mögen superintelligent sein, aber sie führen letztlich immer nur diesen einen oder mehrere Befehle aus, für den sie konstruiert worden sind. (Spiele und gewinne Go, tu dies, tu jenes)

...

(Edit: natürlich nicht programmierte Befehle im Sinne von 'mach jetzt genau das und dann mach genau das' aber das tut ein Mensch ja auch nicht, wenn bei der Bundeswehr jemand den Befehl kriegt 'Lauf 200 Meter', dann sagt man ihm ja auch nicht 'Rechtes Bein hoch - einatmen - rechtes Bein vor - runter - ausatmen' - Der Befehl lautet aber dennoch 'Lauf 200 Meter' und in diesem Sinne ist es ein Befehl. Natürlich wird es KIs geben die man für mehrere Bereiche einsetzt, ich denke, das wird ja auch schon gemacht, als blödes Beispiel ich nehme eine KI die für Musik entworfen wurde für Photobearbeitung her, das wird natürlich möglich sein. Aber erst, wenn die KI für Musik von sich aus anfängt Photos zu machen, dann sähe ich mich widerlegt.)


Die Frage nach dem ethischen 'Wie, wenn?' mag ja ganz interessant für euch sein, aber sie hat in diesem Thread eigentlich nichts verloren. Hier wären erstmal obige Fragen zu beantworten.

Im Übrigen sehe ich cortanos Vorwurf des Transhumanismus hier völlig gerechtfertigt. Sci-Fi-Glaube, mehr nicht.

(Es sind übrigens auch step und zelig herzlich eingeladen auf diese ja nur entscheidenden Fragen eine Antwort zu geben)


Zuletzt bearbeitet von swifty am 16.12.2017, 16:47, insgesamt einmal bearbeitet
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
cortano
als Doppelnick gesperrt



Anmeldungsdatum: 20.11.2017
Beiträge: 106

Beitrag(#2118286) Verfasst am: 16.12.2017, 16:44    Titel: Antworten mit Zitat

Despiteful hat folgendes geschrieben:
fwo hat folgendes geschrieben:
@ Cortano:
Es geht in dieser Diskussion nicht um "Die bis dato bekannte KI". Ich belasse es bei dieser Antwort and Dich, weil ich mich sonst verzettele.

Eigentlich schon, schau mal auf den Threadtitel. zwinkern


Aber fwo hat das "ich habe keine Argumente" sehr elegant formuliert Lachen
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
fwo
Caterpillar D9



Anmeldungsdatum: 05.02.2008
Beiträge: 25830
Wohnort: im Speckgürtel

Beitrag(#2118287) Verfasst am: 16.12.2017, 16:51    Titel: Antworten mit Zitat

Kramer hat folgendes geschrieben:
fwo hat folgendes geschrieben:

Nein. Aber ich helfe Dir: Es geht um die Frage was Schmerz und Leid bedeuten, welche Funktion sie erfüllen und darum, ob eine künstliche Intelligenz mit Selbstbewusstsein unbedingt leidensfähig ist. Ich halte letzteres für einen Fehlschluss und habe das begründet.


Die Frage ist doch nicht, ob eine künstliche Inelligenz leidensfähig ist oder sein könnte, sondern ob sie es sein sollte. Dagegen sprechen technische Gründe (Wie macht man das?) und ethische (Erschafft man damit nicht neues Leid?). Dafür spricht, dass eine künstliche Intelligenz, die der menschlichen eventuell überlegen ist, aber nicht zu menschlichen Emotionen fähig ist, eine potentielle Gefahr darstellt.

Die Frage ist, wie man eine intelligente Maschine zu ethischem Handeln bewegt, ohne ihre eigentliche Funktion, ein selbstlernendes und eigene Entscheidungen treffendes System zu sein, zu beeinträchtigen. Eine Implementierung von ethischen Anweisung a la Asimov halte ich nicht für zielführend, denn damit würde man die Maschine dazu verdammen, einer Regel zu folgen, ohne sie hinterfragen zu dürfen. Man müsste also einen Weg finden, dass die Maschine aus eigenen Überlegungen zu prosozialen Entscheidungen kommt. Aus Erfahrungen mit unserer eigenen Spezies wissen wir, dass Menschen, die ein eingeschränktes Empfindungs- und Empathievermögen haben, zu egoistischem und antisozialen Verhalten neigen. Es kann nicht in unserem Interesse sein, eine Intelligenz zu erschaffen, deren "Sozialverhalten" nicht berechenbar ist.

fett von mir.
Woher hast Du die Grundlagen zur Fähigkeit, "aus eigenen Überlegungen zu prosozialen Entscheidungen" zu kommen?
Ohne auf Details einzugehen: Deine Empathiefähigkeit ist nicht Dein Verdienst, und die Sprache, in der Du denkst, um Deine Gedanken hier in die Diskussion zu tragen, auch nicht wirklich. Würdest Du Dich deshalb als dazu verdammt bezeichnen?

Da hätten die Leute mit dem eingeschränkten Empathievermügen, doch auch Veranlassung, bei Dir von "zu bestimmtem Verhalten verdammt" zu sprechen, der Du wegen dieser blöden Empathie offensichtlich weniger Freiheitsgrade hast als sie.

Und an der Stelle kommen wir zu dem Roboter: Der entstammt keiner biologischen Evolution, schon gar keiner von Menschen. Wenn wir den aber selbständig in einer menschlichen Gesellschaft agieren lassen wollen, sind wir als Menschen, schon zu unserer Selbsterhaltung, gefordert, ihm soetwas wie "Empathie für Menschen" einzuimpfen, sonst wäre er, wie Du auch selbst feststellst, so gefährlich für uns, wie bestimmte Menschen, die in dieser Beziehung Mängelexemplare sind.

Ich sehe nicht, dass irgendetwas dagegen spricht, dieser Schöpfung die Empathie für Menschen, die zwangsläufig sein muss, als festes Regelwerk einzugeben. Ich glaube eher, dass Du an der Stelle Deinen eigenen Freiheitsbegriff überprüfen solltest. Dann wirst Du auch feststellen, dass es in Deinem eigenen Denken auch Regeln gibt, bei denen es sinnvoll ist, dass sie nicht hinterfragt werden dürfen. Ein solches Dogma ist z.B. die Forderung nach einer sozialen Einstellung der Individuen dieser Gesellschaft.
_________________
Ich glaube an die Existenz der Welt in der ich lebe.

The skills you use to produce the right answer are exactly the same skills you use to evaluate the answer. Isso.

Es gibt keinen Gott. Also: Jesus war nur ein Bankert und alle Propheten hatten einfach einen an der Waffel (wenn es sie überhaupt gab).
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
swifty
auf eigenen Wunsch deaktiviert



Anmeldungsdatum: 26.03.2017
Beiträge: 5000

Beitrag(#2118289) Verfasst am: 16.12.2017, 16:59    Titel: Antworten mit Zitat

cortano hat folgendes geschrieben:
Despiteful hat folgendes geschrieben:
fwo hat folgendes geschrieben:
@ Cortano:
Es geht in dieser Diskussion nicht um "Die bis dato bekannte KI". Ich belasse es bei dieser Antwort and Dich, weil ich mich sonst verzettele.

Eigentlich schon, schau mal auf den Threadtitel. zwinkern


Aber fwo hat das "ich habe keine Argumente" sehr elegant formuliert Lachen

fwo ist schlau, der sagt 'Geh und finde das goldene Vlies!' und nutzt die Zeit dann um über Sci-Fi zu schwurbeln. Lachen
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
cortano
als Doppelnick gesperrt



Anmeldungsdatum: 20.11.2017
Beiträge: 106

Beitrag(#2118291) Verfasst am: 16.12.2017, 17:11    Titel: Antworten mit Zitat

fwo hat folgendes geschrieben:

Ich sehe nicht, dass irgendetwas dagegen spricht, dieser Schöpfung die Empathie für Menschen, die zwangsläufig sein muss, als festes Regelwerk einzugeben.


eventuell könnte auch eine Überprüfung deiner Vorstellungen über KI sinnvoll sein - eine gewisse Hollywood-Lastigkeit könnte gegeben sein zwinkern
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 22767
Wohnort: Germering

Beitrag(#2118293) Verfasst am: 16.12.2017, 17:19    Titel: Antworten mit Zitat

Ich denke, die fundamentalen ethischen Muster sind unabhängig davon, ob es ein biologisches oder kybernetisches Wesen ist. Wenn hinreichend Vernetzung und Intelligenz da ist, erwarte ich mindestens die folgenden Muster:
- kooperativ: weil es effizienter ist
- kompetitiv: weil die Ressourcen begrenzt sind

Wie genau das aussieht und welche individuellen oder kollektiven Ziele angestrebt werden, ist mE schwierig vorauszusagen, es hängt von zu vielen Details ab. Wegen der schwächeren Substratbindung im Vergleich zum Menschen werden mE Gefühle keinen großen Nutzen haben und daher auch keine so beherrschende Rolle spielen, ebenso sind die Lernzyklen schneller und das Primat der Gene fehlt (was beim heutigen Menschen teiweise auch schon der Fall ist).

Aufgrund von Effekten wie der indirekten Reziprozität würde ich auch für gut möglich halten, daß die KIs Wesen anderer Arten als ethische Subjekte oder zumindest ethische Objekte behandeln. Zumindest wenn sie eher verteilt und nicht völlig transparent funktionieren.

Auch ich halte es übrigens für Unsinn, echten KIs so etwas wie die Asimov-Regeln mitzugeben. Sobald sie wirklich intelligent werden, finden sie einen Weg, sich darüber hinwegzusetzen. Außerdem sehe ich die Legitimität solcher Regeln nicht ein. Entweder man stößt die Entwicklung von etwas Besserem an, oder man läßt es bleiben.
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
cortano
als Doppelnick gesperrt



Anmeldungsdatum: 20.11.2017
Beiträge: 106

Beitrag(#2118294) Verfasst am: 16.12.2017, 17:19    Titel: Antworten mit Zitat

Despiteful hat folgendes geschrieben:
... und nutzt die Zeit dann um über Sci-Fi zu schwurbeln. Lachen


hab' ich auch nichts dagegen einzuwenden - man sollte sich nur bewußt sein, worüber man redet.

Relevanter bei KI scheint mir sowas:
https://www.heise.de/newsticker/meldung/KI-Forscher-und-Tech-Prominenz-fordern-Verbot-autonomer-Waffen-2763497.html
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Marcellinus
Outsider



Anmeldungsdatum: 27.05.2009
Beiträge: 7429

Beitrag(#2118295) Verfasst am: 16.12.2017, 17:22    Titel: Antworten mit Zitat

cortano hat folgendes geschrieben:
fwo hat folgendes geschrieben:

Ich sehe nicht, dass irgendetwas dagegen spricht, dieser Schöpfung die Empathie für Menschen, die zwangsläufig sein muss, als festes Regelwerk einzugeben.


eventuell könnte auch eine Überprüfung deiner Vorstellungen über KI sinnvoll sein - eine gewisse Hollywood-Lastigkeit könnte gegeben sein zwinkern

Daumen hoch!
_________________
"Mangel an historischem Sinn ist der Erbfehler aller Philosophen ... Alles aber ist geworden;
es gibt keine ewigen Tatsachen: sowie es keine absoluten Wahrheiten gibt."

Friedrich Nietzsche
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
fwo
Caterpillar D9



Anmeldungsdatum: 05.02.2008
Beiträge: 25830
Wohnort: im Speckgürtel

Beitrag(#2118298) Verfasst am: 16.12.2017, 17:40    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
....
Auch ich halte es übrigens für Unsinn, echten KIs so etwas wie die Asimov-Regeln mitzugeben. Sobald sie wirklich intelligent werden, finden sie einen Weg, sich darüber hinwegzusetzen. ....

Dabei gehst Du von einem menschlichen Macht- und Lebenswillen aus. Den haben wir aber nur, weil wir einer Evolution entstammen, die auf dieser Voraussetzung basiert. Der ist keine Folge von Intelligenz oder Selbstbewusstsein. Das müsstest Du also schon genauso explizit mitgeben, wie es Asimov mit seinen Regeln tut. Warum willst Du das?
_________________
Ich glaube an die Existenz der Welt in der ich lebe.

The skills you use to produce the right answer are exactly the same skills you use to evaluate the answer. Isso.

Es gibt keinen Gott. Also: Jesus war nur ein Bankert und alle Propheten hatten einfach einen an der Waffel (wenn es sie überhaupt gab).
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 22767
Wohnort: Germering

Beitrag(#2118299) Verfasst am: 16.12.2017, 17:48    Titel: Antworten mit Zitat

fwo hat folgendes geschrieben:
step hat folgendes geschrieben:
.... Sobald sie wirklich intelligent werden, finden sie einen Weg, sich darüber hinwegzusetzen. ....
Dabei gehst Du von einem menschlichen Macht- und Lebenswillen aus.

Nein, sie würden ganz andere Ziele ausbilden, als Replikatoren für Gene zu sein. Diese könnten sie aber durchaus effizienter verfolgen, u.a. wegen der von mir genannten kürzeren Lernzyklen.

fwo hat folgendes geschrieben:
... Das müsstest Du also schon genauso explizit mitgeben, wie es Asimov mit seinen Regeln tut. Warum willst Du das?

Ich denke sowieso nicht, daß wir an irgendeinem Punkt diese Entscheidung dezidiert treffen. Es wird eher schleichend und nicht vollständig verstehbar passieren, und die nächste große Kränkung für die Schöpfungskrone darstellen.
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
fwo
Caterpillar D9



Anmeldungsdatum: 05.02.2008
Beiträge: 25830
Wohnort: im Speckgürtel

Beitrag(#2118300) Verfasst am: 16.12.2017, 17:50    Titel: Antworten mit Zitat

Marcellinus hat folgendes geschrieben:
cortano hat folgendes geschrieben:
fwo hat folgendes geschrieben:

Ich sehe nicht, dass irgendetwas dagegen spricht, dieser Schöpfung die Empathie für Menschen, die zwangsläufig sein muss, als festes Regelwerk einzugeben.


eventuell könnte auch eine Überprüfung deiner Vorstellungen über KI sinnvoll sein - eine gewisse Hollywood-Lastigkeit könnte gegeben sein zwinkern

Daumen hoch!

Amüsanter Artikel, aber um meine "Hollywood-Lastigkeit" mache ich mir schon deshalb keine Sorgen, weil ich die ganzen Filme, die da aufgezählt werden, nicht kenne. Dafür fing ich 1984 als Biologe an, eigene statistische Methoden zu formulieren, die ich dann dummerweise für die Auswertungen selbst programmieren musste. Irgendwann bin ich dann fast ganz in die Informatik abgedriftet. Ich weiß ganz gut, was ich hier schreibe - Anleihen aus Hollywood sind mit Sicherheit nicht dabei.
_________________
Ich glaube an die Existenz der Welt in der ich lebe.

The skills you use to produce the right answer are exactly the same skills you use to evaluate the answer. Isso.

Es gibt keinen Gott. Also: Jesus war nur ein Bankert und alle Propheten hatten einfach einen an der Waffel (wenn es sie überhaupt gab).
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
fwo
Caterpillar D9



Anmeldungsdatum: 05.02.2008
Beiträge: 25830
Wohnort: im Speckgürtel

Beitrag(#2118302) Verfasst am: 16.12.2017, 17:57    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
fwo hat folgendes geschrieben:
step hat folgendes geschrieben:
.... Sobald sie wirklich intelligent werden, finden sie einen Weg, sich darüber hinwegzusetzen. ....
Dabei gehst Du von einem menschlichen Macht- und Lebenswillen aus.

Nein, sie würden ganz andere Ziele ausbilden, als Replikatoren für Gene zu sein. Diese könnten sie aber durchaus effizienter verfolgen, u.a. wegen der von mir genannten kürzeren Lernzyklen.

Wie kommst Du überhaupt darauf, dass sie eigene Ziele entwickeln würden, ohne, dass wir sie ihnen eingeben? Schon das Beginnen des Lernens setzt ein Ziel voraus.
_________________
Ich glaube an die Existenz der Welt in der ich lebe.

The skills you use to produce the right answer are exactly the same skills you use to evaluate the answer. Isso.

Es gibt keinen Gott. Also: Jesus war nur ein Bankert und alle Propheten hatten einfach einen an der Waffel (wenn es sie überhaupt gab).
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 22767
Wohnort: Germering

Beitrag(#2118306) Verfasst am: 16.12.2017, 18:09    Titel: Antworten mit Zitat

fwo hat folgendes geschrieben:
Wie kommst Du überhaupt darauf, dass sie eigene Ziele entwickeln würden, ohne, dass wir sie ihnen eingeben? Schon das Beginnen des Lernens setzt ein Ziel voraus.

Naja also. Etwas so allgemeines wie Lernfähigkeit, Vernetzung, etwas Zufall usw. darf ich noch voraussetzen, oder? Ich habe ja nicht behauptet, daß man gar nichts vorgeben muß.
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Zumsel
registrierter User



Anmeldungsdatum: 08.03.2005
Beiträge: 4667

Beitrag(#2118309) Verfasst am: 16.12.2017, 18:53    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
Ich denke, die fundamentalen ethischen Muster sind unabhängig davon, ob es ein biologisches oder kybernetisches Wesen ist. Wenn hinreichend Vernetzung und Intelligenz da ist, erwarte ich mindestens die folgenden Muster:
- kooperativ: weil es effizienter ist
- kompetitiv: weil die Ressourcen begrenzt sind


Was diese beiden Dinge jetzt genau mit Ethik zu tun haben ist aber noch erklärungsbedürftig. Nicht, dass ich da jeden Zusammenhang leugnen würde, aber wie das genau zusammenhängen soll ist ja wohl alles andere als offensichtlich.

step hat folgendes geschrieben:
Aufgrund von Effekten wie der indirekten Reziprozität würde ich auch für gut möglich halten, daß die KIs Wesen anderer Arten als ethische Subjekte oder zumindest ethische Objekte behandeln. Zumindest wenn sie eher verteilt und nicht völlig transparent funktionieren.


Könntest du die Begriffe "ethisches Subjet" und "ethisches Objekt" explizieren?
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
fwo
Caterpillar D9



Anmeldungsdatum: 05.02.2008
Beiträge: 25830
Wohnort: im Speckgürtel

Beitrag(#2118311) Verfasst am: 16.12.2017, 19:34    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
fwo hat folgendes geschrieben:
Wie kommst Du überhaupt darauf, dass sie eigene Ziele entwickeln würden, ohne, dass wir sie ihnen eingeben? Schon das Beginnen des Lernens setzt ein Ziel voraus.

Naja also. Etwas so allgemeines wie Lernfähigkeit, Vernetzung, etwas Zufall usw. darf ich noch voraussetzen, oder? Ich habe ja nicht behauptet, daß man gar nichts vorgeben muß.

Lernfähigkeit ganz theoretisch ja. Aber praktisches Lernen nein. Das bedarf bereits einer Zielsetzung. Wir machen das durch Nachahmung, durch dazugehören wollen, durch ein Kontaktbedürfnis usw. Das sind aber alles Eigenschaften des biologischen Apparates, oder wie ich es hier zum Entsetzen zeligs sehr abstrakt geschwurbelt habe:
fwo hat folgendes geschrieben:
... Wir können mit sehr hoher Sicherheit von uns auf den anderen Menschen schließen, weil wir der selben Baureihe entstammen. Und diese Baureihe hat die Besonderheit, aus einer Evolution zu stammen. Das bedeutet in der Praxis, sonst hätte die Evolution nicht funktioniert, dass jedes Individuum als Verhaltensdentenz, bei Arten mit Bewusstsein kann man auch vom Willen sprechen, hat, in den Zustand der Fortpflanzungsfähigkeit zu kommen und sich fortzupflanzen. ...

Dein Wille hängt außer von der Sozialisierung (das sehe ich auch als eine Art Programmierung) u.a. auch von Deinem Hormonsystem ab ....
_________________
Ich glaube an die Existenz der Welt in der ich lebe.

The skills you use to produce the right answer are exactly the same skills you use to evaluate the answer. Isso.

Es gibt keinen Gott. Also: Jesus war nur ein Bankert und alle Propheten hatten einfach einen an der Waffel (wenn es sie überhaupt gab).
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 22767
Wohnort: Germering

Beitrag(#2118312) Verfasst am: 16.12.2017, 19:35    Titel: Antworten mit Zitat

Zumsel hat folgendes geschrieben:
step hat folgendes geschrieben:
Ich denke, die fundamentalen ethischen Muster sind unabhängig davon, ob es ein biologisches oder kybernetisches Wesen ist. Wenn hinreichend Vernetzung und Intelligenz da ist, erwarte ich mindestens die folgenden Muster:
- kooperativ: weil es effizienter ist
- kompetitiv: weil die Ressourcen begrenzt sind
Was diese beiden Dinge jetzt genau mit Ethik zu tun haben ist aber noch erklärungsbedürftig. Nicht, dass ich da jeden Zusammenhang leugnen würde, aber wie das genau zusammenhängen soll ist ja wohl alles andere als offensichtlich.

Ausgangspunkt (ich glaube von Kramer?) war ja die Frage, wie man "eine Maschine zu ethischem Handeln bewegt". Du kannst natürlich argumentieren, daß es für Kooperation und Wettbewerb gar keine Ethik brauche, z.B. gebe es das ja auch im Tierreich. Da würde ich zustimmen - Ethik ist etwas Reflektierteres, das aber andererseits bestimmte natürliche Gegebenheiten nicht ignorieren kann, zumindest bei utilitaristischen Ethiken. Den Zusammenhang sehe ich daher erstmal darin, daß die genannten Muster proto-ethische Wirkung haben und dennoch nicht programmiert werden müssen.

Zumsel hat folgendes geschrieben:
step hat folgendes geschrieben:
Aufgrund von Effekten wie der indirekten Reziprozität würde ich auch für gut möglich halten, daß die KIs Wesen anderer Arten als ethische Subjekte oder zumindest ethische Objekte behandeln. Zumindest wenn sie eher verteilt und nicht völlig transparent funktionieren.
Könntest du die Begriffe "ethisches Subjet" und "ethisches Objekt" explizieren?

ethisches Subjekt = selbstbewußtes Wesen mit Interessen und ethischer Diskursfähigkeit ("Person")
ethisches Objekt = empfindungsfähiges Wesen

Ethische Objekte ohne Subjekteigenschaft (z.B. viele Tiere) bestimmen die Ethik nicht mit, ihnen können auch nicht sinnvoll aktive Rechte zugewiesen werden, aber sie sind dennoch wichtige Objekte der Ethik (daher meine Bezeichnung), d.h. die ethischen Subjekte müssen sie im ethischen Diskurs berücksichtigen. Z.B. kann ihnen Schutz vor Leid zugewiesen werden.
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 22767
Wohnort: Germering

Beitrag(#2118313) Verfasst am: 16.12.2017, 19:45    Titel: Antworten mit Zitat

fwo hat folgendes geschrieben:
Aber praktisches Lernen ... bedarf bereits einer Zielsetzung.

Laß uns nicht um Worte streiten. Wenn Du das Meta-Programm, das die Lernfähigkeit, die Neugier usw. etwa eines neuronalen Netzwerks kodiert, als "Ziel" oder "Vorgabe" bezeichnest, habe ich damit kein Problem. Mein Punkt war, daß es nur einer solchen, sehr allgemeinen Vorgabe bedarf, die keinerlei ethische / moralische Aspekte beinhaltet.

fwo hat folgendes geschrieben:
Wir machen das durch Nachahmung, durch dazugehören wollen, durch ein Kontaktbedürfnis usw. Das sind aber alles Eigenschaften des biologischen Apparates ...

Bei uns (zum Teil) ja, bei der KI nicht.

fwo hat folgendes geschrieben:
... Das bedeutet in der Praxis, sonst hätte die Evolution nicht funktioniert, dass jedes Individuum als Verhaltensdentenz ... hat, in den Zustand der Fortpflanzungsfähigkeit zu kommen und sich fortzupflanzen. ... Dein Wille hängt außer von der Sozialisierung (das sehe ich auch als eine Art Programmierung) u.a. auch von Deinem Hormonsystem ab ....

Jaja, aber daraus folgt nicht, daß ein Wille nur durch biologische Evolution oder explizite Programmierung entstehen kann.
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
zelig
Kultürlich



Anmeldungsdatum: 31.03.2004
Beiträge: 25404

Beitrag(#2118315) Verfasst am: 16.12.2017, 20:02    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
Ich denke, die fundamentalen ethischen Muster sind unabhängig davon, ob es ein biologisches oder kybernetisches Wesen ist. Wenn hinreichend Vernetzung und Intelligenz da ist, erwarte ich mindestens die folgenden Muster:
- kooperativ: weil es effizienter ist
- kompetitiv: weil die Ressourcen begrenzt sind

Wie genau das aussieht und welche individuellen oder kollektiven Ziele angestrebt werden, ist mE schwierig vorauszusagen, es hängt von zu vielen Details ab. Wegen der schwächeren Substratbindung im Vergleich zum Menschen werden mE Gefühle keinen großen Nutzen haben und daher auch keine so beherrschende Rolle spielen, ebenso sind die Lernzyklen schneller und das Primat der Gene fehlt (was beim heutigen Menschen teiweise auch schon der Fall ist).

Aufgrund von Effekten wie der indirekten Reziprozität würde ich auch für gut möglich halten, daß die KIs Wesen anderer Arten als ethische Subjekte oder zumindest ethische Objekte behandeln. Zumindest wenn sie eher verteilt und nicht völlig transparent funktionieren.

Auch ich halte es übrigens für Unsinn, echten KIs so etwas wie die Asimov-Regeln mitzugeben. Sobald sie wirklich intelligent werden, finden sie einen Weg, sich darüber hinwegzusetzen. Außerdem sehe ich die Legitimität solcher Regeln nicht ein. Entweder man stößt die Entwicklung von etwas Besserem an, oder man läßt es bleiben.


"Fundamentale ethische Muster" existieren nicht im luftleeren Raum. In einer anderen Welt und in anderen Zeiten sind vielleicht Ehre, Durchsetzungswillen oder Treue fundamental. Oder die Geschichte zeitigt eine dauerhaft stabile Sklavengesellschaft, in der eine kleine Elite auf Kooperation überhaupt nicht angewiesen ist. Kann es sein, daß Du gerade Deine Ideale, die ich durchaus befürworte, auf KIs projizierst? Nur daß du ein biologisch-soziales Fundament wie das (Mit)gefühl über Bord wirfst?
Vor allem aber hielte ich es für wirklich gefährlich, biologische Wesen zu ethischen Objekten von KIs zu machen. Was eine logische Folge deiner Überlegung wäre. Die Menschheit beginnt ja gerade damit, Entscheidungen an KIs zu delegieren, die nicht mehr verstanden werden können.
_________________
Es gibt kein richtiges Leben im falschen.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 22767
Wohnort: Germering

Beitrag(#2118316) Verfasst am: 16.12.2017, 20:21    Titel: Antworten mit Zitat

zelig hat folgendes geschrieben:
"Fundamentale ethische Muster" existieren nicht im luftleeren Raum.

Hmm ... doch, würde ich schon sagen. Also nicht ganz luftleer, aber zumindest moralisch und biologisch luftleer. Es ist eher so wie Mathematik im weitesten Sinne, z.B. Spieltheorie.

zelig hat folgendes geschrieben:
... Oder die Geschichte zeitigt eine dauerhaft stabile Sklavengesellschaft, in der eine kleine Elite auf Kooperation überhaupt nicht angewiesen ist.

Klar, so etwas ist real möglich, auch bei KIs könnten Strukturen entstehen, die auf Gleichschaltung oder Ausbeutung (oder etwas Ähnliches auf unvorstellbar höherem Niveau) setzen.

zelig hat folgendes geschrieben:
Kann es sein, daß Du gerade Deine Ideale, die ich durchaus befürworte, auf KIs projizierst?

Nee, dazu bin ich doch zuwenig Idealist. Mir ging es hier nur darum, daß bestimmte protoethische Muster (ohne Wertung) quasi "automatisch" entstehen.

zelig hat folgendes geschrieben:
Nur daß du ein biologisch-soziales Fundament wie das (Mit)gefühl über Bord wirfst?

Moooment - ich wage mal die These, daß zumindest ein virtuellen Nachvollziehens des Zustands anderer Instanzen/Teile der KI gut möglich und auch für die KI nützlich wäre. Es wäre wohl nur mit deutlich weniger Gefühl verbunden.

zelig hat folgendes geschrieben:
Vor allem aber hielte ich es für wirklich gefährlich, biologische Wesen zu ethischen Objekten von KIs zu machen. Was eine logische Folge deiner Überlegung wäre.

Vielleicht würden die KIs Menschen als ethische Subjekte einstufen? Wir müssen/müßten diese Frage auch bei Kleinkindern, Gorillas oder Aliens, oder eben KIs, beantworten.

zelig hat folgendes geschrieben:
Die Menschheit beginnt ja gerade damit, Entscheidungen an KIs zu delegieren, die nicht mehr verstanden werden können.

In der Tat.
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
cortano
als Doppelnick gesperrt



Anmeldungsdatum: 20.11.2017
Beiträge: 106

Beitrag(#2118325) Verfasst am: 16.12.2017, 21:05    Titel: Antworten mit Zitat

Despiteful hat folgendes geschrieben:

Die Frage nach dem ethischen 'Wie, wenn?' mag ja ganz interessant für euch sein, aber sie hat in diesem Thread eigentlich nichts verloren. Hier wären erstmal obige Fragen zu beantworten.



Wie du merkst wird die Diskussion über eine Sci-Fi-Ethik bevorzugt zwinkern

Und wenn ich mir die Vorstellungen so durchlese, hat das zumindest mit der im Threadtitel erwähnten "Praxis" von KI bzw. neuro-computing/learning erstaunlich wenig zu tun.

Da scheinen mir nicht mal die Grundlagen verstanden zu sein ...

Wie schon erwähnt: autonome "Killermaschinen" sind heute durchaus möglich, die ethischen "Probleme" die hier gewälzt werden, sind hingegen völlig fiktional.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
swifty
auf eigenen Wunsch deaktiviert



Anmeldungsdatum: 26.03.2017
Beiträge: 5000

Beitrag(#2118333) Verfasst am: 16.12.2017, 21:36    Titel: Antworten mit Zitat

cortano hat folgendes geschrieben:
Despiteful hat folgendes geschrieben:

Die Frage nach dem ethischen 'Wie, wenn?' mag ja ganz interessant für euch sein, aber sie hat in diesem Thread eigentlich nichts verloren. Hier wären erstmal obige Fragen zu beantworten.



Wie du merkst wird die Diskussion über eine Sci-Fi-Ethik bevorzugt zwinkern

Und wenn ich mir die Vorstellungen so durchlese, hat das zumindest mit der im Threadtitel erwähnten "Praxis" von KI bzw. neuro-computing/learning erstaunlich wenig zu tun.

Da scheinen mir nicht mal die Grundlagen verstanden zu sein ...

Wie schon erwähnt: autonome "Killermaschinen" sind heute durchaus möglich, die ethischen "Probleme" die hier gewälzt werden, sind hingegen völlig fiktional.

Naja, ich denk mir halt, dann lass mers eben. Aus dem Alter, dass ich alten Männern ihren Glauben kaputt machen muss, bin ich raus. zynisches Grinsen
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Kramer
postvisuell



Anmeldungsdatum: 01.08.2003
Beiträge: 30878

Beitrag(#2118343) Verfasst am: 16.12.2017, 22:46    Titel: Antworten mit Zitat

fwo hat folgendes geschrieben:

Da hätten die Leute mit dem eingeschränkten Empathievermügen, doch auch Veranlassung, bei Dir von "zu bestimmtem Verhalten verdammt" zu sprechen, der Du wegen dieser blöden Empathie offensichtlich weniger Freiheitsgrade hast als sie.


Exakt. Genauso sehen diese Leute ihre 'normalneurotischen' Zeitgenossen. Als mutlose Sklaven von sozialen Normen, die von Ängsten gepeinigt werden und sich mit klebrigen Gefühlskleinkram abgeben.

Zitat:
Ich sehe nicht, dass irgendetwas dagegen spricht, dieser Schöpfung die Empathie für Menschen, die zwangsläufig sein muss, als festes Regelwerk einzugeben.


Ich halte es für einen Widerspruch, einerseits so etwas wie Intelligenz erschaffen zu wollen und andererseits diese Intelligenz durch strikte Vorgaben behindern zu wollen. Es gibt ja auch Regeln, die einmal von Menschen in guter Absicht aufgestellt wurden, die später von anderen Menschen geändert oder verworfen wurden. Es gibt Regeln, die Kinder von ihren Eltern oder Grosseltern gelernt haben, die sie lange beherzigen, um sich als Erwachsene dann doch anders zu entscheiden. Selbst die Regeln, die von den meisten Menschen als nützlich und richtig anerkannt werden, stehen zumindest gedanklich immer wieder auf dem Prüfstand. Es ist ja nicht so, dass Mord etwas ist, über das wir nicht nachdenken dürfen, über das wir keine Geschichten erfinden dürfen, uns keinen Gedankenspielen a la "Was wäre wenn...?" hingeben dürfen. Wir Menschen (jedenfalls der Grossteil von uns) haben die Fähigkeit, ganz dicht an den Abgrund heran zu treten und doch nicht zu springen.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
zelig
Kultürlich



Anmeldungsdatum: 31.03.2004
Beiträge: 25404

Beitrag(#2118372) Verfasst am: 17.12.2017, 10:14    Titel: Antworten mit Zitat

cortano hat folgendes geschrieben:
Despiteful hat folgendes geschrieben:

Die Frage nach dem ethischen 'Wie, wenn?' mag ja ganz interessant für euch sein, aber sie hat in diesem Thread eigentlich nichts verloren. Hier wären erstmal obige Fragen zu beantworten.



Wie du merkst wird die Diskussion über eine Sci-Fi-Ethik bevorzugt ;)


Da irrst du Dich. Das ist keine Science-Fiction. Entscheidungen werden für den menschlichen Akteur zunehmend undurchschaubarer. Und sie greifen zunehmend auf Bereiche über, die für Menschen relevant sind. Auch im persönlichen Bereich. Ich glaube da sollte man sich keiner Illusion hingeben.
_________________
Es gibt kein richtiges Leben im falschen.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Zumsel
registrierter User



Anmeldungsdatum: 08.03.2005
Beiträge: 4667

Beitrag(#2118374) Verfasst am: 17.12.2017, 10:48    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
Zumsel hat folgendes geschrieben:
step hat folgendes geschrieben:
Ich denke, die fundamentalen ethischen Muster sind unabhängig davon, ob es ein biologisches oder kybernetisches Wesen ist. Wenn hinreichend Vernetzung und Intelligenz da ist, erwarte ich mindestens die folgenden Muster:
- kooperativ: weil es effizienter ist
- kompetitiv: weil die Ressourcen begrenzt sind
Was diese beiden Dinge jetzt genau mit Ethik zu tun haben ist aber noch erklärungsbedürftig. Nicht, dass ich da jeden Zusammenhang leugnen würde, aber wie das genau zusammenhängen soll ist ja wohl alles andere als offensichtlich.

Ausgangspunkt (ich glaube von Kramer?) war ja die Frage, wie man "eine Maschine zu ethischem Handeln bewegt". Du kannst natürlich argumentieren, daß es für Kooperation und Wettbewerb gar keine Ethik brauche, z.B. gebe es das ja auch im Tierreich. Da würde ich zustimmen - Ethik ist etwas Reflektierteres,...


Nur bis zu einem bestimmten Grad, indem man sich vergegenwärtigt, was man eigentlich genau meint, wenn man eine Handlung als "gut" oder "richtig" bezeichnet und Gemeinsamkeiten von auf den ersten Blick völlig verschieden erscheinenden Maßstäben für derartige Bewertungen sucht. Das Ergebnis dieser Reflexion kann dann natürlich wieder auf die Bewertung zurückwirken. Ich halte es aber für evident, dass das, was wir "moralisch" nennen, sich nicht in Zweckrationalität erschöpft, eine Ethik, die derartiges behauptet, ignoriert m.E. wesentliche Aspekte moralischer Wertungen, ist in ihrer Reflexion also nicht gründlich genug. Und das macht es dann auch so schwierig mit der Ethik von KIs; solange wir Schwierigkeiten haben, moralisches Verhalten anders als zweckrational sinnvoll zu deuten, ist es auch fast unmöglich objektive Kriterien anzugeben, die erfüllt sein müssen, damit ein Wesen als ethisch gelten kann.

step hat folgendes geschrieben:
ethisches Subjekt = selbstbewußtes Wesen mit Interessen und ethischer Diskursfähigkeit ("Person")


Ja, in dieser Hinsicht dürfte die Frage sich selbst beantworten: Wer im Sinne menschlicher Individualität autonom handeln und seine Interessen in den Diskurs einbringen kann, kann nicht ignoriert werden, er wird Rechtssubjekt - entweder durch freiwillige Anerkenntnis seines Statuses durch die übrige Gesellschaft oder irgendwann durch Widerstand und Revolution.

step hat folgendes geschrieben:
ethisches Objekt = empfindungsfähiges Wesen

Ethische Objekte ohne Subjekteigenschaft (z.B. viele Tiere) bestimmen die Ethik nicht mit, ihnen können auch nicht sinnvoll aktive Rechte zugewiesen werden, aber sie sind dennoch wichtige Objekte der Ethik (daher meine Bezeichnung), d.h. die ethischen Subjekte müssen sie im ethischen Diskurs berücksichtigen. Z.B. kann ihnen Schutz vor Leid zugewiesen werden.


Die Sache mit der Berücksichtigung des Leidens nicht rechtsfähiger Lebewesen setzt aber doch wohl zweifellos Mitgefühl voraus - zumindest, solange man über Zweckrationalität nicht hinaus geht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
cortano
als Doppelnick gesperrt



Anmeldungsdatum: 20.11.2017
Beiträge: 106

Beitrag(#2118375) Verfasst am: 17.12.2017, 11:04    Titel: Antworten mit Zitat

zelig hat folgendes geschrieben:
cortano hat folgendes geschrieben:
Despiteful hat folgendes geschrieben:

Die Frage nach dem ethischen 'Wie, wenn?' mag ja ganz interessant für euch sein, aber sie hat in diesem Thread eigentlich nichts verloren. Hier wären erstmal obige Fragen zu beantworten.



Wie du merkst wird die Diskussion über eine Sci-Fi-Ethik bevorzugt zwinkern


Da irrst du Dich. Das ist keine Science-Fiction. Entscheidungen werden für den menschlichen Akteur zunehmend undurchschaubarer. Und sie greifen zunehmend auf Bereiche über, die für Menschen relevant sind. Auch im persönlichen Bereich. Ich glaube da sollte man sich keiner Illusion hingeben.


Keine Ahnung wovon du sprichst. Klarerweise sind "Entscheidungen" von KI nicht voll-deterministisch wie das bei "normaler" Software der Fall ist. Damit KI lernt spielen ja auch Zufallszahlen eine Rolle.

Nur weil man im Detailfall das Ergebnis nicht kennt, heißt es nicht dass da irgendetwas prinzipiell undurchschaubar wäre bei KI.

Und hier wurde ja darüber "philosophiert" inwieweit auf eine KI selbst ethische Maßstäbe anzuwenden seien, bzw. über KI als "ethisches Objekt" spekuliert. Das ist bei dem heutigen Stand der Praxis reinste Sci-Fi und ähnlich sinnvoll wie die Frage, ob auf einen Pudding ethische Normen anzuwenden seien.

Vielleicht mal ein paar Grundlagen reinziehen wäre mein Tipp:
Zitat:
Künstliche neuronale Netze sind noch nicht geeignet, größere Transferleistungen zu erbringen, also mit ihrem erlernten Wissen beliebige Situationen zu meistern oder selbst kreativ zu werden, etwa spielerisch mit Sprache umzugehen. Oder, bezogen auf sich selbst: Sie können noch nicht mal ihre eigenen Unzulänglichkeiten erkennen.
Zur Analyse und Optimierung der Netze benötigt man nach wie vor menschlichen Erfindergeist oder so etwas wie ein Gespür für erfolgversprechende Ansätze. Und letztlich sind die Netze noch weit von einem Generalisten entfernt, der sich zu einem Individuum mit eigenen Interessen entwickelt.

https://www.heise.de/ct/ausgabe/2016-6-Die-Mathematik-neuronaler-Netze-einfache-Mechanismen-komplexe-Konstruktion-3120565.html

Und die ethischen Fragen sollten sich an jene Forscher richten, die an "autonomen Kriegsmaschinen" mitarbeiten. Das ist aber keine Ethik der KI sondern eine ganz "normale" menschliche ...
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
fwo
Caterpillar D9



Anmeldungsdatum: 05.02.2008
Beiträge: 25830
Wohnort: im Speckgürtel

Beitrag(#2118376) Verfasst am: 17.12.2017, 11:28    Titel: Antworten mit Zitat

Kramer hat folgendes geschrieben:
...
fwo hat folgendes geschrieben:
Ich sehe nicht, dass irgendetwas dagegen spricht, dieser Schöpfung die Empathie für Menschen, die zwangsläufig sein muss, als festes Regelwerk einzugeben.


Ich halte es für einen Widerspruch, einerseits so etwas wie Intelligenz erschaffen zu wollen und andererseits diese Intelligenz durch strikte Vorgaben behindern zu wollen. Es gibt ja auch Regeln, die einmal von Menschen in guter Absicht aufgestellt wurden, die später von anderen Menschen geändert oder verworfen wurden. Es gibt Regeln, die Kinder von ihren Eltern oder Grosseltern gelernt haben, die sie lange beherzigen, um sich als Erwachsene dann doch anders zu entscheiden. Selbst die Regeln, die von den meisten Menschen als nützlich und richtig anerkannt werden, stehen zumindest gedanklich immer wieder auf dem Prüfstand. Es ist ja nicht so, dass Mord etwas ist, über das wir nicht nachdenken dürfen, über das wir keine Geschichten erfinden dürfen, uns keinen Gedankenspielen a la "Was wäre wenn...?" hingeben dürfen. Wir Menschen (jedenfalls der Grossteil von uns) haben die Fähigkeit, ganz dicht an den Abgrund heran zu treten und doch nicht zu springen.

Ich kann das grundsätzlich nachvollziehen, frage nur, ob das am Anfang nicht etwas kleiner geht.

Ich weiß auch nicht genau, was Dir vorschwebt - was mir so vorschwebt, sind Regeln wie "Du darfst keine Menschen verletzten und wenn es sich nicht vermeiden lässt, wähle das Verhalten mit den wenigsten Verletzten" oder so ähnlich. Also im Prinzip sehr einfache Regeln, deren Befolgung so etwas ähnliches installieren würde, wie unsere natürliche Empathie. An deren Stelle einfach das Prinzip Hoffnung zu setzen, finde ich keine gute Idee.

Wo ich auch einen Bedarf sehe, der evtl durch ein paar Regeln gedeckt werden kann, das ist tatsächlich im Bereich Motivation, Zielgebung. Ich vermute, dass der Anteil, den unser biologischer Apparat an dem hat, was uns handeln lässt - nicht als exakt bestimmender Despot in Form fest verdrahteten Verhaltens, sondern als Motivator - stark unterschätzt wird.
_________________
Ich glaube an die Existenz der Welt in der ich lebe.

The skills you use to produce the right answer are exactly the same skills you use to evaluate the answer. Isso.

Es gibt keinen Gott. Also: Jesus war nur ein Bankert und alle Propheten hatten einfach einen an der Waffel (wenn es sie überhaupt gab).
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
zelig
Kultürlich



Anmeldungsdatum: 31.03.2004
Beiträge: 25404

Beitrag(#2118378) Verfasst am: 17.12.2017, 11:33    Titel: Antworten mit Zitat

cortano hat folgendes geschrieben:
Keine Ahnung wovon du sprichst.


Du könntest mal das durchlesen:

Zitat:
KI in der Medizin

Im Sommer 2017 stellten Forscher der Universität Bari in Italien eine KI vor, die mit einer Wahrscheinlichkeit von 86 Prozent die Krankheit Alzheimer anhand von Gehirnscans - durchgeführt mit Magnetresonaztomographen - diagnostizieren kann, zehn Jahre bevor die ersten Symptome auftauchen.[63]

Im August 2016 konnte am Medical Institute der Tokyo Universität die KI Watson eine Fehldiagnose der Ärzte korrigieren. Die Ärzte diagnostizierten bei der Patientin eine akute myeloische Leukämie. Die Therapie blieb erfolglos, weswegen man die KI Watson zu Rate zog. Die KI benötigte 10 Minuten, um die DNA der Frau mit 20 Millionen Krebsstudien abzugleichen. Die KI Watson erkannte eine sehr seltene Form der Leukämie, die bislang nur 41 Patienten betraf und welche heilbar ist.[64] Grundsätzlich ist der Krebs so individuell wie die Patienten selbst. Das ist der Grund, weshalb eine Therapie bei einem Patienten hilft und bei einem anderen nicht. Hier können KIs die Genanalyse von Patienten innerhalb von Minuten mit Millionen Daten anderer Patientenakten, Behandlungsformen, Forschungsaufsätzen abgleichen und so zu einer sehr präzisen Diagnose kommen, was man Präzisionsmedizin nennt und ohne den Einsatz von Computern nicht möglich ist. Dies ist nicht nur auf die Krebsdiagnose beschränkt, sondern kann auch bei Herzinfarkten, Diabetes usw. eingesetzt werden. Wichtig dafür ist, dass die Daten in digitaler Form (anonymisiert) vorliegen. Google, IBM, Microsoft, Amazon usw. bieten dafür Plattformen, um derartige Daten hochzuladen und bereitzustellen.[65]

In einem wissenschaftlichen Wettbewerb wurden Forscher im Jahr 2016 weltweit eingeladen, eine Software zur Erkennung von Brustkrebszellen (Diagnose von Metastasen in Sentinel-Node-Biopsien) einzureichen. 32 Programme wurden von 23 Teams eingereicht. In einem Wettbewerb traten diese Programme dann gegen ein Team aus 11 Pathologen an, welche jeweils 2 Stunden zur Analyse von 129 Präparaten hatten. Eine Vergleichsgruppe bestand aus einem versierten Pathologen, der sich so viel Zeit nehmen durfte, wie er wollte, was allerdings nicht dem klinischen Alltag entspricht. Die Programme nutzten meist convolutional neural networks. Sieben der Programme lieferten bessere Ergebnisse als die Gruppe der Pathologen. Insbesondere die Programme der Harvard Medical School und des Massachusetts Institute of Technology stellten die Pathologen in den Schatten. Die menschlichen Pathologen übersahen häufig Mikrometastasen, was den besseren Programmen nur selten passierte. Fünf der Programme waren sogar besser als der versierte Pathologe, der sich 30 Stunden Zeit für die Analyse nahm. Selbst dieser versierte Pathologe übersah ein Viertel der Mikrometastasen.

https://de.wikipedia.org/wiki/K%C3%BCnstliche_Intelligenz#KI_in_der_Medizin

Wobei man wissen sollte, daß sich Big Data in der Medizin durchsetzt. Die Frage im Kontext dieser Diskussion wäre also beispielsweise, ob und wie der Wert von 86%er Sicherheit in der Vorhersage genutzt werden soll, wenn man den Vorgang nicht wirklich im Detail nachvollziehen kann.
_________________
Es gibt kein richtiges Leben im falschen.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Zumsel
registrierter User



Anmeldungsdatum: 08.03.2005
Beiträge: 4667

Beitrag(#2118379) Verfasst am: 17.12.2017, 11:36    Titel: Antworten mit Zitat

cortano hat folgendes geschrieben:
...


Sieh das Ganze doch einfach als einen Anlass zur Reflexion über die Grundlagen unseres Denkens und Handelns. Das ist auch unabhängig von den Möglichkeiten der technischen Realisierung interessant.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Beiträge der letzten Zeit anzeigen:   
Neues Thema eröffnen   Neue Antwort erstellen   Drucker freundliche Ansicht    Freigeisterhaus Foren-Übersicht -> Wissenschaft und Technik Alle Zeiten sind GMT + 1 Stunde
Gehe zu Seite Zurück  1, 2, 3 ... 5, 6, 7 ... 16, 17, 18  Weiter
Seite 6 von 18

 
Gehe zu:  
Du kannst keine Beiträge in dieses Forum schreiben.
Du kannst auf Beiträge in diesem Forum nicht antworten.
Du kannst deine Beiträge in diesem Forum nicht bearbeiten.
Du kannst deine Beiträge in diesem Forum nicht löschen.
Du kannst an Umfragen in diesem Forum nicht mitmachen.



Impressum & Datenschutz


Powered by phpBB © 2001, 2005 phpBB Group