Freigeisterhaus Foren-Übersicht www.artikeldrei.de
 FAQFAQ   SuchenSuchen   MitgliederlisteMitgliederliste   NutzungsbedingungenNutzungsbedingungen   BenutzergruppenBenutzergruppen   LinksLinks   RegistrierenRegistrieren 
 ProfilProfil   KarteKarte   Einloggen, um private Nachrichten zu lesenEinloggen, um private Nachrichten zu lesen   LoginLogin 

Soll sich KI zu erkennen geben?
Gehe zu Seite Zurück  1, 2, 3, 4, 5, 6, 7, 8, 9  Weiter
 
Neues Thema eröffnen   Neue Antwort erstellen   Drucker freundliche Ansicht    Freigeisterhaus Foren-Übersicht -> Wissenschaft und Technik
Vorheriges Thema anzeigen :: Nächstes Thema anzeigen  

Soll sich KI zu erkennen geben?
Ja
57%
 57%  [ 4 ]
Nein
42%
 42%  [ 3 ]
Stimmen insgesamt : 7

Autor Nachricht
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 20815
Wohnort: Germering

Beitrag(#2135735) Verfasst am: 22.05.2018, 15:24    Titel: Antworten mit Zitat

Marcellinus hat folgendes geschrieben:
Wir müssen [die Welt] nehmen, wie sie ist, ...

Nein, wir können sie verändern.

Marcellinus hat folgendes geschrieben:
.., und versuchen, das Beste daraus zu machen.

Verkappter Utilitarist?

Marcellinus hat folgendes geschrieben:
Deine Beispiele ... haben übrigens kaum etwas mit Moral zu tun, ...

Doch, sie werden mittels tradierter Moralsysteme legitimiert. Und hast Du nicht oben behauptet, moralische Phänomene seien Produkte eines unverstandenen komplexen chinesischen Sozialprozesses?

Marcellinus hat folgendes geschrieben:
... sondern schlicht mit Interessen und Machtverhältnissen.

Interessen sind was Gutes, und jeder hat welche. Ich weiß, daß Du gerne über Machtverhältnisse redest und jedes Thema da hinzuziehen versuchst, aber das interessiert mich beim Thema "KI und Ethik" nicht.

Marcellinus hat folgendes geschrieben:
Eine behauptete Ethik einzusetzen, um Macht über andere zu gewinnen, ist nicht wirklich das, was ich mir unter einer Verbesserung unserer Verhältnisse vorstelle ...

Was für einen Schwachsinn unterstellst Du da?

Marcellinus hat folgendes geschrieben:
... sondern eher der Versuch, durch eine Metadiskussion die eigene "Überlegenheit" gegenüber anderen zu behaupten.

Oh Mann, peinliches Niveau.
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 20815
Wohnort: Germering

Beitrag(#2135736) Verfasst am: 22.05.2018, 15:42    Titel: Antworten mit Zitat

fwo hat folgendes geschrieben:
Wer minimieren oder maximieren möchte, muss vorher quantifizieren, in diesem Fall den Nutzen so bewerten, dass er berechenbar wird.

Ja, oder zumindest abschätzbar. Man könnte argumentieren: In Fällen, wo man nicht klar sagen kann, ob Entscheidung A oder B mehr Leid schafft, ist der Schaden vielleicht auch nicht so groß, wenn man sich "falsch" entscheidet. Gibt ja diese typischen Dilemmasituationen, die extra so konstruiert sind, daß man die Wahl zwischen zwei intuitiv ähnlich schlechten Varianten hat.

fwo hat folgendes geschrieben:
fwo hat folgendes geschrieben:
step hat folgendes geschrieben:
... Aktuelle menschliche Moral ist sicher komplexer, u.a. eben weil viele irrationale Anteile drinstecken. Aber welche Werte konkret siehst Du, die rational begründbar sind, aber nicht durch Leidminimierung o.ä.?
Was ich mich frage, wenn ich das lese, ist, wie die verschiedenen Formen des Leids gegeneinander aufgerechnet werden, wenn man die Summe zu minimieren versucht. Wer liefert diesen Maßstab?
Kann es sein, dass der Utilitarismus in Wirklichkeit insofern eine Mogelpackung ist, als er an seiner Basis bei der Bewertung von Nutzen und Leid die gesamte historisch entstandene Moral benutzt, die er angeblich ersetzen will?

Das ist übrigens tatsächlich einer der bekanntesten Kritikpunkte am Utilitarismus. Moderne Vertreter des U entgegnen darauf beispielsweise:

1. Es behauptet niemand, daß die utilitaristischen Ergebnisse das Optimum darstellen - die Nutzenfunktion könnte, ähnlich wie in der Wissenschaft, kontinuierlich verbessert werden.
2. Wenn der U in vielen Fragen zu ähnlichen Ergebnissen kommt wie die eine oder andere traditionelle Moral, ist dagegen nichts einzuwenden
3. Wenn der U wenigstens in einigen relevanten Fragestellungen zu besseren (im Sinne der Interessenssumme) Ergebnissen kommt, wäre das schon eine Verbesserung. Solche Beispiele kann man jedoch bereits anführen.
4. Sollte tatsächlich jemand traditionelle deontologische Moral, z.B. ein Gottesgebot oder eine Feudaltradition, dazu benutzen, eine Nutzenfunktion zu begründen, so würde das auffallen, da es die Methodik verletzt.
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Kramer
postvisuell



Anmeldungsdatum: 01.08.2003
Beiträge: 28759

Beitrag(#2135737) Verfasst am: 22.05.2018, 15:43    Titel: Antworten mit Zitat

fwo hat folgendes geschrieben:
zelig hat folgendes geschrieben:
worse hat folgendes geschrieben:
Und sollte sie das alles irgendwie entwickeln können, dann gibt es keinen Grund zu der Annahme, dass sie nicht auch irgendwie eine (vergleichbar menschliche) Ethik und Mitgefühl und solche Dinge entwickeln könnte.


Die Annahme ist eine notwendige Voraussetzung dieser Diskussion. Sollte eine KI nachweislich Empfindungen wie Schmerz entwickeln, wären die für sie keine Abstrakta mehr. Sie würde es an sich selber erleben können, wie sich Schmerz anfühlt. Es wäre ein Wesen, das die Natur anderer Wesen nachvollziehen kann. Dann erst kann man von Mitgefühl reden, die an der Seite der Ratio steht, wenn wir ethisch handeln wollen. Über dieses Szenario diskutieren wir eher nicht.

Wenn Du dieses Mitgefühl so allgemein formulierst, landest Du ganz schnell auch beim empathischen Einfühlen in den Pflasterstein und damit bei einem Popanz.

Ich habe durch Zufall gerade Zugriff auf eine private Diskussion zwischen mir und einem Psychiater, in dem folgendes Statement von mir keinen Widerspruch auslöste:
fwo hat folgendes geschrieben:
Die hochgelobte Fähigkeit zur Empathie kann eigentlich nur meine eigenen Gefühle in der Situation des anderen produzieren. Ich vermute also, dass meine Wahrnehmung Deiner Situation mehr über mich sagt als über Dich - über Dich höchstens insofern, als Du da vielleicht ähnlich tickst - wovon wir implizit bei diesen gefühlsmäßigen Verständnis-Versuchen immer ausgehen.

Ich vermute, dass ein rein intellektueller Akt mit hinreichender Kenntnis von Person und Situation zu realistischeren Ergebnissen kommt als dieses Einfühlen, wobei ich weiß, dass das in der Gefühlsbranche verpönt ist. Ich bin zu diesem Bild gekommen, als ich als Patient in der Therapie Szenen aus meiner Kindheit erzählte, und der Therapeut mich unterbrach, weil ihn das gefühlsmäßig zu sehr mitnahm. Ich weiß aber von mir, dass ich da bereits in einem Alter war, in dem ich sowohl mich als auch meine Eltern in diesen Situationen relativ distanziert beobachtete. Ich hatte also ein Mittel gegen diese Situationen gefunden, mit dem ich diese Gefühle nicht hatte - ich habe sie nicht nachträglich verdrängt. ....
nachträglich von mir gefettet.

Ich weiß natürlich, dass der fehlende Widerspruch kein Beweis für irgendetwas ist, wollte nur darauf aufmerksam machen, dass die Empathie auch unter Menschen, die beruflich mit und an diesem Thema arbeiten, nicht unbedingt so hoch gehängt wird wie von Dir.

In meinem Beispiel führte die besagte Empathie eines "Berufsempathen" zur Wahrnehmung eines starken Leidens, das real nicht stattgefunden hatte. (Um kein falsches Verständnis meiner Meinung zu diesem Therapeuten aufkommen zu lassen: Ich habe Hochachtung vor diesem Menschen.)

"Empathie" als intellektueller Vorgang mit dem Wissen über die beteiligten Subjekte und die Situation lässt ich aber nachbilden.


Um das abzuschliessen: Dein Beispiel ist ungeeignet, um hier die Leistungsfähigkeit der Empathie zu diskutieren. Dafür haben wir einfach nicht genug Informationen über die beteiligten Personen, ihre jeweiligen Motive und das, was da besprochen wurde. Es würde auch nichts bringen, wenn Du da weitere Infos nachlieferst, denn die wären ja durch Deine Wahrnehmung und Position gefiltert und auch für andere nicht überprüfbar.

Es ist auch gar nicht nötig, irgendwelche konkreten Beispiele zu nennen, um die Grenzen der Empathie zu belegen. Empathie ist keine übernatürliche Fähigkeit, die zu höheren Erkenntnissen führt, sondern Bestandteil der fehlerbehafteten menschlichen Wahrnehmung und somit auch fehlerbehaftet.

Wenn eine Maschine Probleme mit der optischen oder akustischen Wahrnehmung hätte, würde jedoch auch keiner sagen: "Naja, das Sehen/Hören wird ohnehin überschätzt." Wenn ein Mensch schlecht hören kann, dann ist das eine Einschränkung, die in keiner Weise dadurch relativiert wird, dass auch Menschen mit gesundem Gehör sich manchmal verhören. Aus diesem Grund sind Menschen mit entsprechenden Beeinträchtigungen für Berufe ungeeignet, bei denen die optische oder akustische Wahrnehmung besonders gefordert ist. Und eine Maschine mit minderwertigen akustischen oder optischen Sensoren eignet sich z.B. nicht als Messgerät für präzise Messungen im jeweiligen Bereich.

Einer KI ohne Empathie fehlt die Wahrnehmung einer wichtigen Dimension der menschlichen Realität. Daran ändert auch der Umstand nichts, dass unsere empathische Wahrnehmung manchmal daneben liegt. Daher liegt m.E. die Frage auf der Hand, ob man eine KI überhaupt dafür benutzen könnte/sollte, ethische oder moralische Probleme zu lösen.
_________________
Dieser Beitrag verwendet Cookies, um Dein Surferlebnis zu verbessern.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
zelig
Kultürlich



Anmeldungsdatum: 31.03.2004
Beiträge: 23052

Beitrag(#2135739) Verfasst am: 22.05.2018, 16:02    Titel: Antworten mit Zitat

fwo hat folgendes geschrieben:
Aber das ist genau das Problem: Das Bild der schreienden Gans löst Gefühle in uns aus, die etwas mit uns in dieser Situation zu tun haben und nichts mit der Gans. Die können uns den Appetit auf diese Gans verderben, auch wenn die Qual dieser Gans für sie selbst evtl. unwesentlich ist. Genauso kann es nämlich auch andersherum gehen, dass unser Gefühl nichts signalisiert, während es dem auf der anderen Seite gerade beschissen geht.


Ich bring das Beispiel mit der Mastgans ja nur als Analogie, die verdeutlichen soll, wie wenig das Leiden kümmert, wenn es andere Spezies betrifft. Bei einer KI, die sich nicht nur aufgrund einer abweichenden Anatomie unterscheidet, sondern kategorial, gäbe es noch nicht einmal eine Chance auf die Irrationalität des Mitleids. Mitleid ist kein Garant für eine gute Welt, sprichwörtliche Mitleidlosigkeit macht sie allerdings garantiert schlechter. Und wie gesagt, da es keine Letztbegründung geben kann, müssen Prämissen und Normen gesetzt werden. Auf die Setzung kommt es an. Ich gebe step ja in dem Sinne vollkommen Recht, daß die KI eigentlich nur quantitativ werten kann. Die Größere Menge an Leid hat Vorrang vor der kleinen Menge Leid. Nur kann das alleine auch nicht ausreichend sein für eine verständige Beurteilung. Man muss zum Beispiel verstehen, daß sich Leid nicht aufsummieren lässt. Der Schmerz der verbrannten Hände auf der Herdplatte von Hans und Karl bildet kein Gesamtleid. Oder weiters, daß eine konsequente utilitaristische Ethik Schrecken nach sich ziehen würde, die die Spezies Mensch nicht akzeptieren kann. Das ist jedenfalls meine Auffassung.
_________________
What game shall we play today?
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
fwo
leider wieder manchmal da



Anmeldungsdatum: 05.02.2008
Beiträge: 21881
Wohnort: nicht fest

Beitrag(#2135740) Verfasst am: 22.05.2018, 16:34    Titel: Antworten mit Zitat

Kramer hat folgendes geschrieben:
....
Einer KI ohne Empathie fehlt die Wahrnehmung einer wichtigen Dimension der menschlichen Realität. Daran ändert auch der Umstand nichts, dass unsere empathische Wahrnehmung manchmal daneben liegt. Daher liegt m.E. die Frage auf der Hand, ob man eine KI überhaupt dafür benutzen könnte/sollte, ethische oder moralische Probleme zu lösen.

Im Schluss stimmen wir überein, in der Voraussetzung nicht:
Kramer hat folgendes geschrieben:
....
Zurück zum Thema: Würde es was bringen, eine KI traumatischen Situationen auszusetzen, damit sie nachvollziehen kann, was Menschen so erleiden? Oder wäre das Ergebnis nur eine ratlose KI, die immer noch nicht weiss, worüber Menschen klagen, denn sie fand es gar nicht so schlimm?

Damit die KI sinnvoll Situationen ausgesetzt werden kann, die für uns traumatisch sind, wäre es nötig, das komplette Seelenleben des Menschen in ihr zu emulieren - ich gehe davon aus, dass wir uns einig sind, dass unsere Kenntnis dieses Seelenlebens bei weitem zu gering ist und auch noch lange zu gering bleiben wird, um auch nur den Versuch zu unternehmen, es zu emulieren.

Da liegt in meinen Augen auch ein falschen Konzept von KI vor, bzw. eine Utopie von KI, die ich nicht teile. KI wird nicht geschaffen, um den leistungsfähigeren Menschen zu machen, sondern um bestimmte Bereiche besser beherrschen zu können, in denen Ki besser sein kann. Ich glaube nicht, dass moralische Bewertungen dazugehören.

Auf der anderen Seite sollte KI, wenn sie selbständig mit Menschen agiert, in der Lage sein, menschliche Gefühle zu verstehen, nicht durch Mitfühlen, sondern durch Emulation, wie wir es auch machen, wenn wir erfahren, dass unser Gefühl nicht stimmt - wie bei Und dann stand ich vor einer Treppe.. Aber die Grundlagen dafür muss ich die KI nicht selbst lernen lassen.

Sorry, wenn ich auf etwas verweise, was ich 2 Seiten vorher auf step geantwortet habe:
fwo hat folgendes geschrieben:
....
Dass die "wirkliche KI" von selbst auf Ethik, Kooperation, insbesondere auch mit dem Menschen, usw. kommen sollte oder müsste, halte ich allerdings für eine zu hohe und im Versuch der Verwirklichung auch für zu unvorsichtige Erwartung. Mit dem Hintergrund, dass sehr viel von dem, was wir heute mit großem intellektuellen Aufwand rein rational zu begründen suchen, einen genetischen Ursprung hat, empfände ich es auch nicht als Einschränkung der KI, wenn sie gewisse Regeln für die Kooperation mit dem Menschen hart im Programm stehen hätte. Es wären die selben Einschränkungen, mit den wir auch leben, und die uns haben überleben lassen.

_________________
Ich glaube an die Existenz der Welt in der ich lebe.

The skills you use to produce the right answer are exactly the same skills you use to evaluate the answer.

Es gibt keinen Gott. Also: Jesus war nur ein Bankert und alle Propheten hatten einfach einen an der Waffel.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Kramer
postvisuell



Anmeldungsdatum: 01.08.2003
Beiträge: 28759

Beitrag(#2135742) Verfasst am: 22.05.2018, 16:55    Titel: Antworten mit Zitat

fwo hat folgendes geschrieben:
Da liegt in meinen Augen auch ein falschen Konzept von KI vor, bzw. eine Utopie von KI, die ich nicht teile. KI wird nicht geschaffen, um den leistungsfähigeren Menschen zu machen, sondern um bestimmte Bereiche besser beherrschen zu können, in denen Ki besser sein kann. Ich glaube nicht, dass moralische Bewertungen dazugehören.


Wenn es für moralische Aufgaben einen Markt gibt bzw. kommerziell nutzbare Einsatzmöglichkeiten, dann werden KIs auch so eingesetzt werden. Und wenn KIs als leistungsfähigere Menschen möglich sind, wird man auch die bauen, denn die eignen sich doch hervorragend als billige Arbeitskräfte.
_________________
Dieser Beitrag verwendet Cookies, um Dein Surferlebnis zu verbessern.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
fwo
leider wieder manchmal da



Anmeldungsdatum: 05.02.2008
Beiträge: 21881
Wohnort: nicht fest

Beitrag(#2135745) Verfasst am: 22.05.2018, 17:17    Titel: Antworten mit Zitat

Kramer hat folgendes geschrieben:
fwo hat folgendes geschrieben:
Da liegt in meinen Augen auch ein falschen Konzept von KI vor, bzw. eine Utopie von KI, die ich nicht teile. KI wird nicht geschaffen, um den leistungsfähigeren Menschen zu machen, sondern um bestimmte Bereiche besser beherrschen zu können, in denen Ki besser sein kann. Ich glaube nicht, dass moralische Bewertungen dazugehören.


Wenn es für moralische Aufgaben einen Markt gibt bzw. kommerziell nutzbare Einsatzmöglichkeiten, dann werden KIs auch so eingesetzt werden. Und wenn KIs als leistungsfähigere Menschen möglich sind, wird man auch die bauen, denn die eignen sich doch hervorragend als billige Arbeitskräfte.

Die Gefahr, dass jemand das versuchen wird, halte ich auch für real. Wir sind so.

Deshalb schließe ich mich auch diesem Urteil steps nicht an:
step hat folgendes geschrieben:
....
Marcellinus hat folgendes geschrieben:
... sondern schlicht mit Interessen und Machtverhältnissen.

Interessen sind was Gutes, und jeder hat welche. Ich weiß, daß Du gerne über Machtverhältnisse redest und jedes Thema da hinzuziehen versuchst, aber das interessiert mich beim Thema "KI und Ethik" nicht.

Marcellinus hat folgendes geschrieben:
Eine behauptete Ethik einzusetzen, um Macht über andere zu gewinnen, ist nicht wirklich das, was ich mir unter einer Verbesserung unserer Verhältnisse vorstelle ...

Was für einen Schwachsinn unterstellst Du da?

Marcellinus hat folgendes geschrieben:
... sondern eher der Versuch, durch eine Metadiskussion die eigene "Überlegenheit" gegenüber anderen zu behaupten.

Oh Mann, peinliches Niveau.


Die Ebene der Macht ist nicht die alleinige, nicht einmal unbedingt die entscheidende, was step hier Marcellinus als Aussage unterstellt - ich weiß nicht ob Marcellinus das wirklich so meint.

Aber wie wichtig die Ebene der Macht bei Meinungsführern ist, können wir alle täglich erleben. Man sollte sie nicht ignorieren.
_________________
Ich glaube an die Existenz der Welt in der ich lebe.

The skills you use to produce the right answer are exactly the same skills you use to evaluate the answer.

Es gibt keinen Gott. Also: Jesus war nur ein Bankert und alle Propheten hatten einfach einen an der Waffel.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 20815
Wohnort: Germering

Beitrag(#2135747) Verfasst am: 22.05.2018, 18:06    Titel: Antworten mit Zitat

zelig hat folgendes geschrieben:
Man muss zum Beispiel verstehen, daß sich Leid nicht aufsummieren lässt. Der Schmerz der verbrannten Hände auf der Herdplatte von Hans und Karl bildet kein Gesamtleid.

Auch das ist ein bekannter Einwand gegen den Utilitarismus - in seiner allgemeineren Form besteht er darin, daß der U die Getrenntheit der Personen nicht berücksichtige (es gibt kein überpersonales Glück/Leid) und dies eine Objektifizierung der Person bedeute.

Mögliche Entgegnungen dazu:
- auch Nicht-Utilitaristen stimmen meist zu, daß es gerecht ist, einige Lasten auf andere Personen zu verteilen (z.B. Steuern, Sozialsystem)
- die einzelnen Personen werden dadurch wichtig, daß sie letztendlich die anteiligen Nutznießer der gesamten Übung sind
- die Würde einer im U „benutzten“ Person entsteht aus dem größeren Nutzen/Glück für Personen, und natürlich aus ihrer gleichberechtigt aktiven Rolle im ethischen Diskurs
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 20815
Wohnort: Germering

Beitrag(#2135749) Verfasst am: 22.05.2018, 18:30    Titel: Antworten mit Zitat

fwo hat folgendes geschrieben:
Die Ebene der Macht ist nicht die alleinige, nicht einmal unbedingt die entscheidende, was step hier Marcellinus als Aussage unterstellt - ich weiß nicht ob Marcellinus das wirklich so meint.

Er schrieb:
Marcellinus hat folgendes geschrieben:
Deine Beispiele haben übrigens kaum etwas mit Moral zu tun, sondern schlicht mit Interessen und Machtverhältnissen.

Das scheint mir recht eindeutig formuliert und ist schlicht falsch. Beispiel: beim Strafrecht geht es idZ eben nicht darum, ob der böse Mächtige einen gutherzigen Proletarier hinter Gitter steckt. Sondern es geht darum, daß und warum die überwiegende Mehrheit der Gesellschaft vergeltende und generalpräventive Bestrafungen für moralisch geboten / legitim hält. Ähnlich beim Fleischessen usw.

Aber viel schlimmer natürlich ist die Wendung danach:

Marcellinus hat folgendes geschrieben:
Eine behauptete Ethik einzusetzen, um Macht über andere zu gewinnen, ...

Also erst (eine von mir abgelehnte) Moral als Machtintrige umdeuten und dann unterstellen, ich oder das utilitaristische Gegenmodell wollte Macht über andere gewinnen ...

fwo hat folgendes geschrieben:
Aber wie wichtig die Ebene der Macht bei Meinungsführern ist, können wir alle täglich erleben. Man sollte sie nicht ignorieren.

Wer sagt denn, daß ich die ignoriere? Es eignet sich nur überhaupt nicht als Argument gegen eine utilitaristische Ethik. Despoten, Kriegstreiber, Commandantes, Prediger, ja sogar kommerzielle Aufschwatzer argumentieren so gut wie nie utilitaristisch, sondern appellieren entweder an deontologische moralische Werte (z.B. Ehre, Gott, Auftrag ...) oder an das Kleinhirn des Adressaten (z.B. Gier, Geiz, Rache, Angst ...). Warum ist das wohl so?
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Marcellinus
Outsider



Anmeldungsdatum: 27.05.2009
Beiträge: 6163

Beitrag(#2135750) Verfasst am: 22.05.2018, 18:44    Titel: Antworten mit Zitat

@step
Naturlich habe ich geschrieben, daß es bei der Debatte um Ethik eigentlich um Macht geht, nämlich um Macht über das Verhalten anderer Menschen, indem man deren Verhalten als „unethisch“ zu diskreditieren sucht.
_________________
"Mangel an historischem Sinn ist der Erbfehler aller Philosophen ... Alles aber ist geworden;
es gibt keine ewigen Tatsachen: sowie es keine absoluten Wahrheiten gibt."

Friedrich Nietzsche
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
fwo
leider wieder manchmal da



Anmeldungsdatum: 05.02.2008
Beiträge: 21881
Wohnort: nicht fest

Beitrag(#2135762) Verfasst am: 22.05.2018, 19:54    Titel: Antworten mit Zitat

Marcellinus hat folgendes geschrieben:
@step
Naturlich habe ich geschrieben, daß es bei der Debatte um Ethik eigentlich um Macht geht, nämlich um Macht über das Verhalten anderer Menschen, indem man deren Verhalten als „unethisch“ zu diskreditieren sucht.

Dann hatte ich Dich richtig verstanden. Das ist auch genau wie unsere Meinungsführer, Politiker wie Journalisten, heute regelmäßig argumentieren. Deshalb hatte ich auch auf dieses Beispiel Meinungsführerschaft verwiesen.

Eigentlich wäre an dieser Stelle mal ein Kommentar fällig, was es eigentlich nur bedeuten kann, wenn in einer Demokratie der Eine dem Anderen Populismus (natürlich als unmoralisch) vorwirft.
_________________
Ich glaube an die Existenz der Welt in der ich lebe.

The skills you use to produce the right answer are exactly the same skills you use to evaluate the answer.

Es gibt keinen Gott. Also: Jesus war nur ein Bankert und alle Propheten hatten einfach einen an der Waffel.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 20815
Wohnort: Germering

Beitrag(#2135763) Verfasst am: 22.05.2018, 19:57    Titel: Antworten mit Zitat

Marcellinus hat folgendes geschrieben:
Naturlich habe ich geschrieben, daß es bei der Debatte um Ethik eigentlich um Macht geht, nämlich um Macht über das Verhalten anderer Menschen, indem man deren Verhalten als „unethisch“ zu diskreditieren sucht.

Wen meinst Du denn hier? Wer will die Anderen unterdrücken?
- mächtige deontologische Moralverkünder, z.B. Ayatollahs?
- Philosophinnen, die über Utilitarismus als Methode schreiben als Beispiel moralische Doppelstandards kritisieren?
- jeder Mensch, der eine Handlung moralisch bewertet?

Willst Du sagen, daß Leute sich überhaupt nicht auf z.B. ethische Werte und Regeln einigen sollten, weil bereits das einen Akt der Unterdrückung darstellt?
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Marcellinus
Outsider



Anmeldungsdatum: 27.05.2009
Beiträge: 6163

Beitrag(#2135770) Verfasst am: 22.05.2018, 20:36    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
Marcellinus hat folgendes geschrieben:
Naturlich habe ich geschrieben, daß es bei der Debatte um Ethik eigentlich um Macht geht, nämlich um Macht über das Verhalten anderer Menschen, indem man deren Verhalten als „unethisch“ zu diskreditieren sucht.

Wen meinst Du denn hier? Wer will die Anderen unterdrücken?
- mächtige deontologische Moralverkünder, z.B. Ayatollahs?
- Philosophinnen, die über Utilitarismus als Methode schreiben als Beispiel moralische Doppelstandards kritisieren?
- jeder Mensch, der eine Handlung moralisch bewertet?

Willst Du sagen, daß Leute sich überhaupt nicht auf z.B. ethische Werte und Regeln einigen sollten, weil bereits das einen Akt der Unterdrückung darstellt?


Ich sage nicht, was man sollte, sondern was Menschen tun. Nimm doch deine eigenen Beispiele. In allen Fällen geht es eigentlich nicht um Moral, sondern um Politik. Wo hätten sich die Menschen zB in der Frage der Abtreibung auf eine gemeinsame „Moral“ geeinigt? Ich verfolge diese Debatte nun gefühlt ein Leben lang. Es wurde zwar immer mit Moral argumentiert, von der einen Seite, wie unmoralisch es sei, die freie Entscheidung von Frauen zu unterdrücken, von der anderen, wie unmoralisch es sei, ungeborenes Leben zu töten, aber am Ende ging es immer um die Macht, Paragrafen zu ändern, und ihre Durchsetzung zu garantieren. Und die Debatte ist ja bis heute nicht ausgestanden. Eine gemeinsame Moral oder Ethik ist nicht dabei herausgekommen, nur eine Art Burgfrieden, von dem man nicht weiß, wie lange er hält (siehe das Beispiel Polen).

Oder nimm die Frage nach der „moralisch vertretbaren“ Größe von Autos, wie moralisch Fleischgenuß sei, oder ob man Straftäter „bestrafen“ dürfe. Immer wird moralisch argumentiert, aber um Moral geht es gar nicht, sondern um Gesetze, um Zwang, um Verbote.

Es ist eben ein Unterschied, ob sich Menschen über eine gemeinsame Ethik, gemeinsame Werte verständigen (was meiner Ansicht nach eigentlich außerhalb von Sonntagsreden nie passiert), oder ob sie sich über gemeinsame Regeln des Verhaltens einigen (was zwar schon häufiger passiert, aber nicht die Regel ist, mit einer gemeinsamen Ethik nichts zu tun hat, aber die durchaus dauerhaftere Lösung wäre), oder ob Gesetze von den einen verabschiedet werden, die die anderen zu einem geänderten Verhalten zumindest nötigen.

Aber es gibt unterhalb dieser Schwelle Verhaltensänderungen, die durchaus beobachtbar sind. Man denke nur an das geänderte Verhalten zwischen Eltern und heranwachsenden Kindern. Noch in meiner Kindheit war es selbstverständlich (und in meiner Jugend noch weit verbreitet), daß Unverheiratete nicht zusammen lebten. Nicht daß viele nicht gewollt hätten, sie konnten nicht. Vermieter hätten ihnen keine Wohnung gegeben, und den Kuppeleiparagrafen gab es auch noch. Wollten junge Leute zusammenziehen, mußten sie heiraten, und auch dafür brauchten sie die Erlaubnis der Eltern. Eine Schwangerschaft konnte da gelegentlich hilfreich sein. Waren das „gemeinsame Werte“? Unter den Eltern sicherlich zum großen Teil (man konnte es allerdings auch Eigennutz nennen), unter den jungen Leuten nicht.

Heute haben sich die Machtgewichte (wenn dir das nackte Wort „Macht“ zu grob ist) zu Gunsten der Jugendlichen verschoben. Nicht nur daß es heute keine große Sache ist, auch unverheiratet zusammen zu leben, Eltern fragen ihre Halbwüchsigen sogar nicht selten, ob sie mit dem Heiraten nicht noch etwas warten wollen, und lieber erst noch etwas so zusammenleben. Andere Ethik? Quatsch! Einsicht in die Notwendigkeit wohl eher. Sie könnten ihre Kinder eh nicht daran hindern. Hinzu kommt, daß man weniger Kinder hat, die aber eine bessere Ausbildung bekommen sollen, wobei zu frühes Heiraten und Kinderkriegen eher hinderlich ist. Außerdem der Generationswechsel. Die Generation meiner Eltern lebt nicht mehr, und meine Kinder haben schon Kinder.

So verändern sich Verhaltensstandards, langsam, aber sicher, zusammen mit der Veränderung der Beziehungen der Menschen zueinander, und eben auch ihrer wechselseitigen Abhängigkeiten, ihren wachsenden oder auch abnehmenden Machtchancen. Und das, was Philosphen dann Moral oder Ethik nennen, folgt dem mehr oder weniger. Ein Prinzip steckt nicht dahinter, und „rationale“ Diskussionen schon gar nicht. Ich erinnere mich an einige unschöne Auseinandersetzungen zwischen meinen Eltern und mir, wie zwischen mir und meinen Kindern, und bei denen wird es demnächst mit ihren Kindern ähnlich sein. Darin kam zwar, dem Zeitgeist geschuldet, öfter mal das Wort „Moral“ vor, gemeint war allerdings eher „was sollen denn die Leute denken“, und zu tun hatte es schlicht mit der Frage, wer wen wozu zwingen konnte, und wozu nicht. Mit Moral hatte das nichts zu tun, mit unterschiedlichen Interessen schon eher, aber ist es deswegen „irrational“?
_________________
"Mangel an historischem Sinn ist der Erbfehler aller Philosophen ... Alles aber ist geworden;
es gibt keine ewigen Tatsachen: sowie es keine absoluten Wahrheiten gibt."

Friedrich Nietzsche
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 20815
Wohnort: Germering

Beitrag(#2135782) Verfasst am: 22.05.2018, 22:10    Titel: Antworten mit Zitat

@Marcellinus,

mal etwas polemisch zusammengefaßt: Du magst keine Regeln, nach denen Du weniger Fleisch essen dürftest (nur als Beispiel), wohl aber vermutlich welche, nach denen ich Steuern zahlen muß oder es verboten ist, Dich auszurauben.

Dazu richtest Du Dir eine These ein, nach der Moral und vereinbarte Regeln entweder Machttaktik oder nachgelagerte Rationalisierungen philosophischer Heulsusen sind, während das eigentliche Leben von unabhängigen Jägern (nur als Beispiel) wie Dir einfach gesetzt wird.

Ich finde auch Deine Deutung der Beispiele irreführend, z.B. beim beim Kampf gegen das Abtreibungsverbot. Darauf und Ähnliches will ich aber nicht eingehen, da ich mit einem kleinen Teil deiner These, der für die Diskussion hier relevant ist, überhaupt kein Problem habe - nämlich daß es bei Ethik primär um Interessen geht - genau das ist ja Präferenzutilitarismus.

Um zum Thema zurückzukommen - eine ernstzunehmende KI würde nach meiner Ansicht deutlich weniger kleinhirngesteuert argumentieren. Daher gäbe es auch ein besseres Interessenmatching und weniger unnötige Ge-/Verbote. Allerdings wurde ihr diese vermutliche Eigenschaft ja wiederum von anderer Seite vorgeworfen ("zu kühl", "keine Emotionen").
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Kramer
postvisuell



Anmeldungsdatum: 01.08.2003
Beiträge: 28759

Beitrag(#2135790) Verfasst am: 22.05.2018, 23:40    Titel: Antworten mit Zitat

fwo hat folgendes geschrieben:
Kramer hat folgendes geschrieben:
fwo hat folgendes geschrieben:
Da liegt in meinen Augen auch ein falschen Konzept von KI vor, bzw. eine Utopie von KI, die ich nicht teile. KI wird nicht geschaffen, um den leistungsfähigeren Menschen zu machen, sondern um bestimmte Bereiche besser beherrschen zu können, in denen Ki besser sein kann. Ich glaube nicht, dass moralische Bewertungen dazugehören.


Wenn es für moralische Aufgaben einen Markt gibt bzw. kommerziell nutzbare Einsatzmöglichkeiten, dann werden KIs auch so eingesetzt werden. Und wenn KIs als leistungsfähigere Menschen möglich sind, wird man auch die bauen, denn die eignen sich doch hervorragend als billige Arbeitskräfte.

Die Gefahr, dass jemand das versuchen wird, halte ich auch für real. Wir sind so.


Mal ein ganz konkretes Beispiel - keine SF. Ich habe neulich einen Bericht im Fernsehen gesehen, dass die Betreiber von Partnerbörsen im Internet Fake-Accounts einrichten, die dazu dienen, die zahlende Kundschaft bei der Stange zu halten. Bisher ist es wohl so, dass die dafür extra Leute einstellen, die für ein wenig Geld ahnungslosen Kunden die grosse Liebe vorgaukeln und mit leeren Versprechungen möglichst lange auf dem Portal halten sollen.

Wer diesen Job macht, kann mit Fug und Recht behaupten "ich bin Berufspsychopath". Auch wenn diese Leute nicht wirklich Psychopathen sein müssen, machen sie genau das, was Psychopathen von sich aus machen. Sie nutzen die Gefühle und die Bedürftigkeit von anderen Menschen aus, um denen Geld aus der Tasche zu ziehen.

Richtige Menschen mit dieser Aufgabe zu betrauen, birgt aber auch ein gewisses Risiko, denn die können ja das Geschäftsgeheimnis ausplaudern oder aus Gewissensgründen aussteigen und den Schwindel bekannt machen. Hier haben wir also einen Markt, der ideale Voraussetzungen für den Einsatz künstlicher Intelligenzen bietet. Ich halte es für nicht allzu utopisch, dass es in nächster Zukunft gelingen wird, Bots zu programmieren, die entsprechend auf Partnerschaftsgesuche eingehen können.

Und schon haben wir sie, die gewissen- und empathielose Maschine, deren Aufgabe es sein wird, die intimsten Gefühle von Menschen zu manipulieren. Das wird nicht mehr lange dauern.
_________________
Dieser Beitrag verwendet Cookies, um Dein Surferlebnis zu verbessern.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
fwo
leider wieder manchmal da



Anmeldungsdatum: 05.02.2008
Beiträge: 21881
Wohnort: nicht fest

Beitrag(#2135813) Verfasst am: 23.05.2018, 02:01    Titel: Antworten mit Zitat

Kramer hat folgendes geschrieben:
fwo hat folgendes geschrieben:
Kramer hat folgendes geschrieben:
fwo hat folgendes geschrieben:
Da liegt in meinen Augen auch ein falschen Konzept von KI vor, bzw. eine Utopie von KI, die ich nicht teile. KI wird nicht geschaffen, um den leistungsfähigeren Menschen zu machen, sondern um bestimmte Bereiche besser beherrschen zu können, in denen Ki besser sein kann. Ich glaube nicht, dass moralische Bewertungen dazugehören.


Wenn es für moralische Aufgaben einen Markt gibt bzw. kommerziell nutzbare Einsatzmöglichkeiten, dann werden KIs auch so eingesetzt werden. Und wenn KIs als leistungsfähigere Menschen möglich sind, wird man auch die bauen, denn die eignen sich doch hervorragend als billige Arbeitskräfte.

Die Gefahr, dass jemand das versuchen wird, halte ich auch für real. Wir sind so.


Mal ein ganz konkretes Beispiel - keine SF. Ich habe neulich einen Bericht im Fernsehen gesehen, dass die Betreiber von Partnerbörsen im Internet Fake-Accounts einrichten, die dazu dienen, die zahlende Kundschaft bei der Stange zu halten. Bisher ist es wohl so, dass die dafür extra Leute einstellen, die für ein wenig Geld ahnungslosen Kunden die grosse Liebe vorgaukeln und mit leeren Versprechungen möglichst lange auf dem Portal halten sollen.

Wer diesen Job macht, kann mit Fug und Recht behaupten "ich bin Berufspsychopath". Auch wenn diese Leute nicht wirklich Psychopathen sein müssen, machen sie genau das, was Psychopathen von sich aus machen. Sie nutzen die Gefühle und die Bedürftigkeit von anderen Menschen aus, um denen Geld aus der Tasche zu ziehen.

Richtige Menschen mit dieser Aufgabe zu betrauen, birgt aber auch ein gewisses Risiko, denn die können ja das Geschäftsgeheimnis ausplaudern oder aus Gewissensgründen aussteigen und den Schwindel bekannt machen. Hier haben wir also einen Markt, der ideale Voraussetzungen für den Einsatz künstlicher Intelligenzen bietet. Ich halte es für nicht allzu utopisch, dass es in nächster Zukunft gelingen wird, Bots zu programmieren, die entsprechend auf Partnerschaftsgesuche eingehen können.

Und schon haben wir sie, die gewissen- und empathielose Maschine, deren Aufgabe es sein wird, die intimsten Gefühle von Menschen zu manipulieren. Das wird nicht mehr lange dauern.

Ja, das wird es geben. Und da kommen wir zum Anfang des Threads. Ich hatte da einen ganz groben Schlüssel versucht, nachdem zu unterscheiden wäre, wann eine KI verpflichtet sein sollte, sich zu erkennen zu geben. Das hier wäre ein sehr klarer Fall, d.h. an dieser Stelle halte ich tatsächlich auch im Internet den Gesetzgeber für gefragt. So wie ich die Trantüten dort aber einschätze, ist wahrscheinlich auch das Einstellen von menschlichen digital auftretenden Fake-Lovern und deren Arbeit rechtlich nicht wirklich zufassen. Was sagte die Reportage zu momentanen Rechtslage?

Wie ist das etwa von Telefonsex abzutrennen?

Es wäre übrigens auch ein Gegenmodell möglich, soetwas wie ein GNU-Lover, vielleicht von einem Informatik-Institut gehostet, dessen Gesäusel kostenlos ist, egal, ob man sich besäuseln lässt, oder nur kundig machen will, wie gut Maschinen inzwischen sind.
_________________
Ich glaube an die Existenz der Welt in der ich lebe.

The skills you use to produce the right answer are exactly the same skills you use to evaluate the answer.

Es gibt keinen Gott. Also: Jesus war nur ein Bankert und alle Propheten hatten einfach einen an der Waffel.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 20815
Wohnort: Germering

Beitrag(#2135824) Verfasst am: 23.05.2018, 09:08    Titel: Antworten mit Zitat

fwo hat folgendes geschrieben:
KI wird nicht geschaffen, um den leistungsfähigeren Menschen zu machen, sondern um bestimmte Bereiche besser beherrschen zu können.

Anfangs sicher - der Mensch will ja weiter das Gefühl haben, der Entscheidung und Macht zu haben. Eine solche KI hätte vermutlich keinerlei Personeneigenschaften (z.B. Bewußtsein, Interessen), sondern würde Techniken wie deep learning nur ganz gezielt zu einem vorbestimmten Nutzen einsetzen.

fwo hat folgendes geschrieben:
Ich glaube nicht, dass moralische Bewertungen dazugehören.

Ich denke, daß moralische Bewertungen schon sehr bald dazugehören werden, gerade weil das Gebiet komplex ist. Und ich denke, das wird schon geschehen in einer Phase, in der KIs selbst noch keinerlei Personeneigenschaften haben, sondern nur lernende Algorhithmen sind. Oft genannt wird das Beispiel mit dem autonomen Fahrzeug in einer Triagesituation. zelig wird vermutlich protestieren, aber aus meiner Sicht sind es nun mal moralische Bewertungen, sobald nach bestimmten Regeln Entscheidungen mit Konsequenzen für leidfähige Wesen getroffen werden.

Und auch wenn das vlt ein mulmiges bzw. unromantisches Gefühl auslöst, meiner Ansicht nach hat ein Algorhithmus das Potential, moralische Bewertungen schneller, sicherer, vorurteilsfreier und mit insgesamt besseren Konsequenzen zu treffen, als das der Mensch typischerweise kann.
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Zumsel
registrierter User



Anmeldungsdatum: 08.03.2005
Beiträge: 3444

Beitrag(#2135826) Verfasst am: 23.05.2018, 10:19    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
fwo hat folgendes geschrieben:
KI wird nicht geschaffen, um den leistungsfähigeren Menschen zu machen, sondern um bestimmte Bereiche besser beherrschen zu können.

Anfangs sicher - der Mensch will ja weiter das Gefühl haben, der Entscheidung und Macht zu haben. Eine solche KI hätte vermutlich keinerlei Personeneigenschaften (z.B. Bewußtsein, Interessen), sondern würde Techniken wie deep learning nur ganz gezielt zu einem vorbestimmten Nutzen einsetzen.

fwo hat folgendes geschrieben:
Ich glaube nicht, dass moralische Bewertungen dazugehören.

Ich denke, daß moralische Bewertungen schon sehr bald dazugehören werden, gerade weil das Gebiet komplex ist. Und ich denke, das wird schon geschehen in einer Phase, in der KIs selbst noch keinerlei Personeneigenschaften haben, sondern nur lernende Algorhithmen sind. Oft genannt wird das Beispiel mit dem autonomen Fahrzeug in einer Triagesituation. zelig wird vermutlich protestieren, aber aus meiner Sicht sind es nun mal moralische Bewertungen, sobald nach bestimmten Regeln Entscheidungen mit Konsequenzen für leidfähige Wesen getroffen werden.

Und auch wenn das vlt ein mulmiges bzw. unromantisches Gefühl auslöst, meiner Ansicht nach hat ein Algorhithmus das Potential, moralische Bewertungen schneller, sicherer, vorurteilsfreier und mit insgesamt besseren Konsequenzen zu treffen, als das der Mensch typischerweise kann.


Mir ist noch nicht ganz klar, was es deiner Meinung nach bedeutet, ethisch zu handeln:

- Handlungsregeln, die dem effizienten Ausgleich einerseits gegenläufiger, anderserseits sich gegenseitig nicht ignorieren könnender Interesse, dienen
- Handlungsregeln, die Konsequenzen für leidfähige Wesen haben.

Mir scheint, du legst deinen Ausführungen wie selbstverständlich mal diese, mal jene Definition zu Grunde. Aber offensichtlich ist das doch nicht dasselbe.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
fwo
leider wieder manchmal da



Anmeldungsdatum: 05.02.2008
Beiträge: 21881
Wohnort: nicht fest

Beitrag(#2135830) Verfasst am: 23.05.2018, 10:41    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
fwo hat folgendes geschrieben:
KI wird nicht geschaffen, um den leistungsfähigeren Menschen zu machen, sondern um bestimmte Bereiche besser beherrschen zu können.

Anfangs sicher - der Mensch will ja weiter das Gefühl haben, der Entscheidung und Macht zu haben. Eine solche KI hätte vermutlich keinerlei Personeneigenschaften (z.B. Bewußtsein, Interessen), sondern würde Techniken wie deep learning nur ganz gezielt zu einem vorbestimmten Nutzen einsetzen.

fwo hat folgendes geschrieben:
Ich glaube nicht, dass moralische Bewertungen dazugehören.

Ich denke, daß moralische Bewertungen schon sehr bald dazugehören werden, gerade weil das Gebiet komplex ist. Und ich denke, das wird schon geschehen in einer Phase, in der KIs selbst noch keinerlei Personeneigenschaften haben, sondern nur lernende Algorhithmen sind. Oft genannt wird das Beispiel mit dem autonomen Fahrzeug in einer Triagesituation. zelig wird vermutlich protestieren, aber aus meiner Sicht sind es nun mal moralische Bewertungen, sobald nach bestimmten Regeln Entscheidungen mit Konsequenzen für leidfähige Wesen getroffen werden.

Und auch wenn das vlt ein mulmiges bzw. unromantisches Gefühl auslöst, meiner Ansicht nach hat ein Algorhithmus das Potential, moralische Bewertungen schneller, sicherer, vorurteilsfreier und mit insgesamt besseren Konsequenzen zu treffen, als das der Mensch typischerweise kann.

Gerade dieses Beispiel mit dem autonomen Fahrzeug sehe ich anscheinend völlig anders: Da trifft die Maschine in bestimmten Fällen zwar Entscheidungen, denen letztlich moralische Bewertungen mit dem Ziel einer Schadensminimierung zugrunde liegen. Aber die Moral kommt nicht von der Maschine. Der Bewertungsschlüssel an dieser Stelle ist so schwierig zu erstellen und hat so erhebliche Konsequenzen, dass er entweder auf der Ingenieursebene erstellt wird, weil ein kleiner Ingenieur sich ganz gut kreuzigen lässt, oder aber, der schafft es, den Vorstand zu involvieren. Aber der wird sich hüten, die Finger in dieses Feuer zu stecken, und wird nach dem Gesetzgeber rufen.

Was Du an dieser Stelle einfach vermischst, ich vermute, dass es das ist, was auch Zumsel aufgestoßen ist, ist die Handlung nach Regeln, die von der Moral bestimmt werden, und das Aufstellen der Moral, des Regelwerkes selbst.
_________________
Ich glaube an die Existenz der Welt in der ich lebe.

The skills you use to produce the right answer are exactly the same skills you use to evaluate the answer.

Es gibt keinen Gott. Also: Jesus war nur ein Bankert und alle Propheten hatten einfach einen an der Waffel.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 20815
Wohnort: Germering

Beitrag(#2135832) Verfasst am: 23.05.2018, 11:04    Titel: Antworten mit Zitat

Zumsel hat folgendes geschrieben:
Mir ist noch nicht ganz klar, was es deiner Meinung nach bedeutet, ethisch zu handeln:

- Handlungsregeln, die dem effizienten Ausgleich einerseits gegenläufiger, anderserseits sich gegenseitig nicht ignorieren könnender Interesse, dienen
- Handlungsregeln, die Konsequenzen für leidfähige Wesen haben.

Mir scheint, du legst deinen Ausführungen wie selbstverständlich mal diese, mal jene Definition zu Grunde. Aber offensichtlich ist das doch nicht dasselbe.

In der Tat ist das nicht dasselbe, aber es hängt zusammen, wenn man davon ausgeht, daß Verletzung von Interessen mit Leid verbunden ist. Du hast jedoch recht, daß es unsauber ist, mal dies und mal das hervorzuheben, sowie manchmal einen Utilitarismus vorauszusetzen und manchmal nicht.

Ich habe den Ausdruck "ethisch handeln" mW nicht benutzt. Wenn es jedoch sein muß, würde ich definieren:
"ethisch handeln" = "bewußt einer ethischen Überlegung folgend handeln".
"moralisch handeln" = "einer moralischen Regel (Gebot) folgend handeln".

Zusätzlich würde ich Folgendes sagen:
- eine ethische Überlegung muß nicht unbedingt eine Interessensabwägung beinhalten, das ist aber speziell beim Präferenzutilitarismus der Fall. Zusätzlich meine ich, daß eine fortgeschrittene universalistische Ethik dies natürlicherweise tun wird/muss.
- eine moralische Handlung hat i.a. Konsequenzen für leidfähige Wesen, aber es wären theoretisch Ausnahmen denkbar bei exotischen Moralsystemen, die Leid, Interessen usw. ignorieren.

Reicht das, um Deine Frage zu beantworten?
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 20815
Wohnort: Germering

Beitrag(#2135845) Verfasst am: 23.05.2018, 11:57    Titel: Antworten mit Zitat

fwo hat folgendes geschrieben:
Was Du an dieser Stelle einfach vermischst ..., ist die Handlung nach Regeln, die von der Moral bestimmt werden, und das Aufstellen der Moral, des Regelwerkes selbst.

Diese Beispiele einfacher KIs ohne Bewußtsein sind ja extra so gewählt, daß sie keine Ethik selbst entwickeln, sondern mindestens gewisse abstrakte Werte oder Regeln vorprogrammiert bekommen.

fwo hat folgendes geschrieben:
step hat folgendes geschrieben:
... daß moralische Bewertungen schon sehr bald dazugehören werden ... meiner Ansicht nach hat ein Algorhithmus das Potential, moralische Bewertungen schneller, sicherer, vorurteilsfreier und mit insgesamt besseren Konsequenzen zu treffen, als das der Mensch typischerweise kann.
Gerade dieses Beispiel mit dem autonomen Fahrzeug sehe ich anscheinend völlig anders: Da trifft die Maschine in bestimmten Fällen zwar Entscheidungen, denen letztlich moralische Bewertungen mit dem Ziel einer Schadensminimierung zugrunde liegen.

Ja, da müssen wir jetzt aufpassen, daß wir nicht in einen Streit um Worte geraten. Wo ist es noch moralische Prägung und wo fängt eine eigenständige moralische Bewertung / Entscheidung an? Ist eine Abwägung eigenständig, wenn sie ein Ziel auf hoher Ebene vorgegeben hat?

Ich denke, man sollte hier sehr vorsichtig mit einer radikalen Grenze sein, etwa angesichts der Beobachtung, daß auch die allermeisten menschlichen moralischen Bewertungen durch Biologie, Erziehung und Kultur vorprogrammiert sind - Verläßlichkeit / Determination ist hier auch ein Thema.

fwo hat folgendes geschrieben:
Aber die Moral kommt nicht von der Maschine. Der Bewertungsschlüssel an dieser Stelle ist so schwierig zu erstellen und hat so erhebliche Konsequenzen, dass er entweder auf der Ingenieursebene erstellt wird, weil ein kleiner Ingenieur sich ganz gut kreuzigen lässt, oder aber, der schafft es, den Vorstand zu involvieren. Aber der wird sich hüten, die Finger in dieses Feuer zu stecken, und wird nach dem Gesetzgeber rufen.

Möglicherweise - es wären aber auch noch andere Szenarien denkbar, z.B. die Verantwortung wird an den Service-Nutzer delegiert. Auf den autonomen Straßen sind nur Nutzer unterwegs, die sich der moralischen Entscheidung der vernetzten KI für den Zeitraum der Benutzung unterwerfen. So ähnlich, wie wir im Krankenhaus was unterschreiben, und der Chirurg ad hoc entscheidet, manchmal sogar über Leben und Tod. Die Politik und der Ingenieur müssen sich dann "nur" noch um Qualitätsstandards u.ä. kümmern. Ein solches Szenario hätte nicht nur Nachteile, etwa wenn sich in der Praxis zeigt, daß die Überlebenschancen bei der KI-Triage höher sind als im normalen Verkehr mit all den Psychopathen ...
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Kramer
postvisuell



Anmeldungsdatum: 01.08.2003
Beiträge: 28759

Beitrag(#2135848) Verfasst am: 23.05.2018, 12:08    Titel: Antworten mit Zitat

fwo hat folgendes geschrieben:
Und da kommen wir zum Anfang des Threads. Ich hatte da einen ganz groben Schlüssel versucht, nachdem zu unterscheiden wäre, wann eine KI verpflichtet sein sollte, sich zu erkennen zu geben.


Ich vermute, dass gesetzliche Regelungen in diesem Bereich relativ sinnlos sein werden. Wenn die KI auf einer Serverfarm im Ausland läuft und sich über die normalen Log-In-Prozeduren beim System anmeldet, wird es kaum nachweisbar sein, dass hier geschummelt wird.
_________________
Dieser Beitrag verwendet Cookies, um Dein Surferlebnis zu verbessern.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
fwo
leider wieder manchmal da



Anmeldungsdatum: 05.02.2008
Beiträge: 21881
Wohnort: nicht fest

Beitrag(#2135860) Verfasst am: 23.05.2018, 12:42    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
...
Ich denke, man sollte hier sehr vorsichtig mit einer radikalen Grenze sein, etwa angesichts der Beobachtung, daß auch die allermeisten menschlichen moralischen Bewertungen durch Biologie, Erziehung und Kultur vorprogrammiert sind - Verläßlichkeit / Determination ist hier auch ein Thema.
...

Da redest Du mir aus dem Herzen oder besser gesagt aus den Posts -z.B.:
fwo hat folgendes geschrieben:
....Auch beim Menschen wird die Ratio, also die angeblich freie Entscheidung in dieser Ebene weitgehend durch Gefühle gesteuert, deren Grundlage genauso genetisch wie kulturell sein kann. Bei bestimmten Regeln wäre es in meinen Augen keine Einschränkung der KI. sondern sinnvoll, wenn sie "hart" programmiert würden.

Oder andersherum: Sie hat damit kaum größeren Einschränkungen als der Mensch selbst. Ich bin aber nicht so optimistisch in der Hoffnung, dass es einmal sinnvoll werden könnte, der Maschine an dieser Stelle mehr Freiheit zu geben als dem Menschen. Dass man es versuchen wird, steht für mich außer Frage. Die Technikfolgenabschätzung wird sich da allerdings schwierig gestalten.
_________________
Ich glaube an die Existenz der Welt in der ich lebe.

The skills you use to produce the right answer are exactly the same skills you use to evaluate the answer.

Es gibt keinen Gott. Also: Jesus war nur ein Bankert und alle Propheten hatten einfach einen an der Waffel.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
fwo
leider wieder manchmal da



Anmeldungsdatum: 05.02.2008
Beiträge: 21881
Wohnort: nicht fest

Beitrag(#2135862) Verfasst am: 23.05.2018, 12:44    Titel: Antworten mit Zitat

Kramer hat folgendes geschrieben:
fwo hat folgendes geschrieben:
Und da kommen wir zum Anfang des Threads. Ich hatte da einen ganz groben Schlüssel versucht, nachdem zu unterscheiden wäre, wann eine KI verpflichtet sein sollte, sich zu erkennen zu geben.


Ich vermute, dass gesetzliche Regelungen in diesem Bereich relativ sinnlos sein werden. Wenn die KI auf einer Serverfarm im Ausland läuft und sich über die normalen Log-In-Prozeduren beim System anmeldet, wird es kaum nachweisbar sein, dass hier geschummelt wird.

Digital wird es schwierig.
Es ist sofort nachweisbar, wenn in Stichproben nach dem Menschen auf der anderen Seite gesehen wird.

btw: Du brauchst keine Angst zu haben, die PN zu öffnen. Sie ist nicht wirklich geeignet, das, was Dich an mir stört, zu entkräften, und hat das auch nicht zum Ziel. Sie enthält nur ein paar Zypern-Details.
_________________
Ich glaube an die Existenz der Welt in der ich lebe.

The skills you use to produce the right answer are exactly the same skills you use to evaluate the answer.

Es gibt keinen Gott. Also: Jesus war nur ein Bankert und alle Propheten hatten einfach einen an der Waffel.


Zuletzt bearbeitet von fwo am 23.05.2018, 12:48, insgesamt einmal bearbeitet
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Kramer
postvisuell



Anmeldungsdatum: 01.08.2003
Beiträge: 28759

Beitrag(#2135864) Verfasst am: 23.05.2018, 12:47    Titel: Antworten mit Zitat

fwo hat folgendes geschrieben:

Es ist sofort nachweisbar, wenn in Stichproben nach dem Menschen auf der anderen Seite gesehen wird.


Wer soll das tun? Und woher hat der die Daten?
_________________
Dieser Beitrag verwendet Cookies, um Dein Surferlebnis zu verbessern.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
fwo
leider wieder manchmal da



Anmeldungsdatum: 05.02.2008
Beiträge: 21881
Wohnort: nicht fest

Beitrag(#2135868) Verfasst am: 23.05.2018, 12:50    Titel: Antworten mit Zitat

Kramer hat folgendes geschrieben:
fwo hat folgendes geschrieben:

Es ist sofort nachweisbar, wenn in Stichproben nach dem Menschen auf der anderen Seite gesehen wird.


Wer soll das tun? Und woher hat der die Daten?

Wenn Du damit sagen möchtest, dass da Handlungsbedarf in mehr als einer Ebene besteht, widerspreche ich nicht.
_________________
Ich glaube an die Existenz der Welt in der ich lebe.

The skills you use to produce the right answer are exactly the same skills you use to evaluate the answer.

Es gibt keinen Gott. Also: Jesus war nur ein Bankert und alle Propheten hatten einfach einen an der Waffel.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Kramer
postvisuell



Anmeldungsdatum: 01.08.2003
Beiträge: 28759

Beitrag(#2135872) Verfasst am: 23.05.2018, 13:00    Titel: Antworten mit Zitat

fwo hat folgendes geschrieben:
Kramer hat folgendes geschrieben:
fwo hat folgendes geschrieben:

Es ist sofort nachweisbar, wenn in Stichproben nach dem Menschen auf der anderen Seite gesehen wird.


Wer soll das tun? Und woher hat der die Daten?

Wenn Du damit sagen möchtest, dass da Handlungsbedarf in mehr als einer Ebene besteht, widerspreche ich nicht.


Ich sehe da mehr als nur Handlungsbedarf, ich sehe schwer zu lösende Widersprüche. Die Kunden von Partnerbörsen (oder auch Pornoangeboten) wollen i.d.R. anonym bleiben. Anonymität ist ist hier ein wichtiges Qualitätskriterium. Aber Anonymität und Datenschutz bieten eben auch ideale Bedingungen für den Missbrauch von KI.
_________________
Dieser Beitrag verwendet Cookies, um Dein Surferlebnis zu verbessern.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
fwo
leider wieder manchmal da



Anmeldungsdatum: 05.02.2008
Beiträge: 21881
Wohnort: nicht fest

Beitrag(#2135877) Verfasst am: 23.05.2018, 13:09    Titel: Antworten mit Zitat

Kramer hat folgendes geschrieben:
fwo hat folgendes geschrieben:
Kramer hat folgendes geschrieben:
fwo hat folgendes geschrieben:

Es ist sofort nachweisbar, wenn in Stichproben nach dem Menschen auf der anderen Seite gesehen wird.


Wer soll das tun? Und woher hat der die Daten?

Wenn Du damit sagen möchtest, dass da Handlungsbedarf in mehr als einer Ebene besteht, widerspreche ich nicht.


Ich sehe da mehr als nur Handlungsbedarf, ich sehe schwer zu lösende Widersprüche. Die Kunden von Partnerbörsen (oder auch Pornoangeboten) wollen i.d.R. anonym bleiben. Anonymität ist ist hier ein wichtiges Qualitätskriterium. Aber Anonymität und Datenschutz bieten eben auch ideale Bedingungen für den Missbrauch von KI.

Der Widerspruch zwischen Kontrolle und Datenschutz ist nicht auf das Internet beschränkt. Wir haben deshalb im realen Leben die Institution des Datenschutzbeauftragten, die entsprechend ausgebaut werden müsste.

Ansonsten hilft gegen Betrug am besten Aufklärung und gegen Suchtkriminalität (diese Form des Geschäftes mit der Sexualität/Einsamkeit der Kunden hat da viel Gemeinsamkeiten) das Versauen der Preise. Deshalb ja auch meine Hoffnung auf eine kostenlose Konkurrenz von der GNU-Seite.
_________________
Ich glaube an die Existenz der Welt in der ich lebe.

The skills you use to produce the right answer are exactly the same skills you use to evaluate the answer.

Es gibt keinen Gott. Also: Jesus war nur ein Bankert und alle Propheten hatten einfach einen an der Waffel.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Kramer
postvisuell



Anmeldungsdatum: 01.08.2003
Beiträge: 28759

Beitrag(#2135880) Verfasst am: 23.05.2018, 13:16    Titel: Antworten mit Zitat

fwo hat folgendes geschrieben:
Deshalb ja auch meine Hoffnung auf eine kostenlose Konkurrenz von der GNU-Seite.


Der Sinn einer solchen GNU-Version von Fake-Bots erschliesst sich mir nicht. Ich vermute mal, dass nur sehr wenige Menschen sich bei Partnerbörsen anmelden, um mit Fake-Accounts oder Bots zu kommunizieren.
_________________
Dieser Beitrag verwendet Cookies, um Dein Surferlebnis zu verbessern.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
fwo
leider wieder manchmal da



Anmeldungsdatum: 05.02.2008
Beiträge: 21881
Wohnort: nicht fest

Beitrag(#2135888) Verfasst am: 23.05.2018, 14:11    Titel: Antworten mit Zitat

Kramer hat folgendes geschrieben:
fwo hat folgendes geschrieben:
Deshalb ja auch meine Hoffnung auf eine kostenlose Konkurrenz von der GNU-Seite.


Der Sinn einer solchen GNU-Version von Fake-Bots erschliesst sich mir nicht. Ich vermute mal, dass nur sehr wenige Menschen sich bei Partnerbörsen anmelden, um mit Fake-Accounts oder Bots zu kommunizieren.


Das hat man auch mal von Telefonsex gedacht. Man kauft auch geschrieben Sex wegen des Reizes. Und ein mit mir redender digitaler Partner geht weiter als Literatur mit erotischem Inhalt ...

Der Sinn ist ganz einfach: Die Preise zu "verderben" und damit das Geschäftsmodell zu torpedieren. Das ist auch der Hintergrund dafür, dass ich für die Freigabe auch harter Drogen unter der Maßgabe des kontrollierten Handels in Apotheken mit limitierter Gewinn-Marge plädiere - aber das war ein anderer Thread.

In "meiner" GNU-Welt gäbe es übrigens keine bezahlten Fake-Accounts. Und es bestünde auch die Möglichkeit, sich auf eigenes Risiko mit denen zu unterhalten, die keine Bot-Sig haben.
_________________
Ich glaube an die Existenz der Welt in der ich lebe.

The skills you use to produce the right answer are exactly the same skills you use to evaluate the answer.

Es gibt keinen Gott. Also: Jesus war nur ein Bankert und alle Propheten hatten einfach einen an der Waffel.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Beiträge der letzten Zeit anzeigen:   
Neues Thema eröffnen   Neue Antwort erstellen   Drucker freundliche Ansicht    Freigeisterhaus Foren-Übersicht -> Wissenschaft und Technik Alle Zeiten sind GMT + 1 Stunde
Gehe zu Seite Zurück  1, 2, 3, 4, 5, 6, 7, 8, 9  Weiter
Seite 5 von 9

 
Gehe zu:  
Du kannst keine Beiträge in dieses Forum schreiben.
Du kannst auf Beiträge in diesem Forum nicht antworten.
Du kannst deine Beiträge in diesem Forum nicht bearbeiten.
Du kannst deine Beiträge in diesem Forum nicht löschen.
Du kannst an Umfragen in diesem Forum nicht mitmachen.



Disclaimer / Impressum


Powered by phpBB © 2001, 2005 phpBB Group