Freigeisterhaus Foren-Übersicht www.artikeldrei.de
 FAQFAQ   SuchenSuchen   MitgliederlisteMitgliederliste   NutzungsbedingungenNutzungsbedingungen   BenutzergruppenBenutzergruppen   LinksLinks   ChatChat   RegistrierenRegistrieren 
 ProfilProfil   KarteKarte   Einloggen, um private Nachrichten zu lesenEinloggen, um private Nachrichten zu lesen   LoginLogin 

Soll sich KI zu erkennen geben?
Gehe zu Seite 1, 2, 3, 4, 5, 6, 7, 8, 9  Weiter
 
Neues Thema eröffnen   Neue Antwort erstellen   Drucker freundliche Ansicht    Freigeisterhaus Foren-Übersicht -> Wissenschaft und Technik
Vorheriges Thema anzeigen :: Nächstes Thema anzeigen  

Soll sich KI zu erkennen geben?
Ja
50%
 50%  [ 3 ]
Nein
50%
 50%  [ 3 ]
Stimmen insgesamt : 6

Autor Nachricht
zelig
Kultürlich



Anmeldungsdatum: 31.03.2004
Beiträge: 22833

Beitrag(#2135153) Verfasst am: 19.05.2018, 09:20    Titel: Soll sich KI zu erkennen geben? Antworten mit Zitat

Angeregt durch einen Beitrag in der SZ.

google hat demonstriert, wie eine KI einen Tisch in einem Restaurant reserviert hat, ohne daß die Mitarbeiterin bemerkt hat, daß sie mit einer Maschine spricht.

Sollte man es zur Pflicht machen, daß sich eine KI als solche zu erkennen gibt?
_________________
What game shall we play today?
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
worse
Freizeit-Schizo



Anmeldungsdatum: 26.03.2017
Beiträge: 2323
Wohnort: Stoapfalz

Beitrag(#2135154) Verfasst am: 19.05.2018, 09:34    Titel: Antworten mit Zitat

Nicht nötig.

https://www.n-tv.de/technik/Hat-Google-geschummelt-article20441052.html
_________________
"Die Philosophen haben den Nihilismus immer nur überwunden, es kömmt darauf an, ihn zu vollenden."

- Ludger Lütkehaus


Murphy was here Cool
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
zelig
Kultürlich



Anmeldungsdatum: 31.03.2004
Beiträge: 22833

Beitrag(#2135156) Verfasst am: 19.05.2018, 09:58    Titel: Antworten mit Zitat

Ja, es gibt Zweifel, ob das Experiment so lupenrein gelaufen ist.
Dennoch habe ich keine Zweifel, daß das Szenario in nicht allzuferner Zeit Realität ist.
Daher hat die Frage einen Realitätsbezug, ist hochinteressant und könnte einen neuen Spin in die Diskussion Bringen. Beispielsweise mit denjenigen, die Gehirne und KIs als Entitäten gleicher Kategorie betrachten.
_________________
What game shall we play today?
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
worse
Freizeit-Schizo



Anmeldungsdatum: 26.03.2017
Beiträge: 2323
Wohnort: Stoapfalz

Beitrag(#2135158) Verfasst am: 19.05.2018, 10:19    Titel: Antworten mit Zitat

Warum hast Du nicht einfach gefragt, ob eine KI, die den Turing Test bestehen kann, verpflichtet werden sollte sich selbst zu erkennen zu geben?

Das wäre sauberer, redlicher gewesen. Und man könnte vielleicht grundsätzliche Antworten dazu finden ohne sich in die zum konkreten Beispiel zugehörige Diskussion, ob das überhaupt möglich sein kann, zu verstricken.
_________________
"Die Philosophen haben den Nihilismus immer nur überwunden, es kömmt darauf an, ihn zu vollenden."

- Ludger Lütkehaus


Murphy was here Cool
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
zelig
Kultürlich



Anmeldungsdatum: 31.03.2004
Beiträge: 22833

Beitrag(#2135159) Verfasst am: 19.05.2018, 10:23    Titel: Antworten mit Zitat

worse hat folgendes geschrieben:
Warum hast Du nicht einfach gefragt, ob eine KI, die den Turing Test bestehen kann, verpflichtet werden sollte sich selbst zu erkennen zu geben?

Das wäre sauberer, redlicher gewesen. Und man könnte vielleicht grundsätzliche Antworten dazu finden ohne sich in die zum konkreten Beispiel zugehörige Diskussion, ob das überhaupt möglich sein kann, zu verstricken.


Versuch mal wieder mehr von meiner Person abzusehen und zur Sache zu schreiben. Du verbeißt dich in letzter Zeit ein bisschen. Ist freundlich gemeint. : )
_________________
What game shall we play today?
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
worse
Freizeit-Schizo



Anmeldungsdatum: 26.03.2017
Beiträge: 2323
Wohnort: Stoapfalz

Beitrag(#2135160) Verfasst am: 19.05.2018, 10:37    Titel: Antworten mit Zitat

Das war 100% zur Sache. Auch freundlich gemeint.
_________________
"Die Philosophen haben den Nihilismus immer nur überwunden, es kömmt darauf an, ihn zu vollenden."

- Ludger Lütkehaus


Murphy was here Cool
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
zelig
Kultürlich



Anmeldungsdatum: 31.03.2004
Beiträge: 22833

Beitrag(#2135162) Verfasst am: 19.05.2018, 10:51    Titel: Antworten mit Zitat

worse hat folgendes geschrieben:
Das war 100% zur Sache.


Die Sache ist die KI. Nicht der Grad meiner Redlichkeit.
_________________
What game shall we play today?
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
zelig
Kultürlich



Anmeldungsdatum: 31.03.2004
Beiträge: 22833

Beitrag(#2135163) Verfasst am: 19.05.2018, 10:52    Titel: Antworten mit Zitat

Übrigens auch nicht die Frage, warum ich das Thema so gestellt habe.
_________________
What game shall we play today?
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
worse
Freizeit-Schizo



Anmeldungsdatum: 26.03.2017
Beiträge: 2323
Wohnort: Stoapfalz

Beitrag(#2135166) Verfasst am: 19.05.2018, 11:15    Titel: Antworten mit Zitat

Nein, es geht nicht um Deine Redlichkeit, zelig - es geht nicht immer um Dich, wenn Du mal eine persönliche Bemerkung hören willst - es geht um die Redlichkeit der Fragestellung. Und es geht auch nicht um das Warum Deiner Fragestellung, sondern um das Wie und ob sie dazu geeignet ist neue Erkenntnisse zu fördern oder Unfrieden zu stiften. Und diese Fragestellung ist, wenn man eine Frage öffentlich zur Diskussion stellt, durchaus berechtigt. Es ist die Kritik an einer schwach gestellten Eingangsfrage und es ist eine konstruktive Kritik gewesen, bis Du sie zum Ziel Deiner persönlichen Animositäten gemacht hast.

Daran habe ich kein Interesse.

Mich interessiert, wie man mit einer KI umgehen soll, die in der Lage ist, Menschen (kurzfristig, länger als 1 Minute, dauerhaft) zu täuschen und welche Regeln es dafür geben sollte.

Ob Du glaubst, dass es so eine KI in naher oder ferner Zukunft geben wird oder nicht, ist mir völlig Latte. Und das ist noch nicht einmal persönlich gemeint, denn ich bin in diesem Zusammenhang ausschließlich daran interessiert, für welche Regeln oder Nicht-Regeln Du Dich entscheidest und wie Du das begründest.
_________________
"Die Philosophen haben den Nihilismus immer nur überwunden, es kömmt darauf an, ihn zu vollenden."

- Ludger Lütkehaus


Murphy was here Cool
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
fwo
wieder aufgetaucht



Anmeldungsdatum: 05.02.2008
Beiträge: 21468
Wohnort: nicht fest

Beitrag(#2135173) Verfasst am: 19.05.2018, 12:21    Titel: Re: Soll sich KI zu erkennen geben? Antworten mit Zitat

zelig hat folgendes geschrieben:
Angeregt durch einen Beitrag in der SZ.

google hat demonstriert, wie eine KI einen Tisch in einem Restaurant reserviert hat, ohne daß die Mitarbeiterin bemerkt hat, daß sie mit einer Maschine spricht.

Sollte man es zur Pflicht machen, daß sich eine KI als solche zu erkennen gibt?

Ich würde es von der Informationsrichtung abhängig machen:
Eine KI, die fragt: Das war hier der Fall - Nein
Eine KI, die Auskunft gibt: Ja
_________________
Ich glaube an die Existenz der Welt in der ich lebe.

The skills you use to produce the right answer are exactly the same skills you use to evaluate the answer.

Es gibt keinen Gott. Also: Jesus war nur ein Bankert und alle Propheten hatten einfach einen an der Waffel.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
worse
Freizeit-Schizo



Anmeldungsdatum: 26.03.2017
Beiträge: 2323
Wohnort: Stoapfalz

Beitrag(#2135178) Verfasst am: 19.05.2018, 12:35    Titel: Re: Soll sich KI zu erkennen geben? Antworten mit Zitat

fwo hat folgendes geschrieben:
zelig hat folgendes geschrieben:
Angeregt durch einen Beitrag in der SZ.

google hat demonstriert, wie eine KI einen Tisch in einem Restaurant reserviert hat, ohne daß die Mitarbeiterin bemerkt hat, daß sie mit einer Maschine spricht.

Sollte man es zur Pflicht machen, daß sich eine KI als solche zu erkennen gibt?

Ich würde es von der Informationsrichtung abhängig machen:
Eine KI, die fragt: Das war hier der Fall - Nein
Eine KI, die Auskunft gibt: Ja

Wie begründest Du das?
_________________
"Die Philosophen haben den Nihilismus immer nur überwunden, es kömmt darauf an, ihn zu vollenden."

- Ludger Lütkehaus


Murphy was here Cool
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 20588
Wohnort: Germering

Beitrag(#2135179) Verfasst am: 19.05.2018, 12:36    Titel: Antworten mit Zitat

Warum sollte künstliche Intelligenz die Pflicht haben, sich zu erkennen zu geben, wenn es diese Pflicht nicht für natürliche Intelligenz gibt? Nur weil Manipulation durch Unseresgleichen als normal angesehen wird?

Der verzweifelte Versuch, Herrschaft und Kontrolle zu behalten, wird sowieso scheitern, dazu ist es viel zu leicht und (anfänglich) gewinnträchtig, etwas Intelligenteres, Effizienteres als den Menschen entstehen zu lassen.
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
worse
Freizeit-Schizo



Anmeldungsdatum: 26.03.2017
Beiträge: 2323
Wohnort: Stoapfalz

Beitrag(#2135184) Verfasst am: 19.05.2018, 12:52    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
Warum sollte künstliche Intelligenz die Pflicht haben, sich zu erkennen zu geben, wenn es diese Pflicht nicht für natürliche Intelligenz gibt? Nur weil Manipulation durch Unseresgleichen als normal angesehen wird?

Nein, sondern weil durch die Schaffung einer künstlichen Intelligenz die natürliche zu ihr in Konkurrenz tritt und sich daraus die Notwendigkeit einer gegenseitigen Offenbarung erst ergibt. Könnte man sagen. Sollte man meinen.
_________________
"Die Philosophen haben den Nihilismus immer nur überwunden, es kömmt darauf an, ihn zu vollenden."

- Ludger Lütkehaus


Murphy was here Cool
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 20588
Wohnort: Germering

Beitrag(#2135212) Verfasst am: 19.05.2018, 15:31    Titel: Antworten mit Zitat

worse hat folgendes geschrieben:
step hat folgendes geschrieben:
Warum sollte künstliche Intelligenz die Pflicht haben, sich zu erkennen zu geben, wenn es diese Pflicht nicht für natürliche Intelligenz gibt? ...
... weil durch die Schaffung einer künstlichen Intelligenz die natürliche zu ihr in Konkurrenz tritt und sich daraus die Notwendigkeit einer gegenseitigen Offenbarung erst ergibt. ...

Das verstehe ich nicht. Ich vermute, Du machst noch irgendeine unausgesprochene Annahme. Möchtest Du diese Konkurrenz möglichst klein halten, und falls ja, warum?
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
worse
Freizeit-Schizo



Anmeldungsdatum: 26.03.2017
Beiträge: 2323
Wohnort: Stoapfalz

Beitrag(#2135228) Verfasst am: 19.05.2018, 16:05    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
worse hat folgendes geschrieben:
step hat folgendes geschrieben:
Warum sollte künstliche Intelligenz die Pflicht haben, sich zu erkennen zu geben, wenn es diese Pflicht nicht für natürliche Intelligenz gibt? ...
... weil durch die Schaffung einer künstlichen Intelligenz die natürliche zu ihr in Konkurrenz tritt und sich daraus die Notwendigkeit einer gegenseitigen Offenbarung erst ergibt. ...

Das verstehe ich nicht. Ich vermute, Du machst noch irgendeine unausgesprochene Annahme. Möchtest Du diese Konkurrenz möglichst klein halten, und falls ja, warum?

Ich denke eher, Du hast die unausgesprochene Annahme gemacht. Du sprachst von einer Pflicht der natürlichen Intelligenz sich zu erkennen zu geben. Das setzt a) entweder bereits die Existenz einer künstlichen Intelligenz voraus oder b) ist sinnlos, denn eine natürliche Intelligenz braucht oder kann sich einer anderen natürlichen Existenz nicht 'zu erkennen geben' als das was sie ist, nämlich eine natürliche Intelligenz. Verstehst Du was ich meine? Das ist ja bislang der einzig mögliche 'Zustand', dass es eine natürliche Intelligenz ist.

Darum ging ich davon aus Du meinst a)

Dort setzt Du aber bereits die Pflicht der natürlichen Intelligenz voraus bzw. stellst diese in Frage.


Mein Einwand ist jetzt: Woher soll diese Pflicht der natürlichen Intelligenz sich selbst zu offenbaren kommen?

Dazu braucht es a) die Möglichkeit, ein 'Gegenüber', ein etwas anderes, dem es sich zu erkennen geben kann
und b) einen Grund

a) ist gegeben in dem Moment, wo so eine künstliche Intelligenz existiert.

Wenn eine künstliche Intelligenz existiert, dann treten wir (die natürliche Intelligenz) zu ihr in ein Nebeneinander, vermutlich zunächst das bessere Wort statt Konkurrenz. Aber was macht Intelligenz? Und was machen mehrere Intelligenzen? Sie treten in einen Wettbewerb um ihre Ziele und die Art und Weise wie sie sie am optimalsten erreichen. Das wäre dann Konkurrenz.

Sie können sich aber auch zusammentun und miteinander gemeinsame Ziele verfolgen und sich gegenseitig optimieren helfen. Das wäre dann b): die Notwendigkeit sich gegenseitig zu offenbaren.



Ich bin schon ein bisschen geschlaucht jetzad, ich hoffe, es ist trotzdem ein bisschen klarer geworden.
_________________
"Die Philosophen haben den Nihilismus immer nur überwunden, es kömmt darauf an, ihn zu vollenden."

- Ludger Lütkehaus


Murphy was here Cool
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
zelig
Kultürlich



Anmeldungsdatum: 31.03.2004
Beiträge: 22833

Beitrag(#2135234) Verfasst am: 19.05.2018, 16:15    Titel: Re: Soll sich KI zu erkennen geben? Antworten mit Zitat

fwo hat folgendes geschrieben:
zelig hat folgendes geschrieben:
Angeregt durch einen Beitrag in der SZ.

google hat demonstriert, wie eine KI einen Tisch in einem Restaurant reserviert hat, ohne daß die Mitarbeiterin bemerkt hat, daß sie mit einer Maschine spricht.

Sollte man es zur Pflicht machen, daß sich eine KI als solche zu erkennen gibt?

Ich würde es von der Informationsrichtung abhängig machen:
Eine KI, die fragt: Das war hier der Fall - Nein
Eine KI, die Auskunft gibt: Ja


Weil die Kontrolle beim Mensch bleiben soll?
_________________
What game shall we play today?
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
abbahallo
Moderator
Moderator



Anmeldungsdatum: 10.12.2012
Beiträge: 2001

Beitrag(#2135235) Verfasst am: 19.05.2018, 16:20    Titel: Antworten mit Zitat

Die Ausgangsfrage krankt etwas daran, dass nicht klar ist, was eigentlich gemeint ist. Was immer mit KI gemeint ist, selber essen gehen wird sie wohl nicht.
Gehen wir davon aus, es handelt sich um ein Dienstleistungsprogramm, das von irgendwem zum Tisch bestellen eingesetzt wurde, dann sollte ein Auftraggeber genannt werden, der dann eventuell auch für diese Bestellung haftet, wie bei einer Sekretärin eben auch. Eine besondere Informationspflicht, ob der Annehmer der Auftrags es nun mit dem Butler oder einer app zu tun hat, sehe ich nicht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 20588
Wohnort: Germering

Beitrag(#2135240) Verfasst am: 19.05.2018, 16:28    Titel: Antworten mit Zitat

worse hat folgendes geschrieben:
Mein Einwand ist jetzt: Woher soll diese Pflicht der natürlichen Intelligenz sich selbst zu offenbaren kommen?

Keine Ahnung, ich habe ja nur konstatiert, daß es eine solche Pflicht nicht gibt.

worse hat folgendes geschrieben:
Dazu braucht es a) die Möglichkeit, ein 'Gegenüber', ein etwas anderes, dem es sich zu erkennen geben kann
und b) einen Grund

a) ist gegeben in dem Moment, wo so eine künstliche Intelligenz existiert.

Nein, a) ist auch schon gegeben, wenn es nur NI gibt.

worse hat folgendes geschrieben:
... Aber was macht Intelligenz? Und was machen mehrere Intelligenzen? Sie treten in einen Wettbewerb um ihre Ziele und die Art und Weise wie sie sie am optimalsten erreichen. Das wäre dann Konkurrenz.

Das kann man so sehen. Ist aber bei unterschiedlichen, mit NI ausgestatteten Wesen offensichtlich ebenso.

worse hat folgendes geschrieben:
Sie können sich aber auch zusammentun und miteinander gemeinsame Ziele verfolgen und sich gegenseitig optimieren helfen.

Auch da stimme ich zu, sehe aber wieder nicht den Unterschied zu einzelen Instanzen natürlicher Intelligenz. Außer hier liegt Deine verborgene Annahme - etwa daß die existierenden natürlichen Intelligenzen primär gemeinsame Ziele hätten.

worse hat folgendes geschrieben:
Das wäre dann b): die Notwendigkeit sich gegenseitig zu offenbaren.

Ähm - nein, das wäre noch kein Grund. Wenn z.B. die KI und die Restaurant-Angestellte das gemeinsame Ziel haben, den Reservierungsvorgang zu erledigen, ist zur Erreichung oder Optimierung dieses Ziels nicht notwendig, daß die KI sich als solche offenbart. Man könnte sogar argumentieren, daß es besser wäre, das gerade nicht zu tun.

worse hat folgendes geschrieben:
Ich bin schon ein bisschen geschlaucht jetzad

Das gibt 1 Punkt im Turing-Test.

worse hat folgendes geschrieben:
ich hoffe, es ist trotzdem ein bisschen klarer geworden.

Ja, ich denke, wir kommen Deiner Zusatzannahme mehr und mehr auf die Spur zwinkern
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
zelig
Kultürlich



Anmeldungsdatum: 31.03.2004
Beiträge: 22833

Beitrag(#2135243) Verfasst am: 19.05.2018, 16:29    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
Warum sollte künstliche Intelligenz die Pflicht haben, sich zu erkennen zu geben, wenn es diese Pflicht nicht für natürliche Intelligenz gibt? Nur weil Manipulation durch Unseresgleichen als normal angesehen wird?


Weil die KI villeicht in einiger Zeit zu rational und zu überlegen wäre, aber das ohne die Empfindungsfähigkeit, die die Natur des Menschen erst nachvollziehbar macht.


step hat folgendes geschrieben:
Der verzweifelte Versuch, Herrschaft und Kontrolle zu behalten, wird sowieso scheitern, dazu ist es viel zu leicht und (anfänglich) gewinnträchtig, etwas Intelligenteres, Effizienteres als den Menschen entstehen zu lassen.


Ich hätte prinzipiell nichts gegen einen beiderseitigen Verhaltenskodex, der die Preisgabe der eigenen Natur vorsieht. Aber ich glaube die Menschen wären der KI auf Dauer hoffnungslos ausgeliefert (Cambridge Analytics) aufgrund der exponentiell wachsenden Fähigkeit große Datenmengen auszuwerten. Das gefällt mir nicht.
_________________
What game shall we play today?
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
zelig
Kultürlich



Anmeldungsdatum: 31.03.2004
Beiträge: 22833

Beitrag(#2135252) Verfasst am: 19.05.2018, 16:48    Titel: Antworten mit Zitat

abbahallo hat folgendes geschrieben:
Die Ausgangsfrage krankt etwas daran, dass nicht klar ist, was eigentlich gemeint ist. Was immer mit KI gemeint ist, selber essen gehen wird sie wohl nicht.
Gehen wir davon aus, es handelt sich um ein Dienstleistungsprogramm, das von irgendwem zum Tisch bestellen eingesetzt wurde, dann sollte ein Auftraggeber genannt werden, der dann eventuell auch für diese Bestellung haftet, wie bei einer Sekretärin eben auch. Eine besondere Informationspflicht, ob der Annehmer der Auftrags es nun mit dem Butler oder einer app zu tun hat, sehe ich nicht.


Gehen wir davon aus, daß eine KI eines Tages ethische Entscheidungen fällen kann. Das ist nicht weit hergeholt, Facebook arbeitet daran, daß Texte oder Bilder, die bisher von Menschen ausgefiltert werden, bald von einer KI entfernt werden. Was ja einerseits sinnvoll ist, da die Mitarbeiter, die das machen müssen, psychischen Belastungen ausgesetzt sind. Andererseits übernimmt die KI die Kontrolle, übt also Zensur aus. Das würde ich befürworten, zugleich aber würde ich sagen, daß einem Menschen trotzdem das letzte Entscheidungsrecht zugebilligt werden sollte.
_________________
What game shall we play today?
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 20588
Wohnort: Germering

Beitrag(#2135258) Verfasst am: 19.05.2018, 16:57    Titel: Antworten mit Zitat

zelig hat folgendes geschrieben:
step hat folgendes geschrieben:
Warum sollte künstliche Intelligenz die Pflicht haben, sich zu erkennen zu geben, wenn es diese Pflicht nicht für natürliche Intelligenz gibt? Nur weil Manipulation durch Unseresgleichen als normal angesehen wird?
Weil die KI villeicht in einiger Zeit zu rational und zu überlegen wäre, aber das ohne die Empfindungsfähigkeit, die die Natur des Menschen erst nachvollziehbar macht.

Holla, das sind gleich mehrere Thesen auf einmal.

- KI sei rational/überlegen -> ja

- KI sei ohne Empathie -> möglicherweise. Für die autonomen Kampfdrohnen gilt das sicher. Aber ob das generell so ist? Vielleicht bilden die auch so etwas aus, z.B. um kooperative Vorteile zu haben. Oder meinst Du, daß die menschliche Empathie eine entwicklungsgeschichtliche Folge der sexuellen Fortpflanzung und des genetischen Primats ist? Oder gar nur der Substratbasierung?

- Empfindungsfähigkeit mache die Natur des Menschen nachvollziehbar -> läuft das idZ auf so etwas hinaus wie "Menschen sind gut im Erspüren, was die Interessen eines menschlichen Gegenübers sind"? Aber ist es nicht bereits unter natürlichen Intelligenzen häufig so, daß man seine Interessen nicht offenlegen will? Strategie und Taktik sind doch als hohe Künste angesehen?

- obiges sei ein Grund zu einer Offenbarungspflicht speziell für KI -> hmm ... aber wäre es nicht ein Zeichen von geringer Intelligenz der KI, wenn wir ihre Überlegungen verstehen würden? Und selbst wenn sie sich offenbaren müßte, inwiefern würde dies das Problem lösen, daß sie uns überlegen wäre? Oder ist es generell ein Problem, daß die KI uns überlegen ist, weil damit unsere Existenzberechtigung nicht mehr durch simple Ermächtigung zu begründen wäre - so wie es heute bereits allen anderen natürlichen Spezies ergeht?

zelig hat folgendes geschrieben:
Aber ich glaube die Menschen wären der KI auf Dauer hoffnungslos ausgeliefert (Cambridge Analytics) aufgrund der exponentiell wachsenden Fähigkeit große Datenmengen auszuwerten.

Ja, und vor allem der Fähigkeit, wesentlich effizienter zu lernen.

zelig hat folgendes geschrieben:
Das gefällt mir nicht.

Könnte man vielleicht die These aufstellen, daß es oberhalb einer bestimmten Intelligenzschwelle zu Leid führt, wenn es stark unterschiedlich intelligente Spezies oder Wesen gibt? Weil es dann immer welche gibt, die intelligent genug sind, um an ihrer Unterlegenheit zu leiden? Falls das so ist, kommt die höhere Intelligenz da sicher auch schnell drauf und beendet das Leiden, wofür es ja wiederum mehrere Optionen gäbe zwinkern
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
zelig
Kultürlich



Anmeldungsdatum: 31.03.2004
Beiträge: 22833

Beitrag(#2135262) Verfasst am: 19.05.2018, 17:08    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
Empfindungsfähigkeit mache die Natur des Menschen nachvollziehbar -> läuft das idZ auf so etwas hinaus wie "Menschen sind gut im Erspüren, was die Interessen eines menschlichen Gegenübers sind"? Aber ist es nicht bereits unter natürlichen Intelligenzen häufig so, daß man seine Interessen nicht offenlegen will? Strategie und Taktik sind doch als hohe Künste angesehen?


Ich halte das Problem für gravierender. Ich denke eine KI kann keinen Begriff von der Natur des Schmerzes zum Beispiel entwickeln. Sie könnte eine abstrakte Skala von weniger oder mehr verbotenen Verhaltensweisen entwickeln. Aber die Kategorie Schmerz wäre immer fremd, so wie jede andere Empfindung auch. Was sollte also die wirklich überlegene KI davon abhalten, Menschen anders zu behandeln, als wir einen Regenwurm oder eine Mastgans? Wenn sie selber keinen Leib hat, um Angst, Einsamkeit oder Schmerz zu erfahren.
_________________
What game shall we play today?
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
worse
Freizeit-Schizo



Anmeldungsdatum: 26.03.2017
Beiträge: 2323
Wohnort: Stoapfalz

Beitrag(#2135268) Verfasst am: 19.05.2018, 17:22    Titel: Antworten mit Zitat

Also, auf ein Neues. Ich hab Kaffee gemacht. Smilie Es ist auch eine Konzentrationsübung für mich.


step hat folgendes geschrieben:

worse hat folgendes geschrieben:
Dazu braucht es a) die Möglichkeit, ein 'Gegenüber', ein etwas anderes, dem es sich zu erkennen geben kann
und b) einen Grund

a) ist gegeben in dem Moment, wo so eine künstliche Intelligenz existiert.

Nein, a) ist auch schon gegeben, wenn es nur NI gibt.

Das musst Du unbedingt genauer erklären, ich habe da nämlich die größten Bedenken.

Wie willst Du einer anderen NI klar machen, dass Du eine NI bist?
Einem Hund? Einem Raaben? Einem Schimpansen?

Du kannst es nur einer (näherungsweise) gleichwertigen menschlichen NI vermitteln. Die weiß es aber auch so, weil sie selbst eine ist. Also kannst Du es ihr streng genommen nicht offenbaren. Du kannst Dich nicht zu erkennen geben, Du bist entweder bereits durch ihre Selbsterkenntnis als solche erkannt, oder kannst es nicht vermitteln.

Für eine KI wäre es eine neue Erkenntnis, eine 'Offenbarung' von unserer Seite.

step hat folgendes geschrieben:

worse hat folgendes geschrieben:
... Aber was macht Intelligenz? Und was machen mehrere Intelligenzen? Sie treten in einen Wettbewerb um ihre Ziele und die Art und Weise wie sie sie am optimalsten erreichen. Das wäre dann Konkurrenz.

Das kann man so sehen. Ist aber bei unterschiedlichen, mit NI ausgestatteten Wesen offensichtlich ebenso.

Jupp, das ist der Punkt. Sehr glücklich Natürliche Intelligenz konkurriert in einem begrenzten Habitat wie unserer Erde unterm Strich immer. Um Lebensraum, um Ressourcen, um Nahrung. Bei der künstlichen Intelligenz ist das aber nicht zwingend und darum wollen wir nicht ohne Not zu ihr in Konkurrenz treten.
step hat folgendes geschrieben:

worse hat folgendes geschrieben:
Sie können sich aber auch zusammentun und miteinander gemeinsame Ziele verfolgen und sich gegenseitig optimieren helfen.

Auch da stimme ich zu, sehe aber wieder nicht den Unterschied zu einzelen Instanzen natürlicher Intelligenz. Außer hier liegt Deine verborgene Annahme - etwa daß die existierenden natürlichen Intelligenzen primär gemeinsame Ziele hätten.

Kann es sein, dass meine verborgene Annahme ist, dass künstliche und natürliche Intelligenz die selben gemeinsamen Ziele verfolgen sollen?
step hat folgendes geschrieben:

worse hat folgendes geschrieben:
Das wäre dann b): die Notwendigkeit sich gegenseitig zu offenbaren.

Ähm - nein, das wäre noch kein Grund. Wenn z.B. die KI und die Restaurant-Angestellte das gemeinsame Ziel haben, den Reservierungsvorgang zu erledigen, ist zur Erreichung oder Optimierung dieses Ziels nicht notwendig, daß die KI sich als solche offenbart. Man könnte sogar argumentieren, daß es besser wäre, das gerade nicht zu tun.

Eine künstliche Intelligenz müsste dazu überhaupt erstmal 'begreifen' können, was eine NI ist. Ansonsten könnte man in dieser Hinsicht schwerlich von Intelligenz sprechen. Und wenn sie diese Erkenntnis einmal hat, dann ist so eine Offenbarung im Einzelnen doch gar nicht mehr notwendig. Die Frage ist nur, ob wir dieser KI zu dieser Erkenntnis verhelfen indem wir uns als NI zu erkennen geben oder ob wir sie ohne das soweit entwickeln (lassen), bis sie von selber drauf kommt.

Wie startet man denn gute Beziehungen für gemeinsame Ziele?

Ich denke dabei auch an das:

step hat folgendes geschrieben:
Der verzweifelte Versuch, Herrschaft und Kontrolle zu behalten, wird sowieso scheitern, dazu ist es viel zu leicht und (anfänglich) gewinnträchtig, etwas Intelligenteres, Effizienteres als den Menschen entstehen zu lassen.


step hat folgendes geschrieben:

worse hat folgendes geschrieben:
ich hoffe, es ist trotzdem ein bisschen klarer geworden.

Ja, ich denke, wir kommen Deiner Zusatzannahme mehr und mehr auf die Spur zwinkern

Schau mal bitte, was sich machen lässt. zwinkern
_________________
"Die Philosophen haben den Nihilismus immer nur überwunden, es kömmt darauf an, ihn zu vollenden."

- Ludger Lütkehaus


Murphy was here Cool
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
worse
Freizeit-Schizo



Anmeldungsdatum: 26.03.2017
Beiträge: 2323
Wohnort: Stoapfalz

Beitrag(#2135277) Verfasst am: 19.05.2018, 17:46    Titel: Antworten mit Zitat

zelig hat folgendes geschrieben:
Ich denke eine KI kann keinen Begriff von der Natur des Schmerzes zum Beispiel entwickeln. Sie könnte eine abstrakte Skala von weniger oder mehr verbotenen Verhaltensweisen entwickeln.

Nein, Verbote würden nichts nützen. Sie muss es lernen. Dazu muss sie a) uns mögen und b) wissen dass wir das nicht wollen. Dann wird sie versuchen herauszufinden was das ist, was ich mir... sehr schmerzhaft vorstelle. Dann wird sie es lassen uns Schmerz zuzufügen.

Die Frage ist, wie wir das in Maschinensprache übersetzen.

Sie muss a) mit uns kooperieren
und b) unsere Parameter kennen


Jo, weiter bin ich noch nicht. Pfeifen

Idee?
_________________
"Die Philosophen haben den Nihilismus immer nur überwunden, es kömmt darauf an, ihn zu vollenden."

- Ludger Lütkehaus


Murphy was here Cool
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 20588
Wohnort: Germering

Beitrag(#2135300) Verfasst am: 19.05.2018, 19:59    Titel: Antworten mit Zitat

worse hat folgendes geschrieben:
Wie willst Du einer anderen NI klar machen, dass Du eine NI bist? Einem Hund? Einem Raaben? Einem Schimpansen?

Ja, oder einem Alien. Aber interessanter ist es, in unserer Spezies zu bleiben. Beispiel: Person A ist intelligenter (oder hat die intelligentere Strategie) als Person B. A kann B manipulieren, erziehen, ausnutzen usw. - oder A kann B in einfachen Worten erklären, daß er/sie das aufgrund seiner Intelligenz könnte. Macht aber (fast) keiner.

worse hat folgendes geschrieben:
Du kannst es nur einer (näherungsweise) gleichwertigen menschlichen NI vermitteln. Die weiß es aber auch so, weil sie selbst eine ist.

Letzteres halte ich für ein Märchen. Wenn man sich nur anschaut, wie Konsumenten, Kinder, Gläubige usw. erzogen werden, wie schlaue Leute Geld machen usw. - das ist weit von Waffengleichheit entfernt. Wenn auch vielleicht nicht so extrem wie gegenüber einer zukünftigen KI.

worse hat folgendes geschrieben:
Kann es sein, dass meine verborgene Annahme ist, dass künstliche und natürliche Intelligenz die selben gemeinsamen Ziele verfolgen sollen?

Ja, das könnte Deine Annahme sein. Ich halte das allerdings für eher unrealistisch - schon rein spieltheoretisch gesehen sind divergierende Ziele ja nur zu vermeiden, wenn es gar keine Individuen gibt oder diese extrem gleichgeschaltet sind. Ich persönlich denke, das mglw. erreichbare Optimum wäre Interessensausgleich (ähnlich dem Präferenzutilitarismus), in dem die Interessen weniger intelligenter, aber leidensfähiger Wesen (z.B. Menschen und Tiere) hinreichend berücksichtigt werden, weil sich sonst durch indirekte Reziprozität Nachteile ergäben. Hier kommt übrigens zeligs Aspekt ins Spiel, ob andere Intelligenzen verstehen, was Leid ist - ich denke ja, siehe meine nächste Antwort an zelig.
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 20588
Wohnort: Germering

Beitrag(#2135303) Verfasst am: 19.05.2018, 20:10    Titel: Antworten mit Zitat

zelig hat folgendes geschrieben:
Ich denke eine KI kann keinen Begriff von der Natur des Schmerzes zum Beispiel entwickeln. ... die Kategorie Schmerz wäre immer fremd, so wie jede andere Empfindung auch. ... Wenn sie selber keinen Leib hat, um Angst, Einsamkeit oder Schmerz zu erfahren.

Ich meine, darüber haben wir schon mal gestritten, ich sehe das nun mal grundlegend anders.

Eine hinreichend modellbildungsfähige Intelligenz kann einen Begriff von der Natur und auch von der Bedeutung des Schmerzes für ein Wesen entwickeln, so wie sie einen Begriff von allem Anderen entwickeln kann, zu dem ihr hinreichend Daten zur Auswertung stehen. Ebenso auch von Bedürfnissen, Interessen, Zielen, Gefühlen und dergleichen. Die werden sehr schnell rausfinden, was eine halbwegs artgerechter Umgang mit Menschen wäre.
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
worse
Freizeit-Schizo



Anmeldungsdatum: 26.03.2017
Beiträge: 2323
Wohnort: Stoapfalz

Beitrag(#2135311) Verfasst am: 19.05.2018, 21:25    Titel: Antworten mit Zitat

Bingo! und damit sind wir bei der Diskussion darüber was möglich ist und was nicht, was ich für meinen Teil gern vermieden hätte, weil man das auch gut im anderen Thread besprechen kann. Ich hätte anhand der Fragestellung lieber gesehen, dass man sich erstmal darüber klar wird was wünschenswert ist und warum.

Aber gut, seis drum, es liegt ja auch an mir wies weitergeht.

Step, ich würde gern noch ein paar Worte zu dem sagen was Du schrubst, ich will das so nicht stehen lassen und habe schon den ein oder anderen Gedanken dazu.

Aber nicht mehr heute. Ich lass es jetzt erstmal sacken und wenn ich morgen oder so den Faden und die Gedanken dazu wiederfinde, oder mir was neues einfällt, dann schreib ich schon noch aus meiner Sicht was dazu.

Jetzt bin ich erschöpft und das Thema verlangt Akkuratesse.
_________________
"Die Philosophen haben den Nihilismus immer nur überwunden, es kömmt darauf an, ihn zu vollenden."

- Ludger Lütkehaus


Murphy was here Cool
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 20588
Wohnort: Germering

Beitrag(#2135315) Verfasst am: 19.05.2018, 21:55    Titel: Antworten mit Zitat

Alles klar, worse, better ist das.
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
fwo
wieder aufgetaucht



Anmeldungsdatum: 05.02.2008
Beiträge: 21468
Wohnort: nicht fest

Beitrag(#2135338) Verfasst am: 19.05.2018, 23:02    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
worse hat folgendes geschrieben:
Wie willst Du einer anderen NI klar machen, dass Du eine NI bist? Einem Hund? Einem Raaben? Einem Schimpansen?

Ja, oder einem Alien. Aber interessanter ist es, in unserer Spezies zu bleiben. Beispiel: Person A ist intelligenter (oder hat die intelligentere Strategie) als Person B. A kann B manipulieren, erziehen, ausnutzen usw. - oder A kann B in einfachen Worten erklären, daß er/sie das aufgrund seiner Intelligenz könnte. Macht aber (fast) keiner.

worse hat folgendes geschrieben:
Du kannst es nur einer (näherungsweise) gleichwertigen menschlichen NI vermitteln. Die weiß es aber auch so, weil sie selbst eine ist.

Letzteres halte ich für ein Märchen. Wenn man sich nur anschaut, wie Konsumenten, Kinder, Gläubige usw. erzogen werden, wie schlaue Leute Geld machen usw. - das ist weit von Waffengleichheit entfernt. Wenn auch vielleicht nicht so extrem wie gegenüber einer zukünftigen KI.
....

Ich finde es ja interessant, dass anscheinend immer davon ausgegangen wird, Aliens, die hier ankämen, wären uns zwangsläufig geistig überlegen. Was ist, wenn sie uns "nur" kulturell, d.h. auch technisch 2000 Jahre voraus wären? wenn wir uns die Beschleunigung der Entwicklung unserer Technik in den letzten 100 Jahren ansehen und das ohne besondere Weiterbeschleunigung nur als Weitergehen im momentanen Tempo versuchen vorzustellen, liegen 1000 Jahre bereits außerhalb unserer Vorstellungskraft, ohne, dass damit zwangsläufig eine Weiterentwicklung unserer natürlichen Intelligenz verbunden sein muss. Allerdings steigt mit Rechnerunterstützung auch die Produktivität unseres Geistes.

Diese Fremden müssten auch aus einer Evolution entstammen und auch sie könnten zu unserer Form von Intelligenz nur gekommen sein, indem sie wie wir das angeborene Wissen durch persönlich erworbenes und dann tradiertes ersetzt hätten - wir kennen dafür noch kein anderes System als eine abstrakte Sprache: Diese Gemeinsamkeit hätten wir also mit sehr hoher Sicherheit mit ihnen, und es ist überhaupt nicht zu begründen, warum der eine dem anderen nicht klar machen können sollte, warum er in irgendwelchen Bereichen des Denkens meint besser zu sein als der andere.

An der Stelle hinken nämlich alle Vergleiche mit der Differenz zwischen Menschen und anderen Tieren: Wir sind die einzige rezente Art auf diesem Planeten, die zu diesem abstrakten Denken fähig ist - allen anderen fehlt nach unserem bisherigen Wissen sowohl die abstrakte Sprache als auch die Tradition von Wissen in dieser Sprache.
_________________
Ich glaube an die Existenz der Welt in der ich lebe.

The skills you use to produce the right answer are exactly the same skills you use to evaluate the answer.

Es gibt keinen Gott. Also: Jesus war nur ein Bankert und alle Propheten hatten einfach einen an der Waffel.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 20588
Wohnort: Germering

Beitrag(#2135345) Verfasst am: 19.05.2018, 23:15    Titel: Antworten mit Zitat

fwo hat folgendes geschrieben:
Was ist, wenn sie uns "nur" kulturell, d.h. auch technisch 2000 Jahre voraus wären?

Dann sind sie entweder selbst KI oder haben sich solche zunutze gemacht, und zwar 2000 Jahre besser als wir. Oder 2 Mio.

fwo hat folgendes geschrieben:
wenn wir uns die Beschleunigung der Entwicklung unserer Technik in den letzten 100 Jahren ansehen und das ohne besondere Weiterbeschleunigung nur als Weitergehen im momentanen Tempo versuchen vorzustellen, liegen 1000 Jahre bereits außerhalb unserer Vorstellungskraft, ohne, dass damit zwangsläufig eine Weiterentwicklung unserer natürlichen Intelligenz verbunden sein muss. Allerdings steigt mit Rechnerunterstützung auch die Produktivität unseres Geistes.

Da stimme ich zu, außer daß die "Rechner" (Thema KI) eben nicht primär unterstützende Funktion haben müssen, sondern auch ein nächster Schritt der "Wesen" sein könnten.

fwo hat folgendes geschrieben:
Wir sind die einzige rezente Art auf diesem Planeten, die zu diesem abstrakten Denken fähig ist - allen anderen fehlt nach unserem bisherigen Wissen sowohl die abstrakte Sprache als auch die Tradition von Wissen in dieser Sprache.

Schon richtig, aber für KI gilt das ja eher nicht.
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Beiträge der letzten Zeit anzeigen:   
Neues Thema eröffnen   Neue Antwort erstellen   Drucker freundliche Ansicht    Freigeisterhaus Foren-Übersicht -> Wissenschaft und Technik Alle Zeiten sind GMT + 1 Stunde
Gehe zu Seite 1, 2, 3, 4, 5, 6, 7, 8, 9  Weiter
Seite 1 von 9

 
Gehe zu:  
Du kannst keine Beiträge in dieses Forum schreiben.
Du kannst auf Beiträge in diesem Forum nicht antworten.
Du kannst deine Beiträge in diesem Forum nicht bearbeiten.
Du kannst deine Beiträge in diesem Forum nicht löschen.
Du kannst an Umfragen in diesem Forum nicht mitmachen.



Disclaimer / Impressum


Powered by phpBB © 2001, 2005 phpBB Group