Freigeisterhaus Foren-Übersicht
 FAQFAQ   SuchenSuchen   MitgliederlisteMitgliederliste   NutzungsbedingungenNutzungsbedingungen   BenutzergruppenBenutzergruppen   LinksLinks   RegistrierenRegistrieren 
 ProfilProfil   Einloggen, um private Nachrichten zu lesenEinloggen, um private Nachrichten zu lesen   LoginLogin 

Können Tiere denken?
Gehe zu Seite Zurück  1, 2, 3 ... 6, 7, 8, 9, 10, 11  Weiter
 
Neues Thema eröffnen   Neue Antwort erstellen   Drucker freundliche Ansicht    Freigeisterhaus Foren-Übersicht -> Wissenschaft und Technik
Vorheriges Thema anzeigen :: Nächstes Thema anzeigen  
Autor Nachricht
swifty
auf eigenen Wunsch deaktiviert



Anmeldungsdatum: 26.03.2017
Beiträge: 5000

Beitrag(#2159769) Verfasst am: 14.12.2018, 21:00    Titel: Antworten mit Zitat

Zitat:
(1) Die Teilnahme am Straßenverkehr erfordert ständige Vorsicht und gegenseitige Rücksicht.

(2) Wer am Verkehr teilnimmt, hat sich so zu verhalten, dass kein anderer geschädigt, gefährdet oder, mehr als nach den Umständen unvermeidbar, behindert oder belästigt wird.



Auf den Arm nehmen


Edit: Quelle § 1 stvo


Zuletzt bearbeitet von swifty am 14.12.2018, 21:17, insgesamt einmal bearbeitet
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 22767
Wohnort: Germering

Beitrag(#2159770) Verfasst am: 14.12.2018, 21:02    Titel: Antworten mit Zitat

worse hat folgendes geschrieben:
Zitat:
(1) Die Teilnahme am Straßenverkehr erfordert ständige Vorsicht und gegenseitige Rücksicht.

(2) Wer am Verkehr teilnimmt, hat sich so zu verhalten, dass kein anderer geschädigt, gefährdet oder, mehr als nach den Umständen unvermeidbar, behindert oder belästigt wird.



Auf den Arm nehmen

touché Smilie

Vielleicht sollten wir das zum GG machen zwinkern ... ist ja ethischer geregelt als der Geschlechtsverkehr
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
swifty
auf eigenen Wunsch deaktiviert



Anmeldungsdatum: 26.03.2017
Beiträge: 5000

Beitrag(#2159774) Verfasst am: 14.12.2018, 21:18    Titel: Antworten mit Zitat

Ich hab mal irgendwo gelesen Absatz 2 stammt von Kant und ist eine Ur-form des kategorischen Imperativs.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Zumsel
registrierter User



Anmeldungsdatum: 08.03.2005
Beiträge: 4667

Beitrag(#2159776) Verfasst am: 14.12.2018, 22:10    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
Zumsel hat folgendes geschrieben:
Grundprinzipien wovon? Zur Feststellung dessen, was "nützlich" ist, bedarf es doch keiner Kategorie wie Ethik. Die "nützlichen", das heißt: die Verhältnisse der Individuen zueinander ordnenden Vorschriften, werden doch hinreichend über das Recht abgedeckt. Was genau soll hier Aufgabe der Ethik sein?

Ein reflektiert gesetztes Fundament der Rechte bzw. der Moral. Zum Beispiel sagt die StVO ja nichts darüber aus, warum große Autos nicht automatisch Vorfahrt haben.


Dann ist eine Bundestagsdiskussion zu einer Veränderung der StVO für dich also Teil des ethischen Diskurses? Ich bezweifel, dass man mit dieser Definition weit kommt. Im Grunde läuft das ja auf eine Gleichsetzung von ethischem und politischem Diskurs hinaus.

step hat folgendes geschrieben:
Das Grundgesetz steht schon auf einem ethisch erheblich fundamentaleren Niveau, obwohl es auch letztlich zu metaphysischen Ausflüchten greift.


Und erst bei diesen "Ausflüchten" wird's interessant, denn der Grund für die Notwendigkeit solcher Ausflüchte und ein Blick auf das, was sie verdecken, dürfte dem Wesen der Ethik deutlich näher kommen.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Zumsel
registrierter User



Anmeldungsdatum: 08.03.2005
Beiträge: 4667

Beitrag(#2159777) Verfasst am: 14.12.2018, 22:13    Titel: Antworten mit Zitat

worse hat folgendes geschrieben:
Ich hab mal irgendwo gelesen Absatz 2 stammt von Kant und ist eine Ur-form des kategorischen Imperativs.


Also was immer da deine Quelle war, die kannste bedenkenlos fürs Kaminfeuer nutzen Lachen
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
swifty
auf eigenen Wunsch deaktiviert



Anmeldungsdatum: 26.03.2017
Beiträge: 5000

Beitrag(#2159778) Verfasst am: 14.12.2018, 22:25    Titel: Antworten mit Zitat

Das war die Quelle.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Zumsel
registrierter User



Anmeldungsdatum: 08.03.2005
Beiträge: 4667

Beitrag(#2159779) Verfasst am: 14.12.2018, 22:40    Titel: Antworten mit Zitat

worse hat folgendes geschrieben:
Das war die Quelle.


Kenn ich nicht, aber der KI hat definitiv nix mit der Frage zu tun, durch welche Regeln man das menschliche Miteinander pragmatisch regelt.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
fwo
Caterpillar D9



Anmeldungsdatum: 05.02.2008
Beiträge: 25829
Wohnort: im Speckgürtel

Beitrag(#2159794) Verfasst am: 15.12.2018, 04:04    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
fwo hat folgendes geschrieben:
step hat folgendes geschrieben:
.... Und ich denke nicht, daß man sich - etwa bei der ethischen Personalitätsfrage - einfach auf die zweifellos vorhandenen funktional wesentlich unterschiedlichen Ebenen berufen kann.
Ich weiß leider nicht, worauf Du Dich mit dieser Aussage beziehst.

Man liest häufig den Argumentationsversuch, daß KIs keine ethischen Subjekte sein könnten, weil sie auf bestimmten Ebenen anders funktionierten als menschliche Personen. Ich wollte hier zum Ausdruck bringen, daß nicht alle funktionalen Ebenen für diese Frage relevant sind, sondern nur die, die ethische Kategorien hervorbringen. Wenn eine KI also ein Konzept davon hat oder ausbildet, was gut oder nützlich ist, und was anderen schadet, und wenn sie dies in Handlungsbewertungen einfließen läßt, dann reicht das aus, egal wie die funktionalen Ebenen darunter aussehen.

Kein Widerspruch.
_________________
Ich glaube an die Existenz der Welt in der ich lebe.

The skills you use to produce the right answer are exactly the same skills you use to evaluate the answer. Isso.

Es gibt keinen Gott. Also: Jesus war nur ein Bankert und alle Propheten hatten einfach einen an der Waffel (wenn es sie überhaupt gab).
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 22767
Wohnort: Germering

Beitrag(#2159808) Verfasst am: 15.12.2018, 13:32    Titel: Antworten mit Zitat

Zumsel hat folgendes geschrieben:
worse hat folgendes geschrieben:
Das war die Quelle.
Kenn ich nicht, aber der KI hat definitiv nix mit der Frage zu tun, durch welche Regeln man das menschliche Miteinander pragmatisch regelt.

(1) und (2) aus der StVO aber auch nicht.
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 22767
Wohnort: Germering

Beitrag(#2159810) Verfasst am: 15.12.2018, 13:53    Titel: Antworten mit Zitat

Zumsel hat folgendes geschrieben:
Dann ist eine Bundestagsdiskussion zu einer Veränderung der StVO für dich also Teil des ethischen Diskurses?

Wenn es um die Veränderung von (1), (2) geht: ja.

Zumsel hat folgendes geschrieben:
Im Grunde läuft das ja auf eine Gleichsetzung von ethischem und politischem Diskurs hinaus.

Ja natürlich. Da eine moderne Ethik nicht mehr deontologisch sein kann, ohne den aufgeklärten Verstand zu beleidigen, muß sie einen Diskurs um Interessen, Folgen usw. beinhalten, und ist damit (auch) politisch.

Zumsel hat folgendes geschrieben:
step hat folgendes geschrieben:
Das Grundgesetz steht schon auf einem ethisch erheblich fundamentaleren Niveau, obwohl es auch letztlich zu metaphysischen Ausflüchten greift.
Und erst bei diesen "Ausflüchten" wird's interessant, denn der Grund für die Notwendigkeit solcher Ausflüchte und ein Blick auf das, was sie verdecken, dürfte dem Wesen der Ethik deutlich näher kommen.

Zwei Beispiele für diese Ausflüchte:

1. Der Satz "Die Würde des Menschen ist unantastbar" - ist eigentlich falsch bzw. ein metaphysischer Anachronismus, da die Würde keine faktische Eigenschaft jedes Menschen ist (ebensowenig wie eine Seele), sondern eine vereinbarte Zuschreibung durch die Gemeinschaft. Ehrlicher wäre also, sich auf menschengemachte Grundrechte zu einigen, etwa "Jede Person hat ein Grundrecht auf würdige Behandlung". Dieser Ansatz konnte sich damals aber nicht durchsetzen, man hatte Angst vor zuviel Aufgabe des Absoluten, nachdem sich das Volk kurz zuvor als so unmündig und gemeingefährlich erwiesen hatte.

2. Das Böckenförde-Diktum, demgemäß die Verfassung die Werte, auf denen sie beruht, nicht selbst schaffen könne (ich ergänze: sondern dazu die Religion brauche) - ist ein Taschenspielertrick, denn wenn es die Verfassung nicht kann, kann es die Religion ebensowenig, wie wir heute wissen. Meiner Ansicht nach müßte man heute sagen: Die Verfassung kann die fundamentalen Ziele und Werte, die sie formuliert, nicht wirklich garantieren, sondern ist nur eine Vereinbarung aufgrund eines ethischen Diskurses.
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
zelig
Kultürlich



Anmeldungsdatum: 31.03.2004
Beiträge: 25404

Beitrag(#2159819) Verfasst am: 15.12.2018, 14:38    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
1. Der Satz "Die Würde des Menschen ist unantastbar" - ist eigentlich falsch bzw. ein metaphysischer Anachronismus, da die Würde keine faktische Eigenschaft jedes Menschen ist [...], sondern eine vereinbarte Zuschreibung durch die Gemeinschaft.


Die Argumentation verstehe ich nicht. Sind Zuschreibungen keine faktischen (und daher wirksame) Größen in einem sozialen Verband?
_________________
Es gibt kein richtiges Leben im falschen.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 22767
Wohnort: Germering

Beitrag(#2159824) Verfasst am: 15.12.2018, 14:53    Titel: Antworten mit Zitat

zelig hat folgendes geschrieben:
step hat folgendes geschrieben:
1. Der Satz "Die Würde des Menschen ist unantastbar" - ist eigentlich falsch bzw. ein metaphysischer Anachronismus, da die Würde keine faktische Eigenschaft jedes Menschen ist [...], sondern eine vereinbarte Zuschreibung durch die Gemeinschaft.
Die Argumentation verstehe ich nicht. Sind Zuschreibungen keine faktischen (und daher wirksame) Größen in einem sozialen Verband?

Wirksam (hoffentlich) schon - so wie etwa auch Freundschaften, Vermögen oder Intelligenz wirksam sind.

Vielleicht ist "keine faktische Eigenschaft" nicht klar genug formuliert. Ich meinte damit, daß die Würde des Menschen (a) faktisch nicht unantastbar ist, wie man ja täglich sehen kann, und (b) keine apriori-Eigenschaft des Menschen ist, obwohl die GG-Formulierung das suggeriert.
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
fwo
Caterpillar D9



Anmeldungsdatum: 05.02.2008
Beiträge: 25829
Wohnort: im Speckgürtel

Beitrag(#2159826) Verfasst am: 15.12.2018, 15:05    Titel: Antworten mit Zitat

zelig hat folgendes geschrieben:
step hat folgendes geschrieben:
1. Der Satz "Die Würde des Menschen ist unantastbar" - ist eigentlich falsch bzw. ein metaphysischer Anachronismus, da die Würde keine faktische Eigenschaft jedes Menschen ist [...], sondern eine vereinbarte Zuschreibung durch die Gemeinschaft.


Die Argumentation verstehe ich nicht. Sind Zuschreibungen keine faktischen (und daher wirksame) Größen in einem sozialen Verband?

Wie soll das funktionieren, wenn eigentlich keiner weiß, was unter dieser Zuschreibung wirklich zu verstehen ist?

Karl Kraus sagte dazu:
Ich habe mich viel und eingehend mit der Menschenwürde beschäftigt, habe in meinem Laboratorium die verschiedensten Untersuchungen darüber angestellt,und muß bekennen, daß die Versuche in den meisten Fällen schon wegen der Schwierigkeit der Beschaffung des Materials kläglich verlaufen sind. Die Menschenwürde hat die Eigentümlichkeit, immer dort zu fehlen, wo man sie vermutet, und immer dort zu scheinen, wo sie nicht ist.
_________________
Ich glaube an die Existenz der Welt in der ich lebe.

The skills you use to produce the right answer are exactly the same skills you use to evaluate the answer. Isso.

Es gibt keinen Gott. Also: Jesus war nur ein Bankert und alle Propheten hatten einfach einen an der Waffel (wenn es sie überhaupt gab).
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Zumsel
registrierter User



Anmeldungsdatum: 08.03.2005
Beiträge: 4667

Beitrag(#2159828) Verfasst am: 15.12.2018, 15:12    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
Zumsel hat folgendes geschrieben:
worse hat folgendes geschrieben:
Das war die Quelle.
Kenn ich nicht, aber der KI hat definitiv nix mit der Frage zu tun, durch welche Regeln man das menschliche Miteinander pragmatisch regelt.

(1) und (2) aus der StVO aber auch nicht.


Hmm, zumindest wird hier eine Handlungsanweisung für eine konkrete Situation definiert, genau das tut der KI aber ja gerade nicht. Das einzige, was der KI fordert, ist, dass die subjektiven Handlungsmaximen in Übereinstimmung mit dem vom handelndem Subjekt allgemein denk- und wollbaren stehen müssen. Man könnte vielleicht dafür argumentieren, dass sich die genannten Forderungen, umformuliert als Maximen (also z.B.: "Wenn ich Auto fahre, dann bemühe ich mich stets so zu fahren, dass...") für Verkehrsteilnehmer aus dem KI ergeben müssten, aber umgekehrt kann aus einer konkreten Maxime nicht der Inhalt des KI erschlossen werden, denn eine derartige Methode würde ja bloß auf eine Sammlung von für gut befundener Maximen hinauslaufen, die dann in Imperative übersetzt werden; "kategorisch" wäre an solchen Imperativen freilich nichts.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Zumsel
registrierter User



Anmeldungsdatum: 08.03.2005
Beiträge: 4667

Beitrag(#2159831) Verfasst am: 15.12.2018, 15:21    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
Ja natürlich. Da eine moderne Ethik nicht mehr deontologisch sein kann, ohne den aufgeklärten Verstand zu beleidigen,...


"Dialektik der Aufklärung" as its best

step hat folgendes geschrieben:
...muß sie einen Diskurs um Interessen, Folgen usw. beinhalten, und ist damit (auch) politisch.


Du kannst "Ethik" natürlich in diesem Sinne definieren, nur bezeichnet das Wort dann halt nicht mehr das Phänomen, für das es mal geschaffen wurde. Im Grunde wird der Begriff dadurch völlig verzichtbar, da er nichts mehr beinhaltet, was durch das Wort "Politik" nicht bereits abgedeckt wäre.

step hat folgendes geschrieben:
Zwei Beispiele für diese Ausflüchte:

1. Der Satz "Die Würde des Menschen ist unantastbar" - ist eigentlich falsch bzw. ein metaphysischer Anachronismus, da die Würde keine faktische Eigenschaft jedes Menschen ist (ebensowenig wie eine Seele), sondern eine vereinbarte Zuschreibung durch die Gemeinschaft. Ehrlicher wäre also, sich auf menschengemachte Grundrechte zu einigen, etwa "Jede Person hat ein Grundrecht auf würdige Behandlung".


Ja, könnte man - oder es hat eben nicht jede Person dieses Recht, so wie man auch eine StVO haben kann, in der es entweder Links- oder Rechtsverkehr gibt. Nur wird das eine eben üblicherweise als eine ethische Überlegung betrachtet, das andere nicht. Aber gut: für dich gibt es zwischen diesen beiden Überlegungen ja keinen prinzipiellen Unterschied.

step hat folgendes geschrieben:
2. Das Böckenförde-Diktum, demgemäß die Verfassung die Werte, auf denen sie beruht, nicht selbst schaffen könne (ich ergänze: sondern dazu die Religion brauche) - ist ein Taschenspielertrick, denn wenn es die Verfassung nicht kann, kann es die Religion ebensowenig, wie wir heute wissen. Meiner Ansicht nach müßte man heute sagen: Die Verfassung kann die fundamentalen Ziele und Werte, die sie formuliert, nicht wirklich garantieren, sondern ist nur eine Vereinbarung aufgrund eines ethischen Diskurses.


Läuft das nicht darauf hinaus, dass Verfassung an sich schon als ein "Taschenspielertrick" verstanden werden muss, der nur dazu dient, den politischen und damit prinzipiell relativen und veränderbaren Charakter jedweder Normen zu verschleiern, um dadurch bestimmte Normen so gut als möglichen dem politischen Diskurs zu entheben?
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
zelig
Kultürlich



Anmeldungsdatum: 31.03.2004
Beiträge: 25404

Beitrag(#2159832) Verfasst am: 15.12.2018, 15:29    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
Ich meinte damit, daß die Würde des Menschen (a) faktisch nicht unantastbar ist, wie man ja täglich sehen kann, und (b) keine apriori-Eigenschaft des Menschen ist, obwohl die GG-Formulierung das suggeriert.


OK. Mit der Hebung ins Faktische wird der Versuch unternommen, die konstituierende Bedeutung für unsere Gesellschaft zu betonen. Das finde ich eigentlich nicht schlecht.
_________________
Es gibt kein richtiges Leben im falschen.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
zelig
Kultürlich



Anmeldungsdatum: 31.03.2004
Beiträge: 25404

Beitrag(#2159834) Verfasst am: 15.12.2018, 15:31    Titel: Antworten mit Zitat

fwo hat folgendes geschrieben:
Wie soll das funktionieren, wenn eigentlich keiner weiß, was unter dieser Zuschreibung wirklich zu verstehen ist?


Das stimmt so nicht. Es gibt Konzepte, die hier im Forum sogar diskutiert wurden.
_________________
Es gibt kein richtiges Leben im falschen.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 22767
Wohnort: Germering

Beitrag(#2159838) Verfasst am: 15.12.2018, 15:57    Titel: Antworten mit Zitat

Zumsel hat folgendes geschrieben:
zumindest wird hier eine Handlungsanweisung für eine konkrete Situation definiert, genau das tut der KI aber ja gerade nicht. Das einzige, was der KI fordert, ist, dass die subjektiven Handlungsmaximen in Übereinstimmung mit dem vom handelndem Subjekt allgemein denk- und wollbaren stehen müssen. Man könnte vielleicht dafür argumentieren, dass sich die genannten Forderungen, umformuliert als Maximen (also z.B.: "Wenn ich Auto fahre, dann bemühe ich mich stets so zu fahren, dass...") für Verkehrsteilnehmer aus dem KI ergeben müssten, aber umgekehrt kann aus einer konkreten Maxime nicht der Inhalt des KI erschlossen werden, denn eine derartige Methode würde ja bloß auf eine Sammlung von für gut befundener Maximen hinauslaufen, die dann in Imperative übersetzt werden; "kategorisch" wäre an solchen Imperativen freilich nichts.

Ich würde Dir mal entgegenzukommen versuchen: Möglicherweise ist der KI noch etwas abstrakter, allgemeiner als z.B. "... hat sich so zu verhalten, dass kein anderer geschädigt ... wird" aus der StVO. Aber Letzteres ist schon deutlich mehr als eine "Handlungsanweisung für eine konkrete Situation", denn es formuliert eine fundamentalere Maxime. Man könnte sogar sagen, daß der Schritt von A1/A2 zu B größer ist als der von B zu C1/C2:

A1: Du sollst an einer roten Ampel halten, bis sie grün wird.
A2: Du sollst am siebenten Tage nicht arbeiten.
B: Handle (im Verkehr) stets so, daß kein Anderer geschädigt ... wird.
C1: Handle stets so, daß Du wollen köntest, es wäre allgemeines Gesetz.
C2: Handle stets so, daß die Gesamtinteressen maximiert werden.

Denn zwischen B und C1/C2 liegt ein relativ simpler Zusammenhang.

Übrigens ist auch der KI letztlich nicht wirklich kategorisch, aber das wäre doch zu sehr OT hier.
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
smallie
resistent!?



Anmeldungsdatum: 02.04.2010
Beiträge: 3613

Beitrag(#2159839) Verfasst am: 15.12.2018, 16:03    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
Bei "funktional identisch" ist auch immer die Frage, auf welcher Ebene. Ein Herd und ein Feuer sind funktional identisch auf der Ebene des Erhitzens / Kochens von Speisen, teiweise identisch auf der Ebene der Umwandlung von Energie in Wärme, und funktional unterschiedlich auf der Ebene des Energiezufuhr, des Wärmetransports usw.

Jo.


fwo hat folgendes geschrieben:
zelig hat folgendes geschrieben:
Ich plädiere nur für Zurückhaltung vor der These, KI und Gehirn seien funktional identisch.

Dann ist Dein Widerspruch zu mir allerdings unverständlich: Diese Identität kann niemand behaupten, denn die maschinelle Nachbildung menschlichen Denkens ist im Gegensatz zum Menschlichen Denken keine Tatsache, sondern ein Projekt.

Niemand? Ich hab' mich bei der Identität immer recht weit aus dem Fenster gelehnt. Pfeifen Immer mit der Einschränkung, daß Maschinen laufen, aber nicht um ihr Leben. zwinkern


Was mit "funktional identisch" gemeint ist, müßten wir noch auskarteln. Strenggenommen eigentlich das:
    Funktional identisch heißt: gleiche Eingaben erzeugen gleiche Ausgaben.

Leider ist das so streng, daß damit bereits menschliche Gehirne nicht mehr funktional identisch sind. Die selbe Musik, das selbe Buch, der selbe Film ruft unterschiedlichste Reaktionen hervor. Ebenso politische Themen.

Oder sehe ich das falsch und Menschen sind funktional identisch in diesem Sinn: wenn ich dasselbe erlebte hätte, wie du, würde ich so denken und fühlen wie du? (Konstitution, Intelligenz, Geschlecht ... mal außen vorgelassen.)



step hat folgendes geschrieben:
Ich erwarte, daß eine KI funktional identisch mit einem Gehirn sein könnte auf Ebenen wie: Mustererkennung, Abstraktion, logisches Schlußfolgern, Sprache, kreative Prozesse, sowie auch Ausbildung eines Selbstbildes und Theory of Mind.

Jetzt würd' mich interessieren, an welche Ebenen du denkst, auf denen KI und Gehirn sich unterscheiden. "Initiative" fällt mir ein, was allerdings durch "kreative Prozesse" abgedeckt ist.


PS:

zelig sprach im Nachbarthread von der solipsistischen KI. Kann es ein Selbst ohne ein Gegenüber geben? Ich denke nicht. Also braucht eine KI, die eine werden will, einen Körper, Sinneseindrücke, Schnittstellen zur Außenwelt.



step hat folgendes geschrieben:
Eventuell auch bestimmte abstrakte Aspekte eines neuronalen Netzwerks.

Siehe nächster Beitrag. HAL 9000 und biased minds.
_________________
"There are two hard things in computer science: cache invalidation, naming things, and off-by-one errors."
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
smallie
resistent!?



Anmeldungsdatum: 02.04.2010
Beiträge: 3613

Beitrag(#2159841) Verfasst am: 15.12.2018, 16:04    Titel: Antworten mit Zitat

fwo hat folgendes geschrieben:
Aber es kann dabei nur um die funktionale Nachbildung einer Ebene der menschlichen Datenverarbeitung gehen, nicht um die Funktion eines Gehirns in seiner Gesamtheit, das natürlich die Steuerung des Verhaltens des gesamten biologischen Apparates einschließlich seines Aufbaus, seiner Erhaltung und seiner Fortpflanzung besorgt. Das sind Aufgabenkreise, die die Maschine nicht hat.

Auf die Frage, was Menschen antreibt, gibt es viele Antworten. Was treibt eine KI an? Ich weiß es nicht - die Antwort "Ist einprogrammiert" fände ich seltsam, denn als Mensch kann man von seinem Programm abweichen. (?)


fwo hat folgendes geschrieben:
Insofern könnte eine Maschine klarer denken als Menschen, weil bei ihr z.B. die Gefahr nicht bestünde, dass die Gedanken sich beim Anblick eines schönen Weibes oder sogar nur dicker Möpse in Nichts auflösen.

So ungefähr hat die Kirche ihre Sexualmoral begründet. So begründet man Verschleierung. Hilft aber nicht in Sachen klarer denken. Denn:

HAL 9000 war asexuell und trotzdem psychotisch.



fwo hat folgendes geschrieben:
Aus der Sicht des Denkens sprechen wir da aber von einer Fehleranfälligkeit, die der evolutionäre Apparat haben muss, die maschinell nachzubilden der reine Blödsinn wäre. Diese besondere Qualität des menschlichen Denkens kann nicht sinnvoll in der Zielsetzung einer Nachbildung sein.

Ok. Sagen wir eine KI hat keinen Geschlechtstrieb, keine Territorialinstinkte, etc.

Trotzdem sehe ich ein grundlegenderes Problem, das nicht verschwindet, nur weil eine KI keine biologischen Instinkte hat. Denken ist eine heuristische Sache - und mit Heuristiken liegt man naturgemäß gelegentlich daneben.

(Marcellinus hat weiter oben Kahnemann angesprochen, das ist die Gegenthese. )

Zitat:
Homo Heuristicus: Why Biased Minds Make Better Inferences
Gerd Gigerenzer, Henry Brighton - 2009

Heuristiken sind effiziente kognitive Verfahren, die Information ignorieren. Im Gegensatz zur weitverbreiteten Sicht, daß weniger Verarbeitung Genauigkeit reduiert, zeigt das Studium der Heuristik, daß weniger Information, weniger Berechnung, weniger Zeit tatsächlich die Genauigkeit erhöhen kann.

Heuristics are efficient cognitive processes that ignore information. In contrast to the widely held view that less processing reduces accuracy, the study of heuristics shows that less information, computation, and time can in fact improve accuracy.

http://library.mpib-berlin.mpg.de/ft/gg/GG_Homo_2009.pdf

Meines Erachtens eine der wichtigsten Erkenntnisse der letzen Jahre.

Die Botschaft daraus: auch KIs sind nicht automatisch Musterschüler in Sachen kühler Rationalität.
_________________
"There are two hard things in computer science: cache invalidation, naming things, and off-by-one errors."
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 22767
Wohnort: Germering

Beitrag(#2159845) Verfasst am: 15.12.2018, 16:14    Titel: Antworten mit Zitat

zelig hat folgendes geschrieben:
Mit der Hebung ins Faktische wird der Versuch unternommen, die konstituierende Bedeutung für unsere Gesellschaft zu betonen. Das finde ich eigentlich nicht schlecht.

Auch wenn die Intention nachvollziehbar ist, finde ich die Vorgehensweise intellektuell unredlich, und auch nicht ganz ungefährlich, weil Metaphysisches heutzutage (zurecht) Gefahr läuft, gar nicht mehr ernstgenommen zu werden.

Wenn man die konstituierende bzw. zentrale Rolle der zugemessenen Würde für unser Konzept des Zusammenlebens hervorheben will, dann sollte man das genau so formulieren. Noch besser wäre, gleich zu definieren, worin die zugemessene Würde besteht, nämlich in (ebenfalls zugewiesenen) Grundrechten.

Zum Beispiel so in der Art:

"Im Bewußtsein der zentralen Bedeutung für das gesellschaftliche Zusammenleben legen wir fest: Jeder Person soll unter allen Umständen Personenwürde zukommen. Diese besteht in ihren Grundrechten ..."
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 22767
Wohnort: Germering

Beitrag(#2159849) Verfasst am: 15.12.2018, 16:26    Titel: Antworten mit Zitat

smallie hat folgendes geschrieben:
step hat folgendes geschrieben:
Ich erwarte, daß eine KI funktional identisch mit einem Gehirn sein könnte auf Ebenen wie: Mustererkennung, Abstraktion, logisches Schlußfolgern, Sprache, kreative Prozesse, sowie auch Ausbildung eines Selbstbildes und Theory of Mind.
Jetzt würd' mich interessieren, an welche Ebenen du denkst, auf denen KI und Gehirn sich unterscheiden. "Initiative" fällt mir ein, was allerdings durch "kreative Prozesse" abgedeckt ist.

Genau. Ich dachte eher an Ebenen, die stärker von der biologischen Substratbindung bestimmt werden, wie etwa limbisches System, Gefühle, Signaltransport, Plastizität, Energiehaushalt, Anbindung der Sinesorgane, genetische Grundlagen usw.

smallie hat folgendes geschrieben:
zelig sprach im Nachbarthread von der solipsistischen KI. Kann es ein Selbst ohne ein Gegenüber geben? Ich denke nicht. Also braucht eine KI, die eine werden will, einen Körper, Sinneseindrücke, Schnittstellen zur Außenwelt.

Sehe ich ähnlich. Interessant wäre auch die Frage, wie wichtig Ihresgleichen in dieser Außenwelt sind (Stichwort Theory of Mind, Sprache und Denken, Spieltheorie ...).
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
zelig
Kultürlich



Anmeldungsdatum: 31.03.2004
Beiträge: 25404

Beitrag(#2159854) Verfasst am: 15.12.2018, 16:35    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
zelig hat folgendes geschrieben:
Mit der Hebung ins Faktische wird der Versuch unternommen, die konstituierende Bedeutung für unsere Gesellschaft zu betonen. Das finde ich eigentlich nicht schlecht.

Auch wenn die Intention nachvollziehbar ist, finde ich die Vorgehensweise intellektuell unredlich, und auch nicht ganz ungefährlich, weil Metaphysisches heutzutage (zurecht) Gefahr läuft, gar nicht mehr ernstgenommen zu werden.

Wenn man die konstituierende bzw. zentrale Rolle der zugemessenen Würde für unser Konzept des Zusammenlebens hervorheben will, dann sollte man das genau so formulieren. Noch besser wäre, gleich zu definieren, worin die zugemessene Würde besteht, nämlich in (ebenfalls zugewiesenen) Grundrechten.

Zum Beispiel so in der Art:

"Im Bewußtsein der zentralen Bedeutung für das gesellschaftliche Zusammenleben legen wir fest: Jeder Person soll unter allen Umständen Personenwürde zukommen. Diese besteht in ihren Grundrechten ..."


Aber... das ist jetzt mehr Stilkritik, oder? Die armen Mütter und Väter des GG konnten ja nicht ahnen, welche Ansprüche an sie gestellt werden.
_________________
Es gibt kein richtiges Leben im falschen.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Skeptiker
"I can't breathe!"



Anmeldungsdatum: 14.01.2005
Beiträge: 16834
Wohnort: 129 Goosebumpsville

Beitrag(#2159859) Verfasst am: 15.12.2018, 16:55    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
Skeptiker hat folgendes geschrieben:
Ethik und Moral machen ohne Bewusstsein null Sinn.

Von "ohne Bewußtsein" war nicht die Rede.


Davon müsste aber m.E. aber die Rede sein, wenn man von Ethik und Moral sprechen will.

step hat folgendes geschrieben:
Skeptiker hat folgendes geschrieben:
Konzepte für das, was "gut" oder "nützlich" sei, sind irrelevant ohne Bewusstsein, ...

Dito.


Gut und nützlich für welches Bewusstsein, für welches bewusste Lebewesen? Das ist doch immer die Frage. Nützlich für welches Subjekt?

step hat folgendes geschrieben:
Skeptiker hat folgendes geschrieben:
... d.h. ohne Gefühle.


Diese Gleichsetzung lehne ich ab. Für eine sinnvolle Ethik wäre es zwar wohl u.a. nötig, daß eine KI eine Theory of Mind hat, sich also in andere Subjekte simulativ hineinversetzen kann.


O.k. Da kommt also nun doch das Subjekt ins Spiel. Mehr wollte ich eigentlich gar nicht anmerken dazu.

Also, wenn eine KI das beherrscht, dann muss sie nicht selber ein Subjekt sein, da gehe ich dann konform.

Alles andere wäre ja dann auch nur ein abstrakter Nutzen, den nichts und niemanden in diesem Universum interessieren würde.

step hat folgendes geschrieben:
Ich wüßte aber nicht, warum dazu unbedingt die Ausbildung menschlicher, sehr an Biologie gebundene Gefühle wie Liebe, Neid usw. notwendig wären.


In diesem Sinne müssen simulierte Emotionen - also Bedeutungsäquivalente für das Wohlergehen - vermutlich nicht.an eine biologisch-natürliche Basis gekoppelt sein.

step hat folgendes geschrieben:
"Ethik" bedeutet ja nichts anderes, als daß sich Wesen mit Interessen darauf einigen, was unter ihnen als "gut" bzw. "nützlich" gelten soll, ...


Das ist individuell etwas verschieden, auch wenn die gemeinsame Schnittmenge schon das Wesentlichere ist. Also Einigung ist möglich, jedoch wohl nur unter nicht zu unterschätzendem Diskussionsaufwand.

Außerdem ist es schwierig, sich über Bedürfnisse (- um mal diesen Begriff ins Spiel zu bringen -) zu einigen, die

a) den Menschen nicht ausreichend bewusst sind und/oder
b) den Menschen zwar als Wünsche bewusst, jedoch objektiv schädlich sind.

Anders gesagt: nicht alles, worauf sich Wesen mit Interessen einigen, muss für sie tatsächlich gut und nützlich sein. Insofern wäre also die Einigung selbst kein absoluter Wert als solcher.

Wenn, dann würde ich dies als fortlaufend stattfindende Diskussions- und Lernprozesse ansehen, die nicht mit einer einmal erreichten Einigung abschließen.

step hat folgendes geschrieben:
... damit sie effizienter, verläßlicher usw. kooperieren können.


Es sei denn, es handelt sich um Wesen, die kein Interesse an Kooperation haben. Dann müssten sie theoretisch ein solches Interesse entwickeln, weil es zwar nicht nicht ihrem Ursprungsinteresse entspricht, jedoch vernünftig ist.

Man kommt also bei diesen abstrakten theoretischen Erwägungen eigentlich unweigerlich in immer neue Themenfelder hinein und es bleibt einem nichts anderes übrig, als das Modell immer komplexer und komplexer zu bauen.

Die Idee einer empathiesimulierenden KI liegt wohl bei dir auch darin, eine Art Vermittlungsinstanz zwischen den Subjekten zu haben?

In der Realität der menschlichen Gesellschaft jedenfalls haben ethische Erwägungen derzeit eher wenig Chancen. Der Grund liegt einfach in zu starken Interessenantagonismen auf sehr vielen verschiedenen Ebenen. Die bestehende reale Gesellschaft ist kein Debattierclub.

Die Theorie glättet all dies, wenn sie sich z.B. nur auf Psychologie, Kommunikationstheorie und Informationstheorie bezieht.
_________________
Free Julian Assange! Lock up the Killers!

Populismus ist keine Verschwörungstheorie

Informationsstelle Militarisierung e.V.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden Website dieses Benutzers besuchen
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 22767
Wohnort: Germering

Beitrag(#2159862) Verfasst am: 15.12.2018, 17:12    Titel: Antworten mit Zitat

zelig hat folgendes geschrieben:
Aber... das ist jetzt mehr Stilkritik, oder? Die armen Mütter und Väter des GG konnten ja nicht ahnen, welche Ansprüche an sie gestellt werden.

Es gab damals tatsächlich Diskussionen über dieses Thema. Eine Minderheit wollte eine modernere, leicht "relativistische" Formulierung ohne Metaphysik. Aber die "Absolutisten" haben sich durchgesetzt. Lieber haben sie bewußt (!) eine Leerformel ("Würde") verwendet, als zuzugeben, daß Gottesrecht und Naturrecht nicht mehr als Letztbegründung gelten.

Siehe meine Kommentare hier zum Thema Menschenwürde im Zshg mit GBS, FJ Wetz, Birnbacher, Carlo Schmid, Renaissance des Naturrechtsgedankens unter Adenauer, Objektformel usw.:

https://freigeisterhaus.de/viewtopic.php?p=1340020#1340020
https://freigeisterhaus.de/viewtopic.php?p=1340324#1340324
https://freigeisterhaus.de/viewtopic.php?p=1340465#1340465
https://freigeisterhaus.de/viewtopic.php?p=1340528#1340528
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 22767
Wohnort: Germering

Beitrag(#2159864) Verfasst am: 15.12.2018, 17:31    Titel: Antworten mit Zitat

Skeptiker hat folgendes geschrieben:
step hat folgendes geschrieben:
Für eine sinnvolle Ethik wäre es zwar wohl u.a. nötig, daß eine KI eine Theory of Mind hat, sich also in andere Subjekte simulativ hineinversetzen kann.
O.k. Da kommt also nun doch das Subjekt ins Spiel. Mehr wollte ich eigentlich gar nicht anmerken dazu. Also, wenn eine KI das beherrscht, dann muss sie nicht selber ein Subjekt sein, da gehe ich dann konform.

Wenn eine KI das beherrscht, dann ist sie doch ein Subjekt, würde ich sagen. Oder was fehlt ihr wesentlich dazu?

Skeptiker hat folgendes geschrieben:
Also Einigung ist möglich, jedoch wohl nur unter nicht zu unterschätzendem Diskussionsaufwand.

Ja - je unterschiedlicher, desto schwieriger.

Skeptiker hat folgendes geschrieben:
... Anders gesagt: nicht alles, worauf sich Wesen mit Interessen einigen, muss für sie tatsächlich gut und nützlich sein. Insofern wäre also die Einigung selbst kein absoluter Wert als solcher.

Es gibt keine absoluten Werte, auch die Einigung ist keiner. Sie ist aber noch das Beste, was wir machen können, in jedem Fall besser als eine Clique, die festlegt, was gut und nützlich ist.

Skeptiker hat folgendes geschrieben:
Wenn, dann würde ich dies als fortlaufend stattfindende Diskussions- und Lernprozesse ansehen, die nicht mit einer einmal erreichten Einigung abschließen.

Sehe ich auch so.

Skeptiker hat folgendes geschrieben:
Die Idee einer empathiesimulierenden KI liegt wohl bei dir auch darin, eine Art Vermittlungsinstanz zwischen den Subjekten zu haben?

Ich verfolge keine Idee von Empathiesimulation. Simuliert wird nicht die Empathie, sondern der Bewußtseinszustand des Gegenübers, genau wie in unseren Gehirnen. Eine KI (unter bestimmten Bedingungen, siehe auch smallies Beitrag) bildet also echte Empathie aus (im Sinne einer Theory of Mind usw.), auch wenn sie nicht die biologische Substratbindung hat - also die KI simuliert den Schmerz beim Zuschauen auf andere Weise, als Dein Gehirn den Schmerz beim Zuschauen simuliert.

Skeptiker hat folgendes geschrieben:
In der Realität der menschlichen Gesellschaft jedenfalls haben ethische Erwägungen derzeit eher wenig Chancen. Der Grund liegt einfach in zu starken Interessenantagonismen auf sehr vielen verschiedenen Ebenen. Die bestehende reale Gesellschaft ist kein Debattierclub.

Da gebe ich Dir teilweise recht, auch wenn ich die Formulierung zu abfällig finde. Andererseits haben ethische Diskurse und Überlegungen auch schon einiges erreicht, vor allem wenn sie auf staatlicher Ebene in einklagbare Rechte umgesetzt wurden.
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Zumsel
registrierter User



Anmeldungsdatum: 08.03.2005
Beiträge: 4667

Beitrag(#2159868) Verfasst am: 15.12.2018, 17:44    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
Ich würde Dir mal entgegenzukommen versuchen: Möglicherweise ist der KI noch etwas abstrakter, allgemeiner als z.B. "... hat sich so zu verhalten, dass kein anderer geschädigt ... wird"


Das ist keine Frage des Abstraktionsgrades.

step hat folgendes geschrieben:
Aber Letzteres ist schon deutlich mehr als eine "Handlungsanweisung für eine konkrete Situation", denn es formuliert eine fundamentalere Maxime.


Spielt eigentlich keine Rolle, denn der KI ist ja keine Maxime, sondern, wenn man so will, eine Prüfinstanz für Maximen.

step hat folgendes geschrieben:
A1: Du sollst an einer roten Ampel halten, bis sie grün wird.
A2: Du sollst am siebenten Tage nicht arbeiten.
B: Handle (im Verkehr) stets so, daß kein Anderer geschädigt ... wird.
C1: Handle stets so, daß Du wollen köntest, es wäre allgemeines Gesetz.
C2: Handle stets so, daß die Gesamtinteressen maximiert werden.

Denn zwischen B und C1/C2 liegt ein relativ simpler Zusammenhang.


Oh, der Zusammenhang zu C1 ist durchaus nicht so simpel, das mag auf den ersten Blick so aussehen, weil die Formulierung ein bisschen utilitaristisch klingt, irgendwie nach "goldene Regel", so ist die Naturrechtsformel aber nun mal eindeutig nicht gemeint.

step hat folgendes geschrieben:
Übrigens ist auch der KI letztlich nicht wirklich kategorisch, aber das wäre doch zu sehr OT hier.


Wenn man ihn utilitaristisch deutet natürlich nicht, in dem Fall wäre er einfach ein hypothetischer Imperativ und damit recht uninteressant - wie der Utilitarismus eben auch.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 22767
Wohnort: Germering

Beitrag(#2159875) Verfasst am: 15.12.2018, 18:27    Titel: Antworten mit Zitat

Zumsel hat folgendes geschrieben:
step hat folgendes geschrieben:
Übrigens ist auch der KI letztlich nicht wirklich kategorisch, aber das wäre doch zu sehr OT hier.
Wenn man ihn utilitaristisch deutet natürlich nicht, in dem Fall wäre er einfach ein hypothetischer Imperativ und damit recht uninteressant - wie der Utilitarismus eben auch.

Tja, ich dagegen finde Metaphysik total unspannend - und vor allem gefährlich.
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Zumsel
registrierter User



Anmeldungsdatum: 08.03.2005
Beiträge: 4667

Beitrag(#2159888) Verfasst am: 15.12.2018, 19:20    Titel: Antworten mit Zitat

step hat folgendes geschrieben:
Zumsel hat folgendes geschrieben:
step hat folgendes geschrieben:
Übrigens ist auch der KI letztlich nicht wirklich kategorisch, aber das wäre doch zu sehr OT hier.
Wenn man ihn utilitaristisch deutet natürlich nicht, in dem Fall wäre er einfach ein hypothetischer Imperativ und damit recht uninteressant - wie der Utilitarismus eben auch.

Tja, ich dagegen finde Metaphysik total unspannend - und vor allem gefährlich.


Also, wenn du mit "Metaphysik" sowas die lieben Englein meinst: die sind nicht die einzige Alternative zur englischen Krämermoral...
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
step
registriert



Anmeldungsdatum: 17.07.2003
Beiträge: 22767
Wohnort: Germering

Beitrag(#2159903) Verfasst am: 15.12.2018, 19:41    Titel: Antworten mit Zitat

Zumsel hat folgendes geschrieben:
step hat folgendes geschrieben:
Zumsel hat folgendes geschrieben:
step hat folgendes geschrieben:
Übrigens ist auch der KI letztlich nicht wirklich kategorisch, aber das wäre doch zu sehr OT hier.
Wenn man ihn utilitaristisch deutet natürlich nicht, in dem Fall wäre er einfach ein hypothetischer Imperativ und damit recht uninteressant - wie der Utilitarismus eben auch.
Tja, ich dagegen finde Metaphysik total unspannend - und vor allem gefährlich.
Also, wenn du mit "Metaphysik" sowas die lieben Englein meinst: die sind nicht die einzige Alternative zur englischen Krämermoral...

Nee, mit "Metaphysik" meine ich hier das, was eine "Prüfinstanz" für menschengemachte Maximen zu etwas prinzipiell Anderem machen soll als einer menschengemachten Obermaxime. Kants deontologische Restkontamination sozusagen.
_________________
Was ist der Sinn des Lebens? - Keiner, aber Leere ist Fülle für den, der sie sieht.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Beiträge der letzten Zeit anzeigen:   
Neues Thema eröffnen   Neue Antwort erstellen   Drucker freundliche Ansicht    Freigeisterhaus Foren-Übersicht -> Wissenschaft und Technik Alle Zeiten sind GMT + 1 Stunde
Gehe zu Seite Zurück  1, 2, 3 ... 6, 7, 8, 9, 10, 11  Weiter
Seite 7 von 11

 
Gehe zu:  
Du kannst keine Beiträge in dieses Forum schreiben.
Du kannst auf Beiträge in diesem Forum nicht antworten.
Du kannst deine Beiträge in diesem Forum nicht bearbeiten.
Du kannst deine Beiträge in diesem Forum nicht löschen.
Du kannst an Umfragen in diesem Forum nicht mitmachen.



Impressum & Datenschutz


Powered by phpBB © 2001, 2005 phpBB Group