239. The Intuitions Behind Utilitarianism; 240. Trust in Bayes

239. The Intuitions Behind Utilitarianism

Yudkowsky erklärt in diesem Post erstmals, wenn auch nur sehr grob, seine Metaehtik.

Er war anscheinend lange verwirrt, was dieses Thema anbelangt, bevor er ihm ein Licht aufgegangen ist. (Gut zu wissen)

Yudkowsky versteht unter Intuitionen “kognitive Bausteine”, aus denen sowohl lange, verbale Argumente und schnelle, perzeptuelle Argumente aufgebaut sind. Intuitionen sind somit kein Gegensatz zu Logik oder Rationalität.

Unter Moralität versteht Yudkowsky das Renormalisieren und Herausbilden von innerer Konsistenz der eigenen Intuitionen. Wenn man alle Intuitionen weglässt, bleibt ein Stein übrig. Wenn man sich weigert, einzelne Intuitionen zu modifizieren und die reflektiv begründbaren vorzuziehen, bleibt man ein ärgerlicher Steinzeitmensch, der in zyklischen und einander widersprechenden Präferenzen gefangen ist.

“Intuition” in diesem Sinne ist also kein Schimpfwort. Ja, wenn es um Moralität geht, bilden diese Intuitionen gewissermaßen die Axiome, wie z.B. auch der Modus Ponens. Doch wie dieser bleiben die rationalen Intuitionen auch nach längerer Überlegung, Beurteilung aller möglichen Implikationen und weiterer Formalisierung einleuchtend und konsistent.

Warum ist Yudkowsky also Utilitarist? Auf welche Intuitionen gründen er diese Weltsicht?

Nun, wenn man lange über moralische Dilemma, Metaethik und dergleichen nachdenkt, kommt man früher oder später zu der Einsicht, dass alle anderen moralischen Theorien inkonsistent und inkohärent sind. Manchmal erkennt man auch eigene Denkfehler bzw. inkohärente Intuitionen (was nicht überraschen sollte, da unser Gehirn “korrumpierte Hardware” ist). So fühlt sich moralischer Fortschritt an.

Yudkowsky unterscheidet weiter zwischen zwei moralischen Kategorien. Einerseits gibt es moralische Ziele, andererseits moralische Wege. Es geschieht häufig genug, dass wir etwas bestimmtes wollen, und nachdem wir es erhalten haben, merken, dass es doch gar nicht so toll war. So fühlen sich moralische Fehler an.

Menschen wissen schon selten genug, was sie eigentlich wollen, doch noch häufiger verirren sie sich auf “den moralischen Wegen” dorthin.

Zeigt die Tatsache, dass Menschen genau so viel für die Rettung von einem Kind wie für die Rettung von acht Kindern zahlen würden, dass ein Menschenleben so viel wert ist wie acht? (Scope Insensitivity) Wird dadurch irgendeine profunde, moralische Weisheit offenbar? Nein, das ergibt einfach keinen Sinn. Dein Gehirn kann einfach nicht multiplizieren, deshalb fühlt sich die ein Menschenleben genauso wertvoll an wie acht.

Viele Leute behaupten außerdem, dass Menschenleben unendlich viel wert sind, was ihre gezeigten Präferenzen widerlegen, das sie z.B. mit über 100 auf Autobahn fahren, wenn sie es eilig haben. Aber die meisten Menschen sind auch scheinheilige “Signaling-Maschinen”.

Schön und gut, aber ehrlich gesagt, hat er viele Sachen noch nicht erklärt, aber das war auch nicht seine Intention, da müssen wir auf die Metaethik Sequenz warten.

240. Trust in Bayes

Wenn du auf ein angebliches Paradox in der Wahrscheinlichkeitstheorie stößt, solltest du einfach weiter an Bayes glauben, er hat es sich verdient. Wahrscheinlich hast du einen mathematischen oder logischen Fehler gemacht. Nicht die Kunst hat dich betrogen, sondern du hast die Kunst betrogen.

Leave a Reply