241. Something to Protect; 242. Newcomb’s Problem and the Regret of Rationality

241. Something to Protect

Man sollte Rationalität nicht um seiner selbst willen schätzen. Sie ist nur ein Mittel um deine Ziele zu erreichen. Wenn du etwas um jeden Preis willst, dann suchst du nach dem besten Weg dies zu erreichen, und eine richtige “Landkarte der Realität” zu haben, ist eben (fast) immer extrem nützlich. Deshalb wollen wir Rationalität.

Ziele -> Wahrheit (“korrekte Landkarte der Wirklichkeit”) -> Rationalität.

242. Newcomb’s Problem and the Regret of Rationality

Jetzt begeben wir uns in die verwirrenden Lande der Entscheidungstheorie. In diesem Post geht es um Newcombs Problem:

Angenommen eine Superintelligenz “Omega” bietet dir zwei Boxen an. Eine ist transparent und mit 1000 Dollar gefüllt. Eine ist undurchsichtig und entweder mit einer Millionen Dollar gefüllt oder leer. Omega hat dieses Spiel schon 1000 mal durchgeführt, und immer richtig vorhergesagt, ob der menschliche Gegenspieler eine oder zwei Boxen öffnet. Immer, wenn er eine Box geöffnet hat, hat sie eine Millionen Dollar in die undurchsichtige Box geleget. Immer, wenn der Mensch beide Boxen geöffnet hat, war die Box leer.

Öffnest du eine oder beide Boxen?

Es gibt inzwischen eine riesige Literatur über dieses Problem. Die einen sagen:

“Natürlich öffne ich eine Box. Eine Million ist mehr wert als tausend Dollar.” Das sind die Anhänger evidenzbasierter Entscheidungstheorie (oder wie sie auch im Deutschen heißen). Sie schauen sich die verfügbaren Indizien an (die 1000 Verhaltensweisen, die Omega richtig vorhergesagt hat), und schließen dann, dass es umso wahrscheinlicher ist, dass man eine Millionen gewinnt, wenn man sich so verhält wie die Gewinner in der Vergangenheit.

Die Vertreter kausaler Entscheidungstheorien erwidern: “Das ist unsinnig. Omega ist ja schon weg, und in der 2.ten Box liegt entweder bereits eine Millionen oder eben nicht. Egal, wie du dich entscheidest, du kannst die Vergangenheit nicht beeinflussen. Das Vorhandensein der 1 Millionen Dollar steht in keiner kausalen Verbindung mit deiner Entscheidung im Hier und Jetzt. Und da du 1001000 Dollar gewinnst, wenn du beide Boxen öffnest, und die Box 1 Millionen enthielt und nur 1000000 Dollar, wenn du nur eine Box öffnest und 1000 Dollar gewinnst, wenn du beide Boxen öffnest, und 0 Dollar gewinnst, wenn du nur eine Box öffnest, wenn die Box leer war. Es ist also immer besser zwei Boxen anstatt einer zu öffnen.”

Yudkowsky meint, dass Rationalisten sich natürlich dazu entscheiden sollten in Newcombähnlichen Situationen nur eine Box zu öffnen. Denn Rationalisten sollten gewinnen.

Es erscheint irrational nur eine Box zu wählen? Pfeif drauf! Es geht darum zu gewinnen, und nicht darum einen rationalen Eindruck auf andere zu machen.

Leave a Reply