388. Grasping Slippery Things – 391. Heading Toward Morality

388. Grasping Slippery Things

Yudkowsky zerlegt eine (gar nicht schlechte) Erklärung des freien Willens von Brandon Reinhart.

389. Ghosts in the Machine

Angehende Programmierer denken manchmal, dass der Computer automatisch versteht, was sie mit ihren Befehlen eigentlich meinen. Sie tippen dann Anweisungen wie “Pass auf, dass dein Gegner dich nicht schachmatt setzt”, was natürlich lächerlich ist. Es gibt keinen kleinen Geist innerhalb des Computers, der sich überlegt was deine Eingaben bedeuten könnten.

Ähnlich verhält es sich mit vielen Einwänden gegen die Erschaffung einer FAI. Die meisten denken, dass die AI dann “gezwungen” wird, freundlich zu sein. Sie sei gewissermaßen unser Sklave und dazu “verdammt” uns zu dienen.

Aber es gibt keinen Geist innerhalb der KI, der eigentlich ganz andere Präferenzen hat, als freundlich gegenüber Menschen zu sein, und lieber, sagen wir, Büroklammern herstellen würde, und nur durch ein “Freundlichkeits-Modul” aufgehalten wird. Das Programm ist die KI. Eine wirklich freundliche KI wünscht freundlich gegenüber der Menschheit zu sein, weil das eben ihren Idealen und Präferenzen entspricht.

390. LA-602 vs. RHIC

In der heutigen Zeit kann man leider nicht mehr eingestehen, dass bei manchen wissenschaftlichen Unternehmungen (oder auch politischen Interventionen) auch nur das kleinste Risiko besteht.

Somit ist der RHIC, ein Bericht von Physikern über die angeblichen Risiken des LHC, mehr ein Public-Relations-Dokument, das jegliches Risiko abstreitet, als eine wissenschaftliche Analyse.

Die einzige Chance, wahrhaft objektive Untersuchungen durchzuführen wäre unter Auschluss der imbezilen Massen Öffentlichkeit.

-> Demokratie ist überbewertet.

391. Heading Toward Morality

Yudkowsky will in den nächsten Monaten das verwirrendste aller möglichen Probleme erklären: Ethik, Meta-Ethik um genau zu sein.

Artificial Intelligence melts people’s brains.  Metamorality melts people’s brains.  Trying to think about AI and metamorality at the same time can cause people’s brains to spontaneously combust and burn for years, emitting toxic smoke—don’t laugh, I’ve seen it happen multiple times.

 

Leave a Reply