267. Entropy, and Short Codes – 269. Superexponential Concepts and Simple Words

267. Entropy, and Short Codes

Zuerst ein bisschen technischer Post. Aber hier ist die Hauptaussage:

Es ist praktisch häufig verwendete Symbole kurz zu gestalten. Es ist wahrscheinlich kein Zufall, dass ein häufig verwendetes Wort wie “und” relativ kurz und “Phänomenologie” dagegen relativ lang ist, Phänomenologie nicht umgekehrt.

268. Mutual Information, and Density in Thingspace

Zuerst technischer Post über (Shannon-)Entropie und Transinformation.

Hauptaussage: Es lohnt sich nur eine Kategorie zu bilden, wenn man von einer Eigenschaft dieser Kategorie auf eine andere mit hoher Wahrscheinlichkeit schließen kann. Z.B. macht die Kategorie “Vogel” Sinn, da wenn ein Ding einen Schnabel,Federn hat und zwitschert, es wahrscheinlich auch fliegen kann, Flügel hat, 2 Augen hat, usw.

269. Superexponential Concepts and Simple Words

Kategoriengrenzen sollten auch einfach sein. Es macht wenig Sinn, zwar eine exakte Definition von “Tiger” zu haben, die aber dafür 300 Seiten lang ist.

 

Leave a Reply