162.Terminal Values and Instrumental Values;163.Evolving to Extinction

162.Terminal Values and Instrumental Values

Yudkowsky schreibt einen sehr langen Post über die Unterscheidung von Zielen und Mitteln.

Deine Nützlichkeitsfunktion schreibt verschiedenen “Zuständen der Welt” verschiedene Werte zu. Handlungen führen mit gewissen Wahrscheinlichkeiten zu diesen Zuständen. Handlungen haben als Erwartungswert.

Wenn eine Handlung immer zu einem gewissen Zustand führt, der nach deiner Nützlichkeitsfunktion wertvoll ist, dann ist diese Handlung ein Mittel zum Ziel. Führt sie nicht mehr zu diesem Zustand, hat sie auch keinen positiven Erwartungswert mehr.

Nicht viel neues hier.

163. Evolving to Extinction

Evolution dient nicht dem Wohlergehen der Spezies. Es geht ihr nur um Häufigkeiten von Genen.

Angenommen, es gäbe ein “Frodo-Gen”, das seinen Träger dazu veranlassen würde, sich selbst zu opfern um die gesamte Spezies zu retten. Dieses Gen würde ziemlich schnell ausgerottet werden, und mit ihr (falls in der Umwelt oft genug Ereignisse geschehen, die das Überleben der Spezies bedrohen) die gesamte Spezies.

The “bystander effect” is that, when someone is in trouble, solitary individuals are more likely to intervene than groups.  A college student apparently having an epileptic seizure was helped 85% of the time by a single bystander, and 31% of the time by five bystanders.  I speculate that even if the kinship relation in a hunter-gatherer tribe was strong enough to create a selection pressure for helping individuals not directly related, when several potential helpers were present, a genetic arms race might occur to be the last one to step forward.  Everyone delays, hoping that someone else will do it.  Humanity is facing multiple species-level extinction threats right now, and I gotta tell ya, there ain’t a lot of people steppin’ forward.  If we lose this fight because virtually no one showed up on the battlefield, then – like a probably-large number of species which we don’t see around today – we will have evolved to extinction.

Advertisements
This entry was posted in Lesswrong Zusammenfassungen. Bookmark the permalink.

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s