drafting "Facing Reality" review coda
[Ultimately_Untrue_Thought.git] / content / drafts / book-review-facing-reality.md
index a0c415e..6f91747 100644 (file)
@@ -88,20 +88,17 @@ I don't know.
 
 When scholars like Murray write about "intelligence", they're talking about a summary of the differences _between_ humans: we can measure how well different humans perform at various verbal or spatial or mathematical thinking-tasks, and it turns out that, on average, people who are good at one thinking-task also tend to be good at others. Graph all the test scores on an appropriately high-dimensional plot, and the longest axis of the hyperellipsoid represents "general intelligence"—the dimension of human variation that we recognize as "smart" _vs._ "dumb."
 
-But this particular dick-measuring contest takes place in the context of a human civilization; it doesn't tell us very much about "intelligence" as a natural phenomenon—the capacity of an agent to achieve goals across a variety of environments. Maybe some humans read better than others, but from the standpoint of eternity, reading itself is a _recent_ cultural practice [(invented only 3500 years ago)](https://en.wikipedia.org/wiki/Literacy#Prehistoric_and_ancient_literacy) that piggybacks off of natural language capabilities that _all_ developmentally normal humans share. Cats and crows and octopuses _do_ have "intelligence"—various cognitive abilities that let them integrate sensory information into a model of their environment, allocate attention and make decisions to seek prey or avoid predators, _&c._, but you can't give them a [Stanford–Binet IQ test](https://en.wikipedia.org/wiki/Stanford%E2%80%93Binet_Intelligence_Scales), which was designed around the _specific_ set of abilties that humans have in common. But, in principle, humans aren't special.
-
-And yet—it seems like humans _are_ special, in some ways. Of all the creatures on [the tree of life](https://en.wikipedia.org/wiki/Tree_of_life_(biology)), our lineage "took over the world" in the sense that if humans want a resource that cats or crows or octopuses are using, the nonhuman side of the ensuing conflict is predictably going to lose. This is not because humans are stronger or have sharper teeth than other creatures, but because of something about our "intelligence" in the natural-phenomenon (not the IQ-test variation) sense. It's not even necessarily about _individual_ human intelligence being a formidable force: given no tools and no friends, and confronted by a hungry lion at ten paces, it doesn't seem easy to survive just by thinking of some incredibly clever plan.
-
-
-
-
-
-
+But this particular dick-measuring contest takes place in the context of a human civilization; it doesn't tell us very much about "intelligence" as a natural phenomenon—the capacity of an agent to achieve goals across a variety of environments. Maybe some humans read better than others, but from the standpoint of eternity, reading itself is a _recent_ cultural practice [(invented only 3500 years ago)](https://en.wikipedia.org/wiki/Literacy#Prehistoric_and_ancient_literacy) that piggybacks off of natural language capabilities that _all_ developmentally normal humans share. Cats and crows and octopuses _do_ have "intelligence"—various cognitive abilities that let them integrate sensory information into a model of their environment, allocate attention, execute motor plans to seek prey or avoid predators, _&c._, but you can't give them a [Stanford–Binet IQ test](https://en.wikipedia.org/wiki/Stanford%E2%80%93Binet_Intelligence_Scales), which was designed around the _specific_ set of abilties that humans have in common. But, in principle, humans aren't special.
 
+And yet—it seems like humans _are_ special, in some ways. Of all the creatures on [the tree of life](https://en.wikipedia.org/wiki/Tree_of_life_(biology)), our lineage "took over the world" in the sense that if humans want a resource that cats or crows or octopuses are using, the nonhuman side of the ensuing conflict is predictably going to lose. (To the extent that we don't usually think of ourselves as engaging in a "conflict". Animals aren't _enemies_; they're just in the way.) This is not because humans are stronger or have sharper teeth than other creatures, but because of something about our "intelligence" in the natural-phenomenon (not the IQ-test variation) sense. It's not even necessarily about _individual_ human intelligence being a particularly formidable force: given no tools and no friends, and confronted by a hungry lion at ten paces, it doesn't seem easy to survive by thinking of some incredibly clever plan. If you had a gun, you could shoot the lion, but [no one individual knows how to make a gun](https://en.wikipedia.org/wiki/I,_Pencil) all by themselves, starting from nothing.
 
+Rather, the power of humanity over the rest of the biosphere has to do with our species having evolved a suite of cognitive capabilities adequate to support the accumulation of culture and technology. If you already had a spear, you might be able to think of of some incredibly clever plan to get a slightly sharper spear—which everyone in your tribe could imitate. And so on up the tech tree.
 
+You can think of events on Earth before the rise of human civilization as mostly being shaped by evolution by natural selection: new complex ordered phenomena arose as the product of genetic mutations that allowed their bearers to survive and reproduce, thereby increasing the frequency of the mutation. Natural selection is a form of _optimization_: the accumulation of beneficial mutations creates functionality that looks "designed" for the purposes of reproduction, because they were selected for existence on that basis.
 
+But _after_ the rise of civilization, biological evolution stopped being the dominant force shaping planetary events, just because cultural evolution runs on a faster timescale. If some other species were on the evolutionary path towards developing the capabilities that would eventually result in them developing their own civilization, it basically "wouldn't matter". 
 
+To the extent that our civilization is better for us to live in than the state of nature, it's because civilization is the product of the cumulative optimization of humans trying to acheive their goals: vast, complex infrastructure and economies look "designed" to cater to human needs—supermarkets to feed us, hospitals to heal us, cars and airplanes to take us where we want to go—because we selected them for existence on that basis.
 
 
 
@@ -125,10 +122,6 @@ https://www.insidehighered.com/news/2021/03/12/georgetown-terminates-law-profess
 
 
 
-
-
-]
-
 "rotation" of the class axis, as people sort by cognitive ability directly rather than race??
 
 Paul Christiano abstract story about what kind of agents steer the future
@@ -152,6 +145,9 @@ https://ny.chalkbeat.org/2017/3/13/21111588/it-s-official-new-york-s-prospective
 
 For the Singularity https://www.overcomingbias.com/2021/05/the-artificial-life-taboo-in-biology.html
 
+eugenicists treated blindness as hereditary!!!!
+https://www.datasecretslox.com/index.php/topic,4082.0.html
+
 From my notebook circa November 2007—
 I think I'm coming to terms with the fact that I'm male all the way down, no matter what I say or do or even feel. This is hard to deal with because my <<policies are based on the fact that>> I'm special or the Difference is trivial. <<Whereas all the testing says not really.>> (But I've _always_ been <<inherently gloomy>>)
 
@@ -192,6 +188,8 @@ https://www.theatlantic.com/politics/archive/2021/06/left-targets-testing-gifted
 > I don't want to hear about black thugs raping white women, but I'm going to hear it soon if you don't stop talking about white cops killing black kids
 Glenn Loury on Tucker https://www.youtube.com/watch?v=wuPdPKHG18k
 
+https://www.cold-takes.com/why-ai-alignment-could-be-hard-with-modern-deep-learning/
+
 https://johnmcwhorter.substack.com/p/why-charles-murrays-new-book-is-his
 
 Coleman Hughes: it's possible to push back against Kendism without
@@ -251,3 +249,5 @@ The lawyer
 I feel a lot of sympathy for the defendant 
 
 ]
+
+[TODO: compare Great Oxidization Event and its timescale to the Industrial Revolution??]
\ No newline at end of file