check in
[Ultimately_Untrue_Thought.git] / content / drafts / the-categories-were-made-for-man-in-order-to-make-predictions.md
index 795d784..95537d9 100644 (file)
@@ -10,11 +10,11 @@ Status: draft
 >
 > —_Distress_ by Greg Egan
 
-In ["The Categories Were Made for Man, Not Man for the Categories"](http://slatestarcodex.com/2014/11/21/the-categories-were-made-for-man-not-man-for-the-categories/), the immortal Scott Alexander argues that proposed definitions of concepts aren't true or false in themselves, but rather can only be evaluated by their usefulness. Our finite minds being unable to cope with the unimaginable complexity of the raw physical universe, we group sufficiently similar things into the same category so that we can make similar predictions about them—but this requires not only a metric of "similarity", but also a notion of which predictions one cares about enough to notice, both of which are relative to some agent's perspective, rather than being inherent in the world itself.
+In ["The Categories Were Made for Man, Not Man for the Categories"](http://slatestarcodex.com/2014/11/21/the-categories-were-made-for-man-not-man-for-the-categories/), the immortal Scott Alexander argues that proposed definitions of concepts aren't true or false in themselves, but rather can only be evaluated by their usefulness. Our finite minds being unable to cope with the unimaginable complexity of the raw physical universe, we group sufficiently similar things into the same category so that we can make similar [predictions](http://lesswrong.com/lw/i3/making_beliefs_pay_rent_in_anticipated_experiences) about them—but this requires not only a metric of "similarity", but also a notion of which predictions one cares about enough to notice, both of which are relative to some agent's perspective, rather than being inherent in the world itself.
 
 And so, Alexander explains, the ancient Hebrews weren't _wrong_ to classify whales as a type of _dag_ (typically translated as _fish_), even though modern biologists classify whales as mammals and not fish, because the ancient Hebrews were more interested in distinguishing which animals live in the water rather than which animals are phylogenetically related. Similarly, borders between countries are agreed upon for a variety of pragmatic reasons, and can be quite convoluted—while there may often be some "obvious" geographic or cultural Schelling points anchoring these decisions, there's not going to be any intrinsic, eternal fact of the matter as to where one country starts and another begins.
 
-All of this is entirely correct—and thus, an excellent [motte](http://slatestarcodex.com/2014/11/03/all-in-all-another-brick-in-the-motte/) for the less honest half of _Slate Star Codex_ readers to appeal to when they want to obfuscate and disrupt discussions about empirical reality by insisting on gerrymandered redefinitions of everyday concepts.
+All of this is entirely correct—and thus, an excellent [motte](http://slatestarcodex.com/2014/11/03/all-in-all-another-brick-in-the-motte/) for the least honest decile of _Slate Star Codex_ readers to appeal to when they want to obfuscate and disrupt discussions about empirical reality by insisting on gerrymandered redefinitions of everyday concepts.
 
 Alexander goes on to attempt to use the categories-are-relative-to-goals insight to rebut skeptics of transgenderedness:
 
@@ -36,7 +36,7 @@ This works because, empirically, mammals have lots of things in common with each
 
 If different political factions are engaged in conflict over how to define the extension of some common word—common words being a scarce and valuable resource both culturally and [information-theoretically](http://lesswrong.com/lw/o1/entropy_and_short_codes/)—rationalists may not be able to say that one side is simply right and the other is simply wrong, but we can at least strive for objectivity in _describing the conflict_. Before shrugging and saying, "Well, this is a difference in values; nothing more to be said about it," we can talk about the detailed consequences of what is gained or lost by paying attention to some differences and ignoring others. That there exists an element of subjectivity in what you choose to pay attention to, doesn't negate the fact that there _is_ a structured empirical reality to be described—and not all descriptions of it are equally compact.
 
-In terms of the Lincoln riddle: you _can_ call a tail a leg, but you can't stop people from _noticing_ that out of a dog's five legs, one of them is different from the others. You can't stop people from inferring decision-relevant implications from what they notice. (_Most_ of a dog's legs touch the ground, such that you'd have to carry the dog to the vet if one of them got injured, but the dog can still walk without the other, different leg.) And if people who work and live with dogs every day find themselves habitually distinguishing between the bottom-walking-legs and the back-wagging-leg, they _just might_ want _different words_ in order to concisely _talk_ about what everyone is thinking _anyway_.
+In terms of the Lincoln riddle: you _can_ call a tail a leg, but you can't stop people from _noticing_ that out of a dog's five legs, one of them is different from the others. You can't stop people from inferring decision-relevant implications from what they notice. (_Most_ of a dog's legs touch the ground, such that you'd have to carry the dog to the vet if one of them got injured, but the dog can still walk without the other, different leg.) And if people who live and work with dogs every day find themselves habitually distinguishing between the bottom-walking-legs and the back-wagging-leg, they _just might_ want _different words_ in order to concisely _talk_ about what everyone is thinking _anyway_.
 
 -----
 
@@ -48,32 +48,32 @@ This is true in a tautological sense: if you deliberately gerrymander your categ
 
 But it's not very interesting to people like rationalists—although apparently not all people who _self-identify_ as rationalists—who want to use concepts to _describe reality_.
 
-Alexander gives an account of a woman whose ability to function at work was being disrupted by obsessive-compulsive fears of leaving her hair dryer on at home, whose problems were solved by the simple expediency of taking the hair dryer with her when leaving the house. Given that it _worked_ to resolve the woman's distress, we shouldn't care that this isn't how problems that are categorized as _obsessive-compulsive disorder_ are "supposed" to be treated, and Alexander argues that the same should go for accepting transgender identity claims: if it _works_ for resolving people's gender dysphoria, why not?
+Alexander gives an account of a woman whose ability to function at her job was being disrupted by obsessive-compulsive fears of leaving her hair dryer on at home, whose problems were solved by the simple expediency of taking the hair dryer with her when leaving the house. Given that it _worked_ to resolve her distress, we shouldn't care that this isn't how problems that are categorized as _obsessive-compulsive disorder_ are "supposed" to be treated, and Alexander argues that the same should go for accepting transgender identity claims: if it _works_ for resolving people's gender dysphoria, why not?
 
-The problem is that there are _significant disanalogies_ between leaving a hair dryer in the front seat of one's car, and agreeing that gender should be defined on the basis of self-identity. Most significantly: the former has no appreciable effects on anyone but the person themselves; the latter affects _everyone who wants to use language to categorize humans by sex_. The words _man_ and _woman_ [are top-20 nouns](https://en.wikipedia.org/wiki/Most_common_words_in_English#Nouns)! People need those nouns to describe their experiences!
+The problem is that there are _significant disanalogies_ between leaving a hair dryer in the front seat of one's car, and collectively agreeing that gender should be defined on the basis of self-identity. Most significantly: the former has no appreciable effects on anyone but the person themselves; the latter affects _everyone who wants to use language to categorize humans by sex_. The words _man_ and _woman_ [are top-20 nouns](https://en.wikipedia.org/wiki/Most_common_words_in_English#Nouns)! People need those nouns to describe their experiences!
 
-Though it might be only a small cost to be socially required to say _woman_ and _she_ to refer to someone whom one would otherwise be inclined to call a _man_—and to let them in to any corresponding sex-segregated spaces, _&c._—that cost needs to be aggregated across everyone subject to it, like so many dust specks in their eyes. Imagine if the patient in the hair dryer story were obsessed with the fear not just that _she_ might accidentally leave her hair dryer plugged in unattended, but that that _someone_ might do so, and that it would burn down the whole city. In this slightly modified scenario, insisting that everyone in the city put their hair dryers in the front seat of their cars doesn't look like an appealing solution.
+Even if it's only a small cost to be socially required to say _woman_ and _she_ to refer to someone whom one would otherwise be inclined to call a _man_—and to let them in to any corresponding sex-segregated spaces, _&c._—that cost needs to be aggregated across everyone subject to it, like so many dust specks in their eyes. Imagine if the patient in the hair dryer story were obsessed with the fear not just that _she_ might accidentally leave her hair dryer plugged in unattended, but that that _someone_ might do so, and that it would burn down the whole city. In this slightly modified scenario, insisting that everyone in the city put their hair dryers in the front seat of their cars doesn't look like an appealing solution.
 
-It's important to stress that this should _not_ be taken to mean that transgender identities should necessarily be rejected! (Bad arguments can be made for true propositions just as easily as false ones.) As Alexander briefly alludes to late in the post ("I could relate this [...] to the various heavily researched apparent biological correlates of transgender"), a _non_-question-begging argument for accepting trans people as their target gender would appeal to the ways in which this is really is a natural categorization.
+It's important to stress that this should _not_ be taken to mean that transgender identities should be rejected! (Bad arguments can be made for true propositions just as easily as false ones.) As Alexander briefly alludes to late in the post ("I could relate this [...] to the various heavily researched apparent biological correlates of transgender"), a _non_-question-begging argument for accepting trans people as their target gender would appeal to the ways in which this is really is a natural categorization.
 
 The pre-verbal, subconscious, [System 1](https://en.wikipedia.org/w/index.php?title=Dual_process_theory&oldid=820860981#Systems) process by which we notice someone's features (breasts, facial hair, voice, facial structure, gendered clothing or grooming cues, any number of [subtle differences in motor behaviors](https://sillyolme.wordpress.com/2010/09/24/all-the-wrong-moves/) that your perceptual system can pick up on without you being consciously aware of them, _&c._), mentally categorize them as a _woman_ or a _man_, and use that category to guide our interactions with them, isn't subject to conscious control—but, for most purposes in day-to-day public life, it's also not _directly_ focused on genitalia or chromosomes.
 
-So a natal female who _presents_ to the world as a man, and whom other people _model_ as a man on a System 1 level with no apparent incongruities, might very sensibly be said to _literally_ be a man (in the sense of social gender, not in the sense of "biologically male adult human"), because that's the mental category that people are actually using, and therefore, the social class that they actually fit in to. Essentially, this is the argument that offers a photograph of a passing trans person, and says, "C'mon, do you _really_ want to call [this person](https://en.wikipedia.org/wiki/Buck_Angel#/media/File:Buck_Angel_Headshot.jpg) a woman? Really?"
+So a natal female who presents to the world as a man, and whom other people _model_ as a man on a System 1 level with no apparent incongruities, might be said to be a man in the sense of social gender (but not in the sense of "biologically male adult human"), because that's the mental category that people are actually using for him, and therefore, the social class that he actually functions as a member of. Essentially, this is the argument that offers a photograph of a passing trans person, and says, "C'mon, do you _really_ want to call [this person](https://en.wikipedia.org/wiki/Buck_Angel#/media/File:Buck_Angel_Headshot.jpg) a woman?"
 
-Well, no. But the point is that this is an _empirical_ argument for why successfully-socially-transitioned trans people fit into _existing_ concepts of gender, _not_ a redefinition of top-20 nouns by fiat in order to avoid hurting someone's feelings. It works _because_ and _to the extent that_ transitioning actually works. To the extent that this fails to be true of self-identified trans people or some subset thereof—for example, insofar as physical transition _isn't_ always effective, or insofar as because people _do_ have legitimate use-cases for biological-sex classifications that aren't "fooled" by hormones and surgery—then the conclusion is correspondingly weakened.
+Well, no. But the point is that this is an _empirical_ argument for why successfully socially-transitioned trans people fit into _existing_ concepts of gender, _not_ a redefinition of top-20 nouns by fiat in order to avoid hurting someone's feelings. It works _because_ and _to the extent that_ transitioning actually works. To the extent that this fails to be true of self-identified trans people or some subset thereof—for example, insofar as physical transition _isn't_ always effective, or insofar as people _do_ have legitimate use-cases for biological-sex classifications that aren't "fooled" by hormones and surgery—then the conclusion is correspondingly weakened.
 
 -----
 
-Alexander praises Eliezer Yudkowsky's ["How an Algorithm Feels From the Inside"](http://lesswrong.com/lw/no/how_an_algorithm_feels_from_inside/), which builds off [previous](http://lesswrong.com/lw/nm/disguised_queries/) [posts](http://lesswrong.com/lw/nn/neural_categories/) discussing a parable about factory workers faced with the task of sorting objects which very strongly tend to _either_ be blue, egg-shaped, furry, flexible, opaque, luminescent, and vanadium-cored (categorized by the workers as "bleggs"), _or_ red, cube-shaped, smooth, hard, translucent, non-luminescent, and palladium-cored (categorized by the workers as "rubes").
+Another factor affecting the degree to which trans people form a more natural category with their identified gender than their natal physiological sex is the nature of transgenderedness itself. If gender dysphoria is caused by a brain-restricted intersex condition, such that trans people's psychology is much more typical of the other physiological sex—if the "woman trapped in a man's body" trope is basically accurate—that would tend to weigh in favor of accepting transgender identity claims: trans women would be "coming from the same place" as cis women in a real psychological sense, despite their natal physiology.
 
-Suppose you're a worker in this factory, and occasionally, an object comes down the conveyor belt that's blue, _roughly_ egg-shaped, and furry, but also hard (unlike the typical blegg, which is slightly flexible to the touch). If such objects are extremely rare, you might not notice them at all—you'd quickly categorize each one as a _blegg_ and toss it in the blegg bin without a second thought. But as these unusual hard bleggs start to become more common, you get curious and take the time to examine one.
+On the other hand, if gender dysphoria is caused by something else, that would tend to weigh against accepting transgender identity claims: however strongly felt trans people's _subjective_ sense of gender identity might be, if the mechanism underlying that feeling actually has nothing in particular in common with anything people of the identified-with sex feel, it becomes relatively more tempting to classify the subjective sense of gender identity as an illusion, rather than the joint in reality around which everyone needs to carve their gender categories.
 
-While dissecting it, you make a startling discovery—the object was originally a smooth, hard red cube, of which someone had sanded down the corners to approximate an egg shape, and ironed on a layer of blue _faux_ fur. You show your work to Susan the Senior Sorter.
+Of course, the phrasing _If gender dysphoria is caused by ..._ implies that we're considering _gender dysphoria_ as one category to reason about homogenously. But different people might want to transition for very different underlying psychological reasons. What categories we use may not be a question of simple fact that we can get wrong, but if, empirically, there happens to be a sufficiently robust statistical structure to the simple facts of the cases—if some people want to transition for reason _A_ and tend to have traits _W_ and _X_, but others want to transition for reason _B_ and have traits _Y_ and _Z_—then aspiring epistemic rationalists may find it useful to distinguish multiple, distinct psychological conditions that both happen to cause gender dysphoria as a symptom.
 
-"Wow," she says, "someone sure has gone to a lot of trouble to make these rubes look like bleggs!"
+Analogously, in medicine, many different pathogens can cause the same symptoms (_e.g._, coughing and sneezing), but doctors care about distinguishing different illnesses by etiology, not just symptoms, because distinct physical mechanisms give rise to distinct treatment decisions, either immediately (_e.g._, a bacterial illness will respond to antibiotics, but a viral one won't) or in principle (_e.g._, today's treatments might be equally effective against two different species of bacteria, but future drugs might work better on one or the other).
 
-"Hold on, I'm not sure we should be disrespecting that effort by calling them _rubes_," you say. You read _Slate Star Codex_ and are a very intelligent and humane person. "Categories were made for the man, not man for the categories. There's no rule of sorting saying that we should call them rubes, and there are plenty of rules of human decency saying that we should call them bleggs. And at a glance, they _look_ like bleggs—I mean, like the more-typical bleggs."
+_As it happens_, (I claim) the evidence that gender dysphoria is more than one thing is quite stong. For reasons of personal interest, I'm going to focus on the male-to-female case for the rest of this post. An analysis of the female-to-male situation would be similar in many respects but different in others, and is left to the interested reader.
 
-So you and Susan agree to call the modified hard objects _trans bleggs_ (two words!—_trans_ as an adjective, not a prefix) and get back to work.
+[explain the taxonomy, point out that it's possible to believe in a weaker version of it; link to Lawrence, &c.]
 
-Further investigation reveals that 85% of trans bleggs don't glow in the dark and contain palladium ore—both rube-typical chracteristics. Furthermore, the minority of trans bleggs that glow and contain vanadium also seem more similar to typical ("cis") bleggs in other ways: for example, by being somewhat more successfully egg-shaped and having more realistic _faux_ fur than the non-glowing, palladium-containing trans bleggs.
+In less tolerant places and decades, where MtF transsexuals were very rare and had to try very hard to pass as women out of dire necessity, their impact on the social order and how people think about gender was minimal—there were just too few trans people to make much of a difference. (This is why experienced crossdressers report it being easier to pass in rural areas rather than cities with a large LGBT presence. Not as a matter of tolerance, but as a matter of _base rates_: it's harder to get clocked by people who aren't aware that being trans is even a thing.)