merge branch 'i_tell-7-8_Dec'
authorM. Taylor Saotome-Westlake <ultimatelyuntruethought@gmail.com>
Sun, 8 Dec 2019 23:17:32 +0000 (15:17 -0800)
committerM. Taylor Saotome-Westlake <ultimatelyuntruethought@gmail.com>
Sun, 8 Dec 2019 23:17:32 +0000 (15:17 -0800)
Not doing so hot this Sunday 8th of December

content/drafts/i-tell-myself-to-let-the-story-end-or-a-hill-of-validity-in-defense-of-meaning.md
content/drafts/on-the-argumentative-form-super-proton-things-tend-to-come-in-varieties.md
content/images/did_you_have-reddit_poll.png [new file with mode: 0644]
notes/i-tell-myself-notes.txt
notes/i-tell-myself-sections.md
notes/post_ideas.txt

index 5f3679c..ed6684f 100644 (file)
@@ -16,7 +16,7 @@ Status: draft
 >
 > —Sara Barellies, ["Gonna Get Over You"](https://genius.com/Sara-bareilles-gonna-get-over-you-lyrics)
 
-I haven't been doing so well for a lot of the last ... um, thirteen months. I mean, I've always been a high-neuroticism person, but this has probably been a below-average year even by my standards, with hours of lost sleep, occasional crying bouts, _many, many_ hours of obsessive ruminating-while-pacing instead of doing my dayjob, and too long with a [Sara](https://www.youtube.com/watch?v=OUe3oVlxLSA) [Barellies](https://www.youtube.com/watch?v=emdVSVoCLmg) [song](https://youtu.be/jZMQ0OKVO80?t=112) on loop to numb the pain. I've been reluctant to write about it in too much detail for poorly-understood psychological reasons. Maybe it would feel too much like attacking my friends?
+I haven't been doing so well for a lot of the last ... um, thirteen-plus months? I mean, I've always been a high-neuroticism person, but this has probably been a below-average year even by my standards, with hours of lost sleep, occasional crying bouts, _many, many_ hours of obsessive ruminating-while-pacing instead of doing my dayjob, and too long with [a](https://www.youtube.com/watch?v=Hny1prRDE3I) [Sara](https://www.youtube.com/watch?v=OUe3oVlxLSA) [Barellies](https://www.youtube.com/watch?v=emdVSVoCLmg) [song](https://youtu.be/jZMQ0OKVO80?t=112) on loop to numb the pain. I've been reluctant to write about it in too much detail for poorly-understood psychological reasons. Maybe it would feel too much like attacking my friends?
 
 But this blog is not about _not_ attacking my friends. This blog is about the truth. For my own sanity, for my own emotional closure, I need to tell the story as best I can. If it's an _incredibly boring and petty_ story about me getting _unreasonably angry_ about philosophy-of-language minutiæ, well, you've been warned. If the story makes me look bad in the reader's eyes (because you think I'm crazy for getting so unreasonably angry about philosophy-of-language minutiæ), then I shall be happy to look bad for _what I actually am_. (If _telling the truth_ about what I've been obsessively preoccupied with all year makes you dislike me, then you probably _should_ dislike me. If you were to approve of me on the basis of _factually inaccurate beliefs_, then the thing of which you approve, wouldn't be _me_.)
 
@@ -56,19 +56,45 @@ At the time, [I expressed horror](https://www.greaterwrong.com/posts/ctpkTaqTKbm
 
 On my reading of the text, it is _significant_ that the AI-synthesized complements for men are given their own name, the _verthandi_, rather than just being referred to as women. The _verthandi_ may _look like_ women, they may be _approximately_ psychologically human, but the _detailed_ psychology of "superintelligently-engineered optimal romantic partner for a human male" is not going to come out of the distribution of actual human females, and judicious exercise of the [tenth virtue of precision](http://yudkowsky.net/rational/virtues/) demands that a _different word_ be coined for this hypothetical science-fictional type of person. Calling the _verthandi_ "women" would be _worse writing_; it would _fail to communicate_ the impact of what has taken place in the story.
 
-[section: reaction to "Changing Emotions"]
+Another post in this vein that had a huge impact on me was ["Changing Emotions"](https://www.lesswrong.com/posts/QZs4vkC7cbyjL9XA9/changing-emotions). As an illustration of how [the hope for radical human enhancement is fraught with](https://www.lesswrong.com/posts/EQkELCGiGQwvrrp3L/growing-up-is-hard) technical difficulties, the Great Teacher sketches a picture of just how difficult an actual male-to-female sex change would be.
 
-[section: moving to Berkeley, realized that my thing wasn't different; seemed like something that a systematically-correct-reasoning community would be interested in getting right (maybe the 30% of the ones with penises are actually women thing does fit here after all? (I was going to omit it)]
+It would be hard to overstate how much of an impact this post had on me. I've previously linked it on this blog eight times. In June 2008, half a year before it was published, I encountered the [2004 mailing list post](http://lists.extropy.org/pipermail/extropy-chat/2004-September/008924.html) that was its predecessor. (The fact that I was trawling through old mailing list archives searching for content by the Great Teacher that I hadn't already read, tells you something about what a fanboy I am.) I immediately wrote to a friend: "[...] I cannot adequately talk about my feelings. Am I shocked, liberated, relieved, scared, angry, amused?"
+
+The argument goes: it might be easy to _imagine_ changing sex and refer to the idea in a short English sentence, but the real physical world has implementation details, and the implementation details aren't filled in by the short English sentence. The human body, including the brain, is an enormously complex integrated organism; there's no [plug-and-play](https://en.wikipedia.org/wiki/Plug_and_play) architecture by which you can just swap your brain into a new body and have everything work without re-mapping the connections in your motor cortex. And even that's not _really_ a sex change, as far as the whole integrated system is concerned—
+
+> Remapping the connections from the remapped somatic areas to the pleasure center will ... give you a vagina-shaped penis, more or less. That doesn't make you a woman.  You'd still be attracted to girls, and no, that would not make you a lesbian; it would make you a normal, masculine man wearing a female body like a suit of clothing.
+
+But from the standpoint of my secret erotic fantasy, this is actually a _great_ outcome. 
+
+[...]
+
+> If I fell asleep and woke up as a true woman—not in body, but in brain—I don't think I'd call her "me".  The change is too sharp, if it happens all at once.
+
+In the comments, [I wrote](https://www.greaterwrong.com/posts/QZs4vkC7cbyjL9XA9/changing-emotions/comment/4pttT7gQYLpfqCsNd)—
+
+> Is it cheating if you deliberately define your personal identity such that the answer is _No_?
+
+(To which I now realize the correct answer is: Yes, it's fucking cheating! The map is not the territory! You can't change the current _referent_ of "personal identity" with the semantic mind game of declaring that "personal identity" now refers to something else! How dumb do you think we are?! But more on this later.)
+
+[section: "50% of the ones with penises", moving to Berkeley, realized that my thing wasn't different; seemed like something that a systematically-correct-reasoning community would be interested in getting right (maybe the 30% of the ones with penises are actually women thing does fit here after all? (I was going to omit it)]
 
 [section: had a lot of private conversations with people, and they weren't converging with me]
 
 [section: flipped out on Facebook; those discussions ended up getting derailed on a lot of appeal-to-arbitrariness conversation halters, appeal to "Categories Were Made"]
 
-[section: quit my job for gender-blogging]
+So, I think this is a bad argument. But specifically, it's a bad argument for _completely general reasons that have nothing to do with gender_. And more specifically, completely general reasons that have been explained in exhaustive, _exhaustive_ detail in _our own foundational texts_—including some material that I _know_ the Popular Author is intimately familiar with, because _he fucking wrote it_.
 
-[...]
+[section: noncentral-fallacy / motte-and-bailey stuff, other posts about making predictions https://www.lesswrong.com/posts/yCWPkLi8wJvewPbEp/the-noncentral-fallacy-the-worst-argument-in-the-world ]
+
+The "national borders" metaphor is particularly galling if—[unlike](https://slatestarcodex.com/2015/01/31/the-parable-of-the-talents/) [the](https://slatestarcodex.com/2013/06/30/the-lottery-of-fascinations/) Popular Author—you _actually know the math_.
 
-So, I think this is a bad argument. But specifically, it's a bad argument for _completely general reasons that have nothing to do with gender_. And more specifically, completely general reasons that have been explained in exhaustive, _exhaustive_ detail in _our own foundational texts_.
+If I have a "blegg" concept for blue egg-shaped objects—uh, this is [our](https://www.lesswrong.com/posts/4FcxgdvdQP45D6Skg/disguised-queries) [standard](https://www.lesswrong.com/posts/yFDKvfN6D87Tf5J9f/neural-categories) [example](https://www.lesswrong.com/posts/yA4gF5KrboK2m2Xu7/how-an-algorithm-feels-from-inside), just [roll with it](http://unremediatedgender.space/2018/Feb/blegg-mode/)—what that _means_ is that (at some appropriate level of abstraction) there's a little [Bayesian network](https://www.lesswrong.com/posts/hzuSDMx7pd2uxFc5w/causal-diagrams-and-causal-models) in my head with "blueness" and "eggness" observation nodes hooked up to a central "blegg" category-membership node, such that if I see a black-and-white photograph of an egg-shaped object, I can use the observation of its shape to update my beliefs about its blegg-category-membership, and then use my beliefs about category-membership to update my beliefs about its blueness. This cognitive algorithm is useful if we live in a world where objects that have the appropriate statistical structure—if the joint distribution P(blegg, blueness, eggness) approximately factorizes as P(blegg)·P(blueness|blegg)·P(eggness|blegg).
+
+"Category boundaries" are just a _visual metaphor_ for the math: the set of things I'll classify as a blegg with probability greater than _p_ is conveniently _visualized_ as an area with a boundary in blueness–eggness space. If you _don't understand_ the relevant math and philosophy—or are pretending not to understand only and exactly when it's politically convenient—you might think you can redraw the boundary any way you want, but you can't, because the "boundary" visualization is _derived from_ a statistical model which corresponds to _empirically testable predictions about the real world_. Fucking with category boundaries corresponds to fucking with the model, which corresponds to fucking with your ability to interpret sensory data. The only two reasons you could _possibly_ want to do this would be to wirehead yourself (corrupt your map to make the territory look nicer than it really is, making yourself _feel_ happier at the cost of sabotaging your ability to navigate the real world) or as information warfare (corrupt shared maps to sabotage other agents' ability to navigate the real world, in a way such that you benefit from their confusion).
+
+[section: started a pseudonymous secret blog; one of the things I focused on was the philosophy-of-language thing, because that seemed _really_ nailed down: "...To Make Predictions" was the crowning achievement of my sabbatical, and I was also really proud of "Reply on Adult Human Females" a few months later. And that was going OK, until ...]
+
+[section: hill of meaning in defense of validity, and I _flipped the fuck out_]
 
 In 2008, the Great Teacher had this really amazing series of posts explaining the hidden probability-theoretic structure of language and cognition. Essentially, explaining _natural language as an AI capability_. What your brain is doing when you [see a tiger and say, "Yikes! A tiger!"](https://www.lesswrong.com/posts/dMCFk2n2ur8n62hqB/feel-the-meaning) is governed the [simple math](https://www.lesswrong.com/posts/HnPEpu5eQWkbyAJCT/the-simple-math-of-everything) by which intelligent systems make observations, use those observations to assign category-membership, and use category-membership to make predictions about properties which have not yet been observed. _Words_, language, are an information-theoretically efficient _code_ for such systems to share cognitive content.
 
@@ -94,19 +120,14 @@ And these posts hammered home the point over and over and over and _over_ again
 
 > ["One may even consider the act of defining a word as a promise to \[the\] effect [...] \[that the definition\] will somehow help you make inferences / shorten your messages."](https://www.lesswrong.com/posts/yLcuygFfMfrfK8KjF/mutual-information-and-density-in-thingspace)
 
-Similarly, the Popular Author himself has written extensively about [the noncentral fallacy](https://www.lesswrong.com/posts/yCWPkLi8wJvewPbEp/the-noncentral-fallacy-the-worst-argument-in-the-world), which he called _the worst argument in the world_: 
-
 [...]
 
 You see the problem. If "You can't define a word any way you want" is a good philosophy lesson, it should be a good philosophy lesson _independently_ of the particular word in question and _independently_ of the current year. If we've _learned something new_ about the philosophy of language in the last ten years, that's _really interesting_ and I want to know what it is!
 
 This is _basic shit_. As we say locally, this is _basic Sequences shit_.
 
-[...]
-
-[section: started a pseudonymous secret blog; one of the things I focused on was the philosophy-of-language thing, because that seemed _really_ nailed down: "...To Make Predictions", "Reply on Adult Human Females". And that was going OK ...]
-
-[section: hill of meaning in defense of validity, and I _flipped the fuck out_]
+[section: being famous must suck]
+[section: email campaign that we spent a ridiculous amount of effort on]
 
 [...]
 
@@ -126,10 +147,30 @@ I think I've _more than_ met this standard. I _tried_ personally fixing the issu
 
 That ended up being quite a lot of effort!—but at this point I've _exhausted every possible avenue of appeal_. Arguing [publicly on the object level](/2018/Feb/the-categories-were-made-for-man-to-make-predictions/) didn't work. Arguing [publicly on the meta level](https://www.lesswrong.com/posts/esRZaPXSHgWzyB2NL/where-to-draw-the-boundaries) didn't work. Arguing privately didn't work. There is _nothing left for me to do_ but lick my wounds, wait for my broken heart to heal, and hope that getting molecularly disassembled and turned into paperclips doesn't hurt too much.
 
-[section: the community is politically constrained]
+[section: and _I_ get accused of playing politics?!— everyone else shot first — 2+2]
+
+Here's what I think is going on. _After it's been pointed out_, all the actually-smart people can see that "Useful categories need to 'carve reality at the joints', and there's no reason for gender to magically be an exception to this _general_ law of cognition" is a better argument than "I can define the word 'woman' any way I want." No one is going to newly voice the Stupid Argument now that it's _known_ that I'm hanging around ready to pounce on it.
+
+But the people who have _already_ voiced the Stupid Argument can't afford to reverse themselves, even if they're the sort of _unusually_ epistemically virtuous person who publicly changes their mind on other topics. It's too politically expensive to say, "Oops, that _specific argument_ for why I support transgender people was wrong for trivial technical reasons, but I still support transgender people because ..." because political costs are imposed by a mob that isn't smart enough to understand the concept of "bad argument for a conclusion that could still be true for other reasons." So I can't be allowed to win the debate in public.
+
+The game theorist Thomas Schelling once wrote about the use of clever excuses to help one's negotiating counterparty release themselves from a prior commitment: "One must seek [...] a rationalization by which to deny oneself too great a reward from the opponent's concession, otherwise the concession will not be made."[^schelling]
 
-[section: and _I_ get accused of playing politics?!]
+[^schelling]: _Strategy of Conflict_, Ch. 2, "An Essay on Bargaining"
+
+This is sort of what I was trying to do when soliciting—begging for—engagement-or-endorsement of "Where to Draw the Boundaries?" I thought that it ought to be politically feasible to _just_ get public consensus from Very Important People on the _general_ philosophy-of-language issue, stripped of the politicized context that inspired my interest in it, and complete with math and examples about dolphins and job titles. That _should_ be completely safe. If some would-be troublemaker says, "Hey, doesn't this contradict what you said about trans people earlier?", stonewall them. (Stonewall _them_ and not _me_!) Thus, the public record about philosophy is corrected without the VIPs having to suffer a social-justice scandal. Everyone wins, right?
+
+But I guess that's not how politics works. Somehow, the mob-punishment mechanisms that aren't smart enough to understand the concept of "bad argument for a true conclusion", _are_ smart enough to connect the dots between my broader agenda and my (correct) abstract philosophy argument, such that VIPs don't think they can endorse my _correct_ philosophy argument, without it being _construed as_ an endorsement of me and my detailed heresies, even though (a) that's _retarded_ (it's possible to agree with someone about a particular philosophy argument, while disagreeing with them about how the philosophy argument applies to a particular object-level case), and (b) I would have _hoped_ that explaining the abstract philosophy problem in the context of dolphins would provide enough plausible deniability to defend against _retarded people_ who want to make everything about politics.
+
+The situation I'm describing is already pretty fucked, but it would be just barely tolerable if the actually-smart people were good enough at coordinating to _privately_ settle philosophy arguments. If someone says to me, "You're right, but I can't admit this in public because it would be too politically-expensive for me," I can't say I'm not _disappointed_, but I can respect that they labor under different constraints from me.
+
+[people can't trust me to stably keep secrets]
+
+The Stupid Argument isn't just a philosophy mistake—it's a _socially load-bearing_ philosophy mistake.
+
+And _that_ is intolerable. Once you have a single socially load-bearing philosophy mistake, you don't have a systematically-correct-reasoning community anymore. What you have is a _cult_. If you _notice_ that your alleged systematically-correct-reasoning community has a load-bearing philosophy mistake, and you _go on_ acting as if it were a systematically-correct-reasoning community, then you are committing _fraud_. (Morally speaking; I don't mean a sense of the word "fraud" that could be upheld in a court of law.)
 
 [section: "Against Lie Inflation" (and less violently https://www.lesswrong.com/posts/tSemJckYr29Gnxod2/building-intuitions-on-non-empirical-arguments-in-science ) made me scream in fury (punch the lightswitch cover), because]
 
-[section: the success of "Heads I Win" made me feel better; interesting how re-shared de-emphasized the political aspect]
+[section: the success of "Heads I Win" made me feel better; interesting how re-shares de-emphasized the political aspect]
+
+[section: what's next for me?]
index 9bb9df8..57e61a0 100644 (file)
@@ -22,7 +22,7 @@ There's a ["zero–one–infinity"](https://en.wikipedia.org/wiki/Zero_one_infin
 
 The one comes to us and says, "Everything more complicated than protons tends to come in varieties. Tentacular brachitis involves more than one proton and will probably have varieties."
 
-This, in itself, doesn't tell us anything useful about what those varieties might be ... but suppose we do some more research and indeed find that patients' tentacles have a distinct [cluster structure](https://www.lesswrong.com/posts/WBw8dDkAWohFjWQSk/the-cluster-structure-of-thingspace). Not only is there [covariance](https://en.wikipedia.org/wiki/Covariance) between different tentacle features (perhaps tentacles that are a darker shade of blue also tend to be slimier), but the joint color–sliminess distribution is starkly bimodal: modeling the tentacles as coming from two distinct "dark-blue/slimy" and "light-blue/less-slimy" taxa is a better statistical fit than positing a linear darkness/sliminesss continuum. So, congratulating ourselves on a scientific job-well-done, we speciate our diagnosis into two: "Tentacular brachitis A" and "Tentacular brachitis B".
+This, in itself, doesn't tell us anything useful about what those varieties might be ... but suppose we do some more research and indeed find that patients' tentacles have a distinct [cluster structure](https://www.lesswrong.com/posts/WBw8dDkAWohFjWQSk/the-cluster-structure-of-thingspace). Not only is there [covariance](https://en.wikipedia.org/wiki/Covariance) between different tentacle features (perhaps tentacles that are a darker shade of blue also tend to be slimier), but the color–sliminess joint distribution is starkly bimodal: modeling the tentacles as coming from two distinct "dark-blue/slimy" and "light-blue/less-slimy" taxa is a better statistical fit than positing a linear darkness/sliminesss continuum. So, congratulating ourselves on a scientific job-well-done, we speciate our diagnosis into two: "Tentacular brachitis A" and "Tentacular brachitis B".
 
 The one comes back to us and says, "Everything more complicated than protons tends to come in varieties. Tentacular brachitis A involves more than one proton and will probably have varieties."
 
@@ -30,7 +30,7 @@ You see the problem. We have an infinite regress: the argument that the original
 
 So isn't "Gender dysphoria involves more than one proton[; therefore, it] will probably have varieties" a [fake explanation](https://www.lesswrong.com/posts/fysgqk4CjAwhBgNYT/fake-explanations)? The phrase "gender dysphoria" was worth inventing as a [shorter code](http://yudkowsky.net/rational/technical/) for the not-vanishingly-rare observation of "humans wanting to change sex", but unless and until you have specific observations indicating that there are meaningfully different ways dysphoria can manifest, you shouldn't posit that there are "probably" multiple varieties, because in a ["nearby" Everett branch](https://www.lesswrong.com/posts/9cgBF6BQ2TRB3Hy4E/and-the-winner-is-many-worlds) where human evolution happened slightly differently, there probably _aren't_: brain-intersex conditions have a kind of _a priori_ plausibility to them, but whatever weird quirk leads to autogynephilia probably wouldn't happen with every roll of the evolutionary dice if you rewound far enough, and the memeplex driving Littman's ROGD observations was invented recently.
 
-So I think a better moral than "Things larger than protons will probably have varieties" would be "Beware [fallacies of compression](https://www.lesswrong.com/posts/y5MxoeacRKKM3KQth/fallacies-of-compression)." The advice to be alert to the _possibility_ that your initial category should be split into multiple subspecies is correct and important and well-taken, but the _reason_ [... TODO bridge] not _because things are made of atoms_.
+So I think a better moral than "Things larger than protons will probably have varieties" would be "Beware [fallacies of compression](https://www.lesswrong.com/posts/y5MxoeacRKKM3KQth/fallacies-of-compression)." The advice to be alert to the _possibility_ that your initial category should be split into multiple subspecies is correct and important and well-taken, but the _reason_ [... TODO bridge] not _because things are made of atoms_!
 
 At this point, some readers might be thinking, "Wait a minute, M. Taylor! Didn't you notice that part about 'There's an allegation that people are reluctant to speciate more than one kind of gender dysphoria'? That's _your_ hobbyhorse! Even if Yudkowsky doesn't know you exist, by publicly offering a _general_ argument that there are multiple types of dyphoria, he's effectively _doing your cause a favor_—and here you are _criticizing_ him for it! Isn't that disloyal and ungrateful of you?"
 
diff --git a/content/images/did_you_have-reddit_poll.png b/content/images/did_you_have-reddit_poll.png
new file mode 100644 (file)
index 0000000..8efedc8
Binary files /dev/null and b/content/images/did_you_have-reddit_poll.png differ
index d53ddf6..ccfd6c4 100644 (file)
@@ -75,8 +75,6 @@ but if my expectations (about the community) were wrong, that's a problem with m
 
 it's naive to think you can win against an egregore 1000 times bigger than you
 
-MASSIVE cognitive dissonance, "What? What???"
-
 the Church
 
 won't you be embarrassed to leave if we create utopia
@@ -89,8 +87,6 @@ _not_ gaslight me about the most important thing in my life?
 
 I don't think I'm setting my price for joining particularly high here?
 
-if you're doing systematically correct reasoning, you should be able to get the right answer even on things that don't matter
-
 There could be similarly egregious errors that I'm not as sensitive too
 
 I don't think you can build an aligned superintelligence from a culture this crazy
@@ -126,12 +122,6 @@ _everyone else shot first_, and I'm _correct on the merits_
 
 competence forcing conclusions: http://www.sl4.org/archive/0602/13903.html
 
-language as an AI capability
-
-https://www.lesswrong.com/posts/NnohDYHNnKDtbiMyp/fake-utility-functions
-
-"the love of a man for a woman, and the love of a woman for a man, have not been cognitively derived from each other or from any other value. [...]  There are many such shards of desire, all different values."
-
 analogy to school
 
 (["_Perhaps_, replied the cold logic. _If the world were at stake_. _Perhaps_, echoed the other part of himself, _but that is not what was actually happening_."](http://yudkowsky.net/other/fiction/the-sword-of-good))
@@ -142,8 +132,6 @@ From my perspective, Professor, I'm just doing what you taught me (carve reality
 
 I _have_ to keep escalating, because I don't have a choice
 
-I'm trying to keep the rheotrical emphasis on "tale of personal heartbreak, plus careful analysis of the sociopolitical causes of said heartbreak" rather than "attacking my friends and heros"
-
 It shouldn't be a political demand; people should actually process my arguments because they're good arguments
 
 "Actually, we're Ashkenazi supremacists" 
@@ -411,15 +399,12 @@ https://srconstantin.wordpress.com/2018/12/24/contrite-strategies-and-the-need-f
 
 If an Outer Party member in the world of George Orwell's 1984 says, "Oceania has always been at war with Eastasia," even though they clearly remember events from last week, when Oceania was at war with Eurasia instead [...] even if it's not really their fault
 
-
 > but not worth starting over over
 
 I mean, this is the part where I do a very not Effective Altruist-themed thing, and stop talking as if I do anything for the good of the lightcone. (Maybe see Ben on "Against Responsibility" and "The Humility Argument for Honesty".) I internalized a particular vision [...] of what conduct is appropriate to a "rationalist"; I'm didn't that standard upheld with respect to my Something to Protect; so I am doing a halt–melt–catch-fire on "the community." It's worth starting over over _for me_. If my actions (implausibly) represent a PR risk to someone else's Singularity strategy, then they're welcome to try to persuade or negotiate with me.
 
 the appeal to arbitrariness technically extends in both directions (if there's no rule saying you can't use the word to talk about self-identity, there's no rule saying I can't use the word to talk about sex), but systematically favors one side—sex is a pretty robust abstraction, and there's no reason to deny the appeal of robustness
 
-https://wnww.reddit.com/r/MtF/comments/89nw0w/did_you_have_a_genderbody_swaptransformation/
-
 Inadequate Equilibria!
 
 I'm expressing the same kind of frustration as the Great Teacher complaining about cryo not being standard—my personal benchmark of "sanity" isn't realistic
@@ -430,8 +415,6 @@ there's a sense in which everyone is behaving reasonably given their incentives,
 
 Julia Serano 
 
-You "can't" define a word any way you want, or you "can"—what actually matters is the math
-
 words don't have intrinsic definitions, but the only reason you would want to repurpose an _existing_ word is either becasuse you think you can carve the joints better, or mindfucking
 
 cat/dog gaslighting; even if you don't particularly need that particular classification for a practical purpose, even so ...
@@ -543,3 +526,11 @@ This situation is _fucked_. I don't care whose "fault" it is. I don't want to "b
 Katie Herzog and Jesse Singal
 
 Heinlein
+
+https://twitter.com/ESYudkowsky/status/1096769579362115584
+
+> When an epistemic hero seems to believe something crazy, you are often better off questioning "seems to believe" before questioning "crazy", and both should be questioned before shaking your head sadly about the mortal frailty of your heroes.
+
+Ooh, how I wish they'd want me to stay.
+
+[trade arrangments: if that's the world we live in, fine]
index 5a0ec21..9095c3a 100644 (file)
@@ -6,33 +6,11 @@
 
 ----
 
-As an illustration of how [the hope for radical human enhancement is fraught with](https://www.lesswrong.com/posts/EQkELCGiGQwvrrp3L/growing-up-is-hard) technical difficulties, ["Changing Emotions"](https://www.lesswrong.com/posts/QZs4vkC7cbyjL9XA9/changing-emotions) sketches a picture of just how difficult an actual male-to-female sex change would be.
-
-It would be hard to overstate how much of an impact this post had on me. I've previously linked it on this blog eight times. In June 2008, half a year before it was published, I encountered the [2004 mailing list post](http://lists.extropy.org/pipermail/extropy-chat/2004-September/008924.html) that was its predecessor. (The fact that I was trawling through old mailing list archives searching for content by the Great Teacher that I hadn't already read, tells you something about what a fanboy I am.) I immediately wrote to a friend: "[...] I cannot adequately talk about my feelings. Am I shocked, liberated, relieved, scared, angry, amused?"
-
-The argument goes: it might be easy to _imagine_ changing sex and refer to the idea in a short English sentence, but the real physical world has implementation details, and the implementation details aren't filled in by the short English sentence. The human body, including the brain, is an enormously complex integrated organism; there's no [plug-and-play](https://en.wikipedia.org/wiki/Plug_and_play) architecture by which you can just swap your brain into a new body and have everything work without re-mapping the connections in your motor cortex. And even that's not _really_ a sex change, as far as the whole integrated system is concerned—
-
-> Remapping the connections from the remapped somatic areas to the pleasure center will ... give you a vagina-shaped penis, more or less. That doesn't make you a woman.  You'd still be attracted to girls, and no, that would not make you a lesbian; it would make you a normal, masculine man wearing a female body like a suit of clothing.
-
-But from the standpoint of my secret erotic fantasy, this is actually a _great_ outcome. 
-
-[...]
-
-> If I fell asleep and woke up as a true woman—not in body, but in brain—I don't think I'd call her "me".  The change is too sharp, if it happens all at once.
-
-In the comments, [I wrote](https://www.greaterwrong.com/posts/QZs4vkC7cbyjL9XA9/changing-emotions/comment/4pttT7gQYLpfqCsNd)—
-
-> Is it cheating if you deliberately define your personal identity such that the answer is _No_?
-
-To which I now realize the correct answer is: Yes, it's fucking cheating! The map is not the territory! You can't change the current _referent_ of "personal identity" with the semantic mind game of declaring that "personal identity" now refers to something else! How dumb do you think we are?! (But more on this later.)
-
------
-
 Men who wish they were women do not particularly resemble actual women! We just—don't? This seems kind of obvious, really? Telling the difference between fantasy and reality is kind of an important life skill?
 
 Okay, I understand that in Berkeley 2020, that probably sounds like some kind of reactionary political statement, probably intended to provoke. But try interpreting it _literally_, as a _factual claim_ about the world. Adult human males who _fantasize about_ being adult human females, are still neverless drawn from the _male_ multivariate trait distribution, not the female distribution.
 
-It seems useful to be able to _express this claim in natural language_. I can phrase the claim in more or fewer words, using a greater or lesser amount of caveats, qualifications, or polysyllabic obfuscations, depending on my audience's sensibilities and what aspects of my model I want to call attention to. But I need to be able to talk about the model _somehow_, and talking about the model becomes _more expensive_ if I'm not occasionally allowed to use the phrase "actual woman" in a context where _you know goddamned well_ what I mean by it.
+It seems useful to be able to _express this claim in natural language_. I can phrase the claim in more or fewer words, using a greater or lesser amount of caveats, qualifications, or polysyllabic obfuscations, depending on my audience's sensibilities and what aspects of my model I want to call attention to. But I need to be able to talk about the model _somehow_, and talking about the model becomes _more expensive_ if I'm not occasionally allowed to use the phrase "actual woman" in a context where [_you know goddamned well_ what I mean by it](/2018/Apr/reply-to-the-unit-of-caring-on-adult-human-females/).
 
 I mean it just as I might say "actual meat" to distinguish such from [plant-based imitations](https://en.wikipedia.org/wiki/Meat_analogue), or "actual wood" to distinguish such from [composite materials](https://en.wikipedia.org/wiki/Wood-plastic_composite), without anyone raising an eyebrow. The general concept here is that of _mimickry_. The point is not to denigrate the mimic—one might have any number of reasons to _prefer_ meat substitutes or composite wood to the real thing. (Nonhuman animal welfare! Termite-proof-ness!) One might have any number of reasons to _prefer_ trans women to the real thing. (Though I still feel uncomfortable trying to think of any in particular.) The _point_ is that I need language that _asymmetrically_ distinguishes the _original_ thing, from the artificial thing that's trying to mimic its form while not being exactly the same thing, either by design or due to technological limitations.
 
@@ -44,7 +22,7 @@ I can be polite in most circumstances, as the price of keeping the peace in Soci
 
 -----
 
-If we _actually had_ the magical sex change technology described in "Changing Emotions", no one would even be _tempted_ to invent these category-gerrymandering mind games.
+If we _actually had_ the magical sex change technology described in "Changing Emotions", no one would even be _tempted_ to invent these category-gerrymandering mind games! People who wanted to change sex would just _do it_, and everyone would use corresponding language because it straightforwardly _described reality_—not as a political favor, or because of some exceedingly clever philosophy argument.
 
 If it cost $200K, I would just take out a bank loan and _do it_.
 
@@ -95,9 +73,9 @@ The Popular Author once wrote about how [motivated selective attention paid to w
 
 ----
 
-Some readers who aren't part of my robot cult—and some who are—might be puzzled at why I was so emotionally disturbed by people being wrong about philosophy. And for almost anyone else in the world, I would just shrug and [set the bozo bit](https://en.wikipedia.org/wiki/Bozo_bit#Dismissing_a_person_as_not_worth_listening_to).
+Some readers who aren't part of my robot cult—and some who are—might be puzzled at why I've been _so freaked out_ for _an entire year_ by people being wrong about philosophy. And for almost anyone else in the world, I would just shrug and [set the bozo bit](https://en.wikipedia.org/wiki/Bozo_bit#Dismissing_a_person_as_not_worth_listening_to).
 
-Even people who aren't religious still have the same [species-typical psychological mechanisms](https://www.lesswrong.com/posts/Cyj6wQLW6SeF6aGLy/the-psychological-unity-of-humankind) that make religions work. The systematically-correct-reasoning community had come to fill a [similar niche in my psychology as a religious community](https://www.lesswrong.com/posts/p5DmraxDmhvMoZx8J/church-vs-taskforce). I knew this, but the _hope_ was that this wouldn't come with the pathologies of a religion, because our pseudo-religion was _about_ the rules of systematically correct reasoning. The system is _supposed_ to be self-correcting: if people are _obviously_, demonstratably wrong, all you have to do is show them the argument that they're wrong, and then they'll understand the obvious argument and change their minds.
+Even people who aren't religious still have the same [species-typical psychological mechanisms](https://www.lesswrong.com/posts/Cyj6wQLW6SeF6aGLy/the-psychological-unity-of-humankind) that make religions work. The systematically-correct-reasoning community had come to fill a [similar niche in my psychology as a religious community](https://www.lesswrong.com/posts/p5DmraxDmhvMoZx8J/church-vs-taskforce). I knew this, but the _hope_ was that this wouldn't come with the pathologies of a religion, because our pseudo-religion was _about_ the rules of systematically correct reasoning. The system is _supposed_ to be self-correcting: if people are obviously, _demonstratably_ wrong, all you have to do is show them the argument that they're wrong, and then they'll understand the obvious argument and change their minds.
 
 So to get a sense of the emotional impact here, imagine a devout Catholic hearing a sermon by their local priest deliver a sermon that says "Sin is good"—or will be predictably interpreted as saying that. [...]
 
@@ -105,6 +83,8 @@ Or maybe imagine an idealistic young lawyer working for the prosecution in the [
 
 [...]
 
+MASSIVE cognitive dissonance, "What? What???"
+
 This is my fault. It's [not like we weren't warned](https://www.lesswrong.com/posts/yEjaj7PWacno5EvWa/every-cause-wants-to-be-a-cult).
 
 ----
@@ -119,10 +99,16 @@ Someone asked me: "Wouldn't it be embarrassing if the community solved Friendly
 
 But the _reason_ it seemed _at all_ remotely plausible that our little robot cult could be pivotal in creating Utopia forever was _not_ "[Because we're us](http://benjaminrosshoffman.com/effective-altruism-is-self-recommending/), the world-saving good guys", but rather _because_ we were going to discover and refine the methods of _systematically correct reasoning_.
 
-If the people _marketing themselves_ as the good guys who are going to save the world using systematically correct reasoning are _not actually interested in doing systematically correct reasoning_ (because systematically correct reasoning leads to two or three conclusions that are politically "impossible" to state clearly in public, and no one has the guts to [_not_ shut up and thereby do the politically impossible](https://www.lesswrong.com/posts/nCvvhFBaayaXyuBiD/shut-up-and-do-the-impossible)), that's arguably _worse_ than the situation where 
+If you're doing systematically correct reasoning, you should be able to get the right answer even when the question _doesn't matter_. Obviously, the safety of the world does not directly depend on being able to think clearly about trans issues. In the same way, the safety of a coal mine for humans does not _directly_ depend on [whether it's safe for canaries](https://en.wiktionary.org/wiki/canary_in_a_coal_mine).
+
+The "discourse algorithm" (the collective generalization of "cognitive algorithm") that can't just _get this shit right_ in 2019 (because being out of step with the reigning Bay Area ideological fashion is deemed too expensive by a consequentialist algorithm that counts unpopularity as a cost), also can't get heliocentrism right in 1632 _for the same reason_—and I really doubt it can get AI alignment theory right in 2039.
+
+If the people _marketing themselves_ as the good guys who are going to save the world using systematically correct reasoning are _not actually interested in doing systematically correct reasoning_ (because systematically correct reasoning leads to two or three conclusions that are politically "impossible" to state clearly in public, and no one has the guts to [_not_ shut up and thereby do the politically impossible](https://www.lesswrong.com/posts/nCvvhFBaayaXyuBiD/shut-up-and-do-the-impossible)), that's arguably _worse_ than the situation where the community doesn't exist at all.
 
 -----
 
+[Insert this after first mention of Great Teacher/Popular Author]
+
 I'm avoiding naming anyone in this post even when linking to their public writings, in order to try to keep the _rhetorical emphasis_ on "true tale of personal heartbreak, coupled with sober analysis of the sociopolitical factors leading thereto" even while I'm ... expressing disappointment with people's performance. This isn't supposed to be character/reputational attack on my friends and (former??) heroes—at least, not more than it needs to be. I just _need to tell the story_.
 
 I'd almost rather we all pretend this narrative was written in a ["nearby" Everett branch](https://www.lesswrong.com/posts/9cgBF6BQ2TRB3Hy4E/and-the-winner-is-many-worlds) whose history diverged from ours maybe forty-five years ago—a world almost exactly like our own as far as the macro-scale institutional and ideological forces at play, but with different individual people filling out the relevant birth cohorts. _My_ specific identity doesn't matter; the specific identities of any individuals I mention while telling my story don't matter. What matters is the _structure_: I'm just a sample from the _distribution_ of what happens when an American upper-middle-class high-Openness high-Neuroticism late-1980s-birth-cohort IQ-130 78%-Ashkenazi obligate-autogynephilic boy falls in with this kind of robot cult in this kind of world.
@@ -139,66 +125,62 @@ Note, **(3) is _entirely compatible_ with trans women being women**. The point i
 
 ------
 
-Here's what I think is going on. _After it's been pointed out_, all the actually-smart people can see that "Useful categories need to 'carve reality at the joints', and there's no reason for gender to magically be an exception to this _general_ law of cognition" is a better argument than "I can define the word 'woman' any way I want." No one is going to newly voice the Stupid Argument now that it's _known_ that I'm hanging around ready to pounce on it.
-
-But the people who have _already_ voiced the Stupid Argument can't afford to reverse themselves, even if they're the sort of _unusually_ epistemically virtuous person who publicly changes their mind on other topics. It's too politically expensive to say, "Oops, that _specific argument_ for why I support transgender people was wrong for trivial technical reasons, but I still support transgender people because ..." because political costs are imposed by a mob that isn't smart enough to understand the concept of "bad argument for a conclusion that could still be true for other reasons." So I can't be allowed to win the debate in public.
+[happy price, symmetry-breaking]
 
-The game theorist Thomas Schelling once wrote about the use of clever excuses to help one's negotiating counterparty release themselves from a prior commitment: "One must seek [...] a rationalization by which to deny oneself too great a reward from the opponent's concession, otherwise the concession will not be made."[^schelling]
+As I've observed, being famous must _suck_. 
 
-[^schelling]: _Strategy of Conflict_, Ch. 2, "An Essay on Bargaining"
+-----
 
-This is sort of what I was trying to do when soliciting—begging for—engagement-or-endorsement of "Where to Draw the Boundaries?" I thought that it ought to be politically feasible to _just_ get public consensus from Very Important People on the _general_ philosophy-of-language issue, stripped of the politicized context that inspired my interest in it, and complete with math and examples about dolphins and job titles. That _should_ be completely safe. If some would-be troublemaker says, "Hey, doesn't this contradict what you said about trans people earlier?", stonewall them. Stonewall _them_, and not _me_. Thus, the public record about philosophy is corrected without the VIPs having to suffer a social-justice scandal. Everyone wins, right?
+https://slatestarcodex.com/2019/02/22/rip-culture-war-thread/
 
-But I guess that's not how politics works. Somehow, the mob-punishment mechanisms that aren't smart enough to understand the concept of "bad argument for a true conclusion", _are_ smart enough to connect the dots between my broader agenda and my (correct) abstract philosophy argument, such that VIPs don't think they can endorse my _correct_ philosophy argument, without it being _construed as_ an endorsement of me and my detailed heresies, even though (a) that's _retarded_ (it's possible to agree with someone about a particular philosophy argument, while disagreeing with them about how the philosophy argument applies to a particular object-level case), and (b) I would have _hoped_ that explaining the abstract philosophy problem in the context of dolphins would provide enough plausible deniability to defend against _retarded people_ who want to make everything about politics.
+The Popular Author 
 
-The situation I'm describing is already pretty fucked, but it would be just barely tolerable if the actually-smart people were good enough at coordinating to _privately_ settle philosophy arguments. If someone says to me, "You're right, but I can't admit this in public because it would be too politically-expensive for me," I can't say I'm not _disappointed_, but I can respect that.
+"People started threatening to use my bad reputation to discredit the communities I was in and the causes I cared about most."
 
-[people can't trust me to stably keep secrets]
+[lightning post assumes invicibility]
 
-The Stupid Argument isn't just a philosophy mistake—it's a _socially load-bearing_ philosophy mistake.
+The Popular Author obviously never wanted to be the center of a personality cult; it just happened to him anyway because he's better at writing than everyone else.
 
-And _that_ is intolerable. Once you have a single socially load-bearing philosophy mistake, you don't have a systematically-correct-reasoning community anymore. What you have is a _cult_. If you _notice_ that your alleged systematically-correct-reasoning community has a load-bearing philosophy mistake, and you _go on_ acting as if it were a systematically-correct-reasoning community, then you are committing _fraud_. (Morally speaking. I don't mean a sense of the word "fraud" that could be upheld in a court of law.)
+-----
 
-----
+In sexually-reproducing species, [complex functional adaptations in are necessarily species-universal _up to sex_](https://www.lesswrong.com/posts/Cyj6wQLW6SeF6aGLy/the-psychological-unity-of-humankind), because adaptations have to evolve incrementally: you don't have selection pressure for an allele for a ever-so-slightly-improved eye, until all the pieces for the unimproved eye are already at fixation and won't get immediately [reshuffled during meiosis](https://en.wikipedia.org/wiki/Chromosomal_crossover) in the next generation.
 
-[trade arrangments: if that's the world we live in, fine]
+(That is: evolutionary psychology is impressively anti-racist, but _super_ sexist.)
 
-------
+https://www.lesswrong.com/posts/NnohDYHNnKDtbiMyp/fake-utility-functions
 
-[happy price, symmetry-breaking]
+"the love of a man for a woman, and the love of a woman for a man, have not been cognitively derived from each other or from any other value. [...]  There are many such shards of desire, all different values."
 
-As I've observed, being famous must _suck_. 
+----
 
------
+So far, I've mostly been linking to [Anne Lawrence](http://www.annelawrence.com/autogynephilia_&_MtF_typology.html) or [Kay Brown](https://sillyolme.wordpress.com/faq-on-the-science/) for the evidence for this rather than writing up my own take (I already have enough problems with writing quickly, that I don't feel motivated to spend wordcount making a case that other people have already made), but maybe that was a tactical mistake on my part, because people don't click links, and so if I don't include at least _some_ of the evidence inline in my own text, hostile readers (that's you!) will write me off as making unjustified assertions.
 
-https://slatestarcodex.com/2019/02/22/rip-culture-war-thread/
+And honestly, realistically? I suspect it _mostly_ wasn't the research literature that convinced me, as unscientific as that sounds to say out loud. (This blog is not about sounding scientific.) Research can obfuscate as well as clarify. Even a very educated layman can be brought to vexation looking back and forth between Lawrence and [Veale](/papers/veale-evidence_against_a_typology.pdf), struggling to look up the definitions of complicated statistics, all the MAXCOVs and _p_ values and Cohen's ω (he has an _omega_, too?!—but I'd grown [so comfortable with _d_](/2019/Sep/does-general-intelligence-deflate-standardized-effect-sizes-of-cognitive-sex-differences/)), before eventually throwing her hands up in despair: who am I to know? Who is anyone to know?
 
-The Popular Author 
+So if it wasn't the science literature, what was it? It was a _lot_ of things all pointing in the same direction, but _impossible_ to dismiss once you knew what to look for, even after taking into account that the phrase "once you know what to look for" is a 20-meter fire-truck-red flag for [confirmation bias](https://www.lesswrong.com/posts/rmAbiEKQDpDnZzcRf/positive-bias-look-into-the-dark).
 
-"People started threatening to use my bad reputation to discredit the communities I was in and the causes I cared about most."
+I'm talking about shit like—okay, here's one example, in April 2018, the /r/MtF subreddit [put up a survey](http://archive.is/auSxF) asking, "Did you have a gender/body swap/transformation "fetish" (or similar) before you realised you were trans?" (The poll website itself uses the phrase "before you hatched", a reference to the terminology of pre-transition trans women as "eggs.") Results come back [82.4% Yes, with over 2000 responses](/images/did_you_have-reddit_poll.png). [Top comment on the Reddit thread](https://old.reddit.com/r/MtF/comments/89nw0w/did_you_have_a_genderbody_swaptransformation/dws9h8k/), with some 230 upvotes: "I spent a long time in the 'it's probably just a fetish' camp."
 
-[lightning post assumes invicibility]
+Perhaps some readers are still scoffing at how unscientific this is. Reddit? I expect you to believe that Society's narrative on gender identity is false based on a _Reddit poll_? But think about it. /r/MtF has over 67,000 subscribers.
 
-----
+[80 is not 100, but]
+[AGP makes this look less confusing, the feminine essence narrative can't handle it]
+[the research literature says the same dang thing, up to the ~80% figures!]
 
-The "national borders" metaphor is particularly galling if—[unlike the popular author](https://slatestarcodex.com/2015/01/31/the-parable-of-the-talents/)—you _actually know the math_.
+I picked on this poll as my first exhibit just because the poll question was _so_ explicit, and the sample size _so_ large, but once you stop being blinded by the Narrative, this stuff is just _not hard to find_.
 
-If I have a "blegg" concept for blue egg-shaped objects—uh, this is [our](https://www.lesswrong.com/posts/4FcxgdvdQP45D6Skg/disguised-queries) [standard](https://www.lesswrong.com/posts/yFDKvfN6D87Tf5J9f/neural-categories) [example](https://www.lesswrong.com/posts/yA4gF5KrboK2m2Xu7/how-an-algorithm-feels-from-inside), just [roll with it](http://unremediatedgender.space/2018/Feb/blegg-mode/)—what that _means_ is that (at some appropriate level of abstraction) there's a little [Bayesian network](https://www.lesswrong.com/posts/hzuSDMx7pd2uxFc5w/causal-diagrams-and-causal-models) in my head with "blueness" and "eggness" observation nodes hooked up to a central "blegg" category-membership node, such that if I see a black-and-white photograph of an egg-shaped object, 
+I bought famed trans activist Julia Serano's _Whipping Girl_ in 2007, when it was new. Again, back then, I didn't think _I_ was Actually Trans—didn't think Serano and I belonged to the same natural category. I was just the kind of straight boy who 
 
-"Category boundaries" were just a _visual metaphor_ for the math: the set of things I'll classify as a blegg with probability greater than _p_ is conveniently _visualized_ as an area with a boundary in blueness–eggness space.
+It was a _shock_ reading it again a decade later and seeing [how many clues I missed](/2016/Sep/apophenia/). Serano writes—
 
+> There was also a period of time when I embraced the word "pervert" and viewed my desire to be female as some sort of sexual kink. But after exploring that path, it became obvious that explanation could not account for the vast majority of instances when I thought about being female in a nonsexual context.
 
-[wireheading and war are the only two reasons to]
+I don't doubt Serano's report of her own _experiences_. But "it became obvious that explanation could not account for" is _not an experience!_ I [don't _expect_ anyone to be able to get that sort of thing right from introspection alone!](/2016/Sep/psychology-is-about-invalidating-peoples-identities/).
 
 -----
 
-[psychological unity of humankind and sex]
-https://www.lesswrong.com/posts/Cyj6wQLW6SeF6aGLy/the-psychological-unity-of-humankind
-
-----
-
-[ppl don't click links—quick case for AGP—80% is not 100, but]
+["delusional perverts", no one understands me]
 
 -----
 
-["delusional perverts", no one understands me]
+[You "can't" define a word any way you want, or you "can"—what actually matters is the math]
index 4cfef0c..ebcda80 100644 (file)
@@ -10,7 +10,7 @@ Game Theory of Stigmatization (need better title)
 
 Schelling on "legislative control of the clock"—mediators can create focal points—
 
-> The principle is beautifully illustrated by the daylight-saving-time controversy; a majority that want to do everything an hour earlier just cannot organize to do it unless it gets legislative control of the clock. And when it does, a well-organized minority that opposed the change is usually quite unable to offset the change in clock time by any organized effort to change the nominalo hour at which it gets up, eats, and does business.
+> The principle is beautifully illustrated by the daylight-saving-time controversy; a majority that want to do everything an hour earlier just cannot organize to do it unless it gets legislative control of the clock. And when it does, a well-organized minority that opposed the change is usually quite unable to offset the change in clock time by any organized effort to change the nominal hour at which it gets up, eats, and does business.
 >
 > —Thomas Schelling, _Strategy of Conflict_, Ch. 5, "Enforcement, Communication, and Strategic Moves"