content/drafts/challenges-coda.md

   1 Title: Postscript to "Challenges"
   2 Date: 2022-01-01 11:00
   3 Category: commentary
   4 Tags: Eliezer Yudkowsky
   5 Status: draft
   6
   7 **Postscript**
   8
   9 This object-level argument about pronoun conventions is probably not very interesting to many readers. What is perhaps more interesting is to jump up a meta level and ask: why Eliezer Yudkowsky playing dumb like this? If his comments obviously can't be taken seriously, what's _actually_ going on here?
  10
  11 (But on pain of committing [Bulverism](https://en.wikipedia.org/wiki/Bulverism), it's important that I wrote up the object-level refutation _first_ as a top level post, before engaging in [the fraught endeavor of speculating about psychology](https://arbital.com/p/psychologizing/) in this mere postscript comment.)
  12
  13 Fortunately, Yudkowsky graciously grants us a clue in the form of [a disclaimer comment](https://www.facebook.com/yudkowsky/posts/10159421750419228?comment_id=10159421833274228) on the Facebook post:
  14
  15 > It unfortunately occurs to me that I must, in cases like these, disclaim that—to the extent there existed sensible opposing arguments against what I have just said—people might be reluctant to speak them in public, in the present social atmosphere. That is, in the logical counterfactual universe where I knew of very strong arguments against freedom of pronouns, I would have probably stayed silent on the issue, as would many other high-profile community members, and only Zack M. Davis would have said anything where you could hear it.
  16 >
  17 > This is a filter affecting your evidence; it has not to my own knowledge filtered out a giant valid counterargument that invalidates this whole post. I would have kept silent in that case, for to speak then would have been dishonest.
  18
  19 I claim that my point that _she_ and _he_ have existing meanings that you can't just ignore by fiat given that the existing meanings are _exactly_ what motivate people to ask for new pronouns in the first place, is a giant valid counterargument that invalidates the claim that "the simplest and best protocol is, '"He" refers to the set of people who have asked us to use "he", with a default for those-who-haven't-asked that goes by gamete size' and to say that this just *is* the normative definition."
  20
  21 (It doesn't invalidate the whole post: the part about English being badly designed is fine.)
  22
  23 Moreover, I claim that this point is _obvious_.
  24
  25
  26
  27
  28
  29
  30
  31
  32 > Personally, I'm used to operating without the cognitive support of a civilization in controversial domains, and have some confidence in my own ability to independently invent everything important that would be on the other side of the filter and check it myself before speaking. So you know, from having read this, that I checked all the speakable and unspeakable arguments I had thought of, and concluded that this speakable argument would be good on net to publish, as would not be the case if I knew of a stronger but unspeakable counterargument in favor of Gendered Pronouns For Everyone and Asking To Leave The System Is Lying.
  33 >
  34 > But the existence of a wide social filter like that should be kept in mind; to whatever quantitative extent you don't trust your ability plus my ability to think of valid counterarguments that might exist, as a Bayesian you should proportionally update in the direction of the unknown arguments you speculate might have been filtered out.
  35
  36 So, the explanation of [the problem of political censorship filtering evidence](https://www.lesswrong.com/posts/DoPo4PDjgSySquHX8/heads-i-win-tails-never-heard-of-her-or-selective-reporting) here is great, but the part where Yudkowsky claims "confidence in [his] own ability to independently invent everything important that would be on the other side of the filter" is just _laughable_.
  37
  38
  39
  40 The original post isn't _that_ bad if you assume that Yudkowsky was writing off the cuff, that he clearly just _didn't put any effort whatsoever_ into thinking about why someone might disagree. If he _did_ put in the effort—enough that he felt comfortable bragging about his ability to see the other side of the argument—and _still_ ended up proclaiming his "simplest and best protocol" without even so much as _mentioning_ any of its incredibly obvious costs ... that's just _pathetic_. If someone's ability to explore the space of arguments is _that_ bad, why would you trust their opinion about _anything_?
  41
  42 Because that someone is Eliezer Yudkowsky, author of the vaunted [Sequences](https://www.readthesequences.com/)?
  43
  44
  45 For the purposes of deciding who to trust, the Yudkowsky who wrote the Sequences in 2007–2009 must be regarded as a different author
  46
  47
  48
  49
  50 ["Sexual Dimorphism in Yudkowsky's Sequences, in Relation to My Gender Problems"](/2021/May/sexual-dimorphism-in-the-sequences-in-relation-to-my-gender-problems/)
  51
  52
  53 In [a 26 March 2016 Facebook post](https://www.facebook.com/yudkowsky/posts/10154078468809228), he wrote—
  54
  55 > I'm not sure if the following generalization extends to all genetic backgrounds and childhood nutritional backgrounds. There are various ongoing arguments about estrogenlike chemicals in the environment, and those may not be present in every country ...
  56
  57 > Still, for people roughly similar to the Bay Area / European mix, I think I'm over 50% probability at this point that at least 20% of the ones with penises are actually women.
  58
  59 (***!?!?!?!?***)
  60
  61 > A lot of them don't know it or wouldn't care, because they're female-minds-in-male-bodies but also cis-by-default (lots of women wouldn't be particularly disturbed if they had a male body; the ones we know as 'trans' are just the ones with unusually strong female gender identities). Or they don't know it because they haven't heard in detail what it feels like to be gender dysphoric, and haven't realized 'oh hey that's me'. See, e.g., <https://sinesalvatorem.tumblr.com/post/141690601086/15-regarding-the-4chan-thing-4chans> and <https://slatestarcodex.com/2013/02/18/typical-mind-and-gender-identity/>
  62
  63
  64
  65 https://www.facebook.com/yudkowsky/posts/10154110278349228
  66 > Just checked my filtered messages on Facebook and saw, "Your post last night was kind of the final thing I needed to realize that I'm a girl."
  67 > ==DOES ALL OF THE HAPPY DANCE FOREVER==
  68
  69
  70
  71 uncritically (uncharacteristically uncritically) taking the newly-ascendant gender-identity theory for granted ("lots of women wouldn't be particularly disturbed if they had a male body; the ones we know as 'trans' are just the ones with unusually strong female gender identities"), without considering the obvious-in-retrospect hypothesis that "guy who speculates about his female analogue on a transhumanist mailing list in 2004" and "guy who thinks he might be a trans women in Berkeley 2016" are the same guy.
  72
  73
  74 [The claim that the "Hill of Validity" thread wasn't partisan, but was just neutrally trying to teach the difference between facts and policy decisions is not credible. Imagine if someone was complaining about being required to say "Peace Be Upon Him" before referencing the prophet Muhammad. "It's a speech act, there's nothing factually false about saying 'peace be unto him'"]
  75 unremediatedgender.space/2020/Aug/yarvin-on-less-wrong/
  76
  77
  78 [For example](https://twitter.com/ESYudkowsky/status/1067490362225156096):
  79 > The more technology advances, the further we can move people towards where they say they want to be in sexspace. Having said this we've said all the facts. Who competes in sports segregated around an Aristotelian binary is a policy question (that I personally find very humorous).
  80
  81
  82
  83 "Beliefs about the self aren't special" is part of the whole AI reflectivity thing, too!!
  84
  85
  86 > Still think this was a perfectly fine tweet btw.  Some people afaict were doing the literal ontologically confused thing; seemed like a simple thing to make progress on.  Some people wanted to read it as a coded statement despite all my attempts to narrow it, but what can you do.
  87 https://twitter.com/ESYudkowsky/status/1356535300986523648
  88 If you were actually HONESTLY tring to narrow it, you would have said, "By the way, this is just about pronouns, I'm not taking a position on whether trans women are women"
  89
  90 > If you think you can win a battle about 2 + 3 = 5, then it can feel like victory or self-justification to write a huge long article hammering on that; but it doesn't feel as good to engage with how the Other does not think they are arguing 2 + 3 = 6, they're talking about 2 * 3.
  91 https://twitter.com/ESYudkowsky/status/1435618825198731270
  92
  93 Speaking of narcissism and perspective-taking, "deception" isn't about whether you personally "lied" according to your own re-definitions; it's about whether you predictably made others update in the wrong direction
  94
  95 > I have never in my own life tried to persuade anyone to go trans (or not go trans) - I don't imagine myself to understand others that much.
  96 https://twitter.com/ESYudkowsky/status/1404697716689489921
  97
  98 https://twitter.com/ESYudkowsky/status/1404821285276774403
  99 > It is not trans-specific.  When people tell me I helped them, I mostly believe them and am happy.
 100
 101 https://twitter.com/ESYudkowsky/status/1434906470248636419
 102 > Anyways, Scott, this is just the usual division of labor in our caliphate: we're both always right, but you cater to the crowd that wants to hear it from somebody too modest to admit that, and I cater to the crowd that wants somebody out of that closet.
 103
 104 https://www.facebook.com/yudkowsky/posts/10154981483669228
 105 > I know that it's a bad sign to worry about which jokes other people find funny. But you can laugh at jokes about Jews arguing with each other, and laugh at jokes about Jews secretly being in charge of the world, and not laugh at jokes about Jews cheating their customers. Jokes do reveal conceptual links and some conceptual links are more problematic than others.
 106
 107
 108
 109 What makes all of this especially galling is the fact that _all of my heretical opinions are literally just Yudkowsky's opinions from the 'aughts!_ My whole thing about how changing sex isn't possible with existing technology because the category encompasses so many high-dimensional details? Not original to me! I [filled in a few trivial technical details](/2021/May/sexual-dimorphism-in-the-sequences-in-relation-to-my-gender-problems/#changing-sex-is-hard), but again, this was _in the Sequences_ as ["Changing Emotions"](https://www.lesswrong.com/posts/QZs4vkC7cbyjL9XA9/changing-emotions). My thing about how you can't define concepts any way you want, because there are mathematical laws governing which category boundaries compress your anticipated experiences? Not original to me! I [filled in](https://www.lesswrong.com/posts/esRZaPXSHgWzyB2NL/where-to-draw-the-boundaries) [a few technical details](https://www.lesswrong.com/posts/onwgTH6n8wxRSo2BJ/unnatural-categories-are-optimized-for-deception), but [_we had a whole Sequence about this._](https://www.lesswrong.com/posts/FaJaCgqBKphrDzDSj/37-ways-that-words-can-be-wrong)
 110
 111 Seriously, you think I'm _smart enough_ to come up with all of this indepedently? I'm not! I ripped it all off from Yudkowsky back in the 'aughts _when he still thought he could politically afford to gave a shit about telling the truth_ in this domain.
 112
 113 Now that the political environment has changed and he doesn't think he can afford to give a shit, does ... does he expect us not to _notice_? Or does he just think that "everybody knows"?
 114
 115
 116
 117 But I don't think that everybody knows. So I'm telling you.
 118
 119
 120
 121 [Why does this matter? It would be dishonest for me to claim that this is _directly_ relevant to xrisk, because that's not my real bottom line]
 122
 123 a rationality community that can't think about _practical_ issues that affect our day to day lives, but can get existential risk stuff right, is like asking for self-driving car software that can drive red cars but not blue cars
 124
 125 It's a _problem_ if public intellectuals in the current year need to pretend to be dumber than seven-year-olds in 2016
 126
 127 > _Perhaps_, replied the cold logic. _If the world were at stake._
 128 >
 129 > _Perhaps_, echoed the other part of himself, _but that is not what was actually happening._
 130 https://www.yudkowsky.net/other/fiction/the-sword-of-good
 131
 132 https://www.readthesequences.com/
 133 > Because it is all, in the end, one thing. I talked about big important distant problems and neglected immediate life, but the laws governing them aren't actually different.
 134
 135 > the challenge is almost entirely about high integrity communication by small groups
 136 https://twitter.com/HiFromMichaelV/status/1486044326618710018