notes/challenges-notes.md

   1 Fit in somewhere—
   2
   3 For "Challenges" proper—
   4
   5  * transition interventions are bundled: asking for pronouns could only plausibly be a good idea if coupled with further interventions—but that's not the picture we'd get if we took Yudkowsky literally
   6  * I need to acknowledge the
   7 > In a wide variety of cases, sure, they can clearly communicate the unambiguous sex and gender of something that has an unambiguous sex and gender, much as a different language might have pronouns that sometimes clearly communicated hair color to the extent that hair color often fell into unambiguous clusters.
   8  * maybe by "much more strongly ... different firm attachments", he's pointing to different people having different intuitions about what male/female clusters map to; that's definitely a thing, but it's wrong to conflate that with "Maybe it's like not being named Oliver"; people do agree on the approximate meaning of blue and green even if there are edge cases, cite fallacy of gray
   9  * singular they for named individuals undermined indefinite singular 'they'
  10  * people have an incentive to fight over pronouns insofar as it's a "wedge" for more substantive issues
  11
  12
  13 4 levels of intellectual conversation https://rationalconspiracy.com/2017/01/03/four-layers-of-intellectual-conversation/
  14
  15 For postscript—
  16  * some people have complained that my writing is too long, but when your interlocutors will go to the absurd length of _denying that the association of "she" with females_
  17  * appeal to inner privacy conversation-halter https://www.lesswrong.com/posts/wqmmv6NraYv4Xoeyj/conversation-halters
  18  * "gamete size"—this is a tic where everyone knows what sex is, but no one is allowed to acknowledge the cluster
  19  * this post needs to exist because I can't let him have the last word
  20  * need introductory sentence before first reference to "we" or "the community"
  21  * it is merited to touch on the nearest-unblocked strategy history somewhere in this piece, even if I may also need to write a longer "A Hill of Validity"
  22  * also need a short statement of what I'm fighting for (AGPs are factually not women, and a culture that insists that everyone needs to lie to protect our feelings is bad for our own intellectual development; I want the things I said in "Sexual Dimorphism" to be the standard story, rather than my weird heresy)
  23
  24 * need to stress that EY isn't surrendering to progressives in the straightforward way of normal academics; instead, he's trying to put on a Pretending-to-Be-Wise above-it-all independent centrist act (while being careful not to say anything that would make progs _really_ mad)
  25
  26  * my "self-ID is a Schelling Point" and "On the Argumentative Form" show that I'm not a partisan hack (maybe also publish a brief version of )
  27
  28  * I'm only doing what _he_ taught me to do
  29
  30
  31
  32 > I find the "(chromosomes?)" here very amusing. I am also a Yudkowskian, Eliezer; "female human" is a cluster in thingspace :)
  33 https://twitter.com/EnyeWord/status/1068983389716385792
  34
  35 > Lying about atheism, in a conv about atheism, is defecting in a coop effort about atheism.
  36 https://twitter.com/ESYudkowsky/status/1226605895091507200
  37
  38 Twitter comments about "despite all my attempts to narrow it"
  39
  40 Trying to turn me into a Jane Austen character
  41
  42 https://www.lesswrong.com/posts/ax695frGJEzGxFBK4/biology-inspired-agi-timelines-the-trick-that-never-works
  43 > But I suppose I cannot but acknowledge that my outward behavior seems to reveal a distribution whose median seems to fall well before 2050.
  44
  45 More Yudkowsky playing dumb—
  46
  47 > What separates your stance from "I consider 'parmesan' to refer to only cheese from the Parma region in Italy and I don't appreciate being asked to lie"?
  48
  49 > (Though considering I've literally never heard anyone else define "gender" this way, it's more like, "I consider 'cheddar' to refer to only cheese from the Parma region in Italy, and I don't appreciate being asked to lie" and that so many people give different definitions is part of the issue here; but let's set that all aside for now.)
  50
  51 If we can't talk about that, then your rationality community is a _fraud_. If there's anything at all to your rationality stuff https://www.lesswrong.com/posts/LqjKP255fPRY7aMzw/practical-advice-backed-by-deep-theories it should be _useful_ high-stakes pratical decisions that your community members need to make, like _whether or not to cut my dick off_. If we can't talk about the information I need to make an informed decision about that, then your rationalists are worse than useless. (Worse, because false claims to authority are more misleading than dead air.) You _motherfuckers_ need to rebrand, or disband, or be destroyed
  52
  53 I know none of this matters (If any professional alignment researchers wasting time reading this instead of figuring out how to save the world, get back to work!!), but one would have thought that the _general_ skills of correct argument would matter for saving the world.
  54
  55 If you don't actually believe in the [common interest of many causes](https://www.lesswrong.com/posts/4PPE6D635iBcGPGRy/rationality-common-interest-of-many-causes) anymore, you could _say_ that—rebrand your thing as a more narrowly-scoped existential-risk-reduction cult, rather than falsely claiming to be about modeling-and-optimizing the world
  56
  57 -----
  58
  59 https://www.facebook.com/yudkowsky/posts/10159421750419228
  60
  61 https://www.lesswrong.com/posts/onwgTH6n8wxRSo2BJ/unnatural-categories-are-optimized-for-deception
  62
  63 • I need the correct answer
  64 • "We can't talk about this"—utterly discrediting of the entire project"
  65 • What is the regularity in human psychology such that we end up with "gendered" noun classes? We are sexually dimorphic animals
  66 • the people aligning language models need to know this!!
  67 • he can only speak in terms of abstractions that are very obviously not what's happening—it's true that bathroom usage is not an ontological fact, but the function of bathrooms is _to protect females from males_. If you can't talk about that core issue—the thing that people actually care about—then the smugness is actively derailing the discussion, even if you didn't say anything false
  68
  69 • Schild's ladder—noun classes in other languages are already pretty arbitrary; if the proposal is to make names like that
  70 • TODO: buff my "circular definition satisfies no one" argument to not be vulnerable to the anti-Liskov-substitution property of natural language definitions
  71
  72 https://www.ehu.eus/seg/_media/gizt/5/5/brown-gilman-pronouns.pdf
  73
  74 What Quakers Can Teach Us About the Politics of Pronouns
  75 https://archive.is/bYdde
  76
  77 https://www.genderdissent.com/the-resistance-column
  78
  79 https://www.womenarehuman.com/extra-jail-time-for-incarcerated-women-who-use-male-pronouns-for-male-transgender-identifying-inmates/
  80
  81 Spanish speakers screw up he/she—because they're used to dropping pronouns! https://cogsci.mindmodeling.org/2017/papers/0639/paper0639.pdf
  82
  83 https://twitter.com/RichardDawkins/status/1468204472908369926
  84
  85 -----
  86
  87 I already have Yudkowsky blocked on Twitter, because it turns out that me talking to Yudkowsky in public is a waste of everyone's precious time (because the topics where I can expect to contribute to the information commons by disagreeing with Yudkowsky are mostly those where he doesn't think he can politically afford to address counterarguments).
  88
  89 Nevertheless, I think I'm justified in posting this comment sharing a link to this write-up explaining everything that Yudkowsky is doing wrong in the above post + comments, because I have a legitimate interest in preventing other people from being harmed by trusting Yudkowsky's intellectual integrity and competence the way I used to: [link]
  90
  91 One imagines that Yudkowsky's optimal response here is to ignore this (rather than, say, acknowledging my incredibly obvious point that the appeal of the self-ID pronoun convention rests on the existing meanings of gendered pronouns, such that it's hypocritical to play dumb about there being existing meanings while defending the self-ID convention). If he already thought the PR risk of violating ideological taboos outweighed the benefits of having a rationality community that can think in public in a principled PR-blind manner, it's unclear why offering more arguments would change this: if the trust of people who want to be able to think in public isn't as valuable of an existential-risk-reduction resource as staying on Stalin's good side, then being trustworthy would be a dumb move! Whatever's best for the lightcone, you know?
  92
  93 ----
  94
  95 Or if you have some other Pareto improvement to propose (relative to the obvious Nash equilibrium world where I published without emailing you first, and you ignored it).
  96
  97 ----
  98
  99 I considered the September clarification sufficient! You reopened hostilities in February by putting up more bullshit that I have to waste months of my life refuting!
 100
 101 as far as I can tell, I'm only doing what you taught me to do: carve reality at the joints, speak the truth even as your voice trembles, make an extraordinary effort when you've got something to protect
 102
 103 How sensitive is he to reputational concerns? Compare feud with Alexander Kruel
 104
 105 -----
 106
 107 [TODO: again, [Yudkowsky's pathological fixation on avoiding "lying"](https://www.lesswrong.com/posts/MN4NRkMw7ggt9587K/firming-up-not-lying-around-its-edge-cases-is-less-broadly) is a distraction from anything that anyone actually cares about. Certainly, I don't believe (a) as stated. But something substantively _similar_ to (a), (a') that self-reports are biased by social desirability and we can't take "gender identity" literally seems _overwhelmingly_ likely to be true, and I have a study to support it— /papers/blanchard-clemmensen-steiner-social_desirability_response_set_and_systematic_distortion.pdf . This should not seem implausible to someone who co-blogged with Robin Hanson for three years! As for (b), I don't think they get more favorable treatment from the rest of Society uniformly, I absolutely believe (b') that there's a _subculture_ that encourages transition for ideological reasons among people who wouldn't think of themselves as "trans" if they lived in a different subculture.
 108
 109 Can we talk about _that_ in your Caliphate, my (a') and (b')? (Which is the stuff I actually care about, not pronouns.) Based on my experiences trying to, my read of the situation is, No, we can't talk about that. But if so,
 110
 111 Subject: blessing to speak freely, and privacy norms?
 112
 113 Dear Eliezer:
 114
 115 Do you particularly _care_ if I publish a couple blog posts that say some negative things about you? (That is, not just responding to object-level arguments, but also carefully and exhaustively explaining the specific sense in which I think you've been culpably intellectually dishonest. I used to trust you as a general-purpose intellectual authority, but I think you've made it very clear that you don't think you can politically afford being worthy of that trust, and I think I have a legitimate interest in writing publicly about why you're Not My Caliph anymore.)
 116
 117 If you actually _care_ about potential reputational damage to you from my writing things that I think I have a legitimate interest in writing about, I would be _willing_ to let you pre-read the drafts before publishing and give you the chance to object to anything you think is unfair, if you _wanted_ ...
 118
 119 But I'd rather agree that that's not necessary. I don't want to waste any more of your time, and I'm noticing it's a lot harder to write when I'm spending more time worrying about what you'd think of me, than on saying the things I need to say. (Because I still have an extremely messed-up cult-leader hero-worship betrayal-trauma silencing complex around you.)
 120
 121 So, since you probably _don't_ particularly care (because it's not AGI alignment and therefore unimportant), **may I please have your advance blessing to just write and publish what I'm thinking so I can get it all out of my system and move on with my life?**
 122
 123 I would assume that the privacy norm applying to me writing about our previous interactions is that I'm obviously allowed to talk about my actions, but that I can't quote your side of private conversations (_e.g._, I can mention _making_ Cheerful Price offers, but have to Glomarize as to whether you accepted), but I am allowed to _anonymously_ quote things I remember you saying (_e.g._, at the Independence Day party; if I say "Someone advised me that I was living in the should-universe, and I said [...]", and some readers could speculate that "someone" was you, that's not my fault). I don't think you can reasonably object to this, but tell me if you somehow do. I remain,
 124
 125 Your faithful student,
 126 Zack M. Davis
 127
 128 For a while, I've been meaning to write up a _different_ multi-thousand word blog post telling the Whole Dumb Story about that—not because it's an interesting story, but because I'll never be able to stop grieving and move on with my life until I get it all out of my system. (Working title: ["A Hill of Validity in Defense of Meaning"](https://twitter.com/ESYudkowsky/status/1067185907843756032). Epigraph quote: Zora Neale Hurston, "If you are silent about your pain, they'll kill you and say you enjoyed it.")
 129
 130 It's been hard to write. It _hurts_ to write. It's hard and it hurts because it's not something that _should_ need to be written.
 131
 132 [TODO outlining coda—
 133
 134 We prefer to have a good-faith discussion of ideas in themselves; talking about your interlocutors and speculating about their hidden motives is not what we do
 135 I tried the good-faith debate thing first. I tried it for years; at some point, you have to jump up a meta level and explain what you think is actually going on
 136 Since the Whole Dumb Story is longer and harder to write, I hope it's OK if I _briefly_ hit some of the highlights here that are relevant to analyzing Yudkowsky's comments on "speakable" arguments, with the understanding that I might write a longer post later
 137
 138 The Sequences taught me some really important things about sex differences and why not to take my cross-sex fantasies literally; I wrote about this in  ["Sexual Dimorphism in Yudkowsky's Sequences"](/2021/May/sexual-dimorphism-in-the-sequences-in-relation-to-my-gender-problems/)
 139
 140 The ]
 141
 142 https://astralcodexten.substack.com/p/bounded-distrust
 143
 144 If "rationalists" are both a social cluster, and seekers of systematically-correct-reasoning, then people trying to protect the power and prestige of the social cluster face an incentive to invent fake epistemology lessons when the correct answer is unpopular! That's fatal!!
 145
 146 If someone fires back bad faith allegations at me and is prepared to defend them, that's actually more invigorating and productive than the Berkeley equilibrium
 147
 148 I don't think I'm setting [my price for joining](https://www.lesswrong.com/posts/Q8evewZW5SeidLdbA/your-price-for-joining) particularly high here?
 149
 150 [principled trans people should be offended, too!]
 151
 152 [our beliefs about dolphins are downstream of Scott's political incentives]