notes/challenges-notes.md

   1 Fit in somewhere—
   2
   3  * singular they for named individuals undermined indefinite singular 'they'
   4  * parenthetical about where "Oliver" came from
   5  * some people have complained that my writing is too long, but when your interlocutors will go to the absurd length of _denying that the association of "she" with females_
   6  * people have an incentive to fight over pronouns insofar as it's a "wedge" for more substantive issues
   7  * appeal to inner privacy conversation-halter https://www.lesswrong.com/posts/wqmmv6NraYv4Xoeyj/conversation-halters
   8  * don't use "baked in" so many times
   9  * Aella https://knowingless.com/2019/06/06/side-effects-of-preferred-pronouns/
  10  * "gamete size"—this is a tic where everyone knows what sex is, but no one is allowed to acknowledge the cluster
  11  * maybe worth explaining why I keep saying "sex category" instead of "gender"—and be consistent about it
  12  * transition interventions are bundled: asking for pronouns could only plausibly be a good idea if coupled with further interventions—but that's not the picture we'd get if we took Yudkowsky literally
  13  * this post needs to exist because I can't let him have the last word
  14  * I need to acknowledge the
  15 > In a wide variety of cases, sure, they can clearly communicate the unambiguous sex and gender of something that has an unambiguous sex and gender, much as a different language might have pronouns that sometimes clearly communicated hair color to the extent that hair color often fell into unambiguous clusters.
  16
  17  * maybe by "much more strongly ... different firm attachments", he's pointing to different people having different intuitions about what male/female clusters map to; that's definitely a thing, but it's wrong to conflate that with "Maybe it's like not being named Oliver"; people do agree on the approximate meaning of blue and green even if there are edge cases, cite fallacy of gray
  18
  19  * need introductory sentence before first reference to "we" or "the community"
  20
  21 4 levels of intellectual conversation https://rationalconspiracy.com/2017/01/03/four-layers-of-intellectual-conversation/
  22
  23
  24 > But Twitter is at least not *ontologically confused* if they say that using preferred pronouns is courtesy, and claim that they're enforcing a courtesy standard. Replying "That's a lie! I will never lie!" is confused.
  25 https://twitter.com/ESYudkowsky/status/1067302082481274880
  26
  27
  28 > Lying about atheism, in a conv about atheism, is defecting in a coop effort about atheism.
  29 https://twitter.com/ESYudkowsky/status/1226605895091507200
  30
  31 More Yudkowsky playing dumb—
  32
  33 > What separates your stance from "I consider 'parmesan' to refer to only cheese from the Parma region in Italy and I don't appreciate being asked to lie"?
  34
  35 > (Though considering I've literally never heard anyone else define "gender" this way, it's more like, "I consider 'cheddar' to refer to only cheese from the Parma region in Italy, and I don't appreciate being asked to lie" and that so many people give different definitions is part of the issue here; but let's set that all aside for now.)
  36
  37 If we can't talk about that, then your rationality community is a _fraud_. If there's anything at all to your rationality stuff https://www.lesswrong.com/posts/LqjKP255fPRY7aMzw/practical-advice-backed-by-deep-theories it should be _useful_ high-stakes pratical decisions that your community members need to make, like _whether or not to cut my dick off_. If we can't talk about the information I need to make an informed decision about that, then your rationalists are worse than useless. (Worse, because false claims to authority are more misleading than dead air.) You _motherfuckers_ need to rebrand, or disband, or be destroyed
  38
  39 I know none of this matters (If any professional alignment researchers wasting time reading this instead of figuring out how to save the world, get back to work!!), but one would have thought that the _general_ skills of correct argument would matter for saving the world.
  40
  41 If you don't actually believe in the [common interest of many causes](https://www.lesswrong.com/posts/4PPE6D635iBcGPGRy/rationality-common-interest-of-many-causes) anymore, you could _say_ that—rebrand your thing as a more narrowly-scoped existential-risk-reduction cult, rather than falsely claiming to be about modeling-and-optimizing the world
  42
  43 -----
  44
  45 https://www.facebook.com/yudkowsky/posts/10159421750419228
  46
  47 https://www.lesswrong.com/posts/onwgTH6n8wxRSo2BJ/unnatural-categories-are-optimized-for-deception
  48
  49 • I need the correct answer
  50 • "We can't talk about this"—utterly discrediting of the entire project"
  51 • What is the regularity in human psychology such that we end up with "gendered" noun classes? We are sexually dimorphic animals
  52 • the people aligning language models need to know this!!
  53 • he can only speak in terms of abstractions that are very obviously not what's happening—it's true that bathroom usage is not an ontological fact, but the function of bathrooms is _to protect females from males_. If you can't talk about that core issue—the thing that people actually care about—then the smugness is actively derailing the discussion, even if you didn't say anything false
  54
  55 • Schild's ladder—noun classes in other languages are already pretty arbitrary; if the proposal is to make names like that
  56 • TODO: buff my "circular definition satisfies no one" argument to not be vulnerable to the anti-Liskov-substitution property of natural language definitions
  57
  58 https://www.ehu.eus/seg/_media/gizt/5/5/brown-gilman-pronouns.pdf
  59
  60 What Quakers Can Teach Us About the Politics of Pronouns
  61 https://archive.is/bYdde
  62
  63 https://www.genderdissent.com/the-resistance-column
  64
  65 https://www.womenarehuman.com/extra-jail-time-for-incarcerated-women-who-use-male-pronouns-for-male-transgender-identifying-inmates/
  66
  67 Spanish speakers screw up he/she—because they're used to dropping pronouns! https://cogsci.mindmodeling.org/2017/papers/0639/paper0639.pdf
  68
  69 https://twitter.com/RichardDawkins/status/1468204472908369926
  70
  71 -----
  72
  73 I already have Yudkowsky blocked on Twitter, because it turns out that me talking to Yudkowsky in public is a waste of everyone's precious time (because the topics where I can expect to contribute to the information commons by disagreeing with Yudkowsky are mostly those where he doesn't think he can politically afford to address counterarguments).
  74
  75 Nevertheless, I think I'm justified in posting this comment sharing a link to this write-up explaining everything that Yudkowsky is doing wrong in the above post + comments, because I have a legitimate interest in preventing other people from being harmed by trusting Yudkowsky's intellectual integrity and competence the way I used to: [link]
  76
  77 One imagines that Yudkowsky's optimal response here is to ignore this (rather than, say, acknowledging my incredibly obvious point that the appeal of the self-ID pronoun convention rests on the existing meanings of gendered pronouns, such that it's hypocritical to play dumb about there being existing meanings while defending the self-ID convention). If he already thought the PR risk of violating ideological taboos outweighed the benefits of having a rationality community that can think in public in a principled PR-blind manner, it's unclear why offering more arguments would change this: if the trust of people who want to be able to think in public isn't as valuable of an existential-risk-reduction resource as staying on Stalin's good side, then being trustworthy would be a dumb move! Whatever's best for the lightcone, you know?
  78
  79 ----
  80
  81 Or if you have some other Pareto improvement to propose (relative to the obvious Nash equilibrium world where I published without emailing you first, and you ignored it).
  82
  83 ----
  84
  85 I considered the September clarification sufficient! You reopened hostilities in February by putting up more bullshit that I have to waste months of my life refuting!
  86
  87 as far as I can tell, I'm only doing what you taught me to do: carve reality at the joints, speak the truth even as your voice trembles, make an extraordinary effort when you've got something to protect
  88
  89 How sensitive is he to reputational concerns? Compare feud with Alexander Kruel
  90
  91 -----
  92
  93 [TODO: again, [Yudkowsky's pathological fixation on avoiding "lying"](https://www.lesswrong.com/posts/MN4NRkMw7ggt9587K/firming-up-not-lying-around-its-edge-cases-is-less-broadly) is a distraction from anything that anyone actually cares about. Certainly, I don't believe (a) as stated. But something substantively _similar_ to (a), (a') that self-reports are biased by social desirability and we can't take "gender identity" literally seems _overwhelmingly_ likely to be true, and I have a study to support it— /papers/blanchard-clemmensen-steiner-social_desirability_response_set_and_systematic_distortion.pdf . This should not seem implausible to someone who co-blogged with Robin Hanson for three years! As for (b), I don't think they get more favorable treatment from the rest of Society uniformly, I absolutely believe (b') that there's a _subculture_ that encourages transition for ideological reasons among people who wouldn't think of themselves as "trans" if they lived in a different subculture.
  94
  95 Can we talk about _that_ in your Caliphate, my (a') and (b')? (Which is the stuff I actually care about, not pronouns.) Based on my experiences trying to, my read of the situation is, No, we can't talk about that. But if so,
  96
  97 Subject: blessing to speak freely, and privacy norms?
  98
  99 Dear Eliezer:
 100
 101 Do you particularly _care_ if I publish a couple blog posts that say some negative things about you? (That is, not just responding to object-level arguments, but also carefully and exhaustively explaining the specific sense in which I think you've been culpably intellectually dishonest. I used to trust you as a general-purpose intellectual authority, but I think you've made it very clear that you don't think you can politically afford being worthy of that trust, and I think I have a legitimate interest in writing publicly about why you're Not My Caliph anymore.)
 102
 103 If you actually _care_ about potential reputational damage to you from my writing things that I think I have a legitimate interest in writing about, I would be _willing_ to let you pre-read the drafts before publishing and give you the chance to object to anything you think is unfair, if you _wanted_ ...
 104
 105 But I'd rather agree that that's not necessary. I don't want to waste any more of your time, and I'm noticing it's a lot harder to write when I'm spending more time worrying about what you'd think of me, than on saying the things I need to say. (Because I still have an extremely messed-up cult-leader hero-worship betrayal-trauma silencing complex around you.)
 106
 107 So, since you probably _don't_ particularly care (because it's not AGI alignment and therefore unimportant), **may I please have your advance blessing to just write and publish what I'm thinking so I can get it all out of my system and move on with my life?**
 108
 109 I would assume that the privacy norm applying to me writing about our previous interactions is that I'm obviously allowed to talk about my actions, but that I can't quote your side of private conversations (_e.g._, I can mention _making_ Cheerful Price offers, but have to Glomarize as to whether you accepted), but I am allowed to _anonymously_ quote things I remember you saying (_e.g._, at the Independence Day party; if I say "Someone advised me that I was living in the should-universe, and I said [...]", and some readers could speculate that "someone" was you, that's not my fault). I don't think you can reasonably object to this, but tell me if you somehow do. I remain,
 110
 111 Your faithful student,
 112 Zack M. Davis
 113
 114 For a while, I've been meaning to write up a _different_ multi-thousand word blog post telling the Whole Dumb Story about that—not because it's an interesting story, but because I'll never be able to stop grieving and move on with my life until I get it all out of my system. (Working title: ["A Hill of Validity in Defense of Meaning"](https://twitter.com/ESYudkowsky/status/1067185907843756032). Epigraph quote: Zora Neale Hurston, "If you are silent about your pain, they'll kill you and say you enjoyed it.")
 115
 116 It's been hard to write. It _hurts_ to write. It's hard and it hurts because it's not something that _should_ need to be written.
 117
 118 [TODO outlining coda—
 119
 120 We prefer to have a good-faith discussion of ideas in themselves; talking about your interlocutors and speculating about their hidden motives is not what we do
 121 I tried the good-faith debate thing first. I tried it for years; at some point, you have to jump up a meta level and explain what you think is actually going on
 122 Since the Whole Dumb Story is longer and harder to write, I hope it's OK if I _briefly_ hit some of the highlights here that are relevant to analyzing Yudkowsky's comments on "speakable" arguments, with the understanding that I might write a longer post later
 123
 124 The Sequences taught me some really important things about sex differences and why not to take my cross-sex fantasies literally; I wrote about this in  ["Sexual Dimorphism in Yudkowsky's Sequences"](/2021/May/sexual-dimorphism-in-the-sequences-in-relation-to-my-gender-problems/)
 125
 126 The ]
 127
 128 https://astralcodexten.substack.com/p/bounded-distrust