notes/challenges-notes.md

   1 Fit in somewhere—
   2
   3  * singular they for named individuals undermined indefinite singular 'they'
   4  * parenthetical about where "Oliver" came from
   5  * some people have complained that my writing is too long, but when your interlocutors will go to the absurd length of _denying that the association of "she" with females_
   6  * people have an incentive to fight over pronouns insofar as it's a "wedge" for more substantive issues
   7  * appeal to inner privacy conversation-halter https://www.lesswrong.com/posts/wqmmv6NraYv4Xoeyj/conversation-halters
   8  * don't use "baked in" so many times
   9  * Aella https://knowingless.com/2019/06/06/side-effects-of-preferred-pronouns/
  10  * "gamete size"—this is a tic where everyone knows what sex is, but no one is allowed to acknowledge the cluster
  11  * maybe worth explaining why I keep saying "sex category" instead of "gender"—and be consistent about it
  12  * transition interventions are bundled
  13  * also take a crack at the Aristotelan binary sports Tweet
  14  * this post needs to exist because I can't let him have the last word
  15  * I need to acknowledge the
  16 > In a wide variety of cases, sure, they can clearly communicate the unambiguous sex and gender of something that has an unambiguous sex and gender, much as a different language might have pronouns that sometimes clearly communicated hair color to the extent that hair color often fell into unambiguous clusters.
  17
  18  * maybe by "much more strongly ... different firm attachments", he's pointing to different people having different intuitions about what male/female clusters map to; that's definitely a thing, but it's wrong to conflate that with "Maybe it's like not being named Oliver"; people do agree on the approximate meaning of blue and green even if there are edge cases, cite fallacy of gray
  19
  20 More Yudkowsky playing dumb—
  21
  22 > What separates your stance from "I consider 'parmesan' to refer to only cheese from the Parma region in Italy and I don't appreciate being asked to lie"?
  23
  24 > (Though considering I've literally never heard anyone else define "gender" this way, it's more like, "I consider 'cheddar' to refer to only cheese from the Parma region in Italy, and I don't appreciate being asked to lie" and that so many people give different definitions is part of the issue here; but let's set that all aside for now.)
  25
  26 -----
  27
  28 https://www.facebook.com/yudkowsky/posts/10159421750419228
  29
  30 https://www.lesswrong.com/posts/onwgTH6n8wxRSo2BJ/unnatural-categories-are-optimized-for-deception
  31
  32 • I need the correct answer
  33 • "We can't talk about this"—utterly discrediting of the entire project"
  34 • What is the regularity in human psychology such that we end up with "gendered" noun classes? We are sexually dimorphic animals
  35 • the people aligning language models need to know this!!
  36 • he can only speak in terms of abstractions that are very obviously not what's happening—it's true that bathroom usage is not an ontological fact, but the function of bathrooms is _to protect females from males_. If you can't talk about that core issue—the thing that people actually care about—then the smugness is actively derailing the discussion, even if you didn't say anything false
  37
  38 • Schild's ladder—noun classes in other languages are already pretty arbitrary; if the proposal is to make names like that
  39 • TODO: buff my "circular definition satisfies no one" argument to not be vulnerable to the anti-Liskov-substitution property of natural language definitions
  40
  41 https://www.ehu.eus/seg/_media/gizt/5/5/brown-gilman-pronouns.pdf
  42
  43 What Quakers Can Teach Us About the Politics of Pronouns
  44 https://archive.is/bYdde
  45
  46 https://www.genderdissent.com/the-resistance-column
  47
  48 https://www.womenarehuman.com/extra-jail-time-for-incarcerated-women-who-use-male-pronouns-for-male-transgender-identifying-inmates/
  49
  50 Spanish speakers screw up he/she—because they're used to dropping pronouns! https://cogsci.mindmodeling.org/2017/papers/0639/paper0639.pdf
  51
  52 https://twitter.com/RichardDawkins/status/1468204472908369926
  53
  54 -----
  55
  56 I already have Yudkowsky blocked on Twitter, because it turns out that me talking to Yudkowsky in public is a waste of everyone's precious time (because the topics where I can expect to contribute to the information commons by disagreeing with Yudkowsky are mostly those where he doesn't think he can politically afford to address counterarguments).
  57
  58 Nevertheless, I think I'm justified in posting this comment sharing a link to this write-up explaining everything that Yudkowsky is doing wrong in the above post + comments, because I have a legitimate interest in preventing other people from being harmed by trusting Yudkowsky's intellectual integrity and competence the way I used to: [link]
  59
  60 One imagines that Yudkowsky's optimal response here is to ignore this (rather than, say, acknowledging my incredibly obvious point that the appeal of the self-ID pronoun convention rests on the existing meanings of gendered pronouns, such that it's hypocritical to play dumb about there being existing meanings while defending the self-ID convention). If he already thought the PR risk of violating ideological taboos outweighed the benefits of having a rationality community that can think in public in a principled PR-blind manner, it's unclear why offering more arguments would change this: if the trust of people who want to be able to think in public isn't as valuable of an existential-risk-reduction resource as staying on Stalin's good side, then being trustworthy would be a dumb move! Whatever's best for the lightcone, you know?
  61
  62 ----
  63
  64 Or if you have some other Pareto improvement to propose (relative to the obvious Nash equilibrium world where I published without emailing you first, and you ignored it).
  65
  66 ----
  67
  68 I considered the September clarification sufficient! You reopened hostilities in February by putting up more bullshit that I have to waste months of my life refuting!
  69
  70 as far as I can tell, I'm only doing what you taught me to do: carve reality at the joints, speak the truth even as your voice trembles, make an extraordinary effort when you've got something to protect
  71
  72 How sensitive is he to reputational concerns? Compare feud with Alexander Kruel
  73
  74 -----
  75
  76 Subject: blessing to speak freely, and privacy norms?
  77
  78 Dear Eliezer:
  79
  80 Do you particularly _care_ if I publish a couple blog posts that say some negative things about you? (That is, not just responding to object-level arguments, but also carefully and exhaustively explaining the specific sense in which I think you've been culpably intellectually dishonest. I used to trust you as a general-purpose intellectual authority, but I think you've made it very clear that you don't think you can politically afford being worthy of that trust, and I think I have a legitimate interest in writing publicly about why you're Not My Caliph anymore.)
  81
  82 If you actually _care_ about potential reputational damage to you from my writing things that I think I have a legitimate interest in writing about, I would be _willing_ to let you pre-read the drafts before publishing and give you the chance to object to anything you think is unfair, if you _wanted_ ...
  83
  84 But I'd rather agree that that's not necessary. I don't want to waste any more of your time, and I'm noticing it's a lot harder to write when I'm spending more time worrying about what you'd think of me, than on saying the things I need to say. (Because I still have an extremely messed-up cult-leader hero-worship betrayal-trauma silencing complex around you.)
  85
  86 So, since you probably _don't_ particularly care (because it's not AGI alignment and therefore unimportant), **may I please have your advance blessing to just write and publish what I'm thinking so I can get it all out of my system and move on with my life?**
  87
  88 I would assume that the privacy norm applying to me writing about our previous interactions is that I'm obviously allowed to talk about my actions, but that I can't quote your side of private conversations (_e.g._, I can mention _making_ Cheerful Price offers, but have to Glomarize as to whether you accepted), but I am allowed to _anonymously_ quote things I remember you saying (_e.g._, at the Independence Day party; if I say "Someone advised me that I was living in the should-universe, and I said [...]", and some readers could speculate that "someone" was you, that's not my fault). I don't think you can reasonably object to this, but tell me if you somehow do. I remain,
  89
  90 Your faithful student,
  91 Zack M. Davis