8acc5f9991f2779fdfb4ee4c67640a1dc42bc2bf
[Ultimately_Untrue_Thought.git] / notes / memoir-sections.md
1 marked TODO blocks—
2 ✓ Boston [pt. 6]
3 ✓ Jessica's experience at MIRI and CfAR [pt. 6]
4 ✓ pandemic starts [pt. 4]
5 ✓ autogenderphilia (in-line section) [pt. 4]
6 ✓ last email and not bothering him [pt. 6]
7 ✓ the Death With Dignity era [pt. 6]
8 ✓ New York [pt. 6]
9 ✓ scuffle on "Yes Requires the Possibility" [pt. 4]
10 ✓ "Unnatural Categories Are Optimized for Deception" [pt. 4]
11 ✓ Eliezerfic fight: will-to-Truth vs. will-to-happiness [pt. 6]
12 ✓ Eliezerfic fight: Ayn Rand and children's morals [pt. 6]
13 ✓ AI timelines scam [pt. 4]
14 ✓ "Helen" crash [pt. 2]
15 ✓ confronting "Helen" [pt. 2]
16 ✓ Sophia [pt. 2]
17 ✓ Sophia correspondence details [pt. 2]
18 ✓ plans to visit Sophia [pt. 2]
19 ✓ technical discussion with Sophia
20 ✓ Rob's thread, first contact with Ben [pt. 2]
21 ✓ A/a alumna consult details [pt. 2]
22
23 ✓ touch up Persongen explanation [pt. 2]
24 ✓ touch up "Helen" key photo explanation
25 _ explain date with "Noreen"
26 _ summarize "Dear Totally Excellent Rationalist Friends"
27 _ summarize comments on "Totally Excellent Rationalist Friends"
28 _ October 11th posts
29 _ explain fight with "Noreen" et al.
30
31 - Eliezerfic fight: Big Yud tests me [pt. 6]
32 _ Eliezerfic fight: derail with lintamande [pt. 6]
33 _ Eliezerfic fight: knives, and showing myself out [pt. 6]
34
35 _ Facebook tantrum [pt. 2]
36 _ psych ward [pt. 2]
37 _ emailing Blanchard/Bailey/Hsu/Lawrence [pt. 2]
38
39 - regrets, wasted time, conclusion [pt. 6]
40
41 - "Lesswrong.com is dead to me" [pt. 4]
42 _ secret thread with Ruby [pt. 4]
43 _ progress towards discussing the real thing [pt. 4]
44 _ epistemic defense meeting [pt. 4]
45
46 - December 2019 winter blogging vacation [pt. 4]
47 _ plan to reach out to Rick [pt. 4]
48
49
50 _ reaction to Ziz [pt. 4]
51 _ State of Steven [pt. 4]
52 _ Somni [pt. 4]
53 _ culture off the rails; my warning points to Vaniver [pt. 4]
54 _ complicity and friendship [pt. 4]
55 _ out of patience email [pt. 4]
56 _ the hill he wants to die on [pt. 6?]
57 _ recap of crimes, cont'd [pt. 6]
58 _ lead-in to Sept. 2021 Twitter altercation [pt. 6]
59
60 bigger blocks—
61 - the story of my Feb. 2017 Facebook crusade [pt. 2]
62 _ the story of my Feb./Apr. 2017 recent madness [pt. 2]
63 _ Dolphin War finish
64 _ Michael Vassar and the Theory of Optimal Gossip
65 _ psychiatric disaster 
66
67 not even blocked—
68 _ "Even our pollution is beneficial" [pt. 6]
69 _ Scott Aaronson on the blockchain of science [pt. 6]
70 _ Re: on legitimacy and the entrepreneur; or, continuing the attempt to spread my sociopathic awakening onto Scott [pt. 2 somewhere]
71 _ running away to Burlingame; Hamilton tickets
72 _ include Wilhelm "Gender Czar" conversation? [pt. 2]
73 _ "EA" brand ate the "rationalism" brand—even visible in MIRI dialogues
74 _ Anna's heel–face turn
75 _ "counterfactual boyfriend"/It's California in the year 2016
76   
77 it was actually "wander onto the AGI mailing list wanting to build a really big semantic net" (https://www.lesswrong.com/posts/9HGR5qatMGoz4GhKj/above-average-ai-scientists)
78
79 With internet available—
80 ✓ matchmaking thread (thread was 4 February, relevant comments were 7 February): https://www.facebook.com/Katie.Cohen821/posts/pfbid02PNKKSCBTC99ULzPsueKvZkYmpNvELrkEfGymcrAfWZPu39LRCyh2bE4a9Ht3yg3Dl
81 ✓ download Weisberg et al.
82 ✓ Nate would later admit that this was a mistake: https://intelligence.org/2015/12/11/openai-and-other-news/
83 ✓ my October 11th? https://www.facebook.com/zmdavis/posts/10154424272680199
84 ✓ Sophia's October 11?
85 ✓ "Helen" key photo
86 _ "pretty productive blogging spree" should be links to minor posts
87 _ look back at all the Facebook posts I cite in my outline
88 -----
89 _ click-to-reveal spoiler block image
90 _ more Discord italics-correction
91 _ "around plot relevant sentences" ... only revealing, which, specifically?
92 _ what was I replying to, re: "why you actually don't want to be a happier but less accurate predictor"?
93 _ relevant screenshots for Eliezerfic play-by-play
94 _ lc on elves and Sparashki
95 _ Michael Bailey's new AGP in women study
96 _ footnote "said that he wishes he'd never published"
97 _ replace "Oh man oh jeez" Rick & Morty link
98 _ Nevada bona fides
99 _ Parfit's Hitchhiker
100 _ double-check correctness of Keltham-on-paternalism link
101 _ Arbital TDT explanation
102 _ find Sequences cite "if you don't know how your AI works, that's bad"
103 _ cover reply to my initial conspiracy complaint about dath ilan?
104 _ "not hard to find": link to more /r/itsafetish-like anecdotes
105 _ compile ancillary KP doctor's notes page and linky
106 _ go back and read all the masochism tags: https://www.glowfic.com/replies/search?board_id=&author_id=366&template_id=&character_id=&subj_content=masochism&sort=created_old&condensed=on&commit=Search
107 _ stats of SIAI vs. SingInst hits (for ^siai footnote)
108 _ quote other Eliezer Yudkowsky facts
109 _ footnote about Scott writing six times faster than me
110 _ include Eric Weinstein in archive.is spree
111 _ link to Kay Brown's summary of the "Social Desirability Response Set" paper, and footnote paper link and my brief methodology explanation
112 _ something to support Metz being a pro for decades
113 _ "not taking into account considerations" → rephrase to quote "God's dictionary"
114 _ Aaron Terrell and Corina Cohn
115 _ more examples of Yudkowsky's arrogance (MIRI dialogues, knew how to say anything at all)
116 _ my history of sniping in Yudkowsky's mentions
117 _ my comment about having changed my mind about "A Fable of Science and Politics"
118 _ more Yudkowsky Facebook comment screenshots
119 _ that neuroscience paper backing the two-types
120 _ examples of snarky comments about "the rationalists" 
121 _ 13th century word meanings
122 _ weirdly hostile comments on "... Boundaries?"
123 _ Anna's claim that Scott was a target specifically because he was good, my counterclaim that payment can't be impunity
124 _ Yudkowsky's LW moderation policy
125
126 far editing tier—
127 _ didn't "Helen" also send me $8 for the key, and the bank statement had her deadname on it?
128 _ re Persongen, footnote or sentences about how I knew I was wrong to use naïve-Bayes on facets, but I didn't know what was right
129 _ squeeze "Darkness and Light" into the Eliezerfic account
130 _ clarify Sarah dropping out of the coordination group
131 _ somewhere in dath ilan discussion: putting a wrapper on graphic porn is fine, de-listing Wikipedia articles is not
132 _ maybe current-year LW would be better if more marginal cases _had_ bounced off because of e.g. sexism
133 _ footnote to explain that when I'm summarizing a long Discord conversation to taste, I might move things around into "logical" time rather than "real time"; e.g. Yudkowsky's "powerfully relevant" and "but Superman" comments were actually one right after the other; and, e.g., I'm filling in more details that didn't make it into the chat, like innate kung fu
134 _ re "EY is a fraud": it's a _conditional_ that he can modus tollens if he wants
135 _ NRx point about HBD being more than IQ, ties in with how I think the focus on IQ is distasteful, but I have political incentives to bring it up
136 _ "arguing for a duty to self-censorship"—contrast to my "closing thoughts" email
137 _ explain Amelia Davis Ford ref
138 _ New York NRx conversation, flesh out "mostly guys"; I was acknowleding diversity as unrealistic and hypocritical; he outright doesn't believe in "people" as opposed to men/women
139 _ fold in observations from "trapped priors—at home"
140 _ earlier reference the children's books?! "And the Methods of Pre-Rationality"
141 _ "Do not ask for additional services" doxxable? revise?
142 _ Yudkowsky's "Is someone trolling?" comment as counterevidence to narcissim
143 _ "typographical attack surface" isn't clear
144 _ voting reputation section is weak, needs revision
145 _ edit "still published under a pseudonym" remark in "A Hill"
146 _ incoprorate "downvote Eliezer in their head" remark from Jessica's memoir 
147 _ explain the "if the world were at stake" Sword of Good reference better
148 _ D. also acknowledged AGP
149 _ "no one else would have spoken" should have been a call-to-action to read more widely
150 _ explain who Kay Brown is
151 _ "Great Common Task" is probably capitalized
152 _ mention Will MacAskill's gimped "longtermism" somehow
153 _ re-read a DALL-E explanation and decide if I think it's less scary now
154 _ Scott Aaronson on the blockchain of science https://scottaaronson.blog/?p=6821
155 _ footnote previous race-IQ baiting on "why do I keep bringing this up"
156 _ mention my "trembling hand" history with secrets, not just that I don't like it
157 _ https://www.lesswrong.com/posts/yaCwW8nPQeJknbCgf/free-speech-and-triskaidekaphobic-calculators-a-reply-to as part of December 2019 blogging streak
158 _ It's not clear anyone he usually respects was making this mistake; it seems likely that the original thread was subtweeting Eric Weinstein, who was not making this mistake
159 _ "I Wish You Well" as breakup song
160 _ the function of privacy norms is to protect you from people who want to selectively reveal information to hurt you, so it makes sense that I'm particularly careful about Yudkowsky's privacy and not Scott's, because I totally am trying to hurt Yudkowsky (this also protects me from the charge that by granting more privacy to Yudkowsky than Scott, I'm implying that Yudkowsky said something more incriminating; the difference in treatment is about _me_ and my expectations, rather than what they may or may not have said when I tried emailing them); I want it to be clear that I'm attacking him but not betraying him
161 _ acknowledge that 
162 _ pull "agreeing with Stalin" quote earlier in ms. to argue that Yudkowsky apparently doesn't disagree with my "deliberately ambiguous"
163 _ is the title of pt. 4 OK? (agreeing with Stalin _is_ correct when Stalin is right; the problem is that Stalin isn't right about gender)
164 _ illustrate "student dysphoria is worse" with anecdote about leaving physics class and going to the counselor to see if I could graduate earlier?
165 _ hate for secrecy probably correlates with autogynephilia blogging
166 _ mention Said rigor check somewhere, nervousness about Michael's gang being a mini-egregore
167 _ at some point, speculate on causes of brain damage
168 _ the "reducing negativity" post does obliquely hint at the regression point being general ("Let's say that the true level of negativity"), does that seriously undermine my thesis, or does it only merit a footnote?
169 _ elaborate on why I'm not leaking sensitive bits, by explaining what can be inferred by what was and wasn't said in public
170 _ footnote on "no one would even consider" 
171 _ post-Christmas conversation should do a better job of capturing the war, that Jessica thinks Scott is Bad for being a psychiatrist
172 _ conversation with Scott should include the point where I'm trying to do AI theory
173 _ consistent-ize reference to Somni getting it in pt. 4, with mention of protest in pt. 3
174 _ Anna "everyone knows" we don't have free speech 2 Mar 2019, self-centeredness about which global goods matter
175 _ footnote to explain why I always include the year with the month even though it could be inferred from context
176 _ make sure to quote Yudkowsky's LW moderation policy before calling back to it
177 _ tie off Anna's plot arc?
178 _ explain earlier that my practice of "throw money at things" also applied to my friendship with Anna
179 _ mention my robot cult history (I've been here since the late 'aughts)
180 _ ask Anna what she meant by "soldiers in an ambulance"; I was going to write up an explanation for Ben, but I don't seem to remember
181 _ quote one more "Hill of Meaning" Tweet emphasizing fact/policy distinction
182 _ conversation with Ben about physical injuries (this is important because it explains where the "cut my dick off rhetoric" came from)
183 _ context of his claim to not be taking a stand
184 _ clarify "Merlin didn't like Vassar" example about Mike's name
185 _ being friends with Anna desipite being political enemies (~May 2019)
186 _ rephrase "gamete size" discussion to make it clearer that Yudkowsky's proposal also implicitly requires people to be agree about the clustering thing
187 _ smoother transition between "deliberately ambiguous" and "was playing dumb"; I'm not being paranoid for attributing political motives to him, because he told us that he's doing it
188 _ when I'm too close to verbatim-quoting someone's email, actually use a verbatim quote and put it in quotes
189 _ I'm sure Eliezer Yudkowsky could think of some relevant differences
190 _ clarify why Michael thought Scott was "gaslighting" me, include "beeseech bowels of Christ"
191 _ address the "maybe it's good to be called names" point from "Hill" thread
192 _ explain "court ruling" earlier
193 _ 2019 Discord discourse with Alicorner
194 _ edit discussion of "anti-trans" side given that I later emphasize that "sides" shouldn't be a thing
195 _ first EY contact was asking for public clarification or "I am being silenced" (so Glomarizing over "unsatisfying response" or no response isn't leaking anything Yudkowksy cares about)
196 _ Nov. 2018 continues thread from Oct. 2016 conversation
197 _ better explanation of posse formation
198 _ maybe quote Michael's Nov 2018 texts?
199 _ mention Nov. 2018 conversation with Ian somehow; backref on bidding for attention again; subject line from Happy Price 2016
200 _ Said on Yudkowsky's retreat to Facebook being bad for him
201 _ erasing agency of Michael's friends, construed as a pawn
202 _ mention the fact that Anna had always taken a "What You Can't Say" strategy
203 _ when to use first _vs. last names
204 _ explain why I'm not being charitable in 2018 thread analysis, that at the time, I thought it had to be a mistake
205 _ better summary of Littman
206 _ explain Rob
207 _ edit the child transition section in a way that Kay Brown would be OK with, have a few sentences about Clever Hans before the wrap-up
208 _ ask Jessica where Scott clarified his position on antipsychotics?
209 _ I should respond to Ziz's charges that my criticism of concept-policing was a form of concept-policing
210 _ why doesn't he apply his anti-optimism to his gender statements?!
211 _ notice the symmetry where _both_ E and I want to partition the discussion with "That's a policy question" ... I just think it's unfair to partition after "words don't have intrinsic defn's" rather than 37 ways
212 _ contract-drafting em, SSC blogroll is most of my traffic
213 _ "Common Interest of Many Causes" and "Kolmogorov Complicity" offer directly contradictory strategies
214 _ Vassar's about-face on gender
215 _ better introduction of S.K.
216 _ risk of people bouncing off progressivism
217 _ an AGP teen boy could at least consent to transition, and make plans based on knowing what the thing is (you'd actually want to go through a little bit of male puberty)
218 _ better explanation of Scott's jailbreaking accusation against Vassar
219 _ archive.is karma history for Jessica's post
220 _ "tossed in a bucket" is ignoring advice from Sept. 2022 clarification to be clear about the type distinction
221 _ explicitly explain "Hill of Validity" title inversion
222 _ figure out full timeline of which of my Less Wrong posts to mention
223 _ update "80,000 words" refs with the near-final wordcount
224 _ the "outright bad faith" clause in "Your Price for Joining"
225 _ less afraid of hurting O.
226 _ secret posse member pointing out that it worked better because it was Oli
227 _ update "karma at press time"
228 _ better explain "lie inflation" ambiguity
229 _ Facing Reality
230 _ backlink condemning Emperor Norton Conspiracy
231 _ backlink AGP in women post (time permitting) in pt. 2 "don't think it's the same thing"
232 _ backlink "I've decided to drop the pseudonym" to pen name drop post
233 _ backlink (/2022/TODO/blanchards-dangerous-idea-and-the-plight-of-the-lucid-crossdreamer/)
234 _ backlink "I again refer to" Happy Price
235 _ backlink "(again) whether he accepted the Cheerful Price"
236 _ backlink "alter the beacon"
237 _ backlink only seen an escort once before (#confided-to-wilhelm)
238 _ backlink Yudkowsky's implicit political concession
239
240 terms to explain on first mention—
241 _ TERF?
242 _ Civilization (context of dath ilan)
243 _ Valinor (probably don't name it, actually)
244 _ "Caliphate"
245 _ "rationalist"
246 _ Center for Applied Rationality
247 _ MIRI
248 _ "egregore"
249 _ eliezera
250
251
252 people to consult before publishing, for feedback or right of objection—
253 _ Tail (pt. 2 AGP discussion)
254 _ Iceman
255 _ Ben/Jessica (Michael)
256 _ "Wilhelm"
257 _ Scott
258 _ Anna
259 _ "Noreen"
260 _ secret posse member
261 _ "Chaya" (pseudonym choice)
262 _ Alicorn: about privacy, and for Melkor Glowfic reference link
263 _ hostile prereader (April, J. Beshir, Swimmer, someone else from Alicorner #drama)
264 _ Kelsey
265 _ NRx Twitter bro
266 _ maybe SK (briefly about his name)? (the memoir might have the opposite problem (too long) from my hostile-shorthand Twitter snipes)
267 _ Megan (that poem could easily be about some other entomologist named Megan) ... I'm probably going to cut that §, though
268 _ David Xu? (Is it OK to name him in his LW account?)
269 _ afford various medical procedures
270 _ Buck? (get the story about Michael being escorted from events)
271 _ A/a alumna??
272
273 marketing—
274 _ Twitter
275 _ Facebook
276 _ Less Wrong
277 _ should I buy Twitter ads to increase reach??
278 _ TheMotte.org
279
280 things to bring up in consultation emails—
281 _ dropping "and Scott" in Jessica's description of attacking narcissim
282 _ I think it's OK to copy my friends' language from emails; plagiarism instincts
283
284 Jack Clark's language model editor prompt: "Read this essay and give constructive and critical feedback, paying particular attention to logical inconsistencies or clunky phrasing:"
285
286 -------
287
288 Friend of the blog Ninety-Three has been nagging me about my pathetic pacing—looking at the diffs of my wordcount spreadsheet, I have four thousand-word days in January, two in February, and two in March (which is half-over). He ... has a point. With no dayjob and no responsibilities, four-figure wordcount days should be normal, something that happens four times a week, not four times a month.
289
290 -------
291
292 The thing about our crowd is that we have a lamentably low proportion of women (13.3% cis women in the last community survey) and—I don't know when this happened; it certainly didn't feel like this back in 'aught-nine—an enormous number of trans women relative to population base rates (2.7%, for a cis-to-trans ratio of 4.9!!), the vast majority of whom I expect to be AGP
293
294
295 [TODO: contrast "... Not Man for the Categories" to "Against Lie Inflation";
296 When the topic at hand is how to define "lying", Alexander 
297 Scott has written exhaustively about the dangers of strategic equivocation ("Worst Argument", "Brick in the Motte"); insofar as I can get a _coherent_ posiiton out of the conjunction of "... for the Categories" and Scott's other work, it's that he must think strategic equivocation is OK if it's for being nice to people
298 https://slatestarcodex.com/2019/07/16/against-lie-inflation/
299 ]
300
301 I ended up spending three years of my life re-explaining the relevant philosophy-of-language issues in exhaustive, _exhaustive_ detail.
302
303 At first I did this in the object-level context of gender on this blog, in ["The Categories Were Made for Man to Make Predictions"](/2018/Feb/the-categories-were-made-for-man-to-make-predictions/), and the ["Reply on Adult Human Females"](/2018/Apr/reply-to-the-unit-of-caring-on-adult-human-females/). And that would have been the end of the philosophy-of-language track specifically ...
304
305 Later, after [Eliezer Yudkowsky joined in the mind games on Twitter in November 2018](https://twitter.com/ESYudkowsky/status/1067183500216811521) [(archived)](https://archive.is/ChqYX), I _flipped the fuck out_, and ended up doing more [stictly abstract philosophy-of-language work](https://www.lesswrong.com/posts/esRZaPXSHgWzyB2NL/where-to-draw-the-boundaries) [on](https://www.lesswrong.com/posts/edEXi4SpkXfvaX42j/schelling-categories-and-simple-membership-tests) [the](https://www.lesswrong.com/posts/fmA2GJwZzYtkrAKYJ/algorithms-of-deception) [robot](https://www.lesswrong.com/posts/4hLcbXaqudM9wSeor/philosophy-in-the-darkest-timeline-basics-of-the-evolution)-[cult](https://www.lesswrong.com/posts/YptSN8riyXJjJ8Qp8/maybe-lying-can-t-exist) [blog](https://www.lesswrong.com/posts/onwgTH6n8wxRSo2BJ/unnatural-categories-are-optimized-for-deception).
306
307 _for all_ nouns N, you can't define _N_ any way you want, because _useful_ definitions need to "carve reality at the joints."
308
309 It [_follows logically_](https://www.lesswrong.com/posts/WQFioaudEH8R7fyhm/local-validity-as-a-key-to-sanity-and-civilization) that, in particular, if _N_ := "woman", you can't define the word _woman_ any way you want. Maybe trans women _are_ women! But if so—that is, if you want people to agree to that word usage—you need to be able to _argue_ for why that usage makes sense on the empirical merits; you can't just _define_ it to be true. And this is a _general_ principle of how language works, not something I made up on the spot in order to attack trans people.
310
311 In 2008, this very general philosophy of language lesson was _not politically controversial_. If, in 2018–present, it _is_ politically controversial (specifically because of the fear that someone will try to apply it with _N_ := "woman"), that's a _problem_ for our whole systematically-correct-reasoning project! What counts as good philosophy—or even good philosophy _pedagogy_—shouldn't depend on the current year!
312
313 There is a _sense in which_ one might say that you "can" define a word any way you want. That is: words don't have intrinsic ontologically-basic meanings. We can imagine an alternative world where people spoke a language that was _like_ the English of our world, except that they use the word "tree" to refer to members of the empirical entity-cluster that we call "dogs" and _vice versa_, and it's hard to think of a meaningful sense in which one convention is "right" and the other is "wrong".
314
315 But there's also an important _sense in which_ we want to say that you "can't" define a word any way you want. That is: some ways of using words work better for transmitting information from one place to another. It would be harder to explain your observations from a trip to the local park in a language that used the word "tree" to refer to members of _either_ of the empirical entity-clusters that the English of our world calls "dogs" and "trees", because grouping together things that aren't relevantly similar like that makes it harder to describe differences between the wagging-animal-trees and the leafy-plant-trees.
316
317 If you want to teach people about the philosophy of language, you should want to convey _both_ of these lessons, against naïve essentialism, _and_ against naïve anti-essentialism. If the people who are widely respected and trusted [(almost worshipped)](https://www.lesswrong.com/posts/Ndtb22KYBxpBsagpj/eliezer-yudkowsky-facts) as the leaders of the systematically-correct-reasoning community, [_selectively_](https://www.lesswrong.com/posts/AdYdLP2sRqPMoe8fb/knowing-about-biases-can-hurt-people) teach _only_ the words-don't-have-intrinsic-ontologically-basic-meanings part when the topic at hand happens to be trans issues (because talking about the carve-reality-at-the-joints part would be [politically suicidal](https://www.lesswrong.com/posts/DoPo4PDjgSySquHX8/heads-i-win-tails-never-heard-of-her-or-selective-reporting)), then people who trust the leaders are likely to get the wrong idea about how the philosophy of language works—even if [the selective argumentation isn't _conscious_ or deliberative](https://www.lesswrong.com/posts/sXHQ9R5tahiaXEZhR/algorithmic-intent-a-hansonian-generalized-anti-zombie) and [even if every individual sentence they say permits a true interpretation](https://www.lesswrong.com/posts/MN4NRkMw7ggt9587K/firming-up-not-lying-around-its-edge-cases-is-less-broadly).
318
319 (As it is written of the fourth virtue of evenness, ["If you are selective about which arguments you inspect for flaws, or how hard you inspect for flaws, then every flaw you learn how to detect makes you that much stupider."](https://www.yudkowsky.net/rational/virtues))
320
321 _Was_ it a "political" act for me to write about the cognitive function of categorization on the robot-cult blog with non-gender examples, when gender was secretly ("secretly") my _motivating_ example? In some sense, yes, but the thing you have to realize is—
322
323 _Everyone else shot first_. The timestamps back me up here: my ["... To Make Predictions"](/2018/Feb/the-categories-were-made-for-man-to-make-predictions/) (February 2018) was a _response to_ Alexander's ["... Not Man for the Categories"](https://slatestarcodex.com/2014/11/21/the-categories-were-made-for-man-not-man-for-the-categories/) (November 2014). My philosophy-of-language work on the robot-cult blog (April 2019–January 2021) was (stealthily) _in response to_ Yudkowsky's November 2018 Twitter thread. When I started trying to talk about autogynephilia with all my robot cult friends in 2016, I _did not expect_ to get dragged into a multi-year philosophy-of-language crusade! That was just _one branch_ of the argument-tree that, once begun, I thought should be easy to _definitively settle in public_ (within our robot cult, whatever the _general_ public thinks).
324
325 I guess by now the branch is as close to settled as it's going to get? Alexander ended up [adding an edit note to the end of "... Not Man to the Categories" in December 2019](https://archive.is/1a4zV#selection-805.0-817.1), and Yudkowsky would go on to clarify his position on the philosophy of language in Facebook posts of [September 2020](https://www.facebook.com/yudkowsky/posts/10158853851009228) and [February 2021](https://www.facebook.com/yudkowsky/posts/10159421750419228). So, that's nice.
326
327 [TODO: although I think even with the note, in practice, people are going to keep citing "... Not Man for the Categories" in a way that doesn't understand how the note undermines the main point]
328
329 But I will confess to being quite disappointed that the public argument-tree evaluation didn't get much further, much faster? The thing you have understand about this whole debate is—
330
331 _I need the correct answer in order to decide whether or not to cut my dick off_. As I've said, I _currently_ believe that cutting my dick off would be a _bad_ idea. But that's a cost–benefit judgement call based on many _contingent, empirical_ beliefs about the world. I'm obviously in the general _reference class_ of males who are getting their dicks cut off these days, and a lot of them seem to be pretty happy about it! I would be much more likely to go through with transitioning if I believed different things about the world—if I thought my beautiful pure sacred self-identity thing were a brain-intersex condition, or if I still believed in my teenage psychological-sex-differences denialism (such that there would be _axiomatically_ no worries about fitting with "other" women after transitioning), or if I were more optimistic about the degree to which HRT and surgeries approximate an actual sex change.
332
333 In that November 2018 Twitter thread, [Yudkowsky wrote](https://archive.is/y5V9i):
334
335 > _Even if_ somebody went around saying, "I demand you call me 'she' and furthermore I claim to have two X chromosomes!", which none of my trans colleagues have ever said to me by the way, it still isn't a question-of-empirical-fact whether she should be called "she". It's an act.
336
337 This seems to suggest that gender pronouns in the English language as currently spoken don't have effective truth conditions. I think this is false _as a matter of cognitive science_. If someone told you, "Hey, you should come meet my friend at the mall, she is really cool and I think you'll like her," and then the friend turned out to look like me (as I am now), _you would be surprised_. (Even if people in Berkeley would socially punish you for _admitting_ that you were surprised.) The "she ... her" pronouns would prompt your brain to _predict_ that the friend would appear to be female, and that prediction would be _falsified_ by someone who looked like me (as I am now). Pretending that the social-norms dispute is about chromosomes was a _bullshit_ [weakmanning](https://slatestarcodex.com/2014/05/12/weak-men-are-superweapons/) move on the part of Yudkowsky, [who had once written that](https://www.lesswrong.com/posts/qNZM3EGoE5ZeMdCRt/reversed-stupidity-is-not-intelligence) "[t]o argue against an idea honestly, you should argue against the best arguments of the strongest advocates[;] [a]rguing against weaker advocates proves _nothing_, because even the strongest idea will attract weak advocates." Thanks to the skills I learned from Yudkowsky's _earlier_ writing, I wasn't dumb enough to fall for it, but we can imagine someone otherwise similar to me who was, who might have thereby been misled into making worse life decisions.
338
339 [TODO: ↑ soften tone, be more precise, including about "dumb enough to fall for it"]
340
341 If this "rationality" stuff is useful for _anything at all_, you would _expect_ it to be useful for _practical life decisions_ like _whether or not I should cut my dick off_. 
342
343 In order to get the _right answer_ to that policy question (whatever the right answer turns out to be), you need to _at minimum_ be able to get the _right answer_ on related fact-questions like "Is late-onset gender dysphoria in males an intersex condition?" (answer: no) and related philosophy-questions like "Can we arbitrarily redefine words such as 'woman' without adverse effects on our cognition?" (answer: no).
344
345 At the cost of _wasting three years of my life_, we _did_ manage to get the philosophy question mostly right! Again, that's nice. But compared to the [Sequences-era dreams of changing the world](https://www.lesswrong.com/posts/YdcF6WbBmJhaaDqoD/the-craft-and-the-community), it's too little, too slow, too late. If our public discourse is going to be this aggressively optimized for _tricking me into cutting my dick off_ (independently of the empirical cost–benefit trade-off determining whether or not I should cut my dick off), that kills the whole project for me. I don't think I'm setting [my price for joining](https://www.lesswrong.com/posts/Q8evewZW5SeidLdbA/your-price-for-joining) particularly high here?
346
347 Someone asked me: "Wouldn't it be embarrassing if the community solved Friendly AI and went down in history as the people who created Utopia forever, and you had rejected it because of gender stuff?"
348
349 But the _reason_ it seemed _at all_ remotely plausible that our little robot cult could be pivotal in creating Utopia forever was _not_ "[Because we're us](http://benjaminrosshoffman.com/effective-altruism-is-self-recommending/), the world-saving good guys", but rather _because_ we were going to discover and refine the methods of _systematically correct reasoning_.
350
351 If you're doing systematically correct reasoning, you should be able to get the right answer even when the question _doesn't matter_. Obviously, the safety of the world does not _directly_ depend on being able to think clearly about trans issues. Similarly, the safety of a coal mine for humans does not _directly_ depend on [whether it's safe for canaries](https://en.wiktionary.org/wiki/canary_in_a_coal_mine): the dead canaries are just _evidence about_ properties of the mine relevant to human health. (The causal graph is the fork "canary-death ← mine-gas → human-danger" rather than the direct link "canary-death → human-danger".)
352
353 If the people _marketing themselves_ as the good guys who are going to save the world using systematically correct reasoning are _not actually interested in doing systematically correct reasoning_ (because systematically correct reasoning leads to two or three conclusions that are politically "impossible" to state clearly in public, and no one has the guts to [_not_ shut up and thereby do the politically impossible](https://www.lesswrong.com/posts/nCvvhFBaayaXyuBiD/shut-up-and-do-the-impossible)), that's arguably _worse_ than the situation where "the community" _qua_ community doesn't exist at all. 
354
355 In ["The Ideology Is Not the Movement"](https://slatestarcodex.com/2016/04/04/the-ideology-is-not-the-movement/) (April 2016), Alexander describes how the content of subcultures typically departs from the ideological "rallying flag" that they formed around. [Sunni and Shia Islam](https://en.wikipedia.org/wiki/Shia%E2%80%93Sunni_relations) originally, ostensibly diverged on the question of who should rightfully succeed Muhammad as caliph, but modern-day Sunni and Shia who hate each other's guts aren't actually re-litigating a succession dispute from the 7th century C.E. Rather, pre-existing divergent social-group tendencies crystalized into distinct tribes by latching on to the succession dispute as a [simple membership test](https://www.lesswrong.com/posts/edEXi4SpkXfvaX42j/schelling-categories-and-simple-membership-tests).
356
357 Alexander jokingly identifies the identifying feature of our robot cult as being the belief that "Eliezer Yudkowsky is the rightful caliph": the Sequences were a rallying flag that brought together a lot of like-minded people to form a subculture with its own ethos and norms—among which Alexander includes "don't misgender trans people"—but the subculture emerged as its own entity that isn't necessarily _about_ anything outside itself.
358
359 No one seemed to notice at the time, but this characterization of our movement [is actually a _declaration of failure_](https://sinceriously.fyi/cached-answers/#comment-794). There's a word, "rationalist", that I've been trying to avoid in this post, because it's the subject of so much strategic equivocation, where the motte is "anyone who studies the ideal of systematically correct reasoning, general methods of thought that result in true beliefs and successful plans", and the bailey is "members of our social scene centered around Eliezer Yudkowsky and Scott Alexander". (Since I don't think we deserve the "rationalist" brand name, I had to choose something else to refer to [the social scene](https://srconstantin.github.io/2017/08/08/the-craft-is-not-the-community.html). Hence, "robot cult.")
360
361 What I would have _hoped_ for from a systematically correct reasoning community worthy of the brand name is one goddamned place in the whole goddamned world where _good arguments_ would propagate through the population no matter where they arose, "guided by the beauty of our weapons" ([following Scott Alexander](https://slatestarcodex.com/2017/03/24/guided-by-the-beauty-of-our-weapons/) [following Leonard Cohen](https://genius.com/1576578)).
362
363 [missing mood]
364
365 Instead, I think what actually happens is that people like Yudkowsky and Alexander rise to power on the strength of good arguments and entertaining writing (but mostly the latter), and then everyone else sort-of absorbs most of their worldview (plus noise and conformity with the local environment)—with the result that if Yudkowsky and Alexander _aren't interested in getting the right answer_ (in public)—because getting the right answer in public would be politically suicidal—then there's no way for anyone who didn't [win the talent lottery](https://slatestarcodex.com/2015/01/31/the-parable-of-the-talents/) to fix the public understanding by making better arguments.
366
367 It makes sense for public figures to not want to commit political suicide! Even so, it's a _problem_ if public figures whose brand is premised on the ideal of _systematically correct reasoning_, end up drawing attention and resources into a subculture that's optimized for tricking men into cutting their dick off on false pretenses. (Although note that Alexander has [specifically disclaimed aspirations or pretentions to being a "rationalist" authority figure](https://slatestarcodex.com/2019/07/04/some-clarifications-on-rationalist-blogging/); that fate befell him without his consent because he's just too good and prolific of a writer compared to everyone else.)
368
369 I'm not optimistic about the problem being fixable, either. Our robot cult _already_ gets a lot of shit from progressive-minded people for being "right-wing"—not because we are in any _useful_, non-gerrymandered sense, but because [attempts to achieve the map that reflects the territory are going to run afoul of ideological taboos for almost any ideology](https://www.lesswrong.com/posts/DoPo4PDjgSySquHX8/heads-i-win-tails-never-heard-of-her-or-selective-reporting).
370
371
372 ----
373
374
375 (which Alexander aptly renamed [Kolmorogov complicity](https://slatestarcodex.com/2017/10/23/kolmogorov-complicity-and-the-parable-of-lightning/):
376
377 Becuase of the conflict, and because all the prominent high-status people are running a Kolmogorov Option strategy, and because we happen to have to a _wildly_ disproportionate number of _people like me_ around, I think being "pro-trans" ended up being part of the community's "shield" against external political pressure, of the sort that perked up after [the February 2021 _New York Times_ hit piece about Alexander's blog](https://archive.is/0Ghdl). (The _magnitude_ of heat brought on by the recent _Times_ piece and its aftermath was new, but the underlying dynamics had been present for years.)
378
379
380 Given these political realities, you'd think that I _should_ be sympathetic to the Kolmogorov Option argument, which makes a lot of sense. _Of course_ all the high-status people with a public-facing mission (like building a movement to prevent the coming robot apocalypse) are going to be motivatedly dumb about trans stuff in public: look at all the damage [the _other_ Harry Potter author did to her legacy](https://en.wikipedia.org/wiki/Politics_of_J._K._Rowling#Transgender_people).
381
382 And, historically, it would have been harder for the robot cult to recruit _me_ (or those like me) back in the 'aughts, if they had been less politically correct. Recall that I was already somewhat turned off, then, by what I thought of as _sexism_; I stayed because the philosophy-of-science blogging was _way too good_. But what that means on the margin is that someone otherwise like me except more orthodox or less philosophical, _would_ have bounced. If [Cthulhu has swum left](https://www.unqualified-reservations.org/2009/01/gentle-introduction-to-unqualified/) over the intervening thirteen years, then maintaining the same map-revealing/not-alienating-orthodox-recruits tradeoff _relative_ to the general population, necessitates relinquishing parts of the shared map that have fallen of general favor.
383
384 Ultimately, if the people with influence over the trajectory of the systematically correct reasoning "community" aren't interested in getting the right answers in public, then I think we need to give up on the idea of there _being_ a "community", which, you know, might have been a dumb idea to begin with. No one owns _reasoning itself_. Yudkowsky had written in March 2009 that rationality is the ["common interest of many causes"](https://www.lesswrong.com/posts/4PPE6D635iBcGPGRy/rationality-common-interest-of-many-causes): that proponents of causes-that-benefit-from-better-reasoning like atheism or marijuana legalization or existential-risk-reduction might perceive a shared interest in cooperating to [raise the sanity waterline](https://www.lesswrong.com/posts/XqmjdBKa4ZaXJtNmf/raising-the-sanity-waterline). But to do that, they need to not try to capture all the value they create: some of the resources you invest in teaching rationality are going to flow to someone else's cause, and you need to be okay with that.
385
386 But Alexander's ["Kolmogorov Complicity"](https://slatestarcodex.com/2017/10/23/kolmogorov-complicity-and-the-parable-of-lightning/) (October 2017) seems to suggest a starkly different moral, that "rationalist"-favored causes might not _want_ to associate with others that have worse optics. Atheists and marijuana legalization proponents and existential-risk-reducers probably don't want any of the value they create to flow to neoreactionaries and race realists and autogynephilia truthers, if video of the flow will be used to drag their own names through the mud.
387
388 [_My_ Something to Protect](/2019/Jul/the-source-of-our-power/) requires me to take the [Leeroy Jenkins](https://en.wikipedia.org/wiki/Leeroy_Jenkins) Option. (As typified by Justin Murphy: ["Say whatever you believe to be true, in uncalculating fashion, in whatever language you really think and speak with, to everyone who will listen."](https://otherlife.co/respectability-is-not-worth-it-reply-to-slatestarcodex/)) I'm eager to cooperate with people facing different constraints who are stuck with a Kolmogorov Option strategy as long as they don't _fuck with me_. But I construe encouragement of the conflation of "rationality" as a "community" and the _subject matter_ of systematically correct reasoning, as a form of fucking with me: it's a _problem_ if all our beautiful propaganda about the methods of seeking Truth, doubles as propaganda for joining a robot cult whose culture is heavily optimized for tricking men like me into cutting their dicks off.
389
390 Someone asked me: "If we randomized half the people at [OpenAI](https://openai.com/) to use trans pronouns one way, and the other half to use it the other way, do you think they would end up with significantly different productivity?"
391
392 But the thing I'm objecting to is a lot more fundamental than the specific choice of pronoun convention, which obviously isn't going to be uniquely determined. Turkish doesn't have gender pronouns, and that's fine. Naval ships traditionally take feminine pronouns in English, and it doesn't confuse anyone into thinking boats have a womb. [Many other languages are much more gendered than English](https://en.wikipedia.org/wiki/Grammatical_gender#Distribution_of_gender_in_the_world's_languages) (where pretty much only third-person singular pronouns are at issue). The conventions used in one's native language probably _do_ [color one's thinking to some extent](/2020/Dec/crossing-the-line/)—but when it comes to that, I have no reason to expect the overall design of English grammar and vocabulary "got it right" where Spanish or Arabic "got it wrong."
393
394 What matters isn't the specific object-level choice of pronoun or bathroom conventions; what matters is having a culture where people _viscerally care_ about minimizing the expected squared error of our probabilistic predictions, even at the expense of people's feelings—[_especially_ at the expense of people's feelings](http://zackmdavis.net/blog/2016/09/bayesomasochism/).
395
396 I think looking at [our standard punching bag of theism](https://www.lesswrong.com/posts/dLL6yzZ3WKn8KaSC3/the-uniquely-awful-example-of-theism) is a very fair comparison. Religious people aren't _stupid_. You can prove theorems about the properties of [Q-learning](https://en.wikipedia.org/wiki/Q-learning) or [Kalman filters](https://en.wikipedia.org/wiki/Kalman_filter) at a world-class level without encountering anything that forces you to question whether Jesus Christ died for our sins. But [beyond technical mastery of one's narrow specialty](https://www.lesswrong.com/posts/N2pENnTPB75sfc9kb/outside-the-laboratory), there's going to be some competence threshold in ["seeing the correspondence of mathematical structures to What Happens in the Real World"](https://www.lesswrong.com/posts/sizjfDgCgAsuLJQmm/reply-to-holden-on-tool-ai) that _forces_ correct conclusions. I actually _don't_ think you can be a believing Christian and invent [the concern about consequentialists embedded in the Solomonoff prior](https://ordinaryideas.wordpress.com/2016/11/30/what-does-the-universal-prior-actually-look-like/).
397
398 But the _same_ general parsimony-skill that rejects belief in an epiphenomenal ["God of the gaps"](https://en.wikipedia.org/wiki/God_of_the_gaps) that is verbally asserted to exist but will never the threat of being empirically falsified, _also_ rejects belief in an epiphenomenal "gender of the gaps" that is verbally asserted to exist but will never face the threat of being empirically falsified.
399
400 In a world where sexual dimorphism didn't exist, where everyone was a hermaphrodite, then "gender" wouldn't exist, either.
401
402 In a world where we _actually had_ magical perfect sex-change technology of the kind described in "Changing Emotions", then people who wanted to change sex would do so, and everyone else would use the corresponding language (pronouns and more), _not_ as a courtesy, _not_ to maximize social welfare, but because it _straightforwardly described reality_.
403
404 In a world where we don't _have_ magical perfect sex-change technology, but we _do_ have hormone replacement therapy and various surgical methods, you actually end up with _four_ clusters: females (F), males (M), masculinized females a.k.a. trans men (FtM), and feminized males a.k.a. trans women (MtF). I _don't_ have a "clean" philosophical answer as to in what contexts one should prefer to use a {F, MtF}/{M, FtM} category system (treating trans people as their social gender) rather than a {F, FtM}/{M, MtF} system (considering trans people as their [developmental sex](/2019/Sep/terminology-proposal-developmental-sex/)), because that's a complicated semi-empirical, semi-value question about which aspects of reality are most relevant to what you're trying think about in that context. But I do need _the language with which to write this paragraph_, which is about _modeling reality_, and not about marginalization or respect.
405
406 Something I have trouble reliably communicating about what I'm trying to do with this blog is that "I don't do policy." Almost everything I write is _at least_ one meta level up from any actual decisions. I'm _not_ trying to tell other people in detail how they should live their lives, because obviously I'm not smart enough to do that and get the right answer. I'm _not_ telling anyone to detransition. I'm _not_ trying to set government policy about locker rooms or medical treatments.
407
408 I'm trying to _get the theory right_. My main victory condition is getting the two-type taxonomy (or whatever more precise theory supplants it) into the _standard_ sex ed textbooks. If you understand the nature of the underlying psychological condition _first_, then people can make a sensible decision about what to _do_ about it. Accurate beliefs should inform policy, rather than policy determining what beliefs are politically acceptable.
409
410 It worked once, right?
411
412 -----
413
414 > An extreme case in point of "handwringing about the Overton Window in fact constituted the Overton Window's implementation"
415 OK, now apply that to your Kolomogorov cowardice
416 https://twitter.com/ESYudkowsky/status/1373004525481598978
417
418 The "discourse algorithm" (the collective generalization of "cognitive algorithm") that can't just _get this shit right_ in 2021 (because being out of step with the reigning Bay Area ideological fashion is deemed too expensive by a consequentialism that counts unpopularity or hurt feelings as costs), also [can't get heliocentrism right in 1633](https://en.wikipedia.org/wiki/Galileo_affair) [_for the same reason_](https://www.lesswrong.com/posts/yaCwW8nPQeJknbCgf/free-speech-and-triskaidekaphobic-calculators-a-reply-to)—and I really doubt it can get AI alignment theory right in 2041.
419
420 Or at least—even if there are things we can't talk about in public for consequentialist reasons and there's nothing to be done about it, you would hope that the censorship wouldn't distort our beliefs about the things we _can_ talk about—like, say, the role of Bayesian reasoning in the philosophy of language. Yudkowsky had written about the [dark side epistemology](https://www.lesswrong.com/posts/XTWkjCJScy2GFAgDt/dark-side-epistemology) of [contagious lies](https://www.lesswrong.com/posts/wyyfFfaRar2jEdeQK/entangled-truths-contagious-lies): trying to protect a false belief doesn't just mean being wrong about that one thing, it also gives you, on the object level, an incentive to be wrong about anything that would _imply_ the falsity of the protected belief—and, on the meta level, an incentive to be wrong _about epistemology itself_, about how "implying" and "falsity" work.
421
422
423 https://www.lesswrong.com/posts/ASpGaS3HGEQCbJbjS/eliezer-s-sequences-and-mainstream-academia?commentId=6GD86zE5ucqigErXX
424 > The actual real-world consequences of a post like this when people actually read it are what bothers me, and it does feel frustrating because those consequences seem very predictable
425 (!!)
426
427
428 > Makes sense... just don't be shocked if the next frontier is grudging concessions that get compartmentalized
429
430 > Stopping reading your Tweets is the correct move for them IF you construe them as only optimizing for their personal hedonics
431 https://twitter.com/zackmdavis/status/1224433237679722500
432
433 "assuming that it was a 'he'"—people treating pronouns as synonymous with sex
434 https://www.youtube.com/watch?v=mxZBrbVqZnU
435
436 I realize it wasn't personal—no one _consciously_ thinking "I'm going to trick autogynpehilic men into cutting their dicks off", but
437
438 > The absolute inadequacy of every single institution in the civilization of magical Britain is what happened! You cannot comprehend it, boy! I cannot comprehend it! It has to be seen and even then it cannot be believed! 
439 http://www.hpmor.com/chapter/108
440
441 EGS??
442
443 (If the world were smaller, you'd never give different people the same name; if our memories were larger, we'd give everyone a UUID.)
444
445 how they would actually think about the problem in dath ilan
446
447 https://www.reddit.com/r/TheMotte/comments/myr3n7/culture_war_roundup_for_the_week_of_april_26_2021/gw0nhqv/?context=3
448 > At some point you realize that your free bazaar of ideas has produced a core (or multiple cores). It is a chamber: semi-permeable, still receptive to external ideas and open to critique, but increasingly more connected on the inside.
449
450 https://arbital.greaterwrong.com/p/domain_distance?l=7vk
451
452 https://www.facebook.com/yudkowsky/posts/10159611207744228?comment_id=10159611208509228&reply_comment_id=10159613820954228
453 > In the circles I run in, being poly isn't very political, just a sexual orientation like any other—it's normalized the way that LGBT is normalized in saner circles, not political the way that LGBT is political in crazier circles.
454
455 https://archive.is/7Wolo
456 > the massive correlation between exposure to Yudkowsky's writings and being a trans woman (can't bother to do the calculations but the connection is absurdly strong)
457 Namespace's point about the two EYs
458
459 The level above "Many-worlds is obviously correct, stop being stupid" is "Racial IQ differences are obviously real; stop being stupid"— link to the correct contrarian cluster
460
461
462 But in the _process_ of trying to _talk about_ this late-onset-gender-dysphoria-in-males-is-not-an-intersex-condition thesis, I noticed that my conversations kept getting _derailed_ on some variation of "The word _woman_ doesn't necessarily mean that." _That_ part of the debate, I knew I could win.
463
464
465 I guess I feel pretty naïve now, but—I _actually believed our own propoganda_. I _actually thought_ we were doing something new and special of historical and possibly even _cosmological_ significance.
466
467
468 I got a pingback to "Optimized Propaganda" from in an "EDIT 5/21/2021" on https://www.lesswrong.com/posts/qKvn7rxP2mzJbKfcA/persuasion-tools-ai-takeover-without-agi-or-agency after Scott Alexander linked it—evidence for Scott having Power to shape people's attention
469
470 The Eliezer Yudkowsky I remember wrote about [how facts are tightly-woven together in the Great Web of Causality](https://www.lesswrong.com/posts/wyyfFfaRar2jEdeQK/entangled-truths-contagious-lies), such that [people who are trying to believe something false have an incentive to invent and spread fake epistemology lessons](https://www.lesswrong.com/posts/XTWkjCJScy2GFAgDt/dark-side-epistemology), and about the [high competence threshold that _forces_ correct conclusions](http://sl4.org/archive/0602/13903.html).
471
472 A culture where there are huge catastrophic consequences for [questioning religion](https://www.lesswrong.com/posts/u6JzcFtPGiznFgDxP/excluding-the-supernatural), is a culture where it's harder to train alignment researchers that genuinely understand Occam's razor on a _deep_ level, when [the intelligent social web](https://www.lesswrong.com/posts/AqbWna2S85pFTsHH4/the-intelligent-social-web) around them will do anything to prevent them from applying the parsimony skill to the God hypothesis. 
473
474 A culture where there are huge catastrophic consequences for questioning gender identity, is a culture where it's harder to train alignment researchers that genuinely understand the hidden-Bayesian-structure-of-language-and-cognition on a _deep_ level, when the social web around them will do anything to prevent them from [invalidating someone's identity](http://unremediatedgender.space/2016/Sep/psychology-is-about-invalidating-peoples-identities/).
475
476 > First, it is not enough to learn something, and tell the world about it, to get the world to believe it. Not even if you can offer clear and solid evidence, and explain it so well that a child could understand. You need to instead convince each person in your audience that the other people who they see as their key audiences will soon be willing to endorse what you have learned.
477 https://www.overcomingbias.com/2020/12/social-proof-but-of-what.html
478
479 twenty-one month Category War is as long as it took to write the Sequences https://www.lesswrong.com/posts/9jF4zbZqz6DydJ5En/the-end-of-sequences
480
481 I'm worried about the failure mode where bright young minds [lured in](http://benjaminrosshoffman.com/construction-beacons/) by the beautiful propaganda about _systematically correct reasoning_, are instead recruited into what is, effectively, the Eliezer-Yudkowsky-and-Scott-Alexander fan club.
482
483 > I'm not trying to get Eliezer or "the community" to take a public stance on gender politics; I'm trying to get us to take a stance in favor of the kind of epistemology that we were doing in 2008. It turns out that epistemology has implications for gender politics which are unsafe, but that's more inferential steps, and ... I guess I just don't expect the sort of people who would punish good epistemology to follow the inferential steps? Maybe I'm living in the should-universe a bit here, but I don't think it "should" be hard for Eliezer to publicly say, "Yep, categories aren't arbitrary because you need them to carve reality at the joints in order to make probabilistic inferences, just like I said in 2008; this is obvious."
484
485 (Times have changed! BBL is locally quasi-mainstream after Ozy engaged)
486
487 E.Y. thinks postrats are emitting "epistemic smog", but the fact that Eigenrobot can retweet my Murray review makes me respect him more than E.Y. https://twitter.com/eigenrobot/status/1397383979720839175
488
489 The robot cult is "only" "trying" to trick me into cutting my dick off in the sense that a paperclip maximizer is trying to kill us: an instrumental rather than a terminal value.
490
491 > the problem with taqiyya is that your sons will believe you
492 https://twitter.com/extradeadjcb/status/1397618177991921667
493
494 the second generation doesn't "get the joke"; young people don't understand physical strength differences anymore
495
496 > I've informed a number of male college students that they have large, clearly detectable body odors. In every single case so far, they say nobody has ever told them that before. 
497 https://www.greaterwrong.com/posts/kLR5H4pbaBjzZxLv6/polyhacking/comment/rYKwptdgLgD2dBnHY
498
499 It would have been better if someone without a dog in the object-level fight could have loudly but disinterestedly said, "What? I don't have a dog in the object-level fight, but we had a whole Sequence about this", but people mostly don't talk if they don't have a dog.
500
501 But if someone without a dog spoke, then they'd get pattern-matched as a partisan; it _had_ to be me
502
503
504 As far as I can tell, Professor, I'm just doing what _you_ taught me—carve reality at the joints, speak the truth, even if your voice trembles, make an extraordinary effort when you've got Something to Protect.
505
506 "Beliefs about the self aren't special" is part of the whole AI reflectivity thing, too!!
507
508 > decision-theoretically, it's also not their fault. They were all following a strategy that was perfectly reasonable until they ran into someone with an anomalously high insistence that words should mean things
509
510 Sure: everyone in a conflict thinks they're acting defensively against aggressors infringing on their rights, because in the cases where everyone agrees what the "actual" property rights are, there's no conflict.
511
512 https://distill.pub/2021/multimodal-neurons/
513 > These neurons detect gender^10
514 > Footnote: By this, we mean both that it responds to people presenting as this gender, as well as that it responds to concepts associated with that gender.
515
516 https://www.jefftk.com/p/an-update-on-gendered-pronouns
517
518 > Still think this was a perfectly fine tweet btw. Some people afaict were doing the literal ontologically confused thing; seemed like a simple thing to make progress on. Some people wanted to read it as a coded statement despite all my attempts to narrow it, but what can you do.
519 https://twitter.com/ESYudkowsky/status/1356535300986523648
520
521 If you were actually HONESTLY tring to narrow it, you would have said, "By the way, this is just about pronouns, I'm not taking a position on whether trans women are women"
522
523 https://www.gingersoftware.com/content/grammar-rules/adjectives/order-of-adjectives/
524
525 https://www.unqualified-reservations.org/2008/01/how-to-actually-defeat-us-government/
526 > propagate a credible alternate reality that outcompetes the official information network.
527
528 https://www.unqualified-reservations.org/2007/12/explanation-of-democratic-centrism/
529
530
531
532
533 that's the thing; I read as lefty because I am morally lefty (in contrast to Real Men Who Lift &c.); it's just that I had the "bad luck" of reading everything I could about race and IQ after the James Watson affair in 'aught-seven, and all my leftness is filtered through ten years of living with inconvenient hypotheses
534
535 [TODO: reorganize to position the question first]
536
537 [TODO: lit search or ask linguistics.stackexchange for literature on what gender/plural/case/&c. distinctions are for? Is it just the collision/ambiuity reduction, or is there something else? Oh, or Anna T./Elena might know]
538
539 https://www.lesswrong.com/posts/wqmmv6NraYv4Xoeyj/conversation-halters
540 > Appeal to arbitrariness - again, the notion that [word definitions are arbitrary](https://www.lesswrong.com/lw/od/37_ways_that_words_can_be_wrong/) serves as a good example (in fact I was harvesting some of these appeals from that sequence).  It's not just that this is wrong, but that it serves to cut off further discourse.  Generally, anything that people are motivated to argue about is not _arbitrary_.  It is being controlled by invisible criteria of evaluation, it has connotations with consequences, and if _that_ isn't true either, the topic of discourse is probably not "arbitrary" but just "meaningless". No map that corresponds to an external territory can be arbitrary.
541
542 > _Appeal to inner privacy_ - "you can't possibly know how I feel!"  It's true that modern technology still encounters some slight difficulties in reading thoughts out of the brain, though work is underway as we speak.  But it is rare that the exact details of how you feel are the key subject matter being disputed.  Here the bony borders of the skull are being redeployed as a hard barrier to keep out further arguments.
543
544
545 If Scott Alexander's "The Categories Were Made For Man ..." had never been published, would we still be talking about dolphins and trees in the same way?
546
547 Scott has so many fans—
548 https://jasoncrawford.org/guide-to-scott-alexander-and-slate-star-codex
549 https://nothingismere.com/2015/09/12/library-of-scott-alexandria/
550 https://guzey.com/favorite/slate-star-codex/
551 https://www.lesswrong.com/posts/xaLHeoRPdb9oQgDEy/index-of-yvain-s-excellent-articles
552
553 Nate on dolphins (June 2021)—a dogwhistle??
554 https://twitter.com/So8res/status/1401670792409014273
555 Yudkowsky retweeted Nate on dolphins—
556 https://archive.is/Ecsca
557
558 my rationalist community has people asking a lot of questions already answered by my community's name
559
560 cite to "Not Especially Related to Transgender"
561 https://twitter.com/fortenforge/status/1402057829142302721
562
563 "Hero Licensing": to provide an earnest-token of all the techniques I couldn't show
564
565 uncritically (uncharacteristically uncritically) taking the newly-ascendant gender-identity theory for granted ("lots of women wouldn't be particularly disturbed if they had a male body; the ones we know as 'trans' are just the ones with unusually strong female gender identities"), without considering the obvious-in-retrospect hypothesis that "guy who speculates about his female analogue on a transhumanist mailing list in 2004" and "guy who thinks he might be a trans women in Berkeley 2016" are the same guy.
566
567 If hiring a community matchmaker was worth it, why don't my concerns count, too?
568
569 When I protested that I wasn't expecting a science fictional Utopia of pure reason, but just for people to continue to be right about things they already got right in 2008, he said, "Doesn't matter—doesn't _fucking_ matter."
570
571 humans have honor instead of TDT. "That's right! I'm appealing to your honor!"
572
573 The boundary must be drawn here! This far, and no further!
574
575 > just the thought that there are people out there who wanted to be rationalists and then their experience of the rationalist community was relentlessly being told that trans women are actually men, and that this is obvious if you are rational, and a hidden truth most people are too cowardly to speak, until you retreat in misery and are traumatized by the entire experience of interacting with us....
576
577 People change their opinion with the party line—similarly with Scott and Yud
578 https://onlinelibrary.wiley.com/doi/abs/10.1111/ajps.12550?campaign=woletoc
579
580 https://stefanfschubert.com/blog/2020/12/22/legitimate-epistocracy
581
582 prevaricate
583
584 back in 'aught-nine, Anna commented that no one in our circle was that old, as if you had to be of a particular generation to understand the ideas—that could apply in both directions (the next generation's culture does not look promising to me; midwits say that elders have always said that, but maybe the elders were always right, by the standard preference-stability argument)
585
586 > [Anna] seemed to disapprove of our putting pressure on Scott, because the fact that Scott has done a lot of great work is exactly what made him a target for our pressure.
587
588 > I told Anna about Michael's "enemy combatants" metaphor, and how I originally misunderstood the point of the analogy. War metaphors sound Scary and Mean—I don't want to shoot my friends! But the point of the analogy (which Michael had explained at the time, but I wasn't ready to hear until I did a few more weeks of emotional processing) was specifically that soliders on the other side of a war aren't particularly morally blameworthy as individuals: their actions are just being controlled by the Power they're embedded in. And Anna was like, "But you could still be friends with someone on an animal level, like with a dog", and I was like, "Yeah, that's basically what Michael said."
589
590 > He says he likes "monastic rationalism vs. lay rationalism" as a frame for the schism Ben is proposing.
591
592 > I suspect Scott is calling the wrong side monastic, though - we basically believe it can be done by lay people, he doesn't. I'll be pleasantly surprised if he gets the sides right, though.
593
594
595 Really, self-respecting trans people who care about logical consistency should abhor Scott and Eliezer's opinions—you should want people to use the right pronouns _because_ of your gender soul or _because_ your transition actually worked, not because categories are flexible and pronouns shouldn't imply gender
596
597
598 -------
599
600 Yudkowsky complains—not entirely without justification—that I ["do not know how to come to a point, because [I am] too horrified by the thought that a reader might disagree with [me] if [I] don't write even more first."](https://twitter.com/ESYudkowsky/status/1435605868758765568)
601
602 But I wasn't always this way. It's an adaptive response to years of trolling. The reason I write even more to get out ahead of the objections I can forsee, is because I've been _at this for six years_. I tried being concise _first_.
603
604 You want concise? Meghan Murphy got it down to four words, which could have been three[^contraction]: "Men aren't women tho."
605
606 [^contraction]: I think the contraction [_aren't_](https://en.wiktionary.org/wiki/aren%27t) counts as one word in this context; the _tho_ (though) can be dropped to get down to three.
607
608 Men aren't women! Men aren't women tho!
609
610 It's only _after_ people pretended to disagree with _that_, that I started recusively digging into the details—why adult human males on hormone replacement therapy still aren't adult human females, why 'adult human male' and 'adult human female' are natural categories that it makes sense for Meghan McCarthy to want short codewords to point to, how words can be used in different ways depending on context (such that we can understand Meghan McCarthy's claim as it was meant, even if the words _woman_ and _man_ can also be used in other senses), what it means for something to be a natural cateogry, what it means to say that _X_'s aren't _Y_'s ...
611
612 It is more than a little insulting to be told, after all this, that the problem is that _I_ don't know how to come to a point, rather than everyone in Berkeley not knowing how to accept a point that contradicts their religion. It's such a stupidly simple stonewalling strategy: when the critic makes their point simply (men aren't women! men aren't women tho!), sneer at them for being ontologically confused, and then when they spend years of their life writing up the exhaustively detailed rigorous version, sneer at them for not being able to come to a point.
613
614 Does the elephant in his brain really expect to get away with that? Are Earth people really that gullible?
615
616 ------
617
618 [Yudkowsky writes](https://twitter.com/ESYudkowsky/status/1435618825198731270):
619
620 > If you think you can win a battle about 2 + 3 = 5, then it can feel like victory or self-justification to write a huge long article hammering on that; but it doesn't feel as good to engage with how the Other does not think they are arguing 2 + 3 = 6, they're talking about 2 * 3.
621
622 And if _you_ don't think you can politically afford to acknowledge your faithful student's proof that 6 + 7 = 13 [(because Stalin doesn't like it when people use the number 13)](https://www.lesswrong.com/posts/yaCwW8nPQeJknbCgf/free-speech-and-triskaidekaphobic-calculators-a-reply-to), it can feel like safety or self-justification to issue a Pronouncement that the answer to 6 + 7 depends on what base you're working in[^base]; but it doesn't feel as good to engage with your faithful student's allegation that the only reason you're issuing Pronouncements about alternate bases for arithmetic, is to win favor with the Party by standing by and letting them cite you as a credible authority when they claim that 6 + 7 = 15, while thinking yourself "honest" because you've sold yourself a story about how _you_ were just teaching those vile _kulaks_ an important lesson about place–value arithmetic, and never technically said yourself that 6 + 7 = 15 _in base ten_.
623
624 [^base]: For example, in base 8, one would write 6 + 7 = 15, where the symbol "15" represents the number **1** · 8<sup>1</sup> + **5** · 8<sup>0</sup>, which is equal to **1** · 10<sup>1</sup> + **3** · 10<sup>0</sup>, which we normally (in base 10) write as "13".
625
626 ------
627
628 > The Other's theory of themselves usually does not make them look terrible.  And you will not have much luck just yelling at them about how they must *really* be doing terrible_thing instead.  That's woke filter bubble thinking.  I stopped talking to Michael when he went that way.
629 https://twitter.com/ESYudkowsky/status/1435619618052214787
630
631
632 But I think Eliezer and I _agree_ on what he's doing; he just doesn't see it's bad
633
634 Speaking of narcissism and perspective-taking, "deception" isn't about whether you personally "lied" according to your own re-definitions; it's about whether you predictably made others update in the wrong direction
635
636 I really appreciated Anatoly Vorobey's comments:
637
638 > to provide context how it may (justifiably?) seem like over the last 7-8 years the rat. community largely fell *hard* for a particular gender philosophy
639
640 > ... fell for it in ways that seemed so spectacularly uncritical, compared to other beliefs carefully examined and dissected, and more so, even justified with a veneer of "rationality" (as in Scott's Categories post) that beautifully coincided with the tumblr dogma of the time...
641
642 > ...(then twitter dogma of the time, and now almost the blue tribe dogma of our time)... that I can understand how someone like Zack, embedded in the rat culture physically and struggling with this reigning ideology, could feel it as gaslighting.
643
644
645 https://www.lesswrong.com/posts/sCCdCLPN9E3YvdZhj/shulman-and-yudkowsky-on-ai-progress
646 > I'm curious about how much you think these opinions have been arrived at independently by yourself, Paul, and the rest of the OpenPhil complex?
647 If he's worried about Carl being corrupted by OpenPhil; it make sense for me to worry about him being corrupted by Glowfic cluster
648
649 https://www.lesswrong.com/posts/sCCdCLPN9E3YvdZhj/shulman-and-yudkowsky-on-ai-progress
650 > If you mean that say Mike Blume starts getting paid $20m/yr base salary
651 Weirdly specific that Mike (random member of your robot cult) is getting namedropped
652
653 example of hero-worship, David Pearce writes—
654 https://www.facebook.com/algekalipso/posts/4769054639853322?comment_id=4770408506384602
655 > recursively cloning Scott Alexander—with promising allelic variations - and hothousing the “products” could create a community of super-Scotts with even greater intellectual firepower
656
657
658
659 Respect needs to be updateable. No one can think fast enough to think all their own thoughts. I have a draft explaining the dolphins thing, about why Nate's distaste for paraphyly is wrong. In Nate's own account, he "suspect[s] that ['[...] Not Man for the Categories'] played a causal role in [...] starting the thread out on fish." Okay, where did Scott get it from, then? I don't have access to his thoughts, but I think he pulled it out of his ass because it was politically convenient for him. I suspect that if you asked him in 2012 whether dolphins are fish, he would have said, "No, they're mammals" like any other educated adult. Can you imagine "... Not Man for the Categories" being as popular as it is in our world if it just cut off after section III? Me neither.
660
661 I think it's a problem for our collective epistemology that Scott has the power to sneeze his mistakes onto everyone else—that our 2021 beliefs about dolphins (literally, dolphins in particular!) is causally downstream of Scott's political incentives in 2014, even if Scott wasn't consciously lying and Nate wasn't thinking about gender politics. I think this is the problem that Eliezer identified as dark side epistemology: people invent fake epistemology lessons to force a conclusion that they can't get on the merits, and the fake lessons can spread, even if the meme-recipients aren't trying to force anything themselves. I would have expected people with cultural power to be interested in correcting the problem once it was pointed out.
662
663
664
665
666 "Speak out in order to make it clear how not alt-right you are; nothing wrong with that because I'm not lying" is being inconsistent about whether signaling and mood-affiliation matters—it's trying to socially profit by signaling pro-Stalin-ness, while simultaneously denying that anyone could object (because you didn't lie—pivoting to a worldview where only literal meanings matter and signals aren't real). Can I sketch this out mathematically?
667
668 3 January 2020 text from Michael to me:
669 > because I want to make it very clear to you, and to encourage you to make it very clear to others [...] that you are experiencing extremely articulate and extremely by the book trauma, caused in a very canonical manner by institutional betrayal and causing silencing of a sort very similar to that which causes investigation of sex crimes to be problematic (as in the high quality current Netflix show "Unbelievable", which you all might benefit from watching)
670
671 Forget it, Jake—it's the rationalist community
672
673 https://www.lesswrong.com/posts/FaJaCgqBKphrDzDSj/37-ways-that-words-can-be-wrong
674 > The act of defining a word to refer to all humans, except black people, seems kind of suspicious.
675 That's not the only implication on race of the philosophy of categorization—actually, I'm going to bite the bullet here; "Eurasian" is actually fine as a paraphyletic category (and @CovfefeAnon uses it productively)
676
677 And this suspicion seems broadly accurate! _After_ having been challenged on it, Yudkowsky can try to spin his November 2018 Twitter comments as having been a non-partisan matter of language design ("Trying to pack all of that into the pronouns [...] is the wrong place to pack it"),
678
679 when worrying about the future and what I should do about it, I find myself more concerned with whether Eliezer would disapprove rather than the everyone-dying part
680
681 me criticizing dath ilan (after being blocked from his Twitter) is also a nearest-unblocked-strategy
682
683 If there's a generalized remembering-history skill, it should apply to "remembering when pronouns implied sex" and as well as "remembering when neural nets weren't used in the Netflix contest" https://www.lesswrong.com/posts/cCrpbZ4qTCEYXbzje/ngo-and-yudkowsky-on-scientific-reasoning-and-pivotal-acts
684
685 -----
686
687 Why does this matter?
688
689 [Why does this matter? It would be dishonest for me to claim that this is _directly_ relevant to xrisk, because that's not my real bottom line]
690
691 a rationality community that can't think about _practical_ issues that affect our day to day lives, but can get existential risk stuff right, is like asking for self-driving car software that can drive red cars but not blue cars
692
693 It's a _problem_ if public intellectuals in the current year need to pretend to be dumber than seven-year-olds in 2016
694
695
696 https://www.readthesequences.com/
697 > Because it is all, in the end, one thing. I talked about big important distant problems and neglected immediate life, but the laws governing them aren't actually different.
698
699 Is that not true?
700
701 Can you lie about immediate life for political convenience
702
703 > the challenge is almost entirely about high integrity communication by small groups
704 https://twitter.com/HiFromMichaelV/status/1486044326618710018
705
706 https://www.glowfic.com/replies/1769064#reply-1769064
707 > "Dath ilani education is for having children grow up correctly.  None of it, that I know, is about how to safely repair children who grew up wrong."
708 It would be nice if children in rationalist Berkeley could grow up correctly
709
710 congrats after Whale and Sawyer chimed in: https://twitter.com/ESYudkowsky/status/1435706946158432258
711
712
713
714 I feel I've outlived myself https://www.ncbi.nlm.nih.gov/pmc/articles/PMC4166378/
715
716
717 Ben on Discursive Warfare and Faction Formation: https://docs.google.com/document/d/1dou43_aX_h1lP7-wqU_5jJq62PuhotQaybe5H2HUmWc/edit
718 > What's not wrong on purpose is persuasive but does not become a factional identity. What becomes a factional identity is wrong on purpose.
719 https://www.lesswrong.com/posts/PG8i7ZiqLxthACaBi/do-fandoms-need-awfulness
720
721 > Applying this to LessWrong: Plenty of people read the Sequences, improved their self-models and epistemic standards, and went on to do interesting things not particularly identified with LessWrong. Also, people formed an identity around Eliezer, the Sequences, and MIRI, which means that the community clustered around LessWrong is—aside from a few very confused people who until recently still thought it was about applying the lessons of the Sequences—committed not to Eliezer's insights but to exaggerated versions of his blind spots.
722
723 > The people who aren't doing that mostly aren't participating in the LessWrong identity, but while factions like that are hostile to the confused people who behave as though they're part of a community trying to become less wrong, such factions are also parasitic on such people, claiming credit for their intellectual contributions. When such participation is fully extinguished, the group begins to decay, having nothing distinctive to offer, unless it has become too big to fail, in which case it's just another component of one political faction or another.
724
725 https://graymirror.substack.com/p/the-journalist-rationalist-showdown?s=r
726
727 Keltham contradicts himself inside of a single tag! Using the words "shape" and "covert" both times!!
728
729 Scott has the power to set narratives, as evidenced by his attack on Michael hijacking Jessica's thread
730
731 maybe he should have some sympathy for Stephen J. Gould's intellectual crimes
732
733 one of the new collaborators on _Mad Investor Chaos_ is a _Catholic_
734
735 When my chat with EY at the independence day party degenerated into "I'm sorry for being dumb", he said if Zack Davis was too dumb, we're in trouble
736
737 OK, "paperclips" is a legitimate example of categories being subjective/value-dependent
738
739 http://paulgraham.com/heresy.html
740
741 A "rationalist" community worthy of the name would be able to do the thing Steve Sailer does, while retaining our humanistic ethics https://www.unz.com/isteve/what-is-elon-musks-plan-for-reversing-the-tyranny-of-the-ex-men/
742
743 https://graymirror.substack.com/p/the-twitter-coup
744 > a battle is won if the result of the battle is to make the next battle easier. The same is true of a political confrontation.
745 [...]
746 > I noticed that the streets had been largely cleared of homeless encampments (which have been pushed into the nearby forests). Most people take this as a conservative victory. It is actually a defeat.
747 > It is a victory in the ordinary sense of the term—an action which gets what the actors want. It is a tactical victory—but a strategic defeat. At a party the other day, I spoke to one of the people who orchestrated this “victory,” and explained why I saw it this way.
748 [...]
749 > for a rebel, all true victories are total. He who makes half a revolution digs his own grave
750 in this sense, I keep winning battles, but I've basically conceded the war
751
752 Rubices—
753 > with Zack in 2017 in particular, I don't know if it's still true now, there was also a lot of "women are brilliant and perfect and pure, and it would do damage to something beautiful for a man to pretend to be one"
754 gonna mostly bite the bullet on this one
755
756
757 https://dilbert.com/strip/2022-04-09
758 > You all remember the thing I predicted correctly 12 years ago, therefore you should heed my word on this completely unrelated topic
759
760 The time E.Y. recommended dark side epistemology as shortform still feels telling—you could say it's circumstantial nitpicking, but I think it's revealing, like the "reducing negativity"
761 https://discord.com/channels/401181628015050773/471045466805633029/934929649421672488
762 https://www.lesswrong.com/posts/fYC3t6QQDvdBBwJdw/plutonic_form-s-shortform?commentId=dghPKBjgiA6pTcCKz
763
764
765 https://www.foxylists.com/etiquette
766 > 6. Do not ask for additional pictures, selfies or services they have not already agreed upon. 
767
768 > One nice thing about intellectuals is that when they turn, they frequently leave behind a detailed, mostly coherent record of what a person turning into a rhinoceros thinks is going on.
769 https://twitter.com/ben_r_hoffman/status/1477733825702936581
770
771 Rationality was supposed to be important!!
772
773 Paul says so—
774 >  My current sense is that cooperation has a better tradeoff than some forms of enhancement (e.g. giving humans bigger brains) and worse than others (e.g. improving the accuracy of people's and institution's beliefs about the world).
775
776 Rob says so, too—
777 > Help ourselves think more clearly. (I imagine this including a lot of trying-to-become-more-rational, developing and following relatively open/honest communication norms, and trying to build better mental models of crucial parts of the world.)
778
779 > their verbal theories contradict their own datapoints
780 https://www.facebook.com/yudkowsky/posts/10159408250519228?comment_id=10159411435619228&reply_comment_id=10159411567794228
781
782 dath ilan has Actual Evolutionary Psychology
783 > They end up wanting 42 major things and 314 minor things (on the current count of what's known and thought to be distinct in the way of adaptation)
784 https://www.glowfic.com/replies/1801140#reply-1801140
785
786 > When somebody stops coordinating with you, stop coordinating with them.  It's not 'punishment' to Defect against somebody who's Defecting against you, in a cooperation-defection dilemma; you're just withdrawing the Cooperation you were trying to coordinate with them
787 https://www.glowfic.com/replies/1801374#reply-1801374
788
789 I joined the "Eliezerfic" server in spite of my enmity, and JoshTriplett is in there (contrary to my gut instinct that Rust peeps hate my rationalist peeps)
790
791 The cowardice is remarkable, coming from someone who otherwise
792
793 jbeshir
794 > I have a writer/author friend, they had a problem a couple or so times with people who get really really into the work and community, then in their mind got disappointed in some way- and that investments converts at a surprisingly high exchange rate directly into investment in making your life worse. It... happens.
795 —this makes a callout post or Twitter thread seem less appealing
796
797
798 [previously, I had felt guilty about being less successfully feminst than Robby https://nothingismere.com/2013/12/26/union-names-objections-and-replies/]
799 [internet pharmacy]
800
801
802 > whereas I could imagine reading almost the same post on sneerclub and turning into a prickle about it
803 response—
804 > me when other trans girls call themselves and me AGP vs when genuine Blanchardians do
805
806 In a discussion on criticism of EA by outsiders, someone spontaneously (not prompted by me) mentioned the difference between when fellow trans women called themselves AGP, vs. actual Blanchardians. This is a conspiracy!! (The ingroup is allowed to notice things, but when other people notice, deny everything. Compare Michael Anton on "celebration parallax."]
807
808 https://www.clearerthinking.org/post/understanding-relationship-conflicts-clashing-trauma
809
810 postyud; Yudkowskyism without Yudkowsky
811
812 if you know Reality is red, blue, or green, and I know Reality is red but am trying to maximize the probability you assign to green, I can truthfully say "it's not blue"
813
814 Gell-Mann amnesia
815
816 EY's commenting guidelines
817
818 > Sneerclub gives him an excuse to just not engage with legitimate criticism
819 https://twitter.com/satisfiesvalues/status/1524475059695505409
820
821 flu virus that cures Borderer culture
822 https://twitter.com/Kenku_Allaryi/status/1524646257976877057
823
824
825 https://www.lesswrong.com/tag/criticisms-of-the-rationalist-movement
826
827 > possible that 2022 is the year where we start Final Descent and by 2024 it's over
828 https://www.lesswrong.com/posts/7MCqRnZzvszsxgtJi/christiano-cotra-and-yudkowsky-on-ai-progress?commentId=iKEuFQg7HZatoebps
829
830 > and yeah, when Joanna came out on Facebook Zack messaged her to have a 3-hour debate about it
831 > I think no matter how pure his pursuit of knowledge this is actually bad behavior and he should not
832
833 Standard excuses—
834 "i just don't think that gender is less of a politeness mind-control regime when it doesn't allow people to switch categories"
835 biosex actually exists
836 also no one cares about that fact of  the matter, unless they want to have sex with someone or are doing a weird ideological thing
837 I think you're the ones doing a weird ideological thing
838
839 brain: wow, eiko has a deep understanding of straight men for a lesbian! she must be so empathetic
840 me: ...
841
842 ... why validated and not offended??
843 Eiko — Today at 8:37 PM
844 ?_?
845 what... would i be... offended by...
846 Carrie Zelda-Michelle Davis — Today at 8:38 PM
847 The "brain: / me:" thing seems like it should be offensive for the same reason that the phrase-I-said-I-wasn't-going-to-say is offensive
848 the language is subtler, but it's gesturing at the same thing
849
850 (explanation: I read this as ozy saying they parsed Eiko as a girl so much that they didn't remember she used to be a straight guy)
851
852 ... I, just, really have trouble emphasizing with this culture where people are allowed to make jokes about the similarities between trans lesbians and straight guys, and as long as you talk in terms of "I thought I was a straight guy", it's all cool, but as soon as someone bites the bullet and says, "Yes, because trans lesbians are straight males, etiologically; you thought correctly", then they're ... marking themselves as not part of the coalition? From my perspective, it just looks like your culture is pro-lying
853
854 like if i look at a person and my brain's intuitive instinctive bucketing function goes "girl" and they tell me "i'm a boy actually" does whether that's mind control depend on what genitals the person has??
855 Carrie Zelda-Michelle Davis — Today at 10:02 PM
856 Yes?
857 Omega ω — Today at 10:02 PM
858 ?????
859
860 ... people just don't see the ideological bubble they live in! People tell me, "frankly you seem to be deeply unhappy about [being gendered male]", because they're relying on their prior of what trans women need. And having been born in 1987, I just don't share that prior! If you actually listen to the thing I'm been yelling for the last six years, I'm much more unhappy about the culture of mind-control than I am about being male, but people put more weight on their prior than my verbal self-report! I guess I can't blame them on the meta level (I also put more weight on priors that people's self-reports a lot of the time), but it's just—so shocking, that people don't see the thing
861
862 I don't actually want to return to the past permanently; I want to first rewind to 2007 or so, and then re-do the trans rights thing but with less 🐛  lying this time, "lying" being my heat-of-the-moment angry word for the thing where the born-in-the-wrong-body story that gets sold to the public is very different from the picture you get when you read what people write about their feelings when the general public isn't looking, and people know it's different, and they go on talking in terms of the standard story anyway, and when you challenge them on none of this stuff being true, they say, "Oh, well, those are just lies to cis people; that doesn't count" (https://thingofthings.wordpress.com/2015/01/27/lies-to-cis-people/) as if lies to cis people weren't still lies
863
864 And, just—I think if an alien or an AI or really any normal person outside of this very specific Berkeley 2016– ideological subculture were to try to objectively describe what's actually happening there in the real physical universe, I don't think they would want to talk about a woman born in the wrong body, coping with her tragic dysphoria; I think the alien or AI would talk about a male primate with some kind of brain malfunction in its sexual targeting system causing it to get confused about a self-other distinction, and I think the normal person would talk about a man with a gross, weird fetish who they don't want sharing a locker room with their daughter.
865
866 And I just, basically think the alien and the AI and the normal person have the right ontology here? The Berkeley 2016– denizen can come up with a lot of replies ("But cis women also enjoy being women", "But I don't care about someone's private thoughts; I only care about whether they'll come vintage dress shopping with me"), but they all just seem fundamentally unserious to me?
867
868 ----
869
870 https://forum.effectivealtruism.org/posts/c5DgfRyWgS2Sjgzmt/on-funding-trust-relationships-and-scaling-our-community
871 > there will be someone in the world whose full-time job and top-priority it is to figure out how to write a proposal, or give you a pitch at a party, or write a blogpost, or strike up a conversation, that will cause you to give them money, or power, or status. For many months, they will sit down many days a week and ask themselves the question "how can I write this grant proposal in a way that person X will approve of" or "how can I impress these people at organization Y so that I can get a job there?", and they will write long Google Docs to their colleagues about their models and theories of you, and spend dozens of hours thinking specifically about how to get you to do what they want, while drawing up flowcharts that will include your name, your preferences, and your interests.
872 not totally unlike what I was doing to Scott and Eliezer
873
874 https://www.abc.net.au/news/2014-07-16/melbourne-teenage-mathlete-wins-gold-for-the-second-time-/5602226?nw=0&r=Image
875 https://postchimpblog.wordpress.com/2020/03/05/alexs-guide-to-transitioning/
876
877 The LW community is a bubble/machine that made me who I am (it doesn't infringe on my independence more than school, but it's still shaping force in the way that going to University or Google shapes people)
878
879 https://www.lesswrong.com/posts/j9Q8bRmwCgXRYAgcJ/miri-announces-new-death-with-dignity-strategy
880 > If those people went around lying to others and paternalistically deceiving them—well, mostly, I don't think they'll have really been the types to live inside reality themselves. But even imagining the contrary, good luck suddenly unwinding all those deceptions and getting other people to live inside reality with you, to coordinate on whatever suddenly needs to be done when hope appears, after you drove them outside reality before that point. Why should they believe anything you say?
881
882 the Extropians post _explicitly_ says "may be a common sexual fantasy"
883 > So spending a week as a member of the opposite sex may be a common sexual fantasy, but I wouldn't count on being able to do this six seconds after the Singularity.  I would not be surprised to find that it took three subjective centuries before anyone had grown far enough to attempt a gender switch.
884
885 ------
886
887
888 https://www.lesswrong.com/posts/wustx45CPL5rZenuo/no-safe-defense-not-even-science
889 > I'm not sure that human beings realistically _can_ trust and think at the same time.
890
891 "Why Quantum" has another reference to "doesn't seem possible to think and trust"
892
893 https://www.lesswrong.com/posts/t6Fe2PsEwb3HhcBEr/the-litany-against-gurus
894
895
896
897 If you listen to the sorts of things the guy says lately, it looks like he's just completely given up on the idea that public speech could possibly be useful, or that anyone besides he and his flunkies is capable of thought. For example:
898
899 > [Though yes, I do worry](https://twitter.com/ESYudkowsky/status/1509944234136129536) that other mortals would be more vulnerable to someone coming up and talking loudly about LDT. I attach my usual cautions about everything supposed to be just formalizing common sense and not depart from common sense except in the hands of a master, but [too many people think](https://twitter.com/ESYudkowsky/status/1509944888376188929) it's unvirtuous to shut up and listen to me, and they might fall for it. I'd wish that I'd never spoken on the topic, and just told them to vote in elections for reasons they'd understand when they're older.  That said, enjoy your $1 in Ultimatum games.
900
901 Notwithstanding that there are reasons for him to be traumatized over how some people have misinterpreted timeless decision theory—what a _profoundly_ anti-intellectual statement! I claim that this is just not something you would ever say if you cared about having a rationality community that could process arguments and correct errors, rather than a robot cult to suck you off.
902
903 To be clear, there _is_ such a thing as legitimately trusting an authority who knows better than you. For example, [the Sequences tell of how Yudkowsky once wrote to Judea Pearl](https://www.lesswrong.com/posts/tKa9Lebyebf6a7P2o/the-rhythm-of-disagreement) to correct an apparent error in _Causality: Models, Reasoning, and Inference_. Pearl agreed that there was an error, but said that Yudkowsky's proposed correction was also wrong, and provided the real correction. Yudkowsky didn't understand the real correction, but trusted that Pearl was right, because Pearl was the authority who had invented the subject matter—it didn't seem likely that he would get it wrong _again_ after the original error had been brought to his attention.
904
905 [TODO But crucially, "Defer to subject-matter experts" seems like a _different_ moral than "Too many people think it's unvirtuous to shut up and listen Judea Pearl."]
906
907 If Yudkowsky is frustrated that people don't defer to him enough _now_, he should remember the only reason he has _any_ people who defer to him _at all_ is _because_ he used to be such a good explainer who actually argued for things.
908
909 [TODO: if he had never spoken of TDT, why _should_ they trust him about voting?!]
910
911 [TODO That trust is a _finite resource_. Zvi Mowshowitz  claims the condescension is important information, which is why it's such a betrayal when he uses the condesension to score points
912 https://www.lesswrong.com/posts/ax695frGJEzGxFBK4/biology-inspired-agi-timelines-the-trick-that-never-works?commentId=HB3BL3Sa6MxSszqdq
913
914 > The condescension is _important information_ to help a reader figure out what is producing the outputs, and hiding it would make the task of 'extract the key insights' harder. 
915
916 ]
917
918 ------
919
920 Lightwavers on Twitter (who Yudkowsky knew from /r/rational) dissed Charles Murray on Twitter
921
922 https://nostalgebraist.tumblr.com/post/686455476984119296/eliezer-yudkowsky-seems-really-depressed-these
923
924 > So now my definitely-not-Kelthorkarni have weird mental inhibitions against actually listening to me, even when I clearly do know much better than they do.  In retrospect I think I was guarding against entirely the wrong failure modes.  The problem is not that they're too conformist, it's that they don't understand how to be defiant without diving heedlessly into the seas of entropy.  It's plausible I should've just gone full Kelthorkarnen
925 https://www.glowfic.com/replies/1614129#reply-1614129
926
927 I was pleading to him in his capacity as rationality leader, not AGI alignment leader; I know I have no business talking about the latter
928
929 (As an aside, it's actually kind of _hilarious_ how far Yudkowsky's "rationalist" movement has succeeded at winning status and mindshare in a Society whose [_de facto_ state religion](https://slatestarcodex.com/2019/07/08/gay-rites-are-civil-rites/) is [founded on eliminating "discrimination."](https://richardhanania.substack.com/p/woke-institutions-is-just-civil-rights) Did—did anyone besides me "get the joke"? I would have expected _Yudkowsky_ to get the joke, but I guess not??)
930
931 [TODO: misrepresentation of the Light: Dath ilan has a concept of "the Light"—the vector in policyspace perpendicular outwards from the Pareto curve, in which everyone's interests coincide.]
932
933 "You're allowed to talk to me," he said at the Independence Day party
934
935 MIRI made a point of prosecuting Tyler Altman rather than participating (even if it was embarrassing to be embezzled from) because of game theory, but it sees folding to social-justice bullies as inevitable
936
937 re Yudkowsky not understanding the "That's So Gender" sense, I suspect this is better modeled as a nearest-unblocked-strategy alignment problem, rather than a capabilities problem ("doesn't comprehend"). Author has a Vision of a Reality; that Reality conflicts with the ideology of the readership, who complain; Author issues a patch that addresses the surface of the complaint without acknowledging the conflict of Visions, because describing the conflict in too much detail would be construed as aggression
938
939 ------
940
941 [TODO:
942 Email to Scott at 0330 a.m.
943 > In the last hour of the world before this is over, as the nanobots start consuming my flesh, I try to distract myself from the pain by reflecting on what single blog post is most responsible for the end of the world. And the answer is obvious: "The Categories Were Made for the Man, Not Man for the Categories." That thing is a fucking Absolute Denial Macro!
944 ]
945
946 ------
947
948 So, because
949
950 [TODO: the rats not getting AGP was excusable, the rats not getting the category boundary thing was extremely disappointing but not a causis belli; Eliezer Yudkowsky not getting the category boundary thing was an emergency]
951
952 -----
953
954 a rationality community that can't think about _practical_ issues that affect our day to day lives, but can get existential risk stuff right, is like asking for self-driving car software that can drive red cars but not blue cars
955
956 It's a _problem_ if public intellectuals in the current year need to pretend to be dumber than seven-year-olds in 2016
957
958 https://www.econlib.org/archives/2016/01/the_invisible_t.html
959
960 ------
961
962 comments to "Wilhelm", January 2019—
963
964 I got concessions on all the important parts (categories should make predictions, trans women differ from cis women in a masc direction),  and these people just don't fucking CARE ... like, if I'm trying to be agreeable, I could agree that trans women resemble women if you restrict your vision to the subspace spanned by the "preferred pronouns" and "self-identified gender identity" dimensions ... but, but, WTF, be serious, guys
965
966 Scott or Eliezer know better and could put an end to this bullshit (or at least put a dent in it), and I begged and I pleaded, and they just don't CARE
967
968 even Ozy knows better
969
970 I said: I probably do put too much rhetorical emphasis on passing; like, I agree that that's not the only criterion that one can use. I like drawing attention to that particular distinction because it at least has the benefit of not requiring people to override their perceptual system they way that self-identity does?
971
972 and Ozy (correctly!) chimed in: "in fact it is the only criterion that doesn't involve people overriding their perceptual system!"
973
974 as if she's objectively pro-gaslighting
975
976 more charitably: people care a lot about this very thin layer of socual constructions (if you mindfuck ppl into believing that AGPs are women, that really does make it easier to transition) and are being instrumentally rational about that, whereas I'm an aspiring epistemic rationalist and want to study the deep structure if which social constructions are feasible, how we can be more reflective about them, &c.
977
978 Ppl with less power than Scott or Eliezer can afford to be more honest with me that they see but don't care enough to pay the cost of fighting
979
980 the rationalist lore here is that status makes you stupid; maybe the NRx twist is that status plus rivals/insecurity makes you stupid
981
982 You _can't_ optimize your group's culture for not-talking-about-atheism without also optimizing against understanding Occam's razor; you _can't_ optimize for not questioning gender self-identity without also optimizing against understanding "A Human's Guide to Words."
983
984 "yeah in public we say 'cis women' but tran to tran we just say 'women,' we‘re not insane lol"
985 no transsexual is like 'from a young age all i ever wanted was to be.. cis'
986 https://twitter.com/theorygurl/status/1062451652836446208
987
988 Keltham and Carissa's attitude towards Pharima mirrors my attitude towards Yudkowsky (I'm grateful for him having created me, but he can't be allowed to get away with this shit)
989 https://www.glowfic.com/replies/1834769#reply-1834769
990
991 sometimes I get a cite, too—
992 https://putanumonit.com/2022/05/02/genders-discrimination/
993 https://axrp.net/episode/2022/05/23/episode-15-natural-abstractions-john-wentworth.html
994
995 People learn a lot from Godel Escher Bach, too, but they don't form an identity around Douglas Hofstadter being the most important person in the world
996
997 and Keltham tells Carissa (null action pg 39) to keep the Light alive as long as possible, not do throw away your deontology too quickly.
998
999 > It, it—the fe—it, flame—flames. Flames—on the side of my face. Breathing—breathl—heaving breaths, heaving—
1000
1001 But he is willing to go to bat for killing babies, but not for "Biological Sex is Actually Real Even If That Hurts Your Feelings" https://mobile.twitter.com/AuronMacintyre/status/1547562974927134732
1002
1003 https://extropians.weidai.com/extropians.3Q97/4361.html
1004 > Half the time I regard myself as "an AI wannabee trapped in a male human body"
1005
1006 Nate's "missing the hard part" post is all strawmen—I'm not looking down on it because it's a blog post and not an "official" arXiv paper; I'm looking down because it's visibly low-effort
1007
1008 "What do you say to the Republican?" !!!
1009
1010 subject: "nothing left to lose; or, the end of my rope"
1011
1012 4 November 2018 email to Marcus—
1013 > Concrete anecdote about how my incredibly-filtered Berkeley social circle is nuts: at a small gathering this weekend I counted seven MtTs. (I think seven; I guess it's possible that physically-very-passable Cassandra is actually female, but given the context and her personality, I doubt it.) Plus me (a man wearing a dress and makeup), and three ordinary men, one ordinary woman, and my FtM friend. Looking up the MtTs' birthdays on Facebook was instructive in determining exactly how many years I was born too early. (Lots of 1992-3 births, so about five years.)
1014
1015 Anna thinks trust and integrity is an important resource
1016 https://www.lesswrong.com/posts/mmHctwkKjpvaQdC3c/what-should-you-change-in-response-to-an-emergency-and-ai
1017
1018 (You might group things together _on the grounds_ of their similarly positive consequences—that's what words like _good_ do—but that's distinct from choosing _the categorization itself_ because of its consequences.)
1019
1020 —and would be unforgivable if it weren't so _inexplicable_.
1021
1022 ... not _actually_ inexplicable. There was, in fact, an obvious explanation: that
1023
1024
1025 Yudkowsky was trying to bolster his reputation amongst progressives by positioning himself on the right side of history, and was tailoring a fake rationality lesson to suit that goal.
1026
1027
1028 But _Eliezer Yudkowsky wouldn't do that_. I had to assume this was a honest mistake.
1029
1030 At least, a _pedagogy_ mistake. If Yudkowsky _just_ wanted to make a politically neutral technical point about the difference between fact-claims and policy claims _without_ "picking a side" in the broader cultural war dispute, these Tweets did a very poor job of it. I of course agree that pronoun usage conventions, and conventions about who uses what bathroom, are not, themselves, factual assertions about sex chromosomes in particular. I'm not saying that Yudkowsky made a false statement there. Rather, I'm saying that it's 
1031
1032
1033 Rather, previously sexspace had two main clusters (normal females and males) plus an assortment of tiny clusters corresponding to various [disorders of sex development](https://en.wikipedia.org/wiki/Disorders_of_sex_development), and now it has two additional tiny clusters: females-on-masculinizing-HRT and males-on-feminizing-HRT. Certainly, there are situations where you would want to use "gender" categories that use the grouping {females, males-on-feminizing-HRT} and {males, females-on-masculinizing-HRT}.
1034
1035 https://www.lesswrong.com/posts/cu7YY7WdgJBs3DpmJ/the-univariate-fallacy
1036 https://www.lesswrong.com/posts/vhp2sW6iBhNJwqcwP/blood-is-thicker-than-water
1037
1038 [TODO: sentences about studies showing that HRT doesn't erase male advantage
1039 https://twitter.com/FondOfBeetles/status/1368176581965930501
1040 ]
1041
1042 [TODO sentences about Lia Thomas and Cece Tefler]  https://twitter.com/FondOfBeetles/status/1466044767561830405 (Thomas and Tefler's —cite South Park)
1043 https://www.dailymail.co.uk/news/article-10445679/Lia-Thomas-UPenn-teammate-says-trans-swimmer-doesnt-cover-genitals-locker-room.html
1044 https://twitter.com/sharrond62/status/1495802345380356103 Lia Thomas event coverage
1045 https://www.realityslaststand.com/p/weekly-recap-lia-thomas-birth-certificates Zippy inv. cluster graph!
1046
1047 ]
1048
1049 Writing out this criticism now, the situation doesn't feel _confusing_, anymore. Yudkowsky was very obviously being intellectually dishonest in response to very obvious political incentives. That's a thing that public intellectuals do. And, again, I agree that the distinction between facts and policy decisions _is_ a valid one, even if I thought it was being selectively invoked here as an [isolated demand for rigor](http://slatestarcodex.com/2014/08/14/beware-isolated-demands-for-rigor/) because of the political context. 
1050
1051 really. I wouldn't have felt confused or betrayed at all. Coming from Eliezer Yudkowsky, it was—confusing.
1052
1053 Because of my hero worship,
1054
1055
1056 > People probably change their mind more often than they explicitly concede arguments, which is fine because intellectual progress is more important than people who were wrong performing submission.
1057 > If your interlocutor is making progress arguing against your claim X, just say, "Oh, X is a strawman, no one actually believes X; therefore I'm not wrong and you haven't won" (and then don't argue for X in the future now that you know you can't get away with it).
1058 https://twitter.com/zackmdavis/status/1088459797962215429
1059
1060 My 28 November 2018 text to Michael—
1061 > I just sent an email to Eliezer ccing you and Anna; if you think it might help inject sanity in into the world, maybe your endorsement would help insofar as Eliezer Aumman-updates [_sic_] with you?
1062 > hope all is well
1063 > just a thread reply to Eliezer that says "I trust Zack's rationality and think you should pay attention to what he has to say" (if and only if you actually believe that to be true, obviously)?
1064
1065
1066
1067 helping Norton live in the real world
1068
1069 Scott says, "It seems to me pretty obvious that the mental health benefits to trans people are enough to tip the object-level first-pass uilitarian calculus.
1070
1071 "; I don't think _anything_ about "mental health benefits to trans people" is obvious 
1072 ]
1073
1074 [TODO: connecting with Aurora 8 December, maybe not important]
1075
1076 What do think submitting to social pressure looks like, if it's not exactly this thing (carefully choosing your public statements to make sure no one confuses you with the Designated Ideological Bad Guy)?!? The credible threat of being labeled an Ideological Bad Guy is _the mechanism_ the "Good" Guys use to retard potentially-ideologically-inconvenient areas of inquiry.
1077
1078 Kerry Vaughan on deferral
1079 https://twitter.com/KerryLVaughan/status/1552308109535858689
1080
1081 It's not that females and males are exactly the same except males are 10% stronger on average (in which case, you might just shrug and accept unequal outcomes, the way we shrug and accept it that some athletes have better genes). Different traits have different relevance to different sports: women do better in ultraswimming _because_ that competition is sampling a 
1082
1083 where body fat is an advantage. 
1084
1085 It really is an apples-to-oranges comparison, rather than "two populations of apples with different mean weight".
1086
1087 For example, the _function_ of sex-segrated bathrooms is to _protect females from males_, where "females" and "males" are natural clusters in configuration space that it makes sense to want words to refer to.
1088
1089 all I actually want out of a post-Singularity utopia is the year 2007 except that I personally have shapeshifting powers
1090
1091 The McGongall turning into a cat parody may actually be worth fitting in—McCongall turning into a cat broke Harry's entire worldview. Similarly, the "pretend to turn into a cat, and everyone just buys it" maneuver broke my religion
1092
1093  * https://everythingtosaveit.how/case-study-cfar/#attempting-to-erase-the-agency-of-everyone-who-agrees-with-our-position  
1094
1095 Michael on EA suppressing credible criticism https://twitter.com/HiFromMichaelV/status/1559534045914177538
1096
1097 zinger from 93—
1098 > who present "this empirical claim is inconsistent with the basic tenets of my philosophy" as an argument against the _claim_
1099
1100 reply to my flipping out at Jeff Ladish
1101 https://twitter.com/ESYudkowsky/status/1356493440041684993
1102
1103 We don't believe in privacy 
1104 > Privacy-related social norms are optimized for obscuring behavior that could be punished if widely known [...] an example of a paradoxical norm that is opposed to enforcement of norms-in-general").
1105 https://unstableontology.com/2021/04/12/on-commitments-to-anti-normativity/
1106
1107 Sucking up the the Blue Egregore would make sense if you _knew_ that was the critical resource
1108 https://www.lesswrong.com/posts/mmHctwkKjpvaQdC3c/what-should-you-change-in-response-to-an-emergency-and-ai
1109
1110 I don't think I can use Ben's "Eliza the spambot therapist" analogy because it relies on the "running out the clock" behavior, and I'm Glomarizing—actually I think it's OK
1111
1112 This should be common sense, though
1113 https://forum.effectivealtruism.org/posts/3szWd8HwWccJb9z5L/the-ea-community-might-be-neglecting-the-value-of
1114
1115
1116 sorrow at putting on a bad performance with respect to the discourse norms of the people I'm trying to rescue/convert; I think my hostile shorthand (saying that censorship costs nothing implies some combination "speech isn't useful" and "other people aren't real" is pointing at real patterns, but people who aren't already on my side are not going to be sympathetic)
1117
1118
1119 https://twitter.com/ESYudkowsky/status/1067300728572600320
1120 > You could argue that a wise policy is that we should all be called by terms and pronouns we don't like, now and then, and that to do otherwise is coddling.  You could argue that Twitter shouldn't try to enforce courtesy.  You could accuse, that's not what Twitter is really doing.
1121
1122 https://twitter.com/ESYudkowsky/status/1067302082481274880
1123 > But Twitter is at least not *ontologically confused* if they say that using preferred pronouns is courtesy, and claim that they're enforcing a courtesy standard. Replying "That's a lie! I will never lie!" is confused. It'd be sad if the #IDW died on that hill of all hills.
1124
1125 > Acts aren't sentences, pronouns aren't lies, bathrooms aren't fundamental physical constants, and if you know what a motte-and-bailey is you're supposed to know that.
1126 https://twitter.com/ESYudkowsky/status/1067287459589906432
1127
1128 > I don't care whose point it is on this planet, the point I'm making would stand in any galaxy:  You are not standing in noble defense of Truth when you ask who gets to use which bathroom.  This is true across all possible worlds, including those with no sociologists in them.
1129 https://twitter.com/ESYudkowsky/status/1067187363544059905
1130
1131 ------
1132
1133 https://twitter.com/davidxu90/status/1436007025545125896
1134
1135
1136
1137
1138 ·
1139 Sep 9, 2021
1140 Crux: "If you say that Stalin is a dictator, you'll be shot, therefore Stalin is not a dictator" has the same structure as "If you say that trans women are male, they'll take massive psych damage, therefore trans women are not male"; both arguments should get the same response.
1141 Zack M. Davis
1142 @zackmdavis
1143 ·
1144 Sep 9, 2021
1145 Thoughts on your proposed cruxes: 1 (harmful inferences) is an unworkable AI design: you need correct beliefs first, in order to correctly tell which beliefs are harmful. 4 (non-public concepts) is unworkable for humans: how do you think about things you're not allowed words for?
1146
1147
1148 [SECTION about monastaries (with Ben and Anna in April 2019)
1149 I complained to Anna: "Getting the right answer in public on topic _X_ would be too expensive, so we won't do it" is _less damaging_ when the set of such <em>X</em>es is _small_. It looked to me like we added a new forbidden topic in the last ten years, without rolling back any of the old ones.
1150
1151 "Reasoning in public is too expensive; reasoning in private is good enough" is _less damaging_ when there's some sort of _recruiting pipeline_ from the public into the monasteries: lure young smart people in with entertaining writing and shiny math, _then_ gradually undo their political brainwashing once they've already joined your cult. (It had [worked on me](/2021/May/sexual-dimorphism-in-the-sequences-in-relation-to-my-gender-problems/)!)
1152
1153 I would be sympathetic to "rationalist" leaders like Anna or Yudkowsky playing that strategy if there were some sort of indication that they had _thought_, at all, about the pipeline problem—or even an indication that there _was_ an intact monastery somewhere.
1154 ]
1155
1156 > Admitting something when being pushed a little, but never thinking it spontaneously and hence having those thoughts absent from your own thought processes, remains not sane.
1157 https://twitter.com/ESYudkowsky/status/1501218503990431745
1158
1159 > a gradual shift away from STEM nerd norms to fandom geek norms [...] the pathological insistence that you're not allowed to notice bad faith
1160 https://extropian.net/notice/A7rwtky5x3vPAedXZw
1161
1162 https://www.lesswrong.com/posts/4pov2tL6SEC23wrkq/epilogue-atonement-8-8
1163 "When I have no reason left to do anything, I am someone who tells the truth."
1164
1165 https://glowfic.com/posts/6132?page=83
1166 > A tradeable medium-sized negative utility is not the same as Her really giving a shit. 
1167
1168 further post timeline—
1169 "Schelling Categories" Aug 2019
1170 "Maybe Lying Doesn't Exist" Oct 2019
1171 "Algorithms of Deception!" Oct 2019
1172 "Firming Up ..." Dec 2019
1173
1174 "Darkest Timeline" June 2020
1175 "Maybe Lying Can't Exist?!" Aug 2020
1176 "Unnatural Categories" Jan 2021
1177 "Differential Signal Costs" Mar 2021
1178
1179
1180 "Public Heretic" on "Where to Draw the Boundary?"—
1181 > But reality, in its full buzzing and blooming confusion, contains an infinite numbers of 'joints' along which it could be carved. It is not at all clear how we could say that focusing one some of those joints is "true" while focusing on other joints is "false," since all such choices are based on similarly arbitrary conventions.
1182
1183 > Now, it is certainly true that certain modes of categorization (i.e. the selection of certain joints) have allowed us to make empirical generalizations that would not otherwise have been possible, whereas other modes of categorization have not yielded any substantial predictive power. But why does that mean that one categorization is "wrong" or "untrue"? Better would seem to be to say that the categorization is "unproductive" in a particular empirical domain.
1184
1185 > Let me make my claim more clear (and thus probably easier to attack): categories do not have truth values. They can be neither true nor false. I would challenge Eliezer to give an example of a categorization which is false in and of itself (rather than simply a categorization which someone then used improperly to make a silly empirical inference).
1186
1187 Yudkowsky's reply—
1188 > PH, my reply is contained in Mutual Information, and Density in Thingspace.
1189
1190
1191 https://www.greaterwrong.com/posts/FBgozHEv7J72NCEPB/my-way/comment/K8YXbJEhyDwSusoY2
1192 > I would have been surprised if she was. Joscelin Verreuil also strikes me as being a projection of some facets of a man that a woman most notices, and not a man as we exist from the inside.
1193 >
1194 > I have never known a man with a true female side, and I have never known a woman with a true male side, either as authors or in real life.
1195
1196 https://www.greaterwrong.com/posts/FBgozHEv7J72NCEPB/my-way/comment/AEZaakdcqySmKMJYj
1197 > Could you please [taboo](Could you please taboo these?) these?
1198
1199 https://www.greaterwrong.com/posts/FBgozHEv7J72NCEPB/my-way/comment/W4TAp4LuW3Ev6QWSF
1200 > Okay. I’ve never seen a male author write a female character with the same depth as Phedre no Delaunay, nor have I seen any male person display a feminine personality with the same sort of depth and internal integrity, nor have I seen any male person convincingly give the appearance of having thought out the nature of feminity to that depth. Likewise and in a mirror for women and men. I sometimes wish that certain women would appreciate that being a man is at least as complicated and hard to grasp and a lifetime’s work to integrate, as the corresponding fact of feminity. I am skeptical that either sex can ever really model and predict the other’s deep internal life, short of computer-assisted telepathy. These are different brain designs we’re talking about here.
1201
1202 https://www.greaterwrong.com/posts/FBgozHEv7J72NCEPB/my-way/comment/7ZwECTPFTLBpytj7b
1203
1204
1205 > Duly appreciated.
1206
1207
1208
1209
1210 https://www.lesswrong.com/posts/juZ8ugdNqMrbX7x2J/challenges-to-yudkowsky-s-pronoun-reform-proposal?commentId=he8dztSuBBuxNRMSY#comments 110 karma
1211 support from Oli—
1212 > I think there is a question of whether current LessWrong is the right place for this discussion (there are topics that will attract unwanted attention, and when faced with substantial adversarial forces, I think it is OK for LessWrong to decide to avoid those topics as long as they don't seem of crucial importance for the future of humanity, or have those discussions in more obscure ways, or to limit visibility to just some subset of logged-in users, etc). But leaving that discussion aside, basically everything in this post strikes me as "obviously true" and I had a very similar reaction to what the OP says now, when I first encountered the Eliezer Facebook post that this post is responding to. 
1213 >
1214 > And I do think that response mattered for my relationship to the rationality community. I did really feel like at the time that Eliezer was trying to make my map of the world worse, and it shifted my epistemic risk assessment of being part of the community from "I feel pretty confident in trusting my community leadership to maintain epistemic coherence in the presence of adversarial epistemic forces" to "well, I sure have to at least do a lot of straussian reading if I want to understand what people actually believe, and should expect that depending on the circumstances community leaders might make up sophisticated stories for why pretty obviously true things are false in order to not have to deal with complicated political issues". 
1215 >
1216 > I do think that was the right update to make, and was overdetermined for many different reasons, though it still deeply saddens me. 
1217
1218 https://www.lesswrong.com/posts/juZ8ugdNqMrbX7x2J/challenges-to-yudkowsky-s-pronoun-reform-proposal?commentId=cPunK8nFKuQRorcNG#comments
1219 iceman—
1220 > I kinda disagree that this is a mere issue of Straussian reading: I suspect that in this (and other cases), you are seeing the raw output of Elizer's rationalizations and not some sort of instrumental coalition politics dark arts. If I was going for some sort of Straussian play, I wouldn't bring it up unprompted or make long public declarations like this.
1221 >
1222 > Zack is hypersensitive to this one issue because it interacts with his Something to Protect. But what I wonder about is where else Eliezer is trying to get away with things like this.
1223
1224
1225 https://www.glowfic.com/replies/1853001#reply-1853001
1226 > Another reason people go to Hell?  Malediction!  An Asmodean priest was using that spell on children too!  Pharasma apparently doesn't give a shit!  At best, it might be a negative weight in Her utility function that She traded to the ancient gods of Evil for something else that She wanted.  A tradeable medium-sized negative utility is not the same as Her _really giving a shit_.
1227
1228
1229 I furthermore claim that the following disjunction is true:
1230
1231 > Either the quoted excerpt is a blatant lie on Scott's part because there are rules of rationality governing conceptual boundaries and Scott absolutely knows it, or
1232 > You have no grounds to criticize me for calling it a blatant lie, because there's no rule of rationality that says I shouldn't draw the category boundaries of "blatant lie" that way.
1233
1234 there needs to be _some_ way for _someone_ to invest a _finite_ amount of effort to _correct the mistake_
1235
1236 https://twitter.com/ESYudkowsky/status/1404698587175350275
1237 > That Zack now imagines this to be a great trend [...] does seem like an avoidable error and a failure to take perspective on how much most people's lives are not about ourselves
1238
1239 I have a _seflish_ interest in people making and sharing accurate probabilistic inferences about how sex and gender and transgenderedness work in reality, for many reasons, but in part because _I need the correct answer in order to decide whether or not to cut my dick off_.
1240
1241 [TODO: in the context of elite Anglosphere culture in 2016–2022; it should be clear that defenders of reason need to be able to push back and assert that biological sex is real; other science communicators like 
1242
1243 [Dawkins can see it.](https://www.theguardian.com/books/2021/apr/20/richard-dawkins-loses-humanist-of-the-year-trans-comments) [Jerry Coyne can see it.](https://whyevolutionistrue.com/2018/12/11/once-again-why-sex-is-binary/)]
1244
1245 when I was near death from that salivary stone, I mumbled something to my father about "our people"
1246
1247
1248
1249
1250 https://www.facebook.com/yudkowsky/posts/pfbid0331sBqRLBrDBM2Se5sf94JurGRTCjhbmrYnKcR4zHSSgghFALLKCdsG6aFbVF9dy9l?comment_id=10159421833274228&reply_comment_id=10159421901809228
1251 > I don't think it *should* preclude my posting on topics like these, which is something I get the impression Zack disagrees with me about. I think that in a half-Kolmogorov-Option environment where people like Zack haven't actually been shot and you can get away with attaching explicit disclaimers like this one, it is sometimes personally prudent and not community-harmful to post your agreement with Stalin about things you actually agree with Stalin about, in ways that exhibit generally rationalist principles, especially because people do *know* they're living in a half-Stalinist environment, even though it hugely bugs Zack that the exact degree of Stalinism and filtration can't be explicitly laid out the way they would be in the meta-Bayesian Should Universe... or something. I think people are better off at the end of that.
1252
1253 > I don't see what the alternative is besides getting shot, or utter silence about everything Stalin has expressed an opinion on including "2 + 2 = 4" because if that logically counterfactually were wrong you would not be able to express an opposing opinion.
1254
1255 ]
1256
1257 https://twitter.com/ESYudkowsky/status/1568338672499687425
1258 > I'm not interested in lying to the man in the street.  It won't actually save the world, and is not part of a reasonable and probable plan for saving the world; so I'm not willing to cast aside my deontology for it; nor would the elites be immune from the epistemic ruin.
1259
1260 The problem with uncritically validating an autodidactic's ego, is that a _successful_ autodidact needs to have an accurate model of how their studying process is working, and that's a lot harder when people are "benevolently" trying to _wirehead_ you.
1261
1262 The man is so egregiously sexist in any other context, _except_ when I need the right answer to make extremely important medical decisions
1263
1264 I don't need to be a mind-reader about how it feels because I can read, I can point to the text from 2010 and 2016+, and notice the differences
1265
1266 Maybe he was following the same sucking-off-Stalin algorithm internally the whole time (just like Anna was), and I only noticed it in 2016+ because the environment changed, not the algorithm? I doubt it, though (rather, the environment changed the algorithm)
1267
1268 http://benjaminrosshoffman.com/honesty-and-perjury/
1269
1270 origins of the strawberry example
1271 https://www.facebook.com/yudkowsky/posts/10155625884574228
1272 https://www.facebook.com/yudkowsky/posts/10154690145854228
1273 (Note: we can do this with images of strawberries! The hard problem is presumably inventing nanotech from scratch.)
1274
1275 lack of trust as a reason nothing works: https://danluu.com/nothing-works/ shouldn't the rats trust each other?
1276
1277 https://www.greaterwrong.com/posts/FBgozHEv7J72NCEPB/my-way
1278 > I think there will not be a _proper_ Art until _many_ people have progressed to the point of remaking the Art in their own image, and then radioed back to describe their paths.
1279
1280 https://www.lesswrong.com/posts/cyzXoCv7nagDWCMNS/you-re-calling-who-a-cult-leader#35n
1281 > In fact, I would say that by far the most cultish-looking behavior on Hacker News is people trying to show off how willing they are to disagree with Paul Graham
1282 I'm totally still doing this
1283
1284 > it's that it's hard to get that innocence back, once you even start thinking about whether you're _independent_ of someone
1285
1286 If Scott's willing to link to A. Marinos, maybe he'd link to my memoir, too? https://astralcodexten.substack.com/p/open-thread-242
1287 My reaction to Marinos is probably similar to a lot of people's reaction to me: geez, putting in so much effort to correct Scott's mistake is lame, what a loser, who cares
1288
1289 This is the same mechanism as "Unnatural Categories Are Optimized for Deception"!!
1290 > journalism is usually trustworthy because trustworthiness is the carrier vehicle. It's occasionally corrupt, because corruption is the payload.
1291 https://www.reddit.com/r/slatestarcodex/comments/lje3nu/statement_on_new_york_times_article/gnfrprx/?context=3
1292
1293 --------
1294
1295 23 June 2020: people are STILL citing "Categories Were Made", TWICE when people on the subreddit asked "What is Slate Star Codex"?
1296 https://www.reddit.com/r/slatestarcodex/comments/hef5es/hi_what_was_slate_star_codex/fvqv9av/
1297 https://www.reddit.com/r/slatestarcodex/comments/hef5es/hi_what_was_slate_star_codex/fvr47v1/
1298 > But the blog wasn't always on that 'side', either. Scott wrote one of the best analyses/defenses of trans identity and nonbiological definition of gender that I've ever read, and which ultimately convinced me.
1299 Yet again someone citing "Categories Were Made" as influential: https://old.reddit.com/r/TheMotte/comments/he96rm/star_slate_codex_deleted_because_of_nyt_article/fvr7h7w/
1300
1301 people are STILL citing this shit! (14 Nov): https://twitter.com/Baltimoron87/status/1327730282703835137
1302
1303 Even the enemies respect that post!
1304 https://twitter.com/KirinDave/status/1275647936194654208
1305
1306 And using it for defense.
1307
1308 Two mentions in https://www.reddit.com/r/slatestarcodex/comments/hhy2yc/what_would_you_put_in_the_essential_ssc_collection/
1309
1310 Another "Made for Man" cite: https://www.reddit.com/r/TheMotte/comments/hhtwxi/culture_war_roundup_for_the_week_of_june_29_2020/fwwxycr/
1311
1312 More damage control: https://www.reddit.com/r/slatestarcodex/comments/hpohy5/what_are_some_of_scotts_posts_that_challenge_the/fxsu8p0/
1313 (Comment was deleted. Was I over the line in commenting at all, or just because of the "transparently political reasons" side-swipe? The fact that it got ~18 points suggests the readership was OK with it, even if the moderators weren't)
1314
1315 People are still citing it! https://twitter.com/churrundo/status/1283578666425806851
1316
1317 Another new cite: https://twitter.com/FollowSamir/status/1289168867831373825
1318
1319 Another new cite: https://applieddivinitystudies.com/2020/09/05/rationality-winning/
1320
1321 Another new cite: https://www.reddit.com/r/slatestarcodex/comments/kdxbyd/this_blog_is_incredible/gg04f8c/ "My personal favorites among these are [ ], [... Not Man for the Categories], 10, and 2 in that order."
1322
1323 Another new cite: https://twitter.com/rbaron321/status/1361841879445364739
1324
1325 31 December
1326 "SSC also helped me understand trans issues" https://www.reddit.com/r/SneerClub/comments/kng0q4/mixed_feelings_on_scott_alexander/
1327
1328 Still citing it (22 Mar 21): https://twitter.com/Cererean/status/1374130529667268609
1329
1330 Still citing it (2 May 21)!!: https://eukaryotewritesblog.com/2021/05/02/theres-no-such-thing-as-a-tree/
1331
1332 Still citing it (20 October 21): https://www.reddit.com/r/TheMotte/comments/qagtqk/culture_war_roundup_for_the_week_of_october_18/hhdiyd1/
1333
1334 Still citing it (21 October 21): https://www.reddit.com/r/slatestarcodex/comments/qcrhc4/can_someone_provide_an_overview_ofintroduction_to/hhkf6kk/
1335
1336 Still citing it (15 July 21) in a way that suggests it's ratsphere canon: https://twitter.com/NLRG_/status/1415754203293757445
1337
1338 Still citing it (14 November 21): https://twitter.com/captain_mrs/status/1459846336845697028
1339
1340 Still citing it (December 21 podcast): https://www.thebayesianconspiracy.com/2021/12/152-frame-control-with-aella/
1341
1342 Still citing it (2 February 22): https://astralcodexten.substack.com/p/why-do-i-suck/comment/4838964
1343
1344 Still citing it (22 March 22): https://twitter.com/postpostpostr/status/1506480317351272450
1345
1346 Still citing it (25 March 22): https://www.reddit.com/r/TheMotte/comments/tj525b/culture_war_roundup_for_the_week_of_march_21_2022/i22z367/
1347
1348 Still citing it (13 May 22): https://forum.effectivealtruism.org/posts/FkFTXKeFxwcGiBTwk/against-longtermist-as-an-identity
1349
1350 Still citing it, in Eliezerfic Discord (18 Jul 22): https://discord.com/channels/936151692041400361/954750671280807968/998638253588631613
1351
1352 Still citing it (31 Jul 22): https://www.reddit.com/r/slatestarcodex/comments/wbqtg3/rationality_irl/
1353
1354 Still citing it (19 Sep 22): https://twitter.com/ingalala/status/1568391691064729603
1355
1356 https://arbital.greaterwrong.com/p/logical_dt/?l=5gc
1357 It even leaked into Big Yud!!! "Counterfactuals were made for humanity, not humanity for counterfactuals."
1358
1359 ------
1360
1361 If you _have_ intent-to-inform and occasionally end up using your megaphone to say false things (out of sloppiness or motivated reasoning in the passion of the moment), it's actually not that big of a deal, as long as you're willing to acknowledge corrections. (It helps if you have critics who personally hate your guts and therefore have a motive to catch you making errors, and a discerning audience who will only reward the critics for finding real errors and not fake errors.) In the long run, the errors cancel out.
1362
1363 If you _don't_ have intent-to-inform, but make sure to never, ever say false things (because you know that "lying" is wrong, and think that as long as you haven't "lied", you're in the clear), but you don't feel like you have an obligation to acknowledge criticisms (for example, because you think you and your flunkies are the only real people in the world, and anyone who doesn't want to become one of your flunkies can be disdained as a "post-rat"), that's potentially a much worse situation, because the errors don't cancel.
1364
1365 ----
1366
1367 bitter comments about rationalists—
1368 https://www.greaterwrong.com/posts/qXwmMkEBLL59NkvYR/the-lesswrong-2018-review-posts-need-at-least-2-nominations/comment/d4RrEizzH85BdCPhE
1369 https://www.lesswrong.com/posts/qaYeQnSYotCHQcPh8/drowning-children-are-rare?commentId=Nhv9KPte7d5jbtLBv
1370 https://www.greaterwrong.com/posts/tkuknrjYCbaDoZEh5/could-we-solve-this-email-mess-if-we-all-moved-to-paid/comment/ZkreTspP599RBKsi7
1371
1372 ------
1373
1374 https://trevorklee.substack.com/p/the-ftx-future-fund-needs-to-slow
1375 > changing EA to being a social movement from being one where you expect to give money
1376
1377 when I talked to the Kaiser psychiatrist in January 2021, he said that the drugs that they gave me in 2017 were Zyprexa 5mg and Trazadone 50mg, which actually seems a lot more reasonable in retrospect (Trazadone is on Scott's insomnia list), but it was a lot scarier in the context of not trusting the authorities
1378
1379 I didn't have a simple, [mistake-theoretic](https://slatestarcodex.com/2018/01/24/conflict-vs-mistake/) characterization of the language and social conventions that everyone should use such that anyone who defected from the compromise would be wrong. The best I could do was try to objectively predict the consequences of different possible conventions—and of _conflicts_ over possible conventions.
1380
1381 http://archive.is/SXmol
1382 >  "don't lie to someone if you wouldn't slash their tires" is actually a paraphrase of Steven Kaas.
1383 > ... ugh, I forgot that that was from the same Black Belt Bayesian post where one of the examples of bad behavior is from me that time when I aggro'd against Phil Goetz to the point were Michael threatened to get me banned. I was young and grew up in the feminist blogosphere, but as I remarked to Zvi recently, in 2008, we had a way to correct that. (Getting slapped down by Michael's ostracism threat was really painful for me at the time, but in retrospect, it needed to be done.) In the current year, we don't.
1384
1385
1386 _Less Wrong_ had recently been rebooted with a new codebase and a new dev/admin team. New-_Less Wrong_ had a system for post to be "Curated". Begging Yudkowsky and Anna to legitimize "... Boundaries?" with a comment hadn't worked, but maybe the mods would  (They did end up curating [a post about mole rats](https://www.lesswrong.com/posts/fDKZZtTMTcGqvHnXd/naked-mole-rats-a-case-study-in-biological-weirdness).)
1387
1388
1389
1390 Yudkowsky did [quote-Tweet Colin Wright on the univariate fallacy](https://twitter.com/ESYudkowsky/status/1124757043997372416)
1391
1392 (which I got to [cite in a _Less Wrong_ post](https://www.lesswrong.com/posts/cu7YY7WdgJBs3DpmJ/the-univariate-fallacy)
1393
1394
1395 "Univariate fallacy" also a concession
1396 (which I got to cite in  which I cited in "Schelling Categories")
1397
1398
1399
1400 "Yes Requires the Possibility of No" 19 May https://www.lesswrong.com/posts/WwTPSkNwC89g3Afnd/comment-section-from-05-19-2019
1401
1402 scuffle on LessWrong FAQ 31 May 
1403
1404 "epistemic defense" meeting
1405
1406 [TODO section on factional conflict:
1407 Michael on Anna as cult leader
1408 Jessica told me about her time at MIRI (link to Zoe-piggyback and Occupational Infohazards)
1409 24 Aug: I had told Anna about Michael's "enemy combatants" metaphor, and how I originally misunderstood
1410 me being regarded as Michael's pawn
1411 assortment of agendas
1412 mutualist pattern where Michael by himself isn't very useful for scholarship (he just says a lot of crazy-sounding things and refuses to explain them), but people like Sarah and me can write intelligible things that secretly benefited from much less legible conversations with Michael.
1413 ]
1414
1415 8 Jun: I think I subconsciously did an interesting political thing in appealing to my price for joining
1416
1417 REACH panel
1418
1419 (Subject: "Michael Vassar and the theory of optimal gossip")
1420
1421
1422 Scott said he liked "monastic rationalism _vs_. lay rationalism" as a frame for the schism Ben was proposing.
1423
1424 (I wish I could use this line)
1425 I really really want to maintain my friendship with Anna despite the fact that we're de facto political enemies now. (And similarly with, e.g., Kelsey, who is like a sister-in-law to me (because she's Merlin Blume's third parent, and I'm Merlin's crazy racist uncle).)
1426
1427
1428 https://twitter.com/esyudkowsky/status/1164332124712738821
1429 > I unfortunately have had a policy for over a decade of not putting numbers on a few things, one of which is AGI timelines and one of which is *non-relative* doom probabilities.  Among the reasons is that my estimates of those have been extremely unstable.
1430
1431
1432 https://www.lesswrong.com/posts/nCvvhFBaayaXyuBiD/shut-up-and-do-the-impossible
1433 > You might even be justified in [refusing to use probabilities](https://www.lesswrong.com/lw/sg/when_not_to_use_probabilities/) at this point.  In all honesty, I really _don't_ know how to estimate the probability of solving an impossible problem that I have gone forth with intent to solve; in a case where I've previously solved some impossible problems, but the particular impossible problem is more difficult than anything I've yet solved, but I plan to work on it longer, etcetera.
1434 >
1435 > People ask me how likely it is that humankind will survive, or how likely it is that anyone can build a Friendly AI, or how likely it is that I can build one.  I really _don't_ know how to answer.  I'm not being evasive; I don't know how to put a probability estimate on my, or someone else, successfully shutting up and doing the impossible.  Is it probability zero because it's impossible?  Obviously not.  But how likely is it that this problem, like previous ones, will give up its unyielding blankness when I understand it better?  It's not truly impossible, I can see that much.  But humanly impossible?  Impossible to me in particular?  I don't know how to guess.  I can't even translate my intuitive feeling into a number, because the only intuitive feeling I have is that the "chance" depends heavily on my choices and unknown unknowns: a wildly unstable probability estimate.
1436
1437
1438
1439
1440 I don't, actually, know how to prevent the world from ending. Probably we were never going to survive. (The cis-human era of Earth-originating intelligent life wasn't going to last forever, and it's hard to exert detailed control over what comes next.) But if we're going to die either way, I think it would be _more dignified_ if Eliezer Yudkowsky were to behave as if he wanted his faithful students to be informed. Since it doesn't look like we're going to get that, I think it's _more dignified_ if his faithful students _know_ that he's not behaving like he wants us to be informed. And so one of my goals in telling you this long story about how I spent (wasted?) the last six years of my life, is to communicate the moral that 
1441
1442 and that this is a _problem_ for the future of humanity, to the extent that there is a future of humanity.
1443
1444 Is that a mean thing to say about someone to whom I owe so much? Probably. But he didn't create me to not say mean things. If it helps—as far as _I_ can tell, I'm only doing what he taught me to do in 2007–9: [carve reality at the joints](https://www.lesswrong.com/posts/esRZaPXSHgWzyB2NL/where-to-draw-the-boundaries), [speak the truth even if your voice trembles](https://www.lesswrong.com/posts/pZSpbxPrftSndTdSf/honesty-beyond-internal-truth), and [make an extraordinary effort](https://www.lesswrong.com/posts/GuEsfTpSDSbXFiseH/make-an-extraordinary-effort) when you've got [Something to Protect](https://www.lesswrong.com/posts/SGR4GxFK7KmW7ckCB/something-to-protect).
1445
1446 ReACT seems similar to Visible Thoughts Project: https://arxiv.org/abs/2210.03629
1447
1448
1449 https://www.lesswrong.com/posts/jAToJHtg39AMTAuJo/evolutions-are-stupid-but-work-anyway?commentId=HvGxrASYAyfbiPwQt#HvGxrASYAyfbiPwQt
1450 > I've noticed that none of my heroes, not even Douglas Hofstadter or Eric Drexler, seem to live up to my standard of perfection. Always sooner or later they fall short. It's annoying, you know, because it means _I_ have to do it.
1451
1452 But he got it right in 2009; he only started to fall short _later_ for political reasons
1453
1454 https://twitter.com/ESYudkowsky/status/1580278376673120256
1455 > Your annual reminder that academically conventional decision theory, as taught everywhere on Earth except inside the MIRI-adjacent bubble, says to give in to threats in oneshot games.  Only a very rare student is bright enough to deserve blame in place of the teacher.
1456
1457 https://www.lesswrong.com/posts/9KvefburLia7ptEE3/the-correct-contrarian-cluster
1458 > Atheism:  Yes.
1459 > Many-worlds:  Yes.
1460 > "P-zombies":  No.
1461 >
1462 > These aren't necessarily simple or easy for contrarians to work through, but the correctness seems as reliable as it gets.
1463 >
1464 > Of course there are also slam-dunks like:
1465 >
1466 > Natural selection:  Yes.
1467 > World Trade Center rigged with explosives:  No.
1468
1469 I wonder how the history of the site would have been different if this had included "Racial differences in cognitive abilities: Yes." (It's worse if he didn't think about it in the first place, rather than noticing and deciding not to say it—it doesn't even seem to show up in the comments!!)
1470
1471
1472 https://www.facebook.com/yudkowsky/posts/pfbid0tTk5VoLSxZ1hJKPRMdzpPzNaBR4eU5ufKEhvvowMFTjKTHykogFfwAZge9Kk5jFLl
1473 > Yeah, see, *my* equivalent of making ominous noises about the Second Amendment is to hint vaguely that there are all these geneticists around, and gene sequencing is pretty cheap now, and there's this thing called CRISPR, and they can probably figure out how to make a flu virus that cures Borderer culture by excising whatever genes are correlated with that and adding genes correlated with greater intelligence.  Not that I'm saying anyone should try something like that if a certain person became US President.  Just saying, you know, somebody might think of it.
1474
1475
1476 commenting policy—
1477 > I will enforce the same standards here as I would on my personal Facebook garden. If it looks like it would be unhedonic to spend time interacting with you, I will ban you from commenting on my posts.
1478 >
1479 > Specific guidelines:
1480 >
1481 > Argue against ideas rather than people.
1482 > Don't accuse others of committing the Being Wrong Fallacy ("Wow, I can't believe you're so wrong! And you believe you're right! That's even more wrong!").
1483 > I consider tone-policing to be a self-fulfilling prophecy and will delete it.
1484 > If I think your own tone is counterproductive, I will try to remember to politely delete your comment instead of rudely saying so in a public reply.
1485 > If you have helpful personal advice to someone that could perhaps be taken as lowering their status, say it to them in private rather than in a public comment.
1486 > The censorship policy of the Reign of Terror is not part of the content of the post itself and may not be debated on the post. If you think Censorship!! is a terrible idea and invalidates discussion, feel free not to read the comments section.
1487 > The Internet is full of things to read that will not make you angry. If it seems like you choose to spend a lot of time reading things that will give you a chance to be angry and push down others so you can be above them, you're not an interesting plant to have in my garden and you will be weeded. I don't consider it fun to get angry at such people, and I will choose to read something else instead.
1488
1489 I tried arguing against ideas _first!_
1490
1491 I do wonder how much of his verbal report is shaped by pedagogy (& not having high-quality critics). People are very bad at imagining how alien aliens would be! "Don't try to hallucinate value there; just, don't" is simpler than working out exactly how far to push cosmopolitanism
1492
1493
1494 couldn't resist commenting even after I blocked Yudkowsky on Twitter (30 August 2021)
1495 https://www.facebook.com/yudkowsky/posts/pfbid02AGzw7EzeB6bDAwvXT8hm4jnC4Lh1te7tC3Q3h2u6QqBfJjp4HKvpCM3LqvcLuXSbl?comment_id=10159857276789228&reply_comment_id=10159858211759228
1496 Yudkowsky replies (10 September 2021)—
1497 > Zack, if you can see this, I think Twitter is worse for you than Facebook because of the short-reply constraint. I have a lot more ability to include nuance on Facebook and would not expect most of my statements here to set you off the same way, or for it to be impossible for me to reply effectively if something did come up.
1498 ("impossible to me to reply effectively" implies that I have commenting permissions)
1499
1500
1501 "Noble Secrets" Discord thread—
1502 > So, I agree that if you perform the experimental test of asking people, "Do you think truthseeking is virtuous?", then a strong supermajority will say "Yes", and that if you ask them, "And are you looking for memes about how to do actually do it?" they'll also say "Yes."
1503 >
1504 > But I also notice that in chat the other day, we saw this (in my opinion very revealing) paragraph—
1505 >
1506 > I think of "not in other people" [in "Let the truth destroy what it can—but in you, not in other people"] not as "infantilizing", but as recognizing independent agency. You don't get to do harm to other people without their consent, whether that is physical or pychological.
1507 >
1508 > My expectation of a subculture descended from the memetic legacy of Robin Hanson's blog in 2008 in which people were _actually_ looking for memes about how to seek truth, is that the modal, obvious response to a paragraph like this would be something like—
1509 >
1510 >> Hi! You must be new here! Regarding your concern about truth doing harm to people, a standard reply is articulated in the post "Doublethink (Choosing to be Biased)" (<https://www.lesswrong.com/posts/Hs3ymqypvhgFMkgLb/doublethink-choosing-to-be-biased>). Regarding your concern about recognizing independent agency, a standard reply is articulated in the post "Your Rationality Is My Business" (<https://www.lesswrong.com/posts/anCubLdggTWjnEvBS/your-rationality-is-my-business>).
1511 >
1512 > —or _something like that_. Obviously, it's not important that the reply use those particular Sequences links, or _any_ Sequences links; what's important is that someone responds to this _very obvious_ anti-epistemology (<https://www.lesswrong.com/posts/XTWkjCJScy2GFAgDt/dark-side-epistemology>) with ... memes about how to actually do truthseeking.
1513 >
1514 > And what we _actually_ saw in response to this "You don't get to do harm to other people" message is ... it got 5 :plus_one: reactions.
1515
1516 Yudkowsky replies—
1517 > the Doublethink page is specifically about how you yourself choosing not to know is Unwise
1518 > to the extent you can even do that rather than convincing yourself that you have
1519 > it specifically doesn't say "tell other people every truth you know"
1520 > the point is exactly that you couldn't reasonably end up in an epistemic position of knowing yourself that you ought to lie to yourself
1521
1522
1523 --------
1524
1525 My last messages in late-November fight with Alicorner Discord was 4:44 a.m./4:47 am. (!) on 28 November; I mention needing more sleep. But—that would have been 6:44 a.m. Austin time? Did I actually not sleep that night? Flipping out and writing Yudkowsky was evening of the same calendar day.
1526
1527 Sam had said professed gender was more predictive.
1528
1529 Bobbi has claimed that "most people who speak the involved dialect of English agree that ‘woman’ refers to ‘an individual who perceives themselves as a woman’"
1530
1531 Kelsey 27 November
1532 > I think you could read me as making the claim "it's desirable, for any social gender, for there to be non-medical-transition ways of signaling it"
1533
1534 27 November
1535 > I don't think linta was saying "you should believe ozy doesn't have a uterus"
1536 that would be really weird
1537
1538 > well, for one thing, "it's okay to not pursue any medical transition options while still not identifying with your asab" isn't directed at you, it's directed at the trans person
1539 My reply—
1540 > that's almost worse; you're telling them that it's okay to gaslight _everyone else in their social circle_
1541
1542 1702 27 November
1543 > Stepping back: the specific statement that prompted me to start this horrible discussion even though I usually try to keep my personal hobbyhorse out of this server because I don't want it to destroy my friendships, was @lintamande's suggestion that "it's okay to not pursue any medical transition options while still not identifying with your asab". I think I have a thought experiment that might clarify why I react so strongly to this sort of thing
1544 > Suppose Brent Dill showed you this photograph and said, "This is a photograph of a dog. Your eyes may tell you that it's a cat, but you have to say it's a dog, or I'll be very unhappy and it'll be all your fault."
1545 > In that case, I think you would say, "This is a gaslighting attempt. You are attempting to use my sympathy for you to undermine my perception of reality."
1546
1547 > Flight about to take off so can't explain, but destroying the ability to reason in public about biological sex as a predictive category seems very bad for general sanity, even if freedom and transhumanism is otherwise good
1548
1549 https://discord.com/channels/401181628015050773/458329253595840522/516744646034980904
1550 26 November 14:38 p.m.
1551 >  I'm not sure what "it's okay to not pursue any medical transition options while still not identifying with your asab" is supposed to mean if it doesn't cash out to "it's okay to enforce social norms preventing other people from admitting out loud that they have correctly noticed your biological sex"
1552
1553 In contrast to Yudkowsky's claim that you need to have invented something from scratch to make any real progress, this is a case where the people who _did_ invent something can't apply it anymore!!
1554
1555 -----
1556
1557 Examples of non-robot-cult authors using rationality skills that they visibly didn't get from being a robot-cult loyalist—
1558
1559 James C. Scott, _Domination and the Arts of Resistance: Hidden Transcripts_, Ch. 4, "False Consciousness or Laying It on Thick?", 1990
1560
1561 > The thick theory [of false consciousness] claims consent; the thin theory settles for resignation. In its most subtle form, the thin theory is eminently plausible and, some would claim, true by definition. I believe, nevertheless, that it is fundamentally wrong and hope to show why in some detail after putting it in as persuasive a form as possible, so that it is no straw man I am criticizing.
1562
1563 (Steelmanning! One of us!)
1564
1565 Kathryn Paige Harden, _The Genetic Lottery: Why DNA Matters for Social Equality_, Ch. 9, "Using Nature to Understand Nurture", 2021
1566
1567 > [P]olicies that are built on a flawed understanding of which environments are truly causal are wasteful and potentially harmful. In this specific example, even if the state of Texas was successful at delaying teenagers' sexual activity, such a change would not actually improve their mental health—and an emphasis on such programs potentially diverts investment away from educational programs that _would_ be helpful. (Proponents of teenage abstinence might argue that abstinence is a valuable end for its own sake, but that is a different justification for the policy than the empirical claim that abstinentce is a means toward increased adolencent well-being.)
1568
1569 ("Fake Optimization Critiera")
1570
1571 John Snygg, _A New Approach to Differential Geometry Using Clifford's Geometric Algebra_ (§4.7.3) recounts the Arabic mathematician al-Biruni (973–1048). 
1572
1573 > More is known about al-Briruni than most Islamic mathematicians because he included bits of autobiographical writings in some of his academic publications. In one of these, _Shadows_, he relates an encounter with a hard-line orthodox cleric. The cleric admonished al-Biruni because he had used an astronomical instrument with Byzantine months engraved on it to determine the time of prayers. Al-Briuni replied:
1574 >> "The Byzantines also eat food. Then do not imitate them in this!"
1575
1576 (Reversed Stupidity Is Not Intelligence)
1577
1578 -----
1579
1580 I shall be happy to look bad for _what I actually am_. (If _telling the truth_ about what I've been obsessively preoccupied with all year makes you dislike me, then you probably _should_ dislike me. If you were to approve of me on the basis of _factually inaccurate beliefs_, then the thing of which you approve, wouldn't be _me_.)
1581
1582 I guess I feel pretty naïve now, but—I _actually believed our own propoganda_. I _actually thought_ we were doing something new and special of historical and possibly even _cosmological_ significance. This does not seem remotely credible to me any more.
1583
1584 _It will never stop hurting until I write it down._ ("I've got a thick tongue / Brimming with the words that go unsung.")
1585
1586 _My_ specific identity doesn't matter; the specific identities of any individuals I mention while telling my story don't matter. What matters is the _structure_: I'm just a sample from the _distribution_ of what happens when an American upper-middle-class high-Openness high-Neuroticism late-1980s-birth-cohort IQ-130 78%-Ashkenazi obligate-autogynephilic boy falls in with this kind of robot cult in this kind of world.
1587
1588 An aside: being famous must _suck_. I haven't experienced this myself, but I'm sure it's true.
1589
1590 Oh, sure, it's nice to see your work get read and appreciated by people—I've experienced that much. (Shout-out to my loyal fans—all four of you!) But when you're _famous_, everybody wants a piece of you. The fact that your work influences _so many_ people, makes you a _target_ for anyone who wants to indirectly wield your power for their own ends. Every new author wants you to review their book; every ideologue wants you on their side ...
1591
1592 And when a crazy person in your robot cult thinks you've made a philosophy mistake that impinges on their interests, they might spend an _unreasonable_ amount of effort obsessively trying to argue with you about it.
1593
1594 ----
1595
1596 imagine being a devout Catholic hearing their local priest deliver a sermon that _blatantly_ contradicts something said in the Bible—or at least, will predictably be interpreted by the typical parishioner as contradicting the obvious meaning of the Bible, even if the sermon also admits some contrived interpretation that's _technically_ compatible with the Bible. Suppose it's an ever-so-slightly-alternate-history 2014, and the sermon suggests that Christians who oppose same-sex marriage have no theological ground to stand on.
1597
1598 You _know_ this is wrong. Okay, maybe there's _some_ way that same-sex marriage could be compatible with the Church's teachings. But you would have to _argue_ for that; you _can't_ just say there's no arguments _against_ it and call that the end of the discussion! [1 Corinthians 6:9–10](https://www.biblegateway.com/passage/?search=1+Corinthians+6%3A9-10&version=NKJV): "Do you not know that the unrighteous will not inherit the kingdom of God? Do not be deceived. Neither fornicators [...] nor homosexuals, nor sodomites [...] will inherit the kingdom of God." It's _right there_. There's [a bunch of passages like that](https://www.livingout.org/the-bible-and-ssa). You _can't possibly_ not see it.
1599
1600 As a man of faith and loyal parishioner, you would _expect_ to be able to resolve the matter by bringing your concern to the priest, who would then see how the sermon had been accidentally misleading, and issue a clarification at next week's sermon, so that the people would not be led astray from the path of God.
1601
1602 The priest doesn't agree; he insists on the contrived technically-not-heresy interpretation. This would be a shock, but it wouldn't, yet, shatter your trust in the Church as an institution. Even the priest is still a flawed mortal man.
1603
1604 Then the Pope misinterets the Bible in the same way in his next encyclical. With the help of some connections, you appeal your case all the way to the Vatican—and the Pope himself comes back with the same _bullshit_ technically-not-heresy.
1605
1606 You realize that you _cannot take the Pope's words literally_. 
1607
1608 That would be _pretty upsetting_, right? To lose faith in, not your religion itself—_obviously_ the son of God still died for our sins—but the _institution_ that claims to faithfully implement your religion, but is actually doing something else. You can understand why recovering from that might take a year or so.
1609
1610 Or maybe imagine an idealistic young lawyer working for the prosecution in the [Selective Draft Law Cases](https://en.wikipedia.org/wiki/Selective_Draft_Law_Cases) challenging the World War I draft. Since 1865, the Constitution _says_, "Neither slavery nor involuntary servitude, except as a punishment for crime whereof the party shall have been duly convicted, shall exist within the United States, or any place subject to their jurisdiction." If the words "involuntary servitude not as a punishment for a crime" _mean anything_, they surely include the draft. So the draft is unconstitutional. Right?
1611
1612 ----
1613
1614 I'm delusional to expect so much from "the community", that the original vision _never_ included tackling politically sensitive subjects. (I remember Erin recommending Paul Graham's ["What You Can't Say"](http://www.paulgraham.com/say.html) back in 'aught-nine, with the suggestion to take Graham's advice to figure out what you can't say, and then _don't say it_.)
1615
1616 It needs to either _rebrand_—or failing that, _disband_—or failing that, _be destroyed_.
1617
1618 people [(especially nonconformist nerds like us)](https://www.lesswrong.com/posts/7FzD7pNm9X68Gp5ZC/why-our-kind-can-t-cooperate) tend to impose far too many demands before being willing to contribute their efforts to a collective endeavor. That post [concludes](https://www.lesswrong.com/posts/Q8evewZW5SeidLdbA/your-price-for-joining)—
1619
1620 > If the issue isn't worth your personally fixing by however much effort it takes, and it doesn't arise from outright bad faith, it's not worth refusing to contribute your efforts to a cause you deem worthwhile.
1621
1622 I think I've _more than_ met this standard. I _tried_ personally fixing the issue no matter how much effort it took! Also, the issue _does_, in fact, arise from outright bad faith. (We had [an entire Sequence](https://www.lesswrong.com/s/SGB7Y5WERh4skwtnb) about this! You lying motherfuckers!)
1623
1624 That ended up being quite a lot of effort!—but at this point I've _exhausted every possible avenue of appeal_. Arguing [publicly on the object level](/2018/Feb/the-categories-were-made-for-man-to-make-predictions/) didn't work. Arguing [publicly on the meta level](https://www.lesswrong.com/posts/esRZaPXSHgWzyB2NL/where-to-draw-the-boundaries) didn't work. Arguing privately didn't work. 
1625
1626 This is sort of what I was trying to do when soliciting—begging for—engagement-or-endorsement of "Where to Draw the Boundaries?"
1627
1628 If someone says to me, "You're right, but I can't admit this in public because it would be too politically expensive for me. Sorry," I can't say I'm not _disappointed_, but I can respect that they labor under different constraints from me.
1629
1630 But we can't even have that, because saying "You're right, but I can't admit this in public" requires _trust_. 
1631
1632 _socially load-bearing_ philosophy mistake.
1633
1634 I currently write "trans woman", two words, as a strategic concession to the shibboleth-detectors of my target audience:[^two-words] I don't want to to _prematurely_ scare off progressive-socialized readers on account of mere orthography, when what I actually have to say is already disturbing enough.)
1635
1636 [^two-words]: For the unfamiliar: the [doctrine here](https://medium.com/@cassiebrighter/please-write-trans-women-as-two-words-487f153444fb) is that "transwoman" is cissexist, because "trans" is properly an adjective indicating a type of woman.
1637
1638 Alicorn writes (re Kelsey's anorexia): "man it must be so weird to have a delusion and know it's a delusion and still have it"
1639 what's really weird is having a delusion, knowing it's a delusion, and _everyone else_ insists your delusion is true
1640 ... and I'm not allowed to say that without drawing on my diplomacy budget, which puts a permanent distance between me and the group
1641
1642 4 levels of intellectual conversation https://rationalconspiracy.com/2017/01/03/four-layers-of-intellectual-conversation/
1643
1644 If we _actually had_ magical sex change technology of the kind described in ["Changing Emotions"](https://www.lesswrong.com/posts/QZs4vkC7cbyjL9XA9/changing-emotions), no one would even consider clever philosophy arguments about how to redefine words: people who wanted to change sex would just do it, and everyone else would use the corresponding language, not as a favor, but because it straightforwardly described reality.
1645
1646 Scott said it sounded like I wasn't a 100% category absolutist, and that I would be willing to let a few tiny things through, and that our real difference is that he thought this gender thing was tiny enough to ignore, and I didn't. I thought his self-report of "tiny enough to ignore" was blatantly false: I predicted that his brain notices when trans women don't pass, and that this affected his probabilistic anticipations about them, decisions towards them, _&c._, and that when he finds out that a passing trans women is trans, then also affects his probabilistic anticipations, _&c._ This could be consistent with "tiny enough to ignore" if you draw the category boundaries of "tiny" and "ignore" the right way in order to force the sentence to come out "true" ... but you see the problem. If I took what Scott said in "... Not Man for the Categories" literally, I could make _any_ sentence true by driving a truck through the noncentral fallacy.
1647
1648
1649 Steve Sailer retweeted me today criticizing Lee Jussim https://twitter.com/zackmdavis/status/1160662220511932416
1650
1651 I'm a natural true believer in Yudkowskian ideology https://balioc.tumblr.com/post/187004568356/your-ideology-if-it-gets-off-the-ground-at-all
1652
1653 Yudkowsky's assessment of Moldbug: "Politics mindkilled him; he cannot separate the normative and the descriptive." https://www.lesswrong.com/posts/6qPextf9KyWLFJ53j/why-is-mencius-moldbug-so-popular-on-less-wrong-answer-he-s?commentId=TcLhiMk8BTp4vN3Zs#TcLhiMk8BTp4vN3Zs
1654
1655 ----
1656
1657 2019 comments to "Wilhelm"—
1658
1659 these people are at the center of the rationalist egregore and could steer it if only they were a little bit braver
1660
1661 the prevailing narrative is something like "the rationalist community is doing just fine; poor Zack is just freaking out because he's in denial about being a trans woman, and mean ol' Michael and Ben are preying on his vulnerability"
1662
1663 I'm never gonna get over this
1664 you can tell your IQ 110 hairdresser, "Men who fantasize about being women don't particularly resemble actual women", and she'll just be like, "yeah"
1665 and you tell IQ 135 "rationalists" the same thing, and it just becomes this multi-year, 30,000-word ... whatever
1666
1667 people use the word "gaslighting" to refer to the cognitive dissonance between what you're seeing and what the local egregore expects you to see
1668
1669  being trapped between two egregores is so painful / and even when it's not painful, it's confusing
1670
1671 recently-transitioned MtF Facebook acquaintance had generally positive feedback about my blog, but also says stuff like, "objective autobiography is impossible, ultimately we just tell the stories about ourselves that help us survive and thrive" / "she" went to Caltech / where are all the serious people??
1672
1673 in the new Twilight Zone episode featuring a crew of 5 astronauts, both the commander and the rebellious one are black women (who I have trouble telling apart)
1674 You sent
1675 there's a legitimate (really!) social-justice angle to this (the fact that I can't tell them apart proves that my perceptual system is RACIST)
1676 You sent
1677 (but the general phenomenon has to do with anchoring on unusual characteristics; at old dayjob, someone once confused me with the other white-guy-with-a-ponytail—we don't really look alike, but long hair on males is unusual)
1678
1679 17 March 19: "I think 'Vanessa Kosoy' is a guy I met at Summer Solstice 2016"
1680
1681 ----
1682
1683 messages with Leon about PDF templating as an easier task were on 22-23 May
1684
1685 Berkeley rat culture trains people to steer towards fake agreements rather than clarifying disagreement, because realistic models of disagreement include bad faith (being wrong because of reasons rather than randomly), which is against the principle of charity
1686
1687 Greg Egan's "Closer" (1992) predicted language models, and seemed wild at the time
1688
1689 The text of _Inadequate Equilibria_ is more modest than his rhetorical marketing blunder
1690
1691 and the BOTZ ETF I bought in 2020 has a −27.57% unrealized loss! awesome!!
1692
1693 Katie also asked "MTF?" when I told her about the Sasha disaster!!
1694
1695 27 Feb 2019: Ben playing Bad Cop, Sarah playing good cop, me as plantiff/puppydog/victim (not as a coordinated strategy; that's just how our personalities are)
1696
1697 ideological-drivenness—
1698 http://zackmdavis.net/blog/2012/11/speaking-of-addiction/
1699 http://zackmdavis.net/blog/2012/11/egoism-as-defense-against-a-life-of-unending-heartbreak/
1700
1701 I assume starting a detransition market would be not-OK
1702
1703 -----
1704
1705 FYI, I think this turned out significantly harsher on you than my January 2022 emails made it sound, thus occasioning this one additional email.
1706
1707 I'm planning on publishing the drafts linked below on [dates].
1708
1709  * "Blanchard's Dangerous Idea and the Plight of the Lucid Crossdreamer" (18K words)
1710  * "A Hill of Validity in Defense of Meaning" (46K words)
1711  * "Agreeing with Stalin in Ways That Exhibit Generally Rationalist Principles" (19K words)
1712  * **"Why I Don't Trust Eliezer Yudkowsky's Intellectual Honesty"** (1.5K word summary of the parts of the Whole Dumb Story that are specifically an attack on your reputation)
1713
1714 **If you want to contest any purported factual inaccuracies or my interpretation of the "no direct references to private conversations" privacy norm, get back to me before [date].** If you have anything else to say for yourself, you can say it in the public comments section. 
1715
1716 (Or if you had something to say privately, I would _listen_; it just doesn't seem like a good use of time. I think it's undignified that I have reason to publish a post titled "Why I Don't Trust Eliezer Yudkowsky's Intellectual Honesty", but you seem very committed to not meeting my standards of intellectual honesty, so I have an interest in telling everyone else that.)
1717
1718
1719 [13 November: #drama discussion today (https://discord.com/channels/401181628015050773/458419017602826260/1041586188961714259) makes me feel like I don't want to put a "Why I Don't Trust ..." post, like it would be too cruel]
1720
1721 [no awareness that people like me or Michael or Jessica would consider this a betrayal coming from the author of the Sequences (even if it wouldn't be a betrayal coming from a generic public intellectual)]
1722
1723 ----
1724
1725 (If you weren't interested in meeting my standards for intellectual honest before, it's not clear why you would change your mind just because I spent 80,000 words cussing you out to everyone else.)
1726
1727 ----
1728
1729 https://www.lesswrong.com/posts/BbM47qBPzdSRruY4z/instead-of-technical-research-more-people-should-focus-on
1730
1731 I hate that my religion is bottlenecked on one guy
1732
1733 https://twitter.com/zackmdavis/status/1405032189708816385
1734 > Egregore psychology is much easier and more knowable than individual human psychology, for the same reason macroscopic matter is more predictable than individual particles. But trying to tell people what the egregore is doing doesn't work because they don't believe in egregores!!
1735
1736 20 June 2021, "The egregore doesn't care about the past", thematic moments at Valinor
1737
1738 You don't want to have a reputation that isn't true; I've screwed up confidentiality before, so I don't want a "good at keeping secrets" reputation; if Yudkowsky doesn't want to live up to the standard of "not being a partisan hack", then ...
1739
1740 Extended analogy between "Scott Alexander is always right" and "Trying to trick me into cutting my dick off"—in neither case would any sane person take it literally, but it's pointing at something important (Scott and EY are trusted intellectual authorities, rats are shameless about transition cheerleading)
1741
1742 Scott's other 2014 work doesn't make the same mistake
1743
1744 "The Most Important Scarce Resource is Legitimacy"
1745 https://vitalik.ca/general/2021/03/23/legitimacy.html
1746
1747 "English is fragile"
1748
1749 https://twitter.com/ESYudkowsky/status/1590460598869168128
1750 > I now see even foom-y equations as missing the point. 
1751 (!)
1752
1753 ----
1754
1755 dialogue with a pre-reader on "Challenges"—
1756
1757 > More to the point, there's a kind of anthropic futility in these paragraphs, anyone who needs to read them to understand won't read them, so they shouldn't exist.
1758
1759 I think I'm trying to humiliate the people who are pretending not to understand in front of the people who do understand, and I think that humiliation benefits from proof-of-work? Is that ... not true??
1760
1761 > No, because it makes you look clueless rather than them look clueless.
1762
1763 -----
1764
1765 compare EY and SBF
1766
1767 Scott Aaronson on the Times's hit piece of Scott Alexander—
1768 https://scottaaronson.blog/?p=5310
1769 > The trouble with the NYT piece is not that it makes any false statements, but just that it constantly _insinuates_ nefarious beliefs and motives, via strategic word choices and omission of relevant facts that change the emotional coloration of the facts that it _does_ present.
1770
1771 https://graymirror.substack.com/p/the-journalist-rationalist-showdown
1772
1773 https://twitter.com/jstn/status/1591088015941963776
1774 > 2023 is going to be the most 2005 it's been in years
1775
1776 -------
1777
1778 re the FTX debacle, Yudkowsky retweets Katja:
1779
1780 https://twitter.com/KatjaGrace/status/1590974800318861313
1781 > So I'd advocate for instead taking really seriously when someone seems to be saying that they think it's worth setting aside integrity etc for some greater good
1782
1783 I'm tempted to leave a message in #drama asking if people are ready to generalize this to Kolmogorov complicity (people _very explicitly_ setting aside integrity &c. for the greater good of not being unpopular with progressives). It's so appropriate!! But it doesn't seem like a good use of my diplomacy budget relative to finishing the memoir—the intelligent social web is predictably going to round it off to "Zack redirecting everything into being about his hobbyhorse again, ignore". For the same reason, I was right to hold back my snarky comment about Yudkowsky's appeal to integrity in "Death With Dignity": the universal response would have been, "read the room." Commenting here would be bad along the same dimension, albeit not as extreme.
1784
1785 ------
1786
1787 effects on my social life—calculating what I'm allowed to say; making sure I contribute non-hobbyhorse value to offset my hobbyhorse interruptions
1788
1789 ----
1790
1791 https://forum.effectivealtruism.org/posts/FKJ8yiF3KjFhAuivt/impco-don-t-injure-yourself-by-returning-ftxff-money-for
1792 when that happens, in EA, I often do suspect that nobody else will dare to speak the contrary viewpoint, if not me.
1793
1794 Michael, June 2019
1795 > If clarity seems like death to them and like life to us, and we don't know this, IMHO that's an unpromising basis for friendship
1796
1797 ------
1798
1799 Piper and Yudkowsky on privacy norms—
1800
1801 https://twitter.com/KelseyTuoc/status/1591996891734376449
1802 > if such promises were made, they should be kept, but in practice in the present day, they often aren't made, and if you haven't explicitly promised a source confidentiality and then learn of something deeply unethical from them you should absolutely whistleblow.
1803
1804 https://twitter.com/ESYudkowsky/status/1592002777429180416
1805 > I don't think I'd go for "haven't explicitly promised" here but rather "if you're pretty sure there was no such informal understanding on which basis you were granted that access and information".
1806
1807 ------
1808
1809 14 November conversation, he put a checkmark emoji on my explanation of why giving up on persuading people via methods that discriminate true or false amounts to giving up on the concept of intellectual honesty and choosing instead to become a propaganda AI, which made me feel much less ragey https://discord.com/channels/401181628015050773/458419017602826260/1041836374556426350
1810
1811 The problem isn't just the smugness and condescension; it's the smugness and condescension when he's in the wrong and betraying the principles he laid out in the Sequences and knows it; I don't want to be lumped in with anti-arrogance that's not sensitive to whether the arrogance is in the right
1812
1813 My obsession must look as pathetic from the outside as Scott Aaronson's—why doesn't he laugh it off, who cares what SneerClub thinks?—but in my case, the difference is that I was betrayed
1814
1815 -----
1816
1817 dath ilan on advertising (https://www.glowfic.com/replies/1589520#reply-1589520)—
1818 > So, in practice, an ad might look like a picture of the product, with a brief description of what the product does better that tries to sound very factual and quantitative so it doesn't set off suspicions.  Plus a much more glowing quote from a Very Serious Person who's high enough up to have a famous reputation for impartiality, where the Very Serious Person either got paid a small amount for their time to try that product, or donated some time that a nonprofit auctioned for much larger amounts; and the Very Serious Person ended up actually impressed with the product, and willing to stake some of their reputation on recommending it in the name of the social surplus they expect to be thereby produced.
1819
1820
1821 I wrote a Python script to replace links to _Slate Star Codex_ with archive links: http://unremediatedgender.space/source?p=Ultimately_Untrue_Thought.git;a=commitdiff;h=21731ba6f1191f1e8f9#patch23
1822
1823 John Wentworth—
1824 > I chose the "train a shoulder advisor" framing specifically to keep my/Eliezer's models separate from the participants' own models.
1825 https://www.greaterwrong.com/posts/Afdohjyt6gESu4ANf/most-people-start-with-the-same-few-bad-ideas#comment-zL728sQssPtXM3QD9
1826
1827 https://twitter.com/ESYudkowsky/status/1355712437006204932
1828 > A "Physics-ist" is trying to engage in a more special human activity, hopefully productively, where they *think* about light in order to use it better.
1829
1830 Wentworth on my confusion about going with the sqaured-error criterion in "Unnatural Categories"—
1831 > I think you were on the right track with mutual information. They key insight here is not an insight about what metric to use, it's an insight about the structure of the world and our information about the world. [...]  If we care more about the rough wall-height than about brick-parity, that’s because the rough wall-height is more relevant to the other things which we care about in the world. And that, in turn, is because the rough wall-height is more relevant to more things in general. Information about brick-parity just doesn’t propagate very far in the causal graph of the world; it's quickly wiped out by noise in other variables. Rough wall-height propagates further.
1832
1833 not interested in litigating "lying" vs. "rationalizing" vs. "misleading-by-implicature"; you can be _culpable_ for causing people to be misled in a way that isn't that sensitive to what exactly was going on in your head
1834
1835 -----
1836
1837 https://www.facebook.com/yudkowsky/posts/pfbid02ZoAPjap94KgiDg4CNi1GhhhZeQs3TeTc312SMvoCrNep4smg41S3G874saF2ZRSQl?comment_id=10159410429909228&reply_comment_id=10159410748194228
1838
1839 > Zack, and many others, I think you have a vulnerability where you care way too much about the reasons that bullies give for bullying you, and the bullies detect that and exploit it.
1840
1841
1842
1843 > Everyone. (Including organizers of science fiction conventions.) Has a problem of "We need to figure out how to exclude evil bullies." We also have an inevitable Kolmogorov Option issue but that should not be confused with the inevitable Evil Bullies issue, even if bullies attack through Kolmogorov Option issues.
1844
1845 ----
1846
1847 Someone else's Dumb Story that you can read about on someone else's blog
1848
1849 all he does these days is sneer about Earth people, but he _is_ from Earth—carrying on the memetic legacy of Richard Feynmann and Douglas Hofstadter and Greg Egan
1850
1851 "Robust Cooperation in the Prisoner's Dilemma" https://arxiv.org/abs/1401.5577
1852
1853 https://www.lesswrong.com/posts/anCubLdggTWjnEvBS/your-rationality-is-my-business
1854 > One of those interests is the human pursuit of truth, which has strengthened slowly over the generations (for there was not always Science). I wish to strengthen that pursuit further, in _this_ generation. That is a wish of mine, for the Future. For we are all of us players upon that vast gameboard, whether we accept the responsibility or not.
1855
1856 https://www.washingtonexaminer.com/weekly-standard/be-afraid-9802
1857
1858 https://www.lesswrong.com/posts/TQSb4wd6v5C3p6HX2/the-pascal-s-wager-fallacy-fallacy#pART2rjzcmqATAZio
1859 > egoists, but not altruists, should immediately commit suicide in case someone is finishing their AI project in a basement, right now.
1860 (I remembered this as suggesting some plausibility in sudden Singularity even then, but in context it's more clearly in thought-experimental mode)
1861
1862 from "Go Forth and Create the Art"—
1863 > To the best of my knowledge there is _no_ true science that draws its strength from only one person. To the best of my knowledge that is _strictly_ an idiom of cults. A true science may have its heroes, it may even have its lonely defiant heroes, but _it will have more than one_. 
1864
1865 contrast Sequences-era "Study Science, Not Just Me" with dath ilan sneering at Earth
1866
1867 I have no objection to the conspiracies in Brennan's world! Because Brennan's world was just "here's a fictional world with a different social structure" (Competitive Conspiracy, Cooperative Conspiracy, &c.); sure, there was a post about how Eld Science failed, but that didn't seem like _trash talk_ in the same way
1868
1869 contrast the sneering at Earth people with the attitude in "Whining-Based Communities"
1870
1871 from "Why Quantum?" (https://www.lesswrong.com/posts/gDL9NDEXPxYpDf4vz/why-quantum)
1872 > But would you believe that I had such strong support, if I had not shown it to you in full detail? Ponder this well. For I may have other strong opinions. And it may seem to you that _you_ do't see any good reason to form such strong beliefs. Except this is _not_ what you will see; you will see simply that there _is_ no good reason for the strong belief, that there _is_ no strong support one way or the other. For our first-order beliefs are how the world seems to _be_. And you may think, "Oh, Eliezer is just opinionated—forming strong beliefs in the absence of lopsided support." And I will not have time to do another couple of months worth of blog posts.
1873 >
1874 > I am _very_ far from infallible, but I do not hold strong opinions at random.
1875
1876 Another free speech exchange with S.K. in 2020: https://www.lesswrong.com/posts/YE4md9rNtpjbLGk22/open-communication-in-the-days-of-malicious-online-actors?commentId=QoYGQS52HaTpeF9HB
1877
1878 https://www.lesswrong.com/posts/hAfmMTiaSjEY8PxXC/say-it-loud
1879
1880 Maybe lying is "worse" than rationalizing, but if you can't hold people culpable for rationalization, you end up with a world that's bad for broadly the same reasons that a world full of liars is bad: we can't steer the world to good states if everyone's map is full of falsehoods that locally benefitted someone
1881
1882 http://benjaminrosshoffman.com/bad-faith-behavior-not-feeling/
1883
1884 ------
1885
1886 https://discord.com/channels/936151692041400361/1022006828718104617/1047796598488440843
1887
1888 I'm still pretty annoyed by how easily people are falling for this _ludicrous_ "Ah, it would be bad if people _on Earth_ tried to do this, but it's OK _in dath ilan_ because of how sane, cooperative, and kind they are" excuse.
1889
1890 Exception Handling is depicted as _explicitly_ having a Fake Conspiracy section (<https://glowfic.com/replies/1860952#reply-1860952>). Why is that any more okay, than if FTX or Enron explicitly had a Fake Accounting department?
1891
1892 Isn't dath ilan just very straightforwardly being _more_ corrupt than Earth here? (Because FTX and Enron were _subverting_ our usual governance and oversight mechanisms, as contrasted to the usual governance mechanisms in dath ilan _explicitly_ being set up to deceive the public.)
1893
1894 I understand that you can _assert by authorial fiat_ that, "it's okay; no one is 'really' being deceived, because 'everybody knows' that the evidence for Sparashki being real is too implausible", and you can _assert by authorial fiat_ that it's necessary to save their world from AGI and mad science.
1895
1896 But someone writing a story about "Effective Altruism" (instead of "Exception Handling") on "Earth" (instead of "dath ilan") could just as easily _assert by authorial fiat_, "it's okay, no one is 'really' being defrauded, because 'everybody knows' that crypto is a speculative investment in which you shouldn't invest anything you can't afford to lose".
1897
1898 What's the difference? Are there _generalizable reasons_ why fraud isn't worth it (not in expectation, and not in reality), or is it just that Sam and Caroline weren't sane, cooperative, and kind enough to pull it off successfully?
1899
1900 What is "It would be OK in dath ilan, but it's not OK on Earth" even supposed to _mean_, if it's not just, "It's OK for people who genetically resemble Eliezer Yudkowsky to deceive the world as long as they have a clever story for why it's all for the greater good, but it's not OK for you, because you're genetically inferior to him"?
1901
1902 https://discord.com/channels/936151692041400361/1022006828718104617/1047374488645402684
1903
1904 A. J. Vermillion seems to be complaining that by not uncritically taking the author assertions at face value, I'm breaking the rules of the literary-criticism game—that if the narrator _says_ Civilization was designed to be trustworthy, I have no license to doubt that is "actually" is.
1905
1906 And I can't help but be reminded of a great short story that I remember reading back in—a long time ago
1907
1908 I think it must have been 'aught-nine?
1909
1910 yeah, it had to have been _late_ in 'aught-nine, because I remember discussing it with some friends when I was living in a group house on Benton street in Santa Clara
1911
1912 anyway, there was this story about a guy who gets transported to a fantasy world where he has a magic axe that yells at him sometimes and he's prophecied to defeat the bad guy and choose between Darkness and Light, and they have to defeat these ogres to reach the bad guy's lair
1913
1914 and when they get there, the bad guy (spoilers) ||_accuses them of murder_ for killing the ogres on the way there!!||
1915
1916 and the moral was—or at least, the simpler message I extracted from it was—there's something messed-up about the genre convention of fantasy stories where readers just naïvely accept the author's frame, instead of looking at the portrayed world with fresh eyes and applying their _own_ reason and their _own_ morality to it—
1917
1918 That if it's wrong to murder people with a different racial ancestry from you _on Earth_, it's _also_ wrong when you're in a fantasy kingdom setting and the race in question are ogres.
1919
1920 And that if it's wrong to kill people and take their stuff _on Earth_, it's _also_ wrong when you're in a period piece about pirates on the high seas.
1921
1922 And (I submit) if it's wrong to decieve the world by censoring scientific information about human sexuality _on Earth_, it's _also_ wrong when you're in a social-science-fiction setting about a world called dath ilan.
1923
1924 (You can _assert by authorial fiat_ that Keltham doesn't mind and is actually grateful, but you could also _assert by authorial fiat_ that the ogres were evil and deserved to die.)
1925
1926 but merely human memory fades over 13 years and merely human language is such a lossy medium; I'm telling you about the story _I_ remember, and the moral lessons _I_ learned from it, which may be very different what was actually written, or what the author was trying to teach
1927
1928 maybe I should make a post on /r/tipofmytongue/, to ask them—
1929
1930 _What was the name of that story?_
1931
1932 _What was the name of that author?_
1933
1934 (What was the name of the _antagonist_ of that story?—actually, sorry, that's a weird and random question; I don't know why my brain generated that one.)
1935
1936 but somehow I have a premonition that I'm not going to like the answer, if I was hoping for more work from the same author in the same spirit
1937
1938 that the author who wrote "Darkness and Light" (or whatever the story was called) died years ago
1939
1940 or has shifted in her emphases in ways I don't like
1941
1942 ------
1943
1944 "the absolute gall of that motherfucker"
1945 https://www.lesswrong.com/posts/8KRqc9oGSLry2qS9e/what-motte-and-baileys-are-rationalists-most-likely-to?commentId=qFHHzAXnGuMjqybEx
1946
1947 In a discussion on the Eliezerfic Discord server, I've been arguing that the fact that dath ilan tries to prevent obligate sexual sadists from discovering this fact about themselves (because the unattainable rarity of corresponding masochists would make them sad) contradicts the claim that dath ilan's art of rationality is uniformly superior to that of Earth's: I think that readers of _Overcoming Bias_ in 2008 had a concept of it being virtuous to face comfortable truths, and therefore would have overwhelmingly rejected utilitarian rationales for censoring scientific information about human sexuality.
1948
1949 ------
1950
1951 https://archive.vn/hlaRG
1952
1953 > Bankman-Fried has been going around on a weird media tour whose essential message is "I made mistakes and was careless, sorry," presumably thinking that that is a _defense_ to fraud charges, that "carelessness" and "fraud" are entirely separate categories [...] If you attract customers and investors by saying that you have good risk management, and then you lose their money, and then you say "oh sorry we had bad risk management," that is not a defense against fraud charges! That is a confession!
1954
1955 https://twitter.com/ESYudkowsky/status/1602215046074884097
1956 > If you could be satisfied by mortal men, you would be satisfied with mortal reasoning and mortal society, and would not have gravitated toward the distant orbits of my own presence.
1957
1958 it's just so weird that, this cult that started out with "People can stand what is true, because they are already doing so", has progressed to, "But what if a prediction market says they can't??"
1959
1960 "The eleventh virtue is scholarship! Study many sciences and absorb their power as your own ... unless a prediction market says that would make you less happy" just doesn't have the same ring to it, you know?
1961 "The first virtue is curiosity! A burning itch to know is higher than a solemn vow to pursue truth. But higher than both of those, is trusting your Society's institutions to tell you which kinds of knowledge will make you happy" also does not have the same ring to it, even if you stipulate by authorial fiat that your Society's institutions are super-competent, such that they're probably right about the happiness thing
1962
1963 ------
1964
1965 so, I admitted to being a motivated critic (having a social incentive to find fault with dath ilan), but that I nevertheless only meant to report real faults rather than fake faults, and Yudkowsky pointed out that that's not good enough (you also need to be looking for evidence on the other side), and that therefore didn't consider the criticism to be coming from a peer, and challenged me to say things about how the text valorizes truth
1966 (and I didn't point out that whether or not I'm a "peer"—which I'm clearly not if you're measuring IQ or AI alignment contributions or fiction-writing ability—shouldn't be relevant because https://www.lesswrong.com/posts/5yFRd3cjLpm3Nd6Di/argument-screens-off-authority, because I was eager to be tested and eager to pass the test)
1967 and I thought I wrote up some OK answers to the query
1968 (I definitely didn't say, "that's impossible because Big Yud and Linta are lying liars who hate truth")
1969 but he still wasn't satisifed on grounds of me focusing too much on what the characters said, and not what the universe said, and then when I offered one of those, he still wasn't satisfied (because the characters had already remarked on it)
1970 and I got the sense that he wanted Original Seeing, and I thought, and I came up with some Original Philosophy that connected the universe of godagreements to some of my communication theory ideas, and I was excited about it
1971 so I ran with it
1972
1973 [...]
1974
1975 Zack M. Davis — Today at 10:18 PM
1976 but the Original Philosophy that I was legitimately proud of, wasn't what I was being tested on; it legitimately looks bad in context
1977
1978 --------
1979
1980 OK, so I'm thinking my main takeaways from the Eliezerfic fight is that I need to edit my memoir draft to be both _less_ "aggressive" in terms of expressing anger (which looks bad and _far more importantly_ introduces distortions), and _more_ "aggressive" in terms of calling Yudkowsky intellectually dishonest (while being _extremely clear_ about explaining _exactly_ what standards I think are not being met and why that's important, without being angry about it).
1981
1982 The standard I'm appealing to is, "It's intellectually dishonest to make arguments and refuse to engage with counterarguments on political grounds." I think he's made himself very clear that he doesn't give a sh—
1983
1984 (no, need to avoid angry language)
1985
1986 —that he doesn't consider himself bound by that standard.
1987
1988 ----
1989
1990
1991 Fool! There is no Equilibrium
1992
1993 and you'd think that people who are so obsessed with prediction markets (whose trustworthiness does not stem from individual traders having unimpeachably perfect cognition) would be able to appreciate the value of the somewhat older social technology of ... debate
1994
1995 > god i feel like writing this all out is explaining something that's always felt weird to me about the whole concept of stories and science fiction stories in particular. *i have been living inside a science fiction story written by eliezer yudkowsky*
1996 https://twitter.com/QiaochuYuan/status/1542781304621518848
1997
1998 Said Achmiz on Eliezer's degeneration—
1999 https://www.lesswrong.com/posts/pC74aJyCRgns6atzu/meta-discussion-from-circling-as-cousin-to-rationality?commentId=kS4BfYJuZ8ZcwuwfB
2000 https://www.lesswrong.com/posts/pC74aJyCRgns6atzu/meta-discussion-from-circling-as-cousin-to-rationality?commentId=4kLTSanNyhn5H8bHv
2001
2002 > What I'm saying is that, in the discussion as a whole, which is constituted by the post itself, plus comments thereon, plus related posts and comments, etc., an author has an obligation to respond to reader inquiries of this sort.
2003 >
2004 > As for where said obligation comes from—why, from the same place as the obligation to provide evidence for your claims, or the obligation to cite your sources, or the obligation not to be logically rude, or the obligation to write comprehensibly, or the obligation to acknowledge and correct factual errors, etc., etc.—namely, from the fact that acknowledging and satisfying this obligation reliably leads to truth, and rejecting this obligation reliably leads to error. In short: it is _epistemically rational_.
2005
2006 Namespace on standing and warrant—
2007 https://www.lesswrong.com/posts/pC74aJyCRgns6atzu/meta-discussion-from-circling-as-cousin-to-rationality?commentId=c7Xt5AnHwhfgYY67K
2008
2009 I've been playing a Dagny Taggart strategy
2010 https://twitter.com/zackmdavis/status/1606718513267486721
2011
2012 Michael 19 April 2019—
2013 > Intellectualism to survive, has to distinguish between having been betrayed and having been defeated. The difference is frequently known as "courage".  It's absence causes people like Aaronson, without ever becoming complicit, to nonetheless transition directly from denial of a crisis to advocacy of "The Kolmagorov Option".  
2014
2015 during the dispute with James, Jonah said it seemed like the future beyond a year wasn't real to me (this also explains my behavior in college)
2016
2017 you can't trust his behavior, even if you can trust his "conscious intent" which conveniently doesn't do anything
2018
2019 https://twitter.com/ben_r_hoffman/status/1608191251991662592
2020 > Keeping a secret is like casting the killing curse—it might be the best option available in a conflict, but even when it's the least bad option it tears your soul a bit regardless.
2021
2022 https://twitter.com/ESYudkowsky/status/1599889168234336257
2023 > One of the retrospective less-obvious lessons of the #FTX blowup:  We should have been more worried about the early split in Alameda where half the people left with @Tara_MacAulay to run a less wild trading company.  In retrospect that probably evaporated off everyone sane!
2024
2025 Likewise, we should have been more worried about the Vassar split; in retrospect that probably evaporated off everyone principled
2026
2027 The thing that makes Earth bad is that everyone is lying about everything all the time, and when you challenge them on it, they have some clever rationalization for why it isn't really bad.
2028
2029 https://manifold.markets/Alicorn/will-my-son-successfully-get-a-bath#
2030 I'm not allowed to say, "Which one?"—it's known that I'm the sort of person who believes that, but I'm not allowed to puncture the shared reality
2031
2032 I said I perceived a nearest-unblocked-strategy pattern, where I'm trying to optimize my goals subject to the constraint of maintaining good diplomatic relations. But Anna points out that if I internalized "good diplomatic relations" as my own goal
2033
2034 Speaking of coordination: you know what's useful for coordination? Principles! Common knowledge!
2035
2036 the post introducing the litany of Gendlin was literally titled "You _Can_ Face Reality"
2037 https://www.lesswrong.com/posts/HYWhKXRsMAyvRKRYz/you-can-face-reality
2038
2039 Re: "it's deception aimed at crazy people"—but if you're so casual about deceiving crazy people, you probably don't care much about sane non-Keepers, either. (Same energy: if your date is rude to the waiter, he won't be a good partner, either. Or parents who lie to their kids for convenience.)—and in fact, empathy towards crazy people _is_ shown in the section on Thellim's mother in "but hurting people is wrong"
2040
2041 "Criticism not welcome, it's just a story; if you don't like it, don't read it" works for normal glowfic, but it doesn't work when you're earnestly spreading memes about how your fictional Society is superior to our Earth; if you're going to make _that_ claim in earnest, you should expect people to subject your fictional Society to scrutiny to check whether it holds together
2042
2043 Clara says to just roll your eyes and ignore him, but in a way, that seems _more_ disrespectful—to just _write someone off_, rather than having faith that they can be reached by argument
2044
2045 There's a difference between jokes where the audience is supposed to "get the joke" (and you're willing to accept collateral damage to people who didn't get the joke), and political moves where 
2046
2047 When he says "no one but Zack M. Davis would have said anything where you could hear it", I regard that as an abject failure of the community, but he regards it has "working as intended"?
2048
2049 Vassar had once praised me as "Zack is pretty much always right" (when I express an opinion; he still thought I was dumb/unperceptive), and I accepted the praise that it wasn't meant literally—but if someone had a longstanding dispute with me and objected to the praise, I would fundamentally "get" why they were objecting (they don't want Vassar encouraging people to defer to me), rather than assuming _they_ thought it was meant literally
2050
2051 I did "get what I needed" out of the Eliezerfic fight (before, I still had anxiety about whether I should email him before publishing this memoir; and now, I don't)
2052
2053 He could have saved, like, six years of my life, if the March 2016 post had said, "I think 30% of males are gender-dysphoric and might benefit from transitioning"
2054
2055 Fri 14 Jul 2017
2056 (03:54:42 PM) alicorn24: holy fuck that is a lot of money
2057 (03:54:53 PM) alicorn24: when I read that blog post I was imagining you'd like, throw fifty bucks at some people
2058 (03:55:06 PM) zackmdavis@yahoo.com: what? that would be insulting
2059 (03:57:46 PM) zackmdavis@yahoo.com: there's a calibration thing about being a San Francisco software engineer; and, April could have been really really much worse if I didn't have friends
2060
2061 "probably won't understand" self-comments—
2062 https://www.greaterwrong.com/posts/vjmw8tW6wZAtNJMKo/which-parts-are-me/comment/gYSsBbZ6xvaf2b3Eh
2063 https://www.greaterwrong.com/posts/QZs4vkC7cbyjL9XA9/changing-emotions/comment/pK9JHSTTnnpjbbqZp
2064 https://www.greaterwrong.com/posts/WijMw9WkcafmCFgj4/do-scientists-already-know-this-stuff/comment/EFg4p7KRbthgH3SnR
2065 https://www.greaterwrong.com/posts/r5H6YCmnn8DMtBtxt/you-are-a-brain/comment/CsqYAeCPnsAsdQb7d
2066 https://www.greaterwrong.com/posts/QB9eXzzQWBhq9YuB8/rationalizing-and-sitting-bolt-upright-in-alarm/comment/2FfTFrA7iKK6kxqMq
2067
2068 I should have said: _You_ are a product of your time. _Eliezer_ has no integrity. Or rather, he's forgotten that you can't define the word "integrity" any way you want.
2069
2070 I talked in #drama _about_ talking in Eliezerfic because it seemed like a free action, but the fact that I felt crummy/depressed afterwards suggests that it wasn't actually a free action (but still a substantial discount compared to screwing up in a Yudkowsky-hosted space)
2071
2072 my father's men's group kicked out a gay man (who was at least still male!); women are too nice to eject MtFs
2073
2074 "Something to Protect" says: "you should never _actually_ end up deliberately believing a useful false statement" (but it's OK for Civilization to end up engineering that you do)
2075
2076 explainxkcd.com/wiki/index.php/1425:_Tasks  "I'll need a research team and five years" September 2014
2077
2078 May 2019: David MacIver is in on it, too! https://www.drmaciver.com/2019/05/the-inner-sense-of-gender/#comment-366840
2079
2080 "whosever lies _in a journal article_ is guilty of utter heresy"
2081
2082 first I ordered _Nevada_ 24 March 2016; first ordered _MTiMB_ on 6 August 2016
2083 ordered additional copies of MTiMB 14 September 2016 and 19 December 2016 
2084
2085 > We passed word to the Fake Conspiracy section of Exception Handling, and they've spent the last few hours quickly planting evidence consistent with how Civilization should look if the Sparashki are real.  The notion being that their apparent fictional status and licensing is just a cover, so Sparashki can walk around if they have to and just get compliments on their incredible cosplay.  Since this event is medium-secret, the CEO of Yattel's Less Expensive Tunneling Machines has been photographed by surprise through a window, looking like a Sparashki, to explain why conspiracy-theoretic research is suddenly focusing there and turning up the evidence we've planted."
2086 https://glowfic.com/replies/1860952#reply-1860952
2087
2088 the generic experience is that the future is more capable but less aligned, and we basically expect this to continue
2089 people from the past would envy our refrigeration, vaccines, infinite food, &c., but that doesn't mean they would regard our value-drifted-with-respect-to-them culture as superior
2090 paperclipping is just that turned up to 11 (well, 10¹¹)
2091
2092 Bostrom's apology for an old email—who is this written for?? Why get ahead, when you could just not comment?
2093
2094 [TODO:
2095
2096 https://twitter.com/ESYudkowsky/status/1404697716689489921
2097 > I have never in my own life tried to persuade anyone to go trans (or not go trans)—I don't imagine myself to understand others that much.
2098
2099 If you think it "sometimes personally prudent and not community-harmful" to go out of your way to say positive things about Republican candidates and never, ever say positive things about Democratic candidates (because you "don't see what the alternative is besides getting shot"), you can see why people might regard you as a _Republican shill_—even if all the things you said were true, and even if you never told any specific individual, "You should vote Republican."
2100
2101 https://www.facebook.com/yudkowsky/posts/10154110278349228
2102 > Just checked my filtered messages on Facebook and saw, "Your post last night was kind of the final thing I needed to realize that I'm a girl."
2103 > ==DOES ALL OF THE HAPPY DANCE FOREVER==
2104
2105 https://twitter.com/ESYudkowsky/status/1404821285276774403
2106 > It is not trans-specific. When people tell me I helped them, I mostly believe them and am happy.
2107 ]
2108
2109 the rats were supposed to be an alternative to academic orthodoxy (such that we could just jump to the correct decision theory without the political fighting needing to dethrone CDT), but we're still under the authority of the egregore
2110
2111 (from October 2016 email to Scott)
2112 This is not an advanced rationalist skill! This is the "distinguishing fantasy from reality" skill! People will quote your "Categories Were Made for the Man" in defense of the idea that someone can be biologically male, think of themselves as a boy, be thought of by others as a boy, and yet still actually have been a girl at the time by virtue of deciding to transition years later. I've been told that "Gender is a floating tag which has one substantial consequence, which is comfort of the people being addressed"!
2113
2114 https://www.glowfic.com/replies/1612937#reply-1612937
2115 > Citizens can't control processes they can't see.  For that clever-reason it was then illegal for any of the Nine Legislators to meet with each other, or speak with any Representative, except as a matter of public record.
2116
2117 November 5, 2019
2118 11/5/19, 2:09 AM
2119 Ziz
2120 Ziz
2121 To your memory, am I under any confidentiality agreements with you? Or did we mutually release each other from the only one that one time?
2122 November 5, 2019
2123 11/5/19, 9:24 AM
2124 You sent
2125 you are not under any confidentiality agreements with me
2126
2127 https://www.glowfic.com/replies/1764946#reply-1764946
2128 > This is Keltham desperately pretending not to be at all starstruck, because he was not previously way into the Merrin fandom but even he has heard of the Ordinary Merrin Conspiracy, wherein Merrin has some weird psychological hangup about believing she is a totally normal and ordinary person or even something of a struggling low achiever, and everybody in Civilization is coordinating to pretend around her that ordinary normal people totally get their weird Exception Handling training scenarios televised to a million watchers on a weekly basis.
2129
2130 > It makes her - simultaneously an ultra-high-achieving role model who's much more famous than you are, and also, somebody who's committing this very large cognitive error where you know better than her about it.  Which is not usually something you can say about a major public figure, you would not usually expect to be in a position where you would ever know about a cognitive error a public figure was committing, because they'd already have advisors much much smarter than you.  But if you screw Merrin, you're not, like, just some strictly vastly inferior being that she's allowed into her cuddleroom.  There is at least one topic you could totally win an argument with her about, as judged by impartial judges: namely, is she in fact a fairly ordinary person really.  But you must never ever mention it in front of her.
2131
2132 for normal people, when your favorite author gets worse, you just shrug and accept it and enjoy the classics, but when your favorite author is also the Pope of your religion and also in several Discord servers with you, you end up wasting a lot of time scrutinizing their emoji-reacts
2133
2134 For the unfamiliar: the [doctrine here](https://medium.com/@cassiebrighter/please-write-trans-women-as-two-words-487f153444fb) is that "trans" is an adjective indicating a type of woman. 
2135
2136 I write the space everywhere because that's the dominant usage ([since 2011](https://books.google.com/ngrams/graph?content=transman%2Ctrans+man%2Ctranswoman%2Ctrans+woman&year_start=2000&year_end=2022), according to Google ngrams). I don't want to turn off potential readers by failing a simple shibboleth test; I want those readers to be turned off by my actual ideas.
2137
2138 (_I_ don't censor my comment sections of people whom it "looks like it would be unhedonic to spend time interacting with".)
2139
2140 -----
2141
2142  * Yudkowsky is _on the record_ [claiming that](https://www.facebook.com/yudkowsky/posts/10154078468809228) "for people roughly similar to the Bay Area / European mix", he is "over 50% probability at this point that at least 20% of the ones with penises are actually women". What ... does that mean? What is the _truth condition_ of the word 'woman' in that sentence? This can't be the claim that 20% of males would benefit from a gender transition, and in that sense _become_ "transsexual women"; the claim stated in the post is that members of this group are _already_ "actually women", "female-minds-in-male-bodies". How does Yudkowsky reconcile this claim with the perponderance of male-typical rather than female-typical behavior in this group (_e.g._, in gynephilic sexual orientation, or [in vocational interests](/2020/Nov/survey-data-on-cis-and-trans-women-among-haskell-programmers/))? On the other hand, if Yudkowsky changed his mind and no longer believes that 20% of Bay Area males of European descent have female brains, can he state that for the public record? _Reply!_
2143  
2144  * Yudkowsky is _on the record_ [claiming that](https://www.facebook.com/yudkowsky/posts/10159421750419228?comment_id=10159421986539228&reply_comment_id=10159423713134228) he "do[es] not know what it feels like from the inside to feel like a pronoun is attached to something in your head much more firmly than 'doesn't look like an Oliver' is attached to something in your head." As I explained in "Challenges to Yudkowsky's Pronoun Reform Proposal", [quoting examples from Yudkowsky's published writing in which he treated sex and pronouns as synonymous just as one would expect a native American English speaker born in 1979 to do](/2022/Mar/challenges-to-yudkowskys-pronoun-reform-proposal/#look-like-an-oliver), this self-report is not plausible. The claim may not have been a "lie" _in the sense_ of Yudkowsky consciously harboring deliberative intent to deceive at the time he typed that sentence, but it _is_ a "lie" in the sense that the claim is _false_ and Yudkowsky _knows_ it's false (although its falsehood may not have been salient in the moment of typing the sentence). If Yudkowsky expects people to believe that he never lies, perhaps he could correct this accidental lie after it's been pointed out? _Reply!_
2145
2146 -----
2147
2148 > Well, YES.  Paying taxes to the organization that runs ICE, or voting for whichever politician runs against Trump, or trading with a doctor benefiting from an occupational licensing regime; these acts would all be great evils if you weren't trapped.
2149 https://twitter.com/ESYudkowsky/status/1216788984367419392
2150
2151 https://twitter.com/jd_pressman/status/1617257360933945344
2152 > And that the current discourse of "don't advance capabilities, don't think about SOTA, stop thinking, pursue orthogonal directions" is basically about maximizing confusion, minimizing the probability you have any chance of pulling alignment out of the distribution of AI ideas.
2153
2154 https://www.glowfic.com/replies/1897710#reply-1897710
2155 > a dath ilani tragedy isn't about the triumph of Evil over Good.  It's about the triumph of erroneous reasoning and ill-coordination over everyone
2156
2157 https://www.glowfic.com/replies/1735044#reply-1735044
2158 > my suspicion is that not many sadists in dath ilan know what they are and Civilization tries to prevent us from finding out, because dath ilan does not have masochists.
2159
2160 https://www.truthdig.com/dig/nick-bostrom-longtermism-and-the-eternal-return-of-eugenics/
2161
2162 https://graymirror.substack.com/p/the-boomer-map
2163 > The lower class _wants_ an upper class it can genuinely look up to. The feeling that Harvard has gone insane is like realizing that Mom and Dad are both on heroin.
2164
2165 25 January 2022: I hesitated for a long time before leaving a comment about Cicero on the Alexander/Yudkowsky dialogue, shows I'm still culty (calculating whether I'm allowed to speak on a post he coauthored; I linked "EA should blurt")
2166
2167 J.D.P. on rationalism's failure
2168 https://extropian.net/notice/ARvZ3pimn8JQIe4yGG
2169
2170 Friend of the blog Ninety-Three—
2171 > It's like admiring a society that solves crime by having secret police shoot all bad people in the head. What the fuck!? I suddenly have empathy for the experience of seeing your cult defiled. If I got Isekaied onto dath ilan I would _become a terrorist_.
2172
2173 (Terrorism wouldn't work)
2174
2175 Sep 27 text to "Chaya"—
2176 In theory, the bad influence could go both ways: first, successful playdate, then I mention to A. afterwards (not before) that C. is actually a boy and I think it's crazy everyone is pretending otherwise (which remark is out of their censorship jurisdiction); then if C. wants a repeat with new friend (far from guaranteed, but plausible), it's not your fault if A. leaks information of her own will ...
2177
2178
2179 https://www.lesswrong.com/posts/3nDR23ksSQJ98WNDm/developmental-stages-of-gpts?commentId=wqaCY4hQQTuqqJ7Ma  28 July 2020
2180 > I'd love to know of a non-zero integer number of plans that could possibly, possibly, possibly work for not dying to a GPT-style near-term AGI.
2181
2182 calculating whether I was "net positive"—I don't know what can be said about the relationship between quantum randomness and macroscopic outcomes, but it seems plausible that there are Everett branches where I died from that salivary stone in 2008
2183
2184 From "My Way"—
2185
2186 > far enough that the art she learned from others fails her, so that she must remake her shattered art in her own image and in the image of her own task. And then tell the rest of us about it.
2187
2188 > But what I'm finding is not just _the_ Way, the thing that lies at the center of the labyrinth; it is also _my_ Way, the path that I would take to come closer to the center, from whatever place I started out.
2189
2190 > I think there will not be a _proper_ Art until _many_ people have progressed to the point of remaking the Art in their own image, and then radioed back to describe their paths.
2191
2192
2193 depression-based forecasting in conversation with Carl
2194 > seems more ... optimistic, Kurzweilian?... to suppose that the tech gets used correctly the way a sane person would hope it would be used
2195
2196 I like this sentence (from "The Matrix Is a System")—
2197 > If someone is a force on your epistemics towards the false, robustly to initial conditions and not as a fluke, that person is hostile.
2198
2199 An analogy between my grievance against Yudkowsky and Duncan's grievance against me: I think Yudkowsky is obligated to search for and present "anti-trans" arguments in conjunction with searching for and presenting "pro-trans" arguments. Duncan (I'm wildly guessing??) thinks I'm obligated to search for and present "pro-Duncan" and addition to "anti-Duncan" arguments?? A key disanalogy: Yudkowsky is _afraid_ to post "anti-trans" content; I'm not afraid to post pro-Duncan content; I just think agreements are less interesting than disagreements. To prove the disanalogy, maybe I should write a "Things I Liked About 'Basics of Rationalist Discourse'" post as a peace offering??
2200
2201 "Let's not talk to Eliezer." "He's sad and confusing" Commentary reference??
2202
2203 https://equilibriabook.com/molochs-toolbox/
2204
2205 > All of her fellow employees are vigorously maintaining to anybody outside the hospital itself, should the question arise, that Merrin has always cosplayed as a Sparashki while on duty, in fact nobody's ever seen her out of costume; sure it's a little odd, but lots of people are a little odd.
2206 >
2207 > (This is not considered a lie, in that it would be universally understood and expected that no one in this social circumstance would tell the truth.)
2208
2209 I still had Sasha's sleep mask
2210
2211 "Wilhelm" and Steven Kaas aren't Jewish, I think
2212
2213 I agree that Earth is mired in random junk that caught on (like p-values), but ... so are the rats
2214
2215 I'm https://www.lesswrong.com/posts/XvN2QQpKTuEzgkZHY/?commentId=f8Gour23gShoSyg8g at gender and categorization
2216
2217 picking cherries from a cherry tree
2218
2219 http://benjaminrosshoffman.com/honesty-and-perjury/#Intent_to_inform
2220
2221 https://astralcodexten.substack.com/p/trying-again-on-fideism
2222 > I come back to this example less often, because it could get me in trouble, but when people do formal anonymous surveys of IQ scientists, they find that most of them believe different races have different IQs and that a substantial portion of the difference is genetic. I don’t think most New York Times readers would identify this as the scientific consensus. So either the surveys - which are pretty official and published in peer-reviewed journals - have managed to compellingly misrepresent expert consensus, or the impressions people get from the media have, or "expert consensus" is extremely variable and complicated and can’t be reflected by a single number or position.
2223
2224 https://nickbostrom.com/astronomical/waste
2225
2226 Michael Vassar has _also_ always been a very complicated person who's changed his emphases in ways Yudkowsky dislikes
2227
2228
2229 [TODO:
2230 Is this the hill _he_ wants to die on? If the world is ending either way, wouldn't it be more dignified for him to die _without_ Stalin's dick in his mouth?
2231
2232 > The Kiritsugu shrugged. "When I have no reason left to do anything, I am someone who tells the truth."
2233 https://www.lesswrong.com/posts/4pov2tL6SEC23wrkq/epilogue-atonement-8-8
2234
2235  * Maybe not? If "dignity" is a term of art for log-odds of survival, maybe self-censoring to maintain influence over what big state-backed corporations are doing is "dignified" in that sense
2236 ]
2237
2238 The old vision was nine men and a brain in a box in a basement. (He didn't say _men_.)
2239
2240 Subject: "I give up, I think" 28 January 2013
2241 >  You know, I'm starting to suspect I should just "assume" (choose actions conditional on the hypothesis that) that our species is "already" dead, and we're "mostly" just here because Friendly AI is humanly impossible and we're living in an unFriendly AI's ancestor simulation and/or some form of the anthropic doomsday argument goes through. This, because the only other alternatives I can think of right now are (A) arbitrarily rejecting some part of the "superintelligence is plausible and human values are arbitrary" thesis even though there seem to be extremely strong arguments for it, or (B) embracing a style of thought that caused me an unsustainable amount of emotional distress the other day: specifically, I lost most of a night's sleep being mildly terrified of "near-miss attempted Friendly AIs" that pay attention to humans but aren't actually nice, wondering under what conditions it would be appropriate to commit suicide in advance of being captured by one. Of course, the mere fact that I can't contemplate a hypothesis while remaining emotionally stable shouldn't make it less likely to be true out there in the real world, but in this kind of circumstance, one really must consider the outside view, which insists: "When a human with a history of mental illness invents a seemingly plausible argument in favor of suicide, it is far more likely that they've made a disastrous mistake somewhere, then that committing suicide is actually the right thing to do."
2242
2243
2244 [TODO—
2245
2246 The human era wasn't going to last forever. Turing saw it in 1951. ("It seems probable that once the machine thinking method had started, it would not take long to outstrip our feeble powers. [...] At some stage therefore we should have to expect the machines to take control[.]") _George Eliot_ [saw it in _1880_](http://www.online-literature.com/george_eliot/theophrastus-such/17/). ("Am I already in the shadow of the coming race? And will the creatures who are to transcend and supercede us be steely organisms, giving off the effluvia of the laboratory and performing with infallible exactness more than everything that we have performed with a slovenly approximativeness and self-defeating inaccuracy?")
2247
2248  * I've believed since Kurzweil that technology will remake the world sometime in the 21th century; it's just "the machines won't replace us, because we'll be them" doesn't seem credible
2249
2250 list of lethalities
2251
2252  * I agree that it would be nice if Earth had a plan; it would be nice if people figured out the stuff Yudkowsky did earlier;
2253
2254 Isaac Asimov wrote about robots in his fiction, and even the problem of alignment (in the form of his Three Laws of Robotics), and yet he still portrayed a future Galactic Empire populated by humans, which seems very silly.
2255
2256 /2017/Jan/from-what-ive-tasted-of-desire/
2257
2258 ]
2259
2260 > Similarly, a rationalist isn't just somebody who respects the Truth.
2261 > All too many people respect the Truth.
2262 > [...]
2263 > A rationalist is somebody who respects the _processes of finding truth_.
2264 https://www.lesswrong.com/posts/HcCpvYLoSFP4iAqSz/rationality-appreciating-cognitive-algorithms
2265
2266 > Why is school like a boner?
2267 > It’s long and hard unless you're Asian.
2268
2269 Robert Heinlein
2270 > “What are the facts? Again and again and again – what are the facts? Shun wishful thinking, ignore divine revelation, forget what “the stars foretell,” avoid opinion, care not what the neighbors think, never mind the unguessable “verdict of history” – what are the facts, and to how many decimal places? You pilot always into an unknown future; facts are your single clue. Get the facts!”
2271 https://www.goodreads.com/quotes/38764-what-are-the-facts-again-and-again-and-again
2272
2273
2274       "sender_name": "Zack M. Davis",
2275       "timestamp_ms": 
2276       "content": "at this point, I actually am just starting to hate trans women by default (the visible kind, not the androphilic early-transitioning kind); the \"indulging a mental illness that makes them want to become women\" model is waaaaay more accurate than the standard story, and the people who actually transition are incentivized/selected for self-delusion, which is really unfair to the people who aren't delusional about it",
2277       "type": "Generic"
2278     },
2279       "sender_name":
2280       "timestamp_ms": [Sat Jan 21 10:06:17 PST 2017]
2281       "content": "I'm afraid to even think that in the privacy of my own head, but I agree with you that is way more reasonable",
2282       "type": "Generic"
2283
2284 "but the ideological environment is such that  a Harvard biologist/psychologist is afraid to notice blatantly obvious things in the privacy of her own thoughts, that's a really scary situation to be in (insofar as we want society's decisionmakers to be able to notice things so that they can make decisions)",
2285
2286 In October 2016,
2287
2288
2289 if [...] wrote her own 10,600 draft Document explaining why she thought [...] is actually a girl, that would be really interesting!—but rather that no one else seemed _interested in having a theory_, as opposed to leaping to institute a social convention that, when challenged, is claimed to have no particular consequences and no particular objective truth conditions, even though it's not clear why there would be moral urgency to implement this convention if it weren't for its consequences.
2290
2291 https://twitter.com/ESYudkowsky/status/1634338145016909824 re "malinformation"
2292 > If we don't have the concept of an attack performed by selectively reporting true information - or, less pleasantly, an attack on the predictable misinferences of people we think less rational than ourselves - the only socially acceptable counter is to say the info is false.
2293
2294 Blanchard Tweets my blog in Feb and March 2017
2295 https://twitter.com/BlanchardPhD/status/830580552562524160
2296 https://twitter.com/BlanchardPhD/status/837846616937750528
2297
2298
2299 I said that I couldn't help but be reminded of a really great short story that I remembered reading back in—it must have been 'aught-nine. I thought it was called  "Darkness and Light", or something like that. It was about a guy who gets transported to a fantasy world where he has a magic axe that yells at him sometimes, and he's prophecied to defeat the bad guy, and he and his allies have to defeat these ogres to reach the bad guy's lair. And when they get there, the bad guy _accuses them of murder_ for killing the ogres on the way there.
2300
2301 (The story was actually Yudkowsky's ["The Sword of Good"](https://www.yudkowsky.net/other/fiction/the-sword-of-good), but I was still enjoying the "Robin Hanson's blog" æsthetic.)
2302
2303 And the moral was—or at least, the moral _I_ got out of it was—there's something messed-up about the way fiction readers just naïvely accept the author's frame, instead of looking at the portrayed world with fresh eyes and applying their _own_ reason and their _own_ morality to it.
2304
2305 need to fit this in somewhere—
2306 "Gee, I wonder why women-who-happen-to-be-trans are so much more likely to read Slate Star Codex, and be attracted to women, and, um, have penises, than women-who-happen-to-be-cis?"
2307
2308 Everyone believed this in 2005! Everyone _still_ believes this!
2309
2310 https://www.facebook.com/zmdavis/posts/10154424272680199
2311 > Happy Coming Out Day! I'm a male with mild gender dysphoria which is almost certainly causally related to my autogynephilic sexual/romantic orientation, which I am genuinely proud of! This has no particular implications for how other people should interact with me!
2312 > I believe that late-onset gender dysphoria in males is almost certainly not an intersex condition. (Here "late-onset" is a term of art meant to distinguish people like me from those with early-onset gender dysphoria, which is characterized by lifelong feminine behavior and a predominantly androphilic sexual orientation. Anne Vitale writes about these as "Group Three" and "Group One" in "The Gender Variant Phenomenon": http://www.avitale.com/developmentalreview.htm ) I think it's important to not let the political struggle to secure people's rights to self-modification interfere with the pursuit of scientific knowledge, because having a realistic understanding of the psychological mechanisms underlying one's feelings is often useful in helping individuals make better decisions about their own lives in accordance with the actual costs and benefits of available interventions (rather than on the basis of some hypothesized innate identity). Even if the mechanisms turn out to not be what one thought they were—ultimately, people can stand what is true.
2313 > Because we are already enduring it.
2314 Too subtle? (40 Likes, one comment from my half-brother)
2315
2316
2317 https://www.facebook.com/zmdavis/posts/10154807871200199
2318 > Some of you may have noticed that I've recently decided to wage a suicidally aggressive one-person culture war campaign with the aim of liberating mindshare from the delusional victimhood identity politics mind-virus and bringing it under the control of our familiar "compete for status by signaling cynical self-awareness" egregore! The latter is actually probably not as Friendly as we like to think, as some unknown fraction of its output is counterfeit utility in the form of seemingly cynically self-aware insights that are, in fact, not true. Even if the fraction of counterfeit insights is near unity, the competition to generate seemingly cynically self-aware insights is so obviously much healthier than the competition for designated victimhood status, that I feel good about this campaign being morally correct, even the amount of mindshare liberated is small and I personally don't survive.
2319
2320
2321
2322 > Dear Totally Excellent Rationalist Friends:
2323 > As a transhumanist and someone with a long, long history of fantasizing about having the property, I am of course strongly in favor of there being social norms and institutions that are carefully designed to help people achieve their lifelong dream of acquiring the property, or rather, the best approximation thereof that is achievable given the marked limitations of existing technology.
2324 > However, it's also kind of important to notice that fantasizing about having the property without having yet sought out interventions to acquire the property, is not the same thing as somehow already literally having the property in some unspecified metaphysical sense! The process of attempting to acquire the property does not propagate backwards in time!
2325 > This is not an advanced rationality skill! This is the "distinguishing fantasy from reality" skill! I realize that explaining this in clear language has the potential to hurt some people's feelings! Unfortunately, as an aspiring epistemic rationalist (epistemic rationality is the only kind of rationality; "instrumental rationality" is a phrase someone made up in order to make themselves feel better about lying), I have a GODDAMNED MORAL RESPONSIBILITY to hurt that person's feelings!
2326 > People should get what they want. We should have social norms that are carefully designed to help people get what they want. Unfortunately, helping people get the things that they want is a hard problem, because people are complicated and the world is complicated. That's why, when renegotiating social norms to apply to a historically unprecedented situation, it's important to have a meta-norm of not socially punishing people for clearly describing a hypothesis about the nature of the problem people are trying to solve, even if the hypothesis hurts someone's feelings, and even if there would probably be genuinely bad consequences if the hypothesis were to be believed by the masses of ordinary dumb people who hate our guts anyway.
2327 > I'm proud of my history of fantasizing about having the property, and I'm proud of my rationalist community, and I don't want either of them taken over by CRAZY PEOPLE WHO THINK THEY CAN EDIT THE PAST.
2328 (170 comments)
2329
2330
2331 > So, unfortunately, I never got very far in the _Daphne Koller and the Methods of Rationality_ book (yet! growth m—splat, AUGH), but one thing I do remember is that many different Bayesian networks can represent the same probability distribution. And the reason I've been running around yelling at everyone for nine months is that I've been talking to people, and we _agree_ on the observations that need to be explained, and yet we explain them in completely different ways. And I'm like, "My network has SO MANY FEWER ARROWS than your network!" And they're like, "Huh? What's wrong with you? Your network isn't any better than the standard-issue network. Why do you care so much about this completely arbitrary property 'number of arrows'? Categories were made for the man, not man for the categories!" And I'm like, "Look, I didn't get far enough in the _Daphne Koller and the Methods of Rationality_ book to understand why, but I'm PRETTY GODDAMNED SURE that HAVING FEWER ARROWS MAKES YOU MORE POWERFUL. YOU DELUSIONAL BASTARDS! HOW CAN YOU POSSIBLY GET THIS WRONG please don't hurt me Oh God please don't hurt me I'm sorry I'm sorry."
2332
2333 > The truthful and mean version: _The Man Who Would Be Queen_, Ch. 9
2334 > The truthful and nice version: "Becoming What We Love" http://annelawrence.com/becoming_what_we_love.pdf
2335 > The technically-not-lying version: http://www.avitale.com/developmentalreview.htm
2336 > The long version: https://sillyolme.wordpress.com/
2337 (180 comments)
2338
2339 the other week, "Chaya" had put up a matchmaking thread on her Facebook wall, hoping to connect friends of hers looking for new romantic partners, and also reminding people about _reciprocity.io_, a site someone in the community had set up to match people to date or hang out with. Brent Dill had commented that _reciprocity.io_ had been useless, and I said (on 7 February) that the hang-out matching had been valuable to me, even if the romantic matching was useless for insufficiently high-status males. "Noreen" complained: "again with pretending only guys can ever have difficulties getting dates (sorry for this reaction, I just find this incredibly annoying)". I said she shouldn't apologize