drafting "Challenges"
authorM. Taylor Saotome-Westlake <ultimatelyuntruethought@gmail.com>
Tue, 11 Jan 2022 19:42:22 +0000 (11:42 -0800)
committerM. Taylor Saotome-Westlake <ultimatelyuntruethought@gmail.com>
Tue, 11 Jan 2022 19:42:22 +0000 (11:42 -0800)
I'm proud of the "billionaire" example, but I also really want to get
this finished!!

content/drafts/challenges-to-yudkowskys-pronoun-reform-proposal.md
notes/challenges-notes.md

index 29fe965..614b93b 100644 (file)
@@ -87,6 +87,10 @@ There's nothing magical about the particular word/symbol/phoneme-sequence "dog",
 
 Nevertheless, it is a fact _about contemporary English_ that "dog" means dog. If you thought this was bad for whatever reason, and you wanted to change that fact, you'd have to change the behavior of actually-existing English speakers. If you tried to stipulate on your Facebook wall that the word "dog" should mean _tree_ now, and all of your Facebook friends nodded in agreement at your clever argument _and then continued to call dogs "dogs" and trees "trees" in their everyday life just like they always had_, then your language reform attempt would have, _in fact_, failed—even if the fact that it failed would be less obvious if you only looked at the Facebook thread full of people nodding in agreement.
 
+Or suppose I wrote a Facebook post arguing that it's bad language design that "billion" means 1,000,000,000 instead of 2001. You see, the etymology comes from the prefix [bi-](https://en.wiktionary.org/wiki/bi-) (meaning two, from the Latin _bis_), combined with [_mille_](https://en.wiktionary.org/wiki/mille#Latin) (Latin for 1000), combined with the [augmentive](https://en.wiktionary.org/wiki/augmentative#English) suffix [_-one_](https://en.wiktionary.org/wiki/-one#Italian). How do you get 10<sup>9</sup> from that, huh? (It turns out there's [an explanation](https://en.wiktionary.org/wiki/-illion#English), but I don't find it intuitive.) Clearly, it's better language design if the meaning of number words straightforwardly reflect their parts, so "billion" should mean 2001 (_bi-_, _mille_, -_one_; 2, times 1000, plus 1).
+
+Even if you found this argument compelling from an theoretical language-design perspective after it had been presented to you, if I were to subsequently go around calling myself a _billionaire_ (and condescendingly Tweeting about how anyone objecting to this usage is ontologically confused), you might suspect that I probably had some _other reason_ to come up with this _particular_ theoretical language-design argument—probably a reason having to do with what "billion" _already_ means in the usage of actually-existing English speakers, _even if_ you honestly think the existing English language is poorly designed in that aspect.
+
 The inseparability of meaning from behavior-and-usage may be clearer if considered in a context other than that of natural language. Take computer programs. Sometimes programmers make bad design decisions. For example, in the C programming language, [it's standard to represent strings (textual data) in memory with a sequence of bytes ending in a zero (null) character](https://en.wikipedia.org/wiki/Null-terminated_string); the machine only knows where the string stops when it reaches the null at the end. This convention has a lot of disadvantages relative to the alternative of [prefixing the string data with the length](https://en.wikipedia.org/wiki/String_(computer_science)#Length-prefixed); a missing or misplaced null character could cause the machine to erroneously read or write data in adjacent memory, causing serious bugs or security vulnerabilities.
 
 Given the existence of strong arguments for the length-prefixed string convention, replacing old software that uses null-terminated strings with new software that uses length-prefixed strings, sounds like a good idea! But the thing is, you _do_ have to upgrade or replace the old software. If you _just_ start sending data in a new format to the old software that doesn't understand the new format, your code is not going to yield the expected results. It would be _convenient_ if you could just declare a new semantics for your existing data on your Facebook wall and be done, but that just doesn't work if you're still using the old software, which is programmed to behave according to the old data-interpretation convention. This continues to be true even if the convention you're trying to retire is very bad (like null-terminated strings), and if the old software is widely deployed and would be very expensive to systematically replace. The backwards-compatibility trap [is real and can't be defied away even if it's very unpleasant.](https://twitter.com/ESYudkowsky/status/1216799697907486720)
@@ -255,11 +259,13 @@ Is it the idea that the legal system would penalize someone for pronoun non-comp
 
 [TODO: cite examples of this happening; as liberal intellectuals, we want to debate the optimal communication policy and expect to govern by assent; we're not so bloodthirsty as to want to throw dissenters in jail—but that is potentially what's at stake]
 
+[TODO: I said bathroom, &c.]
+
 > This is *not* the woke position. The woke position is that when you call somebody "she" because she requested "she", you're validating her gender preference. I may SEPARATELY be happy to validate somebody's gender preference by using the more complex language feature of NOUN PHRASES to construct an actual SENTENCE that refers to her ON PURPOSE as a "woman", but when it comes to PRONOUNS I am not even validating anyone.
 
-Right; it's not the woke position. It's an _incoherent_ position that's optimized to concede to the woke the policy that they want for a _different stated reason_ in order to make the concession appear "neutral" and not "politically" motivated. (She requested "she" _because_ acceding to the request validates her gender preference!)
+Right; it's not the woke position. It's an _incoherent_ position that's optimized to concede to the woke the policy that they want for a _different stated reason_ in order to make the concession appear "neutral" and not "politically" motivated. She requested "she" _because_ acceding to the request validates her gender preference—and it _continues_ to validate her gender preference in the minds of all neurologically normal native English speakers who are listening, even if Eliezer Yudkowsky has some clever casuistry for why it doesn't mean that when _he_ says it.
 
-In order to _actually_ be politically neutral in your analysis, you need to _acknowledge_ the costs and benefits of a policy to different parties, and face the unhappy fact that sometimes there are cases where there _is_ no "neutral" policy, because all available policies impose costs on _someone_ and there's no solution that everyone is happy with. (Rational agents can hope to reach _some_ point on the Pareto frontier, but non-identical agents are necessarily going to fight about _which_ point, even if most of the fighting takes place in non-realized counterfactual possible worlds rather than exerting costs in reality.)
+I'm _not_ saying that Yudkowsky should have a different pronoun policy. (I agree that misgendering trans people "on principle" would be stupid.) Rather, I'm saying that in order to _actually_ be politically neutral in your analysis, you need to _acknowledge_ the costs and benefits of a policy to different parties, and face the unhappy fact that sometimes there are cases where there _is_ no "neutral" policy, because all available policies impose costs on _someone_ and there's no solution that everyone is happy with. (Rational agents can hope to reach _some_ point on the Pareto frontier, but non-identical agents are necessarily going to fight about _which_ point, even if most of the fighting takes place in non-realized counterfactual possible worlds rather than exerting costs in reality.)
 
 Policy debates should not appear one-sided. Exerting social pressure on (for example) a native-English-speaking rape victim to refer to her male rapist with _she_/_her_ pronouns is a _cost_ to her. And, simultaneously, _not_ exerting that pressure is a _cost_ to many trans people, by making recognition of their social gender _conditional_ on some standard of good behavior, rather than an unconditional fact that doesn't need to be "earned" in any way.
 
@@ -305,13 +311,13 @@ I used to trust Yudkowsky as an intellectual authority; his [Sequences](https://
 
 ------
 
-[TODO outline of the section analyzing the political game here—]
+If Yudkowsky is obviously playing dumb (consciously or not) and his comments can't be taken seriously, what's _actually_ going on here?
 
-[If Yudkowsky's comments don't pass the laugh test, what's _actually_ going on here? When smart people act stupid, there's usually a reason—it's optimized stupidity, stupidity that acheives a goal]
+When smart people act dumb, it's usually wisest to assume that their behavior is _optimized_ stupidity—apparent "stupidity" that that achieves a goal through some other channel than their words straightforwardly reflecting the truth. Someone who was _actually_ stupid wouldn't be able to come up with the specific balance of insight and selective stupidity fine-tuned to reach a gender-politically convenient conclusion without explicitly invoking any gender-political reasoning.
 
-[We get a clue in the form of a DISCLAIMER comment https://www.facebook.com/yudkowsky/posts/10159421750419228?comment_id=10159421833274228 ]
+Fortunately, Yudkowsky is honest enough to give us a clue in the form of [a disclaimer comment](https://www.facebook.com/yudkowsky/posts/10159421750419228?comment_id=10159421833274228):
 
-> It unfortunately occurs to me that I must, in cases like these, disclaim that—to the extent there existed sensible opposing arguments against what I have just said—people might be reluctant to speak them in public, in the present social atmosphere. That is, in the logical counterfactual universe where I knew of very strong arguments against freedom of pronouns, I would have probably stayed silent on the issue, as would many other high-profile community members, and only Zack M. Davis would have said anything where you could hear it.
+> It unfortunately occurs to me that I must, in cases like these, disclaim that—to the extent there existed sensible opposing arguments against what I have just said—people might be reluctant to speak them in public, in the present social atmosphere. [...]
 >
 > This is a filter affecting your evidence; it has not to my own knowledge filtered out a giant valid counterargument that invalidates this whole post. I would have kept silent in that case, for to speak then would have been dishonest.
 >
@@ -319,6 +325,8 @@ I used to trust Yudkowsky as an intellectual authority; his [Sequences](https://
 >
 > But the existence of a wide social filter like that should be kept in mind; to whatever quantitative extent you don't trust your ability plus my ability to think of valid counterarguments that might exist, as a Bayesian you should proportionally update in the direction of the unknown arguments you speculate might have been filtered out.
 
+
+
 [On the one hand, kudos to Yudkowsky for pointing out the filter. On the other hand, this claim to have "independently invent everything important that would be on the other side of the filter" is _laughable_; my point about the appeal of the self-ID pronoun convention rests on the existing meanings of gendered pronouns, such that it's hypocritical to play dumb about there being existing meanings while defending the self-ID convention is really obvious. If you're persuaded by anything I've said in this post, you should quantitatively downgrade your trust in Yudkowsky]
 
 > A clearer example of a forbidden counterargument would be something like e.g. imagine if there was a pair of experimental studies somehow proving that (a) everybody claiming to experience gender dysphoria was lying, and that (b) they then got more favorable treatment from the rest of society. We wouldn't be able to talk about that. No such study exists to the best of my own knowledge, and in this case we might well hear about it from the other side to whom this is the exact opposite of unspeakable; but that would be an example.
@@ -353,10 +361,12 @@ If you don't actually believe in the [common interest of many causes](https://ww
 
 > it is sometimes personally prudent and not community-harmful to post your agreement with Stalin about things you actually agree with Stalin about, in ways that exhibit generally rationalist principles, especially because people do *know* they're living in a half-Stalinist environment
 
+["Everybody knows" https://thezvi.wordpress.com/2019/07/02/everybody-knows/ ]
+
 > I don't see what the alternative is besides getting shot, or utter silence about everything Stalin has expressed an opinion on including "2 + 2 = 4" because if that logically counterfactually were wrong you would not be able to express an opposing opinion.
 
 [Summarize "A Rational Argument" https://www.lesswrong.com/posts/9f5EXt8KNNxTAihtZ/a-rational-argument
 You could imagine the campaign manager saying the same thing—"I don't see what the alternative is".]
 
 [Agreeing with Stalin that 2+2=4 is fine; the problem is a sustained pattern of _selectively_ bring up pro-Party points while ignoring anti-Party facts that would otherwise be relevant to the topic of interest, including stonewalling commenters who try to point out relevance]
-[Tweet said "I've never persuaded anyone to go trans" in light of his track record; is like thinking it's personally prudent and not community-harmful to bash Democrats and praise Republicans. If any possible good thing about Democrats is something you mention that "the other side" would say.  Even if you can truthfully say "I've never _told_ anyone to _vote_ Republican", you shouldn't be surprised if people regard you as a Republican shill]
+[Tweet said "I've never persuaded anyone to go trans" in light of his track record; is like thinking it's personally prudent and not community-harmful to bash Democrats and praise Republicans. If any possible good thing about Democrats is something you mention that "the other side" would say.  Even if you can truthfully say "I've never _told_ anyone to _vote_ Republican", you shouldn't be surprised if people regard you as a Republican shill ; the "30% of the ones with penises" proclamation sort of was encouraging it, really!]
index 07dd6ee..1c2354e 100644 (file)
@@ -10,6 +10,8 @@ Fit in somewhere—
  * "gamete size"—this is a tic where everyone knows what sex is, but no one is allowed to acknowledge the cluster  
  * maybe worth explaining why I keep saying "sex category" instead of "gender"—and be consistent about it
  * transition interventions are bundled
+ * also take a crack at the Aristotelan binary sports Tweet
+ * this post needs to exist because I can't let him have the last word
  * I need to acknowledge the
 > In a wide variety of cases, sure, they can clearly communicate the unambiguous sex and gender of something that has an unambiguous sex and gender, much as a different language might have pronouns that sometimes clearly communicated hair color to the extent that hair color often fell into unambiguous clusters.
 
@@ -56,3 +58,7 @@ I already have Yudkowsky blocked on Twitter, because it turns out that me talkin
 Nevertheless, I think I'm justified in posting this comment sharing a link to this write-up explaining everything that Yudkowsky is doing wrong in the above post + comments, because I have a legitimate interest in preventing other people from being harmed by trusting Yudkowsky's intellectual integrity and competence the way I used to: [link]
 
 One imagines that Yudkowsky's optimal response here is to ignore this (rather than, say, acknowledging my incredibly obvious point that the appeal of the self-ID pronoun convention rests on the existing meanings of gendered pronouns, such that it's hypocritical to play dumb about there being existing meanings while defending the self-ID convention). If he already thought the PR risk of violating ideological taboos outweighed the benefits of having a rationality community that can think in public in a principled PR-blind manner, it's unclear why offering more arguments would change this: if the trust of people who want to be able to think in public isn't as valuable of an existential-risk-reduction resource as staying on Stalin's good side, then being trustworthy would be a dumb move! Whatever's best for the lightcone, you know?
+
+----
+
+How sensitive is he to reputational concerns? Compare feud with Alexander Kruel