memoir: Sabbatai Zevi
authorM. Taylor Saotome-Westlake <ultimatelyuntruethought@gmail.com>
Sat, 18 Feb 2023 06:11:54 +0000 (22:11 -0800)
committerM. Taylor Saotome-Westlake <ultimatelyuntruethought@gmail.com>
Sat, 18 Feb 2023 06:11:54 +0000 (22:11 -0800)
content/drafts/standing-under-the-same-sky.md

index 4ada27e..e105949 100644 (file)
@@ -93,7 +93,7 @@ The reason this is any different from the "causal decision theory" of just choos
 
 In particular, if you're the kind of agent that gives in to extortion—if you respond to threats of the form "Do what I want, or I'll hurt you" by doing what the threatener wants—that gives other agents an incentive to spend resources trying to extort you. On the other hand, if any would-be extortionist knows you'll never give in, they have no reason to bother trying. This is where the standard ["Don't negotiate with terrorists"](/2018/Jan/dont-negotiate-with-terrorist-memeplexes/) advice comes from.
 
-So, naïvely, doesn't Yudkowsky's "personally prudent to post your agreement with Stalin"[^gambit] gambit constitute giving in to an extortion threat of the form, "Support the progressive position, or we'll hurt you", which Yudkowsky's own decision theory says not to do?
+So, naïvely, doesn't Yudkowsky's "personally prudent to post your agreement with Stalin"[^gambit] gambit constitute giving in to an extortion threat of the form, "support the progressive position, or we'll hurt you", which Yudkowsky's own decision theory says not to do?
 
 [^gambit]: In _ways that exhibit generally rationalist principles_, natch.
 
@@ -148,19 +148,19 @@ I asked what was wrong with the disjunction from "Stop Voting for Nincompoops",
 
 "How do I compute whether I'm in a large enough decision-theoretic cohort?" I asked. Did we know that, or was that still on the open problems list?
 
-Yudkowsky said that he traded his vote for a Clinton swing state vote, partially hoping that that would scale [...]
+Yudkowsky said that he traded his vote for a Clinton swing state vote, partially hoping that that would scale, "but maybe to a larger degree because [he] anticipated being asked in the future if [he'd] acted against Trump".
 
+The reputational argument seems in line with Yudkowsky's [pathological obsession with not-technically-lying](https://www.lesswrong.com/posts/MN4NRkMw7ggt9587K/firming-up-not-lying-around-its-edge-cases-is-less-broadly). People asking if you acted against Trump are looking for a signal of coalitional loyalty. By telling them he traded his vote, Yudkowsky can pass their test without lying.
 
+I guess that explains everything. He doesn't think he's part of a decision-theoretic logical cohort large enough to change things. He's not anticipating being asked in the future if he's acted against gender ideology. He's not worried about his reputation with people like me.
 
- * So maybe he doesn't think he's part of a decision-theoretic logical cohort large enough to resist the egregore, and he's also not worried about his reputation for resisting the egregore
- * If his reptuation in the eyes of people like me just isn't that valuable, I guess I can't argue with that
+Curtis Yarvin [likes to compare](/2020/Aug/yarvin-on-less-wrong/) Yudkowsky to [Sabbatai Zevi](https://en.wikipedia.org/wiki/Sabbatai_Zevi#Conversion_to_Islam), the 17th-century Jewish religious leader who purported to be the Messiah, who later converted to Islam under coercion from the Ottomans. "I know, without a shadow of a doubt, that in the same position, Eliezer Yudkowsky would also convert to Islam," said Yarvin.
 
-Curtis Yarvin [likes to compare](/2020/Aug/yarvin-on-less-wrong/) Yudkowsky to [Sabbatai Zevi](https://en.wikipedia.org/wiki/Sabbatai_Zevi#Conversion_to_Islam), the Jewish religious leader who was purported to be the Messiah, who converted to Islam under coercion from the Ottomans. "I know, without a shadow of a doubt, that in the same position, Eliezer Yudkowsky would also convert to Islam," said Yarvin.
+I don't think this is as much of a burn as Yarvin does. Zevi was facing some very harsh coercion: a choice to convert to Islam, "prove" his divinity via deadly trial by ordeal, or just be impaled outright. Extortion-resistant decision theories aside, it's hard not to be sympathetic to someone facing this trilemma who chose to convert.
 
- * But this isn't necessarily crazy. Zevi was facing some very harsh coercion: convert or be impaled.
- * My real question is, in the same position, would Sabbatai Zevi declare that 30% of the ones with penises are actually women?
+So to me, the more damning question is this—
 
-]
+If in the same position as Yudkowsky, would Sabbatai Zevi declare that 30% of the ones with penises are actually women?
 
 -----