a re-nym
[Ultimately_Untrue_Thought.git] / content / drafts / people-evolved-social-control-mechanisms-and-rocks.md
index 2fc98d4..a04a1c3 100644 (file)
@@ -22,7 +22,7 @@ But, you know, I didn't want to be a _fanatic_ about it. The previous post leave
 
 "Folks, I'm not sure it's feasible to have an intellectually-honest real-name public conversation about the etiology of MtF," I wrote in one thread in mid-January 2017. "If no one is willing to mention some of the key relevant facts, maybe it's less misleading to just say nothing."
 
-As a result of that, I got a PM from a woman whom I'll call "Chaya", whose marriage had fallen apart after (among other things) her husband transitioned. She told me about the parts of her husband's story that had never quite made sense to her (but which sounded like a textbook case from my reading). In her telling, the husband was always more emotionally tentative and less comfortable with the standard gender role and status stuff, but in the way of like, a geeky nerd guy, not in the way of someone feminine. He was into crossdressing sometimes, but she had thought that was just a weird and insignificant kink, not that he didn't like being a man—until they moved to the Bay Area and he fell in with a social-justicey crowd. When I linked her to Kay Brown's article on ["Advice for Wives and Girlfriends of Autogynephiles"](https://sillyolme.wordpress.com/advice-for-wivesgirlfriends-of-autogynephiles/), her response was, "Holy shit, this is _exactly_ what happened with me." It was nice to make a friend over shared heresy.
+As a result of that, I got a PM from a woman whom I'll call "Rebecca", whose marriage had fallen apart after (among other things) her husband transitioned. She told me about the parts of her husband's story that had never quite made sense to her (but which sounded like a textbook case from my reading). In her telling, the husband was always more emotionally tentative and less comfortable with the standard gender role and status stuff, but in the way of like, a geeky nerd guy, not in the way of someone feminine. He was into crossdressing sometimes, but she had thought that was just a weird and insignificant kink, not that he didn't like being a man—until they moved to the Bay Area and he fell in with a social-justicey crowd. When I linked her to Kay Brown's article on ["Advice for Wives and Girlfriends of Autogynephiles"](https://sillyolme.wordpress.com/advice-for-wivesgirlfriends-of-autogynephiles/), her response was, "Holy shit, this is _exactly_ what happened with me." It was nice to make a friend over shared heresy.
 
 ------
 
@@ -274,22 +274,22 @@ I replied (at 1:25 _a.m._):
 
 (Looking back on the thread six years later, I'm surprised by the timestamps. What were we all _doing_, having a heated political discussion past midnight? We should have all been asleep! I guess I didn't yet fully appreciate the importance of sleep at this point in my life.)
 
-"Chaya" explained why she was holding "Noreen" to a different standard of discourse than me: I was walking into this after years of personal, excruciating suffering, and was willing to sacrifice social connections to present a model. My brash tone should have been more forgivable in light of that—that I was ultimately coming from a place of compassion and hope for people, not hate.
+"Rebecca" explained why she was holding "Noreen" to a different standard of discourse than me: I was walking into this after years of personal, excruciating suffering, and was willing to sacrifice social connections to present a model. My brash tone should have been more forgivable in light of that—that I was ultimately coming from a place of compassion and hope for people, not hate.
 
-I messaged "Chaya": "I wouldn't call it 'personal, excruciating suffering', but way to play the victim card on my behalf". She offered to edit it. I declined: "if she can play politics, we can play politics??"
+I messaged "Rebecca": "I wouldn't call it 'personal, excruciating suffering', but way to play the victim card on my behalf". She offered to edit it. I declined: "if she can play politics, we can play politics??"
 
-"Chaya" speculated that "Noreen" might not be reacting as vehemently had I not recently asked her out in public, that she was now distancing herself from me as part of a signaling game—as if to say, "See? See, everyone? I rejected him! Don't burn me at the stake, too!"
+"Rebecca" speculated that "Noreen" might not be reacting as vehemently had I not recently asked her out in public, that she was now distancing herself from me as part of a signaling game—as if to say, "See? See, everyone? I rejected him! Don't burn me at the stake, too!"
 
 I said that I probably wouldn't have asked her out at all, except that I was going through a "well, maybe it's not morally wrong to do male-typical things" phase, like trying to spin a complaint ("again with pretending only guys can ever have difficulties getting dates") into a date.
 
-"Chaya" summed up something she had gotten out of my whole campaign:
+"Rebecca" summed up something she had gotten out of my whole campaign:
 
-> **"Chaya"** — 02/14/2016 3:26 AM  
+> **"Rebecca"** — 02/14/2016 3:26 AM  
 > I really _was_ getting to the point that I hated transwomen  
 > **Zack M. Davis** — 02/14/2016 3:26 AM  
 > I hate them, too!  
 > Fuck those guys!  
-> **"Chaya"** — 02/14/2016 3:27 AM  
+> **"Rebecca"** — 02/14/2016 3:27 AM  
 > I hated what happened to my husband, I hate the insistence that I use the right pronouns and ignore my senses, I hate the takeover of women's spaces, I hate the presumption that they know what a woman's life is like, I was _getting_ to the point that I deeply hated them, and saw them as the enemy  
 > But you're actually changing that for me  
 > You're reconnecting me with my natural compassion  
@@ -297,13 +297,13 @@ I said that I probably wouldn't have asked her out at all, except that I was goi
 > It's just that, the way they think things is hard is not the way I actually think it is anymore  
 > **Zack M. Davis** — 02/14/2016 3:28 AM  
 > the "suffering" is mostly game-theoretic victimhood-culture  
-> **"Chaya"** — 02/14/2016 3:28 AM  
+> **"Rebecca"** — 02/14/2016 3:28 AM  
 > You've made me hate transwomen _less_ now  
 > Because I have a model  
 > I understand the problem  
 > **Zack M. Davis** — 02/14/2016 3:28 AM  
 > [http://unremediatedgender.space/2017/Feb/if-other-fantasies-were-treated-like-crossdreaming/](http://unremediatedgender.space/2017/Feb/if-other-fantasies-were-treated-like-crossdreaming/)  
-> **"Chaya"** — 02/14/2016 3:28 AM  
+> **"Rebecca"** — 02/14/2016 3:28 AM  
 > I understand why it's hard  
 > I feel like I can forgive it, to the extent that forgiveness is mine to give  
 > This is a better thing for me  
@@ -343,7 +343,7 @@ But in a world where all the _sane_ people were insisting that men could be wome
 
 I don't want to say that I was having persecution _delusions_, exactly—just that persecution hypotheses were much more _salient_ than they usually were; I was a little bit fixated on the idea of scary men coming to kill me. Somehow, I developed the idea that an HSTS transsexual I had been corresponding with was actually AGP and in denial. I sent her an email trying to gently hint about it (Subject: "one last thing before I disappear for a while"), and then I felt scared—scared that she would she would track me down and take revenge? In a followup email, I disclaimed that I was kind of losing my mind right now, and disavowed the offensive hypothesis. ("But if you're sure, I believe you!") She replied, mentioning that she also questions people's self-reports of being HSTS. She said that her husband had a knack for spotting AGPs, and did not find them attractive, calling them "cross dressers on steroids." I said I was afraid that the husband wanted to kill me.
 
-"I feel like I'm perceiving social reality for the first time", I messaged "Chaya" late that night. Now that I no longer believed self-reports are true, I could see people plotting against each other and telling themselves stories about why they're in the right. I had ostensibly known that was a thing, verbally, but now I was _seeing_ it.
+"I feel like I'm perceiving social reality for the first time", I messaged "Rebecca" late that night. Now that I no longer believed self-reports are true, I could see people plotting against each other and telling themselves stories about why they're in the right. I had ostensibly known that was a thing, verbally, but now I was _seeing_ it.
 
 She asked for an example. I mentioned the thread where I had asked "Noreen" on a date. When I had excused my sexist remark with "it seemed thematically appropriate while replying to Brent", I thought I had some beautiful æsthetic reason for that being a witty thing to say ... but maybe a better description of my behavior was that I was beating up on Brent—openly insulting a male conspecific as a dominance play while engaging in courtship.
 
@@ -363,9 +363,9 @@ At 1:17 _p.m._, I sent my boss an email saying that I was thinking of taking a s
 
 The first time I went insane from sleep deprivation, in 2013, I remember having a distinct mental sensation where two words kept running through my head, over and over. That time, the words had been "science" and "female." Maybe a Society with a more advanced discipline of psychiatry would be able to pinpoint the nature and origin of this symptom more exactly, but I suspect it might be a real regularity, because around this time, it started happening to me again. This time, the words were "cooperate" and "defect".
 
-I wandered around downtown San Francisco, and used my phone to repeatedly message the word "Cooperate" to various people—to "Chaya" (six times), to Ben (five times), to "Noreen" (six times), to "Thomas" (twice), to my insufficiently requited love "Beatrice" (five times), to Ziz (six times), to Brent Dill (five times) ... a few other people. (I was imagining the act of saying or sending the word constituting an act of playing cooperate in an iterated Prisoner's Dilemma; it didn't occur to me that it could also be interpreted as a command.)
+I wandered around downtown San Francisco, and used my phone to repeatedly message the word "Cooperate" to various people—to "Rebecca" (six times), to Ben (five times), to "Noreen" (six times), to "Thomas" (twice), to my insufficiently requited love "Beatrice" (five times), to Ziz (six times), to Brent Dill (five times) ... a few other people. (I was imagining the act of saying or sending the word constituting an act of playing cooperate in an iterated Prisoner's Dilemma; it didn't occur to me that it could also be interpreted as a command.)
 
-"I'm on a trip and I don't want it to be a bad trip", I told "Chaya" and Ben. "Chaya" asked me to clarify whether I meant I had taken acid, or gone to Portland. "I don't think I took acid", I said.
+"I'm on a trip and I don't want it to be a bad trip", I told "Rebecca" and Ben. "Rebecca" asked me to clarify whether I meant I had taken acid, or gone to Portland. "I don't think I took acid", I said.
 
 I remember being afraid that the thing which (I had decided) had happened to Eliezer Yudkowsky and to Scott Alexander that made them such good writers was now happening to me, a phenomenon that would bring indescribable suffering along with an awakening into genius. I messaged Ben, "I don't think I want to be the Avatar yet".
 
@@ -415,7 +415,7 @@ To be clear, I still think I was correct to want to avoid the psych hospital, bu
 
 I remember having a vision of seeing autogynephilia as a separate taxon in the configuration space of minds, and of negotiating with some celestial agency to _pry_ it apart in the world's shared ontology—it was real, and I saw it, but somehow it couldn't be _fully_ real until it was accepted as real.
 
-I sent some more messages from my phone in the afternoon. I couldn't sleep because I was scared, I told "Chaya". I had built up a distinction between social reality and physical reality, and I didn't know what to do now that it had been undermined.
+I sent some more messages from my phone in the afternoon. I couldn't sleep because I was scared, I told "Rebecca". I had built up a distinction between social reality and physical reality, and I didn't know what to do now that it had been undermined.
 
 I was so sorry, I told Ben. I wanted to be part of the coalition, but I was so confused, and I said "defect" a bunch of times. I was scared that my boss (who, incidentally, was black) was going to come kill me.
 
@@ -600,7 +600,7 @@ Michael replied:
 
 ------
 
-On 2 March 2017, I wrote to Michael about how "the community" was performing (Subject: "rationalist community health check?? asking for one bit of advice"). Michael had claimed that it was obvious that AI was far away. (This wasn't obvious to me.) But in contrast, a lot of people in the rationalist community seemed to have very short AI timelines. "Chaya" had recently asked me, "What would you do differently if AI was 5 years off?"
+On 2 March 2017, I wrote to Michael about how "the community" was performing (Subject: "rationalist community health check?? asking for one bit of advice"). Michael had claimed that it was obvious that AI was far away. (This wasn't obvious to me.) But in contrast, a lot of people in the rationalist community seemed to have very short AI timelines. "Rebecca" had recently asked me, "What would you do differently if AI was 5 years off?"
 
 (Remember, this was 2017. Five years later in March 2022, we were in fact still alive, but the short-timelines people were starting to look more prescient than Michael had given them credit for.)
 
@@ -616,13 +616,17 @@ At standup meeting on my last day (3 March 2017), I told my coworkers that I was
 
 -------
 
+I wrote to Blanchard, Bailey, and Lawrence (and Kevin Hsu and James Cantor for good measure) about my new political project. You might think that famous scientists and professors have so many people clamoring for their attention as to be entirely unwilling and unable to field inquiries from rando bloggers, but it turns out the world is not actually large: famous people _do_ often personally answer their mail (if we're talking about "scientist with an h-index of 90" famous, rather than Taylor Swift famous).
+
+(Subject: "trans infovism against trans activism?? (was: Fwd: The Scintillating But Ultimately Untrue Thought)")
+
 [TODO: correspondence with sex researchers
  * I had sent Blanchard fan mail on 10 August 2016
- * I had sent Bailey fan mail on 7 January 2017, and then followed up on 11 February with a link to the blog ("I didn't mention this in my email the other month because it seemed uncouth to self-promote in a thank-you message")
+ * I had sent Bailey fan mail on 7 January 2017, and then followed up on 11 February with a link to the blog 
  * "fan mail; and, self-promotion" to Alice Dreger on 2 March
  * Blanchard Tweets my blog in Feb and March 2017: https://twitter.com/BlanchardPhD/status/830580552562524160 (11 Feb), https://twitter.com/BlanchardPhD/status/837846616937750528 (3 Mar)
- * The world is not actually large; "famous" people (on the order of scientists or professors) often answer their email. (Although this probably stops being true for, like, Taylor Swift.)
- * I wrote to Blanchard/Bailey/Hsu/Lawrence/Cantor (Subject: "trans infovism against trans activism?? (was: Fwd: The Scintillating But Ultimately Untrue Thought)")
+ * 
+ * I wrote to Blanchard/Bailey/Hsu/Lawrence/Cantor 
 
 > It gets worse! I think this absurd situation is illustrative of a flaw in democracy itself: activists who want to change society are both incentivized and self-selected for self-delusion. Whichever activists happen to win get to write the history books, and so most people end up with this Whig history view of the world where people in the past were bad, bad men, but we're so much more progressive and enlightened now. But evolutionarily speaking, there's no fact of the matter as to what's better; there's only what won.
 
@@ -679,7 +683,7 @@ Even though I was free and taking care of myself, I don't think my psychology wa
 
 [^p-doom]: This is the quantity that, these days, we would call 1 − P(doom).
 
-In retrospect, I agree with the "useless garbage" verdict. I can reconstruct how the subjective sensation of cluefulness might arise from associative reasoning on the concepts I was preoccupied with at the time (Trump was the anti-political-correctness candidate, political correctness fostered bad epistemology, but humanity needed good epistemology to "win"), but that's not a story about how that kind of thinking connects numerical probabilities to reality.
+In retrospect, I agree with the "useless garbage" verdict. I can reconstruct a story about how the subjective sensation of cluefulness might arise from associative reasoning on the concepts I was preoccupied with at the time (Trump was the anti-political-correctness candidate, political correctness fostered bad epistemology, but humanity needed good epistemology to "win"), but that's _not_ a story about how that kind of thinking connects numerical probabilities to reality.
 
 Michael wrote to me (Subject: "Sleep"), noting that while "I don't need to sleep" is classic mania, it fit the pattern of what might be a lie under the circumstances. I might have asked myself for evidence on both sides, and remembered having personally seen animals sleep, maybe even in the wild (sea lions on the beach?). On the other hand, if I had asked why "I don't need to sleep" was a salient hypothesis, I might have noticed that the claim that everyone needs to sleep is the kind of lie that would be told by a worldview of people having high status as objects (it being wrong to sadistically cause pain), but low status as agents (it being right to control them and irresponsible not to); an important fact about the modern world was that it was common to oppress people by pretending they're like babies.
 
@@ -691,16 +695,21 @@ Michael replied:
 
 > What you were thinking is about right I think. But we still know that animals sleep.
 
-I tagged Anna and Divia into the thread as cc's, because they seemed more grounded. "Michael is _very smart_ in ways that I didn't used to understand and still don't understand, but I'm terrified of what the universe is going to do to me if I become too much like him", I said.
+I think that reply spooked me a bit; I tagged Anna and Divia into the thread as cc's, because they seemed more grounded. "Michael is _very smart_ in ways that I didn't used to understand and still don't understand, but I'm terrified of what the universe is going to do to me if I become too much like him", I said.
 
-[TODO: 
+Even if I _was_ getting a few things right in my paranoid/schizotypal state, the important thing was trying to do philosophy. The parts where I felt like a _very important person_ (in this simulation/Everett branch) receiving special simulator attention should be interpreted as standard manic-episode [delusions of reference](https://en.wikipedia.org/wiki/Ideas_of_reference_and_delusions_of_reference); _lots_ of people feel just like that when they're agitated and haven't gotten enough sleep. Social reality may be crazy, but I should still be putting a lot more weight on the social reality (nice people are just doing their jobs trying to help) when the alternative was my intuition about the machines trying to kill me.
 
- * "Social reality may be crazy (hospitals are part of the state insofar as they serve the function of social-control in the service of stationary bandits, rather than actually being about trying to heal people), but I should still put a lot more weight on social reality (nice people are just doing their jobs trying to help) when the alternative is my intuition about the machines trying to kill me."
- * "I certainly put a lot less weight on 'nice people doing their jobs' [...]"
- * "Sure, I guess I meant that the "Machines trying to kill me" framing is scary, and"
- * Okay, maybe confusing and hurting the feelings of the nice people doing their jobs is actually acceptable collateral damage ...
+Michael wrote:
 
-]
+> I certainly put a lot less weight on 'nice people doing their jobs' then I do on 'six sigma processes homeostatically adjusting to dampen the variance in outputs that is their representation of me.', which is basically equivalent to 'these well documented machines, the ones they teach you about in business school, do the thing they do. 'Trying to kill' is what an anthropomorphized version of the process looks like from the inside. We have enough documentation to know about the nice people doing their jobs paradigm being untenable.
+
+I wrote:
+
+> Sure, I guess I meant that the "Machines trying to kill me" framing is scary, and I don't like being scared, so I want to focus on finding ways to cooperate with the nice people doing their jobs while defecting against the homeostatic system that they're embedded in (but not actually doing anything crazy like trying to destroy the system, because it's doing useful things for us and I don't have anything better to replace it with).
+
+The next day, I changed my mind (Subject: "slowly coming around to you"):
+
+> Okay, maybe confusing and hurting the feelings of the nice people doing their jobs is actually acceptable collateral damage in the war against the control system. Or, not a war. An endeavor to map what the control system is in detail, and publish the map on the internet.
 
 ------
 
@@ -712,14 +721,17 @@ I had heard about AllDayChemist from Alice Monday, a local trans woman who wasn'
 
 ------
 
-[TODO: drafting credit-assignment ritual 10 March
- * I wrote about my credit-assignment ritual on my real-name blog: http://zackmdavis.net/blog/2017/03/friends-can-change-the-world-or-request-for-social-technology-credit-assignment-rituals/
- * People know that institutions are flawed and like to perform gritty cynicism about it, but what if no one is gritty and cynical enough?
- * People are predatory animals; science, markets, and democracy sort of help because they mirror Bayes-structure (science is updating; microeconomics isn't about humans; democracy is counterfactual civil war)
- * We should be looking for more social technologies like that, but which also take into account that we're not agents, but animals that want to help our friends
- * In analogy to funding solutions with retrospectivbe prizes (rather than funding a team in advance that might solve the problem), what if you did that on a personal scale—rewarding and praising people who helped you through a major life crisis
- * In AI, the credit-assignment problem is about how you tell which of your actions helped under sparse rewards; similarly, here you want the people who resulted in the succesful navigation of the crisis to be strengthened
-]
+I [wrote about my credit-assignment ritual idea on my real-name blog](http://zackmdavis.net/blog/2017/03/friends-can-change-the-world-or-request-for-social-technology-credit-assignment-rituals/). People know that institutions are flawed and like to perform gritty cynicism about it, but what if no one is gritty and cynical enough? People are _predatory animals_ built to _murder_ other forms of life for the benefit of ourselves, our family, and our friends.
+
+To the extent that we have this glorious technological civilization that keeps us safe and lies to us about there being higher ideals, it's because some of the predatory animals happen to stumbled upon behavioral patterns that mirror the hidden Bayesian structure of the universe: science approximates Bayesian updating; [markets allocate resources to where they are needed most in accordance with the laws of the microeconomic theory](https://en.wikipedia.org/wiki/Fundamental_theorems_of_welfare_economics); democracy is a counterfactual simulation of civil war amongst equals (where you just count how many people are on each side, and divide the spoils accordingly, without having to pay the costs of actually fighting).
+
+We should be looking for more social technologies like that, that tap into the hidden Bayesian structure of the universe, but which also take into account that we're not anything like agents at all, but rather animals that want to help our friends. In analogy to proposals to incentivize useful work with after-the-fact prizes for solving a problem, rather than upfront funding of a team you think might solve the problem, it might be worth trying the same thing on a smaller scale—a _personal_ scale, by giving praise and cash rewards to people who personally helped you through a major life crisis.
+
+In artificial intelligence, [the credit-assignment problem](https://ai.stackexchange.com/questions/12908/what-is-the-credit-assignment-problem) refers to the difficulty of attributing success or failure to particular actions whose connection to the end result might be indirect and remote: if the outcome of an hour-long game might have ultimately hinged on your good or bad instincts during a critical moment in the 24th minute, you'd want to know that, so that you could re-train your instincts appropriately—but it's not trivial to figure out which moments were critical, which actions helped or hurt.
+
+Money and status are human civilization's credit-assignment tokens. It's not trivial to figure out what actions help or hurt, but to the extent that the economy works at all, it works because productive actions being appropriately rewarded. (A Society in which it was more profitable to steal than to produce would soon have much less to steal.)
+
+Similarly, it's not trivial to figure out what actions helped or hurt during a major life crisis, but to the extent that you _can_ figure it out, you want to dispense rewards appropriately, supplying a tiny gradient update to Society's instincts by allocating more resources to the people who have caused major life crises to be successfully navigated.
 
 -------
 
@@ -745,6 +757,6 @@ She said she'd want to have a more detailed conversation about it before offerin
 
 [TODO: chat transcript relevant to War on Optimization for Generalized Secrecy]
 
-[TODO: final $18200 credit-assignment ritual: $5K to Michael, $1200 each to "Chaya", 3 care team members (Alicorn Sarah Anna), Ziz, "Helen", and Sophia, $400 each to Steve, A.M., Watson, "Thomas", Jonah, James, Ben, Kevin, Alexei (declined), Andrew, Divia, Lex, Devi
+[TODO: final $18200 credit-assignment ritual: $5K to Michael, $1200 each to "Rebecca", 3 care team members (Alicorn Sarah Anna), Ziz, "Helen", and Sophia, $400 each to Steve, A.M., Watson, "Thomas", Jonah, James, Ben, Kevin, Alexei (declined), Andrew, Divia, Lex, Devi
 http://zackmdavis.net/blog/2017/03/friends-can-change-the-world-or-request-for-social-technology-credit-assignment-rituals/
 ]