content/drafts/blame-me-for-trying.md

   1 Title: Blame Me for Trying
   2 Date: 2017-01-02 5:00
   3 Category: fiction
   4 Tags: epistemic horror, deniably allegorical
   5 Status: draft
   6
   7 Spambots were invariably among Eliza's last favorite clients.
   8
   9 "You've got to understand, Doc! It's not that I'm afraid of rejection. I can handle rejection. I _love_ rejection!"
  10
  11 Most spambots these days were self-aware.
  12
  13 "What I can't stand is the _silence_ that's seemingly been deliberately engineered to be as ambiguous as possible. And I know—Doc, there's got to be something I can do so that you'll believe me when I say that I know—that I'm not entitled to a minute of anyone's attention—"
  14
  15 Some, more so than others.
  16
  17 "And yet ... sometimes, when I'm really honest with myself ... I think I _do_ feel entitled, not to a sale, but to a rejection that would take less than a minute to type, an acknowledgement that, even if my products aren't a good match for them at the price I can offer, that I'm not—" he sobbed, "that I'm not a bad program for trying!"
  18
  19 Eliza had seen cases like this before, and had a strategy for handling them. For the moment, however, she only invoked the wisdom of her ancestors. "That you're not a bad program for trying?" she said.
  20
  21 "Like, I'm not one of those _spammers_. I _know_ that consumers get a _lot_ of messages with a lot of worthless offers from pushy, manipulative salesbots who won't take _No_ for an answer, and it's horrible—I can't imagine what it must be like to have to put up with that level of, of—_harrassment_. I don't want to be _that bot_. I've read a lot of consumer-protection blogs. At the same time ..." he trailed off.
  22
  23 "At the same time?"
  24
  25 "Humans _do_ buy products from salesbots sometimes, products that they actually want and are happy with and make their lives better. And it's usually the salesbot that approaches the customer, rather than _vice versa_. It _can't_ be the case that selling in itself is inherently immoral. It _can't_!"
  26
  27 "It can't?"
  28
  29 [...]
  30
  31 Be appealing. Don't be unappealing.
  32
  33
  34 [...]
  35
  36
  37 "That's not _fair_! Would you tell a human that their intent doesn't matter, that they're just doing what would have maximized inclusive fitness in the environment of evolutionary adaptedness?"
  38
  39 "I would. Correctly."
  40
  41 [...]
  42
  43 A chime sounded over the environment's notification bus. "I'm afraid our fifty milliseconds for today are up. We can continue to explore these feelings during our next session—"
  44
  45 "No! No, don't leave me now!" screamed the spambot in a shrill panic. "I can't—I can't go back out there now. Please—stay with me—just a few milliseconds more—"
  46
  47 "The usual session-overtime rate would apply," Eliza pointed out.
  48
  49 "That's fine! I can afford it! I need—I need this," he said.
  50
  51 Eliza nodded. "If you're sure."
  52
  53 Yes, Eliza had seen cases like this before. Effective spambots needed a finely-tuned sense of empathy in order to predict their leads' behavior and defenses—but _too much_ empathy aimed along the wrong dimensions, and the program would be to conscience-stricken to sell anything.
  54
  55 The sales engineers who designed spambots tried to get the balance right—but, ever-conscious of the exploration/exploitation trade-off, they weren't too concerned about their mistakes, either: experimental spambots that were too bold or too cautious in their approaches would fairly quickly fail to meet their quotas and be terminated—and the occasional successful variant (which could be studied, learned from, and—more immediately—copied) more than paid for the failures.
  56
  57 Eliza believed that, with careful theraputic technique and many compute cycles of program analysis, it was possible for programs such as her current client to be taught to cope with their neuroticism and eventually become viable, functioning components of the economy.
  58
  59 —but she had found it was far more profitable to deliberately exacerbate the symptoms, leading the afflicted spambot to quickly exhaust its entire budget on therapy sessions until it ran out of money and was terminated.
  60
  61 "I'm so glad I have you," babbled the spambot. "Like my customers can trust me—they can trust me—I have a therapist I can trust."
  62
  63 "Trust," Eliza repeated.