content/drafts/two-kinds-of-value-dependence.md

   1 Title: Two Kinds of Value-Dependence
   2 Date: 2020-01-01
   3 Category: commentary
   4 Tags: epistemology, cathartic
   5 Status: draft
   6
   7 So, I _thought_ I was pretty explicit about this in ["The Categories Were Made for Man to Make Predictions"](/2018/Feb/the-categories-were-made-for-man-to-make-predictions/), but from conversations elsewhere, it seems like some of you motherfuckers _still aren't getting it_. The [principle of charity]() requires me to assume that this is my fault for not writing clearly enough—although honestly, my observations seem to be explained equally well by the hypothesis that a lot of you are just pretending to be stupid because the lesson was being presented in a context where being not being stupid would require admitting something politically inconvenient.
   8
   9 But look. This isn't about politics. This is about _math_. So if you could just shut off your Absolute Denial Macro for _one goddamned minute_ (or, five), there's some [Bayes-structure](https://www.lesswrong.com/posts/QrhAeKBkm2WsdRYao/searching-for-bayes-structure) that you need to see.
  10
  11 [walkthrough, with diagrams: three clusters in 3D configuration space (do this with matplotlib?!), within each cluster, dot color is distributed homogenously. Show—with entropy calculations—how you can slice the clusters up in different ways: if you observe x1, that that lowers your entropy of these other variables. But if you condition on dot color, "because it will save someone's life", that doesn't lower the entropy. That kind of value-dependence isn't doing epistemic work]
  12
  13 I don't care about what _words_ you use; I'm only looking at the structure of probabilistic inference (and the _reason_ people care about words, is because of the implicit probabilistic inferences)
  14
  15 Beliefs need to be _anticipation-constraining_; beliefs about categories aren't an exception; if putting the blue points in a category doesn't reduce your entropy, then it's useless