KDD 2022上来自康奈尔大学的Yuta Saito和Thorsten Joachims教授作了一堂题为“Counterfactual Evaluation and Learning for Interactive Systems”（counterfactual-ml.github.io/kdd2022-tutorial/）的讲座。

在机器学习应用中，我们常常发现部署环境和模型的研发环境有很大的差别。这种情况往往被称作是“Off-Policy”（OP）。这个讲座就是针对OP来进行模型的评测（Model Evaluation）和模型的学习（Model Learning）。首先，讲座讲了利用Causal Inference中Inverse Propensity Model来对进行模型的评测，用于去除偏差（Bias）。同时，演讲者还提及了一系列的改进方法来达到Off-Policy Evaluation，包括如何使用更加复杂的Click Model，以及更加Generic的Action Embedding等方法。接下来，讲座涵盖了模型学习的部分。这一部分是讲如何在有偏差的数据中能够学习到无偏差的模型，主要的应用还是排序算法。最后，讲座还提及了Multiple Logging Policy、Distributional Drift（例如数据是一月收集的，但评测是在二月）以及连续变量的处理等高级话题。

如果你对Counterfactual Learning、模型的Off-Policy评估以及学习有兴趣、以及你对如何在模型中去除各样的Bias，这个讲座都是不可多得的入门资料。