Artyom Gadetsky: Solving discrete optimization problems using continuous optimization

Data Fest Online 2020
Causal Inference in ML Track https://ods.ai/tracks/causal-inference-in-ml-df2020/

Solving discrete optimization problems using continuous optimization

Во многих важных задачах возникает необходимость оптимизации по дискретным переменным. В докладе будет подробно рассмотрена задача обучения направленных ациклических графов причинно-следственных связей по данным, которая может быть сформулирована в виде дискретной задачи оптимизации в пространстве перестановок. На примере этой задачи мы рассмотрим различные техники сведения дискретной задачи оптимизации к непрерывной оптимизации. Одна из важных составляющих доклада будет посвящена вероятностному подходу и обсуждению разработанного метода снижения дисперсии стохастических градиентов по параметрам распределения над перестановками. Внимательный слушатель в результате доклада получит общее представление о современных методах оптимизации по перестановкам и их применению к решению задачи обучения ациклических направленных графов.

Many important tasks require optimization w.r.t. discrete variables. The presentation will discuss in detail the problem of learning causal directed acyclic graphs from data, which can be formulated as a discrete optimization problem w.r.t. permutations. Using this problem as an example, we will consider various techniques for reducing a discrete optimization problem to continuous optimization. One of the important components of the presentation will be devoted to the probabilistic approach and discussion of the developed variance reduction technique for efficient estimation of stochastic gradients w.r.t. parameters of the distribution over permutations. An attentive listener will get a general idea of modern methods of optimization w.r.t. permutations and their application to solving the problem of learning causal directed acyclic graphs.

Посмотреть эфир и список треков и организаторов: https://datafest.ru/2020/
Зарегистрироваться на фест и получить доступ к трекам: https://ods.ai/events/datafest2020
Вступить в сообщество: https://ods.ai/

Соцсети Data Fest:
https://t.me/datafest
https://vk.com/datafest