Школа по Байесовским методам в глубинном обучении

Летняя школа по современным методам глубинного обучения и байесовскому подходу

26-30 августа 2017, Москва


Исследовательская группа байесовских методов

О чём эта школа

На летней школе мы объясним, как байесовские методы и глубинное обучение объединяются в единый формализм. Понимание этого нужно для чтения новых статей по глубинному обучению, в которых часто предполагается знание байесовских методов. Мы рассмотрим ряд на первый взгляд не связанных прикладных задач, которые тем не менее решаются одними и теми же байесовскими глубинными моделями. Будет показано, как обучение с подкреплением связано с байесовскими методами. Также мы расскажем про современные методы стохастической оптимизации и основные библиотеки глубинного обучения. Лекции будут сопровождаться практическими занятиями.

Для кого эта школа

Целевой аудиторией школы являются:
  • аспиранты и студенты старших курсов, специализирующиеся на машинном обучении, прослушавшие базовые курсы по этой теме и имеющие представление о глубинном обучении,
  • исследователи из индустрии и научных учреждений, работающие с алгоритмами глубинного обучения и адаптирующие их под специфику своих задач, желающие расширить свой инструментарий.
Данная школа не рассчитана на тех, кто не знает, что такое глубинное обучение, и хочет это узнать. Для этого в Москве регулярно проходит ряд других мероприятий.

Чему будем учить

В рамках школы внимательный слушатель узнает:

  1. Зачем нужны байесовские методы. Почему вокруг нас практически нет случайностей?
  2. Основные библиотеки и архитектуры глубинного обучения. Как создать нейросеть за 10 минут?
  3. Модели с латентными переменными. Как научить компьютер тому, что неизвестно даже на этапе обучения?
  4. Масштабирование сложных вероятностных методов. Зачем превращать задачу вероятностного вывода в задачу оптимизации?
  5. Зачем нейронным сетям внимание. Как сгенерировать текст по картинке?
  6. Связь обучения с подкреплением и байесовских методов. Как обучать стохастические графы вычислений?
  7. Автоматический выбор dropout rate. Переобучаются ли нейронные сети?
  8. Стохастическая оптмизация. Как оптимизировать функцию быстрее чем вычислить ее в одной точке?
  9. Во что можно научиться преобразовывать случайный шум. Как заставить нейросеть рисовать?

Нашей основной задачей будет показать, что внедрение байесовских моделей в глубинные нейронные сети позволяет существенно расширить область применимости и качество работы последних. Причем, несмотря на внешне разные постановки, методы обучения и вероятностного вывода в нейробайесовских сетях одни и те же. Хотите узнать больше, что это за методы? Приходите на школу (ʘ‿ʘ)

Лекторы



Дмитрий Ветров
Профессор-исследователь ФКН ВШЭ;
ведущий исследователь, Яндекс
Дмитрий Кропотов
ученый секретарь кафедры
ММП ВМК МГУ
Сергей Бартунов
Research Scientist, Google DeepMind
ст. преп. департамента больших данных и информационного поиска ФКН ВШЭ
Евгений Бурнаев
Профессор Сколтеха;
доцент ФКН ВШЭ
Михаил Фигурнов
Научный сотрудник ФКН ВШЭ
Екатерина Лобачева
Аспирантка ФКН ВШЭ
Дмитрий Ульянов
Аспирант Сколтеха
Евгений Соколов
зам. рук. департамента больших данных и информационного поиска ФКН ВШЭ
Дмитрий Молчанов
Магистрант Сколтеха
Арсений Ашуха
Магистрант МФТИ

FAQ

  • Какова стоимость участия?

    Стоимость участия составит 1000 рублей для студентов и аспирантов (на момент весны 2017) ВУЗов, 10 000 рублей для представителей образовательных и научных организаций и 30 000 рублей для остальных участников.

  • Просто заплатил деньги и все?

    Нет, не просто. Сначала мы попросим всех пройти отбор и деньги будем брать только с самых стойких, которые его выдержат и будут отобраны для участия в школе. Отбор нужен потому, что, во-первых, число мест физически ограниченно; во-вторых, чтобы гарантировать, что все слушатели обладают достаточным багажом знаний и умений, чтобы усвоить материал школы.

  • Каковы критерии отбора?

    Мы попросим вас заполнить анкету, написать небольшое эссе и выполнить пару простых упражнений, чтобы оценить ваш уровень владения основами машинного обучения и умением программировать. Ничего выходящего за школь… программу технического ВУЗа делать не попросим.

  • Я уже подзабыл многие курсы, которые прослушивал в ВУЗе. Какие знания мне потребуются на школе?

    Вам потребуются знания в объеме базового стандартного курса по машинному обучению, владение простейшими техниками линейной алгебры, теории вероятностей и математической статистики, методов оптимизации; помнить, что такое интеграл, градиент и гессиан; ну и чуть-чуть программировать на NumPy.

  • Будут ли на школе кормить?

    Будут вкусные и сытные кофе-брейки, а также оплаченный обед в одной из столовых ВШЭ.

  • Как подать заявку на школу?

    Заполните форму в в секции регистрация.

  • Я мало что знаю о том, что такое машинное обучение, но хочу узнать больше. Мне стоит участвовать в школе?

    Нет. Эта школа для тех, кто уже владеет базовым уровнем по машинному обучению и имеет хотя бы самое общее представление о нейронных сетях. Такая планка позволит нам быстро перейти к изложению сложных технических вещей, будучи уверенными, что все присутствующие нас понимают. В Москве проводится масса мероприятий по машинному обучению, где порог вхождения минимален, а в интернете можно найти много ресурсов, которые позволят вам лучше разобраться в базовых технологиях машинного обучения.

  • Что мне даст участие в школе?

    Вы познакомитесь с современными тенденциями в области глубинного обучения; увидите какие задачи решаются при обогащении нейронных сетей байесовским формализмом; разберетесь в методах, знание которых авторами многих научных статей уже предполагается по умолчанию и без знания которых разобраться в статьях бывает крайне сложно; ну и заведёте полезные знакомства среди слушателей и преподавателей школы.

  • Я живу не в Москве. Мне можно участвовать в школе?

    Да, если вы владеете русским языком и прошли отбор. Для иногородних студентов будет предусмотрено несколько тревел-грантов для оплаты поездки и проживания в Москве.

  • Будет ли онлайн-трансляция?

    Нет, не будет. Но мы постараемся оперативно выкладывать записи лекций и мастер-классов в свободный доступ.

  • У меня есть ещё вопрос!

    Присылайте его на info@deepbayes.ru

Регистрация

Приём заявок закрыт. Подтверждения участия в школе будут высланы до 31 мая.

Партнёры

Мы всячески приветствуем помощь от любых организаций. Средства пойдут на (1) нормальное питание на кофе-брейках для участников взамен ссохшихся бутербродов; (2) некоторое количество тревел-грантов для иногородних ребят; (3) памятные сувениры для участников (мы постараемся сделать что-то покруче и более запоминающееся чем «еще одна» ручка, флешка и блокнот); а если первые три активности не скушают весь бюджет, то еще и (4) устроим веселый банкет для всех, на котором участники смогут пообщаться с лекторами и тьюторами :-)

По вопросам поддержки школы пишите на info@deepbayes.ru.

Платиновый партнёр

Платиновый партнёр

Золотой партнёр

Золотой партнёр

Партнёр

Контакты

Если у Вас есть какие-либо вопросы по школе, или Вы хотите выступить партнёром школы, пишите на info@deepbayes.ru.