Представленная работа посвящена опыту создания учебного курса по математическим основам машинного обучения. Данный курс ориентирован на студентов и аспирантов математических специальностей. В нем выделяются базовая и вариативная части. Обязательная базовая часть строится вокруг модели PAC-обучения и решения задачи бинарной классификации. В рамках вариативной части рассмотрены вопросы слабой обучаемости и методы бустинга. Обсуждена методика изменения вариативной части курса.