Optimization for ML

• Course for 3rd year students of CS department at HSE university. 1 lecture + 1 seminar per week.
• The course covers convex, non-convex, continuous optimization topics, especially motivated by problems and applications in Machine Learning. Various topics are covered, from fundamental materials to recent research.
• Description of the course.

Team

Коллоквиум

📜 Список формулировок и теорем

Оценка за коллоквиум складывается из 4 частей:

• Вопросы по формулировкам - 3 балла

  Сначала выдаются 6 случайных определений/формулировок из списка. При правильном ответе хотя бы на 3 из 6 определений/формулировок коллоквиум продолжается дальше, и вы получаете x − 3 баллов, где x – число верно отвеченных вопросов. В противном случае за коллоквиум выставляется 0 баллов.

• Теорема с доказательством - 2 балла

• Решение задачи - 3 балла

  При успешной сдаче определений вам выдается билет, содержащий теоретический вопрос на доказательство, а также задачи. На подготовку к ответу дается 30 минут. Теоретический вопрос на доказательства будет по теоремам из списка. Для подготовки к задачам советуем повторить домашние задания, а также задачи с семинаров. В процессе беседы по предыдущим пунктам принимающий может задавать уточняющие вопросы.

• Дополнительный вопрос - 2 балла

  После ответа на предыдущие этапы принимающий задает дополнительный вопрос, например, задачу или вопрос, связанный с теорией. Ответ на дополнительный вопрос оценивается в 2 балла.

• Во время вопросов по формулировкам нельзя пользоваться никакими источниками.

• При подготовке ответа на доп. вопрос нельзя пользоваться шпаргалкой.

• После ответа на формулировки можно взять рукописную шпаргалку размером одной страницы А4 или одного листа с двух сторон А5. Шпаргалка должна быть написана от руки вами. Нерукописные шпаргалки не подходят. Чужие шпаргалки не подходят (это сложнее заметить, но у нас были кейсы в прошлом году). Шпаргалку можно использовать для подготовки к ответу на теорему с доказательством и задачу.

• Если во время коллоквиума человек не может написать формулировку неравенства Йенсена для выпуклой функции, условия локального экстремума для задачи безусловной оптимизации, метод градиентного спуска, метод Ньютона, метод тяжелого шарика, что такое батч и эпоха, за курс ставится 0.