Лабораторные работа - Системы поддержки принятия решений, Литвинов В.Л. СПБГУТ

1 Лабораторная работа -

1. Исследовать нейронную сеть при заданных начальных параметрах. Найти минимальное значение n_hidden_neurons, при котором сеть дает удовлетворительные результаты.

2. Найти наилучшее значение шага градиентного спуска lr в интервале ± 100% от номинального значения.

3. Изменить нейронную сеть для предсказания функции

4. Для задачи п. 3 получить метрику

не хуже 0.03, варьируя: архитектуру сети, loss-функцию,

lr оптимизатора или количество эпох в обучении.

и тд

2 Лабораторная работа -

1. Изучить понятие кросс-энтропии и Softmax.

2. Исследовать нейронную сеть при заданных начальных. Найти минимальное значение n_hidden_neurons, при котором сеть дает неудовлетворительные результаты, т.е. обучение невозможно.

3. Исследовать зависимость точности распознавания от количества нейронов в скрытом слое, количества слоев, метода активации.

и тд

3 Лабораторная работа -

1. Исследовать нейронную сеть при заданных начальных параметрах.

2. Исследовать зависимость точности распознавания от количества нейронов в скрытом слое, количества слоев, метода активации.

3. Замерить время вычисления 100 эпох на CPU и на GPU. Какое ускорение наблюдается?

и тд

4 Лабораторная работа -

1. Изучить понятия: свертка, паддинг, страйд, average¬_pooling, max_pooling.

2. Исследовать нейронную сеть при заданных начальных параметрах.

3. Исследовать зависимость точности распознавания от количества слоев, метода активации (например, ReLU), шага lr и типа пулинга.

и тд

5 Лабораторная работа -

1. Изучить понятия: батч-нормализация, переобучение

нейронной сети.

2. Исследовать нейронную сеть LeNet при различных параметрах (5 вариантов) на датасете MNIST. Объяснить результаты экспериментов.

3. Исследовать нейронную сеть LeNet при различных параметрах (5 вариантов) на датасете CIFAR. Построить графики validation loss. Объяснить результаты экспериментов.

6 Лабораторная работа -

1. Изучить понятия: дропаут (dropout), регуляризация.

2. Примечание. Регуляризация в статистике, машинном обучении, теории обратных задач – метод добавления некоторых дополнительных ограничений к условию с целью решить некорректно поставленную задачу или предотвратить переобучение. Эта информация часто имеет вид штрафа за сложность модели.

3. Исследовать нейронную сеть CIFARNet без дропаута. Имеется ли переобучение в этой сети?

и тд

7 Лабораторная работа -

1. Изучить архитектуру ResNet и понятие residual блока.

2. Исследовать нейронную сеть ResNet18.

3. Исследовать нейронную сеть ResNet20 с различными показателями дропаута и регуляризации.

и тд

КОНЦЕПЦИЯ КУРСОВОГО ПРОЕКТА

по дисциплине «Системы поддержки принятия решений»

На тему «интелектуальнаые СППР государственных учреждений».