Срок выполнения этого задания (HW-07) – 27 апреля 2017 24:00.

После этого срока работы не будут приниматься.

Работу надо выслать на e-mail преподавателям Н.Ю.Золотых, Д.В.Грибанову (ставим каждого в копию)

  • Практические задания, в которых надо что-то посчитать или доказать, пишем на бумаге, фотографируем и присылаем. Можете, конечно, набрать в вашем любимом редакторе.

  • Практические задания, где надо писать код, оформляем как ipython Notebook. Пишем комментарии (используем Markdown).

Вы можете использовать другой язык программирования и другие библиотеки. В этом случае заранее свяжитесь со мной.

Задание № 8

Вы продолжаете работать с вашими данными. Задание выполняете в том же NoteBook'е: дополняйете его!. Необходимо явно указать (например, сделав соответствующий заголовок), какой кусок NoteBook'а относится к 8-му заданию.

Нужно на ваших данных натренировать нейронную сеть и экспериментально исследовать, при каких параметрах нейронной сети тестовая (кросс-валидационная) ошибка минимальна.

Используйте sklearn.neural_network.MLPClassifier

Постройте графики зависимости ошибки на обучающей выборке и тестовой выборке (или кросс-валидационной ошибки) от параметра alpha (weight decay).

По умолчанию используется нейронная сеть с одним скрытым слоем ("vanilla") со 100 нейронами в нем (hidden_layer_sizes = (100,)). В качестве функции активации - положительная срезка (activation = 'relu') Попробуйте также

  • другие функции активации (activation = 'tanh', activation = 'logistic')

Если позволяют вычислительные возможности, то попробуйте также

  • сеть с 200 нейронами (hidden_layer_sizes = (200,)) или больше
  • с 2 скрытыми слоями (hidden_layer_sizes = (200, 200)) или больше

Каждому случаю должен соответствовать свой график (в одних и тех же осях)

Сделать выводы.

Напоминаю, что ваш ipython Notebook должен содержать комментарии (оформленные в Markdown). Текста и кода должно быть примерно поровну.