СТАТЬЯ № 3.

Обучаем нейронную сеть генетическим алгоритмом.

Как известно, генетические алгоритмы (далее - ГА) получили широкое распространение в задачах обучения нейронных сетей. Но под этим красивым названием у исследователей скрываются разные алгоритмы и подходы.

Таким образом, здесь под задачей обучения нейронной сети генетическим алгоритмом понимается синтез ее оптимальной архитектуры, включающий подбор оптимального числа скрытых слоев и нейронов в каждом таком слое, весовых коэффициентов и некоторых других параметров нейрона.

Рассмотрим конкретный алгоритм обучения НС и синтеза ее архитектуры. Для этого построим обучающуюся однонаправленную сигмоидальную нейронную сеть с n входами и m выходами, в которой выходной сигнал нейрона записывается в виде:


где

- количество нейронов в k-том слое; (K-1) - общее количество скрытых слоев сети;

- матрица весовых коэффициентов k-го слоя;

- выходной сигнал нейрона (k-1)-го слоя.

В качестве активационной функции возьмем функцию вида


в которой

- параметры активационной функции j-го нейрона. Для минимизации оптимума F(X), где

будем использовать генетический алгоритм. Цель обучения - минимизация среднеквадратичной ошибки

P - число примеров обучающего множества; d, y - желаемая и полученные величины выходов сети соответственно.

Главная страница Задание на ТИИД Текущая работа

Ссылки по тематике работы

Сайты студентов ГИП-99

Написать письмо