Лекция: Ассоциативное обучение. Правило Outstar.

Возможность обучения нейронных сетей является важнейшей отличительной особенностью нейросетевого подхода к построению систем обработки информации.

При ассоциативном обучении запоминаются связи между объектами (или ситуациями) во внешнем мире. Ассоциативное обучение иногда связывают с биологическими приобретенными навыками, такими как классический условный рефлекс.

ассоциативность нашей памяти- способность находить нужную информацию по ее малой части.

Ассоциативная память играет роль системы, определяющей взаимную зависимость векторов. Ассоциативные сети предназначены для распознавания образов. Функционирование этого вида сетей основано на способности человеческой памяти к ассоциативному воспроизведению какого-либо образа, ранее предъявленного для запоминания, по его описанию или части. Существуют два вида ассоциативных сетей — гетероассоциативные и автоассоциативные. Они различаются по способу запоминания и воспроизведения информации (таблица.билет19).

Outstar-выходная звезда

Конфигурация Outstar – фрагмент нейронных сетей, предложенный и использованный Гроссбергом во многих нейросетевых архитектурах, и также, как и входная звезда, является моделью отдельных участков биологического мозга.

Входная звезда представляет собой нейрон, управляющий весовыми коэффициентами. При возбуждении она вырабатывает требуемы сигнал для других нейронов.

Outstar операции:

Предположим, что мы хотим, чтобы outstar напомнить определенный образец a* всякий раз, когда the вход p = 1 представлен сети. Позволить

Тогда, когда p = 1

и образец правильно вспомнен. Колонки матрицы веса представляют образцы, которые необходимо вспомнить.

Правило Outstar

Для правила instar мы сделали термин распада веса для правила Хебба пропорционально выходу сети. Для правила outstar мы сделали термин распада веса пропорционально входу сети.

(For the instar rule we made the weight decay term of the Hebb

rule proportional to the output of the network. For the outstar

rule we make the weight decay term proportional to the input of the network.)

Если мы делаем уровень распада g(сигма) равным уровню изучения a(альфа),

Векторная форма: