Лекция: Ассоциативное обучение. Правило обучения Хебба.
Возможность обучения нейронных сетей является важнейшей отличительной особенностью нейросетевого подхода к построению систем обработки информации.
При ассоциативном обучении запоминаются связи между объектами (или ситуациями) во внешнем мире. Ассоциативное обучение иногда связывают с биологическими приобретенными навыками, такими как классический условный рефлекс.
ассоциативность нашей памяти- способность находить нужную информацию по ее малой части.
Ассоциативная память играет роль системы, определяющей взаимную зависимость векторов. Ассоциативные сети предназначены для распознавания образов. Функционирование этого вида сетей основано на способности человеческой памяти к ассоциативному воспроизведению какого-либо образа, ранее предъявленного для запоминания, по его описанию или части. Существуют два вида ассоциативных сетей — гетероассоциативные и автоассоциативные. Они различаются по способу запоминания и воспроизведения информации (таблица.билет19).
Правило обучения отдельного нейрона-индикатора по-необходимости локально, т. е. базируется только на информации непосредственно доступной самому нейрону — значениях его входов и выхода. Это правило, носящее имя канадского ученого Хебба, играет фундаментальную роль в нейрокомпьютинге, ибо содержит как в зародыше основные свойства самоорганизации нейронных сетей.
Правило обучения Хебба — правило обучения нейронной сети, согласно которому изменения весов каждого нейрона должны изменяться пропорционально его входам и выходу. Другими словами, обучение каждого нейрона основывается только на информации, доступной самому нейрону. Правило обучения Хебба лежит в основе некоторых алгоритмов обучения «без учителя».
Метод заключается в изменении весов по следующему правилу:
Где а-вых.значение нейрона и-слоя, р-выходное значение нейрона ж-слоя, омеги-весовые коэффициенты синапса(место контакта между двумя нейронами), соединяющего эти нейроны, на операциях ку и (ку-1), альфа-коэффициент скорости обучения.
При обучении по данному методу усиливаются связи между возбужденными нейронами.
Векторная форма: