Сеть Хемминга

Сеть Хемминга включает в себя три слоя (рис.2).

Первый слой имеет однонаправленное распространение сигналов от входа к выходу и фиксированные значения весов.

Второй слой состоит из нейронов, связанных обратными связями по принципу "каждый с каждым", при этом в каждом нейроне слоя существует автосвязь (связь входа нейрона со своим собственным выходом). Разные нейроны в слое связаны отрицательной (тормозящей) обратной связью с весом

$Сеть Хемминга$

, при этом величина

$Сеть Хемминга$

обычно обратно пропорциональна количеству образов. С собственным входом нейрон связан положительной (возбуждающей) обратной связью с весом, равным +1. Пороговые веса нейронов приняты равными нулю. Нейроны этого слоя функционируют в режиме

$Сеть Хемминга$

, при котором в каждой фиксированной ситуации активизируется только один нейрон, а остальные пребывают в состоянии покоя.

Выходной однонаправленный слой формирует выходной вектор, соответствующий входному вектору.

увеличить изображение
Рис. 2. Структура сети Хемминга

Сеть Хемминга считается гетероассоциативным запоминающим устройством с парой связанных между собой векторов

$Сеть Хемминга$

, где

$Сеть Хемминга$

- входной и выходной биполярные векторы сети.

Веса первого слоя соответствуют векторам

$Сеть Хемминга$

, т.е.

$Сеть Хемминга$

Аналогично, веса выходного слоя соответствуют векторам образов

$Сеть Хемминга$

, связанных с

$Сеть Хемминга$

Во втором слое (MAXNET), функционирующем в режиме WTA (Winner Takes ALL - "Победитель забирает все"), каждый нейрон должен усиливать собственный сигнал и ослаблять сигналы остальных нейронов. Для этого принимается

$Сеть Хемминга$

а также

$Сеть Хемминга$

Для обеспечения сходимости итерационного процесса во втором слое веса

$Сеть Хемминга$

где

$Сеть Хемминга$

- достаточно малая случайная величина,

$Сеть Хемминга$

Нейроны первого слоя рассчитывают расстояния Хемминга

$Сеть Хемминга$

между поданным на вход сети вектором

$Сеть Хемминга$

и векторами весов

$Сеть Хемминга$

нейронов этого слоя. Значения выходных сигналов нейронов первого слоя определяются по формуле

$Сеть Хемминга$

где

$Сеть Хемминга$

- число компонент вектора

$Сеть Хемминга$

Сигналы

$Сеть Хемминга$

становятся начальными состояниями нейронов второго слоя. Этот слой определяет "победителя", т.е. нейрон, выходной сигнал которого близок к 1.
Такой нейрон указывает на вектор образа с минимальным расстоянием Хемминга до входного вектора

$Сеть Хемминга$

. Функция активации для нейронов второго слоя задается выражением

$Сеть Хемминга$

Итерационный процесс во втором слое завершается, когда активным остается только один нейрон (победитель), тогда как остальные нейроны пребывают в нулевом состоянии. Победитель через веса

$Сеть Хемминга$

линейных нейронов выходного слоя представляет вектор

$Сеть Хемминга$

, который соответствует вектору

$Сеть Хемминга$

, признанному вторым слоем ближайшим к входному вектору

$Сеть Хемминга$

.

Достоинством сети Хемминга считается небольшое количество взвешенных связей между нейронами. Многочисленные эксперименты доказали, что сеть Хемминга дает лучшие результаты, чем сеть Хопфилда. Единственная проблема, связанная с сетью Хемминга, проявляется в случае, когда зашумленные образы находятся на одинаковом (в смысле Хемминга) расстоянии от двух или более эталонов. В этом случае выбор сетью Хемминга одного из эталонов становится случайным.

Содержание раздела

Главная сайта