Нейрокомпьютерные системы

       

Константа Липшица сигмоидальной сети


Рассмотрим слоистую сигмоидальную сеть (сеть с сигмоидальными нейронами) со следующими свойствами:

  1. Число входных сигналов -
    .
  2. Число нейронов в
    -м слое -
    .
  3. Каждый нейрон первого слоя получает все входные сигналы, а каждый нейрон любого другого слоя получает сигналы всех нейронов предыдущего слоя.
  4. Все нейроны всех слоев имеют одинаковые функции активации
    .
  5. Все синаптические веса ограничены по модулю единицей.
  6. В сети
    слоев.

В этом случае оценка константы Липшица сети равна:

(2)

Формула (2) подтверждает экспериментально установленный факт, что, чем круче характеристическая функция нейрона (т.е. чем больше

), тем более сложные функции (функции с большей константой Липшица) может аппроксимировать сеть с такими нейронами.



Содержание раздела