Сокращение описания "сверху вниз" - набор достаточного семейства наиболее значимых параметров

Метод исключения параметров "сверху вниз" с ортогонализацией применим не ко всяким функциям

$Сокращение описания$

, а только к таким, которые имеют вид:

$Сокращение описания$

Достоинство метода - автоматический учет корреляции между

$Сокращение описания$

. Рассмотрим устройства, вычисляющие функции

$Сокращение описания$

К ним относятся линейные сумматоры, квадратичные сумматоры и др.

Пусть заданы векторы данных:

$Сокращение описания$

Поставим задачу сокращения описания следующим образом: так определить некоторое наименьшее возможное множество индексов

$Сокращение описания$

и набор чисел

$Сокращение описания$

, чтобы норма отклонения

$Сокращение описания$

, где

$Сокращение описания$

, не превышала некоторой наперед заданной величины. Все функции рассматриваются на конечном множестве

$Сокращение описания$

. Для любой функции

$Сокращение описания$

евклидова норма:

$Сокращение описания$

С каждой функцией

$Сокращение описания$

связан

$Сокращение описания$

-мерный вектор

$Сокращение описания$

с компонентами

$Сокращение описания$

. Вектор

$Сокращение описания$

с координатами

$Сокращение описания$

является линейной комбинацией векторов

$Сокращение описания$

с координатами

$Сокращение описания$

. Линейную оболочку семейства векторов

$Сокращение описания$

обозначим

$Сокращение описания$

. Построим в пространстве

$Сокращение описания$

ортонормированный базис с помощью последовательной ортогонализации векторов

$Сокращение описания$

. Каждый следующий шаг ортогонализации выполним так, чтобы величина проекции

$Сокращение описания$

на новый вектор базиса была максимальной из возможных. Процесс ортогонализации продолжим, пока

$Сокращение описания$

, где

$Сокращение описания$

- проекция

$Сокращение описания$

на построенную ортогональную систему. По окончании процесса полагаем

$Сокращение описания$

Полагаем

$Сокращение описания$

. Тогда

$Сокращение описания$

. Это и есть решение задачи. Числа

$Сокращение описания$

выражаются через коэффициенты разложения векторов

$Сокращение описания$

по

$Сокращение описания$

и скалярные произведения

$Сокращение описания$

: если

$Сокращение описания$

, то

$Сокращение описания$

.

Разложение

$Сокращение описания$

по

$Сокращение описания$

имеет рекурсивную форму:

$Сокращение описания$

Для функций вида

$Сокращение описания$

с дифференцируемой функцией процедура аналогична с точностью до замены скалярного произведения: используется скалярное произведение с весами

$Сокращение описания$

, где

$Сокращение описания$

. В этом скалярном произведении вычисляются все нормы и проводится ортогонализация.

Для функций с пороговой нелинейностью на выходе используем скалярное произведение с весами

$Сокращение описания$

.

Описанная процедура сокращения "сверху вниз" с ортогонализацией особенно важна для упрощения элементов сложных сетей, в структуре которых и вектор входных сигналов элемента может быть далек от исходных данных, и его выходной сигнал далек от оцениваемого выхода всей сложной системы.

Процедуры анализа значимости и сокращения описания выделяют наиболее важные параметры и связи в НС. По аналогии с обработкой изображения их называют процедурами контрастирования или редукции.

Роль контрастирования (редукции) не сводится только к сокращению описания: более общая задача - привести параметры системы к выделенному набору значений, в частности, уменьшить разрядность, что важно для удешевления специализированных устройств, экономии памяти и т.д.

Содержание раздела

Главная сайта