Опубликован: 01.03.2007 | Доступ: свободный | Студентов: 1476 / 151 | Оценка: 4.58 / 4.39 | Длительность: 20:15:00
Специальности: Программист
Лекция 6:

Погрешности в нейронных сетях

Зная, как вычисляются допустимые погрешности для всех элементов стандартного нейрона, можно вычислить допустимые погрешности сигналов для всей сети. Рассмотрим участок сети, состоящий из сумматора \Sigma_0 и нелинейного преобразователя, результатом работы которого является выходной сигнал y, а также из сумматоров \Sigma_i и нелинейных преобразователей, выходные сигналы которых являются входными сигналами сумматора \Sigma_0 (рис. 6.5). То есть мы рассматриваем два последних слоя нейронной сети, состоящие из стандартных нейронов.


Рис. 6.5.

Если заданы допустимые погрешности для выходных сигналов сети, можно вычислить допустимые погрешности для последнего слоя сети. Когда вычислены допустимые погрешности всех входных сигналов последнего слоя сети, переходим к вычислению допустимых погрешностей предпоследнего слоя и так далее. Переходя по сети в обратном направлении от слоя к слою, мы можем вычислить допустимые погрешности всех сигналов сети, в том числе допустимые погрешности входных сигналов.

Мы рассмотрели, как изменяются погрешности сигналов при прохождении через элементы сети. Предположим теперь, что не только сигналы имеют погрешности, но и все элементы сети передают приходящие к ним сигналы с некоторыми погрешностями. Пусть собственные погрешности элементов известны и фиксированы. Выясним, как влияют собственные погрешности элементов на погрешности сигналов.

Bыясним, как действуют элементы сети, имеющие собственные погрешности, при прямой работе сети.

Точка ветвления может либо вообще не иметь погрешности, либо она имеет собственную погрешность \varepsilon_{tv}. В последнем случае сигнал x при прохождении через точку ветвления будет изменяться, оставаясь в интервале x \pm \varepsilon_{tv} ( рис. 6.6).


Рис. 6.6.

Предположим, что сумматор имеет собственную погрешность \varepsilon_\Sigma. Тогда возможны следующие варианты:

  1. погрешность прибавляется к выходному сигналу сумматора, т.е. при прохождении сигналов x_i через сумматор выходной сигнал сумматора будет иметь вид: \mathop \Sigma \limits_{i = 1}^n \alpha_i \cdot x_i \pm \varepsilon_\Sigma  ;
  2. погрешность сумматора действует по каждому входу пропорционально \mathop \Sigma \limits_{i = 1}^n \alpha_i \cdot (x_i \pm \varepsilon_\Sigma^i ) ( рис. 6.7).

Рис. 6.7.

Считаем при этом, что погрешности \varepsilon_\Sigma^i равны между собой и равны \varepsilon_\Sigma  {\rm{/}}n , где n - число входов сумматора.

Пусть собственная погрешность нелинейного преобразователя равна \varepsilon_\varphi  , x - входной сигнал нелинейного преобразователя, \varphi - его функция активации. Собственная погрешность может добавляться или к входному сигналу x: \varphi (x \pm \varepsilon_\varphi ), или к выходному сигналу нелинейного преобразователя: \varphi (x) \pm \varepsilon_\varphi  ( рис. 6.8).


Рис. 6.8.
Владимир Скарин
Владимир Скарин
Австралия
Сергей Смирнов
Сергей Смирнов
Россия, Нижний Новгород, ННГАСУ, 2007