НОУ ИНТУИТ | Нейроинформатика. Лекция 6: Погрешности в нейронных сетях

Учитесь и получайте официальные документы БЕСПЛАТНО. Вы можете поддержать наш проект.

Регистрация Вход

Твой путь к знаниям!

Опубликован: 01.03.2007 | Уровень: специалист | Доступ: свободно

Вам нравится? Нравится 29 студентам

| Поделиться |

Поддержать программу

Анализ реализуемости сетей с собственными погрешностями элементов методом обратного распространения точности для оценки среднеквадратических отклонений

Все изложенные выше соображения о выполнимости метода обратного распространения точности справедливы и для метода обратного распространения точности для среднеквадратических отклонений погрешностей с учетом собственных погрешностей элементов. Отличие состоит в способе вычисления промежуточных среднеквадратических отклонений погрешностей.

Как и выше, рассмотрим участок сети, изображенный на рис. 6.9. Для этого участка нам необходимо вычислить промежуточное среднеквадратическое отклонение погрешности $\sigma^{part}$ .

Пусть собственное среднеквадратическое отклонение погрешности сумматора $\Sigma_1$ равно $\sigma_{\Sigma_1 }$ , собственное среднеквадратическое отклонение погрешности нелинейного преобразователя равно $\sigma_\varphi$ и $\sigma_{tv}$ - собственное среднеквадратическое отклонение погрешности точки ветвления.

Рассмотрим сначала вариант, когда собственные погрешности элементов добавляются к выходным сигналам этих элементов. В этом случае среднеквадратическое отклонение погрешности входного сигнала нелинейного преобразователя вычисляется по формуле $\sigma = \sigma_{own}/|\varphi '(A)|$ , где

$\sigma_{own} = \sqrt {\sigma_1^2 - \sigma_\varphi^2 },$

$\sigma_1$ - общая погрешность выходного сигнала нелинейного преобразователя. Для точки ветвления среднеквадратическое отклонение погрешности входного сигнала определяется как $\min \{D_i \}_{i = 1}^k - \sigma_{tv}^2$ .

Среднеквадратическое отклонение погрешности $\sigma^{part}$ , которое придет к входу сумматора $\Sigma_2$ при прямом функционировании сети, начиная от выходного сигнала сумматора $\Sigma_1$ ( рис. 6.9), равно

$\sigma^{part} = \sqrt {\sigma_{\Sigma_1 }^2 \cdot \varphi '(A)^2 + \sigma_\varphi^2 + \sigma_{tv}^2 }.$

Среднеквадратические отклонения погрешностей $\sigma_i^{part}$ придут к каждому входу сумматора $\Sigma_2$ . Если сумма квадратов среднеквадратических отклонений $\sigma_i^{part}$ с коэффициентами $\alpha_i$ меньше квадрата среднеквадратического отклонения погрешности выходного сигнала сумматора ( $\Sigma_{i = 1}^n \alpha_i^2 \cdot (\sigma_i^{part})^2 < \sigma^2$ ), то вычисляем разность $\Sigma_{i = 1}^n \alpha_i^2 \cdot (\sigma_i^{part})^2 - \sigma^2$ . Оставшуюся часть квадрата среднеквадратического отклонения погрешности выходного сигнала сумматора $\sigma$ распределяем равномерно по всем входам, чтобы среднеквадратические отклонения погрешностей входов превышали собственные среднеквадратические отклонения погрешностей элементов на одну и ту же величину $\xi$ . Тогда получаем следующую формулу

$\Sigma_{i = 1}^n \alpha_i^2 \cdot ((\sigma_i^{part})^2 + \xi^2 ) = \sigma^2 \Rightarrow \xi = \sqrt {(\sigma^2 - \Sigma_{i = 1}^n \alpha_i^2 \cdot (\sigma_i^{part})^2 )/\Sigma_{i = 1}^n \alpha_i^2 } .$

Среднеквадратические отклонения погрешностей по входам сумматора будут равны $\sigma_i = \sqrt {(\sigma_i^{part})^2 + \xi^2 }$ .

Пусть теперь собственные погрешности элементов добавляются к входным сигналам этих элементов. В этом случае среднеквадратическое отклонение погрешности входного сигнала нелинейного преобразователя вычисляется по формуле

$\sigma = \sqrt {\sigma_1^2 /\varphi '(A)^2 - \sigma_\varphi^2 },$

где $\sigma_1$ - погрешность выходного сигнала нелинейного преобразователя. Для точки ветвления среднеквадратическое отклонение погрешности входного сигнала определяется как было указано выше.

Среднеквадратическое отклонение погрешности $\sigma^{part}$ в этом случае равно

$\sigma^{part} = \sqrt {\left( {\Sigma_{i = 1}^n \alpha_i^2 \cdot (\sigma_{\Sigma_1 }^i )^2 + \sigma_\varphi^2 }\right) \cdot |\varphi '(A)|^2 + \sigma_{tv}^2 } .$

Величины $\xi$ для вычисления среднеквадратических отклонений погрешностей входных сигналов $\sigma_i$ вычисляются как было показано выше.

Промежуточные среднеквадратические отклонения погрешностей $\sigma^{part}$ можно вычислять как для участков сети, так и для сети в целом.

Таким образом, мы получили формулы для вычисления среднеквадратических отклонений погрешностей сигналов нейронной сети с собственными погрешностями элементов.

Дальше >>

Нейроинформатика

Погрешности в нейронных сетях

Анализ реализуемости сетей с собственными погрешностями элементов методом обратного распространения точности для оценки среднеквадратических отклонений

Вопросы и ответы

Студенты

Авторизоваться

Нейроинформатика

Погрешности в нейронных сетях

Анализ реализуемости сетей с собственными погрешностями элементов методом обратного распространения точности для оценки среднеквадратических отклонений

Вопросы и ответы

Студенты