НОУ ИНТУИТ | Нейрокомпьютерные системы. Лекция 2: Модели нейронов

Учитесь и получайте официальные документы БЕСПЛАТНО. Вы можете поддержать наш проект.

Регистрация Вход

Твой путь к знаниям!

Опубликован: 13.09.2006 | Уровень: специалист | Доступ: платный | ВУЗ: Новосибирский Государственный Университет

|

Вам нравится? Нравится 20 студентам

| Поделиться |

Поддержать программу

Аннотация: Рассматриваются структура и функции различных моделей нейрона: персептрон, сигмоидальный нейрон, адалайн, Паде-нейрон, нейрон с квадратичным сумматором, сигма-пи нейроны, нейрон Хебба, стохастическая модель нейрона, кубические модели нейронов.

Ключевые слова: градиентный метод, метод наискорейшего спуска, градиент функции, neuron, стохастическая модель, WTA, гиперкуб

Элементы нейронных сетей и задача разделения двух классов

Персептрон

Простой персептрон — это нейрон МакКаллока-Питса (рис.1). Весовые коэффициенты входов сумматора, на которые подаются входные сигналы $x_{i}, i=1, \ldots, N$ обозначаются $w_{i}$ , а пороговое значение — $w_{0}$ . Нелинейная функция активации персептрона является ступенчатой, вследствие чего выходной сигнал нейрона может принимать только два значения — 0 и 1 в соответствии с правилом

$\begin{equation} f(u) = \left \{ \begin{array}{rcl} 1 \mbox{ для } u\ge 0 \\ 0 \mbox{ для } u< 0 \\ \end{array} \right. \end{equation}$

( 1)

или -1 и 1 в соответствии с правилом

$\begin{equation} f(u) = \left \{ \begin{array}{rcl} 1 \mbox{ для } u\ge 0 \\ -1 \mbox{ для } u< 0 \\ \end{array} \right. \end{equation}$

( 2)

где обозначает выходной сигнал сумматора

$\begin{equation} u = \sum_{i=0}^{N} {w_{i}x_{i}}. \end{equation}$

( 3)

В формуле (3) предполагается $x_{0 } = 1$ .

Рис. 1. Нейрон МакКаллока-Питтса

Обучение персептрона состоит в таком подборе весов ${w_{i} }$ , чтобы выходной сигнал {y} совпадал с заданным значением ${d{\in}\{0,1\}}$ или ${d{\in}\{-1,1\}}$ .

С персептроном связана задача четкого разделения двух классов по обучающей выборке, которая ставится следующим образом: имеется два набора векторов $X^1, \ldots, X^n$ и $Y^1, \ldots, Y^m$ . Заранее известно, что X^i , ${i=1, \ldots, n}$ относятся к первому классу, а Y^j , $j=1, \ldots, m$ - ко второму. Требуется построить решающее правило, т.е. определить такую функцию f(X) , что при f(X)>0 вектор относится к первому классу, а при f(X)< 0 - ко второму.