Опубликован: 22.04.2006 | Доступ: свободный | Студентов: 13121 / 2722 | Оценка: 4.27 / 3.83 | Длительность: 26:24:00
ISBN: 978-5-9556-0064-2
Лекция 12:

Нейронные сети. Самоорганизующиеся карты Кохонена.

< Лекция 11 || Лекция 12: 1234 || Лекция 13 >
Аннотация: В лекции продолжается описание работы с нейронными сетями, в частности, рассматриваются классификации нейронных сетей. Описан процесс подготовки данных для обучения. Подробно рассмотрены самоорганизующиеся карты Кохонена, приведен пример решения задачи.
Ключевые слова: ПО, обрптная связь, без обратной связи, сеть без обратной связи, когнитрон, неокогнитрон, минимизация, сеть с обратной связью, сеть Хопфилда, сходимость, сеть прямого распространения, рекуррентная сеть, propagate, сеть встречного распространения, динамическая модель, знание, корректировка весов, структура данных, производные, размерность, обучающая выборка, нейронная сеть, кодирование, преобразование данных, числовой тип, уникальный индекс, диапазон, нормализация, входной, вектор, алгоритм функционирования, синапс, самоорганизующаяся карта, многослойная нейронная сеть, внутренние параметры, итерационный алгоритм, центр кластера, окрестность, карта входа нейрона, карта выхода нейрона, карта входа, программное обеспечение, база данных, базы данных, таблица, bank, программа, определение, визуализатор, выход, пространство, сеть

Классификация нейронных сетей

Одна из возможных классификаций нейронных сетей - по направленности связей.

Нейронные сети бывают с обратными связями и без обратных связей.

Сети без обратных связей

  • Сети с обратным распространением ошибки.

    Сети этой группы характеризуются фиксированной структурой, итерационным обучением, корректировкой весов по ошибкам. Такие сети были рассмотрены в предыдущей лекции.

  • Другие сети (когнитрон, неокогнитрон, другие сложные модели).

Преимуществами сетей без обратных связей является простота их реализации и гарантированное получение ответа после прохождения данных по слоям.

Недостатком этого вида сетей считается минимизация размеров сети - нейроны многократно участвуют в обработке данных.

Меньший объем сети облегчает процесс обучения.

Сети с обратными связями

  • Сети Хопфилда (задачи ассоциативной памяти).
  • Сети Кохонена (задачи кластерного анализа).

Преимуществами сетей с обратными связями является сложность обучения, вызванная большим числом нейронов для алгоритмов одного и того же уровня сложности.

Недостатки этого вида сетей - требуются специальные условия, гарантирующие сходимость вычислений.

Другая классификация нейронных сетей: сети прямого распространения и рекуррентные сети.

Сети прямого распространения

  • Персептроны.
  • Сеть Back Propagation.
  • Сеть встречного распространения.
  • Карта Кохонена.

Рекуррентные сети. Характерная особенность таких сетей - наличие блоков динамической задержки и обратных связей, что позволяет им обрабатывать динамические модели.

  • Сеть Хопфилда.
  • Сеть Элмана - сеть, состоящая из двух слоев, в которой скрытый слой охвачен динамической обратной связью, что позволяет учесть предысторию наблюдаемых процессов и накопить информацию для выработки правильной стратегии управления. Эти сети применяются в системах управления движущимися объектами.

Нейронные сети могут обучаться с учителем или без него.

При обучении с учителем для каждого обучающего входного примера требуется знание правильного ответа или функции оценки качества ответа. Такое обучение называют управляемым. Нейронной сети предъявляются значения входных и выходных сигналов, а она по определенному алгоритму подстраивает веса синаптических связей. В процессе обучения производится корректировка весов сети по результатам сравнения фактических выходных значений с входными, известными заранее.

При обучении без учителя раскрывается внутренняя структура данных или корреляции между образцами в наборе данных. Выходы нейронной сети формируются самостоятельно, а веса изменяются по алгоритму, учитывающему только входные и производные от них сигналы. Это обучение называют также неуправляемым. В результате такого обучения объекты или примеры распределяются по категориям, сами категории и их количество могут быть заранее не известны.

< Лекция 11 || Лекция 12: 1234 || Лекция 13 >