Россия, Москва |
Решение задач комбинаторной оптимизации рекуррентными сетями
Максимизация консенсуса
Переход МБ из одного состояния в другое с максимизацией консенсуса происходит путем выполнения пошаговой процедуры. На каждом ее шаге выполняется испытание, состоящее из двух частей:
- для данного состояния генерируется соседнее ,
- оценивается, может ли быть принято состояние , если может, то результат испытания - , иначе .
Состояние принимается с вероятностью
( 4) |
где - управляющий параметр ("температура").
Процесс максимизации консенсуса начинается с высокого значения параметра и случайно выбранного начального состояния . В течение процесса параметр уменьшается от до 0. По мере того как приближается к нулю, нейроны все реже изменяют свои состояния, и наконец, МБ стабилизируется в финальном состоянии. Практически, МБ стабилизируется в состоянии, соответствующем локальному максимуму консенсуса, который близок (или равен) глобальному. Сходимостью МБ управляют следующие параметры:
1. Начальное значение параметра для каждого нейрона
2. Правило понижения
где - положительное число, меньшее единицы, но близкое к ней.
3. Число испытаний, которые проводятся без изменения ( — функция от ).
4. Число последовательных испытаний, не приводящих к изменению состояния машин ( - функция от ), как критерий завершения процесса.
Синхронное и асинхронное функционирование машины Больцмана
Для выполнения синхронного процесса все множество нейронов разбивается на непересекающиеся подмножества , такие, что нейроны, попавшие в одно подмножество, не связаны друг с другом. Тогда на каждом такте синхронизации элементы случайно выбранного подмножества могут одновременно изменять свои состояния в соответствии с заданной вероятностью.
В асинхронном параллельном процессе все нейроны могут изменять свои состояния только в зависимости от величины вероятности. Практически асинхронный параллелизм может быть выполнен следующим образом. Случайно выбирается подмножество , содержащее нейронов. Для каждого нейрона из этого подмножества устанавливается состояние в соответствии с . Получившееся в результате состояние есть результат одного асинхронного шага.