Генеративные модели на основе пирамидальных нейронных сетей быстрого обучения

Дорогов Александр Юрьевич

Санкт-Петербургский государственный электротехнический университет

В статье предложен способ построения генеративных моделей на основе пирамидальных нейронных сетей быстрого обучения (БНС). В основу построения моделей положен вероятностный метод главных компонент (РРСА). Метод РРСА позволяет аналитически построить матрицы оптимальных декодеров, способных восстанавливать образы из случайных латентных переменных малой размерности, распределённых по нормальному вероятностному закону. Реализация РРСА-декодеров в классе БНС позволяет представить декодеры в виде последовательно-параллельных структур, обеспечивающих высокое быстродействие за счёт структурного распараллеливания операций. В работе представлены методы обучения БНС к матрицам декодеров. Обучение выполняется за конечное число шагов и не требует итерационных процедур. Приводятся примеры построения реализующих БНС для набора данных MNIST. Показаны результаты генерации образов, подобных набору MNIST. Выполнено сравнение с классическим вариационным автоэнкодером. Определена область целесообразного использования генеративных моделей РРСА.

генеративная модель, вариационный автоэнкодер, вероятностный метод главных компонент, быстрая нейронная сеть, пирамидальная структура

Вернуться назад