Нейронная сеть

Искусственная нейронная сеть (artificial neural network) — математическая модель, а также её программное или аппаратное воплощение, построенная по принципу организации и функционирования биологических нейронных сетей — сетей нервных клеток живого организма. После разработки алгоритмов обучения получаемые модели стали использовать в практических целях: в задачах прогнозирования, для распознавания образов, в задачах управления и др.

  • С точки зрения машинного обучения, нейронная сеть представляет собой частный случай методов распознавания образов, дискриминантного анализа, методов кластеризации и т. п.
  • С математической точки зрения, обучение нейронных сетей — это многопараметрическая задача нелинейной оптимизации.
  • С точки зрения кибернетики, нейронная сеть используется в задачах адаптивного управления и как алгоритмы для робототехники.
  • С точки зрения развития вычислительной техники и программирования, нейронная сеть — способ решения проблемы эффективного параллелизма.
  • А с точки зрения искусственного интеллекта, ИНС является основой философского течения коннективизма и основным направлением в структурном подходе по изучению возможности построения (моделирования) естественного интеллекта с помощью компьютерных алгоритмов.

Классификация ИНС

  • по типу входной информации
    • Аналоговые нейронные сети (используют информацию в форме действительных чисел);
    • Двоичные нейронные сети (оперируют с информацией, представленной в двоичном виде).
    • Образные нейронные сети (оперируют с информацией, представленной в виде образов: знаков, иероглифов, символов).
  • по характеру обучения
    • Обучение с учителем — выходное пространство решений нейронной сети известно;
    • Обучение без учителя — нейронная сеть формирует выходное пространство решений только на основе входных воздействий. Такие сети называют самоорганизующимися;
    • Обучение с подкреплением — система назначения штрафов и поощрений от среды.
  • по характеру настройки синапсов
    • Сети с фиксированными связями (весовые коэффициенты нейронной сети выбираются сразу, исходя из условий задачи, при этом: dW/dt=0, где W — весовые коэффициенты сети);
    • сети с динамическими связями (для них в процессе обучения происходит настройка синаптических связей, то есть dW/dt≠0, где W — весовые коэффициенты сети).
  • по времени передачи сигнала
    • синхронные (время передачи т{ij} каждой связи равно либо нулю, либо фиксированной постоянной т)
    • асинхронные (время передачи т{ij} для каждой связи между элементами своё, но тоже постоянное).
  • по характеру связей
    • Сети прямого распространения (Feedforward)
    • Рекуррентные нейронные сети
    • Радиально-базисные функции
    • Самоорганизующиеся карты

Примеры приложений

  • Предсказание финансовых временных рядов
  • Психодиагностика
  • Хемоинформатика
  • Нейроуправление
  • Экономика
  • Педагогическое прогнозирование

Применение ИНС

Обучение с учителем Обучение без учителя Смешанное обучение
Перцептрон Сети адаптивного резонанса Перцептрон Самоорганизую-щаяся карта

Кохонена

Нейронная сеть Кохонена Сети адаптивного резонанса Нейронная сеть Хопфилда Сеть радиально-базисных функций
Распознавание образов и классификация + + +
Принятие решений и управление + +
Кластеризация + + + +
Прогнозирование + +
Аппроксимация + +
Сжатие данных и Ассоциативная память + +
Анализ данных + + + +
Оптимизация + +

Ссылки