Нейронная сеть

Искусственная нейронная сеть (artificial neural network) — математическая модель, а также её программное или аппаратное воплощение, построенная по принципу организации и функционирования биологических нейронных сетей — сетей нервных клеток живого организма. После разработки алгоритмов обучения получаемые модели стали использовать в практических целях: в задачах прогнозирования, для распознавания образов, в задачах управления и др.

• С точки зрения машинного обучения, нейронная сеть представляет собой частный случай методов распознавания образов, дискриминантного анализа, методов кластеризации и т. п.
• С математической точки зрения, обучение нейронных сетей — это многопараметрическая задача нелинейной оптимизации.
• С точки зрения кибернетики, нейронная сеть используется в задачах адаптивного управления и как алгоритмы для робототехники.
• С точки зрения развития вычислительной техники и программирования, нейронная сеть — способ решения проблемы эффективного параллелизма.
• А с точки зрения искусственного интеллекта, ИНС является основой философского течения коннективизма и основным направлением в структурном подходе по изучению возможности построения (моделирования) естественного интеллекта с помощью компьютерных алгоритмов.

Классификация ИНС

• по типу входной информации
  • Аналоговые нейронные сети (используют информацию в форме действительных чисел);
  • Двоичные нейронные сети (оперируют с информацией, представленной в двоичном виде).
  • Образные нейронные сети (оперируют с информацией, представленной в виде образов: знаков, иероглифов, символов).
• по характеру обучения
  • Обучение с учителем — выходное пространство решений нейронной сети известно;
  • Обучение без учителя — нейронная сеть формирует выходное пространство решений только на основе входных воздействий. Такие сети называют самоорганизующимися;
  • Обучение с подкреплением — система назначения штрафов и поощрений от среды.
• по характеру настройки синапсов
  • Сети с фиксированными связями (весовые коэффициенты нейронной сети выбираются сразу, исходя из условий задачи, при этом: dW/dt=0, где W — весовые коэффициенты сети);
  • сети с динамическими связями (для них в процессе обучения происходит настройка синаптических связей, то есть dW/dt≠0, где W — весовые коэффициенты сети).
• по времени передачи сигнала
  • синхронные (время передачи т{ij} каждой связи равно либо нулю, либо фиксированной постоянной т)
  • асинхронные (время передачи т{ij} для каждой связи между элементами своё, но тоже постоянное).
• по характеру связей
  • Сети прямого распространения (Feedforward)
  • Рекуррентные нейронные сети
  • Радиально-базисные функции
  • Самоорганизующиеся карты

Примеры приложений

• Предсказание финансовых временных рядов
• Психодиагностика
• Хемоинформатика
• Нейроуправление
• Экономика
• Педагогическое прогнозирование

Применение ИНС

	Обучение с учителем		Обучение без учителя					Смешанное обучение
	Перцептрон	Сети адаптивного резонанса	Перцептрон	Самоорганизую-щаяся карта Кохонена	Нейронная сеть Кохонена	Сети адаптивного резонанса	Нейронная сеть Хопфилда	Сеть радиально-базисных функций
Распознавание образов и классификация	+	+						+
Принятие решений и управление	+							+
Кластеризация			+	+	+	+
Прогнозирование	+							+
Аппроксимация	+							+
Сжатие данных и Ассоциативная память	+						+
Анализ данных	+		+	+	+
Оптимизация				+	+

Ссылки

• «Нейронные сети. Полный курс» Саймона Хайкина