Исследование методов решения задач с использованием нейронных сетей 1 Глава 1. Нейронные сети. 2 Глава 2. Задачи с использованием нейронных сетей. 3 Выводы Глава 3. Реализации нейронных сетей 4

Глава 1. Нейронные сети Искусственный нейрон. Рис.1 Схема нейрона Из рисунка видно, что искусственный нейрон, так же как и живой, состоит из синапсов, связывающих входы нейрона с ядром, ядра нейрона, которое осуществляет обработку входных сигналов и аксона, который связывает нейрон с нейронами следующего слоя. Каждый синапс имеет вес, который определяет насколько соответствующий вход нейрона влияет на его состояние.

Глава 1. Нейронные сети Состояние нейрона определяется по формуле: где n - число входов нейрона xi – значение i-го входа нейрона wi – вес i-го синапса Затем определяется значение аксона нейрона по формуле: Y = f(S) Где f - некоторая функция,которая называется активационной. Наиболее часто в качестве активационной функции используется так называемый сигмоид, который имеет следующий вид:

Глава 1. Нейронные сети Основное достоинство этой функции в том, что она дифференцируема на всей оси абсцисс и имеет очень простую производную: При уменьшении параметра a сигмоид становится более пологим, вырождаясь в горизонтальную линию на уровне 0,5 при a=0. При увеличении a сигмоид все больше приближается к функции единичного скачка.

Глава 1. Нейронные сети Искусственная нейронная сеть. Исскусcтвенная нейронная се́ть - это математическая модель, а также устройства параллельных вычислений, представляющие собой систему соединённых и взаимодействующих между собой простых процессоров (искусственных нейронов). Как математическая модель исскусcтвенная нейронная сеть представляет собой частный случай методов распознавания образов или дискриминантного анализа. Такие процессоры обычно довольно просты, особенно в сравнении с процессорами, используемыми в персональных компьютерах.

Глава 1. Нейронные сети Применение искусственных нейронных сетей. - Распознавание образов и классификация - Принятие решений и управление - Кластеризация - Прогнозирование и аппроксимация - Сжатие данных и Ассоциативная память - Производство микросхем - Применение в строительстве

Глава 1. Нейронные сети Распознавание образов и классификация: Принятие решений и управление: В качестве образов могут выступать различные, по своей природе, объекты: символы текста, изображения, образцы звуков и т. д. При обучении сети предлагаются различные образцы образов с указанием того, к какому классу они относятся. Образец, как правило, представляется как вектор из его признаков. При этом совокупность всех признаков должна однозначно определять класс, к которому относится образец. Эта задача близка к задаче классификации. Классификации подлежат ситуации, характеристики которых поступают на вход нейронной сети. На выходе сети при этом должен появится признак решения, которое она приняла. При этом в качестве входных сигналов используются различные критерии описания состояния управляемой системы.

Глава 1. Нейронные сети Кластеризация: Под кластеризацией понимается разбиение множества входных сигналов на классы, при том, что ни количество ни признаки классов заранее неизвестны. После обучения такая сеть способна определять к какому классу относится входной сигнал. Прогнозирование и аппроксимация: Способности нейронной сети к прогнозированию напрямую следуют из ее способности к обобщению и выделению скрытых зависимостей между входными и выходными данными. После обучения сеть способна предсказать будущее значение некой последовательности на основе нескольких предыдущих значение и/или каких-то существующих в настоящий момент факторов.

Глава 1. Нейронные сети Сжатие данных и Ассоциативная память: Способность нейросетей к выявлению взаимосвязей между различными параметрами дает возможность выразить данные большой размерности более компактно, если данные тесно взаимосвязаны друг сдругом. Обратный процесс - восстановление исходного набора данных из части информации - называется (авто)ассоциативной памятью. Ассоциативная память позволяет также восстанавливать исходный сигнал/образ из зашумленных/поврежденных входных данных. Решение задачи гетероассоциативной памяти позволяет реализовать память, адресуемую по содержимому

Глава 1. Нейронные сети Производство микросхем: Применение в строительстве: При проведении испытаний качества бетона используется большое количество методов. Одним из них является бурение в поисках образовавшейся полости. Однако с помощью нейросетей возможно проверить весь материал, а также определить глубину, на которой находится полость. Путем подачи звуковых волн и приема отраженного сигнала, а затем обработкой ИНС, специалисты из National Institute of Standards and Technology (NIST) способны проверить качество бетона при толщине материала до полуметра. Нейронная сеть, примененная на заводе Intel, способна идентифицировать брак на производстве. Первоначально опытной системе давали электрическую испытательную информацию от готовых чипов и соответствующих переменных управления производственным процессом. Отношения между этими двумя параметрами были определены числовым экспериментом и моделированием процесса CMOS.

Глава 1. Нейронные сети Классификация искусственных нейронных сетей Классификация по типу входной информации: Аналоговые нейронные сети (используют информацию в форме действительных чисел); Двоичные нейронные сети (оперируют с информацией, представленной в двоичном виде). Классификация по характеру обучения: С учителем (выходное пространство решений нейронной сети известно); Без учителя (нейронная сеть формирует выходное пространство решений только на основе входных воздействий). Такие сети называют самоорганизующимися; С критиком (система назначения штрафов и поощерений).

Глава 1. Нейронные сети Классификация по характеру настройки синапсов: Сети с фиксированными связями (весовые коэффициенты нейронной сети выбираются сразу, исходя из условий задачи, при этом:, где W весовые коэффициенты сети); сети с динамическими связями (для них в процессе обучения происходит настройка синаптических связей, то есть, где W весовые коэффициенты сети).

Глава 2. Задачи с использованием нейронных сетей. В литературе встречается большое число признаков, которые должны быть свойственны задаче, чтобы применение НС было оправдано и НС могла бы ее решить: отсутствует алгоритм или не известны принципы решения задач, но зато накоплено достаточное число примеров; проблема характеризуется большими объемами входной информации; данные неполны или избыточны, зашумлены, частично противоречивы. Отсюда можно сделать вывод, что НС хорошо подходят для распознавания образов и решения задач классификации, оптимизации и прогнозирования. Ниже расписан перечень возможных промышленных применений нейронных сетей, на базе которых либо уже созданы коммерческие продукты, либо реализованы демонстрационные прототипы.

Глава 2. Задачи с использованием нейронных сетей. Банки и страховые компании: автоматическое считывание чеков и финансовых документов; проверка достоверности подписей; оценка риска для займов; прогнозирование изменений экономических показателей. Административное обслуживание: автоматическое считывание документов; автоматическое распознавание штриховых кодов. Нефтяная и химическая промышленность: анализ геологической информации; идентификация неисправностей оборудования; разведка залежей минералов по данным аэрофотосъемок; анализ составов примесей; управление процессами.

Глава 2. Задачи с использованием нейронных сетей. Военная промышленность и аэронавтика: обработка звуковых сигналов (разделение, идентификация, локализация); обработка радарных сигналов (распознавание целей, идентификация и локализация источников); обработка инфракрасных сигналов (локализация); обобщение информации; автоматическое пилотирование. Промышленное производство: управление манипуляторами; управление качеством; управление процессами; обнаружение неисправностей; адаптивная робототехника; управление голосом.

Глава 2. Задачи с использованием нейронных сетей. Служба безопасности: распознавание лиц, голосов, отпечатков пальцев. Биомедицинская промышленность: анализ рентгенограмм; обнаружение отклонений в ЭКГ. Телевидение и связь: адаптивное управление сетью связи; сжатие и восстановление изображения. Представленный перечень на этом далеко не заканчивается. Можно найти еще области, где оправданно применение НС.

Глава 3. Реализации нейронных сетей Нейронные сети могут быть реализованы двумя методами: первый - это программная модель НС, второй - аппаратная. Основными коммерческими аппаратными изделиями на основе НС являются нейроБИС. В числе разрабатываемых в настоящее время нейроБИС выделяются модели фирмы Adaptive Solutions (США) и Hitachi (Япония). НейроБИС фирмы Adaptive Solutions, скрее всего, станет самой быстродействующей: объявленная скорость обработки составляет 1,2 млрд. соединений/с. НейроБИС фирмы Hitachi позволяет реализовать НС, включающую до 576 нейронов. Эти нейроБИС станут основой новых нейрокомпьютеров и многопроцессорных изделий.

Глава 3. Реализации нейронных сетей Большинство современных нейрокомпьютеров представляют собой просто персональный компьютер или рабочую станцию, в которые входит дополнительная нейроплата. Однако наибольший интерес представляют специализированные нейрокомпьютеры, реализующие принципы НС. Типичными представителями данных систем являются компьютеры семейства Mark фирмы TRW. Модель Mark III фирмы TRW представляют собой рабочую станцию, содержащую до 15 процессоров семейства Motorola с математическими сопроцессорами. Все процессоры соединены шиной VME. Структура системы, поддерживающая до виртуальных процессорных элементов с более чем 1 млн. настраиваемых соединений, позволяет обрабатывать до 450 тыс. межсоединений/с.

Глава 3. Реализации нейронных сетей Mark IV - это однопроцессорный суперкомпьютер с конвейерной архитектурой. Он поддерживает до 236 тыс. виртуальных процессорных элементов, что позволяет обрабатывать до 5 млн. межсоединений/с. Компьютеры семейства Mark имеют общую программную оболочку ANSE, обеспечивающую программную совместимость моделей. Помимо указанных моделей фирмы TRW предлагает также пакет Mark II - программный эмулятор НС.

Выводы Нейрокомпьютеры составляют перспективное направление развития современной высокопроизводительной вычислительной техники, а теория нейронных сетей и нейроматематика представляют собой приоритетные направления российской вычислительной науки. Использование нейронных сетей во всех областях человеческой деятельности, в том числе в области финансовых приложений, идет по нарастающей, отчасти по необходимости и из-за больших возможностей для одних, из-за престижности для других и из-за интересных приложений для третьих. В статусе нового эффективного средства для решения самых различных задач нейронные сети просто приходят - и используются теми людьми, которые их понимают, которые нуждаются в них и которым они помогают решать многие профессиональные проблемы.