Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика.

Презентация:



Advertisements
Похожие презентации
«Современные техника и технологии 2004» Многоагентный нейроэволюционный подход к адаптивному управлению МНОГОАГЕНТНЫЙ НЕЙРОЭВОЛЮЦИОННЫЙ ПОДХОД К АДАПТИВНОМУ.
Advertisements

ТРЕХЭТАПНАЯ ОБРАБОТКА ЦИФРОВЫХ ИЗОБРАЖЕНИЙ С ИСПОЛЬЗОВАНИЕМ ЭВОЛЮЦИОНИРУЮЩИХ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ* Цой Ю.Р., Спицын В.Г. Кафедра вычислительной.
«Современные техника и технологии 2005» Адаптивный оператор мутации для нейроэволюционного алгоритма АДАПТИВНЫЙ ОПЕРАТОР МУТАЦИИ ДЛЯ НЕЙРОЭВОЛЮЦИОННОГО.
ГЕНЕТИЧЕСКИЙ АЛГОРИТМ НАСТРОЙКИ ИСКУССТВЕННОЙ НЕЙРОННОЙ СЕТИ Конференция «Технологии Microsoft в информатике и программировании», февраля 2004г.
Эволюционирующие искусственные нейронные сети Спицын В.Г., Цой Ю.Р. Кафедра вычислительной техники, Томский политехнический университет 2006.
Цой Ю.Р., Спицын В.Г. К выбору размера популяции Интеллектуальные системы (AIS04), Россия, Дивноморское, 3-10 сентября, 2004г. К ВЫБОРУ РАЗМЕРА ПОПУЛЯЦИИ.
Вычислительные регуляторные сети Ю.Р. Цой Томский политехнический университет Томск 2007.
Генетические алгоритмы Студент гр. 4057/2 Мима Андрей Доклад на семинаре по специальности.
Нейро-автоматное управление в машинном обучении Выполнил: Губин Ю.А. ст. гр Руководитель: Шалыто А.А. д.т.н, проф., зав. каф. ТП, СПбГУ ИТМО.
Моделирование поведения взаимодействующих агентов в среде с ограничениями Юданов А.А., студент 525 гр. Научный руководитель: к.ф.-м.н. Бордаченкова Е.А.
ОБ АДАПТИВНОМ УВЕЛИЧЕНИИ РАЗМЕРНОСТИ ПРОСТРАНСТВА ПРИЗНАКОВ Ю. Р. Цой Томский политехнический университет
Разработка методов совместного применения генетического и автоматного программирования Федор Николаевич Царев, гр Магистерская диссертация Научный.
Нейросетевые технологии в обработке и защите данных Обработка данных искусственными нейронными сетями (ИНС). Лекция 5. Алгоритмы обучения искусственных.
Синергетика и компьютерное моделирование. Игра «Жизнь» Один из подходов к моделированию процессов самоорганизации – «клеточные автоматы» – появился благодаря.
Разработка алгоритмов распознавания текста на основе клеточных автоматов Автор: Суясов Д. И. Руководитель: Шалыто А. А., д.т.н., профессор.
1 Теория и применение искусственных нейронных сетей Тема 2 Т.Б. Шатовская Факультет компьютерных наук, Кафедра ПОЭВМ, ХНУРЭ ХНУРЭ, факультет КН, кафедра.
Интеллектуальные информационные системы. Организационные вопросы по теоретической части Для получения зачета по теоретической части необходимо: 1. Конспект.
Применение генетических алгоритмов для генерации числовых последовательностей, описывающих движение, на примере шага вперед человекоподобного робота Ю.К.
Разработка программного средства 3Genetic для генерации автоматов управления системами со сложным поведением Государственный контракт «Технология.
В общем виде вероятностный ( стохастический ) автомат ( англ. probabilistic automat) можно определить как дискретный потактный преобразователь информации.
Транксрипт:

Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск ПРИМЕНЕНИЕ НЕЙРОЭВОЛЮЦИОННОГО ПОДХОДА ДЛЯ РЕШЕНИЯ ЗАДАЧ КЛАССИФИКАЦИИ И АППРОКСИМАЦИИ Цой Ю.Р., Спицын В.Г. Кафедра вычислительной техники Томский политехнический университет

Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск Содержание 1. Нейроэволюционный подход. 2. Плюсы и минусы нейроэволюционного подхода. 3. Обучение с учителем. 4. Неточная оценка нейронных сетей. 5. Задачи адаптивного поведения и управления. 6. Многоагентные системы. 7. Игровые стратегии. 8. Проект N.E.R.O. 9. Настройка клеточных автоматов. 10. Заключение.

Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 1. Нейроэволюционный подход (1/2) Применение эволюционных алгоритмов для настройки и обучения искусственных нейронных сетей (Gruau, 1994; Yao, 1999): -обучение НС при фиксированной структуре; -настройка структуры НС; -настройка параметров алгоритма обучения; -настройка параметров активационных функций; -фильтрация обучающих данных; -комбинирование вышеперечисленных задач.

Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 1. Нейроэволюционный подход (2/2) Некоторые названия: -Neurogenesis (D. Whitley); -EDNA – Evolutionary Design of Neural Architectures (K. Balakrishan & V. Honavar); -GANN – Genetic Algorithms to Neural Networks optimization (P. Koehn); -EANN – Evolutionary Artificial Neural Networks (X. Yao); -Neuroevolution (R. Miikkulainen).

Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 2. Плюсы и минусы нейроэволюционного (НЭ) подхода Плюсы: + упрощение использования нейросетевых технологий; + возможность автоматической настройки параметров НЭ алгоритма; + возможность использования любых активационных функций нейронов; + возможность оценки ИНС без информации о значении выходных сигналов сети. Минусы: - отсутствие гарантии сходимости эволюционного алгоритма; - утрата контроля над процессом поиска решения; - проблема конкурирующих решений (competing conventions problem, N. Radcliff, 1990; 1991).

Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 3. Обучение с учителем Название проблемы Ошибка, NEvA-2 Структура ИНС, NEvA-2, N H : N C Ошибка, Proben1 docs Структура ИНС, Proben1 docs, N H : N C cancer12,29885 %2,3 : 26,81,32 %6 : 48 cards111,6279 %1,1 : 100,113,37 %0 : 102 diabetes137,5 %1 : 16,11124,1 %4 : 24 gene131,694 %1,9 : 361,713,64 %0 : 360 glass119,4969 %1,5 : 53,832,7 %8 : 120 heart120,4348 %1 : 70,919,72 %8 : 296 horse120,5128 %1,429 : 169,2929,19 %4 : 244 mushroom14,08666 %1,2 : 2490 %0 : 250 soybean17,36842 %1,1 : 1560,29,06 %24 : > 2000 thyroid14,85185 %1,3 : 65,62,32 %24 : > 450 building10, ,1 : 43,30,780 : 42 flare10, ,2 : 73,10,520 : 72 классификация

Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 4. Неточная оценка нейронных сетей При использовании нейроэволюционного подхода для оценки ИНС необязательно использовать значения ее выходных сигналов. Достаточно использовать характеристику, отражающую внешнюю, качественную сторону функционирования НС. Следствие: Для обучения достаточно оценивать результат последовательности выходных сигналов НС. Отмеченные особенности позволяют: -упростить применение ИНС для решения задач, связанных с моделированием, адаптивным управлением и поведением; -расширить спектр задач, решаемых с использованием НС.

Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск -балансировка шеста (шестов) – время балансирования (в тактах); -преследование жертвы – количество успешных преследований; -управление рукой-манипулятором – пройденное расстояние; -управление мобильным роботом Khepera – пройденное расстояние; -управление моделью ракеты – высота ракеты. 5. Задачи адаптивного поведения и управления ИНС Состояние объекта управления Состояние среды Действие

Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 6. Многоагентные системы (1/2) Эволюция ДействиеОценка Популяция агентов

Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 6. Многоагентные системы (2/2) жертва хищник Наследственность в эволюционирующей системе является источником корреляции между «соседними» поколениями. Таким образом, эволюция может рассматри- ваться как процесс с памятью. Глубина памяти зависит от давления отбора, интенсив- ности мутаций, стратегии формирования нового поколе- ния и других параметров эволюционных алгоритмов.

Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 7. Игровые стратегии Игры: го (на досках 5х5, 7х7), крестики-нолики. Го – возможно, самая сложная и глубокая игра с простыми правилами. Оценка нейронной сети – количество выигрышей в серии игр. Возможно использование конкурирующей ко- эволюции (competitive co-evolution) для самообучения НС, а также применение техники rowing eye.

Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 8. Проект N.E.R.O. (Neuro-Evolution of Robotic Operatives) (1/2) Используется алгоритм rtNEAT (real-time NeuroEvolution of Augmenting Topologies) Кеннета Стенли. Особенности: -Искусственный интеллект агентов представлен эволюционирующими в реальном времени нейронными сетями. -Игрок на специальном полигоне тренирует своих агентов для будущих боев. -Поведение агентов зависит от развития игровой ситуации. Агенты оцениваются в зависимости от схожести их поведения с «эталонным» поведением, заданном пользователем.

Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 8. Проект N.E.R.O. (Neuro-Evolution of Robotic Operatives) (2/2) Рисунки взяты с официального сайта проекта N.E.R.O.:

Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 9. Настройка клеточных автоматов (1/3) Клеточные автоматы (КА) - это децентрализованные, распределенные в пространстве системы, состоящие из большого числа идентичных простых компонент с локальной связанностью. Каждая клетка характеризуется состоянием, которое изменяется в зависимости от окрестности клетки заданного радиуса. Правила изменения состояний клеток задаются таблицей правил.

Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 9. Настройка клеточных автоматов (2/3) ИНС используется для аппроксимации таблицы правил клеточного автомата для решения задач моделирования. Оценка НС – степень схожести поведения КА, под управлением НС, с поведением «эталонного» КА. S1S1 S2S2 S3S3 S5S5 S4S4 S8S8 S7S7 S6S6 r = 1 S0S0 S0(t)S0(t) DSDS mSmS ИНС S 0 (t+1)

Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 9. Настройка клеточных автоматов (улучшение качества изображений) (3/3) I(x,y) D I (x,y) I avg ИНС I*(x,y) Рассматривается попиксель- ная обработка изображе- ний. Оценка ИНС зависит от ка- чества обработанного изображения. ИсходноеОбработанное Изображение

Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 10. Заключение (1/2) Нейроэволюционный подход: Удобство использования против отсутствия твердых гарантий на получение результата. Основные преимущества: -возможность использования неточных оценок работы НС; -адаптивность; -возможность использования одного алгоритма для решения широкого круга задач. Возможное решение многих проблем нейроэволюционного подхода: Разработка новых эволюционных операторов и способов представления информации.

Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 10. Заключение (2/2) «… Самыми плодотворными для развития наук являются области, оставленные в пренебрежении по той причине, что они были «ничьей территорией» между различными сложившимися науками.» Норберт Винер «Кибернетика, или Управление и связь в животном и машине»

Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск Спасибо за внимание!