Управление нейронными сетями МОСКОВСКИЙ ПОЛИТЕХ МОСКВА

Успех нейронных сетей В последние несколько лет мы наблюдаем взрыв интереса к нейронным сетям, которые успешно применяются в самых различных областях - бизнесе, медицине, технике, геологии, физике. Нейронные сети вошли в практику везде, где нужно решать задачи прогнозирования, классификации или управления. Такой впечатляющий успех определяется несколькими причинами: Богатые возможности Нейронные сети - исключительно мощный метод моделирования, позволяющий воспроизводить чрезвычайно сложные зависимости.Нейронные сети Простота в использовании. Нейронные сети учатся на примерах. 2

Немного истории Нейронные сети возникли из исследований в области искусственного интеллекта, а именно, из попыток воспроизвести способность биологических нервных систем обучаться и исправлять ошибки, моделируя низкоуровневую структуру мозга. Основной областью исследований по искусственному интеллекту в 60-е - 80-е годы были экспертные системы. Неудивительно, что первый прибор, устроенный по принципу нейросети Mark I Perceptron, появился уже в 1958 году, всего через десятилетие после первых компьютеров. Как было заведено в ту эпоху, нейроны у этого громоздкого устройства состояли не из строчек кода, а из радиоламп и резисторов. Учёный Фрэнк Розенблатт смог соорудить только два слоя нейросети. 3

Немного истории Впрочем, были среди пионеров кибернетики и неисправимые скептики, самым грозным из которых оказался бывший однокурсник Розенблатта, Марвин Минский. Этот учёный обладал не менее громкой репутацией: тот же Азимов отзывался о нём с неизменным уважением, а Стэнли Кубрик приглашал в качестве консультанта на съёмки «Космической одиссеи 2001 года». Минский математически доказал, что у «Марка-1» есть два серьёзных изъяна. Во-первых, сеть всего с двумя слоями почти ничего не умела а ведь это и так уже был огромный шкаф, пожирающий уйму электричества. Во-вторых, для многослойных сетей алгоритмы Розенблатта не годились: по его формуле часть сведений об ошибках сети могла потеряться, так и не дойдя до нужного слоя. 4

Расцвет персептронов Так и произошло третье пришествие персептронов на этот раз уже под знакомыми нам названиями «нейросети» и «глубинное обучение». Неудивительно, что новостями об успехах ИИ чаще всего делятся такие крупные корпорации как Google и IBM. Их главный ресурс огромные дата- центры, где на мощных серверах можно тренировать многослойные нейросети. Эпоха машинного обучения по-настоящему началась именно сейчас, потому что в интернете и соцсетях наконец-то накопились те самые big data, то есть гигантские массивы информации, которые и скармливают нейросетям для обучения. 5

Строение нейронов 6

Формальный нейрон 7

Многослойный персептрон 8

Обучение сети -Обучить нейронную сеть это значит, сообщить ей, чего от нее добиваются. -Показав ребенку изображение буквы и получив неверный ответ, ему сообщается тот, который хотят получить. -Ребенок запоминает этот пример с верным ответом и в его памяти происходят изменения в нужном направлении. 9

Этапы построения сети -Выбор архитектуры сети Число входов Функции активации Как соединить нейроны Что взять за вход, что за выход -Подбор весов (обучение сети) -Построить вручную -Воспользоваться пакетом нейросетевого моделирования 10

Базовая искусственная модель Искусственный нейрон Он получает входные сигналы (исходные данные либо выходные сигналы других нейронов нейронной сети). Каждый входной сигнал проходит через соединение, имеющее определенную интенсивность (или вес); этот вес соответствует синаптической активности биологического нейрона. С каждым нейроном связано определенное пороговое значение.нейронной сети Вычисляется взвешенная сумма входов, из нее вычитается пороговое значение и в результате получается величина активации нейрона (она также называется пост-синаптическим потенциалом нейрона - PSP).пост-синаптическим потенциалом Сигнал активации преобразуется с помощью функции активации (или передаточной функции) и в результате получается выходной сигнал нейрона.функции активации 11

Применение нейронных сетей Класс задач, которые можно решить с помощью нейронной сети, определяется тем, как сеть работает и тем, как она обучается. Прогнозирование на фондовом рынке. Зная цены акций за последнюю неделю и сегодняшнее значение индекса FTSE, спрогнозировать завтрашнюю цену акций. Предоставление кредита. Требуется определить, высок ли риск предоставления кредита частному лицу, обратившемуся с такой просьбой. В результате разговора с ним известен его доход, предыдущая кредитная история и т.д. Управление. Нужно определить что должен делать робот (повернуться направо или налево, двигаться вперед и т.д.), чтобы достичь цели; известно изображение, которое передает установленная на роботе видеокамера. 12

Прогнозирование результатов выборов президента США 13

Условия моделирования -Предвыборные компании кандидатов отработаны добросовестно -Все участники сделали все возможное -Выбор практически предопределяется лишь объективными признаками? -Прогноз составлялся в 1992 году по данным выборов начиная с

Входные данные -Правящая партия у власти более 1 срока? -Правящая партия получила больше 50% на прошлых выборах? -В год выборов была активна третья партия? -Была серьезная конкуренция при выдвижении кандидата от правящей партии? -Кандидат от правящей партии был президентом в год выборов? -Был ли год выборов временем спада или депрессии? -Был ли рост среднего национального валового продукта на душу населения более 2,1%? -Произвел ли правящий президент существенные изменения в политике? -Во время правления были существенные социальные волнения? -Администрация правящей партии виновна в серьезной ошибке или скандале? -Кандидат правящей партии - национальный герой? -Кандидат оппозиционной партии - национальный герой? 15

Чего добились сейчас? В сфере развлечений компьютеры продвинулись не хуже, чем в науке. За счёт машинного обучения им наконец поддались игры, алгоритмы выигрыша для которых придумать ещё сложнее, чем для шахмат. Недавно нейросеть AlphaGo разгромила одного из лучших в мире игроков в го, а программа Libratus победила в профессиональном турнире по покеру. Более того, ИИ уже постепенно пробирается и в кино: например, создатели сериала «Карточный домик» использовали big data при кастинге, чтобы подобрать максимально популярный актёрский состав. 16

Восстание машин? Бояться надо не врагов, а чересчур усердных друзей. К любой нейросети есть мотивация: если ИИ должен гнуть скрепки, то, чем больше он их сделает, тем больше получит «награды». Если дать хорошо оптимизированному ИИ слишком много ресурсов, он не задумываясь переплавит на скрепки всё окрестное железо, потом людей, Землю и всю Вселенную. Звучит безумно но только на человеческий вкус! Так что главная задача будущих создателей ИИ написать такой жёсткий этический кодекс, чтобы даже существо с безграничным воображением не смогло найти в нём «дырок». 17

Перспективы развития Нейронные сети привлекательны с интуитивной точки зрения, ибо они основаны на примитивной биологической модели нервных систем. В будущем развитие таких нейро-биологических моделей может привести к созданию действительно мыслящих компьютеров. 18

Сам себе нейросеть! Давайте научим неразумную материю играть в игру «11 палочек». Правила просты: на столе лежит 11 спичек, и в каждый ход можно взять либо одну, либо две. Побеждает тот, кто взял последнюю. Как же играть в это против «компьютера»? Очень просто. Берём 10 коробков или стаканчиков. На каждом пишем номер от 2 до 11. Кладём в каждый коробок два камешка чёрный и белый. Можно использовать любые предметы лишь бы они отличались друг от друга. Всё у нас есть сеть из десяти нейронов! Теперь начинается игра. Нейросеть всегда ходит первой. Для начала посмотрите, сколько осталось спичек, и возьмите коробок с таким номером. На первом ходу это будет коробок 11. Возьмите из нужного коробка любой камешек. Можно закрыть глаза или кинуть монетку, главное действовать наугад. Если камень белый нейросеть решает взять две спички. Если чёрный одну. Положите камешек рядом с коробком, чтобы не забыть, какой именно «нейрон» принимал решение. После этого ходит человек и так до тех пор, пока спички не закончатся. Ну а теперь начинается самое интересное: обучение. Если сеть выиграла партию, то её надо наградить: кинуть в те «нейроны», которые участвовали в этой партии, по одному дополнительному камешку того же цвета, который выпал во время игры. Если же сеть проиграла возьмите последний использованный коробок и выньте оттуда неудачно сыгравший камень. Может оказаться, что коробок уже пустой, тогда «последним» считается предыдущий походивший нейрон. Во время следующей партии, попав на пустой коробок, нейросеть автоматически сдастся. Вот и всё! Сыграйте так несколько партий. Сперва вы не заметите ничего подозрительного, но после каждого выигрыша сеть будет делать всё более и более удачные ходы и где-то через десяток партий вы поймёте, что создали монстра, которого не в силах обыграть. 19

Спасибо за внимание! МОСКВА