ОСНОВЫ ТЕОРИИ АГЕНТОВ И МНОГОАГЕНТНЫХ СИСТЕМ В.Б.Тарасов Московский государственный технический университет им. Н.Э. Баумана

НОВЫЕ НАПРАВЛЕНИЯ ПРИКЛАДНОЙ ИНФОРМАТИКИ СИНЕРГЕТИКА В ИНФОРМАТИКЕ. СИНЕРГЕТИЧЕСКИЙ ИИ СИНЕРГЕТИЧЕСКАЯ МЕТОДОЛОГИЯ, МЕЖДИСЦИПЛИНАРНЫЕ РАБОТЫ, ГИБРИДНЫЕ МОДЕЛИ ТЕОРИЯ АГЕНТОВ И МНОГОАГЕНТНЫХ СИСТЕМ ИНТЕЛЛЕКТУАЛЬНЫЕ СИСТЕМЫ, ИНТЕЛЛЕКТУАЛЬНЫЕ ИНТЕРНЕТ-ТЕХНОЛОГИИ, ИНТЕЛЛЕКТУАЛЬНЫЕ ОРГАНИЗАЦИИ СИНЕРГЕТИЧЕСКИЕ ОРГАНИЗАЦИИ

ЧТО ТАКОЕ СИНЕРГЕТИКА? Синергетика есть междисциплинарное научное направление,исследующее процессы взаимодействия, кооперации, самоорганизации, эволюции сложных, открытых, динамических систем. Термин «синергетика» происходит от слова «синергия», означающего совместное действие, сотрудничество

ПОЧЕМУ ВВЕДЕН ТЕРМИН «СИНЕРГЕТИКА»? Г. Хакен – «отец синергетики»: Введение термина «синергетика» для обозначения современной теории сложных, открытых, самоорганизующихся систем оправдано по двум причинам: а) исследуются совместные действия многих элементов развивающейся системы; элементов развивающейся системы; б) для отыскания общих принципов и механизмов самоорганизации требуется объединение усилий представителей различных дисциплин.

ТЕОРИЯ АГЕНТОВ И МНОГОАГЕНТНЫХ СИСТЕМ: ОСНОВНЫЕ СОСТАВЛЯЮЩИЕ ТРЕУГОЛЬНИК А.МОЛЯ ОСНОВНЫЕ СВОЙСТВА АГЕНТА: АГЕНТА: 1) МОТИВАЦИЯ 1) МОТИВАЦИЯ 2) АКТИВНОСТЬ 2) АКТИВНОСТЬ 3) РЕАКТИВНОСТЬ 3) РЕАКТИВНОСТЬ 4) АВТОНОМНОСТЬ 4) АВТОНОМНОСТЬ 5) ОБЩИТЕЛЬНОСТЬ 5) ОБЩИТЕЛЬНОСТЬ ТЕОРИЯ ВЗАИМОДЕЙСТВИЙ: ТЕОРИЯ ОТНОШЕНИЙ, ТЕОРИЯ КООПЕРАЦИИ, ТЕОРИЯ КОММУНИКАЦИИ, ТЕОРИЯ ПЕРЕГОВОРОВ ТЕОРИЯ ДИАЛОГА (ДИАЛОГИКА) ТЕОРИЯ СРЕД ТЕОРИЯ ДЕЯТЕЛЬНОСТИ МНОГОАГЕНТНАЯ СИСТЕМА MAS = A,E,R, ORG,ACT,COM,EV ТЕОРИЯ АГЕНТОВ И МАС ТЕОРИЯ ОРГАНИЗАЦИЙ САМООРГАНИЗАЦИЯ ДЕЯТЕЛЬНОСТИ ИНЖЕНЕРИЯ ЗНАНИЙ И ОРГАНИАЗАЦИЯ ВЗАИМОДЕЙСТВИЙ

ПОНЯТИЕ «АГЕНТ» КАК СВЯЗУЮЩЕЕ МЕТОДОЛОГИЧЕСКОЕ ЗВЕНО МЕЖДУ СУБЪЕКТОМ И ОБЪЕКТОМ Агент – лицо или организация, наделенное юридическими полномочиями представлять другое лицо или организацию и вести их дела. Если двигаться от субъектного полюса, то агент может пониматься как квазисубъект, способный в некотором смысле замещать другого субъекта (своего «хозяина») и действовать по его поручению СУБЪЕКТОБЪЕКТ АГЕНТ Делегирование субъектом ряда функций и полномочий агенту Интеллектуализация и активизация объекта

ИНТЕРПРЕТАЦИИ АГЕНТОВ Искусственные агенты – физические (роботы) и виртуальные (софтботы, инфоботы, моботы) ИСКУССТВЕННЫЙ АГЕНТ ИСКУССТВЕННЫЙ ОРГАНИЗМ ПЕРСОНАЛЬНЫЙ АССИСТЕНТ АКТИВНЫЙ ОБЪЕКТ ИСКУССТВЕННЫЙ ДЕЯТЕЛЬ БИОЛОГИЯ, БИОНИКА, ИСКУССТВЕННАЯ ЖИЗНЬ ДРУЖЕСТВЕННЫЙ, ИНТЕЛЛЕКТУАЛЬНЫЙ, ПЕРСОНИФИЦИРОВАН- НЫЙ ИНТЕРФЕЙС ПОЛЬЗОВАТЕЛЯ СЛОЖНЫЙ КОМПЬЮТЕРНЫЙ ВИРУС ООП АОП: ОБЪЕКТ МЕТАУРОВНЯ, СПОСОБНЫЙ МАНИПУЛИРО- ВАТЬ ДРУГИМИ ОБЪЕКТАМИ ДОМАШНИЙ РОБОТ ТЕОРИЯ ДЕЯТЕЛЬНОСТИ ИСКУССТВЕННЫХ СИСТЕМ АВТОНОМНЫЙ РОБОТ

МОДЕЛЬ ПРОСТЕЙШЕГО АГЕНТА КАК ИСКУССТВЕННОГО ОРГАНИЗМА [Гаазе-Рапопорт М.Г., Поспелов Д.А. От амебы до робота: модели поведения.- М.: Наука, 1987] ПРОЦЕССОР ПАМЯТЬ РЕЦЕПТОРЫЭФФЕКТОРЫ Внутренняя среда Внешняя среда

МОДЕЛЬ АВТОНОМНОГО АГЕНТА Автономный искусственный агент – открытая, активная система, которая обладает собственным поведением, удовлетворяющим экстремальным принципам ПОТРЕБНОСТИ ЦЕЛИ ВОСПРИЯТИЕ МНЕНИЯ ВЫБОР ДЕЙСТВИЕ СРЕДА act- эффекторы sel w-сенсоры per m

ПРИМЕР ОБЩЕЙ КЛАССИФИКАЦИИ АГЕНТОВ Агенты-роботы Агенты-роботы АГЕНТЫ ЕСТЕСТВЕННЫЕ ИСКУССТВЕННЫЕ ИНДИВИДУАЛЬНЫЕКОЛЛЕКТИВНЫЕ ВИРТУАЛЬНЫЕ ФИЗИЧЕСКИЕ НЕПОДВИЖНЫЕ МОБИЛЬНЫЕ ИНТЕЛЛЕКТУАЛЬНЫЕРЕАКТИВНЫЕ

ПРИМЕР КЛАССИФИКАЦИИ АГЕНТОВ ПО ДВУМ КРИТЕРИЯМ Физические АГЕНТЫ (РОБОТЫ) ИНТЕЛЛЕКТУАЛЬНЫЕ: КОГНИТИВНЫЕ, ДЕЛИБЕРАТИВНЫЕ, КОММУНИКАТИВНЫЕ РЕАКТИВНЫЕ ИНТЕНЦИОНАЛЬНЫЕ (BDI-АГЕНТЫ) 1. ВНУТРЕННЯЯ МОДЕЛЬ ВНЕШНЕЙ СРЕДЫ 2. ВИД ПОВЕДЕНИЯ: РЕФЛЕКТОРНЫЕ АНИМАТЫТРОФИЧЕСКИЕ ГДЕ ИСТОЧНИК МОТИВАЦИИ?

ДВА ОСНОВНЫХ ВОПРОСА ТЕОРИИ АГЕНТОВ 1. Чем программный агент отличается от обычной компьютерной программы? 2. Чем интеллектуальный агент отличается от обычной интеллектуальной системы

ОТ ВЗАИМОДЕЙСТВИЯ К ОРГАНИЗАЦИИ ТРИ ФАКТОРА ОРГАНИЗАЦИИ АГЕНТОВ ТРИ ФАКТОРА ОРГАНИЗАЦИИ АГЕНТОВ И МНОГОАГЕНТНЫХ СИСТЕМ И МНОГОАГЕНТНЫХ СИСТЕМ ОРГАНИЗАЦИЯ: ФУНКЦИОНАЛЬНО- СТРУКТУРНОЕ ЕДИНСТВО САМООРГАНИЗАЦИЯ: АСПЕКТЫ АВТОНОМИИ, КООРДИНАЦИИ, КООПЕРАЦИИ СКВОЗНАЯ ИЕРАРХИЧЕСКАЯ АГЕНТИФИКАЦИЯ: Коллективные агенты (МАС) Социальные агенты Индивидуальные агенты РЕОРГАНИЗАЦИЯ: АСПЕКТЫ ДИНАМИКИ, ПРЕОБРАЗОВАНИЯ, ТРАНСФОРМАЦИИ ЭКО-ОРГАНИЗАЦИЯ: АСПЕКТЫ ОТКРЫТОСТИ, АДАПТАЦИИ К СРЕДЕ

ТЕОРИЯ АГЕНТОВ: НОВЫЙ ВЗГЛЯД НА ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ КАК «НАУКУ ОБ ИНТЕНЦИЯХ» [Bachimont, 1991] Причины. В отличие от обычных программных систем, интеллектуальные агенты наделяются интенциональными свойствами, например, мнениями, желаниями, намерениями, обязательствами. Истоки. В психологии еще Ф.Брентано и Э.Гуссерль считали интенциональность основным психическим качеством, выступающим как главный критерий различия между физическими и психическими явлениями. Следуя им, будем понимать под интенцией агента любую устремленность к деятельности, отражающую определенное психическое состояние.

ОСНОВНЫЕ ФУНКЦИИ СИСТЕМЫ КОГНИТИВНАЯ КОГНИТИВНАЯ ФУНКЦИЯ ФУНКЦИЯ СРЕДА СИСТЕМА РЕГУЛЯТИВНАЯ ФУНКЦИЯ РЕСУРСНАЯ ФУНКЦИЯ

КОГНИТОНЫ Понятие «КОГНИТОН» есть общий термин для описания различных принципов, механизмов и моделей познания. Оно было введено с целью определения семейства когнитивных единиц, которые лежат в основе динамических ментальных структур, изменяющихся во времени (см. [Ferber, 1995]). В теории агентов и многоагентных систем возникает проблема инженерии когнитонов как основы разработки интеллектуальных агентов (подобно тому, как инженерия знаний лежит в основе разработки классических интеллектуальных систем). Инженерия когнитонов расширяет обычные подходы инженерии знаний, видоизменяя и адаптируя их к проблемам формализации интенциональных характеристик агентов (желаний, намерений, обязательств и т.д.).

ОСНОВНЫЕ КЛАССЫ КОГНИТОНОВ КОГНИТОНЫ ПРЕДСТАВЛЕНИЯ КОГНИТОНЫ ВЗАИМОДЕЙСТВИЯ ОРГАНИЗАЦИОННЫЕ КОГНИТОНЫ КОНАТИВНЫЕ КОГНИТОНЫ знания, мнения, суждения, оценки, аргументы перцепты, запросы, ответы, сведения, решения роли (функции), задачи, нормы, соглашения, обязательства

ЧТО ТАКОЕ МНЕНИЕ? Проблема исследования категории «мнение» (Belief) имеет давние и глубокие традиции. Уже Платон ясно осознавал наличие ступеней, промежуточных градаций формирования знания. Он различал собственно знание и мнение: «мнение не есть знание, но и не есть незнание: оно темнее знания и светлее незнания». Соответственно, знаниями в классическом ИИ называются «обоснованные, истинные мнения (убеждения)».

ОСОБЕННОСТИ МНЕНИЙ Мнения носят не достоверный, а правдоподобный или приближенный характер, зависят от ситуации и нередко могут пересматриваться. Таким образом, мнение автономного агента, которое может описывать состояния мира, других агентов и самого агента, всегда является частичным, неточным, неоднозначным, а подчас и противоречивым. Это означает, что в основу представления мнений следует положить аппарат многозначных и нечетких логик

20 МНЕНИЕ КАК СИСТЕМА МОДАЛЬНОСТЕЙ: ЕДИНЫЙ ПОДХОД К ПРЕДСТАВЛЕНИЮ СИСТЕМ МОДАЛЬНОСТЕЙ НА БАЗЕ МНОГОЗНАЧНЫХ ЛОГИК ВИДЫМОДАЛЬНОСТЕЙ Сильная Сильнаяположительная SPM SPM Слабая Слабаяположительная WPM WPM Слабая Слабаяотрицательная WNM WNMСильная отрицательная отрицательнаяSNM Алетические:онтологииНеобходимость NВозможность MСлучайность QНевозможность Y Доксастические:мненияУверенность BEL BELПредположение HYP HYPСомнение DBT DBTОтвержение DEN DEN Эпистемические:знанияВерификацияПодтверждение Неразреши- мость Фальсификация Деонтические:нормыОбязанность ОРазрешение РБезразличие БЗапрещение З Эротетические:вопросыКорректность САмбивалент-ностьA Нерелевант- ность IRНекорректностьNC

ФОРМАЛИЗАЦИЯ АГЕНТА: ДОКСАСТИЧЕСКИЕ И ДЕОНТИЧЕСКИЕ МОДАЛЬНОСТИ Различные запросы, предписания, требования со стороны пользователя или других агентов выступают как внешние источники целеобразования и регуляторы поведения агента. Таким образом, при формализации агента следует использовать как доксастические модальности (модальности мнения), так и деонтические модальности (модальности действий и норм). К числу модальностей мнения относятся: «уверен», «предполагаю», «сомневаюсь», «отвергаю». В частности, исходное мнение агента может выступать в форме предположения (гипотезы) – базового предварительного (возможного) представления агента о мире и других агентах, которое может выдвигаться в интересах запуска механизма действия, направленного на его подтверждение, т.е. формирование уверенности. Примерами деонтических модальностей являются слова «обязательно», «разрешено», «запрещено». Деонтические высказывания часто выражаются также с помощью слов «может» и «должен».

ИНФОРМАЦИОННАЯ СТРУКТУРА АГЕНТА: ЕДИНСТВО ОПИСАНИЙ И ПРЕДПИСАНИЙ Функционирование любого агента опирается как на описания, так и на предписания. Описания содержат информацию о состояниях среды, воспринимаемых агентом, а предписания – о возможных действиях агента на эту среду. ОПИСАНИЕ ПРЕДПИСАНИЕ p = X is A, T(p) X does A ВЫСКАЗЫВАНИЕ: ИНФОРМАЦИОННАЯ ЕДИНИЦА ОБЪЕКТВЫСКАЗЫВАНИЕ Истинность (ОПИСАНИЕ) Полезность (ПРЕ ДПИСАНИЕ) Истинность: соответствие между объектом и его описанием (первичен объект) Полезность: соответствие между предписанием и его объектом (первично предписание) Дескриптивная модель: «как есть» Нормативная модель: «как должно быть»

СВЯЗЬ МЕЖДУ ИСТИННОСТЬЮ И ВЫПОЛНЕНИЕМ ДЕЙСТВИЯ Представления агента о мире выражаются в виде истинностных суждений описательного характера, т.е. высказываний вида p = X есть А, характеризуемых значениями истинности v V, т.е. v(p). Истинностные суждения могут применяться и при формализации действий агента. Императивными аналогами истины и лжи являются понятия выполнения и невыполнения. Действие выполняется тогда и только тогда, когда описывающее его содержание предложение становится истинным, и не выполняется, когда это предложение ложно

ЕДИНЫЙ ПОДХОД К ОПИСАНИЮ СУЖДЕНИЙ И ОЦЕНОК АГЕНТА С ИСПОЛЬЗОВАНИЕМ МНОГОЗНАЧНЫХ СЕМАНТИК Суждение - высказывание p = X есть А, характеризуемое значением истинности v V, т.е. значением истинности v V, т.е. s = p, v(p), s = p, v(p), где v(p) – функция мультиоценки истинности высказывания p P, например, v: P V 4, V 4 = {T, F, B, N}; T - Истина, F - Ложь, p P, например, v: P V 4, V 4 = {T, F, B, N}; T - Истина, F - Ложь, B - Истина и Ложь одновременно, N - ни Истина, ни Ложь B - Истина и Ложь одновременно, N - ни Истина, ни Ложь Общая идея мультиоценки Дж. Данна – переход от V к 2 V Модальная оценка – высказывание p = X есть А, характеризуемое модальным значением m M, которое может интерпретироваться с аксиологических (ценность) или праксеологических (полезность) позиций как предписание (норма), требование и пр., т.е. mod = p, m (p), где m (p) – функция модальной мультиоценки высказывания p P, m: P W 4, W 4 = {SPM, WPM, WNM, SNM }, например, WD 4 = {О, Р, Б, З}

РОЛЬ ОБРАЗЦОВ, ОЦЕНОК, НОРМ В ТЕОРИИ АГЕНТОВ У агентов прагматические суждения оценочного характера опираются на стандарты, образцы, эталоны и т.п. При этом образец принципиально отличается от примера. Пример говорит о том, что имеет место в действительности, а образец – о том, что должно быть. Примеры используются для поддержки описательных высказываний, а ссылки на образцы служат обоснованием предписаний и требований. Легко понять, что в теории агентов центральное место занимает именно формализация предписаний, оценок, норм. Реализация агентом нормативного поведения предполагает наличие, по крайней мере, двух элементов: нормы, обязательной для выполнения в данной ситуации, и оценки степени выполнения ее предписаний.

ОПРЕДЕЛЕНИЕ ПОНЯТИЯ НОРМЫ Нормы – это социальные запреты и ограничения, накладываемые сообществом (организацией) на отдельного агента. С одной стороны, нормы есть частный случай оценок: их можно рассматривать как общественно апробированные и закрепленные оценки. Средством, превращающим оценку в норму, является угроза наказания, т.е. стандартизация норм осуществляется с помощью санкций. Еще К.Менгер установил прямую связь между предписанием и санкцией: p («обязательно p») и «если не p, то наказание или ухудшение». С другой стороны, формирование норм предполагает согласование мнений по этим нормам

ФОРМАЛИЗАЦИЯ ПОНЯТИЯ НОРМЫ Норму как предписание к действию можно выразить четверкой NR = AG, act, M 4, W, NR = AG, act, M 4, W, где АG – множество агентов, которым адресована норма; act ACT – действие, являющееся объектом нормативной регуляции (содержание нормы); W – множество миров, в которых применима норма (условия приложения, обстоятельства, в которых должно или не должно выполняться действие); М 4 = {О, Р, Б, З} – множество базовых модальностей, связанных с действием act: здесь О – «обязательно», Р – «разрешено», Б – «безразлично» (необязательно), З – «запрещено».

ОСНОВНЫЕ СВОЙСТВА ИНТЕЛЛЕКТУАЛЬНЫХ АГЕНТОВ Автономные интеллектуальные агенты (как естественные, так и искусственные) характеризуются следующими свойствами: 1) локальное, фрагментарное восприятие среды; 2) ограниченное воздействие на среду; 3) неточность и неполнота ее внутреннего представления; 4) изменчивость и ситуативность мнений, противоречивость, неясность, неопределенность желаний, намерений, целей; неясность, неопределенность желаний, намерений, целей; 5) обработка информации и выработка решений в условиях неопределенности или неуверенности (в частности, это предполагает ограничение числа рассматриваемых вариантов и незнание последствий принимаемых решений); и незнание последствий принимаемых решений); 6) неопределенность или фрагментарность планов действий; 7) случайность реализаций действий; 8) наличие случайных или преднамеренных ошибок при передаче информации в процессах коммуникации, т.е. принципиальная неполнота, неточность и ненадежность информации, получаемой от других агентов. Эти свойства можно интерпретировать как «негативные» психологические факторы.

НЕ-ФАКТОРЫ (по А.С.Нариньяни) Термин «НЕ-факторы», введенный А.С.Нариньяни ( 1980), служит для обозначения комплекса факторов, которые лексически и содержательно отрицают одно из свойств классических формальных систем – определенность, замкнутость, точность, однозначность, полноту, непротиворечивость, монотонность, и пр. Английский аналог термина НЕ-факторы– (im-in-un)s в знаниях предложен Ж.Дельгранде и Дж.Милопулосом (1985) в контексте построения неклассических логик. Подход А.С.Нариньяни идет от лингвистики: главную роль играет доформальное исследование функционирования НЕ-факторов в языке. НЕ-факторы (различные виды неопределенности) присутствуют на всех уровнях деятельности (сенсорно-перцептивном, представленческом, рече- мыслительном). Так имеется нечеткость восприятия и нечеткость значения. Велика роль НЕ-факторов в образном мышлении. Возникает даже вопрос, может ли, вообще, система считаться интеллектуальной, если она не имеет дела с какими-либо НЕ- факторами?

ИНФОРМАЦИОННЫЕ НЕ-ФАКТОРЫ В ТЕОРИИ АГЕНТОВ 1. Неполнота информации – локальное восприятие среды. 2. Неточность – интервальное ограничение по точности восприятия. 3. Противоречивость информации, поступающей из разных источников. источников. 4. Неоднозначность предполагает наличие некоторого распределения информации (вероятности, возможности, правдоподобия, информации (вероятности, возможности, правдоподобия, уверенности и пр.). уверенности и пр.). 5. Нечеткость. Нечеткое значение приписывается лингвистическим, качественным оценкам. качественным оценкам. НЕ-ФАКТОРЫ НЕПОЛНОТАПРОТИВОРЕЧИВОСТЬНЕОДНОЗНАЧНОСТЬНЕЧЕТКОСТЬНЕТОЧНОСТЬ

КЛАССИФИКАЦИЯ МНОГОАГЕНТНЫХ СИСТЕМ Интеллектуальныеагенты МНОГОАГЕНТНЫЕ СИСТЕМЫ ГРУППОВОГО ИИ СИСТЕМЫ ИСКУССТВЕННОЙ ЖИЗНИ Реактивные агенты СИСТЕМЫ РАСПРЕДЕЛЕННОГО ИИ СИСТЕМЫ ДЕЦЕНТРАЛИЗОВАННОГО ИИ ЭМЕРГЕНТНЫЙ ИНТЕЛЛЕКТ