Агенты, многоагентные системы, виртуальные (стр. 2 )

Т Т

I = òWdt = òS ½(aiyi2)dt,

0  0

где yi – отклонение некоторой жизненно важной переменной от нормы (потребность), ai – вес (субъективная важность) этой потребности, t – время, а произведение Mi = aiyi естественно трактовать как побуждение (влечение).

Итак, когнитивные агенты, благодаря их сложности, наличию знаний и способностей к рассуждениям о своем поведении и внешней среде могут быть более автономными и работать относительно независимо, демонстрируя достаточно гибкое поведение. Но та же сложность автономных агентов, выливающаяся в способность противиться внешним воздействиям, вызывает определенные трудности при организации их эффективного взаимодействия. Поэтому в составе МАС, построенной из интеллектуальных агентов, как правило, присутствует не более 7+2 автономных единиц (магическое число Миллера).

Наоборот, довольно простая структура реактивных агентов, обусловливает их жесткую зависимость от среды. Следовательно, их возможности сравнительно невелики, когда они функционируют в одиночку и ограничены своими собственными ресурсами. Однако им легче образовать группу или организацию, способную гибко адаптироваться к изменениям среды под действием механизма естественного отбора. Поэтому реактивные агенты представляют интерес не на индивидуальном, а на коллективном уровне, причем их способности к адаптации и развитию возникают в результате локальных взаимодействий. Таким образом, реактивные агенты, которые почти не имеют индивидуальности, растворяются в общей массе, но за счет своего большого числа и избыточности они могут решать сложные задачи. В пределе, соответствующие МАС могут формироваться в результате взаимодействий без точного определения отдельных агентов. Подобные «тучи» (swarms), состоящие из значительного числа реактивных агентов, можно сравнить с неким сверхорганизмом, взаимная адаптация и кооперация клеток которого позволяет создать общую цепь обратной связи, обеспечивающую гомеостазис всей системы.

Нетрудно понять, что разделение агентов на когнитивных и реактивных восходит к двум основным школам классического ИИ–символьной (нисходящее проектирование интеллектуальных систем) и бионической (восходящее проектирование интеллектуальных систем). Из сопоставления характеристик когнитивных и реактивных агентов видно, что синергетические автономные агенты должны обладать гибридной архитектурой, сочетающей достоинства реактивных и когнитивных агентов. В этом плане налицо тенденция построения интегрированных архитектур агентов, аналогичная современным вариантам интеграции логических и нейросетевых моделей в ИИ.

Наконец, еще один тип классификации, где дополнительно к биологическому и психологическому уровням агентообразования вводится социальный и используются аналогии с триадой «растение – животное – человек», описан П. Браспеннингом [45]. По его мнению, реактивных, интенциональных и социальных агентов можно уподобить компонентам этой триады. Агенты, подобные растениям, характеризуются реактивностью, выполнением стереотипных программ и посылкой сообщений другим агентам и в среду. Агенты, подобные животным, интенциональны, способны выбирать цели, строить планы действий и обеспечивать их выполнение. Они координируют свои действия, обмениваясь информацией об индивидуальных предпочтениях или задачах. Наконец, гуманоидные агенты, обладая внутренними моделями других агентов (и способностью к рефлексии), характеризуются социальным (ролевым) поведением. Сложность внутренних моделей зависит от уровня знаний и опыта гуманоидного агента.

5. Многоагентные системы и виртуальные организации

Многоагентные системы зародились на пересечении теории систем и распределенного искусственного интеллекта.С одной стороны, речь идет об открытых, активных, развивающихся системах, в которых главное внимание уделяется процессам взаимодействия агентов как причинам возникновения системы с новыми качествами. С другой стороны, достаточно часто МАС строятся как объединение отдельных интеллектуальных систем, основанных на знаниях.

Любая МАС состоит из следующих основных компонентов:

1)   множество организационных единиц, в котором выделяются подмножество агентов 1а), манипулирующих подмножеством объектов 1б);

2)   множество задач;

3)   среда, т. е. некоторое пространство, в котором существуют агенты и объекты;

4) множество отношений между агентами;

4)   множество действий агентов (например, операций над объектами).

В МАС задачи распределены между агентами, каждый из которых рассматривается как член группы или организации. Распределение задач предполагает назначение ролей каждому из членов группы, определение меры его ответственности и требований к опыту.

5.1. Главные направления развития МАС

Сегодня основными направлениями в разработке МАС (см. рис.3) являются распределенный искусственный интеллект и искусственная жизнь (в узком смысле этого термина) [30,72,86]. Ядро РИИ [15,20,43,65,80,89,117] составляют исследования взаимодействия и кооперации небольшого числа интеллектуальных агентов, например, классических интеллектуальных систем, включающих базы знаний и решатели. Главной проблемой в РИИ является разработка интеллектуальных групп и организаций, способных решать задачи путем рассуждений, связанных с обработкой символов. Иными словами, здесь коллективное интеллектуальное поведение образуется на основе индивидуальных интеллектуальных поведений. Это предполагает согласование целей, интересов и стратегий различных агентов, координацию действий, разрешение конфликтов путем переговоров; теоретическую базу здесь составляют результаты, полученные в психологии малых групп и социологии организаций.

Важным разделом РИИ является кооперативное распределенное решение задач (КРРЗ) [65-67,117]. Речь идет о сети слабо связанных между собой решателей, которые совместно работают в целях решения задач, которые выходит за рамки индивидуальных возможностей. Различные узлы подобной сети, как правило, имеют неодинаковый опыт (знания, точки зрения) и разные ресурсы. Каждый узел должен быть способен модифицировать свое поведение в зависимости от обстоятельств, а также планировать свои стратегии коммуникации и кооперации с другими узлами. Здесь показателями уровня кооперации являются: характер распределения задач, объединение различных точек зрения и, конечно, возможность решения общей проблемы в заданное время.

Распределенное решение задач несколькими агентами разбивается на следующие этапы:

1)агент-менеджер (центральный орган) проводит декомпозицию исходной проблемы на отдельные задачи; 2) эти задачи распределяются между агентами-исполнителями; 3) каждый агент-исполнитель решает свою задачу, подчас также разделяя ее на подзадачи; 4) для получения общего результата производится композиция, интеграция частных результатов, соответствующих выделенным задачам.

Второе направление – искусственная жизнь [86,96,100] – в большей степени связано с трактовкой интеллектуального поведения в контексте выживания, адаптации и самоорганизации в динамичной, враждебной среде, которая восходит к работам Ж. Пиаже. В русле ИЖ глобальное интеллектуальное поведение всей системы рассматривается как результат локальных взаимодействий большого числа простых и необязательно интеллектуальных агентов. Здесь также используются термины «коллективный интеллект» (collective intelligence–cм., например, [13,42]) или «интеллект роя» (swarm intelligence) [1,62]. Cторонники этого направления, в частности, Р. Брукс, Л. Стилс, Ж. Денебург и др. [46,62,63,86,127]), опираются на следующие положения: 1) МАС есть популяция простых и зависимых друг от друга агентов; 2) каждый агент самостоятельно определяет свои реакции на события в локальной среде и взаимодействия с другими агентами; 3) связи между агентами являются горизонтальными, т. е. не существует агента-супервизора, управляющего взаимодействием других агентов; 4) нет точных правил, чтобы определить глобальное поведение агентов; 5) поведение, свойства и структура на коллективном уровне порождаются только локальными взаимодействиями агентов.

Здесь механизмы реакций на воздействия среды и локальных взаимодействий в общем случае не включают такие аспекты как прогнозирование, планирование, знания, но подчас позволяют решать сложные задачи. Типичными примерами такого коллективного интеллекта из биологии являются колонии муравьев, пчелиные ульи и т. п. Соответственно, здесь базовыми дисциплинами могут служить различные области биологической науки и, в первую очередь, эволюционная теория и генетика.

Часто проводятся принципиальные различия между распределенным и децентрализованным ИИ (рис.3) [60,61]. Идеология распределенного решения задач [65,89,117] предполагает главным образом разделение знаний и ресурсов между агентами и, в меньшей степени, распределение управления и властных полномочий; как правило, здесь постулируется наличие единого органа управления, обеспечивающего принятие решений в критических (конфликтных) ситуациях. При этом исходным объектом исследования является общая сложная проблема, для решения которой формируется группа агентов, строится общая концептуальная модель и вводятся глобальные критерии достижения цели.

В полностью децентрализованных системах управление происходит только за счет локальных взаимодействий между агентами. Здесь базовым объектом исследования оказывается уже не

Рис. 3. Классификация многоагентных систем

распределенное решение некоторой общей задачи, а деятельность автономного агента в динамическом многоагентном мире (а также координация деятельности различных агентов). При этом наряду с распределенными знаниями и ресурсами, описываются локальные задачи отдельных агентов, решаемые на базе локальных концептуальных моделей и локальных критериев.

5.2. Взаимодействие, коммуникация, кооперация агентов

Помимо ранее рассмотренных представлений об агентах, объектах и средах, при разработке МАС необходимо предварительное определение и моделирование таких базовых теоретических понятий и характеристик, как взаимодействие, кооперация (сотрудничество), координация, организация, управление.

Взаимодействие агентов – вот первое, что выступает перед нами, когда мы говорим о МАС. Взаимодействие означает установление двусторонних динамических отношений между агентами. При этом оно является одновременно источником и продуктом некоторой организации. Иными словами, взаимодействие представляет собой не только следствие каких-либо действий в МАС, выполняемых агентами в одно и то же время, но и необходимое условие формирования социальных организаций.

Для определения базовых типов взаимодействия агентов в МАС можно взять следующие критерии группообразования: а) совместимость целей агентов; б) потребность в чужом опыте (знаниях); в) совместное использование ресурсов. Тогда, если обозначить наличие указанных признаков знаком +, а их отсутствие - знаком -, получаем восемь базовых ситуаций взаимодействия [72], сведенных в табл.2. Здесь граничный случай независимости агентов равносилен отсутствию МАС (полностью автономные агенты). Простое сотрудничество предполагает интеграцию опыта отдельных агентов (выражающуюся в распределении задач и обмене знаниями), когда не требуются дополнительные мероприятия по координации их действий. Непродуктивное сотрудничество реализует известную ситуацию «лебедя, рака и щуки» из басни , когда агенты, не имея потребности в опыте друг друга, но совместно используя

Табл.2. Базовые типы взаимодействия агентов

Табл.2. К определению базовых ситуаций взаимодействия агентов

ТИП СИТУАЦИИ ВЗАИМОДЕЙСТВИЯ АГЕНТОВ	Совместимость целей	Потребность в чужом опыте	Наличие распределенных ресурсов
Координируемое сотрудничество	+	+	+
Простое сотрудничество	+	+	-
Непродуктивное сотрудничество	+	-	+
Безразличие (независимость)	+	-	-
Коллективное соперничество за ресурсы	-	+	+
Чистое коллективное (командное) соперничество	-	+	-
Индивидуальное соперничество за ресурсы	-	-	+
Чистое индивидуальное соперничество	-	-	-

ресурсы, мешают друг другу. Координируемое сотрудничество означает, что агенты должны согласовать свои действия (возможно, с помощью специального агента-координатора), чтобы продуктивно использовать располагаемые опыт и ресурсы. Это - наиболее сложный случай сотрудничества, когда к проблеме распределения задач добавляется проблема координации действий, обусловленная ограниченностью ресурсов.

В некотором смысле противоположным по отношению к координируемому сотрудничеству является случай чистого индивидуального соперничества, когда агенты поставлены в практически одинаковые условия, а доступ к ресурсам не является причиной конфликта. Примером служит участие агентов в конкурсе на получение некоторого задания. Здесь при несовместимости целей агенты вынуждены вести переговоры друг с другом. Индивидуальное соперничество за ресурсы представляет собой классический вариант конфликтной ситуации, когда каждый агент хочет монополизировать имеющиеся совместные ресурсы. В случае чистого коллективного соперничества, агентам, имеющим различные индивидуальные цели, но недостаточный опыт для их достижения, приходится объединяться в коалиции. При этом вначале происходит формирование групп агентов, а затем начинается соперничество между этими группами. Наконец, коллективное соперничество за ресурсы, т. е. ситуация, комбинирующая коллективное соперничество и индивидуальные конфликты за ресурсы, представляет собой наиболее продуктивный случай конфликтной ситуации с точки зрения функционирования МАС, поскольку

конкурирующие группы способствуют ликвидации монополий и расширению рынка услуг.

Диапазон реального взаимодействия агентов очень широк: в частности, на полярной шкале «конкуренция – кооперация» он может определяться парой чисел, характеризующих степень соперничества - сотрудничества, например, (1, 0) при полном антагонизме агентов и (0, 1) при полном сотрудничестве. Здесь средняя точка «серой» (по терминологии ) шкалы (0.5, 0.5) есть точка наиболее противоречивого (двусмысленного) взаимодействия, а соответствующая точка разрыва на «черно-белой» шкале дает нам неопределенность (?, ?). Из этих соображений в результате получаем четырехзначную базовую логику взаимодействия. Удачный выбор исходного набора организационных критериев (базиса полярных шкал) и использование признака«централизация–децентрализация» позволяет социально структурировать МАС. Здесь исходными критериями могут быть, например, а) тип организации в зависимости от уровня согласования целей агентов (шкала унитарная - федеральная); б) тип управления (шкала иерархия - гетерархия); в) тип мировосприятия агентов (шкала эгоцентризм - полицентризм).

Понятие кооперации агентов играет центральную роль в МАС. Кооперация – это основная форма организации взаимодействия между агентами, характеризующаяся объединением их усилий для достижения совместной цели при одновременном разделении между ними функций, ролей и обязанностей. В общем случае это понятие можно определить формулой: кооперация = сотрудничество + координация действий + разрешение конфликтов (см. табл.2). Кооперацию можно рассматривать двояко: а) извне, с точки зрения внешнего для данной МАС наблюдателя; б) изнутри МАС как форму поведения агентов, решивших работать совместно. В первом случае, наблюдатель, начего не знающий о ментальных состояниях или намерениях агентов, стремится установить измеримые, квантифицируемые показатели кооперации. Здесь исходными критериями служат эффективность групповой деятельности агентов в МАС и наличие механизмов разрешения конфликтов.

Более детально, уровень кооперации агентов в МАС можно определить на основе следующих показателей [67]: 1) высокая степень распределения ресурсов (в том числе знаний); 2) избегание (или малая длительность конфликтов; 3) координация действий, включая согласование направления действий агентов в пространстве и во времени; 4) высокая степень запараллеливания (совмещения) задач, решаемых различными агентами; 5) неизбыточность действий, довольно малое число дублирующих, повторяющих друг друга действий; 5) устойчивость, понимаемая как способность МАС пережить отказ или потерю агента.

В свою очередь, примерами типичных ограничений на кооперацию агентов служат: их удаленность друг от друга; повышенный уровень автономии агента по отношению к группе; малая интенсивность коммуникации агентов; сильная взаимозависимость решаемых задач (например, когда один агент не может начать свою задачу без другого).

Во втором случае, когда кооперация как совместная деятельность отождествляется с формой преднамеренного поведения [55,78], базовую формулу можно записать в виде: кооперация = общая цель + обязательства агентов. Примерами использования подобной формы могут служить уставы различных ассоциаций, члены которых принимают общую цель и берут на себя обязательства совместно участвовать в некоторой работе. Очевидно, что кооперация зависит не только от установки, намерения сотрудничать, но и от поведения, а главное, от результатов совместной деятельности.

В контексте кооперации остановимся подробнее на вопросах распределения задач между агентами и согласования их действий. Можно указать три типичных способа централизованного распределения задач: 1) командное управление или система «господин-раб» (master-slave), когда агент-менеджер самостоятельно распределяет все задачи между заранее определенными агентами-исполнителями и контролирует их выполнение; 2) распределение по принципу торгов (или «объявление конкурса»), когда агент-менеджер распространяет объявление об общем задании, а потенциальные агенты-исполнители предлагают свои услуги, т. е. исполнители заранее не определены, а отбираются в результате конкурса; однако и распределение отдельных задач, и контроль остаются прерогативой менеджера; 3) распределение путем соревнования, когда агенты-исполнители дают свои предложения уже на уровне отдельных задач, т. е. происходит подбор исполнителя под конкретную задачу, а роль менеджера сводится к контролю и координации их действий.

Под координацией обычно понимается управление зависимостями между действиями [102]. Здесь возможны такие случаи как зависимость от общих ресурсов, зависимость из-за требования одновременности действий и пр.

Взаимодействия между агентами могут иметь различную степень сложности. К простейшим видам взаимодействия агентов относится их связь через сообщения от среды, как это делается в моделях коллективного поведения автоматов. Следующими по уровню сложности являются отношения взаимодействия между слабо персонофицированными агентами (например, на основе «доски объявлений»). Сложнее организовать коммуникацию между персонофицированными агентами. Здесь ведущую роль начинают играть отношения кооперации, координации и коалиции. В такие отношения вступают агенты, занятые решением общей задач или планирующие свою деятельность с учетом деятельности других агентов. И наконец, отношения неоднородности и конфликтности на множестве агентов. Переход от однородных агентов к взаимодействию неоднородных агентов позволяет решать задачи, который однородный коллектив в принципе решить не может, а конфликты в ряде случаев могут рассматриваться как положительное явление [12,78] при организации коллективного поведения агентов, способствуя достижению общей цели.

Коммуникация между искусственными агентами зависит от выбранного протокола, который представляет собой множество правил, определяющих, как синтезировать значимые и правильные сообщения. Механизмы коммуникации делятся на непосредственные и опосредованные. Непосредственная коммуникация связана с обменом информацией путем передачи сообщений, например, в русле модели акторов. Системы, основанные на посылке сообщений, характеризуются непосредственной коммуникацией, поскольку различные агенты прямо общаются, образуя децентрализованную систему с локальным управлением взаимодействием.

Механизм посылки сообщений был вначале исследован в рамках модели акторов [87,35]. Двумя важными преимуществами систем, основанных на акторах, являются модульная структура и локализация знаний (отсутствие глобальной базы знаний, доступной для всех акторов).

Механизм опосредованной коммуникации реализуется с помощью архитектуры «доски объявлений» (blackboard) [69,91] (рис.4). Здесь основная идея состоит в воспроизведении взаимодействия нескольких агентов посредством доски объявлений, на которой написаны все известные сведения и указаны решаемые задачи. Агенты в зависимости от их опыта пытаются заполнить доску объявлений. При этом доска объявлений рассматривается как промежуточный модуль - посредник для осуществления различных взаимодействий между агентами.

В принципе модель доски объявлений состоит из трех частей: а) источников знаний; б) структуры данных типа доски объявлений; в) управляющего компонента.

Управляющий компонент должен решать, какой агент (источник знаний) имеет доступ к доске объявлений в данный момент времени.

В построенных таким образом распределенных интеллектуальных системах базы знаний разбиваются на отдельные независимые модули знаний, ориентированные на конкретную задачу и соответствующие компетенции данного агента. Нередко модули знаний разделяются на два основных класса: 1) модули стратегий, служащие для планирования и управления процессом решения задачи; 2) модули тактик (активации правил), обеспечивающие реализацию стратегий и выполнение действий.

Общая архитектура доски объявлений не накладывает никаких ограничений на способ представления знаний. Эти модули могут функционировать на основе правил, фреймов, сетей, сценариев и т. д., а могут быть и простыми интерфейсами для обычных алгоритмических программ.

Когнитивные агенты как источники знаний не участвуют в их текущей обработке: они имеют декларативные знания и метазнания, используемые в модулях знаний.

Специальный класс источников знаний образует схему базы знаний, аналогичную схеме базы данных. Они реализуют механизм хранения метазнаний, описывающих модули знаний. Метазнания определяют, как используются модули знаний, как активируются правила, как они соотносятся с контекстом и другими модулями знаний. По сути, метазнания – это декларативные знания, описывающие процесс решения задачи и относящиеся к верхнему уровню интеллектуальной системы.

Доска объявлений должна содержать область прохождения сообщений, информацию о процессе решения задачи и состоянии агентов. Область сообщений обеспечивает механизм коммуникации, обмена запросами для различных модулей знаний. В простейшем случае доска объявлений имеет статическую структуру, включающую слоты для всех модулей знаний, и разбита на уровни, которые отражают различные степени абстракции в описании решаемой задачи. В слоты помещается описание различных гипотез и вариантов коммуникации. При работе интеллектуальной системы различные модули знаний независимо порождают, обновляют и оценивают эти гипотезы, относящиеся к проблемной области.

С доской объявлений связан также специальный модуль – схема доски объявлений, охватывающая декларативные знания о содержимом, организации и использовании доски объявлений. В этом модуле также хранится информация о том, какие модули знаний имеют дело с различными слотами. Эта информация служит для интеграции различных компонентов системы. Таким образом, обеспечивается механизм интерпретации доски объявлений и посылки новых сообщений.

В соответствии с рассматриваемым подходом, базовая операционная стратегия совместной работы агентов на базе доски объявлений состоит в выдвижении и обосновании гипотез (предположений). Различные агенты (источники знаний) определяют, как сформулировать и доказать гипотезу (стратегический уровень) и, далее, как провести ее пошаговую верификацию (тактический уровень). Тогда механизм вывода состоит из двух компонентов: список (последовательность) задач и монитор. В список (agenda) включаются все задачи, которые поручены МАС в текущий период времени. В любой момент времени в нем содержатся все задачи, выполняемые на основе данных с доски объявлений.

Монитор используется для контроля всего процесса решения задачи. Он сортирует задачи из списка и эвристическим путем выбирает следующую задачу для выполнения. Монитор осуществляет проверку доски объявлений и области сообщений после работы каждого агента, анализируя слоты классной доски, связанные с гипотезами, определяющими текущее состояние процесса решения. На основе механизмов прямого или обратного вывода монитор определяет, какие модули знаний соответствуют текущему состоянию. Общая архитектура интегрированной оболочки на основе модели доски объявлений представлена на рис.4.

Среди достоинств архитектуры доски объявлений надо отметить возможность стратификации процесса решения задачи и знаний о процедурах. Здесь имеется возможность единообразно представлять всю информацию о решении задачи и различную метаинформацию в мониторе доски объявлений.

Теперь подробнее остановимся на коммуникации персонифицированных агентов. Как уже отмечалось, здесь ключевым элементов оказывается процесс ведения переговоров, направленных на достижение взаимовыгодного соглашения. Чаще всего, предполагается, что правила ведения переговоров установлены заранее и известны всем агентам.

Соответственно, важнейшей сферой исследований в области коммуникации агентов является построение протоколов для ведения переговоров. К разработке протоколов обычно предъявляются следующие требования [44,120,121]: а) простота; б) децентрализация (переговоры осуществляются напрямую, без централизованного управления); в) симметричность (все агенты являются равноправными участниками переговоров); г) устойчивость (протоколы переговоров не должны позволять агентам, отклонившимся от установленных правил ведения переговоров, извлекать дополнительную пользу); д) эффективность (как по отношению к отдельным агентам, так и по отношению к их коалициям).

Отметим, что когда агенты эгоистичны, заключенные между ними соглашения всегда взаимовыгодны. Соглашение выгодно для всех агентов, если оно максимизирует функции полезности агентов на множестве допустимых соглашений. Однако, взаимовыгодность представляет собой необходимое, но не достаточное условие для устойчивости соглашений в МАС. Все это демонстрирует необходимость дополнения традиционных моделей РИИ из эгоистичных агентов, более гибкими моделями, включающими альтруистичных агентов. Агенты - альтруисты способствуют достижению большей автономности и гомеостатичности МАС по сравнению с эгоистичными.

Построение протокола ведения переговоров включает три шага: 1) определение пространства возможных соглашений; б) введение правил взаимодействия (например, на основе теории речевых актов[39,122] в терминах «предложение – контрпредложение»); в) задание оптимальных стратегий агентов.

Классическими методами исследования переговорных процессов являются методы теории полезности и теории игр, в частности, известные модели и условия оптимальности, выраженные в виде принципов равновесия. Так принцип Парето применяется для сильно централизованных систем, подсистемы которых имеют широкие возможности обмена информацией о принимаемых решениях, а равновесие по Нэшу характеризует децентрализованные системы. Эти типы оптимальности имеют разные «идейные основания»: основой оптимальности по Нэшу является устойчивость системы, обусловленная интересами и возможностями отдельных подсистем, тогда как принцип оптимальности по Парето опирается на идею полезности, выгоды для системы в целом, понимаемой как выгода сразу для всех ее подсистем. С учетом вышеприведенных требований к разработке протоколов в МАС большее применение находит арбитражная схема Нэша или математически эквивалентная ей модель Зейтена [39]. Однако, эти схемы годятся далеко не всегда (например, равновесие по Нэшу не является исчерпывающим решением для некооперативных игр).

Наиболее распространенными специальными моделями коммуникации (кооперации) агентов в РИИ являются:

·  модель договорных (контрактных) сетей Смита

·  протокол монотонных минимальных уступок (по Розеншайну и Злоткину)

·  модель социальных зависимостей Кастельфранши и Контэ.

Среди протоколов ведения переговоров в РИИ широкое распространение получил протокол монотонных минимальных уступок [118], который определяет процесс ведения переговоров между двумя агентами. Агенты делают предложения по очереди, начиная с самых выгодных для себя предложений. В процессе переговоров агенты монотонно отступают от своих первоначальных требований, т. е. функция полезности каждого агента монотонно убывает на последовательности его предложений. В работе [118] доказано, что в результате переговоров агенты выбирают то соглашение, которое максимизирует произведение их функций полезности. Множество возможных соглашений в протоколе монотонных минимальных уступок (переговорное множество) состоит из всех индивидуально рациональных соглашений, эффективных по Парето.