От многоагентных систем к интеллектуальным организациям: философия, психология, информатика - Тарасов В.Б.

Глава 1. Синергетическая перспектива становления наук об искусственном

1.2. Критический анализ рационалистической парадигмы в информатике и ИИ

1.2.2. Традиции рационализма в информатике, ИИ и смежных науках. Их критика

1.3. Синергетическая методология vs классический рационализм

1.3.2. Синергетический подход в герменевтике

1.3.3. Русский космизм, синергетика и Интернет

Глава 2. Искусственный интеллект: психологические предпосылки и современное развитие

2.1.2. Роль Ж. Пиаже в формировании основ теории интеллекта

2.2. Краткий обзор различных взглядов на природу интеллекта

2.2.2. Психологические подходы к изучению интеллекта

2.2.3. О перспективах компьютерной реализации психологических подходов к интеллекту

2.3. Развитие классических подходов и направлений в искусственном интеллекте

2.3.2. Первоначальное расхождение отдельных направлений в ИИ

2.3.3. Ограничения индивидуалистических моделей интеллекта

2.4. Смена парадигмы в искусственном интеллекте

2.4.2. Ведущие тенденции в современном ИИ

2.4.3. Системно-организационный подход в ИИ

2.4.5. Математический инструментарий синергетического ИИ

3.3. Интерпретации искусственных агентов

3.4. Подборка определений и высказываний об агентах

3.6.3. Архитектура <<соподчинения>>
3.6.4. Горизонтальные и вертикальные архитектуры агентов

3.7. Языки описания и реализации агентов

4.2. Истоки теории многоагентных систем: открытые системы и эволюционные организации в трудах А.А. Богданова

4.3. Развитие системного движения: от общей теории систем к многоагентным системам

4.5. Основы распределенного искусственного интеллекта

4.6.2. От коллективного поведения к искусственной жизни

4.6.3. Истоки и проблемы искусственной жизни

4.6.4. Некоторые модели искусственной жизни

4.7. Алгебраические модели многоагентных систем

4.8. Примеры построения многоагентных систем

4.8.2. Многоагентная система управления ресурсами

4.8.3. Многоагентная система учебного назначения

Глава 5. Взаимодействие между агентами в MAC

5.2. Критерии и ситуации взаимодействия агентов

5.3.2. Нехватка индивидуальных ресурсов
5.3.3. Неспособность агента решить задачу в одиночку
5.3.4. Наличие обязательств

5.4. Установление базовых типов сотрудничества и соперничества агентов в MAC

5.5.3. О продуктивной роли конфликтов при кооперации агентов

5.6. Описание процессов взаимодействия между агентами с помощью аппарата нечетких отношений

5.7. Использование шкал различных типов при анализе взаимодействий агентов

5.7.3. Обобщенные нечеткие множества для оценивания взаимодействия на полярных шкалах

5.8. Способы формирования различных архитектур MAC в процессах взаимодействия агентов

Глава 6. Организации: естественные и искусственные

6.3. Подборка определений и высказываний об организациях

6.4. Критерии организационного проектирования MAC

6.5. Тейлоровские и посттейлоровские организации MAC

6.5.2. Неоклассическая теория организаций

6.6.2. Классификация по распределению функций и режимам управления
6.6.3. Классификация по целям
6.6.4. Классификация по трем критериям

6.7. Организация и самоорганизация в MAC

6.9.2. Фрактальные организации
6.9.3. Расширенные организации

Глава 7. Деятельность агента и ее моделирование

7.1.2. Основные функции и структуры деятельности

7.2. Физиологические модели организации поведения

7.4. Синтез деятельности искусственных агентов

7.5. Обобщенная модель деятельности искусственных агентов

7.6. Интенциональные характеристики агентов

7.6.2. Логическое описание интенциональных характеристик

7.7.2. Простейшие абстрактные модели агентов

7.8. Роль обязательств в формировании коллективных действий агентов

8.2. Прикладная семиотика и семиозис агентов

8.3.2. Эволюционное моделирование в прикладной семиотике

8.4. Базовые функции коммуникации агентов

8.5.3. Коммуникация как целенаправленное взаимодействие. Модель коммуникации Э.В. Попова

8.6. О реализации механизмов коммуникации агентов

8.7. Теория и средства коммуникации, базирующиеся на речевых актах
8.7.2. Типология речевых актов

8.8. Модель координации на основе коммуникативных актов: потоки работ

Глава 9. Проектирование многоагентных систем и искусственных организаций

9.2. Эволюционное и коэволюционное проектирование MAC

9.3. Проектирование многоагентных систем на основе обобщенного объектно-ориентированного подхода

9.3.2. Основы стандартной методологии проектирования MAC

9.3.3. Описание этапов объектно-ориентированной разработки MAC

9.4. Нисходящее и V-образное проектирование MAC и ВО

9.4.2. Смешанное V-образное проектирование

Автор: Тарасов В.Б.

Теги: искусственный интеллект информатика системный анализ монография информационные технологии

ISBN: 5-8360-0330-0

Год: 2002

Похожие

Теория и практика эволюционного моделирования

Новое в искусственном интеллекте. Методологические и теоретические вопросы

Интеллект и технологии. Монография

Введение в теоретическую информатику. Часть 2

Текст

НАУКИ об
ИСКУССТВЕННОМ
В.Б.Тарасов
ОТ МНОГОАГЕНТНЫХ
СИСТЕМ
К ИНТЕЛЛЕКТУАЛЬНЫМ
ОРГАНИЗАЦИЯМ:
философия, психология,
информатика
Москва • 2002
УРСС

ББК 32.813
# Настоящее издание осуществлено при финансовой
И поддержке Российского фонда фундаментальных
исследований (проект № 99-01-14030)
Редакционный совет серии:
Э.В.Попов — д.т.н., проф. (председатель);
В. И.Аршинов — д.филос. н., проф.; В. Б. Бритков — к.ф-м. н., доц.;
В.В.Емельянов — д.т.н., проф.; О.П.Кузнецов — д.т.н., проф.;
В. М.Курейчик — д.т.н., проф.; В. Е.Лепский — д. психол.н., проф.;
Г. Г. Малинецкий — д.ф.-м.н., проф.; Г.С.Осипов — д.ф.-м.н., проф.;
В.Г.Редько — д.ф.-м.н., проф.; В.М.Розин — д.психол.н., проф.;
В.Б.Тарасов — к.т.н., доц. (ученый Секретарь);
Ю.В.Тюменцев — к.т.н., в.н.с, А.С.Юшенко — д.т.н., проф.
Тарасов Валерий Борисович
От многоагентных систем к интеллектуальным организациям: философия,
психология, информатика. — М.: Эдиториал УРСС, 2002. — 352 с. (Науки
об искусственном.)
ISBN 5-8360-0330-0
Книга посвящена теории агентов, многоагентных систем (MAC) и интеллектуальных
организаций — одной из новых, бурно развивающихся областей информатики и
искусственного интеллекта. В ней проведено системно междисциплинарное исследование
главных проблем развития агентно-ориентированного подхода как фундамента наук об
искусственном. Построены основы синергетического подхода в искусственном интеллекте.
Рассмотрена общая методология изучения искусственных агентов на индивидуальном,
групповом и социальном уровнях. Проанализированы индивидуальные свойства агентов
и соответствующие классы MAC. Описаны различные виды взаимоотношений между
агентами и организационные структуры MAC. Исследованы пути создания искусственных
сообществ и интеллектуальных организаций. Систематизированы важнейшие структуры
деятельности и поведения агентов, предложена обобщенная модель деятельности. Выделены
семиотические аспекты коммуникации агентов, рассмотрены модели общения. Изложены
методики восходящего, нисходящего, смешанного проектирования MAC и искусственных
организаций. Разработаны формальные модели MAC, взаимоотношений между агентами,
многокритериального синтеза организационных структур по лингвистическим критериям.
Книга предназначена для широкого круга читателей, интересующихся науками
об искусственном, в частности, проблемами теории агентов, многоарентных систем,
интеллектуальных организаций, искусственной жизни. Она может быть полезной для
специалистов в области информатики и искусственного интеллекта, системного анализа
и теории организаций, философов и психологов, инженеров и программистов —
разработчиков перспективных информационных и коммуникационных технологий. Также может
быть использована аспирантами и студентами вузов.
Рецензенты: д. т. н., проф. В. М. Курейчик, д. т. н. И. Б. Фоминых
НИ III1111 IIIIIIIIII II II III II ISBN 5-8360-0330-0
© В. Б. Тарасов, 2002
© Эдиториал УРСС, 2002

О серии
«Науки об искусственном»
Этой монографией издательство УРСС открывает новую
междисциплинарную серию книг «Науки об искусственном». Данная серия возникла по инициативе
Российской ассоциации искусственного интеллекта (РАИИ). Ее основание
вызвано стремлением объединить усилия специалистов различных областей —
инженеров и математиков, философов и психологов, физиологов и биологов, социологов
и лингвистов, программистов и системотехников — в исключительно важном деле
разработки теоретических, методологических и практических основ нового класса
наук, которые нобелевский лауреат Г. Саймон назвал «науками об искусственном».
Почему и как возникла идея выпуска данной серии? В последние годы
происходит бурное развитие передовых информационных и коммуникационных
технологий, проникновение процессов информатизации и компьютерной
интеграции во все сферы жизни общества. Образуется единое мировое
информационное пространство, зарождается сетевая цивилизация, основанная на знаниях. Все
это обусловливает необходимость новой стратегии развития науки, опирающейся
на междисциплинарные исследования. По нашему мнению, стратегическое
значение междисциплинарных исследований состоит в том, что сегодня только на их
основе можно обеспечить реальный прорыв в тех или иных областях знания или
разработке тех или иных инновационных технологий.
Здесь следует отметить, что пока отечественные читатели не приучены к
книгам междисциплинарного характера, которые требуют философских
рассуждений, построены на разнородном материале и неизбежно несут в себе элементы
дискуссионности. К сожалению, многие не понимают их революционной
роли, предпочитая узкоспециализированную литературу или издания, написанные
в стиле «руководства пользователя». Эта тенденция особенно укрепилась в
последние годы. Между тем, западные, в особенности американские читатели (и,
конечно, издатели) уделяют наибольшее внимание как раз междисциплинарной
литературе с «налетом» философии. Именно междисциплинарные книги
постановочного характера, содержащие нестандартные, неожиданные идеи и ростки
оригинальных решений, могут обеспечить продвижение в неизведанные области,
которые в конечном итоге породят новые технологии и обеспечат максимальную
прибыль. Поэтому, книги, написанные в таком жанре, там хорошо продаются
и приносят наибольшие дивиденды. Блестящим примером служит знаменитая
монография М. Хаммера и Дж. Чампи «Реинжиниринг предприятий: манифест
революции в бизнесе», в которой изложены основы новой философии и
психологии стратегического менеджмента. Эта книга инициировала развитие мощного
направления, связанного с реорганизацией процессов и формированием
сетевых структур предприятий. В течение нескольких лет она занимала лидирующие
позиции среди бестселлеров американского книжного рынка.
Среди междисциплинарных научно-практических областей следует,
несомненно, выделить науки об искусственном, которые по многим признакам можно
отнести к наукам нового поколения. Типичными представителями современных
наук об искусственном являются:

4
О серии «Науки об искусственном»
• робототехника и примыкающие к ней дисциплины, занимающиеся
конструированием искусственных органов (эффекторов, рецепторов), а также
синтезом искусственных движений и действий;
• виртуалистика, предметом которой выступает создание искусственных сред
(виртуальных реальностей);
• семиотика — наука о знаковых системах и их приложениях в современных
процессах и средствах коммуникации;
• нейроинформатика - наука об искусственных нейронных сетях;
• компьютерная лингвистика — наука о естественных и искусственных языках,
применяемых для обеспечения работы ЭВМ.
Центральное место среди этих наук занимают искусственный интеллект (ИИ)
и искусственная жизнь — обобщающие научно-практические комплексы, которые,
вобрав в себя наиболее ценные идеи и подходы современного естествознания,
воплощают их в компьютерных системах, способных решать интеллектуальные
задачи, ранее бывшие прерогативой специалистов, или действовать, используя
принципы и механизмы организации живых существ. Можно предположить, что
уже в первые десятилетия XXI-го века науки об искусственном выйдут на
авансцену мирового развития и сформируются основы единой теории открытых,
активных, неоднородных, развивающихся искусственных систем.
Хотелось бы отметить, что в России накоплен многолетний
положительный опыт издания подобных серий. Например, большой читательский успех
имел ряд проектов издательства «Наука», таких как: «Проблемы
искусственного интеллекта», «Научные основы робототехники», а особенно, популярная
серия «Кибернетика — неограниченные возможности и возможные
ограничения». В свою очередь, издательство УРСС также имеет хороший опыт в этой
сфере: с 1996 г. оно публикует междисциплинарную серию книг «Системные
исследования», позже появились интересные серии «Философы ХХ-го века», «Из
истории логики ХХ-го века» и др. Им также активно издаются монографии
классиков науки, посвященные проблемам научной методологии и
взаимодействия различных научных областей (например, книги К. Поппера, И. Пригожина,
Р. Пенроуза и др.).
Предлагаемая вашему вниманию серия открыта для всех, кого интересует ее
проблематика. Нам хотелось бы видеть в числе ее авторов не только ученых,
объединяемых в рамках Российской ассоциации искусственного интеллекта, но также
представителей самых различных научных школ и движений: философов,
разрабатывающих методологические проблемы виртуалистики, синергетики, развития
искусственных систем; психологов, исследующих процессы познания,
деятельности, общения, рефлексивного поведения, взаимодействия образных и вербальных
механизмов мышления; специалистов в области лингвистики и семиотики (в
особенности, тех, кто занимается компьютерной лингвистикой и объединяется вокруг
известных семинаров «Диалог»); многочисленных приверженцев нейроинформа-
тики и пока еще редких энтузиастов столь многообещающего направления как
искусственная жизнь; специалистов по менеджменту, реинжинирингу, логистике,
теории организаций, занимающихся разработкой и приложениями
искусственных агентов и виртуальных организаций; математиков, стремящихся развивать
формальный аппарат для моделирования факторов сложности, неопределенности,
эволюции систем различной природы, и многих-многих других.
Несколько слов о книге, открывающей серию, и ее авторе. Предлагаемая
вниманию читателей монография «От многоагентных систем к интеллектуальным

О серии «Науки об искусственном»
5
организациям» хорошо подходит на роль «застрельщика» серии. В ней
рассмотрены стержневые области, «пронизывающие» различные науки об искусственном, —
теория агентов, многоагентные системы и интеллектуальные организации. Автор
книги В. Б. Тарасов, будучи известным специалистом в области искусственного
интеллекта, давно является активным сторонником междисциплинарных
исследований. Круг его научных интересов достаточно широк: помимо проблематики,
отраженной в заголовке книги, он ведет исследования и разработки в сфере
теории и приложений нечетких множеств, построения виртуальных
организаций в промышленности и образовании, развития подходов к интеллектуализации
проектирования и производства, моделей прикладной семиотики и теории
деятельности.
По своему замыслу и содержанию монография В. Б. Тарасова весьма необычна
и имеет ряд несомненных достоинств. Укажем главные из них.
1. Это первая книга на русском языке, в которой систематически изложены
основы теории искусственных агентов и многоагентных систем (MAC). С одной
стороны, в монографии достаточно четко прослеживаются три уровня
исследований в русле агентно-ориентированного подхода: индивидуальный (агенты) —
коллективный (многоагентные системы) — социальный (искусственные
организации). При этом большой интерес представляют определение интеллектуальной
организации и ее примеры, схема перехода от многоагентных систем к
интеллектуальным организациям и виртуальным сообществам, а, особенно, идея
обратного продвижения от организации к агентам. В то время, как теория и
методы восходящего проектирования MAC из индивидуальных агентов, в частности,
на основе объектно-ориентированного программирования, достаточно хорошо
известны и описаны в зарубежной периодике, концепции интеллектуальной
организации и нисходящего проектирования MAC являются оригинальными и имеют
важное прикладное значение в контексте реинжиниринга предприятий и создания
посттейлоровских организаций. С другой стороны, автор последовательно и
логично излагает различные аспекты теории агентов и MAC: индивидуальные свойства
агентов и соответствующие классы MAC; виды взаимоотношений между агентами;
классы организационных структур MAC; характеристики действий и поведения
агентов; модели коммуникации агентов. Им предложены общее алгебраическое
представление MAC и базовая схема ее организации на основе четырех
основных ролей агентов, методология исследования взаимоотношений между агентами
в MAC и вариант формализации их взаимодействий с использованием
модифицированных нечетких отношений, обобщенное представление деятельности агентов
как автономной, самоорганизующейся системы, и ряд других моделей.
2. В книге сформулированы принципы синергетического подхода в
информатике и ИИ, введено понятие синергетического ИИ, выделены его предмет,
содержание и основные проблемы. По нашему мнению, распространение идей
синергетики в ИИ может оказаться чрезвычайно плодотворным. Почему именно
сейчас это выглядит весьма актуальным и своевременным? В последнее
десятилетие в ИИ разразился кризис, связанный с широким осознанием существенной
ограниченности традиционной когнитивистской парадигмы, безраздельно
господствовавшей долгие годы. В связи с этим на многих конференциях и семинарах
во всем мире активно обсуждаются возможности развития новых,
нетрадиционных подходов в ИИ. В частности, на VI-й Национальной конференции по ИИ,
проведенной РАИ И в 1998 г., был организован специальный Круглый стол
«Парадигмы ИИ» (его материалы опубликованы в журнале «Новости ИИ», 1998, №3),

6
О серии «Науки об искусственном»
а в 2001 г. состоялся международный конгресс «ИИ в XXI-м веке», на котором
этим проблемам также уделялось повышенное внимание.
На наш взгляд, введенная В.Б.Тарасовым парадигма синергетического ИИ
весьма удачна и имеет хорошие перспективы, поскольку помимо собственно
теории агентов (где слово «синергия» означает, что многоагентная система,
составленная из кооперирующих агентов, всегда несет новое качество по сравнению
с изолированными агентами) она охватывает и ряд других генеральных
направлений и принципов развития ИИ в начале XXI-го века. В первую очередь, это
принцип дополнительности, предполагающий объединение дискретных и
непрерывных, символьных и коннекционистских, логических и эволюционных моделей
в ИИ. Это магистральное прикладное направление, связанное с созданием
компьютеров нового поколения, которые основаны на интеграции левополушарных
и правополутарных механизмов мышления (см. например, японский проект
"Real World Computing"). А главное, сюда же можно отнести организацию
взаимодействия образных и символьных компонентов в сложных интеллектуальных
системах, с которым многие связывают грядущие поколения прикладных
интеллектуальных систем. Здесь надо подчеркнуть, что синергетический ИИ не свог
дится к гибридным экспертным системам, использующим только символьные
информационные технологии, или простому объединению агентов на основе
механизма «доски объявлений». Точно также его нельзя отождествлять с «чистыми»
нейронными сетями. Речь идет о формировании качественно новых, сложных
интеллектуальных систем, благодаря соединению неоднородных компонентов и/или
кооперативным эффектам, процессам координации и взаимной адаптации.
3. Необходимо особо отметить смелую и вполне удавшуюся, по нашему
мнению, попытку автора осветить проблематику книги под различными углами
зрения: с позиций системного анализа и наук об искусственном, информатики
и ИИ, психологии и социологии, физиологии и семиотики. Сама идея собирания
«граничащих друг с другом земель знаний в единое государство» с названием
«науки об искусственном» заслуживает уважения и всяческой поддержки.
Конечно, как и любая другая книга, монография В. Б.Тарасова не лишена
недостатков. При этом отдельные недостатки вытекают из ее достоинств, в
частности, из желания автора «объять необъятное», т. е. охватить как можно шире всю
область теории агентов и MAC. Но порой это приводит к фрагментарности
изложения. При всей логичности структуры книги уровень проработки и изложения
глав различен. Так вторая глава видится нам излишне растянутой,
перегруженной определениями и цитатами, тогда как в главах 7-9 имеются параграфы, где
материал изложен отрывочно, конспективно, и его надо было бы детализировать.
Чем шире тематический охват, тем больше замечаний можно сделать по
содержанию книги. Представители каждой из затронутых в монографии научных
областей могут выделить свои группы замечаний. Скажем, разработчики
интеллектуальных систем могут посетовать по поводу «излишне гуманитарного» стиля,
изобилия ссылок, характерного скорее для монографий по философии или
психологии, малого числа конструктивных примеров. Напротив, философы наверняка
отметят малое количество ссылок на работы по методологическим проблемам
синергетики, а также недостаточную проработку философских вопросов
формирования агентов. Этот перечень можно было бы продолжить. Тем не менее,
все подобные замечания, касающиеся отдельных деталей, не влияют на общую
высокую оценку монографии, которую можно смело рекомендовать широкому
кругу читателей.

О серии «Науки об искусственном»
1
В заключение хотелось бы выразить надежду, что серия «Науки об
искусственном» обеспечит предпосылки для более интенсивных и эффективных контактов
ученых и специалистов из различных научных сообществ, а также будет
способствовать формированию (и воссозданию) междисциплинарных научных групп,
необходимых для развития новых «прорывных направлений».
Вице-президент Российской ассоциации искусственного интеллекта,
академик Российской академии естественных наук,
лауреат премии Президента России,
доктор технических наук, профессор
Э. В. Попов

Светлой памяти моих родителей, Бориса Ивановича
и Валентины Александровны Тарасовых, посвящается
Предисловие
В монографии предпринята попытка провести
системно-междисциплинарное исследование главных проблем теории агентов и агентно-ориентированного
подхода в целом как фундамента наук об искусственном. Подобное исследование
предполагает не только рассмотрение проблем построения агентов в информатике,
искусственном интеллекте или искусственной жизни, но и анализ философских,
психологических, семиотических и прочих аспектов методологии агентов. Оно
опирается на синергетическую методологию современной науки.
Такой жанр книги объясняется несколькими причинами. С одной стороны,
монографий с популярным и систематическим изложением основных понятий,
идей и моделей теории агентов и многоагентных систем (MAC) на русском языке
до сих пор нет, и автор надеется, что эта книга позволит хоть в какой-то степени
восполнить этот пробел. Он стремился воссоздать общую, целостную картину
изучения искусственных агентов на индивидуальном, групповом и социальном
уровнях, что потребовало широкого охвата темы (хотя такой путь порой чреват
эклектичностью изложения и опасностью критики по всем направлениям).
Проблематика искусственных агентов, многоагентных систем и интеллектуальных
организаций требует знания основ информатики и искусственного интеллекта, психологии
и лингвистики, социологии и биологии, теории организаций и теории
деятельности, теории управления, теории коммуникации и ряда других научных дисциплин.
С другой стороны, молодые читатели, знакомящиеся с агентно-ориентиро-
ванными технологиями по англоязычной литературе или в процессе
использования имеющихся программных сред разработки агентов (например, Agent Builder,
Bee-gent и др.), могут прийти к выводу, что перед ними предстают совершенно
новые подходы, которые возникли и совершенствовались на Западе, а в
нашей стране совсем не развиты. В действительности, все обстоит далеко не так.
Предыстория ряда идей синергетического толка, многих представлений об
агентах, MAC, механизмах их взаимодействия, поведения и эволюции тесно связана
с работами знаменитых отечественных философов (А. А. Богданов, Н. О. Лос-
ский, П.С.Флоренский), физиологов (П. К.Анохин), психологов (В. М. Бехтерев,
Л.С. Выготский, А. Н.Леонтьев), лингвистов (Ю. М.Лотман). Прямыми
предшественниками исследований по искусственной жизни были выдающиеся ученые
в области математики и кибернетики А. Н. Колмогоров и А. А. Ляпунов. Наконец,
в числе пионерских достижений в области моделирования агентов и коллективов
агентов можно назвать результаты Н. М.Амосова, М. М. Бонгарда, В.А. Лефевра,
В. Л. Цетлина, Д. А. Поспелова, Э. В. Попова, В. Л. Стефанюка, а также других
видных советских и российских ученых. Поэтому значительное место на
страницах книги занимает изложение их работ, относящихся к тем или иным аспектам
теории агентов и искусственной жизни.
Все это подразумевает многоплановость изложения, необходимость в
осуществлении переходов от одного плана к другому: от классических наук к наукам

О серии «Науки об искусственном»
9
об искусственном, от естественного интеллекта к искусственному, от
индивидуального интеллекта к коллективному, от профаммного объекта к искусственному
агенту, от агента к многоагентной системе, от многоагентной системы к
интеллектуальной организации и виртуальному сообществу, от коллективного
поведения к искусственной жизни, и т. д. В то же время, для сохранения идейного
единства монофафии нужно выделить системное ядро, своего рода каркас
исследования. Здесь в качестве такого ядра выступает синергетическая методология,
опирающаяся на соответствующее философское, психологическое, семиотическое
обоснование. Философские аспекты теории агентов связаны, в первую очередь,
с изучением искусственного агента как промежуточного звена между субъектом
и о&ьектом, а также с философским обоснованием принципа единства свободы
и зависимости в MAC. Механизмы формирования агентов и MAC тесно связаны
с такими областями психологии как теория мотивации, теория деятельности,
теория общения, теория малых фупп, теория когнитивного баланса и т. п.
Книга состоит из девяти глав. В первой главе обсуждаются причины и
содержание кризиса традиционной рационалистской концепции научного
исследования в контексте формирования и развития новых наук начала XXI-го века,
называемых науками об искусственном. Очерчен общий спектр наук об
искусственном, показаны их коренные отличия от дисциплин классического естествознания.
Затем дан критический анализ традиционного научного мировоззрения,
проникнутого рационализмом, в том числе, рационалистических традиций в
искусственном интеллекте, структурной лингвистике и теории управления. В заключение
изложены основы синергетического научного мышления. Прослеживаются корни
синергетического мировоззрения в древнекитайской философии, герменевтике
и движении русского космизма.
Вторая, наиболее объемная глава, посвящена психологическим истокам и
современному развитию ИИ. В ее первом разделе отмечены основные исторические
направления развития психологии, дающие ключ к теоретическому осмыслению
различных подходов к моделированию интеллектуальных систем и агентов. В
следующем разделе сделан краткий обзор идей и результатов ряда психологических
школ, занимавшихся исследованием естественного интеллекта. Предварительно
дана сводка определений и высказываний об интеллекте, начиная с простейших
представлений на уровне «здравого смысла» и кончая воззрениями и
концепциями, разработанными известными психологами. Этот материал стал
«концептуальным мостом» для перехода к анализу классических определений и формулировок
искусственного интеллекта. В заключительной части главы освещены важнейшие
направления в ИИ, включая новейшие тенденции его развития. Рассмотрены
ступени сложности в интеллектуальных системах, указаны причины появления
MAC как «социального измерения» в ИИ. Сформулированы основные принципы
и проблемы синергетического ИИ, систематизирован его математический
инструментарий (в первую очередь, методы работы с НЕ-факторами). В частности,
рассмотрены варианты представления знаний агентов на оппозиционных
шкалах, предложена общая схема описания НЕ-факторов на шкалах в рамках алгебр
Клини. Введены обобщенные (интуиционистские) точные и нечеткие оценки
на шкалах, предложены соответствующие операции над ними. Затронуты модели,
связанные с отношением предпорядка, порождаемым на основе класса операторов
отрицания.
Ключом к пониманию логики построения и взаимосвязи последующих глав
служит представление о многоагентной системе как наборе
MAS = (А, Е, R, ORG, ACT, COM, EV),

10
О серии «Науки об искусственном»
согласно которому она понимается как множество агентов А, способных
функционировать в некоторых средах Е, находящихся в определенных отношениях
R и взаимодействующих друг с другом, формируя некоторую организацию ORG,
обладающих набором индивидуальных и совместных действий ACT (стратегий
поведения и поступков), включая возможные коммуникативные действия СОМ, и
характеризуется (как, впрочем, и отдельные агенты) возможностями эволюции EV.
Поэтому изложение ведется по следующей схеме: «агенты — многоагентные
системы (коллективы агентов) — исследование взаимоотношений между агентами —
построение различных организаций индивидуальных и коллективных агентов —
проектирование деятельности агентов — моделирование общения между
агентами (семиотика агентов) — методология разработки MAC». По техническим
причинам в монографию не удалось включить специальную главу, посвященную
эволюции агентов, MAC и виртуальных сообществ (в некоторой степени эти
вопросы освещены в главе 4).
Третья глава начинается с небольшого экскурса в историю развития агентно-
ориентированного подхода. Далее приведены основные понятия и определения
теории агентов, предложены различные интерпретации искусственных агентов,
даны варианты классификации программных агентов. Также предложена
подборка определений и высказываний об агентах. Раскрыта суть перехода от объектно-
ориентированного к агентно-ориентированному программированию.
Рассмотрены важнейшие архитектуры агентов. В конце главы помещен краткий обзор
языков описания и реализации агентов.
Четвертая глава посвящена многоагентным системам. Она открывается
анализом истоков теории многоагентных систем в недрах системного движения
ХХ-го века. Затем выделены и проанализированы различные типы
многоагентных систем (системы распределенного и децентрализованного ИИ, интеллекта
роя и искусственной жизни). Прослежены связи между моделями коллективного
поведения и искусственной жизни, рассмотрены примеры реализации систем
искусственной жизни. Изложен ряд формальных моделей MAC. Даны примеры
использования MAC в области моделирования открытых сетевых предприятий,
управления ресурсами, интеллектуальных обучающих систем. Затронуты вопросы
построения онтологии в MAC и показана роль агента онтологии.
В главе 5 рассмотрены причины, характеристики и виды взаимодействий
между агентами. На основе булевых шкал определены идеальные (базовые) типы
взаимодействия, проанализированы варианты сотрудничества и соперничества
агентов. Выделение реальных типов взаимодействия производится с
использованием небулевых шкал, допускающих противоречивые и неточные оценки. Исходя
из предложенной классификации агентов по их отношению к себе и партнерам
(эгоистичные, благонамеренные, злонамеренные и т.д.) исследованы
возможности формирования общих целей агентами различных типов и соответствующие
формализмы. Разработана общая методика исследования взаимодействий между
агентами, рассмотрены ее основные шаги. В основу формализации
взаимодействий между агентами положен аппарат нечетких отношений, принимающих
значения в интервале [-1, +1]. Подробно описаны механизмы кооперации и
координации агентов. Раскрыты недостатки традиционных игровых моделей,
изложены специальные модели кооперации, включая модель контрактных сетей,
модель аукциона, теорию социальных зависимостей и др.
Центральное место в книге занимает шестая глава, посвященная
естественным и искусственным организациям, в особенности, проблемам создания
интеллектуальных, экобионических и виртуальных организаций. Вначале приведены

О серии «Науки об искусственном»
11
основные парадигмы организаций, дана подборка определений и высказываний
об организациях. Рассмотрены основные вопросы организационного
моделирования в контексте создания MAC. Освещены ключевые аспекты самоорганизации
в MAC. Проведен сравнительный анализ тейлоровских и посттейлоровских
(сетевых) организаций, выделены основные классы сетевых организаций, показаны
конкретные пути и стратегии интеллектуализации организаций. В заключительной
части главы даны основные понятия и определения, связанные с виртуальными
организациями. Рассмотрены главные характеристики виртуальных организаций
как социальных агентов, т. е. сетей, состоящих из индивидуальных и коллективных
агентов, сформулированы соответствующие экстремальные принципы.
Трудно себе представить полноценное описание агентов без знания
элементов современной теории деятельности. В седьмой главе подробно изложены
основы психологической теории деятельности, рассмотрена социологическая
теория действия, приведены физиологическая модель организации поведения и ее
кибернетический аналог. Значительное место уделено вопросам
проектирования деятельности и организации поведения искусственных агентов. В результате
синтеза ключевых представлений психологии деятельности построена
обобщенная модель деятельности искусственных агентов. Специальный раздел посвящен
вопросам анализа и моделирования интенциональных характеристик агентов,
лежащих в основе самоорганизации деятельности. Перечислены также подходы
к формализации интенций, действий и операций. Кратко изложены
соответствующие математические методы.
Восьмая глава содержит описание проблем и моделей коммуникации
агентов. Особое внимание уделено знаковой коммуникации. Поэтому в начале главы
рассмотрены основы теоретической и прикладной семиотики, вопросы семи-
озиса агентов. Предложена концепция эволюционной семиотики и показаны
варианты построения эволюционных семиотических систем. Описаны три
базовые модели коммуникации агентов: классическая теоретико-информационная
(и опирающаяся на нее лингвистическая модель), семиотическая,
социально-психологическая. Рассмотрены различные механизмы коммуникации программных
агентов: от «доски объявлений» до речевых актов.
Наконец, в девятой главе изложена методология проектирования MAC и
искусственных организаций. Проведен сравнительный анализ восходящего и
нисходящего подходов к проектированию MAC. В рамках восходящего подхода
предложены варианты эволюционного и коэволюционного проектирования MAC,
изложена стандартная методика обобщенного объектно-ориентированного
проектирования. На примере задачи синтеза организационных структур на ранних
стадиях реинжиниринга организаций рассмотрена методика нисходящего
проектирования искусственных организаций. Предложена общая схема гибридного
V-образного проектирования.
Автор сознает, что монография отнюдь не лишена недостатков и содержит
пробелы в изложении ряда важных проблем агентно-ориентированного подхода.
В силу обширности темы и ограничений по объему на страницах книги почти
не нашлось места примерам, демонстрирующим применение методов и моделей
агентов и MAC. Мало внимания было уделено изложению логических,
теоретико-игровых и других формальных подходов в теории агентов. Лишь конспективно
были затронуты языки, библиотеки и среды разработки агентов. Эти проблемы
предполагается осветить в последующих книгах серии «Науки об искусственном».
Автор будет искренне признателен за критические замечания по структуре и содер-

12
б серии «Науки об искусственном»
жанию монографии, а также охотно откликнется на предложения, направленные
на ее улучшение.
Автор выражает свою благодарность С. М.Авдошину, В. Н. Вагину, В. Ф. Гор-
неву, В. В. Емельянову, А. П. Еремееву, В. П. Кутепову, Б. В. Палюху, Н. А.
Семенову за поддержку данного направления на кафедрах «Компьютерные системы
автоматизации производства» МГТУ им. Н. Э. Баумана, «Прикладная
математика» Московского энергетического института, «Информационные технологии»
Российского государственного технического университета «МАТИ»,
«Информационные системы» Тверского государственного технического университета. Ему
хотелось бы также отметить вклад своих студентов и аспирантов, в особенности,
С. В. Арсеньева, Ю. Е. Багоцкого, В. А. Доброхотова, С. В. Егорова, О. В. Залив-
нова, Е. С. Ивановой, Е. А. Луговской и других, проявивших интерес к
технологии агентов и ее приложениям. Он глубоко признателен А. Н. Аверкину,
Ю. Р. Валькману, В. В. Голенкову, В. И. Городецкому, В. Н. Захарову, О. П.
Кузнецову, В. М. Курейчику, О. И.Ларичеву, Г. С. Осипову, Г.С. Плесневичу, Э. В. Попову,
В. Л. Стефанюку, И.Б.Фоминых и другим коллегам из Российской ассоциации
искусственного интеллекта за ряд полезных обсуждений и замечаний по
содержанию книги. Автор, имеющий базовое инженерное образование, с удовольствием
вспоминает годы своей работы в Институте психологии АН СССР, а также давние
дискуссии с А. М. Волковым и Ю. М. Забродиным, в которых формировались его
представления об организации психики и проектировании деятельности агентов.
На заключительной стадии подготовки книги существенную помощь оказал
коллектив издательства УРСС, во-многом благодаря кропотливой работе которого
публикация и выходит в свет.
Особую благодарность автор адресует Д. А. Поспелову, чьи лекции, беседы
и советы послужили толчком для написания данной книги.

Введение
Предлагаемая вниманию читателей монография называется «От многоагент-
ных систем к интеллектуальным организациям: философия, психология,
информатика». Такой подзаголовок неслучаен. Когда автор думал над замыслом этой
книги, в памяти возник фантастический рассказ Д. А. Поспелова
«Соприкосновение», посвященный контакту различных миров. В нем главный герой популярно
излагает свою теорию концептуальных разломов:
«Изобразим на листе бумаги две пересекающиеся линии. Пусть каждая из них
представляет некоторый одномерный мир. Если представить себе жителей этих
миров — "одномерок", то живущие на одной прямой ничего не знают о своих
собратьях, обитающих на другой прямой. Но у этих двух независимых миров есть
особая точка — точка их пересечения. Она принадлежит сразу двум мирам. В этом
месте миры как бы соприкасаются между собой. Размерность этой особой зоны
равна нулю, и никакая одномерка из одного или другого мира не может поместиться
в этой зоне контакта. Миры как бы проходят друг через друга, не давая их жителям
ощутить соседний мир... Такая же ситуация сохраняется и при пересечении двух
трехмерных миров. Область контакта между ними представляет собой плоскость —
двухмерный мир, недоступный для жителей трехмерного мира...
...Но, взаимодействие между мирами все-таки существовало. Миры как бы
колебались во времени, угол наклона между ними менялся, и от этого движения зона
контакта иногда меняла свою размерность. Точка вдруг превращалась в линию, линия
в плоскость, а плоскость в трехмерное пространство. Эти кардинальные изменения
происходили в очень малых зонах пространства и на очень короткое время. И на это
время в зоне изменений как бы открывалась дверь из одного мира в другой, и жители
одного из миров вполне могли переместиться на это время в другой мир. Потом
размерность скачком возвращалась к прежнему значению, и дверь в соседний мир
захлопывалась. Такие соприкосновения миров объясняли многие загадочные явления,
происходившие на Земле...»
Этот отрывок в своей первой части напоминает историю долгого периода
дифференциации наук, когда различные научные дисциплины развивались
независимо, словно параллельные миры, лишь изредка соприкасаясь друг с другом,
а отдельные ученые, получая все более узкую специализацию, мало что знали
о достижениях даже своих «близких собратьев». К счастью, в последние годы
все чаще и чаще, возникают новые области контакта между отдельными
дисциплинами, происходит взаимопроникновение идей, установление аналогий между
полученными результатами и тенденциями развития. Во многом это объясняется
появлением и широким внедрением во все сферы жизни общества передовых
информационных и коммуникационных технологий, таких как Web-технологии
и прикладные интеллектуальные системы. Современные технологии опираются
на достижения многих научно-технических дисциплин, среди которых на первый
план выходят синтетические науки нового поколения — науки об искусственном.
Во второй части приведенного фрагмента из рассказа «Соприкосновение»
прекрасно илллюстрируется одна из главных идей синергетической парадигмы
в современной науке. В сложных системах существуют особые, неустойчивые,
резонансные состояния, в которых небольшие внешние флуктуации могут
внезапно привести к совершенно новым последствиям, абсолютно отличающимся

14
Введение
от обычных. Подобные состояния (концептуальные разломы) связаны с наличием
зон бифуркации, в которых дальнейшая эволюция системы практически
непредсказуема — неизвестно, станет ли ее развитие хаотическим или родится новая,
более упорядоченная структура. Здесь переход от порядка к хаосу и обратная
возможность спонтанного возникновения порядка из хаоса — важнейшие моменты
процессов самоорганизации.
В целом, ситуация в ИИ начала XXI-го века удивительно напоминает
кризис физики, происходивший около ста лет назад. В течение двух с половиной
веков научная картина мира практически полностью определялась декартовским
рационализмом и механикой Ньютона. Появление термодинамики, теории
относительности, квантовой механики, двойственной квантово-волновой теории
света, привело к необратимым концептуальным разломам фундамента
классической физики, которые впоследствии вызвали революционные изменения наших
представлений о науке в целом, связанные с переходом от «абсолютного
естествознания» к науке с ограниченной рациональностью.
Похожие процессы происходят сейчас в ИИ. Классическая логика,
символьная (когнитивистская) парадигма, традиционные подходы инженерии знаний,
роль которых в ИИ аналогична месту декартовского рационализма и
ньютоновской механики в естествознании XVIII—XIX веков, начинают сдавать свои
позиции под натиском новых, синтетических (или синергетических) направлений.
К числу последних относятся нетрадиционные логико-семиотические и нейро-
интеллектуальные модели, «мягкие вычисления» и «вычислительный интеллект»,
многоагентные системы и искусственные организации...
Сегодня в сферу ИИ активно проникают принципы: дополнительности
(симбиоза дискретных и непрерывных, левополушарных и правополушарных,
символьных и образных процессов функционировании интеллектуальных систем),
относительности (зависимости интеллектуального поведения от контекста,
прагматики, «внешних систем отсчета»), неопределенности (число факторов которой
резко увеличивается по мере возрастания сложности и автономности
искусственных объектов). Поэтому, вновь, как и на заре ИИ, актуальными становятся
формирование единых методологических основ ИИ, разработка теоретических
проблем создания интеллектуальных систем новых поколений, развитие
нетрадиционных аппаратно-программных средств. Здесь большие перспективы связаны
с использованием идей и принципов синергетики в ИИ.
Сам термин «синергетика» происходит от слова «синергия», означающего
совместное действие, сотрудничество. По мнению «отца синергетики» Г. Хакена,
такое название вполне подходит для современной теории сложных
самоорганизующихся систем по двум причинам: а) исследуются совместные действия многих
элементов развивающейся системы; б) для отыскания общих принципов
самоорганизации требуется объединение усилий представителей различных дисциплин.
Еще Г. Саймон показал, что существуют пределы рациональности,
обусловленные индивидуальными психофизиологическими ограничениями людей.
Реальный мир представляет собой причудливую конъюнкцию порядка и
беспорядка, организации и дезорганизации, гармонии и расхождения. Он слишком
сложен, чтобы описать его на одном языке, а отдельный, даже самый гениальный
разум, постигает его на основе локальных, фрагментарных, неточных моделей.
Принцип согласования индивидуальных интересов и различных точек зрения,
характерный для деятельности коллективов и организаций, начинает все более
активно использоваться специалистами по ИИ. Его берут за основу при про-

Введение
15
ектировании взаимодействий искусственных агентов, построении многоагентных
систем и интеллектуальных организаций.
На наш взгляд, уже в ближайшие годы в информатике и ИИ важное место
займут такие направления как синергетическая информатика и
самоорганизующийся ИИ, в центре внимания которых будут находиться способы кооперации
и сценарии эволюции сложных компьютерных систем, вопросы интеграции
сетевых и интеллектуальных технологий, проблемы деятельности искусственных
агентов, спонтанные механизмы зарождения интеллектуальных (в особенности,
многоагентных) систем, и т. п.
Разработка технологии агентов, создание многоагентных систем (MAC) и
виртуальных организаций представляет собой одну из наиболее важных и
многообещающих научно-практических областей. В последние годы у специалистов по
информатике, искусственному интеллекту, искусственной жизни сформировалось
и вошло в широкий научный обиход представление об искусственных
(виртуальных) агентах. Речь идет об активных, автономных, коммуникабельных, а главное,
мотивированных объектах, «живущих» и «действующих» в сложных, динамических
и, чаще всего виртуальных, средах. Уже сегодня агентно-ориентированный
подход находит широкое применение в таких областях как распределенное решение
сложных задач (и эффективное решение распределенных задач), совмещенная
разработка компьютерных программ и электронный бизнес, реинжиниринг
организаций и построение виртуальных предприятий, имитационное моделирование
производственных процессов и организация работы коллективов роботов. В
ближайшем будущем он, несомненно, займет, центральное место при развитии
средств управления информацией и знаниями, и конечно, при создании и
внедрении новейших систем телекоммуникации, развитии глобальных компьютерных
сетей, в особенности, сети Интернет.
Решение задачи одним агентом на основе инженерии знаний представляет
собой точку зрения классического ИИ, согласно которой агент (например,
динамическая интеллектуальная система), обладая глобальным видением проблемы,
имеет все необходимые способности, знания и ресурсы для ее решения.
Напротив, в распределенном искусственном интеллекте и, вообще, в области MAC
предполагается, что отдельный агент может иметь лишь частичное представление
об общей задаче и способен решить лишь некоторую ее подзадачу. Поэтому для
решения сколько-нибудь сложной проблемы, как правило, требуется
взаимодействие агентов, которое неотделимо от организации MAC. Этот социальный аспект
решения задач есть одна из фундаментальных характеристик концептуальной
новизны передовых компьютерных технологий и искусственных (виртуальных)
организаций, строящихся как MAC.
В ранние годы ИИ были популярными споры на тему: «Может ли машина
мыслить?» и «Что такое интеллектуальная система?». Аналогично, распространение
концепции агентов в современном научном сообществе, привело к появлению
таких вопросов как: «Что такое автономный агент?», «Чем отличаются агенты
от обычных компьютерных программ или манипуляционных роботов?», «В чем
состоит различие между интеллектуальным агентом и экспертной системой?»
и т. п. Краткие ответы на эти вопросы таковы.
Автономный агент представляет собой искусственную систему, которая
обладает собственным поведением, удовлетворяющим экстремальным принципам.
Отсюда понятно, что компьютерная программа в виртуальном пространстве или
робот в реальном физическом пространстве обретают статус агента, тогда когда у них
имеются средства оперативного восприятия и интерпретации изменений среды,

16
Введение
а также планирования и организации действий. Но, это, в первую очередь,
предполагает наличие механизмов мотивации, целеобразования, предвидения и пр.
Интеллектуальный агент, как и экспертная система, имеет базу знаний и
подсистему рассуждений. Однако, знания его большей частью являются локальными,
неполными и противоречивыми, т.е. носят характер мнений (убеждений),
которые нередко обновляются и пересматриваются, а рассуждения выполняются ради
подготовки действий. В то же время, помимо указанных модулей,
интеллектуальные агенты снабжены развитыми протоколами коммуникации, позволяющими
им вести переговоры с другими агентами, а также обладают интенциональными
характеристиками (т. е. в них должны быть встроены такие внутренние механизмы
как желания, намерения, обязательства и пр.).
Таким образом, развитие агентно-ориентированного,
социально-обусловленного подхода существенно расширяет сферу ИИ. Теперь, наряду с классическими
подходами инженерии (приобретения, представления, порождения, пополнения,
поддержки, передачи) знаний, в структуре исследований по ИИ все большее
место занимают методы и модели деятельности и общения агентов, вопросы
возникновения, эволюции и самоорганизации сложных интеллектуальных систем
(многоагентных систем, интеллектуальных организаций). Формулировке и
рассмотрению широкого круга проблем, относящихся к теории агентов и разработке
интеллектуальных систем новых поколений на ее основе, посвящена эта книга.

Глава 1
Синергетическая перспектива становления
наук об искусственном
Машина может быть понята как путь духа
в процессе его освобождения от материальности.
Николай Бердяев. «Дух и машина»
Основная цель этой книги заключается в формировании синергетического
подхода в ИИ и развитии теории агентов на его основе. Термин «синергетика»
происходит от слова «синергия», означающего совместное действие,
сотрудничество. Сотрудничество, а в более широком аспекте кооперация понимается как
универсальная характеристика самоорганизации в сложных системах. По мнению
Г.Хакена, предложившего этот термин, его введение для обозначения
современной теории самоорганизующихся систем оправдано по двум причинам [Хакен,
1985]: а) исследуются процессы содействия, взаимной адаптации компонентов
в развивающейся системе; б) происходит объединение усилий представителей
различных дисциплин.
Таким образом, привлечение синергетической методологии к
исследованию и разработке сложных интеллектуальных систем, таких как многоагентные
системы и эволюционные интеллектуальные организации, предполагает
междисциплинарное осмысление проблемы. В монографии делается попытка связать
воедино в контексте агентно-ориентированных технологий идеи и подходы ИИ,
философии, психологии, биологии, социологии, теории организаций, теории
деятельности, теории коммуникации, эволюционной теории и ряда других научных
дисциплин. Здесь ключевыми проблемами видятся вопросы организации и
самоорганизации, деятельности и кооперативного поведения, развития и коэволюции
искусственных агентов на различных уровнях (индивидуальном, коллективном,
социальном).
1.1. Науки об искусственном
Нам говорят «безумец» и «фантаст»,
Но, выйдя из зависимости грустной,
С годами мозг мыслителя искусный
Мыслителя искусственно создаст.
Иоганн Вольфганг Гете. «Фауст»
В своей замечательной книге «Науки об искусственном» [Simon, 1969] ^
лауреат нобелевской премии Г. Саймон — один из самых известных специа-
'' Русский перевод ее первого издания вышел в свет в 1972 г. Второе, расширенное издание
на английском языке появилось в 1981 г.
3 Зак. 72

18 Глава 1. Синергетическая перспектива становления наук
листов в области ИИ — проводит четкое и недвусмысленное различие между
естественными (в широком смысле) науками, отражающими закономерности
реально существующего мира, и науками об искусственном, посвященными вопросам
создания антропогенных систем. Если в естественных науках изучаются и
описываются природные (естественные) явления и объекты, то науки об искусственном
охватывают проблемы создания (синтеза) новых искусственных объектов,
обладающих желаемыми свойствами (чаще всего эти свойства связаны с имитацией
поведения или выполнением функций соответствующего естественного объекта).
Специфику наук об искусственном легко пояснить, рассмотрев
взаимодействие человеческого сообщества, понимаемого как открытая система, с (вообще
говоря, неоднородной) внешней средой, откуда очевидна возможность его
декомпозиции по двум противоположным направлениям: 1) от среды, например,
природной или социальной, к системе; 2) от системы к среде. В первом случае
вычленяются классические естественные и общественные науки, а во втором —
науки об искусственном как науки о воздействии общества на среду, носящие
конструктивный или синтетический характер (рис. 1.1). Суть перехода от
традиционных наук к наукам об искусственном можно выразить словами «от описания
к конструированию» или «от быть к делать».
(
Естественные науки
Общественные (
науки \
Науки об искусственном
Рис. 1.1. Графическая иллюстрация к современной классификации наук
Сам Г. Саймон прослеживает вышеупомянутое различие путем трех
противопоставлений или антиномий: природа-человек (кем определяется область
изучения?), анализ-синтез (как преимущественно исследуется эта область?),
дескриптивная модель-нормативная модем (каковы цели проводимого исследования
или что должны делать изучаемые объекты?). Неоднократно подчеркивая связь
наук об искусственном с инженерными науками, он определяет их особенности
с помощью следующих признаков [Саймон, 1972].
• Искусственные объекты конструируются (хотя и не всегда преднамеренно)
людьми. Теперь сюда можно добавить: не только людьми, но и другими
искусственными объектами, созданными людьми, например, с помощью
ЭВМ в процессе явного или скрытого взаимодействия «человек—компьютер».
• Искусственные объекты можно характеризовать их функциями, целями и
степенью приспособления к требованиям среды.
• Искусственные объекты часто, особенно при их проектировании,
рассматриваются не только в описательных терминах, но и с использованием категории
долженствования (что должен обеспечивать искусственный объект).
• Искусственные объекты могут внешне походить на естественные, но заметно
отличаться от последних в одном или нескольких аспектах.

1.1. Науки об искусственном
19
Последний признак представляется наименее удачным и конструктивным.
Для реалий сегодняшнего дня его целесообразно переформулировать
следующим образом (в некотором смысле, это противоположное утверждение, впервые
высказанное А. Н. Колмогоровым).
• Искусственный объект определяется не столько похожими субстратом или
структурой, сколько подобными функциями по отношению к естественным,
т.е. искусственный объект необязательно должен походить на естественный,
но должен быть способным решать аналогичные задачи.
В результате, Г. Саймон выделяет ряд разделов общей науки о
конструировании искусственных объектов [Саймон, 1972].
1. Теория оценки и оптимизации.
2. Формальная логика синтеза.
3. Поиск решений (альтернатив) и распределение поисковых ресурсов.
4. Теория организации процесса конструирования и иерархические системы.
5. Теория представления задач конструирования.
Некоторые из этих разделов перекликаются с традиционными аспектами
инженерного проектирования систем, описанными еще Дж. Диксоном [Диксон,
1969]: изобретательство (поисковое конструирование) — инженерный анализ —
оценка и принятие решений. Так первый раздел охватывает методы теории
полезности и теории статистических решений, линейного и динамического
программирования, теории принятия многокритериальных решений и теории игр. Однако
разделы 2, 3, 5 и особенно 4 науки об искусственном в трактовке Г. Саймона
прямо относятся к современным областям ИИ и его приложениям.
Идеи перехода от традиционных наук к наукам об искусственном можно
выразить следующими тезисами [Тарасов, 1995].
1. Всякая естественная наука — это совокупность знаний об определенном
классе вещей, объектов и явлений природы. Здесь вопрос «что изучать?»
задает сама природа, тогда как в науках об искусственном, так же, как
и в ряде инженерных наук, предмет исследования гораздо сильнее зависит
от возможностей и позиции исследователя (индивидуального или группового
субъекта, научного сообщества). Его в значительной степени определяют
предыдущие научные и технологические достижения общества.
2. Две вышеупомянутых разновидности наук отличаются по ведущему методу
исследования, т. е. по ответу на вопрос «как изучать?». В классических
науках, в первую очередь, применяется анализ, в то время как главные
методы, находящиеся в арсенале наук об искусственном, — это синтез,
конструирование, компьютерная имитация.
3. Естественные науки и науки об искусственном различаются еще и по
тому, какие модели — дескриптивные или нормативные2^ — преимущественно
используются. По сравнению с объектами естественных наук,
искусственные объекты рассматриваются не столько в описательных терминах, сколько
на основе категории долженствования (что должен обеспечивать искусствен-
О различиях между нормативными и дескриптивными моделями можно прочитать, например,
в сборнике [Нормативные и дескриптивные модели, 1981].
3*

20 Глава 1. Синергетическая перспектива становления наук
ный объект), т. е. здесь научное исследование фактически неотделимо от
формулировки и интерпретации «технического задания».
4. В отличие от традиционных естественных и инженерных наук, где отношения
между исследователями и исследуемыми объектами или системами строятся
по классической схеме «субъект — объект», в науках об искусственном
наблюдается прогрессирующая активизация объекта, который становится агентом
и приближается к субъектному полюсу. Иными словами, искусственные
объекты начинают во все большей степени проявлять свойства метаобъектов,
способных управлять другими объектами, или даже квазисубъектов,
наделенных возможностями формирования собственного поведения и представления
интересов других субъектов. Кроме того, в науках об искусственном всю
большую роль играют виртуальные объекты.
5. Формирование и смена парадигмы [Кун, 1977] — набора понятий, исходных
положений и установок в рассматриваемой области знаний, принимаемых
и широко распространяемых научным сообществом, — происходит в
науках об искусственном гораздо быстрее, чем для естественных наук (впервые
эту идею высказал О. П. Кузнецов на Круглом столе «Парадигмы
искусственного интеллекта», состоявшемся в рамках Национальной конференции
КИИ-98 [Круглый стол, 1998]. Соответственно, резко ускоряется и процесс
перехода от науки к технологиям.
Следует предположить, что уже в первые десятилетия XXI-го века науки
об искусственном окажутся на авансцене мирового развития и сформируется
единая теория открытых, неоднородных, развивающихся искусственных систем,
в которую войдут следующие главные направления.
• Общая теория организации и управления искусственными системами (принципы
и механизмы организации, взаимодействия и кооперации искусственных
систем, их регуляции и обучения, логического и ситуационного управления,
и пр.).
• Общая теория возникновения и эволюции искусственных систем
(закономерности морфогенеза, выживания, самоорганизации, самосохранения,
самовоспроизведения, самообновления, эволюции, адаптации, отбора, мутаций,
и пр.).
• Общая теория проектирования и производства искусственных систем
(проблемы восходящего и нисходящего проектирования, смешанного V-образного
и совмещенного проектирования3\ разработки прямых и обратных жизнен-
3) В узком смысле под совмещенным проектированием понимается одновременное
проектирование объекта и процесса его изготовления. При этом за счет частичного запараллеливания ряда
стадий проектирования сокращаются общие сроки разработки. В более широком аспекте,
совмещенное проектирование предполагает объединение усилий различных специалистов и подразделений
предприятия (и даже нескольких предприятий) в процессе разработки некоторого объекта (и, прежде
всего, на начальных стадиях проектирования). Кроме того, подходы, охватываемые термином
«совмещенное проектирование», роднит то, что они стремятся учесть влияние требований практически
всех этапов жизненного цикла системы на ее исходный проект. Иными словами, оно характеризуется
междисциплинарностью, интенсивным обменом информацией между специалистами различного
профиля, распараллеливанием и координацией независимых проектных работ, сопровождением качества
продукции на всех стадиях ее жизненного цикла. Поэтому совмещенное проектирование тесно связано
с CALS-технологиями и управлением жизненными циклами объекта, процесса его создания и всего
предприятия.

1.1. Науки об искусственном
21
ных циклов искусственных систем, компьютерно интегрированного и
сетевого производства искусственных систем, имитационного моделирования
деятельности агентов в искусственных системах, использования средств
виртуальной реальности в разработке искусственных систем).
Это предположение созвучно идеям французского философа Ж.-Л.Лему-
ана об искусственных системах (рис. 1.2), согласно которым систему можно
представить как треугольник, включающий онтологический, функциональный
и генетический полюсы (треугольник Лемуана) [Le Moigne, 1983]. Первый
соответствует вопросу «Чем является система?», второй — вопросу «Что делает
система?», а третий — вопросу «Чем становится система?». В свою очередь,
тезис о «прогрессирующей агентификации» объекта исследования в науках об
искусственном хорошо иллюстрируется новой классификацией наук по А. Молю
(треугольник Моля): «теория коммуникации—теория среды—теория
деятельности» (рис. 1.3).
ЭВОЛЮЦИЯ СИСТЕМЫ: I \ СТРУКТУРА СИСТЕМЫ:
Чем становится / \ Чем является
система?/ \ система?
ФУНКЦИОНИРОВАНИЕ ТЕОРИЯ ДЕЯТЕЛЬНОСТИ
СИСТЕМЫ:
Что делает система?
Рис. 1.2. Главные направления исследования Рис. 1.3. Основные координаты новой
искусственных систем классификация наук
(треугольник А. Моля)
Типичными примерами наук об искусственном являются: семиотика -*-
наука о знаковых системах, приобретающая все большую актуальность в связи
с развитием новых средств коммуникации, робототехника — наука об
искусственных органах (эффекторах, рецепторах) и искусственном движении, вирту-
алистика — наука об искусственных средах. Важнейшее место среди
современных наук об искусственном занимают искусственный интеллект и искусственная
жизнь, в центре внимания которых оказываются вопросы компьютерного
моделирования принципов и механизмов работы интеллекта и организации живых
систем.
Данная книга посвящена обсуждению основ агентно-ориентированного
подхода как «концептуального ядра» наук об искусственном. Новизна и
непривычность этого подхода связана с переосмыслением ряда фундаментальных
положений и установок в искусственном интеллекте. В частности, происходит сдвиг
от жесткой рационалистической традиции и идей классического детерминизма
в сторону синергетического мышления, что требует начального экскурса в
историю ряда известных философских и психологических учений.
ТЕОРИЯ
КОММУНИКАЦИИ
ТЕОРИЯ СРЕДЫ

22 Глава 1. Синергетическая перспектива становления наук
1.2. Критический анализ рационалистической
парадигмы в информатике и ИИ
Хотя рационализм подвел нас к вратам Истины,
не ему будет суждено их открыть.
Иван Одоевский
1.2.1. Об ограничениях рационалистической парадигмы
интеллектуальности
Душа и разум — антиподы:
Она — восход, а он — закат...
Игорь Северянин. «Душа и разум»
Еще древними греками было обнаружено, что человек действует, переживая
свои и чужие поступки, упрашивая или уговаривая кого-то, поддаваясь на уговоры
и соблазны, строя и меняя планы и стремясь к чему-либо, природа же —
беспристрастна, неумолима и циклична. В результате философского осмысления
этим двум типам «поведения» был придан онтологический статус, т. е. статус
вполне самостоятельно существующих реальностей, не сводимых друг к другу,
не объясняемых друг через друга. Так возник дуализм материи и сознания,
объекта и субъекта, тела и души, физического и психического, рационального
и чувственного, сущности и явления и т.д. Абсолютное противопоставление
двух различных типов реальностей приводит к «вечным философским вопросам»:
о соотношении материи и сознания, о границе между субъектом и объектом,
о первичности биологического или социального в человеке и пр.
Подобная «непримиримая оппозиция» стала неотъемлемой частью
европейского (и вообще, христианского) мировоззрения, в котором категориальные
проблемы-парадоксы нередко решались путем элиминации одной из реальностей.
Так развивался монизм, принимавший за основу мироздания
одно-единственное начало. Например, вульгарный материализм считал основой мира материю,
а классический идеализм — дух или (по гегелевской терминологии) «абсолютную
идею». Для Аристотеля не существовало психофизиологической проблемы,
поскольку и душа, и тело относились к одной действительности — природной (душа
есть форма, а тело — материя). Основоположник философского рационализма
Р.Декарт, стремясь объединить физиологическое и психическое в рамках
рациональной, механистической картины мира, получил в качестве образа человека
механическую машину. В свою очередь, Ф. Энгельс, размышляя о
психоэкономических проблемах капитализма, пришел к выводу о необходимости ликвидации
частной собственности как препятствия для осуществления любви...
Этот анализ общих традиций европейской философии был сделан Н. А.
Носовым во введении в тему его монографии «Психология ангелов», посвященной
эзотерическим проблемам построения виртуальной реальности [Носов, 1995].

1.2. Критический анализ рационалистической парадигмы 23
Подвергнув критике «одномерное» представление реальности в классических
науках, связанное в первую очередь с учениями Платона и Аристотеля, а также
с метафизическими воззрениями Г. Галилея и Р.Декарта, автор избрал
ассоциативно-метафорическую форму описания виртуальных миров, их свойств и переходов
между ними.
Монография Н. А. Носова — далеко не первая книга, привлекающая
внимание широкого круга специалистов в области ИИ и смежных дисциплин к
ограничениям чисто рационалистической ориентации как «универсальной парадигмы
интеллектуальности». Еще в 1973 г. сообщество специалистов по ИИ было
взбудоражено новым «делом Дрейфуса», которое вызвало не меньший резонанс, чем
судебный процесс начала века во Франции. Напомним, что Г.Дрейфус в своей
книге «Чего не могут вычислительные машины?» подверг резкой критике
возможность воссоздания интеллектуального поведения без отражения взаимодействия
мышления и тела [Дрейфус, 1978]. Также он утверждал, что человеческий
интеллект далеко не всегда опирается на символьные представления. Интеллектуальные
системы могут успешно работать и на субсимвольном (образном) уровне.
По мнению А. В. Брушлинского, многие трудности на пути адекватного
моделирования естественного интеллекта обусловлены тем, что искусственные
и естественные системы основаны на совершенно различных типах взаимосвязей
между компонентами [Брушлинский, 1979]. Искусственная система создается
человеком как единое целое, составленное из уже существующих, четко отделенных
друг от друга элементов, деталей, узлов и т.д. Эта изначальная разделимость или
«дизъюнктивность» характеризует не только морфологию искусственной
системы, но и ее функционирование, «физиологию». Мышление же (и естественный
интеллект в целом) в силу своей изначальной целостности и неаддитивности
характеризуется свойством недизъюнктивности. Стадии мыслительного
процесса непрерывно проникают друг в друга, сливаются, развиваются, что трудно
отразить средствами традиционной математики, основанной на классической
канторовской теории множеств. Интересный вариант развития ИИ предложил
В. В. Налимов [Налимов, 1979] блестяще раскрывший диалектику непрерывности
и дискретности в мышлении и языке. На примере текстов представителей
древней китайской и индийской философии, он обосновал идею «мягкости языков»,
предполагающую понимание на внелогическом уровне, и убедительно показал
необходимость обращения к опыту восточных культур при работе с
«семантическими полями сознания». Он же подчеркнул тесную связь ритмической структуры
текстов с философией экзистенциализма.
Наиболее жесткая и обстоятельная критика рационалистической традиции
в ИИ содержится в фундаментальной монографии Т. Винограда и Ф. Флореса
«Понимающие компьютеры и познание: новое основание для проектирования»
(Understanding Computers and Cognition: a New Foundation for Design) [Winograd and
Flores, 1986]. Ее авторы полагают, что система не может быть интеллектуальной
без «социально окрашенных» моделей обязательств и ответственности, а
ответственность немыслима без автономии. Предлагая свой путь в моделировании
интеллекта, они опираются на работу М. Хайдеггера «Бытие и время» [Хайдег-
гер, 1997] (где обосновывается тезис о том, что нет никакого смысла говорить
об объектах и их атрибутах вне связи с деятельностью субъекта), подходы
герменевтики — теории истолкования текстов (и выбора соответствующих действий)
в интерпретации Х.-Г. Гадамера [Гадамер, 1988], а также представления о
связи биологических явлений и живых систем с феноменами мышления и языка
(раскрываемые через понятие автопоэтических машин, введенное У. Матураной

24 Глава 1. Синергетическая перспектива становления наук
и Ф. Варелой [Maturana and Varela, 1980]). По мнению Т. Винограда и Ф. Фло-
реса, если мы хотим лучше понять мышление, язык, намерения и действия
людей, чтобы разрабатывать более интеллектуальные и эффективные
компьютерные системы, то нам следует отказаться от жесткой рационалистической традиции
и чисто когнитивистских подходов и уделять большее внимание моделированию
процессов «движения души», истоков деятельности и общения.
В настоящей книге, помимо работ указанных авторов, мы будем обращаться
к трудам ряда русских философов и методологов науки XIX-XX-го веков, в
первую очередь, А. А. Богданова, Н. О. Лосского, В. С. Соловьева, Н. Ф. Федорова,
П.С.Флоренского, А.С.Хомякова. Их работы наполняются новым
содержанием в эпоху зарождения сетевой цивилизации, конструирования искусственных
агентов, многоагентных систем и эволюционирующих виртуальных сообществ
1.2.2. Традиции рационализма в информатике,
ИИ и смежных науках. Их критика
Приближаясь к истине, мы иногда удаляемся
от действительности.
Станислав Ежи Лец. «Непричесанные мысли»
До появления квантовых и релятивистских теорий, неравновесной
термодинамики и фрактальных представлений классические науки имели дело с
достаточно простыми системами, обладающими детерминированным или периодическим
поведением. Их методологические установки были пронизаны традициями
рационализма. Эти традиции можно выразить в следующих положениях, претендующих
на общенаучное значение:
1. Предмет науки — общие, повторяющиеся (воспроизводимые) и обратимые
явления. Единичное и необратимое не может быть объектом научного исследования.
2. Наука позволяет преодолеть факторы неопределенности и случайности, с
которыми следует бороться при описании изучаемых явлений и открытии научных
законов.
3. Научное объяснение — это, прежде всего, объяснение свойств целого из свойств
его частей.
4. Общие положения науки должны выражаться как точное, непротиворечивое
знание и описываться строгими логи ко-математическим и моделями.
К данным положениям примыкает принцип лапласовского детерминизма,
которому подчиняются простые системы: выходные характеристики любой системы
всегда можно точно вычислить, зная входные сигналы и параметры
состояния системы. Также важнейшей чертой классического рационализма является
его механистичность [Моисеев, 1995]. Наконец, верным спутником
рационализма выступает принцип редукционизма — сведения реального сложного явления
к сильно упрощенной модели. В частности, научные подходы нередко опираются
на линейные приближения, на экстраполяцию известных решений и т. п. В русле
этих традиций речь также идет о систематических, четких правилах, позволяющих
делать логические выводы.
Подобная направленность вполне объяснима тенденциями развития
западной философии. Начиная от классической риторики и кончая современной
символической логикой, эта философия по большей части занималась и занима-

1.2. Критический анализ рационалистической парадигмы 25
ется вопросами все более точного и систематического определения правильных
и общезначимых (истинных при всех интерпретациях) рассуждений.
Рациональный научный метод обычно включает следующие этапы:
1) выявление объектов исследования, обладающих четко определенными
свойствами (или атрибутами);
2) нахождение общих правил, применимых к этим объектам и их свойствам;
3) использование данных правил в конкретных ситуациях и вывод заключений.
Большинство специалистов в ИИ (как и во многих других научных
областях) свято придерживается этих традиций. Классические подходы в ИИ так или
иначе основываются на гипотезе А. Ньюэлла о физической символьной системе.
Она утверждает, что человеческий мозг представляет собой систему манипуляции
символами или, по крайней мере, может быть с достаточной точностью описан
ею. Согласно гипотезе А. Ньюэлла, «необходимое и достаточное условие для
того, чтобы некоторая физическая система могла проявлять интеллектуальность,
состоит в том, чтобы она являлась универсальной системой формальных
манипуляций над конкретными символами» (фактически это условие эквивалентно
определению машины А.Тьюринга).
Таким образом, мы отождествляем гипотезу А. Ньюэлла с утверждением о том,
что человеческий мозг можно адекватно промоделировать машиной Тьюринга.
Машина Тьюринга — это абстрактная машина, состоящая из бесконечной в одну
сторону ленты, разделенной на клетки, и управляющей головки, которая может
передвигаться вдоль ленты. Символы входного алфавита, включающие пустой
символ, могут размещаться на ленте по одному в клетке. Управляющая головка
может находиться в одном из конечного числа внутренних состояний, одно из
которых является особым (выключение машины Тьюринга). Языки, порождаемые
в результате работы машины Тьюринга, называются рекурсивно-перечислимыми.
Итак, в основе стандартного когнити висте кого подхода лежат допущения
следующего плана.
1. Все когнитивные системы являются символьными. Они работают на основе
внутренней и внешней символизации ситуаций и событий и манипуляций
над этими символами.
2. Все когнитивные системы используют один и тот же процесс символьной
обработки.
3. Теория познания может рассматриваться как программа с символьным
формализмом, приспособленным к конкретной среде, так чтобы в этой среде
наблюдалось определенное поведение.
Кроме того, в русле когнити висте кого подхода знания часто объявляются
центральной и единственной категорией, вокруг которой строится «здание» ИИ.
Например, Д. Кирш [Kirsh, 1991] утверждает, что теория ИИ — это спецификация
знаний, лежащих в основе когнитивных умений.
Рационалистическая парадигма завоевала не только информатику и ИИ,
но и смежные научные дисциплины — теорию управления, теорию принятия
решений, когнитивную психологию, структурную лингвистику.
Так в лингвистике, следуя рационалистической традиции, язык
рассматривают как систему символов, собранных в модели. Описания мира в виде
предложений естественного языка (ЕЯ) могут быть истинными или ложными,
совместимыми или несовместимыми, но их глубинной основой остается
соответствие с миром. Общепринятыми являются следующие положения [Winograd and
Flores, 1986].
2 Зак. 72

26 Глава 1. Синергетическая перспектива становления наук
1. Предложения ЕЯ что-то говорят о мире — истинное или ложное.
2. То, что в предложении говорится о мире, является функцией содержащихся
в нем слов и их взаимного расположения.
3. Слова (члены) предложения — существительные, глаголы, прилагательные —
служат для обозначения объектов, свойств, отношений реального мира.
4. Предложение ЕЯ имеет объективный смысл независимо от акта его
интерпретации.
Любой искусственный язык (ИЯ) создается путем формализации с
использованием аксиом и правил построения. В противоположность ЕЯ, где слова
наделены некоторым смыслом, символы формального языка поначалу смысла
не имеют. Символом можно обозначить все, что угодно. Конкретный смысл
придается им в том или ином приложении. В случае И Я смысл должен быть строго
определен посредством методов интерпретации формальных систем.
Каждому предложению ЕЯ могут быть поставлены в соответствие одна или
несколько интерпретаций в формальном языке (например, в исчислении
предикатов первого порядка), для которого определены правила рассуждений. Таким
образом, изучение смысла включает: а) перевод предложений ЕЯ в
соответствующие формальные структуры; б) рассмотрение логических правил, связываемых
с этими структурами.
Здесь справедливы следующие гипотезы:
1. Существует система правил (включающая контекстуальные или
прагматические соображения), согласно которым предложения ЕЯ могут быть переведены
на формальный язык, так что в целом их смысл будет сохранен.
2. Имеется другая система правил, по которой значения этого формального
языка определяются значениями исходных элементов и видами структур,
позволяющими их комбинировать.
3. Существуют логические правила, позволяющие установить связь
между,значениями истинности различных предложений.
4. Смысл предложения можно определить в том мире, где оно истинно.
Другим показательным примером научной дисциплины, выстроенной на
рационалистическом фундаменте, является классическая теория организаций,
которая опирается на постулаты механицизма и рационального поведения. Особенно
это прослеживается в той ее области, где используется математический аппарат
принятия решений. Здесь принятие решений понимается как «сердцевина» любой
организации: оно рассматривается как процесс, включающий не только
процедуры выбора, но и сбор и обработку информации. Многие нормативные подходы
к принятию решений опираются на аксиоматические теории рационального
поведения (см., например, [Ларичев, 2000]).
Рациональное принятие решений есть выбор из альтернатив, включающий
следующие этапы: 1) составить список возможных альтернатив; 2) определить
все возможные последствия, которые могут вытекать из этих альтернатив; 3) дать
сравнительную оценку указанных альтернатив и выбрать оптимальную.
Одни из первых «брешей» в ранее казавшемся незыблемом здании
рационализма пробили именно специалисты в области теории организаций и
лингвистики — Г. Саймон, Дж. Остин и Дж. Серл. В книге «Административное поведение»
еще в конце 40-х гг. Г.Саймон [Simon, 1976] сформулировал очень важный
принцип ограниченной рациональности (его также можно назвать «запретом Саймона»).

1.2. Критический анализ рационалистической парадигмы 27
Согласно этому принципу, существуют пределы рациональности лиц,
принимающих решения, обусловленные их индивидуальными психофизиологическими
ограничениями (по скорости переработки информации, объему памяти и пр.).
Принятие решений в организациях всегда происходит в условиях
неопределенности, риска, т. е. в условиях, когда управляющий принципиально не может
охватить все альтернативы и оценить все последствия принимаемых решений.
Таким образом, поведение отдельного, изолированного агента
принципиально не может достигать абсолютного (или даже высокого) уровня рациональности.
Число альтернатив, которые следует рассматривать, обычно столь велико, а
информация, необходимая для их оценки, столь обширна, что даже приближение
к абсолютной рациональности невозможно.
«Запрет Саймона» можно представить в виде следующих положений.
1. Абсолютная рациональность требует полного знания всех принимаемых
решений. В реальной действительности, это недостижимо.
2. Существуют принципиальные ограничения по возможности прогнозирования
последствий принимаемых решений (как будущих событий).
3. Абсолютная рациональность требует выбора из всех возможных вариантов
поведения. На практике лишь небольшое число возможных вариантов может
быть принято во внимание.
Итак, управленческие решения в любой организации, понимаемой как сеть
агентов, основаны не на полной информации и оптимизации, а на
удовлетворении противоречивых критериев различных агентов (узлов сети) в условиях
неопределенности. Естественными факторами, ограничивающими рациональность
агентов, оказываются:
• недостаточная мотивация;
• локальный характер располагаемой информации (прежде всего, в силу
ресурсных ограничений);
• принципиальная неполнота и неточность информации, получаемой от других
агентов;
• случайные воздействия среды, и пр.
В трудах Дж. Остина [Austin, 1962] и Дж. Серла [Searle, 1961] предложен
неклассическая теория языка, получивший название теории речевых
(коммуникативных) актов. Как было отмечено выше, в классическом подходе язык
рассматривается как средство передачи информации об окружающем мире, т. е.
главное значение имеет его денотативная функция. В отличие от этого, Дж. Остин
и Дж. Серл понимают речевое общение как разновидность целенаправленного
поведения, подчиненного определенным правилам. В теории речевых актов акценты
смещаются в сторону конативной функции языка (любое общение агентов
преследует некоторую цель).
Свою лепту в критику традиционного рационализма и связанного с ним
логического редукционизма внес и Ч. Пирс. По Ч. Пирсу, логический
редукционизм, сводящий множество познавательных отношений к тем, что фиксируются
языком формальной логики, оказывается не в состоянии объяснить процесс
формирования понятий, определения их значений и смысла. Чисто логическому
подходу в концептуальном моделировании он противопоставил прагматический.
В его основе лежит сформулированная Ч. Пирсом «прагматическая максима»:
«мы постигаем предмет нашей мысли, рассматривая те его свойства, которые
2*

28 Глава 1. Синергетическая перспектива становления наук
предположительно имеют практическое значение; наше представление об этих
свойствах и образует в целом понятие данного предмета» [Пирс, 2000].
1.3. Синергетическая методология vs
классический рационализм
Противоположности — не противоречия,
они дополнения.
Нильс Бор
Сегодня все более и более очевидной становится ограниченность
общенаучной парадигмы классического рационализма. Современный мир насыщен
сложными самоорганизующимися системами, объединенными в неоднородные,
эволюционирующие сети, и уникальными динамическими объектами
управления, которые не поддаются точному и полному описанию. Само существование
подобных объектов неотделимо от управления неопределенностью.
Одностороннее стремление к получению точных и непротиворечивых знаний, отбрасывание
индивидуальных мнений и смутных идей не соответствует реалиям сетевого
общества. Одним из первых это отметил Л. Заде, который писал: «с учетом нашего
преклонения перед всем точным, строгим и количественным и нашего
пренебрежения ко всему нечеткому, нестрогому и качественному неудивительным
оказался приход эры цифровых компьютеров; однако до сих пор эти компьютеры
оказались весьма эффективными лишь при работе с механистическими, т. е.
неживыми системами, поведение которых определяется законами механики, физики,
химии, электромагнетизма. К сожалению, этого нельзя сказать о
гуманистических системах, в которых центральное место занимают люди» [Заде, 1976]. Им
было предложено следующее толкование такого положения дел:
«неэффективность обычных компьютеров в работе с гуманистическими системами является
выражением принципа несовместимости, согласно которому высокая точность
несовместима с большой сложностью». В свою очередь, В. К. Финн обратил
внимание на то, что во многих научных областях, особенно в гуманитарных науках,
в основном фигурируют не понятия, а идеи, что означает наличие
принципиальных ограничений на строгость рассуждений [Финн, 1999].
Таким образом, встает проблема формирования методологических основ
для наук об искусственном в целом и интеллектуальных систем новых поколений
в частности. На наш взгляд, здесь большие перспективы открывает использование
идей и принципов синергетики.
Синергетика есть междисциплинарное научное направление, изучающее
универсальные закономерности процессов самоорганизации, эволюции и
кооперации. Ее цель состоит в построении общей теории сложных систем, обладающих
особыми свойствами. В отличие от простых сложные системы имеют следующие
основные характеристики:
• множество неоднородных компонентов;
• активность (целенаправленность) компонентов;
• множество различных, параллельно проявляющихся взаимосвязей между
компонентами;

1.3. Синергетическая методология...
29
• семиотическая природа взаимосвязей;
• кооперативное поведение компонентов;
• открытость;
• распределенность;
• динамичность, обучаемость, эволюционный потенциал;
• неопределенность параметров среды.
Особое место в синергетике занимают вопросы спонтанного образования
упорядоченных структур различной природы в процессах взаимодействия, когда
исходные системы находятся в неустойчивых состояниях. Следуя И. Пригожи-
ну [Пригожий, 2002], ее можно кратко охарактеризовать как «комплекс наук
о возникающих системах».
Согласно синергетическим моделям, эволюция системы сводится к
последовательности неравновесных фазовых переходов. В работах И. Пригожина и Г. Ха-
кена [Пригожий, 2002; Хакен, 1985] принцип развития формулируется как
последовательное прохождение критических областей (точек бифуркаций). Вблизи
точек бифуркации наблюдается резкое усиление флуктуации. Выбор, по которому
пойдет развитие после бифуркации, определяется в момент неустойчивости.
Поэтому зона бифуркации характеризуется принципиальной непредсказуемостью —
неизвестно, станет ли дальнейшее развитие системы хаотическим или родится
новая, более упорядоченная структура. Здесь резко возрастает роль
неопределенности: случайность на входе в неравновесной ситуации может дать на выходе
катастрофические последствия. В то же время, сама возможность спонтанного
возникновения порядка из хаоса — важнейший момент процесса самоорганизации
в сложной системе.
Система, находящаяся в неравновесном состоянии, более чутка и
восприимчива к воздействиям, согласованным с ее собственными свойствами. Поэтому
флуктуации во внешней среде оказываются не «шумом», а фактором генерации
новых структур. Иными словами, неравновесность сложной системы может стать
причиной спонтанного морфогенеза.
Свойство самоорганизации приводит к формированию аттракторов —
особых подмножеств в пространстве возможных состояний нелинейных систем,
к которым притягиваются близкие траектории. Аттракторы как притягивающие
множества в пространстве состояний являются асимптотически устойчивыми
множествами. Аттракторы, отличные от состояний равновесия получили название
«странных аттракторов». Внутри них траектории блуждают случайным образом,
будучи весьма чувствительными к изменению начальных условий.
Главные принципы синергетического подхода в современной науке
таковы [Пригожий, 1985 и 1999; Хакен, 1985; Заде, 1976; Моисеев, 1995; Капица и др.,
1997; Василькова, 1999; Курейчик В. М. и Курейчик В. В., 2000].
1. Принцип неаддитивности
Сложные системы формируются в результате кооперативных взаимодействий,
приводящих к синергетическим (неаддитивным, нелинейным, резонансным)
эффектам. В простейшей форме это можно записать как
Ф(х,у) > Ф(х) + Ф(у) A.1)
(функция эффективности целого всегда больше суммы функций эффективности
его частей). Хорошим примером такой величины служит негэнтропия
(отрицательная энтропия) как мера упорядоченности, поскольку по К. Шеннону условная
энтропия
#(я,г/К #(*) + #(</). A.2)

30 Глава 1. Синергетическая перспектива становления наук
Здесь равенство имеет место только для независимых элементов ж и у, т.е.
кооперация элементов в системе означает рост ее упорядоченности.
2. Принцип целостности
В сложных системах свойства целого не сводятся к свойствам составляющих
его частей. С одной стороны, кооперативное взаимодействие элементов в
сложной системе приводит к формированию новой системы с ранее неизвестными"
свойствами. С другой стороны, для определения свойств частей необходимо знать
свойства целого.
3. Принцип дополнительности Н. Бора
В сложных системах возникает необходимость сочетания различных, ранее
казавшихся несовместимыми, а ныне взаимодополняющих друг друга моделей
и методов описания.
4. Принцип спонтанного возникновения И. Пригожина
В сложных системах возможны особые критические состояния, когда
малейшие флуктуации могут внезапно привести к появлению новых структур,
полностью отличающихся от обычных (в частности, это может вести к
катастрофическим последствиям — эффекты «снежного кома» или эпидемии).
5. Принцип несовместимости Л. Заде
При росте сложности системы уменьшается возможность ее точного описания
вплоть до некоторого порога, за которым точность и релевантность информации
становятся несовместимыми, взаимно исключающими характеристиками.
6. Принцип управления неопределенностями
В сложных системах требуется переход от борьбы с неопределенностями
к управлению неопределенностями. Различные виды неопределенности должны
преднамеренно вводиться в модель исследуемой системы, поскольку они служат
фактором, благоприятствующим инновациям (системным мутациям).
7. Принцип незнания
Знания о сложных системах принципиально являются неполными,
неточными и противоречивыми: они обычно формируются не на основе логически строгих
понятий и суждений, а исходя из индивидуальных мнений и коллективных идей.
Поэтому в подобных системах важную роль играет моделирование частичного
знания и незнания.
8. Принцип множественности НЕ-факторов
При разработке сложных систем требуется принимать во внимание целую
гамму НЕ-факторов знаний, где наряду с обычными НЕ-факторами в смысле
А. С. Нариньяни [Нариньяни, 1998], ( неопределенность, неточность,
неполнота, недоопределенность,...), следует учитывать и синергетические НЕ-факторы:
нелинейность, неустойчивость, неравновесность, незамкнутость...
Здесь нелинейность означает нарушение аддитивности в процессе развития
системы, а неустойчивость связана с несохранением близости состояний системы
в процессе ее эволюции.
9. Принцип соответствия
Язык описания сложной системы должен соответствовать характеру
располагаемой о ней информации (уровню знаний или неопределенности). Точные
логико-математические, синтаксические модели не являются универсальным языком,
также важны нестрогие, приближенные, семиотические модели и неформальные
методы. Один и тот же объект может описываться семейством языков различной
жесткости [Налимов, 1979].

1.3. Синергетическая методология...
31
10. Принцип разнообразия путей развития
Развитие сложной системы многовариантно и альтернативно, существует
«спектр» путей ее эволюции. Переломный критический момент
неопределенности будущего развития сложной системы связан с наличием зон бифуркации —
«разветвления» возможных путей эволюции системы. Рассуждения о сложных
системах могут интерпретироваться в различных «возможных мирах», т. е. сложность
предполагает объединение различных (и даже противоположных) логик.
Переход от одной логики к другой отражает процесс становления системы, причем
вид конкретной логики зависит от этапа эволюции системы и складывающейся
ситуации.
11. Принцип единства и взаимопереходов порядка и хаоса
Эволюция сложной системы проходит через неустойчивость; хаос не только
разрушителен, но и конструктивен. Организационное развитие сложных систем
предполагает своего рода конъюнкцию порядка и хаоса.
12. Принцип колебательной (пульсирующей) эволюции
Процесс эволюции сложной системы носит не поступательный, а
циклический или волновой характер: он сочетает в себе дивергентные (рост разнообразия)
и конвергентные (свертывание разнообразия) тенденции, фазы зарождения
порядка и поддержания порядка. Открытые сложные системы пульсируют:
дифференциация сменяется интеграцией, разбегание — сближением, ослабление связей —
их усилением и т. п.
Нетрудно понять, что перечисленные принципы синергетической
методологии можно разбить на три группы: принципы сложности A-5), принципы
неопределенности E-9) и принципы эволюции A0-12).
Глобальное синергетическое мышление имеет глубокие философские и со-
цио-культурные корни. Среди различных философских школ и течений, которые
можно отнести к его предшественникам, следует особенно отметить:
• древнекитайскую философию (в частности, школу даосизма) с ее
представлениями о циклическом чередовании противоположных сторон развития
и принципами гармонии, а также зачатками эволюционной логики;
• герменевтику — науку о толковании текстов, восходящую к комментаторам
древнееврейских религиозных книг (в ней смысл рассматривается как
новое качество сложной системы, возникающее в процессах взаимодействия
интерпретатора и интерпретируемого);
• русский антропокосмизм с его основополагающей идеей соборности —
свободного единения и совместной деятельности людей, направляемой общими
ценностями.
1.3.1. Синергетические мотивы древнекитайской философии
Чтобы добраться до истоков, надо плыть против течения.
Станислав Ежи Лец
В истории древнекитайской философии уникальное место занимает великая
«Книга перемен» (Ицзин). Эта «Библия Востока», будучи плодом многовековой
работы поколений, оказала колоссальное влияние на основные философские

32 Глава 1. Синергетическая перспектива становления наук
течения Китая: конфуцианство и даосизм. В общих чертах главные положения
«Книги перемен» выглядят следующим образом [ДКФ, 1994].
1. Мир представляет собой и изменчивость, и неизменность, и, более того, их
непосредственное единство.
2. В основе этого лежит проходящая через весь мир полярность, антиподы
которой столь же противоположны друг другу, сколь и тяготеют друг к другу: в их
отношениях проявляется мировое движение как ритм. Различие элементов
полярности возможно лишь в силу их единства.
3. Благодаря ритму, ставшее и еще не наступившее объединяются в одну систему,
у которой будущее уже существует в настоящем как «ростки» наступающих
событий.
4. Необходимо и теоретическое понимание, и практическое осуществление;
если деятельность человека сочетает это, то он гармонически включается
в свое окружение.
.5. Таким образом, исключается конфликт внутреннего и внешнего, и они лишь
развивают друг друга тем, что внутреннее определяется внешним и творит
во внешнем.
6. При этом личность уделяет достаточно внимания как себе, так и
окружающему ее обществу.
7. Так, благодаря выдержанному единству абстракций и конкретности,
достигается полная гибкость системы.
Из названия и всего содержания «Книги перемен» явствует, что перемены
и преобразования представляют собой первичный аспект природы; структуры
и симметрии, порожденные ими, есть нечто вторичное. При этом перемены
и взаимные переходы не заданы с точной определенностью: они в значительной
степени спонтанны. В гексаграммах и триграммах, помещенных на страницах
«Книги перемен», заложены образцы, схемы возможных форм изменений,
возникающих из различных сочетаний противоположных начал. В каждой гексаграмме
взаимодействие противоположностей развертывается во времени, причем
выделяется срединная область уравновешенности, гармонии, к которой тяготеют
и которой подчиняются остальные состояния.
В философии даосизма главной категорией является «дао» (дословно:
«великий путь»). Под дао (в других философиях — «логос», «космос») понимается
единая нерасчлененная, вовлеченная в бесконечное движение реальность,
идеальная и материальная одновременно. Дао несет в себе мужское и женское
начало (Ян и Инь), которые в их взаимодействии являются причиной изменения
и движения вещей. В даосизме важное место занимают распознавание образцов
изменений (гексаграмм «Книги перемен») и осуществление действий (а порой,
бездействие) согласно этим образцам [ДКФ, 1994]. Поступать в соответствии
с природой означает действовать спонтанно ив соответствии со своей
внутренней сущностью, не нарушая гармонии с окружающим миром. Главный принцип
поведения личности — сохранение «меры вещей».
Важнейшее достижение древнекитайской философии — выработка
представлений о развитии как циклическом чередовании противоположных начал.
Правила дао как вселенского пути есть правила движения в круге
противоположностей. Когда одно из двух начал (Инь или Ян) достигает пика своего развития,
оно уже готово отступить, дав место развитию противоположного начала (Ян,
достигая предела, превращается в Инь; Инь, достигая предела, превращается

1.3. Синергетическая методология...
33
х a—x
к >к ц
*)
I4"
к
0,76
><
i
'
-«!
—а
1
—————¦
1 '¦"¦""?"
>*
0,76
>.
>-¦
i
>•
*>
Рис. 1.4. Вариант наглядного представления модели «Ян-Инь» на полярной шкале
в Ян). Отсюда проистекают идеи «диалектической логики» с наличием
срединной области гармонии (см. рис. 1.4), а также способы представления знаний
на круговых шкалах, когда противоположные значения как бы склеиваются
(см. [Поспелов Д. А., 19946]). Дадим наглядное представление модели «Ян—Инь»
на полярной шкале. Здесь выделяются три области: интервал преобладания
мужского начала Ян [+а, +1], интервал преобладания женского начала Инь [-1, -а]
и область гармонии [-а, +а]. Исходным условием гармонии является наличие
противоречий: она выступает в качестве меры разрешения противоречий. Для
определения области гармонии (согласованности) двух начал Ян и Инь на
полярной шкале, т.е. величины интервала [-a,-fa] следует воспользоваться методом
золотого сечения, опирающимся на числа Фибоначчи A, 1, 2, 3, 5, 8, 13, 21
и т. д.) — элементы последовательности, задаваемой начальными значениями
ж, = xi = 1 и рекуррентным соотношением
хп+] = жп_1 + хП1 п = 2, 3,... . A.3)
Пусть а — длина некоторого отрезка. Метод золотого сечения предполагает
гармоническое деление отрезка а, когда его большая часть х является средней
пропорциональной между всем отрезком а и его меньшей частью а - х (рис. 1.4я), т.е.
а : х — х : (а - ж), A.4)
откуда для нахождения неизвестного х получаем квадратное уравнение
а2 - а - х2 = 0.
Его решение дает х = а/2(\/5 - 1) и 0,62 а.
В случае полярной шкалы а — 2 и х = 1,24. Соответственно, величина
области дисгармонии со стороны Ян есть а - х = 2 - 1, 24 = 0,76. Аналогично
вычисляется область дисгармонии со стороны Инь. Тогда величина срединной
зоны гармонии между Ян и Инь будет равна 2 - @, 76 х 2) = 0,48, т. е. а— 0,24
(рис. 1.45).
Замечательным примером диалектического мышления в даосизме служит
понятие «глубокой истины». Как говорит «Дао дэ цзин», «чтобы нечто сжать,
необходимо прежде расширить его. Чтобы нечто ослабить, нужно прежде
укрепить его. Чтобы нечто уничтожить, необходимо прежде дать ему расцвести... Это
называется глубокой истиной» [ДКФ, 1994].
Безусловно, обращение к учениям древнекитайской философии может внести
существенный вклад в современную синергетическую методологию. В частности,

34 Глава 1. Синергетическая перспектива становления наук
несомненный интерес представляет изучение эволюционных подходов в логике
даосизма4*, полезное для разработки методов «синергетической логики».
1.3.2. Синергетический подход в герменевтике
Возникновение смысла как нового качества сложной системы является
одной из центральных проблем герменевтики — древней науки о понимании
и истолковании религиозных текстов, восходящей к интерпретаторам Талмуда
(см. [Поспелов Д. А., 1982 и 1989]). В последнее время, герменевтика как
общая теория интерпретации (текстов, действий, результатов), переживает .второе
рождение. Основной вопрос герменевтики как философского течения
касается смысла текста. Является ли смысл текста абсолютным и объективным, или
его можно определить только в зависимости от исходного контекста и позиции
интерпретатора? Иными словами, можно ли говорить о смыслосодержании
текста как замкнутой системы или смысл возникает только при взаимодействии
«текст-среда»?
Для рационалистической, объективистской школы герменевтики,
опирающейся в первую очередь на идеи Ф. Шлейермахера и В. Дильтея, текст имеет
смысл независимо от акта интерпретации. Смысл един и объективен, тогда как
его интерпретаторы многочисленны и субъективны. Соответственно, цель теорий
интерпретации заключается в том, чтобы разработать методы, позволяющие
провести объективный анализ того, что уже существует и заложено в тексте. В идеале
речь идет о «полной деконтекстуализации» текста.
Напротив, М. Хайде ггер [Хайдеггер, 1997] и X.-Г. Гадам ер [Гадамер, 1988]
сформировали представление о «возникающем смысле». У них интерпретатор
и интерпретируемое не существуют независимо друг от друга. Каждое прочтение
текста или каждое прослушивание речи есть смыслообразование, возникающее
в процессе интерпретации. Точнее, смыслообразование определяется связями
между интерпретацией и традицией. В традиции (предании) содержится прошлое,
которое постоянно актуализируется и обусловливает предвосхищение,
формирование мнения, проверяемого фактами.
Подход Х.-Г. Гадамера опирается на представление о герменевтическом круге
понимания. Он отстаивает идею о циклическом нарастании понимания. Процесс
понимания предполагает переход от целого к частям и обратно к целому. Задача
состоит в том, чтобы концентрическими кругами расширять единство понятого
смысла. Понимание основано на уже имеющемся у нас знании, но то, что мы
знаем, определяется нашими возможностями понимания.
Процесс интерпретации определяется конкретной герменевтической
ситуацией, в которой взаимодействуют «горизонты» текста (в скрытом виде, его
автора) и интерпретатора. Горизонты смещаются, ибо изменяются
герменевтические ситуации. Интерпретатор расширяет свой горизонт, например, ставя вопросы,
и создает условия для понимания. Понимание наступает тогда, когда происходит
расширение и слияние горизонтов.
Герменевтика по Х.-Г. Гадамеру отвергает чистое, не связанное с
применением смысла знание. Понимание есть плод действия, поскольку, находясь
в герменевтической ситуации, интерпретатор тут же использует каждую порцию
добытого им смысла в каких-либо целях.
' Здесь хорошим путеводителем могут служить труды Ху Ши, в частности, «Развитие логического
метода в Древнем Китае» (см. [ДКФ, 1994]).

1.3. Синергетическая методология...
35
1.3.3. Русский космизм, синергетика и Интернет
Утопии часто оказываются лишь преждевременно
высказанными истинами.
Альфонс Ламартин
Ряд важных идей и методологических установок, близких к принципам си-
нергетического мышления, можно найти в философии антропокосмизма. Это
философское направление, которое чаще всего называют просто «русским
космизмом», представляет собой учение о неразрывном единстве человека, общества
и космоса. Главными категориями, раскрывающими суть этого учения, являются:
соборность, всеединство, софийность, «общее дело», ноосфера.
Один из центральных постулатов русского космизма — постулат единства
людей и всего человечества. Первоначально он выступал в форме идеи соборности.
В ней вместо противостояния между человеком и миром провозглашается их
согласие. Соборность выступает как согласие отдельных индивидуальностей друг
с другом и с целостностью общества, культуры, космоса. Человек может быть
совместим с миром, потому, что в мире есть начало и основа, гармонирующая
с человеком: в этом заключается суть антропокосмизма [РК, 1989].
Исторически идеи соборности восходят к движению славянофилов. Его
родоначальники и, прежде всего, А.С.Хомяков, противопоставляя общинный дух
русского народа западноевропейскому индивидуализму, выдвинули идею
тождества свободы и единства (свободы в единстве и единства в свободе). Эта мысль
опирается на образ православной Троицы, все ипостаси которой нераздельны
(единство), но в то же время уникальны, индивидуальны (свобода).
Основной социальной единицей у славянофилов была самоуправляемая
община. Общинное устройство, созданное на началах общей ответственности,
выработки совместных решений, «правды отношений», выступает прообразом
свободного сообщества. Очень важное представление о «системных единицах» общины
сформулировано П. А. Флоренским: «Подобно кристаллу, община не дробится
на аморфные части... Предел дробления — не человеческий атом, но общинная
молекула, пара друзей, являющаяся началом совместных действий»
[Флоренский, 1990].
Итак, соборность понимается как живое единение, свободная общность,
совместная деятельность людей, направляемая общими ценностями. Это
такое единство, когда каждая индивидуальность (монада) считается со свободой
и уникальностью других монад и самоценностью универсума не потому, что это
необходимо или выгодно, но потому, что резонанс, эмпатия, единство для такой
монады — столь же сильная и первоначальная потребность, как и свободная
самореализация. По крылатому выражению Н. А. Бердяева, «соборность есть
общение в любви». В контексте соборности единство и свобода взаимопроникают
друг в друга. Выражаясь современным языком, соборность опирается на процессы
самоорганизации в сложной социальной системе, которые носят кооперативный
и когерентный характер; при этом в ходе развития сохраняются как целостность
системы, так и индивидуальность ее компонентов.
С идеей соборности тесно связана категория «всеединства», наиболее полно
разработанная В. С. Соловьевым. Эта категория по сути включает в себя синергети-
ческие представления о соотношении порядка и хаоса, открытости и замкнутости,

36 Глава 1. Синергетическая перспектива становления наук
возникновения и координации. Мир и человек мыслятся как становящееся
всеединство, в котором осуществляется согласование единого и многого.
Всеединство выступает как предельный результат воплощения соборности:
речь идет о множестве, элементы которого взаимопроникают и в то же время вза-
имораздельны. В силу практического всеединства во-первых все составляют цель
деятельности для каждого и каждый для всех, а во-вторых все члены общества
внутренне восполняют друг друга...
Кратко, коренное различие между классической философией и русским
космизмом можно охарактеризовать продвижением от формулы «я мыслю, значит,
существую» к формуле «я существую не потому, что я мыслю, а потому, что
отвечаю на обращенный ко мне призыв другого человека», что впервые отметил
М. М. Бахтин. Соответственно, в гносеологии русского космизма всегда
отстаивался принцип неразрывного единства и взаимодействия субъекта с объектом.
Познание есть «выхождение познающего из себя» или «вхождение познаваемого
в познающее» ради достижения реального единения познающего и
познаваемого. Это характерное для русской философии положение было ярко выражено
П. А. Флоренским: «познание не есть захват мертвого объекта хищным
гносеологическим субъектом, а живое нравственное общение личностей, из которых
каждая для каждой служит объектом и субъектом» [Флоренский, 1990].
Чрезвычайно интересными в плане развития синергетической методологии
науки нам кажутся и суждения П. А. Флоренского о самопротиворечивости и
многомерности истины. «Для рассудка истина есть противоречие, и это противоречие
делается явным, как только истина получает словесную формулировку. Каждое
из противоречащих предложений содержится в суждении истины и потому
наличность каждого из них доказуема с необходимостью. Тезис и антитезис вместе
образуют выражение истины. Другими словами, истина есть антиномия... Рассудочная
формула может быть истиной тогда и только тогда, когда она предусматривает все
возражения на себя и отвечает на них. Но, чтобы предусмотреть все возражения
надо взять предел их. Отсюда следует, что истина есть такое суждение, которых
содержит в себе предел всех своих отменений, или, иначе, истина есть суждение
самопротиворечивое» [Флоренский, 1990].
Категория «софийности» была развита В.С.Соловьевым и С. Н. Булгаковым:
она характеризует путь достижения всеединства через взаимное приспособление
и совершенствование мира и человека. Очень интересное с точки зрения
содержания настоящей книги развитие идей В. С. Соловьева можно найти у создателя
философского интуитивизма — Н. О. Лосского. У него идея софийности
реализуется через специальных агентов- так называемых субстанциональных деятелей.
Мир состоит из субстанциональных деятелей. Все в нем существует или как
принадлежность, или нечто производное от активности этих деятелей. В
книге «Обоснование интуитивизма» (см. [Зеньковский, 1999; Хрестоматия, 2000])
Н. О. Лосский объясняет понятие «гносеологической координации». Подобная
координация есть не что иное, как связь деятелей друг с другом, благодаря которой,
все, что переживает один деятель, существует не только для него, но и для других
деятелей. Она воспринимается им как условие возникновения сознания и знания.
Одним из духовных вождей русского космизма по праву считается
Н.Ф.Федоров — создатель философии «общего дела». Он впервые (еще до К. Э.
Циолковского) высказал мысль о том, что Земля не является границей для человека,
«нужно считать землю только исходным пунктом, а целое мироздание —
поприщем нашей деятельности» [РК, 1989]. Одна из наиболее смелых идей
Н.Ф.Федорова, лежащая в основе философии «общего дела», заключалась в организации

1.3. Синергетическая методология...
37
духовного воскрешения наших предков, обеспечения возможности виртуального
общения с ними. По его мнению, сознание неразрывно связано с воскрешением.
Философское кредо Н. Ф. Федорова хорошо выражено фразой о гипотетическом
виртуальном музее: «Музей есть не собирание вещей, а собор лиц; деятельность его
заключается не в накоплении мертвых вещей, а в восстановлении умерших по их
произведениям живыми деятелями» [Зеньковский, 1999]. Современные системы
виртуальной реальности уже позволяют сделать первый шаг в этом
направлении. Впрочем, сегодня можно указать и другие варианты «общего дела», прямо
связанные с осознанием опасности всемирной экологической катастрофы
[Моисеев, 1995]. Отметим, что и сам Н.Ф.Федоров был сторонником сознательного
управления эволюцией природы.
Среди наиболее ярких представителей российской эволюционной
философии можно упомянуть Н. В. Бугаева и К. Н. Леонтьева. Первый создал «арит-
мологию» — философию умеренного индетерминизма, представлявшую собой
учение о прерывных функциях, где возникновение разрывов отражает появление
«индивидуального бытия». На этой основе им был предложен оригинальный
вариант «эволюционной монадологии», согласно которому существуют «сложные
монады», где формируются условия совместимости.
В свою очередь, К.Н.Леонтьев предложил органическую теорию развития,
перекликающуюся с эволюционным учением даосизма. По его мнению,
развитие есть сложный, циклический процесс, в котором полный цикл разбивается
на этапы «первичной простоты», «цветущей сложности» и «вторичного
смесительного упрощения». Эту весьма стройную теорию нетрудно изложить в терминах
синергетики. Начальным этапом развития выступает первичная простота, т. е.
такое состояние системы, в котором еще не выявлены все заложенные в ней
возможности. Переход от первичной простоты к цветущей сложности есть период
становления системы, связанный с процессами индивидуализации,
дифференциации и усложнения, а также интеграции. Этот переход есть не что иное, как
процесс самоорганизации. Цветущая сложность означает высшую стадию
развития, которая есть высшая степень сложности, объединенная неким внутренним
деспотическим единством. Здесь термин «деспотизм» означает принудительную
организацию разных элементов в единую систему, обеспечивающую ее
существование как целого (в таком контексте, он близок к гомеостазису). В то же
время, в любой органической системе заложен механизм саморазрушения; при
достижении высшей стадии развития начинается рассогласование между
составляющими частями. Дальнейшее усложнение составных частей системы приводит
к ее неустойчивости. Начинается переход от цветущей сложности к вторичному
смесительному упрощению, которое представляет собой процесс дезорганизации.
Такой процесс связан с разрушением иерархической структуры, ослаблением
единства между частями, нарастанием однообразия. Итогом является распад,
гибель системы. На основе этой схемы К. Н.Леонтьев обосновал идею циклического
развития государств и культур, выдвинутую Н.Я.Данилевским.
Последующее развитие идей соборности и «общего дела» привело к
формированию ноосферного мировоззрения. Его основоположником стал В. И.
Вернадский, который разработал концепцию о переходе биосферы в новое состояние,
определяемое деятельностью человеческого разума. Впоследствии Ж. Леруа назвал
это состояние ноосферой. По сути, идея ноосферы означает обеспечение
коэволюции человечества и биосферы, причем необходимым условием этого оказывается
прогрессирующая социализация личности [Тейяр де Шарден, 1987] и формирование
коллективного интеллекта человечества [Моисеев, 1995]. Коллективный интеллект

38 Глава!. Синергетическая перспектива становления наук
видится как результат сложнейшего эволюционного процесса человека и общества.
Его корни заключены в потребности людей думать вместе и действовать сообща,
обмениваться знаниями и опытом, без чего развитие общества невозможно.
Существует положительная обратная связь между развитием коллективного
интеллекта и сложностью человеческой деятельности. Его формирование
предполагает широкое распространение глобальных коммуникационных систем,
наделяющих людей богатейшими информационными связями, благодаря которым
им становятся доступными общие знания.
К синергетической концепции коллективного интеллекта непосредственно
примыкают представления о гибридном интеллекте [Венда, 1990]. Под
гибридным интеллектом понимается усиленный с помощью программ ЭВМ вариант
совокупного интеллекта коллектива. Здесь в первую очередь речь идет не о чело-
веко-компьютерных комплексах, а об интеллектуальном взаимодействии между
людьми с помощью компьютерных сетей при условии максимально эффективного
использования опыта и знаний в аспекте решаемой задачи. Важнейшим аспектом
гибридного интеллекта является механизм совместного прогнозирования,
характерный для живых систем. Этот механизм лежит в основе взаимной адаптации
различных коллективов и сообществ со средой.
Ноосферогенез, формирующий представление о нашей планете как едином
организме, тесно связан с концепциями сетевого общества и искусственной
жизни; зачатки этого представления уже прослеживались у В.С.Соловьева, который
был убежден, что мир есть одушевленное целое.
Удивительно, но факт: многие идеи русского космизма возрождаются и
начинают жить новой жизнью в эпоху Интернета и виртуальной реальности. В основе
взаимодействия пользователей Интернета по сути лежит принцип соборности.
Сочетание единства и свободы определяет деятельность виртуальных сообществ.
Создание и анимация персональных страниц с помощью технологий
мультимедиа отражают проблему «восстановления личности». Концепция гносеологической
координации субстанциональных деятелей содержит интересные моменты и
положения для построения виртуальных миров, формирования многоагентных систем
и виртуальных организаций, а органическая теория развития имеет
несомненную ценность для разработки моделей искусственной жизни. Не преувеличивая,
можно утверждать, что учение антропокосмизма надо не только считать одним
из предшественников синергетического подхода, но и использовать в качестве
идейной основы построения сетевого информационного общества.

Глава 2
Искусственный интеллект:
психологические предпосылки
и современное развитие
Всякая вещь есть форма проявления беспредельного разнообразия.
Козьма Прутков. «Мысли и афоризмы»
В естественных науках принято начинать работу с точного определения
объекта исследования и обзора, упорядочивающего ранее выработанные концепции.
В науках об искусственном, а особенно, при изучении интеллекта, это сделать
очень сложно. Интеллект является характерным примером сложной,
междисциплинарной категории, а высказывания о нем столь многообразны и
противоречивы, что трудно упорядочить их в какую-то четкую схему, более или менее
устойчивую, или развивающуюся в исторической перспективе. Стремясь хотя бы
частично преодолеть эти трудности, мы попытаемся вначале систематизировать
основные исторические направления развития психологии, представляющие
интерес в плане теоретического осмысления различных подходов к исследованию
и моделированию интеллекта. Затем мы приведем ряд определений и
высказываний о естественном интеллекте, начиная с простейших представлений на
уровне «здравого смысла» и кончая воззрениями и концепциями, разработанными
известными психологическими школами. В заключительной части главы
обсуждаются классические определения искусственного интеллекта, рассматриваются
важнейшие направления в ИИ и последние тенденции его развития. Освещаются
причины происходящей смены парадигмы в ИИ. Формулируются основы нового,
синергетического подхода в ИИ.
2.1. Психологические истоки теории интеллекта
Идеи, образы, изображенья, тени,
Вы, вниз ведущие, но пышные ступени, —
Как змей сквозь вас виясь, я вас люблю равно,
Чтоб видеть высоту я падаю на дно.
Константин Бальмонт. «Прогалины»
При разработке синергетического подхода в ИИ и развитии концепции
агентов неоценимую пользу могут принести результаты исследований психики
и интеллекта человека, раскрывающие механизмы интеллектуального поведения.
Психологические исследования позволяют указать важнейшие ориентиры и
направления теории агентов, такие как анализ и моделирование действий агентов,

40
Глава 2. Искусственный интеллект
моделирование мышления (решения задач), организация восприятия, памяти
и обучения агентов, разработка планов и стратегий поведения, моделирование
процессов мотивации и целеобразования, и т.д.
2.1.1. Эволюция взглядов на психику
и изучение психических явлений
Познал восторг — познай страданье.
Раз я меняюсь — я живу.
Застыть пристойно изваянью,
А не живому существу.
Игорь Северянин. «Гармония контрастов»
Начнем с критического анализа важнейших идей и подходов
психологической науки, объясняющих происхождение различных трактовок интеллекта
и раскрывающих его соотношение с другими важнейшими психологическими
категориями.
Первые психологические теории были проникнуты духом атомизма и ла-
пласовского детерминизма, т.е. линейной связи между причиной и следствием.
На протяжении многих лет психологи пытались выделить некие единицы
(атомы) психики и объяснить, исходя из подобной единицы, различные психические
явления. В качестве ментальной единицы выступали: психологическая ассоциация
по А. Бэну и Дж. С. Миллю, реакции у В. М. Бехтерева, ощущения у Б.
Г.Ананьева, значения у Л. С. Выготского, действия у А. Н.Леонтьева и пр. В целом,
различные школы психологии имеют замечательные наработки в области
выделения и исследования подобных единиц. Однако, очень сильным их ограничением
было то, что они стремились взять и интерпретировать такие единицы в качестве
универсальных и самодостаточных.
С помощью компактной математической записи можно наглядно показать
основные вехи, главные направления развития классических психологических
учений. А также ответить на вопрос, что из этих идей было привнесено в область ИИ.
В духе воззрений психофизического дуализма введем следующие
обозначения: пусть X — физическое (множество физических явлений), a Y — психическое
(множество психических явлений). Определив на множестве Y некоторое
отношение, будем оперировать в терминах субъективного психологического
пространства, которое в психологии стало довольно модным (еще в 80-х гг. XX-го века
о нем писали Ю. М. Забродин, Ф. Клике, В. Ю. Крылов, В. Ф. Петренко и др. —
см. [Забродин, 1979; Петренко, 1988; Тарасов, 1998]). Легко понять, что, исходя
из возможных вариантов отображений X и Y, можно указать четыре базовых
психологических направления, которые возникли еще в XIX-м веке (см. [Тихомиров,
1984; Ярошевский, 1985; Шульц Д. П. и Шульц С. Э., 1998]).
Во-первых, это вундтовский интроспекционизм, утверждавший, что причиной
любых психических явлений могут быть только психические явления. Дальнейшие
вехи его развития — структурализм Э. Титченера, функционализм Ф. Брентано,
предложившего учение об интенционалъности как неотъемлемой характеристике
человеческого сознания, ассоцианизм Дж.Локка, о котором стали чаще говорить
в последнее время в контексте проблем отражения образного мышления в
системах ИИ. Фактически все эти направления, как впрочем, и ряд работ Вюрцбургской

2.1. Психологические истоки теории интеллекта
41
школы психологов, связаны с определением специальных классов
преобразований f, : Y —* Y. В результате были сформированы представления о двойной
детерминации процессов сознания, где на равных правах выступают ассоциации
(главный объяснительный принцип структурной школы) и целеустремленный
субъект (исходное понятие функционализма).
Среди моделей мышления важное место занимает интроспекционистекая
трактовка мышления как ассоциации представлений. Выделяются различные
типы ассоциаций: а) по сходству; б) по контрасту; в) по близости во времени или
в пространстве; г) по отношениям причинности. Закономерности ассоциаций
исследовались в работах А. Бэна, Д. Гартли, Дж. С. Милля и др. Модели
ассоциативных знаний были успешно реализованы в различных приложениях ИИ, например,
в медицинских экспертных системах (см. [Кобринский и Фельдман, 1995]).
В русле идей интроспекционизма в ИИ составлялись и анализировались
протоколы решения задач, когда испытуемые вслух рассказывали о своих умственных
действиях и операциях, связанных с решением задачи. Изучение этих
протоколов позволило определить ряд базовых аспектов решения задач, в частности,
провести анализ цепочки «промежуточные цели — средства». Анализ протоколов
«мыслей вслух» представляет собой один из основных методов извлечения знаний
в ИИ, направленный на определение общих эвристик решения задачи экспертом
и приведение их в форму, доступную для обработки на ЭВМ. Здесь во главу угла
ставится трехчленная схема: «вербализация (знаний эксперта) — формализация —
программирование».
Представления, связанные с интроспекционизмом, продолжают развиваться
и в наши дни. Недавно В.Л.Стефанюком был сформулирован принцип
«семиотической интроспекции»: «подобное — отождествить, различное — подчеркнуть»,
предполагающий использование семиотических, в частности, прагматических
соображений на этапе размышления над задачей.
Прямо противоположная тенденция развивалась в русле всем известного
бихевиоризма — «психологии изучения поведения без анализа психики».
Бихевиоризм, идущий от работ Р. Уотсона и Б. Скиннера, убирает психику из сферы
научного знания и утверждает, что предметом психологии является изучение
поведения как наблюдаемой деятельности. Этому соответствует формула f2 : X —> X
(а конкретнее, знаменитая связь «стимул-реакция»). Здесь мышление выражается
в поведении. Дальнейшее введение так называемых «промежуточных
переменных» V и построение своего рода автоматной модели (см. например, известную
теорию ТОТЕ [Миллер и др., 1965]) в целом не меняет основных идей «психологии
поведения».
Идеи бихевиоризма и необихевиоризма нашли широкое распространение
в ИИ, начиная с лабиринтной модели решения задач и кончая рассмотрением
мышления как системы поведенческих реакций в моделях коллективного
интеллекта. В лабиринтной модели начальные области лабиринта соответствуют
исходным данным задачи, а пути, приводящие к целевой площадке,
определяют возможные пути решения. В компьютерных программах задача поиска
представлена как пространство состояний; движение по лабиринту
моделируется поисковой процедурой, управляемой решающими правилами, с помощью
которых производится выбор в альтернативной ситуации.
Сторонники поведенческого подхода в ИИ считают, что в искусственных
системах деятельности нет нужды воспроизводить внутренние, психические
процессы, которые характерны для интеллекта человека и высших животных.
Достаточно добиться того, чтобы результаты, получаемые интеллектуальной системой,

42
Глава 2. Искусственный интеллект
ничем бы не отличались от результатов, достигаемых человеком (или живым
организмом). В рамках этого подхода было создано большое количество программных
систем, решающих отдельные эвристические задачи на уровне человека, хотя
процессы, протекающие при выполнении этих программ, совершенно отличны
от тех, которые наблюдаются у живых организмов.
Третье направление — классическая психофизика (Э. Вебер, Г. Фехнер, С.
Стивене) — исходило из идеи определения связи между стимулом и ощущением
f3 : X —> Y. Здесь все многообразие форм поведения и психических состояний
объясняется через различия в вызывающих их физических ситуациях. На основании
постулата о принципиальной измеримости психических явлений определялись
выражения количественной связи между физическими сигналами и
психическими образами. Так в рамках классической психофизики были сформулированы три
эмпирических закона: закон Вебера, закон Вебера—Фехнера и закон Стивенса.
Например, закон Вебера—Фехнера устанавливает логарифмическую связь между
силой ощущения и интенсивностью стимула.
Важнейшей проблемой психофизики является определение порогов, а также
исследование метрики и топологии психологического пространства. Примерами
современных психофизических методик служат процедуры многомерного
шкалирования, позволяющие восстановить взаиморасположение ощущений в
многомерных субъективных пространствах. Отметим, что Ф. Клике предложил расширить
идеи психофизики сенсорных процессов на произвольные когнитивные процессы.
Наконец, четвертое исходное направление — это классическая
психомоторика, идущая от работ И. М. Сеченова. Это направление изучает связь между образом
и движением f4 : Y —> X. Здесь типичный инструментарий связан с определением
времени реакции и прочих объективных характеристик действий человека.
По сути, бихевиоризм и интроспекционизм, психомоторика и психофизика
являются полярными направлениями психологических исследований. Однако,
как противоположности они сходятся в том, что их представления о причинности
можно рассматривать в виде простых отображений.
Многие другие направления в психологии можно в той или иной степени
считать производными от четырех базисных направлений (табл. 2.1).
Идеи атомизма и дискретности, представления о том, что в психологии
причина может более или менее однозначно определять следствие,
существовали достаточно долго. Соответствующие концепции развивались в той или иной
форме как в конце XIX-го, так и в начале ХХ-го века. Хотя уже тогда И. М.
Сеченов считал, что психические процессы полностью не определяются внешними
причинами, а опосредованы внутренними условиями.
Прорыв в сторону принципов целостности и непрерывности наступил с
появлением четырех следующих школ: гештальт-психологии, фрейдизма,
топологической психологии и генетической эпистемологии.
Школа гештальт-психологии, наиболее яркими представителями которой
являются М. Вертгеймер, К.Дункер, В. Келер, К. Коффка, впервые ушла от
выдвинутого интроспекционизмом и структурализмом принципа расчленения психики
на элементы и складывания каких-то более сложных процессов и
закономерностей, исходя из простых элементов. Она выдвинула принципиально новое
положение о том, что первичным моментом психических процессов являются
не отдельные элементы, а целостные структуры.
Главной заслугой этой школы стала разработка теории единых, неделимых
психологических структур — гешталътов (см. [Вертгеймер, 1987]).
Фактически в рамках гештальт-теории было возрождено античное представление о том,

2.1. Психологические истоки теории интеллекта
43
Таблица 2.1
Базовые направления в истории психологии,
основанные на идеях лапласовского детерминизма
№.
1
2
3
4
Название
направления
Интроспекцио-
низм
Бихевиоризм
Классическая
психофизика
Классическая
психомоторика
Основные
допущения
Психика
есть замкнутая
система
Психика
исключается
из рассмотрения
Измеримость
связей между
ощущением и стимулом
Наличие прямой
связи между
ощущением и
движением
Вариант
описания
f, : Y - Y
f2: X - X
f3: X - Y
U : Y - X
Предлагаемые методы
Анкетирование,
тестирование, самонаблюдение,
самоанализ
Исследование поведения
как набора реакций
организма на внешние
стимулы, метод проб
и ошибок
Построение
психофизических шкал,
многомерное шкалирование,
исследование порогов
чувствительности
Определение времени
реакции, выработка
нормативных реакций
что целое определяет свойства частей и может быть больше суммы образующих
его частей. Ее сторонниками, пожалуй, впервые в психологии была обоснована
идея о неаддитивности психики. В центре гештальтистских объяснений
оказалось «псевдофизическое» представление о динамическом поле, где каждая точка
взаимодействует с другими. Изменение напряжения в одной из точек
порождает стремление к устранению этого напряжения и восстановления равновесия.
Кроме того, было введено понятие об инсайте — внезапном озарении,
мгновенном (одновременном) схватывании всех существенных отношений в ментальном
пространстве. Это понятие стало основным при объяснении адаптивных форм
поведения и эвристических процессов в противовес принципу полного перебора
или методу проб и ошибок, восходящему к идеям бихевиоризма.
Второе течение, которое также стало революционизирующим, — это,
конечно, фрейдизм. Если появление гештальт-психологии способствовало преодолению
слепой веры в универсальность атомистических и аддитивных моделей психики
и поведения, то психоанализ 3. Фрейда был направлен прежде всего против
вульгарно детерминистских, причинно-следственных трактовок психических явлений.
Им были впервые детально изучены такие тонкие механизмы самоорганизации
психики как мотивация, влечения и пр. У З.Фрейда рассматривались три
уровня психики: бессознательный, предсознательный и сознательный (см.,
например, [Фрейд, 1991]), причем особое место занимало раскрытие роли и механизмов
бессознательного в человеческой жизни.
Одно из центральных положений фрейдизма утверждает, что главным
источником, позволяющим сформировать мотивационный потенциал у человека,
является бессознательное, насыщенное энергией либидо. Эта сфера закрыта
от сознания в силу запретов, налагаемых обществом. Такая «цензура» сознания

44
Глава 2. Искусственный интеллект
подавляет энергию бессознательных влечений, которые прорываются наружу в
виде сновидений, невротических симптомов, забывания неприятностей, ошибочных
действий и т. п. Сфера предсознательного охватывает те психические явления,
которые достаточно легко осознаваемы. Сюда относятся процессы восприятия
информации об окружающей среде и собственном состоянии субъекта, хранения
информации в памяти и т.д.
Согласно 3. Фрейду, три выделенных уровня психики находятся в
неравновесных состояниях друг с другом, в результате чего субъект часто ощущает
«внутренний конфликт». Это внутреннее напряжение снимается с помощью
защитных механизмов — вытеснения, замещения (сублимации), регрессии.
В русле фрейдизма в психологию были введены очень важные идеи:
зависимость сознания от глубинных уровней психики, наличие бессознательной
мотивации, построение защитных механизмов психики в ответ на межуровневые
конфликты и пр.
Интересный синтез ряда положений гештальт-теории и фрейдизма был
реализован К.Левиным в рамках его «топологической психологии» [Levin, 1936].
Отправляясь от общих положений гештальт-теории, в частности, представлений
о психологическом поле, К.Левин сосредоточил свое внимание не на
перцептивных структурах (как гештальтисты), а на мотивационном аспекте психики как
«энергетическом источнике» поведения. При этом он сделал шаг вперед по
сравнению с 3. Фрейдом, перейдя от представления о том, что энергия мотива «сжата»
в системе организма, к представлению о системах «организм-среда». В качестве
исходной конструкции им было взято психологическое поле личности, внутри
которого возникают и изменяются «психологические силы». Примерами таких
сил служат стремления, намерения, мотивы, идеалы, имеющие определенную
направленность, величину и точку приложения. Любой психологический факт,
влияющий наличность, должен занимать определенное место в этом поле, и
только факты, в него попадающие, производят определенные динамические эффекты,
т. е. являются причинами событий. Структура психологического поля личности
оказывается многоуровневой. Ведущим является уровень квазипотребностей,
которые понимаются как (производные от истинных потребностей) динамические
напряжения отдельных областей в структуре личности, стремящиеся к разрядке
(путем побуждения к достижению определенных целей). Одни области
психологического поля притягивают субъекта, а другие — отталкивают. Это получило
название «валентности» (положительной или отрицательной), характеризующей
мотивационную структуру поведения. По сути, эти представления являются
предшественниками синергетических моделей аттракторов.
В русле топологической психологии было впервые сформулировано
предложение взять за основу при моделировании психологических явлений
топологическое пространство, т. е. пару (X, г), где г — некоторая топология. Здесь
каждый элемент г называется открытым множеством топологического
пространства. По сути, множество X наделено топологической структурой, если с каждым
его элементом так или иначе соотносится семейство подмножеств, называемых
окрестностями этого элемента. В исходной модели К.Левина из всего
топологического аппарата по сути использовались только отношения «иметь границу»
(для объекта в психологическом поле личности) и «допускать растяжения и
сжатия» (для трансформации поля). С учетом бурного развития в последнее время
топологических методов и моделей, включая методы нечеткой топологии,
детализация идей топологической психологии представляется весьма многообещающей,
особенно с точки зрения развития теории агентов.

2.1. Психологические истоки теории интеллекта
45
Наиболее важными для развития ИИ на современном этапе
представляются результаты основоположника школы генетической эпистемологии ]) Ж. Пиаже
(см. [Пиаже, 1994]). Им была детально исследована проблема взаимодействия
субъекта и объекта, что позволило сформировать очень актуальное сегодня
понимание интеллекта как средства приспособления субъекта к системе объектов,
а в более широком плане, как условия адаптации организма к окружающей среде.
Все вышеперечисленное позволяет считать гештальт-психологию, фрейдизм,
топологическую психологию и генетическую эпистемологию ранними вариантами
синергетического подхода к изучению психики. В русле этих теорий изучение
психических явлений уже не сводится к причинно-следственным закономерностям,
математически описываемым простейшими отображениями или даже
линейными операторами, а требует привлечения более сложных формализмов. Помимо
гештальтистских идей поля «психологического тяготения», топологического
подхода К.Левина, здесь важное место занимают алгебраические модели, например,
группировки, предложенные Ж. Пиаже.
В разделе 2.3.2 мы попытаемся соотнести основные идеи рассмотренных
базовых психологических школ и течений с тем, как развивался ИИ.
2.1.2. Роль Ж. Пиаже
в формировании основ теории интеллекта
Швейцарский психолог Ж. Пиаже может смело считаться одним из
основоположников современной концепции интеллекта как системы управления
поведением. Для Ж. Пиаже характерно расширительное толкование интеллекта как
любого функционального взаимодействия, структурирующего взаимоотношения
организма и среды. Поэтому интеллект исследуется им в контексте анализа
поведения, понимаемого как особый (функциональный) обмен между средой
и субъектом. Такое понимание поведения предполагает выделение двух его
важнейших аспектов: когнитивного и аффективного. Их роль в поведении и различия
между собой хорошо отражены в двух знаменитых изречениях. Это высказывание
французского психолога Э. Клапареда: «чувства предписывают поведению цель,
а интеллект снабжает поведение средствами» и фраза самого Ж. Пиаже: «чувство
дает действию необходимую энергию, в то время как знание налагает на поведение
определенную структуру» (см. [Пиаже, 1994]).
Суть интеллекта по Ж. Пиаже заключается в умении4 поддерживать гибкое
и одновременно устойчивое равновесие поведения, а его основное назначение
состоит в организации взаимодействия организма со средой. Интеллектуализация
сложной системы определяется им как «прогрессирующая обратимость мобильных
динамических структур».
Теория интеллекта Ж. Пиаже включает в себя два основных компонента:
учение о функциях интеллекта и учение о стадиях развития интеллекта. В этой теории
интеллект трактуется как био-логический процесс, причем среди ключевых
функций интеллекта отмечаются организация и адаптация. Организующая функция
интеллекта связана с управлением поведением организма. Адаптация
обеспечивает равновесие между воздействием системы (организма) на среду и обратным
воздействием среды.
> Проблематика генетической эпистемологии достаточно тесно переплетается с идеями
эволюционной эпистемологии, наиболее ярким представителем которой является К. Поппер (см. [ЭЭЛСН,
2000]).

46
Глава 2. Искусственный интеллект
Как возникает интеллект в онтогенезе? Благодаря действиям. «Посредником»
между ребенком и окружающим миром являются действия. И слова, и образы
сами по себе мало что значат для развития интеллекта. Нужны именно действия.
Собственно в генетическом плане Ж. Пиаже выделены пять стадий развития
интеллекта:
• стадия сенсомоторного интеллекта;
• стадия символического (допонятииного) интеллекта;
• стадия наглядного (интуитивного) интеллекта;
• стадия конкретных операций;
• стадия формальных операций.
Следовательно, интеллектуальное развитие — это развитие операциональных
структур интеллекта, приводящее к их большей взаимосвязанности и скоордини-
рованности, обратимости (возможности в любой момент вернуться к начальной
точке рассуждений, перейти к рассмотрению объекта с противоположной точки
зрения), сокращенности (мгновенному озарению, инсайту), автоматизирован но-
сти (непроизвольному применению).
В рамках генетической эпистемологии Ж. Пиаже обосновал наличие
диалектической связи между субъектом и объектом. По мнению Ж. Пиаже, развитие
познания ведет к тому, что знание субъекта становится все более и более
инвариантным по отношению к изменяющимся условиям взаимодействия, к изменению
позиции субъекта относительно объекта. Отсюда им делается вывод о
возможности применения алгебраического подхода к моделированию психики, в частности,
математической теории групп и связанной с ней теории инвариантов к изучению
процесса познания.
Напомним ряд определений из области абстрактной алгебры [Фрид, 1979].
Остановимся на примитивном классе алгебр с единственной бинарной
операцией *, заданной на множестве X. Здесь наиболее общей структурой является
группоид. Любая пара (X, *) определяет класс фуппоидов. Накладывая те или
иные ограничения на операцию *, приходим к более специальным
алгебраическим структурам — полуфуппам, моноидам, полурешеткам, фуппам и т.д. Так
полугруппа — это фуппоид, для которого удовлетворяется условие
ассоциативности (полуфупповое свойство):
(х*у) *z = х* (у *z), Vx, y,zGX. B.1)
Полуфуппа, для которой справедлив также закон коммутативности
х*у = у*х, Vx,y€X B.2)
называется абелевой полугруппой.
Полурешетка задается парой (X, *), где операция * является коммутативной,
ассоциативной и идемпотентной, т.е. помимо условий B.1)—B.2) выполняется
еще
х*х = х, VxGX. B.3)
Полуфуппа называется упорядоченной, если она удовлетворяет условию изотон-
ности:
х ^ у => ах ^ ау, ха < ау, V х, у, а € X. B.4)
Полуфуппа с единичным (нейтральным) элементом е, таким, что
х*е = е*х, VxGX B.5)
называется моноидом и определяется фойкой Л/УУ=(Х, *, е).

2.2. Краткий обзор различных взглядов на природу интеллекта 47
Группа есть моноид, в котором выполнима обратная операция i = х-1, т.е.
x*i = i*x=l, Vx€X. B.6)
Наконец, топологические или непрерывные группы представляют собой объединение
понятий группы и топологического пространства.
Итак, группу (в алгебраическом смысле) можно представить в виде четверки
GR = (X, *, е, i), где выполняются условия B.1), B.5), B.6).
Для группировок справедливо еще условие идемпотентности B.3).
Соотношения между рассмотренными выше бинарными алгебрами
изображены на рис. 2.1.
Таким образом, группировки Ж. Пиаже — частный случай бинарных
алгебр, когда сигнатура операций включает в себя единственную бинарную
операцию, причем помимо обычных
групповых свойств (ассоциативность, наличие
единичного и обратного элементов)
удовлетворяется также условие
идемпотентности. При этом инвариантом группы
преобразований в интеллектуальной
системе оказывается знание о самом
объекте, о его собственных свойствах, кото- Рис. 2.1. Основные соотношения между
рое не зависит от той или иной частной бинарными алгебрами
системы отсчета, где обнаружены эти
свойства.
В отличие от интеллекта, перцептивные структуры необратимы, нетран-
зитивны и не могут быть описаны группировками. Соответственно, основная
тенденция интеллектуального развития заключается в переходе от элементарных
группировок классов и отношений к пропозициональным структурам.
Согласно Ж. Пиаже, для формализации теории интеллекта следует
построить психо-логикуу которая призвана ликвидировать разрыв между относительной
расплывчатостью психологических теорий и дедуктивной строгостью
формальных (логических) систем. Одним из главных заключений его операциональной
теории является то, что алгебра логики может помочь выявить психологические
структуры и представить в форме исчисления основные операции и структуры,
характерные для интеллектуальных процессов. При этом психо-логика должна
относиться к психологии интеллекта точно так же, как математическая физика
относится к экспериментальной.
2.2. Краткий обзор различных взглядов
на природу интеллекта
2.2.1. Подборка определений и высказываний об интеллекте
Инстинкт и интеллект представляют собой два расходящихся,
но одинаково красивых решения одной и той же проблемы.
Анри Бергсон
Выразить суть интеллекта в каком-то одном определении представляется
исключительно сложной, практически безнадежной задачей. Интеллект есть нечто
ускользающее, не вмещающееся в установленные языком смысловые рамки. По-
группоид
полугруппа
моноид
группа
группировка

48
Глава 2. Искусственный интеллект
этому ниже мы ограничимся просто тем, что приведем ряд известных определений
и высказываний об интеллекте, которые позволят представить себе «объем» этого
необычного понятия. Начнем с определений, формулируемых на уровне
обыденного мышления, ответа на вопрос, что такое «интеллект», исходя из соображений
«здравого смысла».
«Наивные» определения естественного интеллекта сводятся к его выражению
через тот или иной атрибут (или, в лучшем случае, через набор способностей
субъекта). Вообще, моделирование объекта через его атрибуты есть вполне
традиционный, рационалистический способ работы с понятиями в искусственном
интеллекте. Ниже представлен ряд характерных определений типа «интеллект —
это способность X».
1. Интеллект — это способность решать задачи на основе символьной
информации.
2. Интеллект — это способность к обучению и самообучению.
3. Интеллект — это способность успешно адаптироваться к изменениям
внешней среды.
4. Интеллект — это способность отображать закономерности внешнего мира и
испльзовать их для достижения целей.
5. Интеллект — это способность понимать смысл текстов.
Очевидно, что список подобных «определений» может быть бесконечно
длинным. При этом каждый раз фиксируется какая-то отдельная сторона,
отличительная особенность интеллекта, подчас контрастирующая с предыдущим
суждением. Заметим, что многие исследования по искусственному интеллекту,
исходят именно из таких фрагментарных, «рабочих» определений, не пытаясь
сформировать теоретических воззрений на интеллект как целостную систему
разнородных и многоуровневых процессов.
Перейдем к определениям, данным в энциклопедиях и специальных
словарях. Определения и высказывания, встречающиеся в справочниках по психологии,
большей частью страдают такой же отрывочностью и многозначностью, хотя
нередко уже включают системы способностей. Обычно интеллект определяется
как «ум, общая познавательная способность, определяющая готовность человека
к усвоению, сохранению, развитию и использованию знаний и опыта, а также
к разумному поведению в проблемных ситуациях»2'. Часто его отождествляют
с «весьма устойчивой совокупностью умственных способностей индивида»3' или
даже с «системой всех познавательных способностей человека (включающей
ощущения, восприятие, память, представления, мышление, воображение)». А порой,
понимают как своеобразную «способность метауровня», например, как «общую
способность к познанию и решению проблем, определяющую успешность любой
деятельности и лежащую в основе других способностей»4*.
Достаточно емкие и интересные (с точки зрения основной темы данной
книги) определения интеллекта даны в английском словаре Вебстера и Большой
Советской Энциклопедии. В словаре Вебстера: «интеллект — это: а) способность
успешно реагировать на любую, особенно, новую ситуацию путем надлежащих
' «Человек — производство-управление». Психологический словарь-справочник руководителя /
Под ред. А. А. Крылова и В. П.Сочивко. — Л., 1981.
' Психология. Словарь / Под обшей редакцией А. В. Петровского и М. Г. Ярошевского. — М.:
Политиздат, 1990.
' Психологический словарь/ Под ред. В. П.Зинченко, Б. Г. Мещерякова. — М.: Педагогика-Пресс.
1997.

2.2. Краткий обзор различных взглядов на природу интеллекта 49
корректировок поведения; б) способность понимать связи между фактами
действительности для выработки действий, ведущих к достижению поставленной
цели». Таким образом, уже прослеживаются взаимоотношения между
интеллектом и характером поведения, или между пониманием связей и организацией
действий. Во втором издании БСЭ: «интеллект... в широком смысле — вся
познавательная деятельность человека, в узком смысле — процессы мышления,
неразрывно связанные с языком как средством общения, обмена мыслями и
взаимного понимания людей». Здесь интеллект прямо связывается с деятельностью
и языком коммуникации.
Теперь приведем высказывания известных ученых об интеллекте. Сравним
при этом мнения психологов и специалистов по ИИ.
Многие психологи стремились выделить специфику интеллекта на основе
сопоставления его с другими психическими способностями, например, с
инстинктом (см., например, [Ярошевский, 1985; Холодная, 1997]). Французский
ученый А. Бергсон считал, что инстинкт связан с вещами, а интеллект — с
отношениями. По его мнению, главными функциями интеллекта являются
установление отношений, а также обнаружение сходства фактов и повторяемость этого
сходства («интеллект ищет сходство с уже известным»). Немецкие психологи
К. Бюлер и В. Келер еще резче противопоставляли интеллектуальное поведение
инстинктивному. Они называли инстинкт «памятью поколений», считая ее очень
крепкой и передающейся из рода в род. Инстинктивные действия
оказываются приспособленными к вполне определенным жизненным условиям и только
к ним одним. Поэтому они выполняются с большим совершенством и без
всяких предварительных упражнений. Инстинкты чрезвычайно консервативны: они
функционируют с удивительной точностью и надежностью, когда все идет по-
старому, но отказываются служить, когда человек попадает в новые условия.
Напротив, главный признак интеллекта есть формирование таких операций,
которые возникают не постепенно, путем проб и ошибок, а внезапно, как бы
по догадке. При этом найденное решение запоминается раз и навсегда, что
обеспечивает возможность его широкого переноса и применения в сходных условиях.
Гештальтисты К. Бюлер и В. Келер особенно подчеркивали связь интеллекта
с «актом внезапного понимания» — инсайтом, что предполагает резкое изменение
принципов работы психических структур.
По мнению известного советского психолога А. Н. Леонтьева, интеллект
'возникает впервые там, где поведенческий акт дифференцируется на две фазы:
фазу подготовки того или иного действия и фазу его осуществления [Леонтьев,
1975].
Интеллект также рассматривают сквозь призму соотношения различных форм
мышления. В общем случае мышление не сводится к оперированию символами,
а предполагает также оперирование образами объектов и действий.
В психологии принято выделять: вербальное и образное, репродуктивное
и продуктивное, теоретическое и практическое, логическое и интуитивное
мышление [Брушлинский, 1979; Тихомиров, 1984]. В частности, интуитивное
мышление характеризуется быстротой протекания мыслительных процессов, отсутствием
четко выраженных этапов, минимальной осознанностью. В то же время,
логическое мышление, будучи развернутым во времени, имеет четко выраженные фазы
и в значительной мере осознается субъектом.
Тремя основными стадиями онтогенетического развития мышления
являются: наглядно-действенное, наглядно-образное, словесно-логическое мышление.
Наглядно-действенное мышление характеризуется тем, что решение задачи на-
5 Зак. 72

50
Глава 2. Искусственный интеллект
ходится с помощью физического преобразования ситуации, например, путем
перемещения в реальном мире, воздействия на реальный объект и пр.
Наглядно-образное мышление предполагает представление (или воображение) ситуаций
и необходимых изменений. Формируемый при этом образ может одновременно
включать различные точки зрения, обеспечивать видение объекта с различных
сторон. В психологии представление означает вторичный образ, возникающий
на базе прошлого опыта в результате его воспроизведения в памяти, тогда как
воображение связано с конструированием образной модели того или иного состояния
мира на основе исходного словесного описания. В рамках словесно-логического
мышления широко используются понятия и связанные с ними логические
конструкции: суждения, рассуждения, обобщения и пр. Именно благодаря словесно-
логическому мышлению происходит социализация индивидуального интеллекта,
экстенсивное приобретение знаний, накопленных другими людьми.
Интеллект также соотносится с возможностью адаптации к среде. Так Э. Кла-
паред и В. Штерн понимали интеллект как «психическую адаптацию к новым
условиям». По Ж. Пиаже, интеллект — это наиболее совершенная форма
адаптации организма к среде, представляющая собой единство процессов ассимиляции
(построение внутренней модели среды в виде когнитивных схем) и аккомодации
(изменения этих схем в зависимости от требований среды). Он утверждал, что
интеллект — это «определенная форма равновесия, к которой тяготеют все
структуры, образующиеся на базе восприятия, навыка и элементарных сенсомоторных
механизмов» [Пиаже, 1994].
Ресурсную функцию интеллекта и его связь с категорией деятельности
отмечает Т. Парсонс: «термин "интеллект" характеризует обобщенную способность
деятеля эффективно мобилизовывать ресурсы, необходимые для решения
познавательных проблем и процессов коммуникации» [Парсонс, 2000].
В работе [Dennett, 1971] в качестве условий интеллектуального развития
указаны шесть компонентов «лестницы личности»: рациональность; интенцио-
нальность; установка; взаимоотношения; коммуникация; сознание.
Теперь остановимся на воззрениях специалистов по информатике и ИИ. Так
в книге [Фогель и др., 1969] под интеллектом понимается «способность
субъекта использовать накапливаемую им информацию (знания) некоторым полезным
образом». Там же утверждается, что интеллект есть способность любого организма
(или устройства) достигать успеха при поиске одной из возможных целей в
обширном многообразии сред [Фогель и др., 1969]. Среди характеристик интеллекта»
на первый план ставятся механизмы принятия решения и предсказания, т. е.
формирования цели.
Близкую точку зрения высказывал У. Р. Эшби, считавший, что в основе
интеллектуального поведения лежит «подходящий отбор», проявляющийся в
регулировании и саморегулировании. Интеллект в самом общем понимании обязательно
включает механизм эволюционно-исторического прогнозирования [Венда, 1990].
Представители нейроинформатики часто высказывают точку зрения о том,
что интеллект — это системное свойство нейронов мозга, не выводимое из свойств
единичного нейрона. По мнению известного специалиста по семиотике Ю. М. Лот-
мана [Лотман, 2000], интеллект возникает тогда, когда имеются внутренние
неоднородности. В свою очередь, один из патриархов ИИ М. Минский связывает
интеллектуальность системы со степенью непонимания наблюдателем того, как
она решает задачи.
Наконец, наиболее распространенное в сообществе специалистов по ИИ
мнение связывает интеллект со способностью строить модели реальности, а интеллек-

2.2. Краткий обзор различных взглядов на природу интеллекта 51
туальность системы — с наличием у нее собственной внутренней модели внешнего
мира. Более того, эта модель должна быть корректируемой и характеризоваться
высокой адаптивностью [Арбиб, 1976]. С уровнем развития внутренней модели тесно
связаны возможности планирования поведения; а также формирования умений.
Недавно интересную трактовку интеллекта как совокупности способностей
дал В. К. Финн [Финн, 1999 и 2001]. Он указал следующие принципиальные черты
интеллекта:
• выделение существенного в знании;
• способность к рассуждениям;
• рефлексия;
• выдвижение цели и выбор средств ее достижения;
• познавательная активность;
• адаптация к ситуации;
• формирование обобщений и обучение на примерах;
• синтез познавательных процедур.
Психологические концепции мышления и интеллекта детально описаны
в отечественных монографиях [Брушлинский, 1979; Тихомиров, 1984; Холодная,
1997]. В последней приведен перечень основных психологических подходов к
изучению природы интеллекта, на который мы будем опираться при дальнейшем
изложении.
2.2.2. Психологические подходы к изучению интеллекта
В уже упомянутой книге [Холодная, 1997] выделяются следующие подходы
к исследованию интеллекта:
• информационный подход (интеллект изучается как совокупность элементарных
процессов переработки информации);
• образовательный подход (интеллект выступает как продукт целенаправленного
обучения);
• феноменологический подход (интеллект — особая форма содержания
сознания);
• процессуально-деятельностный подход (интеллект понимается как особая
форма человеческой деятельности);
• регуляционный подход (интеллект есть ведущий фактор саморегуляции
психической активности);
• структурно-уровневый подход (интеллект — система разноуровневых
познавательных процессов);
• социо-культурный подход (интеллект трактуется как результат процесса
социализации, а также влияния культуры в целом);
• генетический подход (интеллект есть следствие усложняющейся адаптации
к требованиям окружающей среды в изменяющихся условиях взаимодействия
человека с внешним миром).
Кратко поясним суть указанных подходов и укажем возможные пути их
применения в искусственном интеллекте.
Информационный подход
Первоначально информационный подход был связан с тестами на выявление
уровня развития интеллекта. Одним из его родоначальников был X. Айзенк —
5*

52
Глава 2. Искусственный интеллект
автор известной методики определения коэффициента«интеллектуальности (КИ),
который рассматривал ментальную скорость как основу индивидуальных
интеллектуальных различий.
Затем в качестве альтернативы психометрическому подходу, основанному
на батареях тестов, стало рассматриваться изучение базовых информационных
процессов, лежащих в основе решения задач. При этом важную роль сыграла
«компьютерная метафора» — перенесение понятий из области компьютерной
техники в изучение поведения. Так родилась в частности теория поведения
Д. Миллера, Ю. Галантера и К. Прибрама [Миллер и др., 1965], в рамках
которой интеллектуальные процессы стали описываться в терминах преобразования
информации, ее кодирования, декодирования, классификации, распознавания
конфигураций и пр.
Образовательный подход
В образовательном подходе к интеллекту центральное место занимают теории
когнитивного научения, опирающиеся на идею о том, что природа интеллекта
раскрывается через процедуры его приобретения. Здесь интеллект рассматривается
как средство усвоения когнитивных навыков, или как базовый набор вариантов
поведения, который приобретается за счет определенных обучающих процедур.
Например, интеллектуальная способность к обобщению предполагает усвоение
четырех основных когнитивных навыков: 1) навык наименования предметов и их
свойств (цвета, формы, размера и пр.); 2) навык переводов типа «слово (знак) —
образ»; 3) навык работы с классами слов (родо-видовыми связями); 4) навык
словесного ассоциирования.
По мнению К. Фишера, интеллектуальное развитие есть формирование
иерархически организованных комплексов специфических навыков. Им
рассмотрены три яруса (типа) усваиваемых навыков: сенсомоторные, репрезентативные
и абстрактные. Все эти навыки взаимосвязаны и формируются вместе с
комбинаторными правилами, отвечающими за их взаимодействие и преобразование.
В понимании Р. Фейерштейна, интеллект проявляется как динамический
процесс взаимодействия человека с миром, поэтому ведущим критерием развития
интеллекта является его подвижность, мобильность. Источником мобильности
интеллекта выступает «опосредованный опыт обучения» — множество методов
и приемов поиска цели, планирования, контроля поведения, оценки
компетентности и пр.
Важным средством обучения и интеллектуального развития являются
когнитивные карты Э.Толмена — умственные изображения среды, варианты
представления связей (отношений) между понятиями и атрибутами в данной предметной
области (см. [Силов, 1995]).
Феноменологический подход
Типичным примером феноменологического подхода служит гештальт-психоло-
гическая теория интеллекта. По этой теории, сущность интеллекта заключается
в его способности порождать и организовывать субъективное пространство
познания. Представители гештальт-психологии, уже упомянутые выше М. Вертгеймер,
К. Дункер, В. Келер и др., выдвинули положение о том, что первичным и главным
содержанием любого интеллектуального процесса являются не отдельные
элементы, а некоторые целостные образования — гештальты. В гештальт-теории природа
интеллекта трактуется в контексте организации феноменов поля сознания. Так
М. Вертгеймер, характеризуя «продуктивное мышление», рассматривает основные

2.2. Краткий обзор различных взглядов на природу интеллекта 53
процессы, структурирующие содержание сознания: группирование,
центрирование, реорганизация впечатлений [Вертгеймер, 1987]. Само решение возникает
как «инсайт» — внезапное озарение, мгновенное отражение наиболее
существенных отношений в воспринимаемом пространстве. Именно способность к такому
быстрому перестраиванию содержания познавательного образа в направлении
выявления проблемной ситуации и становится важнейшим критерием развития
интеллекта.
Процессуально-деятельностный подход
Процессуапьно-деятельностный подход, восходящий к работам известного
отечественного психолога С.Л.Рубинштейна [Рубинштейн, 1997], связан с
исследованиями интеллекта в контексте теории мышления как процесса [Брушлин-
ский, 1979]. Согласно этому подходу, механизмы интеллектуальной деятельности
складываются не априори, до начала некоторой деятельности, а именно в самом
процессе деятельности. Иными словами, здесь уже ставятся и обсуждаются
вопросы возникновения и развития интеллекта. Нельзя определять интеллект человека
лишь по одному результату деятельности, не вскрывая процесса мышления,
который к нему приводит. Поэтому сторонники данного подхода подчас
разграничивают интеллект как умственную способность и мышление как умственную активность.
Прямыми предшественниками процессуально-деятельностного подхода
можно считать психологов Вюрцбургской школы, трактовавших мышление как
действие (акт усмотрения отношений) и особенно О. Зельца, согласно которому
постановка цели ведет к активации более или менее общих интеллектуальных
операций (визуализация, абстракция, расчленение на признаки), т. е.
стандартных способов достижения цели.
Для приобретения любых знаний, способов поведения и т. п. требуются
внутренние психологические предпосылки, в том числе, некоторый исходный
уровень умственного развития. Интеллектуальные способности — это, с одной
стороны, результат обучения, а, с другой стороны, его предпосылка.
Квинтэссенцией интеллектуальных способностей является выполнение процессов анализа,
синтеза и обобщения с данным качеством.
Регулятивный подход
В соответствии с регулятивным подходом, интеллект служит механизмом
регуляции (координации) психики и поведения человека. Одним из первых это
положение сформулировал и обосновал Л.Терстон, впоследствии ставший одним
из пионеров тестологии. По Л. Терстону, интеллектуальное поведение
определяется способностью тормозить импульсивные побуждения либо приостанавливать их
реализацию до того момента, пока исходная ситуация не будет осмыслена в
контексте наиболее приемлемого для личности способа поведения. Иными словами,
интеллект — это условие контроля мотивации, предполагающее способность к
абстракции, возможность осуществлять мысленный выбор среди множества более
или менее подходящих вариантов адаптивного поведения. При этом
интеллектуальная активность часто посвящена реорганизации сферы потребностей и чувств
человека.
В свою очередь, Р. Стернберг показал, что интеллект должен изучаться как
открытая система в контексте более широкой проблемы самоуправления у
человека. По его мнению, это предполагает поиски ответов на три основных вопроса:
а) каково отношение интеллекта к внутреннему миру; б) каково отношение
интеллекта к внешнему миру; в) каково отношение интеллекта к опыту человека.

54
Глава 2. Искусственный интеллект
Кроме того, одним из центральных направлений»исследований в
психологии интеллекта стало изучение роли личностных факторов (эмоций, мотивов,
процессов целеполагания) в интеллектуальном поведении. Экспериментальные
исследования О.К.Тихомирова и сотрудников [Тихомиров, 1984] показали, что
состояния эмоциональной активации, как правило, опережают словесное
формулирование принципа решения задачи. При этом возникает «чувство близости
решения». Эмоционально-эстетические критерии позволяют сузить зону поиска;
мыслительные процессы становятся более направленными и развивается мотив
достижения результата (его соответствия с некоторыми стандартами качества
самой деятельности или ее продукта). Следовательно, эмоции выступают как
регулятор интеллектуальной деятельности.
Структурно-уровневый подход
Структурно-уровневая концепция интеллекта, разработанная Б. Г.Ананьевым
и его учениками [Ананьев, 1977], исходит из положения о том, что интеллект —
это сложная структура, включающая познавательные функции разного уровня.
Межфункциональные связи, объединяющие различные познавательные процессы
(память, внимание, психомоторные и мыслительные процессы), обеспечивают
формирование интеллектуальной системы. Но структура интеллекта определяется
не только межфункциональными, но и внутрифункциональными связями, т.е.
различными свойствами отдельной познавательной функции (например, объемом
и распределением, избирательностью и устойчивостью внимания).
Экспериментальные исследования Б. Г. Ананьева и сотрудников позволили
им сделать следующие заключения о структурно-уровневом устройстве интеллекта.
• Основной вертикальный контур функционирования интеллекта определяется
познавательными процессами, построенными по принципу иерархического
соподчинения «ощущение — восприятие-представление-мышление».
Однако этот контур дополняется также горизонтальным контуром управления
поведением (схема «билатерального регулирования»).
• Существует система влияния высших уровней познавательного отражения
на низшие (например, воздействие мышления на восприятие) и,
наоборот, низших на высшие (например, влияние восприятия на представление).
Это означает, что строение и развитие интеллекта связаны с процессами
«когнитивного синтеза» сверху и снизу.
• Интеллектуальное развитие предполагает интеграцию различных форм
интеллектуальной активности, что сопровождается ростом количества и величины
корреляционных связей как между познавательными функциями разных
уровней, так и внутри одной познавательной функции.
• Существуют сквозные свойства, присущие всем уровням познания-объемные
(объем внимания, объем памяти, активный словарный запас),
координационные {перцептивно-моторная координация) и пр.
Социокультурный подход
Социокультурный подход связан с межкультурными исследованиями
познавательных процессов. Его наиболее известными представителями являются
Л.С.Выготский, Дж. Брунер, Л.Леви-Брюль, К.Леви-Стросс, А. Р.Лурия. Так
Л. Леви-Брюль показал возможность сосуществования в любой культуре, а также
у отдельного субъекта одновременно разных типов мышления (неоднородность
человеческого мышления). При этом он ввел понятие «пралогического мышления»,

2.2. Краткий обзор различных взглядов на природу интеллекта 55
в котором доминируют правополушарные процессы и мифологические
представления (см. [Поспелов Д. А., 1989; Холодная, 1997]. В свою очередь, А. Р.Лурия
исследовал вопросы построения категориальных и ситуативных классификаций
и показал, что последние опираются на наглядный опыт человека.
В этом ряду особое место занимает Л. С. Выготский с его культур
но-исторической теорией развития высших психических функций. Отстаивая формулу
«выведения индивидуального из социального», он утверждал, что «все высшие
психические (интеллектуальные) функции суть обращенные вовнутрь
отношения социального порядка». [Выготский, 1982]. Согласно культурно-исторической
теории, существуют уровень натуральных и уровень культурных психических
процессов. Здесь «культурный процесс» — это «натуральный процесс»,
опосредованный своеобразными психологическими орудиями и вспомогательными
средствами. Натуральные акты и процессы поведения возникли и сложились
в особые механизмы в процессе биологической эволюции, тогда как культурные
(искусственные и инструментальные) функции и формы поведения являются
продуктом исторического развития.
В поведении человека встречается целый ряд искусственных приспособлений,
направленных на овладение собственными психическими процессами. Эти
приспособления по аналогии с техническими орудиями и средствами можно назвать
психологическими орудиями. Будучи включенным в процесс поведения,
психологическое орудие так же видоизменяет все протекание и всю структуру психических
функций, способствуя переходу к новому инструментальному акту, как
техническое орудие видоизменяет процесс естественного приспособления, определяя
форму трудовых операций. Психологические орудия — по сути своей
искусственные образования, т.е. социальные, а не органические или индивидуальные
приспособления. Примерами психологических орудий служат язык, различные
формы нумерации и счисления, мнемотехнические средства, схемы, диаграммы,
чертежи, алгебраическая символика. В качестве элементарного психологического
орудия Л. С. Выготский выделяет знак; с этим связана идея семиотизации знания
как основы интеллектуального поведения.
Генетический подход <-
Этот подход представлен прежде всего генетической эпистемологией и
операциональной теорией интеллекта Ж. Пиаже [Пиаже, 1994] (см. раздел 2.1.2).
2.2.3. О перспективах компьютерной реализации
психологических подходов к интеллекту
Быть может, эти электроны —
Миры, где пять материков,
Искусства, знанья, войны, троны
И память сорока веков!
Еще, быть может, каждый атом —
Вселенная, где сто планет',
Там все, что здесь, в объеме сжатом,
Но также то, чего здесь нет.
Валерий Брюсов. «Мир электрона»
До последнего времени вышеперечисленные психологические подходы к
интеллекту мало пересекались с практическими разработками интеллектуальных

56
Глава 2. Искусственный интеллект
систем. Почти все работы по информатике и ИИ опирались лишь на
информационный и, отчасти, образовательный подходы. Невостребованными оставались
гештальт-теория с ее представлениями о «быстрых процессах мозга» и
исследования регулятивной функции интеллекта, схема билатерального регулирования
и концепция психологических орудий, триархическая теория самоуправления
и генетическая эпистемология Ж. Пиаже. И лишь в самое последнее время
намечается серьезный прорыв, который в первую очередь связан с потребностями
развития теории агентов как ядра наук об искусственном.
Идеи и положения регулятивного подхода находят свое применение в
контексте агентификации искусственных систем, когда все большую роль начинает
играть моделирование мотивов, убеждений, намерений, желаний, интуиции и
ряда других компонентов психики, относящихся к потребностно-мотивационной
и аффективно-чувственным сферам. Методология структурно-уровневого
подхода, а также работы по функциональной организации когнитивных процессов
представляют большой интерес в контексте синтеза архитектур интеллектуальных
агентов. Элементы «триархической теории», основанные на метафору «управления
государством», предполагают выделение соответствующих функций
(законодательная, исполнительная, оценочная), уровней (глобальный и локальный), форм
(монархическая, анархическая, иерархическая, олигархическая), сфер
(внутренняя, внешняя), ориентации (консервативная, прогрессивная) интеллекта. Данный
подход напрямую соотносится с такой актуальной проблематикой информатики
и ИИ как проектирование многоагентных систем и разработка интеллектуальных
организаций.
Термин «коэффициент машинного интеллекта», сокращенно КМ И (Machine
Intelligence Quotient), введен Л. Заде для характеристики уровня
интеллектуальности создаваемых человеком систем [Заде, 2001]. Определение такого
коэффициента есть прямое развитие психометрического подхода на случай искусственных
систем. Основное отличие между традиционным коэффициентом
интеллектуальности КИ (IQ) по Айзенку и КМИ по Заде состоит в том, что КИ является более
или менее постоянным, тогда как КМИ существенно изменяется со временем
и является машинно зависимым. При этом многие характеристики КМИ и КИ
не совпадают. Например, распознавание речи может быть важной
характеристикой для КМИ, но в случае КИ считается тривиальным, всегда имеющимся
свойством.
По нашему мнению, особые перспективы в плане современного
развития теории интеллекта имеют социокультурный и генетический подходы.
Теория Л. С. Выготского может трактоваться как одна из первых попыток
раскрыть коммуникативную (семиотическую) природу естественного интеллекта.
Она может успешно применяться при обосновании и разработке социального
подхода в ИИ, основанного на взаимодействии автономных агентов. Наконец,
представления генетической эпистемологии Ж. Пиаже обеспечивают исходные
предпосылки для построения единой теории интеллекта как сложной,
открытой, самоорганизующейся динамической системы с элементами формализации
интеллектуальных процессов. Заметим, что при рассмотрении интеллекта как
открытой системы речь идет о моделировании не только «чисто
интеллектуальных» (читай, рациональных) процессов, но и эмоциональных, интенцио-
нальных, волевых процессов. Античная психологическая триада «интеллект-
чувства-воля» возрождается и наполняется новым смыслом в эпоху
искусственных агентов.

2.3. Развитие классических подходов и направлений... 57
2.3. Развитие классических подходов
и направлений в искусственном интеллекте
2.3.1. Что такое искусственный интеллект?
Что такое искусственный интеллект ?
Это кусок железа, который иногда думает.
Саша Бурделев, 11 лет
Поскольку синергетический подход опирается на плюрализм и согласование
подчас противоречивых мнений, приведем ряд высказываний известных
ученых, которых можно отнести к классикам искусственного интеллекта. Определяя
область ИИ в первой главе своей книги, П.Уинстон пишет [Уинстон, 1980]:
«Искусственный интеллект-это наука о концепциях, позволяющих вычислительным
машинам делать такие вещи, которые у людей выглядят разумными...
Центральные задачи ИИ состоят в том, чтобы сделать вычислительные машины более
полезными (с. 11)... Искусственный интеллект привлекает людей, которые хотят
вскрыть принципы, применимые ко всем интеллектуальным информационным
процессорам, а не только к тем, которые сделаны из нервной ткани. Поэтому
у нас нет горячего желания копировать человеческий интеллект, как и нет
предубеждений против применения методов, которые по-видимому используются
в интеллекте человека... Методология, используемая, чтобы сделать разумнее
машины, может быть, видимо, использована и для того, чтобы сделать разумнее
самих людей (с. 14).»
Схожую точку зрения высказывает А. Хоффман: «ИИ стремится открыть
общие принципы работы интеллекта. Эти общие принципы могут плодотворно
применяться даже без использования программных средств» [Hoffman, 1991].
Со времен выхода в свет в 1967 г. известного сборника «Вычислительные
машины и мышление» выделяются три важнейшие цели работ по ИИ (см.
[Simon, 1995]): 1) разработка компьютерных программ, поведение которых было бы
названо разумным, если бы его обнаружили у людей, и развитие на этой основе
теории интеллектуальных систем (Э.Фейгенбаум, Дж. Фельдман); 2) построение
компьютерных программ, имитирующих интеллектуальное поведение, используя
для решения задач те же процессы, что и люди; 3) создание компьютерных
программ, служащих как усилители интеллекта человека. Хотя в Словаре по
кибернетике, изданном в 1979 г. (под ред В. М. Глушкова) указана только вторая
цель: ИИ связывается с «искусственными системами, имитирующими решение
сложных задач людьми в процессе его жизнедеятельности».
Общая цель работ по ИИ состоит в «создании машин, выполняющих такие
действия, для которых обычно требуется интеллект человека» [Нильсон, 1973].
Автор одной из первых монографий по ИИ Н. Нильсон первоначально был
весьма скептически настроен по поводу возможности создания единой теории ИИ.
Он считал, что ИИ представляет собой инженерную дисциплину, поскольку его
первоначальной целью является создание конструкций 5\ Вместо единой теории
' Эта позиция перекликается с мнением Г. Саймона об истории развития ИИ, чем обусловлено
название его статьи в журнале Artificial Intelligence «Искусственный интеллект как эмпирическая
наука» [Simon, 1995].
4 Зак. 72

58
Глава 2. Искусственный интеллект
имеется ряд базовых дисциплин, которые должны изучаться теми, кто избрал
ИИ своей специальностью. К таким дисциплинам относятся математическая
логика, структурная лингвистика, теория вычислений, теория управления, теория
информационных структур, теория графов и теория эвристического поиска.
Поиск решения задач посредством эвристических методов — доминирующая тема
в исследованиях по ИИ.
Развивая эту точку зрения, один из основоположников ИИ Дж. Маккарти
(которому приписывают авторство термина «искусственный интеллект») утверждает,
что проблематика ИИ включает две главные составляющие: проблему эвристик
и проблему представления (эпистемология ИИ). Прежде всего, речь идет о
разработке моделей внутреннего представления внешнего мира в компьютерных
системах.
В монографии [Лорьер, 1991] область ИИ очерчивается достаточно
туманно. Автор утверждает, что «всякая задача, для которой неизвестен алгоритм
решения, априорно относится к ИИ». Куда более конкретное и специфическое
определение ИИ дано в недавно вышедшей книге [Гаврилова и Хорошевский,
2000]: «ИИ — это одно из направлений информатики, целью которого является
разработка программно-аппаратных средств, позволяющих
пользователю-непрограммисту ставить и решать свои, традиционно считающиеся интеллектуальными
задачи, общаясь с ЭВМ на ограниченном подмножестве естественного языка».
В данном определении отражена известная позиция Г.С.Поспелова, всегда
подчеркивавшего существование диалогового человеко-машинного контекста ИИ.
Первые разработчики интеллектуальных систем Г.Саймон и А. Ньюэлл
рассматривают сами исследования в области ИИ как эвристический поиск в
пространстве состояний. Каждый узел представляет задачу, а каждый путь в графе —
проект, направленный на решение этой задачи.
Классическая нормативная методология в ИИ сводится к следующим шагам:
1) выбрать область познавательной деятельности человека;
2) предложить гипотезы или теорию относительно ресурсов, необходимых для
ее выполнения;
3) построить компьютерную программу, воплощающую основные принципы
этой теории;
4) протестировать эту программу;
5) провести цикл экспериментов с программой для определения природы
интеллекта.
Впоследствии Н. Нильсон поменял свою исходную позицию, о чем
свидетельствует его следующее высказывание: «Искусственный интеллект ставит перед
собой серьезную задачу построения теории интеллекта, базирующейся на
обработке информации. Если бы такую теорию интеллекта удалось создать, то с ее
помощью можно было бы направленно вести разработку интеллектуальных
машин» [Будущее ИИ, 1991]. У Д. Марра, теория ИИ отождествляется с теорией
вычислений, которая выражает в абстрактной постановке (т. е. без уточнений
конкретного алгоритма), что и зачем вычисляется для данной задачи. Согласно
Д. Киршу, теория ИИ — это спецификация знаний, лежащих в основе
когнитивных умений [Kirsh, 1991].
Для Г.Саймона, теоретические единицы в ИИ могут быть, по крайней
мере, трех типов: а) единицы описания интеллектуальной системы; б) единицы
описания ее среды (например, условия задачи или ограничения, влияющие
на решения); в) единицы описания поведения системы в среде [Simon, 1995].

2.3. Развитие классических подходов и направлений... 59
По мнению Д.А.Поспелова, исследования в ИИ должны быть нацелены
на «изучение психики человека с целью имитации ее в технических системах,
решающих определенный набор практических задач, традиционно считавшихся
интеллектуальными» [Поспелов Д. А., 1982]. Данную позицию можно обозначить
как «умеренный функционализм», предполагающий возможность абстрагировать
характерные свойства некоторого явления и воспроизвести их на других
носителях. Здесь речь идет о воспроизведении функций человеческого мозга (а в более
широком плане, психики человека) без учета лежащих за ними физиологических
явлений.
Если попытаться как-то систематизировать вышеприведенные высказывания,
то, прежде всего, на их основе можно выделить две альтернативные
программы построения интеллектуальных систем [Поспелов Д. А., 1994; Тарасов, 1995].
Первая, часто называемая прагматической или информационной, исходит из того,
что при разработке искусственных интеллектуальных систем совершенно
необязательно моделировать принципы и механизмы работы естественного интеллекта.
Здесь не ставятся цели проведения аналогий с физиологическими или
психическими процессами, характеризующими интеллектуальное поведение, а просто
рассматриваются и реализуются возможности новейших информационных
технологий в области решения сложных, слабоструктурируемых задач. Подобные
задачи обладают следующими важнейшими характеристиками: 1) в них данные
не могут быть представлены в числовой форме (необходимо символьное
представление); 2) алгоритм решения задачи либо неизвестен, либо его применение
при заданных ограничениях невозможно (неалгоритмизируемые задачи); 3) цели
не могут быть выражены в виде точно указанной целевой функции.
Перечисленные особенности плохо структурированных задач не позволяют использовать
для их решения традиционные математические методы, опирающиеся на такие
понятия как числовая обработка информации, алгоритм, однозначность и
непротиворечивость.
Данный подход основывается на понятии системы обработки информации
в смысле А. Ньюэлла и Г. Саймона: здесь решение задач связывается с
«универсальной системой формальных манипуляций над символами». Он лежит в основе
большинства классических систем, основанных на знаниях. Главный исходный
тезис сторонников подобного прагматического направления формулируется
следующим образом: неважно, по какому принципу работает искусственная система,
главное, чтобы на выходе она давала результаты, похожие на рекомендации
специалиста. Если в результате функционирования компьютерной системы удается
решить интеллектуальные задачи, ранее являвшиеся исключительной
прерогативой специалиста в некоторой проблемной области, а эффективность их решения
оказывается сопоставимой с эффективностью интеллектуальной деятельности
человека, то подобные системы могут считаться интеллектуальными (невзирая на то,
как методы компьютерного решения задач соотносятся со способами решения
этих задач людьми).
Очевидно, что информационный подход к ИИ страдает редукционизмом:
речь идет не о моделировании интеллекта в целом и его важнейших структур,
а лишь об отображении тех характеристик интеллекта, которые непосредственно
связаны с обработкой информации и решением эвристических задач.
Сторонники второй программы построения искусственных интеллектуальных
систем настаивают на необходимости имитации в компьютерных системах
процессов решения задач человеком и целесообразности использования средств ИИ
4*

60
Глава 2. Искусственный интеллект
для объяснения работы естественного интеллекта. Этот имитационный подход
в ИИ тесно связан с идеями бионики и психоникиь\
В первый период кибернетического бума, пришедшийся на конец 50-х
и 60-е гг., рождались новые научные дисциплины и направления, связанные с
отображением и имитацией важнейших характеристик сложных естественных систем
в искусственных системах. Одна из таких дисциплин — бионика — провозгласила
своей целью практическое применение в технических системах тех
биологических механизмов и принципов действия, которые природа «отработала» в ходе
эволюции живых организмов. В сферу интересов бионики попадают автономные
и гомеостатические системы, искусственные нейроны и эволюционные системы,
искусственные конечности, управляемые биотоками, и биотехнические системы,
когда в качестве одной или нескольких подсистем используются живые организмы.
Вариантом реализации имитационной, бионической программы в ИИ стал
нейробионический подход, приверженцы которого считают, что успешное
воспроизведение интеллектуальных процессов невозможно без воспроизведения их
материальных носителей, т. е. тех процессов, которые протекают в специальным образом
организованной биологической ткани. Другими словами, основной целью этого
подхода является создание искусственного мозга, структура и функционирование
которого идентичны биологическому мозгу. В рамках нейробионического подхода
ведутся исследования по разработке искусственных нейронов и построению на их
основе структур, подобных биологическим.
Еще на заре ИИ стало ясно, что бионика в ее исходном понимании в большей
степени охватывает проблемы «тела» технических систем, а вопросы их
«одушевления» оказываются как бы на периферии. Бионика того времени в основном
оставалась на уровне рефлекторных процессов, моделей самосохранения, обмена
и адаптации. Однако, для понимания естественных интеллектуальных систем
важное место занимает исследование процессов целеобразования, формирования
и принятия решений в сложных ситуациях, классификации и оценки ситуаций
и многое другое, что традиционно связано с психологией, а не с биологией или
физиологией.
Так родилась психоника — научная область, основной задачей которой стало
изучение и использование в интеллектуальных системах результатов, добытых
психологами при изучении психики человека и способов организации
человеческой деятельности. С 1964 г. в Московском энергетическом институте в течение
многих лет плодотворно работал научный семинар по психонике, в рамках
которого активно обсуждались идеи ситуационного управления и моделирования
поведения, информационно-логических языков для развитых поисковых систем
и многослойных перцептронов, а также был предложен ряд моделей, которые
смело можно отнести к предшественникам теории агентов и многоагентных систем.
2.3.2. Первоначальное расхождение отдельных направлений
в ИИ
В настоящем разделе мы подробнее остановимся на парадигмах ИИ. По Т.
Куну парадигма в науке — это набор базовых понятий, исходных положений и
установок, принимаемых научным сообществом и определяющих то общее видение
мира, на которое опираются ученые. Она включает в себя не только точные
утверждения (объективные закономерности), но и субъективные факторы [Кун, 1977]
6) См. журнал «Новости ИИ», № 1 за 1991 г.

2.3. Развитие классических подходов и направлений... 61
Начиная с исторического Дартмутского семинара 1956-го года, положившего
начало самой научной дисциплине «искусственный интеллект», первые 30-35 лет
исследований в этой области были проникнуты духом скорее аналитических, чем
синтетических подходов, и опирались в большей степени на
индивидуалистические, чем коллективистские представления о природе интеллекта.
когнитивистское бионическое
/символьное Хконнекционизм
логическое / \ нейронные сети
v СЕМИОТИЧЕСКОЕ
НЕКЛАССИЧЕСКИЕ
ЛОГИЧЕСКОЕ \ I / I \ МОБОТИЦИЗМ
ГИБРИДНЫЙ (СИНЕРГЕТИЧЕСКИЙ) ИИ
НАПРИМЕР, МЯГКИЕ ВЫЧИСЛЕНИЯ,
ЭВОЛЮЦИОННАЯ СЕМИОТИКА
Рис. 2.2. Основные направления в ИИ. A-й этап — расхождение, 2-й этап — схождение)
С одной стороны, такие аналитические, разрозненные подходы, основанные
на выделении некоторого частного свойства или аспекта понятия «интеллект»
и развитии соответствующих формальных моделей, привели к возникновению
различных, расходящихся направлений (своего рода «разбегающихся галактик»)
в ИИ [Поспелов Д. А., 1982 и 1994; Тарасов, 1995] (рис. 2.2). Например,
сведение понятия «интеллект» к обработке знаний (символов) в интересах решения
задач обусловило развитие и долгое безраздельное господство классической ко-
гнитивистской парадигмы, связывающей уровень интеллектуальности системы
со степенью развития внутренней модели внешнего мира и характеризуемой
предпочтительным использованием символьных, а, в особенности, логических
моделей в ИИ. Символьный подход, как это явствует из его названия, подразумевает
моделирование мышления в виде операций над символами (сравнение, поиск,
модификация и т.д.). По сути он опирается на понятия:
• формальной системы
FS = (T,R,A,P), B.7)
где Т — множество базовых элементов (алфавит системы), R — множество
синтаксических правил, А — множество аксиом, Р — множество правил вывода;
• логической матрицы для классической булевой логики
BL = ({0,1},{1},A,V,1,^), B8)
где {0,1} — двухэлементное множество значений истинности; {1}-
одноэлементное множество выделенных значений истинности; 1 — одноместная (дополнение),
а Л, V, —> суть двухместные (конъюнкция, дизъюнкция, импликация) операции,
определенные в {0,1}.
Поскольку обработка знаний означает анализ свойств и манипулирование
отношениями, базовой логической моделью знаний в ИИ является логика
предикатов. Любой предикат выражает какое-то свойство или отношение. Так,

62
Глава 2. Искусственный интеллект
предикат, указывающий на свойство отдельного объекта (например «быть
активным»), называется одноместным. Предикат, обозначающий отношение, всегда
является многоместным.
Пусть X — фиксированное множество. Предикат есть суждение тг,
определенное на множестве X, которое может быть либо истинным, либо ложным
для любого х € X. В более общем случае, n-арный предикат на X есть
утверждение об n-ках, которое может быть либо истинным, либо ложным для всех
(жь...,жп)еХп,т.е. тг: Хп -» {0, 1}.
Когнитивистская парадигма предполагает нисходящее проектирование
интеллектуальных систем, когда главная идея состоит в моделировании вербализуемых
понятий, в частности благодаря выражению поверхностных экспертных знаний
системами продукционных правил, и дальнейшему движению «вглубь», т. е. к
моделированию более «скрытых» психических структур и процессов.
Системы, основанные на правилах, хорошо зарекомендовали себя во многих
областях — особенно там, где структура проблемной области не слишком сложна,
и сравнительно легко извлечь знания из эксперта. Здесь проблемы приобретения
знаний компьютерными системами являются ключевыми как в плане понимания
устройства человеческого знания, так и с позиций создания компьютерных систем
новых поколений [Гаврилова и Хорошевский, 2000; Осипов, 1997]. Однако, до сих
пор приобретение знаний от эксперта остается «узким местом» при разработке
классических экспертных систем.
Понимание интеллекта как способности к обучению или адаптации в
изменчивой, динамической среде вызвало появление так называемого бионического
направления, представленного, в первую очередь, коннекционистскими моделями —
нейронными сетями и алгоритмами эволюционного моделирования (в частности,
генетическими алгоритмами). Коннекционистские модели предполагают
восходящее проектирование интеллектуальных систем, которое начинается с синтеза
или выбора довольно простых, однородных и не обязательно интеллектуальных
элементов и требует развития многообразия взаимосвязей между ними.
Классический пример такого простого кирпичика — модель формального нейрона,
предложенная еще У. Мак-Калл оком и У. Питтсом [1943 и 1992], которая лежит
в основе различных нейронных сетей.
Рис. 2.3. К определению формального нейрона
На вход искусственного нейрона поступает некоторое множество сигналов,
каждый из которых является выходом другого нейрона 1\ Каждый вход
умножается на соответствующий вес, характеризующий силу связей между нейронами, и все
' В искусственном нейроне входы ассоциируются с синапсами биологического нейрона, а выход —
с аксоном.

2.3. Развитие классических подходов и направлений... 63
произведения суммируются, определяя уровень активации нейрона. На рис. 2.3
представлена модель, иллюстрирующая эту идею. Хотя коннекционистские
модели весьма разнообразны, в основе многих из них лежит эта конфигурация.
Здесь множество входных сигналов, обозначенных х\, ж2,...,жп, поступает
на формальный нейрон. Каждый сигнал умножается на соответствующий вес ги,,
гу2, ...,гип, и передается на суммирующий блок, обозначенный Ё. Каждый вес
соответствует «силе» одной биологической синаптической связи, а все множество
весов обозначается вектором W. Суммирующий блок производит
алгебраическое сложение, формируя выходной сигнал Y. В векторных обозначениях это
записывается следующим образом: XW = Y.
Сигнал Y далее преобразуется активационной функцией F и дает выходной
нейронный сигнал Z. Активационная функция может быть:
• обычной линейной функцией Z = K(Y), где К — постоянная;
• пороговой функцией:
Z = 1, если Y > a, Z = 0 в противном случае, где a
пороговая величина;
некоторая постоянная
• функцией, точнее моделирующей нелинейную передаточную характеристику
биологического нейрона и представляющей нейронной сети большие
возможности.
Z=F(Y)
Рис. 2.4. Формальный нейрон с нелинейной активационной функцией
На рис. 2.4 блок, обозначенный F, принимает сигнал Y и выдает сигнал Z.
Если блок F сужает диапазон изменения величины Y так, что при любых
значениях Y значения Z принадлежат некоторому конечному интервалу, то F называется
«сжимающей» функцией. В качестве
«сжимающей» функции часто используется логистическая
или «сигмоидальная» (S-образная) функция,
показанная на рис. 2.5. Эта функция математически
выражается как F(x) = 1/A -f e~x).
Единичный нейрон способен выполнять
процедуры распознавания, но эффектность
нейронных вычислений определяется соединением
нейронов в сети. Единичная структура сети
состоит из группы нейронов, объединенных в слой
(рис. 2.6). Слой представляет собой совокупность
нейронов (пороговых элементов) с единым входным сигналом, не имеющих
связей между собой. В простейшем случае у нейронной сети имеются как минимум
3 слоя: входной, выходной и промежуточный.
Рис. 2.5. Сигмоидальная
логистическая функция

64
Глава 2. Искусственный интеллект
Уже трехслойная нейронная сеть, где слой
рецепторов (восприятие) через промежуточный слой
2 связан со слоем эффекторов (выполнение), позво-
3 ляет разрабатывать эффективные системы,
способные адаптироваться к среде.
Рис. 2.6. Простейшая Важная особенность нейронных сетей заклю-
нейронная сеть чается в их возможности самоорганизации,
индуктивном построении внутреннего представления
вход-выходной функции, определяемой исходными данными (обучающей
выборкой). Здесь под обучением понимается настройка архитектуры сети и весов
связей для эффективного выполнения специальной задачи. Обычно нейронная
сеть должна настроить весовые коэффициенты связей по имеющейся обучающей
выборке. Функционирование сети улучшается по мере итеративной настройки
весовых коэффициентов. Свойство нейросетей обучаться на примерах делает
их более привлекательными по сравнению с системами, которые
функционируют по фиксированным правилам, сформулированным экспертами. Однако
и у нейронных сетей есть немало недостатков с точки зрения моделирования
интеллектуальных процессов, которые в первую очередь обусловлены их весьма
примитивными базовыми элементами. Кроме того, время обучения сети порой
бывает довольно длительным, причем отнюдь не всегда гарантируется сходимость.
Можно привести ряд других схожих примеров. Так рассмотрение восприятия
как основы построения внутренней модели внешнего мира привело к становлению
машинного восприятия, обработки изображений и анализа сцен, а трактовка
интеллекта как способности к коммуникации и пониманию фраз на естественном
языке — к созданию естественно-языковых систем и интерфейсов и средств
машинного перевода.
Таким образом, на ранних этапах развития ИИ осуществлялось
противопоставление и происходило неуклон wot расхождение отдельных школ ИИ, например,
логической и нейробионической школ, инженерии знаний и распознавания образов,
и т. п. (рис. 2.2). При этом развитие и логического, и бионического
направления было связано с возникновением «точек бифуркации» — разветвления путей
эволюции ИИ в 60-е гг. С одной стороны, в контексте развития традиционного
логического подхода, основанного на классической булевой логике, появились не-
классическиелогики для ИИ [Маккарти и Хайес, 1973; Вагин, 1998; Тейз и др., 1990
и 1998; Финн, 1996 и 1999]. С другой стороны, для преодоления ряда недостатков
формальных систем, работающих со статическими моделями знаний в замкнутых
мирах, Д. А. Поспеловым было введено представление о семиотических системах
(см. например, [Поспелов и Осипов, 1999]). В семиотической системе
состояния соответствуют фиксированным формальным системам, а смена состояний
заключается в изменении различных параметров формальной системы: аксиом,
правил вывода, ограничений, стратегий поиска решений, ценностных ориентации
и т. п. Таким образом, семиотическую систему можно представить в виде
SS= (T,R,A,P,a(T),/?(R),7(A)^(P)), B.9)
где Т — множество базовых элементов (алфавит системы), R — множество
синтаксических правил, А — множество аксиом, Р — множество правил
вывода, а, /3,7, б — правила изменения Т, R, А и Р соответственно. В отличие от
формальных систем для семиотических систем характерно сосуществование
различных логик (алгебр), динамические модели знаний, параллельная аргументация
и пр. (см. табл. 2.2).

2.3. Развитие классических подходов и направлений... 65
Таблица 2.2
Сравнительный анализ основных характеристик формальных и семиотических систем
[Поспелов и Осипов, 1999]
Формальные системы
Единственная классическая логика
Замкнутые миры
Статические модели знаний
Монотонный вывод
Последовательный вывод
Постоянная интерпретация
Семиотические системы
Сосуществование различных логик
(алгебр)
Открытые миры
Динамические модели знаний
Немонотонный вывод
Параллельная аргументация
Переменная интерпретация
(зависит от интерпретатора)
Вкратце, причины бифуркации — зарождения «новых состояний логического
плюрализма» (см. левую ветвь рис. 2.2) — таковы. Дедуктивные системы
классической логики ограничиваются моделированием общезначимых рассуждений.
Следовательно, они не подходят для описания модифицируемых и нестрогих
рассуждений. Формализуя строгие, корректные выводы, классическая логика
не принимает во внимание многие важные аспекты человеческих рассуждений
(здравый смысл, немонотонность, противоречивость, неточность, нечеткость).
Когда человек имеет дело с неполной, неточной, противоречивой,
неопределенной или нечеткой информацией, его рассуждения становятся не достоверными,
а всего лишь правдоподобными, предположительными и должны подвергаться
проверке и пересмотру (ревизии). Для представления такой информации, ее
анализа и обоснования выводов разработаны нетрадиционные, «нестандартные»
логики, являющиеся расширением классических логик. Эти расширения касаются
языка логики и понятия вывода.
В стандартных логических системах, если из посылок выведено некоторое
заключение, а затем к посылкам добавлена новая информация, то исходное
заключение не меняется. В немонотонных логиках это уже не так. Если к старым
посылкам добавить новое знание, то чаще всего получится и новое
заключение. Построение немонотонной системы вывода делает необходимым ослабление
свойств дедуктивных систем классической логики. Выражение факта
немонотонности — влияния контекста знаний на логический вывод и его результаты
в системах ИИ — является, в первую очередь, заслугой Дж. Маккарти (принцип
очерчивания) и Р. Рейтера (правило умолчания) (см. [Тейз и др., 1990]).
Основные варианты расширения элементов языка классической логики
предикатов таковы:
• расширение множества значений истинности, переход от булевой логики
с двумя значениями истинности к многозначным, бесконечнозначным и
лингвистическим логикам (см., например, трехзначные логики Я. Лукасевича,
С. Клини, Д. А. Бочвара, четырехзначные логики Н. Белнапа [Белнап и Стил,
1981], В. К. Финна [Финн, 1996], k-значную логику Э. Поста, бесконечно-
значную логику; интервальное и лингвистическое представление значений
истинности);
• расширение традиционных логических (пропозициональных) связок «И»,
«ИЛИ», «НЕ», аксиоматическое определение классов (в частности,
параметризованных семейств) операций конъюнкции и дизъюнкции на основе

66
Глава 2. Искусственный интеллект
треугольных норм и конорм, а также классов операций отрицания и
импликации (см., например, [Аверкин и др., 1986]);
• расширение обычных кванторов существования и всеобщности (например,
использование таких кванторов как «НЕ ВСЕ», «НИ ОДИН», «НЕЛЬЗЯ
УСТАНОВИТЬ, ВСЕ ИЛИ НЕ ВСЕ», «НЕЛЬЗЯ УСТАНОВИТЬ,
НЕКОТОРЫЕ ИЛИ ОДИН»), введение новых квантификаторов типа «ЧАСТО»,
«РЕДКО», «ПОЧТИ ВСЕГДА», «ИНОГДА» «НЕСКОЛЬКО», «МАЛО», «МНОГО»,
«БОЛЬШИНСТВО», «МЕНЬШИНСТВО», и т.п.;
• введение модификаторов «ОЧЕНЬ», «ДОВОЛЬНО», «БОЛЕЕ ИЛИ МЕНЕЕ»,
«ПРИБЛИЗИТЕЛЬНО» и пр.;
• расширение аксиоматики, например отказ от аксиом непротиворечивости
и исключенного третьего в нечеткой логике Заде, переход к алгебрам Де
Моргана и Клини;
• расширение правил вывода, например, построение обобщенного правила
Modus Ponens, переход к правилу вывода Льюиса в модальной логике.
В целом, можно указать две различные стратегии перехода от обычной булевой
к нетрадиционным логикам ИИ: 1) расширение и 2) переосмысление
классической логики [Turner, 1984; Тейз и др., 1998]. В первом случае, речь идет о
стандартном определении основных логических операторов и кванторов с сохранением
двух значений истинности и аксиом классической логики, но добавлением
некоторых новых операторов. Подобные логики являются расширениями классической
логики в том смысле, что их языки и теоремы обобщают язык и теоремы
классической логики. Примерами служат модальные логики и логика возможностей. Во
втором случае, происходит переосмысление основ классической логики, например,
переход к нескольким значениям истинности, отказ от аксиом
непротиворечивости и исключенного третьего, выбор из семейства операций импликации и т. п.
Здесь примерами являются многозначные, интуиционистские, нечеткие логики.
Первоначально словосочетание «нечеткая логика», появившееся в 70-х гг.
[Заде, 1976], использовалось для обозначения любой логики с более чем двумя
значениями истинности. При этом довольно часто оно выступало как синоним
терминов приближенные рассуждения и лингвистическая логика. Отличительной
чертой лингвистической логики является использование лингвистических
значений истинности, например «более или менее истинно», «скорее истинно, чем
ложно» и т. п.
В настоящее время, этот термин используется в двух различных смыслах
[Заде, 2001]. В узком смысле, нечеткая логика представляет собой расширение
многозначной логики. В широком смысле слова, термин «нечеткая логика» часто
используется как синоним теории нечетких множеств, т.е. классов с неточными,
размытыми фаницами. У таких множеств переход от принадлежности элемента
множества к непринадлежности происходит не скачком, а плавно, постепенно
и описывается с помощью функции принадлежности, которая является
обобщением характеристической функции обычного множества. Формально нечеткое
множество в смысле Л. Заде определяется как совокупность упорядоченных пар
А = {(ж, //л(ж))}, Уж ? X или, что одно и то же, как функция
^:Х->[0,1]. B.10)
В общем случае могут рассматриваться различные области значений функции
принадлежности. Помимо интервала [0,1] (или интервала [-1,4-1]), здесь могут
использоваться различные математические структуры: линейно упорядоченные

2.3. Развитие классических подходов и направлений... 67
множества, решетки, категории и пр. [Аверкин и др., 1986]. В силу того, что алгебра
нечетких множеств наследует многие свойства решеток, напомним основные
определения из этой области.
Решеткой называется упорядоченное множество с точной верхней и точной
нижней границей. Решетку можно представить алгебраически в виде (L, Л, V),
где Л и V — бинарные операции пересечения и объединения, удовлетворяющие
следующим требованиям:
х Ах = х
(идемпотентность); B.11)
х V х = х
(коммутативность); B.12)
х\/ у = yW х х ' х
х Л (у Az) = (х А у) Az . . /Л ,„ч
w/ v/ \ / w \w (ассоциативность); B.13)
x\l (yV z) = (xV у)У z v ' v '
X А (х V у) = Х , ч //ч ЛА.
i \ __ (законы поглощения). B14)
X V \Х /\ у) — X
Решетка называется дистрибутивной, если наряду с условиями B.11)-B.14)
выполняются также условия
хО^Лг! = !хОЦ)лёОг! (Дистрибутивность). B.15)
Решетка называется полной, если любое ее непустое подмножество имеет в L
точную верхнюю и точную нижнюю грань.
Решетка называется брауэровой, если она полная и в ней выполняется
следующее тождество бесконечной дистрибутивности
(xA(\/aya) = Va(xAya). B.16)
Решетка является ограниченной, если выполняются условия
(жЛ0) = 0 (х\/0) = х (жЛ1) =х (ж VI) =1 (ограниченность). B.17)
Ограниченные решетки называются алгебрами.
В ограниченной решетке L элемент у называется дополнением х, если
х Ау = Q и xVу = 1. Решетка L называется решеткой с дополнениями, если все
ее элементы имеют дополнения.
Дистрибутивная решетка с дополнениями, удовлетворяющими требованию
(хI = х (инволютивность) B.18)
называется решеткой Де Моргана, если для нее выполняются соотношения
(х А у)' = х V у , (х V у)' = х А у (законы де Моргана). B.19)
Алгебрами Клини называются нормальные алгебры Де Моргана, для которых условие
нормальности записывается в виде
хАх^уУу. B.20)
Здесь важным подклассом являются алгебры Клини с центральным элементом
с = с. B.21)

68
Глава 2. Искусственный интеллект
Булева алгебра — это дистрибутивная решетка, в которой любой элемент ж имеет
одно и только одно дополнение ж', причем
х Л х = 0 (закон непротиворечивости) B.22)
х V х = 1 (закон исключенного третьего). B.23)
Дистрибутивная решетка с
относительными псевдодополнениями называется гей-
тинговой или псевдобулевой алгеброй.
Соотношения между указанными ма-
Части1
жо упорядоченное множество
Решетка
Дистрибутивная решетка
Алгебра де Моргана
Алгебра Клини
Рис. 2.7. Соотношения между структурами
тематическими структурами приведены
на рис. 2.7.
Расширенная логическая матрица
для семейства нечетких логик может
быть записана в виде [Тарасов, 2000]
FL = ([0,l],[a,1],T,S,n,l), B.24)
где [0, 1] — множество значений истинности (континуум); [а, 1], — множество
выделенных значений истинности; Т и S — классы двухместных
действительных функций, называемых треугольными нормами и треугольными конормами
(см. [Аверкин и др., 1986]), которые определяют выбор расширенных (в том
числе, если нужно, параметризованных) операторов конъюнкции и дизъюнкции,
настраиваемых под задачу; I — класс операторов импликации.
Треугольные нормы и конормы задаются в виде
Т: [0, 1] х [0,1] - [0,1], S: [0, 1] х [0,1] -> [0,1]
и удовлетворяют следующим условиям:
Г@,0) = 0, Г(ж, 1)= ТA, ж)=ж, (граничные условия)
5A,1)=1, 5(ж, 0)= 5@, х)= х (граничные условия)
V ж, у, и, v е [0, 1], Т(ж, у) ^ Т(щ v), 5(ж, у) ^ S(u, v), если х ^ и, у ^ v
(монотонность) B.26)
Vж, у е [0,1], Г(ж, у)= Т(у, ж), 5(ж, у)= S(yy x) (коммутативность) B.27)
Уж, у €[0,1], T(T{z,y),z) = T(z,T(y,z)), S(S(x,y),z) = S(x,S(y, z))
B.25)
B.25*)
(ассоциативность).
Простейшими примерами этих операций являются следующие:
B.28)
Гс(ж,у) = тт{ж,у},
Тр(х, у) = ху,
Гь(ж,у) = тах{0,(ж + 2/-1)},
{ж, если у = 1
у, если ж = 1
0, в противном '
случае
Уж,2/€[0, 1].
Класс унарных операторов отрицания
п: [0,1]-
Sc{x,y) = тах{ж,у},
5р(ж, у) = х + у-ху,
Sb(x,y) = min{l, (ж+ */)},
если у = 0
если ж = 0
в противном
случае
Sd{x,y)--
[0,1]

2.3. Развитие классических подходов и направлений... 69
удовлетворяет условиям:
п@) = 1; пA) = 0 (ограниченность) B.29)
Уж, у € [0, 1], ж ^ г/ => п(ж) ^ п(г/) (антитонность). B.30)
Те же отрицания, которые помимо условий B.29) и B.30) удовлетворяют
также условию
Ух 6 [0,1], п(п(х)) = х (инволютивность), B.31)
называются инволюциями. Среди неинволютивных отрицаний выделяются сильные
и слабые отрицания. Для сильных отрицаний
УжЕ [0,1], п(п(х))^х, B.31*)
а для слабых
У х е [0, 1], п(п(х)) ^ х. B.31 * *)
Примерами операторов отрицания являются обычное отрицание щ(х) = 1 - ж,
У ж € [0,1], квадратичное отрицание П2(ж) = VI - ж, У ж Е [0,1], параметрическое
отрицание Сугено пд(ж) = A -ж)/A + Аж), Уж Е [0, 1], -1 ^ А < со.
Семейство операторов импликации I определяется на базе семейств Т, S
и п. Здесь в частных случаях помимо стандартной нечеткой логики Л. Заде
с максиминными операциями, когда То(р, q) = min(p, q), So(p, q) = max(p, q),
b(p,q) = max(l-p,q), можно определить нечеткую логику с вероятностными
операциями Tpr(p, q) = pq, Spr(p, q) = p + q-pq, Ipr(p, q) = 1 -p + pq (импликация
Рейхенбаха) и другие нечеткие логики.
Одной из главных характеристик человеческого интеллекта является
широкое использование богатых возможностей естественного языка для описания
сложных объектов и отношений. Формальной моделью, наиболее приближенной
к ограниченному естественному языку и открывающей возможности вычислений
со словами, является лингвистическая переменная [Заде, 1976 и 2001]. По сути
дела, лингвистическая переменная уже позволяет отобразить использование базовой
триады «понятие-значение-смысл» в процессах вербальной коммуникации.
Лингвистической переменной называется переменная, значениями которой
могут быть не только числа, но и слова, и словосочетания какого-либо естественного
или искусственного языка. Ее можно представить пятеркой
LV = (L,T,X,G,M), B.32)
где L — название переменной; Т — терм-множество (совокупность ее
лингвистических значений); X — универсальное множество; G — множество
синтаксических правил (грамматика), позволяющее из простых атомарных термов строить
составные термы, G : Г —> Г*, Т* есть расширенное терм-множество; М —
множество семантических правил, задающее отношение полиморфизма (соответствия
типа «один-ко-многим») между Т и U.
Вариант расширения семиотических систем предложен А. Н. Аверкиным; так,
в [Аверкин и Головина, 1999] введено понятие нечеткой семиотической системы
управления. Нечеткая семиотическая система задается в виде
/zSS = (/iFS,/xM), B.33)
где fiFS = (Т, R,A, Р, П) — нечеткая формальная система, Q — множество
операций над нечеткими множествами нечеткой формальной системы, fiM =
(а,/3,7> ^> Ч>) ~~ множество правил изменения Т, R, А, Р и Q.

70
Глава 2. Искусственный интеллект
Частным примером интерпретации нечеткой семиотической системы служит
одноуровневая нечеткая экспертная система — нечеткий регулятор. Базовые
элементы — это элементы нечетких лингвистических шкал (терм-множества
лингвистических переменных). Продукционные правила нечеткого регулятора
ифают роль синтаксических правил. Семантическое правило одно — обобщенное
правило Modus Ponens.
Близкие тенденции можно проследить и для правой ветви рис. 2.2. Исходные
бионические идеи вылились, с одной стороны, в развитие нейронных сетей,
а с другой стороны, в становление эволюционистских подходов в ИИ, которые
опираются на эволюционное учение Ч.Дарвина, связанное с идеями выживания,
скрещивания и мутации. Их основной лозунг — «моделировать процесс эволюции
в ИИ по аналогии с эволюцией человека и его интеллекта» [Фогель и др, 1969;
Букатова и др., 1991].
Основным практическим выходом эволюционизма в ИИ стали генетические
алгоритмы, которые представляют собой алгоритмы оптимизации и машинного
обучения, основанные на биологических аналогиях и имитирующие некоторые
механизмы процесса эволюции [Holland, 1975]. Они используют принцип
генерации, тестирования и отбора наиболее вероятных популяций и работают
на битовых наборах, называемых хромосомами (хромосомы также могут быть
действительными числами или перестановками элементов). Для решения задачи
с помощью генетических алгоритмов вначале требуется ее формулировка в
терминах хромосом и оценочной функции fitness (иначе, функция приспособленности,
пригодности). Последняя служит для оценки приспособленности или
совместимости хромосом.
Эволюционный процесс представляется как способность «лучших» хромосом
влиять на состав популяции на основе длительного выживания и более
многочисленного потомства. Его основные этапы таковы [Holland, 1975; Курейчик, 1998]:
1. Конструирование начальной популяции. Ввод точки отсчета поколений to =
0. Вычисление приспособленности хромосом популяции, а затем средней
приспособленности популяции.
2. Установление ti = t0 + 1. Выбор двух родителей (хромосом) для операции
скрещивания (кроссинговера).
3. Формирование генотипа потомка A'(t) на основе операции кроссинговера
(с использованием операций инверсии и мутации).
4. Отбор хромосомы для исключения ее из популяции. Обновление популяции
путем замены текущей хромосомы на A'(t).
5. Определение приспособленности A'(t) и пересчет средней
приспособленности популяции.
6. Если t = t^, то переход к этапу 7; если нет, то переход к этапу 2.
7. Конец работы.
Механизм работы простого генетического алгоритма состоит в копировании
наборов и обменных частей наборов хромосом. Обычно это осуществляется с
помощью трех основных операций: репродукции (воспроизведения), кроссинговера
(скрещивания) и мутации [Курейчик, 1998].

2.3. Развитие классических подходов и направлений... 71
2.3.3. Ограничения индивидуалистических
моделей интеллекта
Ум человека ограничен, надо
идти по ту сторону ума, т. е. за ум.
Даниил Хармс
В то же время с самого начала исследований по ИИ возобладал
индивидуалистический подход к разработке программ, согласно которому они рассматривались
как своего рода одинокие роденовские мыслители, способные при загрузке
достаточного объема экспертных знаний самостоятельно решать поставленные задачи.
Именно из этой идеи индивидуализма интеллектуальных процессов, трактовки
интеллекта как характеристики отдельной личности возникла знаменитая в свое
время проблема, может ли машина мыслить, вызвавшая к жизни всевозможные
варианты сопоставления функциональных возможностей человека и ЭВМ. То же
самое можно сказать об известном тесте Тьюринга, в котором машине было
предписано имитировать поведение отдельного человека (и она считалось
интеллектуальной, если ее было невозможно отличить от этого человека в процессе
диалога) и т. п. Такой «солипсический» подход повлек за собой развитие
последовательных, сосредоточенных, централизованных интеллектуальных систем,
в которых управление было связано с процессами, выполняемыми один за другим,
а для решения задачи обычно оказывалось достаточно знаний, циркулирующих
в одной экспертной системе.
Подобные трактовки интеллекта носят весьма спорный, ограничительный
и статичный характер, поскольку в них игнорируются реалии возникновения
и развития интеллекта человека, связанные с коммуникативными и
регулятивными процессами. Хорошо известно: что естественный интеллект не может появиться
вне общества, и что человек не может интеллектуально развиваться без
выполнения определенной деятельности в обществе себе подобных. Без адекватной
внешней среды его когнитивное развитие оказывается сильно заторможенным,
и если субъект не имел с раннего детства надлежащего социо-культурного
окружения, даже простое обучение членораздельной речи становится практически
невозможным.
Итак, возникшая с самого начала несистемная, асоциальная,
индивидуалистическая парадигма развития ИИ имеет принципиальные ограничения в
плане моделирования естественных интеллектуальных процессов. При этом
базовая концепция интеллектуальных программных средств как систем, основанных
на знаниях, предполагает «знаниецентризм», самодостаточность категории знаний
и универсальность инженерии знаний в ИИ. Кроме того, неявно подразумевается
эффективность глобального централизованного подхода, согласно которому для
решения сложной проблемы всегда можно собрать в единой базе и использовать
знания различной природы, поступающие из различных источников.
Между тем, знаниями в классическом ИИ называются «обоснованные
истинные убеждения» [Вагин, 1998]. Для того, чтобы суждение или умозаключение
обрело статус знания, оно должно стать достоверным, т. е. получить четкое,
недвусмысленное подтверждение. «Настоящие знания» в ИИ обычно
связываются с проверкой на полноту и непротиворечивость. Однако, реальные человеческие
утверждения или рассуждения редко удовлетворяют этим жестким требованиям.

72
Глава 2. Искусственный интеллект
По сути дела, люди всегда высказывают мнения*' (точки'зрения), которые не могут
быть общезначимыми, а их рассуждения носят правдоподобный характер и
зависят от ситуации. Тем более это касается знаний коллектива. Именно на основе
учета различных, противоречивых мнений часто вырабатываются наиболее
ценные и интересные решения. Все это указывает на существование принципиальных
ограничений по использованию категории «знания» как главного и единственного
основания ИИ. Очевидно, что ее необходимо дополнить рядом других категорий.
2.4. Смена парадигмы в искусственном интеллекте
Надо любить истину так, чтобы всякую минуту быть готовым, узнав
высшую истину, отречься от всего того, что прежде считал истиной.
Лев Толстой
Главную суть происходящей ныне смены парадигмы в ИИ, можно выразить,
вспомнив название знаменитой монографии И. Пригожина «От существующего
к возникающему» [Пригожий, 2002] (трактуемое здесь как призыв к исследованию
и моделированию процессов интеллектогенеза) и предложение Д. Боброва [Bo-
brow, 1991] рассмотреть пути отхода от «isolation assumptions» — предположений,
справедливых только для изолированных систем ИИ. Необходимо ввести
«размерность взаимодействия», обеспечивающую переход от индивидуальных
интеллектуальных систем к группам и сообществам кооперирующих интеллектуальных
агентов.
При этом разработка различных схем интеграции существующих
направлений и моделей в русле системного подхода приводит к возникновению гибридного
(синергетического) ИИ (рис. 2.2). Именно синергетический ИИ обеспечивает
необходимые предпосылки для создания коллективов и сообществ интеллектуальных
систем и формирования интеллектуальных организаций.
Для того, чтобы четче пояснить, в чем состоят недостатки классических
подходов и как изменяется парадигма в ИИ, в следующем разделе будет дана
сводка основных положений традиционного логического направления в ИИ.
2.4.1. Основные постулаты логической школы ИИ
Но отрадной до рассвета
Сердце дремой залито,
Все простит им... если это
Только Это, а не То.
Иннокентий Анненский.
«Кипарисовый ларец»
Логические методы в ИИ связаны с преобразованием утверждений (т. е. таких
языковых конструкций, о которых осмысленно спросить: истинны они или нет).
Многолетняя популярность логических методов объясняется тем, что:
' В нашей литературе уже почти укоренился перевод термина "belief как «убеждение». Тем не
менее, во избежание путаницы, хотелось бы вновь заметить, что слово «убеждение» в ИИ используется
в куда более узком смысле, чем в философии или психологии. Там под убеждениями понимаются
ключевые представления и идеи, определяющие отношения человека к жизни и деятельности, тогда
как в ИИ, чаше всего, убеждения — это локальные знания, пронизанные НЕ-факторами.

2.4. Смена парадигмы в искусственном интеллекте
73
• требуемый результат можно (по крайней мере, принципиально) получить,
отправляясь от достаточно простой и не слишком обременительной
совокупности начальных сведений (аксиом)
• процесс формализации приводит к понятию формального рассуждения,
которое считается вполне адекватным естественному
• формальные рассуждения строятся с помощью довольно простых и общих
правил, которые не зависят от проблемной области, что делает процесс
рассуждений доступным для восприятия и проверки
• результат формального рассуждения может быть получен как вывод в
некотором исчислении, а процесс поиска вывода в исчислении с конструктивными
правилами можно легко осуществить с помощью компьютера
Приведем набор основных постулатов, характеризующих классические
экспертные (интеллектуальные) системы первого поколения, т.е. логическую школу
ИИ. Это:
1) постулат представления (эпистемология ИИ), в соответствии с которым одна
из главных задач работ по ИИ состоит в разработке методов внутреннего
представления внешнего мира;
2) постулат знаниецентризма в ИИ, согласно которому центральной (а, по
мнению ряда исследователей, и единственной) базовой категорией в ИИ
являются «знания», а понятия «интеллектуальная система» и «система, основанная
на знаниях» являются синонимами. Поэтому ведущую роль в ИИ
играет инженерия знаний, в частности, автоматическое формирование понятий,
суждений и рассуждений, («рассуждения и планы первичны, действие
вторично» [Непейвода, 1989]), т.е. важнейшее место в моделировании познания
занимает логический вывод;
3) постулат замкнутости (closed world assumption), определяющий изучение и
разработку интеллектуальных систем как изолированных по отношению к
внешней среде и, в частности, по отношению к другим интеллектуальным
системам;
4) постулат индивидуализма, согласно которому решение интеллектуальных
задач или интеллектуальное поведение достижимо в отдельной компьютерной
системе;
5) постулат монолитности, по которому интеллектуальная система
рассматривается как сосредоточенная и централизованно управляемая;
6) постулат бестелесности ИИ, утверждающий возможность отрыва интеллекта
от тела, например, изучения когнитивных процессов и знаний, абстрагируясь
от особенностей регуляции действий и перцептивно-моторных процессов;
7) постулат относительной независимости познания и эволюции в ИИ, согласно
которому когнитивные процессы можно рассматривать вне и независимо
от обучения и эволюции;
8) постулат соответствия познания и языка в ИИ: кинематика познания пред-
ставима в пропозициональных терминах, т.е. траекторию состояний знаний
можно описать лингвистически в терминах естественного языка.
Теперь эти казавшиеся ранее незыблемыми постулаты требуют пересмотра.
Какие именно постулаты здесь следует убрать или пересмотреть зависит от того,
какие именно модели, относящиеся к различным направлениям ИИ,
объединяются, и на какой основе. Так, например, коннекционизм, будучи тесно связанным

74
Глава 2. Искусственный интеллект
с нейропсихологией, настаивает на важнейшем значении обучения в
исследовании познания, а также проповедует идею возникновения символики в системе
формальных нейронов. Полностью противоположную позицию по отношению
к логическому подходу занимают приверженцы так называемого моботицизма
(moboticism) — своеобразной апологии оперативного взаимодействия без
внутреннего представления в рамках ИИ. Они отрицают и централизованное управление,
и роль формирования понятий и рассуждений, и рациональную кинематику,
и гипотезу «бестелесного интеллекта», и отделимость знания от обучения [Brooks,
1991]. Системы виртуальной реальности базируются на идеях «прямого
приобретения опыта» и также отбрасывают все вышеперечисленные постулаты (пожалуй,
за исключением постулата централизации). Похожую, хотя и менее
радикальную позицию, занимают сторонники теории сообщества разума (society of mind)
М. Минского, распределенного и децентрализованного ИИ, антиформалистского
подхода Р. Шенка, и др.
Далее в интересах адекватной формулировки новых постулатов, выражающих
методологию построения интеллектуальных систем на современном этапе
развития ИИ, предварительно опишем главные тенденции развития ИИ в последние
годы.
2.4.2. Ведущие тенденции в современном ИИ
Интеграция в ИИ
Одной из наиболее важных тенденций развития искусственного интеллекта
в последнее десятилетие стала интеграция. Во-первых, еще в 80-е гг. экспертные
системы стали объединяться с традиционными информационными технологиями,
в результате чего появились гибридные экспертные системы [Поспелов Г. С, 1988;
Рыбина, 1993; Тарасов и Соломатин, 1994; Allen et al., 1987; Kitzmiller and Kowalik,
1986]. Это повлекло за собой развитие ряда эмпирических и теоретических
способов интеграции, включая метамодели и архитектуру доски объявлений (имеющую
важное значение и в контексте распределенного искусственного интеллекта).
В таких интегрированных системах должны поддерживаться не только различные
модели знаний, но и различные типы рассуждений; должны реализовываться как
инженерия знаний, так и обработка образов.
Во-вторых, начался более фундаментальный процесс интеграции различных
атрибутов (или если угодно, различных «рабочих определений») интеллекта
в интересах взаимной компенсации недостатков и объединения преимуществ
разнородных моделей и, как следствие, получения синергетических (нелинейных
эффектов) [Fanabashi et al., 1995] Примерами могут служить интегрированные ней-
ро-логические, нейро-нечеткие модели и «мягкие вычисления» по Л. Заде [Zadeh,
1994], нейроэкспертные системы И. Б.Фоминых [Голицын и Фоминых, 1996;
Фоминых, 1999], нейро-оптические модели О. П. Кузнецова [Кузнецов, 1995 и 1997],
интегрированные дискретно-континуальные модели интеллектуальных
динамических систем [Осипов, 1998], модели эволюционной кибернетики [Редько, 2001],
модели интеллектуальной совмещенной разработки, варианты интеграции
нейронных сетей и сетей Петри и пр. Так в рамках «мягких вычислений» три аспекта
интеллекта — управление неопределенностью, обучение и адаптация в процессе
эволюции — объединяются путем представления нечетких продукционных
моделей в обучаемой нейронной сети, оптимизация которой происходит с помощью
генетических алгоритмов.

2.4. Смена парадигмы в искусственном интеллекте 75
Термин «мягкие вычисления» предложил Л. Заде, указавший, что управление
сложными, многомерными системами требует интеграции регуляторов на основе
нечеткой логики, нейронных сетей и правдоподобных рассуждений. Речь идет
об интегрированной интеллектуальной системе, которая имеет структуру знаний,
организованную по признакам нечеткости, обучаемости и эффективности.
Реализации мягких вычислений как правило подчиняются требованиям линейности
и монотонности.
В рамках мягких вычислений нечеткая логика обеспечивает обработку
неточной, нечеткой и лингвистической информации, типичной для сложных систем
управления, нейронные сети позволяют системе обучаться, а правдоподобные
(вероятностные) рассуждения обеспечивают работу в условиях статистической
неопределенности. В последнее время наиболее популярной схемой мягких
вычислений стала тройка «нечеткий регулятор, нейронная сеть, генетический
алгоритм», где генетический алгоритм может применяться для оптимизации базы
правил и параметров нечеткого логического регулятора.
Генетические алгоритмы (ГА) — это алгоритмы оптимизации и машинного
обучения, основанные на биологической аналогии и имитирующие некоторые
механизмы процесса эволюции. Они используют принцип генерации, тестирования
и отбора наиболее вероятных популяций и работают на битовых наборах,
называемых хромосомами (хромосомы также могут быть действительными числами или
перестановками элементов). Для решения задач с помощью генетических
алгоритмов вначале требуется сформулировать задачу в терминах хромосом и оценочной
функции. Последняя служит для оценки качества или совместимости хромосом.
Принципы построения ГА состоят в копировании наборов и обменных
частей наборов хромосом. Обычно это осуществляется с помощью трех операций:
репродукции (воспроизведения), кроссинговера (скрещивания) и мутации.
В задачах синтеза интеллектуальных промышленных регуляторов
генетические алгоритмы позволяют находить на множестве возможных решений
субоптимальные (пригодные) решения, которые передаются в качестве входной
информации в нейронную сеть, где уже отбирается наиболее подходящее решения
(например, параметры функций принадлежности нечетких правил).
Гибридизация ГА с нейронными сетями (НС) предполагает акцент на
взвешивании. В НС с фиксированной структурой ГА служит для поиска множеств
весов (хромосомы — это списки весов), а оценка состоит в настройке сети
по обучающему множеству примеров.
Генетические алгоритмы также используются для получения функций
принадлежности нечетких параметров и для выбора «Если, ..., то» — правил в экспертных
системах или нечетких регуляторах.
Подобно тому, как классические системы могут обнаруживать хаотическое
поведение, т. е. хаотическую траекторию в евклидовом пространстве, нечеткие
системы также могут демонстрировать хаотическое поведение в пространстве
функций принадлежности. Такое поведение называется хаотической нечеткостью
и также используется при моделировании ряда ситуаций управления.
Модели совмещенной разработки требуют построения гибридных (например,
модальных нечетких и немонотонных нечетких) логик, а нейро-оптические модели
предполагают объединение идей коннекционизма с волновой теорией.
Рассмотрим различные схемы интеграции на примере мягких вычислений.
Так в [Аверкин и Прокопчина, 1997] гибридные интеллектуальные системы
разделяются на следующие классы: 1) гибридные системы с функциональным
замещением; 2) гибридные системы со взаимодействием; 3) полиморфные ги-

76
Глава 2. Искусственный интеллект
бридные системы. В гибридных системах с замещением берется главная модель,
один из элементов которой замещается другой моделью, например, а) перерасчет
весов в процедуре обратного распространения производится с помощью
генетического алгоритма; б) подбор функций принадлежности в нечетком регуляторе
осуществляется с использованием генетического алгоритма. В гибридных системах
со взаимодействием используются независимые модули, которые обмениваются
информацией и выполняют различные функции с целью получения общего
решения. К примеру, если решаемая задача включает распознавание образов, вывод
и оптимизацию, то эти функции берут на себя нейронные сети, экспертные
системы и генетические алгоритмы. В полиморфных гибридных системах одна модель
применяется для имитации функционирования другой модели. Так рассуждения
с помощью цепочки правил можно моделировать в нейронной сети.
Для иллюстрации этих схем остановимся подробнее на гибридных нейро-
нечетких моделях, реализующих нечеткие лингвистические регуляторы на
нейронных сетях [Keller et al., 1992; Алиев Р. А. и Алиев Р. Р., 2000; Захаров и Ульянов,
1994]. Регулятором называется система, которая ставит в соответствие каждому
значению входной переменной х некоторое значение управления u = f(x).
Будем рассматривать ситуацию управления как компенсацию рассогласования
между входом x(t) и выходом с управляемого объекта y(t), т.е. e(t) = x(t) - y(t),
t = 0,1,2... Тогда нечетким регулятором называется такой регулятор, в котором
значения входной переменной (ошибки) е и ее вариаций Де, Л2е, Д2е = Д(Де),
Де = e(t) - e(t - 1), а также значения управления и, зависящие от е, Де,
Д2е, представлены в виде термов соответствующей лингвистической переменной.
По сути, это специальная система управления, основанная на знаниях, имеющая
весьма примитивный механизм вывода. Основная идея построения нечеткого
лингвистического регулятора состоит в формализации опыта человека-оператора,
управляющего динамическим объектом или технологическим процессом, с
помощью лингвистических (Если-То)-правил, например, «если ошибка управления
малая и ее изменение очень малое, то управление плавное». Общая схема
нечеткого регулятора (для простоты взята лишь одна входная переменная) представлена
на рис. 2.8.
t
Я)%
СУ >
БАЗА НЕЧЕТКИХ
ПРАВИЛ
ФАЗЗИФИКАЦИЯ
Ту
1
г
^
г
ДЕФАЗЗИФИКАЦИЯ
БЛОК РАССУЖДЕНИЙ
И ВЫБОРА РЕШЕНИЯ
ОБЪЕКТ
УПРАВ.
ЛЕНИЯ
д
U
Рис. 2.8. Структура простейшего нечеткого регулятора
Разработка нечеткого лингвистического регулятора включает следующие
основные этапы.
1. Определение типа регулятора, т.е. входных переменных и управления. В
теории автоматического управления выделяются: ПД-регуляторы (входные
переменные е и Де, управление и); ПИ-регуляторы (входные переменные е

2.4. Смена парадигмы в искусственном интеллекте
77
и Де, управление Ли); ПИД-регуляторы (входные переменные е, Де,
Д2е, управление Ди). Соответственно, здесь рассматриваются их нечеткие
аналоги. Кроме того, в зависимости от закона, связывающего управление
с входами, различают регулятор Сугено и = ае + бДе-f fc, регулятор Мамдани
и — min{e, Де}, регулятор Ларсена и = е • Де, и пр.
2. Фаззификация (fuzzification) — преобразование исходных числовых
физических величин в распределения, соответствующие термам лингвистической
переменной. При этом каждое числовое значение описывается одним или
несколькими термами, причем его степень соответствия терму задается как
степень принадлежности нечеткого множества. Согласно определению
лингвистической переменной B.32) речь идет о переходе от непрерывной
числовой переменной X к дискретной лингвистической шкале термов Т, т.е.
нечетком отображении М~] : Х<.Т.
3. Заполнение базы нечетких лингвистических правил, состоящей из
выражений вида: «Если е есть .А] И Де есть Ai, то и есть В», где е, Де, и —
переменные, а А], Ai, В - их лингвистические значения. При этом правила
формируются: а) путем выражения опыта человека-оператора в форме
нечетких продукций; б) на основе наблюдения и имитационного моделирования
поведения и действий человека-оператора; в) в результате использования
методов обучения нейронных сетей. Далее происходит выбор вида нечеткого
оператора импликации.
Будем связывать лингвистические значения входных переменных и
управления с терм-множеством лингвистической переменной «Величина» =
{большая отрицательная (БО), средняя отрицательная (СО), малая
отрицательная (МО), примерно нулевая (ПН), малая положительная (МП), средняя
положительная (СП), большая положительная (БП)}. Тогда для двух входных
переменных е, Де, решение о выборе управления и можно представить
в табличной форме (табл. 2.3).
4. Осуществление нечеткого вывода и афегирование правил. Здесь на основе
правила вида «Если Л, то В» и факта А' выводится новый факт В'.
Пусть функции принадлежности /1д> и jir характеризуют факт А' и правило R
соответственно. Если значение А' соответствует одноточечному множеству
xq (т. е. 11>а'(я) — 1 при х = #о, 0 в противном случае), то Дв'(г^) =
sup mm{fj,A,(x0), iiR(x0,u)} = fiR(x0,u).
Таблица 2.3
Пример заполнения базы нечетких лингвистических правил
^\Де
БП
СП
МП
ПН
МО
СО
БО
БО
ПН
МО
СО
СО
БО
БО
БО
СО
МП
ПН
МО
СО
СО
БО
БО
МО
СП
МП
ПН
МО
МО
со
БО
ПН
БП
СП
МП
ПН
МО
со
БО
МП
БП
СП
МП
МП
ПН
МО
со
СП
БП
БП
СП
СП
МП
ПН
МО
БП
БП
БП
СП
СП
СП
МП
ПН

78
Глава 2. Искусственный интеллект
В общем случае решение может быть построено в векторно-матричной форме
А о R = В, где А - вектор нечетких лингвистических входов размерности
п, В — вектор нечетких лингвистических выходов размерности w, R —
нечеткое причинно-следственное отношение размерности п х т, а о —
закон композиции.
5. Дефаззификация (defuzzification) — преобразование полученного нечеткого
значения управления, соответствующего терму лингвистической переменной
(функции принадлежности), в точный сигнал управления, передаваемый
на орган управления. Оно обычно производится по методу вычисления центра
тяжести распределения или по методу максимумов. Эта операция обратна
по отношению к преобразованию, выполняемому на этапе 1. Иными словами,
речь идет о переходе от дискретной лингвистической шкалы термов Г
к непрерывной числовой переменной X, т.е. нечетком отображении М :
Г<Х (см. формулу B.32)).
Отсюда следует, что общая структура нечеткой нейросети, представляющей
нечеткий регулятор, включает пять слоев — входной, выходной и три промежу-
Слой5
(слой
дефаззификации)
Слой 4
(«или» —
слой)
СлойЗ
(«и»— (ANDJ
слой)
Слой 2
(слой
формирования
функций
принадлежности)
Слой 1
(входной слой)
(ANJ^)
X х X
Рис. 2.9. Общая схема нейронечеткого регулятора

2.4. Смена парадигмы в искусственном интеллекте
79
точных (рис. 2.9). На входной слой 1 поступают четкие входные сигналы
(физические величины) жьХ2,... ,жт. Промежуточный слой 2 состоит из нейронов-
фаззификаторов, на которых строятся функции принадлежности
лингвистических интерпретаций входных сигналов. Нейроны слоя 3 представляют нечеткие
лингвистические правила, Количество нейронов в этом слое может
непосредственно определять число нечетких правил, используемых в регуляторе. Нейроны
слоя 4 содержат выходные функции принадлежности, полученные в результате
вывода и агрегирования правил. Наконец, нейроны слоя 5 отвечают за операцию
дефаззификации и выработку выходных сигналов zb z2,..., zn.
Конкретным примером нечеткой нейросетевой системы является нейроне-
четкий регулятор Сугено (рис. 2.10). Здесь входным переменным е и Ае
соответствуют лингвистические значения А{, ?;, i = 1,..., п, обобщенная конъюнкция
которых выражается с помощью треугольных норм Т: <т, = Т(л4,-е, В,-Де).
Нечеткие значения управления определяются условием линейной зависимости от
входов щ = а,е + Ь,Ае + &,, i = 1,..., n, a операция дефаззификации выполняется
Х>,«,
по формуле 6 = ^i .
5>
/ ^—n. о1-гл1= в,
щ=а{е+Ь(Ае+к{
Рис. 2.10. Нейронечеткий регулятор Сугено
Еще одним очень интересным вариантом гибридизации нечетких и нейро-
сетевых технологий является построение распределенных моделей операций над
нечеткими множествами [Hirota and Pedrycz, 1994]. Они опираются на
представления об И-нейронах и ИЛИ-нейронах. Пусть на вход нейрона поступает
множество сигналов х = (x]lx2>... ,жго), которое характеризуется множеством
весовых коэффициентов w = (w\, w2^. •• ,wm). Тогда нечеткий И-нейрон
определяется обобщенной операцией конъюнкции у\ = И(ж, w), а нечеткий ИЛИ-
нейрон задается обобщенной операцией дизъюнкции у2 = ИЛ И (ж, w). Используя
в качестве этих операций треугольные нормы и конормы, получаем для И-нейрона

80
Глава 2. Искусственный интеллект
выражение
г/, = T(S(xu ад,), 5(ж2) ti/2),. •. ,5(жте, wm))> B.34)
а для ИЛИ-нейрона — выражение
2/2 = 5(Г(ж,, «/,), Т(х2, ад2),... ,Г(*т, wra)). B-35)
Тогда естественным представлением широкого класса нечетких логических систем
может служить трехуровневая нейронная сеть, называемая нечетким (И/ИЛИ)-
нейроном (рис. 2.11). Здесь z = ИЛИ((уь у2), v), v = (v],v2).
Типичным примером внешней интеграции
служит разработка современных систем
виртуальной реальности, которая требует объединения
подходов, методов и средств, используемых в
информатике и ИИ, с методами психологии, эр-
-> гономики, физики, робототехники, синергетики
и пр. Речь идет о построении как можно более
«богатого» интерфейса человека с виртуальным
пространством, что предполагает использование
психо-логических (по Ж. Пиаже) и
психофизических (в смысле Ф. Кликса) моделей, обращение
Рис. 2.11. Модель нечеткого к неклассическим (в частности, псевдофизичес-
нейрона ким) логикам и методам качественной (наивной)
физики.
Наконец, процесс внутренней интеграции различных атрибутов интеллекта,
который связан с рассмотрением интеллекта как открытой системы, приводит
к формированию автономных, активных, кооперирующих программных единиц —
агентов и развитию агентно-ориентированного подхода в информатике и ИИ.
Распределение и децентрализация в ИИ
Вторая тенденция — распределение или децентрализация ИИ — тесно
связана с первой и означает исследование процессов коммуникации, кооперации
и координации агентов. При этом распределенные системы ИИ могут иметь
единый орган управления, а в полностью децентрализованных системах
управление происходит только за счет локальных взаимодействий [Demazeau and
Muller, 1990]. В обоих этих случаях интеллектуальные процессы рассматриваются
в контексте коллективного поведения, а центральным объектом исследования
становится группа или сообщество интеллектуальных систем.
Каковы основные причины, обусловливающие особую актуальность РИИ
и MAC в наши дни? В первую очередь, это огромная сложность многих
современных систем и организаций, которая достигает такого уровня, что
централизованное управление в них становится неэффективным из-за наличия огромных
потоков информации, когда слишком много времени тратится на ее передачу
в центр и принятие им решений [Варшавский и Поспелов, 1984]. Поэтому сейчас
происходит настоящая революция в области организационного управления
(стратегического менеджмента), связанная с коренной перестройкой традиционных
организаций и предприятий и появлением сетевых организационных структур
нового типа, например, так называемых горизонтальных, расширенных и
виртуальных предприятий (подробнее об этом можно прочитать в книге [Ойхман
и Попов, 1997] или в обзоре [Тарасов, 1996]).
Компьютерные системы также становятся все сложнее и сложнее и включают
ряд подсистем разной природы, обладающих различными функциональными

2.4. Смена парадигмы в искусственном интеллекте
81
свойствами и взаимодействующими с различными специалистами, удаленными
друг от друга. Кроме того, с ростом сложности падает надежность систем, и все
труднее сформулировать их адекватную целевую функцию.
Во-вторых, распределенность интеллекта — фундаментальное свойство
живых систем. В целях эффективной адаптации к сложной, плохо определенной,
динамической среде формируются сообщества живых систем: группы людей,
стада животных, стаи птиц и пр. При этом каждая особь располагает частной,
фрагментарной информацией о динамике внешней среды, а совместно они
синтезируют адекватную интегральную модель внешней среды и прогноз процесса
взаимной адаптации со средой. Хорошим примером служит полет стаи птиц.
Птицы, в зависимости от положения в стае, распределяются по разным обязанностям:
одни наблюдают за выдерживанием направления, другие — за высотой, третьи-
за плотностью стаи и т.д. При отклонении наблюдаемого параметра от заданной
величины «специалисты» по этому параметру издают особые звуковые сигналы.
Стая тотчас реагирует, если сила этих сигналов выше некоторого определенного
значения. Налицо механизм самоуправления в распределенной системе.
В-третьих, многие задачи, встающие перед современным обществом,
изначально неоднородны и распределены:
а) в пространстве (например, развитие транспортной сети или системы
космической связи);
б) в функциональном плане, поскольку ни один человек не может создать
сложную систему в одиночку.
Трудно представить себе единый проект развития транспортной или
компьютерной сети. Очевидно, что у подобных систем нет единой цели и единого
разработчика: они возникли и развиваются в ходе технической эволюции (а,
системы, возникшие эволюционным путем, не связаны с централизованным
управлением).
В-четвертых, понятие открытой системы означает, что у нее имеются
развитые возможности и средства адаптации к изменениям среды, в том числе
путем модификации своей структуры и параметров. Например, в случае открытой
программной системы, модификация и расширение программного обеспечения
возможны прямо в ходе его функционирования. Эволюция программного
обеспечения происходит в сторону его разработки на основе автономных,
индивидуализированных, взаимодействующих модулей. В последние годы возможности
эволюционного проектирования и биологические принципы начинают всерьез
приниматься во внимание и при создании аппаратных средств ЭВМ (см.,
например, [Редько, 1994]).
В-пятых, само распространение различный сетей порождает и объясняет
распределенный взгляд на мир. Развитие мобильных компьютерных средств, когда
вся информация и ресурсы обработки распределены по различным узлам сети
(например, сеть Интернет уже насчитывает несколько десятков тысяч узлов во всем
мире), требует пересмотра классических моделей вычислений, основанных на
сосредоточенной, последовательной машине фон Неймана. Возникают
принципиально новые концепции вычислительного пространства, например, концепции
«гигантской паутины», как в случае с World Wide Web или «вычислительного поля»
(computing field) М.Токоро [Tokoro, 1993] по аналогии с физическими полями.
Все вышеперечисленное требует развития нового,
системно-организационного подхода в ИИ [Тарасов, 1997а], основы которого приводятся ниже.
7 Зак. 72

82
Глава 2. Искусственный интеллект
2.4.3. Системно-организационный подход в ИИ
Помни, никогда не изменяй истине/ Изменяй истину/
Станислав Ежи Лец. «Непричесанные мысли»
Сформулируем основные принципы системного подхода, которые
предлагается учитывать в исследованиях интеллекта.
A) Принцип многоуровневости интеллекта, предполагающий изучение интеллекта
в иерархии взаимодействующих систем, что означает необходимость
рассмотрения микро-, мезо- и макроуровней интеллектуальных систем (рис. 2.12) и
целесообразность изучения метаинтеллектуальных процедур [Тарасов, 1997а].
Метаинтеллектуальные процедуры и системы определяют, например, нормы
взаимоотношений агентов в многоагентных системах (MAC). Их введение
в ИИ представляется столь же естественным, как и определение понятий
метазнаний, метамоделей и метаэкспертных систем [Стефанюк, 1987; Pitra,
1990]. Здесь основным классификационным атрибутом метаинтеллектуаль-
ной системы является способность предсказать, организовать и управлять
коллективным поведением и групповой динамикой агентов в MAC, что
означает поддержку рекурсивных и рефлексивных процессов.
B) Принцип многомерности интеллекта и дополнительности различных моделей
и методов описания интеллектуальных процессов и систем (принцип Н.
Бора в применении к исследованию и моделированию интеллекта). Никакое
сколько-нибудь сложное явление, а тем более, интеллектуальное поведение
нельзя описать средствами одного-единственного языка. Как правило, для
этого требуется набор языков различной жесткости (см. [Налимов, 1979;
Моисеев, 1995]), сочетание различных логик анализа, множество интерпретаций
Интеллектуальные
организации
Многоагентные
системы,
интегрированные
интеллектуальные
системы
ИИ 2
Агенты, объекты,
простые экспертные
системы
ии 1
Рис. 2.12. Уровни исследований в ИИ

2.4. Смена парадигмы в искусственном интеллекте
83
интеллектуальной системы. Таким образом обеспечивается «голографическая
картина» системы, связанная с использованием различных точек зрения
C) Принцип учета коллективной природы интеллекта, который провозглашает
необходимость исследования генезиса и эволюции интеллектуального
поведения в процессах взаимодействия и коммуникации и совместной
деятельности, что подразумевает обращение к теории коммуникации и семиотическим
корням интеллекта в ИИ.
D) Принцип единства интеллекта и деятельности, в частности, означающий
«вовлечение интеллекта в действия» и использование интеллекта как регулятора
деятельности, откуда вытекает необходимость построения и исследования
моделей деятельности в ИИ. Например, возникает задача определения
рекурсивных связей между интеллектом и деятельностью, что предполагает
исследование автономных кольцевых структур.
Согласно данному принципу, интеллект агента выступает как подсистема
управления деятельностью, позволяющая ему организовать свои действия
или действия другого агента. Поэтому в современных интеллектуальных
системах наряду с проблемой инженерии знаний должна решаться проблема
проектирования деятельности.
В то же время, интеллект имеет коммуникативную природу и формируется
в процессах взаимодействия (коммуникации) агента с другими агентами,
а потребность в коммуникации связана с реализацией целенаправленной
деятельности.
E) Принцип сосуществования и оптимального соотношения горизонтальных и
вертикальных связей в интеллектуальных организациях. Следствием
выступает неоднородность организационных структур, вызванная распределением
функций координации и субординации между агентами.
F) Принцип приоритета процессов координации над субординацией, т. е. это —
принцип преимущественного учета горизонтальных связей в
интеллектуальных процессах. Иными словами, предполагается невозможность решения
сложных задач отдельными агентами, опирающимися на локальные модели
(и в то же время, невозможность построения ими в одиночку полных или
глобальных моделей внешнего мира). Следствием этого является
преобладание кооперативных и коалиционных стратегий над чисто конкурентными
и индивидуалистическими в интеллектуальном поведении.
G) Принцип выделения системных единиц интеллекта, согласно которому в основу
системного синтеза распределенного интеллекта следует положить
формирование функционально-структурной единицы как «универсального
строительного блока» или «клетки» MAC.
Системные единицы следует отличать от элементов системы: структурный
элемент — это простейшая, неделимая часть системы, которая обычно
не сохраняет свойства системы как целого, тогда как важнейшей чертой
функционально-структурной единицы является сохранение главных свойств
организации всей системы.
Основные требования к системной единице интеллекта таковы:
а) единица должна быть целостным функционально-структурным
образованием, связной организационно-управленческой структурой;
б) единица должна быть способной к развитию (и саморазвитию), т. е.
должна обладать порождающими свойствами и возможностями для ее
трансформации;

84
Глава 2. Искусственный интеллект
в) единица должна быть неоднородной, т.е. отображать в некотором
смысле противоположные функции, структуры и свойства интеллекта;
(8) Принцип самоорганизации и саморазвития интеллекта, связанный с
возникновением новых качеств или синергетических эффектов в процессе взаимной
адаптации различных компонентов и структур интеллекта как постоянно
самоорганизующейся системы.
На наш взгляд, практическая реализация данного принципа в работах по ИИ
ведет к формированию нового научного направления — синергетического
ИИ, о котором пойдет речь в разделе 2.4.4.
В соответствии с принципом исследования интеллекта в иерархии систем,
базовыми единицами описания на микроуровне являются объекты, акторы и агенты.
Классические экспертные системы, базы знаний и подсистемы рассуждения также
относятся к этому уровню представления характеристик индивидуального
интеллекта. В целом традиционная проблематика ИИ будет обозначаться термином
«искусственный интеллект-Х».
На мезоуровне будем исходить из моделей взаимодействия между отдельными
агентами и феноменов коллективного интеллекта. Поэтому здесь основными
объектами исследования оказываются группы единиц — различные интегрированные
и многоагентные системы {«искусственный интеллект-!»). Их можно определять
рекурсивно через объекты первого уровня, например, MAC можно понимать как
коллективного агента, формируемого в процессе кооперации индивидуальных
агентов.
Наконец, на макроуровне, центральное место занимает изучение сообществ
{популяций) многоагентных систем и моделирование социальных законов,
определяющих существование и эволюцию таких сообществ, понимаемых как «искусствен-
ные» (виртуальные) или, в ряде случаев, как интеллектуальные организации. Под
виртуальной организацией понимается искусственно образованная в компьютере,
не существующая в реальном физическом пространстве метасистема,
включающая множество MAC (или многоагентная система, объединяющая коллективных
агентов). Виртуальная организация представляет собой сетевую, компьютерно
интегрированную организационную структуру, состоящую из, как правило,
неоднородных компонентов, расположенных в различных местах. В свою очередь,
интеллектуальная организация — это метайнтеллектуальная MAC, возникающая
в процессах коммуникации, происходящих как внутри организации, так и между
отдельными организациями, и обеспечивающих организационный семиозис. Она
строится и функционирует в соответствии с набором экстремальных принципов,
включая принцип максимальной адаптации к динамической среде, принцип
максимума горизонтальных связей, принцип максимальной открытости сети. В ней
ведущую роль играют процессы самореорганизации в интересах самосохранения
и саморегуляции деятельности, которые происходят благодаря сохранению и
накоплению знаний и опыта, прогнозированию потребностей и стратегическому
планированию, разделенной мотивации и коллективному обучению. В
частности, интеллектуальные организации характеризуются процессами интенсивной
переработки знаний, связанными с преобразованием интеллектуальных ресурсов
в преимущества над конкурентами. Такой организационный уровень исследований
в ИИ {«искусственный интеллект-Ъ») значительно перекрывается с проблематикой
искусственной жизни в широком смысле этого термина [Heudin, 1994; Langton,
1989; Langton and Shimohara, 1996].

2.4. Смена парадигмы в искусственном интеллекте
85
2.4.4. Синергетический ИИ
Многие вещи нам непонятны не потому, что наши понятия
слабы, но потому, что сии вещи не входят в круг наших понятий.
Козьма Прутков. «Мысли и афоризмы»
Результатом естественного развития системного подхода в ИИ является
зарождение нового интеграционистского направления — синергетического ИИ.
Объектом синергетического ИИ выступают сложные, самоорганизующиеся
интеллектуальные системы. Область синергетического ИИ включает, в первую очередь,
исследования процессов зарождения, формирования, деятельности, коммуникации,
эволюции и кооперации сложных, открытых интеллектуальных систем
различных классов, Примерами сложных интеллектуальных систем служат: гибридные
интеллектуальные системы, системы мягких вычислений, системы с
кооперативным поведением, интеллектуальные агенты, распределенные системы управления,
многоагентные системы, виртуальные коллективы, интеллектуальные
организации, эволюционирующие искусственные сообщества. В синергетическом ИИ
прежде всего изучаются нестационарные состояния, динамика, взаимные
переходы, способы разрушения и создания сложных интеллектуальных систем. Это
направление призвано обеспечить необходимые теоретические предпосылки для
объединения интеллектуальных систем, формирования искусственных
коллективов и сообществ, построения, а также исследования виртуальных популяций
и эволюционных организаций.
Кроме того, речь идет о введении «синергетического измерения», т. е.
элементов неопределенности, самоорганизации, динамики, обучения, эволюции в
классические методы и модели ИИ. Здесь имеется в виду рассмотрение открытых
динамических баз знаний, эволюционных вычислений, вычислений со
словами [Zadeh, 1996], модифицируемых рассуждений, вопросов синтеза
познавательных процедур [Финн, 1999], теории происхождения логики на базе изучения
биологической эволюции [Редько, 1994], моделей эволюционной семиотики
[Тарасов, 19976], и пр.
В чем состоят основные синергетические проблемы ИИ? По нашему мнению,
к их числу относятся:
• Исследование кооперативных механизмов зарождения, самоорганизации и
эволюции интеллектуальных систем и организаций (в том числе,
интеллектуальных систем и сообществ, состоящих из необязательно интеллектуальных
единиц).
• Изучение задач и установление принципов формирования неклассических
(неоднородных, открытых, распределенных, децентрализованных,
локально организованных) интеллектуальных систем с гибридными архитектурами
в процессе взаимодействия (кооперации) исходных систем и компонентов.
Моделирование эффектов «резонансного возбуждения» вступающих во
взаимодействие объектов.
• Исследование путей и характера эволюции (дивергенции и конвергенции)
различных направлений, школ и подходов в ИИ, интеграция моделей ИИ
и других научно-практических дисциплин. Поиск критических зон
«протекания эволюции через бифуркации», т.е. областей, содержащих точки «раз-

86
Глава 2. Искусственный интеллект
ветвления» возможных путей и средств моделирования интеллекта, которые
обусловливают генерацию новых направлений в ИИ.
• Определение сценариев развития и способов объединения различных
интеллектуальных (и не только интеллектуальных) технологий, а также возможных
видов гибридных архитектур.
• Исследование различных НЕ-факторов знаний и взаимодействия между
ними; построение гибридных логик — неклассических логик ИИ, где в явном
виде сочетаются описания НЕ-факторов по крайней мере двух типов;
разработка нетрадиционных (нейронечетких, эволюционных) семиотических
моделей и систем; представление смысла на различных шкалах.
Таким образом, в русле системно-организационного подхода к интеллекту
радикально изменяется точка зрения на предмет и объект ИИ. В рамках
классической парадигмы объектом ИИ как научно-технической дисциплины являются
человеко-компьютерные системы, обеспечивающие инженерию (приобретение,
представление, порождение, пополнение, поддержку и передачу) знаний. Предметом
ИИ выступает разработка методологии, теории, методов, моделей, программно-
аппаратных средств и прикладных компьютерных систем, позволяющих решать
интеллектуальные, т.е. основанные на знаниях (правилах) задачи или выполнять
интеллектуальные функции, ранее считавшиеся прерогативой человека-эксперта.
Согласно новой синергетической парадигме, основным объектом исследований
в ИИ является группа (или сообщество), вообще говоря, неоднородных,
взаимодействующих агентов. Тогда основное содержание разработок связано:
• либо с синтезом индивидуальных свойств и поведения агентов, исходя из моделей
групповой динамики, определяемой отношениями кооперации и конкуренции,
конфликта и сотрудничества, субординации и координации и пр. (нисходящее
проектирование),
• либо с построением организационных структур из агентов на базе анализа
основных функций организации, определения состава агентов и их ролей
(восходящее проектирование).
Здесь предметом исследования являются:
а) конечное множество агентов;
б) ситуации взаимодействия агентов, определяющие возникновение,
структуру и эволюцию MAC (искусственного сообщества) в зависимости от таких
параметров, как совместимость целей, наличие взаимных обязательств и
ответственности, ограниченность ресурсов, недостаток индивидуального опыта,
и пр.;
в) множество внешних факторов, обеспечивающих установление локальных
пространственных и временных отношений между агентами
(непосредственное общение или телекоммуникации, совпадение целей или столкновение
интересов, и пр.);
г) множество ресурсов взаимодействия, обеспечивающих поддержание
некоторых отношений между агентами и их трансформацию;
д) множество действий (совместных действий) агентов;
е) множество интенциональных характеристик, лежащих в основе
формирования действий, и пр.

2.4. Смена парадигмы в искусственном интеллекте
87
2.4.5. Математический инструментарий синергетического ИИ
Истина редко бывает чистой и никогда — однозначной.
Оскар Уайльд
В разделе 1.3 принципы синергетического подхода в современной науке были
условно разбиты на три группы: принципы неопределенности (НЕ-факторов),
принципы сложности, принципы эволюции. Соответственно, математические
модели и средства построения синергетических интеллектуальных систем можно
сгруппировать по этому же признаку.
В данной книге на переднем плане находится математика учета
неопределенностей, а в более широком смысле, математика, служащая для работы с НЕ-
факторами [Валькман, 1998; Нариньяни, 1999]. Когда говорят о математике для
формализации НЕ-факторов, речь идет о многочисленных неаристотелевских
логиках и небулевых алгебрах, теории категорий (в частности, теории топосов) и
теории игр, теории вероятности и байесовских сетях, лингвистических переменных
и нечетких множествах, теории возможности и теории Демпстера—Шейфера,
приближенных и недоопределенных множествах. Примерами нетрадиционных
логик служат многозначные, непрерывные, паранепротиворечивые, модальные,
немонотонные, нечеткие, лингвистические логики. Несколько особняком здесь
расположена интуиционистская логика, опирающаяся на принцип
математического становления Л. Брауэра.
В основе критики концепций классической математики со стороны
интуиционизма лежит обсуждение статуса существования в математике. Проводится
различие между понятиями существовать и быть построенным. В чистых теоремах
существования нет построения объекта, чье существование доказывается.
В русле идей интуционизма математические утверждения описываются не с
позиции абстрактной истинности или ложности, а как предложения о
возможности решить некоторую конструктивную задачу (см. [Непейвода, 2000] 9\
С другой стороны, одной из фундаментальных особенностей естественного
интеллекта является широкое использование суждений и рассуждений на
шкалах — сходства, предпочтения, полезности, уверенности, временных,
пространственных и т. п. В мышлении человека порядок создается из хаоса путем
формирования системы оппозиционных (полярных) шкал и различения некоторых
объектов с помощью оценок на этих шкалах.
Можно рассматривать различные типы оценок на шкалах — точные
количественные, интервальные, лингвистические. Например, в случае вербальных
полярных шкал удобно пользоваться семеркой градаций оценок по критерию С:
двумя базовыми лингвистическими оценками — положительной С+ и
отрицательной С~, двумя усиленными (например, с помощью модификатора «очень»)
оценками vC+ и vC~, С+ ^ vC+, С~ ^ vC~, двумя ослабленными
(например, с помощью модификатора «скорее») оценками wC+ и wC~, С+ ^ wC+,
С~ ^ wC~, а также нейтральной оценкой С0.
' Отсюда становится понятным еще один более общий термин «конструктивизм»,
характеризующий весь класс математик и логик, ставящих на первое место понятие задачи и конструкции,
а не истины и обоснования.

88
Глава 2. Искусственный интеллект
Итак, градации вербальной шкалы линейно упорядочены следующим образом
(см. также [Батыршин, 1996])
vC~ ^ С ^ wC~ ^C° ^ wC+ ^ C+ ^ vC+.
При работе с полярными шкалами можно столкнуться со следующими НЕ-
факторами [Тарасов, 2001а]:
1. Противоречивость: одновременное проявление у оцениваемого на шкале
объекта различных градаций противоположных свойств, например wC+ и vC~.
2. Неизвестность: отсутствие информации о проявлении некоторого свойства
С+ или С~ на данной шкале.
3. Неточность: приближенный, интервальный характер оценки проявления
свойства С+ или С~ на шкале, например, С+ = [C^injC^&x].
4. Нечеткость: переход от простой, точечной к сложной, распределенной
оценке, характеризующее вербальное, лингвистическое значение С+ или С~
и описываемой функцией принадлежности \i.
Во многих реальных ситуациях следует применять «мягкие оценки» на шкалах,
в которых изначально отражены несколько видов НЕ-факторов.
В свое время И.З. Батыршин показал, что алгебры нечетких множеств
являются алгебрами Клини (см [Батыршин, 1996]), а затем в статье [Тарасов, 2001]
было обосновано предложение взять алгебру Клини в качестве общей структуры
для представления НЕ-факторов различных типов.
В общем случае, для описания оценок на полярных шкалах следует
аксиоматически задать на решетке L два семейства унарных операторов: операторы
утверждения и отрицания.
Пусть L — решетка, где 0 — минимальный, а 1 — максимальный элемент.
Класс унарных операторов утверждения
т : L —> L
удовлетворяет условиям:
1) га@) = 0; тA) = 1 (ограниченность); B.36)
2) V х,у € L, х ^у => т(х) ^ т(у) (монотонность). B.37)
Примером тривиального оператора утверждения служит гп\(х) = х. Для
метрических шкал естественно ввести степенной оператор тг(х) = хг, а для
порядковых (см. [Аверкин и др., 1986])
( 0 при i - а < 0,
та(х) = < ж,_а при 0 ^ i - а ^ 1,
[ 1 при г - а > 1.
Оператор отрицания был введен ранее в разделе 2.3.2. Интересным примером
отрицания на интервале [-1, +1] (отрицание Ян-Инь) служит функция
( 0 при \х\ ^ а,
па(ж)=<+1 при -а ^ х ^ 0,
[ -1 при 0 ^ х ^ +а.
Характерным вариантом отрицания на порядковой шкале является щ(х{) =
a?i_t, где 1 — наибольший элемент в цепи. В общем случае будем рассматривать
неинволютивные отрицания на шкалах.

2.4. Смена парадигмы в искусственном интеллекте 89
Теперь введем понятие обобщенной оценки на полярной шкале в виде пары
элементов
хЬр = (ж, п(ж)), х 6 L, n(x) € L, B.38)
описывающих степени проявления у оцениваемого объекта двух
противоположных свойств А+ и А~.
Будем связывать степень противоречивости произвольной оценки на
полярной шкале с отношением предпорядка ^п на L, порождаемым с помощью класса
операторов отрицания: х ^п у & х V п(х) ^ у V п(у).
Следующий блок математических средств синергетического ИИ образуют
такие математические теории и методы как теория обучения и нейронные сети,
эволюционное моделирование и генетические алгоритмы, теория
самовоспроизводящихся (клеточных) автоматов и растущие сети. Так, важнейшими свойствами
нейросетей являются массивный параллелизм, нелинейность и обучаемость.
Обучение означает модификацию параметров сети.
Для конструирования процесса обучения, прежде всего, необходимо иметь
модель внешней среды, которая определяет принципы обучения. Во-вторых,
необходимо понять, как изменять весовые коэффициенты. Вариант обучения
с учителем предполагает, что известна только критическая оценка правильности
выхода нейронной сети, но не сами правильные значения выхода. Обучение
без учителя не требует знания правильных ответов на каждый пример
обучающей выборки. В этом случае раскрывается внутренняя структура данных или
корреляции между образцами в системе данных, что позволяет распределить
образцы по категориям. При смешанном обучении часть весов определяется
посредством обучения с учителем, в то время как остальная получается с помощью
самообучения.
В теории обучения рассматривают три фундаментальных свойства,
связанных с обучением по примерам: емкость, сложность образцов и вычислительная
сложность. Под емкостью понимается, сколько образцов может запомнить сеть,
и какие функции и границы принятия решений могут быть на ней сформированы.
Сложность образцов определяет число обучающих примеров, необходимых для
достижения способности сети к обобщению. Слишком малое число примеров
может вызвать «переобученность» сети, когда она хорошо функционирует на
примерах обучающей выборки, но плохо — на тестовых примерах, подчиненных
тому же статистическому распределению.
Известны четыре основных типа правил обучения: коррекция по ошибке,
машина Больцмана, правило Хебба и обучение методом соревнования.
Правило коррекции по ошибке
При обучении с учителем для каждого входного примера задан желаемый
выход у0. Реальный выход сети у может не совпадать с желаемым. Принцип
коррекции по ошибке при обучении состоит в использовании сигнала (у0—у) для
модификации весов, обеспечивающей постепенное уменьшение ошибки.
Обучение Больцмана
Представляет собой стохастическое правило обучения, которое следует из
информационных и термодинамических принципов. Целью обучения Больцмана
является такая настройка весовых коэффициентов, при которой состояния
видимых нейронов удовлетворяют желаемому распределению вероятностей. Обучение
6 Зак. 72

90
Глава 2. Искусственный интеллект
Больцмана может рассматриваться как специальный случай коррекции по
ошибке, в котором под ошибкой понимается расхождение корреляций состояний в двух
режимах.
Правило Хебба
Самым старым обучающим правилом является постулат обучения Хебба:
синаптическое соединение двух нейронов усиливается, если оба эти нейрона
возбуждены. В: простой форме это правило выглядит так
AW^-araj, B.39)
где а{ — выход предсинаптического нейрона, aj — выход постсинаптического
нейрона, а е — есть параметр обучающего соотношения. Важной особенностью
этого правила является то, что изменение синаптического веса зависит только
от активности нейронов, которые связаны данным синапсом.
Обучение методом соревнования
В отличие от обучения Хебба, в котором множество выходных нейронов
могут возбуждаться одновременно, при соревновательном обучении выходные
нейроны соревнуются между собой за активизацию. Это явление известно как
правило «победитель берет все». Обучение посредством соревнования позволяет
кластеризовать входные данные: подобные примеры группируются сетью в
соответствии с корреляциями и представляются одним элементом. При обучении
модифицируются только веса «победившего» нейрона. Эффект этого правила
достигается за счет такого изменения сохраненного в сети образца (вектора весов
связей победившего нейрона), при котором он становится чуть ближе к входному
примеру.
Наконец, к числу хорошо известных компонентов математического
аппарата синергетики в контексте описания сложности и самоорганизации относятся
теория нелинейных систем и неравновесная термодинамика, фрактальная
математика и теория хаоса. Здесь же следует указать теорию колебаний (включая
модели когерентных и резонансных процессов).
Особо следует остановиться на гибридных математических моделях,
занимающих центральное место в инструментарии синергетического ИИ. Подобные
модели могут формироваться как в рамках одной области, так и на основе
междисциплинарных исследований. Среди первых можно отметить гибридные логики
(например, нечеткие модальные или возможностные лингвистические логики),
обобщенные (например, интуиционистские или вероятностные) нечеткие
множества. К числу вторых относятся уже упомянутые выше нейро-нечеткие и нечетко-
генетические системы, эволюционно-семиотические и нейро-семиотические
модели, нейро-оптические модели и осцилляторные нейросети.
Так например обобщенная нечеткой оценка на полярной шкале может быть
задана в виде [Тарасов, 2001а]
\i = (цА, р\А\ цА(х) G [0, +1] и р]А(х) ? [0, +1].
Здесь \iA и fi]A — нечеткие множества, характеризующие лингвистические оценки
проявления свойства А и оппозиционного свойства ]А. В общем случае рА(х) +
Пусть /z1 = (v>\,lAA)i р2 = {A, lAA) — обобщенные нечеткие множества.
Основные операции над обобщенными нечеткими множествами из множества X
будут определяться следующим образом.

2.4. Смена парадигмы в искусственном интеллекте
91
Вложенность: /z1 С /х2 <?> Vx € X, (ц]а(х) ^ 1Л(Х), /*\а(х) ^ Р]а(х))
Равенство: /z^/i^VxGl, (/х^(ж) = /4(ж)> м{л(ж) = ^(ж))
Отрицание: -/x^VxGl, -А*л(ж) = (/^(ж), (мл(я))
Пересечение: /х1 Л /х2 <?> V ж ? X, {v>a(x) л Мл(ж)> р\а(х) v А*|л(ж))
Объединение: /х1 V /х2 Ф> Уж ? X, (/*л(ж) v А*л(ж)> М]л(ж) Л А*|л(ж))-
Легко показать, что операции пересечения и объединения обобщенных
нечетких множеств коммутативны, ассоциативны, взаимно дистрибутивны и идем-
потентны. По сути дела, обобщенные нечеткие оценки на полярных шкалах
отражают ключевой принцип интуиционизма — отказ от закона классического
отрицания.
6*

Глава 3
Основы теории агентов
Вначале было дело.
Иоганн Вольфганг Гете.
«Фауст»
В словаре современного английского языка Longman дано, на наш взгляд,
очень емкое и удачное определение агента: «агент — лицо или организация,
наделенное юридическими полномочиями представлять другое лицо или
организацию и вести их дела». Из этого определения понятна важная роль агентов
в современных науках как промежуточного звена между субъектом и объектом
(рис. 3.1). Если двигаться от субъектного полюса, то агент может пониматься как
«квазисубъект», способный в некотором смысле замещать другого субъекта
(своего «хозяина»), имеющий определенные обязательства перед ним и действующий
по его поручению. Напротив, при движении от объектного полюса агентом
считается «активный объект» или метаобъект, способный манипулировать другими
объектами, а в более широком смысле, формировать собственные программы
действий, которые вызваны некоторыми потребностями и направлены на достижение
определенных целей. Отсюда становятся понятными основные пути построения
искусственных агентов и их базовые характеристики. По сути, понятие «агента»
по-новому иллюстрирует знаменитое изречение В. Гейзенберга о том, что разрыв
между субъектом и объектом невозможен.
Агент
Делегирование
функций и
полномочий
Активизация
и
интеллектуализация
Субъект Объект
Рис. 3.1. Иллюстрация к определению агента
Любой агент представляет собой открытую систему, помещенную в некоторую
среду, причем эта система обладает собственным поведением, удовлетворяющим

Основы теории агентов
93
некоторым экстремальным принципам. Таким образом, агент считается
способным воспринимать информацию из внешней среды с ограниченным разрешением,
обрабатывать ее на основе собственных ресурсов, взаимодействовать с другими
агентами и действовать на среду в течение некоторого времени, преследуя свои
собственные цели.
Это значит, что при построении искусственного агента минимальный
набор базовых характеристик включает такие свойства как: а) активность,
способность к организации и реализации действий; б) реактивность, способность
воспринимать состояние среды; в) автономность, относительная независимость
от окружающей среды или наличие некоторой «свободы воли», обусловливающей
собственное поведение, которое должно иметь хорошее ресурсное обеспечение;
г) общительность, вытекающая из необходимости решать свои задачи совместно
с другими агентами и обеспечиваемая развитыми протоколами коммуникации;
д) целенаправленность, предполагающая наличие собственных источников
мотивации, а в более широком плане, особых интенциональных характеристик.
Необходимыми условиями реализации искусственным агентом некоторого
поведения выступают специальные устройства, непосредственно
воспринимающие воздействия внешней среды (рецепторы) и исполнительные органы,
воздействующие на среду (эффекторы), а также процессор — блок переработки
информации и память. Под памятью здесь понимается способность агента
хранить информацию о своем состоянии и состоянии среды. Таким образом, исходное
представление о простейшем агенте сводится к хорошо известной модели
«организм-среда», приведенной в книге [Гаазе-Рапопорт и Поспелов, 1987] (рис. 3.2).
Изложим вкратце эту обобщенную модель, а затем раскроем ее в ходе анализа
весьма характерного класса искусственных агентов — интегральных роботов.
Рецепторы ^ образуют систему восприятия агента, обеспечивая прием и
первичную обработку информации, которая поступает к нему из среды (как внешней,
так и внутренней), а затем отправляется в память. Система восприятия может
контролировать действия путем определения различий между текущими и
ожидаемыми состояниями. В памяти агента должны иметься сведения о типовых
реакциях на информационные сигналы от рецепторов, а также информация о
состоянии эффекторов и о располагаемых ресурсах. Кроме того, в памяти должны
храниться программы переработки входной информации в управляющие сигналы,
подаваемые на эффекторы, и обязательно результаты реакций на ту или иную
внешнюю ситуацию.
Блок памяти обычно включает три основных компонента: систему фильтров,
обеспечивающих выделение наиболее значимой для агента информации, а также
внутреннюю модель внешнего мира и модель самого агента. В конечном счете,
именно объем памяти, количество и разнообразие хранимых в ней знаний и программ,
степень развития внутренней модели внешнего мира и возможности рефлексии
определяют сложность и характер поведения агента, уровень его автономности
и интеллектуальности.
Процессор (система процессоров) обеспечивает объединение и переработку
разнородных данных, выработку соответствующих реакций на информацию о
состоянии среды, принятие решений о выполнении тех или иных действий. Выбор
' В зависимости от выполняемой функции рецепторы агента делятся на: экстероцепторы,
служащие для получения сигналов из внешней среды; интероцеп торы, которые сигнализируют о состоянии
внутренней среды, и проприоцепторы, характеризующие состояние двигательной системы агента.

94
Глава 3. Основы теории агентов
ПРОЦЕССОР
t
_Е
V
ПАМЯТЬ
ii
РЕЦЕПТОРЫ h
j
It
А
t
1 *
^
А
А
lb
[ .
1 1 Т ' —
ЭФФЕКТОРЫ
1
_Т_ _ f 1
Внутренняя среда
ВНЕШНЯЯ СРЕДА
и
JHI
Источники
энергии Ii
1
{
Рис. 3.2. Модель поведения простейшего агента
соответствующих действий при заданных ограничениях — одна из ключевых
способностей любых агентов.
Функция эффекторов состоит в воздействиях на среду, например в
перемещении объектов внешней среды, выдаче информации в символьной форме,
поддержании равновесия внутренней среды (т. е. желаемого состояния самого
агента) и т. д.
Источники ресурсов, например энергопитания, обеспечивают все
необходимые условия для поддержания (и, при необходимости, воспроизведения)
жизненного цикла агента.
Хорошим примером искусственных агентов служат интегральные и
интеллектуальные роботы [Попов и Фирдман, 1976; Тимофеев, 1978]. В первую очередь,
подобные роботы имеют широкий ассортимент искусственных органов чувств
(сенсорные датчики) и искусственных эффекторов (манипуляторы, ледипулято-
ры). Их мобильность достигается благодаря колесным, гусеничным, шагающим
и прочим системам перемещения. Активность и автономность роботов тесно
связаны с наличием средств целеполагания и планирования действий, систем
поддержки решения задач, а интеллектуализация, помимо обладания системой
обработки знаний, предполагает развитые средства коммуникации различных
уровней, вплоть до средств естественноязыкового общения.
«Джентльменский набор» сенсорных датчиков внешней и внутренней
информации включает: зрительные и звуковые (ультразвуковые), тактильные и
кинестетические датчики. Кроме того, часто применяются датчики для измерения
температуры, давления, влажности, радиоактивности, магнитного поля и других
физических величин.
При зрительном очувствлении роботов источниками информации служат
теле- и видеокамеры, оптические и голографические датчики. К звуковым
датчикам относятся микрофоны, эхолокационные датчики и пр. При взаимодействии
робота с внешней средой ключевую роль играют тактильные датчики,
позволяющие реагировать на прикосновение и измерять давление в местах контакта
с объектом среды. Эти датчики служат для обнаружения различных объектов,

Основы теории агентов
95
распознавания внешней обстановки путем ощупывания предметов, а в конечном
счете, для получения обратных связей по усилиям.
Неотъемлемым атрибутом интеллектуальных роботов является наличие
специальной подсистемы планирования, составляющей программу действий робота
в реальных условиях окружающей среды, которые определяются рецепторами
робота [Поспелов Д. А., 1989]. Для планирования деятельности робот должен иметь
знания о свойствах окружающей среды и путях достижения целей в этой среде.
Среди основных требований к функциональным возможностям
интеллектуальных роботов отмечаются [Берштейн и Мелехин, 1994]:
• Планирование поведения при наличии нескольких целей, определяющих
возможные направления деятельности.
• Способность к накоплению знаний и обобщению опыта деятельности,
переноса его в новые условия функционирования.
• Использование знаний для достижения различных целей различными
способами.
• Выбор форм поведения, наиболее соответствующих характеру проблемной
области (внешней среды).
• Активное воздействие на внешнюю среду и перемещение в ней на
значительные расстояния.
Центральной проблемой робототехники остается задача интеллектуального
анализа данных и интеграции данных, снимаемых с различных датчиков,
построения системы целостного восприятия информации и формирования знаний
об окружающей среде и самом роботе.
Важнейшей особенностью интеллектуального агента является способность
функционировать в условиях неточной, нечеткой и противоречивой
информации. В связи с ограниченными возможностями рецепторов и эффекторов агента
(робота), он не может ни определять исчерпывающим образом параметры среды,
ни точно предсказывать результаты намеченного действия. В связи с этим
возникает необходимость рассмотрения полиморфного или нечеткого соответствия
между средой Е и ее моделью М у агента, которое можно назвать нечетким
отношением моделирования R: Е х М —> [0,1] [Аверкин и Тарасов, 1986].
Отношение моделирования удобно записать в виде матрицы размера I х га, где
на пересечении столбца е,, j; = 1,... Z и строки га,-, г = 1,..., га находится число
/*д(е>,т«) € [0,1]. Это число представляет собой коэффициент соответствия
между данным состоянием среды, например расстоянием 2 м от робота до некоторого
Таблица 3.1
Пример матрицы нечеткого отношения моделирования
-^-^^^ Расстояние от робота
^^^-^^ш> препятствия (м)
Качественная ~»^^^
оценка расстояния ^^_^^
Очень малое
Малое
Не малое и не большое
Большое
Очень большое
0,5
1
1
0
0
0
1
0,9
1
0,2
0
0
2
0,8
0,9
0,5
0,1
0
5
0,4
0,7
1
0,3
0,2
10
0,2
0,3
0,8
0,6
0,4
20
0
0,1
0,3
0,8
0,7
50
0
0
0
1
1

96
Глава 3. Основы теории агентов
препятствия, и его внутренним представлением агентов в виде лингвистического
значения «малое». Пример матрицы нечеткого отношения моделирования для
ситуации приближения робота к препятствию дан в табл. 3.1.
Теперь, имея исходные представления об организации поведения агентов
и средствах его реализации, перейдем к вопросам исторического развития агентов
и элементам теории агентов.
3.1. Некоторые исторические вехи в развитии
агентно-ориентированного подхода
Предыстория теории агентов связана в первую очередь с описанием
реактивных агентов в контексте моделирования свойств живых систем. Она восходит
к работам У. Питтса и У. Мак-Каллока (см русский перевод [Питтс и Мак-
Каллок, 1991 ]) по формальным нейронам, Дж. фон Неймана по
самовоспроизводящимся автоматам [Нейман фон, 1971], А. Н. Колмогорова по теории сложности,
У. фон Форстера и И. Пригожина [Пригожий, 2002], по теории
самоорганизации, У. Р. Эшби по моделям гомеостазиса, Г. Уолтера по реактивным роботам,
Дж. Холланда [Holland, 1975] по генетическим алгоритмам. Особое место в этом
ряду занимает школа коллективного поведения автоматов М. Л. Цетлина [Цетлин,
1961 и 1969; Крылов и Цетлин, 1963]. В работах этой школы впервые в мире
был поставлен вопрос о возможности моделирования целесообразного поведения
в стационарной среде при рассмотрении коллектива реактивных агентов
минимальной сложности. Как показал М. Л. Цетлин, если среда является стационарной
и вероятностной (реакции среды на действия агента выдаются с неизменным для
каждого действия распределением), то для организации целесообразного
взаимодействия со средой достаточно иметь в качестве агента конечный автомат
определенной структуры. Расширение адаптивности агентов достигалось за счет
перехода к автоматам переменной структуры. Такое решение обеспечивало весьма
невысокий уровень целесообразности, величина которого зависела от свойств
среды. Следовательно, классические модели коллективного поведения
автоматов могут рассматриваться как предельный случай описания реактивных агентов,
которые обладают малой автономностью и минимальным целеполаганием. Это
объясняется тем, что поведение автоматов корректируется из некоторого
центрального устройства управления, входящего в структуру среды.
Дальнейшее развитие этого направления связано с разработкой элементов
теории локально организованных систем [Стефанюк, 1989]. Подробнее о работах
школы коллективного поведения можно узнать из книги [Варшавский и
Поспелов, 1984].
Помимо школы коллективного поведения, связанной с моделированием
простейших реактивных агентов, в 60-е - 70-е гг. ХХ-го века в СССР сформировались
еще две мощные «поведенческие» школы, занимавшиеся моделированием
интеллектуальных агентов и их важнейших свойств. Речь идет о школе рефлексивного
поведения В. А.Лефевра2^ [Лефевр, 1973] и школе нормативного социального
поведения Д. А. Поспелова [Поспелов и Пушкин, 1972; Гаазе-Рапопорт и Поспелов,
1987; Поспелов и Шустер, 1990].
По-видимому, первое в современных исследованиях по ИИ «скрытое
определение» агента восходит к работам Д. А. Поспелова и В. Н. Пушкина по теории
2* Ныне В. А. Лефевр живет в США и работает в Калифорнийском университете (Ирвайн).

3.1. Некоторые исторические вехи
97
гиромата 3\ В гиромате — элементарной модели целесообразного поведения,
способной адаптироваться к условиям решаемой задачи-уже имелись следующие
«агентообразующие» модули: блок мотивации; блок селекции (рецепторы); блок
построения внутренней модели внешней среды; блок выдвижения гипотез; блок
модельного опыта; блок выработки решений; блок активного опыта; блок времени
(рис. 3.3).
От человека
Блок
селекции
Блок
времени
Блок
гипотез
Блок
построения
модели
Модель
внешнего
мира
Блок
модельного
опыта
Блок
активного
опыта
—r~-
J
Блок

мотиваций
Блок
выработки
решений
Рис. 3.3. Общая схема гиромата
Функционирование гиромата происходит в специальной среде, называемой
дискретной ситуационной сетью [Гаазе-Рапопорт и Поспелов, 1987]. Сеть
функционирует в дискретные такты. В ней появляются, перемещаются и исчезают
некоторые объекты. Сеть представляет собой граф с вершинами трех типов,
называемых истоками, стоками и решателями. Множества истоков 5, стоков F
и решателей D конечны. Любая вершина может быть элементом одного из трех
указанных множеств. Кроме того, определяются множество объектов О и
множество атрибутов AT. Источники порождают объекты в дискретной ситуационной
сети, функционирование стока заключается в удалении объектов из сети, а
решатели могут быть активными и пассивными. Пассивный решатель представляет
собой задержку на определенное число тактов, а в активном решателе либо
меняются атрибуты объекта, либо принимается решение о его дальнейшем движении
в сети, либо происходит и то, и другое. На рис. 3.4 треугольниками обозначены
3^ Термин «гиромат» был впервые предложен известным польским писателем-фантастом С.Лемом
для обозначения устройства, изменяющего свою структуру для приспособления к решаемой задаче.

98
Глава 3. Основы теории агентов
истоки, в которых* появляются объекты,
квадратиками — стоки, где они исчезают, а
кружками — решатели (двойным кружком —
активный решатель). Для описаний действий
в сети используются тройки типа (Oid{Oj)
и (GfmOj). Здесь d{ описывает действие
объекта О, над объектом Oj, a /m — действие
гиромата G над объектом Oj.
Рис. 3.4. Простейший вариант Общая идея работы гиромата такова,
дискретной ситуационной сети Информация о текущей ситуации в
дискретной ситуационной сети поступает в блок
селекции. Из него она идет по двум
направлениям: в блок построения модели, где происходит классификация ситуаций, и в блок
гипотез, в котором вырабатываются различные гипотезы о связи ситуаций между
собой. В эти же блоки из блока времени поступает информация о времени, когда
была зафиксирована данная ситуация. Она используется для оценки повторяемости
конкретных ситуаций и изменений во времени. В результате блок построения
модели изменяет внутреннюю модель внешнего мира, хранящуюся в гиромате. В модели
внешнего мира хранится весь опыт гиромата, накопленный им в процессе
функционирования. На основе этой информации блок модельного опыта извлекает
информацию, требуемую для принятия решений, и передает ее в блок выработки решений.
Если рассматриваемая ситуация оказалось типичной, уже знакомой гиромату, то
блок выработки решений формирует задание блоку активного опыта на выдачу
воздействий на среду. В противном случае требуется дополнительное обращение
к блоку гипотез. Блок активного опыта может непосредственно анализировать
реакцию среды и передавать корректирующую информацию в блок гипотез.
Кроме того, второй школой было предложено описание действий
(поведенческих актов) автономных агентов фреймами поступков, представляющих собой пары
взвешенных графов специального вида («замысел — реализация») Fr = (Go, Gr).
Здесь замысел поступка Gq включает описание намерений агента и
прогнозируемые реакции других агентов и объектов среды, в которой находится агент.
Фактически граф Go содержит своеобразный прогноз результатов некоторого
действия. При этом мотивы и цели агента входят в замысел Go
опосредованно, через прогноз ответных реакций. В свою очередь, реализация поступка Gr
включает в себя описание результатов действия как выполненного намерения
и совокупности ответных реакций других агентов и среды. В этой модели уже
принимаются во внимание такие ментальные характеристики и социальные
факторы, как мотивы, намерения, ожидаемые оценки и пр. Таким образом, поступок
как единица поведения характеризует взаимоотношения между агентами.
Осуществление агентами нормативного поведения предполагает наличие по крайней мере
двух элементов: нормы, обязательной для выполнения в определенной ситуации,
и оценки степени выполнения ее предписаний.
Первыми советскими системами, реализующими концепцию автономных
агентов, стали разработанная школой Н. М.Амосова [Амосов и др., 1973]
система ТАИР (Транспортный Автономный Исследовательский Робот) и программа
«Животное», созданная под руководством М. М. Бонгарда. Управление системой
ТАИР происходило с помощью искусственной М-сети, чья структура и
функционирование опирались на изучение нейронной организации в живых организмах.
Основное допущение разработчиков системы ТАИР состояло в том, что любое
состояние искусственного агента (организма) можно моделировать независимо

3.1. Некоторые исторические вехи
99
Влево
Вправо
Рис. 3.5. Разбиение
пространства на 8 секторов для
оценки местоположения
системы ТАИР
отдельными программно-аппаратными блоками, а затем уже объединять в
целостную систему. Каждая такая автономная модель называется i-моделью. Кроме
отображения функциональных состояний организма, i-модели способны
имитировать процедуры, связанные с преобразованием группы паттернов в единый
образ (она как бы замещает этот образ в памяти агента). Между собой i-модели
в состоянии обмениваться простыми сообщениями, которые в исходном
варианте системы отождествляются с возбуждающими и тормозящими сигналами,
передаваемыми по сети. Эта нейроподобная сеть и называется М-сетью.
Чтобы оценить свое местоположение в
пространстве и выбрать траекторию движения по
направлению к цели, ТАИР производит разбиение
окружающего пространства на восемь секторов в координатах
«вперед-назад», «влево-вправо» (рис. 3.5). Цель для
системы ТАИР определена двумя координатами —
расстоянием и местоположением в одном из
упомянутых восьми секторов.
На рис 3.6 изображена укрупненная блок-схема
управления системой ТАИР, включающая семейство
рецепторов и шесть блоков, каждый из которых
соответствует фрагменту М-сети. Первоначально набор
рецепторов робота включал 14 датчиков, в том числе
несколько тактильных датчиков, датчик расстояния до цели, датчик вибраций,
хронометр. Блок распознавания содержит совокупность i-моделей, каждая из
которых соответствует ситуации внешнего мира, например «Цель за стеной слева»,
«Стена справа», «Узкий коридор», «Тупик» и пр. Блок оценки включает
всевозможные оценки роботом состояний среды, своих внутренних состояний, ресурсов
и действий, например «Среда легкая»,
«Дискомфорт», «Дефицит времени» и пр. Решение о
выполнении тех или иных действий в среде и о
перемещении в ней принимается роботом на основе
выработанных на прошлых шагах оценок, исходя
из информации, поступающей из блока
распознавания.
В программе «Животное», помимо самого
агента, имитировалась и среда его действия
(причем набор показаний рецепторов применялся для
формирования обобщенных описаний ситуации).
Среда обитания «Животного» была представлена
в виде плоскости, разбитой на квадраты. В ней
действовали некоторые законы, имитировавшие
те или иные условия жизни в природе, например
ограничения на число объектов среды,
одновременно находящихся в одной клетке среды,
ограничения на скорость перемещения «Животного»
и т.п.
• «Животное» было снабжено рецепторами и интеррецепторами. С помощью
рецепторов оно воспринимало информацию об объектах, находящихся
поблизости, а с помощью интеррецепторов — информацию о собственном положении
в среде. Набор показаний рецепторов использовался для формирования
обобщенных описаний ситуации следующим образом. Каждая ситуация определялась
РЕЦЕПТОРЫ
РАСПОЗНАВАНИЕ
ОЦЕНКА
РЕШЕНИЯ
МАНЕВР
НАВИГАЦИЯ
РУЛЕНИЕ
Рис. 3.6. Укрупненная
блок-схема управления системой ТАИР

100
Глава 3. Основы теории агентов
тем, что некоторый набор связанных с ней предикатов оказывался истинным.
Например, предикат Р(ж, а) становился истинным, если х ^ а (число объектов х,
которые могут служить пищей для «Животного», выше некоторого минимального
порога а). Истинность предиката, возникшая при подстановке вместо х того
значения стимула, которое поступило от рецепторов в данный момент
времени, позволяет отнести текущую ситуацию к классу «Ситуация утоления голода».
Но если при этом имелся еще предикат Q(y), где у — объект, опасный для
«Животного», и был установлен приоритет Q(y) над Р(ж, а), то тогда «Животное»
относило ситуацию к классу опасных и обращалось в бегство.
Удовлетворение потребности «Животного» выступало как достижение
обобщенной ситуации определенного класса. Так, если «Животное» испытывало
чувство голода, то оно стремилось действовать (перемещаться) так, чтобы на его
рецепторах появились сигналы, при которых предикат Р(х,а) становился
истинным, а предикат Q(y) — ложным.
Каждый элементарный поведенческий акт «Животного» был связан с
преобразованием ситуации Si в ситуацию Sj благодаря действию act. Эта модель
«ситуация-действие» была построена на основе системы правдоподобных
продукционных правил (с изменяемыми оценками достоверности этих продукций).
Модель «Животное» была разделена на однотипные блоки «Рука», «Нога»,
«Глаз» и др., связанные с соответствующими эффекторами и рецепторами. Каждый
блок, располагавший собственной памятью и собственным набором действий,
был способен выполнять доступные ему действия, а также передавать указания
и ставить задачи перед другими блоками.
Важной особенностью программы «Животное» была также возможность ее
последовательного обучения, а также смены задач при появлении потребности
с большим весом. В целом, можно утверждать, что модель «Животное» была
одной из пионерских реализаций профаммных агентов, воспроизводящих ряд
черт разумного поведения, свойственного как животным, так и человеку.
Пожалуй, наибольшую историческую роль в становлении подходов много-
агентных систем (MAC) и распределенного искусственного интеллекта (РИИ)
сыфали работы К. Хьюитта в области открытых систем и теории акторов [Hewitt,
1977 and 1991]. Так в начале 70-х гг., разработав систему PLANNER,
предназначенную для доказательства теорем, К. Хьюитт раскрыл важнейшую роль процессов
коммуникации и управления в организации и понимании рассуждений. Отойдя
от рассмотрения управления как последовательности актов выбора, он ввел
вариант распределенной системы, в которой структуры управления трактовались как
«образцы прохождения сообщений», циркулирующих между активными объектами,
названными им акторами. По К. Хьюитту, актор — это профаммный агент,
имеющий свой почтовый адрес и обладающий определенным поведением.
В результате, была предложена и реализована концепция разработки программ
как сообществ различных специалистов, совместно решающих задачу в процессе
коммуникации путем обмена сообщениями. При этом процесс решения задачи
фуппой экспертов был им рассмотрен как столкновение различных точек зрения.
В итоге родилось семейство языков акторов, которые стали первым средством
реализации MAC, когда коммуникация осуществляется путем посылки асинхронных
сообщений.
Затем пионерские идеи К. Хьюитта получили свое развитие главным образом
в области параллельного профаммирования (concurrent programming) [Agha, 1986;
Maruichi et al., 1990; Yonezawa, 1990], а также в контексте семантики открытых
систем [Hewitt, 1991].

3.1. Некоторые исторические вехи
101
Одним из первых ученых, начавших распространять представления о
различных психических процессах (или ментальных свойствах) на искусственные
объекты, и трактовать ментальную сферу как следствие взаимодействия между
активными объектами, стал М. Минский [Minsky, 1986]. Им описан ряд
механизмов возникновения интеллектуального поведения в результате конфликтов
и сотрудничества между простейшими вычислительными единицами, которые он
называет агентами. Каждый из этих агентов «отвечает» за то или иное ментальное
свойство, причем их взаимодействие происходит спонтанно, без участия
какого-либо управляющего агента. Отсюда М. Минский сделал важное заключение
о том, что функционирование психики связано не столько с реализацией выводов
над символьными конструкциями, сколько с принципами самоорганизации при
взаимодействии автономных процессов. Эти идеи М. Минского оказали
серьезное влияние на многих современных исследователей в области MAC, особенно
на Р. Брукса и П. Маэс.
Первые западные практические разработки по MAC, посвященные в
основном проблематике РИИ и интеллектуальных агентов, относятся к 70-м гг. и
связаны с именами В.Лессера и сотр. [Erman et al., 1980], К. Хьюитта [Hewitt, 1977]
и Д.Лената [Lenat, 1975]. С одной стороны, работы В.Лессера, Ф.Хэйес-Рота,
Л. Эрмана и др. с системой HEARSAY II привели к созданию архитектуры «доски
объявлений» (blackboard) и легли в основу многих дальнейших разработок по
организации коммуникации между агентами. Исследуя проблематику
автоматического понимания речи, эти авторы воспользовались метафорой «доски объявлений»,
основываясь на простой идее, что решение любой проблемы обычно требует
заранее не запланированных обращений к специалистам (источникам знаний). При
этом структура управления процессом коммуникации предварительно не
определена. Здесь деятельность источников знаний связана с доставкой, модификацией
и извлечением объектов с доски объявлений, т. е. из зоны совместной работы
в базе данных, где модель предметной области структурирована как пространство
гипотез и решений. Специальное управляющее устройство разрешает конфликты
доступа к доске объявлений, возникающие между агентами и неявно организует
их совместную работу.
Примерно в это же время, У. Корнфелд и К.Хьюитт [Kornfeld, 1979; Kornfeld
and Hewitt, 1981], работая над системой ETHER, разработали схожий подход
к совместному решению задач, исходивший из метафоры научных сообществ.
В рамках их модели РИИ, «демоны», похожие на источники знаний, доставляют
факты, гипотезы и доказательства в общую область, аналогичную «доске
объявлений». Отличие от рассмотренной выше модели классной доски состоит прежде
всего в разделении демонов на две категории — экспертов и критиков. Эксперты
стремятся доказать справедливость некоторой гипотезы, а критики, наоборот,
ищут контрпримеры, чтобы ее опровергнуть. Специальные управляющие агенты
распределяют время, отводимое каждому демону.
Второй тип управления взаимодействием агентов был предложен Д.Лена-
том [Lenat, 1975] и К. Хьюиттом. В середине 70-х гг., Д. Ленат, будущий автор
системы EURISCO и инициатор проекта построения больших баз знаний CYC,
разработал систему PUPS, в которой была реализована идея решения задачи
группой агентов (специалистов), именуемых «beings» («существа»). Эти «существа»
стремятся синтезировать особого специалиста по формированию концепций,
способного самостоятельно решить задачу. Сами специалисты постоянно
меняются в процессе решения задачи и не могут быть отнесены к классическим
источникам знаний. Каждый специалист моделируется подобно фрейму мно-

102
Глава 3. Основы теории агентов
жеством пар «атрибут-значение» и может обращаться «за сведениями к другим
специалистам, не зная их лично. В итоге Д. Ленат построил демонстрационный
прототип системы с взаимодействующими «существами»
В начале 80-х гг., Р.Смит [Smith, 1980] разработал модель распределенного
решения задач, названную им «контрактной сетью», которая и сегодня имеет
большой резонанс. Эта модель использует метафору переговоров между
автономными интеллектуальными агентами (узлами сети) и основана на протоколе
рыночных торгов. Имеются три типа агентов: агент-менеджер, агент-исполнитель
(покупатель), агент-подрядчик (выбираемый из числа агентов-исполнителей).
Агент-менеджер распространяет объявление о задании и определяет исходную
цену, а агенты — потенциальные исполнители предлагают свои услуги, посылая
свои варианты цен, и подчас участвуют в конкурсе на определение наилучших
предложений по исходному заданию. Затем агент-менеджер отбирает наилучшие
предложения и заключает соглашение с выбранными агентами-исполнителями,
которые становятся агентами-подрядчиками.
Множество схем организации переговоров можно представить себе как
варианты вышеприведенной двусторонней модели, согласно которой переговорный
процесс рассматривается как последовательность контрпредложений,
выдвигаемых взаимодействующими агентами. Такой процесс может моделироваться как
множество переходов в пространстве состояний
В свою очередь, многосторонняя модель переговоров рассматривается как
множество двусторонних моделей, описываемых, например, сетью Петри, т. е.
сетью вида предикат/переход.
«Викторианская» эпоха приложений MAC в русле РИИ начинается с
построения в 80-х гг. таких систем как:
• DVMT (Distributed Vehicle Monitoring Test — разработана группой В.Лессера
из MIT) [Lesser and Corkill, 1983];
• MACE — разработана группой Л. Гассера [Gasser et al., 1987];
• YAMS [Пэранек, 1991] и ряда других систем, основанных на моделях
контрактных сетей [Smith, 1980; Davis and Smith, 1983].
Так система DVMT предназначена для распознавания ситуаций дорожного
движения. В ней агенты должны выработать согласованную точку зрения на
конкретную ситуацию дорожного движения, отслеживая положение автомобилей
на основе избыточной, противоречивой и зашумленной информации, снимаемой
с датчиков. Важность этой работы связана с изучением большого числа
относительных конфигураций между датчиками и агентами, рассмотрением проблемы
многоагентного планирования, исходя из локальных планов, разработки основ
механизма переговоров и кооперации агентов.
Одной из важнейших работ начала 90-х гг. стала статья И. Шоэма «Агент-
но-ориентированное программирование» (АОП) [Shoham, 1993]. В ней опирай
социальный взгляд на организацию вычислений, связанный с взаимодействием
агентов в процессе вычислений. При этом агент рассматривается как
«прозрачный ящик» и моделируются такие его «внутренние переменные» (психические
характеристики) как мотивы, убеждения, обязательства, способности к выработке
и принятию решений. Мотивы агента лежат в основе его решений, а убеждения
определяют логические ограничения на них.
Общение агентов осуществляется с помощью протоколов коммуникации.
В русле теории речевых актов, предложенной Дж. Остином и Дж. Серлом [Austin,

3.2. Общая классификация агентов
103
1961; Searle, 1961], вводится стандартный набор примитивов: «сообщить»,
«запросить», «предложить» и т. п.
В целом, система АОП должна включать следующие базовые компоненты:
• ограниченный формальный язык с соответствующими синтаксисом и
семантикой для описания внутреннего состояния агента, которое определяется
несколькими параметрами типа убеждений, желаний, намерений и
обязательств;
• язык программирования для спецификации агентов, включающий
примитивные команды типа REQUEST и INFORM;
• агентификатор, преобразующий нейтральные компоненты в
программируемые агенты.
Оригинальные методы описания реактивных агентов предложены в работах
Р. Брукса [Brooks, 1991] и Ж. Фербе [Ferber, 1995]. Так метод «экорезолюции»,
предложенный Ж. Фербе, основан на решении задачи множеством агентов,
которые общаются путем обмена сообщениями. Здесь решение задачи понимается
как эволюция динамической системы вплоть до достижения ею устойчивых
стационарных состояний. Этим стационарным состояниям отвечает удовлетворение
целей различных агентов. Поведение агентов сводится к набору реакций, для
которых выполняются следующие требования: а) условия удовлетворения агентов
представляют собой стационарные состояния; б) условия «отказа от работы»
соответствуют состояниям, в которых агентам не хотелось бы оказаться; в) критерий
выживания определяет возможные действия агентов.
Безусловно, наш краткий экскурс в предысторию теории агентов и агент-
но-ориентированного подхода в информатике и ИИ является фрагментарным
и не претендует на полноту. За кадром остались многие другие работы, например,
проводимые на стыке робототехники и ИИ, математической лингвистики и ИИ.
Однако, наша цель состоит здесь не в том, чтобы дать полный обзор ранних работ
по многоагентным системам. Она значительно скромнее и сводится к
выборочному анализу и установлению ряда вех, позволяющих «перебросить концептуальный
мостик» от классических интеллектуальных систем к агентам, распределенному
искусственному интеллекту, коллективному интеллекту и многоагентным
технологиям в целом.
3.2. Общая классификация агентов
Агенты (ассы) различаются по категориям,
рангам у уровням, профилям и прочим признакам.
Александр Зиновьев. «Гомо Советикус»
Можно предложить немало различных оснований для построения
классификаций агентов. Наиболее очевидными являются критерии классификации,
связанные с полярными шкалами «естественное-искусственное» и «материальное-
идеальное». По первому критерию, выделяются натуральные агенты (животное,
человек, стада животных, коллективы людей) и искусственные агенты (роботы,
коллективы автоматов, сложные компьютерные программы).

104
Глава 3. Основы теории агентов
Согласно второму критерию, все искусственные агенты подразделяются на:
1) материальных, физически существующих и работающих в реальном
пространстве, например, интегральные роботы, наделенные различными средствами
«очувствления», манипуляторами или педипуляторами;
2) виртуальных, существующих лишь в некоторой программной среде
(виртуальном пространстве), которых нередко можно представить как роботов, занятых
не физической, а информационной работой; такие «программные роботы»
(software robots) называют сокращенно софтботами (softbots) [Franklin and
Graesser, 1996; Nwana, 1996].
Еще одна пара взаимосвязанных критериев классификации опирается на
дихотомии «сосредоточенное-распределенное» и «неподвижное-подвижное» [Etzioni and
Weld, 1995; Ferber, 1995; Городецкий, 1996]. Примером неподвижного агента
служит промышленный манипуляционный робот, а примером мобильного —
программный поисковый агент, мигрирующий по компьютерной сети в целях
отыскания нужной информации. Подчас мобильные софтботы (моботы)
трактуются как распределенные, чисто коммуникативные агенты, которые не имеют
собственных средств восприятия и осуществления действий (поэтому они не
манипулируют никакими объектами), а лишь используют располагаемые ресурсы
для коммуникации с другими агентами и миграции по сети в поисках релевантных
данных и процедур. Наоборот, точно локализованные агенты в некотором смысле
противоположны коммуникативным: они не могут двигаться по сети и обычно
не обладают способностью к представлению среды, а их общение с другими
агентами происходит не напрямую, а косвенно, через механизмы восприятия и действия.
Важным основанием для классификации служит наличие (отсутствие) у
агентов характеристик обучаемости или адаптивности. У обучаемых агентов поведение
основано на предыдущем опыте.
Общая классификация агентов представлена на рис. 3.7.
В работе [Поспелов Д. А., 1997] предложено строить классификацию
агентов и выбирать соответствующие формальные средства их описания с помощью
Агенты
Естественные
Искусственные
Виртуальные
Физические
Неподвижные
Мобильные
х
Интеллектуальные
Аниматы
Рис. 3.7. Общая классификация агентов

3.2. Общая классификация агентов
105
тройки критериев: тип среды, уровень «свободы воли» (по В.А.Лефевру) и уровень
развития социальных отношений. Так для простейших замкнутых сред
достаточно агентов автоматного уровня сложности (модели коллективного поведения
автоматов), а в случае более сложных замкнутых сред имеем дело с агентами,
основанными на конечных наборах правил и сценариев их применения (например,
нечеткие регуляторы). Агенты, основанные на правилах, активно используются
в компьютерных сетях, работая в рамках «клиент-серверного» подхода. В
целом, когда среда замкнута, пара «среда-агент» может быть в принципе задана
формальной системой, т. е. действия агента здесь могут быть описаны в рамках
подходящего логического исчисления (например, модальные логики или логики
предикатов высокого порядка). Для открытых сред требуется переход к
семиотическому моделированию.
Еще одним важнейшим основанием для классификации искусственных
агентов служит принятие либо психологической, либо биологической метафоры при
рассмотрении природы их действий (дихотомия «психологическое —
биологическое»). В одном случае, речь идет о трактовке агентов как квазисубъектов,
самостоятельно решающих встающие перед ними задачи, а в другом они
уподобляются простейшим организмам, непосредственно реагирующим на изменения
среды в интересах выживания и адаптации. В частности, исходя из биологической
метафоры, строились М-автоматы Н. М.Амосова [Амосов и др., 1973], а, позднее,
стали конструироваться «аниматы»^ [Meyerand Wilson, 1991], т.е. искусственные
животные, которые в процессе выживания должны приспосабливаться ко все
более сложным и враждебным средам. Ани маты могут быть реализованы и как
виртуальные агенты (имитация на компьютере), и как роботы, действующие
в реальном физическом мире.
В целом, данная типология агентов тесно связана с классической проблемой
взаимодействия «субъект—объект». Уровень субъектности агента непосредственно
зависит от того, наделен ли он символьными представлениями,
требующимися для организации рассуждений, или в противоположность этому он работает
только на уровне образов (субсимвольном), связанных с сенсомоторной
регуляцией. Тогда классификацию агентов (рис. 3.8) можно построить по следующим
двум признакам: а) степень развития внутреннего представления внешнего мира
и б) способ поведения [Тарасов, 1998а].
| Агенты
Интеллектуальные
Реактивные
^^ ,, ;^\;
ИнтенциональныеIIРефлекторные! Импульсивные Трофические
Рис. 3.8. Классификация искусственных агентов по двум критериям
По первому признаку, выделяются интеллектуальные (когнитивные,
рассуждающие, коммуникативные, ресурсные) и реактивные агенты. Когнитивные
агенты обладают хорошо развитой и пополняемой символьной моделью внешнего
мира, что достигается благодаря наличию у них базы знаний, механизмов решения
4) Термин «анимат» (animat) представляет собой плод скрещивания слов "animal" (животное)
и "robot".

106
Глава 3. Основы теории агентов
и анализа действий. Близкий термин «рассуждающий» (deliberative) зарезервирован
для обозначения агента, который на основе символьной модели внешней среды
способен проводить собственные рассуждения, например, используя метод
сравнения по образцу, и на их основе принимать самостоятельные решения или
выполнять действия, изменяющие среду [Chaib-Draaetal., 1992; Хорошевский, 1999].
Небольшое различие между этими типами интеллектуальных агентов связано
с расстановкой акцентов на тех или иных интеллектуальных функциях: либо
на получении знаний о среде, либо на рассуждениях о возможных действиях.
У коммуникативных агентов внутренняя модель мира превращается главным
образом в модель общения, состоящую из моделей участников, процесса и
желаемого результата общения. Наконец, база знаний ресурсного агента содержит
в основном знания о структуре и состоянии ресурсов, определяющих различные
формы поведения.
У полноценного интеллектуального агента обязательно должны
присутствовать как минимум четыре перечисленных функции: когнитивная, рассуждающая
(а, в более общем контексте, регулятивная), коммуникативная и ресурсная.
В то же время реактивные агенты [Brooks, 1991; Deneubourg, 1993;
Murray, 1995] не имеют ни сколько-нибудь развитого представления внешней среды,
ни механизма многошаговых рассуждений, ни достаточного количества
собственных ресурсов. Отсюда вытекает еще одно существенное различие между
интеллектуальными и реактивными агентами, связанное с возможностями
прогнозирования изменений внешней среды и, как следствие, своего будущего. В силу
вышеуказанных недостатков реактивные агенты обладают очень ограниченным
диапазоном предвидения. Они практически не способны планировать свои действия,
поскольку реактивность в чистом виде означает такую структуру обратной связи,
которая не содержит механизмов прогноза. Тогда как интеллектуальные агенты,
благодаря богатым внутренним представлениям внешней среды и возможностям
рассуждений, могут запоминать и анализировать различные ситуации,
предвидеть возможные реакции на свои действия, делать из этого выводы, полезные
для дальнейших действий и, в результате, планировать свое поведение. Именно
развитые когнитивные и делиберативные способности позволяют таким агентам
строить виртуальные миры, работая в которых они формируют планы действий.
Интеллектуальные агенты, будучи значительно автономнее реактивных,
имеют куда ярче выраженную индивидуальность и характеризуются целесообразным
поведением в сообществе агентов, а также стремлением использовать ресурсы
других агентов для достижения собственных целей. В то же время, реактивные
агенты, как это видно из самого их названия, работают в основном на уровне сти-
мульно-реактивных связей, обладая очень бедной индивидуальностью и сильной
зависимостью от внешней среды (сообщества агентов). Результаты сравнительного
анализа реактивных и когнитивных агентов представлены в табл. 3.2.
Далее, по типу поведения интеллектуальные агенты делятся на интенци-
ональных и рефлекторных, а реактивные — на побуждаемых (импульсивных)
и трофических [Ferber, 1995] 5\ Большинство интеллектуальных (когнитивных)
агентов можно отнести к числу интенциональных [Demazeau and Multer, 1990;
Shoham, 1993; Haddadi, 1996]. Подобные агенты наделены собственными ме-
' Более подробную информацию о возможных типах поведения агентов можно почерпнуть
из книги [Гаазе-Рапопорт и Поспелов, 1987], где рассмотрены различные виды безусловных и условных
рефлексов, приведены схемы и модели нормативного (ритуального, подражательного, ролевого)
и ситуационного поведения.

3.2. Общая классификация агентов
107
Таблица 3.2
Сравнительный анализ свойств когнитивных и реактивных агентов
Характеристики
Внутренняя модель
внешнего мира
Рассуждения
Мотивация
Память
Реакция
Адаптивность
Модульная
архитектура
Состав MAC
Когнитивные агенты
Развитая
Сложные и
рефлексивные рассуждения
Развитая система
мотивации, включающая
убеждения, желания,
намерения
Есть
Медленная
Малая
Есть
Небольшое число
автономных агентов
Реактивные агенты
Примитивная
Простые одношаговые
рассуждения
Простейшие побуждения,
связанные с выживанием
Нет
Быстрая
Высокая
Нет
Большое число зависимых
друг от друга агентов
ханизмами мотивации. Это означает, что в них так или иначе моделируются
внутренние убеждения, желания, намерения и мотивы, порождающие цели,
которые и определяют их действия.
В свою очередь, модульные или рефлекторные агенты не имеют внутренних
источников мотивации и собственных целей, а их поведение характеризуется
простейшими (одношаговымм) выводами или автоматизмами.
Таким образом, они представляют собой граничный случай понятия
когнитивного агента и могут использоваться как «вспомогательные агенты». Данные
агенты близки к акторам: они способны отвечать на вопросы и выполнять
задания, которые ставят перед ними другие агенты, но решение этих задач не приводит
к появлению у них собственных целей. Типичными примерами таких
вырожденных агентов являются системы поиска в базах данных и простейшие логические
регуляторы.
В свою очередь, реактивные агенты содержат как бы скомпилированные
знания о требуемых действиях: им не надо строить подробное внутреннее
представление внешней среды, поскольку вполне достаточными оказываются реакции
на набор предъявляемых ситуаций, т.е. характер их реакций определяется только
текущей информацией.
По сложности этих реакций и происхождению источников мотивации
реактивные агенты подразделяются на импульсивных и трофических агентов [Ferber,
1995]. В случае трофических агентов поведение определяется простейшими
трофическими связями (типа «кто кого ест»). Фактически оно сводится к ответу
на стимулы, поступающие из внешней среды (собственных мотивов и целей
нет), т.е. полностью определяется ее локальным состоянием. Типичной моделью
подобных агентов являются клеточные автоматы, где основными параметрами
выступают: радиус восприятия агента, количество условных единиц питания

108
Глава 3. Основы теории агентов
во внешней среде и энергетическая стоимость единицы. Здесь каждый
трофический (по сути, ситуационный) агент обладает небольшим набором ситуационных
правил, задающим его реакции на сигналы из среды. Примерами подобных
правил служат выражения типа «если в радиусе восприятия есть единица питания,
то направиться к ней» или «если в радиусе восприятия не обнаружена единица
питания, то случайным образом выбрать один из свободных соседних квадратов
и передвинуться в этот квадрат».
Между тем, реактивные агенты также могут иметь примитивный механизм
мотивации, толкающий их на выполнение задачи, например, удовлетворение
набора жизненных потребностей [Seel, 1991]. Речь идет о поддержании
энергетического баланса или, в более широком плане, об условиях выживания агента
в рамках сохранения гомеостазиса или автопоэзиса [Maturana and Varela, 1980;
Горский, 1998].
Действие механизма самосохранения у агента характеризуется способностями
определения и увеличения расстояния от границ своего существования [Горский,
1998; Моисеев, 1987]. Например, используя интегральную формулировку
гомеостазиса по Г. А. Голицыну, можно утверждать, что импульсивный агент стремится
минимизировать функционал
т т
I = /wdt = y>^i(a1y?)dt,
о о
где у; — отклонение некоторой жизненно важной переменной от нормы
(потребность), aj — вес (субъективная важность) этой потребности, t — время,
а произведение Mj = ^у; естественно трактовать как побуждение (импульс).
Итак, когнитивные агенты, благодаря их сложности, наличию знаний и
способностей к рассуждениям о своем поведении и внешней среде, могут быть
более автономными, чем реактивные. Они работают относительно независимо,
демонстрируя достаточно гибкое поведение. Но все та же сложность
автономных агентов, выливающаяся в способность противиться внешним воздействиям,
вызывает определенные трудности при организации их эффективного
взаимодействия. Поэтому в составе MAC, включающей только интеллектуальных агентов,
как правило, присутствует не более 7 + 2 автономных единиц (магическое число
Миллера).
Напротив, довольно простая структура реактивных агентов, обусловливает
их жесткую зависимость от среды. Следовательно, их возможности сравнительно
невелики, когда они функционируют в одиночку и ограничены своими
собственными ресурсами. Однако им легче образовать группу или организацию,
способную гибко адаптироваться к изменениям среды под действием механизма
естественного отбора. Поэтому реактивные агенты представляют интерес не на
индивидуальном, а на коллективном уровне, причем их способности к адаптации
и развитию возникают спонтанно в результате локальных взаимодействий. Таким
образом, реактивные агенты, которые почти не имеют индивидуальности,
растворяясь в общей массе, за счет своего большого числа и избыточности могут решать
сложные задачи. В пределе, соответствующие MAC могут формироваться в
результате спонтанных взаимодействий без точной спецификации отдельных агентов.
Подобные «тучи» или «рои» (swarms) [Deneubourg et al., 1994; Адамацкий и Хол-
ланд, 1998], состоящие из значительного числа подвижных, реактивных агентов,
можно сравнить с неким сверхорганизмом. Взаимная адаптация и кооперация

3.2. Общая классификация агентов
109
клеток в таком организме позволяет создать общую цепь обратной связи,
обеспечивающую гомеостазис всей системы [Maturana and Varela, 1980; Моисеев, 1995].
Нетрудно понять, что разделение агентов на когнитивных и реактивных
восходит к двум основным школам классического ИИ — символьной, когни-
тивистской (нисходящее проектирование интеллектуальных систем) и коннек-
ционистской, бионической (восходящее проектирование интеллектуальных
систем). Из сопоставления основных характеристик когнитивных и реактивных
агентов видно, что синергетические автономные агенты должны обладать
гибридной архитектурой, сочетающей достоинства реактивных и когнитивных агентов.
В этом плане налицо тенденция построения интегрированных архитектур
агентов, аналогичная современным вариантам интеграции логических и неиросетевых
моделей в ИИ.
Интеллектуальные агенты по характеру информационного взаимодействия
между собой могут подразделяться на: правдивых (стремящихся к передаче
истинной информации) и лживых (ориентированных на дезинформацию других
агентов).
С уровнем «свободы воли», характером намерений и отношением к партнерам
связаны, в частности, представления о благонамеренных (benevolent) и
злонамеренных, эгоистических (self-interested) и альтруистических агентах. В частности,
полагается, что благонамеренные (доброжелательные) агенты всегда пытаются
делать только то, что от них требуется, и избегают конфликтных ситуаций.
Ниже в табл. 3.3 представлен другой вариант классификации агентов по двум
критериям — отношение к себе и отношение к другим агентам. Здесь
рассматриваются три вида отношений: хорошее (+), плохое (-) и нейтральное или
безразличное @). Для получения исходной типологии будем считать (это
довольно грубое допущение), что классифицируемый агент одинаково относится ко всем
прочим агентам.
Наконец, еще один вариант классификации, где дополнительно к
биологическому и психологическому уровням агентообразования вводится социальный и
используются аналогии с триадой «растение-животное-человек», описан в [Braspenning,
1997]. По мнению П. Браспеннинга, реактивных, интенциональных и
социальных агентов можно уподобить компонентам этой триады. Агенты, подобные
растениям, характеризуются реактивностью, выполнением стереотипных
программ и посылкой сообщений другим агентам и в среду. Агенты, подобные
Таблица 3.3
Классификация агентов по двум критериям и трем видам отношений
Тип агента
Благонамеренный
Эгоистичный
Злонамеренный
Альтруистичный
Безразличный
Циничный
Самоотверженный
Саморазрушительный
Камикадзе
Отношение агента
К себе
+
+
+
0
0
0
К другим агентам
+
+
0
+
0

НО Глава 3. Основы теории агентов
животным, интенциональны, способны выбирать цели, строить планы действий
и обеспечивать их выполнение. Они координируют свои действия, обмениваясь
информацией об индивидуальных предпочтениях или задачах. Наконец, гумано-
идные агенты, обладая внутренними моделями других агентов (и способностью
к рефлексии), характеризуются социальным (ролевым) поведением. Сложность
внутренних моделей зависит от уровня знаний и опыта гуманоидного агента.
3.3. Интерпретации искусственных агентов
Довольный, что его не узнавали
Он одеяло снял в «Национале»
Но, несмотря на личность и акцент,
Его там обозвали оборванцем,
Который притворялся иностранцем
И заявлял, что, дескать, он — агент.
Владимир Высоцкий.
«Песня про Агента 007»
Рассмотрим подробнее, как же интерпретируется понятие «агент» в
современной информатике и ИИ? К настоящему времени сформировалось несколько
его различных трактовок (рис. 3.9).
ИСКУССТВЕННЫЙ АГЕНТ
Искусственный
организм
Персональный
ассистент
Активный
объект
Виртуальный
деятель
Рис. 3.9. Варианты интерпретации понятия «искусственный агент»
Во-первых, еще от Дж. Холланда [Holland, 1975] пошло представление
об агенте как искусственном организме, развивающемся в популяции себе
подобных, стремящемся обучаться и адаптироваться к внешней среде, чтобы выжить
в ней (и победить конкурентов). Эта интерпретация агента опирается на
теоретические подходы и модели искусственной эволюции (мутации и модификации
агентов, их борьба за существование, отбор сильнейших или отбраковка
слабейших) и принципы искусственной жизни (самовоспроизведение, самосохранение,
самоопределение, саморегуляция агентов и пр.). Она тесно связана с
робототехникой (вопросами построения интегральных роботов и функционирования группы
роботов), проблемами соотношения «брони» и «снаряда» в компьютерных сетях,
вопросами информационной безопасности и информационных атак [Городецкий
и др., 2000], компьютерной вирусологии и создания средств Liveware —
эволюционирующего профаммного обеспечения, строящегося с учетом принципов
и механизмов поведения живых организмов.
Во-вторых, возникла метафора агента как персонального помощника
пользователя или, позднее, как интеллектуального посредника между пользователем

3.3. Интерпретации искусственных агентов
111
и средой, в которой тот работает [Maes, 1994]. В частности, стратегия
разработки искусственных агентов, изложенная в IBM White Paper, исходит из этой
идеи «персонального ассистента», причем агентом считается любая программная
или аппаратная система, способная действовать в интересах достижения целей,
поставленных пользователем.
Идея персональных помощников при общении пользователей с ЭВМ в своем
простейшем варианте была воплощена в ряде популярных программных
продуктов. Например, фирма Microsoft встроила Wizards и System Agent в Windows'95,
а в Microsoft Office появилась скрепка-помощник. MAC S включает обучаемого
агента Open Sesame!, Lotus Notes V4 также имеет встроенных агентов.
Итак, агенты нередко понимаются как автономные (или полуавтономные)
программные модули, способные сотрудничать с пользователем и
приспосабливаться к нему. Здесь полуавтономность означает наличие зависимости
программного агента от пользователя, в частности, возможность пользователя изменять
уровень автономности своего агента. Этим обеспечивается не только
дружественный, но и персонифицированный характер пользовательского интерфейса. Истоки
данной концепции агента относятся к теории диалога «человек-компьютер»
и средствам развития интеллектуальных интерфейсов.
Настоящий бум в области программных агентов начался с развитием
Интернета. Информационные агенты, такие как PointCast, доставляют пользователям
новости и сообщают об изменениях на избранных сайтах. Агенты покупок
(shopping agents), подобные Bargain Finder, сравнивают за них цены в электронных
магазинах. Роботы-пауки бродят по ссылкам и индексируют информацию для
поисковых серверов и т. д.
Наибольшие перспективы дальнейших приложений персонифицированных
«агентов-помощников пользователей» связаны с направленным поиском
информации в сети Интернет с учетом ее семантических и прагматических
характеристик, а также поддержкой принятия многокритериальных, трудноформализуемых
решений. Следует ожидать широкого распространения недавно появившегося
понятия agentware, которое характеризует новые архитектурные принципы
организации обработки информации на основе агентов.
В-третьих, агенты могут рассматриваться как активные объекты или метаобъ-
екты, наделенные некоторой долей субъектности, т. е. способные манипулировать
другими объектами, создавать и уничтожать их, а также взаимодействовать со
средой и другими агентами. В этом контексте они могут создаваться на основе
программирования в ограничениях с использованием технологии активных
объектов [Швецов и др., 1998]. Таким образом, программная технология агентов
и агентно-ориентированный подход в целом понимаются как естественное
развитие идей объектно-ориентированного программирования (ООП). При этом агент
представляет собой «самодостаточный программный процесс, включающий в
себя некоторое состояние и имеющий возможность взаимодействовать с другими
агентами через обмен сообщениями» [Agha, 1986]. Соответственно, агентно-ори-
ентированное программирование (АОП) [Shoham, 1993] — это новая парадигма
программирования, основанная на «социальном взгляде» на вычисления.
С одной стороны, введение неоднородных объектов, в частности,
построение иерархии программных объектов по степени их активности или автономии,
представляет собой расширение традиционной теории программных систем и
концепции ООП. С другой стороны, наличие у агентов специфических протоколов
коммуникации, которые обычно строятся на основе теории речевых актов пу-

112
Глава 3. Основы теории агентов
тем моделирования диалога между агентом-заказчиком и агентом-исполнителем
может рассматриваться как детализация и конкретизация идей ООП.
Наконец, развивается концепция агента как искусственного деятеля
[Тарасов, 1998 и 2000]. Она основана на спецификациях Международной федерации
по разработке интеллектуальных физических агентов (FIPA99 Specifications), где
под агентом понимается «актор в проблемной области, который содержит одну
или несколько служебных функций, объединяет их в интегрированную модель
выполнения (действий), а также имеет доступ к внешним программам,
пользователям и средствам коммуникации». Очевидно, что развитие данного подхода
в теории агентов должно опираться на результаты, полученные в психологии
деятельности и инженерной психологии (см., например, труды отечественных
ученых [Леонтьев, 1975; Ломов, 1999; Волков и др., 1987; Суходольский, 1998;
Щедровицкий, 1995], а также в физиологии поведения [Анохин, 1978] и
теоретической социологии [Парсонс, 2000].
3.4. Подборка определений и высказываний
об агентах
Различные определения понятия «агент» подразделяются на «слабые» и
«сильные» [Wooldgidge and Jennings, 1995], программистские и антропоморфные.
Слабые определения фактически смыкаются с чисто программистскими взглядами
на природу агента, когда стремятся ответить на вопрос, какими минимальными
свойствами надо наделить компьютерную программу, чтобы она приобрела статус
агента. Подобные определения идут от объектного полюса (рис. 3.1). Напротив,
антропоморфные определения проистекают из трактовки агента как
«квазисубъекта»: в них пытаются снабдить агента как можно большим числом человеческих
атрибутов.
Вначале остановимся на некоторых наиболее слабых определениях, а затем
постепенно перейдем к более сильным. Предварительно отметим, что согласно
треугольнику А. Моля важнейшими источниками и составляющими теории
агентов могут служить теория среды, теория коммуникации и теория деятельности
(рис. 1.3).
В самом деле, характер среды накладывает существенные требования на
архитектуру агента, выявление особенностей коммуникации агентов позволяет
разработать исходную структуру многоагентной системы, а изучение теории
деятельности представляется необходимым условием проектирования индивидуальных
и совместных действий агентов. Отсюда видно, что ключевыми атрибутами любых
агентов являются реактивность (восприятие среды), активность (выполнение
целенаправленных действий), коммуникабельность (общение с другими агентами).
В одном из наиболее капитальных учебников по ИИ, изданном С.
Расселом и П. Норвигом [Russell and Norvig, 1995], под агентом понимается «любая
сущность, которая находится в некоторой среде, воспринимает ее посредством
сенсоров, получая данные, которые отражают события, происходящие в среде,
интерпретирует эти данные и действует на среду посредством эффекторов».
Таким образом, здесь вычленяются четыре исходных агентообразующих фактора —
среда, восприятие, интерпретация, действие.
По сути, это определение сводит агента к рассмотренной выше модели
системы «организм-среда» [Гаазе-Рапопорт и Поспелов, 1987] (рис. 3.2).
Столь тривиальное определение не позволяет проводить четкого различения
между искусственным агентом и произвольной программой, и поэтому следует

3.4. Подборка определений и высказываний об агентах 113
ввести некоторые специальные ограничения на среду, восприятие информации,
ее интерпретацию и действие. В близком по смыслу определении Б. Хэйес-
Рот [Hayes-Roth, 1995] подчеркивается, что интеллектуальные агенты непрерывно
выполняют три следующие функции: 1) восприятие динамики среды; 2) действия,
изменяющие среду; 3) рассуждения в целях интерпретации наблюдаемых явлений,
решения задач, вывода заключений и определения действий. Иными словами,
функция восприятия (рецепторы агента) обеспечивает ввод текущей
информации или сообщений в базу фактов в ходе функционирования машины вывода,
так чтобы их можно было непосредственно учитывать в интерпретаторе. Здесь
специально оговаривается динамичность среды и подчиненность рассуждения
действию: агенты рассуждают для того, чтобы выбрать действия.
Согласно П. Маэс [Maes, 1994], «автономные агенты — это компьютерные
системы, функционирующие в сложной, динамической среде, способные ощущать
и автономно действовать на эту среду и, таким образом, выполнять множество
задач, для которых они предназначены». Здесь предложены два общих ограничения
на среду агентов — «сложная и динамическая».
Итак, базовыми характеристиками программных агентов как «искусственных
деятелей» являются автономность и целенаправленность. Речь идет об автономном
выполнении некоторых действий на основе целенаправленных
проблемно-ориентированных рассуждений. Подчас в качестве главных признаков агента берутся
интеллектуальность и автономность, где интеллектуальность связывается с
восприятием, представлением знаний и рассуждениями, а автономность — с
принятием решений, планированием и осуществлением действий на среду [Chaib-Draa
etal., 1992] (рис. 3.10)
Теперь приведем серию программистских определений. Искусственные
агенты понимаются как программные единицы (модули), поддерживающие локальные
состояния и параллельные вычисления, а также способные в процессах
коммуникации достигать состояния других агентов, и автоматически выполнять действия
в некоторых условиях среды [Городецкий, 1996]. Соответственно,
интеллектуальными агентами называются программные системы, создаваемые для оказания
услуг пользователю на основе своих интеллектуальных интерфейсов и
характеризующиеся определенным поведением (правилами и стратегиями поведения). Они
выполняют некое множество операций для пользователя или другой программной
ЦЕЛИ
ПРИНЯТИЕ
РЕШЕНИЙ
МОДЕЛИРОВАНИЕ
ВНЕШНЕЙ СРЕДЫ
t
ПЛАНИРОВАНИЕ
ВОСПРИЯТИЕ
ВЫПОЛНЕНИЕ
ДЕЙСТВИЙ
I СРЕДА |
Рис. 3.10. Схема функционирования интеллектуального агента
9 Зак. 72

114
Глава 3. Основы теории агентов
системы, обладая определенной степенью автономности или независимости, и
используя при этом знания или представления о целях или желаниях пользователя.
У М. Коэна [http://www/ai/mit/edu], агенты — это программы, которые
имеют взаимные обязательства, определяемые в процессе диалога, ведут переговоры
и координируюп передачу информации. Здесь очевидно, что переговорный процесс
предполагает наличие восприятия и действия, а диалог немыслим без средств
коммуникации. Агенты обладают настойчивостью, что связано с наличием своих
собственных представлений о том, как выполнять задачи, или своих личных
программ действий.
По мнению Г. Саймона, целенаправленное поведение в значительной части
отражает структуру внешней среды, в которой оно реализуется [Саймон, 1973].
Подробный анализ возможных типов сред и соответствующих требований к
агентам дан Д. А. Поспеловым [Поспелов Д. А., 1997]. У него все среды подразделяются
на три больших класса — замкнутые, открытые и трансформируемые. Замкнутые
среды допускают конечное исчерпывающее описание (детерминированное или
вероятностное). При этом агенты могут обладать полным априорным знанием
о среде и ее свойствах или получать оперативную информацию в ходе своего
взаимодействия с ней (как в моделях коллективного поведения автоматов). Но главная
идея — полнота их знаний (в детерминированном или статистическом смысле)
остается. Понятие «открытых сред» предполагает отказ от постулата полноты
знаний у агента и введение локальных описаний среды. Наконец,
трансформируемые среды могут менять свои характеристики в зависимости от действий
агентов (например, агенты могут порождать новые объекты в среде и, в частности,
новых агентов).
В открытых средах для отражения динамики среды и ситуативности знаний
агентов требуется переход к семиотическим системам. Семиотическая система
может пониматься как динамическая система, состояниями которой
являются фиксированные формальные системы. Следовательно, искусственный агент,
функционирующий в открытой среде, должен иметь семиотическую базу знаний
и уметь работать с фрагментами неоднородных семантических сетей. Для
трансформируемых сред в структуру агента должны включаться средства, позволяющие
прогнозировать возможное развитие процессов в среде в результате тех или иных
действий агента.
Более сильные определения полнее отражают когнитивные,
коммуникативные, поведенческие, а особенно, интенциональные [Dennett, 1971; Shoham, 1993]
аспекты агентов. Вообще, в антропоморфных определениях агентов ведущее
место отводится ментальным свойствам. Как правило, особое внимание обращается
на главное отличие агентов от объектов, связанное с наличием у первых
внутренних механизмов мотивации и целеполагания. Тогда ядро агента задается
тройкой «интенции-ресурсы-поведение»: любой агент, имеющий определенные
цели и предпочтения, нуждается в ресурсах для их достижения и демонстрирует
некоторое поведение. Так по И. Шоэму, агент есть целостная единица, описание
состояния которой включает такие психические (метаинтеллектуальные [Tarassov,
1996]) компоненты как убеждения, способности, обязательства и решения. Иными
словами, каждый агент имеет встроенные механизмы мотивации (формирования
предпочтений).
Ряд вопросов построения коммуникативных агентов рассмотрел Э. В.
Попов [Попов, 1982]. Так, он сформулировал список важнейших требований к
интеллектуальному коммуникативному агенту (называемому «участником общения»),
в котором присутствуют:

3.4. Подборка определений и высказываний об агентах 115
1. Представление знаний.
2. Логический вывод.
3. Практичность, предполагающая: (а) обнаружение знаний; (б) наличие
метазнаний; (в) анализ ошибок.
4. Действия, включая: а) связь знаний с действиями (модификацию и
согласование знаний при выполнении действий); б) определение последствий
действий; в) планирование действий.
5. Процесс отображения задачи на знания системы, распадающийся на процессы
ассимиляции (отображение входной задачи в существующую структуру
знаний) и аккомодации (связанные с изменением внутренней структуры системы
для того, чтобы справиться с входной задачей).
6. Организация управления, предполагающая наличие: а) самоуправления-
организации своих модулей и ресурсов при решении задачи; б) самосознания.
7. Организация знаний и механизм доступа к знаниям.
8. Глубина понимания.
9. Эффективность.
Достаточно сильное и развернутое определение интеллектуального агента
дано в [Sycara et al., 1996]. Здесь выделены следующие характеристики:
• способность решения задач, поставленных людьми или другими
компьютерными агентами;
• активность, т. е. способность инициировать решение задачи и предлагать
свои услуги пользователю;
• сетевая «среда обитания» и способность самоорганизации в ней;
• полуавтономность (у пользователя есть возможность управлять уровнем
автономности агента);
• антиципация, т. е. способность предвидеть запросы пользователя;
• надежность;
• способность сотрудничать с людьми или другими компьютерными агентами
в интересах решения задачи;
• гибкость, проявляющаяся в способности работать с неоднородными агентами
и удаленными информационными ресурсами;
• адаптивность, способность оперативно приспосабливаться к смене
потребностей пользователя и факторов среды;
• настойчивость в решении задачи.
Опираясь на концепцию гиромата и усиливая определение Ж. Фербе [Ferber,
1995], дадим следующее общее определение интеллектуального агента.
Под интеллектуальными агентами в информатике и ИИ будем понимать
любые физические или виртуальные единицы:
а) способные действовать на объекты в некоторой среде, на других агентов,
а также на самих себя (действие);
б) способные общаться с другими агентами (общение);
в) исходящие из некоторых потребностей и способные к целеобразованию
(потребностно-целевая основа), т. е. обладающие набором интенциональных
характеристик (убеждения, желания, намерения и пр.);
г) несущие определенные обязанности и предоставляющие ряд услуг (наличие
обязательств);
9*

116
Глава 3. Основы теории агентов
д) обладающие своими собственными ресурсами, обеспечивающими их
автономию (автономия);
е) способные к восприятию среды (восприятие с ограниченным разрешением);
ж) способные строить частичное представление этой среды на основе ее
восприятия, т. е. перцептивных навыков и умений (локальное представление
среды);
з) способные прогнозировать изменения среды (предвидение);
и) способные к обучению, эволюции и адаптации (эволюционный и
адаптационный потенциал);
к) способные к самоорганизации и самовоспроизведению (самосохранение).
3.5. От объектов к агентам
Быть потенциальным агентом очень мучительно: ты имеешь все
недостатки положения агента, не имея никаких его достоинств. Перед
нами два пути: выйти из числа агентов вообще или стать актуальным
агентом... Поскольку у меня объявилась сила воли, я этот переход
в актуальные агенты непременно осуществлю.
Александр Зиновьев. «Гомо Советикус»
При уточнении специфики агентно-ориентированного подхода по
отношению к классическим направлениям ИИ удобно опираться на
представления об объекте, развитые школой объектно-ориентированного
программирования [Буч, 1998].
Объект (как реализация фрейма по М. Минскому) имеет единое имя и свои
собственные данные и процедуры. Он может состоять из нескольких так же
определенных объектов и в свою очередь быть частью более крупного объекта.
Объекты содержат слоты, которые в свою очередь могут состоять из фактов. Слот
может быть просто атрибутом или отношением. Все действия в ООП выполняются
через сообщения (однако, сообщения указывают объекту, что делать, но не как
делать). В целом, понятие объекта определяется с помощью четырех ключевых
признаков: 1) инкапсуляция; 2) отношение «класс-пример»; 3) свойство
наследования; 4) прохождение сообщений, допускающее определение полиморфных процедур,
т. е. процедур, код которых может различаться в зависимости от приемника
сообщения.
Итак, общая картина ООП такова: а) данные и процедуры объединяются
в программные объекты; б) сообщения используются для обеспечения
взаимосвязей между объектами; в) схожие объекты группируются в классы; г) данные
и процедуры наследуются по иерархии классов.
При разработке программного обеспечения на основе
объектно-ориентированного подхода используются: модель реального мира вида «объект-класс-
сообщение», принципы ООП, язык, интерфейс и встроенный набор классов
в качестве инструмента реализации.
Процесс разработки можно разбить на следующие этапы:
1. Идентификация объектов и их свойств.
На этом этапе на основе анализа предметной области определяются
необходимые в задаче объекты и их свойства. Объектам присваиваются уникальные

3.5. От объектов к агентам
117
имена. Если в задаче требуется несколько объектов с одинаковыми свойствами,
то образуется класс, а сами объекты определяются как экземпляры этого класса.
2. Определение поведения объектов.
Для каждого объекта устанавливается, какие действия можно выполнять
над ним и какие действия он будет требовать от других объектов. Кроме того,
может быть задан порядок действий во времени, введены пространственные
ограничения.
3. Установление отношений между объектами.
На данном этапе устанавливаются основные (наследственные) связи между
отдельными объектами и классами, включая встроенный набор классов, в
результате чего создается общая топологическая схема задачи.
4. Спецификация интерфейса каждого объекта.
Определяется протокол сообщений каждого объекта. Здесь не требуется
уникальности имен сообщений, поскольку система должна поддерживать
полиморфизм. Главное — ясность сообщения, его адекватность требуемому от объекта
действию.
5. Реализация объектов.
Входной информацией этого этапа работы являются список свойств объекта,
протокол сообщений и топологическая схема задачи. Исходя из списка свойств,
определяется внутренняя структура объекта — переменные экземпляра. При
построении структуры можно идти двумя путями: а) использовать в качестве
переменных экземпляра объекты из стандартного набора классов; б) осуществлять
декомпозицию дальше, используя для переменных экземпляра новые объекты.
6. Отладка.
После того, как определены и запрограммированы новые классы и объекты,
соответствующие задаче предметной области, осуществляется комплексная
отладка задачи. Следует иметь в виду, что отладка работы отдельных объектов обычно
выполняется независимо, что хорошо поддерживается принципами ООП. В
результате комплексной отладки задачи можно менять реализацию отдельных объек- *
тов, не затрагивая их интерфейсы и, следовательно, реализацию других объектов.
В рамках данного процесса объекты не могут анализировать свое поведение,
определять характер своих связей с другими объектами или природу адресованных
им сообщений. Их механизм получения сообщений сводится к вызову процедуры.
А главное, они не могут самостоятельно формировать цели.
Точно так же и акторы [Hewitt, 1977; Agha, 1986; Adorni and Poggi, 1993] —
развитые, интерактивные, параллельно функционирующие объекты, которые
взаимодействуют путем посылки асинхронных сообщений, — не могут проводить
рассуждения о содержании этих сообщений. Модель акторов организована,
исходя из двух простых принципов: посылки сообщений и локальной обработки.
На локальном уровне актор содержит три составляющих: а) знания о своей среде;
б) знания о других акторах; в) множество данных и действий. Эти составляющие
определяют его локальное поведение в зависимости от поступающего сообщения.
Когда актор получает некоторое сообщение, он может передавать его другим
акторам. Помимо этого, актор способен создавать новых акторов и изменять свое
внутреннее состояние. Это означает, что в ряде случаев акторы могут
рассматриваться как своего рода подагенты.
Агентно-ориентированный подход в информатике и ИИ, развивая известные
подходы, основанные на понятиях объектов и акторов, в то же время имеет
ряд принципиальных отличий. Заметим, что понятия объект и актор по сути

118
Глава 3. Основы теории агентов
представляют собой исходные единицы программных»систем, задаваемые
некоторой структурой и механизмом взаимодействия. Агент представляет собой более
сложную, активную и автономную единицу.
В ООП вычислительный процесс понимается как система, собранная из
модулей, которые взаимодействуют друг с другом и имеют собственные способы
обработки поступающих сообщений. В свою очередь, АОП уточняет эти рамки,
фиксируя активность модулей — агентов и изменения их состояний с помощью
понятий убеждений, желаний, решений и пр.
Наличие у агента механизма целеобразования обеспечивает принципиально
новый уровень автономии. Это значит, что он необязательно выполняет
распоряжения какого-либо другого агента или пользователя, а просто зависит от условий
среды, включая цели и намерения других агентов. В отличие от объекта агент
может принять на себя определенные обязательства или, наоборот, отказаться
от выполнения некоторой работы, мотивируя это отсутствием компетентности,
занятостью другой задачей и т. п. [Ferber, 1995]. В то же время агент может
выполнять такие действия как порождение, подавление и замена других агентов,
активизация функций (как своих, так и у других агентов), активизация сценария
деятельности, запоминание текущего состояния других агентов и пр.
Все это наглядно показывает, что агент, будучи «активным объектом» или
«искусственным деятелем», формирующим свое собственное поведение (или,
по крайней мере, участвующий в этом процессе), находится на заметно более
высоком уровне сложности по отношению к традиционным объектам в ООП.
Так если рассмотреть систему абстрактных полярных шкал типа «пассивный-
активный», «реактивный-целенаправленный», «зависимый-автономный» и
поместить на них объекты и агенты, то интуитивно ясно, что объекты будут
находиться на левых полюсах, а агенты должны быть расположены правее, ближе
к полюсам «активный», «целенаправленный», «автономный». Сдвинутое к
правым полюсам промежуточное положение агентов на указанных шкалах показывает
достигнутый уровень субъектности в искусственной системе. Wh
3.6. Архитектуры агентов
Важным аспектом теории агентов является проблема синтеза адекватной
архитектуры для соответствующего класса (типа) агентов.
В общем случае агент а обладает п разными функциональными
свойствами (атрибутами) в разной степени. Тогда его можно охарактеризовать вектором
значений принадлежности \i = (/i|(x),..., fin(x)), выражающим степень
удовлетворения этим свойствам. Таким образом строится функция /х : X —> [О, 1]п,
где [О, 1]П — полная решетка. Идеальный агент характеризуется вектором
/i° = (i,...,i).
Рассмотрим различные варианты архитектур программных агентов.
Предварительно остановимся на общей классификации архитектур (см. также [Muller et
al., 1995; Wooldridge and Jennings, 1995; Городецкий и др., 1998]). Первое основание
для классификации архитектур агентов связано с их происхождением. По этому
критерию выделяются: 1) архитектуры, основанные на классических принципах
и методах ИИ (т.е. архитектуры интеллектуальных систем, реализующих
представление и обработку знаний); 2) архитектуры, характеризующие поведение,
которые исходят из реакций систем на события внешнего мира.

3.6. Архитектуры агентов
119
3.6.1. Архитектуры интеллектуальных агентов
А. Архитектура на основе продукционной системы
Одной из наиболее популярных архитектур первого класса является
архитектура агента на базе продукционной системы, которая задается набором правил вида:
если «список условий», то «список действий», где список условий связан с
элементами из базы фактов, а список действий содержит элементарные действия,
например, добавить или исключить элементы из базы фактов.
Рецепторы
агента
-
i
Модель
коммуникации
с другими агентами
А
Т
База
правил
Г
1ользователь
^
Подсистема
рассуждения
т
Модуль формирования
целей и оценок
ситуации
"Vs-
'А"
Т
Эффекторы
агента
Рис. 3.11. Вариант архитектуры интеллектуального агента на основе правил
Каждый интеллектуальный агент выражается в виде продукционной системы,
снабженной функциями интерпретации и выполнения (рис. 3.11). Отличие агента
от обычной экспертной системы состоит в следующем. С одной стороны, речь
идет о системе «агент-среда», когда необходимыми условиями реализации
агентом некоторого поведения выступают специальные устройства, непосредственно
воспринимающие воздействия внешней среды (рецепторы) и исполнительные
органы, воздействующие на среду (эффекторы) [Гаазе-Рапопорт и Поспелов, 1987].
Функция восприятия (рецепторы агента) обеспечивает ввод текущей
информации или сообщений в базу фактов в ходе функционирования машины вывода,
так чтобы их можно было непосредственно учитывать в базе правил. С другой
стороны, в архитектуре интеллектуального агента должны явно или неявно
присутствовать еще два модуля: а) модуль коммуникации, содержащий описание
протоколов коммуникации (в частности, переговоров) агента с другими агентами;
б) модель формирования целей и ситуативных оценок, который формирует ядро
простейшей интенциональной подсистемы.
Б. Системы на основе классификаторов
Системы на базе классификаторов (classifiers), предложенные Дж. Холлан-
дом [Holland, 1975], представляют собой особый случай систем, основанных
на правилах. Здесь факты, называемые также сообщениями, являются векторами
фиксированного размера (обычно берется бинарный алфавит из нулей и единиц),

120
Глава 3. Основы теории агентов
а правила, именуемые классификаторами, являются* парами векторов чисел,
к которым также присоединяется неизвестное число #, называемое «джокером»
(рис. 3.12). Правила снабжены весовыми коэффициентами, соответствующими
вероятностям их запуска.
i
Воспроизведение правил
(генетические алгоритмы)
¦ 1
База правил
(классификаторы)
0,4:1#10-»1001
0,8:01## -* 0000
0,6:011# -* ОНО
Вознаграждение
t
Восприятие
1 1
Т т
База фактов
(сообщений)
1001
0101
ООП
т Среда
*
Выполнение
^^^
Jk^^
Рис. 3.12. Агент на основе системы классификаторов
Информация, поступающая из среды, кодируется системой восприятия в виде
множества фактов. Правила применяются к этим фактам и производят новые
факты, которые могут, в свою очередь, запустить новые классификаторы или
воздействовать на среду посредством исполнительной подсистемы.
Системы на базе классификаторов отличаются от обычных продукционных
систем наличием двух специальных механизмов: а) системы вознаграждения;
б) системы воспроизведения правил на основе генетических алгоритмов.
Система вознаграждения отмечает правила, которые привели к «удачному действию»,
т. е. действию, позволившему достигнуть поставленной цели. В этом случае
весовые коэффициенты правил увеличиваются (а, в противном случае, уменьшаются).
Вначале запускаются правила, которые имеют большие весовые
коэффициенты. Помимо этого, возможно производство новых правил на основе имеющихся
правил с наибольшими весами с помощью генетических операторов мутации,
скрещивания и др. Подобные системы классификаторов обычно
используются в основном для реализации адаптивного поведения, например, поведения
аниматов в динамической среде.
В. Архитектура с иерархической базой знаний
Еще одна архитектура интеллектуального агента с более детальной
спецификацией базы знаний представлена на рис. 3.13. Она включает в себя несколько
уровней представления знаний, рабочую память, модуль управления
коммуникацией и человеко-машинный интерфейс. Для успешного выполнения своих задач
агент должен иметь возможность осуществлять как интеллектуальное поведение

3.6. Архитектуры агентов
121
Управляющие знания
I ¦
Знания
о взаимодействии
Знания
о предметной области
Рис. 3.13. Архитектура интеллектуального агента с иерархической базой знаний
(выбор планов, декомпозиция проблемы и распределение задач) так и
реактивное поведение (своевременно реагировать на появление новой информации,
изменения в существующих данных и т.д.). В разработанной архитектуре
интеллектуальное поведение обеспечивается сочетанием правил принятия решения для
выбора планов, осуществления декомпозиции и распределения задач с правилами
кооперации для формулирования обязательств. Реактивное поведение
обеспечивается уровнем контроля, который реагирует на различные изменения в рабочей
памяти (такие как доставка результатов, появление новых целей или сообщений
об изменениях в существующих данных, целях, обязательствах и задачах).
Укажем три уровня знаний, играющих ключевую роль в архитектуре агента:
• Знания предметной области (domain knowledge), например, об организации
и управлении предприятием.
• Знания о взаимодействии (interface knowledge), которые выступают в
форме общих декларативных правил поведения, а также правил пополнения
и модификации знаний предметной области. Правила взаимодействия
представляют собой основу архитектуры агента и подразделяются на: а) правила
принятия решения в условиях неопределенности; б) правила управления
кооперацией агентов.
• Управляющие знания (control knowledge) — знания, применяющие знания
взаимодействия к знаниям предметной области для пополнения и изменения
рабочей памяти.
Рабочая память предназначена для хранения временных данных, полученных
от уровня управления, пользователя или модуля управления коммуникациями.
Так, в рабочей памяти содержится информация о целях, информация о текущих
задачах, информация о завершившихся задачах, входящие и исходящие сообщения
и текущие обязательства. Рабочая память функционирует по принципу глобальной
доски объявлений.
Модуль управления коммуникациями осуществляет составление и отправку
сообщений, посылаемых другим агентам. Сообщения составляются из
коммуникационных примитивов, получаемых с помощью правил управления задачами
и правил кооперации. Каждый примитив характеризуется своим типом и
содержанием. Модуль управления коммуникациями также занимается получением
подтверждений о доставленных сообщениях.
S Зак. 72
Модуль
управления
коммуникациями
Другие
агенты
Рабочая
память
Человеко-
машинный
интерфейс

122
Глава 3. Основы теории агентов
Человеко-машинный интерфейс определяет способы взаимодействия между
системой и пользователем. Здесь компьютер способен осуществлять различные
функции (принятие решения, управление задачами, кооперация), но не является
полностью автономным. В общем случае, агент сообщает пользователю результаты
своей работы, и пользователь должен подтвердить их, прежде чем они вступят
в силу и будут переданы другим агентам.
Г. Архитектура Барбучеану— Фокса
Архитектура типового интеллектуального агента по М. Барбучеану и М.
Фоксу [Barbuceanu and Fox, 1996] (рис. 3.14) включает следующие компоненты:
• язык коммуникации агентов типа KQML/KIF, опирающийся на теорию
речевых актов, который поддерживает декларативный подход к передаче
знаний;
• подсистема распределения информации должна распределять релевантную
информацию между агентами (по их запросу или без него); в этой
подсистеме должны быть реализованы функции корректировки убеждений агентов,
а также иметься возможности дедуктивной обработки знаний;
• организационная модель, которая необходима для автономного
функционирования агента в MAC; при этом агенту доставляется информация о наличии
других агентов, их ролях, характере коммуникации и т.д. (организационная
модель должна также включать модель самого агента);
• модели координации содержат общие принципы и условия обмена
сообщениями в ходе совместных действий; при этом они обычно определяются
в виде правил кооперации и общей оценки ситуации. Языки кооперации
служат для явной, декларативной спецификации моделей координации;
• подсистема управления конфликтами позволяет агенту принимать решения
при получении противоречивой информации от других агентов;
Другие агенты
t_J
Среда коммуникации
) I )
ЯЗЫК КОММУНИКАЦИИ АГЕНТОВ
ПОДСИСТЕМА РАСПРЕДЕЛЕНИЯ ИНФОРМАЦИИ
ОРГАНИЗАЦИОННАЯ МОДЕЛЬ
(ВКЛЮЧАЯ МОДЕЛЬ СОБСТВЕННОГО ПОВЕДЕНИЯ)
МОДЕЛИ КООРДИНАЦИИ
ПОДСИСТЕМА УПРАВЛЕНИЯ КОНФЛИКТАМИ
ПОДСИСТЕМА УПРАВЛЕНИЯ ЗНАНИЯМИ
ИНТЕРФЕЙСЫ С ЛОКАЛЬНЫМИ ПРИЛОЖЕНИЯМИ
~1 t t
ПРИЛОЖЕНИЕ 1 ПРИЛОЖЕНИЕ 2 ПРИЛОЖЕНИЕ 3
Рис. 3.14. Архитектура типового интеллектуального агента

3.6. Архитектуры агентов
123
• подсистема управления знаниями, опирающаяся на дескриптивную логику,
обеспечивает темпоральные (временные) рассуждения и некоторые другие
механизмы обработки.
Рис. 3.15. Архитектура
агента на базе нейронной сети
3.6.2. Коннекционистские архитектуры
Обычно коннекционистские архитектуры агентов образуются из множества
одинаковых элементов, которые называются формальными (искусственными)
нейронами. Агенты, создаваемые на основе
архитектур нейронных сетей (рис. 3.15), обладают хорошими
способностями к обучению. Уже обычная
трехслойная нейронная сеть, где слой рецепторов
(восприятие) через промежуточный слой связан со слоем
эффекторов (выполнение действий), позволяет
разрабатывать реактивных агентов, способных
адаптироваться к среде. Здесь лучшие возможности имеют
сети с обратными связями, в которых нейроны
определенного слоя могут принимать информацию от
самих себя и других нейронов того же слоя (рис. 3.16).
Безусловно, большой интерес для реализации
агентов представляют и нечеткие нейронные сети,
обеспечивающие работу с нечеткими сигналами и весами, а также сети,
составленные из нечетких нейронов (см. раздел 2.4.2). Сети, построенные из (И/ИЛИ)-
нейронов позволяют реализовать логические модели агентов.
В свою очередь, хаотические нейронные сети, в
частности, сети, объединяющие обычные дискретные модели
нейрона как порогового элемента с аналоговыми
нейронами, имеющими логистическую функцию выхода,
позволяют генерировать сложные динамические режимы
поведения агента, например, распознавание им ранее
неизвестных образов.
Наконец, весьма перспективной видится идея
организации агента как системы осцилляторов, причем именно
взаимодействие внешних стимулов с осцилляторами
приводит к активизации агента. Осцилляторная сеть состоит
из п групп (ансамблей) G, каждая из которых
содержит га осцилляторов (рис. 3.17). Группы расположены в
узлах бинарной решетки, причем связей между группами
нет. Осцилляторы в группе образуют полный граф. На
каждый осциллятор поступает многомерный входной сигнал
х = (жь ..., хп), где Х{ = sin Bж^ + <Pij), ш0 — частотный
код стимула, (pi3¦,, где i = 1,..., n; j = 1,..., га — фазовые
сдвиги, характеризующие задержки в связях, с которыми стимул поступает. Здесь
имеется также тормозная обратная связь, которая служит для остановки
активности в сети. Иными словами, разным стимулам соответствуют разные паттерны
активности осцилляторной сети и своя локализация информации. При этом
наиболее значимым стимулам может соответствовать резонансный рост активности
осцилляторов, что характеризует мобилизацию агента.
В целом, следует отметить, что некоторые современные нейросети, в
частности, сети Кохонена, Фукушимы, адаптивного резонанса (см. [Галушкин, 2000]),
8*
Рис. 3.16. Пример
архитектуры агента на
базе нейронной сети
с обратными связями

124
Глава 3. Основы теории агентов
! ¦ I
»
*
AAA I
IIIх
Входной стимул
Рис. 3.17. Пример простейшей
осцилляторной сети
(п = 2, m = 3)
хорошо подходят для моделирования
процессов самоорганизации и самообучения
агентов. На наш взгляд, архитектуры
сетей, моделирующих процессы
самоорганизации агента, должны быть
многоуровневыми. При этом, например, на низшем
уровне поведение нейронов рассматривается как
хаотическое, на среднем уровне возникают
функционально ориентированные ансамбли
нейронов, а на высшем уровне процессы
адаптации и кооперации связаны с появлением
резонансных эффектов.
Верхний
(управляющий)
уровень
3.6.3. Архитектура «соподчинения»
Типичным примером архитектуры реактивного агента является архитектура
«соподчинения» (subsumption), предложенная Р. Бруксом [Brooks, 1986]. Базовая
структура соподчинения включает два уровня: верхний (управляющий) и
нижний (подчиненный) (рис. 3.18). Эти
уровни работают параллельно.
Взаимодействия между уровнями
фиксированы и осуществляются, исходя
из предварительно определенного
отношения «доминирование —
подчинение». Если в ходе одновременной
работы уровней получаются
противоречивые результаты (возникают
конфликты между уровнями), то верхний
уровень блокирует выход нижнего.
Пример реализации архитектуры соподчинения для автономного физического
агента типа интегрального робота показан на рис. 3.19.
Нижний
(подчиненный)
уровень
верхний уровень
может блокировать
k выход нижнего
Рис. 3.18. Базовая структура архитектуры
«соподчинения»
3.6.4. Горизонтальные и вертикальные архитектуры агентов
В зависимости от того, как организуется взаимодействие уровней агента,
выделяется два основных класса многоуровневых архитектур: горизонтально
организованная архитектура и вертикально организованная архитектура.
В горизонтально организованной архитектуре, все уровни агента связаны
с уровнем восприятия и действий (иными словами, все уровни могут общаться
между собой).
Варианты такой архитектуры приведены на рис. 3.19 и 3.20 д. Напротив,
в вертикально организованной архитектуре только один из уровней агента связан
с уровнем восприятия и действий, а каждый из остальных уровней взаимодействует
только с парой смежных с ним уровней. Подобные архитектуры приведены
на рис. 3.205 и е.
Основные проблемы реализации горизонтальных архитектур обусловлены
сложностью координации работы отдельных уровней.
Напротив, в вертикально организованной архитектуре проблема управления
взаимодействием уровней не является столь сложной, поскольку выходная
информация каждого из уровней всегда имеет точный адресат. В вертикально
организованных архитектурах распределение функциональных модулей по уровням обычно

3.6. Архитектуры агентов
125
Поддерживать энергетический баланс
Избегать столкновений с объектами среды &\
Оптимизировать путь
Ориентироваться на местности
Брать и перемещать предметы
Продвигаться по местности
Среда
«Н
«h
<8h
Ф-,
Эффекторы
Рис. 3.19. Пример практической реализации архитектуры «соподчинения»
выполняется по одному из следующих двух принципов. По первому принципу,
различные уровни агента соответствуют различным уровням абстракции для
одного и того же набора функциональных характеристик. Согласно другому принципу,
каждый уровень отвечает некоторому функциональному свойству или их набору.
(Восприятие
Рис. 3.20. Организация взаимодействия уровней в многоуровневой архитектуре агента
Недостатком вертикально организованной архитектуры считается
перегруженность уровня исполнения (действий).
Известные примеры вертикальных и горизонтальных архитектур агентов
приведены ниже (см. также [Городецкий и др., 1998]).

126
Глава 3. Основы теории агентов
WILL-apxumeicmypa
В этой архитектуре широко используются идеи и метафоры, традиционные
для описания интеллектуальной деятельности человека, что делает ее понятной
и привлекательной. По мнению ее авторов Д. Моффата и Н. Фрижды [Moffat
and Frijda, 1994], это наиболее простая архитектура автономного агента. Она
рассчитана на одного агента, который имеет одну цель. Его функционирование
направляется собственными интересами. В то же время методы кооперации
и коммуникации агентов в исходной Will-архитектуре не рассматриваются. Данная
архитектура представлена на рис. 3.21.
"Wili''-агент
Рис. 3.21. WILL-архитектура
Для того, чтобы агент функционировал в некотором мире, его надо снабдить
рядом базовых функций, включая восприятие (сенсоры) и действие
(исполнительное устройство). Здесь каждая из функций агента реализована как отдельный
модуль. В частности, предполагается, что базовыми модулями агента являются
Сенсорный блок, Блок-Планировщик и Исполнительное устройство, которые надо
каким-то образом объединить. Главная проблема при этом состоит в том, как
организовать совместную, скоординированную работу этих модулей, в частности,
как согласовать взаимодействие потоков информации и потоков управления. Для
согласования потоков информации в архитектуре применяется своего рода схема
«бродкастинга», когда соединены все входы и все выходы модулей между собой,
так что любое сообщение, генерируемое тем или иным блоком становится
доступным любому другому блоку. Все сообщения собираются в глобальном буфере,
который называется Памятью. Все модули, кроме Сенсорного блока, могут
считывать информацию из Памяти, и, аналогично, все они, за исключением
Исполнительного устройства, могут записывать новую информацию в Память. Каждый
модуль может брать информацию из Памяти в любое время, когда ему это нужно.
Также постулируется, что цели могут меняться и генерироваться «изнутри»
самим агентом, будучи обусловленными его «интересами». Последние сводятся
к предпочтениям агента находиться в каких-то состояниях и каких-то состояний
избегать. Для каждого состояния внешней среды агент должен уметь
оценивать меру его соответствия своим интересам. В [Moffat and Frijda, 1994] при

3.6. Архитектуры агентов
127
интерпретации этого соответствия проводится аналогия с зарядом статического
электричества. Когда некий модуль обращается к памяти, он «видит» тот ее
фрагмент, который имеет «наибольший заряд» и обрабатывает этот фрагмент.
Характерными особенностями Will-архитектуры являются наличие блока
Память и привлечение понятия «интересы» агента. Наиболее естественной схемой
для реализации модуля Памяти является «доска объявлений», а представление
«интересов» по содержанию близко к модели «желаний» агента. Следует
отметить, что для согласованной работы различных модулей агента необходим высокий
уровень самоорганизации.
InteRRaP-apxumeKmypa
Основная идея этой вертикальной архитектуры [Muller et al., 1995]
заключается в том, чтобы представить агента как множество уровней, которые
связаны через управляющую структуру и используют общую базу знаний. Эта
архитектура представлена на рис. 3.22. Она состоит из следующих блоков:
интерфейса с внешним миром; реактивной подсистемы, основанной на стимульно-
реактивном поведении; планирующей подсистемы; подсистемы, ответственной
за кооперацию с другими агентами и иерархической базы знаний агента.
Интерфейс с внешним миром определяет возможности агента по восприятию
объектов или событий внешнего мира, воздействия на него и средства
коммуникации.
Реактивная подсистема использует базовые возможности агента по
реактивному поведению, а также частично использует знания агента процедурного
характера. Она базируется на понятии «фрагмента поведения», который
охватывает заранее заготовленные реакции агента на некоторые типичные ситуации. Это
позволяет агенту в стандартных ситуациях не обращаться к подсистеме планиро-
Компонента управления
агентом
Подсистема
организации
кооперативного
поведения
i
Подсистема
планирования
Реактивная
подсистема
Воздействия
Иерархическая база
знаний агента
Знания о кооперативном
поведении (социальный
контекст). Совместные
планы и цели
Знания о процессах
планирования
(ментальный контекст)
1 Локальные плзкы и пели
Модели внешнего мира
(ситуативный контекст)
Фрагменты поведения
тл—*-
Интерфейс с внешним миром
^Ч—
Поток управления
Поток информации
Рис. 3.22. lnteRRaP-архитектура агента

128
Глава 3. Основы теории агентов
вания на основе знаний, а реализовывать значительную часть своего поведения
рутинным образом с хорошей эффективностью. Для реактивной подсистемы
доступны только знания нижнего уровня абстракции, где содержится информация
о фрагментах поведения.
Планирующая подсистема содержит механизм планирования, позволяющий
строить локальные планы агента, т. е. индивидуальные планы, не связанные
с кооперативным поведением. Такой план представляется в виде графа, узлами
которого могут быть либо конкретные наборы действий, вплоть до элементарных
шагов поведения, либо новые подпланы, подлежащие дальнейшей
конкретизации. Таким образом, планирующая подсистема запускает (через нижележащую
компоненту) поведение, направляемое целями. Она же участвует в формировании
планов, связанных с кооперативным поведением агентов. Ею могут
использоваться знания двух нижних уровней абстракции.
Подсистема организации кооперативного поведения участвует в создании
планов совместного поведения агентов для достижения некоторых общих целей
или выполнения ими обязательств перед другими агентами, а также реализации
соглашений. Этой компоненте доступны знания всех трех уровней абстракции.
База знаний агента имеет трехуровневую структуру и построена по принципу
доски объявлений. Уровни базы знаний фактически отвечают уровням абстракции
знаний в соответствии со структурой управления. Модель мира агента содержит
убеждения агента, относящиеся к уровню стимульно-реактивного поведения.
Второй уровень соответствует модели интенций агента и знаниям о текущем
ментальном состоянии агента (намерения, цели, планы). Наконец, третий уровень
содержит знания и убеждения агента о других агентах, информацию о совместных
планах, целях и намерениях, т.е. все то, что связано с социальным контекстом.
Общее управление поведением осуществляется путем коммуникаций между
уровнями. При некотором входном событии агент пытается распознать ситуацию
во внешнем мире. Тогда управление постепенно сдвигается снизу вверх до тех
пор, пока не достигнет уровня, способного справиться с возникшей ситуацией.
Очевидно, существует три варианта реакции агента на внешние события:
• реакция нижнего поведенческого уровня, когда этот уровень находит
фрагмент поведения, адекватный ситуации, без явного привлечения локального
планирования;
• реакция с использованием локального планирования, когда задача
перемещается с нижнего уровня на уровень локального планирования, где и
конструируется план;
• реакция с использованием уровня кооперативного планирования, когда поиск
плана с уровня локального планирования перемещается дальше на уровень
планирования кооперативного поведения.
Возможны и более сложные варианты построения общего плана, когда
протокол взаимодействия между уровнями локального планирования и планирования
кооперативного поведения предусматривает сложную схему обмена информацией,
например, для построения оценок возможности решения некоторых задач MAC
за заданное время.
Многоуровневая архитектура «машина Тьюринга» ("Touring Machine") для
автономного агента
Эта архитектура объединяет в себе ряд традиционных механизмов
рассуждений на основе знаний с механизмами чисто поведенческого, реактивного

3.6. Архитектуры агентов
129
характера. Она является весьма характерным представителем горизонтально
организованной, многоуровневой архитектуры.
Архитектура "Touring Machine" разработана для специального приложения
автономного агента — подвижного робота [Ferguson, 1994]. Здесь робот,
взаимодействующий с другими роботами, сталкивается с непредвиденными событиями
внешнего мира, информация о котором носит фрагментарный и неточный
характер. При этом он должен адекватно реагировать на подобные события и принимать
решения. Соответственно, агенту требуется такая архитектура, которая позволит
ему работать в условиях неопределенности, неточности и неполноты
информации, реагировать на неожиданные события, пользуясь относительно простыми
правилами.
Данная архитектура представлена на рис. 3.23. Она включает в себя три
уровня, каждый из которых соответствует различным типам способностей агента:
• уровень реакции на события R определяет способность агента быстро
реагировать на события, выделяемые вышележащим уровнем, даже если они ранее
не планировались;
• уровень планирования Сгенерирует, исполняет и динамически реконструирует
частичные планы, например, для выбора маршрута подвижного робота;
• уровень предсказания или моделирования М моделирует поведение объектов
внешней среды и самого агента, что используется для объяснения текущего
поведения и предсказания возможного поведения в будущем.
Каждый уровень напрямую связан с подсистемами восприятия и действия.
Любой уровень может независимо от других уровней решать, реагировать или
не реагировать на текущее состояние мира. В архитектуру "Touring Machine" также
включена подсистема управления на основе правил, активируемая контекстом с
задачей обеспечить подходящее поведение агента в случае конфликта уровней.
Система реализована как комбинация технологии обмена сообщениями и
контекстной активации управляющих правил (в соответствии со спецификой предметной
области). Она выступает в роли «посредника», который исследует данные разных
уровней (входную и выходную информацию с разных уровней), вводит на
различные уровни новые данные и удаляет некоторые данные. Это «посредничество»
сохраняется в течение всего времени работы агента; отметим, что оно вполне
Уровень
моделирования
(М)
Уровень
планирования
(р)
Уровень
реакций
(R)
Управляющие правила,
активируемые контекстом
Действия
Рис. 3.23. Многоуровневая архитектура для автономного агента "Touring Machine"

130
Глава 3. Основы теории агентов
«прозрачно» для уровней, каждый из которых продолжает действовать так, как
если бы он был единственным, не заботясь о разрешении возможных конфликтов.
Синхронизация входов и выходов уровней также обеспечивается этой
подсистемой. Фактически правила подсистемы выступают в роли фильтра между
сенсорами агента и его внутренними уровнями, с одной стороны, и между
уровнями и их исполнительными элементами — с другой.
Композиционная архитектура многоагентной системы
Композиционная архитектура MAC приведена в работе [Dunin-Keplicz and
Treuer, 1994] под именем DESIRE (framework for DEsign and Specification of
Interacting REasoning components). Она обеспечивает «прозрачное описание» сложного
агента, а также позволяет интегрировать рассуждения и действия в единой
(декларативной) логической среде. Здесь предполагается, что агент в процессе работы
выполняет действия следующего типа:
• активно воспринимает и фильтрует информацию из внешнего мира;
• строит заключения по этой информации;
• вступает в коммуникацию с другими агентами с целью установления
сотрудничества с ними;
• генерирует и обновляет свои убеждения, принимая или отклоняя
дополнительные предположения;
• воздействует на внешний мир, изменяя его.
В основе опыта агента лежат различные знания, включая: (а) знания о
материальном мире; (б) знания о ментальном мире самого агента; (в) знания
о ментальных мирах других агентов; (г) знания о взаимодействии с материальным
миром; (д) знания о коммуникации с другими агентами. Кроме того, в структуре
знаний выделяются: 1) часть, зависящая от времени («динамическое состояние
информации» или база фактов); 2) инвариантная часть, которая не изменяется
во всех состояниях.
Главная идея композиционной архитектуры состоит в том, чтобы вести
построение любого сложного агента из первичных компонент (примитивов),
каждая из которых описывает одну из выполняемых подзадач общей задачи.
Каждая из компонент должна иметь простое локальное описание и использовать
свой набор знаний. Сложное поведение, которое охватывает и рассуждения,
и действия, может обеспечиваться (динамической) компонентой взаимодействия
агентов. Аналогичным образом MAC в целом может составляться из отдельных
агентов. Отдельные компоненты описываются в терминах многосортной логики
предикатов.
Пример композиционной архитектуры агента приведен на рис. 3.24.
Рассмотрен некоторый агент а, который состоит из трех главных компонент:
1) компонента собственного ментального состояния агента, которое охватывает
его убеждения, знания о себе (что он знает и чего он не знает), знания
о стратегиях управления и т.д., а также компонента, генерирующая гипотезы,
позволяющие восполнять неполноту знаний, и управляющая часть;
2) компонента коммуникации, которая связывает агента а с внешним
материальным миром и другими агентами (например, с агентом Ь); эта компонента
обеспечивает общение с другими агентами путем генерации наблюдений
и генерации действий (ставит вопросы и получает ответы);
3) компонента анализа состояния мира, которая содержит предметные знания
о материальном мире.

3.7. Языки описания и реализации агентов
131
- генерация вопросов
- получение ответов
- генерация наблюдений
- генерация действий
Агент а в материальном мире:
- анализ состояния внешнего мира
Во внешний
мир
Рис. 3.24. Пример агента с композиционной архитектурой архитектурой
Здесь компоненты соответствуют функциональным свойствам. Данная
архитектура позволяет:
• интегрировать различные типы рассуждений и действий в единых
декларативных рамках;
• использовать знания о стратегиях для явного управления рассуждениями;
• обеспечить гибкость в построении агентов различных типов;
• осуществлять явные и управляемые акты наблюдения, а также коммуникации.
3.7. Языки описания и реализации агентов
Языки описания и реализации агентов удобно представить в виде многослойной
структуры, включающей пять слоев (рис. 3.25):
а) языки и программные средства реализации агентов;
б) языки коммуникации агентов;
в) языки описания поведения агентов и законов среды;
г) языки представления и управления знаниями;
д) языки формализации и спецификации агентов и MAC.
На самом абстрактном уровне находятся математические языки, служащие
для формализации агентов и MAC, которые рассматриваются как метаязыки
по отношению к другим типам языков. В частности, понятие «реактивный агент»
можно описать на базе теории клеточных автоматов, или нейронных сетей,
а для моделирования понятий «убеждений» и «желаний» агентов могут служить
расширенные модальные логики. В основу описания MAC как «коллективного
агента» может положить язык теории множеств и отношений, модели теории
организаций или теории игр, и т.п.
Языки, ориентированные на знания, используются интеллектуальными
агентами для описания внутренних моделей внешнего мира, проведения рассуждений

132
Глава 3. Основы теории агентов
'теоретические^
(формальные)
языки
языки инженерии знаний
языки описания поведения
языки коммуникации агентов
/ Языки создания
/ агентов
/ (Java)
Библиотеки
агентов
Среды разработки \
агентов \
(AgetH&uiJder) \
Рис. 3.25. Иерархия языков описания и реализации агентов
и формирования прогнозов, исходя из имеющейся информации. К этой группе
относятся языки представления знаний (семантические сети, фреймы,
продукционные правила, логика предикатов), языки интеграции знаний (например, механизм
«доски объявлений»), языки обмена знаниями между различными программами
(язык KIF). Среди языков описания поведения агентов следует отметить
классические формализмы теории коллективного поведения автоматов и сетей Петри.
В контексте практического построения агентов и MAC главную роль играют
инструментальные средства программирования и коммуникации агентов. Языки
коммуникации (ACL, KQML) и координации агентов (AgenTalk) обеспечивают
согласованное взаимодействие агентов — циркуляцию информации, передачу
запросов услуг, реализуют механизмы переговоров, поддерживают сотрудничество
между агентами, направленное на достижение общей цели и, как следствие,
формирование коллективов агентов. Подчас эти языки можно рассматривать как
многоуровневые структуры, включающие уровень представления знаний, уровень
переговоров или координации, уровень стратегий коммуникации, и т. п. Так язык
KQML (Knowledge Query and Manipulation Language) [Finin et al., 1997], служащий
для поддержки взаимодействия агентов в распределенных приложениях,
опирается на специальный протокол переноса знаний SKTP (Simple Knowledge Transfer
Protocol). В свою очередь, язык ACL (Agent Communication Language),
претендующий на роль стандарта для коммуникации агентов, состоит из трех частей —
словаря, «внутреннего языка» KIF (Knowledge Interchange Format) и «внешнего
языка» KQML. Сообщение, передаваемое на языке ACL, может трактоваться как
KQML-выражение, «аргументами» которого выступают предложения в формате
К IF, построенные из элементов словаря ACL [Genesereth and Ketchpel, 1994].
Программные средства, применяемые для реализации агентов, делятся натри
основных класса: 1) языки программирования; 2) библиотеки разработки
агентов; 3) среды разработки агентов [Тарасов, 1999в; Хорошевский, 1999]. При
программировании агентов чаще всего применяются языки
объектно-ориентированного программирования (Си+-Ь и, в первую очередь, Java), реже используются
символьные языки и языки логического программирования (LISP, Oz). Начи-

3.7. Языки описания и реализации агентов
133
нают появляться специализированные языки программирования агентов,
например, Telescript, LALO. В частности, агентно-ориентированный язык AgentSpeak
обеспечивает построение интенциональных интеллектуальных агентов с BDI-
архитектурой. Все большую популярность приобретают разработанные фирмой
IBM Japan аглешы — активные, мобильные объекты, написанные на языке Java,
которые могут перемещаться из одного узла сети в другой (они способны
внезапно остановить выполнение программы на одном хосте, отправить ее на другой
и возобновить там выполнение).
Среди имеющихся на рынке библиотек агентов следует отметить Intelligent
Agent Library — коммерческий продукт фирмы Bits & Pixels, систему Kafka,
разработанную фирмой Fujitsu и Agentx — сеть высокоэффективных библиотек
распределенных вычислений в программной среде Java, предложенную фирмой
International Knowledge Systems. Библиотека интеллектуальных агентов Intelligent
Agent Library есть набор средств, предназначенных для обеспечения коммуникации
агентов и построения их групп. Она основана на языке KQML и содержит
иллюстративные примеры агентов, функционирующих в Web-приложениях. Эта
библиотека поддерживает разработку мобильных агентов.
Система Kafka, написанная на языке Java, представляет собой гибкую,
расширяемую и простую в использовании библиотеку классов для лиц, знакомых
с распределенным программированием. Она основана на механизме удаленного
вызова объектов RMI (Remote Method Invocation) языка Java и имеет следующие
дополнительные свойства:
• Рефлексия в ходе выполнении программы (Runtime Reflection). Агенты могут
изменять свое поведение (программные коды) в процессе выполнения, что
полезно с точки зрения услуг по инсталляции и обслуживанию на расстоянии.
• Дистанционная оценка (Remote Evaluation). Агенты могут получать и
оценивать программные коды (классы) как с помощью механизма сериализации,
так и без него.
• Заказная система безопасности, и пр.
Важными достоинствами сети Agentx являются привлечение широких
возможностей объектного брокера запросов ORB (Object Request Broker) и полная
совместимость ее библиотек с виртуальными машинами фирм Sun, IBM и
Microsoft, а также с последними версиями Internet Explorer и Netscape Navigator.
Библиотека Agentx также обеспечивает программную поддержку построения
и реализации автономных мобильных агентов. Здесь объекты могут перемещаться
по сети, привязываться к узлу (хосту), начинать независимое выполнение
программного кода. Эта новая технология позволяет разбить сложную компьютерную
программу или вычислительную задачу на подпрограммы или подзадачи
соответственно, распределив их между неоднородными машинами, обеспечивающими их
одновременное и независимое выполнение.
Одной из самых известных и уже зарекомендовавших себя интегрированных
сред для разработки интеллектуальных программных агентов является AgentBuilder
фирмы Reticular Systems, Inc. Это средство состоит из двух основных компонентов:
инструментария (Toolkit) и исполнительной системы. Инструментарий
включает: а) средства управления процессом разработки программного обеспечения,
основанного на агентах; б) средства анализа области функционирования агента;
в) средства проектирования и разработки сетей из взаимодействующих агентов;
г) средства моделирования поведения отдельных агентов; д) средства отладки
и тестирования программных агентов. Исполнительная система содержит машину

134
Глава 3. Основы теории агентов
агента (agent engine), формирующую среду для реализации программных агентов.
Агенты, разработанные с помощью среды Agent Builder, взаимодействуют на языке
KQML, в основе которого лежат примитивные действия — перформативы.
Назначение инструментального средства (ИС) AgentBuilder состоит в том,
чтобы предоставить разработчику программного обеспечения, основанного на
агентах, интегрированную среду, которая позволяет быстро и легко создавать
интеллектуальных агентов и сложные программы на их основе. Агенты,
созданные с помощью AgentBuilder, могут быть реализованы на любой виртуальной
Java-машине.
Быструю разработку агентов обеспечивает также «фабрика интеллектуальных
агентов» Intelligent Agent Factory фирмы Bits & Pixels. Агенты управляются с
помощью машины прямого вывода Jess. И агенты, и правила порождаются из простых
спецификаций потоков работ.
Среда разработки агентов ABE (Agent Building Environment), построенная
фирмой IBM, представляет собой инструментарий для создания приложений,
основанных на интеллектуальных агентах, а также добавления новых агентов
в уже существующие приложения. Здесь интеллектуальный агент отслеживает
условия среды, принимает решения на основе правил, и в результате выполняет
некоторое действие. Архитектура агента основывается на механизме рассуждений
и технологии адаптеров, предложенных в лаборатории T.J.Watson Research Lab.
фирмы IBM. Адаптеры или интерфейсы обеспечивают взаимодействие агента
со средой (например, HTTP-адаптер обеспечивает интерфейс среды ABE с WWW,
а NNTP-адаптер служит для связи с сервисами новостей USENET). Разработчик
может создавать заказные адаптеры; они пишутся либо на C++, либо на Java.
Имеются работоспособные версии под OS/2, Windows, AIX and OS/390.
Еще одна среда ADE (Agent Development Environment) позволяет строить
иерархию классов агентов и их модулей, инфраструктуру middleware и
графический язык для описания поведения агентов, опирающийся на стандарт Grafcet.
Поскольку ADE задумана как надстройка над ИС G2 фирмы Gensym, ей доступен
широкий спектр возможностей этого известного ИС (см. [Ойхман и Попов, 1997]).
Из всех известных коммерческих сред разработки агентов можно выделить
ряд наиболее развитых, многофункциональных ИС, поддерживающие создание
мобильных агентов. Так например ИС CONCORDIA фирмы Mitsubishi Electric —
это мощная среда для разработки мобильных агентов и управления сетевыми
приложениями в целях обеспечения поиска и доступа к любой информации
и на любой платформе, поддерживающей Java. С помощью ИС Concordia
прикладные программы могут:
• обрабатывать данные в том месте, где находятся их источники;
• вести обработку, даже если пользователь отключен от сети;
• доставлять информацию по различным сетям (ЛВС, Intranet и Internet);
• поддерживать различные клиентские системы и пр.
Первой средой для построения мобильных агентов, опирающейся на
стандарт MASIF (Mobile Agent System Interoperability Facility), является ИС Grasshopper
фирмы IKV++. Стандарт MASIF представляет собой надстройку над стандартом
CORBA, позволяя объединить традиционную клиент-серверную парадигму и
технологию мобильных агентов. Подобная стандартизация обеспечивает открытость
создаваемых приложений относительно других сред. Среда Grasshopper
позволяет строить распределенные приложения, основанные на агентах, преимущества

3.7. Языки описания и реализации агентов
135
которых связаны с высокоскоростной локальной коммуникацией и оперативным
доступом к данным.
Общий перечень коммерческих инструментальных средств разработки
агентов дан в таблице 3.4 [http://www.agentbuilder.com/AgentTools/index.htm].
Таблица 3.4
Коммерческие ИС для разработки агентов и MAC
Название
продукта
Agent Builder®
Agent Building
Environment
Agent
Development Environment
Agentx
Aglets
Concordia
DirectlA(r) SDK
Grasshopper
iGEN™
Intelligent Agent
Factory
Intelligent Agent
Library
JACK Intelligent
Agents
JAM
Jumping Beans
Фирма-
разработчик
Reticular
Systems, Inc.
IBM
Gensym
International
Knowledge
Systems
IBM Japan
Mitsubishi
Electric
MASA -
Adaptive
Objects
IKV++
CHI Systems
Bits & Pixels
Bits & Pixels
Agent Oriented
Software Pty.
Ltd.
Intelligent
Reasoning Systems
Ad Astra
Engineering, Inc.
Язык
Java
C++, Java
Java
Java
Java
C++
Java
C/C++
Java
Java
JACK
Agent
Language
Java
Java
Краткая характеристика
Интегрированная среда разработки
агентов и агентств (структурных ядер
MAC)
Среда разработки агентов
Среда разработки агентов
Среда разработки агентов
Средство разработки мобильных
агентов
Среда разработки мобильных агентов
Средство разработки агентов
Средство разработки мобильных
агентов
Инструментарий для разработки
когнитивных агентов
Средство разработки агентов
Библиотека агентов
Среда разработки агентов
Архитектура агента
Средство разработки мобильных
агентов

136 Глава 3. Основы теории агентов
Продолжение таблицы 3.4
Название
продукта
Kafka
LiveAgent
Microsoft Agent
Odyssey
UMPRS
Via: Versatile
Intelligent Agents
Voyager
Фирма-
разработчик
Fujitsu
AgentSoft Ltd.
Microsoft
Corporation
General Magic
Intelligent
Reasoning Systems
Kinetoscope
Object Space
Язык
Java
Java
Active X
Java
C++
Java
Java
Краткая характеристика
Библиотека агентов
Создание агентов в Интернете
Interface creatures
Средство разработки мобильных
агентов
Средство выбора архитектуры агента
Средство выбора модулей для
построения агента
Агентно-поддерживаемый ORB

Глава 4
Многоагентные системы
Я чувствую, что мне противостоит интеллект,
но совсем иного типа, чем мой собственный.
Он не сконцентрирован в одной личности,
а рассеян во всем окружающем пространстве.
Александр Зиновьев. «Гомо Советикус»
Решение задачи одним агентом на основе инженерии знаний
представляет собой точку зрения классического ИИ, согласно которой агент (например,
интеллектуальная система), обладая глобальным видением проблемы, имеет все
необходимые способности, знания и ресурсы для ее решения. Напротив, при
создании многоагентных систем (MAC) предполагается, что отдельный агент может
иметь лишь частичное представление о задаче и способен решить лишь некоторую
ее подзадачу. Поэтому для решения сколько-нибудь сложной проблемы, как
правило, требуется взаимодействие агентов, которое неотделимо от формирования
MAC. В MAC задачи распределены между агентами, каждый из которых
рассматривается как член группы или организации. Распределение задач предполагает
назначение ролей каждому из агентов, определение меры его ответственности
и требований к опыту.
В зависимости от того, идет ли это распределение от поставленной задачи
или от целей и возможностей конкретного агента, выделяют системы
распределенного решения задач и децентрализованного ИИ. В первом случае процесс
декомпозиции исходной задачи и обратный процесс композиции получаемых
решений носит централизованный характер. При этом MAC жестко
проектируется сверху вниз на основе разбиения общей задачи на отдельные, относительно
независимые подзадачи и предварительного определения ролей агентов (или
заранее сформулированных к ним требований). Во втором случае, распределение
задач происходит в значительной степени спонтанно, непосредственно в
процессе взаимодействия агентов, а при их решении порой возникают резонансные,
синергетические эффекты.
Активность искусственных (компьютерных) систем и организация их
совместной деятельности, связанной с коллективным и согласованным решением
задач в виртуальных сообществах — фундаментальные характеристики
концептуальной новизны передовых информационных технологий и сетевых организаций,
строящихся по принципам MAC.
4.1. Общая характеристика многоагентных систем
В историческом плане, многоагентные системы зародились на пересечении
теории систем, теории коллективного поведения и распределенного
искусственного интеллекта. С одной стороны, речь идет об открытых, активных, развивающихся

138
Глава 4. Многоагентные системы
системах, в которых главное внимание уделяется процессам взаимодействия
агентов как причинам возникновения новой системы с особыми качествами. С другой
стороны, MAC могут строиться и как объединение отдельных интеллектуальных
систем, основанных на знаниях, и как системы коллективного поведения,
возникающего в результате локальных взаимодействий простых реактивных агентов.
Многоагентные системы состоят из следующих основных компонентов:
1) множество системных единиц, в котором выделяются подмножество
активных единиц — агентов 1а), манипулирующих подмножеством пассивных
единиц — объектов 16);
2) среда, т. е. некоторое пространство, в котором существуют агенты и объекты;
3) множество задач (функций, ролей), которые поручаются агентам;
4) множество отношений (взаимодействий) между агентами;
5) множество организационных структур (конфигураций), формируемых
агентами;
6) множество действий агентов (например, различных операций над объектами
или коммуникативных актов).
Возникновение, структура и динамика MAC (класс сообщества агентов)
определяются ситуацией взаимодействия агентов, в зависимости от таких параметров,
как совместимость целей, уровень взаимных обязательств и ответственности,
ограниченность ресурсов, недостаток индивидуального опыта. При этом учитываются
факторы, обеспечивающие установление локальных пространственных и временных
отношений между агентами (непосредственное общение или телекоммуникации,
совпадение целей или столкновение интересов, и пр.), а также собственно
ресурсы взаимодействия, обеспечивающие поддержание некоторых отношений между
агентами и их трансформацию.
4.2. Истоки теории многоагентных систем:
открытые системы и эволюционные
организации в трудах А. А. Богданова
Авторство побеждает варварство.
Радостно, коль побеждает авторство.
Осуждать не следует новаторства.
Надо расширять его границы.
Николай Глазков
Одним из выдающихся предшественников современных исследователей в
области теории агентов и MAC был замечательный русский ученый А. А. Богданов,
создавший основы современной теории систем и организаций. Удивительно,
но факт: впервые открытые, активные, развивающиеся системы стали
исследоваться им еще в начале ХХ-го века. Первый том его капитального труда
«Тектология. Всеобщая организационная науки» вышел в 1912 г. (см. также новое
издание его книги [Богданов, 1989]). Примерно в то же время, что и другой
знаменитый ученый — основатель классической школы организаций Ф.В.Тейлор,

4.2. Истоки теории многоагентных систем
139
но задолго до Л. Берталанфи, Дж. Черчмена, Р. Акоффа, Ф.Эмери, Дж. Форре-
стера и прочих зарубежных классиков общей теории систем (и гораздо глубже,
чем многие из них) А. А. Богданов исследовал объективные законы, приводящие
к созданию и развитию систем и организаций.
Именно А. А. Богданов ввел представление об открытой системе,
подчеркивая, что «только активное использование внешней среды обеспечивает сохранность
системы». В русле представления об открытых системах внешняя среда
рассматривалась им двояко: как одна из главных детерминант организации, и в то же время,
как источник неопределенности. Открытая система у А. А. Богданова не просто
взаимодействует со средой, но будучи структурно связанной с ней, адаптируется
к ее изменениям и коэволюционирует вместе со средой.
Суть новаторских, далеко опередивших свое время, идей А. А. Богданова
заключается в том, что он не только раскрыл содержание понятия «системы»
(«комплекса»), но и предложил механизмы ее формирования. У него система
есть не просто заданное множество элементов с фиксированными отношениями,
а еще и процесс (или поток процессов) производства составляющих, связанных
циклами развития и деградации. Эта сеть процессов производства составляющих
и понимается под организацией системы, тогда как структура есть особый
пространственно-временной образ (паттерн) произведенных составляющих. Иными
словами, система рассматривается не как нечто застывшее, а как процесс
постоянных преобразований, связанных с непрерывной сменой состояний равновесия.
Этот процессуальный взгляд на организацию сложных систем, предполагающий все
большую полноту функционального использования их свойств и структур,
можно считать краеугольным камнем теории MAC как эволюционирующих систем
с активными, автономными агентами.
В основе тектологии лежат понятия формирования и регулирования
динамических комплексов (систем). Вводятся три типа комплексов: организованные,
дезорганизованные, нейтральные, причем утверждается, что эта таксономия
зависит от наблюдателя и контекста. По сути дела, А. А. Богдановым сформулирован
принцип относительности в теории систем.
Для описания закономерностей функционирования и развития систем А. А.
Богданов ввел понятия динамического равновесия, прогрессивного и консервативного
отбора, регулятора и бирегулятора. Прогрессивный отбор, лежащий в основе
возникновения, роста и развития системы, включает в себя механизмы
положительного и отрицательного отбора. В случае положительного отбора в системе
увеличивается неоднородность компонентов и число внутренних связей и, таким
образом, повышается ее сложность и степень автономии частей. В результате,
положительный отбор обычно повышает эффективность системы, но увеличивает
ее неустойчивость. Поэтому необходимы меры, которые ослабляют действие этих
факторов, и охватываются термином «отрицательный отбор». При отрицательном
отборе повышается порядок и однородность, возрастают уровень централизации
и координации отдельных действий. Отрицательный отбор повышает структурную
целостность и устойчивость системы, но одновременно снижает ее
функциональную эффективность. Направленность отбора, от которой зависит формирующаяся
структура системы, относительна стабильна в неизменной среде; наоборот, в
быстро изменяющейся среде отбор идет то в одном, то в другом направлении.
Очевидно, что эти воззрения А. А. Богданова могут применяться для
выделения различных типов MAC. Так «отрицательный отбор», связанный с назначением
агента-руководителя и повышением уровня однородности остальных агентов,
связи между которыми жестко фиксированы, приводит к формированию стабильной

140
Глава 4. Многоагентные системы
MAC с иерархической структурой. Наоборот, «положительный отбор»,
опирающийся на увеличение числа типов агентов и расширение их полномочий, когда
связи между агентами образуются в ходе их деятельности, позволяет построить
гибкую эволюционную MAC гетерархического типа.
Механизмы структурной селекции тесно связаны с определением
рациональной меры децентрализации — централизации системы. Централизация
ускоряет адаптацию и облегчает специализацию элементов системы. Но по мере
роста централизации систему трудно совершенствовать: все сложнее внедрять
инновации в интересах адаптации к изменениям среды. Таким образом, надо
установить некоторый минимальный уровень децентрализации, обеспечивающий
большую защищенность системы (автономия способствует выживанию) и
возможность продуктивного использования инициативы отдельных агентов. Эти
мысли А. А. Богданова об эффективном соотношении децентрализации и
централизации, специализации и реинтеграции элементов в сложной системе оказались
востребованными мировой наукой лишь спустя несколько десятков лет.
По словам А. А. Богданова, организационная деятельность сводится к
соединению и разъединению каких-либо элементов. Это — две важнейшие операции,
всегда используемые при работе с системами, идет ли речь о когнитивных
процессах или практических действиях. Они далеко не симметричны. Все начинается
с соединения (конъюгации). Этот термин А. А. Богданов понимает очень широко:
под него подпадают такие понятия, как сотрудничество, координация,
сопоставление, товарный обмен между предприятиями и т. п. Соединение — первично,
а разъединение — вторично. В частности, никакое различение объектов
невозможно без предварительного сопоставления, что означает их соединение. Данный
принцип приоритета операции соединения предвосхищает положение Г. Саймона
о «синтетической природе» наук об искусственном (см. раздел 1.1).
Им сформулирован важный системный закон «слабейшего звена», по
которому эффективность функционирования системы определяется наименее развитой
подсистемой, т.е. выражаясь современным научным языком, показана ведущая
роль комбинирования подсистем в систему с помощью операции минимума.
С именем А. А. Богданова связана и целенаправленная разработка
организационных структур сложных систем на основе предсказания будущих направлений
их развития и, в первую очередь, развития в кризисных ситуациях. Соединение
комплексов, при которых происходит их организационный кризис и
возникновение качественно новой структуры, осуществляется либо непосредственно, либо
с помощью связующего компонента. Его концепция «коллективной структуры»,
способствующая стиранию граней между управляющими и исполнительными
элементами системы, может считаться прямой предшественницей моделей ге-
терархических систем. Он также утверждал, что чем сложнее организация, тем
больше шансов у нее столкнуться в процессе развития с кризисной ситуацией,
необходимостью структурной перестройки. Спустя много лет эти идеи будут заново
сформулированы и конкретизированы в трудах идеологов реинжиниринга
[Hammer and Champy, 1993; Ойхман и Попов, 1996].
В своих трудах А. А. Богданов четко сформулировал принципы автономного
поведения и близко подошел к идеям современной теории автопоэзиса и замкнутой
круговой организации процессов [Maturana and Varela, 1980]. Так понятие
автономии тесно связано у него с круговоротом, рекурсией и регенерацией. Сохранение
и развитие целостности, индивидуальности системы предполагает ее
саморегуляцию и самообновление, когда при внешних возмущениях она постоянно заменяет
свои собственные составляющие.

4.3. От общей теории систем к многоагентным системам 141
К сожалению, новаторские научные идеи А. А. Богданова не были по
достоинству оценены его современниками, а его фундаментальные труды оставались
невостребованными и неизвестными широкой публике почти весь ХХ-й век,
за исключением лишь последних двух десятилетий. Такое положение дел
объясняется как субъективными, так и объективными причинами. К числу последних
относится довольно тяжелый язык, обилие новых терминов, фрагментарность
и, порою, туманность изложения. Системные идеи А.А.Богданова, в
особенности, представления об открытых и активных системах, механизмах эволюции
и самоорганизации, появились слишком рано и оказались слишком
необычными, непонятными для своего времени. Этим отчасти объясняется тот факт, что
на Западе интерес к ним возник лишь в 70-е гг. Есть и другие, деликатные
моменты. В частности, трудно представить, что Л. фон Берталанфи, будучи учеником
М. Шлика, упоминавшего о А. А. Богданове в своих лекциях, ничего не знал
о тектологии (немецкий перевод книги вышел в Берлине в 1926-1928 г.), но он
никогда не ссылался на А. А. Богданова [Zeleny, 1988].
Главной причиной долгого забвения сочинений А. А. Богданова в нашей
стране стали его серьезные философские разногласия с В.И.Лениным. После
публикации А.А.Богдановым в 1905 г. работы «Эмпириомонизм» В.И.Ленин
подверг уничтожающей критике его воззрения в книге «Материализм и
эмпириокритицизм» A908 г.) ]\ Поскольку труды А. А. Богданова ставили под сомнение
сами основы марксистской философии, в советское время появился негласный
запрет на их переиздание и распространение богдановских идей.
В 80-е - 90-е гг. ХХ-го века труды А. А. Богданова получили широкое
международное признание. В 1980 г. вышел сокращенный английский перевод «Эссе
по тектологии». Статьи М. Зелены [Zeleny, 1988] и Дж. Горелика (переводчика
книги А. А. Богданова на английский язык) о тектологии и роли А. А. Богданова как
одного из создателей современной системной методологии были опубликованы
в таких авторитетных международных журналах как "General Systems" и
"Cybernetics and Systems". Был организован ряд международных семинаров по научному
наследию А. А. Богданова. Например, в 1995 г. в Университете Восточной Англии
(Норвич, Великобритания) состоялась конференция «Истоки и развитие
организационной науки в России», где главное место занимало обсуждение основ
тектологии.
По мнению Н.Н.Моисеева [Моисеев, 1987], М. Зелены [Zeleny, 1988] и др.
богдановская тектология включает в себя общую теорию систем Л. фон
Берталанфи как частный случай. В целом, можно сделать вывод, что богдановский вариант
общей теории систем и организаций заслуживает самого внимательного
изучения и осмысления в контексте разработки современных многоагентных систем
и технологий.
4.3. Развитие системного движения: от общей
теории систем к многоагентным системам
На заре общей теории систем и формирования широкого системного
движения в 50-е - 60-е гг. ХХ-го века было сформировано и вошло в научный обиход
' Одним из немногих современников А. А. Богданова, высоко оценивших и использовавших
методологию всеобщей организационной науки, был Н. И. Бухарин. По свидетельству Н. И. Бухарина,
В. И.Ленин так и не прочитал «Тектологию».

142
Глава 4. Многоагентные системы
классическое представление о системе как множестве связанных между собой
элементов. Согласно Л. фон Берталанфи система есть совокупность элементов,
находящихся в определенных отношениях друг с другом и со средой [Берталанфи
фон, 1969]. По мнению А. Д. Холла, система — это множество объектов вместе
с отношениями между объектами и между их атрибутами [Холл и Фейджин, 1969].
По определению А. И. Уемова система есть множество вещей, свойств и
отношений. Принадлежность системы к тому или иному классу выражается с помощью
совокупности определяющих свойств. Затем Ю. А. Урман цев выделил два типа
отношений: отношения между элементами и законы композиции.
Все эти определения говорят о том, что система выражается через элементы
и отношения (связи) между ними, что можно формально записать в виде
S = (X,R), D.1)
где X — множество элементов, a R — множество отношений. Отсюда видно,
что классификацию сложных систем можно построить: а) по типу элементов,
образующих систему; б) по типу отношений между ними [Клир, 1990].
Здесь элементом называется простейшая неделимая часть системы. Элементы
системы следует отличать от системных единиц. Элемент есть простейшая,
неделимая часть системы, не сохраняющая свойства системы как целого, тогда как
единица сохраняет важнейшие свойства всей системы. В свою очередь, деление
системы на подсистемы связано с вычленением совокупностей взаимосвязанных
элементов, способных выполнять относительно независимые функции,
соответствующие назначению системы.
Отношения или связи в системе можно охарактеризовать типом,
направлением, силой (весом) и пр. Классификацию отношений в системе можно построить
по таким парам признаков как: «симметричность-асимметричность»,
«рефлексивность-нерефлексивность», «транзитивность-нетранзитивность» (см. например,
[Аверкин и др., 1986]). Характерными примерами асимметричных отношений
служат отношения предпочтения или порядка, а симметричных — отношения
сходства и различия. В частности, паритетные или координационные отношения в
системе фиксируют уровень сходства — различия элементов, соединенных
горизонтальными связями. В то же время отношения порядка задают варианты подчинения,
иерархии, когда соответствующие элементы соединяются вертикальными связями.
Асимметричные, вертикальные, иерархические отношения можно
подразделить по направлению на: а) субординационные отношения (направленные сверху
вниз) и б) информирующие отношения (направленные снизу вверх) [Волков
и др., 1987]. По сути дела, связи субординации задают критерии
эффективности системы или назначают ограничения. Отношения субординации определяют
вертикальный контур управления, охватывающий два или несколько уровней.
В свою очередь, связи координации расположены в пределах одного уровня
и задают горизонтальный контур управления.
Исследование сложных, открытых систем предполагает анализ: а) внешних
связей Re системы, т. е. связей вида «среда — система» и «система-среда»;
б) внутренних связей К\ в системе. Основное условие существование системы
предполагает, что суммарные силы связей между ее элементами превосходят силы
связей системы со средой.
В дальнейшем, при определении системы начинает использоваться
понятие цели. Так согласно П. К.Анохину, система есть комплекс взаимодействующих
(и «взаимодействующих», т. е. кооперирующих) элементов, объединенных для
достижения определенной цели [Анохин, 1978]. Цель как «модель потребного
будущего» (по Н. А. Бернштейну) определяет поведение системы в настоящем. Таким

4.3. От общей теории систем к многоагентным системам 143
образом, цель, понимаемая как опережающее отражение желаемого результата,
выступает как системообразующий фактор.
Затем в системной методологии стал активно разрабатываться принцип
относительности, согласно которому любая система и ее фаницы всегда зависят
от наблюдателя (исследователя). Впервые на необходимость учета взаимодействия
между системой и наблюдателем указал еще У. Р. Эшби.
В последнее время в исследовании систем все большую роль ифает
постулат целостности: система есть единое целое, обладающее особыми системными
свойствами, которых нет у элементов или подсистем при любом способе
декомпозиции [Дружинин и Конторов, 1985]. В этом контексте представляет интерес
определение системы по Ж.-Л. Лемуану: система есть некоторая целостность,
которая стремится к достижению целей (получению результатов), находясь в
сложной, изменяющейся среде, путем развертывания деятельности, что предполагает
наличие организации (взаимодействия) и эволюцию без потери индивидуальности
[Le Moigne, 1983].
Кроме того, сегодня все больший интерес начинают привлекать вопросы
возникновения и самосохранения сложных систем, что означает развитие гомео-
статических и синергетических подходов. Гомеостатика — это наука о принципах
и механизмах самосохранения, поддержания равновесия, гармонии в
естественных и искусственных системах. Она связана с исследованием и моделированием
условий, необходимых для устойчивого функционирования систем, содержащих
неустойчивые компоненты. В ее рамках изучаются проблемы живучести,
адаптивности, эффективности функционирования систем различной природы как
в условиях нормы, так и в условиях патологии [Горский, 1998]. Тремя ведущими
принципами гомеостатики являются принципы противоречия, гармонии и аналогии.
В центре внимания гомеостатики находится взаимодействие
противоположностей, «склеивание» и «расщепление» антагонистов, управление внутренними
противоречиями в системах, состоящих из «полярных единиц», а также анализ
возникновения патологий и катастроф в таких системах.
Базовым механизмом самосохранения является гомеостазис, т.е. способность
системы самостоятельно поддерживать в определенных фаницах ряд критических
параметров состояния, определяющих ее область существования (или гомео-
статическую фаницу) [Моисеев, 1995]. Сам термин «гомеостазис», введенный
в научный обиход К. Бернаром и У. Кенноном, означает «остаться таким же»,
т. е. гомеостатическая система остается устойчивой при внешних
возмущениях. Расстояние от гомеостатической фаницы или ширина области гомеостазиса
характеризует уровень самоорганизации (самоопределения) системы, который
регулируется благодаря средствам реактивной и активной автономии (см. раздел 6.7).
Гомеостатом называется структура, поддерживающая гомеостазис.
Четырьмя ключевыми составляющими, необходимыми для существования
гомеостатической системы являются: а) внутренние противоречия; б)
иерархическая организация; в) соподчинение гомеостатов; г) реализация в управлении
принципа регулируемого противоречия (символ китайской монады) [Горский,
1998; Курейчик В. М. и Курейчик В. В. 2000].
В гомеостатике рассмафиваются такие отношения между частями гомеостата
и внешней средой, которые обеспечивают поддержание динамического
постоянства жизненно важных парамефов системы. На наш взгляд, анализ
гомеостатов представляется весьма перспективным способом определения эффективных
Сфуктур MAC.

144
Глава 4. Многоагентные системы
Наконец, синергетику можно определить как «науку о возникающих
системах» [Пригожий, 1985; Хакен, 1985]. Точнее, синергетика есть
междисциплинарное научное направление, изучающее универсальные закономерности
самоорганизации и спонтанного образования упорядоченных структур различной природы.
В центре внимания синергетики находятся критические точки, в которых система
изменяет характер своего поведения
В контексте наук об искусственном синергетика рассматривает
нестационарные состояния, динамику, взаимные переходы, способы разрушения и создания
искусственных систем. В русле MAC речь идет о кооперативном взаимодействии
множества агентов, которое макроскопически проявляется как самоорганизация.
Такие MAC могут путем самоорганизации образовывать новые пространственные,
временные или функциональные структуры...
Рождение структур различной природы синергетика связывает с такими
условиями существования систем как открытость, нелинейность, неравновесность.
Переломный критический момент, связанный с возможными траекториями
будущего развития системы, называется точкой бифуркации, т. е. «разветвления»
возможных путей ее эволюции.
Разработка теории многоагентных систем предполагает синтез идей,
описанных выше. Речь идет о создании открытых и развивающихся систем на основе
активных взаимодействующих элементов — агентов, которые могут зарождаться
в процессах самоорганизации и функционировать в соответствии с гомеостатичес-
кими принципами. При этом взаимодействие агентов рассматривается как основа
для понимания функционирования и эволюции MAC2'.
Взаимодействие между агентами в MAC можно описать на базе
математической теории отношений. В ней классическое n-арное отношение определяется как
подмножество декартова произведения произвольных п множеств:
R С X, х Х2 х ... х Х„ D.2)
Когда же можно указать степень (градацию) проявления этого отношения,
выражение D.2) можно представить в виде нечеткого отношения [Zadeh, 1965; Аверкин
и Тарасов, 1986]
fiR : Xi х Х2 х .
или в более общем контексте как
R : X, х Х2 х
где L — решетка.
Далее будем рассматривать в основном бинарные отношения на множестве
агентов Л, в том числе, обычные
RCAxA D.5)
2^ Ж. Фербе предлагает назвать научно-техническое направление, которое занимается вопросами
разработки многоагентных систем и искусственных организаций, составленных из виртуальных
агентов, взаимодействующих друг с другом и воздействующих на среду, кенетикой [Ferber, 1995]. С его
точки зрения, существует водораздел между традиционными подходами в теории систем и идеями
кенетики. Классические исследования систем опираются на выделение элементов и рассмотрение
взаимосвязей между ними, тогда как в кенетике центральное место занимает исследование структур
взаимодействия между агентами, процессов самоорганизации, связанных с этими взаимодействиями,
а также воздействий агентов на среду.
' Понятие «предикат» играет в теории отношений такую же роль как понятие характеристической
функции в теории множеств. Отметим, что унарный нечеткий предикат представляет собой не что
иное, как нечеткое множество, выражение D.3) для нечеткого отношения есть также определение
п-арного нечеткого предиката, а запись D.6) задает бинарный нечеткий предикат.
хХ„^[0,1]3>
.. х Х„ —> L,
D.3)
D.4)

4.3. От общей теории систем к многоагентным системам 145
и нечеткие отношения
рл : А х А - [0, 1]. D.6)
Так запись aRb означает, что агент а находится в отношении R с агентом
6, а як(а, Ь) понимается как степень интенсивности (сила) проявления этого
отношения.
Пусть Е — единичное (диагональное) отношение, т. е.
Va,b€A М,(а, »)={},' "пробном случае, <47>
а обратное отношение R~]
R-](a,b)=R(b,a), Vayb?A. D.8)
Операция композиции нечетких отношений задается в форме
ДоД, /хд(а,с) = у(/хд(а,Ь)Л/гдF,с)), Va,6,c<=4 D.9)
у
или в общем случае
/*д(а, с) = v(/^(a, 6) * /^F, с)), Va, 6, с G 4. D.10)
у
Основные свойства обычных и нечетких отношений определяются следующим
образом.
Рефлексивность: Е С Д, //д(а, а) = 1, Va € -А. D.11)
Рефлексивное отношение всегда выполняется между агентом и им самим.
Антирефлексивность: Rn Е = 0, /*д(а, а) = 0, Va 6 А D12)
Антирефлексивное отношение выполняется лишь для различных агентов.
Симметричность: R — R~\ А*д(а, Ь) = /хдF, а), V а, 6 € 4. D.13)
Свойство симметричности отношений между агентами означает одновременное
выполнение как прямого отношения aRb, так и обратного отношения bRa.
Асимметричность: R П R'1 = 0, /*д(а, 6) Л /*д(Ь, а) = 0, V а, 6 6 А. D.14)
Из двух соотношений между агентами aRb и ЬДа по меньшей мере одно не
выполнено.
Антисимметричность: R П R~] СЕ, Яд(а, Ь) Л /4д(&, а) = 0,
Va,fc€4, афЬ. D.15)
Оба соотношения между агентами aRb и &Ra выполняются одновременно тогда,
когда х = у.
Транзитивность4Ь RoRCR, /хд(а, с) ^ ^д(а, Ь) * /хдF, с),
Va,b,c€4. D.16)
Свойство транзитивности отношений между агентами а, Ь, с означает, что
из условий aRb и bRc всегда следует aRc. Это свойство для агентов можно
проинтерпретировать следующим образом: если агенты а и с связаны опосредованно
через агента 6, то они могут быть связаны и непосредственно друг с другом,
причем эта прямая связь сильнее, чем опосредованная.
Полнота: R U R~] = А, /хд(а, Ь) У//д(Ь,а) = 1, Va,beA. D.17)
4) В зависимости от вида операции * можно определить несколько различных условий
транзитивности.
11 Зак. 72

146
Глава 4. Многоагентные системы
Таблица 4.1
Основные свойства и соответствующие типы отношений
Свойства отношений
Симметричность (+) —
антисимметричность (-)
+
+
-
-
+
+
—
Рефлексивность (+) —
антирефлексивность (-)
+
-
+
-
+
-
+

Транзитивность (+)
+
+
+
+
Название отношения
Отношение сходства
Отношение различия
Отношение нестрогого
предпочтения
Отношение строгого j
предпочтения
Отношение
эквивалентности
Метрика (расстояние)
Отношение нестрогого
порядка
Отношение
строгого порядка (жесткая
иерархия)
Свойство полноты указывает на то, что всегда выполняется либо прямое aRb,
либо обратное bRa отношение между агентами.
Комбинируя указанные свойства, получаем различные типы отношений
между агентами. Например, симметричное и рефлексивное отношение между
агентами — это отношение сходства, а симметричное и антирефлексивное — отношение
различия. В свою очередь, отношение сходства, удовлетворяющее к тому же
условию транзитивности, есть отношение эквивалентности. Основные типы
отношений сведены в табл. 4.1.
4.4. Главные направления развития MAC
Сегодня основными направлениями в разработке MAC (рис. 4.1) являются
распределенный искусственный интеллект и искусственная жизнь (в узком смысле
этого термина). Ядро РИМ [Huhns, 1987; Bond and Gasser, 1988; Поспелов Г. С,
1988, Пэранек, 1991; Chaib-Draa et al., 1992; O'Hare and Jennings, 1996] составляют
исследования взаимодействия и кооперации небольшого числа интеллектуальных
агентов, например, классических интеллектуальных систем, включающих базы
знаний и решатели. Главной проблемой в РИИ является разработка
интеллектуальных групп и организаций, способных решать задачи путем рассуждений,
связанных с обработкой символов. Иными словами, здесь групповое
интеллектуальное поведение образуется на основе индивидуальных интеллектуальных
поведений. Это означает согласование целей, интересов и стратегий различных
агентов, координацию их действий, разрешение конфликтов путем переговоров;
теоретическую базу здесь составляют результаты, полученные в психологии малых
групп и социологии организаций.
Системы РИИ определяются тремя основными характеристиками: 1)
способ распределения задач между агентами; 2) способ распределения властных
полномочий; 3) способ коммуникации агентов.

4.4. Главные направления развития MAC
147
МНОГОАГЕНТНЫЕ
СИСТЕМЫ
\
РАСПРЕДЕЛЕННЫЙ
ИСКУССТВЕННЫЙ
ИНТЕЛЛЕКТ
MAC образуется
для решения задачи.
Осуществляется
централизованное
управление и координация
действий нескольких
интеллектуальных агентов
1
ДЕЦЕНТРАЛИЗОВАННЫЙ
ИСКУССТВЕННЫЙ
ИНТЕЛЛЕКТ
Исследуется деятельность
автономного агента в динамической
многоагентной среде
Т
ИСКУССТВЕННАЯ
ЖИЗНЬ
Исследуется и моделируются
процессы децентрализованного
управления, эволюции, адаптации
и кооперации в MAC,
состоящей из большого числа
реактивных агентов
Рис. 4.1. Классификация многоагентных систем
Важным разделом РИИ является распределенное (кооперативное) решение
задач (РРЗ) [Durfee, 1988; Rasmussen et al., 1991]. Речь идет о сети слабо связанных
между собой решателей, совместно работающих в целях решения задач, которые
выходит за рамки индивидуальных возможностей. Различные узлы подобной
сети, как правило, имеют неодинаковый опыт (знания, точки зрения) и разные
ресурсы. Каждый узел должен быть способен модифицировать свое поведение
в зависимости от обстоятельств, а также планировать свои стратегии
коммуникации и кооперации с другими узлами. Здесь показателями уровня кооперации
являются: характер распределения задач, объединение различных точек зрения и,
конечно, возможность решения общей проблемы в заданное время.
Второе направление — искусственная жизнь (ИЖ) — в большей степени
связано с трактовкой интеллектуального поведения в контексте выживания,
адаптации и самоорганизации в динамичной, враждебной среде, которая восходит
еще к работам Ж. Пиаже (см. [Пиаже, 1994]).
В русле ИЖ глобальное интеллектуальное поведение всей системы
рассматривается как результат локальных взаимодействий большого числа простых и
необязательно интеллектуальных агентов. Здесь также используются такие термины
как «коллективный интеллект» (collective intelligence — см., например, [Bonabeau
and Theraulaz, 1994]) или «интеллект роя» (swarm intelligence) [Deneubourg et al.,
1993; Адамацкий и Холланд, 1998]. Сторонники этого направления, в частности,
Р. Брукс, Ж.Денебург, Л. Стиле и др. [Brooks, 1991; Heudin, 1994; Steels, 1990 and
1994; Ferber, 1995]), опираются на следующие положения: 1) MAC есть популяция
простых и зависимых друг от друга агентов; 2) каждый агент самостоятельно
определяет свои реакции на события в локальной среде и взаимодействия с другими
агентами; 3) связи между агентами являются горизонтальными, т.е. не
существует агента-супервизора, управляющего взаимодействием других агентов; 4) нет
точных правил, чтобы определить глобальное поведение агентов; 5) поведение,
свойства и структура на коллективном уровне порождаются только локальными
взаимодействиями агентов.
Здесь механизмы реакций на воздействия среды и локальных взаимодействий
в общем случае не включают такие аспекты как прогнозирование, планирование,
11*

148
Глава 4. Многоагентные системы
обработка знаний, но подчас позволяют решать сложные задачи. Типичными
примерами такого коллективного интеллекта из биологии являются колонии
муравьев, пчелиные ульи, стаи птиц и т. п. Соответственно, здесь базовыми
дисциплинами могут служить различные области биологической науки и, в первую
очередь, эволюционная теория и генетика.
Часто проводятся принципиальные различия между распределенным и
децентрализованным ИИ (рис. 4.1) [Demazeau and Muller, 1990]. Идеология
распределенного решения задач [Durfee, 1988; Huhns, 1987; Rasmussen et al., 1991]
предполагает главным образом разделение знаний и ресурсов между агентами
и, в меньшей степени, распределение управления и властных полномочий; как
правило, здесь постулируется наличие единого органа управления,
обеспечивающего принятие решений в критических (конфликтных) ситуациях. Исходным
объектом исследования является общая сложная проблема, для решения которой
формируется группа агентов, строится общая концептуальная модель и вводятся
глобальные критерии достижения цели.
В полностью децентрализованных системах управление происходит только
за счет локальных взаимодействий между агентами. Здесь базовым объектом
исследования оказывается уже не распределенное решение некоторой общей задачи,
а деятельность автономного агента в динамическом многоагентном мире (а также
координация деятельности различных агентов). При этом наряду с
распределенными знаниями и ресурсами, описываются локальные задачи отдельных агентов,
решаемые на базе локальных концептуальных моделей и локальных критериев.
В целом, задачи агентов в MAC могут изменяться от чисто
индивидуальных до совместных, а сами агенты могут изменяться от узкоспециализированных
до универсальных (автономных). По этим двум критериям — возможности агентов
и характер задачи — можно выделить следующие ситуации взаимодействия
агентов в MAC: а) сосуществование (автономные агенты, индивидуальные задачи);
б) сотрудничество (автономные агенты, совместная задача); в) совместная
работа (специализированные агенты, совместная задача); г) распределенная работа
(специализированные агенты, индивидуальные задачи).
4.5. Основы распределенного искусственного
интеллекта
При решении сложной задачи часто бывает необходимо разбить ее на
подзадачи, которые поручаются отдельным агентам. Несколько агентов могут рассмотреть
задачу с различных точек зрения и затем объединить полученные результаты.
В частности, функциональное распределение прикладных программ позволяет
преодолеть ряд недостатков классических экспертных систем. В них
централизация знаний в единой базе знаний порождает проблемы полноты и
непротиворечивости. При этом добавление новых знаний часто приводит к нарушениям
согласованности знаний. Напротив, агент в РИИ может рассматриваться без учета
характеристик других агентов, и проблема непротиворечивости знаний
уступает место задачам обеспечения кооперации и коммуникации агентов. Во многих
случаях требуется и физическое распределение задачи, например, в случае
использования группы роботов.
Типичная схема распределенного решения задач несколькими агентами
(рис. 4.2) включает следующие этапы:

4.5. Основы распределенного искусственного интеллекта 149
Декомпозиция
Распределение подзадач
между агентами-исполнителями
Решение подзадач
.9999
Общая задача
Агент-субординатор: разбиение
общей задачи на подзадачи
Подзадачи
Множество
агентов-исполнителей
Частные результаты
Агент-интегратор
Общий результат
Рис. 4.2. Распределенное решение задачи
1) агент-субординатор (руководитель, центральный орган) проводит
декомпозицию исходной проблемы на отдельные задачи;
2) эти задачи распределяются между агентами-исполнителями;
3) каждый агент-исполнитель решает свою задачу, подчас также разделяя ее
на подзадачи;
4) для получения общего результата производится композиция, интеграция
частных результатов, соответствующих выделенным задачам. За общий результат
отвечает агент-интегратор (чаще всего, это тот же агент-субординатор).
Двумя важнейшими аспектами распределенного искусственного интеллекта
являются распределение задач между агентами и объединение результатов [Durfee,
1989]. Так на этапе декомпозиции один-единственный агент может провести
разбиение задачи на подзадачи, но не способен найти их решения ввиду ограничений
по опыту и ресурсам. Возникает ситуация распределения задач. После получения
частных результатов, встает проблема их согласования и интеграции.
Здесь основными критериями эффективности РРЗ являются время решения
и соответствие подзадачи возможностям конкретного агента-исполнителя. При
наличии некоторого несоответствия агент-исполнитель может провести
дальнейшее расчленение задачи, обратиться за помощью к другими
агентам-исполнителям и т. п.
В случае РРЗ агент-субординатор может прибегать к двум противоположным
стратегиям:

150 Глава 4. Многоагентные системы
• подбор агентов-исполнителей, наиболее пригодных для решения конкретных
подзадач (подбор агента для решения подзадачи);
• подбор наиболее подходящей подзадачи для данного агента-исполнителя
(подбор подзадачи для агента).
Таким образом, фундаментальными особенностями социальной группы в РИИ,
т. е. группы, составленной из искусственных агентов, сотрудничающих во имя
достижения общей цели, являются социальная структура и распределение ролей между
агентами. При этом социальная структура образуется в результате назначения
ролей. Когда агент получает свою роль, на его деятельность накладываются
ограничения типа «разрешения» и «ответственности». В соответствии с таким
подходом, организация создается и развивается «изнутри» системы. Глобальная
структура формируется путем интеграции элементов, прямо связанных с
агентами. Все сообщество с его социальной структурой функционирует потому, что
агенты играют определенные социальные роли, что приводит к достижению
общественных целей.
К числу главных теоретических проблем РИИ относятся [Gasser, 1991]:
• Описание, декомпозиция и распределение задач между агентами в MAC.
Синтез (композиция) решений.
• Обеспечение взаимодействия, коммуникации агентов в MAC. Построение
языков и протоколов коммуникации.
• Согласование решений и координация действий агентов. Планирование
в MAC. Разрешение конфликтов между агентами из-за ресурсов.
• Описание представления агентами своих внутренних состояний, а также
рассуждений о знаниях, планах и действиях других агентов.
• Описание различных точек зрения, целей и предпочтений агентов в интересах
представления их в MAC.
В русле РИИ и ДцИИ выделяются следующие основные научные
направления [Ferber, 1995; Тарасов, 2000]:
• поведенческое направление, связанное с моделированием разумного
(нормативного, ситуационного и рефлексивного) поведения агентов в MAC; данное
направление восходит к пионерским работам отечественных ученых: В. А. Ле-
февра в области рефлексивного поведения [Лефевр, 1973], Д.А.Поспелова
в области теории гиромата и построения фреймов поступков [Поспелов
и Пушкин, 1972; Гаазе-Рапопорт и Поспелов, 1987; Поспелов и Шустер,
1990];
• организационное направление, опирающееся на современные подходы общей
теории систем и организаций (см. главу 6), включая
функционально-структурный и эволюционно-органический подходы; характерными примерами
реализации этих подходов служат метод аналитического описания
организаций [Pattison et al., 1987], разработка структуры социальной группы
в РИИ [Werner, 1989] и моделирование властных функций в искусственных
системах [Castelfranchi, 1990];
• лингвистическое направление, связанное с моделированием речевых актов как
основы построения протоколов коммуникации между агентами (см. главу
8); оно происходит от теории речевых актов, предложенной Дж. Остином,
развитой Дж. Серлом и формализованной в виде автоматной модели Т.
Виноградом и Ф. Флоресом [Winograd and Flores, 1986]; эта же теория лежит
в основе языка взаимодействия агентов KQML (Knowledge Query Manipulation
Language — см., например, [Finin et al., 1997]);

4.6. Искусственная жизнь
151
• логико-семиотическое направление, связанное с моделированием ментальных
свойств (или интенсиональных характеристик) агентов на основе
неклассических логик (см. главу 7);
• теоретико-игровое направление исследования взаимодействия агентов; к
числу его истоков относится, в частности, определение устойчивых стратегий
поведения агентов в ситуациях равновесия по Парето и Нэшу (механизм
поиска таких ситуаций — важное средство самоорганизации коллективного
поведения агентов); кроме того, здесь важное место занимает построение
функций полезности для различных стратегий взаимодействия агентов;
• построение моделей распределенных систем на базе сетей Петри;
• программистское направление, истоки которого восходят к работам К. Хьюитта
по языкам акторов [Hewitt, 1997] и методам параллельного
программирования; сюда же относятся подходы агентно-ориентированного
программирования [Shoham, 1993].
4.6. Искусственная жизнь
Жизнь — отражение лунного лика в воде,
Сфера, чей центр — повсюду, окружность — нигде...
Константин Бальмонт. «Индийские травы»
4.6.1. Модели коллективного поведения автоматов
Рассмотрим MAC, состоящую из простейших реактивных агентов, которые
способны достигать поставленных целей, согласовывать индивидуальные цели
с общей целью всего коллектива, осуществлять распределение функций и
ресурсов. Кроме того, остановимся на способности коллектива к саморегулированию
по численности: задача заключается в оптимизации численности коллектива
таким образом, чтобы повысить «уровень жизни» каждого агента. Это
достигается благодаря установлению эффективного соотношения между числом агентов
и объемом ресурсов внешней среды.
Впервые подобные задачи решались примерно 40 лет назад М. Л. Цетлиным
и его школой с использованием вероятностных обучающихся автоматов [Цет-
лин, 1961 и 1969; Стефанюк, 1963]. Основы поведения обучающихся автоматов,
способных адаптироваться к среде, можно представить следующим образом.
Автомат может воспринимать два входных сигнала: поощрение (удовлетворительное
состояние агента в среде) и наказание (неудовлетворительное состояние агента
в среде). Состояние автомата соответствует некоторому решению,
принимаемому им в процессе взаимодействия со средой (другими автоматами). В процессе
адаптации на основе откликов внешней среды автомат переходит в состояние,
соответствующее лучшему решению.
Концептуальная схема работы подобной MAC такова. Коллектив из п
автоматов взаимодействует со средой (рис. 4.3). Каждый из них делает это
самостоятельно, ничего не зная не только о действиях других членов коллектива,
но и об их существовании (фактически, это означает условие безразличия агентов

152
Глава 4. Многоагентные системы
АВТОМАТ 1 АВТОМАТ 2 АВТОМАТ Я
1Ж_±1
СРЕДА
JJ...
Рис. 4.3. Общая схема модели коллективного поведения автоматов
друг к другу). Для подобного агента остальные участники коллектива как бы
растворяются в окружающей среде, выступая по отношению к данному автомату как
ее часть. В то же время коллектив автоматов может пониматься как единое целое.
Его удобно интерпретировать как многоклеточный организм, который, будучи
составленным из большого числа клеток, казалось бы независимых друг от друга,
все же выступает как единое целое, объединенное общими целями и задачами.
При этом совместное функционирование простых автоматов в сложной среде
способно обеспечить устойчивое существование всего коллектива, который можно
рассматривать как организацию, формируемую взаимодействующими агентами.
Здесь простейшим примером служит автомат с линейной тактикой
(возможный вариант его реализации показан на рис. 4.4). Число «лепестков ромашки»
на рис. 4.4. равно числу действий, доступных автомату. В каждом лепестке
выделены устойчивые состояния (в нашем примере 4), в которых может находиться
автомат. В любом из состояний, образующих лепесток, автомат устойчиво
выдает в среду сигнал действия, приписанного данному лепестку. Смена состояний
происходит с учетом сигналов оценок этих действий, поступающих от внешней
среды. Это двоичные сигналы: либо штраф, либо поощрение.
На рис. 4.4 в каждом лепестке ромашки имеются по четыре состояния. Выбор
этого числа состояний произволен. Подобный лепесток может содержать любое
другое количество состояний. Обозначим это число через q, оно называется
глубиной памяти автомата. Чем больше параметр q, тем инерционнее автомат,
ибо тем большая последовательность штрафов вынуждает его к смене действий.
Глубина памяти автомата q = 4
> переход по штрафу
> переход по поощрению
Действие dx
Действие d2
Действие dz
Рис. 4.4. Автомат с линейной тактикой

4.6. Искусственная жизнь
153
Рис. 4.5. Автомат Роббинса
Еще один автомат, предложенный Г. Роббинсом, показан на рис. 4.5. Он
похож на автомат с линейной тактикой, и действует при получении наказания
аналогично. Однако при получении сигнала поощрения его поведение резко
отличается от поведения автомата с линейной тактикой. Такой автомат можно
назвать «доверчивым».
Рассматривая взаимодействие автоматов как функционирование некоторой
MAC, мы должны рассматривать среду как нестационарную. В каждый момент
принятия автоматами решений их среда представляет собой как бы мгновенную
картинку состояния динамической среды. Эти картинки, меняясь, воссоздают
динамическую среду. С помощью генерируемой последовательности случайных
чисел с нормальным распределением выбирается реакция среды в зависимости
от того, будет ли выпавшее число больше или меньше границы,
определяющей получение реакции «поощрение» или «наказание». Изменение положения
границы определяет изменение вероятностей получения реакции «поощрение»
или «наказание», а, следовательно, и наличие динамики среды. В свою очередь,
положение границы зависит от успешности или неудачи принятия решений всем
коллективом автоматов.
Как проявляется способность коллектива простейших автоматов к
саморегулированию (достижению некоторого оптимума) по численности в динамической
внешней среде? Чтобы исследовать это, М.Л. Цетлин вначале устанавливал
некоторые параметры среды, а потом отслеживал поведение коллектива автоматов
в данной среде, определяя их общую линию поведения, а также характер
приближения к оптимальной численности в среде, задаваемой конкретными условиями.
Затем характеристики среды изменялись, и коллективное поведение изучалось
в новых условиях. Изменение характера среды в основном сводилось к
изменению вероятностей получения простейшими автоматами реакции «наказание»
и «поощрение». Именно эти вероятности служат для определения среды как
«дружелюбной», «нейтральной» или «враждебной», что уже в свою очередь влияет
10 3ак.72

154
Глава 4. Многоагентные системы
на поведение автоматов, их способность к размножению, выбор главной линии
поведения (действие и глубина) и, в конечном итоге, на численность коллектива.
Оптимум численности коллектива характеризуется некоторой величиной,
называемой «уровнем жизни». Он определяется как отношение общего количества
«поощрений», полученного коллективом на данном шаге моделирования, к
общему количеству автоматов (агентов) в сообществе на данном шаге моделирования.
Таким образом, эффективность (жизнеспособность) данного коллектива задается
«уровнем жизни» коллектива, который складывается из «уровней жизни»
отдельных его членов. Чем больше «поощрений» получает сообщество, тем, казалось
бы, выше его «уровень жизни». Но это вовсе не значит, что «уровень жизни»
отдельных агентов также достигает своего наиболее высокого значения. В целом,
совершенство организационной структуры коллектива следует поставить в
зависимость от «уровня жизни» каждого отдельного агента (определяемого долей
от общего количества «поощрений», полученного коллективом выше).
Ключевыми характеристиками рассмотренной модели коллективного
поведения являются понятия рандомизации, самоорганизации и распределенности.
Эта модель представляется достаточно перспективной для задач,
характеризующихся большим количеством взаимодействий агентов с относительно простыми
функциями и неизвестными вероятностными характеристиками. Можно смело
утверждать, что модели коллективного поведения М. Л. Цетлина были
исторически первым толкованием идей искусственной жизни.
4.6.2. От коллективного поведения к искусственной жизни
В современных науках об искусственном одни и те же термины подчас
характеризуются различной «сферой действия». Смысл их может видоизменяться
при употреблении в различных контекстах. Это всецело относится и к термину
«искусственная жизнь», который употребляется как в узком, так и широком
смысле слова.
Искусственная жизнь (ИЖ) в узком смысле есть раздел теории и приложений
многоагентных систем, где изучаются вопросы возникновения интеллектуального
поведения на основе локальных взаимодействий агентов. При этом сами агенты
могут быть необязательно интеллектуальными (а чаще всего, и не являются
таковыми). В этом плане термин «искусственная жизнь» относится к полностью
децентрализованным системам коллективного поведения.
Здесь анализ и моделирование искусственных агентов опираются на их
представление как виртуальных организмов, находящихся в динамическом равновесии
со средой, или их трактовку как «социальных агентов» в некоторой искусственной
популяции. Последнее направление активно разрабатывается в контексте
исследований возникновения и развития коллективного интеллекта в искусственных
роях [Deneubourg et al., 1993; Mallonas, 1994].
Искусственным роем называется множество мобильных искусственных
агентов, способных взаимодействовать друг с другом, формировать и перестраивать
функциональные паттерны (образы ситуации) и совместно решать различные
задачи путем параллельных действий. Иными словами, рой представляет собой
динамическую сеть взаимодействующих агентов, в которой происходят
согласованное восприятие сигналов и воздействие на среду.
Основными принципами формирования интеллекта роя являются: а)
принцип соседства; б) принцип определения качества среды обитания; в) принцип
разнообразия ответных реакций в рое; г) принцип устойчивости роя; д) принцип
адаптации.

4.6. Искусственная жизнь
155
Особи в рое должны находиться очень близко (по соседству) друг от
друга и коллективно отвечать на стимулы из среды в соответствии с критерием
максимума эффективности групповой деятельности. Группа особей должна быть
способной не только к локальным взаимодействиям, но и определению ряда
других жизненно важных факторов, таких как качество ресурсов (пищи) или
безопасность того или иного места обитания. Кроме того, искусственная
колония не может быть слишком узко специализированной и ограничиваться лишь
одним ответом на внешний стимул. Для эффективной компенсации
возмущений со стороны реального мира группа особей в рое распределяет свои ресурсы
и одновременно проводит подготовку нескольких решений.
В соответствии с принципом устойчивости, поведение роя не должно
серьезно меняться при малейших изменениях среды. Однако, когда в силу резких
воздействий среды, изменение поведения становится для роя предпочтительным,
искусственная колония должна осуществить коллективную адаптацию и поменять
свои ответы на внешние сигналы.
Искусственная жизнь в широком смысле есть очень обширная
междисциплинарная научно-техническая область, в которой проводятся работы по созданию
и исследованию искусственных организмов и систем, реализующих
принципы и механизмы организации живого. Она включает в себя разделы биологии
и кибернетики, вычислительной техники и программирования, робототехники
и искусственного интеллекта, химии и математики, физики и синергетики, и т.д.
(рис. 4.6).
Рис. 4.6. Основные дисциплины, формирующие
научно-практический комплекс «Искусственная жизнь»
Среди областей физики с ИЖ связаны, в первую очередь, неравновесная
термодинамика, статистическая физика и квантовая механика, а из числа
химических моделей в основном привлекаются схемы автокатализа и автокаталитические
сети, модели биохимического синтеза. На стыке робототехники и ИЖ находятся
10*

156
Глава 4. Многоагентные системы
проблемы разработки интегральных роботов и автономных исполнительных
микроорганизмов. Из разделов математики наибольшее применение в ИЖ нашли
теория нелинейных систем, теория игр, фрактальная математика. К гомеоста-
тическим и синергетическим аспектам ИЖ относятся модели самосохранения
(гомеостаты), модели самоорганизации на основе теории катастроф, концепции
возникновения порядка из хаоса. Наконец, исследования роли
информационных и интеллектуальных процессов в поведении живых организмов предполагают
обращение специалистов по ИЖ к смежным областям кибернетики и
искусственного интеллекта. Здесь подходы ИЖ опираются на теорию сложности и теорию
(клеточных) автоматов, модели нейронных сетей и генетических алгоритмов,
теорию агентов и MAC.
4.6.3. Истоки и проблемы искусственной жизни
Все неживое хочет жить.
Мир согревать своим дыханьем,
Страдать, безумствовать, грешить...
Жизнь возникает из желанья.
Феликс Кривин. «Круги на песке»
Истоки этого направления восходят к работам Дж. фон Неймана по теории
самовоспроизводящихся автоматов [Нейман фон, 1971], А. Н. Колмогорова
[Колмогоров, 1965] и Дж. Чэтена по теории сложности, А.А.Ляпунова по
биокибернетике, И. Пригожина по синергетике [Пригожий, 2002], Б. Мандельброта
по фрактальной математике [Mandelbrot, 1977] и др. Так еще А. Н. Колмогоров
в своем докладе «Автоматы и жизнь», впервые прочитанном в Политехническом
музее в 1961-м году, утверждал, что «если свойство той или иной материальной
системы "быть живой" будет определено чисто функциональным образом, то
придется признать в принципе вполне осуществимым искусственное создание
живых существ» [Колмогоров, 1964; с. 11]. Иными словами, если искусственная
организация в некотором смысле эквивалентна живому организму, а функции
на выходе этой системы и обычной биологической структуры одинаковы, то
такая модель может служить аналогом живой системы. Аналогично, работая над
вопросами теории самовоспроизводящихся автоматов, Дж. фон Нейман показал,
что одно из важнейших свойств живых систем — самовоспроизведение — можно
объяснить особыми конфигурациями клеточных автоматов.
Сам термин «Искусственная жизнь» и базовые формальные модели этого
направления связаны с публикациями Дж. Конвэя конца 60-х гг. (когда он начинал
работать над своей «Игрой жизни») [Berlekamp et al., 1982]. По сути дела им
исследовались клеточные автоматы с двумя возможными состояниями — активным
и пассивным, которые были метафорически названы «живым» и «мертвым». Затем
Конвэй расширил свою метафору и стал объяснять правила перехода из одного
состояния в другое в терминах «рождение», «смерть» и «выживание». Позже эту
метафору использовал К.Лэнгтон в своей диссертации, защищенной в
Мичиганском университете, где он писал: «Клеточные автоматы открывают нам логические
миры, внутрь которых мы можем поместить искусственные молекулы в форме
виртуальных автоматов. Как только виртуальные автоматы достигнут
вычислительной мощности, достаточной для выполнения функций первичных биомолекул,

4.6. Искусственная жизнь
157
появится определенная возможность внедрения "молекулярной логики жизни"
на уровне клеточных автоматов. Искусственная жизнь (ИЖ) станет возможной
внутри этих высокопараллельных компьютерных структур» (см. [Langton, 1988]).
Официальное рождение ИЖ как отдельного научного направления
датируется сентябрем 1987 г., когда К.Лэнгтон организовал первый междисциплинарный
рабочий семинар по синтезу и имитационному моделированию живых систем
в Центре нелинейных исследований Лос-Аламосской национальной
лаборатории. Материалы этого семинара были опубликованы Университетом г. Санта-Фе
под названием «Искусственная жизнь» в шестом томе "Studia in the Sciences of
Complexity" [Langton, 1988]. К настоящему времени проведено уже семь
традиционных конференций с подобным названием (см., например, [Langton and
Shimohara, 1996; Bedau et al., 2000]).
В целом, ИЖ интересуется не столько изучением многообразия
биологических организмов в реальной жизни, сколько исследованием и компьютерным
моделированием жизни, какой она «могла бы быть» вне ее традиционного
субстрата — белковых соединений и молекул ДНК. Основное допущение специалистов
по ИЖ состоит в том, что сущность жизни определяется не столько свойствами
этого материального субстрата, сколько организацией компонентов и процессов
в целостную систему. Соответственно, ИЖ занимается, в первую очередь,
изучением и компьютерной имитацией общих закономерностей организации жизни
на произвольном носителе (см., например, [http://alife.santafe.edu/]).
Тем не менее, естественным фундаментом работ по ИЖ служат биологические
дисциплины, позволяющие вычленить основной круг понятий, рассматриваемых
и моделируемых в ИЖ: самовоспроизведение, эволюция, естественный и
искусственный отбор, генетическая связь, морфогенез, онтогенез и филогенез, генотип
и фенотип, хромосома, организм, популяция и пр. Среди основных проблем ИЖ
можно указать:
• определение, функциональный анализ и имитацию важнейших свойств и
закономерностей организации живых систем;
• компьютерное моделирование структуры и поведения живых организмов и их
сообществ;
• модификацию живых организмов, построение биотехнических систем;
• разработку искусственных организмов (агентов), в частности, виртуальных
существ и аниматов, создание эмергентных децентрализованных многоагент-
ных систем;
• построение виртуальных популяций и ценозов;
• моделирование эволюционных процессов в естественных и искусственных
системах;
• моделирование ситуаций и сцен в условиях виртуальной реальности;
• разработку роботов новых поколений, в частности, эволюционных роботов
и формирование коллективов роботов;
• построение генетических и иммунологических алгоритмов.
Остановимся подробнее на первых двух проблемах. Еще Аристотель заметил,
что «живое существо способно пропитать себя, размножаться и разлагаться».
Фундаментальными свойствами живых систем являются самосохранение,
самовоспроизведение, саморегуляция и самоорганизация. Затем уже Ч.Дарвин показал, что
жизнь предполагает обладание такими свойствами, которые обеспечивают
эволюцию на основе механизмов мутаций, выживания и естественного отбора. Согласно

158
Глава 4. Многоагентные системы
эволюционной теории, главным механизмом развития*служит естественный
отбор организмов, получивших «положительные» мутации. Эти идеи нашли свое
отражение в работах по эвоинформатике и генетическому моделированию [Бука-
това, и др., 1991; Курейчик, 1998]. В современных условиях неоэволюционный
подход может опираться и на принципы экобионики — формирующейся сегодня
комплексной научной дисциплины, связанной с идеями коэволюции техники
и биосферы [Каганов, 1999].
4.6.4. Некоторые модели искусственной жизни
«Человек упрямый и склонный к парадоксам мог по-прежнему сомневаться, что
Океан — живой. Но опровергнуть существование его психики — безразлично, что
понимать под этим словом, — было уже нельзя. Стало очевидным, что Океан
отзывается на наше присутствие... Начались поиски проявления сознательной воли,
целенаправленности процессов и действий, мотивированных внутренними
потребностями Океана».
«Живой Океан действует, да еще как! Неслучайно отнесенный к классу ме-
таморфных тел, он занят тысячекратными превращениями — "онтологическим
автометаморфозом". Его движущаяся поверхность дает начало самым различным
формам— "городревам"и "долгунам", "грибовикам"и "мимоидам", "симметриадам"
и "асимметриадам", "хребетникам" и "мелькальцам". Но целенаправленность —
адаптационная, познавательная или какая-либо другая — нередко бурных извержений
иплазматического творчества" остается абсолютной загадкой».
Эти строки, формирующие зрительный образ эволюционирующего
автономного сверхорганизма, принадлежат перу известного польского
писателя-фантаста Станислава Лема. Примерно сорок лет назад он написал роман «Солярис»
о планете, населенной одним обитателем, — «гомеостатическим, мыслящим
Океаном». Океаном, воплощающим в себе планетарный разум. Океаном активным,
способным изменять субатомную структуру, модифицировать некоторые узлы
погружаемых в него приборов, и даже посылать изучающим его людям «гостей» —
материализованные образы их ушедших близких.
Бурное развитие глобальной сети Интернет, ее неуклонная
интеллектуализация и «оживление» постепенно делает эти фантастические картины
действительностью. В частности, тайнам слияния трех «искусственных океанов»
(интеллектуальных, сетевых и биотехнологий) посвящен организованный в 90-е гг.
международный Интернет-проект "Principia Cybernetica Project" [http://pespmcl.
vub. ас. be/]. Одной из центральных тем обсуждений в рамках этого проекта
является «Всемирный мозг». Этот термин и соответствующее направление
активно продвигается Ф. Хейлигхеном (см., например, [Heylighen, 2001]). По его
определению, «Всемирный мозг» — это метафорическое название возникающей
синергетической интеллектуальной сети, формируемой человечеством на основе
использования компьютеров, баз знаний и связей, которые объединяют все это
в единое целое. Эта сеть представляет собой сложную, самоорганизующуюся
систему, которая не только обрабатывает информацию, но и постепенно
приобретает функции, сходные с функциями мозга: принятие решений, решение
проблем, обучение, формирование новых соединений и открытие новых идей.
В основе разработки «технологии Всемирного мозга» лежат сложные
интеллектуальные системы в сети Интернет, в первую очередь, многоагентные системы
и эволюционные интеллектуальные организации.
Одним из наиболее интересных примеров моделей искусственной жизни
в сети Интернет служит модель эволюции и самоорганизации популяции искус-

4.6. Искусственная жизнь
159
ственных агентов, «живущих» в сети, разработанная В. Г. Редько и Б. Н. Гертзе-
лем [Гертзель и др., 2001]. Она опирается на модель эволюционного
происхождения целенаправленного адаптивного поведения, развивающую идеи
П.К.Анохина [Анохин, 1978] (см. также раздел 7.2), и разработки фирмы Webmind,
ориентированные на реализацию интеллектуальных систем в среде Интернет.
Здесь основные допущения таковы:
• Имеется искусственный мир — множество узлов сети Интернет, в котором
живет популяция агентов. Эта популяция состоит из подпопуляций, каждая
из которых находится в своем узле.
• Каждый агент имеет внутренний энергетический ресурс.
• Агенты могут выполнять определенные действия, в ходе которых они
расходуют ресурс.
• Агенты решают в сети определенные задачи, причем в зависимости от
качества решения они получают поощрение или наказание.
• При поощрении агент получает некоторое количество «пищи», что приводит
к увеличению энергетического ресурса агента. При наказании ресурс агента
уменьшается.
• В каждом узле протекает случайный процесс, определяющий приток пищи.
• Агенты могут вести переговоры, передавая друг другу свой «жизненный опыт»
и накапливая знания о мире.
• В каждом из узлов агенты могут скрещиваться, рождая новых агентов. При
рождении нового агента, часть энергии родителей передается потомкам.
• Агенты могут перемещаться по миру, перелетая с одного узла на другой.
• Управление поведением агента осуществляется с помощью двух нейронных
сетей. Первая (основная) нейронная сеть определяет выбор действия,
которое совершает агент в текущий момент времени. Вторая нейронная сеть
используется при решении заданий.
• Геном агента состоит из двух хромосом. Первая хромосома кодирует весовые
коэффициенты основной нейронной сети, вторая хромосома — начальные
весовые коэффициенты (получаемые агентом при рождении) второй
нейронной сети.
• При рождении потомка его геном формируется путем кроссинговера
хромосом родителей (для каждой из хромосом) и слабых мутаций генов. Имеется
процедура обучения второй нейронной сети, основанная на методе
обратного распространения ошибки. Если первая нейронная сеть оптимизируется
только эволюционным путем, то вторая — как посредством эволюции, так
и путем индивидуального обучения.
• Агенты имеют две основные потребности: потребность в энергоснабжении
и потребность в знаниях. Для описания каждой потребности используются
количественные параметры, характеризующие уровень мотивации агента.
В искусственном мире агенты могут выполнять следующие действия: 1)
отдыхать; 2) посылать широковещательные сообщения по всему миру; 3) установить
контакт с каким-либо другим агентом; 4) обменяться с ним информацией; 5)
перелетать в случайно выбранный узел; 6) целенаправленно перелетать в нужный
узел; 7) выполнять задания; 8) скрещиваться.
Расходы внутреннего энергетического ресурса Е агента на выполнение
данных действий ранжированы следующим образом: AJ57) < Д?72 ~ Д#з < Д-^ч <

160
Глава 4. Многоагентные системы
АЕ5 ~ АЕв < АЕ7 ~ АЕъ, т.е. в частности, расходы на отдых минимальны,
а расходы на скрещивание — максимальны. Здесь действия 2-4 являются
коммуникативными. Так с помощью действий 2-3 агент может находить агентов-друзей,
а действие 4 означает содействие — детальный «обмен опытом» между друзьями,
который позволяет агентам увеличивать свои знания о ситуациях в различных
узлах. Последовательность действий типа 5 определяет случайный поиск агентом
«хорошего места» в мире. В то же время, используя свои знания о мире, агент
может целенаправленно выбирать наиболее предпочтительный с его точки зрения
узел и перелетать в него (действие 6).
Остновимся подробнее на действии 7 по выполнению задания. В данном
случае агенты получают поощрения или наказания, которые определяются а)
текущей ситуацией Sk и б) операцией (элементом действия) а,-, которое совершает
агент. При этом ситуации Sfc и операция а; рассматриваются абстрактно: каждая
ситуация характеризуется своим случайным вектором Sk = (<$и,5*2, ••• ,<?*»)>
а выполнение операции a,j означает лишь выбор одной из возможных
альтернатив. Получаемое подкрепление Rkj зависит от ситуации Sk и выбранного действия
a,j. Предполагается также, что подкрепление Rkj зависит и от узла, в котором
находится агент, а именно, подкрепление имеет как общую часть Qkj,
характеризующую мир в целом, так и специфическую составляющую г^-, выражающую
конкретный узел N:
Rkj(N) = Qkj + rkj(N),
где Qkj и rkj(N) — случайные матрицы, элементы которых выбираются в
соответствии с определенной статистикой.
Если подкрепление Rkj положительное, то агент съедает количество пищи,
равное Rkj (когда таковое есть в узле, если же количество пищи меньше Rkj,
то агент съедает всю наличную пищу). При отрицательном Rkj энергетический
ресурс агента уменьшается на величину \Rkj\.
Первая из двух вышеупомянутых нейронных сетей осуществляет выбор
действия агента. Эта сеть является однослойной с логистической активационной
функцией. Каждый нейрон соответствует какому-либо одному действию. На
входы нейронов подаются сигналы из внешней (количество пищи в данном узле,
количество агентов в узле и т. п.) и внутренней (мотивации, характеризующие
стремление к повышению энергетического ресурса и знаний) среды. При этом
агент выбирает то действие, которое соответствует нейрону с максимальным
выходным сигналом.
Вторая нейронная сеть, аналогичная первой, также состоит из одного слоя
нейронов, где каждый нейрон соответствует одной операции. На входы нейронов
подаются компоненты векторов 5*, характеризующие ситуационные сигналы.
Операция выбирается по максимальному выходному сигналу нейронов.
Схема эволюции представляет собой достаточно естественный процесс
рождения и гибели агентов: когда в узле находятся два агента, готовых к
скрещиванию, они производят потомка, если энергетический ресурс какого-либо агента
уменьшается до нуля, то этот агент погибает.
Общая схема управления агентом в эволюционной модели популяции
приведена на рис. 4.7 [Гертзель и др., 2001]. Оптимизация поведения агентов
происходит в результате взаимодействия трех факторов: 1) эволюционного поиска,
2) индивидуального обучения и 3) обмена опытом между агентами в результате
коммуникаций. Штриховые стрелки на рис. 4.7 иллюстрируют, что часть действий
выполняется с помощью коммуникативной системы и решателя задач.

4.6. Искусственная жизнь
161
Другие агенты
Системе управления агента
Коммуникационная система
Табличная база знаний
\т
Обучение
Селектор
действий
Решатель задач
I Потре!
| Внутренняя среда
П
Потребности агента
Внешняя среда
Рис. 4.7. Схема управления агентом в модели эволюции популяции сетевых агентов
Среди наиболее известных и доступных в сети Интернет моделей
искусственной жизни следует отметить:
• Модели динамики жизнеподобных структур в клеточных автоматах,
развиваемые в первую очередь, в работах К. Лэнгтона [Langton, 1988]).
• Модель эволюции простых агентов ECHO Дж. Холланда [Holland, 1994],
в которой агенты взаимодействуют между собой путем скрещивания, борьбы
и переговоров.
• Модель поиска пищи в крупных эволюционирующих популяциях
искусственных муравьев «Муравьиная ферма» (AntFarm) Р.Коллинза и Д. Джеф-
ферсона [Collings and Jefferson, 1992].
• Модель искусственного муравейника MANTA А. Дрогуля [Drogoul and Ferber,
1994].
• Модель эволюции самовоспроизводящихся компьютерных программ Tierra
Т.Рэя[Яау, 1992].
• Модель взаимодействия между обучением и эволюцией Д. Экли и М.Литт-
мана [Ackley and Littman, 1992].
• Компьютерная модель жизнедеятельности искусственных организмов Poly-
World Р.Ягера [Yager, 1994].
Рассмотрим подробнее последние четыре модели.
Модельный организм MANTA
Муравьи представляют столь же важный тестовый «материал» для
искусственной жизни, что и мушки Drosophilia для генетики. Они занимают особое
место в ИЖ благодаря своей индивидуальной простоте при достаточно сложном

162
Глава 4. Многоагентные системы
фупповом поведении. Муравьи способны создавать гибкие динамические
архитектуры там и тогда, где и когда это необходимо, например, специальные пути
между гнездами и источниками пищи или даже «живые мосты» при
перемещении муравьиного роя в лесу. Существует немало имитаторов ИЖ, опирающихся
на моделирование свойств колонии муравьев.
Модель MANTA ориентирована на создание программной среды для
реализации «социальны вычислений». При ее создании использован агентно-ориенти-
рованный подход к программированию.
В модели А. Дрогуля колонии муравьев рассматриваются как сообщества
реактивных агентов. Система MANTA состоит из агентов трех типов:
• агенты — сотрудники (матка, рабочие муравьи, мужские особи);
• зависимые агенты (личинки на разных стадиях развития, коконы);
• «физические» агенты (свет, влажность, мусор, погибшие муравьи).
Свойства агентов объединяются в классы, причем класс, расположенный
ниже по иерархии, наследует свойства верхнего класса. Все агенты в модели
имеют:
а) общую абстрактную форму поведения (класс EtnoBehavior);
б) графическое представление (иконку) (класс Interface Behavior);
в) определенное положение в пространстве (класс Located Behavior);
г) возможность изменять свое состояние как функцию времени (могут
взрослеть) (класс MaturingBehavior).
Таким образом, иерархическая структура используется не только в самом
представлении биологических и физических агентов, но и в их программных
функциях, таких как интерфейс. Например, класс Interface Behavior позволяет
любому агенту сообщить о своем местонахождении так, чтобы оно было отражено
графически на экране монитора. Программисту надо лишь причислить агента
к определенному классу, чтобы присвоить ему все желаемые возможности.
Существуют важные отличия между абстрактными и конкретными
классами. Абстрактные классы предлагают ряд методов и абстрактных структур. При
этом в них существуют методы, которые используются всеми объектами класса.
Например, метод "ReadEnvironment", вызываемый каждым объектом на каждом
цикле моделирования, обеспечивает различные функции: оценку запасов еды или
возраста агента. Конкретные классы определяют параметры, контролирующие
каждую отдельную реализацию абстрактно описанного поведения.
Модель MANTA представляет собой весьма удачную попытку вместить
биологию и физику искусственного мира в рамки объектно- и агентно-ориентиро-
ванных подходов к программированию, где муравьиное сообщество программно
реализовано как иерархия реактивных агентов.
Модель Herra
Модель Tierra является одним из удобных средств изучения эволюции
искусственных организмов на уровне генома. Здесь создается среда, в которой
эволюция по Ч.Дарвину может происходить на компьютере без вмешательства
человека.
Автор модели Tierra — Т. Рэй проводит различия между моделированием
и реализацией искусственной жизни. Популяции структур данных при
моделировании представлены в компьютерной программе как совокупности биологических
объектов (муравьев, клеток и пр.). В реализации ИЖ популяции структур данных

4.6. Искусственная жизнь
163
уже не соотносятся с каким-либо живым организмом или жизненным процессом,
а скорее подчиняются искусственным законам.
Итак, в Tierra организмы — это компьютерные программы,
реализованные на машинном языке. Каждый отдельный организм — это строка команд.
При функционировании организма указатель выполнения команд перемещается
по организму, последовательно исполняя встречаемые команды.
Главной концептуальной особенностью модели Tierra является
конструкция устойчивого набора команд на машинном языке. Программа (организм),
написанная с помощью такого набора команд, может быть изменена путем
случайной мутации или перестановки, но все же остается выполнимой. Иными
словами, организмы способны эволюционировать благодаря применению
генетических операторов. Хорошо известно, что для наборов команд машинного языка,
используемых в традиционном программировании, это совсем не так.
Лучше всего модель Tierra можно представить как виртуальную биосферу,
управляемую в соответствии со своими собственными искусственными законами,
а не как точную копию любой реальной биологической функции.
Машинный код системы Tierra составляют 32 команды. Каждая из них
определена пятиразрядным числом. Таким образом, программа представляет собой
конкатенацию этих чисел. Исходная программа может быть преобразована в
другую программу путем применения генетического оператора, например, точечной
мутации. Зеркальное отражение одного бита дает новую программу. Новая
программа может, к примеру, содержать команду "no operation" там, где старая
программа имела активную операцию типа перехода. Это не представляет
опасности на уровне операционной системы: программа все еще остается выполнимой,
хотя и может потерять свои функциональные характеристики и полезность.
Это свойство изменчивости используется операционной системой Tierra,
чтобы управлять процессом эволюции. Операционные системы контролируют
распределение циклов центрального процессора и памяти для каждой популяции
организмов. На некоторой (определенной пользователем) скорости
операционная система случайным образом вводит мутации в организмы. При обычном
моделировании операционная система «инфицирована» одним организмом,
способным к самовоспроизведению (созданию собственной копии в другой части
памяти). Операционная система многократно обрабатывает организм, позволяя
ему воспроизвести себя. Иногда в потомство вводятся мутации, что приводит
либо к созданию особей, не способных к дальнейшему размножению, либо чаще
к созданию потомства, которое воспроизводится намного быстрее своих предков.
Когда память заполняется организмами, некоторые из них должны быть
уничтожены, иначе процесс моделирования остановится. Операция система
выбирает, какой из организмов уничтожить в соответствии с тем, насколько хорошо
выполняется программа. Например, некоторые команды в определенных условиях
генерируют погрешности. Каждый раз, когда это происходит, операционная
система фиксирует «недостаток». Соответственно, организм удаляется, как только он
накопит некоторое число недостатков (относительно других организмов в
популяции). Результатом является то, что организмы с быстрым самовоспроизведением
и выполнением с малыми погрешностями преобладают.
Следует отметить, что в среде Tierra нет нужды в явном виде определять
функцию приспособленности (fitness). В рамках Tierra существуют два ресурса:
время вычислений («энергия») и величина памяти («территория»). Очевидно, что
организмы, которые захватывают большее количество этих ресурсов, имеют более
высокий потенциал выживания.

164
Глава 4. Многоагентные системы
Модель Tierra — типичный пример восходящего «подхода в искусственной
жизни.
Модель взаимодействия между обучением и эволюцией
В модели Д. Экли и М. Литтмана агенты «живут» в двумерном мире, разбитом
на клетки. В клетках может располагаться сами агенты, трава, хищники, деревья,
камни. Трава служит пищей для агентов. Хищники и другие агенты могут драться
с данным агентом, угрожая его здоровью. Залезая на деревья, агенты становятся
недоступными для хищников. Деревья вырастают и погибают. Если дерево
погибает, и при этом на дереве сидел агент, то агент также умирает. Камни являются
препятствиями для агентов: если агент сталкивается с камнем, то он теряет при
этом часть своего «здоровья». Агенты могут скрещиваться, давая потомков.
Агенты погибают от голода (недостатка энергоресурсов) или теряя здоровье. Погибшие
агенты служат пищей для других агентов и хищников.
Популяция агентов эволюционирует: при скрещивании рождаются
потомки агентов, которые, вообще говоря, отличаются от своих родителей. Агенты
могут обучаться: их действия определяются нейронной сетью, которая может
совершенствоваться в течение жизни агента. Популяция хищников стабильна
и не эволюционирует: все хищники одинаковы и не способны к обучению, их
действия в любой ситуации однозначно определены.
Поведение агентов управляется их нейронной сетью. Входами нейронной
сети являются видимая картина мира и внутреннее состояние агентов (количество
энергии и уровень здоровья). Агенты видят мир вокруг себя на расстоянии до
четырех клеток в четырех направлениях. Поведение агентов определяется выходами
нейронной сети. Мир развивается в дискретном времени. В каждый такт времени
нейронная сеть определяет-выбор действий агента, который очень прост: выбрать
одно из четырех направлений движения. После выбора действия «собственная
судьба» агента в следующий такт времени будет однозначно определена — она
зависит только от того, что есть в целевой клетке (клетке по направлению
движения). Например, агент может просто переместиться в целевую клетку (если эта
клетка пустая), съесть в клетке траву (если она там есть), залезть на дерево (если
в целевой клетке есть дерево, и на нем нет агента), удариться о камень, получить
удар от другого агента или хищника и т.д.
Структура простой нейронной сети агента представлена на рис. 4.8. Она
состоит из двух блоков: 1) блок поведения, т.е. блок, определяющий действия
агента; 2) блок оценки действий, т.е. блок, формирующий цели поведения. Блок
поведения состоит из двух нейронов, выходы которых определяют направление
движения агента (два бита информации — четыре возможных направления).
Блок оценки действий определяет обучающий сигнал. Последний имеет простой
смысл: он показывает, улучшилось или ухудшилось (с точки зрения блока оценки)
состояние агента в данный такт времени по сравнению с предыдущим тактом
в результате выполненного действия.
Нейронная сеть изменяется как в ходе эволюции, так и в индивидуальном
процессе обучения. Геном агента содержит весовые коэффициенты синапсов
блока оценки действий и начальные веса синапсов блока поведения. Эти весовые
коэффициенты изменяются в ходе эволюции. В частности, изменение весов
синапсов блока поведения как раз характеризует обучение, которое происходит
под контролем блока оценки поведения. Веса синапсов блока оценки не меняются
в течение жизни агента. Блок оценки играет роль «учителя» для блока поведения,
причем сам учитель оптимизируется в процессе эволюции.

4.6. Искусственная жизнь
165
Блок поведения,
контролирующий действия агента
Входы
Действия
Обучающий сигнал
Блок оценки действий,
формирующий цели поведения
Рис. 4.8. Структура нейронной сети в модели Д. Экли и М.Литтмана
Для обучения блока поведения применялся вариант метода обратного
распространения ошибки, названный «комплементарным методом обратного
распространения ошибки». Ошибка на выходе каждого нейрона блока поведения
определяется по выходу данного нейрона и сигналу обучения от блока оценки
действий. Этот сигнал обучения может быть как положительным (если блок
оценки решает, что команда с блока поведения улучшает жизнь агента), так
и отрицательным (в противном случае). В соответствии с ошибками на выходах
нейронов корректируются веса синапсов нейронов, аналогично тому, как это
происходит в обычном методе обратного распространения ошибок.
В результате моделирования было показано, что одна эволюция без обучения
плохо обеспечивает адаптацию популяции агентов. Обучение приводит к лучшей
адаптации, но наиболее эффективная адаптация наблюдается в случае совместной
работы эволюции и обучения. В последнем случае находились агенты, которые
не вымирали на протяжении миллиона тактов жизни агентов.
Модель Poly World
В модели «полимира» Л. Ягера искусственные организмы обладают цветовым
зрением, могут двигаться, питаться (и увеличивать тем самым свою энергию),
скрещиваться и бороться друг с другом.
Среда PolyWorld имитируется на плоскости (например, на достаточно
большом «столе»), где могут жить искусственные организмы. По краям этого стола
мир ограничен барьерами так, чтобы организмы не падали вниз. На столе
растут лужайки зеленой травы, которая употребляется агентами в качестве пищи.
Виртуальные организмы способны двигаться прямолинейно, поворачиваться,
поглощать пищу. Борьба двух искусственных организмов заканчивается победой
одного из них. При этом побежденные организмы умирают и превращаются
в пищу. Организмы могут скрещиваться, давая потомков. Если организм вступает
в борьбу, то он краснеет, а если хочет скреститься, то синеет.
Организмы имеют нервную систему, состоящую из искусственных
нейронов. Нейронная сеть управляет поведением организма: регулирует его скорость

166
Глава 4. Многоагентные системы
движения, повороты, воинственность и половую активность, обеспечивает
фокусировку зрения на окружающих объектах. Поедая пищу (зеленые лужайки или
мертвых особей), организмы запасаются энергии. Проявляя активность
(движение, повороты, борьба, скрещивание), организмы расходуют энергию. Если
ресурс организма становится ниже определенного предела, то организм умирает
(и, естественно, превращается в пищу).
Популяция организмов эволюционирует. Размножение организмов
происходит в результате скрещивания, гибель — в результате борьбы или от голода.
Параметры организма (размер, скорость движения, бойцовская сила, основной
цвет и т. п.), а также структура нейронной сети определяются геномом организма.
Потомки организмов наследуют гены родителей (часть генов от одного
родителя, часть — от другого), причем при переносе от родителей к потомкам гены
испытывают малые мутации.
В процессе моделирования эволюции наблюдалось формирование
определенных стратегий поведения, например, «тупая корова», «ленивый каннибал»
и др. Следуя первой стратегии, виртуальный организм движется прямолинейно
с максимальной скоростью, поедает все встречающиеся лужайки пищи и
скрещивается со всеми, кого встретит. Вторая стратегия ассоциируется с метафорой
«ленивый каннибал», поскольку организм крутится на месте, скрещиваясь или
вступая в борьбу с каждым, кто приблизится (поедая соперника в случае победы
или погибая в случае поражения).
В ряде компьютерных экспериментах эволюция приводила к появлению
стратегии жизни «на краю мира»: искусственные организмы циркулировали по или
против часовой стрелки вдоль барьеров, ограничивающих стол, и это приводило
к определенным преимуществам, так как здесь организмы часто находили особей,
с которыми было можно скреститься или побороться.
К числу несомненных достоинств модели PolyWorld относится хорошо
продуманная схема жизнедеятельности организма: естественная реакция на события
в окружающей среде, естественные действия организма и взаимодействия между
организмами. Однако, некоторая «перегруженность» модели деталями, в
особенности, связанными с цветовым зрением, обусловливает сложность нейронной
сети и слабую обучаемость организмов.
К сожалению, модель PolyWorld осталась незавершенной, хотя она обладает
определенным потенциалом для дальнейшего развития.
Обзор компьютерных реализаций ИЖ, стремящихся установить формальные
законы жизни, эволюции и адаптации, можно было бы продолжить. Но и
изложенных в настоящем разделе моделей вполне достаточно, чтобы оценить
исключительную важность этого направления в современной науке.
4.7. Алгебраические модели многоагентных систем
Для формального определения MAC можно взять за основу понятие алгебра-
теской системы по А. И. Мальцеву, которая выражается в виде
AS = (X,n,n), D.18)
где X — непустое множество, называемое носителем или основой системы, П —
множество предикатов, О. — множество операций [Мальцев, 1970]. Очевидно, что
система может быть многоосновной, и в этом случае X = (Хь ..., Хп). Например,
многоагентная система обычно включает как множество агентов, так и множество
объектов, что может быть записано в виде X = (А, О).

4.7. Алгебраические модели многоагентных систем 167
Когда X = А, и с учетом того, что MAC представляет собой открытую систему,
ее в простейшем случае можно выразить как [Demazeau and Costa, 1996]
MAS = (A, E, R, ORG), D.19)
где A — множество агентов; Е = {e} — среда, в которой находится данная MAC;
R — множество взаимодействий между агентами (например, коммуникативные
акты, аукционы и т. п.); ORG — множество базовых организационных
структур, соответствующих конкретным функциям (ролям) агентов и установившимся
отношениям между ними.
Вариант описания MAC с акцентом на ее действия был предложен в
работе [Burkhard, 1993]. Здесь
MAS = (A, ACT, г, L), D.20)
где А — множество агентов; ACT — конечное множество действий в MAC; т :
А —> 2ЛСТ, АСТа = т(а) — множество действий агента a G A, L — подмножество
расширенного множества ACT*, которое описывает поведение всей MAC.
Более общее определение эволюционной многоагентной системы (ЭМАС)
было предложено в работах [Тарасов, 1998а и в, 1999а]:
EMAS = (А, Е, R, ACT, P, ST, EV), D.21)
где А = {1,...,п} — множество неоднородных агентов различных типов sit;
Е — множество сред, в которых функционируют агенты; R — семейство базовых
отношений между агентами; ACT — множество действий агентов; Р — множество
коммуникативных актов, образующих протокол коммуникации в MAC; ST —
множество состояний MAC (задающих ее текущую организационную структуру);
EV — множество эволюционных стратегий.
В свою очередь, MAC, понимаемая как социальный (коллективный) агент,
определяется в [Shoham and Tannenholtz, 1995] пятеркой
SA = (ST, L, ACT, SL, T), D.22)
где ST — множество состояний; L — множество языков; ACT — множество
действий; SL — множество социальных законов, причем ограничение задается
парой (act, <р), а социальный закон si есть множество ограничений (act,,^),
Vactj € ACT, <р е L, st \= у?; Т — обобщенная функция переходов, Т: ST x
ACT х SL -+ 2s1, удовлетворяющая следующим условиям: а) для любых st ? ST,
act € ACT, si € SL, если состояние st удовлетворяет ограничению у?, st (= у?,
и пара (act, <р) 6 si, то T(st, act, si) = <р; б) для любых st € ST, act G ACT, sli € SL,
sl2 G SL, если sli > sh, то T(st, act, sl|) С T(st, act, sb).
Другой возможный вариант описания агентов и MAC предложен К. Цет-
наровичем (см. например, [Cetnarowicz et al., 1997]). Он опирается на идею
трехступенчатого определения основных понятий, например, а — агент, А —
множество (конфигурация) агентов, а € A, a — множество всех конфигураций
агентов, Аба. Далее вводятся g — тип агентов, G — множество возможных типов
агентов, g € G, Е — пространство системы, е — множество всех пространств
MAC, Е е е. Затем исходная MAC задается парой MAS = (а, е), а
соответствующая среда — тройкой V/= (Е, А, С), где С — взаимосвязь между агентами А
и пространством Е. При этом еще рассматриваются понятия ресурса MAC r,
множества (конфигурации) ресурсов R и множества всех возможных конфигураций
ресурсов в MAC p, а также топологии жизненного пространства Т (множества
мест t G Т, где агенты могут жить и работать) и множества всех возможных
топологий т.

168
Глава 4. Многоагентные системы
Тогда общая структура жизненного пространства,агентов Е характеризуется
парой E=(R,T). В результате агент а типа д определяется набором
а = (М, Q, STR, I, X, L, m, q, sir), D.23)
где т — модель среды агента; М — множество моделей среды, m € М; q —
цель агента, определенная как отображение q: М х М —> 7?, К — множество
действительных чисел; Q — множество (конфигурация) целей агента, q 6 Q;
str — стратегия агента, str: М —> М; STR — множество (конфигурация) стратегий,
str ? STR; I — наблюдения агента; X — операция выполнения стратегии агента;
L — операция адаптации (обучения) агента.
Наконец, в статье [Адамацкий и Холланд, 1998] MAC интерпретируется как
искусственный рой (swarm), построенный из мобильных, реактивных агентов,
которые способны локально взаимодействовать друг с другом и коллективно
решать различные задачи, действуя параллельно.
Искусственный рой определяется набором
SW=(A,ST,V,X,u,f,g,/x), D.24)
где А — множество агентов; ST — множество состояний агентов; V — множество
векторов скоростей перемещения агентов; X С Zd; f — переходная функция
состояний агента, f: STk x Vk —> ST; g — функция векторов скорости, g: STk x Vk —»
V; \х — функция перемещения, fi: X х V —> X; и — функция соседства, и: А —> Ак;
|A| = m, |ST| = q, |V| = k, |X| = n.
4.8. Примеры построения многоагентных систем
4.8.1. Многоагентная система моделирования открытых
предприятий
Он подумал, что так и не знает главного
секрета. Он понимал как; он не понимал зачем.
Джордж Оруэлл. «1984»
Рассмотрим пример построения многоагентной системы на основе метафоры
открытого горизонтального посттейлоровского предприятия (рис. 4.9). Здесь
термин «открытое» указывает на интенсивное взаимодействия предприятия со своими
клиентами и партнерами в интересах наиболее полного удовлетворения
потребностей клиентов, а слово «горизонтальное» подразумевает «плоскую» структуру
и преобладание горизонтальных связей по отношению к вертикальным.
Организационные границы подобных предприятий становятся все более условными
и нечеткими. Формируется единая сетевая организация, в которую включаются
заказчики, поставщики и подрядчики предприятия-производителя.
Исходная задача состоит в выделении системной единицы («клетки»)
сетевого предприятия как MAC и моделировании ее различных конфигураций.
По ролевому признаку здесь можно вычленить следующие типы агентов
[Тарасов, 1998а, б, в]: 1) Агент-заказчик; 2) Агент-координатор; 3) Агент-исполнитель;
4) Агент-субординатор; 5) Агент-наблюдатель (рис. 4.9). Таким образом, здесь
множество агентов А = {1,..., 5}, а объекты отсутствуют.

4.8. Примеры построения многоагентных систем 169
СУБОРДИНАТОР
ахиологическии
аспект знаний
когда? где?
КООРДИНАТОР
онтологический
\ аспект знаний
гносеологический
аспект знаний
ИСПОЛНИТЕЛЬ
праксеологический
аспект знаний
Рис. 4.9. Двухуровневое представление базовой структуры (единицы)
открытого сетевого предприятия
Агент-заказчик формирует запрос и отправляет заказ на выполнение
некоторого задания. Он инициирует и определяет общую задачу (фронт работ), участвует
в выработке решений по выполнению задачи и контролирует процесс выполнения
заказа. По окончании работы он ее оценивает и сообщает, удовлетворяет ли она
его требованиям.
Функция агента-заказчика по определению содержания работ носит в
основном гносеологический характер (ЧТО-знания) и может рассматриваться как
своего рода служебная функция MAC, которая выражается вопросами «Что делать
(производить) в системе?» или «Для чего использовать производимый продукт?»
С коммуникационной (семиотической) точки зрения она определяет семантику
информационных обменов в MAC.
Агент-координатор создает и поддерживает сеть запросов и обязательств,
необходимых для выполнения работы. Агент-координатор распределяет работу
и отбирает требуемые ресурсы для ее успешного выполнения. Он занимается
согласованием действий отдельных исполнителей и регулярно общается с
заказчиком. Таким образом, агент-координатор может рассматриваться как посредник
между агентом-заказчиком и агентом-исполнителем.
Функция агента-координатора носит в основном онтологический характер
и может пониматься как операционная функция MAC, которой соответствуют
вопросы «Кто, Когда и Где будет выполнять данную работу?» Она затрагивает
структурный аспект информации, циркулирующей в MAC.
Исполнитель — это агент (или группа агентов), занимающихся
непосредственно выполнением задания. О ходе и завершении работ он сообщает агенту-
координатору.
Функция агента-исполнителя носит в основном праксиологический характер,
и предполагает владение методами и приемами решения задачи (КАК-знаниями).

170
Глава 4. Многоагентные системы
Она может пониматься как своего рода базовая техническая функция MAC,
содержащая ноу-хау, что соответствует вопросу «Как сделать работу?» и определяет
прагматику информационных обменов в MAC.
Агент-субординатор, находясь на более высоком уровне, осуществляет
общее управление процессами, протекающими на предприятии. В рамках данной
модели это означает управление взаимодействием «агент-заказчик —
агент-координатор — агент-исполнитель». Его основные функции состоят в наблюдении,
контроле и оценке эффективности деятельности MAC. Он наделен правом
перераспределения ресурсов (например, он может заменить агента-координатора и,
таким образом, организовать новый процесс). Функции агента-субординатора
связаны также с определением стратегий организационного развития, включая подбор
агентов-заказчиков, определение должностных инструкций для
агентов-исполнителей, разрешение конфликтов между агентами нижележащего уровня. Иными
словами, он должен активизировать функции и нейтрализовать дисфункции MAC.
Таким образом, метафункция агента-субординатора, связанная с
прогнозированием будущих тенденций, формированием мотивов и интересов, постановкой
важнейших целей и выработкой стратегических решений, носит главным образом
аксиологический характер (ЗАЧЕМ-знания). Прежде всего, им ставятся вопросы
типа «Почему выгодно производить или продавать данный продукт (услугу)?»
и «Сколько надо произвести (продать)?» С семиотической точки зрения, здесь
формируется и передается необходимая метаинформация и обеспечивается семи-
озис MAC.
Агент-наблюдатель (или Метакоординатор), находящийся на том же
уровне что и агент-субординатор, выполняет функции «агента инициации
изменений». Он обладает достаточно полной информацией о деятельности предприятия
и вырабатывает свои предложения об изменениях в базовой MAC, но может
воздействовать на нее только косвенно через агента-субординатора.
Эти роли соответствуют минимальному набору функций, необходимых для
деятельности открытого предприятия как целенаправленной системы, т.е.
достижения целей в условиях адаптации к изменениям среды. Роли не обязательно
являются жестко фиксированными и могут изменяться с развитием MAC.
Например, агент-исполнитель в результате перераспределения функций может стать
посредником или клиентом. Точно так же, агент-заказчик в одних случаях может
рассматриваться как поставщик в других. Таким образом, каждый агент играет
ряд ролей, характеризующих различные услуги, которые он может оказывать
в настоящей MAC.
В данном случае семейство отношений между агентами содержит три типа
отношений и может быть представлено разбиением
R = R, U R2 U R3, D.25)
где Rj = {1 —> 2; 2 —> 1; 2 —> 3; 3 —> 2; 1 -* 3; 3 —» 1} — множество
горизонтальных отношений; R2 = {4 —> 2; 4 —¦ 1; 4 —> 3} — множество асимметричных
отношений, направленных «сверху вниз»; R3 = {2 —> 4; 1 —» 4; 3 —» 4} —
множество асимметричных отношений, направленных «снизу вверх».
В зависимости от контекста, множество R| может включать отношения
координации, сотрудничества или кооперации, а множество R2 — субординационные
воздействия, меры по разрешению конфликта или организации соревнования.
Множество R3 содержит информирующие отношения.
Рассмотренные выше агенты вместе с указанными отношениями образуют
исходную функционально-структурную единицу (клетку) сетевой организации как

4.8. Примеры построения многоагентных систем
171
открытой системы, инвариантную к внешним воздействиям среды. Здесь
множество базовых организационных структур ORG формируется из первоначальной
клетки-пирам иды.
В принципе один агент может выполнять несколько ролей, например,
возможно совмещение A) и B), A) и D), A), B) и D), в результате чего
тетраэдр может вырождаться в треугольник, а
треугольник — в отрезок прямой. Процессы
возникновения, развития и разрушения сложной
интеллектуальной системы можно промоделировать с
помощью различных моделей развития исходной MAC.
Так процесс вертикального роста
организационной структуры с распределением властных
полномочий в MAC может рассматриваться как передача
части полномочий исходного
агента-субординатора D) агенту-координатору B), который
становится субординатором D') уже на нижележащем
уровне и инициирует следующий процесс
координации 1' «-+ 2' <-> 3' и т.д. (рис.4.10).
С другой стороны, можно представить себе
и обратную ситуацию, когда следующий
организационный уровень возникает после исчерпания
ресурсов предыдущего. Тогда бывший
агент-субординатор D) включается в новый контур
координации и становится агентом-координатором B')
на следующем уровне (рис. 4.10). Эта D —» 2')-
модель может соответствовать, например,
образованию ассоциаций и консорциумов.
На основе предложенной модели могут также
описываться различные состояния эволюционной
MAC. Например, в нормальном режиме
управления из всех вертикальных связей эпизодически
используются только отношения D —> 2) и B —> 4).
Кроме того, в процессе не задействованы
также прямые отношения агента-заказчика с агентом-
исполнителем A —> 3) и C —> 1). Здесь управление
в основном ограничивается активацией указанных
горизонтальных связей, а полный маршрут имеет
видA-2->4->2-»3->2-4 — 2-Н).
Как правило, деградация текущего и
порождение нового процесса в MAC требуют
быстрого вмешательства агента-субординатора. При этом
активируются вертикальные отношения 1 —> 4 или
3 —> 4, 4 —> 1 или 4 —> 3. Например, в случае
конфликта между агентом-заказчиком и
агентом-координатором агент-субординатор может временно
отстранить (убрать из MAC) агента-координатора
и взять на себя его функции, инициализируя
контур D —> 3 —* 1 —> 4). Затем он может заменить
координатора 2 другим агентом, например, быв-
Рис. 4.10. Общая архитектура
нечеткой эволюционной много-
агентной- системы
Рис. 4.11. Представление
развития базовой структуры MAC
по горизонтали

172
Глава 4. Многоагентные системы
шим исполнителем 3 (преобразование 3 —> 2'), который находит нового агента-
исполнителя, что определяет горизонтальное развитие исходной MAC (рис. 4.11).
Данная MAC представляет собой пример мета интеллектуальной системы,
в которой каждый агент, выполняя определенную семиотическую функцию,
участвует в организационном семиозисе (см. главу 8), причем их индивидуальное
и групповое поведение рассматривается в контексте обобщенной модели
деятельности «Деятельность-Действие—Операция» (см. раздел 7.5), где основную роль
играют процессы самоорганизации и саморегуляции, рекурсивные и
рефлексивные связи.
4.8.2. Многоагентная система управления ресурсами
В данном разделе будет описана предложенная В. В. Емельяновым общая
модель управления ресурсами в сложных системах [Емельянов и Ясиновский, 1998].
Любая сложная система или организация на концептуальном уровне может быть
представлена как набор некоторых ресурсов. Состав ресурсов различен для
организаций разных видов и может меняться для одной и той же системы на различных
этапах ее функционирования. В частности, примерами ресурсов в
производственных системах являются люди, оборудование, транспортные средства, партии
изделий, склады и пр.
Одной из главных проблем функционирования систем с переменной сетевой
структурой (в том числе, MAC) является обмен ресурсами между узлами сети.
Ресурсы системы в общем случае имеют два основных параметра: местонахождение
и состояние. Для получения или рассмотрения возможности получения ресурса
надо точно знать значения этих параметров. Однако в условиях, когда данные
параметры постоянно изменяются и множество ресурсов (даже идентичных)
велико, становится практически невозможно накапливать такие подробные сведения
о ресурсах, имеющихся в каждом узле, в режиме реального времени. В результате
возникает необходимость в создании специальных средств обмена и управления
ресурсами.
Общая модель управления ресурсами состоит из семейства локальных систем
управления (автономных агентов), объединенных в сеть. Локальная система
управления имеет полную информацию о своих ресурсах, но, как правило, вынуждена
принимать решения в условиях недостатка информации о поведении всех
компонентов сети. Поэтому следует иметь механизм динамической корректировки
параметров процесса обмена ресурсами в период функционирования сложной
системы.
Итак, интеллектуальная система управления интерпретируется как MAC.
В ней интеллектуальные агенты имеют право принимать решения, используя для
этого средства имитационного моделирования, доступную информацию и знания.
Они также способны взаимодействовать друг с другом для достижения некоторых
общих целей.
Важная идея подхода, предложенного в работе [Емельянов, 1999], состоит
в том, чтобы попытаться переложить знания о структуре и состоянии ресурсов
с агента-пользователя ресурсами на сами ресурсы (или места их возникновения).
Далее, необходимо организовать взаимодействие ресурсов и, наконец, переложить
заботу об обеспечении компонентов ресурса на него самого. Таким образом, ресурс
превращается в агента. Иными словами, в описываемой системе присутствует сам
ресурс (информационный, материальный или ресурс-действие) и его виртуальный
двойник, созданный в виде программного агента.

4.8. Примеры построения многоагентных систем
173
Рис. 4.12. Архитектура многоагентной системы управления ресурсами
Базовая модель MAC управления ресурсами (рис. 4.12) включает следующих
агентов:
1) агент-пользователь; 2) канальный агент; 3) сервисный агент; 4)
интерфейсный агент; 5) агент-супервизор. Здесь главную роль играет
агент-пользователь, который соответствует отдельной локальной системе управления. Когда
отсутствует внешний механизм инициализации его действий, он является ин-
тенциональным агентом. Иными словами, такой агент может генерировать
цели, направляемые затем на утверждение (заявки). Выступая в качестве агента-
заказчика, данный агент посылает заявки всем другим агентам-пользователям
с требованием забрать у него или прислать ему ресурс некоторого вида. Любой
другой агент-пользователь, получив и проанализировав заявку, может принять ее
к исполнению (поставив в очередь своих основных действий, после чего в
рассматриваемом взаимодействии он становится агентом-исполнителем) или отвергнуть.
В результате такого обмена информацией устанавливается взаимодействие двух
агентов — агента-заказчика и агента-исполнителя. Один и тот же
агент-пользователь может быть одновременно и агентом-заказчиком, и агентом-исполнителем
по отношению к другим агентам-пользователям.
Канальный агент служит для координации процесса передачи заявок и ответов.
Qh берет на себя функции маршрутизации различного рода пакетов
(информационных, управляющих, координирующих). Используя свои знания, канальный
агент может оптимизировать различного рода поисковые операции и процесс
распределенной обработки информации в сети.
Для отправки, перемещения и хранения ресурсов в сети должны существовать
сервисные агенты, оказывающие услуги другим агентам (например, по хранению
и доступу к информации).
Взаимодействие агентов, входящих в MAC, с внешней средой обеспечивается
интерфейсным агентом (рис. 4.12). Наконец, функцию координации действий

174
Глава 4. Многоагентные системы
агентов, а также выявления и разрешения конфликтных ситуаций берет на себя
агент-субординатор (супервизор). В его задачи также входит коррекция системы
при появлении новых агентов.
В MAC управления ресурсами устанавливаются связи трех типов:
координационные, управляющие и информирующие. Между вышеупомянутыми агентами
ведутся переговоры, формируются альянсы и ассоциации. В ряде случаев
процесс взаимодействия агентов можно рассматривать как взаимодействие особей
некоторой популяции, развивающейся за счет накопления лучших свойств особей
из поколения в поколение.
Помимо перечисленных базовых агентов, при реализации MAC управления
ресурсами вводится ряд ресурсных агентов. Это: а) агент процесса обеспечения
ресурса; б) классовый агент; в) экземплярный агент. Агент процесса обеспечения
ресурса инициирует и координирует процесс обеспечения ресурса. Он порождается
агентом-пользователем, выступающим в роли заказчика образовательного ресурса.
Классовый агент содержит знания о компонентах и параметрах
образовательного ресурса. В связи с тем, что в MAC присутствуют многокомпонентные
ресурсы, причем может существовать несколько вариантов комбинации этих
компонентов, речь идет именно о классе ресурса. В зависимости от выбранной
комбинации, получатся различные экземпляры одного класса ресурса.
Выделяются два вида классовых агентов:
• агенты класса ресурса, которые содержит знания о текущем состоянии и
технологической структуре образовательного ресурса, например,
учебно-методической документации, модуля учебного курса, электронного учебника
(они привязаны к агенту-пользователю, являющемуся производителем или
хранителем данного ресурса);
• агенты класса услуг, содержащие знания о текущем состоянии и структуре
услуги, например, учебного процесса, (они привязаны к сервисным агентам).
Экземплярный агент является экземпляром класса ресурса, получаемым в
результате конкретизации параметров ресурса. Он непосредственно инициирует те
или иные действия (операции) в системе, обращаясь с требованиями на
проведение действия к агенту-пользователю или сервисному агенту, а также отслеживает
все изменения параметров ресурса в процессе его воспроизведения. Действия
должны быть выполнимыми к моменту обращения экземплярного агента к
агенту-исполнителю, об этом заботятся классовые агенты во время предыдущей фазы
процесса обеспечения ресурса.
Все классовые агенты имеют структуру «и/или»-графа, где вершины
соответствуют состоянию процесса обеспечения ресурса или являются ссылками
на другие классы ресурсов, а дуги соответствуют действиям (операциям) процесса
и ссылаются на другие классы услуг.
Обеспечение любым ресурсом требует ряда действий (например,
построение, приобретение, перенос, контроль и т.д.), которые могут являться ссылками
на сервисные классы, и ряда компонентов, которые, в свою очередь, также могут
быть ресурсами другого класса. Весь процесс обеспечения ресурса описывается
представленным выше графом и содержится в модуле классового агента. Граф
содержит ссылки на другие классы; таким образом обеспечивается
взаимодействие классовых агентов (как ресурсных, так и сервисных). В результате этого
взаимодействия каждый ресурс получает статус возможности или невозможности
в плане процесса его обеспечения.
На рис. 4.13 показан агентно-ориентированный процесс обеспечения
ресурсами, в котором принимают участие описанные выше агент-пользователь и агенты

4.8. Примеры построения многоагентных систем 175
Спецификация ресурса
1
Поиск компонентов
I
Декомпозиция дерева компонентов
1
Конкретизация параметров процессов
1
Инициация операций процесса
. 1
Процесс обеспечения ресурса
| Ресурс
Рис. 4.13. Основные фазы агентно-ориентированного процесса обеспечения ресурсами
процесса обеспечения ресурса. Процесс поиска и обеспечения ресурса проходит
в несколько этапов, которые показаны на рисунке.
4.8.3. Многоагентная система учебного назначения
При построении интеллектуальных обучающих систем (ИОС), повышающих
эффективность деятельности обучаемого и/или преподавателя в вузе
необходимо организовать взаимодействие различных источников знаний. В процессах
обучения циркулируют следующие типы знаний:
• предметные знания, относящиеся к конкретному курсу (области обучения),
например, курсу по интеллектуальным системам или информационному
обеспечению предприятий;
• стратегические и методические знания, относящиеся к организации,
планированию и управлению процессом подготовки студентов в вузе; сюда
включаются общие цели, стратегии и сценарии обучения, правила
комбинирования различных дисциплин и форм занятий, способы составления
учебных планов и пр.;
• педагогические знания, относящиеся к управлению деятельностью
студентов, например, знания о студенческой группе и особенностях отдельных
студентов, знания о способах профессионально-педагогических воздействий
на студентов, знания о типичных ошибках обучаемых и гипотезы об их
причинах и т. п.;
• эргономические знания об эффективной организации интерфейса
преподавателей и студентов с компьютерными системами;
• метазнания о способах компьютерной интеграции знаний.
Наличие нескольких источников знаний в ИОС, многокомпонентное™
и сложная структура учебно-педагогических знаний оправдывают построение
ИОС как распределенных (или многоагентных) систем. Здесь реализация
программных агентов, оказывающих помощь обучаемым и преподавателю, позволяет
Классовый
агент
Экземплярный
агент
Агент
процесса
обеспечения
I ресурса

176
Глава 4. Многоагентные системы
создать дружественный, персонифицированный интерфейс пользователя и, как
следствие, повысить качество и эффективность учебной и преподавательской
деятельности.
Структура MAC учебного назначения [Луговская, Тарасов, 2001] (рис. 4.14),
включает следующих агентов: а) агент интерфейса преподавателя; б) агент
интерфейса обучаемого; в) агент доступа к знаниям о процессе обучения; г) агент
онтологии; д) агент-координатор взаимодействий.
Агент интерфейса преподавателя осуществляет взаимодействие преподавателя
с базой данных/знаний предметной области. Преподаватель оперативно
пополняет базу данных/знаний, определяет различные уровни обученности, разрабатывает
средства для проверки знаний обучаемых. Агент интерфейса обучаемого
осуществляет взаимодействие с базой данных/знаний по обучаемым, которая содержит
сведения о каждом из студентов с указанием текущего уровня его подготовки,
предпочтительной стратегии обучения, типичных ошибок.
Текущие действия конкретного обучаемого сравниваются с действиями
«эталонного обучаемого» (например, преподавателя), и величина различий в ответах
используется для определения текущего уровня подготовки обучаемого и выбора
наиболее подходящих методик его обучения. Агент доступа к знаниям о процессе
обучения обрабатывает сведения из базы данных/знаний о процессе обучения. Эта
база обеспечивает формирование информационной модели, предъявление
информации и оценку качества деятельности обучаемого, а также реализует различные
режимы обучения. Агент онтологии обеспечивает доступ к информации из
базы данных/знаний предметной области, которая может извлекаться обучаемым
и обновляться преподавателем, а также осуществляет вывод на онтологии и
предоставляет возможность корректировки весовых коэффициентов, характеризующих
приоритетные маршруты в сети. Таким образом, он играет роль интерфейса между
базой данных и другими агентами и обеспечивает доступ к ресурсам онтологии.
Рис. 4.14. Структура MAC учебного назначения

4.9. Онтологии в многоагентных системах
177
Агент-координатор взаимодействий выполняет роль посредника между агентами
системы. Если речь идет о децентрализованном функционировании различных
источников учебно-педагогических знаний на основе их частичного объединения,
то для реализации агента-координатора можно использовать достаточно простой
подход на основе «доски объявлений». При этом каждая система функционирует
самостоятельно, а обмен информацией осуществляется через общую базу данных.
Такая MAC обладает возможностью на основе модели обучаемого
генерировать процесс обучения со всеми прилагаемыми и сопровождающими его
функциями, а также поддерживать активную обратную связь студентов с
преподавателем.
Создание интеллектуальной обучающей системы по принципу MAC
предполагает построение общей онтологии, разделяемой всеми агентами. Поэтому
в данной работе особое внимание уделяется разработке агента онтологии. Здесь
агент онтологии интерпретируется как персональный помощник пользователя или
как интеллектуальный посредник между обучаемым (преподавателем) и средой
обучения. Это полуавтономный рефлекторный агент, способный сотрудничать
с пользователем и приспосабливаться к нему.
Ниже в контексте построения MAC различных типов дан анализ
вариантов определения понятия «онтология» и построена расширенная сетевая модель
онтологии.
4.9. Онтологии в многоагентных системах
Онтология (от древнегреч. онтос — сущее, логос — учение, понятие) —
философский термин, определяющий учение о бытии. Это учение восходит к
произведениям Аристотеля, Фомы Аквинского, X. Вольфа, а в ХХ-м веке его развивал
М. Хайдеггер. Он считал, что онтология возможна не иначе как герменевтика, т. е.
как наука об интерпретации, осуществляемой в мысли и языке (см. [Хайдеггер,
1997]). Это положение прослеживается и в спецификациях Международной
федерации по разработке интеллектуальных физических агентов [FIPA98 Specifications.
Part 12. Ontology Service: http://www.cset.it/fipa], где под онтологией понимается
«явное описание структуры некоторой проблемной области (темы)». Подобное
описание всегда опирается на определенную концепцию этой области, которая
обычно задается в виде системы исходных объектов (понятий), отношений между
ними и положений (аксиом). Само определение базовых понятий предметной
области (агентов, процессов, атрибутов) вместе с основными отношениями между
ними называется концептуализацией. Поэтому онтологию часто понимают как
«спецификацию концептуализации» [Gruber, 1993; Guarino and Giaretta, 1995;
Гаврилова и Хорошевский, 2000] или даже считают синонимом
«концептуальной модели5* предметной области» (точнее, набора сосуществующих
концептуальных моделей) [Мизогучи, 2000; Смирнов С. В., 2000]. По сути, онтологии
представляют собой договоренности — соглашения о совместно используемых
концепту ал изациях.
С одной стороны, в онтологических исследованиях изучаются вопросы
происхождения знаний и его конструирования из некоторых единиц. С другой стороны,
' В концептуальную модель входят не только понятия и представления о предметной области
вместе с отношениями между ними, но и побуждения, мотивы, факторы субъективной значимости,
прогнозирования и пр.
13 Зак. 72

178
Глава 4. Многоагентные системы
эти исследования направлены на поддержку процессов коммуникации,
предполагающих разделение знаний между агентами и их повторное использование.
В простейшем случае онтология определяется как «некоторый общий словарь
понятий, используемых в качестве строительных кирпичиков в системах
обработки информации» [Мизогучи, 2000]. Обычно она описывает иерархию понятий,
связанных между собой отношениями категоризации. В частности, при
взаимодействии агентов в сети Интернет онтология понимается как иерархия понятий
и связей между ними, вместе с системой ссылок на www-документы,
привязанных к этим понятиям (связям) [Khoroshevsky and Maikevich, 1999; Гаврилова
и Хорошевский, 2000]). Здесь она близка к тезаурусу — множеству элементов
языка вместе с основными связями между ними. В онтологии должны выражаться
смысловые аспекты коммуникации агентов, поэтому ее подчас интерпретируют
как тезаурус с размеченными семантическими связями.
В рамках тезаурусного подхода к семантической информации, предложенного
Ю. А. трейдером, с тезаурусом связывается некий алгоритм анализа сообщений.
Тогда информация, требуемая для решения задачи агентом, может быть выражена
косвенно, как оценка изменения его тезауруса, получаемая через длину алгоритма
решения. Тезаурус агента может определяться в виде многослойной нечеткой сети
0 = (L,U,R,A,M), D.26)
где L = Lj х ... х L„ — семейство различных языков, описывающих
предметную область; U С L — множество терминов (понятий, суждений); R —
множество отношений (семантических связей) между ними; A: U "—> [0,1] —-
функция принадлежности, которая упорядочивает термины из множества U;
/х : R —> [0,1] — функция принадлежности, которая описывает набор весов
связей, причем //j Е [0,1] есть вес (сила) связи Tj.
В контексте разработки MAC онтологию можно понимать как своего
коллективный тезаурус, определяющий сферу понятий, циркулирующих в MAC. Пусть
А = {а;}- множество агентов, i =.!,..., п. Тогда коллективный тезаурус
определяется выражениями $мас = #i П ... П 0n, |0macI Ф ® (условие формирования
коллектива агентов), и 0*мас = 0| U ... U 0n, I&macI > l^il (условие «перекрытия»
проблемной области).
В более сложных случаях добавляются аксиомы для выражения различных
отношений между понятиями и для того, чтобы ограничить их интерпретацию.
Учитывая вышесказанное, онтология представляет собой базу данных/ знаний,
описывающую достоверные (или чаще, правдоподобные) факты, истинность
которых установлена в рамках определенного сообщества на основе общепринятого
смысла используемого словаря.
Модель онтологии должна обеспечивать: а) представление множества
понятий в виде сетевой структуры; б) отображение достаточно богатого множества
отношений, включающего не только таксономические отношения, но и отношения,
отражающие специфику предметной области; в) использование декларативных
и процедурных интерпретаций и отношений.
С позиций теории формальных систем онтология состоит из словаря
терминов, образующих таксономию, их определений и атрибутов, а также связанных
с ними аксиом и правил вывода. Если концептуальная система представляется
в виде логической теории, то словарь задается с помощью списка логических
констант и предикатных символов, а множество логических формул отображает
ограничения на интерпретацию понятий или отношений проблемной области.

4.9. Онтологии в многоагентных системах
179
Под обобщенной формальной моделью онтологии, которая расширяет
модель, описанную в [Khoroshevsky and Maikevich, 1999]), понимается тройка
0NT = (U,Im(R),O), D.27)
где U — множество понятий предметной области, |U| Ф 0, Im (R) = {w | w: Un -»
[0>1]} — множество нечетких (взвешенных) отношений между понятиями
предметной области; Ф = {f} — конечное множество функций интерпретации
(аксиоматизация), заданных на понятиях и/или отношениях онтологии О, f: Dn —> [0,1],
D — область интерпретации. Здесь значения истинности представляют собой
числа из интервала [0,1], в частности, их можно понимать как значения вероятности,
возможности или необходимости [Дюбуа и Прад, 1990]. Дальнейшее обобщение
связано с лингвистическими оценками истинности, описываемыми
лингвистическими метками (термами) лингвистической переменной «Истинность».
На рис. 4.15 представлен фрагмент организации онтологии для MAC учебного
назначения по предмету "Computer Science". Значения весовых коэффициентов
можно настраивать в диалоговом режиме или с помощью алгоритмов обучения.
Рис. 4.15. Фрагмент онтологии "Computer Science"
Здесь иллюстрируется идея структурирования отношений между группами
понятий и выделения гибких учебных модулей по преподаваемому предмету
на основе модифицируемых весовых коэффициентов, степень изменения которых
показывает уровень «разделения онтологии» преподавателем и обучаемыми.
13*

Глава 5
Взаимодействие между агентами в MAC
5.1. Основные характеристики
и виды взаимодействия агентов
Взаимодействие агентов — вот первое, что выступает перед нами, когда мы
говорим о создании MAC. Взаимодействие означает установление двусторонних
и многосторонних динамических отношений между агентами. При этом оно
является одновременно источником и продуктом некоторой организации. Иными
словами, взаимодействие представляет собой не только следствие каких-либо
действий, выполняемых агентами в MAC в одно и то же время, но и необходимое
условие формирования виртуальных коллективов и искусственных сообществ.
Один из лозунгов синергетического ИИ гласит: «нет знаний без взаимодействия!»
Взаимодействие — это не просто связь, взаимообусловленность между
сосуществующими агентами, но и предпосылка для взаимных превращений:
модификаций как самих агентов, так и отношений между ними. Например, в ходе
взаимодействия в MAC агент-исполнитель может превратиться в
агента-координатора, а отношения сотрудничества — в конфликт за ресурсы.
Когда-то Платон утверждал, что необходимыми условиями взаимодействия
являются соразмерность и согласованность вступающих в него объектов.
Аристотель подчеркивал, что взаимодействовать могут тела, находящиеся в определенном
(возбужденном) состоянии и вблизи друг от друга. Еще одним атрибутом
взаимодействия нередко выступает ритмичность, выражающее соотношение между
аспектами его устойчивости и изменчивости.
Главными характеристиками любого взаимодействия являются направлен-
ность, избирательность, интенсивность и динамичность. Все это в полной мере
относится и к взаимодействиям агентов. Во-первых, взаимодействия между
агентами имеют определенную направленность — положительную или отрицательную,
т. е. носят характер содействия или противодействия, притяжения или
отталкивания, кооперации или конкуренции, сотрудничества или конфликта, координации
или субординации, и т. п. Так содействие агентов друг другу означает их
взаимопомощь, когда действия одних агентов помогают действиям других. Происходит
согласование индивидуальных действий в интересах усиления конечного
эффекта (достижения синергии). Содействие перерастает в кооперацию при наличии
общей цели, взаимной адаптации и широком использовании возможностей друг
друга. Наоборот, в случае противодействия агенты мешают друг другу,
препятствуют достижению индивидуальных целей каждого.
Помимо этих базовых полярных видов взаимодействия возможны
промежуточные ситуации. Наиболее очевидной представляется ситуация взаимного
уклонения от взаимодействия, например, ввиду антипатии агентов. Кроме того,
содействие может быть не только двунаправленным, но и однонаправленным
(вырожденный случай). При этом один агент способствует достижению целей

5.1. Основные характеристики взаимодействия агентов 181
другого, а второй уклоняется от взаимодействия. Примером может служить
ситуация обучения, когда один агент (учитель) стремится обучить другого, а
второй отказывается обучаться и лишь имитирует понимание. Нередко встречается
и «зеркальная» ситуация однонаправленного противодействия, когда один агент
препятствует действиям другого, а тот, в свою очередь, уклоняется от встречи
с первым. Наконец, при контрастном взаимодействии получаем противоречие:
один агент старается содействовать другому, а тот активно ему противодействует.
В контексте анализа взаимодействия агентов и их групп представляет
интерес концепция групповой динамики К.Левина, опирающаяся на его теорию
поля. Подобно тому, как индивидуальный агент и его окружение формируют
психологическое поле, группа агентов и ее окружение образуют социальное поле.
Групповое поведение в любой момент времени является функцией общего
состояния социального поля. Оно определяется конкурирующими подгруппами в группе,
отдельными агентами, ограничениями и каналами общения (см. [Шульц и Шульц,
1998]). В групповой динамике введено понятие валентности, близкое к
направленности. Здесь валентность характеризует взаимное притяжение или отталкивание
агентов: положительная валентность отражает стремление агентов в определенный
район «силового поля», отрицательная — движение в обратную сторону.
В книге [Горский, 1998] анализируются такие виды взаимодействия как
кооперация и конкуренция. Выделяются две разновидности кооперативных
отношений: союзничество (аддитивный эффект объединения агентов) и партнерство
(мультипликативный эффект объединения агентов). Важным показателем
степени кооперации служит количество включенных в нее агентов. Конкуренция
характеризуется отрицательным эффектом объединения агентов, а конфликт
чреват приближением к гомеостатическим границам агентов.
Во-вторых, взаимодействия между агентами избирательны. При
формировании MAC взаимодействуют лишь такие агенты, которые некоторым образом
соответствуют друг другу и поставленной задаче. При этом агенты могут быть
связаны в одном отношении и независимы в другом. Одни агенты могут
взаимодействовать друг с другом с большей легкостью, а другие — с меньшей. Например,
взаимодействие облегчается в случае пространственного сближения агентов, их
гомогенизации, предварительного знакомства друг с другом и т. п.
В-третьих, взаимосвязи и взаимозависимости между агентами обычно не
сводятся к дихотомическому случаю («связь присутствует» или «связь отсутствует»),
а характеризуются некоторой силой (интенсивностью). Например, «агент а{,
сильно зависит от агента aj» или «агент aj мало взаимодействует с агентом ак». Как
правило, каждый агент одновременно, но с разной интенсивностью
взаимодействует с несколькими другими агентами.
В-четвертых, взаимодействия между агентами динамичны. В зависимости
от ситуации может изменяться их интенсивность и направленность, происходить
эскалация (дезэскалация) сотрудничества или конфликта. Например, при
необходимости совместного использования ресурсов ради решения сложной задачи
степень взаимозависимости агентов возрастает, а сближение целей и достижение
компромисса в процессе переговоров может привести к смене знака отношений
между агентами — переходу от противодействия к содействию.
Социальные нормы выступают как важнейшие ориентиры взаимодействия
агентов. Особым видом социальной нормы в MAC является соглашение между
агентами. Преимущество такого соглашения состоит в его устойчивости. Нет
смысла заключать соглашение, если предварительно известно, что кто-нибудь
из агентов уклонится от его выполнения.

182
Глава 5. Взаимодействие между агентами в MAC
Отметим, что когда агенты эгоистичны, заключенные между ними
соглашения взаимовыгодны. Соглашение выгодно для всех агентов, если оно
максимизирует функции полезности агентов на множестве допустимых соглашений. Однако,
взаимовыгодность представляет собой необходимое, но не достаточное условие
для устойчивости соглашений в MAC. Поэтому традиционные модели РИИ,
состоящие из эгоистичных агентов, следует дополнить более гибкими моделями,
включающими альтруистичных агентов. Агенты-альтруисты, ориентированные
на учет совместных интересов, способствуют достижению большей автономности
и устойчивости MAC по сравнению с эгоистичными агентами.
Общая проблема анализа взаимодействий между агентами включает
следующие задачи:
• идентификация ситуации взаимодействия агентов;
• выделение основных ролей агентов в MAC и распределение их между
агентами;
• определение числа взаимодействующих агентов;
• определение типов взаимодействующих агентов;
• построение формальной модели взаимодействия;
• определение набора возможных стратегий агентов;
• определение множества коммуникативных действий.
В целом, многообразные ситуации взаимодействия агентов необходимо
анализировать на различных уровнях. Сложная ситуация реального взаимодействия,
в которой всегда переплетены кооперативные и конфликтные аспекты,
распадается на более простые ситуации. В частности, следует отличать макроситуацию,
когда учитываются взаимодействия всех агентов MAC, от микроситуаций, в
которых подлежат рассмотрению лишь отдельные, локальные взаимодействия. При
таком подходе можно ранжировать по значимости различные виды
взаимодействий и точно определить их место в MAC. Например, развитие сотрудничества
агентов в MAC может стимулироваться отношениями локального соперничества.
5.2. Критерии и ситуации взаимодействия агентов
Лишь mom, кто господствует над самим собой,
может господствовать и над миром.
Николай Бердяев. «Космическое
и социологическое мироощущение»
Остановимся подробнее на основных критериях, определяющих различные
ситуации взаимодействия агентов. Ключевыми парами критериев,
характеризующих процесс взаимодействия агентов, являются «активность — пассивность»
агентов, «собственные цели агента — цели других агентов», «индивидуальные
действия — совместные действия» (рис. 5.1). Анализ конфликтной ситуации между
двумя агентами по этим трем критериям на двузначной булевой решетке дан
в работе [Таран, 1997]. Классификация агентов по отношению к собственным
интересам и целям других агентов на базе трехзначной шкалы оценок была
представлена выше в разделе 3.2. Ниже рассмотрим, как указанные критерии

5.2. Критерии и ситуации взаимодействия агентов 183
Ключевые пары характеристик
взаимодействия агентов
Цели других агентов
Пассивность
Индивидуальные
действия
Активность
Собственные цели агентов
Рис. 5.1. Представление ситуации взаимодействия агентов
в трехмерном пространстве критериев
взаимодействия определяют основные стратегии поведения агентов в ходе
взаимодействий (табл. 5.1).
Активные действия агента приводят к отношениям сотрудничества или
конкуренции. Первые возникают, когда агент способен к выработке общей (совместной)
цели с другим агентом и предпочитает совместные действия индивидуальным.
В противном случае возникают отношения конкуренции (конфликта) между
агентами. Когда агент ориентирован лишь на свои интересы и не желает
компромиссов, он руководствуется принципом конкурентной рациональности, и
конфликт выливается в конфронтацию между агентами, продолжающуюся до полной
победы одного из них. Наоборот, когда агент способен принимать во внимание
цели другого агента, вполне естественной становится принятие им компромиссной
Таблица 5.1
Базовые процессы взаимодействия агентов
Процесс
взаимодействия
Стратегии »
поведения
агентов в ходе
взаимодействия
Кооперация
(сотрудничество)
Компромисс
Содействие
Конкуренция
(конфронтация)
Конформизм
Приспособление
Солидарность
Уклонение
Критерии взаимодействия
Активность (+) —
пассивность (-)
агентов
+
+
+
+
Приоритет
общих целей (+) —
своих целей (-)
+
+
+
+
Предпочтение
совместных
действий (+) —
индивидуального
действий (Щ '
+
+
+
+

184
Глава 5. Взаимодействие между агентами в MAC
стратегии, когда формируется общая цель, позволяющая частично удовлетворить
интересы обоих агентов.
К пассивным вариантам поведения агента, направленным на выход из
конфликта, относятся конформизм и приспособление. Здесь агент стремится
адаптироваться к воздействиям со стороны другого агента, полностью отказываясь от своих
целей и принимая требования другого агента. Стратегия солидарности
характеризует «пассивное содействие», когда совместные действия не связаны с собственной
активностью агента и не направлены на формирование общих целей. Наконец,
стратегия уклонения предполагает полное отречение от взаимодействия.
Пусть имеется пара агентов, цели которых не совпадают, но они ведут
переговоры и могут заключать соглашения, принимая на себя взаимные обязательства.
Тогда в зависимости от свойств переговорного множества различные ситуации
взаимодействия можно подразделить на следующие основные типы [Rosenshein
and Zlotkin, 1994]: симметричная кооперативная ситуация, симметричная
компромиссная ситуация, асимметричная кооперативно-компромиссная ситуация,
конфликтная ситуация.
В симметричной кооперативной ситуации в переговорном множестве
существует подмножество взаимовыгодных соглашений. Здесь каждому агенту легче
достичь индивидуальных целей при взаимодействии с партнером, чем в одиночку.
Поэтому они стремятся сотрудничать друг с другом.
Напротив, в симметричной компромиссной ситуации агенту
предпочтительнее работать в одиночку, и они стремятся уклониться от взаимодействия. Однако,
в силу обстоятельств (чаще всего, наличия совместно используемых ресурсов)
им приходится сосуществовать, причем выработка компромиссных соглашений,
определяющих принципы сосуществования, выгодна обоим агентам.
В третьем случае возникает элемент асимметрии: один агент расценивает
взаимодействие как сотрудничество, а другой — как компромисс. Наконец,
конфликтная ситуация возникает тогда, когда переговорное множество пусто:
соглашения между агентами невозможны.
При взаимодействии агентов возможности достижения индивидуальных и
формирования совместных целей зависят от их типа (стиля поведения). Так
эгоистичный агент, взаимодействуя с альтруистичным агентом, по сути навязывает
ему свою цель. Два эгоистичных агента стремятся достичь своих собственных
целей. В случае совместимых целей они оба в состоянии достичь желаемого. При
возникновении конфликта либо оба агента, либо один из них не смогут достигнуть
требуемого результата. Проведем анализ возможных взаимодействий агентов
различных типов. При этом ограничимся вариантами сочетания следующих агентов:
благонамеренный, эгоистичный, злонамеренный, альтруистичный. Рассмотрим
взаимодействие этих типов агентов с точки зрения возможности выработки
общей цели. Для этого составим наглядную таблицу (табл. 5.2), в которой цель 1-го
агента обозначим через W|, а цель второго агента — через W2. На пересечении
типов будет обозначена общая цель (если ее выработка возможна).
• В ситуациях взаимодействия I, IV, X возможны как выработка общей цели,
так и принятие цели одного агента в качестве совместной для обоих агентов.
• В ситуациях взаимодействия И, III, VII, IXа выработка общей цели возможно
только при условии, что цель одного из агентов становится совместной целью
обоих агентов. Такую ситуацию можно еще назвать «пассивным
компромиссом» со стороны агента, принимающего цели другого.
• В ситуациях взаимодействия V, VI, VIII, выработка общей цели агентами
невозможна.

5.3. Причины взаимодействия агентов
185
Таблица 5.2
Формирование общих целей агентами различных типов
^^\^ Первый агент
^\^^ (цели)
Второй \.
агент (цели) ^s\>^
Благонамеренный
(w2,w,)
Эгоистичный
(w2)
Злонамеренный
(w2,-w,)
Альтруистичный
м

Благонамеренный
(W|,W2)
(w,,w2)
I
(w2)
(w2)
M

Эгоистичный
Ы
(w.)
II
—
V
—
(w.)

Злонамеренный
(wb -w2)
(w.)
III
—
VI
—
VIII
(w.)
Альтру- j
ИСТИЧНЫЙ
(w2)
(w2)
IV
(w2)
VII
(w2)
IX
(W|,W2)
X
5.3. Причины взаимодействия агентов
Процесс формирования взаимодействия в MAC можно охарактеризовать
с помощью четырех основных критериев:
1) совместимость целей или намерений агентов;
2) отношение агентов к ресурсам;
3) опыт агентов; связанный с некоторой проблемной областью;
4) обязательства агентов друг перед другом.
Рассмотрим подробнее каждый из этих критериев.
5.3.1. Наличие совместимых целей
Выделение основных типов взаимодействия удобно начать с анализа целей
агентов и установления их совместимости (или несовместимости). В частности,
когда цели агентов абсолютно несовместимы, то удовлетворение цели одного
из них ведет к неудовлетворению целей другого. Так для трофических агентов,
например, в ситуации «хищник — жертва», удовлетворение цели хищника ведет
к гибели жертвы. Отсюда понятно, что необходимым условием кооперации агентов
(или, хотя бы, их безразличия друг к другу) оказывается требование о том, чтобы
живучесть (время жизни) одного агента не уменьшалась при его взаимодействии
с другим агентом.
Модель «хищник-жертва» служит хорошим примером одновременного сосу^-
ществования стратегий сотрудничества и антагонизма. Хищники, образуя группу,
кооперируют в процессе охоты за жертвами, находясь с ними в отношениях
антагонизма.
Пусть цели агентов а и b можно выразить как достижение
некоторых состояний р и q соответственно. Формально абсолютную
несовместимость целей двух агентов можно записать в форме: р =»lq, т. е. Satisfies
(goaI(a,p) =>lSatisfies(goal(b,q) [Ferber, 1995]. Два варианта этого условия: имеют
вид Vp =>lq и Зр =>lq.
12 Зак. 72

186 Глава 5. Взаимодействие между агентами в MAC
5.3.2. Нехватка индивидуальных ресурсов
Под ресурсами понимаются любые средства, полезные для достижения цели
(а в более широком плане, необходимые для выживания агента). Ограниченность
ресурсов порождает конфликты. Эти конфликты возникают тогда, когда у
нескольких агентов имеется потребность в одних и тех же ресурсах в одно и то же
время. Примерами таких ситуаций служат «пробки» на дорогах или конфликт
двух одновременно запущенных программ. В этом случае взаимодействие агентов
носит непродуктивный характер: один агент создает помехи другому.
Известны различные пути ликвидации или предупреждения подобных
конфликтов, опирающиеся на механизмы координации действий и разрешения
конфликтов. Наиболее простым способом разрешения конфликта за ресурсы
является «право сильного»: более сильный агент отбирает ресурсы у более слабого.
Примерами более тонких методов служат методы ведения переговоров, которые
направлены на достижение компромиссов, т. е. стремятся нивелировать уровни
удовлетворения целей у различных агентов.
5.3.3. Неспособность агента решить задачу в одиночку
Еще одной причиной взаимодействия агентов оказывается рассогласование
между требованиями задачи и реальными возможностями агентов. Здесь можно
выделить три различные ситуации:
• Агент способен выполнить задачу без посторонней помощи, т. е. его
собственных возможностей (с учетом их оперативного пополнения) достаточно
для ее успешного решения.
• Агент может самостоятельно решить некоторую задачу, но группой она
решается значительно эффективнее (быстрее, легче и т. п.).
• Агент принципиально не может решить задачу в одиночку, поскольку у него
явно ощущается нехватка способностей (знаний, опыта) для ее решения.
5.3.4. Наличие обязательств
В краткой вступительной речи Балаганов выразил
надежду, что братья найдут общий язык и выработают
наконец конвенцию, необходимость которой диктует
{ВДВИНУ ЖШЖЬ.
Илья Ильф и Евгений Петров. «Золотой теленок»
Все социальные системы опираются на достаточно сложные структуры
обязательств. Идет ли речь о договорах, соглашениях или обещаниях, называется ли
это ответственностью, верностью или долгом, касается ли это малой группы,
большого коллектива или всего сообщества, факт остается фактом •— обязательства
лежат в основе совместных действий.
Обязательства затрагивают практически все аспекты социальной жизни.
У агентов они могут относиться к поставленным целям («я должен за время t
попасть в узел сети ?»), выполненному действию («я обязуюсь вам заплатить»),
высказанному мнению («я уверяю, что это суждение истинно»),
общественным соглашениям («я обязуюсь соблюдать конвенцию») или к социальной роли
(«я обязуюсь сделать вес, что в моих полномочиях»).

5.4. Установление базовых типов сотрудничества и соперничества 187
Соответственно, обязательство — один из ключевых аспектов
взаимодействия в случае MAC, составленных из интеллектуальных агентов. Оно
является важнейшим условием зарождения некоторого порядка из хаоса возможных
взаимодействий. Принимая обязательство, агент связывает себя обещанием или
договором, что ограничивает свободу его поведения.
По сути, обязательство — это форма определения связей между агентами,
с помощью которых MAC стабилизирует свои отношения, что благоприятствует
ее надежному функционированию. Исходя из существующих обязательств, агенту
проще предвидеть поведение других агентов, прогнозировать будущие события
и планировать собственные действия.
Вопросы обязательств в контексте MAC впервые были исследованы А. Бондом
(см. [Bond and Gasser, 1988]), а затем Т. Буроном [Bouron, 1992].
Все обязательства в MAC можно разделить на следующие классы:
• обязательства агента перед другим агентом;
• обязательства агента перед группой;
• обязательства группы перед агентом;
• обязательства агента перед самим собой.
Чаще всего встречаются обязательства одного агента перед другим.
Обычно они связаны либо с обещанием одного агента другому выполнить действие
по его просьбе, либо с принятием ответственности за передаваемую информацию.
Обязательства агента перед группой также бывают двух типов. С одной стороны,
агент также может пообещать выполнить определенную задачу в интересах
группы. С другой стороны, обязательства агента могут касаться выполнения функций,
требований или соглашений, обусловленных его ролью в группе. Напротив,
обязательства группы перед агентом обычно связаны с защитой агента от внешних
воздействий, сохранением или повышением его статуса и обеспечением ресурсами.
5.4. Установление базовых типов сотрудничества
и соперничества агентов в MAC
Теперь попытаемся построить более детальную классификацию типов
взаимодействия агентов в MAC по трем ключевым критериям формирования групп
из отдельных агентов [Ferber, 1995]: а) уровень совместимости целей агентов;
б) потребность в чужом опыте (знаниях); в) совместное использование ресурсов.
Будем моделировать различные виды взаимодействий между агентами на
основе полярных (оппозиционных) шкал критериев. Различение некоторых
объектов или ситуаций с помощью оценок на полярных шкалах — типичный способ
формирования порядка из хаоса в интеллектуальных системах.
В общем случае, оценка на полярной шкале может принимать значения
в некоторой решетке L, например, L2 = {-1,+1}, L7 = {-3, -2, -1,0,+1,+2, +3}
или L^r = [0,1],
При выделении базовых типов взаимодействий будем рассматривать
классическую полярную шкалу как двузначную булеву решетку L2 = {-1, +1}. Для трех
критериев возьмем декартово произведение трех бинарных полярных шкал 23
и получим восьмизначную булеву шкалу. Для простоты и наглядности будем
обозначить положительную оценку по критерию («да») знаком +, а отрицательную
(«нет») — знаком -.
12*

188
Глава 5. Взаимодействие между агентами в MAC
Таблица 5.3
Базовые типы взаимодействия агентов
Тип ситуации
взаимодействия агентов
Координируемое
сотрудничество
Простое сотрудничество
Непродуктивное
сотрудничество
Безразличие
(независимость)
Коллективное
соперничество за ресурсы
Чистое коллективное
(командное) соперничество
Индивидуальное
соперничество за ресурсы
Чистое индивидуальное
соперничество

Совместимость целей
+
+
+
+
-
-
-
-
Потребность
в чужом опыте
+
+
-
-
+
+
-
-
Наличие распределенных
ресурсов
+
-
+
-
+
-
+
-
Сведем восемь базовых (эталонных) ситуаций взаимодействия агентов в
табл. 5.3. Здесь граничный случай независимости агентов равносилен отсутствию
MAC (полностью автономные агенты)*. Остальные ситуации охватывают
различные варианты кооперации (сотрудничества) и конфликта (соперничества) агентов.
Простое сотрудничество предполагает интеграцию опыта отдельных агентов
(выражающуюся в распределении задач и обмене знаниями), когда не требуются
дополнительные мероприятия по координации их действий. Непродуктивное
сотрудничество реализует известную ситуацию «лебедя, рака и щуки» из басни
И. А. Крылова, когда агенты, не имея потребности в дополнительном опыте, но,
совместно используя ресурсы, мешают друг другу. Координируемое сотрудничество
означает, что агенты должны согласовать свои действия (возможно, с помощью
специального агента-координатора), чтобы продуктивно использовать
располагаемые опыт и ресурсы. Это — наиболее сложный случай сотрудничества, когда
к проблеме распределения задач добавляется проблема координации действий,
обусловленная ограниченностью ресурсов.
В некотором смысле противоположным по отношению к
координируемому сотрудничеству является случай чистого индивидуального соперничества, когда
агенты поставлены в практически одинаковые условия, а доступ к ресурсам
не является причиной конфликта. Примером служит участие агентов в конкурсе
на получение некоторого задания. Здесь при несовместимости целей агенты
вынуждены вести переговоры друг с другом. Индивидуальное соперничество за ресурсы
представляет собой классический вариант конфликтной ситуации, когда каждый
агент хочет монополизировать имеющиеся совместные ресурсы. В случае чистого
коллективного соперничества, агентам, имеющим разные индивидуальные цели,
но недостаточный опыт для их достижения, приходится объединяться в коалиции.

5.5. Кооперация агентов
189
При этом вначале происходит формирование групп агентов, а затем
начинается соперничество между этими группами. Наконец, коллективное соперничество
за ресурсы, т. е. ситуация, комбинирующая коллективное соперничество и
индивидуальные конфликты за ресурсы, представляет собой наиболее продуктивный
случай конфликтной ситуации с точки зрения функционирования MAC,
поскольку конкурирующие группы способствуют ликвидации монополий и расширению
рынка услуг.
Конечно, эти все эти эталонные случаи являются идеализацией и задают
лишь исходные ориентиры для установления типов взаимодействия. Диапазон
реального взаимодействия агентов значительно шире и не может быть описан
в рамках булевой шкалы. Здесь необходим переход к более общим алгебраическим
конструкциям, например, алгебрам Де Моргана и алгебрам Клини.
5.5. Кооперация агентов
Согласие есть продукт при полном непротивлении сторон.
Илья Ильф и Евгений Петров. «Двенадцать стульев»
Понятие кооперации агентов играет центральную роль в MAC. Кооперация
между агентами означает их коллективную работу в интересах получения
совместных результатов. Именно кооперация приводит к синергетическим эффектам при
объединении отдельных агентов в MAC. По сути, это основная форма
социального поведения и организации взаимодействия между агентами, характеризуемая
объединением их усилий для достижения совместной цели при одновременном
разделении между ними функций и обязанностей. Поэтому в теории агентов
понятие общей цели, на выполнение которой направлены действия агентов, играет
ведущую роль. Это понятие обозначает предпочитаемое будущее состояние мира,
соответствующее целям отдельных агентов и определяемое на их основе.
Формирование совместной цели возможно в двух различных случаях:
• цели отдельных агентов близки или практически совпадают,
• цель, сформированная одним агентом, полностью принимается другими
агентами.
Здесь предполагается, что агенты доброжелательно настроены и хотят помочь
друг другу или, по крайней мере, стремятся прийти к компромиссу при наличии
совместно используемых ресурсов.
В общем случае понятие кооперации можно определить формулой:
кооперация = сотрудничество + координация действий + разрешение конфликтов
(см. табл. 5.3).
Главные преимущества от кооперации агентов таковы:
1. Возможность совместного решения задачи, которую нельзя решить в
одиночку.
2. Повышение эффективности и производительности каждого агента.
3. Увеличение качества общего решения за счет роста числа и более детальной
проработки частных решений, обмена информацией между агентами.

190
Глава 5. Взаимодействие между агентами в MAC
4. Увеличение вероятности того, что решение будет найдено, благодаря
объединению различных точек зрения, и пр.
Кооперацию агентов можно изучать двояко [Ferber, 1995]:
а) извне с позиции внешнего наблюдателя;
б) изнутри MAC как форму поведения агентов, решивших работать совместно.
В первом случае, наблюдатель, ничего не знающий о ментальных состояниях
или намерениях агентов, стремится установить измеримые, квантифицируемые
показатели кооперации. Поскольку кооперация направлена на расширение
возможностей агентов и повышение эффективности их деятельности, за исходные
показатели можно взять результаты сравнительного анализа эффективности
индивидуальной и групповой деятельности агентов, а также относительную частоту
конфликтов в MAC.
Как уже упоминалось, кооперация осуществляется в двух различных
ситуациях: 1) когда агент в принципе не может решить задачу в одиночку; 2) когда
задачу целесообразно решать коллективно из соображений эффективности,
быстроты и пр. Следовательно, основными критериями кооперации могут служить:
• время коллективного решения задачи (насколько оно меньше по сравнению
со временем индивидуального решения);
• эффективность распределения задач между агентами;
• успешность объединения различных точек зрения.
В первом случае речь идет о выигрыше по времени решения, а использование
второго критерия предполагает уточнение способов распределения задач.
Аналогично требуются специальные механизмы согласования индивидуальных точек
зрения, чтобы избежать конфликтных ситуаций.
Более подробно, об уровне кооперации агентов в MAC можно судить на
основе следующих показателей [Durfee et al., 1987]:
1) степень распределения обязанностей, ответственности и ресурсов (в том
числе, знаний);
2) уровень координации действий, включая согласование направления действий
агентов в пространстве и во времени;
3) степень запараллеливания (совмещения) задач, решаемых различными
агентами;
4) неизбыточность действий, довольно малое число дублирующих, повторяющих
друг друга действий;
5) избегание (или малая длительность) конфликтов;
6) живучесть, понимаемая как способность MAC пережить отказ или потерю
агента.
Эти показатели взаимно противоречивы: распределение ресурсов
неминуемо порождает конфликты, а неизбыточность действий вступает в противоречие
с требованием запараллеливания задач.
В свою очередь, примерами типичных ограничений на кооперацию агентов
служат: их удаленность друг от друга; недостаточно интенсивная коммуникация,
существенные различия в уровнях автономии агентов; сильная взаимозависимость
решаемых задач (например, когда один агент не может начать свою задачу без
другого).

5.5. Кооперация агентов
191
Во втором случае, когда кооперация как совместная деятельность
отождествляется с формой преднамеренного поведения [Conte et al., 1991; Galliers, 1990],
базовую формулу можно записать в виде: кооперация = общая цель +
обязательства агентов. Примерами использования подобной формы могут служить уставы
различных ассоциаций и объединений, члены которых принимают общую цель
и берут на себя обязательства совместно участвовать в некоторой работе.
Очевидно, что кооперация зависит не только от установки, намерения сотрудничать,
но и от поведения, а главное, от результатов совместной деятельности.
В контексте эффективности кооперации остановимся подробнее на вопросах
распределения задач между агентами и согласования их действий. Можно указать
три типичных способа централизованного распределения задач: 1) командное
управление или система «господин-раб» (master-slave), когда агент-менеджер
самостоятельно распределяет все задачи между заранее определенными агентами-
исполнителями и контролирует их выполнение; 2) распределение по принципу
торгов (или «объявление конкурса»), когда агент-менеджер распространяет
объявление об общем задании, а потенциальные агенты-исполнители предлагают
свои услуги, т. е. исполнители заранее не определены, а отбираются в
результате конкурса; однако и распределение отдельных задач, и контроль остаются
прерогативой менеджера; 3) распределение путем соревнования, когда агенты-
исполнители дают свои предложения уже на уровне отдельных задач, т. е.
происходит подбор исполнителя под конкретную задачу, а роль менеджера сводится
к контролю и координации их действий.
5.5.1. Формы кооперации агентов
С различными типами агентов и MAC связаны различные уровни и
формы кооперации. Прежде всего, следует выделить преднамеренную кооперацию,
характерную для когнитивных, интенциональных агентов, и непреднамеренную,
спонтанную кооперацию, присущую реактивным агентам.
Кооперация в сообществе реактивных агентов основана на локальных
взаимодействиях и обеспечивает выживание вида. Она возможна даже в том случае,
когда у агентов нет внутреннего представления внешнего мира, и им
неизвестны результаты действий других агентов (а подчас они даже не знают об их
присутствии). Примером служит построение муравейника.
Показатели выживания отражают способность особи или группы сохранять
свою целостность при наличии сил, стремящихся ее разрушить. Можно говорить
о выживании отдельного агента, определяемом его способностью к
самосохранению, и о коллективном выживании, направленном на сохранение группы.
Индивидуальные показатели выживания можно определить различными
способами, например, как вероятность (или возможность) выживания агента в заданной
среде или путем анализа энергетического баланса, т. е. соотношения между
уровнями потребления и расхода энергии («пищи»). Первый способ лучше подходит
для сравнительного анализа поведения простейших трофических агентов, тогда
как второй является более универсальным. В частности, его удобно использовать
для определения эффекта от кооперации хищников в ситуации «хищник-жертва».
В случае директивной кооперации коллектив агентов образуется на
принудительных началах. В некотором смысле антиподом директивной является
ситуативная кооперация, возникающая на базе позитивных отношений, формирующихся
между когнитивными агентами. Наконец, контрактные формы кооперации
предполагают объединение индивидуальных интересов агентов на основе формальных
или неформальных соглашений между ними.

192 Глава 5. Взаимодействие между агентами в MAC
5.5.2. Предпосылки и условия кооперации
Сходясь с людьми, думай не о своей выгоде, а о выгоде
того, с кем сходишься, и не о том, как ты будешь судить
о себе, а как он будет судить о тебе.
Лев Толстой
Почему у агентов возникает желание сотрудничать? Каковы
предпосылки и условия возникновения кооперации? Развернутые ответы на эти вопросы
требуют привлечения ряда биологических, психологических, экономических,
организационных и технических соображений.
Необходимыми предпосылками и условиями кооперации агентов: выступают:
а) мотивация к объединению индивидуальных усилий;
б) географическое сближение, объединение и размножение агентов;
в) коммуникация;
г) сотрудничество и координация действий;
д) специализация;
е) переговоры между агентами.
Исходным моментом кооперации является стремление агентов объединить
свои индивидуальные усилия. В основе формирования социального поведения
агента лежат отражение потребностей других агентов и учет их целей. Помимо
чисто утилитарных мотивов, связанных с необходимостью расширения
индивидуальных возможностей и повышения эффективности деятельности агентов,
кооперация может быть направлена на удовлетворение потребностей в
выживании, безопасности и оценке, коммуникативных и созидательных потребностей.
При этом географическое сближение агентов, их объединение в реальную или
виртуальную группу способствует знакомству агентов и их притяжению друг к другу.
Жизнь в группе позволяет имитировать поведение других агентов, а также
пополнять набор стратегий поведения. В свою очередь, размножение (клонирование)
агентов дает существенные преимущества в плане увеличения эффективности
и надежности MAC.
Конечно, кооперация немыслима без развитой системы коммуникации,
обеспечивающей формирование единой сети агентов, особенно в случае виртуальных
организаций. Общение расширяет когнитивные и исполнительные возможности
агентов, позволяя им воспользоваться знаниями и умениями других агентов. Оно
также обеспечивает условия для эффективного перераспределения задач и
координации действий. Коммуникация между когнитивными агентами
осуществляется путем обмена сообщениями, тогда как реактивные агенты взаимодействуют
на основе сигналов, распространяемых в среде.
Благодаря специализации, агенты становятся более приспособленными к
выполнению конкретных задач. Специализацию агента не обязательно выбирать
заранее. Она может осуществляться последовательно при выполнении тех или
иных временных функций в контексте индивидуальной или
индивидуально-оперативной [Венда, 1990] адаптации к задаче. Как правило, специализация агентов
благоприятствует кооперации, а также позволяет группе быстро выполнять ранее
встречавшиеся, стереотипные задачи.

5.5. Кооперация агентов
193
Одной из основных предпосылок кооперации агентов является формирование
согласованного (скоординированного) поведения и взаимодействия отдельных
агентов, которое обеспечивало бы эффективное выполнение общей функции
MAC. Координация в первую очередь означает управление зависимостями между
действиями агентов. К их числу относятся зависимость от общих ресурсов,
зависимость от требования одновременности действий и пр.
Ведение переговоров, направленных на достижение взаимовыгодных
соглашений между агентами, является основной предпосылкой для возникновения
кооперации. При этом обычно предполагается, что правила ведения
переговоров установлены заранее и известны всем агентам. Для реализации переговоров
необходим специальный протокол, к которому предъявляются следующие
требования [Brainov, 1996; Sandholm and Lesser, 1995]: а) простота; б)
децентрализация (переговоры осуществляются напрямую, без централизованного управления);
в) симметричность (все агенты являются равноправными участниками
переговоров); г) устойчивость (протоколы переговоров не должны позволять агентам,
отклонившимся от установленных правил ведения переговоров, извлекать
дополнительную пользу); д) эффективность (как по отношению к отдельным агентам,
так и по отношению к их коалициям).
Построение протокола ведения переговоров включает три шага: а)
определение пространства возможных соглашений; б) введение правил
взаимодействия (например, на основе теории речевых актов в терминах «предложение-
контрпредложение» — см. главу 8); в) задание оптимальных стратегий агентов
5.5.3. О продуктивной роли конфликтов
при кооперации агентов
Наконец-mo они договорились. Пришли к общему
выводу у что являются врагами.
Станислав Ежи Лец. «Непричесанные мысли»
В социальных взаимодействиях конфликты часто выступают как
неотъемлемые атрибуты кооперации агентов. Они одновременно могут быть как причинами,
так и следствиями кооперации агентов. Например, конфликт между
агентом-координатором и агентом-исполнителем в MAC может стать причиной поиска
другого агента-исполнителя и установления с ним отношений сотрудничества
(см. раздел 4.8.1). В результате разрешения конфликта достигается стабилизация
MAC.
Под конфликтом в MAC понимается проявление объективных или
субъективных противоречий, выражающихся в противоборстве агентов. В конфликтной
ситуации происходят столкновения целей, интересов, мнений, действий
агентов. Таким образом, конфликтная ситуация включает некоторое подмножество
множества агентов, а также предмет конфликта между ними.
Существуют различные причины и источники конфликтов. Чаще всего,
в MAC возникает конфликт целей или конфликт убеждений агентов. Однако,
конфликты могут зарождаться даже тогда, когда цели агентов совместимы, и они
заранее решили сотрудничать. В этих случаях, конфликты обычно происходят
ввиду недостатка ресурсов. Между тем, именно ограничения на ресурсы могут по-

194
Глава 5. Взаимодействие между агентами в MAC
рождать взаимно исключающие, несовместные цели и,ценности. Так формируется
«замкнутый круг» конфликта.
В ходе эволюции кооперативных взаимодействий никогда не удается
ограничиться взаимоотношениями благожелательных агентов, избегающих
конфликтов [Galliers, 1990]. Напротив, конфликты в социальных системах, отношения
конкуренции способствуют инновациям и творческим проявлениям, а, в
конечном счете, развитию. Об этом писали многие ученые, в особенности, К. Маркс,
А.Тойнби и О. Шпенглер.
Основаниями для классификации конфликтов в MAC выступают: цели
агентов, соответствие- их действий существующим нормам, конечный результат
конфликта и его влияние на развитие MAC. Согласно первым двум признакам
различаются конфронтация и соревнование агентов. Конфронтация агентов
предполагает тотальный конфликт с противоположными целями и непризнанием
существующих норм отношений. Под соревнованием понимается ограниченный
конфликт агентов в соответствии с заранее определенными правилами.
По последнему признаку выделяются стабилизирующие, конструктивные
и деструктивные конфликты. Стабилизирующие конфликты направлены на
устранение отклонений от нормы, а деструктивные, наоборот, разрушая старые нормы,
углубляют противоречия. Конструктивные (или продуктивные) конфликты между
агентами, порождая новые нормы взаимоотношений, способствуют адаптации
MAC в новых условиях среды за счет функционально-структурной перестройки
и установления новых связей между агентами.
В гибких социальных системах конфликт можно уподобить полезному
сигналу, предотвращающему стагнацию. Его раскрытие и разрешение стимулирует
нормальное развитие. Наоборот, в жестких системах, для которых типичны
стратегии замалчивания конфликтов или их устранения любой ценой, возникают
различные аномалии, увеличивающие опасность катастрофических изменений.
В синергетическом толковании, конфликты ввергают социальную
систему в область неопределенности, неустойчивости, повышенной чувствительности
к изменениям, где возникают различные бифуркации. Поэтому они выступают
как двигатели спонтанных социальных преобразований.
К числу основных функций конфликтов в MAC относятся изменение
структуры взаимоотношений, прояснение целей и увеличение сплоченности группы
агентов, установление баланса интересов агентов, выявление нарушений
нормального функционирования MAC. Как уже отмечалось, они помогают выявить
недостатки старых норм и ведут к порождению новых норм. Это очень важно
для эволюции социальной системы при сохранении ее целостности:
выживание в постоянно меняющихся условиях требует регулярной переоценки целей
и пересмотра убеждений.
Итак, социальный конфликт в MAC или искусственной организации, в
первую очередь, выступает как механизм установления гибких норм
взаимоотношений между агентами, более адекватных новым условиям. Благодаря конфликтам,
сообщество агентов становится более жизнеспособным, поскольку создание и
модификация социальных норм обеспечивает его устойчивость в изменяющихся
условиях.
5.5.4. Модели кооперации агентов
Классическими методами исследования кооперации и переговорных
процессов являются методы теории полезности и теории игр, в частности, известные
модели и условия оптимальности, выраженные в виде принципов равновесия.

5.5. Кооперация агентов
195
Равновесие по Парето — это ситуация равновесия, при которой улучшение
положения одного агента невозможно без ухудшения состояния другого.
Принцип Парето применяется для сильно централизованных систем,
подсистемы которых имеют широкие возможности обмена информацией о
принимаемых решениях, а равновесие по Нэшу характеризует децентрализованные
системы. Эти типы оптимальности имеют разные «идейные основания»: основой
оптимальности по Нэшу является устойчивость MAC, обусловленная интересами
и возможностями отдельных агентов, тогда как принцип оптимальности по
Парето опирается на идею полезности, выгоды для MAC в целом, понимаемой как
выгода сразу для всех ее агентов.
С учетом вышеприведенных требований к разработке протоколов в MAC
большее применение находит арбитражная схема Нэша или математически
эквивалентная ей модель Зейтена (см. [Brainov, 1996]). Однако, эти схемы годятся
далеко не всегда (например, равновесие по Нэшу не является исчерпывающим
решением для некооперативных игр). Более того, существуют принципиальные
трудности использования классической теории игр в MAC.
Стандартные модели теории игр статичны в том смысле, что они
сосредоточены на результатах переговоров, а не на процессе переговоров как таковом. В них
также предполагается, что агент (игрок) обладает полной информацией о своих
собственных предпочтениях и функции полезности, а также о вероятностях,
связанных с различными возможными результатами. Но в MAC интеллектуальный
агент практически никогда не располагает точной информацией о предпочтениях
других агентов. Принимая решение, он должен прогнозировать действия других
агентов, выбор, которых, в свою очередь, зависит от его собственных действий.
Это ведет к появлению эффекта «ограниченного прогнозирования», когда
невозможно сделать точный прогноз или доверять определить четкую стратегию
индивидуального выбора.
Для того чтобы обойти этот эффект ограниченного прогнозирования, в
традиционных моделях теории игр накладывают следующие ограничения:
1) предполагается, что и количество агентов, и их индивидуальные
характеристики зафиксированы и известны всем агентам;
2) также предполагается, что все агенты разумны и каждый агент, знает, что все
остальные агенты разумны (аксиома общего знания); соответственно, набор
альтернатив для каждого игрока зафиксирован и известен;
3) наконец, выдвигается допущение, что тип поведения каждого агента (в
частности, его склонность к риску) также зафиксирован и известен всем агентам.
Например, знаменитая игровая схема фон Неймана—Моргенштерна,
(антагонистическая игра двух лиц или двух коалиций) основана на том факте, что
в случае двух агентов — участников и игры с нулевой суммой эффекта
ограниченного прогнозирования можно избежать следующим образом: каждый агент
считает, что его оппонент будет всегда выбирать самый худший для своего визави
вариант поведения.
Все эти предположения существенно ограничивают сферу применения
традиционной теории игр для формализации взаимодействий агентов. Так,
исследователи в области РИМ придают особое значение построению протоколов
взаимодействия, объясняющим компромиссы между агентами. При этом
структуру взаимодействия можно представить как пример последовательного принятия
решений.
Основные характеристики модели последовательного принятия решений
в MAC таковы:

196
Глава 5. Взаимодействие между агентами в MAC
• существует последовательность точек принятия решения агентами, которые
зависят друг от друга;
• у лица, принимающего решение, есть возможность, установив обратную связь
по результату решения, обновить свои знания для того, чтобы на следующей
стадии принимать решение с большей информациией
В настоящее время механизм последовательного принятия решений
является основой, на которой базируются различные модели ведения переговоров.
Во-первых, большинство схем переговоров сводится к обмену предложениями
и контрпредложениями. Структура последовательного принятия решений
предлагает легко доступные конструкции для моделирования повторяющегося
характера взаимодействия между агентами. Во-вторых, агенты, ведущие переговоры,
действительно устанавливают обратную связь после того, как было сделано
предложение или контрпредложение. Обратная связь заключается в ответе агента
(или агентов), которому предназначалось предложение или контрпредложение.
В-третьих, структура последовательного принятия решений поддерживает подход
«открытого мира». При этом агенту не обязательно иметь полную информацию
о своем окружении в начале переговоров. Приобретаемые в процессе
переговоров знания обеспечивают обучение агента. Такой тип поведения с постоянным
интерактивным обучением наиболее эффективен в процессе ведения переговоров.
Хорошим примером практической реализации механизма последовательного
принятия решений служит система Bazaar []. В ней моделируются убеждения
(мнения) агентов, характеризующиеся неопределенностью, а также
поддерживается процесс обучения. Многоагентное обучение связан с модификацией этих
убеждений. Кроме того, система характеризуется следующим особенностями:
• Осуществляется моделирование многозадачного процесса ведения
переговоров, т. е. имеется выразительный язык для описания отношений между
задачами и возможными взаимодействиями между агентами ними.
• В системе Bazaar поддерживается модель «открытого мира». Любые
изменения во внешней среде, если они имеют отношения к данному агенту
и воспринимаются им, будут влиять на последующий процесс принятия
решений, игроком. Эта характеристика наиболее желаема и ее редко можно
найти в других моделях ведения переговоров.
Наиболее распространенными специальными моделями кооперации агентов
в РИИ являются:
• модель договорных (контрактных) сетей Смита;
• модель аукциона;
• протокол монотонных минимальных уступок (по Розеншейну и Злоткину);
• модель социальных зависимостей Кастельфранши и Контэ.
Модели контрактных сетей
Модель контрактных (договорных) сетей, разработанная в начале 80-х гг.
Р. Смитом [Smith, 1980; Davis and Smith, 1983] (рис. 5.2), предназначена для
обеспечения координации агентов в системах распределенного решения задач.
Каждый узел сети — это агент, способный выполнять определенные задачи. Если
в процессе решения задачи один агент (заказчик) оказывается не в состоянии
найти решение самостоятельно, то он обращается к другим агентам —
потенциальным исполнителям. Обычно он это делает не сам, а через посредника, который
называется агентом-менеджером (брокером). Вполне естественной является
реализация агента-менеджера как мобильного агента, путешествующего по сети, в то

5.5. Кооперация агентов
197
2) Передать запрос
Потенциальный
исполнитель 1
8) Передать ответы
и информацию
3) Дать ответ
\ \ с информацией
\\ о цене
\\ 4) Выбрать подрядчика4
\ \ и переместиться
7) Переместиться \*ч в его узел
обратно \v
4 5) Предложить
Агент- "\ ИОВУ» иену
Потенциальный
исполнитель 2
6) Ответить на
предложение о цене
Реальный
исполнитель
(подрядчик)
Рис. 5.2. Представление процесса координации в модели договорных сетей
время как все остальные агенты расположены в своих узлах. Поскольку на запрос
заказчика обычно откликаются несколько агентов, организуется конкурс на
выбор наиболее подходящего подрядчика. При этом используется механизм торгов.
Из числа потенциальных агентов-исполнителей выбирается реальный
исполнитель — подрядчик. В результате между заказчиком и победившим в конкурсе
агентом заключается договор. Ему предшествует итеративный процесс
переговоров между агентом-менеджером и агентом-подрядчиком по вопросу определения
итоговой цены контракта.
Исходя из этой модели, процесс взаимодействия агентов можно описать
набором
INT = (A,RR,/>,P)> E.1)
где А — множество агентов; RR — множество ролей агентов; р : А —» RR —
функция распределения ролей; Р — общий протокол взаимодействий между
агентами, Р = {COM,SRT, 7г}, СОМ — множество коммуникативных действий
агентов; STR — множество стратегий взаимодействия; ж — протоколы для
отдельных ролей.
В данном случае RR = {заказчик, посредник, потенциальный
исполнитель, подрядчик}, р(ао) = заказчик, р(&\) = посредник, р(аг) = подрядчик,
р(аз) = ... = р(ап) = потенциальный исполнитель. Протокол взаимодействия
представляет собой множество правил, управляющих взаимодействием. Для его
определения помимо типов взаимодействующих агентов необходимо задать
множество возможных состояний их взаимодействия (например, заказ выполнен,
запрос принят, взаимодействие закончено), возможные действия агентов и
стратегии взаимодействия. Простейшее множество действий может быть задано в виде
СОМ = {начать, закончить, объявить, сообщить, предложить, принять,
отвергнуть, оплатить}. Стратегия взаимодействия может определяться знанием
предыдущего состояния партнера и информацией о текущем процессе взаимодействия.
Основное преимущество модели договорных сетей состоит в ее простоте
и легкости реализации. К числу недостатков данной модели относятся, в
первую очередь, отсутствие продуманного механизма выбора подрядчика и высокая
загрузка коммуникационных каналов. Кроме того, модель договорных сетей
не препятствует появлению таких агентов-посреди и ков, которые выступают как
спекулянты, покупая и перепродавая одну и ту же задачу несколько раз.

198
Глава 5. Взаимодействие между агентами в MAC
Основное преимущество модели договорных сетей состоит в ее простоте
и легкости реализации. К числу недостатков данной модели относятся, в первую
очередь, отсутствие продуманного механизма выбора подрядчика и высокая
загрузка коммуникационных каналов. Кроме того, модель договорных сетей не
препятствует появлению агентов-посреди и ков, которые выступают как спекулянты,
покупая и перепродавая одну и ту же задачу несколько раз.
Известны различные усовершенствования модели Смита. Например,
могут вводиться специальные промежуточные агенты-консультанты, роль которых
состоит в оказании помощи координаторам при оповещении потенциальных
исполнителей и обработке предложений. На сегодня самым удачным вариантом
развития модели договорных сетей считается комбинированная модель Т. Санд-
хольма, где агентам-подрядчикам разрешено выполнять одновременно несколько
задач. Для каждого подрядчика формируется пакет текущих задач, причем при
добавлении к этому пакету новой задачи учитываются не только ее характеристики,
но и уже принятые обязательства [Sandholra and Lesser, 1995].
Модели аукциона
Использование метафоры аукциона в переговорах агентов обеспечивает
возможность явной передачи «полезности» (в виде цены) от одного агента к другому.
По сути, аукцион — это мощный рыночный механизм самоорганизации
коллективного поведения, и с его помощью, как и в моделях, основанных на теории
игр, можно сконструировать такую схему торгов, которая обеспечит требуемые
свойства MAC [Городецкий, 1998; Fisher et al., 1996]. На аукционе некоторые
ресурсы, необходимые для достижения цели несколькими агентами, выставляются
на «продажу». Ресурсы эти ограничены, поэтому агенты соперничают между собой
в процессе торгов. Возможности «покупки» ресурсов агентами также ограничены,
а целесообразность покупки оценивается функцией полезности ресурса, которая,
как правило, вычисляется в виде разности между «доходом» от использования
ресурса и затратами на его покупку.
На аукционе один агент играет особую роль аукционера. Только он
заинтересован в повышении цены на ресурс. Все остальные агенты заинтересованы
в снижении цен.
Аукционы могут проводиться по различным схемам, причем результаты
торгов существенно зависят от этого. Так аукционы бывают открытыми и закрытыми.
На открытых аукционах цены объявляются публично, и каждый участник знает
о ценах, предлагаемых другими участниками. На аукционах закрытого типа цены
известны только аукционеру.
Аукционы открытого типа, в свою очередь, делятся на:
• «английские», когда цена повышается, начиная с некоторой стартовой, и
побеждает тот агент, кто предложил наибольшую цену;
• «голландские», когда торги начинаются с самой высокой цены, за которую
агент-аукционер хотел бы продать ресурс, и эта цена им постепенно
снижается, пока какой-либо агент не согласится купить ресурс за предлагаемую
цену.
На аукционах со скрываемыми ценами принято различать так называемые
аукционы первой и второй цены. В аукционах первой цены побеждает тот, кто
предложит наибольшую цену (известную только аукционеру; именно эту цену
победитель аукциона и платит). В аукционах тпорой цены победитель
определяется таким же образом, однако, он выплачивает не ту сумму, которую предложил,

5.5. Кооперация агентов
199
а вторую по порядку. Также могут существовать аукционы, в которых агенты
образуют коалиции с последующей заранее согласованной политикой использования
купленного ресурса.
В традиционной модели аукциона механизм рассуждений и принятия
решений агентом остается «за кадром». Именно применение механизма рассуждений,
в котором могут использоваться знания агента о себе, о других агентах, о среде
и т.д., для формирования поведения в процессе переговоров составляет основные
резервы улучшения модели аукциона.
Модели теории полезности с минимальными уступками
Среди протоколов ведения переговоров в РИИ широкое распространение
получил протокол монотонных минимальных уступок [Rosenshein and Zlotkin,
1994], который определяет процесс ведения переговоров между двумя агентами.
Суть его заключается в следующем. Агенты делают предложения по очереди,
начиная с самых выгодных для себя условий. Затем в процессе переговоров
агенты монотонно отступают от своих первоначальных требований, т. е.
функция полезности каждого агента монотонно убывает на последовательности его
предложений. В работе [Rosenshein and Zlotkin, 1994], доказано, что в результате
переговоров агенты выбирают то соглашение, которое максимизирует
произведение их функций полезности. Множество возможных соглашений в протоколе
монотонных минимальных уступок (переговорное множество) состоит из всех
индивидуально рациональных соглашений, эффективных по Парето.
Множество схем организации переговоров в MAC можно представить себе
как варианты подобной двусторонней модели, согласно которой переговорный
процесс рассматривается как последовательность контрпредложений,
выдвигаемых двумя взаимодействующими агентами.
Модели социальных зависимостей
Теория социальных зависимостей [Castelfranchi et al., 1991] является удобным
инструментом для описания и анализа отношений между агентами в MAC. Ее суть
заключается в том, что коллективная деятельность любых агентов всегда
основывается на отношениях социальных зависимостей и общественной власти. При
этом считается, что эти являются составляющими компонентами когнитивных
структур агентов.
В теории социальных зависимостей рассматриваются два основных типа
зависимостей: 1) зависимость по отношению к действию и 2) зависимость по
отношению к ресурсу. Обозначим через ACT(aj) множество всех действий, которые
способен выполнять агент а|$ а через RES (а,) — множество всех доступных
ему ресурсов, Пусть р1(а,) — план действий агента а,- для достижения его
цели Oj. Множество ACT (aj,pl) состоит из всех действий по выполнению плана
pl(aj), а множество RES(aj,pl) — из всех ресурсов для выполнения плана pl(a,).
На практике чаще всего набор индивидуальных ресурсов и репертуар
индивидуальных действий агент а;, оказываются недостаточными для реализации плана.
Обращение агент а{, к другим агентам порождает его зависимость от них
Понятие ресурсной зависимости вводится следующим образом. Пусть имеется
некоторый ресурс res 6 RES. Если res g RES(aj), но res 6 RES(aj), то агент а{
зависит от агента a$ в плане ресурса res.
Аналогичным образом определяется понятие зависимости от действия. Пусть
act € ACT. Если act i АСТ(а,), но act € ACT(aj), то агент агент щ зависит от агента
aj в смысле действия act.
Отношение ресурсной зависимости является обоюдным тогда и только тогда,
когда агент зц зависит от агента aj по отношению к ресурсу res(aj) и, напротив,

200 Глава 5. Взаимодействие между агентами в MAC
агент aj зависит от агента а,- по отношению к ресурсу res(a,). Аналогично вводится
обоюдная зависимость по отношению к действиям.
Анализ отношений зависимостей позволяет находить совместное решение
задач. Например, если агенты а5 и щ находятся в отношении обоюдной ресурсной
зависимости и сознают это, то им обоим выгодно начать переговоры об обмене
ресурсами. Кроме взаимного обмена ресурсами, возможны и другие кооперативные
решения: составление совместного плана, купля-продажа ресурсов и т.д.
Теория социальных зависимостей имеет ряд недостатков:
1. Агенты не располагают стимулами для осуществления кооперации.
Рассмотрим ситуацию, когда агент aj односторонне зависит от агента aj в плане
требуемого ресурса res(aj). После установления зависимости между обоими
агентами, агент щ не располагает стимулами для передачи своего ресурса
агенту aj.
2. В стандартной теории социальных зависимостей при определении
отношения зависимости рассматриваются только один нуждающийся агент и только
один поставщик ресурсов. Ситуации, в которых участвуют несколько агентов,
нуждающихся в одном и том же ресурсе, и несколько поставщиков этого
ресурса, не моделируются. Также не учитываются возможности
коллективного применения ресурсов и одновременного оказания помощи одному агенту
несколькими агентами. Иными словами, отношения зависимости
рассматриваются независимо друг от друга.
3. В теории социальных зависимостей отсутствуют определения коллективной
зависимости: зависимости одного агента от группы и зависимость группы
агентов от одного агента.
Теория социальных зависимостей тесно связана с теорией обязательств.
Осознание агентами социальных зависимостей, как правило, ведет к принятию
на себя обязательств. В РИИ обязательства обычно рассматриваются как
когнитивные структуры. Следовательно, анализ обязательств проводится в рамках
теории представления и манипулирования знаниями. Обязательства не являются
соглашениями, хотя между ними существует тесная связь. В отдельных случаях
могут существовать соглашения без обязательств и обязательства без соглашений.
Социальная природа обязательств раскрыта в [Castelfranchi et al., 1991]. В этой
работе разъясняется разница между коллективными и социальными
обязательствами. Кроме того, коллективное обязательство не всегда эквивалентно сумме
индивидуальных обязательств.
5.6. Описание процессов взаимодействия
между агентами с помощью аппарата
нечетких отношений
Будем обозначать различные виды положительного взаимодействия
между агентами (например, содействие, кооперация) через R+, а отрицательного
взаимодействия — через R". Промежуточный случай невзаимодействия
агентов (уклонения от взаимодействия) обозначим как R0. Тогда весь возможный
диапазон взаимодействия R можно представить в виде
R=R+UR"U R°. E.2)

5.6. Описание процессов взаимодействия между агентами 201
Выражение E.1) можно эквивалентным образом записать с помощью
трехзначной функции f:A х А ... х ... А —» {-1,0,4-1}, значения которой выражают
три предельных случая: 1) при f = +1 имеем положительное взаимодействие
(содействие) агентов; 2) при f = -1 имеем отрицательное взаимодействие
(противодействие) агентов; 3) при f = 0 имеем нейтральное взаимодействие (безразличие)
агентов.
В общем случае будем полагать, что взаимодействие между агентами
характеризуется не только знаком, но и различной силой (интенсивностью) gR
и описывается некоторым числом из интервала [-1,4-1]. Тогда различные виды
взаимодействия агентов в MAC можно представить нечеткими отношениями вида
gR: А хА...х...А ->[-1,+!]¦>. E.3)
Для упрощения дальнейших рассуждений ограничимся нечеткими бинарными
отношениями gR: А хА —> [-1,4-1].
Основные операции над нечеткими отношениями R и S с функциями
принадлежности, принимающими свои значения в интервале [-1,4-1], приведены
ниже:
I. Пересечение: R П S Ф> gR^,-, aj) Л gs(ai? aj), V а|? щ € А E.4)
П. Объединение: R U S & gR(a,, а3) Vgs(ai, aj), Уа{, щ е А E.5)
III. Отрицание: 1R ^g]R(ai,aj) = -gR(a,,aj), Va^aj 6 А. E.6)
Имеет смысл также определить уровень (порог) взаимодействия агентов как
К = {(ai,aj) е А х А| gR^aj) ^ |а|},0 < |а| < 1, E.7)
где
К = {(*ь ^) € А х А| gR+(a{, aj) ^ а},
R« = {(ai, aj) € А х А| gR_(aj, aj) < -a}.
Чтобы выразить важнейшие виды взаимодействия между агентами, ниже
определим пары основных свойств нечетких отношений: на полярных
шкалах «симметричность — антисимметричность», «рефлексивность —
антирефлексивность», «транзитивность-антитранзитивность». Представим эти свойства для
частного случая нечетких бинарных отношений gR: A x A -* [-1,4-1].
1. Рефлексивность — нерефлексивность — антирефлексивность
Рефлексивность (корефлексивность):Е С R «ф» gR(aj, а,) € {-1,4-1},
Рефлексивность: gR+ (аи а{) = 4-1, V а; G А, E.8)
т. е. агент а, максимально содействует сам себе.
Корефлексивность: gR^a^a^ =-I, \/а;€А, E.9)
т. е. агент а, максимально противодействует сам себе.
Слабая рефлексивность'. gR+(aj, a{) > gR (ai5 aj), Va{, aj G A, E.10)
т.е. агент о, в большей мере содействует себе, чем любому другому агенту aj.
Слабая корефлексивность: gR_ (а,-, а{) < gR_ (гц, а^, V а;, а,- € А, E.11)
'* Областью значений стандартных нечетких отношений по Л. Заде служит интервал [0, +1]. Данное
определение, обусловленное необходимостью представления интенсивности отношений на полярных
шкалах, напоминает формализм нечетких когнитивных карт, введенный Б. Коско и используемый
в книге [Силов, 1995].

202
Глава 5. Взаимодействие между агентами в MAC
т. е. агент а, в большей степени противодействует себе, чем любому другому
агенту aj.
Антирефлексивность : Е П R = 0 <Ф gR(aj, а{) = 0, V а{ G А, E12)
т. е. агент а, абсолютно безразличен сам к себе
Слабая антирефлексивность : g^ (а{, а^ < gRo (а{, aj), V г}, aj Е А, E.13)
т. е. агент а, в большей степени безразличен к себе, чем к любым другим агентам.
Помимо свойств E.8-5.13) можно также определить пороговые /3-свойства:
р -рефлексивность (нерефлексивность): 3 а{ G А, 3 /3, 0 < Р ^ 1, gr (a,-, а,-) ^ |Р |,
т.е. g^a^H-/* E.8*)
и gRjaj.agX-/?. E.9*)
2. Симметричность — косимметричность — антисимметричность
Симметричность : R = R^ gR(a{, aj) = gR(aj, а{), Va{, ajG A, E.14)
Взаимоотношения между всеми агентами aj и aj одинаковы, т. е. прямое
отношение ajRaj равно обратному ajRa{, причем можно выделить три различных
случая симметричных отношений:
a)sR+(ai>aj)=gR+(aj>ai)> Va^GA
(абсолютное взаимное содействие) E.15)
б) gR_(aj, aj) = gR_(aj, a{), Va{, aj€ A
(абсолютное взаимное противодействие) E.16)
в) SR0(ai> aj) = 8Ro(ajai)> Vai> *j? A
(абсолютное взаимное безразличие). E.17)
P -симметричность:
За|,а3€ А, ЗА 0 < p ^ 1, gR(a|laj) ^ \p\ => gR(aj5a,.) > \p\, E.14*)
т.е. симметричность отношений ajRaj и ajRaj, выполняется по крайней мере
со степенью /3
gR+(ai> aj) ^ +Р => gR+(aj, а{) > +0, 3 а,, а;Е 4
(взаимное содействие) E.15*)
gR_(ai> ^) ^ -р => gR (aj} а{) ^ -/?, 3 a,-, а,-€ .4
(взаимное противодействие). E.16*)
Когда \р\ ^ |а| имеем
-ol ^ gRo(ai, ^) ^ +а =^ -а ^ gRo(aj)ai,) ^ +а,
3 а,, а^Е 4 (взаимное безразличие). E.17*)
Слабая симметричность: R П R-1^ 0 ^ gR^, aj) Л gR(aj5 щ) Ф 0,
Уаиа^А E.18)

5.6. Описание процессов взаимодействия между агентами 203
Взаимоотношения между любыми агентами а; и щ близки (совместимы), т. е.
имеется область перекрытия прямого и обратного отношения.
Косимметричность:
R = -R-,^gR(ai,aj) = -gR(aj,ai), Va^ € A,a^ а,, E.19)
т.е. взаимоотношения между агентами а, и aj противоположны и представляют
собой зеркальное отражение друг друга (абсолютно контрастное взаимодействие)
gR+(ah aj) =» gR (aj} a;), Vai} a3G A, щф aj} E.20)
и&_(*\>*})"**яМ>лд> Va^ajG A^j^aj. E.21)
p -косимметричность:
За^б А,ЗА 0 < p ^ l.gRtaj.aj) > \p\ => gR(ajlai) ^ |/*|, E.19*)
Взаимоотношения между агентами aj и aj в той или иной степени различны
и имеют разные знаки (их косимметричность выполняется по крайней мере
в степени р).
Таким образом, получаем варианты контрастного взаимодействия
ёк+(а{, а,) ^ +р => -р ^ gR>j, aj) ^ 0, 3 a,, а,€ A E.20*)
(если прямое отношение a;Raj есть содействие со степенью, не меньшей +/3, то
обратное отношение ajRaj есть противодействие со степенью, не меньшей -р)
gn-fa.aj) <~Р^0^ SR+(aj>ai) < +Л 3aj,a,€ A E.21*)
(если прямое отношение a,-Raj есть противодействие со степенью, не большей
-р, то обратное отношение ajRaj есть содействие со степенью, не большей +Р).
Слабая косимметричность:
R П (-R-1) ф 0 <* gR(ai, ^) Л (-gR(ap щ)) ф 0, V а|} ajG A. E.22)
Взаимоотношения между агентами имеют различную направленность (разные
знаки).
Антисимметричность:
R П R_,C Е <* gR(ai} aj) AgR(aj} a{) = 0, если ъф а3. E.23)
Это означает, что из двух отношений a,Raj и ajRaj по крайней мере одно есть
отношение безразличия
gR+(ai> aj) =*SRo(aj> ai)> Vab aj^ A> ai^ ^
(однонаправленное содействие) E.24)
и 0я_К, a,) =^gR(aj, a^, Vab aj€ A, a^ aj}
(однонаправленное противодействие). E.25)
а-асимметричность:
3 a,-, ajG A, 3 a, 0 < a ^ /3, g^, aj) ^ |a| => gR(aj, a,-) ^ \a\. E.23*)
В двух различных случаях получаем
+а < gR+(ai, a3) ^ +1 => -а ^ gRo(a,., aj) ^ + а E.24*)

204
Глава 5. Взаимодействие между агентами в MAC
(если прямое отношение OiRaj есть содействие со степенью, большей +а, то
обратное отношение ajRai есть отношение безразличия);
-1 ^ gR_(abaj) < -a => -а ^ Ея0(а,-,а;) ^ +а E.25*)
(если прямое отношение a{Raj есть противодействие со степенью, меньшей -а,
то обратное отношение ajRai есть отношение безразличия)
3. Транзитивность — котранзитивность — антитранзитивность
Транзитивность R о R С R
Для нечетких отношений на полярных шкалах можно сформировать много
различных условий согласованности (транзитивности) [Аверкин и др., 1986]. Здесь
мы ограничимся следующими условиями:
Пусть а^<1,а<7^Ьа^К1
Тогда
SR+(ai>aj) = +1> gR+(aj>ab) = +1 => gR+(aj,ak) = +1
(абсолютная транзитивность) E.26)
gR_(ai,aj) = -1, gR_(aj,ak,) = -1 =>gR_(ahak) = -1
(абсолютная котранзитивность) E.27)
gR(ah a3) > 0, gR(aj? ak}) > 0 => gR(ab ak) > 0
(слабая транзитивность) E.28)
gR(a,-, aj) < 0, gR(aj, ak,) < 0, => gR(ai} ak) < 0
(слабая котранзитивность) E.29)
gR+(ai> ^) ^ +/3, gR+(aj, ak,) ^ +/?, => gR+(a{, ak) ^ +/?
(^-транзитивность) E.30)
gR_(ai, aj) ^ -0, gR_(aj, ak,) ^ -/?, => gR_(aj, ak) ^ -/3
(/3-котранзитивность) E.31)
-ex ^ gRo(ai, aj) ^ +a, - a ^ gRo(aj,ak)) ^ +a => -a < gR0(ab ak) < +a
(а-транзитивность) E.32)
gR+(ai, aj) > +7, gR+(aj} ak,) > +<*, => gR+(aj, ak) ^ min{+7, +6}
(min -транзитивность) E.33)
gR_(aj, aj) < -7, gR.(aj,ak,) < -6, => gR_(aj, ak) ^ max{-7, -6}
(max -котранзитивность) E.34)
gR+(ai} aj) > +7, gR+(aj, ak,) > +<*, =» gR+(ai? ak) ^ max{+7, +<*}
(max -транзитивность) E.35)
gR_(ai, a3) < -7, gR_(aj, ak,) < -tf, => gR_(ai, ak) ^ min{-7, -?}
(min -котранзитивность). E.36)
Условия транзитивности выражают согласованность взаимодействий агентов,
агент а;, содействующий агенту aj, содействует и тому агенту а^, которому
содействует его партнер aj. Те же функции выполняют условия котранзитивности,
но для противодействующих агентов.
Теперь, имея определения свойств рефлексивности, антирефлексивности,
симметричности и антисимметричности на полярных шкалах, которые
характеризуют отношение агента к себе, отношение агента к другим, можно реализовать

5.6. Описание процессов взаимодействия между агентами 205
принципы социального сравнения Л.Фестингера и формально определить, что
такое благонамеренные и злонамеренные, эгоистичные и альтруистичные агенты,
циничные и жертвенные агенты.
Будем связывать gR(a,,aj) с отношением агента к своим индивидуальным
целям (интересам), a gR(aj,aj), наоборот, с его отношением к целям других
агентов. Тогда:
Благонамеренный агент: gR+(aj,a,) = +1, gR+(aj,aj) = +1, Vaj,aj € А (агент
а, в максимальной степени стремится достичь своих целей, а также содействует
достижению целей всех других агентов) E.37)
Умеренно благонамеренный агент: gR+(aj,aj) ^ /3, gR+(aj,aj) > gR_(aj,aj),
3aj,aj G A, 3/3, 0 < /3 ^ 1 (агент стремится достичь своих целей, а также
всегда предпочитает содействие противодействию в своих отношениях с другими
агентами). E.38)
Эгоистичный агент: gR+(aj,aj) = +1 и gR0(aj,aj) = 0, Vaj,aj G А (полное
внимание агента а; к своим целям и полное безразличие к целям других агентов).
E.39)
Умеренно эгоистичный агент: gR+(a{,aj) ^ /3, gR+(aj,aj) > gR(a,-,aj), 3aj,aj G
A, 3/3, 0 < /3 ^ 1 (агент а{ блюдет свои интересы, предпочитая их любым
взаимодействиям с другими агентами). E.40)
Злонамеренный агент: gR+(a;,aj) = +1, gR_(a,-,aj) = — 1, Vа^, aj G А (агент aj,
блюдя свои интересы, в максимальной степени противодействует достижению
целей всех других агентов). E.41)
Умеренно злонамеренный агент: gR+(aj, aj) ^ /3, gR_(aj, aj) > gR+(aj, aj), 3 aj, aj G
A, 3/3, 0 < /3 ^ 1 (агент aj, блюдя свои интересы, предпочитает противодействие
содействию в своих отношениях со всеми другими агентами). E.42)
Альтруистичный агент: gR+(a,-,aj) = -f 1 и gRo(aj, а{) = 0, aj G A, Vaj,aj G
А (агент а; в максимальной степени содействует всем другим агентам и полностью
безразличен к самому себе). E.43)
Умеренно альтруистичный агент: gR+(aj, aj) > gR+(a;, a;), aj G A, Va;- G А (агент
aj в большей степени содействует другим агентам, чем блюдет свои интересы).
E.44)
В свою очередь, свойства транзитивности и котранзитивности, позволяют
определить уровень сбалансированности отношений между агентами в MAC.
Формирование математической модели баланса взаимодействий между агентами
удобно начинать с построения модели малой группы в виде треугольника Ф. Хай-
дера, представляющего собой простейший знаковый граф (см. [Гаазе-Рапопорт
и Поспелов, 1987; Силов, 1995]). Здесь агенты отождествляются с вершинами
графа G, а направленность их взаимодействий (содействие или противодействие)
обозначается знаками 4- или -. Для простоты будем полагать, что
взаимодействия между агентами симметричны. Отсутствие петель в графе G означает,
что рефлексивные случаи содействия или противодействия самому себе здесь
не рассматриваются.
Структура взаимодействий между агентами называется сбалансированной,
если все положительные отношения между ними транзитивны (рис. 5.3 а), а
отрицательные — нетранзитивны Нарушение транзитивности положительных
взаимодействий или транзитивность отрицательных дестабилизирует эту структуру.

206
Глава 5. Взаимодействие между агентами в MAC
Однако, структура взаимодействий также будет сбалансированной, если два
агента aj и aj содействуют между собой, но оба противодействуют третьему агенту а^.
(рис. 5.26). Тогда все агенты будут удовлетворены тем, что первые двое работают
вместе, а третий агент — в одиночку.
Анализ графов на рис. 5.3 позволяет прийти к следующей простой
математической модели баланса: структура взаимодействий агентов в MAC является
сбалансированной, если каждый цикл в ее знаковом графе положителен. Знак
цикла определяется как произведение знаков дуг, образующих данный цикл. В итоге,
ясно, что устойчивым структурам соответствуют циклы с четным числом
отрицательных знаков, а неустойчивым — циклы с нечетным числом отрицательных
знаков.
а) б) в) г)
Рис. 5.3. Возможные типы отношений в MAC из трех агентов
Эта модель позволяет также делать прогноз развития взаимодействий.
Например, естественными вариантами развития ситуации, изображенной на рис. 5.3 г.
и получения устойчивой структуры взаимодействий, могут стать либо переход
от противодействия к содействию между агентами а\ и а^, либо, наоборот,
переход от содействия к противодействию между агентами aj и aj.
Удобным критерием оценки сбалансированности графа G является критерий
Харари: знаковый граф сбалансирован тогда и только тогда, когда множество
его вершин можно разбить на два класса, так что
каждое ребро внутри класса имеет знак +, а каждое ребро
между классами — знак -. (рис. 5.4). Данный критерий
имеет прозрачную интерпретацию в виде «двухпартийной
структуры»: MAC можно разделить на две группы агентов
(партии) таким образом, что все взаимодействия внутри
групп носят характер содействия, а между группами —
противодействия.
Естественным обобщением рассмотренной модели
баланса взаимодействий является допущение некоторой
степени сбалансированности (или несбалансированности)
взаимодействий, выражаемой с помощью некоторой меры
относительного баланса b(G). Пусть р — число
положительных циклов в G, n — число отрицательных циклов,
at — общее число циклов. Простейшие меры
относительного баланса (дисбаланса) имеют вид B(G) = p/t;
DB(G) = n/t.
Многомерным аналогом понятия структурной
сбалансированности графа являются понятия консонанса
и диссонанса (см. [Дулин, 1990]). Взаимодействия
агентов в MAC называются консонансными, если множество
агентов можно разбить на группы (две и более), внутри
каждой из которых связи между агентами положительны
Рис. 5.4. Иллюстрация
критерия Хаари:
«двухпартийная» структура
MAC

5.7. Использование шкал различных типов
207
(агенты содействуют друг другу), тогда как связи между агентами из разных
отрицательны (агенты противодействуют друг другу). Наоборот, взаимодействия
в MAC носят диссонансный характер, если внутригрупповые связи отрицательны,
а межгрупповые — положительны. Наконец, взаимодействия, которые не
являются ни консонансными, ни диссонансными, называются ассонансными.
Очевидно, что степени консонанса можно ранжировать по силе. Наиболее
сильным считается консонанс с максимальным числом положительных связей.
Из консонанса Хайдера с двумя группами самый сильный — с одним
«отторгнутым» агентом, а самый слабый — когда подмножества агентов равномощны.
Когда число агентов равно числу подмножеств, получаем самый слабый
консонанс, который эквивалентен самому сильному диссонансу — тривиальному.
Теперь рассмотрим вариант знаковой интерпретации сходства для
согласованного множества агентов [Дулин, 1990]. Пусть имеется задача распределения
множества агентов А на множество групп Г по совокупности критериев С.
Будем считать, что на множестве агентов А задано нечеткое бинарное отношение
сходства (т. е. рефлексивное и симметричное нечеткое бинарное отношение):
gRs: А х А -»€ [0,1]. Здесь gRS(aj,aj) = 1 соответствует полному сходству
агентов aj, и a,, a gRs(a,-,aj) = 0 — их полному несходству. Задача распределения
может пониматься как построение множеств уровня для нечеткого отношения
сходства. Определим числовые значения а и р как нижний и верхний пороги
сходства соответственно: 0 ^ а ^ р ^ 1. Тогда можно задать следующие три
варианта взаимодействия между aj, и а^ а) положительное взаимодействие Rs+,
если Р ^ gRsfabaj) ^ 1; б) безразличие a ^ gRS(ab aj) ^ P\ в) отрицательное
взаимодействие 0 ^ gRS(aj, aj) ^ a.
5.7. Использование шкал различных типов
при анализе взаимодействий агентов
5.7.1. НЕ-факторы на полярных шкалах
Интерпретация НЕ-факторов во-многом зависит от выбора типа шкалы.
Следуя Д. А. Поспелову [Поспелов Д. А., 19946], будем различать «серые» и «черно-
белые» шкалы взаимодействия. В случае «серых» шкал у агентов aj и ц переход
от отношения R+ к противоположному отношению R~ может происходить
плавно, постепенно и описываться значениями непрерывной функции рд. Подобные
шкалы обычно удовлетворяют условиям:
1) взаимной компенсации между отношениями R+ и R" (чем в большей степени
проявляется R+, тем в меньшей степени проявляется R", и наоборот);
2) наличия нейтральной точки R0, интерпретируемой как точка наибольшего
противоречия, в которой отношения R+ и R" присутствуют в равной степени,
т. е. gR+(ai, aj) = gR_(aJ9 a,), Vаь щ € А.
Часто для «серых» шкал полагается, что отношения R+ и R~ связаны между
собой логическим отрицанием, т.е. gR_ = g]R+.
Для метрических полярных шкал, когда можно определить расстояния между
любыми двумя точками шкалы, первое условие выражает идею дополнительности
(сумма расстояний от любой точки шкалы до ее концов равна общей длине
шкалы). Второе условие свидетельствует о наличии срединной точки, где расстояния
до левого и правого концов шкалы равны между собой.

208
Глава 5. Взаимодействие между агентами в MAC
Нет ни R+ ни R", T.e."](R*vR")
maxR*
Напротив, в случае «черно-белых» шкал
компенсации противоположных отношений не
происходит: при уменьшении интенсивности
отношения R+ сила отношения R" не
возрастает, и наоборот. Здесь принцип
дополнительности не работает: по мере удаления от краев
шкалы оценки обоих отношений — как R4",
так и R" становятся все более
неопределенными. Более того, срединная точка подобной
шкалы есть точка разрыва, в которой нет ни
того, ни другого отношения ~|(R+ v R~), т.е.
наблюдается максимальная неопределенность.
С позиций синергетики окрестность этой
точки можно интерпретировать как область хаоса,
в которой возможно спонтанное возникновение
нового смысла в результате «веерного перехода»
с одной шкалы на другие.
Итак, средняя точка «серой» (по терминологии Д. А. Поспелова) шкалы есть
точка наиболее противоречивого (двусмысленного) взаимодействия, а
соответствующая точка разрыва на «черно-белой» шкале дает нам невзаимодействие
(полную неизвестность). В итоге получаем «круговую шкалу» (рис. 5.5). Из этих
соображений в результате приходим к базовой логике неопределенности с
четырьмя значениями истинности v,- (логике аргументации В. К. Финна [Финн, 1996])
L4 = {-1,0, ?, +1}, с помощью элементарных преобразований:
Рис. 5.5. Пример круговой шкалы
взаимодействий:
1 — «серая» шкала, 2 и 3 — участки
«черно-белой» шкалы
(+1, если 0<gR+s$+l; gR_ = 0
-1, если -l^gR_<0; gR+ = 0
0, если gR+ = gR_
?, если gR+ = gR_ = 0.
E.45)
5.7.2. Виды оценок на полярных шкалах
Процедура оценивания на полярных шкалах может быть описана в виде
A = (L;D,Q), E.46)
где решетка L определяет область оценок; D С L — выделенное подмножество
области оценок (набор эталонов); Q — множество допустимых операций над
оценками (нульарных, унарных, бинарных,..., п-арных).
Возможны как точные, так и интервальные (и нечеткие) оценки
взаимодействий. В случае точных числовых оценок для «серых, шкал»
используются двузначная L2 = {-1,+1}, трехзначная Ц = {-1,0,-И}, пятизначная
L5 = {-1,-0.5,0,4-0.5,-1-1} логики оценок. Так для L5 промежуточные оценки
+0.5 и -0.5 интерпретируются как «скорее содействие R+, чем противодействие
R"» и «скорее R", чем R+» соответственно.
Для оценивания в порядковой полярной шкале удобно использовать
интервал L7 = {-3, -2, -1,0, +1,+2, +3}, наглядно представляющий упорядоченное
множество оценок vR~ < R~ < wR~ < R° < wR+ < R+ < vR+. Например, если
рассмотреть оппозицию «противодействие — содействие», то базовые оценки
на шкале R+ и R" могут индуцировать усиленные оценки vR+ («сильное содей-

5.7. Использование шкал различных типов
209
ствие») и vR~ («сильное противодействие»)
и ослабленные оценки wR+ («слабое
содействие») и wR~ («слабое противодействие»).
В целом, усложнение сценариев
оценивания выражается в переходе от
многозначных к нечетким лингвистическим шкалам.
Здесь оценки взаимодействия агентов
становятся значениями лингвистической
переменной «Взаимодействие».
В случае лингвистической переменной
«Взаимодействие», распадающейся на две
взаимосвязанные переменные «Содействие»
и «Противодействие», базовое
терм-множество включает набор лингвистических
оценок {слабое, среднее, сильное}. Тогда смысл
этих термов можно представить в виде
нечетких множеств /z, определенных на
интервале z[-l,+l] со значениями из [0,+1]
(рис. 5.6).
5.7.3. Обобщенные нечеткие множества
для оценивания взаимодействия
на полярных шкалах
Как уже было отмечено выше, на полярных шкалах далеко не всегда работает
принцип дополнительности (например, он не выполняется в случае «черно-белых
шкал»). Особенно, это касается тех случаев, когда оценки на оппозиционных
шкалах являются нечеткими и выражены с помощью лингвистических значений.
Тогда нечеткая лингвистическая шкала может становиться диффузной, т. е. каждой
базовой числовой шкалы соответствуют на два соседних терма (как на рис. 5.6),
а фактически все терм-множество.
Поскольку взаимодействие R агентов можно разложить на процессы
содействия R+ и противодействия R~, будем описывать его парой чисел из
интервала [0,4-1], выражающих оценки степеней проявления R+ и R". Например,
для правого конца полярной шкалы обычно полагается, что содействие
агентов R+ проявляется в полной мере, а противодействие R~ никак не проявляется,
т.е. имеем оценку \i — A,0). Напротив, аналогичная оценка для левого конца
полярной шкалы принимает вид @, 1).
Развивая эту идею, будем описывать понятие взаимодействие в виде
обобщенного нечеткого множества:
F= {(x,/xR+(x),/xR_(x))},x € X,/iR+(x) € [0,+1],j*r-(x) 6 [0,+1]. E.47)
Здесь х 6 [-1,4-1], a /xR+(x) и /Jr-(x) — нечеткие множества,
характеризующие лингвистические оценки проявления отношения R+ и оппозиционного
отношения R". Например, в некоторой точке полярной шкалы х зададим
степень проявления противодействия /*R_ значением +0,8, а степень проявления
содействия /*R+ — числом 0,5. В общем случае ^R+(x) + //R_(x) Ф 1.
15 3ак. 72
Противодействие Содействие
I БП СП МП НПС МС СС БС|
-1 I -0,75 -0,5 -0,25 0 +0,25 +0,5 +0,75 +1
Рис. 5.6. Пример нечеткой
лингвистической шкалы для взаимодействия
агентов:
БП — «большое противодействие», СП —
«среднее противодействие», МП — «малое
противодействие», НПС — «нулевое
противодействие/содействие», МС — «малое
содействие». СС — «среднее содействие»,
БС — «большое содействие»

210
Глава 5. Взаимодействие между агентами в MAC
5.8. Способы формирования различных архитектур
MAC в процессах взаимодействия агентов
Рассмотрим подробнее способы формирования MAC в процессе
взаимодействия автономных агентов. Среди них можно выделить: ассоциацию, комбинацию,
интеграцию, слияние (рис. 5.7). Для простоты изложения ограничимся
взаимодействием двух агентов.
1. Ассоциация. В данном случае MAC (процесс ее формирования показан
жирными линиями) образуется на основе симметричных положительных
связей между исходными автономными агентами а{ и aj (рис. 5.7 а), когда
R+(a, b) = R+(b, а). Оба агента на паритетных началах участвуют в создании
новой системы (например, вкладывают одинаковое количество ресурсов).
Автономность агентов означает слабую зависимость процесса ассоциации
от внешних входных сигналов (поэтому здесь входы и выходы обозначены
пунктирными стрелкамиJ*. Если к тому же автономные агенты однородны,
то ассоциация называется коалицией.
K(a,b) = R.(b, a)
-+\ агент aU >] агент b |—>
Ассоциация
агентов а и b
Рис. 5.7 а. Ассоциация агентов
R+(a, 6)>R+F,a)
4SM
*-frj агент1Г|—J
Комбинация
агентов aub\
Рис. 5.76. Комбинация агентов
Интеграция
. агентов а и 6
1 агент a \ | агент b \
Рис. 5.7 в. Интеграция агентов
агент 6
Слияние
агентов а
Ие | Rae ^
иЬ1 *
Рис. 5.7 г. Слияние
2. Комбинация. В отличие от предыдущего случая, формирование MAC
происходит на основе несимметричных положительных связей между автономными
агентами gR+(a, b) > gR+(b, а) (рис. 5.75). Процесс формирования MAC
становится иерархическим, причем первая система имеет в нем приоритет над
второй; в пределе, когда связи антисимметричны gR+(aj, aj) > 0 => gR+(aj, aj) = 0,
первая система способна блокировать вклад второй в создание новой системы.
3. Интеграция. В процессе интеграции формирование новой MAC производится
на основе выбора из двух систем агентов а и Ь, наиболее приспособленных
по отношению к внешним воздействиям среды компонентов (интегратором
служат внешние воздействия Res (рис. 5.7в).
4. Слияние. В результате слияния исходные агенты (MAC) а и b теряют свою
самостоятельность (индивидуальность) и из них формируется новая система
с общим выходом Rse (требуемым поведением) (рис. 5.7г).
' Кроме того, здесь индивидуальные интересы агентов а и b сохраняют приоритет над целями
ассоциации, чем объясняется их положение на рисунке «над ассоциацией».

Глава 6
Организации:
естественные и искусственные
Как мир меняется/ И как я сам меняюсь!
Лишь именем одним я называюсь, —
На самом деле то, что именуют мной, —
Не я один. Нас много. Я — живой.
Николай Заболоцкий. «Метаморфозы»
6.1. Понятие организации
и его роль в создании MAC
Организация наряду с взаимодействием — одно из ключевых понятий в теории
MAC. Организация часто выступает как механизм разрешения или запрещения
взаимодействия между агентами. В MAC задачи распределены между агентами,
каждый из которых рассматривается как член группы или организации.
Распределение задач предполагает назначение ролей каждому из членов группы,
определение меры его ответственности и требований к опыту.
Сам термин «организация» многозначен: он выражает одновременно действие
по организации чего-либо и результат этого действия. Иными словами,
организация может рассматриваться двояко — как: 1) способ структурирования MAC;
2) действие по ее организации.
Организация есть одновременно и процесс создания структуры, и результат
этого процесса. Эта двойственность термина показывает, что в организации всегда
существует динамический аспект: абсолютно статических организаций не бывает.
Дуализм в интерпретации понятия «организации» отнюдь не самая
изощренная его трактовка. В свое время известный французский мыслитель П. Валери
предложил толкование организации как неразрывного триединства некоторого
организованной структуры, продукта этой организации и организующей системы.
Организация MAC в сложной среде, как правило, носит динамический
характер; предполагая более или менее оперативную перестройку множества
агентов и множества связей между ними.
Важность рассмотрения организаций в русле агентно-ориентированного
подхода в информатике и искусственном интеллекте связана с возможностью
изучения с единых позиций агента, MAC и сообществ MAC. Так агенты могут
пониматься как индивидуальные (физические или виртуальные) организационные
единицы, a MAC — как коллективные. Различие между этими двумя видами
единиц состоит в наличии у первых своего рода мембраны: индивидуальная единица
отграничивает свое внутреннее пространство от внешнего таким образом, что
15*

212 Глава 6. Организации: естественные и искусственные
взаимодействия со средой (обмены) могут происходить в довольно узких
границах [Ferber, 1995]. У коллективных единиц механизм типа мембраны отсутствует.
Когда говорят об организации, то предполагается, что существует множество
кооперирующих единиц, образующих некоторую целостность. Иными словами,
организация предполагает наличие отношений между неоднородными единицами,
обеспечивающих их совместимость. Организация есть социальный агент, который
одновременно воздействует на среду (сообщество) и саму себя. С одной стороны,
она сама определяет свои цели и организует свои внешние связи (обмены).
С другой стороны, организация устанавливает свои нормы и поддерживает свое
равновесие, т.е. отношение со своими частями.
Соответственно, организация MAC определяется ее структурой, включающий
связи коммуникации и управления между агентами, а также действиями по
формированию этой структуры. В то же время, она выражает схему деятельности
и взаимодействия агентов, задавая проблемную область, характер их задач и
полномочий, а также определяет продолжительность жизни MAC, включая условия
ее сохранения и устойчивости, несмотря на случайные возмущения.
В MAC существует множество различных взаимоотношений между агентами
(в контексте передачи информации, делегирования функций или полномочий,
взятия обязательств, синхронизации действий, и пр.). Такие взаимоотношения
невозможны без организации, и в свою очередь, организация требует
существования подобных отношений. Таким образом, организация составляет и основу,
и способ существования этих взаимоотношений, т. е. способ распределения задач,
данных, ресурсов и координации действий.
6.2. Парадигмы теории организаций
В классической теории организаций можно выделить две главные парадигмы —
функциональную и критическую (рис. 6.1). Согласно функциональной парадигме,
при исследовании и моделировании организаций основное место занимают
проблемы функционального анализа, интеграции, кооперации, координации,
сохранения, устойчивости организационных структур. Главным аспектом организации
считается стабильность по отношению к среде, существование порядка.
Функциональная парадигма в том виде, как она была развита в классической
теории организаций В. Тейлора, теории административного управления А. Файоля
и теории профессиональной бюрократии М. Вебера (рис. 6.2), опиралась на книгу
Теория
организаций
у
г
Функциональная
парадигма
1
Синергетическая
(синтетическая)
парадигма
Критическая
парадигма
Рис. 6.1. Парадигмы теории организаций

6.2. Парадигмы теории организаций
213
Функциональная
парадигма
Классическая
школа организаций
Теория
Ф.В.Тейлора
(научная
организация
труда)
Школа
человеческих
отношений
Школа принятия
управленческих
решений
Школа социальных |
систем
Теория
А.Файоля
(теория
администрации)
Теория
М.Вебера
(теория
профессиональной
бюрократии)
Неоклассическая
теория
организаций
Рис. 6.2. Основные исторические направления в теории организаций
английского классика политэкономии А. Смита «Богатство наций», в которой
идеи обмена материальными продуктами и разделения труда стали исходным
пунктом для формирования механистической точки зрения на сущность
организации в индустриальном обществе. Поэтому в указанных теориях основной упор
сделан на внутреннее строение организации, разделение функций и
рационализацию управления. В своей основе классический подход являлся статическим, так
как фактически не учитывал динамики изменения организационных структур под
воздействием внешних факторов.
Классическим примером применения философии рационализма в теории
организаций является концепция профессиональной бюрократии. Рациональная
организация по М. Веберу есть бюрократическая организация. Здесь
рациональность понимается как полное соответствие средств целям. Бюрократическая
организация эффективна, поскольку при этом властные функции осуществляются
на основе норм и обезличенных процедур. Деперсонализация улучшает
управляемость и обеспечивает понимание поведения организации.
Таким образом, основу традиционного представления организаций можно
выразить через стремление к конечному состоянию (набору состояний) с четко
определенной, устойчивой структурой. Эта концепция организации как системы,
ведущей поиск состояния равновесия, зародилась в русле рационалистических
и механистических воззрений классической науки. Она не соответствует реалиям
нынешнего дня и, прежде всего, современной сложной, многокомпонентной
среде организации, которая пронизана неполнотой информации, неопределенностью
и нечеткостью. На повестку дня становятся проблемы реструктуризации,
усовершенствования, реинжиниринга организаций [Ойхман и Попов, 1997; Hammer
and Champy, 1993]. Поэтому в нынешнюю эпоху все возрастающей сложности

214 Глава 6. Организации: естественные и искусственные
и неопределенности условий функционирования организация все чаще
рассматривается не как конечное состояние, а как процесс постоянных преобразований.
Это означает обращение к ряду положений критической парадигмы, согласно
которой функционирование организаций связывается с процессами изменения,
борьбы, конкуренции, конфликта, одним словом, беспорядка, что провоцирует
внутреннюю нестабильность организации. В историческом плане критическая
парадигма наиболее ярко представлена в таких философско-организационных
течениях как анархизм, марксизм и экзистенциализм.
Синтетическая (синергетическая) парадигма управления сложностью в
организациях, активно развиваемая в последние два десятилетия, объединяет идеи,
подходы и результаты, полученные в рамках функционализма и критических течений
(рис. 6.1). Ее сторонники рассматривают организацию как конъюнкцию порядка
и беспорядка и уделяют особое внимание процессам самоорганизации. Истоки
этого направления восходят еще к идеям А. А. Богданова (см. [Богданов, 1989]).
В то же время синтетическая парадигма опирается на принципы
самоорганизации, предложенные в работах Дж. фон Неймана [Нейман фон, 1971], Н.Винера
и У. Форстера, модели возникновения порядка из хаоса И. Пригожина и Г. Ха-
кена [Пригожий и Стенгерс, 2000; Хакен, 1985], теорию гомеостата У. Р. Эшби,
концепцию самообновления (автопоэзиса) У. Матураны и Ф. Варелы [Maturana
and Varela, 1980] и т. п. Эта новая парадигма представляется наиболее
адекватной для отражения современных тенденций развития искусственных организаций
в быстро меняющихся, динамических средах.
6.3. Подборка определений и высказываний
об организациях
Вначале приведем несколько известных определений организации. Одним
из основоположников теории организации был выдающийся русский ученый
А. А. Богданов (см. раздел 4.2). В своей книге «Тектология: всеобщая
организационная наука», впервые вышедшей в свет в 1912 г. (см. [Богданов, 1989]) он указал,
что организация — это множество отношений между составляющими
(индивидами), образующих целое или систему, которая обладает новыми, неизвестными
свойствами по отношению к этим составляющим.
Уровень организации тем выше, чем больше каждый из ее компонентов
(индивидов и отношений) способствует целостности системы. Организованность
системы зависит от степени актуализации ее функций, выражающейся в полноте
использования возможных связей между компонентами.
В дальнейшем, Р.Акофф и Ф.Эмери в книге «О целеустремленных
системах» [Акофф и Эмери, 1974] указали, что организация — это такая социальная
система, в которой состояние любой части можно определить, только зная
состояние всей системы. Свойства организаций не могут быть получены из свойств
их подсистем. Этот тезис «целое больше суммы частей» выражает мысль о
непригодности механистического мировоззрения для развития современной теории
организаций. С другой стороны, те же Р. Акофф и Ф. Эмери определяли
организацию как социальную группу, в которой существует функциональное разделение труда,
направленное на достижение общей цели. Разделение функций представляет собой
фундамент всякой организации, причину ее существования.
В соответствии с этой точкой зрения, в современной теории организаций
принято следующее определение: «организация представляет собой сознательно

6.3. Подборка определений и высказываний об организациях 215
координируемое социальное образование с определенными границами,
функционирующее на относительно постоянной основе для достижения общих целей» [Миль-
нер, 1998]. При этом границы организации могут меняться со временем, а агенты
в организации всегда несут определенные обязанности, внося свой вклад в
достижение общих целей.
С позиций социальной психологии, организация есть дифференцированное
и взаимно упорядоченное объединение индивидов и групп, действующих на
основе общих целей, интересов и программ. В свою очередь, социотехническая школа
рассматривала организацию как взаимодействие двух систем: социальной и
технической, причем это взаимодействие и формирует организацию.
В русле функционально-структурного подхода (см., например, [Балашов, 1985;
Волков и др., 1987] любая организация, исследуемая как система, есть
функционально-структурная целостность. Речь идет о семействе разнородных структур,
рассматриваемых в плане выполнения определенных функций, связанных с
производством продуктов и предоставлением услуг. Во взаимоотношениях функции
и структуры в организации ведущая роль принадлежит функции, поскольку
именно ее функциональное назначение (совокупность реализуемых функций)
и условия существования определяют структуру. В организации структура
нередко выступает как способ существования функции.
С одной стороны, при анализе организаций MAC используются понятия
функциональной и морфологической структур. Функциональная структура отражает
функциональные взаимодействия агентов в MAC и ее взаимодействие с внешней
средой. Функциональной структуре соответствует представление MAC в виде
совокупности ролей и связей между ними. В основе морфологической структуры
организации лежат пространственные отношения между агентами. Например, для
предприятия это отношения локализации, определяющие взаимное расположение
его подразделений (например, центрального офиса и складских помещений),
а также удаленность от поставщиков и заказчиков.
С другой стороны, выделяются экстенсивные структуры, в которых с
течением времени происходит рост числа элементов, и интенсивные структуры,
в которых растет число связей при неизменном составе элементов. Организация
представляет собой неразрывное единство экстенсивных структур,
развертывающихся в пространстве, и интенсивных структур, развивающихся во времени. При
этом устойчивую функциональную связь между частями целого обеспечивают
главным образом экстенсивные структуры, а изменения, развитие организации —
интенсивные.
Одна из главных характеристик любой организации заключается в том, что
в ней осуществляется властная функция управления определенными социальными
ресурсами. С точки зрения Дж. Ван Гига организация представляет собой иерархию
систем управления. Власть определяет цели и нормы организации. Организация
предполагает разделение функций (труда), ответственности и властных
полномочий. Это способствует эффективному достижению общих целей.
Всякая организация связывает воедино власть и ресурсы, подчинение и
сотрудничество. Следовательно, организацию можно охарактеризовать как систему
социальных отношений, существующую вокруг некоторых норм коммуникации и
власти [Bernoux, 1985; Gasser, 1992; Hardy and Redivo, 1994].
Понятие социальной роли первично в методе организационного
моделирования, предложенном Г. Паттисоном и сотр. [Pattison et al., 1987]. Этот метод
интересен тем, что организация описывается аналитически, от общего к
частному. Организация определяется множеством своих составляющих и набором

216 Глава 6. Организации: естественные и искусственные
отношений между ними. Любая составляющая характеризуется своим типом
(индивидуальная или коллективная), видами ответственности, ресурсами, знаниями
и индивидуальными характеристиками. Наиболее важными отношениями
являются отношения коммуникации и властные отношения, но учитывается и ряд других,
например, отношение близости. О необходимости моделирования властных
функций в MAC говорилось многими авторами, в частности К. Кастельфранши [Castel-
franchi, 1990].
Суммируя вышеизложенное, можно указать следующие основные
характеристики организаций:
• распределение задач;
• распределение ролей;
• система властных полномочий;
• виды взаимодействий;
• система коммуникации;
• система оценки (наказания-вознаграждения).
6.4. Критерии организационного
проектирования MAC
В предыдущем разделе было показано, что категория организации
раскрывается через понятия «сложная, открытая, целенаправленная, социальная
система», «власть», «ответственность», «функция», «функциональноеразделение труда»,
«структура», «коммуникация». Эти классические представления об организации
активно используются и развиваются специалистами в области MAC, где в
центре внимания находится разработка искусственных организаций, т.е. организаций,
существующих в виртуальном пространстве, которые состоят из агентов,
географически удаленных друг от друга и взаимодействующих на основе сетевых
технологий1* (см. например, [Barnatt, 1994; Dubinskas, 1993; Epstein and Axtell,
1996; O'Leary et al., 1997]). Вместе с рядом других системных характеристик
организаций они могут служить в качестве критериев организационного
моделирования и проектирования MAC.
Ниже мы сначала перечислим набор организационных критериев, а затем
дадим их краткое описание. На наш взгляд, к числу основных критериев,
определяющих тип организации MAC, относятся:
• вид внешней среды, в которую погружена организация (статическая или
динамическая, закрытая или открытая и т. п.);
• характер связей между агентами в организации (постоянные или переменные,
вертикальные или горизонтальные);
• способ возникновения (заранее заданная, спроектированная организация или
спонтанно возникающая в результате взаимодействий между агентами);
• характер распределения функций, ролей, и ответственности, определяющий
гибкость связей (жесткие или гибкие, постоянные или переменные);
• вид и геометрия организационных единиц (элементарное функциональное
подразделение, описываемое простой иерархией древовидного типа, или ав-
^ В ИИ под искусственной организацией часто понимается организация, состоящая из
искусственных (виртуальных) агентов.

6.4. Критерии организационного проектирования MAC 217
тономная междисциплинарная рабочая группа, представляющая собой
сложную неоднородную сеть с преобладанием горизонтальных связей, например
кольцевую структуру);
• тип управления (субординация или координация);
• структура принятия решений (моноцентризм или полицентризм);
• владение ресурсами или характер ресурсного обеспечения (централизованное
или децентрализованное);
• морфология организации (монолитная, сосредоточенная или распределенная,
сетевая организация);
• характер коммуникации агентов (непосредственная или опосредованная,
ближняя или дистанционная);
• стратегии развития организации (жесткое планирование или
самореорганизация);
• стратегии адаптации к среде (телогенез или арогенезJ).
Поскольку организации как открытые системы характеризуются
периодическим и интенсивным взаимодействием с внешней средой, важным исходным
критерием служит тип среды и интенсивность взаимодействия с ней. С одной
стороны, именно изменения среды приводят к изменению целей и функций
организаций, которые приводят к необходимости их структурной перестройки.
С другой стороны, уровень взаимодействия со средой определяет, ведет ли
организация относительно замкнутое существование, тесно связанное с преобладанием
«эгоцентрических стратегий» конкурентной рациональности, или она активно
взаимодействует с другими организациями, добиваясь скорейшего достижения
общих целей.
Следует различать два типа организационных отношений. Во-первых, это
статические отношения, которые, образуя «скелет» организации MAC,
характеризуют априорную организационную структуру, существующую до и
независимо от процессов ее функционирования. Во-вторых, возникают динамические
отношения, которые, формируя «плоть» организации MAC, описывают гибкие
взаимосвязи, изменяемые при взаимодействии.
В интересах адаптации к среде организация MAC должна изменяться
(обновляться). Соответственно, организации, определяемые различными типами
связей между агентами, также характеризуются разными способностями
изменяться во времени и адаптироваться к динамике внешней среды и смене внутренних
потребностей системы. Изменение внутренних потребностей может связываться
с изменением числа агентов и перераспределением их ролей в ответ на новые
требования среды. Так у Л. Гассера [Gasser, 1991 и 1992] указаны три формы
организации, зависящие от степени связанности ее составляющих и возможностей
их изменения:
• стабильная организация с постоянными, жестко фиксированными связями,
• стабильная организация с гибкими переменными (вариабельными) связями,
• развивающаяся организация с эволюционирующими связями.
' Арогенезом называется стратегия расширения адаптационных возможностей MAC путем
расширения набора сред, в которых она может функционировать. Речь идет об универсализации MAC.
Напротив, стратегия телогенеза предполагает очень глубокую адаптацию к определенному состоянию
среды. Это достигается благодаря специализации MAC [Варшавский и Поспелов, 1984].
14 Зак. 72

218 Глава 6. Организации: естественные и искусственные
В организации с жестко фиксированными связями хаждый агент играет одну
или несколько ролей, которые никак не меняются и не передаются от одного
агента к другим. Отношения между агентами в MAC жестко регламентированы,
и практически никакая реорганизация невозможна.
Переменные (вариабельные) связи в MAC соответствуют стабильным
организационным структурам с изменяющимися параметрами (например, степень
специализации агентов или уровень их избыточности влияют на степени вершин
графа, изображающего MAC, и его диаметр). Здесь отношения между агентами
могут изменяться, но эти изменения определяются заранее и характеризуются точно
заданными механизмами. Такой тип связей чрезвычайно распространен в MAC.
Эволюционные связи характеризуют развивающиеся организационные
структуры, когда отношения между агентами могут меняться в зависимости от
критериев эффективности организации.
Преобладание в организационной структуре симметричных
(координационных) или асимметричных (субординационных) связей обусловливает активный
или реактивный характер деятельности организации. Доминирование
вертикальных связей порождает реактивные стратегии организационного поведения,
описываемые схемой «стимул-реакция». Приоритет горизонтальных связей
претворяет в жизнь активные стратегии организационного поведения, ориентированные
на потребности завтрашнего дня, на развитие организации.
Кроме того, организационные структуры MAC могут формироваться
двояким образом: либо проектироваться разработчиками, либо возникать спонтанно.
В первом случае их называют предварительно заданными. Это означает, что
отношения между агентами в MAC, неважно, являются ли они статическими или
динамическими, определены заранее. Например, в случае развивающихся
организаций, их эволюция фактически запрограммирована, если заранее известны
множество возможных отношений и множество соответствующих преобразований.
Во втором случае, когда организационные структуры определяются
апостериори, соответствующие организации называют эмергентными («вдруг
возникающими»). Подобные организации часто состоят только из реактивных агентов
и характеризуются отсутствием заранее спроектированной структуры, которая
возникает именно в процессах взаимодействия между агентами. В этом случае
положение и роли агентов не определены заранее, а формируются как продукты
поведения этих агентов [Drogoul and Ferber, 1994; Ferber, 1995]. Точнее говоря,
распределение функций и задач происходит в процессах самоорганизации,
позволяющих организации своевременно эволюционировать и легко адаптироваться
к изменениям среды или потребностей группы агентов.
Организации с фиксированной структурой в основном характерны для
когнитивных агентов, а организации с возникающей структурой (эмергентного типа)
чаще всего объединяют реактивных агентов.
В общем случае по характеру управления в MAC выделяются
организационные иерархии и эгалитарные структуры (гетерархии). В первом случае
доминируют вертикальные связи между агентами, а отношения субординации образуют
«перевернутое дерево». Во втором случае преобладают горизонтальные связи
и управление сводится к координации действий; здесь всякий агент может
попросить любого другого агента выполнить некоторую задачу, и потенциальный
исполнитель всегда может отказаться.
Как уже упоминалось, при проектировании MAC важную роль играет
построение структур субординации (властных полномочий) [Castelfranchi, 1990] и
принятия решений. Отношения субординации характеризуют классическую проблему

6.4. Критерии организационного проектирования MAC 219
организационного управления, т. е. способы заставить одних агентов подчиняться
другим и выполнять их поручения.
При достижении любой системой некоторого уровня сложности в ней
неминуемо возникает иерархическая структура. Как только размер естественной
организации превышает «порог малой группы», возникает простая
двухуровневая иерархия. Дальнейший организационный рост до нескольких десятков
и сотен членов организации предполагает построение многих уровней иерархии
для поддержания эффективности управления с соответствующим делегированием
ресурсов, полномочий и ответственности на промежуточные уровни. В
естественных организациях это происходит главным образом в силу того, что у человека
существуют естественные психофизиологические ограничения по обработке
информации (в оперативной памяти обычно может храниться 7 ± 2 символов или
«информационных кусков»). Поэтому возможности любого руководителя по
оперативному управлению ограничены (как правило, один руководитель не может
непосредственно управлять подразделением более, чем из десятка сотрудников).
Реальным выходом из такой ситуации оказывается распределение управляющих
функций, создание вертикальных и горизонтальных структур управления.
Существуют различные типы иерархий (см., например, [Саати и Керне,
1991]):
• простые (двухуровневые) иерархии,
• однородные (многоуровневые) иерархии,
• иерархии с ограниченными горизонтальными связями,
• ха/ш/шш-иерархии с обратными связями,
• модулярные иерархии (типа «китайский ящик»), которые разрастаются в объеме
от простейших компонентов или единиц (внутренних «ящиков») до все
больших и больших комплексов (внешних «ящиков»),
• неогенетические иерархии, которые состоят из последовательно нарастающих
уровней развития, возникающих в процессе эволюции, и т.д.
В последнее время все большую популярность в теории организаций набирают
гетерархии-«уплощенные» сетевые структуры, в которых основную роль играют
горизонтальные связи. Примерами сетевых организаций являются структуры типа
«звезды», «колеса» и пр. (см. главу 9).
В математическом плане сеть является обобщением понятия графа. Она
задается парой вида
NET=(V,F), F.1)
где V — некоторое множество, a F = {Fo, Fb F2,...} — семейство наборов
элементов из V, причем в наборах Fj € F элементы могут повторяться. Здесь
элементы множества V называются вершинами сети, элементы набора Fo —
полюсами сети, а наборы Fj, i = 1,2,... — ребрами сети. В случае, когда
множество полюсов пусто, а каждый из наборов Fj является множеством, сеть
представляет собой гиперграф. Следуя традиции, будем рассматривать в данной
книге сеть как взвешенный граф (гиперграф)
G = (V,H,i/), F.2)
где Н — множество дуг, a v : Н —> И+, %+ — множество неотрицательных
действительных чисел. Для нечетких графов вместо К берется линейно упорядоченное
14*

220 Глава 6. Организации: естественные и искусственные
множество или некоторая решетка L, например, L =* [0,1] или L = [-1,+1].
В наиболее общем случае в нечетких сетях взвешиваются также и вершины, т.е.
G = (V,H,ji,i/), F.3)
где /i : V —> L.
Сети по своей природе подвижны, адаптивны и многофункциональны. Они
образуются, развиваются и трансформируются в зависимости от преследуемых
организацией целей.
По виду элементов все сети подразделяются на однородные и неоднородные,
а по типу связей — на сети с фиксированными и переменными связями. Так,
примером неоднородной сети служит дискретная ситуационная сеть [Гаазе-Рапопорт
и Поспелов, 1987; Поспелов и Пушкин, 1972], рассмотренная в главе 3. По
характеру принятия решений, различаются следующие типы организационных сетей:
а) унитарные сети, где решения готовятся наверху и проходят сверху вниз
(например, банковские сети);
б) федеративные сети, где решения готовятся внизу и проходят снизу вверх
(например, страховые компании);
в) контрактные сети с двусторонним механизмом выработки решений;
г) сотовые сети со многими центрами принятия решений.
Для решения любых задач организации всегда необходимы какие-либо
средства, ресурсы, при помощи которых эти задачи будут решены. И от того, как
распределены эти ресурсы в организации, каково число агентов-владельцев
ресурсов в MAC и как они соотносятся между собой, в значительной мере зависит
степень автономности агентов и тип организации MAC.
Различные комбинации рассмотренных выше организационных
характеристик, по возможности представленных в форме экстремальных принципов (типа
максимального числа горизонтальных связей, максимально быстрой адаптации,
максимального распределения ресурсов и пр.) определяют подклассы организаций
MAC.
6.5. Тейлоровские и посттейлоровские
организации MAC
6.5.1. Основы тейлоровской организации
Важнейшие идеи классической теории организаций по Ф. В.Тейлору
применительно к MAC можно выразить в виде следующих двух постулатов и четырех
принципов:
I. Постулат механицизма. Организация уподобляется механизму для
достижения общей цели, причем все агенты рассматриваются как винтики или шестеренки
этого механизма (машиноцентрический подход).
II. Постулат рационализма (абсолютной управляемости). При наличии у
агента-руководителя (субординатора) всей необходимой информации о других агентах
организация считается полностью управляемой. При этом агент-руководитель
может и должен обеспечить эффективное разделение функций между всеми
другими агентами, максимально возможное расчленение задач и «предварительное
программирование» действий каждого агента. В такой организации нет места для

6.5. Тейлоровские и посттейлоровские организации MAC 221
какого-либо перераспределения функций и спонтанного возникновения новых
структур.
1. Принцип жесткой организационно-управленческой иерархии. Тейлоровская
организация MAC представляет собой жесткую иерархию с фиксированными
отношениями между уровнями, где верхний уровень (агент-руководитель) обладает
всей полнотой власти, а нижний уровень (агент-исполнитель) имеет четкие
обязательства перед агентом-руководителем, лишен всякой власти и возможности
принимать самостоятельные решения. Иными словами, в пределе, когда MAC
имеет структуру классической древовидной иерархии, в ней присутствует лишь
один по-настоящему интеллектуальный агент, а все остальные агенты
оказываются либо рефлекторными, либо коммуникативными, либо реактивными.
Задачи в такой организации передаются сверху-вниз от агента-руководителя
к агентам-исполнителям, а результаты двигаются в обратном направлении. При
этом агент-руководитель обычно самостоятельно распределяет все задачи между
заранее определенными агентами-исполнителями и контролирует их выполнение.
Здесь наиболее важными и критичными являются вертикальные
(субординационные) связи; поэтому классические тейлоровские организации можно также
назвать «вертикальными» организациями MAC.
2. Принцип специализации. Общую задачу следует разбить на простейшие
подзадачи (операции), для того, чтобы ускорить выполнение задачи и снизить
требования к уровню сложности агентов-исполнителей. В теории Ф. В. Тейлора
выделяются понятия:
а) горизонтальной специализации (в пределе, речь идет о разбиении общей задачи
на максимально возможное число простейших подзадач и поручении
отдельному агенту-исполнителю одной-единственной подзадачи или функции);
б) вертикальной специализации — установления четких разграничений между
постановкой и решением задачи или между сферами управления и
исполнения, что выражается в том, что декомпозицию задачи и распределение
обязанностей между агентами-исполнителями осуществляет
агент-руководитель; он же проводит обратную операцию композиции полученных решений
и оценку результатов агентов-исполнителей.
3. Принцип единоначалия. Каждый агент-исполнитель должен иметь только
одного непосредственного руководителя или каждая нижестоящая
организационная структура должна иметь лишь одну вышестоящую. Это значит, что иерархия
имеет форму перевернутого дерева. Отход от единоначалия и обязательств
агентов-исполнителей по отношению к вышестоящему уровню ставит под вопрос
устойчивость и само существование вертикальной организации.
4. Принцип исключительного вмешательства
Все рутинные задачи должны выполняться агентами-исполнителями без
участия агента-руководителя, тогда как вмешательство последнего должно
происходить лишь в исключительных, критических ситуациях, когда организация еще
только формируется или уже распадается, когда возникают конфликты между
агентами-исполнителями, и т. п.
Тейлоровская организация MAC целесообразна в случае статической,
стабильной внешней среды, хорошей «разложимости» исходной задачи на
подзадачи, которые агенты-исполнители могут решать практически независимо друг
от друга, установившейся номенклатуры и массового характера производимых ею
продуктов или услуг. Такая организация, будучи монолитной и замкнутой, со-

222 Глава 6. Организации: естественные и искусственные
стоит из однородных структур, включающих однотипных агентов-исполнителей,
решающих довольно простые подзадачи, практически не взаимодействуя между
собой. В ней доминируют вертикальные связи и отношения субординации,
которые порождают реактивные (а не прогностические) стратегии организационного
поведения, описываемые схемой «стимул-реакция»; она развивается на основе
строгого планирования и адаптации к одному виду сред.
6.5.2. Неоклассическая теория организаций
В открытых, динамических, трансформируемых средах ранее неоспоримое
достоинство тейлоровских организаций — устойчивая структура, инвариантная
к внешней среде, — оборачивается недостатком, поскольку жесткая, инерционная
организация чаще всего не позволяет адекватно и своевременно реагировать на
изменения внешней среды. Возрастание уровня неопределенности и динамика среды
делают малоэффективными монолитную структуру и жесткое централизованное
управление в организациях. В этих условиях все большие и большие ресурсы
управляющего органа затрачиваются на «внутренние нужды» организации (обработку
информации для принятия решений) и все меньше ресурсов остается на решение
поставленной задачи, а также связанную с этим поисковую и адаптационную
деятельность [Варшавский и Поспелов, 1984]. Поэтому требуются новые подходы
к организациям. Здесь следует указать, прежде всего, неоклассическую теорию
организаций, впитавшую идеи различных организационных течений (рис. 6.2). В
основе работ этой школы лежит принцип контролируемой децентрализации.
Одним из первых идею контролируемой децентрализации практически
реализовал американский промышленник А. П. Слоан, который предложил разделить
монолитную организацию на довольно самостоятельные отделения, уровень
автономности которых зависит от вклада в решение общих задач организации. Он
считал, что ограниченная децентрализация и частичное распределение властных
полномочий приведет к развитию инициативности и ответственности у
работников предприятия и, в конечном счете, повысит общую организационную
эффективность. В дальнейшем этот сугубо эмпирический подход А. П. Слоана
был развит и теоретически обоснован в работах П.Ф.Друкера [Drucker, 1986],
Б. Люссато [Lussato, 1977], Минцберга [Mintzberg, 1983] и других
приверженцев неоклассической школы. Например, О.Желинье обосновал существование трех
основных условий эффективности организации: конкуренция, инновации и
целенаправленность. В свою очередь, Б. Люссато сформулировал шесть нормативных
принципов организационной эффективности с позиций неоклассической
школы: 1) максимизация прибыли; 2) контролируемая децентрализация; 3)
субординационный веер; 4) управление от целей; 5) самоуправление в автономных
подразделениях; 6) мотивация через соревнование. Эти принципы обрисовывают
общую линию перехода от классических тейлоровских организаций к смешанным
вертикально-горизонтальным организациям нового типа (см., например, [Mills,
1994; Тарасов, 1996]).
В медленно меняющихся средах децентрализованное управление позволяет
автономным агентам-исполнителям, проявляя большую инициативу и беря на
себя более серьезные обязательства, успешнее работать и вносить вклад в общую
задачу, адаптируя свое поведение к среде. Разумная степень децентрализации
управления обеспечивает большую живучесть MAC. Однако чрезмерная
децентрализация приводит к трудностям координации поведения агентов, увеличению
времени адаптации, а порой, просто лишает MAC возможности фокусировать
усилия агентов на достижение общих целей. К тому же, при резких изменени-

6.5. Тейлоровские и посттейлоровские организации MAC 223
ях среды требуется централизованное управление. Поэтому и возникают гибкие
схемы гибридного децентрализованно-централизованного управления в MAC.
6.5.3. Переход к новым организациям
Итак, если MAC должна работать в сложной, трансформируемой,
динамической среде, характеризуемой высоким уровням неопределенности, классические
тейлоровские организации MAC могут оказаться неэффективными. На смену
им приходят сетевые посттейлоровские организации, которые можно
охарактеризовать, отталкиваясь от вышеприведенных постулатов и принципов теории
Ф. В. Тейлора.
В чем состоит переход от старых постулатов к новым? Его суть
заключается в признании ограниченности чистого рационализма и привлечении идей
интеллектуализации и биологизации организаций.
1. От механицизма к интеллектуализации и органицизму
Речь идет о движении от тейлоровских к интеллектуальным и
«биологическим» («экобиологическим») организациям. В отличие от классических
организаций в посттейлоровских организациях агенты рассматриваются не как шестеренки
некоторого единого механизма, а как узлы сети, осознающие цели MAC и
реализующие направленные взаимодействия с другими узлами. Формирование MAC
происходит не сразу, не централизованным и заранее запрограммированным
образом, а постепенно путем распределения информации, знаний и ресурсов по всей
сети. Вообще, сеть из агентов есть одна из важнейших форм коллективного
интеллекта [Моисеев, 1995], тесно связанная с процессами самоорганизации,
спонтанного возникновения новых структур при достижении агентами особых состояний
(свойство эмергентности). Преимуществами сетевой модели оказываются:
увеличение числа каналов коммуникации с внешним миром, более интенсивный
обмен знаниями и ресурсами, возможность дублирования отдельных узлов для
обеспечения живучести MAC и пр.
Организационный интеллект происходит от способности агентов в
организации понимать друг друга, кооперировать и согласовывать свои действия. Он
предполагает максимальное распределение организационного потенциала и
объединение интеллектуальных возможностей агентов. Чем многочисленнее,
разнообразнее, неожиданнее связи между ними, тем более эффективна деятельность
MAC, тем лучше Она адаптируется к сложной и неопределенной среде.
Поэтому интеллектуализация MAC выражается уже в самом переходе от
классических древовидных к сетевым организациям. В дальнейшем, при условии
прогрессирующей интеллектуализации Интернета (например, в соответствии с прин*
ципами интеллектуального освоения информационного пространства [Поляков,
1999], перехода от пространства данных к пространству знаний [Гаврилова и
Хорошевский, 2000], а особенно развития концепции «Всемирного мозга» [Heylighen,
2001]), можно прогнозировать, что в XXI-м веке наступит эпоха «сетевого
интеллекта».
Сегодня нам кажется вполне естественным рассматривать организации как
искусственные организмы, наделять их квазибиологическими функциями. Как
и у живых существ, в организациях главную роль играют процессы
самосохранения, саморегулирования, самовоспроизведения, эволюции, адаптации. В
исследовании организаций вполне оправданы такие метафоры как «анатомия» и
«физиология» (последний признак особенно подходит для промышленных предприятий).
У любых организаций существует стандартный жизненный цикл [Мильнер, 1998]:

224 Глава 6. Организации: естественные и искусственные
они зарождаются, взрослеют, обретают зрелость, а когда-то «дают метастазы»,
стареют и умирают. Органическая теория социальных систем, восходящая к идеям
Г. Спенсера, наполняется новых смыслом при построении сетевых организаций.
Живые организмы характеризуются полнотой функционального использования их
свойств и структур, что обеспечивает их автономию и самосохранение. Для того,
чтобы организация MAC могла претендовать на статус «биологической
организации», понимаемой как «органическая структура», находящаяся в динамическом
равновесии со средой, или «социального организма», живущего в популяции себе
подобных, ее агенты (виртуальные организмы) должны не только иметь общие
цели и ресурсы, а также обязательства друг перед другом, но и быть
способными создавать «верхнюю петлю» обратной связи, обеспечивающую гомеостазис
всей системы.
Гомеостазис, представляющий собой основной механизм самосохранения
«биологической организации», определяется ее способностью воспринимать
множество критических параметров внешней среды, определяющих границы
существования, и строить свое поведение в зависимости от положения по отношению
к этим границам. Благодаря механизмам реактивной и активной автономии, го-
меостатическая система остается устойчивой и сохраняет свою индивидуальность,
несмотря на изменения в среде. Эти механизмы приводят к таким реакциям
организма, которые позволяют ему удалиться от границы гомеостазиса (подальше
от критических значений) или так перестроить свои собственные характеристики,
чтобы расширить эту область [Моисеев, 1987].
II. От абсолютного к относительному рационализму (идеи ограниченной рацио-
нальности)
В задачах исследования и моделирования организаций постулат
«ограниченной рациональности» был впервые выдвинут Г. Саймоном. Согласно этому
постулату, управленческие решения основаны не на полной информации и
оптимизации, а скорее на удовлетворении противоречивых критериев в условиях
неопределенности. Естественными факторами, заметно ограничивающими
рациональность управляющих, являются недостаточная мотивация, индивидуальные
ограничения, прежде всего, по объему восприятия и скорости обработки
информации, принципиальная неточность поступающей информации, случайные
воздействия среды и пр. Кроме того, любой агент в организации всегда
находится во взаимодействии с другими агентами, ведет переговоры, пытается создать
коалиции и т. п.; поэтому его восприятие субъективно и отрывочно, а знания,
необходимые для решения задачи, нечетки, неточны и ограничены.
От постулата Г. Саймона остается сделать всего один шаг до основного тезиса
теории MAC о необходимости коллективной выработки решений агентами в ходе
их совместной деятельности.
В результате Г. Саймоном была построена поведенческая теория организаций
(см. [March and Simon, 1985]), в которых разбиение задач на подзадачи порождает
понятие «локальной рациональности». Позднее, в развитие этих идей М. Кро-
зье сформулировал принцип относительной рациональности: «любые стратегии
рациональны лишь по отношению к контексту, внутри которого они
существуют» [Crozierand Serieyx, 1994].
Теперь опишем переход от старых организационных принципов к новым:
1. От жесткой иерархии к «плоским» и гетерархическим структурам.
2. От узкой к более широкой специализации агентов и укрупнению решаемых
ими задач.
3. От единоначалия к кооперации и координации действий.

6.6. Классификации организаций
225
Таблица 6.1
Сравнительный анализ характеристик тейлоровских и посттейлоровских организаций MAC
Проектные
критерии
Внешняя среда
Организационная
единица
Вид организации
Взаимодействия
Структура
| Связи
Управление
Задачи агентов
Адаптация
Развитие
Тейлоровские
организации
Статическая, стабильная
Однородное
функциональное подразделение
Монолитная, замкнутая
Вертикальные
(субординация)
Иерархия (дерево)
Постоянные
Централизованное
Простые (специализация)
Телогенез (адаптация
к заданному состоянию)
Жестокое планирование
Посттейлоровские
организации
Динамическая, быстро
меняющееся
Автономная
междисциплинарная рабочая группа
(агентство)
Открытая,
распределенная, сетевая
Горизонтальные
(координация).
Гетерархия (неоднородная
сеть)
Гибкие, переменные
Децентрализованное
Реинтегрированные (дес-
пециализация)
Арогенез (расширение
набора сред существования)
Самореорганизация
Как же в целом описать типичную посттейлоровскую организацию MAC?
Вкратце, это открытая, сетевая, распределенная организация с прозрачными и
довольно нечеткими границами, помещенная в сложную, динамическую среду,
которая состоит из автономных неоднородных организационных единиц («агентств»),
включающих совместно работающих агентов различных типов. В ней
преобладают переменные горизонтальные связи и отношения координации, с которыми
связана ее гибкость и адаптивность. Она развивается с использованием
процессов самоорганизации и самореорганизации, обладая расширенным набором
адаптационных возможностей (арогенез), что тесно связано с наличием активных,
прогностических стратегий поведения.
Сравнительный анализ тейлоровских и посттейлоровских организаций MAC
дан в табл. 6.1.
6.6. Классификации организаций
6.6.1. Классификации по типу организационных структур
Согласно классификации, предложенной М. Лиу [Liu, 1983],
организационные модели разбиваются на иерархические, еетерархические и
промежуточные. В иерархических моделях организационных структур налицо разрыв

226 Глава 6. Организации: естественные и искусственные
между функциями верхнего уровня (планирование, «координация и контроль)
и функциями нижнего уровня (исполнение). У агентов-исполнителей нет
никакой автономии, а также они лишены всякой ответственности. Такую
организацию MAC можно отнести к вертикальной или тейлоровской. Этот
разрыв между характером функций агентов полностью стирается в гетерархических
моделях с исключительно горизонтальными связями (автономными рабочими
группами). Промежуточные модели лежат между указанными крайними
случаями и определяют смешанную горизонтально-вертикальную организационную
структуру.
По мнению М. Лиу, существенное различие между организацией
тейлоровского типа и автономной междисциплинарной рабочей группой
наблюдается на уровне целей: цели первой носят сугубо экономический характер, тогда
как во втором случае наряду с экономическими целями имеется цель
улучшения эффективности профессиональной деятельности. Он также рассматривает
еще одну форму организации — матричную, когда исходная организационная
структура MAC изменяется в зависимости от ситуации и компетенции агентов.
Матричная организация есть разновидность эволюционирующей организации.
Ее информационная структура также ситуативна и изменяется в соответствии
с условиями среды.
В свою очередь, Л. Гассер [Gasser, 1992] предложил разделять организации
MAC на 4 группы: 1) полностью централизованные организации3^ (с
фиксированным способом адаптации и командным управлением); 2) рыночные организации
(т. е. организации с переменной, но предварительно определенной структурой,
и поиском заказов); 3) сообщества, подчиняющиеся заранее определенным
нормам взаимодействия и поведения (организации с переменной, предварительно
определенной структурой и взаимодействием согласно некоторым протоколам);
4) плюралистические сообщества (организации с переменной структурой эмер-
гентного типа)
Первые три типа организаций основаны на принципе фиксированной
структуры, сформулированном Л. Гассером. Централизованная организация — это
иерархическая структура с жесткими вертикальными связями. Организации рыночного
типа основаны на контрактном принципе: агент-менеджер рассылает запрос
(предложение) группе агентов. Некоторые агенты предлагают свои услуги. Тогда
агент-менеджер выбирает одного (или нескольких) из них и заключает
контракт. Организации такого типа образуются из независимых агентов, которые
решают свои собственные задачи. Примером служит контрактная сеть
Смита [Davis and Smith, 1983]. Сообщество с нормами (установленными правилами)
поведения — это коллектив агентов, которые взаимодействуют в соответствии
с предварительно определенными протоколами. Примером из жизни служит
цивилизованное общество с установленными нормами морали. Плюралистическое
сообщество образуется из независимых агентов, которые совместно готовят
решение задачи и сообщают результаты другим членам сообщества. Последние
проверяют, отвергают или улучшают предложения коллег. Здесь типичным
примером служит деятельность научных групп и сообществ, работающих в режиме
«мозгового штурма». Впервые метафору научных сообществ в распределенном
искусственном интеллекте использовали У. Корнфелд и К. Хьюитт [Kornfeld and
Hewitt, 1981].
Такие организации соответствуют жесткой командно-административной структуре управления.

6.6. Классификации организаций
227
6.6.2. Классификация по распределению
функций и режимам управления
Организационная структура может рассматриваться в зависимости от
способа распределения функций между агентами и особенностей принятия решений.
Здесь следует упомянуть работу М. Фокса [Fox, 1981], который трактует
организацию как структуру с некоторым режимом управления. Как и в разделе 6.6.1,
структуры организаций изменяются от жестких иерархий до гетерархий, а
среди режимов управления выделяются: а) прямое управление, когда одни агенты
непосредственно управляют другими, и б) контрактное управление, вытекающее
из обязательств агентов, которые связаны с договорами между ними. В результате
М. Фокс предложил свою классификацию организаций, начиная от вырожденных
случаев организации для одного агента и диффузной группы, состоящей из
независимых и безразличных друг к другу (некооперирующих) агентов, и, кончая
организацией типа общего рынка, где агенты преследуют индивидуальные цели,
зависящие от условий и структур их достижения.
Между этими крайними случаями расположены: простая иерархия (один
агент-начальник руководит всем множеством исполнителей); однородная иерархия,
когда имеется несколько уровней принятия решений; иерархия со структурой
отделений, когда процесс принятия решений распределен между агентами; «система
цен» (переговоры отдельных организаций); коллективная организация (переговоры
с долгосрочными контрактами).
6.6.3. Классификация по целям
Классификация, предложенная Дж. Марчем и Г. Саймоном [March and Simon,
1985], берет за основу характер цели организации. По этому критерию, ими
определены три типа организации: унитарная, федеративная и смешанная. В унитарной
организации цель одного агента становится общей для всех других. Федеративная
организация в явном виде предполагает согласование целей различных агентов
в процессе переговоров.
6.6.4. Классификация по трем критериям
В свою очередь, Г. Минцберг [Mintzberg, 1982] предложил свою
классификацию применительно к человеческим организациям, которая находит приложение
и в РИИ. Им различаются пять характерных организационных структур:
1. Простая (полностью централизованная) иерархическая структура.
2. Механистическая бюрократия (иерархия с сильно ограниченными
горизонтальными связями).
3. Профессиональная бюрократия (на базе автономных агентов-профессионалов
при наличии как горизонтальных, так и вертикальных связей).
4. Структура отделений (ограниченная децентрализация);
5. Адократия (функционирование при условии взаимной адаптации групп
агентов, входящих в организацию).
Сводка классификационных критериев и соответствующих организационных
структур, рассмотренных выше, дана в табл. 6.2.

228 Глава 6. Организации: естественные и искусственные
Таблица 6.2
Сравнительный анализ характеристик основных классов организаций MAC
Г\Кри-
Х^рии
СтрукХч^
туры \^

Иерархические
структуры
Гетерар-
хические

(эгалитарные)
структуры
Тип цели
(Саймон
и Марч)

Унитарная

Федеративная

Смешанная

лицентризм)

Конфедеративная
Тип
организации
(Гассер)
Жесткая
иерархия
Рынок
Научное
сообщество
Сообщество
с
заданными
этическими нормами
Тип
управления
(Лиу)
Иерархия

Промежуточная
Холархия

Промежуточная
Тип принятия
решений (Фокс)
Иерархия
(простая, однородная
или со
структурой отделений
Общий рынок
Коллективная
организация
Коллективная
организация
с системой цен
Три критерия
(Минцберг)

Механистическая
бюрократия, простая
структура

Профессиональная
бюрократия
Структура
отделений
Адократия
6.7. Организация и самоорганизация в MAC
В последние годы все большее практическое значение приобретают
представления об организациях как об открытых и развивающихся, автономных и
самоуправляемых системах. Так по Э. Морену [Morin, 1977], организация предполагает
конъюнкцию трех сложных понятий:
• самоорганизация (в первую очередь, это аспект автономии);
• реорганизация (аспект преобразования, трансформации);
• экоорганизация (аспект открытости и наличия адаптивных взаимосвязей
со средой).
Самоорганизующимися называются системы, которые формируются
спонтанно, в результате преимущественно локальных взаимодействий между элементами.
Как правило, в их основе лежит согласованное поведение большого числа
взаимодействующих агентов. Подобные системы возникают при определенных
граничных условиях как следствие особых состояний агентов (в синергетике такие
состояния именуются притягивающими — «аттракторами») [Хакен, 1991].
На микроуровне при самоорганизации происходит процесс распространения
или усиления флуктуации вследствие увеличения асимметрии, неравновесности
системы под воздействием среды. Этот процесс остается незаметным на
макроуровне до тех пор, пока изменения не достигнут некоторого критического
значения, после чего спонтанно возникает новый порядок или структура.
Как известно, термин «автономный» означает «самоопределяемый, живущий
по своим законам». Антиподом автономии является аллономия, т.е. «жизнь по
чужим законам» или под управлением внешней системы. В автономных системах

6.7. Организация и самоорганизация в MAC
229
преобладают положительные обратные связи, круговые процессы, рекурсивные
отношения. Принято различать: а) пассивную автономию, обеспечиваемую,
например, с помощью мембраны (защитного экрана); б) реактивную автономию
(обратные связи); в) активную автономию, предполагающую проведение
целенаправленных воздействий на среду.
Понятие автономного агента предполагает наличие у него различных
режимов функционирования, переходы от замкнутости к открытости и наоборот.
С одной стороны, автономия агента означает его (хотя бы периодическую)
независимость от среды, т.е. отсутствие входов. Точнее, входные воздействия не столько
определяют поведение автономного агента, сколько являются лишь «пусковыми
факторами», инициализирующими различные стратегии поведения. С другой
стороны, автономия агента достигается за счет накопления ресурсов (периодическое
подключение и отключение взаимосвязей с другими агентами и объектами).
Именно автономный характер организации MAC создает предпосылки для
обращения неопределенности условий ее функционирования в конкурентные
возможности. В то же время, интерпретация MAC как социального организма
неотделима от автономных агентов: их способность к самоорганизации выражается
в возможности осуществлять согласованное автономное поведение.
Понятие самоорганизации автономного агента неотделимо от таких его
свойств как самовоспроизведение, самосохранение, саморегуляция (самоуправление).
Как уже отмечалось, базовым механизмом самосохранения является гомеостазис,
т. е. способность агента постоянно определять и поддерживать в требуемых
интервалах ряд критических параметров состояния, определяющих его гомеостатичес-
кую границу. Уровень самоорганизации (самоопределения) агента характеризуется
шириной области гомеостазиса или расстоянием от гомеостатической границы.
Текущее положение относительно гомеостатической границы оказывает
важнейшее влияние на поведение агента. Принцип гомеостазиса становится основным
принципом, характеризующим конкурентоспособность «биологической
организации». Само существование такой организации предполагает функционирование
обратных связей, сохраняющих гомеостазис.
Важность понятия самоуправления в самых различных организациях — как
естественных, так и искусственных (в противовес жесткому планированию)
сегодня не вызывает сомнений. Все те же Р. Акофф и Ф. Эмери определяли организацию
как частично самоуправляемую систему, обладающую содержанием, структурой,
коммуникацией и свободой выбора (способностью принятия решений).
Современное понимание самоуправления в организации включает в себя аспекты
саморегуляции, самообучения и адаптации.
Любая MAC, производя какие-то услуги или продукты, самовоспроизводится.
Развитие способностей MAC к самоорганизации предполагает работу различных
агентов над своими представлениями об организации и, особенно, над «образом
потребного будущего организации».
Исследование вопросов экоорганизации связано в первую очередь с
открытыми системами, находящимися вдали от состояния равновесия. При этом хаос,
беспорядок рассматриваются не как аномалии, которые надо преодолеть
любым путем, а как одно из условий, обеспечивающих инновации — важнейшую
предпосылку выживания современных организаций.
Оперативная и успешная реорганизация MAC предполагает наличие
некоторого критического числа инноваций. К числу основных аспектов
организационных инноваций относятся: а) изменения, которые характеризуются такими
параметрами как степень, тип, длительность, рекурсивность; б) эмергентность

230 Глава 6. Организации: естественные и искусственные
(спонтанность); в) адаптация; г) открытие. Следуя Д. Женело [Genelot, 1992],
будем рассматривать «серую» (по терминологии Д. А. Поспелова) шкалу
инноваций в русле «конъюнктивной логики». При этом инновация может проявляться
двояко: 1) как процесс постоянных организационных модификаций в интересах
достижения наилучшей адаптации к среде; 2) как процесс резких,
скачкообразных изменений, соответствующих созданию абсолютно новых структур, ведущих
к полному переосмыслению существующей организации. Первая сторона
инноваций обычно связывается с усовершенствованием организаций, а вторая — с ее
реинжинирингом [Davenport, 1993].
Зарождение «социального организма» предполагает объединение гомеостатов
в гомеостатические сети и образование автопоэтических систем. По У. Матурана
и Ф. Варела [Maturana and Varela, 1980], «автопоэтическая» (самообновляющаяся)
организация есть такая гомеостатическая система, которая реагирует на
резкие изменения среды путем постоянной замены своих составляющих. Эта идея
самообновления и операционной замкнутости (рекурсивной взаимозависимости
внутренних процессов друг от друга) кладется в основу методологии
биореинжиниринга организаций [Тарасов, 1998 г]. Самообновляющаяся организация предстает
в виде сети процессов производства составляющих, которые: а) за счет
своих взаимодействий и трансформаций постоянно регенерируют породившую их
сеть; б) образуют автономную систему в пространстве-времен и, формируя ту
топологическую область, где эта система самореализуется.
6.8. Интеллектуальные организации
В настоящем разделе мы вновь обратимся к идеям Ж. Пиаже и, опираясь
на ряд положений его теории интеллекта, сформулируем отличительные признаки
интеллектуальных организаций. Согласно Ж. Пиаже, интеллект: а) определяется
в контексте анализа поведения, т. е. особого обмена между системой и
средой; б) имеет адаптивную природу; в) характеризуется преобладанием
обратимых процессов. Поведение интеллектуальной организации связывается с наиболее
эффективной и оперативной адаптацией к среде, что предполагает
прогрессирующую обратимость организационных связей и приоритет кооперативных
стратегий взаимодействия. Таким образом, интеллектуализация организаций требует
как проведения структурных инноваций, так и изменения характера поведения
и стратегий эволюции организаций.
С одной стороны, одним из главных аспектов построения интеллектуальных
организаций (ИО) является изыскание дополнительных ресурсов,
обеспечивающих адаптационную и поисковую деятельность. Это может достигаться благодаря
сокращению числа вертикальных уровней иерархии, что приводит к
высвобождению ресурсов на обработку информации, получение знаний и принятие решений.
Соответственно, необходимо увеличение числа и значимости горизонтальных
связей между агентами, позволяющих формировать гибкие, метаморфные структуры.
В результате, происходит общая активизация агентов и установление их более
тесного сотрудничества в ИО.
В целом, интеллектуальные организации определяются процессами
интенсивной циркуляции и переработки знаний, преобразованием интеллектуальных
активов в продукты и услуги, обеспечивающие их выживание и
конкурентоспособность. В силу вышеуказанного, сетевые структуры оказываются наиболее
эффективными при создании И О [Попов, 2001].

6.8. Интеллектуальные организации
231
Отсюда видно, что уровень интеллектуальности организации тесно связан
со свойствами соответствующей сетевой структуры. В современных условиях
создание сетевых организаций представляет собой один из наиболее продуктивных
методов стратегического управления. Центральная идея подобной сети состоит
в организации системы различных взаимосвязей между агентами, которые
обычно не являются постоянными и регулярными, а скорее вариабельны и зависят
от ситуации взаимодействия. Поэтому сети агентов по своей природе подвижны,
адаптивны и многофункциональны. Они образуются, развиваются и
трансформируются в зависимости от потребностей агентов и преследуемых ими целей.
Эффективность интеллектуальной организации также обусловлена
построением достаточно полной и адекватной модели внешнего мира, причем
организационное управление определяется не столько внутренними критериями, сколько
внешними, а именно, удовлетворением желаний клиента. Такая организация
основана скорее на предвосхищении требований заказчика, чем на их отслеживании
и конечном контроле. Способ управления от потребностей заказчика вносит в
систему управления дополнительную сложность и неопределенность. В этих
условиях интеллектуализация управления означает своевременное переключение и
оптимальное сочетание децентрализованного и централизованного режимов
управления, согласование действий агентов в различных MAC, обеспечение их
адаптивного поведения и оперативного переструктурирования распределенных систем.
С другой стороны, интеллектуальность организации обеспечивает гибкое
и в то же время устойчивое равновесие ее поведения путем постоянной
структурной самореорганизации (обновления) в условиях сложной, динамичной среды.
Чем богаче и разнообразнее формы влияния организации на среду, чем больше
ассоциаций, альянсов или консорциумов при этом образуется, тем
интеллектуальнее ее поведение. Важным атрибутом ИО является ее способность к предсказанию
и управлению коллективным поведением и групповой динамикой агентов, что
означает поддержку рефлексивных процессов.
В отличие от классических тейлоровских организаций, опирающихся
на принцип «конкурентной рациональности», поведение интеллектуальных
организаций в большей степени определяется принципами коадаптации и
коэволюции. Живучесть ИО обусловлена ее стремлением и возможностями строить
и реализовывать модель своего потребного будущего, формировать
рефлексивное поведение, способностью оперативно находить клиентов, приспосабливаться
и обучаться быстрее, чем конкуренты. Повышение организационной культуры
предполагает преобладание прогностических стратегий по отношению к чисто
реактивном стратегиям, формируемым в ответ на текущие изменения среды.
Итак, «коэффициент интеллектуальности» организаций зависит, главным
образом, от таких факторов как [Тарасов, 1996]: 1.) структура; 2) поведение;
3) эволюция; 4) степень адаптации к среде; 5) характер взаимодействия с
клиентами; 6) история и культура организации; 7) распространение знаний агентов.
В заключение можно дать следующее общее определение ИО.
Интеллектуальная организация {ИО) — это метаинтеллектуальная MAC, возникающая
в процессах коммуникации, которые происходят как внутри отдельной MAC, так
и между разными MAC, и обеспечивают организационный семиозис. Она
функционирует в искусственном сообществе в соответствии с некоторыми социальными
нормами, используя принципы максимально быстрой адаптации к динамической
среде (требованиям клиентов), эффективной саморегуляции деятельности и
оперативной самореорганизации в интересах самосохранения. Это обеспечивается
благодаря управлению совокупным опытом и знаниями, прогнозированию дина-

232 Глава 6. Организации: естественные и искусственные
мики потребностей и стратегическому планированию* общей (разделенной всеми
агентами) мотивации и коллективному обучению.
6.9. Разновидности сетевых организаций
Не Дон Kuxom я и не Гулливер,
И книгою меня не наградили.
И у меня царя нет в голове.
Так что ж? Там у меня демократия.
Николай Глазков
Посттейлоровские организации, имея много общих черт (например,
практически все они рассматриваются как открытые и распределенные, динамические
и адаптивные системы с гибкими и преимущественно координационными
отношениями), различаются главным образом точкой зрения аналитиков. В отличие
от тейлоровских вертикальных организаций их можно охарактеризовать как
горизонтальные организации — «плоские» структуры нового типа, в которых
взаимодействие между компонентами одного уровня (координация их деятельности)
и внешние горизонтальные связи оказываются более важными и критичными
характеристиками, чем традиционное вертикальное управление
(субординационные связи). Помимо общей горизонтальной структуры, сетевые организации,
рассматриваемые в настоящем разделе, характеризуются адаптивным клиенто-
центрическим поведением, интенсивной коммуникацией и кооперацией агентов.
Налицо значительная степень перекрытия между понятиями сетевых и
интеллектуальных организаций 4\
В качестве базовых сетевых организационных структур предлагаются
распределенная, фрактальная, холоническая, расширенная, ресурсосберегающая, обучающаяся
и виртуальная организации, которые разделяются по виду узлов сети и уровню
их кооперации и координации. Так по признаку однородности—неоднородности
узлов различаются распределенные и расширенные организации, а по характеру
управления — организации типа «колесо» и типа «звезда».
6.9.1. Распределенные организации
Распределенная организация представляет собой достаточно однородную (чаще
всего, сотовую) сеть относительно независимых друг от друга,
децентрализованно взаимодействующих организационных единиц (агентов), в которой главную
роль играют постоянные и интенсивные горизонтальные связи (рис. 6.3). Такая
организация предполагает объединение ресурсов, распределенных между всеми
агентами, и их совместное использование. В случае распределенной организации
речь обычно идет о множестве интеллектуальных агентов с близкими целями,
интересами и уровнями ресурсного обеспечения, когда создание «коллективных
структур» служит для достижения большей универсальности
(многофункциональности), автономности и конкурентоспособности агентов в сложной динамической
среде. Примерами распределенных организаций служат
' По нашему мнению, рассматриваемые ниже разновидности сетевых организаций можно считать
интеллектуальными организациями первого поколения

6.9. Разновидности сетевых организаций
233
6.9.2. Фрактальные организации
Близким к распределенной организации является понятие «фрактальной
организации», которая строится по аналогии с фракталами — рекурсивными
геометрическими объектами, сохраняющими структуру при изменении масштаба
наблюдения. Таким образом, если рассмотреть «под увеличительным стеклом» некую
деталь исходной организационной структуры (например, узел сети), то проявится
точно такая же структура. Здесь первостепенное значение имеет природа границ
между структурными областями. При этом в MAC возможно возникновение
притягивающих центров — аттракторов, стремящихся распространить свое влияние
на те или иные области сети. Для порождения фрактальной структуры требуются
два основных объекта: а) инициатор (любая геометрическая фигура, например,
треугольник); б) генератор (форма, используемая при каждой итерации).
Фрактальная организация представляет собой эволюционную,
самоорганизующуюся систему, в которой самовоспроизведение коллективных агентов
происходит путем структурного копирования за счет механизмов фрактализации. Пример
распределенной фрактальной организации дан на рис. 6.3. Идеи фрактальной
организации находят применение при создании современных предприятий [War-
necke, 1993].
Партнер 2
(~\^ Партнер 3 Ч'^/Л
Партнер 1 r/^\^J? |\ /1
\ M)L *J\\ Организация 2
Рис. 6.3. Пример распределенной фрактальной организации
как сети автономных структур с горизонтальными связями
6.9.3. Расширенные организации
Расширенная организация (рис. 6.4), также не являясь монолитной, имеет
открытую, неоднородную и переменную сетевую структуру, где в центральном узле
(коллективный агент-владелец ресурсов), сосредоточены важнейшие¦,
стратегические ресурсы, знания и процессы, формирующие организационное ядро, а
остальные, менее важные компоненты или наиболее рутинные работы и процессы
выводятся наружу и доверяются внешним партнерам. Такую организацию можно
сравнить с «мозгом», возбуждения от которого поступают на внешние «эффекторы».
Периферийные узлы сети могут работать, в основном используя идеи и
ресурсы, поставляемые центральным узлом. Подобные стратегии позволяют собрать

234 Глава 6. Организации: естественные и искусственные
воедино и более эффективно расходовать ограниченные ресурсы, а также
непосредственно распространять среди относительно простых периферийных
агентов уникальные знания и опыт «высокоинтеллектуального» центрального агента.
о
сх
О5
,о
о
ю
о
ю
Рис. 6.4. Расширенная
организация: модель
взаимодействия
центрального узла с
периферийными
В то же время, здесь относительная простота
периферийных агентов, их хорошая обучаемость и высокий
эволюционный потенциал способствуют достижению высокой
реактивности всей организации и, как следствие,
преимуществ в конкурентной борьбе.
Нельзя не отметить, что концепция расширенной
организации далеко выходит за рамки простого переноса
рутинных работ или использования периферийными узлами
наиболее передового опыта, распространяемого по сети.
Речь идет о создании гибкой эволюционной
организации с переменной, настраиваемой на среду структурой,
состоящей из автономных агентов, число и свойства
которых зависят от практических требований и решаемых
задач. Такая сеть должна обладать возможностями
динамической самореорганизации в интересах оперативной
адаптации к быстро меняющейся среде.
6.9.4. Холонические организации
В основе холонических организаций лежит предложенное А. Кестлером понятие
«холон» [Koestler, 1989]. Это понятие проистекает из исследований биологических
иерархий, по результатам которых был сделан следующий вывод: «целое» и
«части», хотя и выделяются при исследовании сложных систем, в абсолютном смысле
не существуют. Любой объект в иерархии органического типа может
одновременно рассматриваться с двух сторон: как неразделимое целое для нижележащих
объектов и как часть для вышележащих объектов. На основе таких
диалектических соображений А. Кестлер ввел слово «холон», которое означает «целое,
рассматриваемое в то же время и как часть целого». Под холонами понимаются
автономные объекты: 1) обладающие известной свободой, способностью
самостоятельного развития и принятия решения; 2) обеспечивающие необходимые
функции для объемлющего целого и контролируемые вышестоящими объектами.
Холоны можно представлять с помощью отношения вложенности. С термином
«холон» связано и понятие холархии как иерархии специального вида. Такая
иерархия образуется саморегулирующимися холонами, которые функционируют
как: а) автономные объекты относительно их частей; б) зависимые компоненты;
в) во взаимодействии с окружающей средой.
Итак, холонические организации состоят из динамически взаимодействующих
частей (холонов), способных к автономному существованию. В результате
кооперации холонов организационное поведение демонстрирует все черты целостной
системы, которая, в свою очередь, может быть холоном другой организации и т.д.
Важной чертой холонической организации является ее способность к
самоотражению своего поведения и диагностике ошибок.
В отличие от тейлоровских организаций, в холонических системах жесткая
изначальная организационная структура либо полностью отсутствует (вместо нее
есть сеть холонов, способная к развитию, самоорганизации, гибкому
переструктурированию и оперативной адаптации к внешней среде), либо устанавливается
на очень короткий промежуток времени, необходимый для исполнения только
одного задания или заказа.

6.9. Разновидности сетевых организаций
235
Холоны вступают в сложное динамическое взаимодействие и стремятся
некоторым образом найти временное равновесие, понимаемое как баланс интересов
всех участников взаимодействия. Они могут трактоваться как разновидность
агентов, например, как искусственные микроорганизмы, способные к самообучению.
Из таких искусственных агентов могут строиться сложные, открытые,
самоорганизующиеся системы. Речь идет не о механическом конструировании, а скорее
о «выращивании биологической организации», когда ее компоненты могут
последовательно развиваться в ходе решения одной задачи за другой.
Холонические организации считаются весьма перспективными для создания
производственных систем новых поколений (см., например, [Dong et al., 1995;
Виттих и др., 1999]). Холонические производства могут состоять из множества
холонов, каждый из которых имеет стандартную архитектуру, включающие такие
холоны как холон заказа, холон изделия, холон переговоров, холон баз данных,
холон планирования производства, холон операций обработки, холон отслеживания
качества и пр. (рис. 6.5).
Рис. 6.5. Пример холонической организации
Рассмотрим два главных холона: 1) холон заказа — все, что связано с
заказом на изделие (заказчик, цена и сроки заказа, форма и вид изделия, структура
изделия и т.д.), и холон изделия (исполнитель, само готовое изделие или его
заготовки и детали, технология его изготовления, чертежи и т. п.). Два этих холона
образуют такую же устойчивую пару, как, например, заряды с разными знаками.
При этом можно заметить, что холон заказа — это «потребность», холон изделия
(или ресурса) — это «возможность удовлетворения потребности» путем получения
некоторого продукта, а вместе они образуют диалектическую пару.
Дальнейшее развитие этих идей ведет к построению холонических
организаций, в которых рассматривались бы персонифицированные искусственные
объекты, т.е. агенты-носители противоположностей. Самые разные организационные
противоречия, персонифицированные в агентах, получают возможность
напрямую сталкиваться между собой, вести переговоры и приходить к компромиссам.
Здесь «потребности» и «возможности» могут связываться и воплощаться в готовые
изделия посредством сообща вырабатываемых балансов интересов и совместных
планов [Скобелев, 1998].
В таких искусственных организациях холоны могут как конкурировать между
собой, так и сотрудничать, помогая друг другу. Например, холоны похожих заказов

236 Глава 6. Организации: естественные и искусственные
могут соперничать и даже вытеснять конкурентов в бо{Я>бе за единственный холон
ресурсов и, наоборот, холоны ресурсов могут бороться за единственный холон
заказа. Помощь же одного холона заказа другому может состоять в том, что он
уступает второму место в очереди к ресурсу (за некоторую компенсацию).
Учитывая динамическую природу холонических организаций, необходимо
проводить имитационное моделирование деятельности сети холонов, особенно
процессы переговоров и принятия решений.
Результаты сравнительного анализа базовых характеристик различных
сетевых организаций представлены в табл. 6.3.
Таблица 6.3
Классификация сетевых организаций
Название
организации
Распределенная
организация
(горизонтальная)

Ресурсосберегающая
организация
Расширенная
организация
Фрактальная
организация
Холоническая
(подвижная)
организация
Обучающаяся
организация
Критерии
• Структура
организации и управления
• Вид связей
Оптимальное
управление ресурсами
• Стратегия обмена
ресурсами «точно в срок»
• Тотальное
управление качеством
• Параллельное
выполнение
• Организация
• Управление
• Деятельность
• Эволюция
• Автономия
• Самовоспроизведение
• Адаптация
• Реакция
• Структура
• Обучение
• Самооценка
• Прогнозирование
Значение
• Максимально «плоская» и
децентрализованная (минимум уровней иерархии
для заданной сложности)
• Максимизация числа
горизонтальных связей в сети
• Минимальные запасы
• Максимальное качество работы для
каждого агента
• Минимальное время цикла выполнения
заказа
• Открытая, развивающаяся сеть
(максимум открытости)
• Централизованное при наличии
определенной децентрализации
• Экстернализация (минимизация
стоимости работы, максимальное
приближение поставщика к потребителю
• Стратегия максимального
сотрудничества и компромиссов
• Деспециализация и максимальная
независимость агентов
• Фрактал изация
• Максимальное приспособление к среде
• Максимально быстрая
• Максимально гибкая
• Коллективное
• Постоянная
• Максимально долгосрочное

6.10. Виртуальные организации
237
Продолжение таблицы 6.3
Название
организации
Виртуальная
организация
Критерии
• Организация
• Интеграция
• Коммуникация
• Кооперация
Значение
• Открытая сеть (гетерархия)
• Ресурсы, опыт
• Максимально интенсивная
телекоммуникация
• Максимально скоординированное
сотрудничество
6.10. Виртуальные организации
До рождения ты не нуждался ни в чем,
А родившись, нуждаться во всем обречен.
Только сбросивши гнет ненасытного тела,
Снова станешь свободным, как бог, богачом.
Омар Хайям. «Рубай»
Задача разработки искусственных организаций и сообществ, состоящих из
виртуальных агентов, является естественным развитием проблематики MAC. Понятие
виртуальной организации (ВО) вводится как обобщающее, позволяющее
объединить и развить представления о естественных и искусственных, тейлоровских
и посттейлоровских организациях. В виртуальных организациях размываются
границы между социальными и техническими системами. Они представляют
собой сложные переплетения реальных и виртуальных структур, приводящие
к синергетическим эффектам, которые способствуют возникновению у подобных
организаций новых функциональных возможностей [Davidow and Malone, 1992;
Тарасов, 1996].
Виртуальная организация может трактоваться двояко. В общем случае, ВО
можно рассматривать как сложную социотехническую систему, образованную
из географически удаленных друг от друга групп людей (виртуальных
коллективов) и компьютерных ресурсов, которые объединяются на основе симбиоза
ведущих сетевых и интеллектуальных технологий, например, служб сети
Интернет и средств управления знаниями. По сути, это сетевая (или, даже, межсетевая),
компьютерно интегрированная организация, состоящая из неоднородных, свободно
взаимодействующих индивидуальных и коллективных агентов, находящихся в
различных местах. В частном случае, ВО может фигурировать как искусственная
организация, состоящая исключительно из взаимодействующих на расстоянии
искусственных агентов. Ниже ограничимся только второй трактовкой.
С одной стороны, ВО не существует в реальном физическом пространстве,
а создается путем информационной интеграции ресурсов агентов. В рамках агент-
но-ориентированного подхода искусственную организацию можно трактовать как
сообщество (группу) MAC, которое сформировано электронным путем и
функционирует в виртуальном пространстве. При этом одни и те же агенты могут
одновременно входить в состав нескольких виртуальных организаций.

238 Глава 6. Организации: естественные и искусственные
С другой стороны, «полностью виртуальная», j. е. не имеющая базовых
структур в реальном пространстве организация, конечно, не может существовать.
В этом аспекте, виртуальная организация может рассматриваться как своего рода
метаореанизация, объединяющая цели, ресурсы, традиции и опыт ряда MAC,
а также координирующая их развитие.
Формирование метаорганизации путем объединения ресурсов искусственных
организаций разного профиля и масштаба позволяет скомпенсировать их
недостатки и усилить достоинства. Так например можно объединить возможности
крупных, монолитных организационных структур, имеющих богатые ресурсы,
но обладающих сильной инерционностью и плохо приспосабливающихся к
требованиям клиентов, и небольших инновационных организаций, порой
испытывающих недостаток в ресурсах, но способных быстро реагировать на изменения
и оперативно получать заказы.
Создание ВО подразумевает слияние передовых информационных и
коммуникационных, сетевых и интеллектуальных технологий. В частности, для
эффективного функционирования ВО необходимо построение инфомагистралей —
коммуникационных суперсетей с высокой пропускной способностью, через
которую должны перекачиваться большие объемы текстовой, фафической, звуковой
и видеоинформации. Это позволяет накапливать безграничные по своей природе
информационные ресурсы и значительно расширять когнитивные возможности
индивидуальных интеллектуальных агентов.
Центральная идея сети MAC заключается в организации различных
взаимосвязей между интеллектуальными коллективными агентами, которые, вообще
говоря, не являются постоянными и регулярными, а образуются, развиваются
и трансформируются в зависимости от целей отдельных MAC.
Основные характеристики ВО как открытой, развивающейся сети
неоднородных коллективных агентов таковы (см. табл. 6.4).
Таблица 6.4
Экстремальные принципы, описывающие виртуальную организацию
Критерии
Время выполнения заказа
Полнота удовлетворения требований клиентов (сближение
понятий продукта и услуги, появление виртуальных продуктов)
Распределение ресурсов
Автономность сетевых единиц — виртуальных рабочих групп
Число горизонтальных связей
Децентрализация управления
Уровень открытости сети (стирание границ между партнерами,
производителями и потребителями)
Уровень кооперации между агентами
Число когнитивных агентов
Экстремальные
значения
MIN
МАХ
МАХ
МАХ
МАХ
МАХ
МАХ
МАХ
МАХ

6.10. Виртуальные организации
239
1. Наличие у агентов общих (совместимых) целей, интересов и ценностей,
определяющих необходимые условия формирования ВО и правила
принадлежности к ней.
2. Наличие у агентов потребности в дополнительных ресурсах для достижения
целей, что приводит к установлению партнерских отношений между ними,
в рамках которых осуществляется совместное использование географически
распределенных средств и опыта (знаний), а также их быстрое приумножение.
3. Интенсивное использование средств телекоммуникации ввиду
пространственной удаленности агентов, эффективное проведение совместной,
компьютерно опосредованной, работы партнеров, включающей процессы
кооперации и координации, на расстоянии.
4. Семиотическая природа коммуникации агентов, ведущая роль
эволюционного семиозиса (включая семантические и прагматические аспекты циркуляции
знаний) в ВО.
5. Формирование автономных виртуальных рабочих групп с гибким
распределением и перераспределением функций и ролей агентов, взаимодействующих
на расстоянии.
6. «Плоская структура», предполагающая максимизацию числа горизонтальных
связей между агентами в рабочих группах.
7. Максимально широкое распределение полномочий управления, наличие
многих центров принятия решений (сотовая сеть).
8. Временный характер, возможность быстрого образования,
переструктурирования и расформирования, что обеспечивает реактивность и адаптивность
к изменениям среды.
В разработке технологии и инфраструктуры ВО первостепенную роль играют
стандарты в области вычислительных сетей (сетевых коммуникаций),
взаимодействия профаммных средств, инженерии знаний, моделирования разрабатываемых
объектов и пр.

Глава 7
Деятельность агента и ее моделирование
Жизнь и деятельность столь же тесно соединены
между собой, как пламя и сеет. Что пылает, то,
верно, светит, что живет, то, конечно, действует.
Федор Глинка
В настоящей главе мы подробно рассмотрим вопросы анализа и синтеза
деятельности искусственных агентов. Под деятельностью понимается «активное
взаимодействие живого существа с окружающей действительностью, в ходе
которого оно выступает как субъект, целенаправленно воздействующий на объект
и удовлетворяющий таким образом свои потребности» 1К Термин «деятельность»
охватывает всю систему процессов, связывающих деятеля со средой. В последнее
десятилетие теория деятельности привлекает все большее и большее внимание
специалистов из самых разных областей науки и приобретает
междисциплинарный статус2\
Понятие «деятельность» тесно связано с понятиями «активность» и
«поведение». Деятельность есть форма активности, а поведением обычно называется
внешняя наблюдаемая часть деятельности. В деятельности раскрываются
отношения «субъект-объект», а в поведении (как и в общении) отношения «субъект —
субъект» или «субъект-объект-субъект». При этом поведение всегда реализует
какую-либо знаковую функцию [Поспелов и Шустер, 1990]. Принцип активности
утверждается в деятельности через понятие действия, которое выступает как
единица анализа деятельности [Леонтьев, 1975; Парсонс, 2000], тогда как единицей
поведения является поступок.
В советской психологии построено по меньшей мере три
общепсихологические теории, представляющие интерес для разработки искусственных агентов,
в которых отброшено положение о линейной причинности. Это психологическая
теория отношений ленинградской школы В. Н. Мясищева, теория установки
грузинской школы Д. Н. Узнадзе и теория деятельности А. Н.Леонтьева (см. [Ломов,
1999]). По мнению В. Н. Мясищева, все виды деятельности в самом широком
понимании можно рассматривать как формы отношений. Система отношений
определяет характер поведенческих реакций, виды общения и пр.
Понятие «субъективного отношения личности» близко по содержанию к
понятию установки или аттитюда. Под установкой понимается модификация
' Психологический словарь/ Под ред. В. П. Зинченко, Б. Г. Мещерякова. — М.: Педагоги ка-Пресс,
1997.
2'С конца 80-х гг. проведено уже четыре крупнейших междисциплинарных международных
конгресса по теории деятельности A986 г. — ФРГ, Западный Берлин, 1990 г. — Финляндия, 1995 г. —
Россия, Москва, 1998 г. — Дания).

7.1. Основы психологической теории деятельности 241
Таблица 7.1
Иллюстрация соотношения между понятиями отношений, установки деятельности и общения
(по Ф. Е. Василюку)
Среда
Физическая
Социальная
Система
Структура
Установка
Отношение
Динамика
Деятельность
Общение
субъекта, отражающая в себе конкретное состояние его жизненного мира и
возникающая в результате «встречи» потребности и ситуации. По сути, это состояние
организма, сложившееся в результате предыдущей деятельности, которое
направляет всю последующую активность. Установка представляет собой интегральный
механизм организации деятельности.
По А. Н.Леонтьеву, деятельность есть сложная, неаддитивная единица жизни
субъекта. В деятельности совершается переход внешнего объекта в субъективную
форму, в его внутреннее представление. В то же время любая деятельность
направлена на получение объективных результатов, создание ее продуктов. Таким
образом, деятельность выступает как процесс, связывающий субъекта и объекта,
в котором осуществляются взаимные переходы между этими полюсами
[Леонтьев, 1975].
Эти концепции можно соотнести между собой следующим образом. Понятия
отношения и установки фиксируют некий потенциал субъекта, который может
быть реализован в ходе его существования, а деятельность субъекта наряду
с его общением с другими субъектами выражают процесс реализации такого
потенциала. Если положить, что любая открытая система характеризуется своей
структурой и динамикой, а ее среда расчленяется на физическую и социальную,
то взаимное положение вышеупомянутых теорий можно понять из табл. 7.1.
В силу того, что деятельность (и поведение) изучается разными научными
дисциплинами под различными углами зрения, в разделах 7.1-7.3 будут
предварительно изложены общие представления о структуре и динамике деятельности
(действия). В частности, будут систематизированы известные модели
деятельности, разработанные в психологии, физиологии и социологии.
7.1. Основы психологической теории деятельности
Рассмотрим исходную сеть понятий, лежащих в основе теории
деятельности [Леонтьев, 1975; Рубинштейн, 1973; Ломов, 1999; Волков и др., 1987;
Шадриков, 1996] (рис. 7.1 и 7.2). Выделяются морфологические, аксиологические,
праксеологические, онтологические характеристики деятельности [Суходольский,
1998]. Под морфологией деятельности понимается ее системное строение,
которое выражается через состав и структуру. Аксиологические аспекты деятельности
выступают в виде ценностей, результатов и оценок. Праксеологическое описание
деятельности включает ее функционирование (в пространстве и во времени),
а также развитие. На рис. 7.1 показаны внешний и внутренний планы
деятельности. Внешний план деятельности охватывает потребности вместе с предметами
(объектами) и условиями их удовлетворения, а внутренний план соответствует
интенциональной (мотивационно-целевой) сфере.
17 Зак.72

242
Глава 7. Деятельность агента и ее моделирование
Внешний план Внутренний план
деятельности деятельности Причина Следствие
ПОТРЕБНОСТЬ > МОТИВ МОТИВ > ДЕЯТЕЛЬНОСТЬ
* 1.1
ПРЕДМЕТ -* ЦЕЛЬ ЦЕЛЬ > ДЕЙСТВИЕ
УСЛОВИЯ > ЗАДАЧА ЗАДАЧА > ОПЕРАЦИЯ
Рис. 7.1. Основные понятия Рис. 7.2. Причинно-следственные
теории деятельности взаимосвязи в структуре деятельности
В русле синергетического подхода важнейшими проблемами теории
деятельности являются исследование и моделирование процессов возникновения
и эволюции деятельности.
7.1.1. Причины возникновения деятельности
Любая деятельность формируется на основе некоторых мотивов
(побуждений, стремлений, влечений, желаний, намерений) и направлена на достижение
определенных целей (решение задач) [Ломов, 1999] (рис. 7.2). Мотив
представляет собой любое субъективное выражение некоторой объективной потребности.
В свою очередь, потребность, т. е. состояние нужды в чем-либо, может
пониматься как рассогласование между наличной и желаемой ситуацией. Пусковой момент
всякой деятельности — это отражение субъектом данного различия.
Побуждением называется любой внутренний источник деятельности, в
частности, внутренний стимул, «запускающий» деятельность. Стремление — это
первичное побуждение, чувственное переживание потребности, связанной с некоторым
объектом. В зависимости от степени его дифференциации, осознания субъектом
стремление может выражаться в форме влечения или желания. Термин «влечение»
характеризует слабо дифференцированную, смутную потребность. Это —
неосознанная или почти неосознанная тяга к определенным объектам, к которым
возникает положительное отношение. В отличие от влечения, желание есть хорошо
осознанная потребность, когда фиксируются не только объекты, но и возможные
пути выполнения потребности. Наконец, намерение понимается как сознательное
стремление совершить действие в соответствии с намеченной программой, когда
во внимание принимаются имеющиеся средства (ресурсы) и внешние
требования (ограничения). Еще Фома Аквинский отмечал, что намерение — это воля
к действию.
Всякая деятельность как процесс реализации мотива состоит из совокупности
действий, направленных на достижение цели, которые распадаются на
отдельные операции. Действие — это единица деятельности, соотнесенная с некоторой
целью. Согласно П. Жане, следует различать «первичное действие» или
отношение между субъектом и объектом, и «вторичное действие», т. е. реакцию
субъекта на свое собственное действие. В свою очередь, под операцией здесь
понимается элемент деятельности, который отвечает определенным условиям
выполнения действия.
С каждым мотивом связано множество целей, а с каждой целью — множество
задач. По словам Н. Е. Введенского, живая природа достигает самых
разнообразных целей, осуществляя иногда очень простые вариации одного и того же мотива.
Любая цель представляет собой отображение, раскрытие мотива, которое всегда

7.1. Основы психологической теории деятельности 243
носит предметный характер. Если мотив выступает как причина всякой
деятельности, то цель определяет ее направление. Роль мотива в психологии аналогична
роли силы в механике. Мотив выступает как средство психической детерминации
деятельности, т. е. как способ снятия исходной ситуативной неопределенности
через психику, управляющей деятельностью.
Индивидуальные мотивы включают как мотивы, связанные с некоторой
формой удовлетворения или удовольствия субъекта (гедонистические мотивы), так
и мотивы, обусловленные его обязательствами, договоренностями и
напоминающие о предписанных целях. Гедонистические мотивы лежат в основе поведения
любых живых организмов.
Пообещав совершить некоторую работу кому-либо или самому себе, субъект
обязуется выполнить свои обещания, которые становятся источником мотивации.
Множество мотивов, связанных с этими обещаниями, называются договорными
мотивами.
В силу гедонистических принципов, если действие не удовлетворяет желание
субъекта (или может привести к неприятностям), то оно не будет выполнено.
Аналогично, действие не будет выполнено, если оно не соответствует нормам
сообщества, в котором находится субъект.
Цель может интерпретироваться двояко: а) как цель-задание, например,
описание требований заказчика; б) как цель-образ (представление о желаемом
результате деятельности). В то время как мотив связан с какой-то потребностью,
цель направлена на определенный объект (предмет). Чаще всего, здесь речь
идет не об изолированном уникальном объекте или событии, а о некотором их
множестве. В реальном мире всегда находится множество состояний, похожих
на то, что нужно субъекту. Задача определяется как цель, которая ставится
(или интерпретируется) в конкретных условиях.
7.1.2. Основные функции и структуры деятельности
Как отмечает Г. П. Щедровицкий, отличительная особенность деятельности
как системы заключается в неоднородности и полиструктурности [Щедровицкий,
1998]. Помимо уже рассмотренной интенциональной структуры к числу
основных структур деятельности относятся когнитивная структура, структура опыта
и структура организации поведения [Волков и др., 1987]. Когнитивная
структура характеризует познавательную активность субъекта, связанную с отражением
объекта и условий деятельности, построением внутренней модели внешней
среды. Структура организации поведения соответствует регуляции внешней части
деятельности, прежде всего связанной с ее планированием. Структура опыта
выражает динамику обучения, т. е. освоения и развития деятельности. Основные
компоненты деятельности, относящиеся к этим структурам, приведены в табл. 7.2.
На различных уровнях когнитивной структуры субъекта разворачивается
процессы моделирования: так на уровне ощущений отображаются отдельные признаки
(атрибуты) объектов внешней среды, а на уровне восприятия моделируются
целостные предметы. В когнитивных процессах, протекающих на этих уровнях,
отношения субъекта с внешним миром реактивны, т. е. носят асимметричный
характер. В то же время интеллектуальная активность проявляется в процессах
мышления, которые связаны с обработкой знаний, выступающих в виде понятий,
суждений и рассуждений, осознанием норм и принципов поведения,
организацией рефлексивных процессов и т. п. Мышление — это, прежде всего, установление
отношений между предметами [Поспелов и Пушкин, 1972]. При этом в процес-
17*

244
Глава 7. Деятельность агента и ее моделирование
Таблица 7.2
Основные структуры деятельности
Деятельность
Действие
Операция
Когнитивная
Мышление
Восприятие
Ощущение
Интенцио-
нальная
Мотив
Цель
Задача
Поведенческая
План
Стратегия
Реакция
Опыт
Знание
Умение
Навык
сах мышления формируются условные, опосредованные, обратимые отношения
субъекта с внешним миром.
Планирование в широком смысле слова означает анализ путей реализации
мотива и нахождение последовательности действий, связанных с достижением
цели. План деятельности может включать набор стратегий достижения цели,
а каждая стратегия содержит тактики решения задач или в простейшем случае
наборы реакций.
Структура опыта у субъекта включает знания, навыки и умения. Знания
имеют двойственную социально-индивидуальную природу, будучи с одной стороны
социальным продуктом, а с другой — важнейшей составляющей
индивидуального опыта. По своему происхождению и функциям знания разделяются на две
группы3*: а) знания 1-го рода (ЧТО-знания или «холодные» знания)-
общетеоретические утверждения, принципы, закономерности, зафиксированные в книгах,
справочниках, инструкциях и пр., которые субъект получает извне; б) знания
2-го рода (КАК-знания или «горячие» знания) — правила, процедуры, эвристики,
формируемые в собственной практической деятельности субъекта и хранящиеся
в его памяти.
В то же время, ключевым условием формирования профессионального опыта
является выработка навыков. Под навыком обычно понимается
«автоматизированное действие, выполняемое с максимальной эффективностью и минимальным
напряжением» [Ломов, 1999]. Здесь мы будем определять термином «навык»
совокупность накопленных элементарных способов решения задач
Для навыка характерна стереотипность: он не нуждается в помощи
мышления, а функционирует за счет выработанных условных связей. Важная роль
навыков состоит в том, что они разгружают психику от регулирования простых
элементарных операций.
Наконец, термин «умения» определяет способы выполнения
целенаправленных действий в новых или меняющихся условиях на основе ранее приобретенных
знаний и навыков. «Умелое действие» понимается как действие с умом, со
знанием дела. Основная функция умений в структуре опыта заключается в координации
знаний и навыков, т.е. в организации целенаправленных действий. Умения есть
центральный компонент опыта, конкретизирующий понятийные знания и
объединяющий комплекс навыков.
В табл. 7.3 сведены представления о функциях и уровнях организации
деятельности. Клетки главной диагонали соответствуют ведущему уровню для данной
функции системы. Здесь под ведущим уровнем понимается такой уровень, ко-
' Впервые идею разделения знаний на «горячие» и «холодные» высказал американский психолог
Б. Скиннер.

7.2. Физиологические модели организации поведения 245
Таблица 7.3
Иллюстрация принципа ведущего уровня (приоритетные связи основных психических
функций и уровней в деятельности)
^--^Функции
Уровни ~ ^^^^

Коммуникативная
Речемыслительный
Перцептивный
Сенсорный
Смысл
Регулятивная
Мотив
IU
Задача
Когнитивная
Понятие
Предмет
Признак
торый определяет возникновение и развитие данной функции. Так исходным
уровнем возникновения познания внешнего мира является сенсорный, а базовым
элементом в архитектуре когнитивной подсистемы является ощущение. Функция
регуляции отвечает за развертывание действий по выполнению цели;
соответственно ведущим уровнем в обеспечении этой функций оказывается перцептивный.
Наконец, коммуникативная функция обсуществляется благодаря обмену
значениями; поэтому для нее ведущим является речемыслительный уровень. Носителями
значений выступают различные знаковые системы, тогда как формирование
личностного смысла неотделимо от перцептивных образов.
7.2. Физиологические модели
организации поведения
В основе поведения животных и людей лежат процессы обмена со средой.
Важнейшим аспектом этих обменов является взаимосвязанное решение проблем
адаптации организма к условиям обитания (среде) и его самосохранения при
изменениях этой среды. По мнению К. Бернара необходимым условием сохранения
жизни любого организма выступает постоянство его внутренней среды. В развитие
этой идеи У. Кэннон обозначил термином «гомеостазис» наследственно
закрепленную способность организма поддерживать свои жизненно важные параметры
в условиях изменяющейся внешней среды. У него под гомеостазисом
понимается не только обеспечение неизменности внутренней среды, но и поддержание
нормального энергобаланса и, как следствие, работоспособности организма.
Простейшими видами поведения являются безусловные и условные рефлексы.
Рефлекс — это реакция организма в ответ на раздражение рецептора,
формирующаяся при участии центральной нервной системы. Безусловные рефлексы
присущи организму с моменту его рождения, тогда как условные рефлексы
вырабатываются организмом благодаря формированию в коре больших полушарий
мозга устойчивых связей условного и безусловного раздражителей.
Открытие условного рефлекса было открытием опережающего отражения
внешнего мира в специализированном субстрате — нервной системе. Когда
в ответ на звонок у собаки выделяется слюна — это происходит не потому, что
животное должно «переваривать звонок», а потому, что в будущем появится пища,
которую надо переваривать.
Условный рефлекс по И. П. Павлову, основывается на предсказании,
поскольку условная реакция имеет предупредительный характер.

246 Глава 7. Деятельность агента и ее моделирование
Основные ограничения стимульно-реактивной 'модели поведения таковы:
а) исключительное значение пускового сигнала в поведении; б) линейный
характер распространения возбуждения от рецептора к эффектору; в) завершение
рефлекса действием и только действием. Таким образом, стимульно-реактивная
модель не включает мотивов, целей, принятия решений и не может использоваться
при описании сложных форм поведения.
Предложенная П. К.Анохиным функциональная система представляет собой
динамическую саморегулирующуюся организацию, которая избирательно
объединяет разнородные структуры и процессы организма на достижение полезного
для него результата. Поскольку в архитектуре функциональной системы особое
значение имеет акцептор результата действия, ее можно охарактеризовать как
замкнутое физиологическое образование с обратной связью, обеспечивающей
информацию об успешности поведения [Анохин, 1978].
По сравнению с рефлекторной дугой, организация целенаправленного
поведения имеет ряд принципиально новых механизмов. К их числу относятся:
афферентный синтез, принятие решений, акцептор результата действия, программа
действия, многокомпонентный эффекторный аппарат. Общая схема
функциональной системы организма представлена на рис. 7.3.
д
Обратная афферентация
Аффрентные возбуждения
Рис. 7.3. Функциональная система (по П. К. Анохину):
А — афферентный синтез О А — обстановочная афферентация; ПА — пусковая афферентация; Б —
принятия решения; В — формирование акцептора результатов действия и афферентной программы
самого действия и афферентной программы самого действия; Г—L — получение результатов действия и
формирование обратной афферентации для сличения полученных результатов с запрограммированными
В процессе афферентного синтеза происходит обработка информации,
наиболее важной для принятия решений. Главную роль здесь играет мотивационное
возбуждение, сигнализирующее о потребности организма. При этом формируются
намерения — исходные решения, связанные с побуждением и планированием
поведения. Затем происходит принятие поведенческих решений с одновременным
формированием акцептора результата действия. Далее наблюдается
эфферентное возбуждение, когда строится программа действия; потом реализуется само
действие и фиксируется его результат. В конце концов осуществляется сопоста-

7.2. Физиологические модели организации поведения 247
вление реальных параметров результата действия с прогнозируемыми и оценка
успешности действия.
На основе функциональной системы можно моделировать следующие
свойства поведения животных и человека:
• целенаправленность, определяемую необходимостью удовлетворения
потребностей организма;
• мотивацию, задающую предпосылки для формирования цели;
• доминантность (по А.А.Ухтомскому), обеспечивающую направленность
поведения, мобилизацию ресурсов организма на достижение приоритетной
цели, в том числе концентрацию внимания;
• распознавание ситуации;
• планирование поведения;
• моделирование поведения;
• прогноз результатов поведения (с использованием механизмов памяти);
• оценку результата поведения;
• сопоставление прогноза и результата;
• поиск нужного решения и корректировку поведения (в случае
рассогласования прогноза и результата).
Максимально упрощая модель, перечисленные свойства нетрудно
реализовать в виде компьютерной программы. Например, в программе «Животное»
(раздел 3.1) можно выявить практически все перечисленные особенности данной
модели. Очерченная модель поведения имеет большой потенциал для серьезного
развития в плане проектирования действий агентов.
Так, в [Редько, 2001] описана кибернетическая трактовка функциональной
системы, изображенная на рис. 7.4 (см. также раздел 4.6.4).
1—Н
Мозг организма
База знаний
/Т*
II
Распознавание
ситуаций
-W
\
Обучение
\

Планирование г
действие
J Принятие
Ч решения
1
1
|_|
t
Мотивация
*
-W
*1
Прогноз
1 результата I
{Сравнение
прогноза и
результата
J у
Оценка
результата
1 },'
Внутренняя
среда
Потребности организма
t
о
1ЛЛ WJJ
еда

Целенаправленное
действие
Рис. 7.4. Кибернетическая схема функциональной системы

248 Глава 7. Деятельность агента и ее моделирование
7.3. Социологическая теория действия
Истоки теории социального действия восходят к трудам М. Вебера, в которых
он связывает действие с деятелем, его установкой и субъективным значением
действия для деятеля.
Затем Т. Парсонс предложил систему координат теории действия [Парсонс,
2000]. В ней ключевым понятием является действие, осуществляемое
индивидуальным или групповым деятелем. Любое действие характеризуется направленностью
независимо от того, совершается ли оно личностью или коллективом. Понятие
направленности у Т. Парсонса в известной степени обобщает понятие мотивации.
Термин «мотивация» в строгом смысле слова применим лишь к индивидуальным
деятелям. В то же время действие имеет направленность тогда, когда деятель,
руководствуясь своими целями и интересами, придает ему некоторый смысл.
В любой ситуации существуют два основных класса объектов, на которые
направлены действия: а) физические объекты и культурные ресурсы; б) социальные
объекты (деятели и их группы). Влечение деятеля к объектам, которые могут
принести ему удовлетворение, и избегание опасных объектов, способных причинить
вред, лежит в основе избирательности действий. Оценка действия основывается
на стандартах (нормах), которые могут быть либо когнитивными стандартами
истинности, либо ситуативными стандартами соответствия, либо моральными
стандартами справедливости. В результате он ввел понятие единичного действия,
которое включает следующие характеристики [Парсонс, 2000]:
1) существование какого-то деятеля или агента (группы агентов);
2) наличие у деятеля целей, т.е. представлений о будущем положении вещей,
будущих событиях, на достижение которых направлено действие;
3) существование ситуации действия, которая в свою очередь разбивается на:
а) средства действия, которыми владеет агент;
б) условия действия, т.е. факторы, не контролируемые агентом;
4) нормативная ориентация действия, когда связь целей и средств не случайна,
а определяется некоторыми усвоенными агентом ценностными стандартами.
Социальная система — это система действия, которая:
а) включает процесс взаимодействия между двумя или большим числом
деятелей;
б) рассматривает зависимость ситуации, в которой находится деятель, от других
деятелей;
в) предполагает выполнение как независимых, так и согласованных действий.
У Т. Парсонса социальное действие рассматривается как процесс,
связывающий деятеля и ситуацию. Поэтому выделяются два класса составляющих системы
действия: а) компоненты, выражающие направленность деятеля; б) компоненты,
характеризующие модальность объектов ситуации. «Ориентационный комплекс»
переменных определяет отношение агента к ситуации в плане его
заинтересованности в каких-то вещах, которые рассматриваются как «объекты потребления»
для агента. Эта направленность описывается с помощью двух «установочных
переменных»: диффузность — специфичность и аффективность — нейтральность.
Модальность имеет в виду «инструментальное», т. е. понимаемое как средство
достижения цели значение объекта (или объектов) для деятеля. Она также
концептуализирована двумя переменными: качество — исполнение и общность —
особенность.

7.3. Социологическая теория действия
249
В результате выделяются внешний и внутренний планы действия, где
основными характеристиками действия выступают: адаптация, достижение цели, ла-
тентность, интеграция (табл. 7.4).
Основные показатели действия по шкале «срез действия —
значение объекта для социального деятеля»
Таблица 7.4
^"^^-^^Значение
Действие ^^^^^~___
Сторона действия
Внешняя
Внутренняя
Значение объектов ситуации для агента
Инструментальные объекты
Адаптация
Латентность
Объекты потребления
Достижение результата
Интеграция
Здесь функциональная подсистема адаптации определяется как
«инструментальный и внешний» срез деятельности, который отражает возможности
социального агента по манипулированию объектами внешней среды и их приспособлению
к своим нуждам. Подсистема достижения результата соотносится с «внешним
и потребительским» аспектом действия, который направлен на удовлетворение
потребностей агента, т.е. на достижение результата во внешнем мире. С помощью
термина «латентность» (или подробнее: «поддержание образца и управление
напряжением») Т. Парсонс характеризует подсистему общих ценностей (значений)
для социальных агентов, носящую «инструментальный и внутренний» характер,
которая отвечает за сохранение образца, символического кода действия и
обеспечивает стандартное толкование ситуации. В социальном действии символ играет
ту же роль, что и ген в биологическом организме. Наконец, подсистема
интеграции, охватывающая «внутренние и потребительские» характеристики действия
есть по сути подсистема координации, отвечающая за согласованную работу
элементов системы действия.
КУЛЬТУРНАЯ
ПОДСИСТЕМА:
выработка единых норм
и общих ценностей
(эталонов действия)
(аксиологическая основа
действия)
ПОВЕДЕНЧЕСКАЯ
ПОДСИСТЕМА:
организация обменов
агента с внешней средой
(биофизиологичская
основа действия)
СОЦИАЛЬНАЯ
ПОДСИСТЕМА:
согласование элементов
действия в процессах
общения, формирование
совместных действий
(социальная основа действия)
ЛИЧНОСТНАЯ
ПОДСИСТЕМА:
анализ, формирование и
достижение целей агента
(психологическая основа
действия)
Рис. 7.5. Иллюстрация взаимосвязей подсистем в общей системе действия
16 Зак. 72

250 Глава 7. Деятельность агента и ее моделирование
Эти соображения служат Т. Парсонсу основой для построения общей системы
действия на стыке четырех подсистем: поведенческой, личностной, культурной
и социальной (рис. 7.5). Поведенческая подсистема обеспечивает действие
ресурсами, личностная подсистема управляет действием, социальная подсистема
координирует компоненты действия, а культурная подсистема снабжает их
нормами и образцами (эталонами). Культурные традиции и нормы имеют большую
значимость как для личности, так и для социальной системы. Именно нормы
позволяют охарактеризовать поведение как рациональное или иррациональное,
эгоистическое или альтруистическое, и т. п.
Все культурные нормы удобно разделить на три группы: а) системы идей
и убеждений (когнитивный аспект действия); б) системы ценностных ориентации
(оценка альтернатив с точки зрения их возможных последствий для системы
действия); в) системы выразительных символов (связанных с отношением деятеля
к объекту).
7.4. Синтез деятельности искусственных агентов
Синтез деятельности искусственных агентов следует начинать с определения,
анализа и моделирования основных функций, компонентов и структур их
деятельности. При формализации деятельности следует использовать аппарат нечетких
отношений, логические и алгебраические модели (см., например, [Тарасов, 19866
и 1987].
Будем связывать термин «деятельность» с интенциональными агентами. Под
деятельностью искусственного агента будем понимать асимметричное
взаимодействие (отношение) между агентом и объектами среды, которое возникает
и протекает благодаря наличию у агента ментальных свойств (интенциональных
характеристик), позволяющих управлять этим взаимодействием 4\ Агент считается
разумным, если его действия интенционально обусловлены и ведут к достижению
поставленных целей.
Иными словами, деятельность агента подразумевает его активность (а не
реактивность), проявляющуюся во взаимоотношениях агента а с компонентами
среды w в процессах его поведения: Activity: a -» w. Основное содержание
деятельности агентов связано с осуществлением изменений окружающего мира
и самого себя.
Деятельность агента представляет собой самоорганизующуюся систему, в
которой подсистема самоуправления определяет источники, виды и границы
деятельности. Соответственно, в рамках этой подсистемы выделяются: а) интенци-
ональные функции, характеризующие причины деятельности агента и лежащие
в основе ее интеграции в целостную систему; б) решающие и планирующие
функции, связанные с оценкой степени достижения целей и формированием
последовательности действий; в) «законодательные» функции, ответственные
за выработку ограничений (норм, принципов, запретов) на поведение агентов.
Любая функция агента обеспечивает преобразование потребности в действие.
Потребность может быть выражена в терминах основных или существенных
функций (с выделением главной), а также второстепенных, ненужных и вредных
функций (дисфункций).
' Это представление о деятельности агента опирается на известное определение, данное А. Н.
Леонтьевым: «деятельность представляет собой реальную связь субъекта и объекта, в которую необходимым
образом включена психика» [Леонтьев, 1975].

7.4. Синтез деятельности искусственных агентов 251
/Потребности \
4 самореализации
Потребности в оценке
Потребности в принадлежности
Потребности в безопасности
Жизненные потребности
Рис. 7.6. Пирамида потребностей по А. Маслоу
Классификации потребностей весьма многообразны. Приведем здесь
варианты классификации, предложенные А. Маслоу (рис. 7.6) и П. В. Симоновым
(см. [Ломов, 1999]), адаптируя их к искусственным агентам. В основании
«пирамиды потребностей» по А. Маслоу лежат жизненные потребности, необходимые
для существования агента в некоторой среде, например потребности в пище или
скрещивании. На следующем уровне расположены потребности в безопасности,
связанные с избеганием агрессивных агентов, обходом препятствий, а в целом,
с сохранением «нормального состояния» агента в среде, его функций, статуса
и т. п. Далее идут потребности в принадлежности к некоторой группе или
сообществу, общении с другими агентами и т. п. «Этажом выше» находятся потребности
в оценке (поощрении) агента членами данной группы. Наконец на самом верху
оказываются потребности в самореализации, максимально полном проявлении
своих возможностей.
В классификации П. В. Симонова за основу берется генетический критерий:
происхождение потребностей из базовых инстинктов агентов. Выделяются три
группы инстинктов: биологические (витуальные), ролевые и инстинкты
саморазвития. Соответственно, к числу биологических потребностей агента относятся
потребности в пище (пополнении жизненных ресурсов), размножении, экономии
усилий и пр. Ролевые потребности связаны с ролью агента в группе: его
лидерством или подчиненностью, желанием следовать нормам или отвергать их и пр.
Примерами потребностей в саморазвитии служат потребности преодоления
(воля), самостоятельности, когнитивные потребности, потребности в уподоблении
(подражании).
Мотивы искусственного агента могут быть связаны как с его собственными
потребностями, так и с потребностями других агентов. Существование некого
исходного мотивационного потенциала и побуждает агента к действиям.
Соотношение между побуждением и стремлением тем сложнее, чем
сложнее агент. Для простого реактивного агента стремления являются результатом
комбинации внутренних стимулов (в экологии это называется потенциал
частного действия) и внешних воспринимаемых стимулов. У когнитивных агентов,
16*

252
Глава 7. Деятельность агента и ее моделирование
для формирования множества мотивов и стремлении «высокого уровня» могут
использоваться механизмы обработки информации (знаний).
Деятельность агента разворачивается как совокупность его действий,
направленных на удовлетворение потребностей и интересов (пользователя, самого
агента или других агентов).
7.5. Обобщенная модель деятельности
искусственных агентов
В контексте развития теории агентов как искусственных деятелей
центральной задачей становится исследование функциональной структуры и динамики
деятельности агентов. Здесь обычная, принятая в информатике модель
деятельности типа «черного ящика» (рис. 7.7)
Управление 1 ы п
1_ I ( оказывается недостаточной. В интересах по-
Входы
ДЕЯТЕЛЬНОСТЬ
т
Выходы строения и обоснования архитектур агентов
*~ как виртуальных деятелей необходимы
исследования общих принципов и внутренних
Возмущения механизмов деятельности, что предполагает
Рис. 7.7. Обычное представление разработку обобщенной схемы деятельности
деятельности как «черного ящика» как сложной, автономной,
самоорганизующейся системы.
Вариант общей модели деятельности агента [Tarassov, 1996; Тарасов, 2000]
представлен на рис. 7.8 в виде многослойной семантической сети. Ядром этой
модели является трехуровневая схема развертывания деятельности: «деятельность —
действие-операция» (по А. Н.Леонтьеву [Леонтьев, 1975]). В данной модели на
каждом уровне отражаются как радиальные связи (от периферии к центру) между
регулятивными (в частности, интенциональными и поведенческими) и
морфологическими компонентами деятельности, так и кольцевые связи между базовыми
функциями организации деятельности. В общем случае можно указать, что:
Деятельность = F (среда, потребности, мотивация, планирование, знания);
Действие = G (деятельность, объекты, цели, стратегии, умения);
Операция = Н (действие, условия, задачи, тактики, навыки),
где F, G и Н — отношения полиморфизма («один-ко-многим»).
В отличие от представления деятельности типа «черного ящика», эта
трехуровневая и двухконтурная модель может рассматриваться как «прозрачный ящик».
В ней раскрываются внутренние механизмы деятельности путем анализа
подсистем представления (моделирования внешней среды) и опыта, поведения (внешней
регуляции) и интенциональной подсистемы (саморегуляции). Генезис и эволюция
деятельности изучаются на основе анализа как вертикальных отношений «мотивы —
цели-задачи», «планы-стратегии-реакции», так и горизонтальных отношений
«потребности-мотивы-планы-знания», «объекты удовлетворения потребностей-
цели-стратегии-умения», «условия-задачи-тактики-навыки», определяющих
автономные контуры самоорганизации (см. схему билатерального регулирования
у Б. Г.Ананьева [Ананьев, 1977]).
Соответственно, понятие агента как деятеля можно определить в зависимости
от выбранного (или технически достижимого) уровня антропоморфизма неким
подмножеством из указанного набора характеристик деятельности. При
разработке реактивных агентов со стимульно-реактивным поведением можно ограничиться

7.5. Обобщенная модель деятельности
253
моделированием характеристик нижнего уровня и их связей с функциями
среднего уровня. Наоборот, при создании интеллектуальных агентов, которые должны
иметь достаточно развитые внутренние модели внешнего мира, средства
проведения рассуждений, а также модули организации действий, необходимо подробно
рассмотреть отношения между понятиями верхнего уровня, а также исследовать
связи со средним уровнем.
ВХОДЫ АГЕНТА
(ЗАПРОСЫ)
Mill
ВЫХОДЫ АГЕНТА —
ПРОДУКТЫ, УСЛУГИ
(ВЫПОЛНЕНИЕ ЗАПРОСОВ)
ПОДСИСТЕМА ПРЕДСТАВЛЕНИЯ
ИНТЕНЦИОНАЛЬНАЯ ПОДСИСТЕМА
ПОДСИСТЕМА ПОВЕДЕНИЯ
> ПОДСИСТЕМА ОПЫТА
Рис. 7.8. Общее представление деятельности агента
Так на верхнем уровне интерпретируемые интеллектуальными агентами
потребности формируют сферу мотивации, а построение планов реализации мотивов
требует пополнения знаний или пересмотра убеждений агента.

254
Глава 7. Деятельность агента и ее моделирование
7.6. Интенциональные характеристики агентов
Одной из важнейших, квалификационных характеристик агентов,
отличающих их от любых других программных систем, в частности объектов в объектно-
ориентированном программировании, является наличие у них хотя бы в
зачаточном виде ментальных свойств (интенциональных характеристик).
Далее в качестве родового понятия, объединяющего все механизмы
побуждения к деятельности и достижения цели, будем использовать термин «интенция».
С античных времен интенции являются объектом пристального внимания ученых.
Схоласты, Брентано, а затем Гуссерль подчеркивали, что интенциональностъ есть
фундаментальное отличие между физическим и психическим. Все психические
явления (и только они) отмечены печатью интенциональности.
Под интенцией понимается любая устремленность к деятельности,
направленность на решение задачи. Интенция реализует определенное психическое
состояние.
Проблематика исследования интенциональных систем чрезвычайно богата.
В частности, здесь раскрываются внутренние механизмы автономии агентов,
а также вопросы согласования его поведения с состояниями мира и поведением
других агентов.
Следовательно, отличительной особенностью разработки интеллектуальных
агентов является необходимость реализации специальной подсистемы
представления ментальных состояний, включающего хотя бы некоторое подмножество
из множества интенциональных характеристик [Dennett, 1971; Bratman, 1987; Fer-
ber, 1995; Haddadi, 1996; Поспелов и Шустер, 1990]. К числу таких характеристик
относятся убеждения, желания, намерения, цели, обязательства и пр.
7.6.1. Классификация интенциональных характеристик агента
— Все это основано на так называемых убеждениях: всякий
толкует о своих убеждениях и еще уважения к ним требует:
— Прекрасно! — промолвил Рудин, — стало быть, по-вашему,
убеждений нет?
— Нет — и не существует.
— Как же вы говорите, что их нет ? Вот вам уже одно на
первый случай.
И.С.Тургенев. «Рудин»
Интенциональность есть свойство многих ментальных состояний и событий,
с помощью которого задается их направленность на объекты или состояния.
Существуют различные классификации интенций. Так по временному критерию
различаются интенции настоящего времени и интенции, устремленные в
будущее. Последние связаны с планированием действий по достижению особого
будущего состояния в некотором мире и могут порождать производные интенции.
Наоборот, интенция настоящего времени обеспечивает выполнение конкретного
текущего действия.
Согласно Р. Киссу, среди интенциональных характеристик выделяются:
когнитивные (убеждения, знания, свидетельства), конативные (намерения,
обязательства, планы) и аффективные (цели, желания, предпочтения). Здесь когнитивные

7.6. Интенциональные характеристики агентов
255
отношения, связаны с эпистемическими аспектами, конативные — с
управлением и действием, а аффективные — с динамикой поведения агента (см. [Haddadi,
1996]). В свою очередь, И. Шоэм и Р. Казинс подразделяют интенции на:
информационные (убеждения, знания), мотивационные (намерения, цели, желания,
планы), социальные (обязательства, разрешения).
По Р. Братману [Bratman, 1987], знания и убеждения агента в MAC
понимаются как социальные установки — аттитюды, ориентированные на те или
иные ценности и предписывающие определенные варианты поведения. В то же
время, желания, обязательства, намерения и пр. представляют собой факторы
мотивации, направляющие поведение агента таким образом, чтобы сделать
соответствующие утверждения истинными. В отличие от убеждений, которые могут
быть истинными или ложными (в частности, знания определяются как
обоснованные и истинные убеждения [Вагин, 1998]), желания или намерения обычно
рассматриваются в контексте их удовлетворения или реализации. Здесь в силу
офаниченности имеющихся у него ресурсов агент должен выбирать какое-либо
желание, чтобы достичь цели, что означает принятие обязательства в той или
иной форме.
Если убеждения агента оказываются опровергнутыми, то ошибочность всегда
приписывается этим убеждениям, но не окружающему миру, что означает для
агента необходимость в корректировке ситуации путем простой смены убеждений.
В то же время, когда агент не в состоянии реализовать свои намерения или, иными
словами, его желания остаются невыполненными, то в этом случае он не может
аналогично исправить положение дел путем простого изменения намерения или
желания. В противоположность утверждениям и убеждениям, которые могут быть
истинными или ложными, желания и намерения рассматриваются не с позиции
их истинности или ложности, а в контексте удовлетворения или выполнения.
Помимо всего, убеждения и, отчасти, желания могут анализироваться
изолированно в той степени, насколько можно установить их свойства отдельно
от других аттитюдов. Наоборот, намерение тесно связано с другими аттитюдами,
такими как убеждения и желания, причем здесь также присутствуют
характеристики времени и действия.
Намерение анализируется иначе, чем другие ментальные состояния. В то
время как содержание убеждений и знаний обычно рассматривается в форме
предложений, а содержание намерения обычно рассматривается как действие.
Кроме того, многие специалисты считают, что убеждения и желания
являются, в некотором роде, фундаментальными интенциональными состояниями.
Здесь справедливо то, что некоторые другие формы интенциональных состояний
могут быть сведены к этим двум. Однако, существуют и такие формы, для
которых убеждения и желания могут быть лишь частичными моделями исследования.
Например, это намерения. Поэтому агент может упорствовать в своих желаниях,
делая новые попытки их удовлетворения путем воздействий на внешний мир.
Намерения связаны с желаниями агентов, целями, которые их реализуют, а также
с нормами и обязательствами, которые их офаничивают.
Соотношение между побуждением и стремлением тем сложнее, чем сложнее
агент. У простого реактивного агента стремления являются результатом
комбинации внутренних стимулов (в экологии это называется потенциал частного
действия) и внешних воспринимаемых стимулов. В случае когнитивных агентов,
при формировании множества мотивов и стремлений «высокого уровня» могут
использоваться механизмы обработки знаний и планирования.

256 Глава 7. Деятельность агента и ее моделирование
При появлении задачи агенты, вовлеченные в ее, распределенное решение,
вырабатывают общий план. Планирование — выбор и организация действий,
позволяющих достичь поставленной цели — один из главных видов деятельности
агентов.
Убеждения и, в некоторой степени, желания могут анализироваться
независимо, отдельно от других установок. Наоборот, намерение есть комплексная
интенциональная характеристика, которая теснее всего связана с другими атти-
тюдами, включая убеждения и желания, причем здесь учитываются ограничения
по времени, целям и действиям.
В целом, формальные определения намерений базируются на следующих
основных положениях [Bratman, 1987; Haddadi, 1996]:
• намерение агента выполнено, если совершено связанное с ним действие;
• намерения агентов могут порождать или, наоборот, вытеснять другие
намерения;
• у агентов имеется несколько попыток, чтобы выполнить намерение;
• агент убежден, что действие, которое он намерен совершить, возможно;
• агент не убежден, что действие невозможно осуществить, если у него есть
намерение его совершить;
• агент не может предвидеть всех последствий осуществления своего намерения.
Важный аспект рассмотрения механизмов интенции связан с исследованием
и моделированием роли эмоций в побудительных процессах и регуляции
деятельности агентов. П. В. Симонов связывает эмоции с дефицитом информации
о способе удовлетворения жизненно важной потребности, с отношением
между потребностью и успешностью ее удовлетворения. Им предложена «формула
эмоций» вида
Э = Г(М(Г-1)), G.1)
где N — сила потребности, а I* и I — соответственно требуемая и располагаемая
информация о средствах (ресурсах), необходимых для ее удовлетворения.
7.6.2. Логическое описание интенциональных характеристик
Главной идеей логического подхода в MAC является представление
характеристик агента в виде логической теории. При этом основные работы логической
школы моделирования агентов можно подразделить на два класса: а) расширение
классической и многосортной логик с помощью предикатов высокого
порядка; б) обобщение модальных логик, история которых в первую очередь связана
с именами К.Льюиса, С. Крипке и И.Хинтикки.
Модальные логики, в которых для описания агентов наряду с
обычными высказываниями (предикатами) допускаются модальности типа «возможно»
и «необходимо» (алетическая логика), «известно» и «неизвестно» (эпистемическая
логика), «верит (убежден) и не верит» (доксастическая логика), «желает» и «не
желает» (оптитативная логика) «обязательно» и «разрешено» (деонтическая логика),
«всегда» и «иногда» (временная логика) и т.д., представляют собой расширения
классической логики.
Формальное описание интенциональных свойств было предложено Дж. Алле-
ном [Allen and Perrault, 1980], у которого интенции сводились к убеждениям
относительно будущих действий. Затем П. Коэн и А. Левек [Cohen and Levesque, 1990]
впервые формализовали намерения и взгляды агентов на базе модальных логик.
Значительный вклад в развитие логических моделей агентов внесли М.Джорджеф

7.6. Интенциональные характеристики агентов
257
и А. Рао [Georgeff and Rao, 1995], И. Шоэм [Shoham, 1993], Р. Фейджин и др. [Fagin
et al., 1995], М. Вулдридж и Н. Дженнингс, Б. Шаиб-Дра и Р. Мандье [Mandiau et
al., 1991] и др.
Базовый алфавит языка для моделирования интенциональных характеристик
агентов включает множество символов и правила построения формул. Основными
символами являются:
• переменные: х,у,z,...
• предикаты: р, q, г,...
• агенты: а|,а2,аз,...
• логические операции: "|, л, V, —>,«-*,...
• кванторы: V, 3 ,...
Правила построения формул таковы:
а) р(х|,..., хп) есть формула;
б) если р и q — формулы, то ]р, р Л q, р V q, p —> q также формулы;
в) если р — формула, то Vxp(x) и 3 хр(х) также формулы.
Тогда каждое интенциональное состояние может быть описано в виде
состояние (агент, формула). Так намерение агента совершить действие (достичь цели)
обозначается в виде IntAct (а, х).
Исчисление предикатов первого порядка не обеспечивает адекватного
выражения многих ментальных понятий, например таких, как утверждение «агент
ai убежден, что у агента аг имеется намерение выполнить действие х».
Поэтому в теории агентов применяются неклассические логики, и в первую очередь,
модальные логики.
В случае модальных логик дополнительно к вышеуказанным символам
вводятся сильный оператор о и слабый оператор 0. Они обычно удовлетворяют
принципу двойственности 0р =1 о\р.
Для эпистемической логики Q = KN и KN(a, p) означает «Агент а знает, что
р». Аналогичную интерпретацию базовых аксиом можно указать и для доксасти-
ческой логики, когда D = BEL, причем BEL (а, р) интерпретируется как «агент а
убежден, что формула р истинна». Впоследствии некоторые из подобных
убеждений могут оказаться ложными, а другие — истинными. Такая неопределенность
больше соответствует реалиям динамической среды, в которой находятся агенты.
Переход к модальным логикам при логическом моделировании агентов
обусловлен, главным образом, тем, что они могут интерпретироваться в различных
мирах, тогда как классическая логика интерпретируема в одном-единстве ином
мире
Будем задавать семантику моделей агентов на основе модальных логик с
помощью модифицированных моделей Крипке
Kr=(W,A,R,y>), G.2)
где W — множество возможных миров, А = {a;}, i = l,...,n — множество
агентов, R С W x W — бинарное отношение достижимости между мирами,
зависящее от агентов из А, а функция <р ставит в соответствие каждой формуле р
и миру w значение истинности (истина, ложь), т. е. (р : W х Р -» {0,1}.
Здесь ?>Aр, w) = 1 тогда и только тогда, когда <р(р, w) = 0, a y?(pAq, w) = 1
тогда и только тогда, когда у?(р, w) = 1и (p(q, w) = 1.

258
Глава 7. Деятельность агента и ее моделирование
С целью пояснить место отношения достижимости, возьмем в качестве
примера интенциональных характеристик убеждения BEL агента. Их можно
представить с помощью совокупности миров, в которых распределены его предпочтения.
Пусть агент а работает с множеством возможных миров W. Рассматривая знания
и предпочтения агента, из множества W можно выделить подмножество Wa,
на котором агент концентрирует свое внимание. Это подмножество Wa содержит
миры, совместимые с тем, что агент знает (в чем он убежден) в мире w0.
Тогда соотнесение подмножества Wa, агента а и мира wq ? W означает введение
некоторого отношения R. Здесь миры из W0 — это такие миры, с которыми w
находится в отношении R.
Будем полагать, что агент определенно убежден в формуле р тогда и только
тогда, когда эта формула истинна во всех возможных мирах w ? Wa, связанных
с исходным миром w0, т.е. y?(BEL(a,p),w) = 1 тогда и только тогда, когда
Vw e Wa,wRw0, <р(р,щ) = 1.
Стандартная аксиоматика логики знаний агента приведена ниже.
К: \=u(p=>q)=>(Up=>Qq) G.3)
Т: Dp => p G.4)
D:Dp^]D]p G.5)
PID): Up =» DUp G.6)
NIE):lolp=»D"|D"|j> G.7)
R1: если |= р, то Dp. G.8)
Интерпретация этих аксиом такова.
К: Замкнутость знаний агента относительно операции импликации, т. е.
агент знает все следствия, вытекающие из его знаний
Т: Аксиома истинности знания: «То, что агент знает, истинно»
D: Аксиома непротиворечивости знаний агента: если агент знает об
истинности некоторого высказывания, то противоположное высказывание ложно
PI D): Аксиома позитивной интроспекции: «агент знает, что он знает»
N1 E): Аксиома негативной интроспекции: «агент знает, что он не знает»
R1: Правило вывода: «агент знает каждое истинное высказывание и все
тавтологии».
Различным схемам аксиом модальной логики соответствуют различные
свойства отношения достижимости (см. табл. 7.5). Например, для системы KD45
отношение достижимости является транзитивным, серийным и евклидовым.
Типичным языком формализации интенций является многосортная
многомодальная логика предикатов. Логический язык у Коэна и Левека [Cohen and
Таблица 7.5
Связь аксиом модальной логики со свойствами отношения достижимости
АКСИОМЫ
Т
D
4
5
СВОЙСТВА ОТНОШЕНИЯ ДОСТИЖИМОСТИ
Рефлекси вость
Серийность
Транзитивность
Евклидовость

7.6. Интенциональные характеристики агентов
259
Levesque, 1990], помимо обычных символов и операторов логики первого порядка,
включает четыре базовых модальных оператора: Happens, Done, BEL и GOAL.
Подобные операторы позволяют связать убеждения с действиями и целями
агента, а также учесть временной фактор. Семантика также задается через множество
возможных миров, где мир определяется как дискретная последовательность
событий, расширяемая в прошлое и в будущее. Здесь в базовой структуре модели
Крипке W = 7?, a R = Ord, где Я — множество действительных чисел, a Ord —
некоторое отношение порядка, например, <, >, ^, ^. Во временной логике
возможные миры представляют состояния некоторого мира в различные моменты его
эволюции. Отношение достижимости wqRw означает, что «w следует за w0». Два
базовых временных оператора Happens и Done определяют последовательность
событий, которые произойдут в будущем и последовательность уже произошедших
событий. Сложные действия образуются с использованием операторов, подобным
тем, что применяются в динамической логике.
Семантика операторов BEL и GOAL задается отношениями достижимости
(по убеждениям и целям) на множестве возможных миров. В [Cohen and Levesque,
1990] принимается допущение о том, что отношение достижимости по целям
является подмножеством отношения достижимости по убеждениям. Временные
операторы Q (всегда), z (иногда), Later (позже) и Before (раньше) определяются
в терминах наступления событий на линейной шкале времени.
Для убеждений, желаний и намерений основную роль играют К-аксиомы, D-
аксиомы и правила вывода [Georgeff and Rao, 1995]. Здесь К-аксиома определяет
минимальную систему нормальной модальной логики, D-аксиома выражает
непротиворечивость убеждений, желаний и намерений (из нее вытекает серийность
отношения достижимости), а правило вывода R1 утверждает, что каждая
тождественно истинная формула содержится в убеждениях, желаниях и намерениях
агента.
К*: BEL(p) Л BEL(p => q) =>
К**: DES(p) Л DES(p => q) =>
К***: INT(p) Л INT(p => q) =Ф
D*:BEL(p)=»lBEL(lp)
D**:DES(p)=»lDES(lp)
D***:INT(p)^lINT(lp)
Rl*: |=p, то HBEL(p)
Rl**: ИР, то (=DES(p)
11***: И p, то И INT(p).
BEL(q)
> DES(q)
INT(q)
G.3*)
G.3**)
G.3***)
G.5*)
G.5**)
G.5***)
G.8*)
G.8**)
G.8***)
Очевидно, что в случае интенциональных характеристик агентов принятие Т-ак-
сиом не имеют смысла (у агента могут быть ложные убеждения или невыполнимые
желания), а аксиомы PI и N1 могут использоваться только для убеждений:
PI*: BEL(p) => BEL(BEL(p)) G.6*)
N1*: 1 BEL(p) => BELA BEL(p)). G.7*)
Таким образом, убеждения агента описываются модальной системой KD45,
а желания и намерения — системой KD.
Заметим, что аксиома замкнутости К вместе с правилом вывода R1
определяют условие «логического всеведения» (logical omniscience), т.е. предположение

260 Глава 7. Деятельность агента и ее моделирование
о доступности агенту на любом шаге выбора решения всего, что истинно в каждом
возможном мире (может быть выведено из теории). Из логического всеведения
непосредственно вытекает условие логической согласованности: (агент не может
быть одновременно убежден в истинности р и q, если р =>"|q) и логической
эквивалентности: если заданы высказывания: а) р и б) р Л q, где q — истинно, то
выражения а) и б) логически эквивалентны.
Классическая семантика нормальной модальной логики предполагает, что
агенты являются «идеальными рассуждателями», обладающими неограниченными
ресурсами. Поэтому в ряде работ были предприняты попытки ее изменения, так
чтобы учесть «офаниченную рациональность» всякого реального агента [Fagin et
al., 1995; GeorgefTand Rao, 1995; Mandiau et al., 1991]. Ниже рассмотрим подходы
на основе мультимодальных логик и неклассических возможных миров, в которых
не все правильно построенные формулы должны быть истинными.
У Рао и Джорджефа [GeorgefTand Rao, 1995] применяется формализм,
который расширяет CTL-логику (логику вычислительных деревьев) в русле
многомодальной логики ветвящегося времени. Здесь отношение достижимости является
линейным слева и транзитивным. Основная идея древовидности времени
заключается в том, что каждому событию ej предшествует одно-единственное событие,
но непосредственно за ним может следовать множество событий Е (будущее
многозначно).
|р_ш 1,
1рЩ„
Рис. 7.9. Условия согласованности между интенциональными характеристиками
Важное место занимает определение типов агентов в зависимости от
уровня согласованности интенциональных характеристик. Возможные соотношения
между убеждениями, желаниями и намерениями показаны на рис. 7.9. Например,
в случае агентов, имеющих желания и намерения, совместимые с убеждениями,
справедливы следующие соотношения между достижимыми мирами:
V w03 wBEL(w0, w) A DES(w0, w) G.9)
Vw03 wBEL(wof, w) A INT(w0y w) G.10)
V w03 wINT(w0, w) A DES(w0, w). G.11)
При этом естественным образом формулируются следующие аксиомы
INT(p) =>\BBLQp) G.12)
DES(p) ^]BEL(\p) G.13)
DES(p) =*\INTQp). G.14)
В [Mandiau et al., 1991] развивается подход на основе двух модальных
операторов BEL и AGR для формализации ментальных характеристик — убеждений
(beliefs) и соглашений (agreements), а также двух вышеупомянутых модальных
операторов для описания действий Happens (действие произойдет) и Done
(действие уже произошло). Предполагается, что любой мир w E W в любой момент
времени t описывается множеством высказываний, представленных в модальной
логике. Задаются также следующие типы действий — предварительные условия,
тело действий и последствия. В свою очередь, в [Errico and Aiello, 1996] строится

7.7. Модели действий в информатике и ИИ
261
ситуативная модальная логика на основе 4 модальностей, связанных со
следующими градациями уверенности агента в своих знаниях: Know (a, p, s), Believes (a, p, s),
Kwhether (a, p, s), Doubts (a, р, s). Здесь Оператор (а, р, s) читается как агент
а убежден с некоторым уровнем определенности (знает, уверен, сомневается),
что в ситуации s имеет место р. Берутся также 3 модальности, характеризующие
целенаправленное поведение: Want (a, p, s), Indif (a, p, s) и Wantstock (a, p, s).
Для моделирования слабых допущений об агентах, т.е. допущений, которые
впоследствии могут изменяться (отбрасываться), естественно использовать
аппарат немонотонных логик. В немонотонных логиках вводится новый символ А,
который означает уверенность в некотором факте при отсутствии
противоположного факта. Например, р => Aq гласит, что «если формула р истинна, то Ар
означает, что р согласуется с теорией». Высказывание р называется
согласованным, если из него не следует отрицания. Предложение Ар выполняется тогда
и только тогда, когда нельзя найти ]р.
Проведенный выше анализ показывает, что, несмотря на определенные
достижения, большинство существующих подходов на основе многомодальных
логик не позволяют адекватно отразить многие важные характеристики интенци-
ональных агентов. В частности, они не обеспечивают работу с лингвистически
градуированными модальностями типа «весьма возможно», «почти
невыполнимо», «совершенно необходимо», «скорее истинно, чем ложно», «очень желательно»
и многими другими НЕ-факторами, характерные для рассуждений на естественном
языке. В то же время теория нечетких множеств, меры возможности и
необходимости, теория Демпстера—Шейфера и ряд других формальных конструкций дают
такую возможность. Поэтому перспективы дальнейшего развития логического
подхода к моделированию агентов связываются нами с дальнейших развитием
нетрадиционных логик и построением гибридных (в особенности, возможностных
модальных и нечетких немонотонных) логик.
Отныне такие основные понятия психологической теории деятельности как
мотивы, желания, намерения, установки, цели, задачи прочно занимают свое место
в структуре исследований по ИИ.
7.7. Модели действий в информатике и ИИ
С позиций психологической теории деятельности, большинство известных
моделей действия в ИИ сводят его к операции, поскольку описание
ограничивается чисто внешними характеристиками действия без учета побуждающих факторов,
т.е. внутренних интенциональных состояний агента. Действие понимается как
изменение, а именно, как изменение агентом состояния мира.
Простейший способ представления действий агента, общепринятый в ИИ,
есть выражение различий в исходной и конечной ситуациях (или в начальной
и конечной точке действия).
Другая проблема состоит в том, что среда реагирует на действия агентов.
С этим связано то, что одно и то же действие может привести к различным
результатам.
Основные интерпретации действий в информатике и ИИ таковы.
1. Действие как преобразование изменение состояния мира. Это представление
лежит в основе всей теории планирования в ИИ. Планирование — это выбор
и организация действий, позволяющих достичь поставленной цели есть один
из главных видов деятельности агентов. Задача планирования может быть

262 Глава 7. Деятельность агента и ее моделирование
представлена как поиск пути на сети из заданного множества начальных
вершин в множество конечных вершин.
2. Действие как информационный процесс.
3. Действие как локальное изменение.
4. Действие как физическое перемещение.
Агенты, вовлеченные в распределенное решение задачи, считаются
рациональными и сознающими свои действия. Это означает, что:
а) они не должны выполнять произвольное действие в произвольный момент
времени;
б) они начинают действовать только при предъявлении им некоторой задачи,
стремясь найти ее удовлетворительное решение.
7.7.1. Логическое описание действий агентов
Для одного агента рассуждения о действии включают: 1) выбор задач (что
делать); 2) рассуждения о средствах достижения результатов (как делать); 3)
выполнение (когда делать).
Вопросы описания понятий, связанных с действиями, волновали еще
античных ученых. Примерами могут служить проблематика практического силлогизма
у Аристотеля, работы стоиков, а позднее, схоластов (см. [Блинов и Петров, 1991]).
Например, в русле этики стоиков было развито учение о побуждениях, а также
о самосохранении благодаря предпочтению (исходя из ценности) и избеганию.
Первая современная работа по логике действий появилась более полувека
назад в 1951 г., когда Г. фон Вригт (см. [Фон Вригт, 1986]) предложил исчисление
имен действий и положил начало семантике древовидных универсумов для логики
действий. Он же выдвинул два важных содержательных условия логического
анализа действий: а) логика действий должна опираться на логику изменений;
б) действие должно пониматься как вмешательство агента в естественный ход
вещей. Исходя из этого, фон Вригт построил исчисление действий Т\. В нем
правильно построенная формула интерпретируется как имя родового действия
некоторого агента, а вместо значения истинности берется одно из двух значений
реализации действия. Значительный вклад в развитие логики действий внесли
Ф. фон Кучера [Von Kutschera, 1975], разработавший один из наиболее развитых
языков логики действий Lk, а также Д.Дэвидсон [Davidson, 1971].
Кратко остановимся на исчислении предикатов действий по фон Вригту.
В нем вводятся переменные действий х,у,... и агентные переменные aha2,...
Формула х(а) интерпретируется следующим образом: «агент о совершил действие
х». Сложные выражения могут быть получены из переменных действий с
помощью внутренних связок 1 и Л. Для атомарной формулы 1х(а) означает, что
«агент а воздерживается от действия х», а (ж Л у)(а) указывает на одновременное
совершение агентом а действий ж и у. Из атомарных формул действий с
помощью внешних связок можно строить сложные формулы. Множество правильно
построенных формул состоит из атомарных и сложных формул.
7.7.2. Простейшие абстрактные модели агентов
Пусть среда, в которой находится агент а, характеризуется множеством
состояний
Q = {qi,q2,.-.qm,...}, О7-15)
а его репертуар действий представлен множеством ACT = {хь ..., хп)

7.8. Роль обязательств в формировании коллективных действий агентов 263
Пусть в момент времени m среда находится в сложном состоянии О*,
представляющем собой некий набор элементарных состояний q;. Тогда простейший
агент может быть задан функцией
X:Q*-ACT, G.16)
которая отображает состояние среды в его действия.
В общем случае среда агента должна рассматриваться как
недетерминированная, т. е. ее поведение может быть представлено следующей переходной функцией
y>:QxACT->2Q. G.17)
В ряде случаев недетерминированность среды можно свести к вероятности и
описать ее вероятностным автоматом, т. е. с помощью переходной функции
V>*:P(Q)xACT-+P(Q), G.18)
т. е. рассматривать вероятность перехода среды агента из одного состояния в другое
в результате действия х.
Обратимся к интенциональным (В01)-агентам. Состояние BDI-агента в
любой момент времени характеризуется тройкой
(B,D,I), G.19)
где В С BEL, D С DES, I С INT. Деятельность интенционального агента связана
с формированием желаний, выполнением намерений и пересмотром убеждений.
Поэтому можно ввести следующие функции.
В силу того, что интенциональные характеристики агента связаны с
наличием у него собственных предпочтений будем описывать их на основе нечетких
множеств и показателей уверенности.
Пусть ^(») — класс нечетких множеств на множестве (•). Тогда функция
пересмотра убеждений может быть задана в виде
•q : i^(BEL) х ^(PERC) -> ^(BEL), G.20)
т. е. на основе текущего восприятия и текущих убеждений, характеризующихся
нечеткими множествами, происходит формирование нового нечеткого множества
убеждений.
В свою очередь, функция формирования выбора может быть записана как
отображение декартова произведения множества убеждений и намерений в
множество желаний
&(BEL) х $r(INT) -> &{DES). G.21)
Процесс подготовки решения BDI-агентом можно рассматривать как процесс
рекурсивного уточнения иерархической структуры плана благодаря формированию
все более конкретных намерений.
7.8. Роль обязательств в формировании
коллективных действий агентов
Обязательства агента могут побуждать его к деятельности. В особенности, это
касается совместной деятельности агентов. Именно обязательства агентов друг
перед другом лежат в основе их коллективных действий. Пусть А = {а, Ь, с, d} —
множество агентов, a ACT = {X, Y, Z, W} — множество действий, которые им

264 Глава 7. Деятельность агента и ее моделирование
надо выполнить. Здесь примем X = {xi, хг,... , хп} — множество действий агента
a, Y = {уь уг,..., ут} — множество действий агента Ьит.д.
На основе обязательств агентов друг перед другом формируются структуры
зависимостей между их действиями. Так если агент а взял обязательство перед
агентом b выполнить действие х, то агент b также взял обязательство перед агентом
с выполнить действие у, зная, что действие у зависит от действия х. Подобные
зависимости можно записать в виде (Ь, у)«— (а, х), т. е. действие у агента b зависит
от действия х агента а (связь «— интерпретируется как влияние).
На рис. 7.10 показаны различные виды зависимостей между действиями [Fer-
ber, 1995]. Во-первых, существуют элементарные зависимости текущих действий
, . , . агентов от других (более ранних) действий тех же
,' ' ^* ! ' самых агентов. Например, действие Х2 агента а за-
{Ъ,уй 1 висит от действия Х] того же агента а. Во вторых,
т ^^ 1 (с2j чаще всего бывают зависимости действий агентов
[a,x2r г {Ь,у^ одновременно как от своих, так и от чужих дей-
, / , ствий. В частности, действие у агента b зависит как
от выполнения действия Х2 агента а, так и от деи-
Рис. 7.10. Фрагмент графа ствия W] агента d. Встречаются и более сложные виды
зависимости между действи- обязательств, например, когда выполнение действия
ями агентов у2 агента b непосредственно зависит от
выполнения действия Z2 агента с и неявно зависит от
действия у! агента Ь. Из рис. 7.10 видно, что агент
может принимать обязательства перед самим собой. Например, когда агент а
желает выполнить действие Х2, он берет также обязательство выполнить действие Х|.

Глава 8
Коммуникация в MAC
Коммуникативность представляет собой фундаментальную характеристику
агентов в многоагентных системах. Более того, способность интерпретировать
знаки — один из главных критериев интеллектуальности агентов. Как и в случае
человеческих коллективов, коммуникация (общение) агентов характеризует
семиотические аспекты взаимодействий между ними и лежит в основе социальной
организации MAC. Важнейшее значение коммуникации состоит в социализации
агентов. Еще Н. Д. Кондратьев заметил, что чем совершеннее средства
коммуникации, тем интенсивнее может быть социальная связь физически разделенных
субъектов (см. [Почепцов, 1998]). Благодаря общению агенты могут кооперировать,
координировать свои действия, совместно решать задачи, а, в целом,
формировать некоторые сообщества. В ходе коммуникации происходит обмен сигналами
(сообщениями) и образуются динамические отношения между агентами.
Коммуникация есть ключевой момент самоорганизации как основа зарождения нового
смысла и достижения «ментального резонанса».
В книге [Ломов, 1999] обсуждаются три основных класса функций общения:
коммуникативно-информационная, коммуникативно-регулятивная и
коммуникативно-аффективная. В настоящее время для теории агентов наибольшую актуальность
представляют первые два класса. Коммуникативно-информационнная функция
общения охватывает все те процессы, которые можно охарактеризовать как
передачу-прием информации. Коммуникативно-регулятивная функция общения
обеспечивает координацию поведения агентов. Здесь имеются в виду как
саморегуляция агента, так и регуляция поведения других агентов (воздействие на их
мотивы, планы, цели, стратегии). В ходе коммуникации может происходить
взаимная стимуляция и взаимная коррекция поведения.
Другой вариант классификации (см. [СП, 1999]) предполагает выделение
таких функций общения как: а) организация совместной деятельности агентов;
б) познание друг друга; в) формирование и развитие отношений между агентами
(см. главу 5). Тогда в общении можно различать собственно коммуникативную,
перцептивную (в широком смысле) и интерактивную стороны.
Основными механизмами взаимного познания являются уподобление и
рефлексия. Наконец, интерактивная сторона общения связана с построением общей
стратегии взаимодействия: классическими примерами полярных типов
взаимодействия служат сотрудничество (кооперация) и противоборство (конкуренция).
Коммуникация может осуществляться с помощью сигналов и знаков.
Сигнал — это самое примитивное средство коммуникации. Его можно рассматривать
как некий след, модификацию внешней среды. Сигналы распространяются по
собственным законам и сами по себе (в отрыве от ситуации) ничего не значат. Для
того чтобы агент мог работать с сигналами, он должен иметь: а) способность
воспринимать сигнал в определенном диапазоне; б) систему интерпретации,
которая позволяет преобразовать сигналы в значения или сформировать некоторое
поведение.

266
Глава 8. Коммуникация в MAC
Сигнал, направленный на формирование некоторого поведения, называется
стимулом. Работа со стимулами типична для реактивных агентов. Когда сигнал
не только способствует смене поведения, но и становится носителем значения,
то он обретает статус знака.
Любая система знаков, используемая для того, чтобы передавать и
перерабатывать информацию, т. е. служащая средством общения и познания, называется
языком.
Итак, в процессах общения важнейшую роль играют знаки и знаковые
системы. Знаковая коммуникация подразумевает связь между автономными
единицами. Поэтому исследование и моделирование процессов коммуникации между
агентами неотделимы от представлений о семиотике и семиозисе.
Основная проблема семиотики применительно к агентам и MAC состоит в
анализе того, как знаковое окружение формирует те или иные типы
взаимодействия и поведения агентов.
8.1. Основы семиотики
Семиотика — это наука о знаковых системах. Она возникла как
самостоятельная дисциплина в ХХ-м веке, хотя еще знаменитый английский философ
Дж. Локк ввел этот термин и писал, что важная задача учения о знаках (семиотики)
состоит в рассмотрении природы знаков, которыми ум пользуется для понимания
вещей или для передачи своего знания другим. Отдельные семиотические идеи
восходят к концепции «возможных миров» Г.Лейбница. Один из ранних
представителей знаменитой российской школы семиотики Г. Г. Шпет понимал ее как
«онтологическое учение о знаках вообще» (см. [Почепцов, 1998]).
Задача семиотики как метаязыка науки состоит в изучении всего
многообразия знаковых систем (важнейшей из которых является естественный язык)
и всевозможных коммуникативных процессов, порождаемых этими системами.
К числу создателей теоретической семиотики следует, в первую очередь,
отнести Ф.де Соссюра, придумавшего термин «семиология», и Ч. Пирса. По Ф.де Со-
ссюру, семиология есть наука, которая изучает знаковые системы в контексте
социальной жизни. В свою очередь, Ч. Пирс, рассматривая семиотику как общую
теорию знаков, определял ее как «логику в самом общем смысле, формальную
доктрину знаковых систем». Кроме того, он подчеркивал системообразующую
роль семиозиса («все входящее в процесс семиозиса становится знаком» [Пирс,
2000]). Таким образом, две исходные точки зрения на семиотику акцентировали
внимание либо на социальной, либо на логической функции знака.
Семиотика исследует основные характеристики любых знаков и их сочетаний
(например, слов и словосочетаний естественного языка, формул искусственных
логических и машинных языков, средств отображения информации в технике
и т.д.). Что же такое знак? Каковы основные виды и функции знаков?
Знак — это объект, представляющий (замещающий) какой-либо другой
объект или процесс. Связь между знаком и исходным объектом (оригиналом) в общем
случае является условной, носит договорной характер и выражает некоторые
(подчас неявные) социальные соглашения.
Из этого определения видна внутренняя связь между понятиями «знак»
и «агент». Знак в семиотике играет роль, аналогичную роли агента в ИИ.
Для каждого знака обязательным является наличие двух сторон: означающей
(материальной) стороны, воспринимаемой органами чувств, и означаемой
стороны — значения, рассматриваемого в семантике. Например, для слов естественного

8.1. Основы семиотики
267
языка означающей стороной является написание слова, а означаемой стороной —
само его значение.
В зависимости от вида отношений между означаемым и означающим
выделяются различные типы знаков: изобразительные знаки, указатели и символы.
Так знаки, основанные на реальном сходстве между означающим и означаемым,
называются изобразительными (иконическими) знаками. Действие иконического
знака основано на фактическом подобии означающего и означаемого, например,
геофафической карты и местности, ярлыка с изображением печати и принтера
и т. п. Внутри этой фуппы Ч. Пирсом выделены образы и диаграммы. У последних
отношения между составными частями означающей стороны сходны с
отношениями между составными частями означаемой стороны.
Знаки, в которых между означающей и означаемой сторонами
устанавливаются отношения смежности, называются указателями или индексами (например,
стрелка, указывающая путь к определенному месту). Действие указателей
опирается на ассоциацию по смежности, например, дым есть указатель огня, замедление
работы компьютера есть симптом вируса и т. п. Иными словами, в каждый момент
времени указатель выражает то, на что указывается.
В свою очередь, знаки, в которых отношение между означаемой и
означающей сторонами наиболее условно, называются символами. Здесь связь между
означаемым и означающим носит исключительно договорный характер: она
определяется соглашением агентов.
Итак, основным исходным элементом семиотической системы является знак.
Знак имеет три аспекта: синтаксис, семантику и прагматику; или в других
терминах: план выражения, план содержания и план значения [Поспелов и Осипов,
1999]. Таким образом, любой язык как семиотический объект функционирует
и эволюционирует в трехмерном пространстве (синтактика, семантика,
прагматика). Синтактика — это часть семиотики, занимающаяся изучением «внутренних
отношений» между знаками. Семантика охватывает сферу отношений между
знаками и тем, что они обозначают, а прагматика — сферу отношений между знаками
и теми, кто ими пользуется. Таким образом, прагматика учитывает требования
конкретного адресата сообщения, в то время как у семантики его нет.
Знак представляет собой элемент ментальной сферы, но он может быть связан
и с реальным миром. Соответственно, в семантике различают понятия десигната
и денотата. Десигнат есть класс объектов, к которым применим данный знак,
т. е. класс объектов с определенными свойствами. Когда же объект, на который
ссылаются, реально существует, он называется денотатом. Семантика имеет дело
с отношениями знаков к их десигнатам и, тем самым, к объектам, которые они
обозначают или могут обозначать.
Класс всех допустимых денотатов образует экстенсионал знака. В свою
очередь, интенсионалом знака называется характеристика концепта, выраженная через
общие свойства денотата этого знака и его отношения с другими денотатами.
Одной из важнейших базовых схем в семиотике является треугольник Фре-
ге — наглядное и полезное фафическое представление знака как триединства
имени, концепта и денотата (или обозначающего, обозначаемого и значения)
(рис. 8.1). Проинтерпретируем его в контексте теории агентов. Пусть в среде,
где находится агент, имеется множество объектов, которые с позиций семиотики
являются денотатами. У агента в результате взаимодействия с этими
объектами возникает представление о них. Понимание денотатов происходит благодаря
представлениям, формируемым у агента на базе его системы восприятия. Сходные
денотаты рассматриваются как примеры одного и того же класса объектов, а раз-

268
Глава 8. Коммуникация в MAC
Концепт личные относятся к разным классам. Для различе-
f?\ ния денотатов у агента должен быть список их имен,
.//^Хч связанных с представлениями о тех или иных объ-
ГРу УуУ».—(Т> ектах. В результате на основе процедуры выявления
т^ ~ "^ „ сходства-различия формируется содержание понятий
Имя Представление Денотат ^ ^^ (конце^
Рис. 8.1. Треугольник Фреге По этой схеме у агентов, «живущих» в некотором
Значения отношений: 1 -> 2 — сетевом мире, по наборам воспринимаемых атрибу-
описание; 2 -> 1 — обозначе- тов М0ГуТ формироваться понятия и представления
уи^ | ^именовани^г^З'1— ° встречающихся им объектах. Например, в моделях
конкретизация; 3' -> 2 — обоб- искусственной жизни у агентов на основе различных
шение взаимодействий с объектами сетевого мира могут
возникать представления о нужных (пища) и опасных
(препятствия, хищники) объектах.
Таким образом, денотаты — это любые именованные объекты, о которых
у агента есть некоторые представления и знания. Очевидно, что в
искусственном мире могут рассматриваться виртуальные денотаты. Для треугольника Фреге
родственными конструкциями являются треугольник Огдена—Ричардса и
модифицированный семиотический треугольник Ульмана.
Процесс производства знаков путем формирования и использования
основных семиотических отношений и операций называется семиозисом. В первую
очередь, в процессе семиозиса устанавливаются соотношения между денотатом,
его именем, представлением и концептом. Семиозис выступает как один из
главных факторов процесса интеллектуализации агентов, связанных с порождением,
накоплением, соотнесением и использованием знаний.
Анализ отношений между компонентами знака в треугольнике Фреге
позволяет определить базовые семиотические операции (процедуры) [Поспелов, 1996;
Валькман, 1998]. Так, связь между именем и концептом соответствует
процедуре описания, т. е. нахождению по имени объекта совокупности знаний об этом
объекте. Обратная связь между концептом и именем в простейшем случае есть
обозначение, а в более общем случае характеризует процедуру восстановления
имени объекта по совокупности знаний о нем. Связь между именем и
представлением позволяет строить представление объекта по его имени, а обратная связь
между представлением (денотатом) и именем есть не что иное, как именование
объекта. Наконец, связь между концептом и представлением соответствует
процедуре конкретизации, порождения примеров некоторого класса, а обратная связь
между представлением и концептом есть не что иное, как обобщение, объединение
объектов в класс.
8.2. Прикладная семиотика и семиозис агентов
Семиотическое направление в ИИ выделившееся из символьного
подхода, основано на переходе от формальных систем к семиотическим, создании
адекватных семиотических моделей внешнего мира, а также на установлении
соответствия между базовыми структурами в семиотике (треугольник Фреге) и в ИИ
(фрейм) [Поспелов Д. А., 1996] (рис. 8.2). При этом обозначающему
соответствует имя фрейма, обозначаемому — экзофрейм, а значению — протофрейм.
Дальнейшее развитие объектно-ориентированного подхода в семиотике связано
с агентификацией процесса и компонентов семиозиса.

8.2. Прикладная семиотика и семиозис агентов
269
Концепт
Имя
Имя
Представление
Экзофрейм
Рис. 8.2. К определению знака-фрейма
Одна из важных идей прикладной
семиотики заключается в определении
базовых лексических групп естественного языка
с указанием их основной нагрузки в
описании агентов, объектов, процедур и
ситуаций функционирования MAC.
Исходная системная единица такого языка
может задаваться тройкой «агент-действие-
объект», а в общем случае, с помощью
более сложной семиотической конструкции.
Эта конструкция обычно связана с
базовыми отношениями, представленными на
полярных шкалах типа «субъект-объект»,
«делать-быть», «нормативный-дескриптивный» и др. Воплощение понятия «агент»
определяется приближением к полюсам «субъект», «делать», «нормативный»
на указанных шкалах.
Важнейшими областями применения идей, моделей и методов прикладной
семиотики в MAC являются:
• естественно-языковые интерфейсы пользователей с агентами;
• базы знаний агентов, оперирующие с представлениями, близкими к
естественному языку (семиотические базы знаний);
• системы автоматизированного проектирования агентов, не допускающих
строгого формального описания.
Как и собственно в ИИ, в семиотике известны два основных подхода к
изучению смысла и сигнификации:
а) традиционный лингвистический, объединяющий своего рода
«механистические» модели, когда рассматриваются дискретные, управляемые единицы
в языке и процессах типа языковых;
б) коннекционистский, включающий холистические и эволюционные подходы,
которые оперируют как с языковыми, так и с нелингвистическими
сущностями iDinsmore, 1992; Hofstadter, 1995; Sebeok, 1985; Tarassov, 1998].
Согласно Ю. М. Лотману, основными вопросами всякой семиотической
системы являются во-первых ее отношение к миру, лежащему за ее пределами, и,
во-вторых, отношение статики к динамике [Лотман, 2000]. Развитие
семиотических аспектов теории агентов предполагает сдвиг от классического «статического»
определения знака к его динамической трактовке.
Знак всегда замещает собой некий объект-оригинал, и поэтому может
рассматриваться как некоторая модель замещаемого объекта, агента, события, процесса
и т.д. Следовательно, совокупности знаков с отношениями между ними являются
моделирующими системами. Именно в этом смысле любой язык, например,
естественный, называют моделирующей системой. Между знаковой системой и тем,
что с ее помощью описывается, возникает отношение моделирования, реализуемое
в виде специальной коммутативной диаграммы моделирования (см. [Аверкин и
Тарасов, 1986]. Как правило, моделирование полностью не охватывает
моделируемый мир. Это делает отношения моделирования и соответствующие диаграммы
приближенными, например, вероятностными или нечеткими. Проблемы,
связанные с изучением природы и свойств таких отношений и диаграмм, входят в число
фундаментальных проблем, изучаемых в прикладной семиотике [Поспелов и
Осипов, 1999].

270
Глава 8. Коммуникация в MAC
8.3. Эволюционная семиотика
Слова — хамелеоны,
Они живут спеша.
У них свои законы,
Особая душа.
Они спешат меняться,
Являя все цвета;
Поблекнут — обновятся,
И в том их красота.
Константин Бальмонт.
«Змеиный глаз»
Эволюционное моделирование знаковых систем (знаков-фреймов) может
рассматриваться как многообещающий вариант использования неодарвинизма
в теоретической и прикладной семиотике. Здесь главная идея состоит в
применении методов имитации эволюции к семиотическим системам. При этом основные
принципы и механизмы эволюции могут использоваться для управления
изменениями в формальных системах (составляющих семиотической системы).
По нашему мнению, эволюционная семиотика (эвосемиотика) [Тарасов,
19976 и 19986] обеспечивает хорошие предпосылки для описания агентов и MAC.
Интеграцию семиотических и эволюционных представлений можно проводить
по-разному.
В контексте классической теоретической семиотики наиболее естественный
путь такой интеграции состоит в анализе исторической эволюции знаковых
систем в зависимости от развития средств их производства. Подобный анализ может
опираться на основные принципы и механизмы эволюционной теории, такие как
наследственная изменчивость, борьба за существование и естественный отбор.
Таким образом, будут рассмотрены мутации в знаковых системах как
предпосылка их эволюции, критерии выживания и отбора знаков как контролирующий
и преобразующий факторы в эвосемиотике. Центральную роль играет понятие
семиотической адаптации, т. е. приспособления системы знаков к среде,
обеспечивающее ее выживание.
8.3.1. Эволюционное моделирование в теоретической
семиотике
Будем полагать, что различные типы производства знаковых систем
порождают различные виды семиотик. Ниже даются определения некоторых основных
видов организации семиозиса (ручная, ремесленная, промышленная,
интеллектуальная) вместе со способами производства знаковых систем и
соответствующими классами семиотик (см. табл. 8.1). Выделенные способы семиозиса
отвечают различным уровням активности и продуктивности «семиотических агентов»
и определяют четыре этапа семиотической эволюции. С другой стороны, эти
архетипы семиозиса могут рассматриваться в различных социо-семиотических
пространствах1) [Тарасов, 19986].
')у Ю. М.Лотмана универсальное семиотическое пространство называется семиосферой [Лотман,
2000].

8.3. Эволюционная семиотика
271
Ручная организация семиозиса предполагает, что знаки (фреймы)
порождаются вручную на произвольном носителе без участия специальных орудий
воспроизводства в рамках индивидуального производства (творчества),
достаточно полно и прозрачно отображая некоторую область внешнего мира. Порой знак
может смешиваться с объектом. Эта организация семиозиса характеризуется
отношениями в треугольнике Фреге, близкими к тождественным. Соответствующую
семиотику можно назвать «семиотикой присутствия», когда в ходе семиотического
процесса (дискурса) конкретный агент — автор текста жестко привязывает его
к неким присутствующим вещам (денотатам), например к конкретной ситуации,
месту, времени и пр.
Широкое использование инструментальных средств воспроизводства знаков
приводит к ремесленной организации семиозиса. Здесь серийное производство
знаковых систем связано с переносом знаков на некий специальный
искусственный носитель (матрицу, экран) и их отчуждением от автора. Появляются как бы
посредники между денотатом и концептом, т.е. отношения в треугольнике Фреге
асимметричны и подчас могут быть многозначными или нечеткими (рис. 8.3 а).
При этом главной функцией знаков становится наиболее полное представление
отсутствующих вещей; соответствующую семиотику можно назвать «семиотикой
представления» или «семиотикой отчуждения».
В обоих рассмотренных случаях семантика знаков связана с некоторой
достаточно ограниченной «территорией» (хотя во втором случае гораздо богаче
прагматическое наполнение), а процесс распространения знаков может
регулироваться.
Эра промышленного семиозиса характеризуется массовым производством
и воспроизводством знаковых систем, причем знак становится товаром.
Подобное полузаказное, высокоавтоматизированное знакопроизводство удовлетворяет
всем законам рынка, включая закон стоимости. Поэтому данную разновидность
семиотики уместно назвать «рыночной семиотикой». При этом средства массовой
информации и коммуникации способствуют почти полной деконтекстуализации
знаков. Знак уже не замещает присутствующий или отсутствующий объект.
Более того, в условиях массового копирования объект-оригинал может вообще
отсутствовать, а смысл знака — исчезать, т. е. отношения между обозначаемым,
обозначающим и смыслом в треугольнике Фреге могут разрываться (рис. 8.3 it б).
Иными словами, такое «тейлоровское производство» знаков приводит к потере
их семантической и прагматической нагрузки в процессе обращения: диффузная
циркуляция знаков более не обеспечивает направленного распространения смысла
и ориентации на практическое использование. Произвольный синтез контуров
и сетей семиозиса ведет к распределению и квантификации смысла
(«квантовая семиотика»). Знаковые системы становятся экстерриториальными и потоки
распространения знаков нерегулируемыми. В данной ситуации знак можно
уподобить бесконтрольно размножающемуся вирусу, борющемуся за существование
в конкуренции с другими вирусами. Таким образом знак (точнее, обозначающее)
приобретает некоторую активность, которая ориентирована на завоевание своей
экологической ниши в пространстве средств массовой информации.
Наконец, интеллектуальная или постиндустриальная организация семиозиса
означает, что знаковые системы становятся действительно активными системами-
агентами, формирующими свое окружение и свое будущее. Социо-семиотическое
пространство строится по принципам виртуальной реальности, куда можно
войти, погрузиться, «потрогать смысл» и манипулируя основными семиотическими
моделями реализовать своего рода обратный семиозис — от знака к образу или

272
Глава 8. Коммуникация в MAC
Таблица 8.1
Представление семиотической эволюции
ОРГАНИЗАЦИЯ
СЕМИОЗИСА
РУЧНАЯ
РЕМЕСЛЕННАЯ
ИНДУСТРИАЛЬНАЯ
ИНТЕЛЛЕКТУАЛЬНАЯ
ВИД ПРОИЗВОДСТВА
ЗНАКОВЫХ СИСТЕМ
ИНДИВИДУАЛЬНОЕ
СЕРИЙНОЕ
МАССОВОЕ
(ТЕЙЛОРОВСКОЕ)
ПОСТМАССОВОЕ
(ПОСТТЕЙЛОРОВСКОЕ)
НАЗВАНИЕ
СЕМИОТИКИ
СЕМИОТИКА
ПРИСУТСТВИЯ
СЕМИОТИКА
ПРЕДСТАВЛЕНИЯ
РЫНОЧНАЯ
СЕМИОТИКА
ВИРТУАЛЬНАЯ
СЕМИОТИКА
от концепта к денотату. В соответствие с основными свойствами интеллектуальных
организаций, обсуждавшимися ранее, отношения в треугольнике Фреге
становятся обратимыми (например, в виртуальной среде можно сгенерировать
виртуальное обозначаемое). Следовательно, подобная «виртуальная семиотика» (рис. 8.3 в)
предполагает возврат назад в сферу семантически и прагматически насыщенных
знаков, но на новом уровне, когда люди, знаки и вещи связаны
динамическими отношениями соучастия. Поэтому виртуальная семиотика, именуемая также
«семиотикой возникновения», тесно связана с концепцией искусственной жизни.
обозначающее обозначаемое обозначающее обозначаемое обозначающее обозначаемое
а) Семиотика представления б) Рыночная семиотика в) Виртуальная семиотика
Рис. 8.3. Эволюция основных отношений в треугольнике Фреге
Следует отметить, что все эти виды семиотик сосуществуют в любой
организации, в том числе и в организации сложных текстов (как и вообще в повседневной
жизни), т.е. социо-семиотическое пространство неоднородно и состоит из
пересекающихся областей, имеющих разные свойства. В целом, понятие управляемой
эволюции семиотических систем определяет нашу точку зрения на сущность
исследований по искусственной жизни и их применений для разработки
интеллектуальных организаций.
8.3.2. Эволюционное моделирование
в прикладной семиотике
Роль эволюционных подходов в прикладной семиотике также может быть
весьма плодотворной. В частности, на основе генетических алгоритмов могут
определяться правила модификации компонентов в семиотической модели или

8.4. Базовые функции коммуникации агентов
273
порождаться новые аргументы в задачах аргументации. В последнем случае
общая схема базового генетического алгоритма для решения задачи аргументации
выглядит следующим образом:
1. Сформировать популяцию Q аргументов о;,-, ъ = 1,... ,п и контраргументов
07;, i = 1, .. . , ТЛ, Г2 = ttpros U Псопз-
2. Построить функции соответствия (fitness functions) f(u>i), g(u)j) для заданной
области аргументации. Эта функция должна отражать аддитивный характер
процесса аргументации и тот факт, что довольно часто решающие аргументы
или контраргументы при анализе сложных проблем — это редко
встречающиеся доводы.
3. Провести оценку каждого аргумента и контраргумента в популяции.
4. Выдвинуть новые аргументы и контраргументы с использованием
генетических операторов мутации, скрещивания и др. Здесь каждый начальный
аргумент может иметь наследника с вероятностью f(u>j)/ ^ /(щ), а каждый
контраргумент — с вероятностью g(u)j)/ Y29(vj).
5. Оценить новые аргументы и контраргументы.
6. Заменить некоторые старые аргументы и контраргументы новыми.
7. В зависимости от критерия времени анализа (останова), либо остановиться
и аргументировать предлагаемое решение, либо перейти к шагу 4.
Подобная оптимизация исходной схемы аргументации может способствовать
отысканию ответов на следующие важные вопросы: как породить аргументы
и контраргументы в рассматриваемой задаче, как выбрать их веса, как определить
порог решения, и т. п.
8.4. Базовые функции коммуникации агентов
Я сорвал фантастический план Кальдера, медля
с отдачей приказов. Этих приказов он ждал как
спасения, они были фундаментом его замысла.
Станислав Л ем. «Дознание»
К числу основных функций коммуникации относятся [Якобсон, 1975]: кона-
тивная, выразительная, референциальная, фатическая, эстетическая и
металингвистическая, которые лежат в основе различных семиотических схем и
конструкций. Конативная функция соответствует приказу или требованию, когда один агент
(заказчик или субординатор) стремится заставить другого агента (исполнителя)
выполнить некую работу. Она характеризуется фразами типа «Сделай это» или
«Ответь на мой вопрос». Чаще всего ответы бывают «Согласен» или
«Отказываюсь», порой у агента-исполнителя возникают контрпредложения и начинаются
переговоры. Выразительная (экспрессивная) функция отражает состояние агента-
источника сообщения, показывая его намерения, цели, убеждения. Типичными
примерами служат: «Я не удовлетворен твоим ответом» или «Я желаю знать
больше об этом событии». Денотативная (референциальная) функция
сосредоточена на контексте. Эта функция обеспечивает передачу фактической информации.
В свою очередь, фатическая функция служит для установления, продолжения
19 Зак. 72

274
Глава 8. Коммуникация в MAC
и прерывания коммуникации (контакта). Она используется главным образом для
проверки функционирования канала связи. Здесь типичны такие предложения как
«Я получил твое сообщение» или «Я не смогу ответить на ваш вопрос».
Эстетическая функция ориентирована на повышение «качества» сообщения, в частности,
благодаря лучшей форме выражения. Наконец, металингвистическая функция
обеспечивает рекурсивные связи, позволяя в сообщении говорить о других
сообщениях. Она облекается в такие фразы как «Это очень нужно».
Последняя функция очень важна для MAC. Ее можно подразделить на па-
рал интеистическую и метаконцептуальную. Паралингвистическая функция
выражается такими фразами как: «Я не понимаю, нельзя ли уточнить?», «Почему ты
у меня это спрашиваешь?» и пр.
8.5. Модели коммуникации агентов
Существует немало различных моделей коммуникации. В каждой из них
рассматривается какая-либо сторона коммуникации. Так в классической
модели Шеннона—Уивера коммуникация понимается как информационный процесс.
В свою очередь, А. Бейтсон трактует коммуникацию как социальный процесс.
Коммуникация агентов неразрывно связана с их интенциональными
характеристиками и часто служит для построения когнитивных моделей друг друга.
В контексте формирования и функционирования MAC коммуникация может
рассматриваться как преднамеренное воздействие одного агента на другого (когда
первый агент стремится что-то получить от второго). Здесь интенциональная
коммуникация выражает волю или решимость агента действовать и связана
с его выбором. В то же время случайная коммуникация характеризуется тем,
что у агента-источника нет четких намерений относительно других агентов.
Поэтому при случайной коммуникации у сообщения имеется семантика, но нет
собственной прагматики (множественный выбор поведения у
агента-приемника). Ниже подробнее рассмотрим три модели коммуникации — классическую
информационную, семиотическую и социально-психологическую (учитывающую
интенциональные характеристики агентов).
8.5.1. Коммуникация как информационный процесс.
Классическая модель коммуникации Шеннона—Уивера
и ее перенос в семиотику Р. Якобсоном
Согласно общеизвестной классической модели Шеннона—Уивера (рис. 8.4),
коммуникативный акт сводится к передаче информации от источника к
получателю (адресату). Передатчик кодирует сообщение, т.е. преобразует его в сигнал,
который передается по каналу связи. В процессе передачи по каналу связи
сигнал может подвергаться воздействию помех (шумов). Приемник осуществляет
преобразование (декодирование) полученного сигнала и в результате
восстанавливает переданное сообщение. В рамках этой модели основная задача заключается
в передаче данных так, чтобы получить наименьшие помехи в канале связи.
Сам К. Шеннон выделял три уровня коммуникации: технический,
семантический и уровень эффективности. Технические проблемы связаны с точностью
передачи информации от источника к приемнику. Семантические проблемы
касаются правильной интерпретации сообщения адресатом в соответствии с тем

8.5. Модели коммуникации агентов
275
Источник Н
Передатчик
(кодирование)
Приемник М
(декодирование)
Получатель
Источник
Получатель
Рис. 8.5.
Контекст
Сообщение
>
Контакт
Код
Модель коммуникации
Р. Якобсона
Рис. 8.4. Общая схема коммуникации (процесса передачи информации) по Шеннону-Уиверу
значением, которое было отправлено источником. Проблема эффективности
коммуникации отражает степень изменения поведения агента-адресата под влиянием
полученного сообщения.
В данной модели основными составляющими являются: агенты (источник
информации, ее получатель); технические средства связи (канал связи,
передатчик, приемник); сообщение; помехи.
Схема Шеннона—Уивера была
положена в основу лингвистической модели
коммуникации Р.Якобсона [Якобсон, 1975]
(рис. 8.5). В рамках этой модели
коммуникативный акт сводится к посылке сообщения
источником (адресантом) некоторому
адресату. Чтобы сообщение могло выполнять
свои функции, требуются:
• общий контекст, связывающий источника и получателя сообщения;
• единый код, совпадающий для источника и получателя сообщения;
• технический (канал связи) и психологический контакт между источником
и получателем, дающий возможность установить и поддерживать
коммуникацию.
Каждому из выделенных в модели Якобсона шести факторов соответствует
особая функция языка.
Выразительная (экспрессивная) функция сфокусирована на
агенте-источнике информации: она выражает отношение агента к тому, что он стремится
передать другому. Напротив, конативная функция сосредоточена на
агенте-приемнике информации. В свою очередь, фатическая функция направлена не столько
на передачу информации, сколько на обеспечение контакта между агентами.
Эстетическая функция связана с формой сообщения, а металингвистическая функция
отсылает на код (она используется для определения значения того или иного
слова). Денотативная (референциальная) функция основана на контексте сообщения.
Контекст — это ситуация, в которой находятся взаимодействующие агенты,
причем контексты источника и приемника могут различаться. Модель коммуникации
Якобсона нередко подвергалась критике за ее тесную привязку к чисто
синтактической схеме Шеннона—Уивера. С одной стороны, на предложенной им схеме
(рис. 8.5) сообщение рассмотрено в одном ряду с другими факторами
коммуникации. В действительности, любое сообщение предполагает взаимодействие всех
выделенных компонентов модели. Иными словами, сообщение — это результат
взаимодействия двух агентов (источника и получателя), входящих в контакт с
помощью кода в рамках некоторого контекста. С другой стороны, модель Якобсона
19*

276
Глава 8. Коммуникация в MAC
подразумевает не только пользование одним и тем же кодом, но и соизмеримый
объем памяти у источника и получателя. Сам термин «код» представляется
слишком узким для характеристики обмена сообщениями. По мнению Ю. М. Лотмана,
язык — это код плюс его история. Кроме того, различие контекстов у агентов при
их коммуникации превращает сам процесс взаимодействия из пассивной
передачи информации в конфликтную игру, в ходе которой каждая сторона стремится
перестроить семиотический мир противоположной стороны по своему образу
и подобию [Лотман, 2000].
8.5.2. Модель коммуникации Ю. М. Лотмана
Классическая модель коммуникации имеет целью адекватную
(неискаженную) передачу информации от источника к получателю. Однако следует отметить,
что эта задача достижения идеального понимания между агентами, которые
пользуются единым кодом, входит в противоречие с характеристиками полезности
информации. Идеально понимающим друг друга агентам незачем обмениваться
сообщениями. Более того, классическая модель фактически исключает появление
новых сообщений в цепи «источник-адресат».
Каковы возможные пути преодоления ограничений модели коммуникации
Якобсона? Во-первых, это использование набора различных языков и различных
каналов для передачи информации [Налимов, 1979; Лотман, 2000]. Адекватное
описание внешнего мира лишь на одном каком-то языке невозможно; требуется
совокупность языков различной жесткости.
Поскольку реальное общение опирается на предположение о различиях между
говорящим и слушающим, этим подразумевается использование ими различных
кодов, т. е. лишь частичное пересечение между языковыми пространствами
говорящего и слушающего. В ситуации, когда эти пространства не пересекаются,
общение предполагается невозможным, а их полное пересечение (идентичность)
делает общение бессодержательным2^. Однако обмен информацией строго в
пределах пересекающихся частей смыслового пространства довольно редко приводит
к генерации новой информации. Чаще наибольший интерес представляет общение
на границе понимания.
Непонимание (диалог с использованием не полностью идентичных языков)
является не менее ценным смысловым компонентом, что и понимание [Лотман,
2000]. При этом извне получается лишь малая доля информации, которая играет
роль стимула для генерации новых идей.
Соответственно, коммуникативное поле характеризуется некоторым
«напряжением» или «сопротивлением» между смысловыми пространствами говорящего
и слушающего. Языковое общение есть «напряженное пересечение» адекватных
и неадекватных языковых актов.
Во-вторых, для более глубокого понимания процесса коммуникации
традиционную схему коммуникации «источник-получатель», т. е. схему «Я—Он» следует
дополнить схемой автокоммуникации «Я - другой Я». В то время как первая
схема «Я—Он» обеспечивает передачу определенного объема информации (агенты
различны, а код и сообщение — постоянны), во второй модели типа «Я—Я»
происходит качественное преобразование информации, приводящее к
перестройке исходного «Я». Вторая модель начинает работать, когда извне включаются
дополнительные коды, меняющие контекстную ситуацию (рис. 8.6).
' Это положение соответствует принципам тезаурусного подхода к информации в трактовке
Ю. А. Шрейдера.

8.5. Модели коммуникации агентов
277
Контекст
Сообщение 1
^
Сдвиг контекста
Сообщение 2
Код 1 Код 2
Рис. 8.6. Модель автокоммуникации Ю. М. Лотмана
И в-третьих, развертывание процесса коммуникации во времени предполагает
формирование особых точек пересечения смысловых пространств, в которых
происходит «смысловой взрыв» — резкое возрастание информативности всей
системы коммуникации [Лотман, 2000]. Идея «смыслового взрыва» открыла путь
синергетическим представлениям в семиотике.
8.5.3. Коммуникация как целенаправленное взаимодействие.
Модель коммуникации Э. В. Попова
Модели коммуникации, рассмотренные выше, были первоначально
направлены на решение задач, слабо связанных с областью ИИ. В противоположность
этим моделям, модель коммуникации, разработанная в начале 80-х гг. Э. В.
Поповым, была напрямую ориентирована на решение такой кардинальной проблемы
ИИ, как общение человека с ЭВМ на естественном языке [Попов, 1982; Дракин
и др., 1988]. Поэтому она оаказывается очень удобной и для описания процесса
коммуникации искусственных агентов.
Следуя Э. В. Попову [Попов, 1982], будем считать, что коммуникация агентов
является не столько процессом передачи информации от одного агента к
другому, сколько процессом социально-психологического взаимодействия, в котором
агенты преследуют свои цели. Иными словами, агент участвует во взаимодействии
ради оказания некоторых услуг другим агентам или, наоборот, желая добиться
от них выполнения некоторых действий. При этом будем полагать, что
агенты способны общаться на определенных языках взаимодействия, допустимых
в данной коммуникативной среде.
Нередко цели агентов устанавливаются согласованно путем приглашения
к диалогу и принятия приглашения. Эти цели определяют общую
глобальную структуру процесса коммуникации (макроструктуру диалога), не зависящую
от конкретной задачи, решаемой агентами. Структура шага диалога агентов (т. е.
элементарного диалогового акта) имеет вид: действие одного агента — реакция
другого.
Таким образом, коммуникация агентов понимается как процесс достижения
ими согласованных целей путем обмена информацией (связными
высказываниями) о некоторой предметной области. Высказывания агентов в ходе общения
образуют связный текст (дискурс).
В наиболее простых случаях при анализе процессов коммуникации
принимаются допущения, что: а) цели агентов взаимно известны; б) цель каждого
агента дополняет цель его партнера по взаимодействию, как, например, в случае
диалогов: «продавец-покупатель», «заказчик-исполнитель»,
«руководитель-подчиненный» и пр. В общем случае, все оказывается значительно сложнее: каждый
агент создает себе набор гипотез о представлениях и целях другого агента, которые
затем проверяются.
€)

278
Глава 8. Коммуникация в MAC
Модель процесса коммуникации двух агентов включает следующие основные
компоненты [Попов, 1982; Дракин и др., 1988] (рис. 8.7):
• агенты а и Ь, участвующие в процессе общения;
• проблемная область, фрагмент которой обсуждают агенты;
• коммуникативная среда;
• язык общения, используемый агентами в процессе коммуникации;
• текст (дискурс), являющийся продуктом общения.
В общем случае агенты могут обсуждать широкий круг проблем, совпадающий
с классом всех возможных миров, о которых можно что-либо сообщить или
спросить. Сюда могут входить, например, язык общения, коммуникативная среда
и т.д. Так в коммуникативную среду включаются сами агенты и объединяющая
их деятельность, а также манипулируемые ими объекты. Коммуникативная среда
может отличаться от проблемной области, а может и совпадать с ней, если она
является темой общения.
Агент а
Модель
проблемной
области
mfl(PD)
Модель
собеседника
Модель языка
Знания о
правилах
взаимодействия
me(K)
Сведения о
текущем диалоге
"•«СО
Модель себя
me(a)
Модель среды
»п.(Е)
/^
лА
V-1
лЛ
^Л
лЛ
Sq
Проблемная
область
Язык общении
(KQML+KIF)
Дискурс (Т)
а:
Ь:
а:
Ь:

Коммуникационная
среда(Е)
-N
V
^
-N
Агент b
mb(PD)
Ы°)
mb(L)
Шь(К)
"ЧТО
ть(Ь)
т6(Е)
Рис. 8.7. Обобщенная модель коммуникации агентов
Зависимость структуры коммуникации от вида решаемой задачи (темы)
называется тематической структурой коммуникации.
Необходимым условием эффективной коммуникации агентов является
наличие у них общих или хотя бы пересекающихся знаний о: 1) проблемной
области; 2) коммуникативной среде; 3) языке общения; 4) правилах
коммуникации; 5) возможностях и знаниях партнеров; 6) своих собственных целях

8.5. Модели коммуникации агентов
279
и действиях. Указанные знания необходимы как для согласования точек зрения
агентов, так и для отражения агентами своего собственного состояния и состояний
других агентов.
В частности, знания о коммуникации агентов призваны ответить на
следующие вопросы: 1. Как завязывается, протекает и завершается коммуникация
между агентами? 2. Какие требования предъявляет коммуникация к агентам?
3. Какая информация может быть явно и неявно передана в данном процессе
коммуникации? 4. При каких обстоятельствах диалог завершается успешно и как
это будет выражено в поведении агентов?
Таким образом, коммуникацию агентов в MAC можно характеризовать
тремя исходными параметрами: а) два параметра, соответствующие агентам (роли
агентов) и б) предмет (тема) переговоров.
Характеристики средств общения подразделяются на внешние и внутренние.
К числу внешних относятся: тип общения, язык общения, требуемые ресурсы.
Тип общения определяется такими параметрами, как форма (канал) общения
и организация диалога. Коммуникация может происходить в форме обмена
текстами, изображениями, звуковыми сообщениями.
Параметры организации общения можно определять по-разному. С одной
стороны, организация процесса коммуникации предполагает определенную форму
задания последовательности реакций агентов — участников диалога (полилога):
а) жесткую; б) гибкую (с перехватом инициативы); в) свободную.
С другой стороны, различаются: 1) глобальная структура коммуникации,
зависящая только от целей агентов; 2) тематическая структура коммуникации,
определяемая задачей, выполняемой в процессе коммуникации; 3) локальная
структура коммуникации, т. е. структура шага коммуникации. К внутренним
характеристикам средств общения относятся коммуникативные знания,
возможности понимания и обработки знаний, характеристики интерфейса, показатели
устойчивости и гибкости коммуникации.
Следовательно, общую модель коммуникации агентов можно формально
представить в виде [Рыбина и Петухов, 2001]
СОМ = (А, Е, PD, L, CS, R), (8.1)
где А — множество агентов, участвующих в процессе коммуникации;
Е — множество коммуникативных сред;
PD — множество проблемных областей;
L — множество языков коммуникации;
CS — множество сценариев коммуникации (диалога) между агентами,
отражающих глобальную тематическую и локальную структуру диалога;
R — множество текущих отношений между агентами в процессе
коммуникаций.
Здесь PD = (CL, EX, RL), т.е. проблемная область рассматривается как
множество классов сущностей CL, экземпляров сущностей ЕХ, а также связывающих
их отношений RL. В свою очередь, язык коммуникации 1 6 L определяется
тройкой (U, G, М), где U — множество лексических единиц; G — грамматика
(множество синтаксических правил); М — множество семантических правил.
Наконец, структура коммуникации описывается тройкой CS = (CS|, CS2, CS3), где
компоненты CSb CS2, CS3 суть глобальная, тематическая и локальная структуры
коммуникации.

280
Глава 8. Коммуникация в MAC
8.6. О реализации механизмов
коммуникации агентов
Взаимодействия между агентами могут иметь различную степень сложности.
К простейшим видам взаимодействия агентов относится их связь через сообщения
от среды, как это делается в моделях коллективного поведения автоматов [Цетлин,
1969]. Следующими по уровню сложности являются отношения взаимодействия
между слабо персонифицированными агентами (например, на основе механизма
«доски объявлений») [Erman et al., 1980; Hayes-Roth, 1985; Jagannathan et al., 1989].
Сложнее организовать коммуникацию между персонифицированными агентами.
Здесь ведущую роль начинают играть отношения кооперации, координации и
коалиции. В такие отношения вступают агенты, занятые совместным решением
задач или планирующие свою деятельность с учетом деятельности других агентов.
И, наконец, особое место занимают отношения неоднородности и
конфликтности на множестве агентов. Переход от однородных агентов к взаимодействию
неоднородных агентов позволяет решать задачи, которые однородный коллектив
в принципе решить не может, а конфликты в ряде случаев могут рассматриваться
как положительное явление при организации коллективного поведения агентов,
способствуя достижению общей цели (см. раздел 5.5.3).
Сложность внешнего мира обусловливает невозможность его
исчерпывающего описания на каком-то одном языке. Поэтому минимальной работающей
структурой является наличие двух языков моделирования [Лотман, 2000]. То же
самое можно сказать о средствах коммуникации между агентами.
Способы коммуникации между агентами делятся на непосредственные и
опосредованные. Практическая реализация различных вариантов коммуникации
агентов чаще всего сводится к двум механизмам: а) механизму доски
объявлений, обеспечивающему опосредованную, но централизованную коммуникацию;
б) механизму посылки сообщений, определяющему прямую и децентрализованную
коммуникацию.
Механизм обмена сообщениями был вначале исследован в рамках модели
акторов [Hewitt, 1977; Agha, 1986]. Эта модель была реализована в языке PLASMA
(Planner like Model on Actors). Она организована, исходя из двух простых
принципов: посылки сообщений и локальной обработки. На локальном уровне актор
включает три составляющие: а) знания о своей среде; б) знания об именах других
акторов; в) множество данных и действий. Эти три составляющие определяют
его локальное поведение в зависимости от поступающего сообщения. Когда актор
получает некоторое сообщение, он может передавать его другим акторам
(коммуникация). Помимо этого, он может создавать новых акторов (самовоспроизведение)
или изменять свое внутреннее состояние (ресурс).
Двумя важными преимуществами систем, основанных на акторах, являются
модульная структура и локализация знаний (отсутствие глобальной базы знаний,
доступной для всех акторов).
Механизм опосредованной коммуникации реализуется с помощью
архитектуры «доски объявлений» (blackboard) [Erman et al., 1980; Hayes-Roth, 1985; Jagannathan
et al., 1989] (рис. 8.8). Здесь основная идея состоит в воспроизведении
взаимодействия нескольких агентов посредством доски объявлений, на которой написаны
все известные сведения и указаны решаемые задачи. Агенты в зависимости от их
опыта пытаются заполнить доску объявлений. При этом доска объявлений
рассматривается как промежуточный модуль-посредник для осуществления различных
взаимодействий между агентами.

8.6. О реализации механизмов коммуникации агентов 281
ИСТОЧНИКИ ЗНАНИЙ: АГЕНТЫ, ЭКСПЕРТНЫЕ СИСТЕМЫ, БАЗЫ ДАННЫХ
Агент 1
Механизм
управления
Область сообщений
Рис. 8.8. Архитектура «доски объявлений»
В принципе модель доски объявлений состоит из трех частей:
а) источников знаний;
б) структуры данных типа доски объявлений;
в) механизма управления.
Управляющий компонент должен решать, какой агент (источник знаний)
имеет доступ к доске объявлений в данный момент времени.
В построенных таким образом распределенных интеллектуальных системах
базы знаний разбиваются на отдельные независимые модули знаний,
ориентированные на конкретную задачу и соответствующие компетенции данного агента.
Эти модули знаний разделяются на два основных класса: 1) модули стратегий,
служащие для планирования и управления процессом решения задачи; 2) модули
тактик (активации правил), обеспечивающие реализацию стратегий и
выполнение действий.
Общая архитектура доски объявлений не накладывает никаких ограничений
на способ представления знаний. Эти модули могут функционировать на основе
правил, фреймов, сетей, сценариев и т.д., а могут быть и простыми интерфейсами
для обычных алгоритмических программ.
Когнитивные агенты как источники знаний не участвуют в их текущей
обработке: они имеют декларативные знания и метазнания, используемые в модулях
знаний. Специальный класс источников знаний образует схему базы знаний,
аналогичную схеме базы данных. Они реализуют механизм хранения
метазнаний, описывающих модули знаний. Метазнания — это декларативные знания,
описывающие процесс решения задачи и относящиеся к верхнему уровню
интеллектуальной системы. Метазнания определяют, как используются модули знаний,
как активируются правила, как они соотносятся с контекстом и другими
модулями знаний.
Доска объявлений должна содержать область прохождения сообщений,
информацию о процессе решения задачи и состоянии агентов. Область сообщений
обеспечивает механизм коммуникации, обмена запросами для различных
модулей знаний. В простейшем случае доска объявлений имеет статическую структуру,
включающую слоты для всех модулей знаний, и разбита на уровни, которые
отражают различные степени абстракции в описании рассматриваемой задачи. В слоты
помещается описание различных гипотез и вариантов коммуникации. При работе
интеллектуальной системы различные модули знаний независимо порождают,
обновляют и оценивают эти гипотезы, относящиеся к проблемной области.
18 Зак. 72

282
Глава 8. Коммуникация в MAC
С доской объявлений связан также специальный модуль — схема доски
объявлений, охватывающая декларативные знания о содержимом, организации
и использовании доски объявлений. В этом модуле также хранится информация
о том, какие модули знаний имеют дело с различными слотами. Эта информация
служит для интеграции различных компонентов MAC. Таким образом,
обеспечивается механизм интерпретации доски объявлений и посылки новых сообщений.
В соответствии с рассматриваемым подходом базовая операционная стратегия
системы состоит в выдвижении и обосновании гипотез (предположений).
Различные агенты (источники знаний) определяют, как сформулировать и доказать
гипотезу (стратегический уровень) и как, в дальнейшем, провести ее пошаговую
верификацию (тактический уровень). Тогда механизм вывода состоит из двух
компонентов: список (последовательность) задач и монитор.
В список (agenda) включаются все задачи, которые рассматриваются системой
в текущий период времени. В любой момент времени в нем содержатся все задачи,
выполняемые на основе данных с доски объявлений.
Монитор используется для контроля всего процесса решения задачи. Он
сортирует задачи из списка и эвристическим путем выбирает следующую задачу
для выполнения. Монитор осуществляет проверку доски объявлений и области
сообщений после работы каждого модуля знаний, анализируя слоты доски
объявлений, связанные с гипотезами, определяющими текущее состояние процесса.
На основе механизмов прямого или обратного вывода монитор определяет, какие
модули знаний соответствуют текущему состоянию процесса решения задачи. 06-
Проблемно-
независимая
оболочка
модели доски
объявлений
РЕШАТЕЛЬ
Последовательность
задач
ДОСКА ОБЪЯВЛЕНИЙ
Область сообщений
Описание задачи
Монитор
БАЗА ЗНАНИЙ
Модули
стратегии
Модули
активации
правил
Схема
знаний
Схема
доски
объявлений
Рис. 8.9. Интегрированная оболочка на базе «доски объявлений»

8.7. Теория и средства коммуникации
283
щая архитектура интегрированной оболочки на основе модели доски объявлений
представлена на рис. 8.9.
Среди достоинств архитектуры доски объявлений надо отметить
возможность стратификации процесса решения задачи и знаний о процедурах. Здесь
имеется возможность единообразно представлять всю информацию о решении
задачи и различную метаинформацию в мониторе доски объявлений. Так
отдельные символьные и численные процедуры можно рассматривать как источники
знаний разных уровней. Вся информация об отдельной процедуре может быть
сосредоточена в соответствующем источнике знаний.
8.7. Теория и средства коммуникации,
базирующиеся на речевых актах
Одной из наиболее популярных теорий коммуникации агентов в MAC
является теория речевых актов. Эта теория позволяет строить протоколы коммуникации
между агентами. Подобный протокол предполагает описание ограничений для
каждого коммуникативного акта. Эти ограничения зависят от рассуждений
взаимодействующих агентов.
8.7.1. Теория речевых актов
Теория коммуникативных (речевых) актов была предложена Дж. Остином
[Austin, 1962] и Дж. Серлом [Searle, 1961], а впоследствии формализована Т.
Виноградом и Ф. Флоресом [Winograd and Flores, 1986]. Она рассматривает общение
как одну из форм целенаправленного поведения, подчиняющегося определенным
правилам. Коммуникативный акт — это двусторонний процесс взаимодействия,
например, говорение/слушание, чтение/запись, и пр. Применительно к MAC
«говорящим» считается агент, который передает информацию, а «слушающим» —
агент, который ее интерпретирует.
Исходная идея теории речевых актов очень проста и опирается на обыденную
практику взаимодействий в ходе разговоров между людьми. Как правило, любой
разговор преследует определенную цель, ради достижения которой он и
разворачивается. Так типичной целью «говорящего» может быть изменение позиции
«слушающего», «заражение» его определенными идеями, интересами и задачами.
В свою очередь, характерная цель «слушающего» состоит в получении некоторой
важной для него информации, усвоении круга понятий, обучении некоторым
действиям, и пр. Поэтому речевые акты можно рассматривать как намеренные
действия, выполняемые в процессе коммуникации.
Как известно, единицей речи является высказывание, а единицей языка —
предложение. В то же время минимальной и базисной единицей коммуникации
выступает двусторонний коммуникативный (речевой) акт. Анализ всех возможных
в данной коммуникативной ситуации речевых актов и определение
соответствующих ограничений, зависящих от рассуждений агентов, позволяет составить
протокол коммуникации.
8.7.2. Типология речевых актов
После работ Дж. Остина и Дж. Серла коммуникативные акты стали определять
как сложные структуры, состоящие из трех основных составляющих:
18*

284 Глава 8. Коммуникация в MAC
1. Собственно речевой или звуковой акт (locutory act,) — произнесение
некоторого предложения с определенным пропозициональным содержанием.
2. Внеречевой или иллокутивный акт (illocutory act), который реализует
коммуникативное намерение агента (утверждение, вопрос, совет, просьбу, приказ,
обещание и т. п.).
3. Речевоздействующий или перлокутивный акт (perlocutory act),
характеризующий воздействие одного агента на другого.
Иллокутивные акты нередко характеризуются силой и объектом приложения
силы, например, «Утверждать (идет дождь)». Часто иллокутивные акты отмечаются
с помощью глагола, называемого перформативом. Перформативное высказывание
означает выполнение действия.
Речевые акты подразделяются на следующие группы [Searle, 1961]:
директивные, ассертивные, промиссивные, экспрессивные и декларативные. Директивные
акты (директивы) выражают намерение одного агента поручить другому агенту
какое-то дело, заставить его выполнить некоторые действия. Примерами служат
команды и просьбы типа «Выполни задание» или «Сдвинься влево». Ассертивные
акты (утверждения) позволяют информировать агента о состоянии среды (других
агентов). Например, «Работа выполнена» или «Информация получена».
Промиссивные акты (обещания) отражают обязательства агентов выполнить действия.
Примерами служат фразы типа «Скоро начну выполнение работы» или «Подниму
тяжелый груз». Экспрессивные (выразительные) акты отражают внутреннее
состояние агента: «Удовлетворен выполненной работой» или «Не готов к перемещению».
Наконец, декларативные акты характеризуют выполнение действия, связанного
с самой речью (отрывком речи). Например, «Объявляю совещание открытым»
или «Сообщаю о приемке работы».
В теорию речевых актов входит описание различных комбинаций речевых
актов друг с другом. Так реакцией на побуждение может быть принятие
предложения, отклонение предложения, выдвижение контрпредложения или обсуждение
условий. Их моделирование позволяет описать процессы координации в MAC.
8.7.3. Максимы Грайса
Развитие теории речевых актов связано с определением экстремальных
принципов коммуникации (называемых также максимами дискурса). Такие принципы
были предложены Г. П. Грайсом [Grice, 1977]. При их формулировке он
исходил из того, что речевая коммуникация в нормальной ситуации происходит при
соблюдении условий кооперации, т.е. участники коммуникации сотрудничают,
имея общей целью достижение взаимопонимания.
В контексте теории агентов максимы Грайса — это принципы организации
диалога в MAC для обеспечения эффективного взаимопонимания между
взаимодействующими агентами. По сути, речь идет о достаточно простых правилах,
позволяющих агенту адекватно выразить свою потребность. В целом, максимы
Грайса включают принцип кооперации и четыре правила диалога. Принцип
кооперации предполагает передачу информации, соответствующей потребностям
агентов, в интересах обеспечения их сотрудничества. В рамках кооперативных
отношений между агентами выделяются следующие коммуникативные правила.
1. Максима количества информации (принцип оптимума количества информации).
Передаваемая агенту информация должна быть достаточной для его
действий. Иными словами, сообщение не должно содержать информации больше,

8.7. Теория и средства коммуникации
285
чем требуется агенту. Перефразируя правило «бритвы» Оккама, можно сказать:
«Не умножайте сообщения сверх надобности».
2. Максима качества информации
(принцип честности агентов или принцип минимума ложной информации).
Агент не должен сообщать ложную информацию другому агенту. Эту максиму
можно также выразить «судебной» формулой «Говори правду и только правду»
или высказыванием «Не говори того, на что у тебя нет достаточных оснований».
3. Максима релевантности информации.
Передаваемая при взаимодействии агентов информация должна
соответствовать контексту диалога. Это можно выразить фразой «Говори по делу».
4. Максима способа (формы) выражения информации.
Передаваемая информация должна быть краткой, точной и упорядоченной.
Здесь уместны высказывания «Будь краток». «Избегай неясных выражений».
Любой правильный речевой акт должен удовлетворять принципу кооперации
и четырем максимам Грайса. Для обеспечения совместимости в группе агенты
должны соблюдать правила коммуникации. Это позволяет строить протоколы
коммуникации. В протоколе коммуникации должны содержаться: тип
коммуникативного акта, имена агентов отправителя и получателя сообщений, содержание
передаваемого сообщения. Следует также отразить характер изменения знаний
агентов в процессе коммуникации.
8.7.4. Теория диалоговых сетей
Теория диалоговых сетей есть расширение теории речевых актов, которое
опирается на определение протоколов коммуникации. Всякий речевой акт
представляет собой цепочку фраз (высказываний), в результате которых происходят
изменения ментальных состояний у собеседников.
Главные свойства коммуникативных структур типа диалогов (по Т. Винограду
и Ф. Флоресу) таковы:
1. Диалоги начинаются с исходного речевого акта (ассертивного, промиссив-
ного, экзерситивного декларативного или экспрессивного) и характеризуют
намерения одного агента по отношению к другому.
2. На каждом шаге диалога существует ограниченный набор возможных
действий (принять, отклонить, сделать контрпредложение и т. п.).
3. Существуют терминальные состояния, определяющие завершение диалога.
Когда достигается одно из этих состояний, диалог считается законченным.
4. Речевые акты меняют не только состояние диалога, но и состояния агентов
(убеждения, желания, намерения), которые всегда зависят от диалога и его
результатов.
Итак, диалог можно рассматривать как последовательность состояний,
связываемых переходами, и описывать с помощью конечного автомата.

286
Глава 8. Коммуникация в MAC
8.8. Модель координации на основе
коммуникативных актов: потоки работ
Главный компонент процесса
координации есть замкнутый контур, называемый
«потоком работ» (workflow) [Dunning and
Medina-Mora, 1995; Medina-Mora et al., 1992].
Тогда процесс координации в MAC,
понимаемый как моделирование сети взаимных
обязательств между агентами, направленных
на удовлетворение агента-клиента,
описывается системой замкнутых контуров потоков
работ. Базовый контур в модели потоков
работ связывает агента-заказчика с
агентом-исполнителем в рамках следующего цикла,
состоящего из 4-х этапов или потоков:
«подготовка — переговоры — выполнение —
приемка» (рис. 8.10). На этапе подготовки агент-
заказчик направляет запрос (заказ на выполнение работы) агенту-исполнителю.
На следующем этапе происходят переговоры, направленные на выработку
взаимоприемлемых условий выполнения заказа. Затем агент-исполнитель выполняет
работу и окончив ее, докладывает агенту-заказчику о завершении, а на последнем
этапе тот принимает или отклоняет работу.
Здесь сеть соглашений (или обязательств) между агентами и формирует MAC,
причем соответствующие коммуникативные акты агентов, образующие прото-
- Подготовка 3 - Выполнение
- Переговоры 4 - Приемка
Рис. 8.10. Базовая модель
потоков работ
Таблица 8.2
Типичный протокол коммуникации агентов в модели потоков работ
Этап
Подготовка
Переговоры
Выполнение
Приемка
Любой этап
Акты агента-заказчика
Сделать заказ
Принять предложение
Сделать контрпредложение
Отклонить контрпредложение
Принять контрпредложение
Принять работу
(выразить удовлетворение)
Принять работу условно
(направить на доработку)
Отклонить работу
Отменить заказ
Дать комментарии
Акты агента-исполнителя
Сделать предложение
Сделать контрпредложение
Отклонить заказ
Принять заказ
Передать заказ
Принять контрпредложение
Выполнить заказ
Отказаться от выполнения
Дать комментарии

8.8. Модель координации на основе коммуникативных актов 287
Агент а: запрос Агент Ь: ответ Агент Ь: предложение Агент а: согласие
о
Агента:
предложение
Агент Ь:
отклонение
Агента:
отклонение,
Агента:
аннулирование
запроса
Агент а:^
принятие
/
Агент Ь:
предложение
Агент Ь:
аннулирование
предложения
Агент
аннулирование
Рис. 8.11. Моделирование основных коммуникативных актов графом состояний
(состояние 5 — полный успех коммуникации)
кол коммуникации, определяются возможными речевыми актами, сведенными
в табл. 8.2.
Адекватная модель подобного протокола — конечный автомат с
фиксированным пространством состояний [Winograd and Flores, 1986] (Рис. 8.11). Более
подробное и избыточное описание можно построить с использованием сетей
Петри [Ferber, 1995].

Глава 9
Проектирование многоагентных систем
и искусственных организаций
9.1. Восходящий и нисходящий подходы
к проектированию MAC
Исторически сложились два противоположных подхода к проектированию
многоагентных систем. Наиболее известной и общепринятой является
методология восходящего проектирования, которая предполагает движение «от частей
к целому». Это требует предварительного задания исходных функций (ролей)
агентов, определения круга их обязательств по отношению друг к другу, формирования
исходных и развивающихся структур на основе выделенных функций и
исследования адекватности этих структур характеру решаемых задач в данной проблемной
области. По сути, структура MAC образуется в результате распределения ролей
между агентами.
Классический восходящий подход опирается на определение системы как
совокупности элементов, находящихся в некоторых отношениях друг с другом
и со средой, которое было сформулировано еще в работах Л. фон Берталанфи
и представляет собой редуцированный вариант концепции А. А. Богданова. Здесь
для определения системы требуется предварительно задать ее функции и заранее
распределить их между элементами, указав их отношения между собой и со средой.
Формально это записывается в виде 5= (X, R), где X — множество элементов,
a R — множество связей: R = R, U Re, Rj — множество внутренних связей
между элементами системы; Re — множество внешних связей элементов системы
со средой. Основное условие существование системы предполагает, что силы
связей между ее элементами превосходят силы связей системы со средой.
В отличие от восходящего подхода, главная идея нисходящего
проектирования состоит в движении «от целого к частям», что предполагает выделение общих
социальных характеристик сообщества MAC (интеллектуальных организаций)
по некоторому набору критериев, построение базовых типов подобных
организаций с последующим определением требований к архитектуре агентов [Тарасов,
1998а и 1999а]. При этом индивидуальные свойства и поведение агентов в MAC
определяются на основе типа социальной организации и множества
соответствующих взаимоотношений между агентами. Здесь проектирование предполагает
движение «сверху вниз», когда свойства агентов в MAC определяются свойствами
сообщества MAC. Удачный выбор исходного набора организационных
критериев (системного базиса полярных шкал-см. главу 5) и использование признака
«централизация — децентрализация» позволяют социально структурировать MAC.
Общую идею нисходящего проектирования виртуальных организаций как
MAC можно представить в виде следующей цепочки: «выбор социальных
критериев для характеризации сообщества MAC — определение типа искусственного
сообщества — синтез структуры MAC — выбор типов агентов — проектирование
архитектуры агента».

9.2. Эволюционное и коэволюционное проектирование MAC 289
Формально задачу нисходящего проектирования многоагентных систем
(виртуальных организаций) можно выразить как обобщенную задачу принятия
решений (относящуюся к классу многокритериальных задач с субъективными
моделями [Ларичев, 2000 и 2001]) с помощью набора
DMP = (E, N, С, SC, M, U, DR), (9.1)
где: Е — множество сред принятия решений; N •— множество экспертов; С —
множество критериев формирования сообщества MAC, SC — множество
типов используемых шкал оценок (например, точные числовые или качественные
лингвистические оценки), М — множество допустимых значений оценок, U —
множество вариантов структур MAC, DR — решающее правило.
9.2. Эволюционное и коэволюционное
проектирование MAC
Организационное моделирование и проектирование MAC опирается на
следующие базовые процессы:
1) функциональный анализ и моделирование, направленные на спецификацию
функций MAC, ролей и состава агентов;
2) структурный анализ и моделирование — определение общей структуры MAC
и ряда ее основных параметров;
2) задание и уточнение некоторых параметров конкретизации MAC,
определяющих эффективную реализацию MAC, т. е. переход от исходной базовой
структуры к конкретной структуре MAC (или переход от класса MAC к
экземплярам MAC);
3) определение функционально-структурной организации MAC;
4) эволюционное проектирование, включающее функционально-структурный
синтез и структурно-функциональный анализ.
Функциональный анализ MAC направлен на определение функций агентов.
Функции MAC могут рассматриваться в различных измерениях, соответствующих
точкам зрения наблюдателей.
Структурный анализ MAC направлен на упорядочение множества возможных
взаимодействий между агентами путем выделения связывающих их абстрактных
отношений и анализа их изменений во времени.
Функционально-структурный подход к разработке MAC предполагает
построение ее функционально-структурной организации, т. е. определение функций
будущей системы и синтез соответствующей базовой структуры из агентов,
которые выполняют указанные функции.
Эволюционный синтез MAC означает порождение и трансформацию ее
функционально-структурной организации. Элементарный шаг процесса
эволюционного проектирования включает две неразрывно связанные фазы: а) функционально-
структурный синтез (ФСС); б) структурно-функциональный анализ (СФА)
[Балашов, 1985; Тарасов, 1999а]. При рассмотрении их как «черных ящиков» в случае
ФСС на входе имеем набор функций, а на выходе — совокупность структур.
Иными словами, функционально-структурный синтез MAC представляет собой
построение структур, компонентами которых являются функции агентов, а также

290
Глава 9. Проектирование многоагентных систем
установление соответствия между видами функций и структур. Наоборот,
фаза СФА начинается с рассмотрения ранее полученных структур, а завершается
определением последующих функций.
При изменении условий существования MAC, росте сложности и
неопределенности внешней среды, ее жизнеспособность может быть обеспечена лишь
путем модификации (чаще всего, расширения) совокупности реализуемых ею
функций, что обычно влечет за собой изменение структуры MAC. Здесь важную
роль играет стратегия адаптации к внешней среде, которая связана с
обеспечением оптимального соотношения устойчивости и изменчивости как выходных
характеристик MAC, так и самой ее функциональной структуры.
Общая схема восходящего эволюционного проектирования MAC задается
рекурсивной цепочкой: «среда — функции MAC — распределение функций (ролей)
между агентами — состав агентов — набор отношений между агентами — базовые
структуры MAC — модификации (.)...», где (.) означает возможность изменения
любого из звеньев указанной цепочки. Так изменения среды (внешних условий)
приводят к изменениям функций MAC, которые влекут перераспределение ролей
между агентами, замену одних и порождение других агентов, что сопровождается
изменением отношений между ними и эволюцией исходных структур. Основным
фактором эволюции MAC является ее самосохранение благодаря адаптации к
изменениям среды. Иными словами, коэволюция MAC со средой (или с другими
системами рассматриваемого класса) предполагает и сохранение
индивидуальности, и взаимную адаптацию.
Тогда методика восходящего проектирования MAC включает следующие
основные этапы.
1. Формулирование назначения (цели разработки) MAC.
2. Определение типа и основных свойств среды MAC.
3. Определение основных и вспомогательных функций агентов в MAC.
4. Уточнение состава агентов и распределение ролей между агентами. Выбор
архитектур и языков реализации агентов.
5. Выделение базовых взаимосвязей (отношений) между агентами в MAC.
6. Определение возможных действий (операций) агентов.
7. Построение базовой архитектуры (функционально-структурной единицы)
MAC, анализ ее возможных состояний (нормальное, вырожденное,
критическое и пр.).
8. Анализ реальных текущих или предполагаемых изменений внешней среды
(условий функционирования) или внутренних противоречий MAC.
9. Определение соответствующих изменений функций агентов и
формулирование стратегии эволюции MAC.
10. Построение общей архитектуры MAC, инвариантной к рассмотренной
области изменений среды (или самовоспроизведение функционально-структурной
единицы MAC.
Техническое задание (спецификация) на проектирование MAC должно
наряду с ее назначением содержать описание типа среды, в которой будет
функционировать MAC. Согласно [Поспелов Д. А., 1997 и 1998], можно выделить
замкнутые и открытые, детерминированные и стохастические, нетрансформируе-
мые и трансформируемые среды. Затем необходимо определить главные функции,

9.2. Эволюционное и коэволюционное проектирование MAC 291
возложенные на агентов. При этом организация может рассматриваться как
система ролей, где каждая роль определяет множество функций агента в MAC. Роли
могут быть сосредоточены или, наоборот, широко распределены между агентами.
Для любой открытой системы легко выделить следующие важнейшие
функции.
1. Функция отражения или представления внешнего мира (связь от среды к
системе) охватывает совокупность функций моделирования среды и других
систем, а также представление событий, которые могут повлиять на
жизнедеятельность системы.
2. Функция регуляции деятельности системы (связь от системы к среде) обычно
характеризует результаты работы системы, производимые ею продукты или
услуги. Иными словами, она часто сводится к продуктивной,
операционной или исполнительной функции, которая включает множество действий
и операций, необходимых для решения задачи или выполнения заказа.
3. Для установления и поддержания указанных связей между системой и средой
служит специальная коммуникативная функция. Она обеспечивает
функционирование всех входов и выходов, а также интерфейсы системы. Этой
функции соответствует интерфейсный агент.
4. Функция самоуправления в системе определяет источники деятельности,
ограничения и выбор видов деятельности [Ferber, 1995]. Соответственно, в MAC
вычленяются три подфункции:
а) интенциональная функция (функция мотивации), характеризующая
формирование целей, исходя из потребностей и интересов системы;
б) законодательная функция, т. е. функция выработки ограничений (норм,
принципов, запретов) на поведение агентов в MAC;
в) решающая функция, связанная с оценкой степени достижения цели
и выбором задач.
5. Ресурсная или консервативная функция отвечает за сохранение структуры
системы и агентов, приобретение и обслуживание ресурсов, — словом,
за все, что нужно для поддержания и воспроизведения системы.
Функции агентов связаны с преобразованием их потребностей в действия.
Роли характеризуют функции агентов независимо от их внутренней структуры. Как
уже упоминалось в разделе 4.8, для MAC, моделирующей сетевые организации,
можно выделить следующие роли агентов [Тарасов, 1998а]:
1. Агент-заказчик, рассылающий заявки на выполнение некоторого задания
другим агентам.
2. Агент-координатор (посредник), который принимает заказы и распределяет
их между другими (компетентными) агентами.
3. Агент-исполнитель.
4. Агент-субординатор (супервизор), который организует и контролирует работу
вышеуказанных трех агентов и наделен правом экстренного вмешательства
и перераспределения ресурсов в критических (нештатных) ситуациях.
Процессы эволюции и реорганизации MAC могут быть связаны с ответами
на следующие вопросы.
• Есть ли изменения среды, в которой функционирует MAC? Носят ли они
регулярный, направленный характер или скорее случайны?
• Можно ли спрогнозировать будущее состояние среды и как скоро оно
наступит?

292
Глава 9. Проектирование многоагентных систем
• В какой степени могут быть скомпенсированы нежелательные изменения
среды активными действиями MAC?
• Как и в какой степени следует изменить функции, процессы, структуру
и деятельность MAC? Каковы ее новые организационные структуры, которые
будут достаточно эффективны при новом состоянии среды?
• Какие агенты (и организационные уровни) в MAC в наибольшей
степени будут затронуты ее структурной перестройкой? Какие организационные
единицы имеют наибольший запас адаптивных резервов?
• Какие ресурсы необходимы для перестройки различных уровней системы?
Основными видами изменений функций агентов в ходе эволюции MAC
являются:
а) интенсификация функций - основной тип филогенетического изменения;
б) ослабление функций;
в) мобилизация функций;
г) иммобилизация функций;
д) расширение функций;
е) перераспределение функций;
ж) уменьшение числа функций (с усилением главной функции подавляются
другие, второстепенные);
з) смена функций;
и) замещение функции одного агента аналогичной функцией другого агента;
к) компенсация функций различных агентов и неравномерности их адаптации
к среде.
В качестве примеров параметров конкретизации, определяющих переход
от некоторого класса MAC к конкретному экземпляру, рассмотрим пару
параметров, задаваемых на полярных шкалах: а) «специализация — универсальность»;
б) «достаточность — избыточность». Степень специализации s (пригодности)
агента а для решения проблемы Р есть показатель его компетентности, который
характеризует наличие и объем специальных знаний по отношению к требуемому
объему знаний для решения задачи. Когда s = 0, агент универсален (всеведущ),
а когда s = 1, агент предельно специализирован. В свою очередь, степень
избыточности г характеризует число агентов, обладающих одними и теми же знаниями.
Когда г = 0, имеется только один агент, способный выполнить данную задачу.
Например, в MAC, основанной на кооперации агентов-специалистов (тогда, когда
они не являются взаимозаменяемыми), s —> 1, а г —> 0.
Можно выделить четыре граничных варианта организации MAC в
зависимости от двух рассмотренных параметров [Ferber, 1995].
1. Гиперспециализированная неизбыточная организация (s = 1, г = 0): каждый
агент специализируется в решении только одной задачи, и более того, каждая
задача может быть выполнена только одним из агентов. Этот тип
организации отражает чисто функциональный подход (тейлоровскую организацию),
когда каждая функция представлена в виде агента; для него характерна
минимальная надежность и отказоустойчивость.
2. Специализированная избыточная организация (s = 1, г = 1). Каждый агент
способен выполнять только одну задачу, которую могут выполнить и все
другие агенты. Здесь речь идет о крайнем случае, когда все агенты имеют одни
и те же знания. Иногда этот тип классической, функционально однородной
организации используется локально для увеличения надежности системы.

9.3. Проектирование многоагентных систем
293
3. Универсальная избыточная организация (s = 0, г = 1). Каждый агент
может выполнять множество различных задач, и каждая задача выполняется
большим числом агентов. Когда же избыточность равна числу задач, каждый
агент является универсалом. Главная проблема состоит в распределении задач
между агентами.
4. Универсальная неизбыточная организация (s = 0, г = 0). Здесь каждый агент
может выполнять несколько задач, но каждая задача выполняется лишь
одним агентом.
9.3. Проектирование многоагентных систем
на основе обобщенного
объектно-ориентированного подхода*
9.3.1. Описание ключевых моделей, определяющих MAC
Методология агентно-ориентированного проектирования (АОП) может
строиться на основе объектно-ориентированного подхода [Буч, 1998] с дополнением
его некоторыми элементами теории агентов. Оба подхода используют обмен
сообщениями для взаимодействия, а также принципы наследования и агрегирования
для определения архитектуры. Таким образом, используются элементы сходства
объектно-ориентированных и агентно-ориентированных подходов.
Тем не менее, нельзя забывать и об их различиях. Во-первых, обмен
сообщениями между объектами в основном сводится к вызову методов, в то время
как агенты способны различать типы сообщений и не просто отвечать на
сообщения, но и вести переговоры на основе достаточно сложных протоколов
взаимодействия, опирающихся на теорию речевых актов. Более того, агенты
представляют собой продукт «социализации» объектов; поэтому должны быть
построены средства для моделирования процессов коммуникации, совместной
деятельности и кооперативного поведения агентов, опирающихся на их
обязательства друг перед другом и коллективные планы. Во-вторых, для реализации
агентов объектно-ориентированные технологии следует дополнить средствами
моделирования интенциональных характеристик.
Общий подход к проектированию MAC предполагает построение следующих
основных видов моделей: модель агента, организационная модель MAC, модель
взаимодействия агентов (рис. 9.1). Могут также дополнительно привлекаться
специальные модели кооперации, координации и эволюции агентов. Модель агента
задает общую архитектуру и свойства агента. Например, для ярко выраженных
интенциональных интеллектуальных агентов она включает модели знаний,
убеждений, желаний, намерений агентов. Организационная модель определяет роли
каждого агента в MAC, базовые взаимосвязи между агентами (отношения между
ролями), а также содержит онтологии агентов. Модель взаимодействий описывает
процессы коммуникации и кооперации агентов на основе сценариев
взаимодействия, протоколов коммуникации, сетей обязательств агентов.
Таким образом, эта методология предполагает построение множества
моделей, которые определяют спецификацию MAC. Каждая модель состоит из
компонентов и взаимоотношений между ними. Существуют различные варианты
реализации данного подхода (см. [Iglesias et al., 1999]).
* Данный раздел написан совместно с В.А.Доброхотовым.

294
Глава 9. Проектирование многоагентных систем
Проектирование
MAC
Модель
агента
Свойства
агента
Архитектура
агента
Организационная
модель
Модель
взаимодействий
| [ Роли
агентов
Отношения
между ролями
Услуги
|_| Сценарии
взаимодействия
Протоколы
взаимодействия
Рис. 9.1. Общая методология проектирования MAC
В интерпретации [Kinny, 1999; Kinny, Georgeff and Rao, 1996]
разрабатываемые модели разделяются на внешние и внутренние. Внешние модели относятся
к системному уровню описания: основными компонентами в них являются сами
агенты, взаимодействия между которыми описываются с использованием
отношений наследования, агрегирования, и т. п. Таким образом, разрабатываются
абстрактные структуры агентов. Внутренние модели строятся для каждого
отдельного класса агентов и описывают внутренние структуры агентов: их убеждения,
цели, планы и пр.
Выделяются два основных вида внешних моделей: модель агентов и модель
взаимодействий, определяющая способы связи (коммуникации) между
агентами [Kinny, 1999]. Модель агентов включает модель классов агентов и модель
экземпляров агентов. Эти две модели определяют классы агентов и их возможные
реализации, связанные между собой отношениями наследования, агрегирования
и означивания. Классы агентов задают различные атрибуты агентов, включая
атрибуты, описывающие убеждения, цели и планы агента. Аналитик определяет,
как эти атрибуты передаются в процессе наследования. Например, наследуемые
планы могут иметь меньший приоритет.
Внутренняя модель, представляющая убеждения, цели и планы конкретного
класса агентов, является непосредственным расширением
объектно-ориентированных моделей (убеждения и цели) и динамических моделей (планы). Иными
словами, в рамках объектной модели описываются объекты, относительно
которых агент имеет определенное мнение (убеждение). Динамические модели,
расширенные понятием неудачи и другими атрибутами, используются для
непосредственного представления планов.
Кроме указанных видов моделей, могут строиться также:
• модели задач, описывающие задачи, которые могут выполняться агентами
(исходные цели, варианты их декомпозиции, методы решения задач, и пр.);
• социальные модели (например, описание социальной организации сообщества
агентов или характеристики организации, куда должна внедряться данная
MAC);
• модели коммуникации, которые уточняют характеристики партнерского
интерфейса человека с компьютером (см. [Гладун, 2000]).
Практической ценностью методологии АОП является акцент на
использование абстрактных классов как средства объединения ролей в процессе анализа

9.3. Проектирование многоагентных систем
295
системы, что позволяет отложить окончательное определение ограничении
конкретных агентов на более позднее стадии процесса проектирования.
Данная методология позволяет разработчику MAC без труда переходить от
перечисления требований к разработке, которая предельно детализирована и, в
итоге, естественным образом создавать модели, легко реализуемые в дальнейшем.
Происходит постепенный переход от более абстрактных к более конкретным
структурам. Каждый удачный шаг вводит новые уровни представления и в итоге
позволяет создать MAC, удовлетворяющую исходным требованиям.
В рамках ООП основные сущности (объекты) MAC можно разделить на две
категории: абстрактные и конкретные. Абстрактные сущности используются в ходе
анализа для концептуализации системы, но непосредственно в ней не реализуются.
Конкретные сущности в противоположность абстрактным используются в ходе
разработки системы и обычно имеют непосредственную реализацию.
9.3.2. Основы стандартной методологии проектирования
MAC
При проектировании MAC ее можно рассматривать как набор ролей,
находящихся между собой в определенном отношении, и взаимодействующих друг
с другом. Исходя из этого, общая модель MAC дальше распадается на две части:
модель ролей и модель взаимодействий (рис. 9.2) [Kinny, 1999; Wooldridge et al.,
1999].
анализ
требований
модель
ролей
модель
взаимодействий!
проектирование
модель
агентов
модель
услуг
модель
контактов
Рис. 9.2. Связь между моделями в методологии обобщенного ООП
Понятие роли определяется с помощью трех атрибутов: ответственности,
разрешения и протоколов (рис. 9.3). Здесь ключевым атрибутом является
ответственность, которая тесно связана с функциональными характеристиками. Принятие
ответственности неотделимо от множества разрешений, которые определяют
«права», связанные с ролью, а, следовательно, и набор располагаемых ресурсов для
реализации ответственности. Наконец, любая роль описывается с помощью
набора протоколов, которые определяют способы ее взаимодействия с другими ролями
в MAC. В свою очередь, модель взаимодействий включает в себя описание услуг,
взаимосвязей и обязательств, существующих между агентами.
На стадии анализа происходит предварительная идентификация ролей, затем
определяются и документируются соответствующие протоколы и, наконец, стро-

296
Глава 9. Проектирование многоагентных систем
ится окончательная модель ролей. На стадии проектирования создается модель
агента, т. е. роли агрегируются в типы агентов, формируется иерархия типов
и документируются примеры каждого типа. Далее разрабатываются модель услуг
и модель контактов.
Для описания ответственности берутся два типа характеристик ситуации:
текущие (изменяемые) характеристики (liveness properties) и инвариантные
характеристики, обеспечивающие сохранение (safety properties). Текущие характеристики
описывают действия, которые агент должен предпринимать при определенных
условиях. Характеристики, обеспечивающие сохранение, определяют
инвариантность системы к внешним возмущениям. Например, «следить за тем, чтобы
температура реактора оставалась в интервале 0-100 градусов».
Рис. 9.3. Общая концепция объектно-ориентированного анализа MAC
Для реализации ответственности роль обычно ассоциируется с множеством
разрешений. В классе систем, которые обычно приходится моделировать,
разрешения в основном относятся к информационным ресурсам. Например, роль
агента может быть связана с возможностью считывать или изменять
определенную (закрытую для других) информацию. Роль также может состоять в создании
информации.
Всякая роль описывается с помощью набора протоколов, которые определяют
способ ее взаимодействия с другими ролями в системе. Например, роль «продавец»
(на аукционе) может иметь протоколы: «голландский аукцион» или «английский
аукцион».
Теперь рассмотрим подробнее основные этапы реализации данной
методологии.
Анализ
Суть стадии анализа заключается в изучении структуры системы (не
затрагивая деталей ее реализации). Ее понимание выражается в создании модели
организации. Здесь организация рассматривается как множество ролей, находящихся
в определенных отношениях и взаимодействующих друг с другом.
Следовательно, для того, чтобы описать организацию, необходимо определить набор ролей,
и также исследовать, как эти роли соотносятся друг с другом. Исходя из
вышесказанного, организационная модель дальше распадается на две части: модель ролей
и модель взаимодействий.

9.3. Проектирование многоагентных систем
297
Стадию анализа можно разделить на следующие этапы:
1. Описание сценария. На естественном языке описываются главные роли как
естественных, так и искусственных агентов в организации, определяются
объекты среды и типовые сценарии деятельности.
2. Функциональное описание роли. Роли агентов могут описываться на основе
диаграмм поведения, которые отображают основные процессы,
соответствующую информацию и взаимодействия между агентами.
3. Концептуальное моделирование роли и данных. Данные и знания, необходимые
агенту, моделируются на основе диаграмм «сущность — отношение», а также
диаграмм жизненного цикла сущности
4. Моделирование взаимодействия пользователя и системы. Определяются
интерфейсы между пользователем и MAC для различных сценариев.
Модель ролей
Модель ролей описывает ключевые роли в системе. Здесь роль может
рассматриваться как абстрактное описание функционального свойства агента. Другими
словами, роль в некотором смысле аналогична понятию должность (например,
«директор» или «старший менеджер»). Любые роли (должности) можно
охарактеризовать с помощью атрибутов 2-х типов: разрешения и ответственности.
А. Разрешения/права связанные с ролью
Роль ассоциируется с разрешениями, относящимися к возможности
использовать определенные ресурсы при реализации функциональных характеристик
роли.
Разрешения, связанные с ролью, обычно имеют два аспекта:
• они указывают типы ресурсов, которые можно потратить для исполнения
роли;
• они задают ограничения на расход ресурсов.
В общем случае, разрешения могут относиться к ресурсам любого типа.
Например, в организациях роли «Руководитель» может быть выделен коллектив
исполнителей (подразделение организации) и т.д. Однако, в описываемой
методологии ресурсы отождествляются с информацией, которой располагает агент.
Для реализации роли агенту может понадобиться доступ к дополнительной
информации. Некоторые роли могут быть связаны с созданием новой информации,
а другие могут иметь только возможность чтения или записи имеющейся
информации. Естественно, в общем случае требуется более богатая модель ресурсов, но для
многих приложений достаточно рассматривать лишь информационные ресурсы.
Б. Ответственности роли
Роль создается для того, чтобы в системе что-то делалось. Поэтому роль всегда
предполагает некоторое функциональное назначение, что выражается в виде
ответственности
Как уже отмечалось, ответственность определяется текущими (изменяемыми)
характеристиками и инвариантными характеристиками. В самом деле, агент,
исполняющий роль, должен поддерживать некоторые инварианты в процессе
выполнения определенных действий. Например, можно потребовать, чтобы агент,
участвующий в электронной торговле, не потратил денег больше, чем было выделено.
Эти инварианты называются характеристиками сохранения, так как в основном
они обеспечивают защиту системы от нежелательных ситуаций. Инвариантные
свойства в модели естественно представлять в виде списка предикатов, которые
должны оставаться истинными в течение всего времени несения ответственности.

298
Глава 9. Проектирование многоагентных систем
Таблица 9.1
Общая схема роли
Схема роли:
Описание
Протоколы
Разрешения
Ответственности
текущие
инвариантные
Название роли
краткое описание роли на естественном языке
протоколы, в которых роль принимает участие
«права», которыми располагает роль
описание текущих характеристик
описание характеристик сохранения системы
Общая схема роли представлена в табл. 9.1. Модель ролей представляется
в виде множества схем ролей, где каждая схема описывает свою роль.
Модель взаимодействий
Модель взаимодействий состоит из множества протоколов, определяемых
для каждого межролевого взаимодействия. Здесь протокол может рассматриваться
как схема взаимодействия. Данная схема определяется формально,
абстрагируясь от конкретного варианта реализации (непосредственной последовательности
шагов). Подобное рассмотрение взаимодействий означает, что основное
внимание уделяется природе и назначению взаимодействия, а не точной схеме обмена
сообщениями.
В данном подходе предполагается, что реализация протокола будет вызывать
серию взаимодействий. Для примера рассмотрим протокол торгов типа
английского аукциона. Он включает в себя несколько ролей (продавцы и покупатели)
и множество потенциальных схем взаимодействия (назначение цены, объявление
заявок и т. п.).
Общее определение протокола состоит из следующего набора атрибутов:
• назначение: краткое описание смысла взаимодействия (например, «запрос
информации», «выдача задания»);
• инициатор: роль(и), ответственная(ые) за начало взаимодействия;
• респондент: роль(и), с которой(ыми) осуществляется взаимодействие;
• входы: информация, используемая инициатором для начала взаимодействия;
• выходы: информация предоставляемая респондентом в ходе взаимодействие.
9.3.3. Описание этапов объектно-ориентированной
разработки MAC
Этапы анализа
Как уже отмечалось, развиваемая методология включает стадии анализа
и проектирования. Стадию анализа можно обобщенно представить в виде
следующих шагов:
1. Определить состав ролей в системе. На выходе имеем прототип модели
ролей — список ключевых ролей с их неформальным описанием.
2. Для каждой роли определить и задокументировать связанные с ней протоколы.
Протоколы — это схемы взаимодействий между ролями. На выходе получаем
модель взаимодействий, описывающую схемы межролевых взаимодействий.

9.3. Проектирование многоагентных систем
299
3. Разработать модель ролей, беря за основу модель протоколов. На выходе имеется
полностью проработанная модель ролей, в которой описаны все ключевые
роли в системе, их разрешения и ответственности, и протоколы, в которых
они принимают участие.
4. При необходимости повторить шаги A)-C).
Процесс проектирования
Задачей процесса проектирования является преобразование абстрактных
моделей высокого уровня, разработанных на стадии анализа, в модели более низкого
уровня, обеспечивающих достаточно простую реализацию. Агентно-ориентиро-
ванный анализ заключается в понимании того, как сообщество агентов выполняет
совместные действия при решении различных задач, и какие действия требуются
от конкретного агента.
Процесс разработки включает в себя создание трех моделей (см. рис. 9.2):
модели агентов, модели услуг и модели отношений. Модель агентов задает классы
агентов, составляющих MAC, и соответствующие экземпляры агентов. Модель
услуг определяет основной набор услуг, связанный с каждым типом агентов.
Наконец, модель отношений характеризует возможные контакты для каждого типа
агентов.
Модель агентов
Назначение этой модели состоит в описании различных типов агентов,
существующих в системе. Типы агентов определяются множеством ролей.
Разработчик может, для определенности, предложить объединить несколько
сходных ролей в один тип агентов. Главным
критерием на этой стадии является
эффективность реализации: разработчик прежде
всего стремится к оптимизации
получаемых решений и агрегирование нескольких
ролей в один тип есть один из способов
достижения этой эффективности.
Примером, когда принимается подобное
решение, может служить ситуация, в которой
вычислительные ресурсы, требуемые для
каждого агента, очень велики. Тогда
желательно сократить число агентов,
поэтому принимается решения о «возложении»
нескольких ролей на одного агента. Здесь
надо соблюдать разумный компромисс между простотой понимания
функциональных характеристик агента и эффективностью его реализации. Модель агентов
определяется с помощью дерева типов агентов, в котором корневыми узлами
являются роли, а узлы соответствуют типам агентов. Если тип агента t\ имеет
детей t2 и ti, то это значит, что t\ состоит из ролей, выполняемых tj и t3.
Будем записывать экземпляры агентов в виде пометки их числа на дереве
типов. Так запись п означает, что в системе существует ровно п агентов этого типа.
Запись т... п(т < п) означает, что агентов в системе присутствует не менее,
чем тине более, чем п. Запись * означает, что может существовать ноль или
более экземпляров, а запись + означает, что может существовать один или более
экземпляров.
Агент-заказчик
Агент-пользователь
Агент-исполнитель
Агент продукта
(услуги)
Агент
процесса
Рис. 9.4. Простейший пример
дерева типов

300
Глава 9. Проектирование многоагентных систем
Модель услуг
Назначение модели услуг состоит в определении услуг, связанных с
каждым типом агентов, и спецификации основных свойств этих услуг. Под услугой
понимается некоторая функциональная составляющая агента. В терминах
объектно-ориентированного подхода услуга будет соответствовать методу; однако, это
не означает, что услуги доступны для других агентов, подобно методам в ООП.
Для каждой услуги агента должны быть описаны ее свойства, а именно входы,
выходы, предусловия и постусловия. Входы и выходы для услуги просто берутся
из модели протоколов. Предварительные условия и постусловия представляют
собой ограничения, накладываемые на услугу. Важно отметить, что по определению
каждая роль должна быть связанной по меньшей мере с одной услугой.
Модель услуг не включает в себя описания их реализаций. Разработчик вправе
строить услуги так, как сочтет нужным. К примеру, он может решить реализовать
услугу, как метод в объектно-ориентированном языке, или как набор методов.
Модель контактов
Модель контактов определяет коммуникативные связи, существующие между
агентами. При этом не уточняется, когда и какие сообщение проходит от одного
агента к другому, а просто указывается, что существует канал коммуникации между
агентами. В частности, назначение модели контактов состоит и в нахождении
узких мест в системе коммуникаций между агентами. На основании анализа
и разработки модели контактов может быть принято решения о возврате к стадии
анализа и перепроектировании MAC для устранения узких мест.
Модель контактов представляет собой граф, в котором узлы соответствуют
типам агентов, а дуги — коммуникационным путям (рис. 9.5). Обычно граф
модели является ориентированным, а запись а —> Ь означает, что агент а может
связываться с агентом Ъ, и совсем не обязательно, что при этом Ь может
связываться с а. Модель контактов строится на основе моделей ролей, протоколов
и агентов.
АгентЗаказчик
I
Агент_по_Работе_с_Клиентами
ПроверяющийАгент АгентПроектировщик <—»
Рис. 9.5. Модель контактов
Этапы процесса проектирования
Процесс проектирования MAC можно представить в виде следующих шагов:
1. Создание модели агентов:
• на основе ролей разработать типы агентов, образующие иерархию типов;
• записать существующие экземпляры в виде пометок на дереве типов.
2. Разработать модель услуг на основе модели протоколов и обязанностей агентов.
3. Разработать модель контактов на основе модели взаимодействий и модели
агентов.
АгентЮрист

9.4. Нисходящее и V-образное проектирование MAC и ВО 301
9.4. Нисходящее и V-образное проектирование
MAC и ВО
9.4.1. Методика нисходящего проектирования
Следуя Р. Говарду, будем рассматривать среду нисходящего
проектирования в координатах «степень неопределенности — степень динамики — степень
сложности». Тогда проблема синтеза организационных структур может
интерпретироваться как динамическая многокритериальная задача при наличии нечеткой
информации.
Методика организационного синтеза MAC и виртуальных организаций
включает следующие шаги:
1) формулировка задачи организационного синтеза и выбор решающего
правила;
2) формирование множества экспертов N;
3) формирование семейства организационных критериев С;
4) построение полярных (оппозиционных) шкал для выбранных критериев;
5) определение допустимых типов оценок на шкалах;
6) выделение «идеальных организационных типов», соответствующих
экстремальным принципам (бинарным оценкам) и их представление в виде графов;
7) представление лингвистических экспертных оценок по шкалам в виде
поверхностей в пространстве критериев;
8) соотнесение реальных оценок с идеальными организационными типами
по признаку минимизации расстояния до идеальной точки в пространстве
критериев (решающее правило).
Важнейшим этапом процедуры организационного проектирования является
выбор представительного набора критериев, позволяющих синтезировать тип
организационной структуры. В качестве подобных критериев могут выступать:
вид внешней среды MAC или ВО (статическая или динамическая, стабильная или
нестабильная); преобладающие взаимодействия в организации (вертикальные или
горизонтальные), стратегии организационного развития (жесткое планирование
или самоорганизация) и т. п.
Здесь будем полагать, что базовыми критериями для организационного
проектирования могут служить: управление (власть), ресурсы (собственность)
и интенсивность взаимодействия предприятия с внешними партнерами (степень
открытости организации как сложной системы). Власть является основным
системообразующим фактором любой организации. Она представлена структурами
управления: централизованное управление на основе вертикальных связей влечет
за собой классическую иерархическую организационную структуру, изображаемую
в виде дерева, а децентрализованное управление с преобладанием
горизонтальных связей порождает сетевые структуры. Установление некоторого «разумного
компромисса» между децентрализацией и централизацией по сути означает поиск
наилучшего соотношения между числом горизонтальных и вертикальных связей.
Способность организации производить продукцию или оказывать услуги,
удовлетворяющие клиентов, тесно связана с наличием у него некоторой
собственности (ресурсов) и характером ее распределения. В классической экономике
дилемма «полного сосредоточения — полного распределения ресурсов» отображает
предпочитаемую экономическую модель организации, например, государственное

302
Глава 9. Проектирование многоагентных систем
предприятие или акционерное общество. Аналогична, по характеру
распределения и использования ресурсов можно выделить различные типы искусственных
организаций: виртуальные ассоциации, объединяющие равноправных
агентов-владельцев ресурсов; виртуальные пулы, включающие разнородных агентов, которые
распределяют ресурсы в единый фонд по установленной пропорции, виртуальные
концерны, характеризуемые делегированием полномочий центру и
сосредоточением ресурсов агентов.
Наконец, открытый или закрытый характер искусственной организации
может определяться по критерию интенсивности (и направленности) ее
взаимодействия с внешней средой. В плане интенсивности взаимодействия могут быть
частыми, периодическими или, наоборот, редкими, эпизодическими. С точки
зрения направленности, стратегии взаимодействия организаций как социальных
агентов могут определяться конкурентной или организационной
рациональностью. В первом случае властвуют отношения конкуренции, часты конфликты,
приводящие к подчинению одной организацией другой (или даже к ликвидации
последней). Во втором случае преобладают кооперативные взаимодействия между
организациями, направленные на проведение согласованных действий или
выработку компромисса. По сути, такие взаимодействия выражает тип социального
поведения, который можно грубо оценить соотношением между числом внешних
и внутренних связей. Когда это соотношение (т. е. число внешних
горизонтальных связей) мало, то у организации преобладает «эгоцентрическое» поведение
и приоритет отдается стратегиям конкурентной рациональности. С его
увеличением все большую роль в организационном поведении начинают играть стратегии
компромисса и сотрудничества. Однако, когда число внешних связей становится
соизмеримым с числом внутренних, организация оказывается на грани распада.
Здесь также следует найти эффективную степень открытости организации.
Таким образом, в простейшем случае задача организационного
проектирования сетевых предприятий формулируется в трехмерном пространстве критери-
Ключевые пары характеристик ев' строящихся как полярные шкалы:
«централизованное управление — децентрализованное
управление», «сосредоточенный ресурс —
распределенный ресурс, "эпизодическое
взаимодействие со средой — периодическое взаимодействие
со средой" (рис. 9.6). Полюсам таких шкал можно
поставить в соответствие числа +1 и -1
(максимальные степени позитивной и негативной
оценки по выбранному критерию). Все
промежуточные оценки будет лежать в интервале [-1, +1].
В общем случае экспертные оценки
альтернатив по критериям носят вербальный
характер и являются нечеткими множествами. Они
могут задаваться пересекающимися функциями
принадлежности ^tj, характеризующими
совместимость взятых лингвистических меток с
отмеченными (для "серой" шкалы) числовыми
значениями, например, {-1,-0.75,-0.5,-0.25,
0, +0.25, +0.5, +0.75, +1}. Соответствующие
лингвистические метки могут иметь вид: NB — "большое отрицательное значение
по критерию", NM — "среднее отрицательное значение", NS — "малое
отрицательное значение", ZO — "приблизительно нулевое значение", PS — "малое
взаимодействия агентов
Взаимодействие агентов
рсы
Рис. 9.6. Иллюстрация к задаче
структурного синтеза виртуальной
организации

9.4. Нисходящее и V-образное проектирование MAC и ВО 303
положительное значение"», РМ —
«среднее положительное значение»,
РВ — «большое положительное
значение по критерию» (рис. 9.7).
Процедура экспертизы связана с
заполнением таблицы экспертных решений
нечеткими оценками /х,7 (табл. 9.2).
В этой таблице содержатся данные
о возможных альтернативах (типах
искусственных организаций) щ,...,
un, представительных критериях С\,
Сг, Сз и нечетких множествах
(функциях совместимости
лингвистических значений по критериям с
числовыми значениями полярной
шкалы fiij : Cj —» Lim). Эталонная
(желаемая) структура виртуальной
организации щ может быть задана
нечеткой идеальной точкой /x(w0) =
(/*01>/*02,/*0з)-
Тогда задача принятия решения по выбору эффективной сетевой структуры
предприятия щ принимает вид d(//(u,), р(щ)) —*• min.
Вначале построим набор базовых структур виртуальных организаций,
рассмотрев наиболее четкие (двузначные) экспертные оценки по критериям, когда
Pif Cj —> L2. Тогда получаем «псевдологическую таблицу» организационного
синтеза для восьми вариантов типовых организаций (табл. 9.3. и 9.4).
Примером правила организационного синтеза, полученного из табл. 9.3, служит: «если
управление — децентрализованное, и ресурсы сосредоточены в одном месте и
взаимодействия со средой — периодические, то структура виртуальной организации
есть сеть типа "колесо"». Из этой же табл. 9.3 видно, что базовыми структурами
для сетевых организаций могут стать структуры Щ\, щ2, Щъ, Щ* (табл. 9.5).
Если ввести отношение «ближайшего соседства» между организационными
структурами по признаку совпадения оценок по двум критериям из трех, то
можно определить варианты наиболее естественной эволюции организационных
структур. Например, «ближайшими соседями» горизонтальной организации
являются распределенная организация, гибкая расширенная организация и открытая
вертикальная организация; т. е. непосредственный переход к структуре Щ\
возможен от структур мог, Щз, Щ5- Более того, типовые структуры w0i, W02, ••• ,
uqs можно рассматривать как отдельные чередующиеся организационные состоя-
Таблица 9.2
Матрица экспертных оценок
Варианты

Критерии
с.
с2
А*12
Ип2
Сз
/*пЗ
Min а Маха+
ПЦ СЦ СлЦ ЦДц СлДц СДц
ПДц I
-1-0,75-0,5 -0,25 0 +0,25+0,5 +0,75+1
Рис. 9.7. Пример нечеткой лингвистической
шкалы для критерия «Управление»:
ПЦ — «полностью централизованное»; СЦ —
«сильно централизованное»; СлЦ — «слабо
централизованное»; ЦДц — «смешанное централизованно-
децентрализованное»; СлДц — «слабо
децентрализованное», СДц — «сильно децентрализованное»;
ПДц — «полностью децентрализованное»

304
Глава 9. Проектирование многоагентных систем
Таблица 9.3
Простой пример псевдологической таблицы для организационного синтеза
Типовые организации агентов
Щ\: Растущая сеть
(горизонтальная организация)
«02* Полная сеть
(распределенная организация)
«оз* Сеть типа «колесо»
(гибкая расширенная организация)
«04: Сеть типа «звезда»
(расширенная организация)
«05: Иерархия типа «гроздь»
(открытая вертикальная организация)
«об: Иерархия с горизонтальными
связями (дивизиональная организация)
«о?: Иерархия с обратными связями
(вертикальная организация)
«08: Простая иерархия (дерево)
(классическая тейлоровская организация)
Критерии
С
+ 1
+ 1
+ 1
+1
-1
-1
-1
-1
с2
+1
+1
-1
-1
+1
+1
-1
-1
С3
+ 1
-1
+ 1
-1
+ 1
-1
+ 1
-1
ния виртуального сообщества в контексте его эволюции, описываемой волновой
(колебательной) моделью.
Таблица 9.4
Графическое представление базовых типов сетевых организаций:
I I - владельцы ресурсов О ~ искатели ресурсов
(х)
«01
(х )
ЧУ
«02
в
Щз
О О
«04
9.4.2. Смешанное V-образное проектирование*
И восходящее, и нисходящее проектирование MAC «в чистом виде» имеет
свои недостатки. Основными недостатками методики нисходящего
проектирования являются:
* Данный раздел написан совместно с С. В. Арсеньевым.

9.4. Нисходящее и V-образное проектирование MAC и ВО 305
• эвристический характер выбора представительных критериев
организационного проектирования (о полноте пространства критериев говорить не
приходится);
• необходимость проведения достаточно трудоемких вычислительных операций
при построении и сравнении между собой нечетких лингвистических оценок;
• неявный характер требований к отдельным агентам.
В случае восходящего проектирования много ресурсов тратится на
координацию действий агентов и синтез эффективных структур MAC, когда в интересах
адаптации к среде требуются многочисленные итерации, чтобы организовать
необходимые структурные изменения. Поэтому в [Тарасов и др., 2000] предложен
вариант совмещения этих подходов — так называемое смешанное V-образное
проектирование искусственных сообществ, позволяющее усилить достоинства
и компенсировать недостатки указанных выше методик и, таким образом, достичь
синергетических эффектов. Общая методика смешанного V-образного
проектирования включает следующие этапы (первые три из них характеризуют нисходящую
часть, а вторые три — восходящую):
1. Выбор набора критериев и определение допустимых типов оценок по этим
критериям для выявления социального типа сообщества MAC.
2. Заполнение таблицы, состоящей из оценок по различным выбранным
критериям, и определение типа виртуальной организации как сообщества MAC.
Здесь возможны два случая: а) определение профиля сообщества через
совокупность оценок по шкалам и построение меры различия (расстояния) между
эталонным и текущим профилями; б) установление связи между шкалами,
например с помощью таких операций как прямая (сохраняющая порядок)
и обратная (инвертирующая порядок) проекции, свертывание оценок по
различным шкалам на основе конъюнктивной и дизъюнктивной проекций,
а также их комбинаций.
3. Выбор примерной исходной структуры MAC, соответствующей
установленному типу сообщества.
4. Анализ функций и определение числа агентов, входящих в данную MAC.
5. Определение всех видов взаимодействия между агентами.
6. Построение уточненной сетевой структуры.
21 Зак. 72

Вместо заключения
Где начало того конца, которым
оканчивается начало?
Козьма Прутков.
«Мысли и афоризмы»
Вот и подошла к концу эта книга. В ней автор стремился рассказать в
достаточно простой и понятной форме, доступной для представителей самых различных
областей знания и профессий, что же такое науки об искусственном, и в чем
состоит суть происходящей ныне революции в ИИ, как строятся различные
искусственные агенты, многоагентные системы, интеллектуальные организации,
и почему при их разработке все большую роль начинают играть
междисциплинарные исследования, требующие развития синергетической методологии науки.
Удалось ли ему это сделать — судить читателю.
В заключение хотелось бы еще раз подчеркнуть следующее: специфика
предмета ИИ, как и ряда других наук нового поколения, состоит в том, что это —
типичная открытая научная дисциплина с нечеткими, подвижными границами.
Работающие в ней исследователи похожи на покорителей Дикого Запада —
первых американских переселенцев, которые шли с восточного побережья США
на западное, осваивая новые земли и сдвигая границу неизведанного. Было
понятие Дикий Запад, но не было точно очерченной территории, которую занимала
эта таинственная страна. Линия границы все время смещалась, пока не дошла
до берегов Тихого океана... А далее Запад сомкнулся с Востоком.
Так и в искусственном интеллекте. То, что уже пройдено, открыто, освоено,
выходит за рамки актуальных научных направлений и пополняет инструментарий
базовых компьютерных технологий. Когда-то ИИ начинался с эвристических
программ, решающих шахматные задачи по принципам перебора и автоматического
доказательства теорем в исчислении предикатов, а теперь процедуры
представления задач и поиска в пространстве состояний являются традиционным
наполнением стандартных игровых программ. Точно такая же ситуация возникает ныне
с экспертными системами на базе дедуктивного вывода и средствами инженерии
знаний, которые из областей повышенного научного интереса уже превращаются
в рутинные технологии, применяемые всеми процветающими фирмами.
Аналогично, в свое время задачи автоматического распознавания и
классификации считались центральной темой в исследованиях по ИИ, а сейчас — это
самостоятельная научная дисциплина, причем большинство активно
используемых методов распознавания, например статистические методы или потенциальные
функции, довольно далеки от современных идей и принципов ИИ. Предложенные
М. Минским фреймы для представления знаний вызвали к жизни столь мощную
и бурную компьютерную волну как объектно-ориентированное
программирование, которая впоследствии захлестнула другие стили программирования и
послужила основой для практической реализации агентно-ориентированного подхода.
Правда, иногда в ИИ возникают «обратные потоки переселенцев на
Восток», когда вдруг возрождаются давно забытые идеи и подходы. Так получилось

Вместо заключения
307
с искусственными нейронными сетями и нейродинамикой Ф. Розенблатта, пер-
цептроном С. Пейперта, бум вокруг которых вновь возник в конце 80-х годов
в связи с появлением нейрокомпьютеров и развитием интегрированных подходов
в ИИ. Похожая вещь произошла недавно с ситуационным управлением и
семиотическим моделированием — научным направлением, сформировавшимся
в конце 60-х годов в отечественной школе Д. А. Поспелова, которое пережив
в середине 90-х годов новое рождение под именем «Прикладная семиотика»,
вызвало широкий международный резонанс в научном мире. Автор верит, что
на новом витке развития ИИ, в русле продвижения от многоагентных систем
к интеллектуальным организациям, возродятся, получат широкое
распространение и найдут применение многие блестящие модели психики и интеллекта,
формирования индивидуального и коллективного поведения, самоорганизации
деятельности, познания и общения, разработанные в недрах различных наук.
И будут «выращены зерна» новых междисциплинарных научных знаний, будут
открыты новые технологии.
Мы живем на заре эры Водолея. Эры слияния индивидуальных образов
и коллективных знаний, эры сетевого интеллекта.
21*

Литература
[Аверкин и др., 1986] Аверкин А Я, Батыршин И. 3., Блишун А. Ф., Силов В. Б.,
Тарасов В. Б. Нечеткие множества в моделях управления и искусственного
интеллекта. — М.: Наука, 1986.
[Аверкин и Головина, 1999] Аверкин А. Я, Головина Е. Ю. Нечеткая семиотическая
система управления // Интеллектуальное управление: новые
интеллектуальные технологий в задачах управления. — М.: Наука, Физматлит, 1999. —
С. 141-145.
[Аверкин и Прокопчина, 1997] Аверкин А. Я., Прокопчина С. В. Мягкие
вычисления и измерения // Интеллектуальные системы (МГУ). — 1997. — Т. 2,
вып. 1-4. - С. 93-114.
[Аверкин и Тарасов, 1986] Аверкин А. Я., Тарасов В. Б. Нечеткое отношение
моделирования и его применение в психологии и искусственном интеллекте. —
М.: ВЦ АН СССР, 1986.
[Адамацкий и Холланд, 1998] Адамацкий А. И., Холланд О, Роящийся интеллект:
представления и алгоритмы // Информационные технологии и
вычислительные системы. — 1998. — № 1. — С. 45-53.
[Акофф и Эмери, 1974] Акофф Р., Эмери Ф. О целеустремленных системах: Пер.
с англ. — М.: Сов. Радио, 1974.
[Алиев Р.А. и Алиев Р. Р., 2001] Алиев РА., Алиев Р. Р. Теория интеллектуальных
систем и ее применение. — Баку: Чашыоглы, 2001.
[Амосов и др., 1973] Амосов Я. М., Касаткин А. Л/., Касаткина Л. Л/., Талаев С. А.
Автоматы и разумное поведение. — Киев: Hayкова думка, 1973.
[Ананьев, 1977] Ананьев Б. Г. О проблемах современного человекознания. — М.:
Наука, 1977.
[Анохин, 1978] Анохин П. К. Избранные труды. Философские аспекты теории
функциональной системы. — М.: Наука, 1978.
[Арбиб, 1976] Арбиб М. Метафорический мозг: Пер. с англ. — М.: Мир, 1976.
[Балашов, 1985] Балашов Е. П. Эволюционный синтез систем. — М.: Радио и связь,
1985.
[Батыршин, 1996] Батыршин И. 3. Методы представления и обработки
нечеткой информации в интеллектуальных системах // Новости искусственного
интеллекта. — 1996. — №2. — С. 9-65.
[Батыршин, 2001] Батыршин И.З. Основные операции нечеткой логики //
Новости искусственного интеллекта. — 2001. — №4. — С. 18-22.
[Белнап и Стил, 1981] Белнап Я, Стил Т. Логика вопросов и ответов: Пер.
с англ. — М.: Прогресс, 1981.
[Бердяев, 1990] Бердяев Н.А. Судьба России. — М.: Мысль, 1990.
[Берталанфи фон, 1969] Берталанфи Л. фон Общая теория систем: критический
обзор // Исследования по общей теории систем. Сборник переводов. —
М.: Прогресс, 1969. — С. 23-82.

Литература
309
[Берштейн и Мелехин, 1994] Берштейн Л.С, Мелехин В. Б. Планирование
поведения интеллектуального робота. — М.: Энергоатомиздат, 1994.
[Биркгоф, 1984] Биркгоф Г. Теория решеток: Пер. с англ. — М.: Наука, 1984.
[Блинов и Петров, 1991] Блинов А. Л., Петров В. В. Элементы логики действий. —
М.: Наука, 1991.
[Богданов, 1989] Богданов А. А. Всеобщая организационная наука: В 2 т. — М.:
Экономика, 1989.
[Брушлинский, 1979] Брушлинский А. В. Мышление и прогнозирование. — М:
Мысль, 1979.
[Будущее ИИ, 1991] Будущее искусственного интеллекта. — М.: Наука, 1991.
[Букатова и др., 1991] Букатова И.Л., Михасев Ю.И., Шаров A.M. Эвоинфор-
матика. Теория и практика эволюционного моделирования. — М.: Наука,
1991.
[Бурцев и др., 2001] Бурцев М.С., Гусарев Р. В., Редько В. Г. Нейросетевая
модель эволюционного возникновения целенаправленного адаптивного
поведения // Научная сессия МИФИ-2001. Сборник научных трудов II 1-й
Всероссийской научно-технической конференции. Ч. 1. — М.: МИФИ,
2001.-С. 153-160.
[Буч, 1998] Буч Г. Объектно-ориентированный анализ и проектирование с
примерами приложений на C++: Пер. с англ. 2-е изд. — М.: Бином, 1998.
[Вагин, 1998] Вагин В. Н. Зачем нужны нетрадиционные логики? //
Международный форум информатизации-98: Доклады Международной конференции
«Информационные средства и технологии». Т. 1. — М.: Станкин, 1998. —
С. 6-14.
[Валькман, 1997] Валькман Ю. Р. Интеллектуальные технологии
исследовательского проектирования: формальные системы и семиотические модели. -Киев:
Port-Royal, 1998
[Варшавский и Поспелов, 1984] Варшавский В. А., Поспелов Д. А. Оркестр играет
без дирижера. Размышления об эволюции некоторых технических систем
и управлении ими. — М.: Наука, 1984.
[Василькова, 1999] Василькова В. В. Порядок и хаос в развитии социальных
систем. — СПб: Лань, 1999.
[Венда, 1990] Венда В. Ф. Системы гибридного интеллекта: Эволюция, психология,
информатика. — М.: Машиностроение, 1990.
[Вертгеймер, 1987] Вертгеймер М. Продуктивное мышление: Пер. с нем. — М.:
Прогресс, 1987.
[Винер, 1983] Винер Н. Кибернетика, или управление и связь в животном и машине
B-е изд.): Пер. с англ. — М.: Наука, 1983.
[Виттих и др., 1999] Виттих В. А., Луке А., Мажаров Л. Г. Холонические
производственные системы // Труды международной конференции «Проблемы
управления и моделирования в сложных системах» (Самара, 14-18 июня
1999). — Самара: Самарский научный центр РАН, 1999. — С. 380-385.
[Волков и др., 1987] Волков А. Л/., Микадзе Ю. В., Солнцева Г. В. Деятельность:
структура и регуляция. — М.: Изд-во МГУ, 1987.

310
Литература
[Вригт фон, 1986] Вригт Г. X. фон. Логико-философские исследования: Пер.
с англ. — М: Прогресс, 1986.
[Гаазе-Рапопорт и Поспелов, 1987] Гаазе-Рапопорт М. Г, Поспелов Д. А. От амебы
до робота: модели поведения. — М.: Наука, 1987.
[Гаврилова и Хорошевский, 2000] Гаврилова Т.А., Хорошевский В.Ф. Базы знаний
интеллектуальных систем. — СПб: Питер, 2000.
[Гадамер, 1988] ГадамерХ.-Г. Истина и метод: Основы философской герменевтики:
Пер. с нем. — М.: Прогресс, 1988.
[Галушкин, 2000] Галушкин А. И. Теория нейронных сетей. — М.: ИСПЖР, 2000.
[Гертзель и др., 2001] Гертзель Б. #., Маклаков Ю. В., Редько В. Г. Модель
искусственной жизни в Интернете. Первые результаты // Интегрированные
модели и мягкие вычисления в искусственном интеллекте Сборник
трудов Международного научно-практического семинара (Коломна, 17-18 мая
2001 г.). - М.: Наука. Физматлит, 2001. — С. 233-237.
[Гпадун, 2000] Гладун В. П. Партнерство с компьютером. — Киев: Port-Royal, 2000.
[Голицын и Фоминых, 1996] Голицын Г. А., Фоминых И. Б. Нейронные сети и
экспертные системы: перспективы интеграции // Новости искусственного
интеллекта. — 1996. — №4. — С. 121-145.
[Городецкий, 1996] Городецкий В. И. Многоагентные системы: современное
состояние исследований и перспективы применения // Новости искусственного
интеллекта. — 1996. — № 1. — С. 44-59.
[Городецкий, 1998а] Городецкий В. И. Многоагентные системы: основные
свойства и модели координации поведения // Информационные технологии
и вычислительные системы. — 1998. — № 1. — С. 22-34.
[Городецкий и др. 19986] Городецкий В. //., Грушинский М. С, Хабалов А. В.
Многоагентные системы (обзор) // Новости искусственного интеллекта. —
1998. - №2. - С. 64-116.
[Городецкий и др., 2000] Городецкий В. //., Котенко И. В., Карсаев О. В.
Интеллектуальные агенты для обнаружения атак в компьютерных сетях // Сборник
научных трудов VI 1-й Национальной конференции по искусственному
интеллекту (Переславль-Залесский, 24-27 октября 2000). Т. 2. — М: РАИИ —
Физматлит, 2000. — С. 771-779.
[Горский, 1998] Горский Ю. М. Основы гомеостатики. Гармония и дисгармония
живых, природных, социальных и искусственных систем. — Иркутск:
ИГЭА, 1998.
[Диксон, 1969] Диксон Дж. Проектирование систем: изобретательство, анализ
и принятие решений: Пер. с англ. — М.: Мир, 1969.
[ДКФ, 1994] Древнекитайская философия: В 2 т. — М.: Логос, 1994.
[Дракин и др., 1988] Дракин В. #., Попов Э. В., Преображенский А. Б. Общение
конечных пользователей с системами обработки данных. — М.: Радио
и связь, 1988.
[Дрейфус, 1978] Дрейфус X. Что не могут вычислительные машины. Критика
искусственного разума/ Пер. с англ. — М.: Прогресс, 1978.
[Дружинин и Конторов, 1985] Дружинин В. В., Конторов Д.С. Системотехника. —
М.: Радио и связь, 1985.

Литература
311
[Дулин, 1990] Дулин С. К. Знаковая интерпретация сходства для согласованности
множества объектов // Известия АН СССР: Техническая кибернетика. —
1990. - №5. - С. 22-25.
[Дюбуа и Прад, 1990] Дюбуа Д., Прад А. Теория возможностей. Приложения
к представлению знаний в информатике: Пер. с франц. — М.: Радио
и связь, 1990.
[Емельянов, 1998] Емельянов В. В. Многоагентная модель децентрализованного
управления производственными системами // Информационные
технологии и вычислительные системы. — 1998. — № 1. — С. 69-77.
[Емельянов, 1999] Емельянов В. В. Многоагентная модель
децентрализованного управления потоком производственных ресурсов // Труды
Международной конференции «Интеллектуальное управление: новые
интеллектуальные технологии в задачах управления» (ЮТ'99, Переславль-
Залесский, 6-9 декабря, 1999). — М.: Наука. Физматлит, 1999. —
С. 121-126.
[Емельянов и Ясиновский, 1998] Емельянов В. В., Ясиновский С. И. Введение
в интеллектуальное имитационное моделирование сложных дискретных
систем и процессов. — М.: Анвик, 1998.
[Забродин, 1979] Забродин Ю. М. Психофизика сенсорных процессов // Вопросы
кибернетики. Вып. 50. Математическое моделирование в психологии. —
М.: Изд-во АН СССР, 1979. - С. 43-84.
[Заде, 1976] Заде Л. Понятие лингвистической переменной и его применение
к принятию приближенных решений: Пер. с англ. — М.: Мир, 1976.
[Заде, 2001] Заде Л. Роль мягких вычислений и нечеткой логики в понимании,
конструировании и развитии информационных/интеллектуальных систем //
Новости искусственного интеллекта. — 2001. — №2-3. — С. 7-11.
[Зазыкин и Чернышев, 1992] Зазыкин В. Г., Чернышев А. П. Менеджер:
психологические секреты профессии. — М.: ЦИТП, 1992.
[Захаров и Ульянов, 1994] Захаров В. Я, Ульянов С. В. Нечеткие модели
интеллектуальных промышленных регуляторов и систем управления. IV.
Имитационное моделирование // Известия Академии наук: Техническая
кибернетика. - 1994. - №5. - С. 168-210.
[Зеньковский, 1999] Зеньковский В. В. История русской философии. В 2-х т. —
Ростов-на-Дону: Феникс, 1999.
[Каганов, 1999] Каганов Ю. Т. Экобионика: проблема коэволюции техники и
биосферы // Синергетика. Труды семинара. Т. 2. — М.: Изд-во МГУ, 1999. —
С. 168-177.
[Кандрашина и др., 1988] Кандрашина Е. Ю., Литвинцева Л. В., Поспелов Д. А.
Представление знаний о пространстве и времени в системах искусственного
интеллекта. — М.: Наука, 1988.
[Капица и др., 1997] Капица С. Я, Курдюмов С. Я., Малинецкий Г. Г. Синергетика
и прогнозы будущего. — М.: Эдиториал УРСС, 2001.
[Карпенко, 2000] Карпенко А. С. Логика на рубеже тысячелетий // Логические
исследования. Вып.7. — М.: Наука, 2000. — С. 7-60.

312
Литература
[Клир, 1990] Клир Дж. Системология. Автоматизация решения системных задач:
Пер. с англ. — М.: Мир, 1990.
[Князева и Курдюмов, 1994] Князева Е. #., Курдюмов С. П. Законы эволюции
и самоорганизации сложных систем. — М.: Наука, 1994.
[Кобринский и Фельдман, 1995] Кобринский Б. А., Фельдман А. Е. Анализ и учет
ассоциативных знаний в медицинских экспертных системах // Новости
искусственного интеллекта. — 1995. — №3. — С. 90-96.
[Колмогоров, 1964] Колмогоров А. И. Автоматы и жизнь // Возможное и
невозможное в кибернетике. — М.: АН СССР, 1964.
[Колмогоров, 1965] Колмогоров А. И. Три подхода к определению понятия
«количество информации» // Проблемы передачи информации. — 1965. — № 1.
[Круглый стол, 1998] Круглый стол «Парадигмы искусственного интеллекта» //
Новости искусственного интеллекта. — 1998. — №3. — С. 140-161.
[Кузнецов, 1995] Кузнецов О. П. Неклассические парадигмы в искусственном
интеллекте // Известия РАН: Теория и системы управления. — 1995. —
№5.-С. 3-23.
[Кузнецов, 1997] Кузнецов О. П. О некомпьютерных подходах к моделированию
интеллектуальных процессов мозга // Сборник трудов Международной летней
школы-семинара по искусственному интеллекту для студентов, аспирантов
и молодых ученых (Браслав, Беларусь, 26 июня -5 июля 1997 г.). — Минск:
Изд-во БГУИР, 1997. - С. 11-43.
[Кун, 1977] Кун Т. Структура научных революций: Пер. с англ. — М.: Прогресс,
1977.
[Курейчик В. М., 1998] Курейчик В. М. Генетические алгоритмы. — Таганрог: ТРТУ,
1998.
[Курейчик В. М. и Курейчик В. В., 2000] Курейчик В. Л/., Курейчик В. В.
Эволюционные, синергетические и гомеостатические стратегии в искусственном
интеллекте// Новости искусственного интеллекта. — 2000. — № 3. — С. 39-65.
[Ларичев, 2000] Ларичев О. И. Теория и методы принятия решений, а также
хроника событий в волшебных странах. — М.: Логос, 2000.
[Ларичев, 2001] Ларичев О. И. Новое направление в теории принятия решений:
вербальный анализ решений // Новости искусственного интеллекта. —
2001. -№1. -С. 26-31.
[Ларичев и Мошкович, 1996] Ларичев О. #., Мошкович Е. М. Качественные методы
принятия решений. — М.: Наука, 1996.
[Леонтьев, 1975] Леонтьев А. Н. Деятельность. Сознание. Личность. — М.: ИПЛ,
1975.
[Лепский, 1998] Лепский В. Е. Концепция субъектно-ориентированной
компьютеризации управленческой деятельности. — М.: ИП РАН, 1998.
[Лефевр, 1973] Лефевр В. А. Конфликтующие структуры. — М.: Сов. Радио, 1973.
[Ломов, 1999] Ломов Б.Ф. Методологические и теоретические проблемы
психологии B-е изд). — М.: Наука, 1999.
[Лорьер, \99\]ЛорьерЖ. -Л. Системы искусственного интеллекта: Пер. с франц. —
М.: Мир, 1991.

Литература
313
[Лоскутов и Михайлов, 1990] Лоскутов А. Ю., Михайлов А. С. Введение в
синергетику. — М.: Наука, 1990.
[Лотман, 2000] Лотман Ю. М. Семиосфера. — Санкт-Петербург: Искусство-СПб,
2000.
[Луговская, Тарасов, 2001] Луговская Е.А., Тарасов В. Б. Разработка
интеллектуальных обучающих систем на базе многоагентных технологий // Программные
продукты и системы. — 2001. — №2. — С. 29-34.
[Майкевич, 1997] Майкевич Н. В. Агенты и объекты: где граница? // Сборник
трудов международной школы-семинара по искусственному интеллекту для
студентов, аспирантов и молодых ученых (Браславская школа-97, Браслав,
Беларусь, 26 июня-5 июля 1997). — Минск: БГУИР, 1997. — С. 152-156.
[Мак-Каллок и Питтс, 1992] Мак-Каллок У, Питтс В. Логическое исчисление
идей, относящихся к нервной активности // Нейрокомпьютер. — 1992. —
№3/4.- Р. 40-53.
[Маккарти и Хайес, 1973] МаккартиДж., Хайес Р. Некоторые философские
проблемы в задаче построения искусственного интеллекта// Кибернетические
проблемы бионики. — М.: Мир, 1973. — С. 40-87.
[Мальцев, 1970] Мальцев А. И. Алгебраические системы. — М.: Наука, 1970.
[Мизогучи, 2000] Мизогучи Р. Шаг в направлении инженерии онтологии // Новости
искусственного интеллекта. — 2000. — № 1-2. — С. 11-36.
[Миллер и др., 1965] Миллер Д., Галантер ?., Прибрам К. Планы и структура
поведения: Пер. с англ. — М.: Мир, 1965.
[Мильнер, 1998] Мильнер Б.З. Теория организаций. — М.: ИНФРА-М, 1998.
[Моисеев, 1987] Моисеев Н. Н. Алгоритмы развития. — М.: Наука, 1987.
[Моисеев, 1995] Моисеев Н.Н. Современный рационализм. — М.: МГВП КОКС,
1995.
[Налимов, 1979] Налимов В. В. Вероятностная модель языка. О соотношении
естественных и искусственных языков. — М.: Наука, 1979.
[Нариньяни, 1998] НариньяниА. С. Искусственный интеллект: стагнация или новая
перспектива? // Сборник научных трудов VI-й Национальной конференции
по искусственному интеллекту (Пущино, 5-11 октября 1998). Т. 1. —
Пущино: РАИИ, 1998. - С. 15-29.
[Нариньяни, 1999] Нариньяни А. С. НЕ-факторы: неточность и недоопределен-
ность — различие и взаимосвязь // Известия РАН: Теория и системы
управления. — 2000. — №5. — С. 44-56.
[Натэй-Годен ко и др., 2001] Натэй-Голенко М.А., Пантелеев М. Л, Шмелев А. А.
Модели и методы построения интеллектуальных агентов реального
времени //Труды Международного конгресса «Искусственный интеллект в XXI-m
веке» (Дивноморск, 3-7 сентября 2001 г.). Т. 1. — М.: Физматлит, 2001. —
С. 306-314.
[Нейман фон, 1971] Нейман Дж. фон. Теория самовоспроизводящихся автоматов:
Пер. с англ. — М.: Мир, 1971.
[Непейвода, 1989] Нёпейвода Н. Н. Логический подход как альтернатива
системному в математическом описании систем // Экспертные системы: состояние
и перспективы. — М.: Наука, 1989. — С. 20-30.
20 Зак. 72

314
Литература
[Непейвода, 2000] Непейвода Н.Н. Прикладная логика.,— Новосибирск: Изд-во
Новосибирского университета, 2000.
[Нестеренко и др., 1998] Нестеренко Т. В., Прейс С. В., Старовит С. А.,
Швецов И. Е. Разработка динамических мультиагентных систем в рамках
технологии активных объектов // Сборник научных трудов VI-й Национальной
конференции по искусственному интеллекту (Пущино, 5-11 октября 1998).
Т. 1. - Пущино: РАИИ, 1998. - С.76-83.
[Нильсон, 1973] Нилъсон Н. Искусственный интеллект. Методы поиска решений:
Пер. с англ. — М.: Мир, 1973.
[Нормативные и дескриптивные модели, 1981] Нормативные и дескриптивные
модели принятия решений (по материалам советско-американского
семинара). — М.: Наука, 1981.
[Носов, 1995] Носов Н.А. Психология ангелов. — М.: ИТАР-ТАСС, 1995.
[Ойхман и Попов, 1997] Ойхман Е. Г., Попов Э. В. Реинжиниринг бизнеса. — М.:
Финансы и статистика, 1997.
[Осипов, 1997] Осипов Г. С Приобретение знаний интеллектуальными
системами. — М.: Наука, 1997.
[Осипов, 1998] Осипов Г. С. Динамика в системах, основанных на знаниях //
Известия РАН: Теория и системы управления. — 1998. — №5. — С. 24-28.
[Осипов, 2001] Осипов Г. С. Искусственный интеллект: состояние исследований
и несколько слов о будущем // Новости искусственного интеллекта. —
2001. -№1. - С. 3-13.
[Парсонс, 2000] Парсонс Т. О структуре социального действия. — М.:
Академический проект, 2000.
[Петренко, 1988] Петренко В.Ф. Психосемантика сознания. — М.: Изд-во МГУ,
1988.
[Пиаже, 1994] Пиаже Ж. Избранные психологические труды: Пер. с франц.
и англ. — М.: МПА, 1994.
[Пирс, 2000] Пирс Ч. Избранные философские произведения. — М.: Логос, 2000.
[Плесневич, 2000] Плесневич Г. С. Понятийно-ориентированные языки в
инженерии знаний // Новости искусственного интеллекта. — 2000. — №4.
[Поляков, 1999] Поляков В. Н. Перспективы интеллектуального освоения
информационного пространства сети ИНТЕРНЕТ научным сообществом //
Труды Международного Семинара по компьютерной лингвистике и ее
приложениям «Диалог'99». Т. 2. Приложения. — Таруса, 1999. — С. 237-247.
[Пономарева и Хорошевский, 1999] Пономарева СМ., Хорошевский В.Ф. Методы
и модели коммуникации в профессиональных группах и группах
интеллектуальных агентов // Труды 4-го Международного семинара по
прикладной семиотике, семиотическому и интеллектуальному управлению
(ASC/IC99). - Переславль-Залесский: РАИИ, 1999. - С.20-34.
[Попов, 1982] Попов Э. В. Общение с ЭВМ не естественном языке. — М.: Наука,
1982.
[Попов, 1996] Попов Э. В. Реинжиниринг бизнес-процессов и искусственный
интеллект // Новости искусственного интеллекта. — 1996. — JSfe 4. —
С. 5-39.

Литература
315
[Попов, 2001] Попов Э. В. Корпоративные системы управления знаниями //
Новости искусственного интеллекта. — 2001. — № 1. — С. 14-25.
[Попов и Фирдман, 1976] Попов Э. В., Фирдман Г. Р. Алгоритмические основы
интеллектуальных роботов и искусственного интеллекта. — М.: Наука,
1976.
[Поспелов Г. С, 1988] Поспелов Г. С. Искуственный интеллект — основа новой
информационной технологии. — М: Наука, 1988.
[Поспелов Д. А., 1982] Поспелов Д. А. Фантазия или наука: на пути к
искусственному интеллекту. — М.: Наука, 1982.
[Поспелов Д. А., 1989] Поспелов Д. А. Моделирование рассуждений. Опыт анализа
мыслительных актов. — М.: Радио и связь, 1989.
[Поспелов Д. А., 1994а] Поспелов Д. А. История искусственного интеллекта до
середины 80-х гг. // Новости искусственного интеллекта. — 1994. — №4. —
С. 70-90.
[Поспелов Д. А., 19946] Поспелов Д. А. «Серые» и/или «черно-белые»// Прикладная
эргономика. Специальный выпуск «Рефлексивные процессы». — 1994. —
№1.-С. 29-33.
[Поспелов Д. А., 1996] Поспелов Д. А. Прикладная семиотика и искусственный
интеллект // Программные продукты и системы. — 1996. - №3. -
С. 10-13.
[Поспелов Д. А., 1997] Поспелов Д. А. От коллектива автоматов к мультиагент-
ным системам // Труды Международного семинара «Распределенный
искусственный интеллект и многоагентные системы» (DAIMAS'97, Санкт-
Петербург, Россия, 15-18 июня 1997). — С. 319-325.
[Поспелов Д. А., 1998] Поспелов Д. А. Многоагентные системы-настоящее и
будущее // Информационные технологии и вычислительные системы. —
1998. -№1. - С. 14-21.
[Поспелов и Пушкин7Т972] Поспелов Д. А., Пушкин В. Н. Мышление и автоматы. —
М.: Сов. Радио, 1972.
[Поспелов и Осипов, 1999] Поспелов Д. А., Осипов Г. С. Прикладная семиотика//
Новости искусственного интеллекта. — 1999. — № 1. — С. 9-35.
[Поспелов и Шустер, 1990] Поспелов Д. А., Шустер В, А. Нормативное поведение
в мире людей и машин. — Кишинев: Штиинца, 1990.
[Почепцов, 1998] Почепцов Г. Г. Теория и практика коммуникации. — М.: Центр,
1998.
[Прангишвили и др., 1999] Прангишвили И. В., Абрамова Н.А.У Спиридонов В.Ф.,
Коврига С. В., Разбегин В. П. Поиск подходов к решению проблем. — М.:
СИНТЕГ, 1999.
[Пригожий, 1999] Пригожий И. Конец определенности. Время, хаос и новые
законы природы. — Ижевск: ИРТ, 1999.
[Пригожий, 2002] Пригожий И. От существующего к возникающему: Время и
сложность в физических науках. 2-е изд. Пер. с англ. — М.: Едиториал
УРСС, 2002.
[Пригожий и Стенгерс, 2000] Пригожий //., Стенгерс Я. Порядок из хаоса. Новый
диалог человека с природой B изд.): Пер. с англ. — М.: Эдиториал УРСС,
2000.
20*

316
Литература
[Пэранек, 1991] Пэранек Г. В. Распределенный искусственный интеллект//
Искусственный интеллект: применение в интегрированных производственных
системах/ Под ред. Э. Кьюсиака. — М.: Машиностроение, 1991. — С. 238-267.
[Редько, 1994] Редько В. Г. Эволюционный подход к исследованию
естественных и созданию искусственных «биокомпьютеров» // Нейрокомпьютер. —
1994. - №1-2.- С. 38-49.
[Редько, 2001] Редько В. Г. Эволюционная кибернетика. — М.: Наука, 2001.
[РК, 1989] Русский космизм и ноосфера. Ч. 1. — М., 1989.
[Рубинштейн, 1997] Рубинштейн С. Л. Избранные философско-психологические
труды. Основы онтологии, логики и психологии. М.: Наука, 1997.
[Рыбина, 1993] Рыбина Г. В, Принципы создания автоматизированной технологии
проектирования интегрированных экспертных систем // Новости
искусственного интеллекта. — 1993. — №4. — С. 105-116.
[Рыбина и Петухов, 2001] Рыбина Г. В., Петухов Д. М. Модель взаимодействия
интеллектуальных агентов // Труды Международной научно-практической
конференции «Знание — диалог — решение». Т. 2 (KDS-2001, Санкт-
Петербург, 19-22 июня 2001 г.). - СПб: Лань, 2001. — С. 548-553.
[Саати и Керне, 1991] Саати Т., Керне К. Аналитическое планирование.
Организация систем: Пер. с англ. — М.: Радио и связь, 1991.
[Саймон, 1973] Саймон Г. Науки об искусственном: Пер с англ. — М.: Мир, 1972.
[Сергеев, 1991] Сергеев В. М. Искусственный интеллект: опыт философского
осмысления // Будущее искусственного интеллекта. — М.: Наука, 1991. —
С. 216-241.
[Силов, 1991] Силов В. Б. Принятие стратегических решений в нечеткой
обстановке. - М.: ИНПРО-РЕС, 1995.
[Скобелев, 1998] Скобелев П. О. Виртуальные миры и интеллектуальные агенты
для моделирования деятельности компаний // Сборник научных трудов
VI-й Национальной конференции по искусственному интеллекту (Пущино,
5-11 октября 1998). Т.2. - Пущино: РАИИ, 1998. - С. 714-719.
[Скобелев, 2001] Скобелев П. О. Самоорганизация и эволюция в открытых муль-
тиагентных системах для холонических предприятий // Труды
Международного конгресса «Искусственный интеллект в XXI-м веке» (Дивноморск,
3-7 сентября 2001 г.). Т. 1. — М.: Физматлит, 2001. — С. 314-338.
[СмирновА. В. и Шереметов, 1998 и 1999] Смирнов А. В., Шереметов Л. Б. Много-
агентная технология проектирования сложных систем. Ч. 1//Автоматизация
проектирования. — 1998. — №3. Ч. 2//Автоматизация проектирования. —
1999. -№1. -С. 42-46.
[Смирнов В. А., 2001] Смирнов В. А. Логико-философские труды. — М.: Эдиториал
УРСС, 2001.
[Смирнов С. В., 2000] Смирнов С. В. Онтологии в задачах моделирования сложных
систем //Труды И-й международной конференции «Проблемы управления
и моделирования в сложных системах» (Самара, 20—23 июня 2000 г.). —
Самара: Самарский научный центр РАН, 2000. — С. 66-72.
[Стефанюк, 1963] Стефанюк В. Л. Пример задачи на коллективное поведение
двух автоматов // Автоматика и телемеханика. — 1963. — Т. 24, № 6. —
С. 781-784

Литература
317
[Стефанюк, 1989] Стефанюк В. Л. Анализ целесообразности локально
организованных систем методом потоков вероятностей // Модели систем обработки
данных. — М.: Наука, 1989. — С. 33-45.
[Стефанюк, 1997] Стефанюк В. Л. От многоагентных систем к коллективному
поведению // Труды Международного семинара «Распределенный
искусственный интеллект и многоагентные системы» (DAIMAS'97, Санкт-Петербург,
15-18 июня 1997). - С. 327-338.
[СП, 1999] Современная психология: Справочное руководство. — М.: ИНФРА-М,
1999.
[Суходольский, 1998] Суходолъский Г. В. Введение в математико-психологическую
теорию деятельности — СПб: Изд-во СПбУ, 1998.
[Таран, 1997] Таран ТА. О разрешении конфликтов в многоагентных системах
на основе аргументации // Искусственный интеллект (Доценк, Украина). —
1997. -№1-2.-С. 36-50.
[Тарасов, 1986а] Тарасов В. Б. Нечеткие отношения и моделирование открытых
иерархических систем // Математические методы оптимизации и управления
в сложных системах. — Калинин: КГУ, 1986. — С. 3-17.
[Тарасов, 19866] Тарасов В. Б. Нечеткие отношения и психологический синтез
деятельности // Принятие решений (методологические, психологические,
математические аспекты). — Рига: РВВАИУ, 1986. — С. 12-27.
[Тарасов, 1987] Тарасов В. Б. Нечеткие алгебры и формализация экстремальных
принципов операторской деятельности // Формализация экстремальных
принципов операторской деятельности в задачах проектирования систем
ЛА. - М.: МЭИ, 1987. - С. 15-20.
[Тарасов, 1995] Тарасов В. Б. От искусственного интеллекта к искусственной
жизни: новые направления в науках об искусственном // Новости
искусственного интеллекта. — 1995. — №4. — С. 93-117.
[Тарасов, 1996] Тарасов В. Б. Новые стратегии реорганизации и автоматизации
предприятий: на пути к интеллектуальным предприятиям // Новости
искусственного интеллекта. — 1996. — №4. — С. 40-84
[Тарасов, 1997а] Тарасов В. Б. Системно-организационный подход в искусственном
интеллекте// Программные продукты и системы. — 1997. — № 3. — С. 6-13.
[Тарасов, 19976] Тарасов В. Б. Эволюционная семиотика — новое синергетическое
направление в искусственном интеллекте // Искусственный интеллект
(Донецк, Украина). — 1997. — № 1-2. — С. 9-20.
[Тарасов, 1998а] Тарасов В. Б. Агенты, многоагентные системы, виртуальные
сообщества: стратегическое направление в информатике и искусственном
интеллекте // Новости искусственного интеллекта. — 1998. — №2. —
С. 5-63.
[Тарасов, 19986] Тарасов В. Б. Эволюционная семиотика и нечеткие
многоагентные системы — основные теоретические подходы к построению
интеллектуальных организаций // Информационные технологии и вычислительные
системы. — 1998. — № 1. — С. 54-68.
[Тарасов, 1998в] Тарасов В. Б. Искусственная жизнь и нечеткие эволюционные
многоагентные системы — основные теоретические подходы к построе-

318
Литература
нию интеллектуальных организаций // Известия РАН: Теория и системы
управления. — 1998. — №5. — С. 12-23.
[Тарасов, 1998 г] Тарасов В. Б. От реинжиниринга процессов к
биореинжинирингу предприятий: системно-эволюционное проектирование организаций //
Сборник научных трудов 2-й Российской научно-практической
конференции «Реинжиниринг бизнес-процессов на основе современных
информационных технологий» (Москва, 19-20 мая 1998 г.). — М.: МЭСИ, 1998. —
С. 68-82.
[Тарасов, 1999а] Тарасов В. Б. Восходящее и нисходящее проектирование мно-
гоагентных систем // Труды международной конференции «Проблемы
управления и моделирования в сложных системах» (Самара, 14-18
июня 1999). — Самара: Самарский научный центр РАН, 1999. — С. 268-274.
[Тарасов, 19996] Тарасов В. Б. Многоагентные системы и виртуальные
организации // Сборник научных трудов третьей международной школы-семинара
по искусственному интеллекту для студентов и аспирантов (Браславская
школа-99, Браслав, Беларусь, 28 июня-4 июля 1999). — Минск: БГУИР,
1999.-С. 15-45.
[Тарасов, 1999в] Тарасов В. Б. Агентно-ориентированные технологии в
реинжиниринге предприятий // Экономические информационные системы на пороге
XXI-го века. Сборник докладов Российской научной конференции
(Москва, 19-20 октября 1999 г.). - М.: МЭСИ, 1999. - С. 33-42.
[Тарасов, 2000] Тарасов В. Б. Нетрадиционные и гибридные логики в
моделировании интеллектуальных агентов. I. Искусственные деятели, интенциональ-
ные характеристики и пути их моделирования // Известия РАН: Теория
и системы управления. — 2000. — №5. — С. 5-17.
[Тарасов, 2001а] Тарасов В. Б. Анализ и моделирование НЕ-факторов на полярных
шкалах // Интегрированные модели и мягкие вычисления в
искусственном интеллекте Сборник трудов Международного научно-практического
семинара (Коломна, 17-18 мая 2001 г.). — М.: Наука. Физматлит, 2001. —
С. 65-71.
[Тарасов, 20016] Тарасов В. Б. Синергетические проблемы в искусственном
интеллекте // Труды Международной научно-практической конференции
«Знание-диалог-решение». Т. 2 (KDS-2001, Санкт-Петербург, 19-22 июня
2001 г.). - СПб: Лань, 2001. - С. 594-602.
[Тарский, 2000] ТарскийА. Введение в логику и методологию дедуктивных наук. —
Биробиджан: ИП «Тривиум», 2000.
[Тейз и др., 1990] Тейз А., Грибомон Я, Луи Ж. и др. Логический подход к
искусственному интеллекту: от классической логики к логическому
программированию: Пер. с франц. — М.: Мир, 1990.
[Тейз и др., 1998] Тейз А., Грибомон Я, Юлен Г. и др. Логический подход
к искусственному интеллекту: От модальной логики к логике баз данных:
Пер с франц. — М: Мир, 1998.
[Тейяр де Шарден, 1987] Тейяр де Шарден Я. Феномен человека. — М.: Наука,
1987.
[Тельнов, 2001] Многоагентная система управления логистическими процессами
виртуального предприятия // Интегрированные модели и мягкие
вычисления в искусственном интеллекте Сборник трудов Международного научно-

Литература
319
практического семинара (Коломна, 17-18 мая 2001 г.). — М.: Наука.
Физматлит, 2001. — С. 270-272.
[Тимофеев, 1978] Тимофеев А. В. Роботы и искусственный интеллект. — М.: Наука,
1978.
[Тихомиров, 1984] Тихомиров О. К. Психология мышления. — М.: Изд-во МГУ,
1984.
[Трахтенгерц, 1998а] Трахтенгерц Э.А. Взаимодействие агентов в многоагентных
системах // Автоматика и телемеханика. — 1998. — №9. — С. 3-52.
[Трахтенгерц, 19986] Трахтенгерц Э.А. Многоагентные системы поддержки
принятия решений // Теория и системы управления. — 1998. — № 5. —
С. 106-122.
[Трахтенгерц, 1999] Трахтенгерц Э.А. Агентно-ориентированные
информационные технологии управления проектами. Препринт. — М.: ИПУ РАН, 1999.
[Турчин, 1993] Турчин В.Ф. Феномен науки. Кибернетический подход к
эволюции. — М.: Наука, 1993.
[Уинстон, 1980] Уинстон П. Искусственный интеллект: Пер. с англ. — М.: Мир,
1980.
[Ульянов, 1990] Ульянов С. В. Модели квантово-релятивистских нечетких логик
в интеллектуальных системах // Труды П-й Всесоюзной конференции
по искусственному интеллекту (Минск, октябрь 1990). — Мн., 1990. —
С. 81-86.
[Ульянов и Литвинцева, 1993] Ульянов С. В., Литвинцева Л. В. Псевдофизические
логики для интеллектуальных систем принятия решений: пространственно-
временные модели // Проблемы обработки информации в робототехниче-
ских системах. — МтгИФТП, 1993. — С. 92-118.
[Финн, 1996] Финн В. К. Об одном варианте логики аргументации //
Научно-техническая информация. Серия 2. Информационные процессы и системы. —
1996. -№5-6. -С. 3-19.
[Финн, 1999] Финн В. К. Философские проблемы логики интеллектуальных
систем // Новости искусственного интеллекта. — 1999. — № 1. — С. 36-51.
[Финн, 2001] Финн В. К. Интеллектуальные системы и общество. — М.: РГГУ,
2001.
[Флоренский, 1990] Флоренский П. А. Сочинения. В 2-х томах. — М.:, 1990.
[Фогель и др., 1969] Фогель Л.у Оуэне А., Уолш М. Искусственный интеллект
и эволюционное моделирование: Пер. с англ. — М.: Мир, 1969.
[Фрейд, 1991] Фрейд 3. О клиническом психоанализе. Избранные сочинения. —
М.: Медицина, 1991.
[Фрид, 1979] Фрид Э. Элементарное введение в абстрактную алгебру: Пер. с вен-
гер. — М.: Мир, 1979.
[Хайдеггер, 1997] Хайдеггер М. Бытие и время: Пер. с нем. — М.: Ad Marginem,
1997.
[Хакен, 1985] Хакен Г. Синергетика. Иерархия неустойчивостей в
самоорганизующихся системах и устройствах: Пер. с англ. — М.: Мир, 1985
[Хакен, 1991] Хакен Г. Информация и самоорганизация: Макроскопический
подход к сложным системам: Пер. с англ. — М.: Мир, 1991.

320 Литература
[Холл и Фейджин, 1969] Холл А. Д., Фейджин Р. ?.. Определение понятия
системы // Исследования по общей теории систем. Сборник переводов. — М.:
Прогресс, 1969. - С. 252-282.
[Холодная, 1997] Холодная М.А. Психология интеллекта: парадоксы
исследования. — Томск: Изд-во Томского университета, 1997.
[Хорошевский, 1999] Хорошевский В. Ф. Поведение интеллектуальных агентов:
модели и методы реализации // Труды 4-го Международного семинара
по прикладной семиотике, семиотическому и интеллектуальному
управлению (ASC/IC99). - Переславль-Залесский: РАИИ, 1999. — С. 5-20.
[Хрестоматия, 2000] Хрестоматия по философии. — М., 2000.
[Хьюитт, 1987] Хьюитпг К. Открытые системы // Реальность и прогнозы
искусственного интеллекта. — М.: Мир, 1987. — С. 85-102.
[Цетлин, 1961] Цетлин М.Л. О поведении конечных автоматов в случайных
средах // Автоматика и телемеханика. — 1961. — Т. 22, № 10. — С. 1345-1354.
[Цетлин, 1969] Цетлин М.Л. Исследования по теории автоматов и моделированию
биологических систем. — М.: Наука, 1969.
[Шадриков, 1996] Шадриков В. Д. Психология деятельности и способности
человека. — М.: Логос, 1996.
[Швецов, 1998] Швецов И. Е., Нестеренко Т. В., Старовит С. А. ТАО — технология
активных объектов для разработки мультиагентных систем //
Информационные технологии и вычислительные системы. — 1998. — № 1. — С. 35-43.
[Шеннон, 1963] Шеннон К. Работы по теории информации и кибернетике. — М.:
ИЛ, 1963.
[Шульц Д. П. и С. Э., 1998] Шульц Д. П., Шульц С. Э. История современной
психологии: Пер. с англ. — СПб: Евразия, 1998.
[Щедровицкий, 1998] Щедровицкий Г. П. Исходные представления и
категориальные средства теории деятельности // Избранные труды. -— М.: ШКП,
1995.- С.232-298.
[ЭЭЛСН, 2000] Эволюционная эпистемология и логика социальных наук. — М.:
Эдиториал УРСС, 2000.
[Юдин, 1997] Юдин Э.Г. Методология науки. Системность. Деятельность. — М.:
Эдиториал УРСС, 1997.
[Якобсон, 1975] Якобсон Р. Лингвистика и поэтика // Структурализм: за и
против. — М.: Наука, 1975.
[Ярошевский, 1985] Ярошевский М. Г. История психологии. — М.: Мысль, 1985.
[Ackley and Littman, 1992] Ackley D., Littman M. Interactions Between Learning and
Evolution // Artificial Life II: Proceedings of the Second Artificial Life Workshop /
Ed. by С Langton, C.Taylor, J. D. Farmer and S. Rasmussen Redwood City CA:
Addison-Wesley, 1992. - P. 487-509.
[Adorni and Poggi, 1993] Adorni G., PoggiA. An Object-Oriented Language for Distributed
Artificial Intelligence // International Journal of Man-Machine Studies. —
1993. - Vol.38, №3. - P.435-453.
[Agha, 1986] Agha G. Actors: a Model of Concurrent Computation for Distributed
Systems. — Cambridge MA: MIT Press, 1986.

Литература
321
[Agre, 1995] Agre P. Computational Research on Interaction and Agency // Artificial
Intelligence. - 1995. - Vol.72, № 1/2. - P. 1-52
[Agre and Chapman, 1988] Agre P., Chapman D. Pengi: an Implementation of a Theory of
Activity// Proceedings of the 6th National Conference on Artificial Intelligence. —
P. 268-272.
[Allen and Perrault, 1980] Allen J. P, Perrault С R. Analyzing Intentions as Utterances //
Artificial Intelligence. — 1980. — Vol. 15.
[Ambroszkiewicz, 1999] Ambroszkiewicz S. Agent Virtual Organizations Within the
Framework of Network Computing // Proceedings of the First International
Workshop of Central and Eastern Europe on Multi-Agent Systems (CEEMAS'99,
St. Petersburg, June 1-4, 1999). — P. 75-84.
[Ambroszkiewicz and Cetnarowicz., 1999] Ambroszkiewicz S., Cetnarowicz. K. Operational
Agent: A Concept of Middle Agent Architecture // Proceedings of the First
International Workshop of Central and Eastern Europe on Multi-Agent Systems
(CEEMAS,99, St. Petersburg, June 1-4, 1999). - P. 12-20.
[Ambroszkiewicz et al., 1997] Ambroszkiewicz S., Bylka S., Komar J. Knowledge
in a Dynamic Model of Multi-Agent System // Proceedings of the
International Workshop "Distributed Artificial Intelligence and Multi-Agent Systems"
(DAIMAS'97, St. Petersburg, Russia, June 15-18,1997). SPIIRAS: St Petersburg,
1997. - P. 44-53.
[Austin, 1962] Austin J. L. How to Do Things with Words. — New York: Clarendon
Press, 1962.
[Avouris and Gasser, 1992] Avouris—ALM., Gasser L. (Eds.). Distributed Artificial
Intelligence: Theory and Practice. — Luxemburg: ECSC, 1992.
[Bachimont, 1995] Bachimont B. Artificial Intelligence as the Science of Intentional:
a Proposal // Proceedings of the First World Conference on the Fundamentals for
Artificial Intelligence (Paris, France, July 1-5, 1991). — Paris: Masson, 1991. —
P. 57-71.
[Baldwin and Yadav, 1995] Baldwin D., YadavS. The Process of Research Investigation in
Al — an Unified View // IEEE Transactions on Systems, Man and Cybernetics. —
1995. - Vol.25, №5. -P.852-861.
[Barbuceanu and Fox, 1996] Barbuceanu M., Fox M. S. The Architecture of Agent
Building Shell // Lectures Notes in Al. Vol. 1037. Intelligent Agents II / Ed. by
M.Wooldridge, J.-P. Mueller, M.Tambe. — Berlin: Springer Verlag, 1996.
[Barnatt, 1994] Barnatt C. Office Space, Cyberspace and Virtual Organization // Journal
of General Management. - 1994. — Vol.20, №4. — P. 78-97.
[Bedau et al., 2000] Bedau M.A., McCaskill J.S., Packard N. Я., Rasmussen S. Artificial
Life VII. — Cambridge MA: MIT Press, 2000.
[Berlekamp et al., 1982] Berlekamp E. /?., Convay J. #., Guy R. K. Winning Ways for Your
Mathematical Place. Vol.2. — London: Academic Press, 1982.
[Bernoux, 1985] Bernoux P. La sociologie des organizations. — Paris: Seuil, 1985.
[Berthier, 1994] Berthier D. L'agent rationnel abstrait, objet de PIntelligence Artificielle //
Revue d'Intelligence Artificielle. — 1994. — Vol.8. — №4. — P.327-359.
[Blanning and King, 1996] Blanning R., W., King D. R. Organizational Intelligence: Al in
Organizational Design, Modeling and Control. — Washington: IEEE Computer
Society Press, 1996.

322
Литература
[Bobrow, 1990] Bobrow D. Dimension of Interaction //AI Magazine. — 1990. — Vol. 12,
№ 3. - P. 64-80.
[Bonabeau and Theraulaz, 1994] Bonabeau F.y Theraulaz G. (Eds.) Intelligence
collective. — Paris: Hermes, 1994.
[Bond and Gasser, 1988] Bond A, Gasser L. (Eds.) Readings in Distributed Artificial
Intelligence. — New York: Morgan Kaufman, 1988.
[Brainov, 1996] Brainov S. Altruistic Cooperation Between Self-interested Agents //
Proceedings of ECAP96. - P. 519-523.
[Braspenning, 1997] Braspenning P. Plant-like, Animal-like and Humanoid Agents and
Corresponding Multi-Agent Systems// Proceedings of the International Workshop
"Distributed Artificial Intelligence and Multi-Agent Systems" (DAIMAS'97,
St. Petersburg, Russia, June 15-18, 1997). — P. 64-77.
[Bratman, 1987] Bratman M. Intentions, Plans, and Practical Reason. — Harvard:
Harvard University Press, 1987.
[Brooks, 1986] Brooks R. A Robust Layered Control System for a Mobile Robot// IEEE
Journal of Robotics and Automation. — 1986. — Vol.2. — № 1. — P. 14-23.
[Brooks, 1991] Brooks R. Intelligence Without Representation//Artificial Intelligence. —
1991.- Vol.47. - P. 139-159.
[Burkhard, 1993] Burkhard H. -D. Liveness and Fairness Properties in Multi-Agent
Systems // Proceedings of the 13th International Joint Conference on Artificial
Intelligence (Chambery, France, 1993). Vol. 1. — P. 325-330.
[Castelfranchi, 1990] Castelfranchi C. Social Power: a Point Missed in Multi-Agent
Systems, DAI and HCI // Decentralized Artificial Intelligence / Ed. by Y. Demazeau,
J.-P. Mullen — Amsterdam: Elsevier North-Holland, 1990. — P. 49-62.
[Castelfranchi et al., 1991] Castelfranchi C, Micelli M., Cesta A. Dependence Relations
Among Autonomous Agents // Decentralized AI III / Ed. by Y. Demazeau and
J. P. Muller. — Amsterdam: Elsevier North-Holland, 1991
[Castelfranchi and Werner, 1992] Castelfranchi С, Werner E. Artificial Social Systems. —
Berlin: Springer, 1992.
[Cetnarovicz et al., 1997] Cetnarovicz E., Nawarecki ?., Cetnarowicz K. Agent-Oriented
Technology of Decentralized Systems Based on the M-agent Architecture //
Preprints of IFAC/IFIP Conference on Management and Control of Production
and Logistics (MCPL'97, Campinas, SP, Brazil, August 31-September 3 1997).
Vol.2.- P.486-491.
[Chaib-Draa et al., 1992] Chaib-Draa В., Moulin Л/., Mandiau R., Millot P. Trends in
Distributed Artificial Intelligence // Artificial Intelligence Review. — 1992. —
Vol.6. - P.35-66.
[Cohen and Levesque, 1990] Cohen P. R. and Levesque H.J. Intention is Choice with
Commitment // Artificial Intelligence. — 1990. — Vol.42. — P.213-262.
[Collings and Jefferson, 1992] Collings R.J., Jefferson D. R. AntFarm: Towards Simulated
Evolution // Artificial Life II: Proceedings of the Second Artificial Life Workshop /
Ed. by С Langton, C.Taylor, J. D. Farmer and S. Rasmussen Redwood City CA:
Addison-Wesley, 1992. - P. 579-601.
[Conteetal., 1991] ConteR., MiceliM., Castelfranchi С Limits and Levels of Cooperation:
Disentangling Various Types of Prosocial Interaction // Distributed AI II / Ed.
by Y. Demazeau and J.-P. Muller. — Amsterdam: North-Holland, 1991.

Литература
323
[Crozier and Serieyx, 1994] Crozier M.y Serieyx H. Du management panique a l'entreprise
du XXI siecle. — Paris: Maxima, 1994.
[Davenport, 1993] Davenport T. Process Innovation, Re-Engineering Work through
Information Technology. — Boston MA: Harvard Business, 1993.
[Davidson, 1971] Davidson D. Agency // Agent, Action and Reason. — Toronto:
University of Toronto Press, 1971.
[Davis and Smith, 1983] Davis /?., Smith R. Negotiation as a Metaphor for Distributed
Problem Solving // Artificial Intelligence. — 1983. — Vol. 20. — P. 63-109.
[Decker, 1987] Decker K. Distributed Problem Solving Techniques: A Survey // IEEE
Transactions on Systems, Man, and Cybernetics. — 1987. — Vol. 17, №5.
[Decker and Lesser, 1995] Decker K. S., Lesser V. R. Designing a Family of Coordination
Algorithms // Proceedings of the First International Conference on Multi-Agent
Systems (San-Francisco, June 12-14, 1995). — Cambridge: The MIT Press,
1995. - P. 73-80.
[Demazeau and Costa, 1996] Demazeau X, Costa А. С R. Populations and Organizations
in Open-Multi-Agent Systems// Proceedings of the First Simposium on Parallel
and Distributed AI (Hyderabad, India, July 6-9, 1996).
[Demazeau and Muller, 1990] Demazeau X, Muller J.-R (Ed.) Decentralized Artificial
Intelligence. — Amsterdam: Elsevier North-Holland, 1990.
[Demazeau and Muller, 1991] Demazeau~?^JWuller J.-R (Ed.) Decentralized Artificial
Intelligence II. — Amsterdam: ElsevierNorth- Holland, 1991.
[Dennett, 1971] Dennett D.C. Intentional systems. Journal of Philosophy. — 1971. —
Vol.68.- P.87-106.
[Deneubourget al., 1993] DeneubourgJ.-L. etai Self-Organization and Life: from Simple
Rules to Global Complexity // Proceedings of Second European Conference on
Artificial Life (Bruxelles, 1993).
[Dinsmore, 1992] DinsmoreJ. (Ed.) The Symbolic and Connectionist Paradigms: Closing
the Gap. — Hillsdale N. J.: Lawrence Erlbaum Association, 1992.
[Dong et al., 1995] Dong /., Shi X, Liu H. A Holonic Manufacturing Framework
for Concurrent Engineering and Enterprise Integration // Proceedings of the
International Engineering Conference on Concurrent Engineering (Washington,
USA, 1995). - P. 151-161.
[Drogoul and Ferber, 1994] Drogoul A., Ferber J. Multi-Agent Simulation as a Tool
for Studying Emergent Processes in Societies // Simulating Societies: Computer
Simulation of Social Phenomena / Ed. by N.Gilbert and J. Doran. UCL Press,
1994. - P. 127-142.
[Drucker, 1986] Drucker P. Innovation and Entrepreneurship. — New York: Harper and
Row, 1985.
[Dubinskas, 1993] Dubinskas F. Virtual Organizations: Computer Conferencing and
Organizational Design // Journal of Organizational Computing. — 1993. —
Vol.3, №4.- P.389-416.
[Dunin-Keplicz and Treuer, 1994] Dunin-Keplicz В., Treuer J. Compositional
Formal Specification of Multi-Agent System // Intelligent Agents. Proceeedings
of ECAI-94 Workshop on Agent Theories, Architecture and Languages
(Amsterdam, The Netherlands, August 8-9, 1994) / Ed. by M. J. Wooldridge and
N. R.Jennings. — Berlin: Springer Verlag, 1994. — P. 102-117.

324
Литература
[Dunning and Medina-Mora, 1995] Dunning P., Medina-Mora R. Completing the
Loops // Interfaces. - 1995. - Vol.25, №3. - P.42-57.
[Durfee, 1988] Durfee E. H, Coordination in Distributed Problem Solvers. — Boston
MA: Kluver Academic Publishers, 1988.
[Durfee and Lesser, 1991] Durfee E. #., Lesser V. R. Global Partial Planning: a
Coordination Framework for Distributed Hypothesis // IEEE Transactions on Systems,
Man and Cybernetics. — 1991. — Vol.21. — №6.
[Durfee et al., 1987] Durfee E. #., Lesser V. /?., Corkill D. D. Coherent Cooperation
Among Communicating Problem Solvers // IEEE Transactions on Computers. —
1987. -Vol.36. - P. 1275-1291.
[Durfee et al., 1989] Durfee E. #., Lesser К /?., Corkill D. D. // The Handbook of Al.
Vol.4. N.Y.: Academic Press, 1989.
[Edosomwan, 1996] Edosomwan J. A. Organizational Transformation and Process Reengi-
neering. — Delray Beach, Florida: St. Lucie Press, 1996
[Epstein and Axtell, 1996] Epstein /., Axtell R. Growing Artificial Societies: Social
Science from the Bottom Up. — Cambridge MA: MIT Press, 1996.
[Erman et al., 1980] Erman L., Hayes-Roth F., Lesser K, Reddy D. The HEARSAY-II
Speech Understanding System: Integrating Knowledge to Resolve Uncertainty //
ACM Computers Surveys. — Vol. 12. — 1980.
[Errico and Aiello, 1996] Errico /?., Aiello L. Intelligent Agents in the Situation
Calculus: an Application to User Modelling // Proceedings of International
Conference on Formal and Applied Practical Reasoning / Ed. by D. M. Gabbay
and H.J.Ohldach. — Berlin: Springer Verlag, 1996. - P. 126-140.
[Etzioni and Weld, 1995] Etzioni 0., Weld D. Intelligent Agents on the Internet // IEEE
Expert. - 1995. - №4. - P. 44-47.
[Fagin et al., 1995] Fagin /?., HalpernJ., Moses K, Vardi M. Reasoning about Knowledge.
Cambridge MA: MIT Press, 1995.
[Fanabashi et al., 1995] Fanabashi Л/., Maeda A., Morooka K, Mori K. Fuzzy and Neural
Hybrid Expert Systems: Synergetic Al // IEEE Expert. 1995 August. — P. 32-40.
[Ferber, 1995] Ferber J. Les systemes multi-agents. Vers une intelligence collective. —
Paris: InterEditions, 1995.
[Ferber and Jacopin, 1991] Ferber J., Jacopin E. The Framework of Eco-Problem
Solving// Decentralized Artificial Intelligence II / Ed. by Y. Demazeau, J.-P. Mullen —
Amsterdam: Elsevier North-Holland, 1991.
[Ferber and Magnin, 1994] Ferber J., Magnin L. Conception des systemes multi-agents
par composants modulaires et reseaux de Petri // Actes des journees du PRC-IA,
Montpellier.
[Ferguson, 1994] Ferguson LA. Integrated Control and Coordinated Behaviour: a Case
for Agent Models // Intelligent Agents. Proceeedings of ECAI-94 Workshop
on Agent Theories, Architecture and Languages (Amsterdam, The Netherlands,
August 8-9, 1994) / Ed. by M. J. Wooldridge and N.R.Jennings. — Berlin:
Springer Verlag, 1994. - P. 203-218.
[Finin et al., 1997] Finin Г., Labrou K, MayfleldJ.
http: // www. cs. umbc. edu/agents/introduction/kqmlacl.ps // Software Agents /
Ed. by J. Bradshaw. Cambridge MA: MIT Press, 1997

Литература
325
[Fisher et al., 1996] Fisher K., Muller J.-P, Heimig A, Scheer A.-W. Intelligent Agents
in Virtual Enterprises // Proceedings of the First International Conference on
the Practical Applications of Intelligent Agents and Multi-Agent Technology
(London, UK). - P. 205-224.
[Fleury et al., 1996] Fleury G, Goujon J.-Y, Gourgand M., Lacomme P. Multi-Agent
Simulation for Planification of Manufacturing Systems // Computer Integrated
Manufacturing and Automation Technology (CIMAT'96. Grenoble, France, May
29-31, 1996).- P. 148-153.
[Fox, 1981] Fox M. An Organizational View of Distributed Systems// IEEE Transactions
on Systems, Man and Cybernetics. — 1981. — Vol. 11, № 1. — P. 70-79.
[Franklin and Graesser, 1996] Franklin S., GraesserA. Is It an Agent, or Just a Program? //
Intelligent Agents III. Proceedings of ECAI-96 Workshop on Agent Theories,
Architectures and Languages (ATAL, Budapest, The Hungary, August 12-13,
1996) / Ed. by J.-P. Muller, M.Wooldridge, N.Jennings. — Berlin: Springer
Verlag, 1996. - P. 21-35.
[Fujita et al., 1996] Fujita ?., Sugawara K.y Kinoshita Т., Shiratori N. An Approach
To Developing Human-Agent SymbiotiCySpace // Proceedings of Second Joint
Conference on Knowledge-Based Software Engineering (JCKBSE'96, Sozopol,
Bulgaria, September 21-22, 1996). -P. 11-18.
[Gailbraith, 1977] Gailbraith J. Organization Design. — New York: Addison-Wesley,
1977.
[Galliers, 1990] Galliers J. R. The Positive Role of Conflict in Cooperative Multi-
Agent Systems // Decentralized Artificial Intelligence / Ed. by Y. Demazeau,
J.-P. Muller. — Amsterdam: Elsevier North-Holland, 1990. — P. 33-46.
[Gasser, 1991] Gasser L. Social Conceptions of Knowledge and Action: DAI Foundations
and Open Systems Semantics // Artificial Intelligence. — 1991. — Vol.47. —
№1-3. - P. 107-138.
[Gasser, 1992] Gasser L. An overview of DAI // Distributed Artificial Intelligence:
Theory and Praxis / Ed. by L. Gasser and N. M. Avouris. — Amsterdam: Kluwer
Academic Publishers, 1992.
[Gasser etal., 1987] Gasser A., Braganza C, Herman N. MACE: a Flexible Testbed for
Distributed Al Research// Distributed Artificial Intelligence/ Ed. by M. N. Huhns. —
London: Pitman, 1987. - P. 119-152.
[Genelot, 1992] Genelot D. Manager dans la complexite. — Paris: INSEP Editions, 1992.
[Genesereth and Ketchpel, 1994] Genesereth M. /?., Ketchpel S. P. Software Agents //
Communications of the ACM. — 1994. — Vol. 37. — №7. — P. 48-53.
[GeorgefT and Rao, 1995] Georgeff M. P., Rao A. S. BDI Agents: From Theory to
Practice // Proceedings of the First International Conference on Multi-Agent
Systems (ICMAS'95) / Ed. by V. Lesser). — AAAI Press/The MIT Press. —
P.312-319.
[Goguen, 1967] Goguen J. L-Fuzzy Sets // Journal of Mathematical Analysis and
Applications. — 1967. - Vol. 18. - P. 175-174.
[Goldman et al., 1995] Goldman S. A., Nagel R. N.y Preiss K. Agile Competitors and
Virtual Organizations: Strategies for Enriching the Customer. — New York: Van
Nostrand Reinhold, 1995.

326
Литература
[Gouillart and Kelly, 1995] Gouillart F, Kelly J. Transforming the Organization. —
NewYork: McGraw-Hill, 1995.
[Grice, 1977] Grice H. P. Logic and Conversation // Syntax and Semantics. — 1977. —
Vol.3. - P.41-58.
[Gruber, 1993] Gruber T. R. A Translation Approach to Portable Ontologies// Knowledge
Acquisition. - 1993. - №5 B). - P. 199-220.
[Guarino and Giaretta, 1995] Guarino N., Giaretta P. Ontologies and Knowledge Bases.
Towards a Terminological Clarification // Towards Very Large Knowledge Bases /
Ed. by N.J. I. Mars. — Amsterdam: IOS Press, 1995.
[Haddadi, 1996] Haddadi A. Communication and Cooperation in Agent Systems:
A Pragmatic Theory. — Berlin: Springer Verlag, 1996.
[Hammer and Champy, 1993] Hammer M., ChampyJ. Re-Engineering the Corporation:
a Manifesto for Business Revolution. — N. Y: Harper Collins, 1993.
[Нага et al., 1996] Hara H., Kinoshita Т., Sugawara K., Shiratori N. Active Software
Components Based on an Agent Model // Proceedings of Second Joint Conference
on Knowledge-Based Software Engeneering (JCKBSE'96, Sozopol, Bulgaria,
September 21-22, 1996). - P. 3-10.
[Hardy and Redivo, 1994] Hardy C, Redivo F. Power and Organization Development:
a Framework for Organizational Change // Journal of General Management. —
1994. - Vol.20, №2. - P.29-41.
[Hayes-Roth, 1985] Hayes-Roth B. A Blackboard Architecture for Control // Artificial
Intelligence. - 1985. - Vol.26. - P.251-321.
[Hayes-Roth, 1995] Hayes-Roth B. An Architecture for Adaptive Intelligent Systems //
Artificial Intelligence. -1995. - Vol.72. - P.329-365.
[Heylighen, 2001] Heylighen F. From Intelligent Networks to the Global Brain:
Evolutionary Social Organization through Knowledge Technology// Proceedings of The
First Global Brain Workshop (GBrainO) (Brussels, July 2001) http: // pespmcl.
vub. ac. be/Conf/GB-0. html
[Heudin, 1994] Heudin J. -C. La vie artificielle. — Paris: Hermes, 1994.
[Hewitt, 1977] Hemtt C. Viewing Control Structures as Patterns of Message Passing //
Artificial Intelligence. -1977. - Vol.8, №3. - P.323-364.
[Hewitt, 1991] Hewitt C. Open Information Systems Semantics for Distributed Artificial
Intelligence//Artificial Intelligence. — 1991. — Vol.47, № 1-3. — P. 79-106.
[Hirota and Pedrycz, 1994] Hirota K., Pedrycz W. A Distributed Model of Fuzzy Set
Connectives // Fuzzy Sets and Systems. — 1994. — Vol.68. — P. 157-170.
[Hoffman, 1991] Hoffman A. G. On the Principles of Intelligence // Proceedings of the
First World Conference on the Fundamentals for Artificial Intelligence (Paris,
France, July 1-5, 1991). Paris: Masson, 1991. - P. 257-266.
[Hofstadter, 1995] Hofstadter D. Fluide Concepts and Creative Analogies. — NewYork:
Basic Books, 1995.
[Holland, 1975] Holland, J. H. Adaptation in Natural and Artificial Systems. -Ann
Arbor: The University of Michigan Press, 1975
[Huhns, 1987] Huhns M. N. (Ed.). Distributed Artificial Intelligence. — London: Pitman,
1987.

Литература
327
[Iglesias et al., 1999] Iglesias C.A., Garijo Л/., Gonzales J. C. A Survey of Agent-Oriented
Methodologies // Intelligent Agents V. Proceedings of the Fifth International
Workshop on Agent Theories, Architectures and Alnguages (ATAL-98). Lecture
Notes in Artificial Intellegence. — Heidelberg: Springer-Verlag, 1999.
[Ishida, 1989] Ishida T. CoCO: a Multiagent System for Concurrent and Cooperative
Operation Tasks // Proceedings of the 9th Distributed Artificial Intelligence
Workshop / Ed. by M. Benda. — Orcas Island, 1989.
[Jagannathan et al., 1989] Jagannathan K, Dodhiawala /?., Baum L. Blackboard
Architectures and Applications. — New York: Academic Press, 1989.
[Janson and Frenzel, 1993] Janson D.J., Frenzel J. F. Training Product Unit Neural
Networks with Genetic Algorithms // IEEE Expert. — October 1993. — P. 26-33.
[Jennings, 1995] Jennings N. R. Controlling Cooperative Problem Solving in Industrial
Multi-Agent Systems Using Joint Intentions // Artificial Intelligence. — 1995. —
Vol.75, №2.- P. 195-240
[Jennings, 1996] Jennings N. R. Coordination Techniques for Distributed Artificial
Intelligence // Foundations of Distributed Artificial Intelligence / Ed. by G. M. P. O'Hare
and N. R.Jennings. — New York: Wiley and Sons, 1996.
[Jennings et al., 1996] Jennings N., Paratin P., Johnson M. Using Intelligent Agents to
Manage Business Processes// Proceedings of the First International Conference
on the Practical Applications of Intelligent Agents aiid Multi-Agent Technology
(London, 1996). - P. 345-376.
[Jennings and Wooldridge, 1998] Jennings N. /?., Wooldridge M. Applications of Agent
Technology // Agent Technology: Foundations, Applications and Markets / Ed.
by N. R.Jennings and M. Wooldridge. — Berlin: Springer Verlag, 1998.
[Keller et al., 1992] Keller J. M., Yager R. /?., Tahani H. Neural Network Implementation
of Fuzzy Logic // Fuzzy Sets and Systems. — 1992. — Vol.45, № 1. — P. 1-12.
[Khoroshevsky and Maikevich, 1999] Khoroshevsky V. F. and Maikevich N. V.
Intelligent Processing of Web Resources: Ontology-Based Approach and Multi-Agent
Support // Proceedings of the First International Workshop of Central and
Eastern Europe on Multi-Agent Systems (CEEMAS'99, St. Petersburg, June 1-4,
1999). - P. 124-138.
[King, 1995] King J. A. Intelligent Agents: Bringing Good Things to Life//AI Expert. —
1995. - February. - P. 17-19.
[Kinny, 1999] Kinny D. The AGENTIS Agent Interaction Model // Lecture Notes in
Artificial Intelligence. Intelligent Agents V. Proceedings of the Fifth International
Workshop on Agent Theories, Architectures, and Languages (ATAL-98) / Ed. by
J. P. Muller, M. P. Singh, and A. S. Rao. — Berlin: Springer-Verlag, 1999
[Kirsh, 1991] Kirsh D. Foundations of Al: the Big Issues // Artificial Intelligence. —
1991. - Vol.47, № 1-3. - P.3-30.
[Koestler, 1989] Koestler A. The Ghost in the Machine. — New York: Arkana Books,
1989.
[Konolige and Pollack, 1993] Konolige K, Pollack M. A Representationalist Theory of
Intention // Proceedings of the 13th International Joint Conference on Artificial
Intelligence (Chambery, France, 1993). Vol. 1. — P. 390-395.
[Kornfeld, 1979] Kornfeld W. ETHER: a Parallel Problem Solving System // Proceedings
of the 6th International Joint Conference on Artificial Intelligence, 1979.

328
Литература
[Kornfeld and Hewitt, 1981] Kornfeld W., Hewitt С The Scientific Community
Metaphor// IEEE Transactions on Systems, Man and Cybernetics. — 1981. —
Vol. SMC-11, № 1. — P. 24-33.
[Kosko, 1992] Kosko B. Neural Networks and Fuzzy Systems. — Englewood Cliffs:
Prentice Hall, 1992.
[Kouiss et al., 1997] Kouiss K., Pierreval #., Mebarki N. Using Multi-Agent Architecture
in FMS for Dynamic Scheduling // Journal of Intelligent Manufacturing. —
1997.- Vol.8, №1. - P.41-49.
[Langton, 1988] Langton C. (Ed.). Artificial Life. — New York: Addison-Wesley, 1988.
[Langton and Shimohara, 1996] Artificial Life V / Ed. by С Langton, T. Shimohara. —
Cambridge MA: MIT PRESS, 1996.
[Le Moigne, 1983] Le Moigne J.-L. Theorie du systeme general. — Paris: PUF, 1983.
[Lenat, 1975] Lenat D. BEINGS: Knowledge as Interacting Experts // Proc. of the 1975
IJCAI Conference, 1975. - P. 126-133.
[Lesser and Corkill, 1983] Lesser V., Corkill D. The Distributed Vehicle Monitoring
Testbed: a Tool for Investigating Distributed Problem Solving Networks // Al
Magazine. - 1983. - Vol.4, №3. - P. 15-33.
[Levin, 1936] Levin K. Principles of Topological Psychology. — N. Y: Wiley, 1936.
[Liu, 1983] Liu M. Approche sociotechnique de l'organisation. — Paris: Les Editions
d'Organisation, 1983.
[Livet, 1994] Livet, P. La communaute virtuelle. — Paris: Editions de Г Eclat, 1994.
[Lussato, 1977] Lussato B. Introduction critique aux theories d'organisation. — Paris:
Dunod, 1977.
[Maes, 1994] Maes P. Agent That Reduces Work and Information Overload //
Communications of the ACM. — 1994. — Vol.37. — №7.
[Maes, 1995] Maes P. Artificial Life Meets Entertainment: Life Like Autonomous
Agents//Communication of the ACM. — 1995. — Vol. 38, № 11. — P. 108-114.
[Maes and Nardi, 1988] Maes P. and Nardi D. (Eds.). Meta-Level Architectures and
Reflexion. — Amsterdam: Elsevier North-Holland, 1988.
[Mallonas, 1994] Mallonas M. Swarms, Phase Transitions and Collective Intelligence //
Artificial Life HI / Ed. by С Langton. -New York: Addison Wesley, 1994.
[Malone and Crowston, 1994] Malone T. W., Crowston K. The Interdisciplinary Study
of Coordination // ACM Computer Surveys. — 1994. — Vol.26, № 1. —
P. 87-119.
[Mandelbrot, 1977] Mandelbrot B. The Fractal Geometry of Nature. — New York:
W. H. Freeman and Company, 1977.
[Mandiau et al., 1991] Mandiau /?., Chaib-Draa В., LibertG., Millot P. Collaborative Work:
a Language-Action Perspective // Proceedings of the First World Conference on
the Fundamentals for Artificial Intelligence (Paris, France, July 1-5, 1991). Paris:
Masson, 1991.
[March and Simon, 1985] March J. G., Simon И.А. Organizations. — New York: J.Wiley
and Sons, 1985.
[Maruichi et al., 1990] Maruichi Т., Ichikawa M., Tokoro M. Modeling Autonomous
Agents and Their Groups // Decentralized Al / Ed. by Y. Demazeau and
J.-P. Muller. — Amsterdam: Elsevier North-Holland, 1990.

Литература
329
[Maturana and Varela, 1980] Maturana U., Varela F. Autopoiesis and Cognition: the
Realization of Living. — Dordrecht: Reidel, 1980.
[Meyer and Wilson, 1991] Meyer J. A., Wilson S. (Ed.). Simulation of Adaptive Behavior:
from Animals to Animats. — Cambridge MA: MIT Press, 1991.
[Mills, 1994] Mills D.Q. L'entreprise post-hierarchique. — Paris: InterEditions, 1994.
[Minsky, 1986] Minsky M. The Society of Mind. — New York: Simon and Shuster, 1986.
[Mintzberg, 1983] Mintzberg H. Structure in Fives: Designing Effective Organizations, et
dynamique des organisations. — Englewood Cliffs: Prentice Hall, 1983.
[Moffat and Frijda, 1994] Moffat D., Frijda N. H. Where there's a Will there's an Agent //
Intelligent Agents. Proceeedings of ECAI-94 Workshop on Agent Theories,
Architecture and Languages (Amsterdam, The Netherlands, August 8-9, 1994) /
Ed. by M. J. Wooldridge and N. R.Jennings. Berlin: Springer Verlag, 1994.
[Morin, 1977] Morin E. La Methode: la Nature de la Nature. — Paris: Seuil, 1977.
[Moulin and Cloutier, 1994] Moulin /?., Cloutier L. Collaborative Work Based on
Multi-Agent Architectures: a Methodological Perspective // Soft Computing:
Fuzzy Logic, Neural Networks and Distributed Artificial Intelligence / Ed. by
F.Aminzadeh and M.Jamshidi. — N.Y.: Prentice-Hall, 1994. — P. 261-296.
[Muller et al., 1995] Muller, J.-R, Pischel Л/., Thiel M. Modeling Reactive
Behaviour in Vertically Layered Agent Architectures // Intelligent Agents / Ed. by
M. Wooldridge and N. R.Jennings. — Berlin: Springer-Verlag. — P.261-276
[Murray, 1995] Murray D. Developing Reactive Software Agents//AI Expert. — 1995. —
P. 27-29
[Nii, 1986] Nii H. R The Blackboard Model of Problem Solving and the Evolution of
Blackboard Architecture // AI Magazine. — 1986. — Vol.7, №3.
[Nwana, 1996] Nwana H. Software Agents: an Overview // The Knowledge Engineering
Review. - 1996. - Vol. 11, №3. - P. 205-244.
[O'Hare and Jennings, 1996] O'Hare G. Л/., Jennings N. Foundations of Distributed
Artificial Intelligence. — New York: J.Wiley and Sons, 1996.
[O'Leary et al., 1997] O'Leary D. E., Knokka /)., Plant R. Artificial Intelligence and
Virtual Organizations // Communications of the ACM. 1997. — Vol.4, № 1. —
P. 52-59.
[Pattison et al., 1987] Pattison #., Corkill /)., Lesser V. Instantiating Descriptions of
Organizational Structures// Distributed Artificial Intelligence/ Ed. by M. N. Huhns. —
London: Pitman, 1987. — P. 59-96.
[Pedrycz et al., 1995] Pedrycz W., Lam C. W., Roch, A. Distributed Fuzzy System
Modelling // IEEE Transactions on Systems, Man and Cybernetics. — 1995. —
Vol.25, №5.- P.769-780,
[Petrieetal., 1996] PetrieC. What is an Agent? // Intelligent Agents III. Proc. of ECAI-96
Workshop on Agent Theories, Architectures and Languages (ATAL, Budapest,
The Hungary, August 12-13, 1996) / Ed. by J.-P. Muller, M. Wooldridge,
N.Jennings. — Berlin: Springer Verlag, 1996. — P. 41-43.
[Pitra, 1990] Pitra J. Metaconnaissances, futur de 1'intelligence artificielle. — Paris:
Hermes, 1990.
[Plesniewicz and Tarassov, 1999] Plesniewicz G.S., Tarassov V. B. On the Problem of
Detecting Subsumptions and Inconsistencies in Agents Knowledge // Proceedings

330
Литература
of the First International Workshop of Central and Eastern Europe on Multi-Agent
Systems (CEEMAS'99, St. Petersburg, June 1-4, 1999). — P. 196-202.
[Plesniewicz and Tarassov, 2000] Plesniewicz G.S., Tarassov V. B. Networked Enterprises
as Multi-Agent Systems: Concept-Oriented Logic Approach // Proceedings of
the 4th International Conference on Application of Fuzzy Systems and Soft
Computing // (ICAFS'2000, Siegen, Germany, June 27-29, 2000). — P. 257-262
[Pollack, 1989] Pollack J. B. Connectionism: Past, Present and Future // Artificial
Intelligence Review. — 1989. — Vol.3. — № 1. — С 3-22.
[Rasmussen, 1983] RasmussenJ. Skills, Rules and Knowledge: Signals, Signs and Symbols
and Their Distictions in Human Performance Models // IEEE Transactions on
Systems, Man and Cybernetics. — 1983. — Vol. SMC-133. — P. 257-267.
[Rasmussen et al., 1991] Rasmussen /., Brehmer В., Leplat J. (Eds.). Distributed
Decision-Making. Cognitive Models for Cooperative Work. — New York: J. Wiley
and Sons, 1991.
[Ray, 1992] Ray T. S. An Approach to the Synthesis of Life // Artificial Life II: Proceedings
of the Second Artificial Life Workshop / Ed. by C. Langton, C. Taylor, J. D. Farmer
and S. Rasmussen Redwood City CA: Addison-Wesley, 1992. — P. 371-408.
[Rosenshein and Zlotkin, 1994] Rosenshein У., Zlotkin G. Rules of Encounter: Designing
Conventions for Automated Negotiation Among Computers. — Cambridge MA:
MIT Press, 1994.
[Russell and Norvig, 1995] Russell S.J., Norvig P. Artificial Intelligence: a Modern
Approach. — Englewood Cliffs NJ: Prentice Hall, 1995.
[Sandholm and Lesser, 1995] Sandholm T. W., Lesser V. R. Coalition Formation among
Bounded Rational Agents // Proceedings of 14 Joint Conference on AI (IJCAI-95,
Montreal, Canada). — P. 662-669.
[Searle, 1961] Searle J. Speech Acts. — Cambridge: Cambridge University Press, 1961.
[Seel, 1991] Seel N. Intentional Description of Reactive Systems // Decentralized
Artificial Intelligence II / Ed. by Y. Demazeau and J.-P. Muller. — Amsterdam:
Elsevier North-Holland, 1991. - P. 15-33.
[Shoham, 1993] Shoham Y. Agent Oriented Programming // Artificial Intelligence. —
1993. - Vol.60, № 1. - P.51-92.
[Shoham and Tannenholtz, 1995] Shoham K, Tannenholtz M. On Social Laws for
Artificial Agent Societies: Off-Line Design // Artificial Intelligence. — 1995. —
Vol.73, №1/2. - P.231-252.
[Simon, 1969] Simon H.A. The Sciences of the Artificial. — Cambridge MA: The MIT
Press, 1969.
[Simon, 1976] Simon H.A. Administrative Behavior Crd ed.) — New York: Free Press,
1976.
[Simon, 1995] Simon H.A. Artificial Intelligence: an Empirical Science // Artificial
Intelligence. — 1995. - Vol.77. - P.95-127.
[Smith, 1980] Smith R.G The Contract Net Protocol: High Level Communication and
Control in a Distributed Problem Solver// IEEE Transactions on Computers. —
1980. -Vol.29, №12. - P. 1104-1113.
[Steels, 1990] Steels L. Cooperation Between Distributed Agents Through Self-
Organization // Decentralized Artificial Intelligence / Ed. by Y. Demazeau and
J.-P. Muller. — Amsterdam: Elsevier North-Holland, 1990. — P. 175-196.

Литература
331
[Sycara, 1989] Sycara К. Multiagent Compromise via Negotiation // Distributed Artificial
Intelligence/ Ed. by L. Gasser and M. Huhns. — Pitman, 1989.
[Sycara et al., 1996] Sycara K., PannuA., Williamson Л/., Zeng /)., Decker K. Distributed
Intelligent Agents/ IEEE Expert: Intelligent Systems and Their Applications. —
1996. - Vol. 11, №6. - P. 36-46.
[Tarassov, 1996] Tarassov V. B. Artificial Meta-Intelligence: a Key to Enterprise Reengi-
neering // Proceedings of the Second Joint Conference on Knowledge-Based
Software Engineering (JCKBSE'96) (Sozopol, Bulgaria, September 21-22, 1996). —
Sofia: BAIA, 1996. - P. 15-24.
[Tokoro, 1993] Tokoro M. The Society of Objects // Proceedings of OOPSLA'93
Conference, 1993.
[Turner, 1984] Turner E. Logics for Artificial Intelligence. — Chichester: Ellis Norwood,
1984.
[Von Kutschera, 1975] Von Kutschera F. Philosophy of Language. — Dordrecht: Reidel,
1975.
[Warnecke, 1993] Warnecke H.-J. The Fractal Company. — Berlin: Springer Verlag,
1993.
[Werner, 1989] Werner E. Cooperating Agents: a Unified Theory of Communication and
Social Structure // Distributed Artificial Intelligence. Vol. II / Ed. by L. Gasser
and M. Huhns. — London: Pitman, 1989.
[Werner, 1991] Werner E. A Unified View of Information, Intention and Ability //
Decentralized Al 2/ Ed. by Y. Demazeau, J.-P. Muller. — Amsterdam: Elsevier
North-Holland, 1991. - P. 109-125.
[Werner and Demazeau, 1992] Werner ?, Demazeau Y. (Eds.) Decentralized Al III. —
Amsterdam: Elsevier North-Holland, 1992.
[Winograd and Flores, 1986] Winograd Т., Flores F. Understanding Computers and
Cognition: a New Foundation for Design. — Norwood: Ablex, 1986.
[Wooldridge, 1999] Wooldridge M. Intelligent Agents // Multi-Agent Systems / Ed. by
G.Weiss. — Cambridge MA: MIT Press, 1999.
[Wooldridge and Jennings, 1994] Wooldridge Л/., Jennings N. Towards a Theory of
Cooperative Problem Solving // (MAAMAW'94, Odense, Danemark) / Ed. by
Y. Demazeau, J.-P. Muller and J. Perram, 1994.
[Wooldridge and Jennings, 1995a] Wooldridge Л/., Jennings N. Agent Theories,
Architectures and Languages: a Survey // Intelligent Agents: ECAI-94 Workshop on Agent
Theories, Architectures and Languages (Amsterdam, The Netherlands, August
8-9, 1994) / Ed. by M. Wooldridge, N.Jennings. — Berlin: Springer Verlag,
1995. - P. 1-22.
[Wooldridge and Jennings, 1995b] Wooldridge Л/., Jennings N. Intelligent Agents: Theory
and Practice // The Knowledge Engineering Review. — 1995. — Vol. 10. —
№2. - P. 115-152.
[Wooldridge et al., 1999] Wooldridge Л/., Jennings N. /?., Kinny D. A Methodology for
Agent-Oriented Analysis and Design, 1999
[Yaeger, 1994] Yaeger L. Computational Genetics, Physiology, Learning, Vision, and
Behavior or Poly Word: Life in a New Context // Artificial Life III / Ed. by
С Langton, New Yourk: Addison-Wesley, 1994. — P. 263-298.

332
Литература
[Yonezawa, 1990] Yonezawa A. (Ed.) ABCL: an Object-Oriented Concurrent System. —
Cambridge MA: MIT Press, 1990.
[Zadeh, 1965] Zadeh LA. Fuzzy Sets // Information and Control. — 1965. — Vol. 8. —
P. 338-353.
[Zadeh, 1994] Zadeh L. A. Fuzzy Logic, Neural Network and Soft Computing //
Communications of the ACM. — 1994. — Vol. 37, № 3. — P. 77-84.
[Zadeh, 1996] Zadeh L. A. Fuzzy Logic = Computing With Words // IEEE Transactions
on Fuzzy Systems. — 1996. — Vol.4. — P. 103-111.
[Zimmermann, 1994] Zimmermann H.-J. Recent Developments in Fuzzy Logic and
Intelligent Technologies // Proceedings of the 1st International Workshop on
Fuzzy Logic and Intelligent Technologies in Nuclear Sciences (FLINS'94, Mol,
Belgium, September 1994) / Ed. by Ruan Da et al., 1994. — P. 3-7.
[Zlotkin and Rosenshein, 1996] Zlotkin G., Rosenshein J. S. Compromise in Negotiations:
Exploiting Worth Functions over States // Artificial Intelligence. — 1996. —
Vol.84. -№1-2. - P. 151-176.
[Zweben, 1997] Zweben M. Intelligent Agents // Computer Integrated Manufacture and
Engineering (CiME). - 1997. - Vol. 1 - № 1-2. - P. 14-15.

Именной указатель
Аверкин 12 , 66 - 69 , 75 , 88 , 95 , 142 , 144 ,
204 , 269 , 308
Ara(Agha) 100 , 111 , 117 , 280 , 320
Агре (Agre) 321
Адамацкий 108 , 147 , 168 , 308
Адорни (Adorni) 117 , 320
Айелло (Aiello) 260 , 324
Айзенк (Eysenck) 51 , 56
Акофф (Ackoff) 139 , 214 , 229 , 308
Алиев Р. А. 76 , 308
Алиев Р. Р. 76 , 308
Аллен (Allen) 256
Амброшкевич (Ambroszkiewicz) 321
Амосов 8 , 98 , 105 , 308
Ананьев 40 , 54 , 252 , 308
Анохин 8 , 112 , 142 , 159 , 246 , 308
Арбиб(АгЫЬ) 51 , 308
Аристотель (Aristotle) 22 , 23 , 157 , 177 , 180 ,
262
Арсен ьев 12 , 304
Ахтелл (Axtell) 216 , 324
Балашов 215 , 289 , 308
Барбучеану (Barbuceanu) 122 , 321
Барнатт (Barnatt) 216 , 321
Батыршин 88 , 308
Баум (Baum) 327
Бахтин 36
Башимон (Bachimont) 321
Бедо(Веааи) 157 , 321
Бейтсон (Bateson) 274
Бел нал (Belnap) 65 , 308
Бергсон (Bergson) 47 , 49
Бердяев 17 , 35 , 182 , 308
Берлекамп (Berlekamp) 156 , 321
Бернар (Bernard) 143 , 245
Берну (Bernoux) 215 , 321
Берн штейн 142
Берталанфи , фон (Bertalanffy , von) 139 ,
141 , 142 , 288 , 308
Бертье (Berthier) 321
Берштейн 95 , 309
Бехтерев 8 , 40
Билька (Bylka) 321
Биркгоф (BirkhofT) 309
Блинов 262 , 309
Блишун 308
Блэннинг (Blanning) 321
Бобров (Bobrow) 72 , 322
Богданов 8 , 24 , 138 - 141 , 214 , 288 , 309
Болдуин (Baldwin) 321
Больцман (Boltzmann) 89 , 90
Бонабо (Bonabeau) 147 , 322
Бон гард 8 , 98
Бонд (Bond) 146 , 187 , 322
Бор (Bohr) 28 , 30 , 82
Бочвар 65
Браганза (Braganza) 325
Брайнов (Brainov) 193 , 195 , 322
Браспеннинг (Braspenning) 109 , 322
Братман (Bratman) 254 - 256 , 322
Брентано (Brentano) 40 , 254
Брукс (Brooks) 74 , 101 , 103 , 106 , 124 , 147 ,
322
Брунер (Вшпег) 54
Брушлинский 23 , 49 , 51 , 53 , 309
Бугаев 37
Букатова 70 , 158 , 309
Булгаков 36
Буль (Boole) 68
Буркхард (Burkhard) 167 , 322
Бурцев 309
Буч(Воосп) 116 , 293 , 309
Бэн (Ben) 40 , 41
Бюлер (Buhler) 49
Вагин 12 , 64 , 71 , 255 , 309
Валькман 12 , 87 , 268 , 309
Варди (Vardi) 324
Варела (Varela) 24 , 108 , 109 , 140 , 214 , 230 ,
329
Варнеке (Warnecke) 233 , 331
Варшавский 80 , 96 , 217 , 222 , 309
Василькова 309
Василюк 241
Введенский 242
Вебер (Weber) 42 , 212 , 213 , 248
Венда 38 , 50 , 192 , 309
Вернадский 37

334
Именной указатель
Вернер (Werner) 150 , 322 , 331
Вертгеймер (Wertheimer) 42 , 52 , 309
Винер (Wiener) 214 , 309
Виноград (Winograd) 23 - 25 , 150 , 283 , 285 ,
287 , 331
Виттих 235 , 309
Волков 12 , 112 , 142 , 215 , 241 , 243 , 309
Вольф (Wolf) 177
Вригт , фон (Wright , von) 262 , 310
Вулдридж (Wooldridge) 118 , 257 , 321 , 323 -
325 , 327 , 329 , 331
Выготский 8 , 40 , 54 - 56
Гаазе - Рапопорт 93 , 96 , 97 , 106 , 112 , 119 ,
150 , 205 , 310
Гаврилова 58 , 62 , 177 , 178 , 223 , 310
Гадамер (Hadamer) 23 , 34 , 310
Гай (Guy) 321
Галантер (Galanter) 52 , 313
Галилей (Galilei) 23
Галушкин 123 , 310
Гальерс (Galliers) 191 , 194 , 325
Гариджо (Garijo) 327
Гартли (Hartley) 41
Гассер (Gasser) 102 , 146 , 150 , 187 , 215 , 217 ,
226 , 228 , 321 , 322 , 325 , 331
Гертзель (Gertzel) 159 , 160 , 310
Гиг , ван (Gigch , van) 215
Гладун 294 , 310
Глушков 57
Гоген (Goguen) 325
Голдмэн (Goldman) 325
Голицын 74 , 108 , 310
Головина 69 , 308
Горелик (Gorelik) 141
Городецкий 12 , 104 , ПО , 113 , 118 , 125 , 198 ,
310
Горский 108 , 143 , 181 , 310
Грайс (Grice) 284 , 285 , 326
Грибомон (Gribomont) 318
Грубер (Gruber) 177 , 326
Грушинский 310
Грэссер (Graesser) 104 , 325
Гуарино (Guarino) 177 , 326
Гуйарт (Gouillart) 326
Гусарев 309
Гуссерль (Husserl) 254
Гэйлбрейт (Gailbraith) 325
Давен порт (Davenport) 230 , 323
Данилевский 37
Декарт (Descartes) 22 , 23
Деккер (Decker) 323 , 331
Демазо (Demazeau) 80 , 106 , 148 , 167 , 322 -
325 , 328 , 330 , 331
Демпстер (Dempster) 87 , 261
Денебург (Deneubourg) 106 , 108 , 147 , 154 ,
323
Джаганаттан (Jagannathan) 280 , 327
Дженесерет (Genesereth) 132 , 325
Дженнингс (Jennings) 112 , 118 , 146 , 257 ,
323 - 325 , 327 , 329 , 331
Джефферсон (Jefferson) 161 , 322
Джиаретта (Giaretta) 177 , 326
Джонсон (Johnson) 327
Джорджеф (GeorgefT) 257 , 259 , 260 , 294 ,
325
Диксон (Dixon) 19 , 310
Дильтей (Dilthey) 34
Динсмор (Dinsmore) 269 , 323
Доброхотов 12 , 293
Додхьявала (Dodhiawala) 327
Донг (Dong) 235 , 323
Дракин 277 , 278 , 310
Дрейфус (Dreyfus) 23
Дрогуль (Drogoul) 161 , 162 , 218 , 323
Дружинин 143 , 310
Друкер (Drucker) 222 , 323
Дубинскас (Dubinskas) 216 , 323
Дулин 206 , 207 , 311
Дунин - Кеплиц (Dunin - Keplicz) 130
Дункер (Dunker) 42 , 52
Дэвидсон (Davidson) 262 , 323
Дэвис (Davis) 102 , 196 , 226 , 323
Дэннет (Dennett) 50 , 114 , 254 , 323
Дэннинг (Dunning) 286 , 324
Дюбуа (Dubois) 179 , 311
Дюрфи (Durfee) 147 - 149 , 190 , 324
Емельянов 12 , 172 , 311
Жакопэн (Jacopin) 324
Жанэ (Janet) 242
Желинье (Gelinier) 222
Женело (Genelot) 230 , 325
Забродин 12 , 40 , 311
Заде (Zadeh) 28 - 30 , 56 , 66 , 69 , 74 , 75 , 85 ,
144 , 201 , 311 , 332
Зазыкин 311
Захаров 12 , 76 , 311
Звебен (Zweben) 332
Зейтен (Zeyten) 195

Именной указатель
335
Зелены (Zeleny) 141
Зельц (Zeltz) 53
Зенг (Zeng) 331
Зеньковский 36 , 37 , 311
Зинченко 48 , 240
Злоткин (Zlotkin) 184 , 196 , 199 , 330 , 332
Иглесиас (Iglesias) 293 , 327
Ишида (Ishida) 327
Ишикава (Ichikawa) 328
Ионезава (Yonezawa) 332
Каганов 158 , 311
Казинс (Cousins) 255
Кандрашина 311
Капица 29 , 311
Карпенко 311
Кастельфранши (Casteifranchi) 150 , 196 ,
199 , 200 , 216 , 218 , 322
Келер (Koler) 42 , 49 , 52
Келлер (Keller) 76 , 327
Келли (Kelly) 326
Кеннон (Cannon) 143
Керне (Kearns) 219 , 316
Кестлер (Koestler) 234 , 327
Кетчпел (Ketchpel) 132 , 325
Кинг (King) 321
КингДж. (King J. A.) 327
Кинни (Kinny) 294 , 295 , 327 , 331
Киношита (Kinoshita) 325 , 326
Кирш (Kirsh) 25 , 58 , 327
Кисе (Kiss) 254
Клапаред (Claparede) 45 , 50
Клике (КИх) 40 , 42 , 80
Клини (Kleene) 9 , 65 - 67 , 189
Клир (КНг) 142 , 312
Клутье (Cloutier) 329
Князева 312
Кобринский 41 , 312
Коллингс (Collings) 161 , 322
Колмогоров 8 , 19 , 96 , 156 , 312
Комар (Komar) 321
Конвэй (Convay) 156 , 321
Кондратьев 265
Конторов 143 , 310
Контэ(Соте) 191 , 196 , 322
Коркилл (Corkill) 102 , 324 , 328 , 329
KocKo(Kosko) 201 , 328
Коста (Costa) 167 , 323
Коффка (Koffka) 42
Кохонен (Kohonen) 123
Коэн (Cohen) 114 , 256 , 258 , 259 , 322
Крипке (Kripke) 256 , 257 , 259
Крозье (Crozier) 224 , 323
Кроустоун (Crowston) 328
Крылов 40 , 96
Кузнецов 12 , 20 , 74 , 312
Кун (Kuhn) 20 , 60 , 312
Курдюмов 311 , 312
Курейчик В. В. 29 , 143 , 312
Курейчик В.М. 12 , 29 , 70 , 143 , 158 , 312
Кучера , фон (Kutschera von) 262 , 331
Лам (Lam) 329
Ларичев 12 , 26 , 289 , 312
Левек (Levesque) 256 , 258 , 259 , 322
Левин (Levin) 44 , 45 , 181 , 328
Леви - Брюль (Levy - Bruhl) 54
Леви - Стросс (Levi - Strauss) 54
Лейбниц (Leibnitz) 266
Лемуан (Le Moigne) 21 , 143
Ленат^епаО 101 , 102 , 328
Ленин 141
Леонтьев А. Н. 8 , 40 , 49 , 112 , 240 , 241 , 250 ,
252 , 312
Леонтьев К. Н. 37
Лепский 312
Леруа (Le Roy) 37
Лессер (Lesser) 101 , 102 , 193 , 198 , 323 - 325 ,
328 - 330
Лефевр 8 , 96 , 105 , 150 , 312
Л ибер (Libert) 328
Ливе (Livet) 328
Литвинцева 311 , 319
Литтман (Littman) 161 , 164 , 165 , 320
Лиу (Liu) 228
Лиу М. (Liu M.) 225 , 226
Лоскутов 313
Локк (Locke) 40 , 266
Ломов 112 , 240 - 242 , 244 , 251 , 265 , 312
Лорьер (Lauriere) 58 , 312
Лосский 8 , 24 , 36
Лотман 8 , 50 , 269 , 270 , 276 , 277 , 280 , 313
Луговская 12 , 176 , 313
Луи (Louis) 318
Лукасевич (Lukasiewicz) 65
Луке 309
Лурия 54 , 55
Льюис (Lewis) 66 , 256
Лэнгтон (Ungton) 84 , 156 , 157 , 161 , 320 ,
322 , 328 , 330 , 332
Люссато (Lussato) 222 , 328

336
Именной указатель
Лябру (Labrou) 324
Ляпунов 8 , 156
Мажаров 309
Майкевич 313
Майонас (Mallonas) 154 , 328
Мак - Каллок (McCulloch) 62 , 96 , 313
Маккарти (McCarthy) 58 , 64 , 65 , 313
Маккаскилл (McCaskill) 321
Маклаков 310
Малинецкий 311
Мальцев 166 , 313
Мандельброт (Mandelbrot) 156 , 328
Мандье (Mandiau) 257 , 260 , 322 , 328
Маньян (Magnin) 324
Маркс (Marx) 194
Марр (Магг) 58
Маруичи (Maruichi) 100 , 328
Марч (March) 224 , 227 , 228 , 328
Маслоу (Maslow) 251
Матурана (Maturana) 23 , 108 , 109 , 140 , 214 ,
230 , 329
Маэда (Maeda) 324
Ma3c(Maes) 101 , 111 , 113 , 328
Медина - Мора (Medina - Mora) 286 , 324
Мейер (Meyer) 105 , 329
Мелехин 95 , 309
Мизогучи (Mizoguchi) 177 , 178 , 313
Миллер 41 , 52 , 108 , 313
Милло (Millot) 322 , 328
Миллс (Mills) 222 , 329
Милль (Mill) 40 , 41
Мильнер215 , 223 , 313
Минский (Minsky) 50 , 74 , 101 , 116 , 306 ,
329
Минцберг (Mintzberg) 222 , 227 , 228 , 329
Михайлов 313
Михасев 309
Мичелли (Micelli) 322
Мозес (Moses) 324
Моисеев 24 , 29 , 37 , 82 , 108 , 109 , 141 , 143 ,
223 , 224 , 313
Моль (Moles) 21 , 112
Морган , де (Morgan , de) 66 , 67 , 189
Мори (Mori) 324
Мороока (Morooka) 324
Морен (Morin) 228 , 329
Моффат (Moffat) 126 , 329
Мулен Б. (Moulin В.) 329
Мулен М. (Moulin M.) 322
Мэйфилд (Mayfield) 324
Мэлоун (Malone) 237 , 328
Мюллер (Jvluller) 80 , 106 , 118 , 127 , 148 ,
322 - 325 , 327 - 331
Мюррей (Murray) 106 , 329
Наварецки (Nawarecki) 322
Налимов 23 , 30 , 82 , 276 , 313
Нарди (Nardi) 328
Нариньяни 30 , 87 , 313
Натэй - Голенко 313
Ивана (Nwana) 104 , 329
Нейман , фон (Neumann , von) 81 , 96 , 156 ,
195 , 214 , 313
Непейвода73 , 87 , 313 , 314
Нестеренко 314 , 320
Нии (Nii) 329
Нильсон (Nilsson) 57 , 58 , 314
Нокка (Knokka) 329
Норвиг (Norvig) 112 , 330
Носов 22 , 23 , 314
Ньютон (Newton) 14
Нэйджел (Nagel) 325
H3iu(Nash) 151 , 195
О'Лири @'LearyJ16 , 329
О'Харе (О'Hare) 146 , 327 , 329
Огден (Ogden) 268
Ойхман 80 , 134 , 140 , 213 , 314
Осипов 12 , 62 , 64 , 65 , 74 , 267 , 269 , 314 , 315
Оуэне (Owens) 319
Павлов 245
Паккард (Packard) 321
Панну (Pannu) 331
Пантелеев 313
Паратин (Paratin) 327
Парсонс (Parsons) 50 , 112 , 240 , 248 - 250 ,
314
Паттисон (Pattison) 150 , 215 , 329
Педрич (Pedrycz) 79 , 326 , 329
Пейперт (Papert) 307
Перро (Perrault) 256 , 321
Петренко 40 , 314
Петри (Petrie) 74 , 102 , 132 , 151 , 287 , 329
Петров 262 , 309
Петухов 279 , 316
Пиаже (Piaget) 45 - 47 , 50 , 55 , 56 , 80 , 147 ,
230 , 314
Пирс (Peirce) 27 , 28 , 266 , 267 , 314
Питра (Pitra) 82 , 329
Питтс (Pitts) 62 , 96 , 313
Пишель (Pischel) 329

Именной указатель
337
Плант (Plant) 329
Платон (Platon) 23 , 180
Плесневич 12 , 314
Погги (Poggi) 117 , 320
Поллак (Pollack) 327 , 330
Поляков 223 , 314
Пономарева 314
Попов 7 , 8 , 12 , 80 , 94 , 114 , 134 , 140 , 213 ,
230 , 277 , 278 , 310 , 314 , 315
Поп пер (Popper) 4 , 45
Поспелов Г. С. 58 , 74 , 146 , 315
Поспелов Д. А. 8 , 12 , 13 , 33 , 34 , 55 , 59 , 61 ,
64 , 65 , 80 , 93 , 95 , 96 , 104 , 106 , 112 ,
114 , 119 , 150 , 205 , 207 , 208 , 217 , 220 ,
222 , 230 , 240 , 243 , 254 , 267 - 269 , 290 ,
307 , 309 - 311 , 315
Пост (Post) 65
Почепцов265 , 266 , 315
Прад (Prade) 179 , 311
Прейс (Preiss) 314 , 325
Преображенский 310
Прибрам (Pribram) 52 , 313
Пригожий (Prigogine) 4 , 29 , 30 , 72 , 96 , 144 ,
156 , 214 , 315
Прокопчина 75 , 308
Пэранек (Parunak) 102 , 146 , 316
Pao (Rao) 257 , 259 , 260 , 325 , 327
Расмуссен (Rasmussen) 147 , 148 , 320 - 322 ,
330
Расселл (Russell) 112 , 330
Редди (Reddy) 324
Редиво (Redivo) 215 , 326
Редько 74 , 81 , 85 , 159 , 247 , 309 , 310 , 316
Рейтер (Reiter) 65
Ричарде (Richards) 268
Роббинс (Robbins) 153
Розенблатт (Rosenblatt) 307
Розеншейн (Rosenshein) 184 , 196 , 199 , 330 ,
332
Роч (Roch) 329
Рубинштейн 53 , 241 , 316
Рыбина 74 , 279 , 316
Рэй (Ray) 161 , 162 , 330
Саати (Saaty) 219 , 316
Саймон (Simon) 3 , 14 , 17 - 19 , 26 , 27 , 57 -
59 , 114 , 140 , 224 , 227 , 228 , 316 , 328 ,
330
Сандхольм (Sandholm) 193 , 198 , 330
Себеок (Sebeok) 269
Сергеев 316
Серл (Searle) 26 , 27 , 102 , 150 , 283 , 284 , 330
Серье (Serieyx) 224 , 323
Сеста (Cesta) 322
Сеченов 42
Сикара (Sycara) 115 , 331
Сил (Seel) 108 , 330
Силов52 , 201 , 205 , 308 , 316
Симонов 251 , 256
Скиннер (Skinner) 41 , 244
Скобелев 235 , 316
Слоан (Sloan) 222
Смирнов А. В. 316
Смирнов В. А. 316
Смирнове. В. 177 , 316
Смит A. (Smith А.) 213
Смит P. (Smith R.) 102 , 196 , 198 , 226 , 323 ,
330
Солнцева 309
Соловьев 24 , 35 , 36 , 38
Соломатин 74
Спенсер (Spenser) 224
Спиридонов 315
СтаровитЗН , 320
Стенгерс (Stengers) 214 , 315
Стернберг (Stengers) 53
Стефанюк 8 , 12 , 41 , 82 , 96 , 151 , 316 , 317
Стивене (Stevens) 42
Стил (Steel) 65 , 308
Стиле (Steels) 147 , 331
Сугавара (Sugawara) 325 , 326
Сугено (Sugeno) 69 , 77 , 79
Суходольский 112 , 241 , 317
Танненхольц (Tannenholtz) 167 , 330
Таран 182 , 317
Тарасов 5 , 6 , 19 , 40 , 59 , 61 , 68 , 74 , 80 - 82 ,
85 , 88 , 90 , 95 , 105 , 112 , 132 , 144 , 150 ,
167 , 168 , 176 , 222 , 230 , 231 , 237 , 250 ,
252 , 269 , 270 , 288 , 289 , 291 , 305 , 308 ,
313 , 317 , 318
Тарский (Tarski) 318
Тахани (Tahani) 327
TeH3(Thayse) 64 - 66 , 318
Тейлор (Taylor) 138 , 212 , 220 , 221 , 223
Тейяр де Шарден (Teilhard de Chardin) 37 ,
318
Тельнов 318
Тернер (Turner) 66 , 331
Терола (Theraulaz) 147 , 322
Терстон (Thurstone) 53
Тимофеев 94 , 319
Титченер (Titchener) 40
Тихомиров 40 , 49 , 51 , 54 , 319
22 Зак. 72

338
Тойнби (Toynbee) 194
Токоро (Tokoro) 81 , 328 , 331
Тол мен (ТЫ man) 52
Трахтенгерц 319
Треур (Treuer) 130 , 323
Турчин 319
Тьель (Thiel) 329
Тьюринг (Turing) 25 , 71 , 128
Уемов 142
Узнадзе 240
Уивер (Weaver) 274 , 275
Уильямсон (Williamson) 331
Уинстон (Winston) 57 , 319
Ульман (Ullman) 268
Ульянов 76 , 311 , 319
Уолтер (Walter) 96
Уолш (Walsh) 319
Уотсон (Watson) 41
Урманцев 142
Ухтомский 247
Уэлд (Weld) 104 , 324
Файоль (Fayol) 212
Фанабаши (Fanabashi) 74 , 324
Федоров 24 , 36 , 37
Фейгенбаум (Feigenbaum) 57
Фейджин (Fagen R. Е.) 142 , 320
Фейерштейн (Feuerstein) 52
Фельдман А. Е. 41 , 312
Фельдман Дж. (Feldman J.) 57
Фербе (Ferber) 103 , 104 , 106 , 107 , 115 , 118 ,
144 , 147 , 150 , 161 , 185 , 187 , 190 , 212 ,
218 , 254 , 264 , 287 , 291 , 292 , 323 , 324
Фергюсон (Ferguson) 129 , 324
Фестингер (Festinger) 205
Фехнер (Fechner) 42
Финин (Finin) 132 , 150 , 324
Финн 28 , 51 , 64 , 65 , 85 , 208 , 319
Фирдман 94 , 315
Фишер К. (Fisher) 198 , 325
Фишер К. В. (Fischer) 52
Флоренский 8 , 24 , 35 , 36 , 319
Флорес (Flores) 23 - 25 , 150 , 283 , 285 , 287 ,
331
Фогель (Fogel) 50 , 70 , 319
Фокс (Fox) 122 , 227 , 228 , 321 , 325
Фома Аквинский (Thomas Acquinat) 177 ,
242
Форрестер (Forrester) 139
Форстер , фон (Foerster , von) 96 , 214
Франклин (Franklin) 104 , 325
й указатель
Фреге (Frege) 267 , 268 , 271 , 272
Фрейд (Freud) 43 , 44 , 319
Фрид (Fried) 46 , 319
Фрижда (Frijda) 126 , 329
Фуджита (Fujita) 325
Фукушима (Fukushima) 123
Фэйджин (Fagin R.) 257 , 260 , 324
Хабалов 310
Хаддади (Haddadi) 106 , 254 - 256 , 326
Хайдеггер (Heidegger) 23 , 34 , 177 , 319
Хайдер (Heider) 205 , 207
Хайес (Hayes) 64 , 313
Хакен (Haken) 14 , 17 , 29 , 144 , 214 , 228 , 319
Халперн (Halpern) 324
Хаммер (Hammer) 3 , 140 , 213 , 326
Хара (Нага) 326
Харари (Нагагу) 206
Харди (Hardy) 215 , 326
Хебб (Hebb) 89 , 90
Хейлигхен (Heylighen) 158 , 223 , 326
Хеймиг (Heimig) 325
Херман (Herman) 325
Хинтикка (Hintikka) 256
Хирота (Hirota) 79 , 326
Холл (Hall) 142 , 320
Холланд Дж. (Holland J.) 70 , 96 , ПО , 119 ,
161 , 326
Холланд О. (Holland О.) 108 , 147 , 168 , 308
Холодная 49 , 51 , 55 , 320
Хомяков 24 , 35
Хорошевский 58 , 62 , 106 , 132 , 177 , 178 ,
223 , 310 , 314 , 320
Хоффман (Hoffman) 57 , 326
Хофштадтер (Hofstadter) 269 , 326
Ху Ши (Ни Shih) 34
Хьюитт (Hewitt) 100 , 101 , 117 , 151 , 226 ,
280 , 320 , 326 , 328
Хэйес - Рот (Hayes - Roth) 101 , 113
Хэнс (Huhns) 146 , 148 , 325 , 326 , 329 , 331
Цетлин 8 , 96 , 151 , 153 , 154 , 280 , 320
Цетнарович К. (Cetnarowicz К.) 167 , 321 ,
322
Цетнарович Э. (Cetnarowicz E.) 322
Циммерман (Zimmermann) 332
Чампи (Champy) 3 , 140 , 213 , 326
Чернышев 311
Черчмен (Churchman) 139

Именной указатель
339
Чэпмен (Chapman) 321
Чэтен (Chatin) 156
Щедровицкий 112 , 243 , 320
Шадриков 241 , 320
Шаиб - Дра (Chaib - Draa) 257
Шаров 309
Швецов 111 , 314 , 320
Шейфер (Shafer) 87 , 261
Шеннон (Snannon) 29 , 274 , 275 , 320
Шереметов 316
Ши (Shi) 323
Шимохара (Shimohara) 84 , 157 , 328
Ширатори (Shiratori) 325 , 326
Шлейермахер (Schleyermacher) 34
Шмелев 313
Шоэм (Shoham) 102 , 111 , 114 , 151 , 167 ,
257 , 330
Шпенглер (Spengler) 194
Шпет 266
Шрейдер 178 , 276
Штерн 50
Шульц Д. П. (Schultz D. Р.) 40 , 181 , 320
Шульц С.Э. (Schultz S. Е.) 40 , 181 , 320
Шустер 96 , 150 , 240 , 254 , 315
Шэер (Scheer) 325
Эден (Heudin) 84 , 147 , 326
Эдосомван (Edosomwan) 324
Экли (Ackley) 161 , 164 , 165 , 320
Эмери (Emery) 139 , 214 , 229 , 308
Энгельс (Engels) 22
Эпстейн (Epstein) 216 , 324
Эрман (Еппап) 101 , 280 , 324
Эррико (Errico) 260 , 324
Этзиони (Etzioni) 104 , 324
Эшби (Ashby) 50 , 96 , 143 , 214
Юдин 320
Юлен (Jaulent) 318
flrepJl.(YaegerL) 165 , 332
Ягер P. (Yager R.) 161 , 327
Я дав (Yadav) 321
Якобсон (Jakobson) 273 - 276 , 320
Ярошевский 40 , 48 , 49 , 320
Ясиновский 172 , 311
22*

Предметный указатель
Автомат 151
— вероятностный 151 , 263
— клеточный 89 , 107 , 131 , 156
— конечный 96 , 285 , 287
— недетерминированный 263
— нечеткий 263
Автономность 93 , 113
Автопоэзис 108 , 140 , 214
Агент 20 , 92
— автономный 15 , 98 , 113 , 172
— альтруистичный 109 , 182 , 205
— благонамеренный 109 , 185 , 205
— злонамеренный 109 , 205
— импульсивный 107
— интеллектуальный 16 , 56 , 95 , 105 , 106
— интенциональный 106 , 109 , 173
— интерфейсный 173 , 291
— искусственный 15 , 17 , 56 , 93 , 103 , 105 ,
ПО
— классовый 174
— когнитивный 105 , 107 , 108
— коллективный 84 , 131 , 211
— онтологии 176 , 177
— рассуждающий 106
— реактивный 96 , 105 , 107 , 109 , 131 , 138
— ресурсный 106 , 174
— рефлекторный 107
— социальный 11 , 109 , 212
— трофический 106 , 107 , 185
— экземплярный 174
Агент - заказчик 168 , 170 , 286 , 291
Агент - исполнитель 102 , 149 , 168 , 291
Агент - координатор 168 , 169 , 177 , 291
Агент - субординатор 149 , 168 , 170 , 174 , 291
Аглеты 133
Адаптация 17 , 20 , 45 , 62
Адократия 227 , 228
Аксиома истинности знания 258
— негативной интроспекции 258
— непротиворечивости знаний 258
— позитивной интроспекции 258
Акт 49
— иллокутивный 284
— коммуникативный 138 , 167 , 274 , 283
— локутивный 284
— перлокутивный 284
— речевой 283 - 285
Активность 28 , 51 , 53 , 93 , 112 , 115 , 240
Актор 84 , 100 , 107 , 117
Алгебра абстрактная 46
— универсальная 46 , 166
— Буля 68
— Де Моргана 67 , 189
— Клини 67 , 189
Алгоритм 59 , 62
— генетический 62 , 70 , 75
Аллономия 228
Ани мат 105
Антиципация 115
Арогенез217 , 225
Архитектура агента 10 , 56 , 112 , 118
— вертикальная 124
— горизонтальная 124
— доски объявлений 74 , 101 , 280
— многоагентной системы 112 , 130 , 171
— реактивная 124
— , основанная на знаниях 73 , 138
Ассоциация 41 , 210
— виртуальная 302
Библиотека агентов 133
Бионика 60
Биореинжиниринг 230
Бихевиоризм 41
Влечение 242 , 248
Восприятие 54 , 64 , 93 , 243
Вычисления со словами 69
Гармония 33 , 143
Герменевтика 23 , 31 , 34 , 177
Гетерархия 218 , 219 , 237
Гештальт - психология 42
Гиперграф 219
Гиромат 97
Гомеостазис 37 , 96 , 108 , 109 , 143 , 224 , 229 ,
245
Гомеостат 143 , 156
Граф 58 , 97
— нечеткий 219

Предметный указатель
341
Группа 46 , 47
Группоид 46
Действие 10 , 138 , 211 , 248
— индивидуальное 112 , 180 , 182
— совместное 10 , 14 , 182
Денотат 267 , 268
— виртуальный 268
Дерево 218 , 225
Десигнат 267
Детерминизм лапласовский 24
Деятельность 11 , 24 , 53 , 85 , 143 , 240
— агента 12 , 148 , 212 , 250 , 252
Диссонанс 206
Желание 242 , 254 , 255 , 261
Жизнь искусственная 4 , 21 , 146 , 147 , 151 ,
154 - 156
Знак 52 , 55 , 266
Знания 25 , 86 , 216 , 244
Игра 195
Иерархия 82 , 142 , 218 , 219
— неогенетическая 219
— неоднородная 220
— простая 216 , 219 , 227
Импликация 61 , 66 , 258
Инженерия знаний 64 , 73
Инсайт43 , 46 , 49 , 53
Инстинкт 49 , 251
Интеграция 31 , 74
Интеллект 39 , 45 , 47 - 50
— гибридный 38
— искусственный 4 , 21 , 57 , 58 , 61 , 84
распределенный 74 , 100 , 146 , 149
синергетический 85
— коллективный 37 , 223
— роя 147 , 154
Интенсионал 267
Интенция 114 , 254
Интерфейс интеллектуальный 111
— персонифицированный 111 , 176
Интроспекционизм 40 , 41
Интроспекция 41 , 258
Кибернетика 155
— эволюционная 74
Классификатор 119 , 120
Коалиция 188 , 193 , 199 , 210
Код 275 , 276
Комбинация 210
Коммуникация 49 , 50 , 64 , 85 , 112 , 114 ,
130 , 216 , 231 , 265 , 294
Компромисс 181 , 183
Конкуренция 86 , 180 , 181 , 183
Коннекционизм 73
Конорма треугольная 66 , 68
Консонанс 206
Конфликт 32 , 44 , 101 , 180 , 181 , 188
Конформизм 183 , 184
Конфронтация 183 , 194
Концепт 267 , 268
Концерн виртуальный 302
Кооперация 30 , 80 , 85 , 86 , 180 , 188 , 189 ,
191
Координация 36 , 122 , 180
Коэволюция 37 , 158 , 231
Коэффициент весовой 120
Логика 60 , 65 , 72 , 73 , 75 , 80 , 86 , 87 , 90 ,
105 , 151 , 230 , 256 - 262
— аристотелева 61 , 62 , 65
— лингвистическая 66
— многозначная 66
— нечеткая 66 , 75
— предикатов 61
Логики неклассические 64
Максима 27
— качества информации 285
— количества информации 284
— релевантности информации 285
Матрица логическая 61
Метазнания 82 , 115 , 175 , 281
Метай нформация 170
Метасистема 84
Мнение 34 , 72
Множество 44 , 138 , 142
— нечеткое 66 , 209
Мобот 104
Моботицизм 74
Моделирование семиотическое 105
— функционально - структурное 215 , 289
— эволюционное 62
Модель 19 , 24
— автоматная 41
— агента 93
— аукциона 196 , 198 , 199
— взаимодействий 84 , 294
— дескриптивная 18 , 19
— коммуникации 274
— мира 50 , 61 , 64 , 93 , 98 , 128

342
Предметный указатель
— нормативная 18 , 19
— социальных зависимостей 196 , 199
Моноид 46
Мышление 41 , 49 , 53 , 243
— наглядно - действенное 49
— наглядно - образное 50
— словесно - логическое 50
Намерение 115 , 242 , 254 , 255 , 261
Нейрон формальный 62 , 123
Нелинейность 30 , 89 , 144
Неопределенность 24
НЕ - факторы 30 , 72 , 87 , 207
Неточность 88
Нечеткость 88
Норма 82 , 98
— социальная 181
— треугольная 66 , 68
Обучение 48 , 52 , 62 , 64
Общение 24 , 115
— агентов 27 , 102 , 115
Объединение 31 , 138 , 215
Объект 15 , 138
- активный 15 , 92 , 100 , 111 , 118
Обязательство 103 , 114 , 115 , 186 , 187 , 254 ,
255
Онтология 176 - 178
Организация 10 , 211
— виртуальная И , 15 , 84 , 232 , 237
— децентрализованная 219 , 222 - 225 , 230 -
233 , 237 - 239
— динамическая 214 , 217
— знаний 115
— интеллектуальная 15 , 84 , 230 , 231
— коллективная 227 , 228
— обучающаяся 232
— распределенная 232
— расширенная 232 , 233
— ресурсосберегающая 232
— рыночная 226
— статическая 217
— унитарная 227
— федеративная 227
— фрактальная 232 , 233
— холоническая 232 , 234
— централизованная 222 , 226
— эволюционная 85 , 158 , 234
Организм виртуальный 154
Отношение 10 , 138 , 142 , 212 , 214
— агента к другим агентам 109
к себе 109
— моделирования 95 , 269
— нечеткое 96 , 144
Отрицание 68
Оценка 89 , 98
— мягкая 88
Память 48 , 54 , 93 , 107 , 126
Парадигма 28 , 86
— бионическая 62
— когнитивистская 61 , 62
— критическая 212 , 214
— синергетическая 86 , 214
Партнерство 181
Переговоры агентов 102
Переменная 41
— лингвистическая 69
Пересечение 91
Перформатив 134 , 284
Планирование 84 , 95 , 128 , 129 , 244
Побуждение 44 , 107 , 242 , 251
Поведение 10 , 240
— коллективное 80 , 96 , 138
— нормативное 98 , 150
Подсистема реактивная 127
Подход нейробионический 60
— синергетический 17 , 29 , 39 , 57 , 242
— системно - организационный 81 , 82 , 86
— системный 72 , 82
Познание 25 , 36 , 245
Полуавтономность 111 , 115
Полугруппа 46
Постулат механицизма 26 , 220
— рационализма 220
Поступок 98 , 240
Правило коррекции по ошибке 89
— Хебба 90
Прагматика 170 , 267
Представление знаний 115
— локальное 116
Принцип единоначалия 221
— многомерности 82
— многоуровневости 82
— сосуществования 83
— специализации 221
— экстремальный 84 , 220 , 238
Приспособление 55 , 183 , 184
Проектирование 20 , 112
— восходящее 62 , 288
— деятельности 83
— нисходящее 62 , 86 , 288
— эволюционное 81 , 289
Проприоцепторы 93
Пространство 81 , 84

Предметный указатель
343
— виртуальное 104 , 237
— метрическое 146
— топологическое 44
Противодействие 180 , 201
Противоречивость 65 , 88
Психоанализ 43
Психомоторика 42
Психоника 60
Психо - логика 47
Психофизика 42
Распознавание образов 64
Рассуждение 31 , 107 , 113
— приближенное 66
Рационализм 24 , 28 , 213
Реальность виртуальная 4 , 21 , 38 , 74 , 80
Регулятор 54 , 76
— нечеткий 70 , 75 , 76 , 105
Редукционизм 24
Реинжиниринг 140 , 213 , 230
Реорганизация 53 , 218 , 228
Ресурс 50 , 86 , 94 , 138 , 188 , 189 , 215 , 216 ,
280
Рецепторы 21 , 64 , 93
Решение задач 15 , 40 , 49 , 54 , 61 , 115
распределенное 102 , 147 - 149
Решетка 67
— булева 68 , 182
— дистрибутивная 67
— ограниченная 67
Рой 154
— искусственный 154 , 168
Роль 293 , 295 , 297 , 298
Самовоспроизведение 20 , ПО , 156 , 229 ,
280
Самоорганизация 20 , 29 , 84 , 115 , 218 , 228
— деятельности 307
Свойство ментальное 101 , 114 , 151
Семантика 103 , 169 , 257 , 267
— прикладная 207 - 209 , 274
Семиозис 170 , 266 , 268
— организационный 84 , 231
Семиосфера 270
Семиотика 4 , 21 , 266
— виртуальная 272
— прикладная 269 , 270 , 272 , 307
— теоретическая 266 , 270
Сеть 81
— дискретная ситуационная 97 , 220
— контрактная 102 , 196 , 226
— нейронная 62
— семантическая 114 , 132 , 252
Сечение золотое 33
Символ 61 , 267
Синергетика 14 , 17 , 28 , 144
Синтактика 267
Система автономная 228 , 252
— алгебраическая 166
— интеллектуальная 23 , 54 , 62 , 73 , 138
— конативная 254 - 256
— многоагентная 15 , 84 , 137 , 144 , 166
эволюционная 167
— обучающая 177
— распределенная 80 , 81 , 151
— семиотическая 64 , 114
— социальная 186 , 194 , .215 , 216 , 248
— формальная 26 , 61 , 105
Ситуация 140
— взаимодействия 138 , 182
Слияние 210
Соглашение 181 , 191
Содействие 17 , 160 , 180
Сообщество виртуальное 137 , 237
Соперничество 182 , 188
— за ресурсы 188
— индивидуальное 188
— коллективное 188 , 189
Соревнование 90 , 194
Состояние ментальное 128 , 130
Сотрудничество 14 , 140 , 180 , 183
— непродуктивное 188
— простое 188
Социализация 37 , 50
Союзничество 181
Специализация 192
— вертикальная 221
— горизонтальная 221
Среда 10 , 44 , 45 , 50 , 138
— закрытая 114
— открытая 114
— программирования агентов 262
— сетевая 115
Стратегия 244
Стремление 242
Структура 54 , 139 , 212 , 243
— интенсивная 215
— отделений 227
— функциональная 215
— эгалитарная 218
— экстенсивная 215
Субординация 83 , 180
Тезаурус 178
Тектология 139

344
Предметный указатель
Теория агентов 44 , 56 , 96
— деятельности 11 , 112 , 241 , 242 , 261
— игр 195
— коммуникации 21 , 283
Тип агента 102
— взаимодействия 184 , 185 , 187 , 189
Убеждения 72 , 102 , 115 , 254
Указатель 163 , 267
Фрактал 233
Фрейдизм 42 - 44
Фрейм 101 , 132 , 268 , 271
— поступка 98 , 150
Функция 138
— денотативная 27 , 273
— когнитивная 106
— коммуникативная 106 , 245 , 291
— коммуникативно - информационная 265
— коммуникативно - регулятивная 265
— конативная 27 , 273
— консервативная 291
— металингвистическая 274
— принадлежности 66
— фатическая 273
— характеристическая 66
— экспрессивная 273
Холархия 219 , 228 , 234
Холон 234
Цель 142 , 143 , 242 , 261
Цель - задание 243
Цель - образ 243
Эвосемиотика 270
Экобионика 158
Экоорганизация 228 , 229
Экорезолюция 103
Экстенсионал 267
Эпистемология генетическая 42 , 45 , 55 , 56
— эволюционная 45
Эффектор 21 , 64 , 93 , 94 , 119 , 233
Язык 131 , 266
— естественный 64 , 69 , 266
— искусственный 26
— программирования агентов 103 , 132

Оглавление
О серии «Науки об искусственном» 3
Предисловие 8
Введение 13
Глава 1. Синергетическая перспектива становления наук об искусственном ... 17
1.1. Науки об искусственном 17
1.2. Критический анализ рационалистической парадигмы в информатике
и ИИ 22
1.2.1. Об ограничениях рационалистической парадигмы
интеллектуальности 22
1.2.2. Традиции рационализма в информатике, ИИ и смежных
науках. Их критика 24
1.3. Синергетическая методология vs классический рационализм 28
1.3.1. Синергетические мотивы древнекитайской философии 31
1.3.2. Синергетический подход в герменевтике 34
1.3.3. Русский космизм, синергетика и Интернет 35
Глава 2. Искусственный интеллект:
психологические предпосылки и современное развитие 39
2.1. Психологические истоки теории интеллекта 39
2.1.1. Эволюция взглядов на психику и изучение психических явлений 40
2.1.2. Роль Ж. Пиаже в формировании основ теории интеллекта .... 45
2.2. Краткий обзор различных взглядов на природу интеллекта 47
2.2.1. Подборка определений и высказываний об интеллекте 47
2.2.2. Психологические подходы к изучению интеллекта 51
2.2.3. О перспективах компьютерной реализации психологических
подходов к интеллекту 55
2.3. Развитие классических подходов и направлений в искусственном
интеллекте 57
2.3.1. Что такое искусственный интеллект? 57
2.3.2. Первоначальное расхождение отдельных направлений в ИИ . . . 60
2.3.3. Ограничения индивидуалистических моделей интеллекта 71
2.4. Смена парадигмы в искусственном интеллекте 72
2.4.1. Основные постулаты логической школы ИИ 72
2.4.2. Ведущие тенденции в современном ИИ 74
2.4.3. Системно-организационный подход в ИИ 82
2.4.4. Синергетический ИИ 85
2.4.5. Математический инструментарий синергетического ИИ 87
Глава 3. Основы теории агентов 92
3.1. Некоторые исторические вехи в развитии агентно-ориентированного
подхода 96
3.2. Общая классификация агентов 103
3.3. Интерпретации искусственных агентов 110
3.4. Подборка определений и высказываний об агентах 112

346 Оглавление
3.5. От объектов к агентам * 116
3.6. Архитектуры агентов 118
3.6.1. Архитектуры интеллектуальных агентов 119
3.6.2. Коннекционистские архитектуры 123
3.6.3. Архитектура «соподчинения» 124
3.6.4. Горизонтальные и вертикальные архитектуры агентов 124
3.7. Языки описания и реализации агентов 131
Глава 4. Многоагентные системы 137
4.1. Общая характеристика многоагентных систем 137
4.2. Истоки теории многоагентных систем: открытые системы
и эволюционные организации в трудах А. А. Богданова 138
4.3. Развитие системного движения: от общей теории систем
к многоагентным системам 141
4.4. Главные направления развития MAC 146
4.5. Основы распределенного искусственного интеллекта 148
4.6. Искусственная жизнь 151
4.6.1. Модели коллективного поведения автоматов 151
4.6.2. От коллективного поведения к искусственной жизни 154
4.6.3. Истоки и проблемы искусственной жизни 156
4.6.4. Некоторые модели искусственной жизни 158
4.7. Алгебраические модели многоагентных систем 166
4.8. Примеры построения многоагентных систем 168
4.8.1. Многоагентная система моделирования открытых предприятий . 168
4.8.2. Многоагентная система управления ресурсами 172
4.8.3. Многоагентная система учебного назначения 175
4.9. Онтологии в многоагентных системах 177
Глава 5. Взаимодействие между агентами в MAC 180
5.1. Основные характеристики и виды взаимодействия агентов 180
5.2. Критерии и ситуации взаимодействия агентов 182
5.3. Причины взаимодействия агентов 185
5.3.1. Наличие совместимых целей 185
5.3.2. Нехватка индивидуальных ресурсов 186
5.3.3. Неспособность агента решить задачу в одиночку 186
5.3.4. Наличие обязательств 186
5.4. Установление базовых типов сотрудничества и соперничества агентов
в MAC 187
5.5. Кооперация агентов 189
5.5.1. Формы кооперации агентов 191
5.5.2. Предпосылки и условия кооперации 192
5.5.3. О продуктивной роли конфликтов при кооперации агентов ... 193
5.5.4. Модели кооперации агентов 194
5.6. Описание процессов взаимодействия между агентами с помощью
аппарата нечетких отношений 200
5.7. Использование шкал различных типов при анализе взаимодействий
агентов 207
5.7.1. НЕ-факторы на полярных шкалах 207
5.7.2. Виды оценок на полярных шкалах 208

Оглавление
347
5.7.3. Обобщенные нечеткие множества для оценивания
взаимодействия на полярных шкалах 209
5.8. Способы формирования различных архитектур MAC в процессах
взаимодействия агентов 210
Глава 6. Организации: естественные и искусственные 211
6.1. Понятие организации и его роль в создании MAC 211
6.2. Парадигмы теории организаций 212
6.3. Подборка определений и высказываний об организациях 214
6.4. Критерии организационного проектирования MAC 216
6.5. Тейлоровские и посттейлоровские организации MAC 220
6.5.1. Основы тейлоровской организации 220
6.5.2. Неоклассическая теория организаций 222
6.5.3. Переход к новым организациям 223
6.6. Классификации организаций 225
6.6.1. Классификации по типу организационных структур 225
6.6.2. Классификация по распределению функций и режимам
управления 227
6.6.3. Классификация по целям 227
6.6.4. Классификация по трем критериям 227
6.7. Организация и самоорганизация в MAC 228
6.8. Интеллектуальные организации 230
6.9. Разновидности сетевых организаций 232
6.9.1. Распределенные организации 232
6.9.2. Фрактальные организации 233
6.9.3. Расширенные организации 233
6.9.4. Холонические организации 234
6.10. Виртуальные организации 237
Глава 7. Деятельность агента и ее моделирование 240
7.1. Основы психологической теории деятельности 241
7.1.1. Причины возникновения деятельности 242
7.1.2. Основные функции и структуры деятельности 243
7.2. Физиологические модели организации поведения 245
7.3. Социологическая теория действия 248
7.4. Синтез деятельности искусственных агентов 250
7.5. Обобщенная модель деятельности искусственных агентов 252
7.6. Интенциональные характеристики агентов 254
7.6.1. Классификация интенциональных характеристик агента 254
7.6.2. Логическое описание интенциональных характеристик 256
7.7. Модели действий в информатике и ИИ 261
7.7.1. Логическое описание действий агентов 262
7.7.2. Простейшие абстрактные модели агентов . 262
7.8. Роль обязательств в формировании коллективных действий агентов . . 263
Глава 8. Коммуникация в MAC 265
8.1. Основы семиотики 266
8.2. Прикладная семиотика и семиозис агентов 268
8.3. Эволюционная семиотика 270
8.3.1. Эволюционное моделирование в теоретической семиотике .... 270
8.3.2. Эволюционное моделирование в прикладной семиотике 272

348
Оглавление
8.4. Базовые функции коммуникации агентов . . . . ? 273
8.5. Модели коммуникации агентов 274
8.5.1. Коммуникация как информационный процесс. Классическая
модель коммуникации Шеннона—Уивера и ее перенос
в семиотику Р.Якобсоном . 274
8.5.2. Модель коммуникации Ю. М. Лотмана 276
8.5.3. Коммуникация как целенаправленное взаимодействие.
Модель коммуникации Э. В. Попова 277
8.6. О реализации механизмов коммуникации агентов 280
8.7. Теория и средства коммуникации, базирующиеся на речевых актах. . . 283
8.7.1. Теория речевых актов 283
8.7.2. Типология речевых актов 283
8.7.3. Максимы Грайса 284
8.7.4. Теория диалоговых сетей 285
8.8. Модель координации на основе коммуникативных актов: потоки работ 286
Глава 9. Проектирование многоагентных систем и искусственных организаций. 288
9.1. Восходящий и нисходящий подходы к проектированию MAC 288
9.2. Эволюционное и коэволюционное проектирование MAC 289
9.3. Проектирование многоагентных систем на основе обобщенного
объектно-ориентированного подхода 293
9.3.1. Описание ключевых моделей, определяющих MAC 293
9.3.2. Основы стандартной методологии проектирования MAC 295
9.3.3. Описание этапов объектно-ориентированной разработки MAC . 298
9.4. Нисходящее и V-образное проектирование MAC и ВО 301
9.4.1. Методика нисходящего проектирования 301
9.4.2. Смешанное V-образное проектирование 304
Вместо заключения 306
Литература 308
Именной указатель 333
Предметный указатель 340
Об авторе
349

Об авторе
Тарасов Валерий Борисович,
кандидат технических наук, доцент
кафедры «Компьютерные системы
автоматизации производства» МГТУ
им. Н. Э. Баумана, член совета
Российской ассоциации
искусственного интеллекта, член-корреспондент
Международной академии
информатизации. Один из ведущих
отечественных специалистов в области
методологии искусственного
интеллекта, теории агентов, многоагентных
систем и искусственных сообществ,
реинжиниринга организаций и
построения виртуальных предприятий,
теории нечетких множеств, нечетких
отношений и мягких вычислений.
Им опубликовано свыше 100
научных трудов, включая 3 монографии.
Д. А. Поспелов и В. Б. Тарасов
на конференции в Севастополе. 1991 г.
Л. А. Заде и В. Б. Тарасов
на конференции
в Анталье. 2001 г.

Издательство «Эдиториал УРСС». 113208, г. Москва, ул. Чертановская, д. 2/11.
Лицензия ИД №03216 от 10.11.2000 г. Гигиенический сертификат на выпуск книжной
продукции №77.ФЦ.8.953.П.270.3.99 от 30.03.99 г. Подписано к печати 09.11.2001 г.
Формат 60x90/16. Тираж 1000 экз. Печ. л. 22. Зак. № 72.
Отпечатано с готовых диапозитивов в ГУП «Облиздат», 248640, г. Калуга, пл. Старый Торг, 5