/
Теги: искусственный интеллект
ISBN: 5-279-02776-6
Текст
Н.Г. ЯРУШКИНА
MUpi ри iiiniiiiii
®сновы«
ТЕОРИИ
НЕЧЕТКИХ
И ГИБРИДНЫХ
i«
..Вероятно самым существенным достижением вычислительного интеллекта
является создание способа описания систем, сочетающего число и слово,
сигнал и понятие, восприятие и абстракцию, непреры
Именно такой способ описания нужен для техногенных,
манистических систем XXI века.
4. Г. Ярушкина,
доктор технических наук профессор, заведующая гафеоре
’Информационные системы" Ульяновского
государственного технического университета,
член Российской ассоциации искусственного интеллекта
В учебном пособии
"Основы теории нечетких и гибридных
впервые дается систематическое описание основных гибридны*
I ж оптимизации трафика вычислительно* с₽т
р
конструирования радиоаппаратура
| • анализа финансово-хозяйственной деятель
Il fl I fil 11
। рёализдци^^|^гс реляционного Сервера данных
представлены U лабораторных раоот в инструментальном среде MATLaB В
в помощь изучающим основы теории нечетких систем, ней иных сетей
генетических вычислений и их гибридов.
Н.Г. ЯРУШКИНА
ОСНОВЫ
ТЕОРИИ
НЕЧЕТКИХ
и ГИБРИДНЫХ
СИСТЕМ
Рекомендовано
Учебно-методическим объединением
по образованию в области прикладной информатики
в качестве учебного пособия для студентов
высших учебных заведений,
обучающихся по специальности 351400
“Прикладная информатика в экономике"
и другим междисциплинарным специальностям
МОСКВА
“ФИНАНСЫ И СТАТИСТИКА-
2004
УДК 004.8(075.8)
ББК 32.813я73
Я78
РЕЦЕНЗЕНТЫ
кафедра проектирования экономических
информационных систем
Московского государственного университета экономики,
статистики и информатики (МЭСИ),
А.Н. Аверкин
президент Российской ассоциации нечетких систем, член Совета
Российской ассоциации искусственного интеллекта,
Л.Г. Гагарина,
доктор технических наук, профессор кафедры «Информатика
и программное обеспечение вычислительных систем»
Московского института электронной техники
Ярушкина Н.Г.
Я 78 Основы теории нечетких и гибридных систем. Учеб, по-
собие. — М.: Финансы и статистика, 2004 — 320 С: ил.
ISBN 5-279-02776-6
Рассматриваются методы анализа и синтеза при проектировании
прикладных интеллектуальных систем для экономических и технических
областей применения Даются основы теории нечетких систем, нейронных
сетей и генетических алгоритмов Особое внимание уделяется структурам
гибридных сетей и алгоритмам обучения нечетких нейронных сетей Лабо-
раторные работы практикума посвящены применению инструментальной
среды Matlab для углубленного изучения указанных сетей и систем.
Для студентов вузов, обучающихся по специальностям «Прикладная
информатика в экономике», «Системы автоматизированного проектирова-
ния» и другим компьютерным специальностям Представляет интерес для
широкого круга специалистов
0702000000-375 ,7Я_2(1(П
Я 010(01)—2004 378 ZUU3
УДК 004.8(075.8)
ББК 32.813я73
ISBN 5-279-02776-6
©НГ Ярушкина, 2004
Предисловие
Учебное пособие создано в результате работы автора над лек-
циями и лабораторным практикумом для студентов специаль-
ности «Прикладная информатика в экономике» в ходе пре-
подавания дисциплин «Теория нечетких систем» и «Интел-
лектуальные информационные системы» в Ульяновском
государственном техническом университете.
Цель пособия — изложение минимального по объему, но
достаточного для понимания материала по нечетким и гиб-
ридным системам. Для того чтобы студенты смогли осмыс-
лить теоретический и прикладной аспекты означенных сис-
тем, дисциплины преподаются на 4-5-м курсах экономиче-
ских специальностей государственных вузов, когда уже
усвоены обязательные математические и естественно-науч-
ные предметы высшей школы.
Материал книги изложен в соответствии с государствен-
ным стандартом по указанной специальности и структури-
рован следующим образом: теоретическую часть, состоящую
из шести глав, в которых излагаются математические основы
освещаемой тематики, дополняет приложение, в котором со-
браны лабораторные работы, разбитые по главным темам по-
собия.
Глава I, посвященная основам мягких вычислений, слу-
жит введением в заявленную проблематику в контексте сов-
ременного вычислительного интеллекта, что объясняет необ-
ходимость новых методов описания неопределенности.
В главе 2 рассматривается теория нечетких множеств и от-
ношений — от основных определений до операций имплика-
ции и композиции нечетких отношений. Содержится ряд
примеров, поясняющих сложные понятия
В главе 3 описываются современные системы нечеткого
вывода и нечеткие контроллеры, принципы работы которых
иллюстрируются примерами. Следует отметить, что главы 2 и
3 могут служить основой курса «Теория нечетких систем».
В главе 4 приведены начала теории нейронных сетей —
от математических моделей нейрона до алгоритмов обучения
многослойных перцептронов, самоорганизующихся карт, ра-
диальных базисных сетей, сетей регрессии и вероятностных
сетей. Благодаря богатому иллюстративному материалу и
упрощенному изложению содержание главы доступно для по-
нимания не только студентов-математиков, но и информати-
ков-экономистов. Отметим, что означенная глава, как и пре-
дыдущие две, представляет собой вполне законченный науч-
ный трактат.
В главе 5 излагаются теоретические основы эволюцион-
ных вычислений и приложений генетических алгоритмов к
задачам автоматизированного проектирования и новых ин-
формационных технологий. Приведены разнообразные моде-
ли эволюционного моделирования, освещены вопросы эф-
фективности генетических алгоритмов. В силу полноты изло-
жения материала глава воспринимается как самостоятельный
труд и может служить фундаментом специального курса по
генетическим вычислениям.
Глава 6 посвящена методам гибридизации нечетких сис-
тем, нейронных сетей и генетических вычислений. Описаны
пять известных архитектур нечетких нейронных сетей; при-
ведены «тройные» гибриды: нечетко-нейро-генетические мо-
дели, информация о которых на русском языке практически
отсутствует. Кроме того, рассмотрены классифицируемые как
гибридные прикладные интеллектуальные системы, что де-
монстрирует мощный потенциал новых информационных
технологий мягких вычислений.
Каждая глава завершается контрольными вопросами для
проверки усвоения материала.
Практическая часть учебного пособия представляет собой
практикум из 14 лабораторных работ по мягким вычислени-
ям, материал для которых формировался в ходе научных ис-
следований в области интеллектуальных систем автомати-
зированного проектирования и систем экономического ана-
лиза. Практикум основан на использовании программного
пакета MATLAB 6 0 (расширения toolbox Fuzzy Logic и Neural
Networks), поскольку он доступен для студентов и препода-
вателей и приобретает все большую популярность. Разобрать-
ся в работе Matlab в соответствии с программной документа-
цией весьма затруднительно, так как объем фирменного ру-
ководства пользователя превышает 4000 страниц. В учебное
пособие включены только самые необходимые сведения об
использовании пакетов расширения по нечеткой логике и
нейронным сетям, а в списке литературы приведены источ-
ники, более подробно описывающие систему.
Вниманию читателя предлагаются три лабораторные ра-
боты по нечеткой логике, четыре — по нейронным сетям и
столько же — по гибридным системам. В целях организации
творческой работы студентов предложены задачи для реше-
ния с помощью генетических алгоритмов, часть которых (ис-
следовательского характера) можно использовать в качестве
заданий для курсового проектирования.
При выполнении лабораторных работ по нечетким систе-
мам, нейронным сетям и гибридным системам ANFIS пред-
полагается, что студент хотя бы поверхностно знаком с сис-
темой Matlab, так как используются встроенные системы. Что
касается лабораторных работ по генетическим алгоритмам, то
здесь необходимо разработать инструментарий генетических
вычислений в среде Matlab. С учетом математической подго-
товки студентов-информатиков выполнена функциональная
декомпозиция стандартного и мобильного генетического ал-
горитмов до уровня функций и их параметров. Решение ряда
задач предполагает знание встроенного языка Matlab и уме-
ние его использовать.
Предлагаемое учебное пособие будет интересно не только
студентам, преподавателям и аспирантам, но и специалистам
по нечеткой логике. Ведь нечеткая логика — это раздел при-
кладной математики и информатики, сложившийся за по-
следние 40 лет и активно развивающийся. В наши дни изда-
ется не менее 20 научных журналов и ежегодно организуется
около 50 конференций по нечетким системам. Кроме того,
в последнее время наблюдается небывалая активность специ-
алистов в журнальных и интернет-дискуссиях.
По мнению автора, данное учебное пособие содержит до-
статочно сведений, позволяющих понять суть нечеткой логи-
ки и изучать ее в дальнейшем самостоятельно, а также про-
водить собственные исследования.
Автор считает необходимым подчеркнуть, что в ходе ра-
боты над учебным пособием существенное влияние наегосо-
держание оказали многие известные ученые и научные работ-
ники. Так, глава 2 неоднократно обсуждалась с профессором
Дармштадской высшей технической школы Г. Дейхельманом;
им была предоставлена большая часть примеров для глав 2
и 3, материалы которых апробировались автором при чтении
лекций по нечеткой логике студентам вышеуказанной школы
в осеннем семестре 1998 г.
Раздел П1 «Нечеткие системы» (лабораторные работы
№ 1—3) написан совместно с кандидатом технических наук
А. М. Наместниковым. Прикладные интеллектуальные гиб-
ридные системы, описанные в главе 6, разрабатывались с ним
же и при участии кандидата технических наук Е. А. Горбоко-
ненко. Неизменно полезными являлись обсуждения содержа-
ния учебного пособия среди членов Российской ассоциации
искусственного интеллекта и сотрудников факультета инфор-
мационных систем и технологий Ульяновского государствен-
ного технического университета.
Введение
Всегда чего-нибудь нет, —
Чего-нибудь слишком много...
На все как бы есть ответ —
Но без последнего слога.
Свершится ли что — не так,
Некстати, непрочно, зыбко...
И каждый не верен знак,
В решеньи каждом — ошибка.
Змеится луна в воде, —
Но лжет, золотясь, дорога...
Ушерб, перехлест везде.
А мера — только у Бога.
3. Гиппиус
На рубеже тысячелетий для каждого научного направления
важны результаты предшествующих исследований и перспек-
тивы предстоящих. В настоящее время согласно мнению ши-
рокой научной общественности искусственный интеллект не
оправдал ожиданий — с помощью символьной обработки ин-
формации невозможно решить прикладные задачи разнообраз-
ных предметных областей, так как приложения насыщены рас-
четами. Применение искусственного интеллекта было успеш-
ным в основном в тех приложениях, где сочетались символьная
обработка информации и вычисления. С помощью вычисле-
ний определялись вспомогательные функции в интеллектуаль-
ных задачах, обеспечивалась эффективность приложений, но
их использование считалось «неправильным» для искусствен-
ного интеллекта, несмотря на то, что именно вычислитель-
ные модели были первыми интеллектуальными моделями,
полученными в рамках бионического направления.
И все же традиционные компьютерные вычисления
«слишком точны» для реального мира. Человечество столк-
нулось с проблемами, для решения которых невозможно по-
лучить полную информацию или определение которых недо-
статочно полно. Такая ситуация характерна для сложных тех-
нических систем, систем экономического планирования,
систем жизни, социальных систем большой размерности и
систем принятия решений. Казалось бы, положение безвы-
ходное, но уже со второй половины XX в. благодаря развитию
и совершенствованию так называемых нечетких и гибридных
систем, теоретический фундамент которых и представлен в
данном пособии, невероятное стало реальностью. В настоя-
щее время уже довольно обыденно воспринимаются «сверх-
интеллектуальные» стиральные машины и бытовые автоматы
в повседневной жизни, гиперзвуковые самолеты и самонаво-
дящиеся ракеты в оборонных подразделениях армий и мно-
гое, многое другое.
Математическую основу рассматриваемых систем состав-
ляют противоположные традиционным компьютерным вы-
числениям (hard computing) мягкие вычисления (soft computing)
или сложная компьютерная методология, компонентами ко-
торой являются:
• нечеткая логика — приближенные вычисления, грануля-
ция информации, вычисление на словах;
• нейрокомпъютинг — обучение, адаптация, классификация,
системное моделирование и идентификация;
• генетические вычисления — синтез, настройка и оптими-
зация с помощью систематизированного случайного поиска
и эволюции;
• вероятностные вычисления — управление неопределенно-
стью, сети доверия, хаотические системы, предсказание
Перечисленные составные части не конкурируют между
собой, а создают эффект взаимного усиления для достижения
низкой цены решения и большего соответствия реальности.
Для формализации предметной области нечетких и гиб-
ридных систем наряду с термином «мягкие вычисления»
используют и другой интегрирующий термин — «вычисли-
тельный интеллект». В общем случае вычислительный ин-
теллект — это целое научное направление, где решаются
задачи искусственного интеллекта на основе теории нечетких
систем, нейронных сетей и эволюционных вычислений.
Мягкие вычисления.
Экспертная деятельность
ГЛАВА ___________________________
Если в слове — начало, то в числе —
продолжение сознательности, просвещения
и всего успеха или прогресса человечества.
Д. И. Менделеев
1.1. Этапы развития научного
направления «мягкие вычисления»
Зонтичный термин «мягкие вычисления». Зонтичный термин
(от англ, umbrella term) «мягкие вычисления», введенный еще
в 1994 г. американским ученым Л. Заде [81], интерпретирует-
ся следующей формулой:
Мягкие вычисления = нечеткие системы + нейронные сети +
+ генетические алгоритмы.
В обоснование формулы мягких вычислений приводятся
свойства мягкой интеллектуальной системы, которые обеспе-
чиваются ее компонентами:
Мягкая интеллектуальная система =
= управление неопределенностью + обучаемость + самоадаптация.
Выбранная терминология объясняется тем, что мягкие
системы, такие как нечеткие нейронные сети с генетической
настройкой параметров, демонстрируют взаимное усиление
достоинств и нивелирование недостатков отдельных методов.
Очевидно, что представление знаний в нейронных сетях в ви-
де матриц весов не позволяет объяснить результаты прове-
денного распознавания или прогнозирования, в то время как
в системах вывода на базе нечетких правил результаты восп-
ринимаются как обратные протоколы вывода (ответы на воп-
рос «Почему?»). Нейронные сети обучаются с помощью уни-
версального алгоритма, т е. трудоемкое извлечение знаний
заменяется сбором достаточной по объему обучающей выборки.
Для нечетких систем вывода извлечение знаний включает в себя
сложные процессы формализации понятий, определение функ-
ций принадлежности, формирование правил вывода.
В то же время нечеткие нейронные сети обучаются как
нейронные сети, но их результаты объясняются как в систе-
мах нечеткого вывода.
Развитие теории нечетких систем. Исследования восприя-
тия на искусственных моделях нейронных сетей успешно про-
водились уже с 1940-х годов прошлого века У. МакКаллоком,
У. Питтсом (1943) и Д. Хеббсом (1949).
Публикация статьи профессора Л. Заде «Нечеткие множе-
ства» в 1965 г. положила начало развитию теории нечетких
систем в результате определения нового класса нечетких мно-
жеств, т. е. множеств с неточно определенными границами,
описываемыми функциями принадлежности элементов. Не-
смотря на то что научная общественность встретила новую
идею настороженно, за публикацией последовал поток науч-
ных исследований. Применение алгоритма обучения линей-
ного однослойного перцептрона*, предложенного Ф. Розенб-
латом [57], показало, что нейроподобные вычисления (brain -
style computation) эффективны для задач восприятия и распоз-
навания, однако в результате убийственной критики М. Мин-
ского и С. Пайперта (1969) [42] сложилось мнение, что искус-
ственный интеллект следует создавать на основе символьной
обработки на компьютерах архитектуры Дж. фон Неймана.
В 1970-е годы прошлого века были развиты понятия линг-
вистической переменной, Е. Мамдани сформулировал основ-
ные идеи нечетких регуляторов. В 1978 г. Л Заде [24] предло-
жил вариант исчисления неопределенностей, опирающийся
на неаддитивную меру возможности, т. е. на интерпретацию
нечеткого множества как функции распределения возможнос-
тей. В 1979 г. он же ввел теорию приближенных рассуждений.
Увлечение символьной обработкой в течение 1970-х, 1980-х
годов оставило почти не замеченным рождение и становление
* Перцептроном называют математическую модель фрагмента ней
ронной системы головного мозга, осуществляющего восприятие внеш-
него объекта Первые перцептроны создавались как модель искусствен-
ного глаза В настоящее время перцептрон представляет собой много-
слойную нейронную сеть прямого распространения сигнала, способную
к обучению
нового научного направления — вычислительного интеллек-
та, решающего задачи искусственного интеллекта на основе
теории нечетких систем, нейронных сетей и эволюционных
вычислений. Однако уже в 1982 г. Дж. Хопфилд изложил ма-
тематические основы динамики нейронных сетей с обратными
связями. В 1984 г. Т. Кохонен предложил алгоритм обучения
«без учителя» для самоорганизующихся сетей. В 1986 г. Д. Ру-
мельхарт [791 вывел алгоритм обратного распространения
ошибки для нелинейных многослойных сетей. В 1975 г. книга
Я. Холланда «Адаптация в природе и искусственных систе-
мах» [77] заложила основы эволюционного моделирования, в
результате которого генетические алгоритмы стали методом
структурного синтеза интеллектуальных систем.
Своевременно начатое практическое использование но-
вой теории подтвердило правоту высказанных идей и поро-
дило поток прикладных исследований [13]. В 1983 г. японская
фирма «Фуджи Электрик» реализовала на основе нечетких
алгоритмов установку для обработки питьевой воды. В 1987 г.
была запущена в производство система управления новым
метро в г. Сендай, близ Токио, предложенная фирмой «Хита-
чи». Сегодня ведущие компании США, Германии, Франции и
других стран предлагают разнообразные товары и системы с
использованием функций нечеткой логики (fuzzy logic). В те-
левизионной рекламе бытовой техники наличие подобной
функциональности отмечается в качестве признака самой
современной на сегодняшний день системы управления уст-
ройством.
В 1990-е годы были также разработаны различные вари-
анты гибридных* интеллектуальных систем. Мягкие вычис-
ления позволили объединить в единую технологию управле-
* Гибридизация представляет собой интеграцию методов и техноло-
гий на глубинном, а не на внешнем уровне, когда различные блоки сис-
темы реализуют какой-то один метод решения интеллектуальных задач
и взаимодействуют между собой. Например, в интеллектуальной ин-
формационной системе путем передачи данных взаимодействуют блоки
нейронной сети, генетической оптимизации и нечеткого логического
вывода. Глубинный уровень объединения предполагает создание новых
методов, использующих понятия объединяемых базовых методов Так,
нечеткая нейронная сеть является представителем нового класса ней-
ронных сетей, поскольку обучается как традиционная нейронная сеть,
но способна осуществить нечеткий логический вывод
ние неопределенностью, обучение и адаптацию. Сегодня со-
зданы и используются в промышленности нейро-нечеткие
контроллеры, разнообразные интеллектуальные системы.
Пик теоретических изысканий в области теории нечетких
систем приходится на создание вычислений на словах, осно-
ванных на перцептивных* оценках, что обещает прояснить
сложнейшие проблемы семантики естественного языка.
Развитие нейронных сетей. Искусственные нейронные се-
ти можно рассматривать в качестве простых математических
моделей мозгоподобных систем, функционирующих как па-
раллельные распределенные вычислительные сети. Однако в
противоположность компьютерам с архитектурой Дж фон
Неймана для решения специфических задач нейронные сети
должны быть обучены или натренированы новым ассоциаци-
ям, функциональным зависимостям и образцам для распоз-
навания. В отличие от компьютеров, основанных на точных
и быстрых арифметических операциях, биологические и ис-
кусственные нейронные сети обещают решение сложных час-
тично структурированных и неструктурированных проблем.
Изучение мозгоподобных структур велось в рамках создания
теории интеллектуальных систем; начало его было ознамено-
вано более 50 лет назад публикацией все тех же работ У. Мак-
Каллока и У. Питтса (1943) и продолжено позднее в знаме-
нитой работе Д. Хеббса «Организация поведения» (1949). Ран-
ние работы по искусственному интеллекту принадлежали перу
тех, кто описывал структуру интеллектуальной системы подоб-
ной мозгу, и тех (М. Минский, С. Пайперт), кто считал интел-
лект фундаментальным свойством символьной обработки дан-
ных на компьютерах фон-неймановского типа. По многим
причинам в 1970 г. второй подход стал доминирующим, но с
1980-х годов сменился так называемым нейронным бумом в ре-
зультате резко возросшего интереса к нейронным вычислениям.
Далее, на базе разработанных в 1982 г. Дж Хопфилдом
математических основ динамики нейронных сетей, создан-
ной в 1984 г. Т. Кохоненом [34] методике их обучения и пред-
* Перцепция — это способность живых существ к восприятию окру-
жающей действительности с помощью органов чувств н нервной систе-
мы В вычислительном интеллекте перцепция определяет способность
технической системы к восприятию окружающей среды с помощью сен-
соров и распознаванию образов объектов окружающей среды.
ложенном в 1986 г. Д. Румельхартом алгоритме обратного
распространения ошибки начались прикладные исследова-
ния нейронных сетей.
Эволюционные вычисления. Эволюционные вычисления
(ЭВ) — это обобщающий термин, используемый для описания
компьютерных систем на основе вычислительных моделей эво-
люционных процессов в качестве базовых при разработке и
эксплуатации. В основе моделирования лежит концепция
подражания эволюционным процессам отбора (селекции),
мутации и воспроизводства (репродукции), которые опреде-
ляются поведением индивидуумов в изменяющихся условиях
окружающей среды. Эволюционные вычисления создают по-
пуляции структур, которые развиваются в соответствии с по-
исковыми операторами, называемыми правилами отбора, и в
соответствии с генетическими операторами, представленны-
ми операциями рекомбинации и мутации.
Каждый индивидуум в популяции занимает свое место со-
гласно мере его соответствия условиям среды. Посредством
рекомбинации и мутации обеспечивается основной набор для
дальнейшего воспроизводства индивидуумов. С точки зрения
биологии указанные алгоритмы упрошены, но достаточно
сложны для реализации и представляют собой поисковые ме-
ханизмы адаптации.
История эволюционных вычислений началась с разработки
ряда независимых моделей, в частности генетических алго-
ритмов и классификационных систем Я. Голланда, представ-
ленных в начале 1960-х годов и получивших всеобщее призна-
ние после выхода ставшей впоследствии классической в своей
области книги «Адаптация в естественных и искусственных
системах» («Adaptation in Natural and Artifical Systems», 1975).
В 1970-х годах в рамках теории случайного поиска Л. А. Рас-
тригиным [56] был предложен ряд алгоритмов, использующих
идеи бионического поведения особей. Развитие этих идей на-
шло отражение в работах по эволюционному моделированию
И. Л. Букатовой [10, 11] Развивая идеи М. Л. Цеглина [15]
о целесообразном и оптимальном поведении стохастических
автоматов, Ю. И. Неймарк предложил осуществлять поиск
глобального экстремума на основе коллектива независимых
автоматов, моделирующих процессы развития и элиминации
особей. Несмотря на разницу в подходах, каждая из одноимен-
ных «школ» взяла за основу ряд существующих в природе
принципов и упростила до такой степени, чтобы их можно
было реализовать на компьютере.
Усилия, направленные на моделирование эволюции по
аналогии с природными системами, в настоящее время мож-
но разбить на две категории. К первой относятся алгоритмы
моделирования биологических систем, которые успешно ис-
пользуются для задач структурной и функциональной опти-
мизации. Ко второй категории относятся более реалистичные
биологически, но не имеющие пока прикладного значения
алгоритмы. Конечно, на практике нет такого строгого деле-
ния по категориям, они лишь играют роль своеобразных по-
люсов, между которыми лежат различные вычислительные
системы. Ближе к первому — эволюционные алгоритмы, та-
кие как эволюционное программирование (Evolutionary Pro-
gramming), генетические алгоритмы (Genetic Algorithms) и
эволюционные стратегии (Evolution Strategies) Второй полюс
представляют системы, которые классифицируются как ис-
кусственная жизнь (Artificial Life).
Парадигма вычислительного интеллекта. Большинство ин-
теллектуальных технологий являются анализирующими или
диагностирующими. Интеллектуальные методы, синтезирую-
щие- новые изделия, редки, поэтому для решения задач струк-
турного и функционального синтеза столь велико значение
генетических алгоритмов, с развитием которых может быть
создана действительно интеллектуальная система автоматиза-
ции проектирования вместо многочисленных САПР, исполь-
зующих экспертную систему на ранних стадиях разработки. С
помощью генетических алгоритмов системы стохастической
оптимизации успешно ищут профиль детали, размещают эле-
менты на плоскости и в пространстве, компонуют и трасси-
руют реальные технические объекты. В гибридных системах
благодаря генетическим алгоритмам (ГА) производят опти-
мизационную настройку функций принадлежности нечетких
множеств, которые задаются параметризованной функцией
формы. Применяя ГА, оптимизируют и состав больших баз
нечетких продукций, и структуру нейронной сети для гене-
тических нечетких нейронных сетей.
Причины формирования гибридных систем, которые со-
ставляют основное содержание вычислительного интеллекта,
14
носят технологический прикладной характер. Более фунда-
ментальной причиной развития вычислительного интеллекта,
на наш взгляд, является необходимость интеграции в единой
системе восприятия и логической обработки. Исторически
исследования восприятия (нейронные сети, распознавание
образов) ведутся отдельно от изучения классического искус-
ственного интеллекта, моделирующего логическое мышле-
ние. Существует разрыв между бионическим интеллектом ис-
кусственных нейронных сетей и интеллектом систем логиче-
ского вывода, в то время как естественный интеллект не
имеет такой резкой границы. Грубую схему «слоев естествен-
ного интеллекта» можно описать следующей формулой:
Сенсорика + моторика + безусловные и условные рефлексы +
+ врожденные программы (инстинкты) + мышление = интеллект.
Возможно, эффективность человеческого интеллекта со-
стоит в том, что указанные слои работают согласованно, по-
могая тем самым решать многие задачи, недоступные искус-
ственным системам. Вычислительный интеллект объединяет
искусственные модели перечисленных компонент-слоев в
гибридные системы, что позволяет рассматривать его не как
технологическое достижение, а как парадигму развития ис-
кусственного интеллекта XXI в.
Для того чтобы еше раз подчеркнуть значение вычисли-
тельного интеллекта, выделим специфические задачи, кото-
рые другими методами не решаются:
• разумный робот, способный, например, выполнять до-
машние дела или вести автомобиль по городским улицам с
интенсивным движением;
• переводчик с одного естественного языка на другой, со-
храняющий смысл текста или речи;
• обработчик текстов, выполняющий качественное рефери-
рование или аннотирование текстов на естественном языке;
• робот, распознающий образы сложных пространственных
объектов, в том числе по плоским, зашумленным, искажен-
ным образам;
• робот, решающий новые задачи и способный к самообу-
чению.
Поскольку вычислительный интеллект сочетает восприятие
(perception based theory) и мышление (computing with words),
то его использование при решении таких задач, во всяком
случае, уместно.
Особенностью перечисленных проблем, согласно Дж. Кли-
ру [31], является так называемая организованная сложность.
Задачи с малым числом переменных, с высокой степенью де-
терминизма, решаемые с помощью аналитики обычно в виде
систем дифференциальных уравнений, называют задачами
организованной простоты. Задачи с большим числом перемен-
ных, проявляющихся случайным образом, решаемые с по-
мощью статистических методов, называют задачами неорга-
низованной сложности.
Глубоко укоренившийся подход решения интеллектуальных
задач так, будто это механические системы, описываемые диф-
ференциальными уравнениями, эффекта не дает, поскольку
вступает в действие принцип несовместимости Л. Заде: с ростом
сложности систем человеческая способность делать точные ут-
верждения о них падает. В области вычислительного интеллекта
за ключевые единицы интеллектуальной работы мозга принима-
ют не числа и не слова, а нечеткие метки, способные обобщать
информацию. Трудно поверить, что человек решает нелиней-
ное дифференциальное уравнение второго порядка, переходя
перекресток, или сложную систему дифференциальных урав-
нений, бросая бумеранг, но с такими задачами человек справ-
ляется подсознательно и вполне успешно. Поток информации,
поступающий в мозг через сенсоры, обобщается таким образом,
что становится возможным приближенное решение задачи.
В сфере вычислительного интеллекта в широком смысле
разрабатывают методологическую схему, содержащую непол-
ную, нечеткую и неточную информацию, но решающую за-
дачи организованной сложности; в узком смысле производят
поиск гибридизации интеллектуальных технологий, обладаю-
щих преимуществами по сравнению с их автономным ис-
пользованием.
Общая задача объединения моделей восприятия и логи-
ческой обработки на уровне структуры должна заключаться
в создании моделей, работающих с вещественными числами
(перцепцией) и дискретными сигналами истины (логикой).
В последующих главах будут рассмотрены схемы гибридных
систем, включающих в себя не только классические нейроны,
но и И, ИЛИ-нейроны.
16
1.2. Основные свойства мягких систем
1.2.1. Классы неопределенности
Рассмотрим различные аспекты неполноты информации [69],
приведенные ниже.
Аспект неполноты информации Теория описания
Неточность Теория интервального анализа
Теория ошибок
Неопределенность Логики, в том числе многозначные
Нечеткость Теория нечетких множеств
Теория возможностей
Различают три аспекта неполноты информации: неточность,
неопределенность, нечеткость. Неточные данные задаются в ин-
тервальной форме D + Е, т. е. интервалом [£>-£,£> + £] Тер-
мин неопределенность многозначен в российской литературе.
Понятие неопределенности в качестве неполноты информации
вообще характерно для современной теории управления. В ма-
тематической логике, в сфере искусственного интеллекта тот
же термин употребляется для обозначения степени истинности
утверждения. В контексте данной работы неопределенность —
это неизвестное значение истинности высказывания. Нечет-
кость данных связана с заданием функции принадлежности
элементов множества, при этом семантика функции прина-
длежности может быть задана как распределение возможностей.
В своих работах по теории нечетких множеств Л. Заде раз-
делил понятия случайности и нечеткости (расплывчатости) ка-
тегорий. Нечеткие, расплывчатые категории возникают там,
где представления человека о процессах и явлениях выражаются
с помощью недостаточно определенных качественных оценок.
В основе подхода к изучению этих категорий лежит понятие
лингвистической переменной, т. е такой переменной, которая
выражается не числом, а словом на естественном языке Фор-
мальное же представление понятий осуществляется с помощью
нечетких множеств и функций принадлежности. Д. И. Ша-
пиро [67] выделяет следующие категории неопределенности:
• неточность (ошибка наблюдения),
• незнание;
• неопределенность (недостаточность информации);
17
т-100
• субъективная вероятность;
• неполнота;
• расплывчатость.
Д. И. Шапиро вводит три уровня, к которым могут при-
надлежать расплывчатые категории.
Уровень I — это описательные, содержательные или
функциональные признаки образа объекта (субъекта). При
этом размерность образа определяется только формализацией
субъективных оценок. Уровню I принадлежат следующие
классы расплывчатых категорий:
• квалификаторы, характеризующие признак объекта и де-
лящиеся на описательные, содержательные и функциональ-
ные (низкий, мощный, горячий и т. д.);
• модификаторы, уточняющие значения квалификаторов
(очень, почти и другие);
• квантификаторы, описывающие количество объектов или
повторяемость действий (для всех, хотя бы один, часто, боль-
шинство и т. д.).
Уровню II принадлежат расплывчатые операции, ко-
торые соотносят признак описываемой расплывчатой ка-
тегории с объектом или другим признаком (включая действие):
1) дескрипторы, к которым относятся расплывчатые оценки
и классификации;
2) прескрипторы, к которым относятся расплывчатые пред-
писания, соотносящие действие с заданными признаками.
Уровню III принадлежат расплывчатые отношения —
процедуры соотнесения дескриптора с прескриптором или
алгоритмом, а также следующие типы нечетких отношений
«система шкал — задача»:
• эксплицитная система шкал (эксплицитной шкалой явля-
ется такая, которую не только используют, но и формируют
в явном виде для использования окружающими),
• неэксплицитные шкалы при эксплицитной задаче (дегус-
тация);
• имплицитная система шкал (имплицитной шкалой явля-
ется такая, на которую ориентируются и которую не форми-
руют в явном виде) при неопределенной задаче (опознание
знакомого на улице);
• эксплицитная система шкал при неопределенной задаче
(графология).
Таким образом, неполнота информации — это сложная и
неоднозначная категория. В результате появляются все новые и
новые теории и методы обработки информации, актуальной для
вычислительной техники.
1.2.2. Вероятность, неточность, нечеткость
Для обращения с неточно известными величинами обычно
применяется аппарат теории вероятностей, т. е. интуитивно
принимается допущение, что неточность (imprecision) неза-
висимо от ее природы может быть отождествлена со случай-
ностью (randomness) Такое допущение является спорным,
поэтому предлагается различать случайность (randomness) и
нечеткость (fuzziness), причем последняя является основным
источником неточности.
Различие между случайностью и нечеткостью определяют
следующим образом. Случайность связана с неопределенно-
стью, касающейся принадлежности или непринадлежности
некоторого объекта к некоторому (обычному) множеству.
Понятие же нечеткости относится к классам, в которых воз-
можны различные градации степени принадлежности, про-
межуточные между полной принадлежностью и непринад-
лежностью объектов к данному классу. Нечеткое множество
есть класс объектов, в котором нет резкой границы между его
объектами и его окружением.
Рассмотрим основные определения и операции, которые
предлагают в своей работе авторы теории нечетких множеств.
Сам термин «fuzzy set», введенный в научный обиход Л. Заде,
в отечественной литературе переводился как «размытые»,
«нечеткие», «нечетко определенные», «расплывчатые» и дру-
гие множества. В настоящее время используется термин «не-
четкое множество».
Нечеткое множество Пусть X = {х} — совокупность объ-
ектов (точек), обозначаемых через х. Тогда нечеткое множе-
ство А, определенное на X, есть совокупность пар*
А = {*, Мл(х)}, х е X,
где ц^(х) — представляет собой степень принадлежности х к А,
Х~> М — функция, отображающая X в пространство М, называе-
мое пространством принадлежности.
Когда М содержит только две точки 0 и 1, А является точ-
ным множеством, и его функция принадлежности совпадает
с характеристической функцией традиционного множества.
Предполагается, что М есть интервал [0,1] причем 0 и 1 пред-
ставляют соответственно низшую и высшую степени прина-
длежности.
Равенство. Два нечетких множества А и В равны тогда и
только тогда, когда т. е. рДх) = р5(х), V х е X
Включение. Нечеткое множество А содержится в нечетком
множестве В или является подмножеством В (А с В) тогда и
только тогда, когда р^(х) < цв(х)
Дополнение. А' есть дополнение к А тогда и только тогда,
когда (х) = 1 - рл(х)
Пересечение. Пересечение А и В (Л с\ В) определяется как
наибольшее нечеткое множество, содержащееся как в А, так
и в В. Функция принадлежности для А гл В определяется сле-
дующим равенством:
Рл n д(х) = miiUp/x), pfi(x)), х е X
Операция пересечения моделирует логическую связку «И»:
К4п /?(*) а рд(х).
Например, если А — класс высоких людей и В — класс
полных людей, то А п В — класс людей, которые одновре-
менно высокие и полные. Следует заметить, что в некоторых
случаях пересечение нечетких множеств определяют как
алгебраическое произведение цДх) • рд(х). Хотя как с мате-
матической, так и с практической точки зрения более пред-
почтительно отождествлять логическое «И» с операцией пе-
ресечения.
Объединение. Понятие объединения множеств дополни-
тельно понятию пересечения. Объединение А и В (А и В) оп-
ределяется как наименьшее нечеткое множество, содержащее
как А, так и В
Функция принадлежности для А и В определяется соотно-
шением:
JMu в(х) = тах(рл(х), pe(jc)), х еХ
В отличие от пересечения, операция объединения опреде-
ляет логическое «ИЛИ»:
ИЛ и »(*) = wW v hbW
Например, если А — класс высоких людей и В — класс
полных людей, то А и В — класс или высоких, или полных
людей. Различают также «жесткий» и «мягкий» варианты объ-
единения. Последний соответствует алгебраической сумме А
и В. Операции пересечения и объединения связываются тож-
деством:
АиВ = (А'г,В'У
Сравнительный анализ подходов к анализу неполноты
информации целесообразно проводить путем исследования
их особенностей, определенных рядом признаков, к кото-
рым относятся: понятийная основа, способ описания исход-
ных данных, количество объектов, человеческий фактор,
способы формирования операций, аксиомы, круг приклад-
ных задач.
В теории вероятностей изучают события или объекты, не-
определенность характеристик которых связана с недетерми-
низмом, с их случайным изменением. В теории нечетких мно-
жеств изучаются детерминированные объекты, но с характе-
ристиками, обладающими неопределенной частью. В теории
грубых множеств исследуют неопределенность в классифика-
ции объектов или их свойств.
Теория грубых множеств была представлена Ж. Павлаком
[78] в начале 1980-х годов как новый математический инст-
румент для работы с неопределенностью и неточностью. Этот
подход имел большое значение для систем искусственного
интеллекта, особенно в областях машинного обучения, при-
обретения знаний*, системного анализа, поиска знаний в ба-
зах данных, экспертных системах, системах принятия реше-
ний и т д. Философия грубых множеств основана на предпо-
ложении, что каждое суждение ассоциируется с какой-нибудь
информацией (данными, знаниями). Например, если объек-
ты — это пациенты, страдающие определенной болезнью, то
*Речь идет о технологии Data Mining
симптомы этой болезни — форма информации о пациентах
Объекты, характеризуемые одними и теми же данными, не-
различимы (одинаковы) с точки зрения имеющейся о них
информации. Неразличимые отношения, полученные таким
путем, являются математическим базисом теории грубых
множеств.
Любое множество неразличимых (одинаковых) объектов
называется элементарным множеством и является формой
простейшей гранулы (атома) знаний. Объединение нескольких
элементарных множеств представляется жесткими (опреде-
ленными) множествами, хотя само объединение — это грубое
множество (неопределенное и неточное)
Таким образом, из предположения о том, что объект «ви-
ден» только через доступную о нем информацию, следует, что
знания имеют гранулированную структуру, согласно которой
некоторые интересующие нас объекты не различимы и высту-
пают как одинаковые. Как следствие, неопределенное поня-
тие, в противоположность определенному, не может быть оха-
рактеризовано в терминах информации об элементах. Поэто-
му в предлагаемом подходе каждое неопределенное понятие
заменяется парой определенных, называемых нижней и верх-
ней аппроксимацией. Нижняя аппроксимация состоит из объ-
ектов, которые точно соответствуют понятию, а верхняя — из
тех, которые, возможно, ему соответствуют. Множество, за-
данное нижней и верхней аппроксимациями, и называется
грубым множеством. Очевидно, что разница между верхней
и нижней аппроксимациями составляет границу области не-
определенного понятия.
Простейшие операции теории грубых множеств использу-
ются для нахождения общих шаблонов данных, поэтому ос-
новной смысл методологии этой теории заключается в нахож-
дении знаний, статистических и индуктивных выводах и т. д.
Как правило, интерпретация получаемых результатов лежит
за пределами теории.
Теория грубых множеств определенным образом соотно-
сится с рядом других математических теорий. Практический
интерес представляет, например, взаимосвязь с теорией не-
четких множеств Концепции грубых и нечетких множеств
различаются тем, что рассматривают различные аспекты не-
определенности.
Для теории вероятностей характерно представление дан-
ных в виде закона распределения случайной величины, для
теории нечетких множеств — представление в виде функции
принадлежности, для теории грубых множеств — представле-
ние объектов в виде пары множеств, включающих элементы,
полностью соответствующие и возможно соответствующие
некоторому понятию.
Вероятностный подход связан с большим количеством од-
нородных объектов (или данных наблюдения за одним объек-
том), число которых для строгого исследования должно быть
достаточно велико. Нечеткий подход применим к любому
числу объектов, отобранных в соответствии с проблемной
ориентацией. Теория грубых множеств также применима к
любому числу объектов, но на практике используется для
больших объемов данных.
При вероятностном подходе человеческий фактор прояв-
ляется в двух аспектах. Во-первых, существуют разногласия в
трактовке результатов полученных распределений (либо на-
блюдаются относительные частоты, либо существует единст-
венное распределение, либо результат определяется субъек-
тивно) Во-вторых, практически невозможно исключить субъ-
ективизм полученных от экспертов данных. В теории нечетких
множеств изначально предполагается, что функция прина-
длежности может быть задана субъективно. Кроме того, рас-
сматриваются объекты, как правило, не имеющие больших
объемов данных, пригодных для статистического анализа.
В теории грубых множеств человеческий фактор проявляется
в субъективном делении объектов (или их свойств) на два
множества.
В теории вероятностей принципиальное значение имеет
совместимость событий. Соответственно существуют разли-
чия в операциях для несовместимых и совместимых событий.
Сумма (объединение). Р(А + В) = Р(А) + Р(В), Р(А + В) =
= Р(А) + Р( В) ~ Р(А • В), где А и В — это события, а Р(Л) и
Р(В) — их вероятности.
Произведение (совмещение): Р(А • В) = Р(А) • Р(Р|Л) =
= Р(В) • Р(Л|Р).
Противоположное событие: Р(А') = 1 — Р(Л).
Основные операции теории нечетких множеств определе-
ны для функций принадлежности.
Объединение, u /?(х) = max(p^ (х), g#(x)), А и В — нечет-
кие множества, p^(x) и цд(х) — функции принадлежности.
Пересечение: п в(х) = тт(рл(х), р£(х)).
Дополнение: рл (х) = 1 — Рл(х).
В теории грубых множеств к наиболее распространенным
операциям относятся:
Объединение: (Л, В) u (С, D) = (Л и С, В и £>);
Пересечение: (Л, В) n (С, D) = (Л с\ С, В г\ D);
Дополнение. (Л, ВУ = (В', Л')-
Несомненно, что задачи, связанные с существованием со-
ответствующего распределения вероятностей, полученного
на достаточном статистическом материале, должны решаться
адекватными вероятностными методами. Для другого класса
проблем относительно качественных оценок объекта пред-
почтительнее применять теорию нечетких множеств Теория
грубых множеств наиболее приспособлена для поиска, клас-
сификации и анализа знаний. Представим особенности сов-
ременных теорий неопределенности в табл. 1.1.
Таблица 1 1
Сравнение теорий неопределенности
Критерий Особенности теории
вероятностей нечетких мно- жеств грубых мно- жеств
Понятий- ная основа Способ описания исходных данных Количест- во объектов Неопредел ен ность в наступлении не- детерминирован- ных событий В виде закона рас- пределения случай- ной величины Большое количе- ство однородных объектов (или данных наблю- дения за одним объектом) Неопределен- ность в качест- венных характе- ристиках объек- тов В виде функции принадлежности Любое число объ- ектов Неопределен- ность в класси- фикации объек- тов В виде пары множеств (ниж- няя и верхняя аппроксима- ции) Любое число объектов, но применяется для больших объемов дани ых
Продолжение
Критерий Особенности теории
вероятностей нечетких мно- жеств грубых мно- жеств
Человече- ский фак- тор Способ формиро- вания опе- раций Круг задач Разногласия в трактовке результа- тов полученных распределений Операции опреде- лены для вероятно- стей Задачи, связанные со статистически- ми данными Функция принад- лежности может быть задана субъ- ективно Операции опре- делены над функ- циями принад- лежности Задачи, связан- ные с качествен- ными оценками Субъективное разделение на два множества Операции вы- полняются над множествами Задачи поиска, классификации и анализа зна- ний
1.2.3. Основные классы задач,
решаемых гибридными системами
Гибридные системы (ГС) предназначены для решения задач:
1) оптимизации;
2) синтеза структуры и настройки параметров;
3) управления;
4) многокритериального выбора;
5) логического вывода,
6) распознавания;
7) прогнозирования;
8) аппроксимации;
9) классификации и кластеризации;
10) обучения.
Отметим теперь функциональную направленность каждой
составной части гибридной (мягкой) системы. Оптимизацию,
синтез структур и настройку параметров осуществляет гене-
тический блок. Причем настраиваются параметры не только
внешнего (например, проектируемого) объекта, но и всей
системы. Интуитивно смысл понятия «мягкость» заключается
в том, что предмет меняет свою форму при приложении к не-
му усилия. Все подсистемы мягкой системы настраиваются,
т. е. меняют форму при адаптации к внешним условиям, а с
помощью генетического алгоритма добиваются «совпадения
форм взаимодействующих поверхностей»
Задачи распознавания, прогнозирования, аппроксима-
ции, классификации и кластеризации успешно решаются с
помощью обучения нейронных сетей. Логический вывод:
многокритериальный выбор выполняется на основе систем
нечеткого вывода. Сформулируем теперь морфологические
признаки ГС в форме ответов на следующие шесть вопросов.
1. Какие составные части мягких вычислений использо-
ваны при построении гибридных систем?
2. Какие практические задачи решает ГС?
3. Какие математические постановки адекватны синтети-
ческому действию гибридных систем?
4. Какая из компонент мягких вычислений базовая?
5. Какие недостатки одной составной части МВ компен-
сированы достоинствами другой?
6. Является ли какая-либо из компонент МВ инструмен-
том создания ГС?
В табл, 1,2 приведены наименования известных гибридных
систем.
1.3. Экспертная деятельность
1.3.1. Виды неполной информации
нри проектировании сложной системы
Рассмотрим содержание экспертной деятельности (ЭД), как
таковой и как одной из задач проектирования сложных сис-
тем. Экспертные оценки являются основой принятия реше-
ний. Проектирование сложной системы представляет собой
трудоемкий процесс. Большие размеры системы, сложность
ее компонент, высокая стоимость разработки требуют ис-
пользования методов экспертных оценок на всех этапах со-
здания системы, тем не менее наибольшее распространение
ЭД получила на начальном и конечном этапах. Для современ-
ных САПР характерно большое разнообразие объектов про-
ектирования при значительном росте их сложности Тра-
диционное использование жестких алгоритмов с регламен-
тированной постановкой задачи и пошаговым процессом
получения результата не позволяет удовлетворительно решить
Виды гибридных систем
Таблица 12
Метод вычисли- тельного интеллек- та и интеллектуаль- ные системы на его основе Комбинация
из двух методов из трех методов из четырех методов
Системы нечеткого Нечеткие ней- Нечеткие ней- Нечеткая веро-
вывода Fzeli ps 6 04 Matlab ронные сети ронные вероят- ностные сети ятностная ней- ронная сеть с использовани- ем генетическо- го алгоритма (*)
Нейронные сети Neurosolution 3 0 Системы нечет- кого и вероят- ностного выво- да Guru Вероятностные нейронные сети с использова- нием генетиче- ского алгорит- ма (*)
Вероятностные рассуждения. Экс- пертная система Prospector Системы нечет- кого вывода с использовани- ем генетическо- го алгоритма Нечеткие ней- ронные сети с ис пользован и ем генетическо- го алгоритма Fungen 1.2
Генетические алго- ритмы Professional Version 1 2 NeuroGenetic Opti- mezer 2 5 Вероятностные нейронные сети Trajan 2 1 Mat- lab Нейронные се- ти с использо- ванием генети- ческих алгорит- мов Системы нечет- кого вероятно- стного вывода с использовани- ем генетическо- го алгоритма (*)
— Системы веро- ятностного вы- вода с исполь- зованием гене- тических алго- ритмов — —
Примечание (*)— данный знак указывает, что соответствую-
щий гибрид не создан или не описан в научной литературе
целый ряд задач проектирования. Применение универсальных
алгоритмических средств, как правило, не обеспечивает тре-
буемого качества решения или нереализуемо из-за чрезмер-
ных вычислительных затрат. Для развития специализирован-
ных алгоритмов, ориентированных на многообразие объектов
проектирования, необходимы большие трудозатраты со сторо-
ны разработчиков САПР. Главной же проблемой автоматиза-
ции проектирования является наличие целой совокупности
неформализуемых или плохо формализуемых задач, решение
которых основано на использовании эвристик, реализующих
опыт специалистов-проектировщиков. В настоящее время
перспектива развития САПР связывается с методами искусст-
венного интеллекта (ИИ). Исследования в этой области по-
зволяют сформировать новую технологию, активную роль
в которой играют знания предметной области задачи или
класса задач. Принципиальное отличие новой технологии от
традиционной состоит в том, что ход решения и результаты
определяются текущим состоянием базы знаний, а не жест-
ким алгоритмом программы. Существует большое разнообра-
зие типов САПР, отличающихся объектом проектирования,
классами задач, ориентацией на разные стадии проектирова-
ния, степенью интеграции и т. д. Сферами приложений ме-
тодов ИИ в САПР являются.
• структурный синтез объектов, особенно на ранних стади-
ях проектирования;
• поисковое конструирование;
• автоматизация и интеллектуализация анализа вычислений,
включающая дружественный интерфейс, математическое мо-
делирование и синтез расчетных процедур, планирование вы-
числений, оптимальный выбор моделей расчета, анализ ре-
зультатов, обучение пользователя, переход от конструкции
к расчетной схеме, выбор численных методов расчета;
• оптимальный выбор характеристик компонент в соответ-
ствии с существующими стандартами;
• автоматизированная обработка графической документации;
• анализ патентной чистоты;
• оптимальное размещение и компоновка,
• редактирование формализованных текстов;
• представление и анализ идей;
• автоматизация построения САПР.
Большинство работ по применению методов ИИ в авто-
матизированном проектировании не затрагивает вопросов
анализа поведения сложной технической системы. На прак-
тике процесс проектирования — это многократно повторяю-
щиеся шаги анализа и синтеза. Поэтому в перечень задач ИИ
в САПР, по-видимому, необходимо включить:
• анализ (экспертная деятельность) поведения окружения
проектируемой технической системы,
• анализ (экспертная деятельность) гипотетического (моде-
лируемого) поведения проектируемой технической системы,
• анализ экспериментов с действующим образцом;
• анализ результатов вычислительного эксперимента.
Традиционно наибольший эффект от применения мето-
дов ИИ ожидают на ранних стадиях проектирования, отли-
чительной чертой которых является значительный уровень
неопределенности, вследствие неполноты, внутренней про-
1 иворечивосги данных, неоднозначности и размытости тех-
нического задания, содержащего приближенные оценки ха-
рактеристик объекта в виде числовых диапазонов, а также
словесное описание целей, ограничений и условий качест-
венного характера, отсутствие аналитических зависимостей,
уравнений, связывающих проектные данные и критерии, и,
как следствие, расплывчатость представлений о взаимодейст-
вии; изменчивый динамический характер причинно-следст-
венных связей при проектировании.
Отмеченные виды неопределенности являются системати-
ческими, т.е. на ранних стадиях проектирования обусловлены
сложностью задач, дефицитом информации, лимитом времени
на принятие решений, особенностями восприятия и т. д. Не-
точность и неполнота исходных данных могут быть вызваны
недостаточным знанием специфики разрабатываемого объек-
та и связаны с присущей этому объекту неопределенностью.
Выбор той или иной структуры сложной системы, напри-
мер топологии вычислительной сети, чаще всего определя-
ется неформальными соображениями. Это, во-первых, объ-
ясняется тем, что многие проектные критерии могут быть
предварительно определены лишь с невысокой степенью точ-
ности, в виде размытых допусков. Во-вторых, далеко не все
свойства или характеристики объекта можно оценить количе-
ственно, так как некоторые из них, возможно, физически не-
29
измеримы. В таком случае из-за отсутствия естественных эм-
пирических шкал измерения характеристики определяются
относительно субъективных эталонов, сформированных спе-
циалистами при сравнении и ранжировании вариантов. К по-
добным свойствам относятся надежность, качество, техноло-
гичность, ремонтопригодность и т. д. Попытки применения
традиционных математических моделей на ранних стадиях
проектирования малоэффективны, поскольку основаны на
обработке точных и полных численных данных и не соответ-
ствуют высокому уровню неопределенности задачи.
Поведение объекта, представленное временным рядом, в
реальных условиях обладает свойством неполноты, которая
для ряда объектов является принципиальной из-за неповто-
римости явления (например, из-за невоспроизводимости
экономических условий хозяйствования) Поскольку качест-
венная экспертиза часто содержит субъективные утверждения,
а оценки экспертов не подчиняются аксиомам вероятностей,
то лишь принципиальная неполнота характеристик поведения
объектов позволяет надеяться на результативность мягких вы-
числений в решении задач. Данное утверждение Л. Заде опре-
делил как принцип несовместимости. Практически любое
экспертное заключение содержит качественные обобщения и
прогнозы, значимые для практики или проектирования. Сле-
довательно, формирование экспертного заключения — это
процесс повышения конструктивной неопределенности
Исходная информация о поведении объекта представляет
собой совокупность значений переменных за определенный
период, т. е. характеризуется четкостью и точностью. Резуль-
тирующее экспертное заключение содержит выводы, прогно-
зы, предположения, которые часто являются нечеткими и не-
точными, и так же часто содержит оценки правдоподобия
предположений. Анализ реальных работ экспертов показыва-
ет, что значительную часть документа занимают либо качест-
венные оценки значений переменных, либо характеристики
тенденции динамики переменных и лишь в небольшой по
объему части содержатся резюме о состоянии объекта, про-
гнозы и рекомендации по управлению объектом.
Оценки значимых переменных проблемной области дают-
ся лингвистически, «очень плохо», «плохо», «нормально»,
«хорошо», «очень хорошо», т е являются нечеткими Таким
образом, можно выделить определяющую, на наш взгляд,
особенность ЭД — это движение от точных и четких, но не-
выразительных значений переменных к неточным и нечет-
ким, но субъективно значимым оценкам.
1.3.2. Анализ и синтез
нри автоматизированном проектировании.
Определение экспертной деятельности
Экспертная деятельность является распространенным видом
интеллектуальной деятельности. В экономической, техниче-
ской, социальной диагностике характерны разнообразные
методы Модели объектов анализа разнообразны в такой же
степени, в какой и объективная реальность. Однако все более
широкое использование математики, современных информа-
ционных технологий, развитие общеметодологических те-
орий (например, теории систем и системотехники) создали
предпосылки выделения методов ЭД как области деятельнос-
ти большой группы специалистов независимо от вида объекта
экспертизы. В результате появилось направление систем ис-
кусственного интеллекта, известное как экспертные системы
(ЭС), которые становятся модулем САПР, научных исследо-
ваний, систем управления предприятием. Свойство интел-
лектуальности теперь присуще всем новейшим информаци-
онным системам. Слияние ЭС и систем принятия решений
(СПР) на уровне методов повышает эффективность интел-
лектуальных САПР. Обоснованием тому может служить пред-
ставление проектирования как итерационного процесса ана-
лиза и синтеза автоматизированного проектирования (АП).
С начала 1990-х годов ощущается определенное разочаро-
вание в эффективности известных методов решения задач
экспертной деятельности. В технике и технической диагнос-
тике методы имитационного моделирования, оптимизации,
многокритериального анализа признаются недостаточными,
очередной кризис идей переживает и ИИ. Нет ясного пред-
ставления о математическом инструментарии ЭД. В то же
время отмечается развитие математических методов, решения
проблем неполноты информации, неточности, нечеткости,
традиционно присущих ЭД. Результатом такого развития счи-
тается создание теории нечетких систем. Развитие нечетких
систем, нейрокомпьютеров и генетических вычислений объ-
единяет новое научное направление — мягкие вычисления.
На роль математики ЭД претендуют, по нашему мнению,
мягкие вычисления, в рамках которых активно решаются
известные задачи: нечеткое (возможностное) линейное и
динамическое программирование, возможностные (а не ве-
роятностные) игры, нечеткое имитационное моделирова-
ние, нечеткие решения классических задач аппроксимации,
интерполяции, экстраполяции, оценки тренда. Логический
вывод в экспертной деятельности осуществляют многообраз-
ные методы правдоподобного вывода.
Лишь в области философии ЭД разными авторами выска-
зывается полное единодушие и общей философией ЭД при-
знается системный подход, хотя и понимаемый в общем
смысле, но развиваемый на основе разных математических
методов в направлении от теории систем к системотехнике.
Экспертная оценка может проводиться на разных этапах
проектирования и эпистемологических уровнях объекта про-
ектирования. Эксперт работает в некоторой проблемной об-
ласти, нормативно-ценностная система которой ему извест-
на. Определение состояния объекта является целью его ана-
лиза. Объект проверяется на соответствие нормам и правилам
проблемной области (оценка значений показателей). Обычно
о состоянии судят по поведению объекта в течение какого-то
временного периода. Поведение представляется в виде вре-
менного ряда. Причем эксперт не просто ищет ответ на воп-
рос, в норме ли состояние объекта9 Необходимо оценить, ка-
ким было состояние в прошлом (поиск причины), сохранится
ли оно в будущем, в каком направлении изменится (оценка
динамики, прогнозирование), как достичь желаемой коррек-
ции поведения (аналитическое планирование)9 При оценке
состояния экспертиза исследует многомерный объект. При-
мер интегральной опенки объекта — это экономические мат-
рицы устойчивости Мнемоника состояния — известный ин-
струмент и язык экспертов конкретных проблемных областей.
Поведение технических объектов часто моделируют с по-
мощью вероятностных методов. Однако поведение современ-
ных сложных технических систем, таких как инфраструктура
городов, глобальные информационные сети, характеризуется
как эмпирическим временным рядом, так и совокупностью
32
качественных детерминированных сведений о структуре,
функциях и информационных потоках. Представляется перс-
пективным сочетание методов ЭС, исследования операций,
МВ для описания отдельных аспектов таких систем.
Объектом экономического анализа в подавляющем боль-
шинстве случаев является предприятие. Поведение пред-
приятия характеризуется временным рядом экономических
показателей, вычисляемых по данным бухгалтерской отчет-
ности. Экономическая информационная система является
элементом системы управления предприятия, а экспертная
диагностика такой структуры — этап разработки его системы
управления.
Примером сложных технических систем, эффективность
которых зависит как от технических, экономических, так и от
социальных факторов, являются экономические информаци-
онные системы, которые рассматриваются как объект проек-
тирования. По нашему мнению, если разработке проекта
предшествует анализ финансово-хозяйственной деятельнос-
ти, то система станет более адекватной особенностям пред-
приятия. Если же разработка технических спецификаций
опирается только на схему существующего документооборо-
та, то эффективность системы будет значительно ниже.
Таким образом, обобщая сказанное, можно определить
экспертную деятельность как анализ окружения проектируе-
мой технической системы, прототипов, опытных образцов,
технологического и организационного обеспечения изделия,
поведения аналитических и имитационных моделей объекта
проектирования с использованием современных информаци-
онных технологий Экспертная деятельность, в широком
смысле слова, ведется не только на ранних этапах проекти-
рования, но и необходима для формирования модели систе-
мы при эскизном и рабочем проектировании.
1.3.3. Этапы экспертной деятельности
прн автоматизированном проектировании
Проектирование, в том числе автоматизированное, — это ите-
рация процессов анализа и синтеза, причем анализ предшест-
вует выбору любого технического решения В технике процесс
принятия решений обладает следующими особенностями:
33
3-100
• если проектируется новое, не имеющее аналогов изделие,
то выбор решения производят из ряда четко определенных
морфологических признаков;
• выбор технического решения должен подчиняться крите-
рию оптимальности.
Поскольку ЭД подразумевает анализ сложной техниче-
ской системы (СТС), необходимо уточнить это понятие, что-
бы сформулировать содержание ЭД и выделить ее этапы. Под
сложностью понимают одно из следующих свойств или их
комбинацию:
• большая размерность;
• разнообразие связей и компонент;
• взаимодействие детерминированных и стохастических частей,
• развитие во времени;
• включение человека, коллектива, социума.
Принимая во внимание перечисленные признаки, будем
считать, что сложная техническая система — это система с раз-
нообразными частями и связями, развивающаяся во времени
и объективно содержащая неопределенность в описании по-
ведения. Сложной системой является и окружение СТС.
Применительно к анализу качества проекта ЭД включает
в себя следующие этапы:
• измерение качества проекта;
• оценку отдельных факторов (параметров) проекта с уче-
том динамики;
• оценку проекта в целом;
• прогнозирование выполнения проекта;
• обработку управляющих воздействий (планирование).
Перечисленные этапы повторяются при анализе окру-
жающей среды или подсистем. Учет таких особенностей экс-
пертной деятельности, как объективная неопределенность и
многомерность, позволяет уточнить структуру задач. В резуль-
тате определения состояний объекта получаются точные (не-
точные, но четкие) временные ряды (ВР) поведения. При ана-
лизе таких рядов эксперт фазифицирует значения, устанав-
ливая релевантную точность. При оценке динамики развития
объекта ставится задача анализа тенденций и исследования
взаимных влияний. Анвлиз отдельных факторов не дает це-
лостной картины, поэтому необходима интегральная оценка
объекта. Дальнейший прогноз развития отдельных факторов
или состояния системы в целом позволяет генерировать (пла-
нировать) действия.
Эксперт независимо от природы объекта отвечает на сле-
дующие вопросы:
1. Какие оценки можно присвоить значениям перемен-
ных, характеризующих состояние объекта?
2. Какие тенденции развития (динамика значений пере-
менных) характеризуют объект?
3. Как охарактеризовать состояние объекта в целом7
4. Каков прогноз развития объекта?
5. Какие рекомендации, планы можно предложить для до-
стижения целевого состояния объекта?
В случае если эксперт анализирует не существующий объ-
ект, а проект сложной системы, то ЭД необходима на этапах
выбора проектных решений. Основные вопросы формули-
руются следующим образом:
1. Какие оценки можно присвоить значениям переменных
данного варианта проектного решения с точки зрения техни-
ческих требований?
2. Какие тенденции развития (динамика значений пере-
менных) характеризуют эксплуатацию объекта?
3. Как охарактеризовать вариант проектного решения в
целом?
4. Каков прогноз развития системы?
5. Какие рекомендации, планы следует предложить для
построения системы с заданным поведением и свойствами?
Далее рассмотрим объекты, поведение которых представ-
лено как качественными описаниями, так и ВР. Тогда этапы
анализа, соответствующие вышеперечисленным вопросам,
можно условно озаглавить:
• оценка значений переменных;
• оценка тренда;
• интегральные оценки;
• прогнозирование;
• планирование.
Под оценкой здесь понимается значение переменной в
шнгвистических терминах качества («отличный», «хороший»,
<удовлетворительный», «плохой», «очень плохой»). Последо-
вательность этапов экспертной деятельности и соответствую-
щие вопросы приведены ниже.
Этап экспертной
диагностики
Преобразование чет-
ких ВР в нечеткие
(фазификация)
Оценка тенденции
нечеткого ВР
Интегральная оценка
состояния объекта
Прогнозирование
развития
Планирование
Этап экспертной
пуосмтиоЛ Дгвплыюсти
Преобразование чет-
ких ВР в нечеткие
(фазификация)
Оценка тенденции
нечеткого ВР
Интегральное оцени-
вание многомерного
объекта
Прогнозирование
развития
Планирование
Основной вопрос этапа
Какие оценки можно присвоить значениям
переменных, характеризующие состояние
объекта?
Какие тенденции развития (динамика значе-
ний переменных) характеризуют объект?
Как охарактеризовать состояние объекта в це-
лом?
Каков прогноз развития объекта?
Какие рекомендации можно предложить для
достижения целевого состояния объекта?
Основной вопрос этапа
Какие оценки можно присвоить значениям
переменных данного варианта проектного
решения с точки зрения технических требова-
ний?
Какие тенденции развития (динамика значе-
ний переменных) характеризуют эксплуата-
цию объекта?
Как охарактеризовать вариант проектного
решения в целом9
Каков прогноз развития системы?
Какие рекомендации можно предложить для
построения системы с заданным поведением
и свойствами9
Перечисленные этапы характерны для экспертной де-
ятельности в самых разных проблемных областях, где исход-
ные данные для анализа представляются в виде совокупности
временных радов и качественных описаний структур. Такими
прикладными областями являются не только техническая, но
и социальная, экономическая, экологическая и финансовая
экспертизы. Для большинства задач автоматизированного
проектирования исходные данные представляются именно
как совокупность описаний структур, функций и временных
рядов поведения системы или ее окружения. Временной ряд
получают в результате:
• измерений в окружении проектируемой системы,
• измерений старой системы, для которой проектируется
замена;
36
• измерений на опытном образце;
• построения гипотетических ВР развития инфраструктуры
системы;
• построения ВР в ходе вычислительного эксперимента на
аналитической или имитационной модели.
Иногда экспертная деятельность ограничивается первыми
тремя этапами, а именно фазификацией, оценкой тенденций
развития и интегральной оценкой состояния объекта. В таком
случае целью экспертизы является диагностика объекта, и ЭД
сводится к экспертной диагностике. Понятие и определение
экспертной диагностики оговорим особо. Экспертной диаг-
ностикой будем называть ЭД, ограниченную выработкой
лингвистических оценок временного ряда, оценкой тенден-
ции ВР и интегральной оценкой состояния объекта. Целью
экспертной диагностики является диагностирование текуще-
го состояния объекта.
Выше приведены этапы экспертной деятельности, уточ-
ненные для автоматизированного проектирования.
1.3.4. Формализация этапов
экспертной девтельности
Для формализации экспертной деятельности (ЭД) необходи-
мо выбрать адекватную математическую модель каждого ее
этапа, суть которых сводится к оценке множества функций,
причем оценка после ряда преобразований выражается дей-
ствительным числом. Числовая оценка критерия качества,
определенная на множестве функций, имеет математическую
природу функционала.
На первом этапе анализа объекта эксперт переходит от ко-
личественных значений параметров объекта к лингвистиче-
ским оценкам качества, т. е. суть этапа фазификации выража-
ется функционалом Fuzzy'.
Xi(t) = Fuzzylp^ (®),
где x,(t) — вектор нечетких меток (фазифицированных значений);
J ~ 1, . , п— номер нечеткой метки с функцией принадлежности и^.Дсо);
и — количество разбиений,
х,(0 — переменная х, зависящая от времени t.
37
Для решения задачи генерации лингвистических оценок
используются самые различные шкалы. Предполагается сле-
дующее решение задачи с помощью МВ. Для каждой перемен-
ной х, определенной на подмножествах целых или рациональ-
ных чисел, строятся нечеткие интервалы (о). Функция
принадлежности задается экспертом как одномодальная и
квазивогнутая для большинства базовых переменных. Интер-
вал [0, 1] градуируется с помощью линейной или нелинейной
шкалы согласно стадиям качества. В результате получаем
функцию ру (со) для решения задачи генерации лингвистиче-
ских оценок. Означенная задача приводит к преобразованию
или фазификации ВР х,(/) к BP х,-(0- Результатом этапа фа-
зификации и моделью данных в ходе дальнейшего анализа яв-
ляется нечеткий временной ряд. Введем его определение.
Нечетким временным рядом (НВР) будем называть упоря-
доченную последовательность наблюдений над некоторым яв-
лением, характер которого изменяется во времени, если зна-
чение некоторой величины в момент t выражено с помощью
нечеткой метки. Нечеткая метка представляется лингвисти-
ческим термом и функцией принадлежности: иЛмнг.герм(ю)>
где w — носитель нечеткого множества. Анализ тренда вы-
полняется экспертом после фазификации, т. е. анализируется
нечеткий BP (НВР) х,(/)- Для каждого НВР может быть вы-
брана аппроксимирующая функция с непрерывной областью
определения — подмножеством рациональных чисел (целых)
и дискретным множеством значений X/. Экспертная деятель-
ность в силу принципа конструктивной неопределенности
усиливает субъективную нечеткость и нуждается в новом по-
нятии тренда по сравнению с традиционным — «знак произ-
водной».
Оценка тенденции динамики переменной заключается в
соотнесении графика ВР и понятий «рост», «падение», «ста-
билизация», «колебания», «хаос», которые являются более
широкими, чем классические математические определения
изменений монотонных функций. Таким образом, решение
задачи анализа тренда выражается функционалом
TrJt = Trend[{xt (/)}],
где ТГ( — наименования тренда («рост», «падение», «стабилизация»,
«колебания», «хаос»,
Trend — функционал,
{хД/)) — дискретно-значный ВР.
Множество ВР х,(/) является бесконечным. Конструк-
тивным уточнением функционала Trend может служить набор
процедур идентификации типа тренда для значений ВР, по-
лученных в результате измерений. Алгоритм процедуры мож-
но представить в виде продукций. Таким образом, характе-
ристика тренда получается с помощью эмпирических правил.
Например, для группы «стабилизация» правило может быть
следующим:
• значения переменной находятся на двух смежных уровнях
оценок;
• значения переменной находятся в одном интервале оценок.
Правило «годовой рост» для конкретного экономического
показателя означает, что его среднее кваргальное значение рас-
тет. Эмпирические правила позволяют определить тенденцию,
пренебрегая локальными экстремумами, а также провести
сравнительный анализ графиков с выделением общей и про-
тивоположной тенденций. Традиционное решение математи-
ческой статистики, состоящее в поиске авторегрессии, затруд-
нено из-за малого объема выборки. Оценка тренда ВР может
служить основой для решения задач аппроксимации, интерпо-
ляции, экстраполяции (прогнозирования) ВР. Для обобщения
предложенной точки зрения на анализ тенденций НВР введем
определение его тенденции.
Тенденцией нечеткого временного ряда будем называть не-
четкую метку, выражающую динамику (систематическое дви-
жение) НВР. К значимым наименованиям тенденции отне-
сем следующие нечеткие метки:
• рост
• падение,
• стабилизация,
• колебания;
• хаос.
Разумеется, для нечетких термов, обозначающих тенден-
цию, возможно применение модификаторов «очень», «бо-
лее-менее» и т. д. До настоящего этапа рассматривались ас-
пекты анализа отдельных параметров объекта. Очевидно, что
последний является многомерным, и, разобравшись с оцен-
ками и тенденциями отдельных параметров, необходимо ра-
зобраться с состоянием объекта в целом. Задача распадается
на две подзадачи, выделения множества базовых перемен-
ных, зависимых переменных и зависимостей между ними,
определяющими правила поведения объектов и генерации
интегральной оценки состояния объекта. Первая из подза-
дач решается традиционными методами регрессионного
анализа, для второй эффективно использование мягких вы-
числений. Формализуем задачу построения интегральной
оценки.
Интегральная оценка представляет собой дискретное ко-
нечное множество характеристик состояний многомерного
объекта / меньшей мощности, чем множество состояний объ-
екта, составленное комбинаторикой оценок отдельных пара-
метров, т. е. интегральная оценка всегда является группиров-
кой, обобщением состояний и строится экспертом на основе
сопоставления множества преобразованных BP хДО- Следо-
вательно, задача интегральной оценки — это поиск функци-
онала Estimate'.
Im = Estimate^)}, ft (г)}, ft (011-
Функционал Estimate может быть определен феноменоло-
гически для различных объектов. Уточним понятие интег-
ральной оценки состояния с помощью следующего определе-
ния. Интегральным оцениванием состояния объекта будем
называть диагностирование, т. е. выбор релевантного наиме-
нования состояния из всех состояний, известных для про-
блемной области. Характерными примерами являются спи-
ски возможных дефектов устройства, режимов эксплуатации
системы, степеней износа и т. д.
Задача прогнозирования может рассматриваться в узком и
широком смысле. В узком смысле прогнозирование связано с
построением для отдельной переменной x£f) преобразованно-
го ряда оценок хД/), тренда 7г/, значения xt(t„ + ^), где п —
точка ряда Т, для которого известно последнее фактическое
значение. Прогнозирование — это вычисление аппроксими-
рующей функции, заданной нечетким временным рядом, т е.
прогнозирование в узком смысле связано с построением функ-
ционала
xi. progms^n + i) = Forecast [{x,(t)}, Tri ],
такого, чтобы ошибка прогноза стремилась к min:
pragnas(6i+l) + 1)» I min.
Прогнозирование в широком смысле — это построение
интегральной оценки In(tn +1) по известным ряду интеграль-
ных оценок 7(0 и множеству трендов {
1т(.‘п +1) = Forecast[{l(t)} | / = 0, , г„]
При прогнозировании эксперты пользуются различными
подходами. На практике при решении задачи прогнозирова-
ния в узком смысле можно пользоваться методами прогнози-
рования стационарного ряда: методом средней и экспонен-
циально взвешенной средней. Результативным решением за-
дачи поиска интегральной оценки представляется и метод
анализа иерархий Саати [5]. В этом случае функционал Fore-
cast представляет собой итерацию процедур построения
иерархий, попарных сравнений (шкалирования) и процедуры
многокритериального выбора. Представляется уместным ис-
пользование МВ как при шкалировании, так и при много-
критериальном выборе.
Завершающим разделом любого экспертного заключения
является выработка рекомендаций для достижения объектом
целевого состояния 5, т. е. необходимо по целевому состо-
янию 5, ряду интегральных оценок /(г), где t — анализируе-
мый период от 0 до t„, построить для заданного периода от /„
до 1„ + т, где т — длина планируемого периода:
Tr' = Plan\S, 7(т)].
Таким образом, необходимо «прочертить» согласованное
множество линий развития каждой отдельной переменной.
Содержание функционала Plan можно выразить с помощью
системы нечеткого вывода
Контрольные вопросы
1. Каковы составные части мягких вычислений?
2. Какие технологические преимущества дает гибридиза-
ция нечетких систем, нейронных сетей и генетических ал-
горитмов?
3. Какие проблемы искусственного интеллекта требуют объ-
единения систем восприятия, распознавания и логиче-
ской обработки в единую систему?
4. На основе какой теории в гибридной системе осуществ-
ляется обработка неопределенности?
5. Какая составная часть мягкой системы обеспечивает свой-
ство обучаемости на примерах?
6. Какая составная часть мягкой системы обеспечивает адап-
тивность за счет направленной стохастической оптими-
зации?
7. Назовите основные этапы развития теории нечетких систем
8. Назовите основные результаты развития теории нейрон-
ных сетей.
9. Сформулируйте основную идею эволюционных вычис-
лений.
10. Какие классы неопределенности можно выделить?
11. Какие современные теории описывают различные классы
неопределенности?
12. Сопоставьте следующие классы явлений: детерминиро-
ванные, массового характера, современные математиче-
ские и человеческие рассуждения
13. Дайте определение понятию «нечеткое множество» и при-
ведите примеры.
14. Сравните понятия вероятности и нечеткости по определе-
ниям, аксиомам, классам описываемых явлений и коли-
честву явлений.
15. Сравните понятия нечеткого и грубого множества.
16. Перечислите основные задачи, решаемые гибридными
системами.
17. Какой блок мягких вычислений решает задачи оптимиза-
ции и настройки структуры и параметров?
18. Какие задачи решают нейронная сеть и система нечеткого
вывода?
19 Почему гибридные системы в области вычислительного
интеллекта называют мягкими?
20. Назовите перспективные типы гибридных систем.
21. Укажите виды проектной информации с неопределенно-
стью.
22. Дайте определение экспертной деятельности и эксперт-
ной диагностики при проектировании.
23. Назовите основные этапы экспертной деятельности.
24. На какой основной вопрос отвечает эксперт на этапе фа-
зификации данных?
25. На какой основной вопрос отвечает эксперт на этапе оп-
ределения тенденции нечеткого временного ряда?
26. Что такое нечеткий временной ряд?
27. Что такое нечеткая тенденция НВР?
28. На какой основной вопрос эксперт отвечает на этапе ин-
тегральной оценки состояния объекта?
29. На какой основной вопрос отвечает эксперт на этапе про-
гнозирования?
30. Что понимают под прогнозированием в узком и широком
смысле?
31. На какой основной вопрос отвечает эксперт на этапе пла-
нирования достижения цели?
32. В чем заключается принцип конструктивной неопреде-
ленности?
2 Основы теории
нечетких множеств
глава .___________________________________________
Чем сложнее система, тем менее мы способны дать точные
и в то же время имеющие практическое значение суждения
о ее поведении. Для систем, сложность которых превосходит
некоторый пороговый уровень, точность и смысл становятся
почти исключающими друг друга характеристиками.
Л. Заде
Со времени открытия Гейзенбергом
соотношений неопределенности
принципиально неустранимая неточность
стала привычным явлением.
Д. Дюбуа, Г. Прад
2.1. Сущности, значения
и функции принадлежности
2.1.1. Объекты проблемной области,
базовые п нечеткие значения
Понятийная структура проблемной области, связанная с ее
объектами и процессами, представляется в теории нечетких
систем как совокупность абстрактных сущностей (объектных
переменных или переменных процесса). Примером признаков
объектов проблемной области Moiyr служить: время дня, дата.
Объектная переменная становится конкретной за счет при-
сваивания ей значений. Дата — сегодня, среда, утро, в начале
следующей недели, третьего января.
Базовые значения каждого признака объекта проблемной
области в интеллектуальных системах — это множество изме-
римых значений. В общем случае невозможно решить задачу
выбора базовых значений, так как выбор зависит от особен-
ностей проблемной области. Должны выполняться следую-
щие условия выбора.
Уникальность — в любой возможной ситуации объектная пе-
ременная принимает одно и только одно из базовых значений.
Измеримость — в любой возможной ситуации сущность
может быть определена моментальным значением объектной
переменной.
Пример 2.1. Базовые значения некоторых объектных пе-
ременных.
1. Объектная переменная — дата.
Первое множество базовых значений:
В, = { Пн., Вт, Ср., Чт., Пт., Сб., Век.}.
Второе множество базовых значений:
В2 = {1.1.2003, .. , 31.12.2003}.
Третье множество:
В3 = {Янв., Фвр., .. , Дек }
Все множества дискретные.
2. Объектная переменная — температура.
ЛЗозможныс базовые множества:
В! = [0 "К; 100 “К],
В2 = [0 °C; 20 “С].
Оба множества непрерывные.
3. Объектная переменная — количество денежных средств.
В| = { х$: где х е N, N — множество натуральных чисел}
В2 = { хуу$; х > 0, уу - 00 . 99}.
Все множества дискретные.
4. Объектная переменная — вектор.
В[ = {(х, у х, у, z — действительные числа}.
В2 = {г, cos(<x), cos(P); г — положительное действительное число,
0 < а, р < 2п }.
Оба множества содержат непрерывные триплеты чисел.
В разговорной речи вместо четких терминов из согласо-
ванного множества базовых значений часто используются
лингвистические множества, и не всегда определено, какое из
них соответствует настоящему моменту. Лингвистические
значения нечетки в этом смысле.
Пример 2.2. Лингвистические значения некоторых объ-
ектных переменных.
1. Объектная переменная — дата.
Допустимы следующие лингвистические значения: «нача-
ло недели», «позже», «раньше», «в конце этого года»,
«ночью».
2. Объектная переменная — температура.
Лингвистические значения — «горячо», «тепло», «холод-
но», «холодает», «очень жарко».
3. Объектная переменная — количество денежных средств.
Лингвистические значения — «значительное», «малое»,
«очень большое».
4. Объектная переменная — вектор.
Лингвистические значения — «малой длины», «с большей
координатой z», «длинный».
Нечеткие системы опираются на описание отношений
между переменными процессов с помощью лингвистических
значений. В противоположность нечеткой традиционная сис-
тема управления процессами объектной переменной исполь-
зует множества базовых значений (четкие значения) для оп-
ределения их поведения во времени. При этом базовые и не-
четкие значения объектной переменной в зависимости от
исследуемого приложения должны быть согласованы. В от-
личие от базовых значений нечеткие значения не должны
быть исключительными, а представляют собой слова повсед-
невного языка. Следовательно, они могут описывать челове-
ческий опыт и знания о процессах с нечеткими значениями
и отношениями между переменными.
Пример 2.3. Определения множеств нечетких значений.
1. Объектная переменная — дата.
Первое множество нечетких значений — Fj =
— {начало недели, середина недели, конец недели}.
Второе множество нечетких значений — Г2 =
== {весна, лето, осень, зима).
Третье множество —“ /3 =
= {на 8 Марта, на Октябрьские праздники, на Рождество}.
2. Объектная переменная — температура.
Fl = {холодная, довольно теплая, теплая, горячая, кипящая}
Г2 ~ {низкая, высокая}.
Т3 = {ниже нуля, около нуля, выше нуля).
3. Объектная переменная — количество денежных средств.
Fl = {малое, среднее, значительное, большое).
F2 = {почти ничего, около 100, около 200, более чем 300}.
4. Объектная переменная — вектор.
Fi = {близко к направлению х, близко к направлению у,
близко к направлению z, близко к перпендикуляру,
длинный, более или менее короткий}.
2.1.2. Функции принадлежности
Определение и смысл. В любой ситуации признак объекта
проблемной области имеет одно и только одно четкое значе-
ние из согласованного множества базовых и одно или более
чем одно нечеткое значение из соответствующего множества
11ечетких значений. Выберем для объектной переменной «да-
та» множество базовых значений:
В = {Пн , Вт., Ср., Чт., Пт., Сб., Век.}
и множество нечетких значений-
F = {начало недели, середина недели, конец недели}
Сущности «дата» и четкому значению «среда» соответст-
вует нечеткое — «середина недели». «Среду» с трудом можно
отнести на «начало недели» или «конец недели».
Интуитивное отношение между базовым и нечетким зна-
чением объектной переменной выражают более точно, а зна-
чит, и количественно с помощью функции принадлежности,
обозначаемой греческой буквой ц.
Функция [i(b, f) отображает базовое значение b и нечеткое
значение /в интервал [0; 1]. По определению: 0 < ц(Ь, f) < 1
для baf.
Представим понятие «дата» в наглядной форме (табл. 2.1).
Если p(io, /о) = 0 для пары значений (bg, fg), то четкое зна-
чение 1>о не принадлежит нечеткому fg и не является членом^
Если ji(Wo) = то е /о- Частичная или неопределенная
принадлежность выражается значением функции, лежащим в
интервале между 0 и 1. Рассмотрим таблицу значений p(i,/)
для примера (табл. 2.2).
Сумма чисел по горизонтали часто, но не обязательно
близка к 1.0. Реально это означает, что нечеткие значения не-
формально покрывают спектр базовых значений. На практике
функцию принадлежности часто строят так, чтобы ц(Ь fg) -> 1.
Для фиксированного нечеткого значения f=fg функция при-
надлежности |i(i, fg) — это функция переменной Ь, называе-
мой частичной функцией принадлежности.
Виды представления функций принадлежности. Таблица
определения используется тогда, когда множества базовых и
Таблица 2.1
Нечеткое понятие — день недели
Базовое значение b Понятие
не применимое возможное допустимое подходящее
Пн. Середина недели, конец недели Нет Нет Начало недели
Вт. Конец недели Середина недели Начало недели Нет
Ср Начало недели, конец недели Нет Нет Середина недели
Чт Начало недели, Конец недели Середина недели Нет
Пт. Начало недели, середина недели Конец недели Конец недели Нет
Сб Начало недели, середина недели Нет Конец недели Конец недели
Век Начало недели, середина недели Нет Нет Конец недели
Таблица 2.2
Функции принадлежности для понятия «дата»
Базовое значение b Нечеткое значение / Сумма vlb.f)
начало недели середина недели конец недели
Пн. 1.0 0.0 00 1 0
Вт. 0.6 0.2 0.0 0.8
Ср. 0.0 10 0.0 1 0
Чт 0.0 06 0.3 0.9
Пт. 0.0 0.1 07 08
Сб. 0.0 0.0 09 09
Век 0.0 0.0 1.0 10
нечетких значений содержат несколько дискретных элемен-
тов. В табл. 2.3 определена функция принадлежности для объ-
ектной переменной «экзаменационная оценка» с базовыми
значениями — тестовыми баллами: В = [0; 200] и нечеткими
значениями: F — {очень плохо, неудовлетворительно, удов-
летворительно, хорошо, отлично}.
Представление с помощью математических формул. Пред-
ставление с помощью математических формул используется
в основном, если множество базовых значений непрерывно.
Таблица 2.3
Таблица определения функции принадлежности
Базовое значение Нечеткое значение
неудовлетвори- тельно удовлетвори- тельно хорошо отлично
[180; 200] 00 0.0 03 1.0
[130, 179] 0.0 0.1 0.5 02
[100; 129] 0.1 04 02 0.0
[70; 99] 05 0.3 0.0 0.0
[50; 69] 0.8 02 0.0 00
[0; 49] 1.0 00 0.0 00
Согласно таблице ц(110, удовлетворительно) — 0 4; ц(140, от-
лично) = 0.2
Пример 2.4. Представление функций принадлежности
с помощью математических формул.
Объектная переменная — «типичная сезонная температу-
ра воздуха».
Базовые значения:
В = {х; х — действительное число, —20 < х < +35}.
Нечеткие значения
F = { весна, лето, осень, зима }.
р(х, весна) =
0.0, если х < 0
0.05 х, если 0 < х < 20
1-0.1 • (х - 20), если 20 < х < 30.
р(х, лето)
0.0, если х < 10
0.067 • (х - 10), если 10 < х < 25
1.0, если х > 25.
Аналогично для ц(х, осень) и р(х, зима).
Представление с помощью компьютерной программы
очень важно для прикладных систем.
Пример 2.5. Определение функции принадлежности с
помощью программы на языке программнрочания С.
Объектная переменная — классность пассивной безопас-
ности автомобиля.
Базовые значения:
В={1, 2, 3, 4, 5,6}.
Нечеткие значения:
F = {неприемлемо, приемлемо, хорошо, отлично}.
// Слисок нечетких значений
enum fuzzy (unacceptable, acceptable, good, optimum };
// определение функции принадлежности
// b — базовые значения; f — нечеткие значения
double mf (short b, fuzzy f)
(switch(b)
(
case 1:
switch(f)
{ case unacceptable:return( 0.0);
case acceptable: return(0.0);
case good: return(0.3) ;
case optimum:return (1.0) ;
}
case 2:
switch(f)
( case unacceptable:return(0.0);
case acceptable:return(0.1);
case good:return(0.5);
case optimum:return(0. 3) ;
}
case 3:
swi tch (f)
{ case unacceptable:return(0.1) ;
case acceptable:return(0.4) ;
case good:return(0.2) ;
case optimum:return(0.0);
}
case 4:
switch(f)
{ case unacceptable:return(0.5);
case acceptable:return (0.3);
case good:return(0.0) ;
case optimum:return(0.0);
}
case 5:
switch(f)
{ case unacceptable:return(0.8) ;
case acceptable:return(0.2) ;
case good:return(0.0) ;
case optimum:ret urn(0.0);
}
case 6:
switch (f)
( case unacceptable:return(1.0);
case acceptable:return(0.0);
case good:return(0.0) ;
case optimum:return(0.0);
}
default: return(0.0);
// Вызов программы
void main(void)
{ short base value - 3;
fuzzy valve = good;
double z;
z - mf(base_yalue, fuzzy value);
Графическое представление. Если множество базовых зна-
чений непрерывно, то часто используют графическое пред-
ставление функции принадлежности. Оно очень содержа-
тельно, легкое для понимания, но его трудно применить в ав-
томатической обработке.
Для объектной переменной «скорость автомобиля» с ба-
зовыми значениями В = {v; [0 200] км/ч} и нечеткими значе-
ниями F= {стоп, медленно, нормально, быстро, очень быст-1
ро} функция принадлежности в графической форме приведе-
на на рис. 2.1.
Рис. 2.1. Пример объектной переменной «скорость автомобиля»
2.2. Нечеткие числа
Часто признаки объектов проблемной области, с одной сторо-
ны, описываются четкими числами как базовыми значениями,
а с другой — нечеткими, такими как «~1», «~2.5», «грубо 6.0».
Соответствующие функции принадлежности строятся как
кривые Гаусса или треугольные функции.
Пример 2.6. Определение нечетких чисел.
Объектная переменная — температура.
Множество базовых значений:
В = {t; t — положительное действительное число}.
Множество нечетких значений:
F = {-Г, Т— положительное действительное число}
Оба множества непрерывные
Функция принадлежности по Гауссу:
р(/, - Т) = ехр[ -а • (Z - Г)2], а > 0.
Функция принадлежности (треугольная):
10, если К Т — а, а > 0
(/ — Т + а)/а, если Т — а < t < Т
(t- Т+ Ь)/а, если Т< Т+ b > 0
0, если t = Т + Ь.
Очевидно, что обе функции одинаковы для а = b = 1.
Графическое представление нечеткого числа приведено на
рис. 2.2.
2.3. Нечеткие интервалы
Рассмотрим объектную переменную с базовыми упорядочен-
ными действительными числами и нечеткими значениями, за-
данными в виде нечетких интервалов, например: грубо между
1 и 5, приблизительно в интервале от 100 до 120, вероятно,
между 5 и 6. Функция принадлежности обычно строится как
трапециевидная по форме.
и(ЬД)
Рис. 2.2. Пример трапециевидной
и гауссовой функций принадлежности
При мер 2.7. Представление нечеткого интервала.
Объектная переменная — температура.
Множество базовых значений:
В = {Г; t — положительное действительное число}.
Множество нечетких значений:
F = {кажется ниже -10, приблизительно в [-10, 0],
приблизительно в [0; +10], приблизительно в [+10; +20],
очевидно выше [+20]}.
Трапециевидная функция принадлежности:
{1, если г< —15
1 — (/+ 15)/10, если —5 < t< —15
0, если t > -5
H(t, приблизительно в [—10; 0] =
0, если t < —12
(г + 12)/4, если -12 < 1 < -8
1, если —8 < Г< -2
1 — (г + 2)/5, если -2 < t < +3
0, если t > +3
Аналогично можно определить следующие нечеткие ин-
тервалы (выполните это определение в качестве упражнения):
р(/, приблизительно в [0; +10]) = ...
р(/, приблизительно в [+10, +20]) = . .
р(Г, приблизительно в [0; +10]) = ...
р(/, очевидно выше +20) = .
2.4. Нечеткие множества
Рассмотрим объектную переменную с согласованными мно-
жествами В= {4} базовых и F= {/} нечетких значений. M(f )
состоит из всех базовых значений Ь е В объектной переменной
и соответствующих нечетких значений f M(f) называется
«нечетким множеством f над множеством базовых значений
В» или просто «множеством В» или еще проще «нечетким
множеством /».
Из табл. 2.2 можно вывести три нечетких множества:
Мначало недели) = {(Пн., 1.0), (Вт., 0.6), (Ср., 0.0),
(Чт„ 0.0), (Пт., 0.0), (Сб., 0.0), (Век , 0.0)},
Л/(середина недели) = {(Пн., 0.0), (Вт., 0.2), (Ср. 1.0),
(Чт„ 0.6), (Пт., 0.1),(Сб , 0.0) Век., 0.0));
Мконсц недели) = {(Пн., 0.0), (Вт., 0 0), (Ср., 0),
(Чт„ 0.3), (Пт., 0.7), (Сб., 0.9), (Век., 1.0)}.
В принципе каждое нечеткое множество содержит все со-
гласованные базовые значения Ь с соответствующей степенью
принадлежности к нечеткому значению /$. Но чаще базовые
значения с р(Л, Уо) = 0 удаляются, так они не принадлежат к
рассматриваемому нечеткому значению.
2.5. Нормальные нечеткие множества,
носитель, отношения эквивалентности,
включения
Любое нечеткое множество может быть представлено в общей
форме: М = {(Z>, р); Ь е. В). Определенная пара (Ь, р) содер-
жится только в множестве М. Наоборот, для двух пар (fi\, р])
и (^'2. 1‘j) из разных множеств может быть справедливо
= Z>2, НО Р| 1 Р2-
Каждый элемент b имеет уникальную принадлежность ц в
множестве М.
Нечеткое множество А нормально тогда и только тогда,
когда supAp^(x) = I. Нечеткое множество субнормально, если
оно не является нормальным. Непустое субнормальное не-
четкое множество нормализуют делением каждого цд(х) на
величину supxpj(x). (Нечеткое множество пусто тогда и толь-
ко тогда, когда = 0.)
Носитель нечеткого множества А — это четкое множество
•У(Л), такое, что х g 5(Л) <=> gj(x) > 0. Если цд(х) = 1 на 5(Л),
то А — обычное четкое множество, называемое единичным.
Два нечетких множества равны:
А = В о цл(х) = цв(х), V х е X.
Нечеткое множество А содержится в нечетком множестве
В или является подмножеством В (А <z В) о р/(х) < Каж-
дое нечеткое множество над множеством базовых значений
В содержится в единичном множестве над В, т. е. оно явля-
ется подмножеством единичного множества над В.
Каждое нечеткое множество над множеством базовых зна-
чений В содержит нулевое множество над В, т. е. нулевое
множество — подмножество каждого множества.
2.6. Операции
с нечеткими множествами
2.6.1. Дополнительное множество НЕ
Рассмотрим определение операции дополнения в теории
множеств. Пусть Л/ — множество элементов из множества ба-
зовых значений В, тогда дополнительное множество -’Л/оп-
ределяется как множество из тех базовых элементов В, кото-
рые не принадлежат к множеству М‘ -*М = {Л; b е В, Ь ё Л/}.
Определим дополнение в теории нечетких множеств. Рас-
смотрим нечеткое множество М = {(b, р); b е В, 0 < р < 1},
дополнительное нечеткому множеству --Л/, определяемому
как:
-Л/= {(b, (1 - р)), b е В, 0 < р <}.
Пример 2.8. Определение дополнительного нечеткого
множества.
М = {(Пн , 0.2), (Вт., 0.5), (Ср., 0.4),
(Чт, 0.0), (Пт., 10), (Сб., 0 3), (Век., 10)};
-М = {(Пн., 0.8), (Вт., 0.5), (Ср., 0.6),
(Чт., 1.0), (Пт., 0.0), (Сб., 0.7), (Век ,0 0)}
Значение Ьд из М никогда не содержится в --Л/, если
р(до) = 1->1-р(*о) = О.
Значение Ь$, которое частично содержится в М, также час-
тично содержится в -•№.
0 < р(60) < 1 ->0 < 1 - р(£0) < 1.
Значение которое не содержится в М, определенно со-
держится в -’Л/.
р(60) = 0 -> 1 - ц(60) = 1.
Рассмотрим операцию (префикс НЕ). Каждому нечеткому
значению/из /’добавим префикс НЕ, получим новый термин
объектной переменной А — НЕ / функция принадлежности
которого определяется как: НЕ/) = 1— ц(Ь,/) для всех но-
вых нечетких значений НЕ/для А. Соответствующее нечеткое
множество:
МНЕ/) = {t 1 g(i, НЕ/)) = {i | (1 - ц(*,/) )) = He-
четкое множество, принадлежащее нечеткому значению НЕ/,
дополнительно нечеткому множеству, принадлежащему /
Пример 2.9. Использование операции НЕ для расшире-
ния терминального множества объектной переменной.
Объектная переменная — дата.
Множество базовых значений:
В — {Пн., Вт., Ср., Чт., Пт., Сб., Век.}.
Исходное множество нечетких значений:
F— {начало недели, середина недели, конец недели}.
Дополненное множество нечетких значений
F = {начало недели, середина недели, конец недели,
НЕ начало недели, НЕ середина недели, НЕ конец недели}.
Исходные нечеткие множества:
^/(начало недели) = ((Пн., 1.0), (Вт., 0.6), (Ср., 0.0),
(Чт., 0.0), (Пт., 0.0), (Сб., 0.0), (Век.,0.0)};
Л/(середина недели) = {(Пн., 0.0), (Вт., 0.2), (Ср, 1.0),
(Чт., 0.6), (Пт., 0.1), (Сб., 0.0), (Век, 0.0)};
Л/(конец недели) ={(Пн , 0.0), (Вт., 0.2), (Ср., 0.0),
(Чт., 0.3), (Пт., 0.7), (Сб., 0 9), (Век., 1.0)}.
Дополнительные нечеткие множества будут следующими.
Л/(НЕ начало недели) = {(Пн., 0.0), (Вт., 0.4), (Ср., 1.0),
(Чт., 1.0), (Пт., 1.0), (Сб., 1.0), (Век, 1.0)};
Л/(НЕ середина недели) = {(Пн., 1.0), (Вт., 0.8), (Ср., 0.0),
(Чт., 0.4), (Пт., 0.9), (Сб., 1.0), (Век., 1.0)};
Л7(НЕ конец недели) = {(Пн., 1.0), (Вт., 1.0), (Ср., 1.0),
(Чт., 0.7), (Пт., 0.3), (Сб., 0 1), (Век., 0.0)}.
2.6.2. Пересечение И
Рассмотрим определение операции пересечения в традици-
онной теории множеств. Пусть заданы два множества и Л/2
элементов из множества базовых значений В, тогда пересече-
ние множеств М = М\гМ2 определяет множество, элементы
которого из В принадлежат к обоим множествам и М2 ОД-
повременно:
М = гл Л/2 = {6; b е М] и Ь е Л/2}-
Определим операцию пересечения в теории нечетких
множеств.
Пусть заданы два нечетких множества
М} = {(6, щ) | b е В, 0 < щ < 1}
и
Л/2 = {(6, р2) | Ь е В, 0 < |i2 11-
Пересечение нечетких множеств определяется как:
М= М2 = {(*, min(p|, р2))}.
Пример 2.10. Пересечение нечетких множеств.
Мх = {(Пн , 1.0). (Вт., 0.6), (Ср., 0.4), (Чт., 0.2),
(Пт., 0.0), (Сб., 0.8), (Век., 0.0)};
Л/2 = {(Пн.,0.7), (Вт., 0.2), (Ср., 1.0), (Чт., 0 6),
(Пт., 0.1), (Сб., 0.0), (Век., 0.0));
Л/, п М2 = {(Пн., 0.7), (Вт., 0.2), (Ср., 0.4), (Чт., 0.2),
(Пт., 0.0), (Сб., 0.0), (Век., 0 0)).
Значение Ьц е и Ьи е Л/2 полностью содержится в Л/, г,
п М2:
Р1(*о) = 1 И р^о) = 1 => 01111(11!, |12) = 1.
Значение Z>0 , частично содержащееся в Л/| иди в М2, толь-
ко частично содержится в Мj п Л/2:
о < М1(*о) < 1 ИЛ” ° < Р2(*о) < 1 => о < min(p!, р2) < 1.
Если значение Ьо е М\ и Ьде М2 не содержится в 1И| п М2.
Р|(*о) = 0 «л» Р?(*о) = 0 => mm(p|, ц2) = 0.
К исходному множеству F = {/} нечетких значений объ-
ектной переменной А добавляются новые термины, получае-
мые с помощью использования операции И. Функция при-
надлежности нового значения переменной процесса А опре-
деляется:
р(*,/1 И/2) = min[p(6,/), ц(6,/2)1, V/] И/2 е А,
ИЛ) = {6 | р(6,/! И/2)} = {6| min(p(M). P(i./2))} =
= лад п лад.
Пример 2.11. Расширение терминального множества объ-
ектной переменной с помощью операции И.
Объектная переменная — дата.
Множество базовых значений:
В = {Пн., Вт., Ср., Чт., Пт, Сб , Век.}.
Исходное множество нечетких значений:
F= {начало недели, середина недели, конец недели}
Расширенное множество нечетких значений:
F = (начало недели, середина недели, конец недели,
начало недели И середина недели, начало недели И конец недели,
середина недели И конец недели}.
Поскольку операция И симметрична, что означает
в(*,Л ИЛ) = р(б,/2 ИЛ).
Следовательно, нечеткие значения, подобные «середина
недели И начало недели», нет необходимости рассматривать.
«Середина недели И начало недели» подобна «начало недели
И середина недели».
М(начало недели) = {(Пн., 1.0), (Вт., 0.6), (Ср., 0.0),
(Чт., 0.0), (Пт., 0.0), (Сб., 0.0), (Век., 0.0)};
Л/(середина недели) = {(Пн., 0 0), (Вт, 0.2), (Ср., 1.0),
(Чт., 0.6), (Пт., 0.1), (Сб., 0.0), (Век., 0.0)};
Л/(конец недели) = {(Пн., 0.0), (Вт., 0.2), (Ср., 0.0),
(Чт., 0.3), (Пт., 0.7), (Сб., 0.9), (Век., 1.0)}.
Добавим нечеткие множества Л/(начало недели И середи-
на недели).
Л/(начало недели) п Л/(середина недели) = {(Пн., 0.0), (Вт., 0.2),
(Ср., 0.0), (Чт., 0.0), (Пт., 0.0), (Сб., 0.0), (Век., 0.0)};
Л/(начало недели И конец недели) =
= ЛДначало недели) о ЛДконец недели) = {(Пн., 0.0), (Вт., 0.0),
(Ср., 0.0), (Чт., 0.0), (Пт., 0.0), (Сб., 0.0), (Век., 0.0)};
Л/(середина недели И конец недели) =
= Л/(середина недели) гз Л/(конец недели) =
= {(Пн., 0.0), (Вт., 0.0), (Ср., 0 0), (Чт., 0 3),
(Пт , 0.1), (Сб., 0.0), (Век., 0.0)}.
2.6.3. Объединение ИЛИ
Рассмотрим определение операции объединения в традици-
онной теории множеств. Пусть даны два множества и Л/2
элементов базового множества В, тогда объединением мно-
жеств М = Л/| м Л/2 называется множество, содержащее такие
элементы В, которые принадлежат множествам или М2
или обоим одновременно:
М = М\ о М2 = {b; b е Л/| или b е М2 }.
Определим объединение в теории нечетких множеств.
Пусть даны два нечетких множества
Л/j = {(*, щ) | b е В, 0 <= Й1 <= 1}
и
Мг = {(*, й2) | b е В, 0 <= ц2 <= 1),
тогда объединением множеств М — М\ и Л/2 называется М =
= {(Л, max(p|, р2)) I Ь е В, 0 <= ц <= 1}.
Пример 2.12. Объединение нечетких множеств.
М, = {(Пн., 1.0), (Вт., 0.6), (Ср., 0.4), (Чт., 0.2),
(Пт., 0.0), (Сб , 0.8), (Век., 0.0)};
М2 = {(Пн., 0.7), (Вт., 0.2), (Ср., 1.0), (Чт., 0.6),
(Пт., 0.1), (Сб., 0.0), (Век., 0.0)};
Л/, и М2 = {(Пн., 1.0), (Вт., 0.6), (Ср., 1 0), (Чт., 0.6),
(Пт., 0.1), (Сб., 0.8),*(Век., 0.0)}.
Значение Ьд, которое полностью содержится хотя бы в од-
ном из множеств М\ или М2, так же полностью содержится в
Л/, М2. если pi(Z>o) = 1 или m2(Z>o) = 1, то max(pb р2) = 1.
Значение Ьд, которое хотя бы частично содержатся в
или в Л/2, всегда частично содержится в Л/, и М2: если (Ьо) >
> 0 или р2(60) > 0, то max(g], ц2) > 0.
Значение Ьд е М\ и Ьд е М2 так же не содержится в и
и М2. если p](Z>o) = 0 и р2(60) = 0, то max(pb р2) — 0.
Для заданного множества /'={/} нечетких значений объ-
ектной переменной А мы можем добавить новые термины,
используя связку «ИЛИ». Функция принадлежности нового
значения объектной переменной А определяется как:
р(6,Г1 ИЛИ/2) = тах[р(6,/1), р(6,/2)|, V/, ИЛИ/2 е А.
M(ft ИЛИ/2) = {Ь | р(6,Л ИЛИ Л)} =
= {* | тах(р(*,Л), р(6,А))} = M/j) и Л/(75).
Следовательно, нечеткое множество, принадлежащее к
нечетким значениям / ИЛИ />, это нечеткая дизъюнкция
множеств, принадлежащих/! и /2.
По аналогии с примером 2.11 можно легко составить рас-
ширенное множество значений F= {начало недели, середина
недели, конец недели, начало недели ИЛИ середина недели,
начало недели ИЛИ конец недели, середина недели ИЛИ ко-
нец недели}.
Так как операция ИЛИ симметрична, / ИЛИ f2) =
= ИЛИ/), то другие нечеткие значения, подобные «се-
редина недели ИЛИ начало недели», нет необходимости опи-1
сывать. Значение «середина недели ИЛИ начало недели» по-
добно «начало недели ИЛИ середина недели».
2.6.4. Обобщенные определения
пересечения п объединения печетких
множеств
Выше мы определили операции пересечения и объединснш
двух нечетких множеств следующим образом.
Пересечение: М\ о Mi = (/>| ггпп(щ, р2))-
Объединение. М\ и Mi = {6| тах(щ, ц2)}.
Аналогично определим выводимые из исходных нечетки
значений нечеткие значения с помощью операций:
И: р(*,/| И/,) = min(n(Z>,/), р(*,/2));
ИЛИ: ИЛИ/2) = тах(ц(й,Л), n(b,f2)).
Фактически эти определения — специальные случаи обще
го, использующего понятия '/’-норм и 5-конорм [80]. Эти вы
ражения обозначают функции со специальными свойствами
которые будут детально обсуждаться далее, /"-нормы и 5-конор
мы обладают двумя важными свойствами. Т(х, у) и 5(х, у) — это
функции двух действительных переменных х и у, определенны!
на интервалах 0Сх<1и0<у< 1. Значения функций Т(х, у)
и S(x, у) также находятся в интервале 0 < 7\х, у) < 1 и 0 < 5(Х
у) < 1. Используя любые /"-нормы Т(х, у) и 5-конормы S(x, у)
обобщим определения операций над нечеткими множеств:
Пересечение: n Л/j = (/; | Г(Ц|, р2)}-
Объединение: М\ и Мг = {6 | 5(Р|, р2)}.
Операция И: n(b,f И/2) = Лр(*./1). И*. Л))
Операция ИЛИ: n(b,ft ИЛИ/2) = S(p(fc,/j), р(*,Д)).
Далее будет показано, что для 0<х<1и0<у<1 min(x, у)
соответствует Т-норме и тах(х, у) — 5-конорме. В табл. 2.4,
2.5 перечислены некоторые широко известные Т'-нормы и 5-ко-
нормы [1]
Таблица 2.4
Т- нормы
Определение функций Дх, у) - Имя функции
1 0, если тах(х, у) < 1 1 min(x, у), если fhax(x, у) = 1 тах(0, х + у — 1) х-у/[1 + (1-х).(1-у)] х*у х.у/[1-(1-х) .(1-у)1 min(x, у) Ограниченное произведение Усиленная сумма Произведение Эйнштейна Алгебраическое произведение Произведение Гамахера Минимум
Таблица 2.5
S-конормы
Определение функций 5*(х, у) = Имя функции
шах(х, у) 1-(1-х).(1-у)/(1-х.у) 1-(1-Х).(1-у) 1 -(1 — х) • (1 -у)/(1 +х.у) min(l, х + у) (1, если min(x, у) > 0 1 тах(х, у), если min(x, у) = 0 Максимум Сумма Гамахера Алгебраическая сумма Сумма Эйнштейна Усиленная разность Ограниченная сумма
2.6.5. Общие свойства Г-норм и S-копорм
Т-нормы и 5-конормы имеют общие свойства, которые пере-
числены ниже.
Интервалы определения:
0<х< 1,0<у< 1.
Интервал значений:
О < Т(х, у) < 1, 0 < S(x, у) < 1.
Коммутативность:
Т(х, у) = Т(у, х), S(x, у) = 8(у, х).
Ассоциативность:
Т[Т(х, у), г] = Лх, Т(у, z)], 5[5(х, у), г] = 5[х, S(y, г)]
Монотонность:
если х = и и у = v, то
Лх, у) = Т(и, v), $(х, у) = S(u, у).
Специальные значения:
ЛО, У) = 0, 5(0, у) = у;
Д1, у) = у, 5(1, у) = 1-
Каждая функция со свойствами Т называется Т’-нормой,
или триантулярной нормой, а со свойствами 5— 5-конормой,
или триангулярной конормой. Рассмотрим следующие шесть
пар Т-норм и 5-конорм (табл. 2.6).
Для каждой пары справедливы следующие уравнения:
Т(х, у) = 1 - 5(1 - х, 1 - у), 5(х, у) = 1 - Г(1 - х, 1 - у).
Каждая пара триашулярных норм и конорм, которые под-
чиняются обобщенным отношениям деМоргана, называется
парой относительных триангулярных норм. Все функции при-
надлежности (как для И, так и для ИЛИ-связок нечетких зна-
чений) выбираются такими же далекими друг от друга, как па-
ры относительных триашулярных 7"-норм и 5-конорм. Т-\
мы выбираются для И, 5-конормы — для ИЛИ.
Пары норм и конорм
Таблица 2.6
7-норма: 7(х, у) 5-конорма: 5(х, у)
Усиленное произведение (х, у) Ограниченная сумма (х, у) Произведение Эйнштейна (х, у) Алгебраическое произведение (х, у) Произведение (х, у) Минимум (х. у) Усиленная сумма (х, у) Ограниченная разность (х, у) Сумма Эйнштейна (х, у) Алгебраическая сумма (х, у) Сумма Гамахера (х, у) Максимум (х, у)
Почему функции назвали триангулярными7 Потому, что
Т(х, у) = Т(у, х) и 5(х, у) = S(y, х) определяются только в тре-
угольной области 0 < х < 1, О С у < х.
Дпя любых заданных значений х и у справедлива следую-
щая возрастающая последовательность:
О < произведение (х, у) < ограниченная разность (х, у) <
< произведение Эйнштейна (х, у) < алгебраическое произведе-
ние (х, у) < произведение Гамахера (х, у) < минимум (х, у) <
< максимум (х, у) < сумма Гамахера < алгебраическая сумма <
< сумма Эйнштейна < ограниченная сумма < сумма < 1.
Для любых двух 7-норм и 5-конорм (не только для одной
из них) справедлива следующая последовательность:
О <= Т(х, у) <= 7(1, у) <= у <= 5(0, у) <= S(x, у) <= 1.
2.6.6. Определения трпангулярных норм
п конорм для 7V аргументов
Так как правило ассоциативности справедливо для норм и ко-
норм, имеют смысл следующие определения для трех аргу-
ментов.
1. Т(х, у, z) = 7(7(х, у), z) = 7(х, Г(у, z));
5(х, у, z) = 5(5(х, у), z) = 5(х, 5(у, z)).
Аналогично N параметров
Г(Х|, х2,..хл) « Т( Дх|, х2, . .. х^ _ О, Хд) = 7(xl, 7(х2, , xN));
s(*\> х2 х#) = 5(5(хь х2, , хл._ i), хд) = 5(хь 5(х2, . , хд)).
2 Ограниченная разность и ограниченная сумма.
T(xt, х2, , хд) = шах (0, £хп - (IV- 1)];
И
5(Х|, х2, .. , xN) = min[l, £хп].
п
3. Алгебраическое произведение и алгебраическая сумма
Г(хь х2, , xN) = Пхп;
Л
5(Х|, х2, Хд,) = 1 - £1 - хп.
п
4. Минимум и максимум
T(xt, х2, , xN) = min(X|, х2, .... xN);
S(xi, х2, Xfj) = max(x|, x2, Хд).
Для других триантулярных функций не существует простых
обобщенных формул.
При мер 2.13. Использование 7-иорм и S-конорм.
Предположим, х = 0,5 и у = 0,1.
Усиленное произведение 7(0,5, 0,1) = 0, так как тах(х, у) =
= тах(0,5, 0,1) = 0,5 < 1.
Ограниченная сумма 7(0,5, 0,1) = тах(0, х + у — 1) =
= тах(0, —0,4) = 0.
Произведение Эйнштейна 7(0,5, 0,1) = х • у/[1 + (1 — х) •
.'() - У)! = 0,5 « 0,1/(1 + 0,5 - 0,9) = 0,05/1,45 = 0,034.
Алгебраическое произведение 7~(0,5,0,1) = х «у=0,5 «0,1 =
= 0,05.
Произведение Гамахера 7(0,5, 0,1) = х«у/[1 — (1 — х) •
. (1 - у)] = 0,5 • 0,1/(1 - 0,5 . 0,9) = 0,05/0,55 = 0,091.
Минимум 7(0,5, 0,1) = min(x, у) = min(0,5, 0,1) = 0,1.
Максимум 5(0,5, 0,1) = тах(х, у) = тах(0,5, 0,1) = 0,5.
Сумма Гамахера (0,5, 0,1) = 1 — (1 — х) •(! — у)/(1 — х«
• у) = 1 - 0,5 - 0,9/(1 - 0,5 .0,9) = 1 - 0,45/0,55 = 0,818.
Алгебраическая сумма 5(0,5, 0,1) = 1 — (1 — 0,5) • (1 — 0,1) =
= 1 - 0,5 • 0,9 = 1 - 0,45 = 0,55.
Сумма Эйнштейна 5(0,5, 0,1) = 1 — (1 — х) • (I — у)/(1 +
+ х«у) = 1 - 0,5 « 0,9/(1 + 0,5.0,1) = 1 -0,45/1,05 = 0,571.
Ограниченная разность 5(0,5,0,1) = min(l, х + у) = min(l,
0,5 + 0,1) = min(l, 0,6) = 0,6.
Усиленная сумма 5(0,5, 0,1) = 1, так как min(x, у) =
= min(0,5, 0,1) = 0,1 > 0.
Таким образом, последовательность возрастающих число-
вых значений просматривается в явном виде.
2.7. Параметризованные триангулярные
функции
С любой парой норм и конорм может быть сформировано
«взвешенное среднее»:
R(x. У) = (1 — “) • Их, у) + а • 5(х, у)
— арифметическое среднее,
0 < а < 1.
R(x, у) = 1\х, у)(1 “ а) * 5(х, у)к
— геометрическое среднее,
0 < а < 1.
Известны следующие параметризованные функции, на-
шедшие отражение в литературе [1, 73, 74].
1. Пересечение Гамахера:
Р(х, у) = х«у/[а-(а- 1) • (х +у - х «у)].
В зависимости от выбора параметра а можно прийти к
следующим Т-нормам’
а = 0 — произведение Гамахера,
а = 1 — алгебраическое произведение,
а = 2 — произведение Эйнштейна,
а = оо — ограниченное произведение.
2. Объединение Гамахера:
Q(x, у) = [(а - 1) -Х.у + х +у]/(1 +х»у).
В зависимости от выбора параметра а можно прийти к
следующим 5-конормам:
а = — 1 — сумма Гамахера,
а = 0 — алгебраическая сумма,
a = 1 — сумма Эйнштейна,
a ~ оо — усиленная сумма.
3. Пересечение Ягера:
Р(х, у) = I - min[l, а7(1-х)“+(1-у)°).
В зависимости от выбора параметра а можно прийти к
следующим Т’-нормам:
a = 1 — ограниченная разность,
a = со — min.
4. Объединение Ягера:
Q(x, у) = min[I, ч)ха + уа ].
В зависимости от выбора параметра а можно прийти к
следующей 5-конорме:
а=1— ограниченная сумма,
a = оо — щах.
5 Функции Вернера:
Р(х, у) = а • min(x, у) + (1 - а) • (х + у)/2 — И-связка,
Q(x, у) = a • тах(х, у) + (1 - a ) • (х +у)/2 — ИЛИ-связка.
2.8. Произведение множеств
2.8.1. Определения
В практических приложениях бывает полезно соединить два
стандартных нечетких множества в одно комбинированное,
называемое декартовым произведением. Подобная концеп-
ция широко используется в традиционной теории множеств.
Предположим, имеются два объекта проблемной области
А и Вс двумя множествами базовых значений {а} и {/>}, не-
четких значений {/) и (g), и функциями принадлежности p(a,f)
и q(b, g) соответственно. Сущности Ан В могут быть как раз-
личными, так и фактически идентичными
Рассмотрим два нечетких множества P(f) = {а ] р(а, /)}
объектной переменной А и Q(g) = {b | q(b, g)} переменной В
Операция п(х, у) будет нормой или конормой соответственно.
Определим произведение множеств P(f) и Q(g) следующим
образом:
Z(f, g) = P(f) ® 0(g) = {(а, b) | л[р, (о,/), q(b, g)|),
{a, p(a,f)} e P(f), {b, q(b, g))} e C(g).
Другими словами, Z — это множество всех триплетов а, Ь,
п, где а и b — базовые значения А и В, f и g — нечеткие зна-
чения А и В, a n[p(a,f), q(b, g)] = р [(о, b), (f g)] определяет
комбинированную принадлежность базовых значений (а, Ь)
нечетким значениям (f, g).
Если пара (f, g) нечетких значений связывается связкой
И, т. е. (f g) = f И g, то требуется выбрать Т’-норму п(х, у)
Если (f, g) =/ИЛИ g, то необходимо связывать/ng функцией
и(х, у), которая должна быть 5-конормой. В основном выбор
определяется удобством использования.
2.8.2. Двуместные печеткпе множества.
Нечеткое бинарное отношение
Триплеты (о, Ь, р) с а и Ь из множества базовых значений объ-
ектных переменных А и В соответственно, и р е [0,1] — это
элементы «двуместного нечеткого множества» переменных А
и В: М = {(а, Ь, р) | а е А, Ь е В, р е [0,1]}.
Последовательно определим операции для двуместных не-
четких множеств.
1. Отрицание множества:
^М= {(a, b) I 1- р)}.
2. Пересечение:
Ml п Л/2 = {(а, Ь) | Т(р|, р2)) с действующей 7"-нормой.
3. Объединение:
о Л/2 = {(^ I Иг)} с действующей 5-конормой.
Двуместное нечеткое множество задает отношение между
ними. Поэтому можно говорить об операциях с нечеткими
отношениями. Пересечением нечетких отношений R(x, у) и
у) называют нечеткое множество
R(x, у) л S(x, у) = min[«e (х, у), ps (х, у)}.
Объединением нечетких отношений R(x, у) и S(x, у) называ-
ют нечеткое множество R(x, у) v S(x, у) = тах{цд (х, у), py(x, у)}.
Нечеткие отношения [74] задаются как принадлежность пар
нечеткому понятию, графически нечеткое двумерное отноше-
ние изображается поверхностью в трехмерном пространстве.
Пусть Хи Y— непустые множества. Нечеткое отношение
R — это нечеткое подмножество X ® К Другими словами,
Ле Л(Х® Y).
Если X = К, то говорят, что Л — это бинарное нечеткое
отношение на X. Если Л — это бинарное нечеткое отношение
на Л, тогда Л(х, у) можно интерпретировать как степени при-
надлежности упорядоченных пар (х, у).
Пример 2.14. Бинарное нечеткое отношение.
Бинарное нечеткое отношение на множестве <7= {1,2,3}
назовем «приблизительно равно»
Л(1,1) = Л(2,2) = Л(3,3) = 1;
Л(1,2) = Л(2,1) = Л(2,3) = Л(3,2) = 0,6;
Л(1,3) = Л(3,1) = 0,2.
Функцию принадлежности на Л зададим следующим об-
разом:
!1, если х = у
0,6, если |х -у| = 1
0,2, если |х - у| = 2.
Представим отношение в матричной форме;
х/у 1 2 3
1 1,0 0,6 0,2
2 0,6 1,0 0,6
3 0,2 0,6 1,0
Значимость нечетких отношений обусловлена тем, что
они описывают взаимодействие между переменными.
Пусть R и S — два бинарных нечетких отношения на X ® Y.
Пересечение R и 5 определяется как
(R л S) (х, у) = тш{Я(х, у), S(x, у)},
где R, S: X® Y-> [0, 1]
Объединение Rh S определяется как
(Я и S)(x, j) = тах{Я(х, i), S(x, j)}.
Пример 2.15. Операции над бинарными отношениями.
Я(х, у) У1 У2 Уз Уз
*1 0,4 0,1 0,3 0,5
х2 0,1 0,4 0,2 0,0
*3 0,2 1,0 1,0 0,4
Определим два бинарных отношения R(x определенно
больше у) и 5(х приблизительно равно у) в матричной форме.
S(x, у) И У2 Уз Уз
0,2 0,1 0,7 0,5
Л2 0,3 0,7 0,5 0,3
*3 0,4 0,0 0,0 0,5
Пересечение R и Л' означает, что «х определенно больше у»
и «х приблизительно равно у». Особенность нечеткой логики
заключается в том, что значения нечеткой переменной не яв-
ляются взаимоисключающими. Значение нечеткой перемен-
ной «большой» (степень принадлежности 0,75) не исключает
значения «средний» (0,5) или даже «малый» (0,25), так как
каждое из значений обладает разными степенями принадлеж-
ности.
(Яг ' 5)(х, у) Я Я И Я
*1 0,2 0,1 0,3 0,5
*1 0,1 0,4 0,2 0,0
Х| 0,2 0,0 0,0 0,4
Объединение R н S означает, что «х определенно больше
3’» или «х приблизительно равно у».
(Я, 5)(х, у) И И Я Я
*1 0,4 о,1 0,7 0,5
*1 0,3 0,7 0,5 0,3
*1 0,4 1,0 1,0 0,5
2.8.3. Проекции двуместных функций
принадлежности
Если в двуместных функциях принадлежности ц|(о, b), (f, g)| =
= n[p(a,f), q(b, g)|, переменные b и g зафиксировать на уров-
не значений b = и g = g0 объектной переменной В, то функ-
ция v(a,f) = р[(а, b0), (f go)] называется проекцией ц[(а, Ь),
(f g)] на значения (b0, go) переменной В. Функция v(«, f) за-
висит только от двух переменных a, f и представляет собой
принадлежность базовых значений объектной переменной А
к нечетким, причем имеется столько проекций v(o, /) дву-
местных функций принадлежности р[(а, b), (f, g)], сколько
возможно комбинаций (Ьц, go).
Аналогично определяется проекция v(b, g) = ц| («с. b),
(f0, g)l для значения пары (а0,/0) переменной А. Рассмотрен-
ные двуместные нечеткие множества называют нечеткими от-
ношениями. Приведем обобщенное определение проекций
нечетких отношений.
Проекцией нечеткого отношения является тоже нечеткое
множество. Для того чтобы задать проекции, необходимо ука-
зать их функции принадлежности.
Нечеткие проекции [74] нечеткого отношения определяют-
ся следующим образом:
ПхЛ(х, у) = sup Л(х, у) ) у е У;
f] yR(x, у) = sup Я(х, у) | х е X.
Определение проекций позволит в дальнейшем опреде-
лить композицию нечетких отношений и композицию нечет-
кого множества с нечетким отношением.
Рассмотрим классическое отношение R на множестве дей-
ствительных чисел R.
I 1, если (х, у) е [a, i] ® [0, с]
Ж у) | q, если g [0> с]
Проекция (тень) R на ось X — это замкнутый интервал
fa, b], а на ось У— интервал (0, с]. Если R — классическое от-
ношение на X ® У, то
nxM
R(X. Y)
b
Рис. 2.3. Проекция отношения R(X, Y)
П(х) = {x e X| 3 у e Y: (x, j) e A};
X
П(У) = (У e Г| 3 X e X (x, у) e R],
где ПС*) —проекция на Х\
X
П(у) —проекция на Y (рис. 2.3).
Пусть R — нечеткое бинарное отношение на X® У, про-
екция R на X'.
П(х) = sup{A(x, y)jye Y).
X
Проекция R на Y.
П(у) = sup{A(x, у) I x e X}.
Пример 2.16. Проекция бинарного отношения.
рассмотрим отношение R(«x предпочтительнее у»), задан-
ное в матричной форме
В(х,у) Ч У2 Уз >4
Ч 0,4 0,1 0,3 0,5
*2 0,1 0,4 0,2 0,0
Ч 0,2 1,0 1,0 0,4
Проекция на X определяется следующим образом:
1) Х| присваивается ее значение как высшая степень при-
надлежности пар (х,, л), (хц у2), (ч, Л), (ч. У4). т. е. ПСч) =
х
= 0,5, максимальное значение первой строки;
2) х2 присваивается ее значение как высшая степень при-
надлежности пар (х2, У1), (х2, у2), (х2, уз), (х2, уд), т. е. П(х2) =
х
= 0,4, максимальное значение второй строки;
3) аналогично ]“[(хз) ~ '
х
Графически проекции нечеткого отношения приведены
на рис. 2.4.
Декартовым произведением А ® В, А е F(X) и В е F( У) на-
зывают
А ® В (и, v) = min{?l(u), B(v)}, V и е Д' и те К
Следуя [74], определим картезианское произведение нечет-
ких множеств А и В, как нечеткое отношение на Ли К (рис. 2.5).
Рис. 2.4. Проекции (тени) нечеткого отношения
Рис. 2.5. Картезианское произведение нечетких множеств
Нечеткое множество А нормально тогда и только тогда, когда
supxpX*) = 1- Если А и В — это нормальные множества, то
П(Л ® В) = В и П (А ® В) = А.
Y X
П(х) = sup{(Л ® В)(х, у) I у е У) = sup{X(x) л В(у) | у е Y} =
х
= ггип{Л(х), sup{B(y)} | у е ¥} = тщ{Л(х), 1} = А(х).
2.9. Многоместные функции
принадлежности
2.9.1. Определение многоместных функции
принадлежности
Вышеприведенные рассуждения обобщим для произвольного
количества объектных переменных. Различные л-наборы ба-
зовых значений О|, .. , адг переменных/1|, . , А^одновремен-
но принадлежат к «-наборам нечетких значений /j, . ,/дгобъ-
ектных переменных Ah А^с принадлежностью
й[(°1. .. , aN), (Д, .,/д)] = A')L
где w(X|, x/v) — это любая согласованная Г-норма или Уконорма.
Если множественные (Д, ,/д') нечеткие значения связы-
ваются связкой И, в качестве п(х\, , х^) выбирается Т-норма.
Если Ор ...,/дг) — это ИЛИ-связанное выражение, должна
быть выбрана 5-конорма в качестве и(хр .... хд).
2.9.2. Проекции многоместных функций
принадлежности
Проекции многоместных функций принадлежности опреде-
ляются аналогично двуместным. Одна или более чем одна
из нечетких переменных фиксируется, другие могут свобод-
но варьироваться. «Спроектированная» функция показывает
принадлежность базовых значений нечетким значениям оп-
ределенных сущностей, другие объектные переменные полу-
чают фиксирова! 1ные четкие и нечеткие значения.
Комбинация (О|, .. , одг, р) с ар .. , aNиз множества базо-
вых значений переменных Лр ... , Аки р е [0, 1] — «Умест-
ное нечеткое множество»:
М= {(ab . , aN, р) | а, е Др ..., aN еЛ№р е [0,1]}.
Мможет быть произведением множеств нескольких одно-
местных нечетких множеств:
= {(ар pi) | ci е р] (ap/i)};
М2 (fl) = {(«2. Р2) I °2 <= т<2. Р2 (а2. fl)Y,
= {(«№ ту), A/у, pN (aN, fN)}.
. ,/jv) = {(ар ajy) | Др,.. -.рл)}
соответстве) tHO
M/p fi, -,М = {(«i> oN) | S(pp .... p/v)}.
Пример 2.17. Использование двуместного нечеткого
множества.
Покажем (табл. 2.7—2.12), как конструируется и исполь-
зуется двуместная функция принадлежности. Обозначения
аналогичны предыдущим пунктам [73].
Частичная двуместная функция принадлежности:
р[(а. Л), тепло И высокое] = min[p(a, тепло), q(b, высокое)]
представлена в табл. 2.9.
Таблица 2 7
Функции принадлежности р(а, /) тгмпгратуры и g(b, g) давления
Объектная переменная Температура (А) Давление (В)
Физические еди- ницы измерения Множество ба- зовых значений Множество не- четких значений Функции при- надлежности р(а, холодно) = р(а, тепло) = р(а, горячо) = q(b, низкое) = д(Ь, среднее) = q(b, высокое) = Нечеткие мно- жества Р(холодно) = Р(тепло) = Р(горячо) = О(низкое) = О(среднее) = О(высокое) = (°C) {а} = {а| 0 С аС 1000} {/} — {холодно, тепло, горячо} Л, если 0 < а < 300, П — (а — 300)/400, {если 300 С а < 700, р, если 700 < а С 1000. р/300, если 0 С а < 300, 11, если 300 С а < 700, 11 — (а — 700)/300, (если 700 < а < 1000. Р, если 0 < а < 300, Ка - 300)/400, если 300 < а < 700, 11, если 700 < а < 1000. Нет Нет Нет Л/) = {(о. р{о, /)} {а | р(а, холодно), 0 < а < 1000}. {а I р(а, тепло), 0 С о < 1000}. {а | р(а, горячо), 0 С а С 1000} Нет Нет Нет Ю5 Pascal (105Ра) {£} = {Ь | 1 с b С 10} {^} = {низкое, среднее, высокое} g) Нет Нет Нет 1, если 1 < Ъ < 3, 1 — (Л — 3)/4, если 3 < b < 7, 0, если 7 С b < 10 Л>/3, если 1 < b < 3, 1, если 3 < Ъ < 7, 0 — (ft —7)/3, если7<Л< 10 (0, если 1 < b < 3, <(Ь — 3)/4, если 3 < b < 7, Ц, если 7 < b < 10 С?(£) = № q(b, g)} Нет Нет Нет {£ | q(fi, низкое), 0 < b с 10} {Ь | q{b, среднее), 0 <Ъ < 10} \b, q{b, высокое), 0 С b < 10}
Таблица 2 .8
Нечеткие множества P(fl температуры и Q(g) давления
Операция И ИЛИ
Двуместные нечеткие значения Г-нормы и 5-ко- li ормы холодно И низкое; холодно И среднее; холодно И высокое; тепло И низкое, тепло И среднее; тепло И высокое; горячо И низкое; горячо И среднее; горячо И высокое, min(x, у) холодно ИЛИ низкое, холодно ИЛИ среднее, холодно ИЛИ высокое, тепло ИЛИ низкое; тепло ИЛИ среднее; тепло ИЛИ высокое; горячо ИЛИ низкое, горячо ИЛИ среднее; горячо ИЛИ высокое; тал(х, у)
Частичная двуместная функция принадлежности:
ц(а, Ь, горячо ИЛИ низкое) = тах[р(а, горячо), q(b, низкое)]
представлена в табл. 2.10.
Другие двуместные функции принадлежности имеют
частичные функции принадлежности, подобные тем, что в
табл. 2.10.
Проекция v(a,f) двуместной функции принадлежности [73]:
р(а, 6, /И g) на значение пар b = Ьв = 6 • 105 Ра (четкое)
и g = go — «высокое» (нечеткое) давление переменной
v(o,/) = ц(а, 6,/И высокое) = min[p(a, f), q(6, высокое)] =
= nun[p(a,/), 0.75]
представлена в табл. 2.11.
Проекция v(a,f) двуместной функции принадлежности [73]:
ц(а, b, f ИЛИ g) на значение пар b = Ьв = 6 105Ра (четкое)
и g = go = «высокое» (нечеткое) давление переменной v(a, fl =
= р(а, 6,/ИЛИ высокое) = max[p(a, f), q(f>, высокое)] =
= тах[р(а,/), 0 75]
представлена в табл. 2.12.
Частичная оуткстш функция принадлежности н!(в, А), тепло И высокое]
О
Проекция v(a,f) двуместной функции принадлежности v(e, /) = ц(л, 6,/ И высокое)
Нечеткие множества построены следующим образом:
M(f И g) = {(a, b, pi); а, b — базовые значения температуры
и давления соответственно ц е [0,1]} = {(а, Ь, ц(а, b,fM g)} =
= {(а, 6, min [p(a,f), q(b, g)]} M(f ИЛИ g) = {(a, b, u);
a, b — базовые значения температуры и давления,
И 6 [0,1]} = {(о, b, р(о, b,/ИЛИ g)} = {(a, b, max[p(a,J), q(b, g)]}.
2.10. Функции нечетких переменных
2.10.1. Функции с одной независимой
переменной
Для описания проблемной области используются либо четкие
числа х из некоторого множества четких {х}, либо нечеткие чис-
ла/из некоторого множества нечетких значений {/}. Представ-
ления связаны друг с другом функцией принадлежности ц(х, /)
соответствующего нечеткого множества X(f) = {(х, ц(х, /))}.
Функция w — fun(x) может быть задана алгоритмом, кото-
рый каждому четкому числу х из {х} ставит в соответствие
только одно четкое число w из определенного множества {w}.
Функция w = fun(x) — это «образ» х после выполнения пре-
образования fun(x): х -> w. Существует ли подобное опреде-
ление функции для нечетких чисел?
Пусть/) — некоторое нечеткое число (например,/) = «око-
ло 3.4»), a X(/G) — {(х| ц(х, /))} — соответствующее нечеткое
множество. Тогда найдем нечеткое множество W.
1. Пусть (xq, ро) — любой элемент нечеткого множества
АХ/)), тогда четкое значение wq определяется по формуле wq =
= fun(x0).
2. Принадлежность г(и^) вычисляется следующим образом:
• соберем все (х, ц) g Af(/)) с fun(x) = пусть этими эле-
ментами будут (х0, pg), (хь щ), . . , (хм ц/у);
• вычислим го = 5(р0, щ, p/у) по некоторой ранее согла-
сованной S-конорме.
3. В результате W — {(w, г)} будет множеством всех пар (w,
г) — (w0, г0), вычисленных для всех возможных элементов (xq,
но) е ад.
Рассмотрим Wкак нечеткое множество нечетких чисел р0,
определенных на множестве {w} базовых значений w Нечет-
кое число pg рассматривается как «образ» pg — fun(/)) Так, W
получает значения Ж(Гип(^)). В общем случае для любого не-
четкого числа из {/} справедливо:
х-> w = fun(x),/-> р = X(f) W(p)
Если нечеткое множество W получено из нечеткого мно-
жества JV согласно п. 1—3, то говорят, что существует отноше-
ние между X и W или X -> W [73].
Для выделения свойств нечеткого отношения рассмот-
рим сначала четкое отношение. Пусть даны п множеств
Xl, Х2, ..Хп и Л, ® Х2 ® . ® Хп — декартово произведение
множеств, тогда отношением R размерности п называют не-
которое подмножество декартова произведения. Отношение
R обладает следующими свойствами:
1. Рефлексивность. Отношение Ррефлексивно, если V х е X,
имеет место отношение R(x, х). Отношение, не обладающее
свойством рефлексивности, называют анпшрефлексивным.
2. Симметричность Отношение R называется симметрич-
ным, если V х, у е X, для которых имеет место отношение
Я(х, у) также имеет место отношение R(y, х), при невыпол-
нении условия говорят о свойстве антисимметричности.
3. Транзитивность. Отношение R называют транзитив-
ным, если V м, v, w е X, R{u, v), A(v, и1) справедливо R(u, w),
в противном случае отношение — антитранзитивно.
Отношение называется отношением эквивалентности, если
отношение рефлексивно, симметрично и транзитивно.
Отношение называется отношением частичного порядка,
если оно рефлексивно, транзитивно, но антисимметрично.
Отношение называется отношением полного порядка, если
оно рефлексивно, транзитивно, антисимметрично и если V х,
у g X имеет место R(x, у) или R(y, х).
Рассмотрим далее нечеткие отношения. Нечетким отно-
шением R на декартовом произведении Aj ® Х2 ® ® Хп на-
зывают нечеткое подмножество декартова произведения.
Дискретное нечеткое множество обычно определяют, задавая
вектор степеней принадлежности, а дискретное бинарное не-
четкое отношение задают с помощью двумерной матрицы.
Объединение и пересечение нечетких отношений определяют
по аналогии с операциями над нечеткими множествами.
Если Xсодержит конечное число элементов (х, ц), то мно-
жество значений р0, рА,- также конечно, и Мь - • Мл)
определена. Если X содержит бесконечное число элементов,
то Рь > Ру также может быть бесконечной последователь-
ностью, для которой S не определена, а число аргументов бес-
конечно. Исключением является S(,x0, Х|, ..) = max(xfo, хь
Ху) для бесконечного множества X (практически самый важ-
ный случай). Для конечных нечетких множеств Л" любое оп-
ределение 5 приемлемо.
Пример 2.18. Функция нечеткой переменной.
Базовое множество:
{х, х — любое действительное число}.
Нечеткое число f0:
«около 3,40».
Принадлежность:
р(х, «около 3,40») — е 20 (3'4 .
Нечеткое множество:
А(«около 3,40») = {(х, ц(х, «около 3,40»)}.
Функция:
w(x) = fun(x) = 3/х — х/5
Принадлежность:
г(»о) = тах{ е 20 (3’4 х) ; 3/х - х/5 = w0}.
Какие значения х участвуют в определении г(и'о)?
3/х — х/5 =
3 — х2/5 - w0 • х = 0;
х2 + 5 • х — 15 = 0;
*1/2 = ~5 ' Ч)/2 ± J(25- и>о/4+15).
Для двух значений х( и х2 окончательно получим принад-
лежность:
, . . —20 (3,4-х,)2 -20 (3,4-х,)2,
r(w0) = max{e , е }.
Результаты вычислений [73] приведены в табл. 2.13 и 2.14,
а также на рис. 2.6.
Таблица 2.13
Результаты вычислений г(и>о)
*0 2,90 3,00 3,05 3,10 3,15 3,20 3,25 3,30 3,35 3,40
и(Хо,/о) 0,01 0,04 0,09 0,17 0,29 0,45 0,64 0,82 0,95 1,00
м>0 0,45 0,40 0,37 0,34 0,32 0,30 0,27 0,25 0,23 0,20
*1 2,91 3,00 3,06 3,12 3,15 3,19 3,26 3,30 3,34 4
*1 -5,16 -5,00 -4,91 -4,82 -4,75 -4,49 -4,61 -4,55 —4,49 -4,41
М*1, /о) ц(Л/о) 0,01 0,04 0,10 0,21 0,29 0,41 0,68 0,82 0,93 1,00
0,00 0,00 0,00 0,00 0,00 0,00 0,00 0,00 0,00 0,00
0,01 0,04 0,10 0,21 0,29 0,41 0,68 0,82 0,93 1,00
Таблица 2 14
Произведения и>0 = х0 • и принадлежности
[Л(,, ц(ло®]/ 1>'О. и(№, й)1 3,0 0,04 3,1 0,17 3,2 0,45 3,3 0,82 3,4 1,00 3,5 0,82 3,6 0,45 3,7 0,17 3,8 0,04
5,4 16,2 16,7 17,3 17,8 18,4 18,9 19,4 20,0 20,5
0,08 0,04 0,08 0,08 0,08 0,08 0,08 0,08 0,08 0,04
5,5 16,5 17,1 17 6 18,2 18,7 19 3 19,8 20,4 20,9
0,20 0,04 ~0Д7 ~Щ0 0,20 0,20 0,20 0,20 0,17 0,04
5,6 16,8 17,4 17,9 18,5 19,0 19,6 20,2 20,7 21,3
0,41 0,04 0,17 0,41 ЛГ/И 0,41 0,41 0,41 0,17 0,04
5,7 17,1 17,7 18,2 18,8 19,4 20,0 20,5 21,1 21,7
0,67 0,04 0,17 0,45 0,67 0,67 0,67 0,45 0,17 0,04
5,8 17 4 18,0 18,6 19 0 19 7 20,3 20,9 21,5 22,0
0,90 0,04 0,17 0,45 “0J2 0,90 0,82 0,45 0,17 0,04
5,9 17 7 18,3 18,9 19 5 20,1 20,7 21,2 21,9 22,4
1,00 0,04 0,17 0,45 лда “ЛОО 0,82 0,45 0,17 0,04
6,00 18,0 18,6 19,2 19,8 20 4 21,0 21,6 22,2 22,8
0,90 0,04 0,17 0,45 0,82 Л® 0,45 0,17 0,04
6Д 18,3 18,9 19,5 20,2 20,7 21,4 22,0 22,6 23,2
0,67 0,04 0,17 0,45 0,67 0,67 ЛШ ~0>5 0,17 0,04
6,2 18,6 19,2 19,8 20,5 21,1 21 7 22,3 22,9 23,6
0,41 0,04 0,17 0,41 0,41 0,41 0,41 лли ХГ7 0,04
6,3 18,9 19,5 20,2 20,8 21,4 22,1 22,7 23,3 23,9
0,20 0,04 0,17 0,20 0,20 0,20 0,20 0,20 ~ПД7 0,04
6,4 19,2 19,8 20,5 21,1 21,8 22,4 23,0 23,7 24,3
0,08 0,04 0,08 0,08 0,08 0,08 0,08 0,08 0,08 ~Щ04
Рис. 2.6. Отображение двух нечетких чисел х(~3,4) на w
2.10.2. Функции с несколькими
независимыми переменными
Рассмотрим хи у — четкие числа базовых множеств {х} и {у}
и соответственно f и g — нечеткие числа множеств нечетких
значений {/) и {g}. Соответствующие функции принадлежнос-
ти р(х, f) и п(у, g), нечеткие множества X(f) — {(х | р(х, /)} и
P(g) = {(у I п(у, g)} Пусть w = fun(x, у) — функция, которая
для любой пары (допустимой) (х, у) задает w — «образ» пар (х,
у): (х, у) -> w.
Пусть/Г) и g0 — два нечетких числа (например, Уд = «около
3,4» и go = «около 5,9»). X(J0) = {(х, р(х,/0)} и P(go) ={(у, я(у,
go)} — соответствующие нечеткие множества. Определим не-
четкое множество W.
1. Пусть (хо, ро) и (уо, «о) — любые элементы нечетких
множеств X(J$) и P(go). Вычислим четкие значения ь’о по фор-
муле ivo = fun(xo, уд).
2. Найдем принадлежность t(b’q):
1) запишем все элементы (х, ц) е XQo) и (у, я) е Hgo)с fun(x,
У) = Wo (кроме (хо, уд) могут существовать другие пары (х, у)
с fun(x, у) = м>о ) в виде последовательности (хо, р0), (Уо, «о)!
(*1, pi), (и, «О; <х№ рдг), (ум яд,);
2) вычислим го = S( Лро, яо), Г(Р1, я,), . , Г(рдг, nN)) с неко-
торыми ранее согласованными 7-нормами и 5-конормами
3. Тогда W= {(и>, г)} — множество всех найденных пар (w,
г) = (w0, г0).
Множество W может быть описано с помощью произве-
дения нечетких множеств.
1. Найдем произведение множеств Z(fe, у0) = Л'С/о) ® ^(So),
если Т — норма Т(х, у):
Z(f0, go) = <(х, у)| м(х, у)} = z{(x, у) | Пр(*,/о), п(у> а)1)(-
2. Для любых (х0, Уо, Р (XQ, у0)) множества Z(f0, g0) вычис-
ЛИМ И>0 = funCXQ^o).
3 Вычислим принадлежность r(w0):
1) запишем все элементы (л, у, р (х, у)) от Z(fQj g0)
с fun(x, у) ~ wft в виде последовательности
(«ь, уо, и); Сч, Уь mi), • ; (*.v, ум рлО,
2) вычислим то - $(11о, pi,.. М/) с согласованной $-конормой.
4. Тогда W = {(», г)) — множество всех найденных пар
(w, г) = (ы0, г0) [73].
Обобщим вышеприведенную процедуру с помощью фор-
мул операций sup-min [74]
Sup-min-композиция нечеткого множества С е F(X) и не-
четкого отношения Йе F (X ® У) определяется как
(С ° й)(у) = sup-min{С(х), R{x, у}
хеХ
для всех у е Y.
Композицию нечеткого множества С и нечеткого отноше-
ния R можно представить как тень отношения R на нечеткое
множество С (рис 2.7).
Пусть А и В будут нечеткие числа, a R с А ® В будет не-
четким отношением.
Очевидны следующие свойства композиции:
А ° R = А - (А ® В) = А;
В ° R — В ° (А® В) = В.
Пример 2.19. Композиция нечеткого множества и отно-
шения.
Пусть С — нечеткое множество, a R — бинарное нечеткое
отношение в универсуме {1, 2, 3]. Предположим, что С =
= 0,3/1 + 0/2 + 0,4/3.
Рис. 2.7. Sup-min-композиния нечеткого множества С и отношения Л
R 1 2 3
1 0,1 0,2 0,4
2 0,3 1,0 0,5
3 0,7 0,8 1,0
Используя определение sup-min-композиции, получим:
С" R = (0,3/1 + 0,0/2 + 0,4/3) о [0,1/(1,1) + 0,2/(1,2) +
+ 0,4/(1,3) + 0,3/(2,1) + 1/(2,2) + 0,5/(2,3) + О,7/(3,1) +
+ 0,8/(3,2) + 1,0/(3,3)] = 0,4/14-0,4/2+0,4/3.
Рассмотрим Wкак нечеткое множество нечетких чисел р0
определенных на множестве {»} базовых значений w. Дадим
Ро ситуационное имя и будем считать его «образом» р0 =
= fun(/o. So) подобно w = fun(x, у) — «образ» пар чисел (х, у).
Вообще для любой пары нечетких чисел (f, g) справедливо: (J,
g): -> р или р = fun(f, g).
Определим sup-min-композицию нечетких отношений
Пусть R е F(X® Y) и 5 е F(P ® Z). Sup-mm-композиция
R и 5, обозначаемая R ° S, определяется как
(R о S)(u, w) = sup-min {Л(и, v), S(v, w)}.
ле X
Очевидно, что R о 5 — бинарное нечеткое отношение на
Хи Z.
Пример 2.20. Композиция нечетких отношений.
Рассмотрим два нечетких отношения R и S.
х «предпочтительнее» у = (0,4/(Х], уД, 0,l/(xi, У2), 0,3/(Х[, у3),
0,5/(хь у4), 0,1/(х2, М ), 0,4/(х2, у2), 0,2/(х2, у3 ), 0,0/(х2, у4),
0,2/(х3, УД, 1,0/(х3, у2), 1,0/(х3, у3), 0,4/(хь у4)};
S(y «равноценно» г) = {0,4/61, zi), 0,3/61, z2), 0,2/бц z3),
0,0/62, 41), 0,7/6’2, z2), 0,1/6’2, 43), 0,0/6з, Z|), 0,5/6’3, г2),
0,7/(у3, 42), 0,5/6’4, 41), 0,3/64, 42), 0,5/64, 4з)}.
Тогда их композиция
Я о 5 = {0,5/(хь г,), 0,3(хь z2), 0,5(Х1, z3),
о,2(х2, zi), 0,4(х2, z2), 0,2(х2, Zj), 0,4(х3, Z|), 0,7(х3, z2), 0,7(х3, z3)}.
Таким образом, композиция R ° 5 не что иное, как клас-
сическое произведение матриц R и 5 с той только разницей,
что вместо сложения используется максимум и вместо умно-
жения — минимум.
Возникают определенные ограничения при бесконечном
числе элементов Z Рассмотрим частный случай: Т(х, у) =
= min(x, у) и -5’(х, у) = тах(х, у).
Пример 2.21. Двуместная функция печетких переменных
[73].
Базовое множество:
{(х, у); (х, у) пары действительных чисел}.
Нечеткие числа:
/q = около 3,40;
go = около 5,9.
Принадлежность:
ц(х, около 3,4) = е 20 (3,4-д9 j
«6, около 5,9) = г10 (5,9 >>' .
Нечеткие множества:
Л(около 3,4) = {(х, ц(х, около 3,4)};
У(около 5,9) = {6, «6, около 5,9)}
Функция:
w(x, у} = fun(x, у) = х -у.
Согласно определению r(wg):
х y=w0->y = w0/x.
В табл. 2.14 приведены пары чисел (хо, J'o) в интервалах
3.0 < Хд С 3 8 и 5.4 С уд < 6 4,
результирующее значение
М’о = хо’Уо,
принадлежность
H(wo) = min[p(x0,/0), я(у0, g0)|.
Позиции, соответствующие максимальной принадлеж-
ности ц(»о) и значению произведения wq ~ от 16 до 24 шагом
“0,5, подчеркнуты.
Для вычисления p(w0) необходимо проводить следующие
расчеты.
Если
ЛЬ =3,5, у0 = 5,4, р(х0, /0) = 0,82, ибо, 8о) = 0,08,
то
р(ь'о) = nun (0,82, 0,08) — 0,08.
Аналогично расчеты проводят до Хд = 3,1, уд = 6 2 с шагом
0,1.
Если
ль = 3,1, у0 = 6,2, Р (хь, fg) = 0,17, Ибо, go) = 0,41,
то
ибо) = min[0,17, 0 41) = 0,17.
Тогда приблизительная принадлежность wq = 19 имеет вид
41(19) = S(po. Pi, --, iw) = max(0,08,0,20, 0,41, 0,67, 0,82,0,45,
Таблииа 2.15
Принадлежность />(1% около_3,4 *около_5,9)
«0 16,2 16,5 17,1 17,6 17,9 18,5 19,0 19,5 20,1
r(b'o) w0 r(wo) 0,04 20,4 0,90 0,04 21,0 0,82 0,17 21,4 0,67 0,20 22,0 0,45 0,41 22,3 0,41 0,41 22,9 0,17 0,82 23,3 0,17 0,82 23,9 0,04 1,00 24,3 0,04
0,45, 0,17, 0,17, 0,04, 0,04) = 0,82 для нечеткого множества
fun Oq. g0) =f0 • g0 = около 3,4 • около 5,9.
В табл. 2.15 приведены значения принадлежности r(w0)
для произведения, лежащего в диапазоне от «16 до 24 с ша-
гом «0,5. Функция принадлежности нечеткого отношения
r(w, около_3,4 * около_5,9), заданная табл. 2.15, представлена
на рис. 2.8.
' тМ ——- п(у) ....................... г(х)
Рис. 2.8. Пример нечеткого отношения w = х • у
2.11. Операция импликации
Рассмотрим операцию импликации как теоретический базис
нечеткого логического вывода. Из теории множеств известна
запись X-t Y, которая означает, что .^является подмножеством
Y. Строгое определение материальной импликации имеет вид.
X-i Y= sup{Z| Xr> Za У}.
Для определения нечеткой импликации необходимо ввес-
ти понятие «степень истинности» и рассмотреть нечеткие
множества вместо четких.
Пусть г(р) — степень истинности, а А и В — нечеткие мно-
жества. Степень истинности нечеткой импликации определя-
ется следующим образом: импликация имеет место, если сте-
пень истинности следствия не меньше, чем степень истин-
ности причины, т. е:
г(Х Y) = {
1, г(Х) С т(У)
О, в противном случае
Случай нечеткой импликации определяется через соотно-
шение значений степени принадлежности следствия (/V) и
причины (У), т. е.
т(Л(Л) -> B(Y» =
11, А(Х) <= B(Y)
10, в противном случае.
Последнее определение является строгим определением не-
четкой импликации. В реальных интеллектуальных системах
используют ослабленные варианты определений нечеткой
импликации, так как строгая импликация приводит к пара-
доксу точности, т. е к определенному влиянию ошибки из-
мерения на интерпретацию результата. Поэтому в реальных
системах используют другие определения импликации, на-
пример:
Р q <=> 1 Р v q Л(х) а В(у) = тах(1 - Л(х), Р(у))
— импликация Геделя.
2.12. Законы нечеткой логики
В классической теории множеств выполняются закон исклю-
ченного третьего:
А v-Л = Х;
и закон отсутствия противоречий:
Л м -Л — 0.
В нечеткой логике справедливы соотношения:
-Лх = 0 и -.0= 1х,
но законы исключенного третьего и отсутствия противоречии
не выполняются [2].
Покажем, что закон исключенного третьего не верен.
Пусть A(t) = 1/2, V t е R, тогда (-А v A)(t)= тах{(-и4,
Л(Г)}= max{l - 1/2, 1/2} = 1/2*1.
Закон отсутствия противоречия в нечеткой логике также
не выполняется. Пусть A{t) = 1/2, V t е R, тогда (-.А л A)(t) =
= min {(-Л, A(t)}= min{l - 1/2, 1/2} = 1/2 * 0.
Но в нечеткой логике справедливы очень важные соотно-
шения де Моргана:
-^aR = -v4v-,B;
-^АлВ)=-^Ач^В.
2.12.1. Операции нечеткого множества
самого с собой
I
Конъюнкция нечеткого множества самого с собой. В противопо-
ложность традиционной теории множеств пересечение нечет-
кого множества М= {(Ь, р)) с самим собой не обязательно эк-
вивалентно М.
Мг', М= {й| 7'(р, р)}, причем Мг М*М(для большинства
Т-норм). В зависимости от выбора (табл. 2.16) Т(х, у) дает со-
ответствующие функции принадлежности 7'(р, р) базовых
значений Ь в нечетких множествах М n М [73}.
Согласно табл. 2.16 ТДр, р) = mm(p, р) = р, М г> М =
= {й | Г(р, р)} = М.
Дизъюнкция нечеткого множества самого с собой. Дизъ-|
юнкция нечеткого множества М ={(/>, р)} с самим собой не
обязательно эквивалентна Л/. М и М — {b | 5(р, р)) * М, если
5(р, р) * р. И это типичный случай. В зависимости от выбора
(табл. 2.17) S(x, у) дает соответствующие функции прина-
длежности 5(р, р) базовых значений в нечетком множеств*
М и М [73].
Для всех 5-конорм из табл. 2.17 М и М = {й | 5(р, р)} — су-
пермножество М. Исключением является S(x, у) = тах(х, у),
когда М и М — истинное супермножество М. Можно дока-
зать, что 5(р, р)> р, так как 5(х, у) = шах(х, у), то 5(р, р) — р,
что означает, что М и М и М идентичны.
Таблица 2 16
Функции принадлежности конъюнкции нечеткого множества
самого с собой
Имя функции Определение функции- Т(х,у) = Г(р, р) =
Усиленное про- изведение Ограниченная разность Произведение Эйнштейна Алгебраическое произведение Произведение Гамахера Минимум 0, если тах(х, у) < 1 тт(х, у), если гпах(х, у) = 1 тах(0, х + у — 1) х.у[1+(1-х).(1-у)] х*У х«у/[1 - (1 -х) •(! ->)] min(x, у) [0, если ц < 1, 11, если ц = 1 [0, если р = 0,5, 2 • (ц — 1), если и > 0,5. ц2/(2-2.ц+ /) Р2 р/(1 - р) м
Таблица 2 17
Функции принадлежности дизъюнкции нечеткого множества
самого с собой
Имя функции Определение функции S(x, у) = 5<Р. р) -
Максимум Сумма Гамахера Алгебраическая сумма Сумма Эйнштейна Ограниченная сумма Усиленная сумма тах(х, у) 1-(1-х).(1-у)/(1-х.у) 1 - (1 - Л) .(1 - у) 1-(1-х).(1-у)/(1+х.у) min(l, х + у) ( 1, если min(x, у) > 0 (тах(х, у), если min(x, у) = 0 М 2 -р/(1 +ц) р • (2 - ц) 2-р/(1 +р2) 12 если ц = 0,5, (1, если ц > 0,5 11, если ц > 0, )0, если ц — 0.
2.12.2. Операции над нечетким множеством
н его дополнительным множеством
Пересечение нечеткого множества с его дополнительным мно-
жеством. В отличие от традиционной теории множеств пере-
сечение нечеткого множества М = {(&, ц)} с дополнительным
множеством -*Л/= {{b, 1—ц)} не обязательно пустое множество
М о (~,М) = {Ь | Г(р, 1 — ц)} * 0, если 7(р, 1 — ц) * О
Таблица 2.18
Функции принадлежности пересечения нечетких множеств
с дополнительным мншж*ч'тпом
Имя функции Определение функции: Т(х, у) = Т(ц, р) =
Усиленное произведение Ограниченная разность Произведение Эйнштейна Алгебраическое произведение Произведение Гамахера Минимум (0, если тах(х, у) < 1 (min(x, у), если тах(х, у) = 1 тах(0, х + у — 1) Л.у/(1 + (1-х).(1-у)) х»у х *у/(1 - (1 - х)1-у)) min(x, у) 0 0 Р-(1 ~р)/ (1 + (1 - р) р) р • (1 - р) р.(1 -р)/ (1 - (1 - р)-р) тт(р, 1 - р)
)
Таблица 219
Функции принадлежности объединения нечеткого множества
с дополнительным
Имя функции Определение функций: 5(х, у) = Яр, р) =
Максимум Сумма Гамахера Алгебраическая сумма Сумма Эйнштейна Ограниченная сумма Усиленная сумма тах(х, у) 1-(1-х).(1-у)/(1-х.у) l-d-x).(l-y) 1-(1-х).(1-у)/(1+х.у) min(l, х + у) 11, если min(x, у) > 0 цпах(х, у), если min(x, у) тах(ц, 1 — р) [1-2р.(1-ц)]/ [(1 - Р . (1 - p)J 1 - р-(1 - м) 1/(1 +р.(1 -ц)1 1 1
В табл. 2.18 показана функция принадлежности базовых!
значений b в нечетком множестве М г\ Только при
«усиленном произведении» и «ограниченной разности» М г»
п (-’Л/) = 0 для других Т-норм это неверно.
Объединение нечеткого множества с его дополнительным
множеством. Дизъюнкция нечеткого множества М = {(Ь, р)}
с дополнительным множеством ^Л/ = {(b, 1 — р)} — не обя-
зательно единичное множество
М и (~>Л0 = {Ь | 5(р, 1 — р)} *1, если 5(р, 1 — р) * 1.
В табл. 2.19 приведены функции принадлежности базовых
значений b в нечетких М и Только результаты «огра-
ниченной и усиленной сумм» в Ми = 1, как и в тра-
диционном случае, чего другие S koнормы не обеспечивают.
Контрольные вопросы
1. Определите нечеткое множество Приведите пример сущ-
ности проблемной области, принимающей лингвистиче-
ские значения.
2. Что такое носитель, ядро, функция принадлежности не-
четкого множества?
3. Какие существуют способы представления функций при-
надлежности?
4. Что называют нечетким числом?
5. Определите нечеткий интервал.
6. Какое нечеткое множество называю! нормальным9
7. Определите равенство нечетких множеств
8 Определите отношения включения нечетких множеств
9. Как определяют дополнение нечеткого множества?
10. Как определяют пересечение нечетких множеств?
11. Как определяют объединение нечетких множеств9
12. Какие монотонные функции называют 7-нормами, S-ko-
нормами?
13. Приведите общие свойства Г-норм и S-конорм.
14. Назовите распространенные пары Г-норм и S-конорм.
15. Какие параметризованные триангулярные функции ис-
пользуют в нечетких системах?
16. Определите произведение нечетких множеств.
17. Как определяется проекция нечеткого множества9
18. Определите нечеткое отношение.
19. Как определяется композиция нечеткого множества и от-
ношения?
20. Как определяется композиция нечетких множеств9
21. Определите операцию импликации для нечетких множеств.
22. Выполняются ли в нечеткой логике законы отсутствия
। (ротиворечий и исключенного третьего9
23. Выполняются ли в нечеткой логике законы де Моргана9
3 Нечеткие
системы
глава _________________________
Чтоб живы стали и зашевелились
Все эти цифры, меры и паи
К. Слу невский. В лаборатории
3.1. Определение лингвистической
переменной
Системы нечетких продукций строятся на основе понятия
лингвистической переменной, которой называют пять объек-
тов: (х, Дх), U, G, М), где х — собственное имя переменной;
Дх) — терминальное множество, т. е. набор значений пере-
менной (нечетких меток); V— множество объектов (или уни-
версум); G — синтаксические правила употребления; М— се-
мантические правила употребления [41].
Примерами лингвистических переменных служат: количе-
ство денежных средств в финансовых решениях; температура,]
давление воздуха в технических процессах, средняя отметка в
процессах образования; плотность населения в социальные
процессах. Количество денежных средств может быть выра-
жено как большое, малое, 1000 руб., значительное, незначи-
тельное; динамика давления воздуха — выросло, осталось
предыдущим, максимально низкое, 1023 Ра; отметка — от-
лично, хорошо, удовлетворительно, неудовлетворительно;
численность населения — значительная, средняя, малая.
3.2. Схема приближенного логического
вывода. Задача интерполяции
Рассмотрим логический вывод на основе теории приближен-
ных вычислений.
Пусть
У - Дх) — предпосылка;
х = х'— факт,
у' =f(x) — заключение.
Предпосылку рассуждения Дх) зададим с помощью N зна-
чений функции:
Яр если Х|, то ур
Ry. если х2, то уу
R,;. если х„, то у„.
Текущее значение х = х'.
Необходимо найти значение у', зависящее от х .
Нечеткая задача интерполяции формулируется с исполь-
зованием зависимостей нечетких множеств:
Яр если Л|(х]), то
Я2: если Л2(х2), то Я2(у2);
Я„: если А„(х„), то Я„(у„),
и нечеткого значения входной переменной — С(х').
Необходимо найти значение Л(у'), входящего в заключение.
Обобщив нечеткую зависимость переменных х и у, полу-
чим продукцию', если А(х), то Я(у). Пель нечеткого логическо-
го вывода — определить значения выходной переменной
В'(у) от входной переменной С(х') Результирующее нечеткое
множество В' = С ° (А -> В) — композиция нечеткого мно-
жества С и импликации нечетких множеств А -> В.
Нечеткое множество В' заключения вычисляется как ком-
позиция двух нечетких множеств’ факта и импликации. Ком-
позиция факта и импликации представляет собой проекцию
импликации на факт:
А' о (А -» В)= sup-min (Л', А -» В), у е Y.
На основе задачи нечеткой интерполяции строят оболочку
экспертной системы, осуществляющей вывод на словах [74].
3.3. Правила трансляции
Частные случаи нечетких умозаключений называются прави-
лами трансляции [74]. Рассмотрим основные из них.
Правило подмножества.
Если А(х) -> В(у),
X е А', А' с А, ТО у е В.
Правило конъюнкции.
Если справедливы утверждения предпосылки А(х), В(х),
то справедлива и их конъюнкция.
Если А(х), В(у), то Л(х) л В(у).
Правило дизъюнкции.
Из утверждений предпосылки Л (х), В(у) можно сделать за-
ключение об истинности их дизъюнкции.
Если А(х), В(у), то А(х) v В(у).
Правило проекции.
Если для переменных х, у определено отношение, то сами
переменные можно определить с помощью операции проекции.
Если х, у, R(x, у), то х = Пх /?(х, у), у = ПуЯ(х, у).
Правило отрицания.
Правило отрицания утверждает, что логическую опера-
цию отрицания можно учесть с помощью инверсии.
Если НЕ (х е А), то х е НЕ А.
3.4. Основные правила умозаключений
Основными правилами умозаключений являются два силло-
гизма'
modus ponens MP; modus tollens MT.
Рассмотрим
из-
менение основных правил вывода в случае, если предпосыл.
и заключение выражаются в терминах нечетких множеств.
Нечеткий modus ponens (Fuzzy MP):
если Л(х) -> В(х), А'(х),
Нечеткий modus tollens (FMT):
если Л(х) -> В(х), НЕ В‘(х),
то В'(х).
то НЕЛ’(х).
Рассмотрим свойства обобщенных i ючетких умозаключени!
Базовое свойство. Если множество фактов А соответствует
множеству предпосылки А ~ А', то множество заключений
В будет соответствовать множеству следствий в импликации
В-В'.
Свойство общей неопределенности. Если факт полностью
отрицает следствие импликации, т. е. НЕ В'(х), то множество
предпосылок — НЕ А'(х).
Совокупность нечетких продукций называют базами не-
четких правил, вывод в которых реализуется системами не-
четкого вывода.
При использовании систем нечеткого вывода особое значе-
ние имеет дефазификация, т. е определение четкого представ-
ляющего элемента по нечеткому множеству. Самым распрост-
раненным методом дефазификации является определение
центра тяжести фигуры, образуемой функцией принадлежнос-
ти и осью абсцисс (центроидный метод). С его помощью вы-
числяют центр тяжести фигуры:
ОД* £г,-ОД)
•и------ г = L-!--------.
|С(г)* £ см
1= 1
На практике используют метод выбора максимума*
Z= min{Z| C(Z) = max(C(Z))}.
В некоторых системах применяют также методы мини-
мального и среднего максимума. Правильно выбранная дефа-
зификация существенно влияет на эффективность работы
системы нечеткого вывода.
3.5. Универсальная аппроксимация
с помощью систем нечеткого вывода
Свойство универсальности применения систем нечеткого вы-
вода доказано рядом следующих фундаментальных теорем.
В 1992 г. У. Ванг показал, что справедливо утверждение: если
нечеткая импликация основана на использовании операции
min, функция принадлежности задается гауссовым распреде-
лением
р(0 = ехр(-1/2 . ((а - I2)/*)),
и используется центроидный метод дефазификации, то систе-
ма нечеткого вывода является универсальным аппроксиматором.
В 1995 г. К. Кастро доказал справедливость следующей
теоремы: если импликация основана на использовании опе-
рации произведения по Ларсену, а функции принадлежности
треугольные, то при использовании центроидной дефазифи-
кации нечеткий контроллер является универсальным аппрок-
симатором [70].
3.6. Схемы нечеткого вывода
Рассмотрим различные схемы вывода на базе нечетких пра-
вил. Пусть входная переменная х является каким-либо нечет-
ким множеством А, и у — нечетким множеством В, тогда вы-
ходная переменная z является нечетким множеством С. Если
задан факт х = Хд, у = Уо. то необходимо найти z = Zo-
Схема вывода на базе нечетких правил сводится к реше-
нию следующей задачи:
база правил Рр
если X — At И У— В,, тогда Z - Ct;
в противном случае R2:
если X — Аг И Y — В2, тогда Z — С2;
в противном случае
/?„: если X— А„ И У— В„, тогда Z — С„.
Факт: х=х0, у = у0.
Следствие: z = ?
Для реализации интеллектуальной системы логического
вывода по базе нечетких правил необходимо определить
функции:
• представления в системе нечетких понятий (функций
принадлежности);
• вычисления логических выражений условных частей правил
с логическими связками И, ИЛИ;
• вычисления импликации;
• усреднения результата, получаемого по разным правилам
путем композиции.
Каждая из четырех перечисленных выше функций задает
вариативность схемы нечеткого вывода.
Интеллектуальная система осуществляет логический вы-
вод по базе нечетких правил по этапам.
1. Фазификация фактических данных, т.е. точное значение
xq интерпретируется как нечеткая точка.
2. Композиция входной переменной и условной части пра-
вила: xq ° А,, Уо ° , т. е. вычисляется уровень пригодности
правила к ситуации. Если факт задан нечеткой точкой, то
композиция сводится к выявлению соответствующей степени
принадлежности.
3. Вычисление нечеткой импликации:
(хо о А,) а (уд о В) -> С, для V R.
Результатом выполнения п. 2 и 3 для всех правил являются
N нечетких значений для выхода Z.
4. Агрегация среднего значения:
п
с= U q,
I- !
т. е. построение нечеткого значения выхода по результатам
предыдущих этапов.
5. Дефазификация, т. е. выбор представляющего элемента
по агрегированному нечеткому понятию.
Схемы нечеткого вывода у разных авторов уточняются до
оператора нечеткой импликации. Распространены пять схем
нечеткого вывода [32, 35].
В схеме 1 нечеткого вывода Мамдани импликация моде-
лируется минимумом, а агрегация — максимумом (рис. 3 1).
Схема 2 разработана Цукамото для монотонных функций
принадлежности (рис. 3.2). На рис. 3.2 использованы следую-
щие обозначения:
Lj, Lj — уровни достоверности применения правил;
Zi, Z2 — значения выходной переменной по первому и вто-
рому правилу:
zi’= 1 (£]);
г = (L{zi + £^2>/(£[ + Li)-
Ввиду монотонности функций вычисления выходной пе-
ременной сводят к усреднению значений, полученных по раз-
ным правилам.
Схема 3 по Суджено ограничивает правые части правил
вывода линейным случаем.
Если х — Ai И у — Bi, тогда z = atx + а2у.
Если х — А2 И у — В2, тогда z = fc|X +
Схема 4 по Ларсену выполняет импликацию с помощью
произведения (рис. 3.3).
Схема 5 — это упрошенная схема нечеткого вывода.
Если х — А, И у — В,, тогда z = 2}, где г — четкое значение.
Поскольку правые части правил в упрощенной схеме ло-
гического вывода задаются четко, то в результате вывода по-
лучается дискретное множество решений для каждого эле-
мента, у которого задана определенная степень уверенности.
В качестве значений выходной переменной выбирается зна-
чение с максимальной уверенностью.
3.7. Введение в задачу нечеткого
управления
Методы нечеткого вывода, кроме задач построения эксперт-
ных систем, широко используются в разработке нечетких
контроллеров. Основное назначение контроллера — это уп-
равление внешним объектом, при котором поведение управ-
ляемого объекта описывается нечеткими правилами.
Пусть Y — основной параметр объекта;
К* — желаемое значение параметра;
Е ~ | Y* — F] — ошибка текущего состояния;
U — управляющее воздействие, вырабатываемое контроллером,
U(K) — значение управляющего воздействия,
U(K) = F(U(K- 1), U(K - т), Е(К - 1), ..., Е(К -т));
т — глубина рассмотрения предыстории.
Обычно нечеткий контроллер работает с глубиной т = 1;
= F(V(K - 1), Е(К - 1))
или
U(K) = F(U(K - 1), Д£(АГ - 1)),
где &Е — изменение ошибки, а правило формирования управляющего
воздействия задается с помощью базы нечетких правил.
Обычно управляющее воздействие учитывает предыдущее
воздействие и последнее изменение ошибки [2, 74].
Объект управления описывается набором объектных пе-
ременных, относящихся к классу лингвистических перемен-
ных. Сущности управляемого процесса можно классифици-
ровать как «входные переменные» и «выходные переменные»
процесса. В общем случае входные переменные определяют
зависящие от времени потоки, в то время как выходные опи-
сывают моментальные состояния процесса. Входные пере-
менные, которыми могут управлять люди или компьютеры,
называют управляемыми переменными процесса. Управление в
широком смысле означает манипулирование процессом в
контуре обратной связи с целью получения наилучшего
результата, т. е. получения оптимального значения опреде-
ленных выходных переменных.
Для управления необходимо:
1) определить текущие значения значимых выходных пе-
ременных;
2) сравнить текущие выходные значения с заданными це-
левыми значениями;
3) подобрать значения управляющих переменных так, что-
бы достичь целевых значений;
4) повторять п. 1—3 до тех пор, пока не будут получены це-
левые значения.
Рассмотрим нечеткий контроллер (рис. 3.4), причем уп-
равляемый процесс имеет три входные переменные с двумя
управляемыми переменными (вход 2 и вход 3) и одной слу-
чайной переменной (вход 1), а также три выходные перемен-
ные. Нечеткий контроллер согласно определенному алгорит-
му преобразует три выходные переменные в две управляющие
переменные, которые затем возвращаются на объект управ-
ления. Сравнение выходных значений с целевыми значения-
ми выполняется самим контроллером.
В отличие от большинства стандартных контроллеров, ис-
пользующих математические вычисления, нечеткий контрол-
лер применяет так называемые правила, подобно челове-
ку-оператору.
Пример 3.1. Правила управления.
ЕСЛИ давление низкое, ТО открыть кран
(процесс химического производства).
ЕСЛИ процент по кредиту высок, ТО сократить заимствования
(процесс финансового планирования).
Рис. 3.4. Структурная схема нечеткого контроллера
ЕСЛИ уровень потребления энергии низкий,
ТО сократить входную мощность генератора
(процесс управления мощностью).
Фразы можно сократить без ущерба для осмысления.
ЕСЛИ давление, низкое, ТО кран, открыт.
ЕСЛИ процент по кредиту. высокий,
ТО заимствования. сократитъ_значителъно.
ЕСЛИ уровень потребления энергии, низкий,
ТО геиерато'р.сократить^входнуюмощность.
Термины, набранные прямым шрифтом, — это имена объ-
ектных переменных, слова, набранные курсивом, — нечеткие
значения соответствующих переменных. Подобные правила
используются человеком в процессе управления. Опытный
оператор понимает значения нечетких терминов: «давление
низкое» или «немного открыть кран», в то время как устрой-
ство автоматического контроля работает с четкими значе-
ниями: выходные переменные многих технических процессов
обрабатываются аналого-цифровыми преобразователями, уп-
равляющие переменные — цифро-аналоговыми преобразова-
телями; оба вида устройств сводятся к обработке цифровых
значений.
Итак, чтобы реализовать нечеткий контроллер, необходимо:
• преобразовать четкие значения выходных переменных
процесса в нечеткие;
• использовать правила преобразования нечетких выходных
переменных в нечеткие значения управляющих;
• преобразовать нечеткие значения управляющих перемен-
ных в четкие.
Для каждой объектной переменной А процесса определим
функцию принадлежности ц(с, f), которая связывает любое
четкое значение А с нечетким.
3.8. Правила, импликация, заключения
3.8.1. Правила
Правила в системе нечеткого контроллера имеют вид ЕСЛИ
То ТО go, гДеЛ и 8G — любые фиксированные нечеткие значе-
ния некоторой выходной переменной А и некоторой управ-
ляющей переменной В соответственно.
Пример 3.2. Нечеткий контроллер.
Пусть процесс содержит:
• три выходные переменные с нечеткими значениями:
1) давление {низкое, среднее, высокое};
2) температура {холодно, довольно_тепло, тепло, горячо};
3) влажность {сухо, влажно, сыро};
• две управляющие переменные с нечеткими значениями'
1) вентиль {закрыт, наполовину открыт, открыт};
2) нагреватель {выключен, низкий, средний, максимальный};
• два правила:
1) ЕСЛИ давление, низкое ТО вентиль. наполовину_от-
крыт.
Значение/; = давление, низкое означает, что нечеткое зна-
чение выходной переменной «давление» низкое. Значение go =
= вентиль. наполовину_открыт означает, что «вентиль» от-
крыт наполовину.
2) ЕСЛИ температура. холодно_И_ влажность сыро. ТО
нагреватель, максимальный.
Посылка правила fg = температура. холодно_И_ влаж-
ность. сыро комбинирует нечеткие значения выходных пере-
менных «температура» и «влажность». Значение g0 = нагрева-
тель. максимальный означает, что нечеткое значение управ-
ляющей переменной «нагреватель» максимально.
Значение fg в условной части правила может быть либо
простым нечетким значением одной выходной переменной,
либо комбинацией нечетких значений нескольких выходных
переменных. Нечеткое значение gg в заключительной части
правила почти всегда представляет простое нечеткое значе-
ние только одной управляющей переменной [73].
3.8.2. Импликация
Правила, подобные «ЕСЛИ fg, ТО go», в булевой логике на-
зываются импликацией, где fg и gg — булевские сущности
со значениями истинности 0 или 1. Формально импликацию
записывают в виде fg -> gg, и для каждой пары значений она
возвращает результат согласно табл. 3.1.
Из табл. 3.1 видно, что операция fg gg эквивалентна
(-/о) v go
В нечеткой логике импликация нечетких значений fg и gg
fo -> во определяется как новое комбинированное нечеткое
значение.
Например, нечеткая импликация: (НЕ/) ИЛИ g0.
Функция принадлежности: р(с, b,f0 -+gg) = р|о, b, (НЕ/)
ИЛИ g0] = 5[1 — }i(a,fg), n(b, g0)], где а и b — любые два ба-
зовых значения объектных переменных Аи В, соответственно
fg е А и go е В, ц(а, fg) и n(b, gg) — частичные функции при-
надлежности А и В.
Таблица 3.1
Таблица истинности f0 -> g0 и < -Л>) v во
/о go Л-» во (Vo) V gn
0 0 1 1
0 1 1 1
1 1 1 1
1 0 0 0
3.8.3. Сопоставление состояния процесса
и правил нечеткого контроллера
Рассмотрим процесс с выходной переменной А, управляющей
переменной В и правилом, связывающим нечеткие значения
f0 сущности А и g0 сущности В (табл. 3.2).
В любое время t четкое значение а(Т) выходной перемен-
ной А сопоставляется с нечетким значением fg, т. е. с функ-
цией принадлежности ц(о,/|), и в любое время г и для любого
четкого значения b управляющей переменной В пара (а, Ь) со-
поставляется с правилом f0 -> g0 = (НЕ jy ИЛИ gg с прина-
длежностью
p(a, b, f0 -> g0) = 5| I - ц(а, /0), n(b, go)]•
Согласно условию необходимо рассмотреть конъюнкцию
нечеткого значения и правила, а именно
/О И l/o -> gol = /о И |(НЕ/0) И gg].
Таблица 3. 2
Характеристики управляемого процесса
Значение Выходная переменная А Управляющая переменная В
Базовое значение Нечеткие значения Функции принадлежности Выбранные нечеткие значения Представляющие четкие значения Правило (с) {/) Р(а./) Ле {Л а(0 с (о) ЕСЛИ Л ТО />, («} n(b, g) *0 е {g} Ре {И Не существует
В любое время t и для всякого четкого значения b от мно-
жества В пара (а, Ь) принадлежит новому нечеткому множе-
ству с принадлежностью
р(а, 6,/0И[(НЕ/0)ИЛИа] =
= Т{ р(а,/0), 5[1 - р(а,/0). n(b, go)]).
Для фиксированного времени t и фиксированного значе-
ния a(f) указанная функция зависит от Ь.
3.8.4. Выбор четкого значения
управляющей переменной
Для любого фиксированного t — tg четкое значение b = р(/(>).
Управляющая переменная В выбирается так, чтобы значение
принадлежности пары А], т. е. значение выражения
Р(Ь) =/0 И1(НЕ/о) ИЛИ =
= Лц(а,/0), 5[1 - р(а,/0). «(<>, й)П
было максимально для Ь = 0(1) = Атах-
Рассмотрим использование функции р(Ь) в ситуации, ког-
да выход процесса соответствует условной части правила.
Допустим, что выходная переменная имеет необходимое зна-
чение с высокой достоверностью Это означает, что р ~ 1, и сле-
довательно, р(Ь) ~ Т{1, 5(0, п(Ь, хо)]} = ЛЬ л(*. go)]} = а)-
Согласно закону управления значение b должно быть выбра-
но так, чтобы принадлежность n(fc, g()) была максимальной.
Рассмотрим ситуацию, в которой выход процесса более
или менее соответствует правилу.
Допустим, что значения выходных переменных процесса
более или менее приемлемы (р < 0,5), тогда
5[1 - р, Л(А, go)] > max[l - р, n(b, g0)J > 0,5 > р
и, следовательно,
р(6) = 7{р, S[1 - р, n(b, go)]) < min{p, 5] 1 - р, n(b, gp)]) < р
Чем меньше значение р, тем ниже степень принадлеж-
ности р(А) для любого Ь, поэтому выбор b в меньшей мере
110
обоснован, следовательно, правило определения управляю-
щей переменной только более или менее приемлемо.
Рассмотрим ситуацию — выход процесса неудовлетвори-
телен (р ~ 0).
Функция р(Ь) ~ Т{0, 5(1, п(Ь, х(|)|} = 740, 1} = 0 незави-
симо от Ь, и выбор b не подходит для любого значения. Со-
гласно ежедневному опыту правила, условия которых не
удовлетворяются, не используют.
Пример 3.3. Вычисление ,пран.1м»<цего воздействия с ио-
мощью усиленных произведения и суммы.
Пусть Т(х, у) = усиленное произведение prod(x, у) и S(x,
у) = усиленная сумма sum(x, у).
Это дает
р(Ь) = 0, если р < 1,
р(Ь) = п(Ь, дп), если р = 1.
Если выходное значение процесса a(t) соответствует ус-
ловной части fo правила, вычисление оптимального значения
Р = ^тах осмысленно, иначе невозможно выбрать b по дан-
ному правилу.
При мер 3.4. Вычисление управляющего воздействия с
помощью min и max.
Пусть Т(х, у) = ппп(х, у), 5(х, у) = гпах(х, у).
Значения p(b) = min{p, max[l — ц, n(b, g0)]} сведены в
табл. 3.3.
Таблица 3.3
Значения р(Л) — min{p, maxfl — р, л(й, go)]}
р п(ь, а) р(«
0 < р 0,5 0,5 < р < 1,0 0,5 < р < 1,0 0,5 < р < 1,0 Нерелевантно 0 < n(b, g0) < 1 - р 1 - р < п(ь, а) < р р < и(/>, g0) < 1 р 1-р «(*> go) ц
3.9. Модификация нечеткой
импликации для практических
применений
Вышеприведенные выводы не следует обобщать на случаи
других триангулярных норм и конорм, потому что математи-
ческие выражения p(fe) = Т{р, S[1 — р, n(b, go)]} могут быть
слишком сложными для практики. Наиболее интересные слу-
чаи, в которых р(а(О>Л) -> ' и go) -» 1,
и 511 - р, n(b, go)] « 5]0, n(b, g0)] = n(b, go).
В этих случаях можно приблизительно установить p(fe) к
=Г(р, n(b,go)}.
Будем считать, что выражение р(Ь) = Г{ц(а(0>Л)) > 'V. go)}
является не только аппроксимацией, но и новым упрощением
p(i>), которое подходит для всех значений ц(а(О,Л) и n(fc, go)
величин.
Вышеизложенное означает, что нары базовых значений
]а(Г), 6] сопоставляют нечеткому значению fo И go , а не к f0
И ((НЕУо) ИЛИ g0]. Если в булевой логике/0 л (f0 -> g0) л
л ((Vo) v go) = Of) л (Vo)) v (Jo л g0)) =f0 л g0, то для нечетких
и gQ подобные отношения не выполняются.
В дальнейшем будет использоваться упрощенное р(Ь) =
= Т{ц(а, n(b, g0)}, если не оговаривается другое.
3.10. Комбинирование условий
Правила с комбинированием условий подобны следующим
ЕСЛИ давление, низкое ИЛИ давление, среднее
ТО вентиль, открыт
или
ЕСЛИ температура холодно И влажность сыро
ТО нагреватель, максимальный
обрабатываются аналогично. Не имеет значения, комбиниру-
ются ли условия, ссылающиеся на одну или более выходных
переменных. Во всех случаях для четких выходных значений
aj(r), — > «т/О во время t определяется степень p(ai(/), I
к комбинированному нечеткому значению^,. Далее
вычисления проводятся следующим образом: определяется
функция p(i) = Т(р(а|(О, .... стд(Г), fo), n(b, g)} и находится
оптимальное значение Ь.
3.11. Накопление результатов
и дефазификация
3.11.1. Агрегация результатов нескольких
правил
Рассмотрим множество правил вождения автомобиля.
Прамер 3.5. Агрегация результатов правил.
ЕСЛИ до препятствия. близкоТО скорость, медленно
ЕСЛИ время. малоТО скорость, быстро
ЕСЛИ дата, конец недели ТО скорость, быстро
ЕСЛИ топливо. пустоТО скорость, стоп
ЕСЛИ средства. малоТО скорость, экономия
Все правила содержат выходную переменную «скорость» с
нечеткими значениями «стоп», «медленно», «экономия» и
«быстро».
Выполнение правил может привести к несогласованным
или противоречивым заключениям, зависящим оттого, какие
условия работали в определенной ситуации. Если, например,
время и деньги малы одновременно, должен ли автомобиль
ехать «быстро» и «экономно»? Если используется несколько
правил одновременно, необходимо решить, какое из них вы-
полняется. Операция ИЛИ в этом контексте означает «иск-
лючительное ИЛИ».
Правило с условием fa и заключением go эквивалентно не-
четкому значению (fa И go). В любое время I и при определен-
ном b четкое выходное значение процесса получается из функ-
ций принадлежности Po(i) = 7'{g(a1(r),... , a«(0,/o), n(b, g0)}
ДЛЯ Уд И g(J. Приведем несколько правил, которые выполня-
ются вместе и эквивалентны комбинации нечетких значений:
(/l Hg,) ИЛИ (fa Hgj) ИЛИ ... ИЛИ(/дИуд) с функциями
принадлежности
p(Z>) = S{P|(*), p2(Z>), . , рд(*)},
где
P1(Z>) = TXhCciiCO, ол'(0, Jo), n(b, д));
p2(i) = TMajW,.... aN(t),f^ , n(b, &)};
p3(Z>) = ТМаДО,. ал'('), Jo) . n(b, g-з);
PnW = TMciiW. , aN(f),fo), n(b,gN)}.
В рассмотренном выше выражении p(fc) = 5{pi(fc), p2(fc),...,
Рл<(£>)} в любое фиксированное время t функция b отличается
от оптимального значения b = р [32, 33, 35, 73, 74].
3.11.2. Дефазнфнкация
Далее рассмотрим, как получить четкое "оптимальное значе-
ние р управляющей переменной Ь. Эта процедура называется
дефазификацией и является последним шагом каждого управ-
ляющего цикла в нечеткой системе. В общем случае перемен-
ная Ь = р имеет частичную функцию принадлежности
р(6) = 5{P1(Z>), p2(fc), Рц(Ь)} =
= .$(71щ, n(b, ft)], 3"Ipl2, n(b, ft)], ..., n(b, gw)]}.
Для дефазификации нечеткого результата на практике ис-
пользуют три метода, которые рассмотрим ниже.
1. Метод максимальной высоты. Применяется, если функ-
ция р(6) имеет определенный абсолютный максимум как не-
которое значение b = tri№ при котором р(йтах) > р(/>) для всех
Ь. Преимущество метода заключается в простоте применения,
а недостаток состоит в том, что функция p(i) не рассматри-
вается во всей области определения, а только в максимальных
позициях, что может привести к неприемлемым результатам.
2. Метод среднего максимума. Если функция р(6) имеет
несколько относительных максимумов, то можно взять взве-
шенное среднее. Учитывая общую форму выражения р(/>),
этот метод лучше предыдущего. Он также применим, если
р(/>) постоянна на определенных интервалах b (что часто слу-
чается на практике), так как можно взять центры каждого та-
кого интервала как «относительные локальные максимумы» и
усреднить затем эти значения.
3. Метод центра гравитации. Графическое представление
функции р(/>) в декартовых координатах — это кривая, кото-
114
рая вместе с осью абсцисс X, верхней и нижней границами Ъ
ограничивает плоскую область. Абсцисса р центра гравита-
ции такой фигуры берется как желаемый оптимум
d
М= \b-p(b}db,
С
d
F= Jp(h)J£>;
«opt =M/F.
Если p(fc) определяется только для дискретных значений b
(так называемые синглетоны), то вычисление центра грави-
тации модифицируется следующим образом:
М= £b„ -р(Ь„У,
п
F='EP(b„y,
п
iopt = M/F
Контрольные вопросы
1. Какая интерпретация дается задаче интерполяции функ-
ций в теории приближенных рассуждений?
2. Почему базовой операцией нечеткого вывода являются
операции композиции нечеткого множества и нечеткого
отношения?
3. Что такое правила трансляции?
4. Определите правила включения, конъюнкции, дизъюнк-
ции и отрицания.
5. Как уточняются правила умозаключений modus ponens и
modus tollens в нечеткой логике?
6. Из каких этапов складывается нечеткий вывод?
7. Каким образом осуществляется сопоставление четкого
значения входной переменной и нечеткого правила?
8. Какие методы дефазификации существуют?
9. Охарактеризуйте метод среднего максимума, высоты не-
четкого множества, гравитации.
10. Назовите особенности схем нечеткого вывода по Мамда-
ни, Ларсену, Цукамото, Суджено и упрощенной.
11. Как осуществляется импликация в схеме нечеткого вывода?
12. Как осуществляется агрегация результатов вывода по не-
скольким нечетким правилам?
13. Сформулируйте теорему Ванга о системе нечеткого выво-
да Мамдани, как об универсальном аппроксиматоре.
14. Сформулируйте теорему Кастро о системе нечеткого вы-
вода Ларсена, как об универсальном аппроксиматоре.
15. Что такое нечеткий контроллер?
16. Что называют порядком нечеткого контроллера?
17. Какие входные переменные будет иметь нечеткий кон-
троллер первого порядка?
Основы теории
нейронных сетей
ГЛАВА
Не в нейронных элементах самих по себе
содержится секрет мышления. Он, скорее,
в принципах организации, которые позволяют
огромному числу этих элементарных устройств
работать согласованно.
К Мид
Не имеет значения, похожи ли на самом
деле в работе нейронные сети на мозг.
Значение имеет лишь то, что у данных
теоретических моделей можно математически
обосновать наличие способностей
к переработке информации.
Р. Хехт-Нилъсен
4.1. Моделирование нейронных
структур мозга. Модель нейрона
4.1.1. Моделирование нейронов мозга
Искусственные нейронные сети (НС) представляют собой
простейшие математические модели мозга. Понять основные
принципы построения НС можно, рассматривая их как сово-
купность (сеть) отдельных структур (нейронов). Очень грубо
структуру биологического нейрона можно описать следую-
щим образом. Нейрон имеет сому — тело, дерево входов —
дендриты, выход — аксон. На соме и на дендритах распола-
гаются окончания аксонов других нейронов, называемых си-
напсами. Принятые синапсами входные сигналы стремятся
либо возбудить нейрон, либо затормозить Когда суммарное
возбуждение достигает некоторого порога, нейрон возбужда-
ется и посылает по аксону сигнал другим нейронам. Каждый
синапс обладает уникальной синаптической силой, которая
пропорционально своему значению изменяет передаваемый
на нейрон входной сигнал. В соответствии с данным описа-
нием математическая модель нейрона представляет собой
суммирующий пороговый элемент.
Входные сигналы искусственного нейрона умножаются на
веса связей, суммируются и сравниваются с порогом. Поро-
говые суммирующие элементы объединяются в сеть. Соеди-
нение можно выполнить произвольным образом, но в таком
случае переключение нейронов становится необозримым, по-
этому используют упрощенные структуры, например слоистые
сети прямого распространения сигнала шт специальные сети
с обратными связями. На рис. 4.1 представлена трехслойная
сеть прямого распространения. Внутренний слой нейронов
называют скрытьем. Каждая связь обладает определенным
весом И'у.
Представим один узел нейронной сети (рис. 4.2).
Л юбой нейрон характеризуется следующими параметрами:
1. Вектор входов X = (Х\ .... Х„).
2. Вектор выходов О = (Оу ..., От).
3. Вектор весов И/ = (И^ №„).
4. Порог срабатывания 0.
5. Функция активации /'(табл. 4.1).
х,
Рис. 4.2. Искусственный нейрон
Формула срабатывания нейрона:
О = F(< WT, Х>) = £ и; X])
i- 1
(1, (<рИ, л>)>о,
I 0, иначе.
На рис. П4 приложения приведены графики распростра-
ненных функций активации — сигмоид. Для большинства ре-
альных задач, решаемых нейросетями, используются нейро-
ны с униполярной сигмоидальной функцией активации [32, 74].
Таблица 4.1
Наиболее часто иежмыуемые функции аипшиим
Название функции Формула
Линейная Функция «знак» Униполярная сигмоидальная Биполярная сигмоида Гиперболический тангенс Г(<и; х>) = wTx F(<W, Х>) = sin(WTX) 1/(1 + ехр(-И,7>)) 2/(1 + схр(-Ц'7Л)) - 1 tanh( И^ТХ)
4.1.2. Примеры искусственных
нейронных сетей
Пусть имеется нейрон с двумя входами и одним выходом,
причем и входы, и выход — бинарные: Xt, А?, О е [0,1]. Ка-
кими должны быть веса (W\, И2), и значение порога (0), что-
бы нейрон реализовывал функцию логического И и логиче-
ского ИЛИ (рис. 4.З.)?
Если моделировать функцию И, то выход
0 11. (1/2 - XI + 1/2 • XI) > 0,5,
|0, иначе.
Следовагельно, вектор весов(1И1, И^) = (1/2, 1/2), порог
0 = 0,5 превращают искусственный нейрон в элемент логи-
Рис. 4.3. Функции логическое И и ИЛИ
Если моделируем функцию ИЛИ, то выход
(1, (1-Л + 1 • JT2) > 0,5,
0 = 10, иначе.
Следовательно, для реализации функции ИЛИ необходи-
мо установить вектор весов (И7], И^) = (1,1), порог 0 = 0,5.
4.1.3. Различные типы нейронов
Допустим, имеется нейрон, представленный на рис. 4.4, а.
Порог срабатывания можно установить на 0, если ввести фик-
тивный вход, равный 1, с весом связи 0 (рис. 4.4, б).
Кроме традиционного линейного суммирующего порогового
нейрона для построения специализированных видов сетей ис-
пользуются различные виды нейронов, одним из которых явля-
ется радиальный базисный нейрон (РБН, Radial PostSynapce unit)
[20, 32, 33]. Радиальные синаптические элементы вычисляют
квадрат расстояния между двумя точками в Л'-размерном про-
странстве (где N— количество входов). Радиальные базисные
нейроны имеют эквивалентные значения выходов, лежащие
на гиперсферах в пространстве образцов. С помощью радиаль-
ных базисных нейронов строят классификаторы, которые из-
меряют расстояния между точками в прост ранстве признаков.
Рис. 4.4. Нейроны — без фиксированного входа (о), с фиксированным
входом (б)
4.1.4. Задачи нейронных сетей.
Основные свойства
Нейронные сети являются ровесниками компьют еров фон-ней-
мановской архитектуры. В настоящее время усиливается
значение параллельных распределенных вычислительных
архитектур. На основе нейронных сетей можно построить
параллельный нейрокомпьютер, основным операционным
устройством которого будет нейронная сеть, а не арифмети-
ко-логический процессор. Нейронные се ги как вычислитель-
ные элементы обладают универсальностью и очень важным
интеллектуальным свойством — обучаемостью. Их значение
в информатике выросло настолько, что говорят о нейронном
буме. Нейронные сети, рассматриваемые как вычислители
для адаптации к конкретной задаче, не нуждаются в програм-
мировании, а настраиваются за счет изменения матриц си-
наптических весов. Обучение рассматривается как специаль-
но организованный процесс предъявления образцов, каждый
из которых имеет структуру, состоящую из стимула (входа)
и реакции (выхода). Совокупность образцов называется обу-
чающей выборкой. Если задана обучающая выборка, т. е. не-
сколько строк, со следующей структурой:
<Входы Л[,.... — выходы У}, ..., У^>,
то можно ввести обозначение К:
и if,... J*.
где К — номер образца в обучающей выборке.
Последовательно используя строки обучающей выборки,
необходимо вычислить реакцию нейронной сети, т. е. ее вы-
ход при текущих значениях матрицы весов. Для того чтобы
приблизить выход сети к желаемому значению, можно изме-
нять вектор весов. Уточним содержание задачи обучения ней-
ронной сети.
Необходимо найти вектор весов, который давал бы нам за-
данный выход:
11, (<1У, Л*>)>0,
~ 10, иначе.
С математической точки зрения процесс обучения ней-
ронной сети, которая может выполнять только операции ум-
ножения, сложения и композиции функций за счет каскади-
рования, рассматривают как поиск аппроксимации с по-
мощью суперпозиции непрерывных функций.
Настройка НС может рассматриваться и как поиск реше-
ния задачи классификации объектов, описанных входными
признаками, т. е. если (< WT, Х>) > 0, то объект относится к
классу Q; если (< WT, Л>) < 0, то — к классу С2. Тогда полу-
чаем НС —- классификатор, который распознает класс объек-
тов С), когда на выходе 1, и класс С2, когда на выходе О
Проблема классификации — это задача отнесения предъяв-
ленного объекта к одному из известных классов из опреде-
ленного множества. На практике классификация объектов
очень важна для распознавания образов, например для рас-
познавания рукописного текста, речи или изображений. Обу-
чение часто сводится к формированию способности распоз-
навать объекты проблемной области или классифицировать
их. Важнейшая черта любой интеллектуальной системы (ис-
кусственной или естественной) — это способность формиро-
вать понятия. Оставим в стороне философские, лингвистиче-
ские, семантические и другие аспекты сложнейшей проблемы
и рассмотрим формирование понятий как математическую
задачу кластеризации.
Допустим, имеется множество образцов-описаний объек-
тов в пространстве признаков, но нам ничего не известно об
их принадлежности каким-либо классам и количество по-
следних. Способна ли нейронная сеть сыграть роль интеллек-
туального устройства, на вход которого поступили все описа-
ния объектов, а устройство научилось разбивать образцы на
классы, определило понятия проблемной области, количест-
во классов, их характерные черты? Характеристическую ин-
формацию о классах можно считать понятиями проблемной
области. Формирование системы классов является задачей
кластеризации и успешно решается НС особого вида — ассо-
циативными картами Т Кохонена [34].
В связи с тем что нейронные сети решают задачу аппрок-
симации, они способны предсказать реакцию на никогда не
предъявляемый им стимул, т. е. осуществить прогнозирова-
ние. НС широко используют для прогнозирования поведения
различных финансовых и экономических индексов.
4.2. Обучение однослойных
и специальных нейронных сетей
4.2.1. Способы представления процесса
обучения
Признаковое пространство реальных распознаваемых ней-
ронной сетью объектов многомерно. Для наглядной иллюст-
рации процесса обучения используют графическую форму
представления входных, выходных и весовых векторов, в ча-
стности плоские или трехмерные изображения. Поясним
наиболее типичные формы процесса обучения. Приведем ос-
новные свойства векторных операций, которые реализуются
нейронными сетями.
Произведение двух векторов
Х> = WT • Х= £ Wi'X>
f= 1
в векторной форме представляет собой:
х> = и • ||иц cos(a; иэ.
Пусть даны векторы X и которые по базису расклады-
ваются на Хц Х2 и И7! и W2 соответственно (рис. 4.5). Выраже-
Рис. 4.5. Входной и весовой векторы
в двумерном признаковом пространстве
2
Рис. 4.6. Проекция входного вектора X на вектор весов W
ние <W, Х> — |И1" IWI cos(X W) задает проекцию X на на-
правление W (рис. 4.6).
Проиллюстрируем процесс формирования у нейронной
сети способности классифицировать объекты. Пусть имеются
обучающие образцы двух видов: • ио.
Обучить — значит провести разделяющую образцы пря-
мую (рис. 4.7), найти ее направление. Процесс обучения НС
Рис. 4.7. Иллюстрация разбиения объектов на два класса
в пространстве изображают разделяющей плоскостью (по-
верхностью). Если разделяющая поверхность является гипер-
плоскостью (прямая в двумерном случае), то задачу распоз-
навания называют линейносепарабельной.
Рассмотрим пример решения задачи распознавания, не яв-
ляющейся линейносепарабельной: аппроксимация функции —
исключающее ИЛИ — с помощью линейного нейрона (рис. 4.8).
Из данного рисунка следует, что задачу линейным спосо-
бом решить нельзя, так как невозможно провести прямую ли-
нию так, чтобы она разделила точки на разные классы. Раз-
деляющей линией служит кривая линия.
Процесс обучения нейронной сети — это процесс на-
стройки, изменения весов, по основному правилу:
<= Ц(Г, - О,-)|| • Хр
где — новое значение веса,
Wy — старое значение веса;
£ — уровень обучаемости (коэффициент угла поворота);
Y, — значения выходов;
О, — желаемое значение;
Xj — входной образец
*1
Рис. 4.8. Иллюстрация ограничений аппроксимирующей
способности линейного нейрона
Рис. 4.9. Иллюстрация процесса обучения
Данное правило было предложено Б. Уидроу в 1960 г. для
адаптивного линейного нейрона (ADALINET) почти одновре-
менно с алгоритмом обучения перцептрона Ф. Розенблатта
(57]. В дальнейшем процесс обучения будет рассмотрен под-
робнее.
Покажем еще один вил диаграмм, которыми часто иллю-
стрируют процесс обучения (рис. 4.9); здесь разделяющие
прямые ограничивают область, в которой сосредоточены все
точки.
4.2.2. Алгоритм обучения однослойной
нейронной сети
Обучение нейронной сети происходит на некоторой обучаю-
щей выборке, для каждого образца которой определяются и
сравниваются с желаемыми значениями все текущие выходы.
Если разница недопустима, то веса изменяются. Окончанием
обучения считается ситуация, когда общая ошибка на всех
образцах допустима.
Рассмотрим обучение линейной однослойной сети, пред-
ставленной на рис. 4.10. Структура обучающей выборки —
(Х„ Х2, .... Х„), 0= (О., Оъ .... От).
Пусть для обучения нам представлена выборка
Хк, YK, К=1, . , К, Ое {1,0).
Приведем описание алгоритма обучения по шагам.
1. Введем k = 1; к — номер образца.
2. Случайным образом инициализируем матрицу весов
Wi}, Е = 0, где Е — ошибка.
3 Начнем обучение (на модели), для чего просчитаем все
выходы
10, в противном случае
для любого О,.
4. Рассчитаем разницу между текущими и желаемыми зна-
чениями выходов, т. е. вычислим (Y, — О,), для каждого I.
5. Изменим веса по правилу Ж, = Ж, + С, ||( У, — О,)|| • X
для каждого И7,, У;.
6. Вычислим накопленную ошибку £,= £',+ 1/2 • (Yt —
— О,)2, выберем следующий образец из обучающей выборки
к = к + 1.
7. Проанализируем текущий результат. Если к > К, то сле-
дует учесть ошибку. Если значение ошибки Е меньше задан-
ного уровня 1;, то достигнуто окончание обучения. Если на-
копленная ошибка больше то установим к = 1, Е = 0 и вер-
немся к шагу 3, т. е. продолжим обучение [13, 74J.
Рис. 4.10. Линейная однослойная НС
В настоящее время существуют многочисленные простые
примеры (исключающее ИЛИ, счетчик количества единиц
для входного вектора с размерностью больше 2), которые не
решаются отдельным линейным суммирующим нейроном.
Однако на сегодняшний день доказана теорема о сходимости
алгоритма обучения однородной нейросети. Если задача ли-
нейносепарабельна, то алгоритм обучения однослойной ней-
росети сходится за конечное число шагов. Для решения задач
с нелинейными разделяющими поверхностями используют
многослойные нейросети, причем в качестве функций акти-
вации используют нелинейные функции.
4.2.3. Алгоритм обучения по дельта-нравилу
Все алгоритмы обучения нейросетей являются разновиднос-
тями алгоритма обучения по методу коррекции ошибки, ко-
торая осуществляется по-разному. Идея изменения весов НС
сводится к нахождению общей меры качества сети, в качестве
которой обычно выбирают функцию ошибки сети. Тогда,
чтобы подобрать нужные веса, необходимо минимизировать
функцию ошибки. Самым распространенным методом поиска
минимума является метод градиентного спуска. Для случая
функции с одной переменной веса изменяются в направлении,
противоположном производной, т. е справедлива формула
И/л + 1= Wn~C, • /"(FT),
где £ — некоторый уровень обучения, шаг изменения,
F'(Ff) — производная функции качества НС для одной переменной.
Для функции F: Rn Rn от п переменных и единичного
вектора е в пространстве R" ||е|| = 1, е е R", дифференциал вы-
ражается формулой
lim(F( IV+ et)-F( IF))
SJW = cto--------------------.
Для случая е = (0, 0 .1.0) определим частный дифферен-
циал
1ш1(Г(Иь ^2’ ’ +
г,Г(И0 = .
129
5-100
Таким образом, антиградиент — это набор следующих
дифференциалов:
0Т(Ю = ((-аД^), -гЛИ/2),... -a/W), -aflTO)T.
Для определения обобщенной функции ошибки рассмот-
рим обучающую выборку {(х* у*)}, где к = 1, К.
Накопленная по всем эпохам ошибка
К К ( т >
Е= £(£*) = £ Х1/2Ц 0,-^|
Формула модификации весов НС
и^ + i = • ze/bw
уточняется для различных видов функции активации. Пусть
функция активации линейная, например F(t) = t, тогда НС
формирует каждый выход как скалярное произведение весов
на вектор входов: О,- = < и градиент будет равен:
BE/8W=-(Yt- О,) • X
где У, — желаемый выход;
Oj — полученный выход;
X — вектор выхода.
Таким образом, с помощью метода градиентного спуска
можно обосновать ранее введенную формулу изменения весов
W" + 1 = W" + С, - (Y, - О,) X.
Если значением Б назвать разницу (У, — О,), то получим
формулу
W"+' = W" + <; Ь X,
что является алгоритмом обучения по Ь-правилу.
Если функция активации нелинейна, то Б имеет более
сложный вид, и необходимо определять 8Е/дО — частные
производные ошибки по выходам. Работу алгоритма иллюст-
рирует рис. 4.11.
Рис. 4.11. Иллюстрация обучения градиентным методом снижения
ошибки Е(Ж1, Иу
4.2.4. Алгоритм обучения однослойных НС
с нелинейной функцией активации
Нелинейность функции активации НС усложняет работу
рассмотренного выше традиционного алгоритма и влияет на
правила изменения весов нейросети, в формуле которых уча-
ствует производная от общей ошибки.
Рассмотрим в качестве функции активации функцию
1/(1 + ехр(— Ошибка для одного образца:
Ек = \/2(YK-О*)1 = 1/2(У*- 1/(1 + exp(-lP'7A'Jf)))2,
где Y — желаемый выход;
О — текущий выход
Накопленная ошибка:
Е= 1. Ек.
t- 1
Разновидность функции активации в формуле изменения
весов уточняет значение градиента от общей функции ошибки
IV" + 1 = 1Г - t,(eEK(W)/8W).
Рассмотрим пример. Для униполярной сигмоидальной
функции правила весов уточняются следующим образом. Ес-
ли вычислить градиент от EK(W), то получим преобразован-
ную формулу:
W+ C,(YK- О*)ОЛ(1 - ОК)ХК,
где 8 = (Г*- О*)ОА(1 - 0к), т e.W=W + &Х
Если функция активации нейронов — это биполярная
сигмоида, то формула изменения весов будет следующей:
IP = W + 1/2?(1 - Огк)(Ук- 0к)Хк
4.2.5. Алгоритм «победитель получает все»
Среди алгоритмов обучения нейросети выделяют два вида: без
учителя и с учителем [17, 18, 32, 33]. Обучение без учит еля за-
ключается в том, что образцы данных делятся на классы по
степени похожести. Такое обучение называют кластеризаци-
ей. Рассмотрим однослойную нейронную сеть, представлен-
ную на рис. 4.10. Пусть необходимо выделить т кластеров.
Решая задачу кластеризации, используют нормализованные
векторы, т. е. И7, = И7,/! Ч^\. Затем расстояния между вектора-
ми ||Л — И7,|| сравниваются и ищется минимальное. Найден-
ный минимальный выход объявляется победителем. Обозна-
чим его Wr. В дальнейшем модифицируются только веса ней-
рона-победителя:
И$ = Wr + ц||Х~ 1М|;
и7 = и;/||^1>
а весы остальных нейронов остаются постоянными:
И7-= W„ О, =0, г #0.
Таким образом, входные данные сортируются по классам
с помощью меры похожести, в качестве которой выступает
расстояние между векторами:
Wr= И7+ ц||%- И71|
Финалом работы алгоритма «победитель получает все»
является набор векторов, каждый из которых указывает на
центр гравитации кластера (рис. 4 12).
4.2.6. Радиально-базисные сети.
Сети регрессии. Вероятностные НС
Рассмотрим радиальный базисный нейрон с R входами. Струк-
тура нейрона представлена на рис. 4.13. Радиальный базисный
нейрон (РБН) [20] вычисляет расстояние между векторами
входов X и вектором весов W и затем умножает его на фик-
сированный порог Ь. Функция активации РБН, полученная в
среде Matlab, будет рассмотрена в приложении (рис. П27). Ра-
диальная базисная функция имеет максимум, равный 1, когда
ее входы нулевые. Следовательно, радиальный базисный ней-
рон действует как детектор, который получает на выходе 1,
когда вход X идентичен его вектору весов ИС Фиксированный
порог Ь дает возможность управлять чувствительностью ней-
рона. Например, если нейрон имеет порог 0,1, то выход равен
0,5 для любого входного вектора X, находящегося на вектор-
ном расстоянии 8,326 (8,326/6) от W.
Радиальная базисная нейронная сеть (РБНС) состоит из двух
слоев: скрытого радиального базисного слоя из 5' нейронов и
Рис. 4.13. Радиальный базисный нейрон
выходного линейного слоя из S2 нейронов. Элементы первого
слоя РБНС вычисляют расстояния между входным вектором
и векторами весов первого слоя, сформированных из строк
матрицы И/2’1. Вектор порогов В и расстояния поэлементно
умножаются. Выход первого слоя можно выразить формулой
Л1 = radbas(||W' —ATI • В),
где Л1 — выход первого слоя,
функция radbas — радиально-базисная функция;
— матрица весов первого слоя сети;
X — входной вектор;
В — вектор порогов первого слоя.
Согласно формуле радиальные базисные нейроны с век-
тором весов, близким к X, сгенерируют значения, близкие к
1. Если нейрон имеет выход 1, то это значение весами второго
слоя будет передано на его линейные нейроны. Фактически
радиальный базисный нейрон с выходом 1 превращает выхо-
ды всех остальных нейронов в нули. Тем не менее типичным
является случай, когда несколько нейронов дают на выходах
значимый результат, хотя и с разной степенью.
Радиальные базисные нейронные сети обучаются в три
этапа. Опишем этапы обучения.
Первый этап — выделение центров (весов). Центры,
представленные в РБН-слое, оптимизируются первыми с по-
мощью обучения без учителя. Центры могут быть выделены
разными алгоритмами, в частности обучением Кохонена. Ал-
горитмы должны разместить центры, отражая кластеризацию
исходных данных.
Второй этап — назначение отклонений. Отклонения
могут быть назначены различными алгоритмами, например
алгоритмом «ближайшего соседа».
Третий этап — линейная оптимизация. Можно ис-
пользовать методы обучения по дельта-правилу, обратному
распространению ошибки.
Нейронные сети регрессии (НСР) имеют такой же, как и
РБНС, первый слой, но второй слой строится специальным
образом. Для аппроксимации функций часто используются
обобщенные сети регрессии (generalized regression neuron net-
works). Второй слой, как и в случае РБНС, выполняет поэле-
ментное произведение строки И7] 2 и вектора выхода первого
слоя а1. Рассмотрим действие данного блока на примере.
Пусть даны следующие значения:
1С= [1, -2; 3, 4; 5, 6);
А = [7; -8].
Тогда выход второго слоя будет таким [ыц • + w2i • иъ
w12 • aj + w22 • а2; w13 • 3| + tv23 • а2 ] = [1 • 7 + (-2) • (-8);
3 • 7 + 4 • (—8); 5 • 7 + 6 • (—8)] = [23, —11; —13]. Второй слой
имеет столько нейронов, сколько существует целевых пар
<входной вектор/целевой вектор>. Матрица весов Ж— это на-
бор целевых с трок. Целевое значение — это значение аппрок-
симируемой функции в обучающей выборке. Предположим,
имеется один входной векторxj, который сгенерирует на выходе
первого слоя выход, близкий к 1. В результате выход второго
слоя будет близок к /„ одному из значений аппроксимируемой
функции, использованной при формировании второго слоя.
Сети регрессии иногда называют Байесовскими вероятно-
стными сетями регрессии, или обобщенными НС регрессии.
Некоторые реализации сетей регрессии имеют четыре слоя:
входной, выходной, слои радиальных центров, элементов рег-
рессии. Радиальный слой представляет собой центры-класте-
ры известных обучающих данных и содержит такое же коли-
чество элементов, как обучающая выборка; РБН обучаются
алгоритмом кластеризации. Слой регрессии имеет только на
один элемент больше, чем выходной слой, и содержит линей-
ные элементы одного из двух типов. Элемент первого типа
вычисляет условную вероятность каждого выходного атрибу-
та, элемент второго типа вычисляет плотность вероятности.
Выходной слой выполняет специальные функции деления.
Каждый элемент делит выходы, ассоциированные первым ти-
пом с помощью элементов второго типа.
Байесовские вероятностные НС используются только для
проблем классификации. Они содержат четыре слоя: вход-
ной, выходной, слой РБН и элементов линейной классифи-
кации. Слои могут содержать квадратную матрицу потерь,
включение которой возможно, только если третий и четвер-
тый слои состоят из одинакового числа элементов. Радиаль-
ные базисные нейроны в таких сетях используются для хра-
нения образцов, взятых из обучающей выборки, которая бе-
рется полностью. Следовательно, первый скрытый слой
содержит такое же количество элементов, что и обучающая
выборка. Так как элементы слоя классификации связаны с
выходом каждого класса, можно оценить вероятность прина-
длежности последнему. Если используется матрица потерь, то
цена решения минимальна. Такие сети обычно быстро тре-
нируются, но медленно вычисляют из-за большого размера.
Вероятностные нейронные сети (ВНС, probabilistic neuron
networks) используются для решения проблемы классифика-
ции. Первым слоем в архитектуре ВНС является слой радиаль-
ных базисных нейронов, который вычисляет расстояние и век-
тор индикаторов принадлежности другим входным векторам,
используемым при обучении. Второй слой суммирует эти зна-
чения для каждого класса входов и формирует выходы сети, как
вектор вероятностей. Далее специальная функция активации
(compete) определяет максимум вероятностей на выходе второ-
го слоя и устанавливает данный выход в I, а остальные выходы
в 0. Матрица весов первого слоя И/1,1 установлена в соответ-
ствии с обучающими парами. Блок расчета расстояний полу-
чает вектор, элементы которого показывают, насколько близок
входной вектор к векторам обучающего множества. Элементы
вектора умножаются на вектор порогов и преобразуются ра-
диальной базисной функцией. Входной вектор, близкий к не-
которому образцу, устанавливается в 1 в выходном векторе
первого слоя. Если входной вектор близок к нескольким об-
раздам отдельного класса, то несколько элементов выходного
вектора первого слоя будут иметь значения, близкие к 1.
Веса второго слоя устанавливаются по матрице Тце-
левых векторов, каждый вектор которой включает значение 1
в строке, связанной с определенным классом входов, и нули
в остальных позициях. Произведения Т а1 суммируют эле-
менты выходного вектора первого слоя а1 для каждого из К
классов Затем функция активации второго слоя (compete) ус-
тановит значение 1 в позицию, соответствующую большему
элементу выходного вектора, и 0 во все остальные. Следова-
тельно, сеть классифицирует входные векторы, назначая вхо-
ду единственный класс на основе максимальной вероятности
принадлежности.
4.3. Многослойные нелинейные
нейронные сети
4.3.1. Алгоритм обратного распространения
ошибки
Пусть определена трехслойная нейронная сеть с п входами, тп
выходами и / скрытыми между ними элементами, тогда необ-
ходимо рассмотреть и построить два слоя весов: от входов к
скрытым элементам и к выходу, т. е. (И^,
Назначение алгоритма обратного распространения ошиб-
ки — настройка всех слоев многослойной структуры. Рас-
смотрим работу алгоритма на примере сети с одним скрытым
слоем и одним выходом (см. рис. 4 1). Преобразования вход-
ных сигналов, задаваемые нейронной сетью, определяются
следующими формулами:
F(<H< Х>) = 1/(1 + ыр(-Ц/7У));
О* = 1/(1 + ехр(-И'7>'Ч);
0= 1/(1 + expfrWjO*)).
Общая функция ошибки зависит от весов всех слоев, в на-
шем случае от вектора W/ и от матрицы WfJ:
Ek(Wl, W) = 1/2(Г — Ок)г = 1/2(У — 1/(1 + ехр(-1У£г0Л)))2,
где Y — выход, который задан в выборке.
Теперь необходимо определить приращение каждого веса
с помощью частных производных:
аг^и7,, ио
ац/д ’
be\wl, ио
8W
Для многослойной архитектуры частные производные
ошибки по матрице весов каждого слоя определяются по
формуле сложной производной. В случае униполярной сиг-
моиды правило изменения весов будет следующим:
W~ W + L(YK- OK)OK(l - ОК)ОК;
d=(Yx- OK)OK(l - Ок);
Wx= + <аи{(1 - oKyoV.
Метод обратного распространения ошибки позволяет из-
менять веса промежуточных слоев, хотя желаемые значения
на промежуточных слоях не заданы [13, 17,18, 33, 74].
4.3.2. Эффективность аппарата нейросетей
Эффективность аппарата НС определяется аппроксимирую-
щими возможностями. В 1989 г. японским ученым Л. Фу-
нахаши была доказана теорема об аппроксимации. Теорема
«о функциональном универсальном аппроксиматоре» форму-
лируется следующим образом.
Пусть У(г) — множество непрерывных ограниченных мо-
нотонных возрастающих функций; К — компактное множе-
ство RN, а функция У(г): К -+ R дает на выходе конкретное
число; тогда для любой функции /’существуют массивы чисел
Wi, которые аппроксимируют функцию F [72, 74]:
я м ( N з
F = 2Wl X "М),
так что
||Г- F|| = sup ||F- F ||, < E\/E> 0, Хе K,
хе К
где || — расстояние
4.3.3. Обзор современных иейроиакетов
и их возможностей
Рассмотрим типологию и основные морфологические при-
знаки нейронных сетей. Отображая типологию нейронных
сетей, будем принимать во внимание существование нейро-
имитаторов, реализующих нейронные сети разных классов, и,
следовательно, являющихся возможной средой эксперимен-
тов. Для классификации НС выделим основные классообра-
зующие морфологические признаки, которые будут играть
роль основных параметров настройки при использовании
нейроимитаторов. Современное состояние методов нейро-
компьютинга отражено в классификации структур нейрон-
ных сетей, решаемых задачах, алгоритмах обучения, исполь-
зуемых методах нормализации.
На рынке нейроимитаторов в настоящее время представ-
лено более 200 нейропакетов. Наиболее полными признаны
Neurosolution 3.0. Trajan 2.1 и др. Удобство использования ней-
роимитаторов характеризуют возможности интерфейса, т. е.
средства визуализации сети, процесса обучения и использо-
вания. Основные задачи, решаемые методом нейрокомпью-
инга, — это задачи аппроксимации и классификации.
Среди популярных НС выделяют две большие группы: НС
без обратных связей и полносвязные сети. К первой группе
относятся:
• многослойные перцептроны;
• сети Кохонена;
• нейронные сети с радиальными базисными функциями;
• байесовские сети регрессии;
• байесовские вероятностные НС;
• линейные многослойные перцептроны.
Для выделения морфологических признаков каждой группы
рассмотрим основные составные части НС и их разнообразие.
Особенности структуры НС составляют вид связей, функции
активации (табл. 4.2) и постсинаптические элементы.
Классификация постсинаптических элементов (ПСЭ) сле-
дующая'
• линейный элемент;
• нелинейный элемент;
• радиальный элемент;
• элемент деления.
Классификация функций активации
Функция активации Формула функции активации Комментарий
Линейная Логистическая Гипербол ическая Экспонента Мягкий максимум Квадратный корень Синус Кусочно-линейная Пороговая 1/(1 + ехр(-х)) ехр(у) - ехр(-х) ехр(х) + ехр(-х) ’ ехр(-х) exp(x)/Z(cxp(x)) sqrt(x) sin(x) Нет Нет Сигнал проходит без преоб- разования непосредственно на выход 5-образная кривая с выходом в диапазоне [0,1] Гиперболический тангенс (towft). кривая, подобная ло- гистической функции, но с диапазоном [—1, +1] Гауссовская колоколообраз- ная кривая Нормализованная экспонен- циальная функция Используется для преобразо- вания квадрата расстояния в сетях Кохонена в расстояние на выходе Используется вместе с РБФ Кусочно-линейная аппрок- симация сигмоиды Выход 1,0 или 0,0 в зависи- мости от результата
Линейный ПСЭ вычисляет взвешенную сумму входов, что
эквивалентно скалярному произведению векторов входов и
весов, и сравнивает результат с порогом. Линейные ПСЭ раз-
деляют пространство образцов с помощью пересекающихся
гиперплоскостей. Линейные ПСЭ используются в много-
слойных перцептронах, линейных перцептронах и в конеч-
ном слое радиальных, вероят ностных сетей и сетей регрессии
Радиальные ПСЭ вычисляют квадрат расстояния между
двумя точками пространства, представляющими вектор весов
и входов. Радиальные ПСЭ эквивалентны гиперсферам в про-
странстве образцов. Радиальные элементы используются во
втором слое сетей Кохонена, радиальных, вероятностных и
регрессии.
Элементы деления специально разработаны исключитель-
но для сетей регрессии. Сегодня многослойный перцептрон
(МП) — это самая популярная архитектура, которая имеет ли-
нейные ПСЭ и нелинейные ФА. При использовании МП для
проблем классификации используются различные ФА. МП
может быть обучен методами обратного распространения
ошибки, Левенбурга—Марквардта, быстрым (Quick Propaga-
tion) или градиентными методами. МП из-за ясности структу-
ры широко распространен, однако медленно обучается, требуя
много образцов. Эмпирически доказано, что необходимо трой-
ное количество образцов по сравнению с количеством весов.
Основные приемы нормализации, распространенные в прак-
тике применения НС, следующие:
• отсутствующая нормализация (данные направляются не-
посредственно на НС);
• сумма элементов (данные масштабируются так, чтобы
сумма значений равнялась 1,0);
• длина элементов (данные рассматриваются как вектор,
элементы которого масштабируются так, чтобы длина векто-
ра была равной 1,0, эта техника рекомендована для исполь-
зования в РБНС, например в сетях Кохонена);
• максимум (используется только для нормализации вы-
ходов, максимальная компонента множества устанавливается
в позицию 1,0, а остальные — в 0,0);
• минимум (используется только для нормализации вы-
ходов, минимальная компонента множества устанавливается
в позицию 1,0, а остальные — в 0,0);
• пошаговая (используется только для нормализации вы-
ходов, положительным выходам присваивается значение 1,0,
а отрицательным — 0,0).
В настоящее время получили развитие многочисленные
методы масштабирования. Отсутствующее масштабирование
означает, что масштабный коэффициент устанавливается
р позицию 1,0, а сдвиг — в 0,0
Минимаксное масштабирование основано на реальном
диапазоне данных и отображает минимальное значение в ми-
нимум, а максимальное — в максимум. Масштабирование по
среднему требует задания среднего значения и стандартного
отклонения.
Обобщая свойства алгоритмов обучения, перечислим три
типа алгоритмов:
• алгоритмы инициализации (эти алгоритмы не выполняют
собственно обучения, но инициализируют веса; алгоритмы
инициализации не требуют обучающих данных);
• алгоритмы обучения с учителем (алгоритмы настраивают
веса, используя обучающие данные, содержащие как входы,
так и выходы);
• алгоритмы обучения без учителя (алгоритмы настраивают ве-
са, используя обучающие данные, содержащие только входы).
Алгоритмы инициализации сводятся к назначению весов
с помощью равномерно распределенных случайных чисел,
нормально распределенных случайных чисел или вектора
инициализации.
Самые распространенные алгоритмы обучения с учителем
следующие:
• обратное распространение ошибки (Back Propagation);
• градиентные методы (Conjugate Gradient Descent),
• алгоритм Левенбурга—Марквардта (Levenburg— Marquardt);
• быстрый алгоритм обратного распространения ошибки
(Quick Propagation);
• обучение по дельта-правилу (Delta—Bar—Delta);
• методы псевдообратных матриц (Pseudo—Inverse).
Ряд алгоритмов, также относящихся к группе обучения с
учителем, применимы только к байесовским сетям и сетям
регрессии.
Контрольные вопросы
1. Охарактеризуйте математическую модель искусственного
нейрона.
2. Что такое функция активации?
3. Какие функции активации используют в нейронных сетях9
4. В чем особенность НС прямого распространения сигнала,
сетей Хопфилда, рекуррентных НС?
5. Какие математические задачи решают нейронные сети9
6. В чем заключается задача классификации объектов?
7. В чем заключается задача кластеризации объектов?
8. Что называют обучением НС, обучающей выборкой?
9. Какое правило изменения весов нейронных сетей предло-
жил Уидроу?
10. Как определяют ошибку обученности НС?
11. Как метод градиентного спуска определяет направление
изменения весов НС?
12. Сформулируйте дельта-правило изменения весов НС.
13. Как влияет нелинейность функции активации на дель-
та-правило?
14. Из каких шагов состоит алгоритм обучения однослойной
нейронной сети?
15. В чем особенность обучения многослойной НС?
16. Как используется формула вычисления производной (гра-
диента) сложной функции в алгоритме обратного распро-
странения ошибки?
17. Какую структуру имеет НС Кохонена?
18. Какое правило изменения весов использует алгоритм по-
бедителя?
19. Сформулируйте теорему о НС как об универсальном ап-
проксиматоре.
20. Какую функцию называют радиальной базисной функцией?
21. Какую структуру имеет радиальная базисная нейронная
сеть?
22. Какую структуру имеет НС регрессии?
23. Какую структуру имеет вероятностная нейронная сеть?
24. Какие существуют нейроимитаторы НС для персональных
компьютеров?
5 Эволюционные
вычисления
ГЛАВА _____________
Теперь пришло время, когда математики
будут черпать вдохновение для своих работ
во всегда вдохновляющей живой природе
И Рашевский
В природе нет ничего такого,
в чем не был бы виден смысл
какого-нибудь максимума
или минимума.
Л. Эйлер
5.1. Генетические вычисления
5.1.1. Основные направления современного
эволюционного моделирования
История эволюционных вычислений характеризуется разви-
тием ряда независимых моделей. Первыми моделями были
генетические алгоритмы и классификационные системы.
Эволюционные вычисления — это бионическое направление,
которое использует принципы, существующие в природе, но
упрощенные до такой степени, чтобы их можно было реали-
зовать в компьютерных моделях.
Среди многочисленных эволюционных моделей выделяют
собственно бионические, т. е. основанные на биологических
принципах, и модели, далекие от реальной эволюции, но по-
лезные в прикладном смысле. В основном используются сис-
темы второго типа, которые успешно решают задачи струк-
турной оптимизации. Системы первого типа обладают слож-
ным поведением, что не исключает их практического
применения в будущем.
Представителями прикладных эволюционных моделей яв-
ляются эволюционные алгоритмы, такие как эволюционное
144
программирование (Evolutionary Programming), генетические
алгоритмы (Genetic Algorithms) и эволюционные стратегии
(Evolution Strategies). К моделям биологической эволюции от-
носятся системы, известные под обобщающим термином «ис-
кусственная жизнь» (Artificial Life) [601.
5.1.2. Генетические алгоритмы
Генетические алгоритмы (ГА) — это адаптивные методы по-
иска, которые в последнее время часто используются для ре-
шения задач функциональной и структурной оптимизации.
Генетическими они называются потому, что строятся на
принципах эволюции биологических организмов Ч. Дарвина.
Популяции развиваются в течение нескольких поколений,
подчиняясь законам естественного отбора, т. е. принципу
«выживает наиболее приспособленный» (survival of the fittest).
Генетические алгоритмы способны «развивать» решения ре-
альных задач, если те закодированы соответствующим обра-
зом. Генетические алгоритмы могут использоваться для про-
ектирования структуры механизмов, поиска оптимальной
формы детали, раскроя ткани Например, израильская компа-
ния «Schema» на основе ГА разработала программный продукт
Channeling для оптимизации работы сотовой связи путем вы-
бора оптимальной частоты, на которой будет вестись разговор.
Основные принципы ГА были сформулированы Дж. Гол-
ландом. Генетический алгоритм моделирует процессы, про-
исходящие в популяциях, приближенно. В природе особи в
популяции конкурируют друг с другом за различные ресурсы,
за возможность породить потомство. Наиболее приспособ-
ленные к окружающим условиям особи будут иметь больше
шансов воспроизвести потомков Следовательно, гены высо-
коадаптированных особей распространяются в популяции, и
количество их потомков возрастает в каждом последующем
поколении, т. е. вид развивается за счет приспособления к
среде обитания.
Генетические алгоритмы по аналогии с эволюционным
механизмом работают с популяцией, каждая из хромосом кото-
рой представляет возможное решение данной задачи Каждая
хромосома оценивается мерой ее «приспособленности» (fit-
ness function), которую называют также функцией оптималь-
ности. Например, мерой приспособленности хромосом, ко-
дирующих монтажную схему радиотехнического изделия,
служит длина проводников в задаче размещения элементов.
Наиболее приспособленные особи получают возможность
«воспроизвести» потомство с помощью «перекрестного скре-
щивания» (recombination) с другими особями популяции.
В результате появляются новые особи, сочетающие в себе ха-
рактеристики, наследуемые от родителей. Наименее приспо-
собленные особи постепенно исчезают из популяции в
процессе эволюции. Новое поколение обладает лучшими ха-
рактеристиками по сравнению с предыдущим. Скрещивание
наиболее приспособленных особей приводит к тому, что эво-
люция отыскивает перспективные решения в широком про-
странстве поиска. В конечном итоге популяция сходится к
оптимальному решению задачи.
Существует много способов реализации идеи биологиче-
ской эволюции в рамках ГА. Традиционным считается ГА,
представленный ниже с использованием псевдокода [14, 60].
Прописными буквами представлены управляющие операто-
ры алгоритма, а курсивом — генетические операторы.
НАЧАЛО /*генетический алгоритм*/
Создать начальную популяцию
Оценить приспособленность каждой особи
останов := ЛОЖЬ
ПОКА НЕ останов ВЫПОЛНЯТЬ
НАЧАЛО /*создать популяцию нового поколения*/
ПОВТОРИТЬ (размер_популяции/2) РАЗ
НАЧАЛО /*цикл воспроизводства*/
Выбрать две особи с высокой приспособленностью
из предыдущего поколения для скрещивания
Скрестить выбранные особи и получить двух потомков
Оценить приспособленности потомков
Поместить потомков в новое поколение
КОНЕЦ
ЕСЛИ приспособленность лучшего потомка > порога ТО
останов := ИСТИНА
КОНЕЦ
КОНЕЦ
В последние годы изучено много видов генетических ал-
горитмов. Сегодня термином «генетические алгоритмы» назы-
вают не одну модель, а достаточно широкий класс алгоритмов,
подчас мало похожих друг на друга. Исследователи экспери-
ментируют с различными типами представлений хромосом,
операторами скрещивания (кроссовера) и мутации, различ-
ными подходами к воспроизводству и отбору.
Генетические алгоритмы, как и другие методы эволюци-
онных вычислений, не гарантируют глобального решения за
полиномиальное время. Не гарантируют и того, что глобаль-
ное решение будет найдено, но для поиска приемлемого ре-
шения задачи ГА эффективны. Если задача решается специ-
альными методами, то они всегда эффективнее ГА. Главным
преимуществом ГА является то, что они применяются в слож-
ных задачах, для решения которых специальных методов не
существует.
5.1.3. Применение генетических
алгоритмов
Генетические алгоритмы применяются для решения многих
конкретных научных и технических проблем, но самое попу-
лярное приложение генетических алгоритмов — оптимизация
многопараметрических функций. Эффективность генетиче-
ского алгоритма заключена в его способности манипулиро-
вать одновременно многими параметрами, что использова-
лось во многих прикладных программах, включая проектиро-
вание интегральных схем, настройку параметров алгоритмов,
поиск решений нелинейных дифференциальных уравнений
и др.
Эффективность применения ГА [44] зависит от характе-
ристик задачи. Если пространство поиска в задаче неболь-
шое, то решение можно найти методом полного перебора, и
генетический алгоритм не нужен. Если пространство гладкое
и унимодальное, то любой градиентный алгоритм будет эф-
фективнее ГА. Если существует дополнительная информация
о пространстве поиска, то методы поиска, использующие эв-
ристики, часто превосходят ГА. Область применения ГА —
задачи с большим пространством поиска решений и отсутст-
вием эвристической информации. Эффективность ГА зави-
сит не только от параметров задачи, но и от характеристик ме-
тода кодировки решений, выбора генетических операторов,
настройки параметров.
5.1.4. Стандартный генетический алгоритм
Для реализации ГА сначала выбирают подходящую структуру
для представления оптимизируемых решений. С точки зре-
ния задачи поиска одно решение представляет точку в про-
странстве поиска всех возможных решений. Популяция ре-
шений состоит из одной или большего количества хромосом.
Обычно хромосома — это битовая строка, хотя ГА используют
не только бинарное представление. Хромосомы строят с ис-
пользованием векторов вещественных чисел, строк фиксиро-
ванной или переменной длины. Далее рассмотрим представ-
ление хромосомы одиночной строкой длины I бит.
Каждая хромосома представляет собой конкатенацию ряда
подстрок, называемых генами. Гены располагаются в различ-
ных позициях или локусах хромосомы и принимают значения,
называемые аллелями, т.е. ген — бит, локус — его позиция
в строке, и аллель — его значение (0 или 1). Биологический
термин «генотип» относится к полной генетической модели
и соответствует структуре хромосомы в ГА. Термин «фенотип»
относится к внешним наблюдаемым признакам и соответст-
вует вектору в пространстве параметров. Обычно методика ко-
дирования реальной переменной х состоит в ее преобразова-
нии в двоичные целочисленные строки заданной длины. Рас-
смотрим пример кодирования хромосомы.
Пусть известно, что для переменой х достаточно 8 разря-
дов. Установить соответствие между генотипом и фенотипом
закодированных особей можно с помощью деления соответ-
ствующего двоичного целого числа на 28 — 1. Например,
00000000 соответствует 0/255 или 0, тогда как 11111111 соот-
ветствует 255/255 или 1. Структура хромосомы для примера —
8-битовая строка. Генотип — это точка в 8-мерном хемми-
нинговом пространстве, а фенотип — точка на прямой
Функцией приспособленности в ГА может служить целе-
вая функция оптимизации. Стандартный ГА генерирует на-
чальную популяцию структур случайным образом и работает
итерационно до тех пор, пока не выполнится заданное число
поколений или критерий остановки. Генетический алгоритм
реализует отбор хромосом пропорционально приспособлен-
ности, одноточечный кроссовер и мутацию для каждого по-
коления Сначала пропорциональный отбор назначает каж-
дой t-й хромосоме вероятность Ps(j), равную отношению ее
приспособленности к суммарной приспособленности попу-
ляции:
Л(0 = #.
ЕЛ
1 = I
Отбор и замещение всех п особей происходит в соответ-
ствии с величиной Ps(i). Простейший оператор пропорци-
онального отбора — «рулетка» (roulette-wheel selection), кото-
рая отбирает особей с помощью п «запусков». Колесо рулетки
содержит по одному сектору для каждого члена популяции
Размер z-ro сектора пропорционален соответствующей вели-
чине P5(z). При таком отборе члены популяции с более высо-
кой приспособленностью выбираются чаше, чем особи с ни-
зкой.
Генетический алгоритм выполняет оператор кроссовер
для п выбранных особей с заданной вероятностью для чего
п строк разбиваются на /?/2 пар случайным образом. Для каж-
дой пары применяется кроссовер с вероятностью Рс Выраже-
ние 1 — Рс означает вероятность сохранения особей, которые
переходят на стадию мутации. Потомки, полученные с по-
мощью кроссовера, заменяют собой родителей и также
переходят к мутации. Одноточечный кроссовер работает сле-
дующим образом. Сначала случайным образом выбирается
одна из I — 1 точек разрыва. Точка разрыва — граница между
соседними битами в строке. Родительские структуры разры-
ваются в этой точке на два сегмента. Затем соответствующие
сегменты различных родителей склеиваются и получаются
два генотипа потомков. Например, предположим, что один
родитель состоит из 8 нулей, а другой — из 8 единиц. Пусть
из 7 возможных точек разрыва выбрана точка 3. Родители и
их потомки приведены в табл. 5.1.
После стадии кроссовера выполняются операторы мутации,
которые с вероятностью Рт изменяют случайный бит в каждой
строке на противоположный. Популяция, полученная после
мутации, замешает старую, и обработка одного поколения за-
вершается. Последующие поколения обрабатываются в выше-
описанной последовательности: отбор, кроссовер и мутация
Операция кроссовера
Таблица 51
Номер родителя Генотип родителя Точка разрыва Генотип потомка Номер потомка
1 2 00000000 11111111 000-00000 111-11111 Ш-00000 000-11111 1 2
В настоящее время используют разные операторы отбора,
кроссовера и мутации. Например, турнирный отбор реализует
п турниров, чтобы выбрать п особей Каждый турнир постро-
ен на выборке к элементов из популяции и выбора лучшей
особи среди них. Наиболее распространен турнирный отбор
с к = 2. Элитные методы отбора гарантируют, что при отборе
обязательно выживут лучшие члены популяции [13, 60].
Двухточечный и равномерный кроссоверы могут исполь-
зоваться вместо одноточечного оператора. В двухточечном
кроссовере выбираются две точки разрыва, и родительские
хромосомы обмениваются сегментом, который находится
между двумя этими точками. В равномерном кроссовере каж-
дый бит первого родителя наследуется первым потомком с за-
данной вероятностью, в противном случае этот бит передает-
ся второму потомку.
5.1.5. Вычислительная эффективность
применения генетического алгоритма
Генетический алгоритм обрабатывает строки, представляющие
хромосомы. Разнообразные строки можно описывать с по-
мощью шаблонов строк, которые называют схемами хромосом.
Генетический алгоритм не выполняет полный перебор всех то-
чек в пространстве поиска, но он обрабатывает значительное
число гиперплоскостей поискового пространства, отличаю-
щихся высокой приспособленностью. Каждая гиперплоскость
соответствует множеству похожих строк с высокой приспособ-
ленностью. Схема хромосомы — это строка длины / (длина лю-
бой строки популяции), состоящая из знаков алфавита {0; I; *},
где знак * обозначает неопределенный символ. Каждая схема
определяет множество всех бинарных строк длины /, имеющих
в соответствующих позициях либо 0, либо 1. Например, схема
10*1 определяет собой множество из двух четырехбитовых
строк {1001; 1011}. Для схем выделяют два свойства' порядок и
длину. Порядок схемы — число определенных битов (0 или 1).
Длина схемы — расстояние между крайними определенными
битами в схеме. Например, вышеупомянутая схема имеет по-
рядок о(10*1) = 3, а определенная длина 6(10*1) = 2. Каждая
строка в популяции является примером 21 схем.
Строящими блоками называют схемы, обладающие высокой
приспособленностью, низким порядком и короткой длиной.
Приспособленность схемы определяется как среднее от при-
способленностей экземпляров строк, которые ее содержат.
Процедура отбора выбирает строки с более высокой приспо-
собленностью. Следовательно, строки, которые являются
примерами высокоприспособленных схем, выбираются чаще.
Кроссовер реже разрушает схемы с более короткой длиной, а
мутация реже разрушает схемы с низким порядком, поэтому
такие схемы имеют больше шансов переходить из поколения
в поколение. Дж. Голланд (1992) показал, что, если ГА явным
образом обрабатывает п строк в каждом поколении, то он не-
явно обрабатывает порядка и3 коротких схем низкого порядка
и с высокой приспособленностью (useful schemata) Это явле-
ние называется неявным параллелизмом. ГА экспоненциально
увеличивает число примеров полезных схем или строяших
блоков. Данное утверждение известно как «теорема схем».
Пусть т(Н, t) — число представителей схемы Н в t-м по-
колении. Вычислим ожидаемое число представителей Н в сле-
дующем поколении или т(Н, 1 + 1) относительно т(Н, f). ГА
ставит в соответствие каждой строке вероятность ее «выжива-
ния». Ожидается, что схема Н может быть выбрана т(Н, t) х
х (/(Н)Дёр) раз, где /ср — средняя приспособленность попу-
ляции, a fill) — средняя приспособленность тех строк в по-
пуляции, которые являются примерами Н.
Вероятность того, что одноточечный кроссовер разрушит
схему, равна вероятности того, что точка разрыва попадет между
определенными битами. Вероятность того, что Н «переживает»
кроссовер, не меньше 1 — Pc(6(fP)/l — 1), поскольку схема
сможет выжить, если в кроссовере участвовал пример похожей
схемы. Вероятность того, что Н переживет мутацию, — (1 —
— Рт)°^н\ это выражение для малых Рт и о(Н) можно аппрок-
симировать как (1 — о(Н)). Теорема схем показывает, как изме-
няется произведение ожидаемого числа операций отбора и ве-
роятностей выживания при переходе к следующему поколению:
т(Н, / + 1) > т(Н, • (1 - Р • - 0(H) • Рт).
Лр 1 1
Теорема схем показывает, что количество строящих блоков
растет по экспоненте, в то время как схемы с приспособлен-
ностью ниже средней распадаются с той же скоростью. Тео-
рема весьма упрощенно описывает поведение ГА. Во-первых,
f(H) и/ср не остаются постоянными от поколения к поколе-
нию. Приспособленности членов популяции изменяются уже
после нескольких первых поколений. Во-вторых, теорема схем
объясняет потери схем, но не появление новых. Несмотря на
простоту, теорема схем описывает несколько важных аспектов
поведения ГА. Мутации с большей вероятностью разрушают
схемы высокого порядка, в то время как кроссовер с большей
вероятностью разрушает схемы с большей определенной дли-
ной. Популяция сходится пропорционально отношению при-
способленности лучшей особи к средней приспособленности
в популяции; это отношение называется мерой давления от-
бора (selection pressure). Увеличение PCi или Рт, или уменьше-
ние давления отбора увеличивает пространство поиска, но не
позволяет использовать все хорошие схемы, которыми распо-
лагает ГА. Уменьшение Рс, или Рж, или увеличение давления
выбора ведет к улучшению использования найденных схем, но
тормозит исследование пространства в поисках новых хоро-
ших схем. Генетический алгоритм должен отслеживать равно-
весие, проблему поддержания которого называют проблемой
«баланса исследования и использования» [60, 75J.
5.2. Разновидности генетических
алгоритмов
5.2.1. Эволюционная стратегия
Эволюционные алгоритмы (ЭА) — это объединяющий тер-
мин, используемый для описания компьютерных систем, ко-
торые применяют вычислительные модели эволюционных
процессов для решения задач. Эволюционные алгоритмы со-
здают популяцию структур хромосом, которые развиваются
в соответствии с правилами отбора и другими операторами,
называемыми поисковыми операторами, или генетическими
операторами, такими как рекомбинация и мутация. Одним из
важных типов ЭА являются эволюционные стратегии. Кратко
рассмотрим историю их разработки.
В 1963 г. в Берлинском техническом университете был
проведен экспериментальный поиск оптимальной формы тела
в потоке воздуха с использованием аэродинамической трубы.
Попытки использовать градиентные методы были неудачны-
ми, тогда один из исследователей И. Резе ибер г, следуя примеру
естественных мутаций, сделал упор на идее случайного изме-
нения параметров, определяющих форму. Так родилась эволю-
ционная стратегия (ЭС) для решения технических задач опти-
мизации, как альтернатива стандартным методам решения.
Первые применения ЭС на компьютере напоминают ите-
рационные методы оптимизации. В двойной (1 + 1) ЭС один
родитель генерирует одного потомка за цикл с помощью нор-
мально распределенной мутации, пока потомок не займет
место родителя, имея более высокую степень оптимальности
Исследование скорости сходимости ЭС привело к формиро-
ванию эмпирического правила «успеха»: отношение количе-
ства успешных мутаций ко всем должно быть ~ 1/5 Алгоритм,
использующий только мутацию, был затем расширен до стра-
тегии (т + 1), которая включала «воспроизводство благодаря
нескольким», т. е. т родителей. В дальнейшем стали различать
две стратегии: (т + 1) и (т, 1), которые используют рекомби-
нацию со случайным подбором пар, мутацию и отбор. Эти
стратегии называют «стратегия плюс» и «стратегия запятая»
В первом случае родительское поколение берегся в расчет во
время формирования следующего поколения, во втором же
случае отбираются только потомки, а родители «вымирают».
В эволюционных стратегиях различают целевую объект-
ную переменную и управляющую стратегическую Веществен-
ная объектная переменная должна быть настроена в процессе
рекомбинации и мутации так, чтобы объектная целевая функ-
ция достигала своего глобального оптимума. Стратегическая
вещественная переменная — это размер шага изменения объ-
ектной переменной, который представляет собой стандартное
отклонение распределения Гаусса, добавляемое к каждому
очередному значению объектной переменной как ненаправ-
ленная мутация. Стратегическая переменная также мутирует
по логарифмическому закону от поколения к поколению. Раз-
меры шагов выражают «внутреннюю модель» среды обитания,
которую создала популяция, т. е. в ЭС самоадаптация размера
шага заменяет внешний контроль. Этот метод работает, так
как ЭС рано или поздно выделит тех индивидов, которые со-
здали хорошую модель объектной функции и произвели луч-
шее потомство.
Обучение в ЭС осуществляется на двух уровнях: на уровне
генотипа, т. е. уровне объектной и стратегической перемен-
ных и на фенотипическом уровне, т. е. на уровне приспособ-
ленности к условиям среды. Фенотипом (мерой соответствия)
на шаге отбора служит значение результирующей объектной
функции /(х), где х — вектор объектных переменных. В стра-
тегии «плюс» т лучших из всех индивидов поколения t выжи-
вает, чтобы стать родителями следующего поколения. В случае
стратегии «запятая» отбор ведется только в поколении t + 1.
Вторая схема более реалистична и потому более успешна, так
как ни один индивид не живет вечно, что может теоретически
произойти в варианте со стратегией «плюс».
Постоянная адаптация размера шага предотвращает дли-
тельную фазу застоя, т. е. если индивиды строят внутреннюю
модель, которая более не яаляется ценной для дальнейшего
прогресса, то их следует уничтожить. Выбирая конкретное от-
ношение т/1 (т — количество родителей, переходящих в сле-
дующее поколение, / — потомков), можно определить каче-
ство сходимости ЭС: если нужно быструю, но локальную схо-
димость, выбирают малый коэффициент («грубый» отбор),
например (5, 100), но в случае поиска глобального оптимума
нужно выбрать вариант «мягкого» отбора (15,100).
Самоадаптация в ЭС зависит от следующих факторов: слу-
чайность, размер популяции, кооперация, вырождение. Нельзя
определить мутацию как чисто случайный процесс, так как это
бы нарушило свойство генетической наследственности. Размер
популяции должен быть достаточно большим. Допускаться к
воспроизводству должен не только самый лучший в данный
момент времени индивид, а набор лучших. Биологи ввели тер-
мин «необходимое разнообразие», означающий генетическое
разнообразие, необходимое для предотвращения появления
вида из ухудшающейся генетически и в итоге вымирающей
популяции. Для того чтобы появились лучшие внутренние
модели (размер шага) для обеспечения будущего прогресса,
необходимо ограничить жизнь индивида. Лимитированное
время жизни в природе — это не признак ошибки, а важное
средство предотвращения генетического «застывания» вида
Эволюционные стратегии превзошли многие ЭА и итера-
ционные методы на большом наборе тестов. Они адаптируемы
почти ко всем видам задач оптимизации, так как не критичны
к объему информации о задаче, в частности не требуют диф-
ференцируемости целевой функции. Эволюционные стратегии
позволяют решать многомерные, мультимодальные, нелиней-
ные задачи с линейными и/или нелинейными ограничениями.
Целевая функция может быть результатом моделирования, она
не должна быть задана в закрытой (конечной) форме. Эволю-
ционные стратегии адаптированы к задачам векторной опти-
мизации, они также могут служить эвристикой для АР-полных
комбинаторных задач, например для задачи коммивояжера.
5.2.2. Генетическое программирование
Генетическое программирование (ГП) — это использование
генетической модели обучения для разработки программ.
Объекты, составляющие популяцию в ГП, являются не стро-
ками фиксированной длины, а программами. Программы
представляются в ГП не строками исходного кода, а грамма-
тическим деревом. Например, простая программа «а + Ь • с»
представлена на рис. 5.1 грамматическим деревом.
Рис. 5.1. Пример грамматического дерева
Программы в популяции состоят из конечного набора
функций. В ГП операция кроссовера реализует случайный
выбор ответвлений в программах и их обмен. Обычно ГП не
использует мутацию как генетический оператор.
5.2.3. Эволюционный алгоритм
Рассмотрим общую схему эволюционного алгоритма Для за-
писи алгоритма используем паскалеподобный псевдокод.
begin
• старт в начальное время
t: = 0;
• инициализиция случайной популяции P(t)
initpopulation (P(t));
• вычисление оптимальности всех начальных индивидов в
популяции
evaluate (P(t));
• проверка условия останова
while not done do;
• увеличение счетчика времени
t: = t + 1;
• отбор подпопуляции для производства потомков
Р': = selectparents (P(t))
• рекомбинация «генов» выбранных родителей
recombine (P*{t))
• случайное смешение собранной популяции
mutate (P’(t))
• формирование следующего поколения
newgeneration (Pr (t), P(t))
end while
end
5.2.4. Анализ применимости
генетических алгоритмов
для решения задачи оптимизации
Уточним общую схему ГА для разнообразных эволюционных
вычислений. Для реализации ГА необходимо определить сле-
дующие параметры:
1. Способ кодировки решения (хромосомы).
2. Функцию оптимальности (оценки) каждой хромосомы.
г
3. Вероятностные параметры управления сходимостью эво-
люции,
4. Условие завершения эволюции.
5. Содержание операторов: отбора (селекции), рекомбина-
ции и мутации.
Кодировку хромосом реализуют в форме битовой строки
фиксированной длины или строки переменной длины, содер-
жащей пары (номер гена, значение гена). Функция оптималь-
ности задается аналитически или алгоритмически. Оператор
отбора выбирается из трех вариантов: пропорциональный,
равномерный и линейный равномерный отбор. Для каждого
случая по-разному определяется вероятность отбора. Опера-
тор рекомбинации характеризуется вероятностью рекомбина-
ции и содержанием оператора. Содержание оператора для
двух родителей может составлять прямая и Х-рекомбинация.
Оператор мутации характеризуется вероятностью мутации и
собственным содержанием. Содержание мутации — это ин-
версия произвольного гена. Условия завершения эволюции —
это или истечение заданного ограничения на время эволю-
ции, или достижение решения с заданным качеством.
Стандартный генетический алгоритм. Стандартный ге-
нетический алгоритм предполагает использование битовой
строки фиксированной длины I. Если используется двоичная
кодировка, то процедура интерпретации хромосомы сводится
к следующим шагам.
Шаг 1. Разбиение хромосомы на элементы.
Шаг 2. Преобразование каждой хромосомы в вещест-
венное число по формулам.
• Для случая двоичного кодирования:
1х
Xj(hb .... hlx) = а/(2к - 1) £ (Л, 2& - ')
/= 1
(для элемента, стоящего на нечетных позициях);
, М = b/(2‘> - 1) X (й, • 2‘У - ')
/= 1
(для элемента, стоящего на четных позициях).
• Для кодирования с помощью кода Грэя:
1х
XjVii, .. .. Л1х) = a/(2fc - 1) х ((®i= Л) 2&” *).
/= 1
(для элемента, размещенного на нечетных позициях);
у/Ль ., й,,) = Ь/(2>У - 1) • X ((®U Л) 2&- ‘)
I- 1
(для j-ro элемента, размещенного на четных позициях),
где А — операция по модулю 2.
Шаг 3. Представление хромосомы в форме фенотипа.
Для длины хромосомы I полная популяция всех возможных
решений равна 21 — 1. На этапе инициализации генерируется
X строк случайным образом. Параметр X — это размер попу-
ляции, который задается пользователем. В качестве функции
оптимальности берут функцию, описывающую меру качества
индивидуумов. Оператор селекции для стандартного генети-
ческого алгоритма вычисляется на основе пропорционально-
го отбора Отбор проводится на основе вероятности отбора
ps(zj), вычисленной для каждой хромосомы текущей попу-
ляции t на основе функции оптимальности по следующей
формуле:
W)=№j)/S/(V)-
/=i
Оператор селекции формирует t + 1 поколение по t поко-
лению. При программной реализации целесообразно вести
два пула: пул текущего поколения и следующего, В пул сле-
дующего поколения заносятся все отобранные оператором
селекции хромосомы в качестве родителей нового поколения.
Оператор рекомбинации для стандартного генетического
алгоритма — это оператор по схеме (2, 2), т. е. два родителя,
один потомок. Из множества Р5, отобранного оператором се-
лекции, случайным образом выбираются пары родителей.
Для каждой пары случайно выбирается точка разрезания.
Такой точкой может быть только точка, стоящая на границе
элементов. Происходит обмен частями хромосом родителей
(рис. 5 2).
1
2
1
4
Рис. 5.2. Оператор рекомбинации (2, 2)
Оператор рекомбинации работает до тех пор, пока не по-
лучится А, — а потомков, где а — порог стабильности, т. е. ко-
личество лучших хромосом, переходящих из текущего поко-
ления в следующее. Параметр а задается пользователем.
Оператор мутации — это инвертирование гена в случай-
ной позиции хромосомы. Вероятность мутации невелика,
обычно рт = 0,001. Мутация действует на сформированный
пул следующего поколения, содержащий потомков и лучшие
хромосомы предыдущего поколения.
В стандартном ГА формирование следующего поколения
сводится просто к переходу по счетчику эволюционного вре-
мени, присваиванию пула текущего поколения пулу следую-
щего и очистке текущего пула.
Стандартный генетический алгоритм допускает два усло-
вия окончания поиска. Первое условие — истечение установ-
ленного пользователем времени эволюции, а второе — ус-
пешное построение искомого решения.
Эволюционная стратегия. Эволюционная стратегия «только
мутация» уточняет вышеприведенную общую схему ЭА сле-
дующим образом:
begin
t — О; установка времени эволюции
init_population (Pt); инициализация исходной популяции
while (not done (termination condition));
пока не выполнено условие завершения эволюции
Р3 = selection (Р^) ; выбор индивидуумов
Д'" = mutation (F^y - мутация
Pz + 1 = newgeneration (Ps, Р™) ; формирование нового
поколения
t = t + 1;
endwhile
end
Положения, описывающие стандартный генетический ал-
горитм, сохраняют силу лля эволюционной стратегии «только
мутация». Особенность алгоритма заключается в том, что
пользователь должен эмпирически подобрать начальную ве-
роятность мутации.
Эволюционная стратегия с рекомбинацией (т, к). Выше-
приведенные пункты, описывающие стандартный генетиче-
ский алгоритм, сохраняют силу для эволюционной стратегии
с рекомбинацией (tn, к). Оператор рекомбинации (т, к) пред-
полагает т родителей и к потомков. Параметры т и к уста-
навливает пользователь. Теоретически параметры могут из-
меняться в следующих диапазонах; /и = 1, . — 1;Л = 1,..,
tn, где I — длина хромосомы. Зависимость количества потен-
циальных потомков при т родителях выражается формулой:
тт — tn, если потомки не повторяют родителей, т. е. клоны
запрещены. Как видно из формулы, количество потенциаль-
ных потомков резко возрастает с увеличением т (например,
для fn — 3 количество потомков — 24, для т = 4 — 252, а для
т = 5 — 3150 и т. д.). Поэтому целесообразно использовать
стратегии из следующего перечня: (2, 2), (3, 1), (3, 2), (3, 3),
(4, 1), (4, 2), (4, 3), (4, 4).
Оператор рекомбинации состоит из следующих шагов.
Шаг 1 Установка параметров т и к в диалоге с пользо-
вателем.
Шаг 2. Выбор случайным образом т родителей из пула
следующего поколения, т. е. из хромосом, отобранных опе-
ратором селекции.
Шаг 3. Выбор случайным образом т — 1 точек деления
родительских хромосом на участки. Для всех т родителей ис-
пользуются одни и те же точки деления. Точка деления долж-
на попадать на границу элементов. При разделении хромосо-
мы на т участков образующиеся участки наследуют номера
расположения от 1 до tn. При генерации потомков сохраня-
ется порядок следования участков, т. е. первым участком по-
томка может быть только участок с номером 1, вторым —
с номером 2, /и-м участком — т.
Шаг 4.Генерация всех возможных потенциальных по-
томков родителей.
Шаг 5. Выбор случайным образом к потомков. Особен
ности генерации потомков иллюстрирует рис. 5.3.
Рис. 5.3. Оператор рекомбинации (3, 2)
Мобильный генетический алгоритм (МГА). В мобильном
генетическом алгоритме (messy' GA) [60] хромосома кодируется
списком пар <номер гена, значение гена>. Особенность ко-
дирования решения в МГА — это использование как непол-
ных хромосом, так и избыточных. Для интерпретации такой
хромосомы вводится правило экспрессии, т. е. правило активи-
зации генов: гены доминируют слева направо. Использование
правила приводит к тому, что самый левый (доминантный) ген
используется при подсчете оптимальности хромосомы, но по-
томки могут унаследовать и какие-то из правых (рецессивных)
генов.
Схема мобильного генетического алгоритма содержит су-
щественные уточнения схемы эволюционного алгоритма.
begin
t = О; установка времени эволюции
init_population (Pt) ; инициализация исходной популяции
Ррр = preparing_population (Pt) ; насыщение популяции
лучшими хромосомами
while (not done (termlnation_condition));
пока не выполнено условие завершения эволюции
Р3 = selection (pt) ; выбор индивидуумов
Pr = cut_or_splice (Р3) ; операция разрезания
или сцепления хромосом
Р^ = mutation (Рс) ; мутация
100
F*- * 1 = generation (P5, F1, l^) ; формирование нового
состояния популяции
t ~ t + 1; переход по эволюционному времени
endwhile
end
На этапе инициализации случайным образом генерируется
Z строк, Л (размер популяции) задается пользователем. Функ-
ция оптимальности вычисляется так же, как и при использо-
вании стандартного генетического алгоритма. Оператор се-
лекции для мобильного генетического алгоритма вычисляет-
ся на основе пропорционального отбора. Оператор селекции
начинает формировать t + 1 поколение по т-му поколению.
При программной реализации целесообразно вести два пула:
пул текущего поколения и следующего. В пул следующего по-
коления заносятся все отобранные оператором селекции хро-
мосомы в качестве родителей нового поколения. Особенность
мобильного генетического алгоритма в том, что пропорци-
ональный отбор используется только на стадии preparing po-
pulation — предварительного насыщения популяции, а далее
используются вероятности операторов cut и splice: рс, ps
Оператор cut представляет собой разрезание случайно вы-
бранной хромосомы в произвольной позиции на две хромо-
сомы. Новые хромосомы поступают в пул следующего по-
коления. Оператор cut применяется к строке с вероятностью
рс = (/— 1) • рь где I — длина строки. Параметр р^ — некото-
рая константа, например 0,1.
Оператор splice выполняется с некоторой фиксированной
вероятностью /^.Операторы имеют два предельных типа по-
ведения. В начале эволюции, когда преобладают длинные
хромосомы, в основном выполняется cut, а затем начинает
преобладать оператор splice. Оператор мутации — это сумми-
рование значения гена и стратегического параметра — откло-
нения, задаваемого пользователем в случайной позиции хро-
мосомы. Вероятность мутации невелика, обычно рт = 0,001.
Мутация действует на сформированный пул следующего по-
коления, содержащий потомков и лучшие хромосомы преды-
дущего поколения. Оператор формирования нового поколе-
ния в мобильном генетическом алгоритме сводится просто
к переходу по счетчику эволюционного времени, присваива-
нию пула текущего поколения пулу следующего и очистке те-
кущего пула.
5.3. Применение генетических
алгоритмов
5.3.1. Применение генетических
алгоритмов к задаче оптимизации
вычислительной сети
Объектом генетической оптимизации будет служить разветв-
ленная вычислительная сеть (ВС) [42, 70]. Основой сети
является опорное кольцо, или бэкбон (backbone), представ-
ляющее собой последовательно соединенные концентрато-
ры. К концентраторам подключаются хосты, которые в свою
очередь могут являться маршрутизаторами для подсетей вто-
рого уровня. Каждый хост может быть подключен к любому
маршрутизатору. Задачей оптимизации является нахождение
такой схемы подключения хостов, при которой трафик на
бэкбоне будет минимальным. Расчет трафика на бэкбоне
строится на основе статистических данных, накопленных за
достаточно большой промежуток времени, позволяющий
оценить объем трафика между двумя хостами.
Для оптимизации трафика необходимо решить следующие
инженерные задачи:
• разработать и реализовать систему снятия статистики тра-
фика на бэкбоне, состоящем из концентраторов;
• разработать систему представления входных данных для
генетического алгоритма;
• разработать и реализовать генетический алгоритм.
5.3.2. Модель вычислительной сети
организации
Опишем текущее состояние ВС с точки зрения оптимизации.
Считаем, что на некотором этапе развития ВС принято реше-
ние о прокладке центральной магистрали, закупке и установке
коммуникационного оборудования. Перечень рабочих стан-
ций (узлов) ВС известен, причем для узлов решена задача раз-
мещения, т. е. известны координаты узлов. Размещение узлов
в условиях учреждения подчиняется сложившейся структуре
подразделений, поэтому техническую оптимизацию целесо-
образно ограничить рамками размещения коммуникацион-
ного оборудования. Коммуникационное оборудование пред-
ставлено маршрутизаторами, концентраторами и/или коммута-
торами. Каждый узел (рабочая станция) может быть подключен
только к одному коммутатору/концентратору (комм/конц),
таким образом каждый комм/конц определяет сегмент ВС.
Разбиение узлов по комм/конц считаем известным.
Пусть в ВС имеется п комм/конц и т узлов. Обозначим уз-
лы / = 1, .. , т, а комм/конц qj,j= 1, ..., п. Каналы связи
между 9/И % будем обозначать S^. Ограничения с точки зрения
задачи размещения представлены ограничениями на допусти-
мые длины каналов связи. Каналы в большинстве реальных
ВС соединены последовательно (рис. 5.4). Каналы, замыкаю-
щие кольцо (на рис. 5.4 — точечная линия), необходимы для
повышения надежности за счет оперативного формирования
повой магистрали в случае повреждения каналов связи.
В контексте задачи существуют два вида каналов связи:
• <узел> — <комм/конц>;
• < комм/конц > — <комм/конц>.
В любой ВС имеется т каналов первого типа (по числу уз-
лов) и не более п • (п — 1)/2 — каналов второго типа.
В процессе модернизации ВС изменение топологии пред-
ставлено следующими действиями: переподключение узлов
164
к другим комм/конц; прокладка новых каналов связи. Эф-
фективность каждого нового канала связи оценивается по
влиянию на суммарный трафик всех каналов связи Функцию
эффективности
= min|7* — /\.|| для V к = 1, ., К
можно пересчитывать многократно для разных вариантов ВС.
Переменная Тк выражает трафик канала к, а переменная
Р/с выражает максимальную пропускную способность канала.
Задача переподключения узлов к другим комм/конц — это за-
дача разбиения m рабочих станций на п групп. Для каждой i-й
группы имеется ограничение на количества подключен-
ных станций.
Решение задачи переподключения рабочих станций — это
процесс направленного перебора вариантов подключения с
целью оптимизации. Размерность задачи велика даже для вы-
числительной сети среднего размера (до 1000 узлов), поэтому
представляется целесообразным решить задачу с помощью
генетического алгоритма.
Кодирование решения задачи (хромосомы) может быть
следующим. Вариант разбиения узлов на сегменты, т. е. ре-
шение, удобно представлять рядом целых чисел. Пусть все уз-
лы имеют уникальные номера от 1 до m и упорядочены в со-
ответствии с этими номерами. Позиция i содержит номер
комм/конц (от 1 до п), к которому подключен узел /. Пример
кодирования топологии ВС, изображенной на рис 5.4, при-
веден в табл. 5.2.
Таблица 5.2
Пример кодирования подключения узлов ВС
Комм/конц 1 1 1 1 2 2 2 3 3 3 2
Номер узла 1 2 3 4 5 6 7 8 9 10 11
Для двоичного кодирования номера qt комм/конц необхо-
димо: [log2 л] бит, где [] — операция округления в большую
сторону.
Для вышерассмотренного примера хромосома с использо-
ванием двоичного кодирования приведена в табл. 5.3
Таблица 5.3
Хромосома с двоичным кодированием
Хромосома 01 01 01 01 10 10 10 11 11 11 10
Номер гена 1 2 3 4 5 6 7 8 9 10 11
При таком способе кодирования и при свободном меха-
низме мутаций теоретически возможно появление запрещен-
ных комбинаций, поэтому оператор мутации при использова-
нии генетического алгоритма нуждается в уточнении. Резуль-
тат мутации отдельного гена (позиции) представляет собой
последовательность операций:
• случайный выбор гена (вероятность 0,001);
• случайный выбор бита;
• инверсия выбранного бита;
• операция но модулю п над геном, содержащим результат
инверсии mod„(x).
Оператор рекомбинации выполняется традиционно, но
граница для разрезания родительских хромосом должна быть
границей генов. Наибольшую важность имеет определение
функции оптимальности хромосомы, так как определение
влияет на сходимость эволюции. В качестве функции опти-
мальности может быть взята следующая функция:
max min ЦТ/ — Рк\\, V /, I е £, V к, к< К,
I к
где Тк — трафик канала к;
Рк ~ пропускная способность канала,
L — множество всех вариантов выбора коммуникационного обо-
рудования;
К — количество каналов.
Вид коммуникационного оборудования значительно
влияет на загруженность каналов связи. Реальная ВС часто
содержит как коммутаторы, так и концентраторы. Улучшить
пропускные способности каналов связи можно за счет опти-
мального выбора коммутаторов или концентраторов. Задача
выбора коммуникационного оборудования задается на уровне
каналов связи, каждый канал к характеризуется пропускной
способностью — реальной Рк и максимальной Л* (бит/с)
Интенсивность взаимодействия (передачи сообщений) лю-
бой пары узлов — это величина By (бит/с). Величина By из-
166
меряется в течение длительного промежутка времени и усред-
няется. Усреднение может быть представлено или вычисле-
нием среднего значения В^, или построением на основе
гистограммы распределения вероятностей.
Суммарный трафик, приходящийся на канал связи, зави-
сит от типа канала. Будем рассматривать только каналы типа:
<коммутагор/концен1ратор> — <коммугатор/концен1ратор>
Тогда можно выделить следующие подвиды каналов:
<коммутатор> — <коммутатор>;
<концентратор> — < концентратору
<коммутатор> — <концентратор>.
Суммарный трафик выражается по-разному для трех под-
видов каналов связи. Рассмотрим суммарный трафик канала
типа <коммутатор> — <коммутатор>:
п п
тк= X X в0.
/е Mf Jg М2
Множество вершин Л/j и множество вершин М2 — это
множества узлов по одну и другую стороны от канала связи.
Суммарный трафик канала <концентратор> — <концент-
ратор> измеряется по-другому, так как канал, образованный
концентраторами, составляет общую магистраль:
п п
Л= X X
/=I7= 1
Суммарный трафик канала <концентратор> — <коммута-
тор> может быть вычислен следующим образом:
п п
тк- Y X
j = 1 /е М2
Необходимость модернизации ВС определяется по степе-
ни близости суммарного трафика и пропускных способностей
каналов связи. Для нахождения оптимального подключения
используется следующий генетический алгоритм
1. Генерируется популяция хромосом случайным образом
с проверкой корректности, т. е. возможности подключения,
закодированного в хромосоме.
2. Для каждой хромосомы рассчитывается значение функ-
ции оптимальности, т. е. величина трафика на бэкбоне при
подключении, закодированном в хромосоме.
3. В соответствии со значением функции оптимальности
производится ранжирование хромосом, хромосомы упорядо-
чиваются по мере убывания эффективности.
4. Для каждой хромосомы вычисляется вероятность отбора
/=1
где Ps — вероятность отбора;
а — хромосома;
f — функция оптимальности;
t — номер поколения;
А. — размер популяции.
5. Проводится масштабирование вероятностей отбора,
наибольшая вероятность принимается за единицу, наимень-
шая — за нуль, остальные пропорционально масштабиру-
ются:
Р -Р
D — S,'_ mln
"si ~ р _р >
z max лил
где Ps — вероятность отбора;
— масштабированная вероятность;
Anin ~ минимальная вероятность в популяции;
Алах — максимальная вероятность в популяции.
6. Начинается формирование новой популяции: произво-
дится элитный отбор, т. е. определенное число «старых» хро-
мосом переносится в новую популяцию.
7 Производится кроссинговер случайно выбранных хро-
мосом. Точка кроссинговера выбирается случайно. Процесс
продолжается до тех пор, пока размер новой популяции не
будет равен размеру исходной.
8. Возвращаемся в п. 2, и цикл повторяется заданное чис-
ло раз.
5.3.3. Решение задачи размещения
радиоэлементов в корпусе на основе
генетического алгоритма
Задача размещения разногабаритных элементов. Структура за-
дачи размещения разногабаритных элементов в пространстве
задается следующим образом [42]:
• ограничения пространства объема размещения (например,
габариты конкретного корпуса, определенные стандартом
предприятия);
• элементы размещения, заданные своими габаритами (объ-
емами).
На практике задача размещения в пространстве часто за-
меняется размещением на установочной площади, которую
называют монтажным полем. Каждый элемент, предназна-
ченный для размещения, в таком случае представляется своей
установочной площадью, которая грубо представляется пря-
моугольником, т. е. двумя габаритами: длиной и шириной.
Допустим, что монтажное поле тоже представляет собой
прямоугольник. По степени сложности различают более
простую задачу размещения одинаковых элементов на поле
с кратными габаритами и более сложную задачу размещения
элементов с различными установочными площадями. Решим
задачу размещения разногабаритных элементов на ограни-
ченном монтажном поле.
Исходными данными являются: а, b — габариты монтаж-
ного пространства; {(«j, £>]), ..., (а,, bt), ...» (ап, Ьп)} — множе-
ство элементов размещения, С — матрица связей элементов
размещения, представляющая собой матрицу связности. Не-
обходимо найти вариант размещения элементов на монтаж-
ном пространстве
2= {(Х|, >|), . (Х„ >;), .... (Х„, >„)},
где (х,-, у/) — координаты центра тяжести установочной плошади эле-
мента размещения г, такой, чтобы площадь перекрытия
площадей размещенных элементов была равна нулю, а сум-
марная длина соединений минимальная
Задача размещения ставится как задача оптимизации функ-
ции, выражающей нормированную оценку суммы штрафа за
перекрытие площадей размещаемых электронных радиоэле-
ментов (ЭРЭ) и общей длины соединений:
F= min (к • O(L(Zj)) + P(SoQm(zj)),
г, g Z
где Zj ~ вариант размещения;
к — весовой коэффициент;
~ об1Дая площадь перекрытия площадей размещаемых
элементов;
0{L{Zj}) — оценка общей длины соединений, приведенная к интер-
валу [0,1];
Л*$>бщ($)) ~ функция штрафа за перекрытие площадей, прини-
мающая значения из интервала (0,1].
Общая длина соединений рассчитывается по формуле
я л
~ S S dij ctj>
/=1 /1
где dy — расстояние между позициями установки элементов dy —
= J(xl-Xj)2 + (yl-yJ)2;
Су — число связей между элементами i и j из исходной матрицы
смежности С
Нормирование общей длины соединений можно провес-
ти, вычисляя отношение £(^) к Zmax, где
. 2 /2.2.
£пих = « • Vc + Ь ,
Общая площадь перекрытия вычисляется по следующей
формуле:
п п
5пср= £ XSiJ’
i=l
где Sy — площадь перекрытия элементов и zj
\ = [0,5(а2 + at) - |х2 + fc,) - |у2 ~ J1B-
Функция штрафа за перекрытие площадей:
*5'общ/П^-
Исследование эффективности генетических алгоритмов для
задачи размещения. Исследуем результативность генетическо-
го алгоритма при решении задачи размещения элементов на
плоскости. Характерной особенностью использования стан-
дартного генетического алгоритма для решения практических
задач является необходимость уточнения его параметров. Для
создания программной реализации генетического алгоритма
размещения разногабаритных радиоэлектронных элементов
необходима следующая модификация ГА.
1. Хромосома представляет собой связанный список пар
координат центров тяжестей элементов размещения. Каждая
координата описывается вещественным числом.
2. В качестве оператора мутации используется вероятностное
изменение случайной позиции хромосомы. В качестве оператора
рекомбинации используется одноточечный вариант кроссовера.
3. Условие завершения эволюции задается в виде опреде-
ления числа поколений либо в виде условия достижения ну-
левого перекрытия элементов.
Результаты анализа поведения генетического алгоритма
в зависимости от значений вероятности мутации приведены
на рис. 5.5. Эксперимент проводился для значений вероят-
ностей мутации в диапазоне от 0,1 до 0,6 с шагом 0,1. Зна-
чение вероятности более 0,6 нарушает сходимость функции
оптимальности ГА.
Кроме стандартного ГА, для решения задачи размещения
можно использовать эволюционные стратегии: стратегию
«только мутация» с пропорциональным оператором селекции;
стратегию с рекомбинацией (т, к). Такой оператор реком-
бинации предполагает тп родителей и к потомков. Параметры т
и к устанавливает пользователь. Теоретически ограничения на
параметры имеют следующий вид: т = 1, . ., I— 1; к = 1,..., т.
Параметр I — длина хромосомы (или в нашем случае количе-
ство элементов размещения). Экспериментально исследова-
лись следующие сочетания родителей и потомков: (2,2), (3,1),
(3,2), (3,3), (4,1), (4,2), (4,3), (4,4). Следует отметить, что при
сочетании (2,1) мы получаем в качестве оператора рекомби-
нации обычный одноточечный кроссинговер, в котором уча-
ствуют два родителя и один потомок, выбираемый случайным
образом. На рис. 5.6 (а, б) показаны в сравнении виды графи-
ков оптимальности генетического алгоритма.
Рис. 5.5. Диаграмма значений вероятности мутации
Ряд экспериментов с алгоритмом, применяющим стратегию
с альтернативным оператором рекомбинации, выявил особую
результативность оператора рекомбинации (3, 3), хотя в целом
результаты данного вида алгоритма хуже, чем в случае со стан-
дартным генетическим алгоритмом с одноточечным кроссинго-
вером. В первую очередь это связано с тем, что значительное
увеличение точек разреза хромосом ведет к разрушению хоро-
ших подобластей потенциальных решений. На рис. 5.6, б это
замел ю по многочисленным «всплескам» на графике.
При применении мобильного генетического алгоритма на
практике возникают трудности как с формулировкой перво-
начальной популяции решений, так и с функцией оптималь-
ности. Структура хромосомы представляет собой список пар
координат, упорядоченных по номеру элемента:
«1. Х|, У|), .., О, х„ уЦ, ., (v, х„ к))-
Рис. 5.6. Графики функций оптимальности генетического алгоритма:
а — одноточечный кроссинговер, б — стратегия с рекомбинацией {т, к)
В мобильном генетическом алгоритме хромосома кодиру-
ется списком пар <номер гена, значение гена>. При решении
задачи размещения номер гена совпадает с номером разме-
щаемого элемента, а значение гена — с парой координат. Та-
ким образом, номер гена — это целое число, а координаты —
два вещественных числа.
На этапе инициализации генерируется X строк случайным
образом. Параметр Л, — размер популяции задаете* пользова-
телем. Функция оптимальности для каждой хромосомы вы-
числяется, как площадь перекрытия элементов.
Эффективность мобильного ГЛ для задач структурного
синтеза можно проверить на следующих четырех тестовых на-
борах: «большое монтажное поле и мало элементов размеще-
ния»; «много элементов размещения» (высокая плотность
упаковки), «низкая плотность упаковки, но разные элементы
размещения», «высокая плотность упаковки и велико разно-
образие». Результаты экспериментов представлены в табл. 5.4.
Таблица 5.4
Параметры стандартного ГА
Номер эксперимента 061 пая площадь перекрытий Общая длина соединений Сходимость (количество поколений)
1 0 5796 37
2 0 5224 11
3 0 646628 6
4 0 668482 8
5 0 43835 47
6 0 38897 13
7 Алгоритм не сошелся
8 0 103325 8
В табл. 5.4 под четными номерами приведены результаты
работы стандартного ГА, а под нечетными — мобильного ГА.
На основании проведенных экспериментов можно сделать
вывод о результативности мобильного генетического алго-
ритма [42].
Контрольные вопросы
1. Какова основная идея эволюционных вычислений (эво-
люционного моделирования)?
2. Чем отличаются друг от друга научные направления: эво-
люционные вычисления и искусственная жизнь7
3. Какой вид эволюционных вычислений называют генети-
ческими алгоритмами?
4. Из каких шагов состоит стандартный ГА?
5. Как кодируют искомое решение в хромосомах генетиче-
ских алгоритмов?
6. Что понимают под популяцией хромосом, хромосомой,
геном, аллелем при генетическом моделировании?
7. Что называют функцией оптимальности (fitness function)
в ГА?
8. Как работает оператор пропорционального отбора?
9. Как выполняется оператор кроссовера?
10. Как выполняется оператор мутации? Какую роль он игра-
ет в генетической оптимизации?
11. Почему генетические алгоритмы можно назвать средством
стохастической оптимизации?
12. Что называют эволюционной стратегией?
11 Какие параметры ГА можно использовать для управления
его сходимостью?
14. В чем особенности мобильного ГА?
15. Как выполняются операторы cut и splice в мобильном ГА?
16. Что называют схемой хромосомы?
17. Сформулируйте теорему схем, как теорему о сходимости
стандартного ГА.
18. В каких областях применяют ГА?
6 Гибридные
системы
ГЛАВА _______________
Да на что нам эта логика? Мы и без нее обходимся.
Как так?
Да так же. Вы, я надеюсь, не нуждаетесь в логике
для того, чтобы положить себе хлеба в рот?
ИС. Тургенев Отцы и дети
6.1. Нечеткие нейронные сети
6.1.1. Преимущества аппарата нечетких
нейронных сетей
Эффект ивность аппарата нейросетей определяется их аппрок-
симирующей способностью, причем НС являются универ-
сальными функциональными аппроксиматорами. С помощью
НС можно выразить любую непрерывную функциональную
зависимость на основе обучения НС, без предварительной
аналитической работы по выявлению правил зависимости
выхода от входа. Недостатком нейросетей является невоз-
можность объяснить выходной результат, так как значения
распределены по нейронам в виде коэффициентов весов. Ос-
новной трудностью в применении нечетких экспертных сис-
тем служит необходимость явно сформулировать правила
проблемной области в форме продукции. В нечетких эксперт-
ных системах легко построить объяснение результата в форме
протокола рассуждений, поэтому в настоящее время создают-
ся гибридные технологии, сочетающие преимущества нечет-
ких систем и нейронных сетей.
Примером гибридной технологии служит реализация сис-
темы нечетких правил на основе нейросети. База нечетких
правил для двух входных и одной выходной переменных име-
ет следующую структуру:
Rfi ЕСЛИ хц- — Ац И Х2, — Л2, ТО г,- — С(.
Рис, 6.1. Представление функции принадлежности а срезами
Для реализации базы нечетких правил будем интерпрети-
ровать ее как таблицу определения некоторой функции, т. е.
базу правил можно представить обучающей выборкой: (((Л|„
Л?/), С,)). Например, {((малое, большое), около нуля)). Для ин-
теграции двух технологий: нечетких систем и нейрокомпью-
тинга, необходимо предложить способ четкого дискретного
представления непрерывных функций принадлежности, для
чего выберем максимально большой интервал [Х|, х2], в кото-
ром представлены все нечеткие множества условных частей
правил. Если разбить интервал на равные шаги, то любое не-
четкое значение представляется четким вектором. Другой
способ представления нечеткого понятия в виде четких дан-
ных состоит в представлении нечеткого множества в виде со-
вокупности a-срезов (рис. 6.1).
При использовании a-срезов каждое «у-подмножество
представляется двумя числами — левой и правой границами:
а ал,у, где J — номер a-среза, a i — номера точек на его ле-
вой и правой границах, т. е. a-срезы четко представляют не-
прерывную функцию принадлежности.
6.1.2. Понятие нечеткой нейросети
Глубинная интеграция нечетких систем и нейросетей связана
с разработ кой моделей нейронов, функции которых отлича-
ются от функций традиционного нейрона.
(min(max(wv x,), max(w2, x2)))
V=T(S(w, x,).S(w2,x2))
Рис. 6.2. Примеры нечетких нейронов:
а — И-нейрон; б — ИЛИ-нейрон
Модификация модели нейрона для адаптации к нечетким
системам касается выбора функции активации, реализации
операций сложения и умножения, так как в нечеткой логике
сложение моделируется любой треугольной конормой (на-
пример, max, a + b — а • Ь,...), а операция умножения — тре-
угольной нормой (min, а* Ь, ...).
И-нейроном называется нейрон, в котором умножение веса
м> на вход х моделируется конормой S(w, х), а сложение нор-
мой T(w, х) (рис. 6.2) Для двухвходового И-нейрона справед-
лива формула
Г= ?№j, х,). Sfwi. *2»-
ИЛИ-нейроном называется нейрон, в котором умножение
веса и и входа х моделируется нормой T(w, х), а сложение
взвешенных весов — конормой 5(w, у). Для двухвходового
ИЛИ-нейрона справедлива формула
У=5(7Х»1,х1), T(w2,x2)).
Если выбрать в качестве Т — min, aS— max, то формула
преобразования ИЛИ-нейрона уточняется следующим образом:
178
max(min(n>|, xi), min(w2, xj)).
В качестве функции активации обычно используют ради-
альную базисную функцию
F(x) = ехр(—- а)).
Нечеткой нейронной сетью (ННС) называют четкую ней-
ронную сеть прямого распространения сигнала, которая по-
строена на основе многослойной архитектуры с использова-
нием И-, ИЛИ-нейронов [32, 33, 48,74].
Нече гкая нейросеть функционирует стандартным образом
на основе четких действительных чисел. Нечеткой является
только интерпретация результатов. При создании гибридной
технологии можно использовать нейрокомпыотинг для реше-
ния частной задачи нечетких экспертных систем, а именно
настройки параметров функции принадлежности.
Традиционно функции принадлежности формируют двумя
способами: методом экспертной оценки или на основе статис-
тики. Гибридные технологии предлагают третий способ: в ка-
честве функции принадлежности выбирается параметризован-
ная функция формы (например, параметризованная Гауссова
кривая), параметры которой настраиваются с помощью ней-
росетей. Настройка параметров может быть получена с по-
мощью алгоритма обратного распространения ошибки.
Рассмотрим его применение для обучения ННС. Пусть за-
дана следующая система нечетких правил:
ЕСЛИ Х| — Ац И ... х„ — Лп/ ТО г, — С„
где — нечеткие числа, /= I, .., и;
Q — действительные числа;
O.J = Hfl-jj — сила или достоверность правила;
aji — степень принадлежности нечеткого множества условной
части j-го правила (xt - Alt И .. х„~ Аш ),
( = 1, .., п — номер входной переменной;
/ = 1, ., /и — номер правила.
Значение выхода вычисляется по формуле средневзве-
шенного выхода:
m
Е аЛ
z=J-i—.
т
Допустим, что разработана нейросеть с и входами и одним
выходом. Каким образом такая НС может аппроксимировать
базу нечетких правил? Любая совокупность нечетких продук-
ций может рассматриваться как нелинейное соответствие, за-
данное таблицей определения {(х* у*)), где к = 1,..., К— но-
мер строки-образца в обучающей выборке, х — вектор входа,
у — желаемое значение выхода, a z — значение выхода, вы-
числяемое нейросетью. Если определить текущую ошибку с
помощью формулы ЕК= \/2(zK ~ УК)2, то можно применить
стандартный алгоритм коррекции ошибки, корректируя вы-
ход Z по следующему правилу:
Z(t + 1) = Z(t) - C,(8EK/8Z),
где £ — уровень обучения;
dE^j^Z — направление градиента снижения ошибки
Подставляя в правило формулу для средневзвешенного
выхода НН С, получим:
Z(t + 1) = Z(t) - Q(ZK- Г^)ау/(<1| + а2 + ... + am)
При применении стандартного алгоритма обратного рас-
пространения ошибки для настройки выхода НС необходимо
изменить параметры функций принадлежности условных
частей правил, т. е. обучение сети позволит настроить их на
обучающую выборку.
При практической реализации системы нечетких правил
важным является вопрос о типичных представителях нечет-
ких понятий в правилах (продукциях). В большинстве нечет-
ких понятий, представленных лингвистическими переменны-
ми, их значения выражаются с помощью количественных не-
четких множеств:
1) NB — отрицательное большое;
2) NM — отрицательное среднее;
3) NS — отрицательное малое;
4) ZE — около нуля;
5) PS — положительное малое;
6) РМ — положительное среднее;
7) РВ — положительное большое.
6.1.3. Структуры гибридных систем
Рассмотрим структуры гибридных систем (ГС), решающих
задачу управления, выделим особенности архитектуры и ал-
горитмов обучения для каждого конкретного типа ГС [32, 33
48, 72, 74]
NNFLC — нечеткий контроллер на основе НС (Neurons net-
work fuzzy logic controller). Структура NNFLC приведена на
рис. 6.3. Структура NNFLC— это многослойная сеть прямого
распространения сигнала, причем различные слои выполня-
ют разные функции. Опишем кратко функции слоев.
Слой 1
^'\х) = ехр[-(х/“ с,)2/2о? ]
Слой 1 представляет функции принадлежности, реализо-
ванные как радиальные базисные нейроны
Слой 2.
у® =min[y‘l1), ..., у'1’].
Слой 2 моделирует И-условия правил.
Слой 3.
yi’^maxfy,® ...,у©].
Слой 3 представляет собой ИЛИ-комбинацию правил с
одинаковыми термами в консеквентах и выполняет разные
функции в рабочем режиме и в режиме обучения. В режиме
обучения слой настраивает параметры функций принадлеж-
ности выходных переменных. В рабочем режиме формирует
значение выхода.
Слой 4. В рабочем режиме нейроны выполняют дефа
зификацию: z*4) = и нормализацию: у<4)(г*4>) =
j
= ], а в режиме обучения — это дополнитель-
1 J
ный вход, позволяющий настроить функцию принадлежнос-
ти выходной переменной
Структура ННС NNFLC инициализируется по принципу
формирования полной матрицы правил. Если xf — входные
переменные, т(х,) — количество нечетких меток (разбиений)
х{, то исходное количество правил:
nTW-
г — 1
Обучение ННС сложной архитектуры (с различными
функциональными слоями) обычно происходит многоэтап-
но, причем на каждом этапе используются различные алго-
ритмы обучения: предобучение (offline), оперативное (online),
без учителя, с учителем.
Общая схема обучения ННС NNFLC содержит следующие
этапы:
• формирование обучающих данных;
• самоорганизующаяся кластеризация (настройка функций
принадлежности);
• соревновательное обучение (алгоритм победителя);
• удаление правил;
• комбинирование правил;
• окончательная настройка параметров (тюнинг) функций
принадлежности с помощью алгоритма обратного распрост-
ранения ошибки.
Приведем содержательные характеристики этапов обуче-
ния. Настройка параметров функций принадлежности вклю-
чает в себя определение центров с,- и ширины о,- для функций
принадлежности, представленных функциями формы:
^'’(х) = exp[-(Xj — c,)2/2aj].
Алгоритм победителя выявляет с(:
Ас<,,(') = n(O(JC - си(0),
где rj(z) — монотонно убывающий уровень обучения.
Настройка ширины с, осуществляется эвристически, на-
пример по принципу «первого ближайшего соседа».
а, = (а, - ао)/Х,
где Л — параметр перекрытия
Алгоритм победителя ищет матрицу весов соу„ которая
оценивает качество связей левой и правой частей правил:
Ди= У™ (у!4 -о>д)-
Комбинирование правил часто целесообразно выполнять
с участием эксперта. Окончательная настройка функций при-
надлежности выполняется с помощью алгоритма обратного
распространения ошибки для функции ошибки е, - (у^ —
— dij2. Цепочка правил распространяет ошибку до слоя 1 с
обратным роутингом. Таким образом, можно сделать вывод о
том, что архитектура NNFLC может быть проинтерпретиро-
вана как система нечеткого вывода Такаджи—Суджено.
ANFIS — адаптивная НС, основанная на системе нечеткого
вывода (adaptive network based Fuzzy Inference System). При-
ведем на рис. 6.4 структуру ANFIS — адаптивной НС для двух
правил:
Рис. 6.4. Структура ANFIS
ЕСЛИ Xi = Aj И x2 = TO У! = qpq +
ЕСЛИ X] = Л2 И х2 = Bi ТО У2 = С21х1 + С22Х2-
Выход НН С формируется по формуле
У = (ч>1У1 + “2У2)/(“1 + “2>
Слои ННС ANFIS выполняют следующие функции.
Слой 1 представлен радиальными базисными нейрона-
ми и моделирует функции принадлежности.
Слой 2 — это слой И-нейронов, которые моделируют
логическую связку И произведением со, = Мл,(х1)ря,(х2).
С л о й 3 вычисляет нормированную силу правила: <ы,> =
~ + ш2)
С до й 4 формирует значение выходной переменной: у(Х],
х2) = <о>,> у; — <а,> (С(1Х] + сдху).
Слой 5 выполняет дефазификацию: у = <<oj> У] +<а>2>у2.
Гибридная сеть архитектуры ANFIS обучается с помощью
алгоритма обратного распространения ошибки.
NNDFR — НС для нечетких умозаключений (Neuron Net-
work Driven Fuzzy Reasoning). HHC NNDFR (рис. 6.5) способ-
Рис. 6.5. Структура NNDFR
на выполнять кластеризацию в пространстве, содержащем
нелинейные границы кластеров. Обозначим МП; — двухслой-
ный перцептрон с одним скрытым слоем, который служит
для описания желаемой кривой поверхности решений, т. е.
МП, выражает правило;
ЕСЛИ Х| = Л, И .. = A„i ТО у, =/;(х().
Для обучения NNDFR предложен алгоритм «удаления пра-
вил назад». Алгоритм включает в себя следующие шаги.
Шаг 1. Удаление малозначимых входных переменных.
Обучаются отдельные МП,. После отдельного обучения мно-
гослойные перцептроны объединяются и обучаются вместе.
Если изменение некоторой входной переменной не влияет на
сумму квадратов ошибок, то соответствующая переменная
удаляется.
Шаг 2. Формирование обучающей и тестовой выборок.
Обучающая выборка {х^, dk} делится на обучающие и конт-
рольные образцы — паттерны.
Шаг 3. Обучение «МП памяти». Эвристически опреде-
ляется количество кластеров (правил). МП памяти обучается
выделять кластеры X. Если хк принадлежит к то выход МП
памяти coy (xj) = 1, иначе выход равен 0.
Шаг 4. Обучение МП,. Многослойные перцептроны
МП, обучаются отдельно методом обратного распростране-
ния ошибки:
1, , п
Шаг 5. Обратное исключение. Используется обратное
исключение переменных для каждого МП.
Общая схема рабочего режима ННС подчиняется следую-
щим правилам:
ЕСЛИ Х=Л| ТО МП,(Х|, ..., х„);
ЕСЛИ Х=А2 ТО МП2(хь .... х„),
ЕСЛИ X = А„ ТО МП„(хь .., х„).
GARIC — обобщенный приближенный вывод, основанный
на интеллектуальном контроле (Generalized Approximate Rea-
soning based Intelligent Control). Архитектура GARIC имеет в
своем составе 2 НС различного функционального назначе
ния: НС оценки состояния и НС выбора действия. Исполь-
зуемые алгоритмы обучения — алгоритм усиления и обратно-
го распространения ошибки. Рассмотрим место GARIC в кон-
туре управления (рис. 6.6). Рис. 6.7 и 6.8 отражают структуру
НС управления и НС оценки ННС GARIC реализует схему
вывода Цукамото. НС управления обучается с помощью ал-
горитма обратного распространения ошибки. Сложнее обу-
чить НС оценки, которая тренируется алгоритмом усиления:
1. Выходы скрытого слоя: у"(! + 1) =+ *>).
2 ФА: /(г) = [1+ exp(-j)]1.
3. Сигнал рассогласования: а(г, гр) °^Г> Гр> Г Гр
(о(г, гр) = г-гр + угр.
4. Эвристический фактор: 0 < у < 1.
где а(г, Гр) — разница реального и «внутреннего^ г.
Случайная модуляция у выполняется колоколообразной,
случайно распределенной функцией с центром у и разбросом
а(р, р„), что необходимо для покрытия входного пространства.
НС оценки представляет собой линейный многослойный
перцептрон. Матрицы В п С изменяются стратегией награ-
да-штраф.
= л</' + 1>х/;
Дс]С = до*1 + ”у/.
Матрица А обучается упрощенным алгоритмом обратного
распространения ошибки:
=1)0*’ + l>«gn[c*',]y/(l - у£°)Х(0
Печеткая сеть Fuzzy Net (FUN). Нечеткая нейронная сеть
I UN (рис. 6.9) предложена для управления перемещениями
мобильного робота.
Рис. 6.6. Нейро-нечеткий контроллер GARIC
Рис. 6.7. Структура нейронной сети управления GARIC
Рис. 6.8. Структура нейронной сети оценки GARIC
Осуществляется структурное и параметрическое обучение —
последовательный стохастический поиск в пространствах пра-
вил и входов. Обучение правилам построено следующим обра-
зом. Случайно выбранная связь правил до и после слоя 2 из-
меняется и сеть проверяется на улучшение ценовой функции.
Плохие изменения отменяются, а хорошие — сохраняются.
Параметры функций принадлежности итерационно изменяют-
ся от некоторого случайного значения:
Др(') - ” = ~hDpf,~ ”,
где й = 1О-3...1О-2 — фактор сходимости
Таким образом, нечеткая нейронная сеть наряду с класси-
ческими нейронами, являющимися пороговыми суммирую-
щими элементами, должна включать в себя «логические» ней-
роны, моделирующие логические связки. Фундаментальная
задача объединения методов перцепции (восприятия) и логи-
Слой 1
Слой 2
Слой 3
Слой 4
Рис. 6.9. Структура гибридной системы FUN
ческого (абстрактного) мышления не могла не отразиться на
уровне структуры ГС. В нечеткой нейронной сети любой из
известных архитектур слои нейронов становятся специализи-
рованными. Существуют слои, выполняющие распознавание,
и слои, вычисляющие логические формулы и импликации
(правила ЕСЛИ ... ТО). Причем конкретная схема нечеткий
нейронной сети зависит от решаемой задачи.
6.1.4. Нечеткий нейронный контроллер
Рассмотрим особенности применения нечетких нейронных
сетей на примере нечеткого регулятора для стиральной маши-
ны, т. е. построим теперь fuzzy-neuro контроллер. Выберем для
демонстрации технологии нечетких нейронных сетей архитек-
туру ANFIS. Основа интеграции нейронных сетей и систем не-
четкого вывода заключается в том, что оба метода представ-
ляют нелинейное отношение в пространстве входов и выхо-
дов. Важная задача нечеткого моделирования — это настройка
функций принадлежности, являющаяся по существу задачей
оптимизации. Для ее решения используются как нейронные
сети, так и генетические алгоритмы. Самый простой подход к
настройке функций принадлежности заключается в том, что
выбирают определенную параметризованную функцию фор-
мы и подбирают ее параметры на основе обучения нейронной
сети. Рассмотрим простой контроллер с тремя нечеткими
п .авилами вывода в базе знаний.
Rf ЕСЛИ «^количество белья > = <много> И Тем-
пература воды> = <высокая> И <загрязненносгь> =
= <высокая>
ТО <длительность> = <высокая>;
R2: ЕСЛИ <количество_белья> = <много> И Тем-
пература воды> = <высокая> И <загрязненность> =
= <низкая>
ТО <длительность> = <низкая>;
R3: ЕСЛИ <количество_белья> = <мало> И Темпе-
ратура_воды> = <низкая> И <загрязненность> =
= <низкая>
ТО <длительность> = <низкая>.
Зададим следующие функции формы для правил. Пусть вы-
ражение <количество_белья> ~ <мало> соответствует функ-
ции L\(х), а <количество_белья> = <много> — функции Н\(х)
Е1(х) = 1/(1 + exp(i,(x - tj)),
= 1/(1 + ^P(~b\(x ~ q)),
причем £|(x) + //|(x) =1.
Аналогично для выражения Температура воды> = <вы
сокая> будем использовать функцию Ej(t), а для Температу-
ра_воды> = <низкая> — функцию //2(Z).
£2(Z) = 1/(1 + exp(i2(z - с2)),
Я2(0 = 1/(1 + exp(-i2(z - с2)),
причем Z2(z) + H2(t) =1.
Для выражения <загрязненность> = <высокая> опреде-
лим функцию Zj(z) и для <загрязненность> = <низкая> —
Функцию ffj(z)
L3(z) = 1/(1 + exp(bj(z - <5)),
W3(z) = 1/(1 + exp(—63(z — c3)),
£3U) + ff3(z) =1.
Для выходов <длительность> = <высокая> и <длитель-
ность> = <низкая> аналогично определим функции
/.«О') = 1/0 + ~ с4»>
Н4(у) = 1/(1 + ехр(-*4(у - с4)),
т. е. /_4(х) + //4(х) =1.
Система нечеткого вывода по Цукамото представлена на
рис. 6.10. Для четких значений <количество белья>, Стемпе-
ратура_воды> и <загрязненность>: At, А-±, Ат, определим ре-
левантность (силу) правил а, как показано на рис. 6.10:
Рис. 6.10. Схема нечеткого вывода Цукамото
<Xj — Ну А /^2 л -^3>
“2= Я[ л Я2 л £3;
а3 = L] л 12 л £3.
Выходы по каждому из правил определяются с помощью
обратных функций принадлежности правых частей правил.
Ki =
У2 = я;1 (<х2);
Гз = Ц' <«з>-
Общий выход из системы нечетких правил определяется как
>'0 = (а1У1 + «2^2 + «3-Уз)/(СЧ + «2 + а3).
Далее построим нечеткую нейронную сеть, идентичную
системе нечеткого вывода, и обучим функции принадлежнос-
ти анцедента и консеквента правил (рис. 6.11).
Слой 1 Слой 2 Слой 3
Слой 4 Слой 5
Слой 1. Выходы узлов — это степени, с которыми за-
данные входы удовлетворяют функциям принадлежности, ас-
социированным с этими узлами.
Слой 2. Каждый узел вычисляет силу правила. Выход
верхнего нейрона а, = Н} л Нг л Н3 , выход среднего нейрона
а2=£?1 л Я2 л ^3> а выход нижнего — а3=£| л £2 л ^3- Все узлы
помечены Т, так как можно выбрать любую Г-норму для мо-
делирования логического И. Узлы этого слоя называются уз-
лами правил.
Слой 3. Каждый узел помечен N, чтобы показать, что
узлы нормализуют силу правил р, = а,/(с<| + а2 + а3).
Слой 4. Выход нейронов — это произведение нормали-
зованной силы правила и индивидуального выхода соответ-
ствующего правила:
Р,У, = 15,//;' (а,);
Р2У2 = Рз^т' (аг);
Р3У3=Р3£4 (а3).
Слой 5. Одиночный выходной нейрон вычисляет выход
сети
У0 = Р1*1 + РгЪ + ₽3>3.
6.1.5. Алгоритмы обучения
для нечеткой нейронной сети контроллера
Пусть задана четкая обучающая выборка:
{(*ь Mi.yi)> • >
где х, t, z— входные условия количества белья, температуры воды и за-
грязненности;
у — длительность стирки.
Ошибку на к-м образце определим как обычно
£* = 1/2(0, - У,)2.
Используем традиционный градиентный метод для обуче-
ния параметров левой и правой частей нечетких правил. По-
кажем, как можно настроить параметры функции формы:
bA(t + 1) = i4(0 - ЦвЕ/ВЬо),
c^i + 1) = c4(0 - с(а£/л4);
q(f + 1) = q(r) - ДОЕ/Эс,).
Используя данные соотношения как правила изменения
весов в алгоритме обратного распространения ошибки, мож-
но настроить параметры функций принадлежности в ходе
обучения нечеткой нейронной сети
6.2. Нечеткие нейронные сети
с генетической настройкой
6.2.1. Определение нечеткой системы
с генетической настройкой
Настройка функций принадлежности с помощью нейронной
сети или ГА устраняет принципиальную слабость теории не-
четких систем — субъективность функций принадлежности.
Если настроить функцию принадлежности с помощью нейрон-
ной сети, то окончательная форма функции будет аппрокси-
мацией обучающей выборки. С помощью ГА, т. е. стохасти-
ческой оптимизации, также можно настроить функции при-
надлежности. Генетической нечеткой системой называют
нечеткую систему, функ,ши принадлежности и база i ,равил ко-
торой спроектированы с помощью генетического алгоритма.
Для применения ГА необходимо выполнить следующие
действия:
• выбрать единицу кодирования, т. е. хромосому;
• уточнить эволюционные операторы рекомбинации, мута-
ции и селекции,
• сформировать функцию оптимальности (fitness function,
performance index).
В настоящее время ГА используют либо для настройки
функций принадлежности (базы данных), либо для формиро-
вания базы правил (базы знаний), либо для одновременного
формирования и функций принадлежности, и правил. В со-
ответствии с объектами оптимизации выбирают единицу ко-
дирования — хромосому. Для настройки функций прина-
длежности за хромосому выбирают одно правило (Мичиган-
ский подход), для настройки базы правил за хромосому
выбирают вариант базы правил (Питтсбургский подход, под-
ход итеративного обучения правил) [76, 70] В соответствии с
кодированием уточняются правила генерации новых хромо-
сом. Функция оптимальности представляет собой механизм
нечеткого вывода, который для каждого варианта базы пра-
вил строит либо управляющее воздействие для нечеткого
контроллера, либо экспертное заключение для диагностиче-
ской экспертизы. Как видно из описания механизма нечеткого
вывода, все нечеткие правила вносят вклад в окончательный
результат, т. е. правила сотрудничают. Но при отборе правил
(хромосом) ГЛ сохраняет только правила, внесшие максималь-
ный вклад в общий результат, т. е. хромосомы конкурируют.
Говорят о проблеме «конкуренции и кооперации» в генетических
нечетких системах (a competition vs. a cooperation). Решение
проблемы в каждом конкретном случае строится эвристически,
например при подходе итеративного обучения правил исполь-
зуют два этапа оптимизации. На первом шаге правила конку-
рируют за право войти в базу правил, а на втором — взаимо-
действуют при формировании общего результата.
6.2.2. Нечеткое управление
генетической системой
Описанные ГНС построены так, что ГА устраняет слабость
технологии нечетких систем, связанную с трудоемкостью
формирования функций принадлежности и баз правил. Од-
нако можно рассмотреть и другой гибрид, в котором нечеткая
система играет роль контроллера ГА, управляя его сходимо-
стью Применение нечеткого контроллера для управления
сходимостью ГА позволяет формировать вид ГА, который
можно назвать адаптивным ГА.
Генетические алгоритмы обладают внутренним разнооб-
разием, которое позволяет адаптировать их для решения
конкретной задачи. В различных ГА используют разные опе-
раторы рекомбинации и мутации, изменяют вероятности от-
бора, кроссовера и мутации. Целью изменения ГА служит уп-
равление сходимостью.
Построим ГА с управляемой сходимостью. Такой замысел
не противоречит современному учению об эволюции природы.
«Совершенно несомненно, что в разные времена разные груп-
пы показывали разные темпы эволюции ..», писал А. А. Люби-
щев в 1965 г. Основная задача, возникающая на этапе адапта-
ции ГА, состоит в построении механизма смещения процесса
поиска в перспективные области значений функции оптималь-
ности В качестве системы управления эволюцией хромосом
в ГА можно использовать нечеткий контроллер типа Мамдани.
Определим вектор управляющих воздействий, влияющий
на динамику процесса эволюции хромосом, в который входят
следующие компоненты: изменение численных значений ве-
роятностей операторов рекомбинации и мутации /±р~с и Ар—т
и параметр 5, определяющий момент переключения эволюции
с фазы исследования пространства поиска на фазу приближе-
ния к экстремуму. Вектор управления записывается следую-
щим образом:
£/'=(Др/,Дри', 8').
Входной вектор для нечеткого контроллера включает в себя
степень эффективности эволюции на предыдущем шаге yfl;
текущее время эволюции /; промежуток времени Ат, на котором
не происходило улучшения значений функции оптимальности:
Л* = (/_|, t, Дт).
На рис. 6.12 множество 91 = {91,}, i = 1, п представляет со-
бой набор нечетких правил, п — количество таких правил
Множество всех нечетких правил 91 записывается в виде кор-
тежа 91 = <91т, 91б>, где 91у — подмножество нечетких правил,
регулирующих степень эффективности эволюции алгоритма,
a 91s — подмножество нечетких правил, определяющих мо-
мент перехода эволюции с одной фазы на другую.
Подмножество 91г задает отображение следующего вида:
91у:у'~
Др/
ЛРт‘
Рис. 6.12. Система нечеткого контроля процесса эволюции
в адаптированном генетическом алгоритме
т. е. устанавливает импликативную связь между значениями
эффективности эволюции у ~ и величинами вероятностей
вспомогательных операторов рекомбинации Др~ и ДрЛ2. Чис-
ленные значения вероятностей рекомбинации, применяемые
в момент времени t, определяются следующим образом:
РсМ
Pc(tn) ' ДРс(гп)’® Рс(т) ^с(т)»
°.Рс(т)<0’
+ -/ +
Рс(т)’ Рс(т) > Рс(т)’
где ре(т) — максимальное значение вероятности оператора рекомби-
нации (кроссинговера или мутации).
Следующее подмножество правил SR6 задает отображение
для определения момента перехода с одной фазы эволюции
на другую:
где At — промежуток времени, в течение которого не происходило
улучшения функции оптимальности алгоритма;
t — текущее время эволюции [42,70]
6.2.3. Системы генетического
проектирования нечетких нейронных сетей
Рассмотрим возможности генетических вычислений как сред-
ства структурной оптимизации нечетких нейронных сетей.
Генетические вычисления можно применить на этапе проек-
тирования нейронной сети как предиктора временных рядов,
в том числе можно проектировать и нечеткую нейронную
сеть. Возможности нейронных сетей интерполировать значе-
ния временных рядов широко используют для оценки пове-
дения макроэкономических показателей, в том числе индек-
сов деловой активности или уровня ценных бумаг. Задача
построения нейронного предиктора связана с принятием ре-
шений на разных этапах проектирования. Необходимо иссле-
довать входные данные и решить, по какому отрезку входных
данных рационально делать предсказания, сколько точек в
будущем разумно предсказать. Пространство перебора реше-
ний огромно для развитых рынков ценных бумаг, накопив-
ших статистические сведения за десятки лет. Необходимо
принять решение и о типе нейронной сети: многослойный
перцептрон, радиально базисная сеть, вероятностная нейрон-
ная сеть, сеть регрессии и т. д. Для выбранного типа НС не-
обходимо определить количество скрытых слоев, количество
нейронов в них, виды функций активации и др. Для каждой
сети необходимо выбрать алгоритм обучения и его парамет-
ры, например использование моментов (уровень моментов),
уровень обученности, целевой уровень накопленной ошибки
и т. д. Для нечеткой нейронной сети необходимо определить
архитектуру сети, параметры функций принадлежности. В ре-
зультате пространство решений при формировании нечеткого
нейронного предиктора становится необозримым для иссле-
дователя и целесообразно применить ГА как средство эволю-
ционного проектирования.
Примером такого средства может служить программа
NeuroForecaster/GENETICA (NFGA Copyright 1993—1998,
NIBS Pte Ltd, 62 Fowlie Road, Republic of Singapore 428501.)
Программа NFGA — это программа поиска и оптимизации
НС, основанная на генетических алгоритмах, созданная для
поиска лучшей комбинации входных данных, лучшего пери-
ода прогноза (т. е. количества прогнозируемых значений) для
данной проблемы Программа автоматически создает и опти-
мизирует структуру предиктора.
Основанная на генетических вычислениях программа
NF-GA генерирует популяцию из многих возможных сетей,
которые затем оцениваются, выбираются и рекомбинируют,
чтобы произвести лучших потомков, наследующих знания
от своих родителей. Мутация позволяет расширить про-
странство поиска и выйти из локальных минимумов. Иници-
ализированная популяция хромосом (нейронных сетей) обу-
чается, тестируется, редуцируется, рекомбинирует, мутирует,
причем установка уровня обученности, согласованности осу-
ществляется автоматически. Процессы эволюции нейронных
сетей могут быть остановлены по счетчику поколений, по
уровню ошибки обучения и тестирования. Программа авто-
матически определяет адекватный момент времени для про-
верки обобщающей способности популяции нейронных се-
тей, сохранения лучшей сети и остановки процесса, если по-
лучено приемлемое качество предсказания.
6.3. Современные приложения
гибридных систем
6.3.1. Мягкая экспертная система
Рассмотрим архитектуру и основные структурно-функци-
ональные решения мягкой экспертной системы (МЭС). Для
определения МЭС сопоставим понятия нечеткой и мягкой
экспертных систем. Для описания архитектуры МЭС будем
использовать три признака: способ извлечения знаний; пред-
ставление знаний; обработку знаний. Перечисленные при-
знаки создают общую «координатную» сетку описания.
Определение мягкой экспертной системы. Сравнение не-
четкой и мягкой экспертных систем. Нечеткие экспертные
системы используют представление знаний в форме нечетких
продукций и лингвистических переменных. Основу представ-
ления лингвистической переменной составляет терм с функ-
цией принадлежности. Способ обработки знаний в нечетких
ЭС — это логический вывод по нечетким продукциям. Осо-
бенностью нечеткой ЭС является способ извлечения функ-
ций принадлежности, который сводится либо к статистиче-
ским методам построения, либо к методу экспертных оценок.
Мягкой ЭСназывать нечеткую ЭС, которая обладает
следующими особенностями:
• использует статистические данные, которые интерпрети-
рует как обучающие выборки для нечетких нейронных сетей;
• представляет знания в виде лингвистических переменных
(функций принадлежности), нечетких продукций и обученных
нейронных сетей. Редукция множества нечетких продукций,
настройка ФП и базы правил выполняется с помощью ГА.
Мягкими называют вычисления, сочетающие теорию не-
четких систем, нейронные сети, вероятностные рассуждения
и генетические алгоритмы, обладающие синергическим эф-
фектом, следовательно, мягкой экспертной системой называ-
ют ЭС, сочетающую перечисленные теории ради того же эф-
фекта взаимного усиления
Рассмотрим возможные применения МЭС в автоматизи-
рованном проектировании. Обобщенной моделью проекти-
рования является иерархи чески-блочный метод, сущность
которого сводится к декомпозиции функций с последующим
выделением иерархий систем и подсистем. Проектируемая
система формируется с помощью синтеза таких подсистем.
Анализ в ходе автоматизированного проектирования обычно
заключается в том, что необходимо рассмотреть условия экс-
плуатации будущей системы или ее окружения, которое яв-
ляется сложной системой (например, для экономических ин-
формационных систем окружающая среда — это социаль-
но-экономическая среда). Кроме анализа окружающей среды
в ходе проектирования приходится выполнять анализ резуль-
татов физических или численных экспериментов и имита-
ционного моделирования. Можно выделить два основных
принципа экспертной деятельности в ходе проектирования.
1. Исходные данные для анализа представляются в виде
качественного описания структурно-функционального реше-
ния и в виде совокупности временных рядов системных пе-
ременных окружения.
2. Принцип «конструктивной неопределенности» утверж-
дает, что точность и смысл противоречат друг другу, начиная
с некоторого момента анализа.
Если в технике важным являются все более точные изме-
рения, то в ходе анализа эксперт отказывается от точных
цифр в пользу нечетких, но содержательных оценок, которые
осмыслены и позволяют принять проектное или управленче-
ское решение.
Мягкая экспертная система должна предоставить инстру-
ментальную и информационную среду для экспертной деятель-
ности в ходе проектирования. Инструменты для разработки
МЭС должны представлять собой совокупность различных
программных продуктов, объединенных логикой работы. Пока-
жем, что МЭС, представляющая собой инструментальную среду
проектировщика, позволяет выполнить в автоматизированном
режиме все этапы экспертной деятельности. Если рассматри-
вать экспертную деятельность как управление объектом, то
инструментарий экспертизы можно использовать как систему
управления, а именно нечеткий контроллер (рис. 6.13).
Рис. 6.13. Структурная схема мягкой экспертной системы
Нечеткая нейросеть — метод н средство извлечения знаний
для мягкой экспертной системы. Мягкая ЭС извлекает знания
из статистических выборок, интерпретируя их как обучающие
выборки для обучения нейронной сети. Продемонстрируем
особенности мягкого извлечения знаний на двух примерах:
1) извлечение нечетких продукций для ЭС анализа тен-
денций развития предприятия;
2) извлечение нечетких продукций для задачи констру-
ирования стендов изделий.
Представление знаний в мягкой экспертной системе. Со-
держание баз знаний и данных мягкой экспертной системы. Ес-
ли использовать ННС на этапе извлечения знаний, то, кроме
функций принадлежности и нечетких продукций, порожда-
ется совокупность обученных НС, которые входят в базу зна-
ний МЭС. Оптимизация (редукция) множества извлеченных
правил выполняется на основе генетического алгоритма.
База знаний МЭС должна содержать следующие части:
1) функции принадлежности;
2) нечеткие продукции;
3) обученные нечеткие нейронные сети;
4) процедуры интерпретации хромосом генетических ал-
горитмов;
5) функции оптимальности.
Рассмотрим проблему представления перечисленных со-
ставных частей в компьютерных интеллектуальных системах.
Если функция принадлежности характеризуется такими мате-
матическими свойствами, как непрерывность, выпуклость
(унимодальность), то функция принадлежности может быть
представлена параметризованной функцией формы. На-
ибольшее распространение получили четыре вида функций
формы: треугольная, трапециевидная, коло коло образная и
сигмоидальная, которые определяются тройкой, четверкой
и двойкой параметров соответственно. Некоторые операции
нечеткой алгебры сохраняют унимодальность при использо-
вании трапециевидного представления функций принадлеж-
ности, поэтому результаты операции также являются четвер-
кой параметров. Представление нечетких продукций упроща-
ется в связи с тем, что порядок обработки нечетких продукций
не важен и не влияет на ход вывода результата. Представление
нечеткой нейронной сети является более сложной проблемой,
так как описание структуры ННС не имеет смысла без ней-
роимитатора соответствующей архитектуры нечетких ней-
ронных сетей, т. е. нейроимитатор определяется как состав-
ная часть механизма вывода мягкой ЭС. Для организации
хранения знаний МЭС можно использовать как СУБД, так
и специальные форматы.
6.3.2. Нечеткая тенденция.
Мягкая экспертная система
экономического анализа
Фазификация данных в ходе ЭД. Основные инструменты фа-
зификации. Фазификация временных рядов в рамках эксперт-
ной деятельности при проектировании может быть выполне-
на на основе функций принадлежности, параметризованных
с помощью функций формы. Настройка параметров функций
принадлежности, представленных параметризованным се-
мейством функций, может быть результативно выполнена с
помощью обучения нечеткой нейронной сети.
Рассмотрим особенности реализации задачи в рамках
современных информационных технологий. Промышленные
информационные системы строятся в настоящее время с по-
мощью СУБД или объектно-ориентированных языков про-
граммирования. Распространение объектно-ориентирован-
ных СУБД сближает эти два подхода. Ограничимся особен-
ностями современных реляционных СУБД. С точки зрения
представления неопределенности в СУБД две черты СУБД
можно отнести к особо существенным: фиксированную
структуру записи и развитый встроенный язык программи-
рования. Параметризация нечеткого интервала трапециевид-
ной функцией представления формы сводит представление
функции принадлежности к фиксированной записи из пяти
параметров. Встроенный язык программирования может
служить средством реализации нечеткой реляционной алгеб-
ры. Объектно-ориентированные языки программирования
являются рациональной средой реализации алгебр и исчис-
лений Исчисление нечетких интервалов не является исклю-
чением. Перегрузка операций позволяет ввести в язык новый
абстрактный тип данных — нечеткую величину При вычис-
лении результатов выражений с участием нечетких величин
результат может получиться полимодальным, в том числе
за счет эффекта среза. Полимодальный нечеткий интервал
может быть представлен как список одномодальных состав-
ляющих.
Средства оценки тенденции нечеткого временного ряда
(НВР). Важнейшим этапом экспертной деятельности явля-
ется оценка тенденций развития объекта, которая рассматри-
вается как оценка нечеткого временного ряда, выраженная
в лингвистических терминах. Понятие «тенденция», модели-
руемое нечетким множеством, может быть описано набором
сконструированных эмпирических правил. Анализ тенденции
НВР уместно сопоставить с классическим анализом функций
и статистическими методами анализа временных рядов. Клас-
сический анализ дифференцируемых функций почти не при-
меним к практике экспертной диагностики, так как на прак-
тике редко известна аналитическая форма функциональной
зависимости базовой переменной от времени. Задача прогно-
зирования поведения системы по накопленным временным
рядам тесно связана с задачей оценки динамики Существует
статистическое решение выделения тренда — постоянной со-
ставляющей ВР. Такое решение ищется в предположении,
что случайная составляющая имеет нулевое математическое
ожидание и нормально распределена. Аналитическое выра-
жение тренда ищется как авторегрессия методом наименьших
квадратов.
Подход с точки зрения мягких вычислений позволяет ис-
пользовать для распознавания тенденций аппарат нейронных
сетей. Временные ряды представляются своими графиками.
Распознавание тенденции каждого графика можно считать
задачей распознавания изображений. В результате подход
мягких вычислений позволяет сформулировать следующее
утверждение:
результативным средством распознавания тенденций НВР
является нейронная сеть. Кроме распознавания тенденций
НВР-рядов, интерес представляет возможность извлечения
правил распознавания тенденций методом нейрокомпьютин-
га. Нечеткое понятие «тенденция» имеет лингвистические
термы «рост—развитие», «снижение—деградация», «стабили-
зация», «хаос». Например, для оценки темпов роста оборота
предприятия используются следующие базовые переменные:
«оборот предприятия — растет, падает, стабилизация, хаос;
темпы роста — высокие, средние, низкие».
Анализ тенденций на основе ННС. Анализ тенденций —
это удобная задача для извлечения продукций, так как можно
разработать генераторы тестов различных тенденций. При
разработке таких генераторов необходимо учитывать диапа-
зоны значений конкретной проблемной области, типичные
значения таких переменных.
Сравним эффективность нечеткой нейронной сети архи-
тектуры FUN с классическими НС при решении данной за-
дачи. Для успешного обучения важна методика обучения тен-
денциям, которая состоит в том, что более качественные ре-
зультаты распознавания дает нейронная сеть, обученная
отличать один вид тенденции от всех других. Результативной
является методика обучения отдельной ННС одной тенден-
ции: сначала — тенденции «рост», затем — «падение», «ста-
билизация» и др. На заключительном этапе методика требует
синтезировать нейро-нечеткую ЭС из обученных отдельных
ННС, рассматриваемых как элементы. Архитектура FUN
удобна для извлечения знаний, так как она позволяет выпол-
нить настройку функций принадлежности, представленных
параметризованным семейством сигмоидальных функций.
Пример 6.1. Продукции для тенденции «стабилизация»
trend(X) = «стабилизация».
ЕСЛИ
значения переменной расположены на соседних уровнях;
ИЛИ
значения переменной на одном уровне.
Правило годового роста утверждает, что среднее значение
по кварталам растет
trend(A)= «рост»
ЕСЛИ trend(cpe;;ee квартальное значение X) — «рост».
Синергические средства, такие как нечеткие нейросети с
генетической редукцией правил, позволяют сформулировать
систему продукций для анализа тенденций на основе обуче-
ния. Интерес представляет сравнение качества распознава-
ния тенденций системой продукций, сформулированной экс-
пертом, с системой продукций, сгенерированной нечетким
нейроимитатором. В качестве нейроимитатора можно вы-
брать нейроимитатор Fungen 1.1, свободно доступный для ис-
следователей в интернете. Fungen 1 1 предназначен для выде-
ления нечетких продукций и настройки функций принадлеж-
ности, в том числе с использованием генетических
алгоритмов (методом стохастической оптимизации). Струк-
тура нейросети является многослойной без обратных связей.
Два первых слоя нейронов представляют функции прина-
длежности. Два следующих слоя представляют условные части
правил с логическими связками И и ИЛИ. Последний слой
выполняет отрицание. Нейроимитатор может работать в ре-
жиме классификатора или функционального аппроксиматора.
В качестве функций активации могут быть использованы ли-
нейная и сигмоидальная, в качестве алгоритма обучения —
алгоритм обратного распространения ошибки. Максималь-
ное количество входов 10. По результатам обучения строится
код правил распознавания на С. Обучение строится по образ-
цам и эпохам. Генетические алгоритмы используются для ре-
дукции правил и обучения. Краткое описание нейроимитатора
позволяет сделать вывод о наличии эффекта синергизма при
использовании этого инструмента.
Ниже приведены сгенерированные правила распознавания.
3,892 IF(i3 mJ®) THEN output®
2,555 IF (i3 mfl) THEN outputl
1,985 /F(i0 mf3) OR (il mflfTHEN outputl
—4,889 IF ai mf3) THEN NOT output®
-4,565 !F(i3 mJ®) THEN NOT outputl
-1,530 IFfil mJ®) THEN NOT outputl
1,316 IF a® mfl) OR (13 mfl) THEN outputl
-0,909 IF (13 mfl) THEN NOT outputl
0,532 IF a® mJ®) THEN output®
-0,511 IF(i® mfl) THEN NOToutputl.
Для распознавания тенденций можно использовать клас-
сические НС в двух формах- многослойная НС с алгоритмом
обратного распространения ошибки в качестве влгоритма
обучения; сеть Кохонена, обучаемая по методу динамических
ядер, т. е. алгоритмом без учителя. Исходными данными слу-
жат графики реальных временных рядов экономических по-
казателей предприятий промышленности. Рассмотрим гра-
фики как изображения, определенные на матрице размерно
стью 10 на 10. Многослойная НС и сеть Кохонена на выборке,
содержащей 96 образцов, показывают следующие результаты.
Многослойная НС (11 входов и 3 выхода) представляет со-
бой трехслойую сеть с 7 нейронами в скрытом слое, ПО вхо-
дами и 3 выходами и сигмоидальной функцией активации.
Потребовалось 2830 итераций для уменьшения ошибки НС до
уровня 10 4 , что обеспечивает стабильное распознавание об-
разов на уровне 94 %. Эксперимент, проводимый на сети Ко-
хонена, ставился на той же самой обучающей выборке, что и
эксперимент, проводимый на многослойной сети. Сеть Ко-
хонена представляла собой двухслойную сеть с 110 входами и
3 выходами. В качестве функции активации нейронов ис-
пользовалась униполярная сигмоида. Потребовалось 10000
итераций для стабилизации выходов с точностью в 10 6 на
всех образцах, что обеспечивает стабильное распознавание
тенденций на уровне 89 %.
Сравнение результативности многослойной нейронной
сети и сети Кохонена для решения задачи распознавания тен-
денций приведены в табл. 6.1 и 6.2.
Из табл. 6.1 и 6.2 видно, что сеть Кохонена обучается бы-
стрее только при двух выходах, а при большем количестве вы-
Таблица 6.1
Количество итераций обучения
Количество распозна- ваемых тенденций Количество итераций для многослойной НС Количество итераций для сети Кохонена
2 2500 3300
3 3300 5000
4 9000 10000
5 15000 17500
6 20000 30000
7 23300 32000
8 25000 35000 ,
9 30000 40000
10 35000 50000
ходов уступает в скорости обучения многослойной нейрон-
ной сети. По качеству обучения многослойная нейронная
сеть предпочтительнее. Сеть Кохонена не только обучается
указанным тенденциям, но и выделяет классы тенденций, так
как работает в режиме классификатора.
Для интегральной оценки состояния объекта проектирова-
ния можно использовать нейросеть многослойной архитекту-
ры. Система таких нейросетей, которые называют макроней-
роном, способна выполнить прогнозирование в широком
смысле. Ранее рассматривались аспекты анализа отдельных
базовых переменных объекта, но объект экспертизы является
многомерным и, разобравшись с оценками и тенденциями
отдельных величин, необходимо разобраться с состоянием
объекта в целом. Задача распадается на две подзадачи' выде-
ления множества базовых переменных, зависимых перемен-
ных и зависимостей между ними, определяющими правила
поведения объектов; генерации интегральной оценки состоя-
ния объекта. Первая из подзадач решается традиционными
методами регрессионного анализа, вторая — представляется
задачей, для которой результативно использование мягких
вычислений (МВ).
Рассмотрим пример интегральных оценок. В экономике
распространены различные матрицы устойчивости пред-
приятий. Типичной формой матрицы служит, например, изо-
Таблииа 6.2
Процент корректного распознавания
Количество распозна- васмых тенденций Процент корректного распознавания
для многослойной НС для сети Кохонена
2 99 99
3 94 89
4 94 88
5 94 87
6 93 86
7 92 86
8 92 85
9 91 85
10 89 85
Сраженная на рис. 6.14. Матрица помогает спрогнозировать
«критический путь» предприятия на ближайшие годы. Нечет-
кие интервалы значений РФД и РХД непосредственно опре
деляют состояние предприятия по девяти клеткам. На рис.
6 14 использованы следующие экономические показатели:
• РХД — результат хозяйственной деятельности;
• РФД — результат финансовой деятельности.
В каждом квадрате представлена сумма РХД и РФХД.
Прогнозирование будущего функционирования системы ос-
новано на тенденциях базовых показателей и методах аппрок-
симации. Для прогнозирования значений нечетких ВР можно
использовать нейронную сеть в режиме предиктора. Нейронная
сеть обучается распознавать тенденции с приемлемым качест-
вом для одного или нескольких ВР. Для получения интеграль-
ной оценки необходима совокупность НС, обученных поведе-
нию различных базовых переменных. Экспертную систему, со-
четающую традиционный механизм продукционного вывода
с использованием обученных НС, будем называть нейроэкс-
пертной системой. Задача прогнозирования в широком смысле,
как прогнозирования интегрального состояния объекта проек-
тирования, может быть выполнена нейроэкспертной системой.
РФД гораздо < 0 (торможение) РФД = 0 (стабилизация) РФД гораздо > 0 (ускорение)
РХД гораздо < 0 (замедленный режим роста) РФХД<0 РФХД>0 РФХД>0
РХД = 0 (оптимальный режим роста) РФХД<0 РФХД = 0 РФХД»0
РХД гораздо > 0 (^орсмросанный режим роста) РФХД = 0 РФХД>0 РФХД » 0
Рис. 6.14. Пример интегральной оценки состояния
6.3.3. Мягкая экспертная система
проектирования стендов контроля
радиоэлектронной аппаратуры
Описание задачи конструирования радиоэлектронной аппара-
туры (РЭА). Для производственной деятельности конструк-
торских бюро характерно изготовление опытных образцов,
малых серий изделий, модифицированных блоков серийных
изделий. Необходимой технологической задачей служит раз-
работка стендов для испытаний или контроля и диагностики
блоков. Большие конструкторские бюро, имеющие длитель-
ную историю создания таких стендов обладают значительны-
ми архивами разнообразных стендов. Архивы проектов в на-
стоящее время представляют собой хранилища бумажной тех-
нической документации. Информация, хранимая таким
образом, редко используется повторно и достаточно опера-
тивно. Другим результатом продолжительной производствен-
ной деятельности конструкторских бюро является наличие
опытных специалистов — конструкторов. Такие специалис-
ты, эксперты, покидая предприятие, часто уносят уникаль-
ный опыт проектирования, поэтому в качестве решения про-
блемы сохранения накопленного опыта проектирования не-
обходимо комплексное решение. Недостаточно использовать
даже самую современную распределенную информационную
систему доступа к архиву проектов, так как методика конст-
руирования не отражается в конечном продукте — техниче-
ской документации на стенд.
Информационная система должна включать в себя экс-
пертную систему, содержащую знания экспертов, которые в
настоящее время никак не документируются на предприяти-
ях. Для создания в качестве интеллектуальной компоненты
именно экспертной системы имеются серьезные предпосыл-
ки: наличие экспертов; наличие архива проектов, из которо-
го можно извлекать знания; возможность участвовать в кон-
струировании какого-либо стенда, разрабатываемого в про-
ектной организации. Особенностью экспертной системы
проектирующего типа является необходимость сочетания
рассуждений с расчетными процедурами, необходимость
вести разработку в условиях принципиальной неполноты
исходных данных на ранних этапах проектирования Следо-
вательно, экспертная система должна носить характер мяг-
кой экспертной системы, основную часть которой составляет
система нечеткого вывода. Разработка сложного стенда мо-
жет включать в себя разработку принципиальной и структур-
ной схем, схемотехническое проектирование и, наконец,
конструирование стенда. Исходное задание конструктору
включает принципиальную схему стенда, спецификацию
элементов и технико-экономические требования как к стен-
ду, так и к режиму эксплуатации. В ходе разработки конст-
руктор часто принимает решения, являющиеся компромис-
сными с точки зрения технологичности, эргономичности и
стоимости стенда. Многие решения определяются не фор-
мальными нормами, а опытом конструктора. В ходе раз-
работки конструктор выполняет выбор корпусов, передних
панелей, сборочных единиц и деталей на основе стандарта
предприятия (СТП), который с точки зрения построения
экспертной системы сокращает пространство поиска. Вы-
брав хотя бы корпус и переднюю панель, конструктор решает
задачу размещения элементов. Исходя из габаритов, тепло-
вых характеристик, способов крепления, эргономических
требований элементов, конструктор должен выбрать тип
корпуса.
Анализ элементов, устанавливаемых на переднюю панель,
позволяет вычислить гипотетическую площадь передней па-
нели с учетом площади надписей и требований эргономики.
Уточнив по ряду типоразмеров передних панелей панели, ре-
левантные задаче, можно получить сокращенный ряд корпу-
сов, являющийся гипотезами для конкретной задачной ситу-
ации. Логический вывод конкретного корпуса можно провес-
ти как вывод по нечетким продукциям типа
ЕСЛИ количество_трансформаторов = много
ТО размер_корпуса ~ большой.
Грубая верификация выбранного корпуса может быть
проведена с помощью расчета общей установочной площади
элементов и сравнения с максимальными размерами элемен-
тов по длине, ширине и высоте.
Для конструирования стендов выберем средства решения,
результаты выбора которых приведены в табл. 6.3.
Таблица 6 3
Средства решения задач конструирования изделий
радиоэлектронной аппаратуры (РЭА)
Задача Средство решения Обоснование выбора средства
Выбор корпуса Выбор типа корпуса Размещение элемен- тов на передней пане- ли и внутри корпуса Система не- четкого вывода Система при- нятия реше- ний Генетический алгоритм Нечеткость исходных данных, неформальные правила приня- тия решений Дискретное пространство выбора, многокритериальная задача, неаддитивная свертка критериев Большая размерность задачи, возможность бинарного коди- рования решения, аналитиче- ская форма критерия опти- мальности
Реализация МЭС конструирования стендов контроля РЭА.
Средства решения задач, приведенные в табл. 6.3, реализова-
ны в различных программных продуктах. В качестве оболочки
экспертной системы, использующей нечеткий вывод, можно
предложить программный продукт Fzclips 6.04, свободно до-
ступный для исследователей в интернете. Система нечеткого
вывода Fzclips 6 04 предоставляет разработчику приложений
ЛИСП-подобный язык и реализацию алгебры нечетких мно-
жеств, большое число встроенных функций для выражения
функций принадлежности, фазификаторов и дефазификато-
ров, базовых операций теории нечетких систем. Интерпре-
татор нечетких продукций реализует min-max логический
вывод, т. е может быть отнесен к системе нечеткого вывода
по Мамдани.
Для извлечения знаний о конструировании стендов в ус-
ловиях действующей проектной организации можно исполь-
зовать такие средства извлечения, как анкетирование экспер-
та, протоколирование реального процесса решения задачи,
извлечение знаний из архива проектов. Учитывая значитель-
ный объем реальных архивов проектных организаций, осо-
бенно привлекательным представляется извлечение знаний
из данных методом нейрокомпьютинга. Для процесса извле-
чения знаний необходимо выделить факторы влияния в ка-
честве базовых переменных и составить таблицы значений
этих переменных для проектов, хранимых в архиве. Выходная
переменная — это переменная, обозначающая тип и размер
корпуса.
В качестве базовых переменных были выделены следую-
щие:
• наличие элементов на передней панели с рабочим поло-
жением «Вертикальное»;
• наличие индикаторов на передней панели с небольшим
углом обзора,
• количество регулируемых элементов;
• количество ячеек;
• суммарная площадь ячеек;
• количество элементов, устанавливаемых внутри блока;
• суммарный объем элементов, устанавливаемых внутри
блока;
• суммарная установочная площадь внутри блока;
• наличие элементов внутри блока с креплением «шасси»;
• количество тумблеров на передней панели;
• количество элементов со шкалами;
• количество стрелочных индикаторов;
• количество галетных переключателей;
• суммарная установочная площадь на передней панели.
Для извлечения правил необходима нейронная нечеткая
сеть, вербализующая правила. Таким инструментом может
служить ННС с редукцией полученных правил генетическим
алгоритмом Fungen 1.1. Обучающая выборка должна пред-
ставлять собой множество строк, каждая строка содержит
сведения об одном стенде. Структура строки содержит две
части: входные переменные, определяющие выбор корпуса
или передней панели и сделанный выбор — тип и габариты
корпуса или размеры передней панели.
В результате обучения ННС не только отбираются прави-
ла вывода, но и настраиваются параметры функций прина-
длежности. Уточненные функции принадлежности являются
результатами эксперимента. Для каждой входной и выходной
переменных разработчик МЭС составляет первоначальные
функции принадлежности нечетких термов.
Правила, полученные в результате обучения ННС, выра-
жают аналогию между стендами, т. е. для стендов с похожими
структурно-функциональными элементами рекомендуются
одинаковые корпуса, а ННС оценивает их близость. Факты
экспертной системы конструирования — это сведения о кор-
пусах СТП, сведения о спецификации элементов, размещае-
мых на передней панели и внутри корпуса, промежуточные
заключения экспертизы.
Функции принадлежности для нечетких переменных, в со-
ответствии с правилами Fzclips 6.04, будем задавать как пара-
метризованные колоколообразные функции распределения.
Пример 6.2. Количество стрелочных индикаторов.
(deftemplate qua_str_ind
-1 11 units
((few (Z 0 2))
(normal (PI 1.5 2.5))
(much (S 3 10)))
)
Соответствующие нечеткие термы представлены на рис. 6.15.
Исходные лингвистические переменные и их нечеткие
метки определены на основе экспертных данных и анализа
истории проектирования стендов изделий. На основе вы-
деленных с помощью классификаций базовых переменных
и задания их семантики с помощью функций принадлежнос-
ти можно сформулировать правило вывода проектных реше-
нии. Правила конструирования стендов определяют степень
возможности выбора типа и типоразмера блока с точки зре-
ния элементной базы и составляют основную часть эксперт-
ной системы. Левые части правил определяют нечеткие зна-
чения значимых лингвистических переменных, а правые
определяют степень возможности выбора каждого из допус-
тимых типов корпуса. Ниже представлен фрагмент модуля
вывода типа корпуса по результатам анализа элементной ба-
зы. В приведенном фрагменте изменяющиеся условия левой
части отмечены курсивом, а изменяющиеся заключения пра-
вой части выделены полужирным курсивом.
Фрагмент программы прокомментирован и интуитивно
понятен читателю, не знакомому с языком Fuzzyclips, но вла-
деющему каким-либо языком программирования.
мало нормально много
Рис. 6.15. Лингвистическая переменная
«Количество стрелочных индикаторов»
Пример 6.3. Правила нечеткого вывода ЭС конструиро-
вания стендов.
(def module type_module (import MAIN ?ALL) ) ; заголовок
модуля вывода типа блока
(defrule type_modulе::rule-0-0-1; заголовок правила
ЕСЛИ
(square_whole ?swhole); вычислена суммарная
площадь
(qua_jach few) ; количество ячеек — малое
(square_jach lit); площадь ячеек - малая
(qua_inside_units few); количество элементов
внутри блока —
мало
(volume—inside few); суммарный объем — малый I
(square_inside lit); суммарная установочная
площадь внутри
корпуса — малая
(massa few) ; масса — малая
(assert (refusal_curved very possible)) / тип co
скошенной передней панелью — очень возможен
(assert (refusal_shassi more-or-less impossi-
ble) ) ; тип с шасси — более или менее возможен
(assert (refusalsimple more-or-less impossi-
ble) ) ; тип параллепипед —
более или менее возможен
)
(defrule type_module::rule-0-0-9; заголовок правила
ЕСЛИ
(square_whole ?s__whole) ; вычислена суммарная
площадь
(qua_jach few) ; количество ячеек — малое
(square_jach normal) ; площадь ячеек - нормальная
(qua inside_units much); количество элементов
внутри блока —
много
(volume_inside few) ; суммарный объем — малый
(square_inside lit) ; суммарная установочная
площадь внутри корпуса — малая
(massa few); масса — малая
(assert (refusal_curved possible)) ; тип со ско-
шенной панелью — возможно
(assert (refusal_shassi possible) ) ; тип с шасси —
возможно
(assert (refusal_simple very possible)) ; тип —
параллепипед —
очень возможно
) [42]
6.3.4. Нечеткая реляционная алгебра.
Сервер нечетких данных
Общая характеристика задачи. Проектирование сложных
технических изделий выполняется в наши дни распределен-
ным коллективом проектировщиков, использующих инфор-
мационные технологии и работающих в условиях развитой
корпоративной сети. Средством согласования проектных ре-
шений служит репозитарий проекта, представляющий собой
информационное хранилище (базу данных) всех проектных
документов. В условиях, когда сроки разработки нового из-
делия определяют рыночный успех фирмы, архив старых про-
ектных решений не может быть хранилищем микрофильми-
рованных или тем более бумажных материалов. Как архив
проектов, так и репозитарий проекта должны быть актив-
ными хранилищами данных. Международные стандарты
(ISO-90DD) требуют от предприятий иметь полное электрон-
ное представление изделий, которое должно строиться в ходе
проектирования на базе репозитария текущего проекта [25].
Сложность использования систем управления базами данных
(СУБД) для организации конструкторских баз данных (БД)
состоит не только в ограничениях реляционной модели, но и
в необходимости представлять не полностью определенные
проектные решения. В процессе поискового творческого про-
ектирования часть значимой информации обязательно будет
неопределенной, неточной, нечеткой. Запрос, формируемый
проектировщиком в таких условиях, должен быть гибким, со-
держащим нечеткие условия. Очень важным видом запроса,
позволяющим сократить сроки разработки изделия, является
запрос аналогичного проектного решения. Аналогия между
объектами может быть выражена на основе нечетких отноше-
ний. Вместе с тем необходимо учитывать распространенность
языка запросов SQL. Необходимо расширение современной
реляционной модели, которое позволило бы учесть такие осо-
бенности автоматизированного проектирования изделий, как
хранение и обработка неопределенной информации, но со-
хранило привычный SQL-запрос.
Гибридизация теории реляционных отношений и теории
нечетких систем позволяет формировать результаты запросов
к реляционной модели, содержащей нечеткий атрибут. Сис-
темы управления базами данных пока не готовы к представ-
лению и обработке таких сложных объектов, какими являют-
ся нечеткие множества, функции принадлежности и лингвис-
тические переменные, хотя такая потребность становится все
актуальнее. Широкое применение СУБД в САПР начинает
определять направление развития самих СУБД. К основным
свойствам новой модели можно отнести: ориентированность
на представление нечетких чисел, использование наиболее
общих видов функции принадлежности, практическая реали-
зуемость. С точки зрения задач автоматизированного проек-
тирования выделяются две задачи: представление опыта экс-
перта, выраженного в лингвистической форме, и ведение ар-
хива проекта с возможностью поиска по нечеткому критерию
и механизмом нахождения аналогов.
Основные определения нечеткого реляционного сервера
данных. Пусть схемой отношения R называется конечное мно-
жество имен атрибутов {Л1? Л2, . , Ап} Каждому имени атрибута
At ставится в соответствие множество Dt, называемое доменом
атрибута А1г 1 С i < п. Домены являются произвольными непус-
тыми конечными, или счетными множествами. И пусть D~
- <Z)b D?, .. , Dn>.
Домен атрибута реляционного отношения будем называть
нечетким [21], если для него определены: имя атрибута А/,
универсальное множество X; терминальное множество значе-
ний Т, представляющих собой нечеткие метки.
Нечетким отношением будем называть конечное множество
отображений {fh Г2> . (А из R в Л, если хотя бы одно е Dt
и Dt — нечеткий домен. Модель рассчитана на предстааление
нечетких чисел; следовательно, доменом атрибута нечеткого
числа является множество действительных чисел. Нечеткое
число определяется на основе функции принадлежности и
лингвистической оценки. Под лингвистической оценкой бу-
дем понимать одно из возможных значений лингвистической
переменной, которое определяется соответствующим термом.
Функция принадлежности, задающая нечеткое число,
удовлетворяет следующим свойствам:
• ограниченности (по определению шах(ц(х)) С 1, mm(p(x)) >
>0);
• однозначности (каждое множество ц(х) = {z}, х е X, состоит
только из одного элемента),
• непрерывности (в каждой точке существует предел функции).
Если для некоторого аргумента значение функции при-
надлежности неопределенно, то предполагается, что это зна-
чение равно нулю. Для представления точных (четких) зна-
чений используется вырожденный вид функции прина-
длежности, возвращающей 1 для представляемого точного
значения и 0 для всех остальных значений В модели принят
табличный способ задания функции принадлежности. Коли-
чество пар задающих функцию принадлежности, не-
ограниченно. Предполагается, что множество таких пар за-
дает ломаную линию, которая и является графиком функции
принадлежности. Такой подход хорошо согласуется с пред-
ставлением данных в реляционной модели В модели кроме
представления нечетких данных заложены и механизмы
их обработки:
• функции одного аргумента (дефазификация, максимиза-
ция, нормализация, альфа-срез);
• множественные операции (дополнение, пересечение, объ-
единение);
• арифметические операции (сложение, вычитание, умно-
жение, деление);
• операции сравнения
Множественные операции реализованы с использованием
функций минимума и максимума. Арифметические операции
основываются на принципе обобщения Заде:
С = А V В = [sup min^fl), цд(/>))]/[« V b], а е SA, b е
где SB, цв — соответственно носители и функции принадлеж-
ности нечетких чисел А и В;
V — одна из четырех арифметических операций.
Операция сравнения является основой в механизме обра-
ботки нечетких данных, так как на ней базируются определе-
ния реляционных операторов. Операция сравнения для не-
четких чисел дает нечеткий результат' определенный уровень
уверенности, с которым можно утверждать о равенстве (не-
равенстве) нечетких чисел.
Пересечение нечетких чисел может являться критерием
при их сравнении. Степень уверенности определяется по-
средством дефазификации методом среднего максимума по-
лученного пересечения. Пустое множество равнозначно ну-
левой уверенности.
Пусть А и В — два нечетких числа, тогда степень их равен-
ства определим с помощью следующего индекса ранжирования:
£(Л В) = тах(тт(цл(х) рв(л))),
где Vx g R (/? — множество действительных чисел)
Рассмотрим применимость реляционных операторов к не-
четким данным. Можно выделить два класса реляционных
операторов. Кпервому относятся операторы, в основе ко-
торых лежат операции сравнения (выбор, объединение), ко
второму — соответственно те, в которых операции сравнения
не используются (булевы операторы, проекция, переимено-
вание). Второй класс операторов с точки зрения рассмат-
риваемой модели интереса не представляет, так как эти опе-
раторы будут выполняться для нечетких данных так же, как
и для традиционных точных. Особенностью выполнения опе-
раторов первого класса над нечеткими данными является тот
факт, что в обшем случае все кортежи отношения с разной
степенью уверенности удовлетворяют условию (условиям),
составляющему основу этих операторов.
Пусть r(R) — нечеткое отношение, А — нечеткий атрибут
в R и а е do гл (Л). Из определения нечеткого атрибута следует,
что dom(X) = D (множество действительных чисел). Тогда
операцию выбора («выбрать из г кортежи, в которых зна-
чение А равно а») для нечетких чисел можно формально за-
писать.
= 00 = г' = {/ е r\t(A)=a} = {t е г|а) > цв},
где Е — введенный нами индекс ранжирования на основе пересечения
нечетких множеств;
Ре “ уровень (порог) уверенности, минимально достаточный для ут-
верждения о равенстве двух нечетких чисел (обычно равный 0,5).
Соединение определяется как бинарный оператор для
комбинирования двух отношений. Пусть r(R), s(S) и RS = Т.
Тогда соединение q(T) будет содержать кортежи tr^ г и ts е 5
с tr - t(R) Hts = t(S), такие что tr(R n 5) = ts(Rn S), т. e. каж-
дый кортеж в q является комбинацией кортежа из г и кортежа
из s с равными (R п 5)-значениями. Соответственно для не-
четких атрибутов получаем:
адг5),/5(ЛпУ))>Це,
где Е ~ введенный нами индекс ранжирования на основе пересечения
нечетких множеств, ре — уровень уверенности, минимально
достаточный для утверждения о равенстве двух нечетких чисел
(обычно равный 0,5).
Формально операцию соединения можно представить
следующим образом:
г >< s = q(T) = {t = е г и (j е s с tr = t(R) и ts= t(S),
tr(R nS) = fs(R n $)) = {/ = lrlsltr e г и
ts esc tr = t(R) 1Л ts~ t(S),
E(tr(RnS), ^п5))>ц9}.
Поскольку (R n 5)-значения будут включены в результи-
рующее отношение, то возникает вопрос, какое именно зна-
чение: tr(R n S) или ts(R п 5) должно быть включено. В случае
нечетких атрибутов эти значения не тождественны, а равны
с некоторой степенью уверенности. При соединении двух от-
ношений в качестве значений на общих нечетких атрибутах
целесообразно использовать объединение значений на соот-
ветствующих атрибутах исходных отношений.
Важное практическое значение в реляционной модели
имеют понятия функциональной зависимости и нормальных
форм.
Вхождение нечеткого атрибута в подмножество, образую-
щее ключ, недопустимо. Данное утверждение основано на
том, что два нечетких числа могут быть равны с некоторым
уровнем уверенности, который может быть задан субъектив-
но, и поэтому в одном случае этого уровня может быть до-
статочно для утверждения, что эти числа равны, а в другом —
нет. А если нельзя однозначно утверждать равенство значе-
ний, то для кортежей t\ и /2 нельзя говорить о выполнения
свойства
где К — ключ отношения г(Л),
Поэтому понятие нечеткой функциональной зависимости
приобретает другую форму.
Реляционная алгебра порождает реляционное исчисление
или систему запросов. Запрос — это операция над отноше-
ниями, результатом которой также является отношение. Сис-
тема запросов — это формальная система для выражения
запросов, образующая базисную структуру языков запросов,
т. е. специализированных языков программирования, исполь-
зуемых в системах баз данных для формулировки команд.
Процесс поиска изделий, которые аналогичны проекти-
руемым, является одним из первых этапов функционирова-
ния САПР. Обычно описания (конструктивные характерис-
тики) изделий хранятся в базе данных САПР.
Предлагается использовать в качестве степени аналогич-
ности нечеткое сравнение:
где Е — операция нечеткого сравнения,
р и q — рассматриваемые изделия с заданными г-и параметрами и
соответственно
Таким образом, базовой операцией расширенной реляци-
онной алгебры, учитывающей нечеткость данных, является
операция сравнения нечетких чисел. Критерием равенства
нечетких чисел может являться их пересечение. Расширение
реляционной модели приводит к изменению ее свойств; при
этом отмечается, что вхождение нечеткого атрибута в подм-
ножество, образующее ключ, недопустимо.
Применения нечеткого реляционного сервера данных. Далее
рассмотрим решения задач автоматизированного проектиро-
вания, в которых была использована нечеткая СУБД с рас-
ширенной реляционной моделью, учитывающей нечеткость
данных. Основная особенность этих решений состоит в воз-
можности представления и обработки нечеткой информации
о проектируемом изделии или его компонентах на всех этапах
автоматизированного проектирования. Первая задача — это
задача поиска oi (тимальных типоразмеров корпусов. Отличи-
тельной особенностью рассматриваемой системы является
возможность обработки не полностью определенной инфор-
мации. Для этого в основу системы положено использование
механизма вывода на базе нечетких продукций, которое при-
водит к потребности в хранении в БД нечетких данных. Это
позволяет наряду с четкими техническими характеристиками
элементов хранить нечеткие данные и экспертные предпоч-
тения, а также осуществлять нечеткий поиск на различных
этапах обработки данных.
Пример 6.4. Выбор объекта с нечетким атрибутом.
Необходимо выбрать фонарь с большим диаметром.
select e.name, e.d, fuzzy. to_llngvo (e.d, 'ДИАМЕТР',
lingvo from element e, etype t
where e.etype=t.id and t.name='Фонарь * and
fuzzy ma th.equalf'ДИАМЕТР.БОЛЬШОЙ *, e.d) > 0.,75;
Вторая задача — реализовать проект автоматизации про-
изводства на основе электронного представления изделия
(блоков изделий). Техническим ядром реализации проекта
является разработка базы данных «Состав изделия» на основе
СУБД Oracle8i.
Кроме непосредственного создания БД предполагалось
включение в данную БД механизмов поиска аналогов на осно-
ве нечеткого поиска. Анализ существующих изделий и поиск
аналогов, которые могут быть взяты за основу нового проекта,
играют важную роль на начальных этапах проектирования.
При реализации механизмов поиска аналогов учитывался
тот факт, что аналогичность двух изделий можно рассматри-
вать с точки зрения их свойств (параметров) или с точки зре-
ния состава (структуры) этих изделий. В общем виде алгоритм
поиска аналогов выглядит следующим образом.
1. Проектируемое изделие описывается набором пара-
метров и определяется его приблизительный состав.
2. Информация о новом изделии заносится в базу данных.
Значения параметров и количество используемых компонен-
тов может быть задано нечетко.
3 Затем анализируются все изделия (или определенный
класс) в БД архива проектов
4. Если поиск аналогов осуществляется по параметрам, то:
4.1. Для каждого изделия из архива определяются значе-
ния параметров, по которым осуществляется поиск.
4.2. Значение каждого параметра сравнивается с предпо-
лагаемым значением соответствующего нового параметра.
4.3. Минимальная степень равенства, полученная при
сравнении всех параметров, и есть искомая степень аналогич-
ности изделий.
5. Если поиск аналогов осуществляется по составу, то:
5.1. Для каждого изделия из архива определяется, сколько
компонентов нового изделия входит в его состав.
5.2. Полученное количество по каждому типу компонента
сравнивается с количеством данного компонента в новом из-
делии.
5.3. Минимальная степень равенства, полученная при
сравнении количества всех типов компонент, и есть искомая
степень аналогичности изделий.
Изделия с максимальной степенью аналогичности есть
искомый результат.
Пример 6.5. SQL-запрос в архиве проектов на стенд с оп-
ределенным кпличеснюм элементов на передней панели.
Выбрать изделия с небольшим количеством элементов на
передней панели
create view o_by_q as
select id_parent, sum(q) as sq
from a_depends
group by id_parent;
select idjobj, name
from aobject, o_by_q
where id_obj=id_parent and name = 'П. Панель' and
fuzzy_math.equal('КОЛИЧЕСТВО.НЕМНОГО ', sq) > 0,6;
В результате получим множество изделий — аналогов по
одному отдельно взятому конструктивному параметру. Также
можно выявить аналоги по другим параметрам.
Пример 6.6. SQL-запрос изделия с большой массой корпуса.
Выбрать изделия с большой массой корпуса
select idobj, name
from a_object, a_depends
where id_obj= id_parent and id_child = (
select o. id_obj, o.name as name,
from a__object o, a_param p, a_yalue v
where о.idobj=v.idobj and p.id_param -
= v. j.d_para.m and
o.name ='Корпус' and p.name = 'Масса' and
fuzzy_math.equa1(’МАССА.БОЛЬШАЯ',
v.value) > 0,5);
В результате этих двух запросов получаем два множества,
каждое из которых содержит аналоги по одному отдельно взя-
тому конструктивному параметру. Пересечение этих мно-
жеств можно получить с помощью стандартных средств языка
SQL, что и будет искомым множеством аналогов.
Капршлые вопросы
1. Что называют И, ИЛИ-нейроном?
2. Что называют нечеткой нейронной сетью?
3. Какие алгоритмы обучения используют в ННС сетях?
4. Из каких слоев состоит ННС класса NNFLC! Как она обу-
чается?
5. Из каких слоев состоит ННС класса ANFIS! Как она обу-
чается?
6. Какую структуру имеет ННС класса NNDFR?
7. В чем особенности архитектуры ННС GARIC?
8. Для каких задач разработаны ННС FUN?
9. Какие подходы используют для генетической оптимиза-
ции функций принадлежности и баз нечетких правил?
10. Каким образом можно использовать нечеткий контроллер
для управления сходимостью ГА?
11. Какую ЭС называют мягкой ЭС?
12. Какие интеллектуальные технологии используют в МЭС
для извлечения, представления и обработки знаний?
13. Приведите примеры проблемных областей, в которых ис-
пользуют МВ?
14. Какие данные хранит и обрабатывает нечеткий реляцион-
ный сервер данных?
15. Как модифицируется реляционный оператор селекции
данных в нечетком реляционном сервере данных?
Заключение
Искусственный интеллект — это то,
что еще не создано.
(Единственное определение ИИ,
которое невозможно оспорить).
Прилагательное «нечеткое» нельзя
в русском языке считать комплиментом,
поэтому замена «нечеткого» на «мягкое»
правильная. Она смещает нечеткие системы
в плоскость приятного на ощупь и на вкус.
(Из приветственного слова Д. А. Поспелова
на семинаре «Мягкие вычисления» в Казани (1996)).
В настоящее время рассмотренные в пособии технологии
«вычислительного интеллекта» с успехом используются как
прикладные. Самыми яркими событиями недавнего прошло-
го согласно [13, 16, 17, 18, 32 и 33] стали запуск в 1987 г. сис-
темы управления новым метро в г. Сендай около Токио и уве-
личения экспорта японских изделий с «fuzzy’ logic» к 1991 г. до
25 млрд долл. США. Более того, бюджет международного на-
учно-исследовательского института LIFE (Laboratory for In-
ternational Fuzzy Engineering Research) в Японии достиг в
1993 г. 64 млн долл. США, причем половина суммы поступи-
ла от японского правительства. Американской фирмой ААС
(Accurate Automation Corp.) был разработан нейрокомпьютер-
ный чип на базе MIMD-архитектуры, который содержит
16-разрядный специализированный процессор, эмулирующий
8192 нейрона, и память для хранения 32768 16-разрядных си-
наптических весов. Производительность нейрокомпьютера —
140 млн переключений в секунду; он был установлен на борту
экспериментального гиперзвукового самолета, скорость по-
лета которого в 5 раз превышала скорость звука LoFLYTE
(Low-Observable Flight Test Experiment). На бортовой нейро-
компьютер были возложены функции управления полетом,
поскольку летчик на таких скоростях не в состоянии управ-
лять самолетом.
Таким образом, теперь уже нет сомнений, что «вычисли-
тельный интеллект» — это успешная электронная и програм-
мная индустрия.
Сложнее ответить на вопрос о значении «вычислительного
интеллекта» в решении фундаментальных проблем. В 1972 г.
известный американский математик Р. Калман писал: «Наи-
более серьезное возражение против выдвигаемой профессором
Л. Заде идеи «нечеткого» анализа систем заключается в том,
что недостатки методов системного анализа вовсе не прин-
ципиальны для теории систем. Эта проблема должна решать-
ся на основе развития существующих концепций и более глу-
бокого изучения природы систем» [13]. В 1990 г. известный
специалист по теории систем Дж. Клир [31] излагает проти-
воположное: «Одним из способов работы с очень сложными
системами, возможно, самым важным, является допущение
неточности при описании данных... Математический аппарат
для этого подхода, разрабатываемый с середины 1960-х годов,
известен как "теория нечетких множеств"».
С точки зрения фундаментальной проблемы искусствен-
ного интеллекта — моделирования как восприятия, так и
мышления — «вычислительный интеллект», завершив почти
сорокалетний этап развития своего математического аппара-
та, возвращается к основной проблеме искусственного интел-
лекта — к семантике знаков. Идеи Л. Заде о нечеткой грану-
ляции и вычислении на словах объединяют восприятие как
нечеткую гранулу и логический вывод (распространение ог-
раничений, мышление) в терминах естественного языка. Ве-
роятно, самым существенным достижением «вычислительно-
го интеллекта» является создание способа описания систем,
сочетающего число и слово, сигнал и понятие, восприятие и
абстракцию, непрерывное и дискретное Именно такой спо-
соб описания необходим для техногенных, гуманистических
систем Вышеизложенное позволяет надеяться, что у данного
научного направления многообещающее будущее, и поэтому
перспективы развития искусственного интеллекта в XXI в. не
подлежат сомнению.
Приложение
Лабораторные работы
в инструментальной
среде Matlab
П1. Нечеткие системы
Лабораторная работа № 1.
Исследование способов формирования
нечетких множеств и операции над ними
Цель работы: изучить методы построения нечетких
множеств с использованием различных типов функций
принадлежности. Ознакомиться с наиболее распростра-
ненными логическими операциями над нечеткими множе-
ствами.
Функции принадлежности. Инструментарий нечеткой ло-
гики (ИНЛ) в составе пакета Matlab содержит 11 встроенных
типов функций принадлежности (ФП), формируемых на ос-
нове кусочно-линейных функций, распределения Гаусса,
сигмоидной кривой, квадратических и кубических полино-
миальных кривых К наиболее простым ФП можно отнести
треугольную и трапециевидную. Наименование треугольной
ФП — trimf {triangle membership function). В параметрическом
виде она представляет собой не что иное, как набор трех то-
чек, образующих треугольник.
Описание функции:
у = trimf {х, [а b с]),
где вектор х — базовое множество, на котором определяется ФП.
Величины а и с задают основание треугольника, b —
его вершину.
В аналитическом виде треугольная ФП может быть задана
следующим образом (рис. ГП, а):
Рис. Ш. Треугольная (о) и трапециевидная (б) функции принадлежности
'О, х < а,
fix, а, Ь, с) = <
?Ы£,а<х<Ь,
Ь-а
^,Ь<х<с,
с-Ь
О, х > с.
Далее рассмотрим примеры использования различных
ФП в системе.
Примеры представляют собой фрагменты программ и
комментариев на языке пакета Matlab.
Пример Ш. Программа использования ФП trimf.
х = О : 0,1 : 10;
у = trimf(x, [3 6 8]);
plot(х, у) ;
Задается базо-
вое множество
Опр еделяе тся
треугольная ФП
Выводится гра-
фик функции
xlabel('trimf(x, P) , F = [3 6 8]'); Подписывается
график под осью
абсцисс
Трапециевидная ФП — trapmf (trapezoid membership func-
tion) — отличается от предыдущей функции лишь тем, что
имеет верхнее основание.
Описание функции:
у = trapmf(х, [a b с d]) ,
где пвраметры а и d — нижнее основание трапеции;
b и с — верхнее основание трапеции (рис. П1, б).
Аналитическая запись трапециевидной функции имеет вид:
О, х< а,
рра<х<Ь,
Ь-а
f(x, а, Ь, с, d) =
Jl, b < х<. с,
d-x
d-c
О, х > d.
Одно из основных достоинств треугольных и трапеци-
евидных ФП — их простота. На основе функции распределе-
ния Гаусса можно построить ФП двух видов: простую функ-
цию принадлежности Гаусса и двухстороннюю, образован-
ную с помощью различных функций распределения Гаусса.
Первая из них обозначается gaussmf, а вторая — gauss2mf.
Описание функции:
у = gaussmf (х, [а, с]).
Симметричная функция Гаусса зависит от двух парамет-
ров а и с (рис. П.2, а):
f(x, а, с) = е 2” .
Пример Ц2. Программа использования ФП gaussmf.
X = О : 0,1 : 10;
Y - gaussmf(х, [2 5]);
plotfx, у)
Рис. П2. Простая (о) и двухсторонняя (б)
функции принадлежности Гаусса
Описание функции:
у = gauss2mf(х, [clf С}, <г2, с2]) .
Последнее выражение является комбинацией двух различ-
ных функций распределения Гаусса. Первая определяется па-
раметрами gj и q и задает форму левой стороны, а вторая (па-
раметры сг2, С2,) — правой стороны ФП.
Если Ci < с2, то в этом случае функция gauss2mf достигает
своего максимального значения на уровне 1. Иначе — мак-
симальное значение функции меньше 1 (рис. П2, б).
Пример ПЗ. Программа использования ФП gauss2mf.
х = (0 : 0,1 : 10)';
yl = gauss2mf (х, [2 4 1 8]) ;
у2 - gauss2mf (х, [2 5 1 7]);
уЗ = gauss2mf(x, [2 6 1 6]);
у4 = gauss2mf (х, [2 7 1 5]);
у5 - gauss2mf(х, [2 8 1 4]);
plotfx, [yl у2 уЗ у4 у5]);
Символ «'» в строке определения базового множества х по-
казывает транспонированность базового множества.
Следующей функцией, которая позволяет представлять не-
четкие субъективные предпочтения, является ФП «обобщен-
gbellmf, P = [2 4 6]
Рис, ПЗ. Функция принадлежности «обобщенный колокол»
ный колокол» и обозначается gbellmf {generalized bell shape mem-
bership function). Ее отличие от рассмотренных ранее ФП за-
ключается в добавлении третьего параметра, что позволяет
осуществлять плавный переход между нечеткими множествами.
Описание функции:
у = gbellmf(х, [а b с]).
Функция «обобщенный колокол» зависит от трех парамет-
ров и имеет следующую аналитическую запись:
где с определяет расположение центра ФП,
а и b оказывают влияние на форму кривой (рис ПЗ).
Пример П4. Программа использования gbellmf.
х = О : 0,1 : 10;
у ~ gbellmf (х, [2 4 6]);
plot (х, у) ;
xlabel ('gbellmf, Р = [24 6]').
Функции принадлежности на основе функции распреде-
ления Гаусса и ФП «обобщенный колокол» отличаются глад-
костью и простотой записи и являются наиболее используе-
мыми при описании нечетких множеств. Несмотря на то что
гауссовы и колоколообразные ФП обладают свойством глад-
кости, они не позволяют формировать асимметричные ФП.
Для этих целей предусмотрен набор сигмоидных функций,
которые могут быть открыты либо слева, либо справа в зави-
симости от типа функции. Симметричные и закрытые функ-
ции синтезируют с использованием двух дополнительных
сигмоид. Основная сигмоидная ФП обозначается sigmfi а до-
полнительные — dsigmf и psigmf.
Описание основной сигмоидной функции:
у ~ sigmffx, [а с]).
В аналитической форме сигмоидная функция эдри/запи-
сывается следующим образом:
fix, a, с) = ------.
1 + е~й(х-с)
В зависимости от знака параметра а рассматриваемая ФП
будет открыта или справа или слева (рис. П4, а), что позволит
применять ее при описании таких нечетких понятий, как
«очень большой», «крайне отрицательно» и др.
Описание дополнительной сигмоидной функции:
у - dsigmf(х, [а1г сг, а2, сг]) .
ФП dsigmf зависит от четырех параметров q, С2 и с2 и
определяется как разность двух сигмоидных функций^ (х, q,
С|) -/г(х, а2, с2) (рис. П4, б).
Описание дополнительной сигмоидной функции:
у ~ psigmf (х, [ аг, clf а2, с2]) .
ФП psigmf так же как и предыдущая функция, зависит от
четырех параметров q, q, с-^ и определяется как произ-
234
а б в
Рис. П4. Сигмоидные функции принадлежности:
а — основная односторонняя; б — дополнительная двухсторонняя;
в — дополнительная несимметричная
ведение двух сигмоидных функций: /](х, С|) /2(х, аг, сг)
(рис. П4, в).
Пример П5. Программа использования сигмоидных
функций.
к = О : 0,1 : 10;— определяется базовое множество
subplot (1,3,1); — формируется матрица графиков (3x1)
— первый элемент — текущий
y=sigmf(х, [2 4]) ;
plot(х, у); — выводится график в первый элемент
матрицы
xlabel ('sigznf, Р = [2 4]’)
subplot(1,3,2); — выбирается второй текущий элемент
У = dsigmf(х, [5 2 5 7]);
plot (х, у) ; — выводится график во второй элемент
матрицы
Рис. П5. Полиномиальные функции принадлежности’
а — Z-функция; б — /7-функция; в — S-функция
xlabel ('dsigmf, Р [5 2 5 7]')
subplot (1,3,3) ; — выбирается третий текущий элемент
у = psigmf (х, [2 3 -5 8J);
plotfx, у); — выводится график в третий элемент
матрицы
xlabel ('psigmf, Р = [2 3 -5 В]');
Инструментарий нечеткой логики (fuzzy logic toolbox)
в составе Matlab предоставляет возможность формирова-
ния ФП на основе полиномиальных кривых. Соответствую-
щие функции называются Z-функции (ап/), Р7-функпии
(jrimf) и S-функции (smf). Функция zmf представляет собой
асимметричную полиномиальную кривую, открытую слева
(рис. П5, а), функция яи/ — зеркальное отображение функ-
ции zmf (рис. П5, б). Соответственно функция pimf равна ну-
лю в правом и левом пределах и принимает значение, равное
единице, в середине некоторого отрезка (рис. П5, в).
Описание функции:
у - zmffx, [a b] ) .
Параметры а и b определяют экстремальные значения
кривой (рис. П5, а).
Описание функции:
у = pimf(x, [а b с d] ) .
Параметры and задают переход функции в нулевое зна-
чение, а параметры b и с — в единичное (рис. П5, 6).
Описание функции'
у = smf (х, [а Ь]) .
Параметры а и b определяют экстремальные значения
кривой (рис. П5, в).
Пример П6. Программа использования полиномиальных
кривых.
х = 0 : 0,1 : 10;
subplot (1,3,1) ;
у = zmf (к, [3 7J);
plot (х, у);
xlabel('zmf, Р=[3 7] *);
subplot (1, 3, 2);
у - pimf (к, [1 4 5 10]) ;
plot (х, у); 1
xlabel ( 'pimf, Р = [1 4 5 10] ') ;
subplot(1, 3, 3) ;
у = smf(x, [1 8]);
plot (х, у);
xlabel ('smf, P=[l 8]').
Помимо рассмотренных выше функций, позволяющих
представлять нечеткие множества, в Matlab имеется возмож-
ность формировать собственные ФП или модифицировать
встроенные.
Операции с нечеткими множествами. Выделяют три основ-
ные логические операции с нечеткими множествами: конъ-
юнкцию, дизъюнкцию и логическое отрицание. В среде Mat-
lab существует возможность определять конъюнктивные и
дизъюнктивные операторы с точки зрения минимаксной и
вероятностной интерпретаций.
Рассмотрим минимаксную интерпретацию логических
операторов, в которой конъюнктивный оператор представля-
Рис. Пб. Пересечение (с) и объединение (б) нечетких множеств
(минимаксная интерпретация)
ет нахождение минимума — min (рис. П6, а), а дизъюнктив-
ный — максимума — max (рис. Пб, б).
Описание конъюнктивной функции:
У = min (1У1; у2]>
Описание дизъюнктивной функции:
у = max ([у1г- у2]>
Параметры у( и представляют собой исходные ФП.
Функция min работает со списком ФП. В Matlab список
оформляется квадратными скобками, а элементы списка раз-
деляются точкой с запятой.
Пример П7. Программа использования операций min и
max.
х = 0 : 0,1 : 10;
subplot (1, 2, 1) ;
yl = gaussmf(х, [3 5]);
у2 = gaussmf (х, [3,7]);
уЗ = min([yl; у2]);
plot(x, [yl; у2], ': ; — построение исходных ФП пунк-
тирной линией
hold on; — включение механизма добавле-
ния кривой в текущий график
plot (x, уЗ);
hold off; — выключение механизма добав-
ления кривой в текущий график;
subplot(1, 2, 2);
у 4 = max ( [yl; у2]);
plot (х, [yl; у2], ':;
hold on;
plot (к, у 4) ;
hold off.
Пунктирной линией на графиках изображены исходные
ФП, а сплошной линией — результат действия логических
операторов.
Минимаксная интерпретация является наиболее распро-
страненной при построении нечетких систем. Тем не менее
на практике довольно часто используется альтернативная ве-
роятностная интерпретация конъюнктивных и дизъюнктивных
операторов. Matlab содержит соответствующие функции.
В рамках данной интерпретации конъюнктивный опера-
тор представляет собой оператор вычисления алгебраиче-
ского произведения — prod (рис. П7, а), а дизъюнктивный
оператор — оператор вычисления алгебраической суммы —
probor (рис. П7, б).
Рис. П7. Пересечение (о) и объединение (б) нечетких множеств
(вероятностная интерпретация)
Описание функции:
У = prod ([у г; y2J).
Описание функции:
у = ргоЬог([уг; у21)
Параметры yj и представляют собой исходные ФП.
Пример П8. Программа использования вероятностных
операторов конъюнкции и дизъюнкции.
х = 0 : 0,1 : 10;
subplot(1, 2, 1);
yl ~ gaussmf(х, [3 5J);
у2 = gaussmf (х, [3,7]);
уЗ = prod ( [yl; у 2] ) ;
plot(x, [yl; у2], •)
hold on;
plot (x, уЗ) ;
hold off;
subplot (1, 2, 2);
у4 ~ probor([yl; у2]);
plot(x, [yl; y2J,
hold on;
plot(x, y4) ;
hold off.
Рис. П8. Дополнение нечеткого множества
Дополнение нечеткого множества есть не что иное, как
математическое представление вербального выражения «НЕ
А» (рис. П8), где А — нечеткое множество, описывающее не-
которое размытое суждение.
Описание функции дополнения:
где у* — исходная ФП
Пример П9. Программа использования операции допол-
нения.
х = О : 0,1 : 10;
yl = gaussmf (х, [3 5]);
у = 1 - yi;
plot (к, yl, ': ') ;
hold on;
plot (x, у);
hold off;
Контрольные вопросы
1. Что такое нечеткое множество и каково его основное от-
личие от обычного (четкого) множества?
2. Что такое функция принадлежности?
3. Какие конъюнктивные и дизъюнктивные операторы вы
знаете9
Лабораторная работа № 2.
Моделирование нечеткой системы средствами
инструментария нечеткой логики
Цель работы: изучить метод построения нечеткой
системы средствами инструментария нечеткой логики (ИНЛ).
В составе Matlab присутствуют пять основных средств гра-
фического интерфейса пользователя (ГИП), которые обеспе-
чивают доступ к ИНЛ: редакторы системы нечеткого вывода
(СНВ), функции принадлежности, правил вывода, а также
средства просмотра правил и поверхности вывода. Эти сред-
ства связаны между собой динамически и производимые из-
менения в одном из них влекут изменения в других.
Редактор СНВ предоставляет возможность форм рования
проектируемой системы на высоком уровне абстракции: ко-
личество входных и выходных переменных, наименование
переменных.
Редактор ФП используется для определения формы ФП,
ассоциированных с каждой переменной.
Редактор правил вывода применяется для редактирования
списка правил, которые определяют поведение проектируе-
мой системы.
Средство просмотра правил вывода используется в целях
диагностики и может показывать, например, активность пра-
вил или форму влияния отдельных ФП на результат нечеткого
вывода.
Средство просмотра поверхности вывода используется для
отображения зависимости выхода системы от одного или двух
входов. Другими словами, оно генерирует и выводит карту
поверхности вывода разработанной СНВ.
Редактор СНВ. Построение нечетких систем по Мамдани.
Для построения создаваемой системы в командной строке ос-
новного окна Matlab необходимо набрать команду fuzzy. Окно
редактора новой СНВ содержит входную, обознач иную
inputI и выходную — outputl переменные. По умолчанию
ИНЛ предлагает создавать СНВ типа Мамдани.
Для того чтобы добавить новую переменную, необходимо
выбрать в меню Edit соответствующий пункт (для входной пе-
ременной — Add input, для выходной — Add output). Измене-
ние наименования переменной происходит по шагам.
Шаг 1. Отмечается переменная, которую необходимо
переименовать.
Шаг 2. В поле редактирования изменяется наименова-
ние переменной по умолчанию на имя, предложенное поль-
зователем.
Сохранение проектируемой системы в рабочее простран-
ство среды MATLAB (в переменную) производится с по-
мощью пункта меню File — Save to workspace as... В этом слу-
чае данные сохраняются до окончания сеанса работы с Mat-
lab. Для сохранения данных на диске после окончания сеанса
работы применяется соответствующий пункт того же меню —
Save to disk as...
Редактор ФП. Следующим шагом в построении нечеткой
модели средствами ИНЛ является ассоциирование набора
242
ФП с каждой входной и выходной переменной. Данная опе-
рация производится в редакторе ФП тремя способами, акти-
визировать который можно:
• выбором в меню Hew пункта Edit Membership Functions... -,
• двойным щелчком мыши на изображении соответствую-
щей переменной (входной или выходной);
• набором в командной строке оператора mfedit.
С помощью редактора ФП можно отображать и редакти-
ровать любые ФП, ассоциированные (связанные) со всеми
входными и выходными переменными разрабатываемой СНВ.
Связывание ФП с именем переменной происходит сле-
дующим образом:
• выбирается переменная по имени из набора графических
объектов окна редактора ФП;
• указывается диапазон изменения значений для базовой и
видимый диапазон для текущей переменных;
• в меню Edit выбирается пункт Add MFs... В появившемся
окне выбирают вид ФП и их количество.
Редактируют ФП текущей переменной двумя способами:
используя графическое окно ФП или изменяя характеристи-
ки ФП (наименование, тип и числовые параметры). При вы-
боре необходимой ФП в графическом окне допускается плав-
ное изменение кривой с помощью мыши.
Таким образом, при построении СНВ необходимо с по-
мощью редактора ФП определить соответствующие функции
для каждой из входных и выходных переменных.
Редактор правил вывода. После того как указано количе-
ство входных и выходных переменных, определены их наиме-
нования и построены соответствующие ФП, в СНВ необхо-
димо включить правила вывода. Для этого в меню View вы-
бирается пункт Edit Rules... или в командной строке Matlab
набирается команда ruleedit
Основываясь на описаниях входных и выходных перемен-
ных, определенных в редакторе ФП, редактор правил вывода
формирует структуру правила автоматически. От пользовате-
ля требуется лишь связать значения входных и выходных пе-
ременных, выбирая из списка заданных ранее ФП и опреде-
лить логические связки между ними. Также допускается ис-
пользование логического отрицания (НЕ) и изменение весов
правил в диапазоне от 0 до 1.
Правила вывода могут отображаться в окне в различных
форматах, которые определяются путем выбора соответст-
вующего пункта подменю Format меню Options. По умолча-
нию используется расширенный формат отображения правил
вывода (verbose form):
If (input_lls <and,or>..
(input__i is [not]<and,or>
(input_n is [not]mf~_njn) then
(output_l is[notjmf_n + ljn + 1)<andf or>
(output_k is[not]mf_k + njk + n)<and,or>...
(output_m is[not]mf_m + njw + n) (w),
где i — номер входной переменной;
jt — номер ФП i-H переменной,
к — номер выходной переменной;
п — количество входных переменных;
т— количество выходных переменных;
w — вес правила
Круглые скобки заключают в себе обязательные параметры, квадратные —
необязательные, а угловые — альтернативные параметры (один на выбор).
Кроме формата по умолчанию, существуют еще два вида
форматов отображения правил: символьный (symbolic form) и
индексный (indexed form). Символьный формат имеет следую-
щий вид:
(input_l<~=,==>mf_ljг) <&, | >...
(i.nput_l<^=,==>mf_ij1) <£,|>
(input_n<~=, =>mf_n jc) =>
(output_l<~=,~=>mf_n + ljn + i)-<&,\>
(output_k<~=,==>mf_k + njk + n)<&, l>-
(output_m<~=,==>rnf_m + nj^ x n) (w)
Отличие символьного формата от расширенного состоит в
том, что вместо словесной интерпретации связок использует-
ся символьная (символы «&» и «|» — соответственно опреде-
ляют логическое И и логическое ИЛИ, символ — логи-
ческое отрицание, а символ «=>» является разделителем ус-
ловной и заключительной частей правила (антецендента и
консеквента).
Обшее описание правила вывода в индексном формате
может быть представлено в следующем виде:
НVi l-lv, (-)«/»[-]« + 1/я +1 I-]* +
+ «Л + + «Л» + „(»):<!,2>.
Здесь порядок следования чисел соответствует очередности
вводимых переменных, причем символ «,» разделяет правило
на условную и заключительную части. До двоеточия записы-
вается порядковый номер соответствующей ФП, после двоето-
чия — вид логической связки («1» — логическое И, «2» — ло-
ическое ИЛИ) Логическое отрицание задается символом «-».
После определения правил вывода в одноименном редак-
торе можно утверждать, что СНВ полностью создана.
Пример П10. Создание СНВ.
Рассмотрим следующую ситуацию. Необходимо оценить
степень инвестиционной привлекательности конкретного
бизнес-проекта на основании данных о ставке дисконтирова-
ния и периоде окупаемости.
Шаг 1. Вызываем редактор для создания СНВ, набирая
в командной строке fuizy. Добавляем входную переменную
посредством выбора в меню Edit пункта Add input. В резуль-
тате получаем следующую структуру СНВ: два входа, меха-
низм нечеткого вывода по Мамдани, один выход. Объявляем
первую переменную как discont, а вторую — period, которые
соответственно будут представлять ставку дисконтирования и
период окупаемости бизнес-проекта. Наименование выход-
ной переменной, на основании которой принимается реше-
ние о степени инвестиционной привлекательности биз-
нес-проекта, задается как rate. Сохраним создаваемую модель
под именем Invest. На рис. П9 представлено текущее состоя-
ние окна редактора СНВ.
Шаг 2. Каждой входной и выходной переменной поста-
вим в соответствие набор ФП. Данная процедура реализуется
в редакторе ФП. Для discont определяем диапазон базовой пе-
ременной от 5 до 50 (единица измерения — проценты). Такой
же диапазон выбираем для ее отображения Добавим три ФП,
тип которых — trimf. Последовательно выделяя мышью от-
дельные ФП, присвоим наименования — small, middle, ^со-
ответственно небольшой, средней и большой ставке дискон-
тирования. Окно редактора ФП в текущем состоянии пока-
зано на рис. П10. Переменной period диапазон базовой
переменной определен равным [3, 36] (единица измерения —
месяцы), поставлены в соответствие три ФП типа gaussmf с
наименованиями — short, normal, long. Таким образом, пере-
/ FIS Edrtci. Invetl
Рис. П9. Окно редактора системы нечеткого вывода
Рис. П10. Окно редактора ФП
менная срока окупаемости бизнес-проекга будет принимать
следующие значения: короткий, обычный и длительный срок
окупаемости. Наконец, для переменной rate определяем: ба-
зовая переменная изменяет значение в диапазоне (0, 1], се-
мантика описывается тремя ФП типа trimf с наименования-
ми: bad, normal, good.
Шаг 3. Заключительным этапом построения СНВ явля-
ется определение набора правил, которые задают связь вход-
ных переменных с выходными. Для этого в редакторе правил
вывода определим:
ЕСЛИ discont = small И period = short ТО rate = good
ЕСЛИ discont = HE small И period — long TO rate = bad
ЕСЛИ discont = middle И period = normal TO rate ~ normal
ЕСЛИ discont = big И period = short TO rate = normal
Текущее состояние окна редактора правил вывода пока-
зано на рис. ПН. В расширенном формате отображения ука-
занные правила вывода представляются следующим образом:
Рис. П11. Окно редактора правил вывода
f(discont is small) and (period is short) then (rate is good) (1)
if(discont is not small) and (period is long) then (rate is bad) (1)
if(discont is middle) and (period is normal) then (rate is normal) (1)
iffdiscont is big) and (period is short) then (rate is normal) (1)
При изменении формата на символьный правила вывода
будут иметь вид:
(discont = small) & (period == short) => (rate == good) (1)
(discont ~= small) & (period == long) => (rate = bad) (1)
(discont == middle) & (period—= normal) => (rate == normal) (1)
(discont == big) & (period == short) => (rate == normal) (I)
Наконец, то же самое, но в индексном формате:
НД1) : 1
-13,1(1): 1
22,2(1) 1
31,2(1): 1.
Средство просмотра правил вывода. Данное средство про-
смотра правил вывода позволяет отобразить процесс нечет-
кого вывода и получить результат. Главное окно средства про-
смотра состоит из нескольких графических окон, располагае-
мых по строкам и столбцам. Количество строк соответствует
числу правил нечеткого вывода, а количество столбцов —
числу входных и выходных переменных, заданных в разраба-
тываемой СНВ. Дополнительное графическое окно служит
для отображения результата нечеткого вывода и операции де-
фазификации. В каждом окне отображается соответствующая
ФП, уровень ее среза (для входных переменных) и вклад от-
дельной ФП в общий результат (для выходных переменных).
В нижней части главного окна можно отобразить номера
правил вывода в различных форматах вывода, отмечая их
мышью. Для изменения формата в меню Options выбирается
пункт Rule display format.
Изменение значений входных переменных допустимо
двумя способами:
1) путем ввода в поле Input записи входного вектора, раз-
мерность которого равна количеству входных переменных,
2) щелчком мыши в любом графическом окне, которое
относится к входной переменной.
Входной вектор в каждом из этих вариантов определения
исходных данных будет задавать набор красных вертикальных
прямых.
Для СНВ, рассмотренной в примере П10, при входном век-
торе [15 10] (ставка дисконтирования— 15 %, период окупаемос-
ти бизнес-проекга — 10 месяцев) результат (степень инвестици-
онной привлекательности) будет составлять 0,585 (рис. П12).
Средство просмотра поверхности вывода. Средство про-
смотра поверхности вывода позволяет строить трехмерную
поверхность как зависимость одной из выходных переменных
от двух входных. Выбор входных и выходных переменных
осуществляется посредством ниспадающих меню главного
окна рассматриваемого программного средства. Количество
выводимых линий по осям X и У определяется в полях ввода
X grids, Ygrids. Поверхность вывода, соответствующая прави-
лам вывода примера П10 показана на рис П13.
Построение нечетких систем типа Суджено. Рассмотрим
построение СНВ двумя редакторами — СНВ и ФП. Для
Рис. П12. Окно средства просмотра правил вывода
построения СНВ типа Суджено необходимо в меню Tile вы-
брать пункт New Sugeno FIS. Количество входных и выходных
переменных определяется так же, как и при построении СНВ
типа Мамдани.
Редактор ФП. Для СНВ типа Суджено изменения касают-
ся только схемы определения ФП для выходных переменных.
ИНЛ в среде Matlab позволяет разрабатывать два вида нечет-
ких моделей. Первая модель — это нечеткая модель Суджено
нулевого порядка. Нечеткое правило вывода имеет следую-
щий вид:
if х is A and у is В then z — к,
где А и В — нечеткие множества антецедента;
к — четко заданная константа консеквента.
Для построения такой модели при добавлении ФП необ-
ходимо выбрать тип — константа (constant) и задать в качестве
параметра ФП численное значение соответствующей конс-
танты. Вторая модель — нечеткая модель Суджено первого
Рнс. П13. Окно просмотра поверхности решений
Рис. П14. Окно просмотра правил вывода (вывод по Суджено)
порядка. Для нее нечеткое правило вывода записывается сле-
дующим образом:
if х as A and у is В then z~ р ‘ х+ q • у + г,
р, ди г — константы.
В данном случае тип ФП — линейная зависимость {linear).
Для определения параметров ФП необходимо ввести вектор,
элементы которого соответствуют численным значениям
констант консеквента.
Работа с редактором правил вывода, а также со средствами
просмотра правил и поверхности вывода выполняется анало-
гично случаю построения СНВ по Мамдани.
Пример нечеткого вывода по Суджено с использованием
нечеткой модели нулевого порядка и правил вывода, опреде-
ленных выше, представлен на рис П14 (выходная переменная
имеет три значения: bad, normal, good, которые задаются со-
ответственно тремя константами — 0, 0,5, 1).
Контрольные вопросы
1. Какова структура типовой системы нечеткого вывода?
2. В чем отличие метода нечеткого вывода по Суджено от ме-
тода нечеткого вывода по Мамдани?
3. Каким образом формируются антецеденты и консеквенты
нечетких правил в Matlab?
Лабораторная работа Ns 3.
Исследование алгоритма нечеткой
кластеризации
Цель работы: изучить алгоритм нечеткой кластери-
зации, получить практические навыки решения задач класте-
ризации методами нечеткой логики.
FCM-алгоритм кластеризации. Алгоритм нечеткой класте-
ризации называют FCM-алгоритмом (Fuzzy Classifier Means,
Fuzzy С-Means). Целью FCM-алгоритма кластеризации явля-
ется автоматическая классификация множества объектов, ко-
торые задаются векторами признаков в пространстве призна-
ков. Другими словами, такой алгоритм определяет кластеры
и соответственно классифицирует объекты. Кластеры пред-
ставляются нечеткими множествами, и, кроме того, границы
между кластерами также являются нечеткими.
FCM-алгоритм кластеризации предполагает, что объекты
принадлежат всем кластерам с определенной ФП. Степень
принадлежности определяется расстоянием от объекта до со-
ответствующих кластерных центров. Данный алгоритм ите-
рационно вычисляет центры кластеров и новые степени при
надлежности объектов.
Для заданного множества К входных векторов хк и N вы-
деляемых кластеров с,- предполагается, что любой хк прина-
длежит любому Cj с принадлежностью е [0,1], где j — номер
кластера, а к — входного вектора. Принимаются во внимание
следующие условия нормирования для
= 1, V* = 1, ...,К;
0< £ рл<К, V/=l, ,,N.
к- 1
Цель алгоритма — минимизация суммы всех взвешенных
расстояний ||лд — ej|:
N К
Z Z - cj -» min,
/= 1 Jt= 1
где д — фиксированный параметр, задаваемый перед итерациями.
Для достижения вышеуказанной цели необходимо решить
следующую систему уравнений:
z 2. _ cJl]= °-
0/ес, х
У=1
£(Рл)’1к-С;11
*-1 >
= 0.
Совместно с условиями нормирования рд. данная система
дифференциальных уравнений имеет следующее решение:
N а
£A»Jk) xk
с = --------
1 к
Jt= 1
(взвешенный центр гравитации) и
1Ж-^|№~1)
ИД' дг
y(l/|K-cJ|,/w-,))
Алгоритм нечеткой кластеризации выполняется по шагам.
Шаг 1. Инициализация.
Выбираются следующие параметры:
• необходимое количество кластеров N, 2 < N < К;
• мера расстояний, как Евклидово расстояние,
• фиксированный параметр q (обычно —1,5);
• начальная (на нулевой итерации) матрица принадлежнос-
ти (Л0) = (ц,*)*0* объектов хк с учетом заданных начальных
центров кластеров с,.
Шаг 2. Регулирование позиций с/' центров кластеров.
На г-м итерационном шаге при известной матрице pJa? вы-
числяется в соответствии с вышеприведенным решением
системы дифференциальных уравнений.
Шаг 3 Корректировка значений принадлежности \iJk.
Учитывая известные cj'1, вычисляются pjj?, если хк # с;, в
противном случае:
М* 10, иначе.
Шаг 4. Остановка алгоритма.
Алгоритм нечеткой кластеризации останавливается при
выполнении следующего условия:
||П('+ 1> - < а,
где || || — матричная норма (например, Евклидова норма);
е — заранее задаваемый уровень точности.
Решение задач кластеризации. Существуют два способа ре-
шения задач кластеризации в Matlab: с использованием ко-
мандной строки или графического интерфейса пользователя
Рассмотрим первый из указанных способов.
Для нахождения центров кластеров в Matlab имеется
встроенная функция fem, описание которой представлено ниже.
Описание функции:
[center, U, obj_jcn} =fcm(data, cluster_n).
Аргументами данной функции являются:
1) data — множество данных, подлежащих кластеризации,
каждая строка описывает точку в многомерном пространстве
характеристик;
2) cluster п — количество кластеров (более одного).
Функцией возвращаются следующие параметры:
1) center — матрица центров кластеров, каждая строка ко-
торой содержит координаты центра отдельного кластера,
2) U — результирующая матрица ФП,
3) objjen — значение целевой функции на каждой итерации.
Пример П11. Программа нечеткой кластеризации.
// загрузка данных, подлежащих кластеризации, иэ файла
toad fandata,dat;
// определение центров кластеризации (два кластера)
[center, U, obj_fcm] - fem(femdata, 2);
// определение максимальной степени принадлежности
//отдельного элемента данных кластеру
maxU = max(U);
// распределение строк матрицы данных между соответ-
//ствующими кластерами
indexl = find(U(l, :) == maxU) ;
index2 = find(U(2, :) == maxU);
// построение данных, соответствующих первому кластеру
plot{femdata(indexl, 1) , femdata(indexl, 2), *ko',
'markersize', 5,'LmeWidth ',1);
hold on
// построение данных, соответствующих второму кластеру
plot(femdata(index2, 1), femdata (index2, ), kx',
'markersize*, 5, 'LineWidth*, 1);
// построение кластерных центров
plot (center(1, 1) , center (1, 2), 'ko', 'markersize',
15, 'LineWldth', 2)
plot(center (2, 1),center (2, 2), 'kx', 'markersize *,
15, 'LineWidth', 2)
На рис. П15 представлено множество данных, подлежа-
щих кластеризации и найденные центры кластеров для при-
мера П.11).
Функция fem выполняется итерационно до тех пор, пока
изменения целевой функции превышают некоторый задан-
ный порог. На каждом шаге в командном окне Matlab выво-
дятся порядковый номер итерации и соответствующее теку-
щее значение целевой функции.
Номер Значения целевой
итерации функции
1 8,94
2 7,31
3 6,90
4 5,41
5 4,08
6 3,83
Номер Значения целевой
итерации функции
7 3,81
8 3,80
9 3,79
10 3,79
11 3,79
12 3,78
Для оценки динамики изменения значений целевой функ-
ции используется команда построения графика plot(ob£Jfc/?).
Результаты примера ПИ показаны на рис. П16.
Рис. П16. График изменения значений целевой функции
Функцию кластеризации можно вызвать с дополнитель-
ным набором параметров: fcm(data, cluster_n, options'). Допол-
нительные аргументы используются для управления процес-
сом кластеризации:
• options(Y) — показатель степени для матрицы U(по умол-
чанию — 2.0);
• options(2) — максимальное количество итераций (по умол-
чанию — 100);
• options^) — предельное изменение значений целевой
функции (по умолчанию — 1е~5);
• optionsffi) — отображение информации на каждом шаге
(по умолчанию — 1).
Пример определения функции fem с дополнительными
параметрами:
[center, U, objjen} = femfjemdata, 2, [2,100,1с- 5,1]).
Второй способ решения задач кластеризации в Matlab ос-
нован на использовании ГИП, который вызывается командой
findcluster. Главное окно инструмента кластеризации показа-
но на рис. П17.
Кнопка <Load Data> используется для загрузки подлежа-
щих кластеризации исходных данных следующего формата:
каждая строка представляет собой точку в многомерном про-
странстве характеристик, количество строк соответствует ко-
личеству точек (элементов данных). Графическую интерпре-
тацию исходных данных можно наблюдать в одноименном
окне главного окна инструмента.
Выбор типа алгоритма кластеризации осуществляется с ис-
пользованием ниспадающею меню Methods (пункт меню —
fem). Далее определяются параметры алгоритма кластеризации:
• количество кластеров (строка ввода — Cluster Num);
• максимальное количество итераций (строка ввода — Мах
Iteration#);
• минимальное значение улучшения целевой функции
(строка ввода — Min. Improvement);
• показатель степени при матрице ФП (строка ввода — Ex-
ponent)
После определения необходимых значений указанных
параметров осуществляется запуск алгоритма кластериза-
257
, 7-КЮ
Рис. П17. Главное окно кластеризации в Matlab
ции с помощью кнопки <Start>. Количество произведен-
ных итераций и значение целевой функции можно просмот-
реть в нижней части главного окна инструмента кластери-
зации.
Координаты найденных центров кластеров можно сохра-
нить, щелкнув мышью по кнопке <Save Center...>. Каждая
строка матрицы в файле представляет собой набор координат
отдельного кластера. Количество строк соответствует количе-
ству кластеров.
Контрольные вопросы
1. В чем заключается задача кластеризации?
2. Каковы основные этапы решения задачи кластериза-
ции?
3. Какое влияние на качество решения оказывают допол-
нительные параметры алгоритма кластеризации?
П2. Нейронные сети
Лабораторная работа № 4.
Изучение свойств линейного нейрона
и линейной нейронной сети
Цель работы: изучить свойства линейного нейрона.
Для работы с нейронными сетями необходимо инсталли-
ровать Matlab и обладать первоначальными знаниями относи-
тельно языка системы. Поскольку Matlab представляет собой
интерпретатор, то обучение инструментарию нейронных сетей
заключается в основном в изучении функций и их параметров.
Узнать возможности нейрона как классификатора простых
линейно сепарабельных задач можно путем проведения экс-
периментов с моделью одного линейного нейрона.
Функция newp. Для того чтобы создать нейрон, используют
функцию newp, имеющую следующий синтаксис:
net — newp(PR, S, TF, LF),
где PR — матрица минимальных и максимальных R входных эле-
ментов;
5 — количество нейронов (при создании одного нейрона 5 = 1);
TF — функция активации (transfer function);
LF — имя функции обучения нейрона.
В случае если параметры функции newp не заданы, их зна-
чения определяются посредством ввода значений в диалого-
вые окна. Построенный нейрон характеризуется функциями
весов (weight function), входов сети (net input function) и оп-
ределенной функцией активации. Функция весов — это ум-
ножение весов на входной сигнал, функция входов сети — их
сумма. Веса задаются как для входов нейрона, так и для фик-
сированного входа, задающего порог срабатывания (bias).
Вектор весов инициализируется нулями. Для обучения ис-
пользуются функции, рассмотренные ниже.
Функция learnp настраивает веса нейрона Синтаксис
функции обучения довольно сложен:
\dW, LS] = learnp(W, Р, Z, N, А, Т, Е, gW, gA, D, LP, LS),
[db, LSI = learnp(b, ones(l,Q), Z, N, A, T, E, gW, gA, D, LP, LS),
info = leamp(code).
Функция leamp (W,P,Z, N, A, T, E, gW, gA, D, LP, LS) имеет
несколько входов, где вектор W — вектор весов; Р — вектор
входов; Z — вектор взвешенных входов; N — вектор сети; А —
вектор выхода; Т — вектор желаемых выходов; Е — вектор
ошибок; gW — вектор изменения весов; gA — изменения вы-
ходов. Функция возвращает значения: dW — изменения мат-
рицы весов, LS — новый уровень обученности
Функция leamp может быть использована с параметрами
по умолчанию:
dW= leamp([ ], ₽,[],[],[],[ I, е, [],[],[],[ I, [ ]).
Использование пустого списка [ ] означает параметр по
умолчанию.
Функция leamp вычисляет изменение весов т/Ждля задан-
ного нейрона в соответствии с правилом обучения перцепт-
рона:
(О, если ошибка е = О,
р', если е = 1,
—р', если е = 1,
т. е. dw = е • р.
Функция обучает нормализованные веса:
[dW, LS] = leampn] IP, P, Z, N, A, T, E, gW, gA, D, LP, LS).
Функция leampn вычисляет изменение весов dWдля дан-
ного нейрона и его входа Р и ошибки Е в соответствии с нор-
мализованным правилом обучения перцептрона:
рп = р/7( 1 + X1) + й(2)2 + — + Р(Л) ),
10, если ошибка е = 0,
рп', если е = 1,
-рп', если е - 1,
т. е. dw = е • пр'.
Линейный нейрон имеет одно существенное ограничение.
Входные векторы должны быть линейно сепарабельны. Если
векторы невозможно отделить прямой или гиперплоскостью,
то перцептрон не способен решить задачу классификации.
Функция adapt адаптирует нейрон к условиям задачи:
[пет, У, Е, Pf, Af] — adaptlnet, Р, Т, Р„ А,).
Параметры функции: net — имя сети, Р — входы сети, Т—
желаемый выход, Pt — исходные условия задержки, А, — ис-
ходные условия задержки для слоя. Функция возвращает па-
раметры адаптированной сети net.adaptParanv. net — изменен-
ная сеть, У— выход сети, Е —ошибки сети, Pf— условия за-
держки входов, Af — условия задержки слоя. Параметры Р, и
Pf необязательные и необходимы только для сетей, имеющих
задержки на входах и слое.
Функция train также обучает нейронную сеть и использует
следующий синтаксис:
[net, tr\ — train{NET, Р, Т, Р„ Д);
[net, tr] = train(NET, Р, Т, Р1г А„ W, TV}.
Функция train(net, Р, Т, Pif А,) имеет следующие парамет-
ры: net — сеть, Р — входы сети, Т — желаемый выход, Р, —
исходные условия задержки входа, А, — исходные условия за-
держки слоя.
Функция имитирует нейронную сеть:
[Y,Pf,Af] = sim(nei, Р, Рь А,),
где net — сеть;
Р — входы сети;
Pi — исходные условия задержки входов сети;
А( — исходные условия задержки слоя.
Функция
возвращает Y — выходы сети;
Ff — окончательные условия задержки входов;
Af — окончательные условия задержки слоя.
Функции активации. Ниже представлены назначения этих
функций.
Функция Назначение
bardlim (N) Возвращает 1, если N положительное и 0 в противном
случае
fansig (N) Вычисляет гиперболический тангенс от входа.
purelin Вычисляет выход слоя от сетевого входа.
Функции графического интерфейса и вспомогательные
функции. Назначение этих функций представлено ниже.
Функция
axistfXmtn Xmax
Ytnin YmaxJ)
title (‘строка')
rand(M, N)
xlabel( ‘строка')
ylabel{ ‘строка 0
cla reset
hold on и hold off
text(X, Y, 'строка ’)
pause(n)
plot(X, Y/цвет
и символ ’)
plotpv(P, T)
plotes{WV, BVt
ES, V)
plotsom(POS)
ind2vec и vec2ind
full
maxhnlr(P)
trainlm
netprod
init
Назначение
Устанавливает диапазоны координатных осей
Выводит в графическое окно рисунков заголовок
графика
Возвращает матрицу размерности М на N со слу-
чайными значениями
Подписывают наименование координатных осей
Очищает координатную сетку в окне рисунков
Включают и отключают режим добавления графи-
ков на координатную сетку
Выводит строку, начиная с указанных координат
в поле рисунков
Ожидает пользовательского ответа п секунд
Изображает на координатной сетке точки с коор-
динатами, заданными векторами X, Y, с помощью
указанного символа и цвета1.
Изображает точки Р указанными маркерами Т, где
Р — матрица входных векторов размерностью R на
Q (Я должен быть 3 или меньше), Т— матрица дво-
ичных векторов размерностью S на Q (S должен
быть 3 или меньше)
Изображает поверхность ошибки на отдельном
входе, где WV — вектор строк значений весов W
размерности N, BV— вектор строк значений поро-
гов В размерности М ES — матрица ошибки раз-
мерности М на N, V— угол зрения по умолчанию
[-37,5, 30[
Изображает позицию нейрона красной точкой,
связывая синей линией нейроны, находящиеся
друг от друга на расстоянии 1 POS — матрица S
TV-размерных нейронов
Позволяют представить индексы либо собственно
значениями индексов, либо векторами, строки ко-
торых содержат 1 в позиции индекса2
Преобразует разреженную матрицу в полную
Функция возвращает максимальный уровень обу-
ченности линейного слоя без bias, который обучал-
ся только на векторе Р
Выполняет обучение многослойной НС методом
Левенберга—Марквардта
Входная сетевая функция, которая вычисляет вы-
ход сетевого слоя, умножая входной вектор на веса
и прибавляя bias
Итеративно инициализирует НС
Например, plot(X, Yt' £+ ') изображает точки зеленого цвета с по-
мощью символа «+».
2Например, для четырех векторов (содержащих только одну 1 в каждой
строке) можно найти индексы единиц: vec — [1 000; 001 0, 01 011,
in d = vec2ind(yec)
Структура данных описания нейронных сетей. Структура
данных net — это описание обученной НС. Обучение осу-
ществляется в соответствии со следующими параметрами,
значения которых либо устанавливаются пользователем, либо
по умолчанию.
Структура данных
net tramParam.epochs 100
net.tramParam.goal О
net.trainParam.maxJail 5
net.trainParam metn_reduc 1
net.trainParam mingrad
le-10
net.trainParam.show 25
net.trainParam.time inf
TH
TRepoch
TR.perf
TR.vperf
TR.tpeif
TR.mu
KouM<*im| ий
максимальное количество эпох обучения
целевое значение ошибки
максимальное значение ошибки
фактор оптимизации процесса обучения:
оптимизация использования памяти или
времени процессора
минимальное значение градиента
количество эпох между показами
максимальное время обучения в секундах
структура данных, содержащая значения об
обученности НС в текущую эпоху
номер эпохи
уровень обученности (Training performance)
степень качества (Validation performance)
результативность обработки теста ( Test per-
formance)
значение адаптивности
Структура данных описания адаптированной НС
net.adaptfcn включает в себя следующие поля net.adapt.рагапт.
NET — адаптированная НС;
У — выходы НС;
Е — ошибки НС;
Pf — окончательные входные значения задержек;
Af — окончательные выходные задержки;
TR — результат обучения (эпохи и целевая ошибка).
Проведем в среде Matlab toolbox эксперименты, используя
рассмотренные функции.
Пример П12. Создание нейрона, выполняющего функ-
цию логического И.
Создадим нейрон с одним двухэлементным входом (ин-
тервалы первого и второго элементов [0; 1]). Определим два
первых параметра функции newp, а в качестве значений
третьего и четвертого параметра (типа ФА и имени процедуры
обучения) воспользуемся значениями по умолчанию.
\\ создание нейрона с одним двухэлементным входом (ин-
тервал первого элемента [О; 1] и интервал второго эле-
мента [-2; 2]
net = newp ([О 1; -2 2], 1);
Для того чтобы исследовать поведение нейрона, необхо-
димо имитировать его работу с помощью функции sim. Для
определения последовательности значений входа создадим
последовательность Р1\
\\ создание последовательности значений входа
Р1 = {[О; 0] [О; 1] [1; 0] [1; 1]};
\ \ имитация работы нейрона net на последовательности
входов Р1 желаемых выходов — Т, которая позволит нам
провести адаптацию нейрона (обучить его) через 20 про-
ходов .
Y = sim(net, Pl);
\\ создание последовательности выходов
Т1 = {О, 0, 0, 1);
\\ установка количества проходов (циклов) адаптации
net.adaptParam.passes — 20;
\\ адаптация нейрона net для обучающей выборки <Р1;Т>
net = adapt(net, Pl, Tl);
\\симуляция работы нейрона net на последовательности
входов Pl
Y = simfnet, Pl);
В результате мы получим нейрон, выполняющий функ-
цию логического И.
Прим ер П13. Обучение нейрона выполнению функции
логического ИЛИ.
Для переобучения нейрона на выполнение функции ИЛИ
переопределим входы Р и выходы Т.
\ \ создание последовательности входов
Р2 = [001 1; 01 0 1];
\ \ создание последовательности выходов (реакций)
для нейрона, выполняющего функцию логического ИЛИ
Т2 = [О, 1, 1, 1];
Инициализируем нейрон, обучим его на 20 проходах
(эпохах)
\\ инициализация нейрона net
net = init (net) ;
\ \ имитация работы нейрона net на последовательности
входов Р2
Y — sim(net, P2) ;
\ \ установка количества проходов
net.trainParam.epochs = 20;
\ \ обучение нейрона net на обучающей выборке <Р2, Т2>
net = train(net, Р2, Т2);
\ \ имитация работы нейрона net на последовательности
входов Р2
Y = sim(net, Р2) ;
Для случайного изменения весов и порога срабатывания
используем функцию init. По умолчанию дня создаваемого
нейрона указана функция hardlim, изображенная на рис. П18.
Пример П14. Определение аходов со случайными значе-
ниями.
Определим случайный вход Р и ошибку Е для нейрона с
двухэлементным входом.
\ \ определение входа р как вектора двух случайных
чисел из интервала [0; 1]
р = rand(2,1) ;
\ \ определение входа е как случайного числа
из интервала [0; 1]
е = rand(1,1) ;
При мер П15. Получение графика функции активации
hardlim.
Получим график функции активации для интервала [—3;
+3] с шагом 0.1.
\ \ определение переменной п со значениями из интервала
[-3; 3] с шагом 0.1
а
‘ ‘+1
Рис. П18. Функция активации hardlim
п = -3 : 0,1 : 3;
\ \ вычисление пороговой функции от переменной п
b = hardlim (п);
\\ изображение графика функции b = hardlim(п)
plot(n, b) ;
Пример П16. Имитация работы линейного нейрона.
Создадим с помощью newp нейрон с двухэлементным вхо-
дом (значения входа в интервале [0; 1]) net = леир([0 1;0 1],1).
Функция sim имитирует работу нейрона для отдельного век-
тора и для трех векторов.
\ \ определение двухэлементного вектора
pl = (.3; .7];
\ \ имитация работы нейрона net на входном векторе
результат имитации — вектор al
al = sim(net, pl);
\\определение матрицы входов размерностью 3 на 2
(три двухэлементных вектора)
р2 = (.3 .5 .2; .8 .5 .4];
\ \ имитация работы нейрона net на входном векторе р2,
результат имитации — вектор а2
а2 = sim (net, р2) ;
Пример П17. Обучение нейрона классификации векто-
ров на две категории.
Начнем с классификации векторов на основе двухвходо-
вого нейрона. Будем использовать функцию newp для созда-
ния нейрона, sim для имитации его работы, adapt для адапта-
ции (обучения) нейронной сети. Обучим двухвходовой ней-
рон классифицировать входные векторы на две категории
Определим четыре входных вектора нейрона.
\ \ определение четырех двухэлементных входов
Р = [ ~0,5 -0,5 +0,4 -0,2;
-0,5 +0,5 -0,4 +1,0];
Зададим желаемые выходы нейрона для определенных
векторов.
Т — [1 1 0 0]; определение выходов нейрона — реакций
на входы Р. Изобразим входные векторы (точки) на плос-
кости:
plotpv{P, Т),
Рис. П19. Исходные векторы, предназначенные
для классификации нейроном
Каждый из четырех входных векторов на плоскости Р оп-
ределяется двумя координатами, представленными как двух-
элементные столбцы в матрице Р(рис. П19).
Создадим один линейный нейрон с двумя входами, зна-
чения которых лежат в интервале [— 1, 1].
\ \ создание линейного нейрона с двумя входами
из интервала [-1, 1]
net = newp([-l 1/ -1 1], 1);
Нейрон по умолчанию имеет функцию активации hardlim
и такой нейрон разделяет входные векторы прямой линией.
Определим координаты линии классификации: веса (ЛУ)
и порог срабатывания нейрона (/>)
\\ получение управляющей структуры linehandle
для изображения разделяющей линии в координатах
весов (1М)и порога срабатывания нейрона (Ь).
linehandle = plotpc (net.IW{ 1}, net.b{l});
\ \ изображение разделяющей прямой
plotpc(net.IW{1}, net.b{l});
Если исходным весам задать нулевые значения, то любые
входы дадут одинаковые выходы, и линия классификации не
будет видна на плоскости. Проведем обучение:
\\ очистка координатных осей
cla;
\ \ изображение входных векторов двух категорий,
категория задается элементами вектора т
plotpv(P, Т) ;
\\ получение управляющей структуры linehandle
linehandle = plotpc (net.IW{1], net.bfl]);
\ \ присвоение начального значения ошибки
Е = 1;
\ \ инициализация нейрона
net = init (net) ;
\\ получение управляющей структуры linehandle
linehandle = plotpc (net.IW{ 1}, net.bfl});
\\ организация цикла пока ошибка не равна О
while (mse (Е)) ',
\\ адаптация нейрона net на обучающей выборке <Р, Т>,
функция возвращает адаптированный нейрон net,
выход Y, ошибку Е
[net, Y, Е] = adapt (net, Р, Т) ;
\\ изображение разделяющей прямой нейрона после
адаптации
linehandle = plotpc(net.IW{1} , net.bflf, linehandle);
\\ очистка окна графиков
drawnow;
\\ конец цикла while
end;
Функция adapt возвращает новый объект — сеть, которая
выполняет классификацию, выход сети и ошибку (рис. П20).
Проведем классификацию нового вектора с помощью
обученного нейрона на основе функции sim. Определим но-
вый вектор р.
\ \ определение вектора Р
Р = [0,6; 1,1];
\\ имитация работы нейрона net, получение отклика
нейрона а
а = sim(net, р);
\\ изображение входа р, отнесенного нейроном
к категории а
plotpvfp, а);
Рис. П20. Прямая, разделяющая исходные векторы на классы
Обученный нейрон можно использовать для классифика-
ции любого вектора
\\ включить режим добавления графиков в графическом
окне
hold on;
\\ изображение входных точек в соответствии
с категориями Т
plotpv(P, Т) ;
\ \ изображение разделяющей поверхности
plotpc (net. IW{1} , net.b{l}) ;
\ \ отключение режима добавления графиков
hold off;
Нейрон классифицирует новую точку, как принадлежа-
щую категории «О» (представлена кружком), а не категории
«1» (представлена +).
Пример П18. Создание слоя линейных нейронов.
Рассмотрим последовательность из 10 шагов (для выхода
Т1, который известным образом зависит от входов Р1):
\ \ последовательность входов
Pl - {-1 0 0 0 1 1 -1 0 -1 1};
\ \ последовательность выходов
Т1 = {-1 -1 1 0 1 2 0 -1 -1 1};
Используем функцию newlin, чтобы создать нейрон со зна-
чениями входа в интервале [—1; 1], задержками входа от 0 до
1 и уровнем обучения 0,1.
\ \ создание линейного слоя из одного нейрона
со значениями входа в интервале {-1; 1] , задержками
входа от 0 до 1 и уровнем обучения 0,1.
net = newlin([-l 1], 1, [0 1], 0,1);
Адаптируем нейрон к задаче одним проходом через после-
довательность входа. Измерим среднюю квадратичную ошиб-
ку с ПОМОЩЬЮ функции 7Д5в(е).
\ \ адаптация нейрона к последовательности pl
[net, у, е, pf] = adapt {net, Pl, Tl) ;
\ \ измерение ошибки
mse(e);
Получим довольно большую ошибку. Вновь адаптируем
сеть на 10 шагах последовательности, используя предыдущее
значение /Укак новое исходное значение задержки:
р2 =* {1 -1 -1 1 1 -1 0 0 0 1};
L2 = {2 0 -2 0 2 0 -1 0 0 1};
\ \ адаптация с начальным вектором задержки pf
[net, у, е, pf] = adapt (net, р2, t2, pf);
mse (e);
Адаптируем сеть на 100-разовом прогоне последователь-
ности:
\ \ формирование новой последовательности входов
рЗ - [Р1 р2];
\\ формирование новой последовательности выходов
t3 = [Tl t2] ;
\\ установка количества проходов
net.adapt Param.passes = 100;
\ \ адаптация нейрона
[net, у, e] = adapt (net, p3, t3) ;
mse (e);
Получим приемлемую ошибку, значит сеть обучена зави-
симости выходов от входов.
Пример П19. Изучение возможности линейного нейрона
решать линейно несепарабельные задачи.
Проведем эксперимент с линейным нейроном по класси-
фикации пяти входных векторов на две категории, которые
линейно несепарабелльны (рис. П21). Определим входы ли-
нейного нейрона:
\ \ входы линейного нейрона
Р = [~0,5 -0,5 +0,4 -0,1 —0,9;
-0,5 +0,5 -0,5 +1,0 +0,0];
и вектор желаемых векторов:
Т = [1 1 000]; выходы — реакции нейрона на входы Р
Поскольку векторы разных видов нельзя отделить прямой
линией, их классификация невозможна (рис. П22).
15
0.5
О’-
*05
-16
/0.5 ' “0
Рис. П21. Линейно несепарабельные исходные векторы
Рис. П22. Прямая, не разделяющая исходные векторы на классы
\\ создание нейрона
net = newp ([-2 2; -2 2],1);
\ \ изображение обучающей выборки
plotpv(P,T) ;
\ \ изображение разделяющей прямой
linehandle = plotpc (net. IW{ 1} , net.b{l});
Обучим нейрон классифицикации векторов.
\\ организация цикла обучения нейрона
for а = 1 : 20;
\\ адаптация нейрона
[net, Y, Е] = adapt (net, Р, Т) ;
\ \ получение управляющей структуры изображения
для новой разделяющей прямой
linehandle = plotpc(net.IW{1} , net.bfl}, linehandle);
\ \ изображение разделяющей прямой
drawnow;
\ \ конец цикла
end;
Пики дает возможность адаптировать нейрон при одном
проходе, изобразить линию классификации и остановиться.
Нулевая ошибка, а следовательно, и классификация никогда
не будет получена. Фундаментальное свойство линейного
нейрона — ограничение линейно сепарабельными данными.
Пример П20. Процесс обучения линейного нейрона.
Для выполнения примера будем использовать функции:
newlin — для создания нейрона, train — для обучения, sim —
для имитации поведения нейрона. Определим входы нейрона
и желаемые выходы:
\ \ определение входов нейрона
Р = [1,0 -1,4];
\\ определение выходов нейрона
Т = [0,5 1,0];
Вектор Р задает два входных элемента.
Используем линейный нейрон с одним входом для решения
задачи. Установим интервалы изменения весов и порогов:
\\ установка интервала весов
w = -1 : 0,1 : 1;
\\ установка интервала пороговых значений
b = -1 : 0,1 : 1;
Вычислить и изобразить ошибку нейрона можно следую-
щим образом:
\ \ формирование поверхности ошибки в координатных
осях — весов и пороговых значений
ES = errsvrf(Р, Т, и, b, 'purelin*);
\ \ изображение поверхности ошибки
plotes(w, b, ES);
Лучший вес и значение порога — это самые низкие точки
на поверхности ошибки (рис. П23). Переопределим уровень
обученности и создадим нейрон.
\ \ возвращение максимального уровня обученности
для линейного слоя с bias, для обучения на основе Р
snaxlr = 0.20 * maxlinlr (Р, 'bias');
net = newlin([-2 2],1,[0], maxlr);
Функция maxlinlr находит значение, соответствующее са-
мому быстрому уровню обученности линейной нейронной
сети. Возьмем 20 % от вычисленного уровня.
Рис. П23. Поверхность ошибки
Функция newlin содержит четыре параметра:
• матрицу интервалов входов размерностью R х 2;
• количество элементов в выходном векторе;
• вектор задержек входов;
• уровень обучения.
Установим целевое значение ошибки:
\\ установка целевого значения ошибки
net.tralnPararn.goal=.001;
Получим поверхность ошибки.
\ \ формирование поверхности ошибки
ES = errsurf(Р, Т, w, b, «pvrelin»);
\ \ изображение поверхности ошибки
plotes(w, b, ES);
\ \ создание 2 координатных осей в графическом окне
и установка первых осей активными
subplot (1, 2, 2);
Рис. П24. Изменение среднеквадратичной ошибки в ходе обучения
Произвольно изменим веса нейрона в установленных ин-
тервалах:
net.IW{l, 1}=0;
\\ произвольное изменение весов нейрона
net.b{l}] = 0,1;
\\ эпоха обучения нейрона, формирование истории
обучения tr.
[net, tr] = train(net, P, T);
Функция train выводит на экран историю обучения обу-
ченной сети (fr). График (рис П24) показывает падение
ошибки в ходе обучения:
\ \ изображение истории обучения на поверхности ошибки
plotperf(tr, net.trainParam.goal) ;
p - -1,1;
\ \ формирование выхода обученного нейрона для входа
-1,1.
а = sim (net, р);
Используем функцию sim, чтобы протестировать нейрон
для входа —1,1, и посмотрим, будет ли выход равен 1,0. Ре-
зультат очень близок 1.
Контрольные вопросы
1. Какие функции выполняет линейный нейрон?
2. Какие функции активации используют в НС?
3. Какие задачи называют линейно сепарабельными?
4. Можно ли обучить линейный нейрон выполнять логиче-
скую функцию исключающего ИЛИ?
5. Какой алгоритм используется для обучения однослойных
НС?
Лабораторная работа № 5.
Изучение многослойного нелинейного
перцептрона и алгоритма обратного
распространения ошибки
Цель работы: изучить возможности многослойного
перцептрона как аппроксиматора и классификатора.
Функция яем^создает нейронную сеть прямого распрост-
ранения сигнала, обучаемую с помощью алгоритма обратного
распространения ошибки:
net = newff(PR, [SI S2 SNl\, {TF1 TF2 TFNl}, BTF, BLF, PF).
Рассмотрим параметры функции newff; PR — матрица ин-
тервалов значений для R входных элементов, задаваемых ми-
нимальным и максимальным значениями; St — размер /-го
слоя, для N слоев; TL} — функция активации /-го слоя, по
умолчанию используется функция tansig — гиперболический
тангенс; BTF — функция обучения сети методом обратного
распространения ошибки, по умолчанию используется функ-
ция traingdx, BLF — функция изменения весов при обучении,
по умолчанию используется learngdm', PF — функция измере-
ния ошибки, по умолчанию mse. Функция newff возвращает
многослойную нейронную сеть прямого и обратного распро-
странения сигнала и ошибки соответственно. Функции акти-
вации могут быть выбраны из следующего перечня: гипербо-
лический тангенс tansig; логистическая сигмоида logsig или
линейная функция pureltn.
Пример 1121. Создание и обучение нейронной сети с по-
мощью алгоритма обратного распространения ошибки.
Зададим с помощью графика исходную функцию:
\\ входы НС
р = [0 1234567 8] ;
\ \ желаемые реакции НС
t = [О 0,44 0,88 0,11 -0,66 -0,95 -0,45 0,78 0,92];
\ \ изображение аппроксимируемой функции
plot(p, t, *о');
Используем функцию newff, чтобы создать двухслойную
сеть прямого распространения. Пусть сеть имеет входы
с интервалом значений от 0 до 8, первый слой с 10 нели-
нейными сигмоидальными, второй — с одним линейным
нейронами. Используем для обучения алгоритм обратного
распространения ошибки (backpropagation) Левенбурга—
Марквардта.
\ \ создание двухслойной НС прямого распространения
с интервалом значений входов от 0 до 8, причем
первый слой содержит 10 нелинейных сигмоид,
а второй — один линейный нейрон.
Для обучения используется алгоритм обратного
ра спростра нения ошибки (ba ckpropa gat ion) .
net = newff([0 8], [10 1], {'tansig' 'purelin'),
'trainin');
\ \ имитация работы обученного нейрона
yl = sin (net, р)
\ \ изображение результатов работы обученного нейрона
plotfp, t, 'o', р, yl, 'х');
Обучим сеть на 100 эпохах с целевой ошибкой 0,01:
\ \ установка количества проходов
net. trainParan.epochs = 50;
\ \ установка целевого значения ошибки
net.trainParan.goal = 0,01;
\ \ обучение НС
net - train (net, р, t) ;
\ \ имитация работы обученной НС
у 2 = s in (net, р)
\ \ изображение результатов работы НС (рис. П25)
plot(p, t, 'o', р, yl, *х*, р, у2, '+')
Рис. П25. Результат аппроксимации векторов
двухслойным перцептроном
Для исследования работы алгоритма обратного распрост-
ранения ошибки воспользуемся примером, встроенным I
Matlab toolbox, набрав команду demo.
В появившемся диалоговом окне необходимо последова-
тельно выбирать пункты меню: toolbox, neural networks, Other
Neural Network Design textbook demos, Table of Contents, 10—13,
Backpropagation Calculation.
В примере используется двухслойный перцептрон с двумя
нелинейными нейронами в первом слое и одним во втором
Действие алгоритма обратного распространения ошибки раз-
бито на следующие шаги: назначение входа и желаемого вы-
хода, прямой проход входного сигнала до выхода, обратное
распространение ошибки, изменение весов. Переменные, по-
зволяющие проследить работу алгоритма обратного распро-
странения ошибки, обозначены следующим образом:
Р — входной сигнал;
W\(i) — вектор весов первого слоя, Wj(l) — вес связи, пе-
редающий входной сигнал на первый нейрон, а И](2) — на
второй;
И'гСО — вектор весов второго слоя, 1^(1) — вес связи, пе-
редающий входной сигнал с первого нейрона во второй слой,
а И^(2) — со второго;
^1(0 — вектор пороговых значений {bias) нейронов пер-
вого слоя, / = 1,2;
В2 — пороговое значение {bias) нейрона второго слоя;
МО) — вектор выходов первого слоя, i — 1,2;
М — выход второго слоя;
М(0 — вектор выходных сигналов первого слоя после вы-
полнения функции активации (сигмоиды), i = 1,2;
А} — выход второго слоя после выполнения функции ак-
тивации (линейной);
Таблипа П2
Результаты поэтапного выполнения алгоритма обратного
распространения ошибки
Этап Прямое распрост- ранение входного сигнала Обратное распрост- ранение ошибки Изменение весов
>11(1), 4(2) = [0,321, 0,368] Не выполняется He выполняется
4 purelin{ + + А) = 0,446 То же To же
е t -Аг = 1,261 *>
4(1), Ari(2) Не выполняется 8iogsim{N^) _ dN} W2 N2 = [—0,049, 0,100]
То же _ dpurelin(N2) _ 8N2 e = -2,522 »
И-](1), 111(2) » He выполняется Hi=6r,-ir-4,x х Р= [-0,265, —0,420]
4(1), 4(2) » To же Bi= В} - 1г • Ni= ~ [-0,475, -0,140]
4 » » В2 = В2 — 1г * Р/2 = = 0,732
BW), 14(2) » в = 1^2 — " М Х X JVj = (0,171, -0,077]
Lr — коэффициент обучаемости.
Пусть входной сигнал Р =1,0, а желаемый выход t = 1 +
+ sin(p * я/4) = 1,707.
Результаты выполнения этапов алгоритма представлены
в табл. П2.
Контрольные вопросы
1. Каким алгоритмом обучают многослойные НС?
2. Из каких основных этапов состоит алгоритм обратного
распространения ошибки?
3. Почему алгоритм обратного распространения ошибки от-
носится к классу алгоритмов градиентного спуска9
4. Как влияет функция принадлежности на правило измене-
ния весов в обратном алгоритме распространения ошибки?
Лабораторная работа № 6.
Изучение радиальных базисных, вероятностных
нейронных сетей, сетей регрессии
Цель работы: изучить модель вычислений радиаль-
ного базисного нейрона, структуру и функции сетей регрес-
сии, вероятностных нейронных сетей.
Функция newrb создает радиальную базисную сеть и имеет
следующий синтаксис:
net = newrb(P, Т, goal, spread).
Радиальные базисные сети используют для аппроксимации
функций. Функция newrb конструирует скрытый (первый)
слой из радиальных базисных нейронов и использует значе-
ние средней квадратичной ошибки {goal).Функция newrb{P,
Т, goal, spread) имеет следующие аргументы: Р — матрица Q
входных векторов размерности R на Q, Т — матрица Q век-
торов целевых классов S на Q; goal — средняя квадратичная
ошибка, по умолчанию 0,0; spread — разброс радиальной ба-
зисной функции, по умолчанию 1,0. Функция создает и воз-
вращает в качестве объекта радиальную базисную сеть. Боль-
шое значение разброса приводит к большей гладкости ап-
проксимации. Слишком большой разброс требует много
нейронов, для того чтобы подстроиться под быстро изменяю-
щуюся функцию, слишком малый — для достижения глад-
кости аппроксимации. Подобрать значение разброса можно
с помощью многократных вызовов функции newrb.
Создадим в среде Matlab радиальную базисную сеть:
net = newrbe(P, Т, spread).
Функция newrbe проектирует радиальную базисную сеть с
нулевой ошибкой для заданных векторов. Функция newrbe(P, Т,
spread) имеет три параметра: Р — матрица Q входных векторов
размерности Л на Q, Т— матрица Q целевых векторов — опи-
сателей класса размерности Л' на Q, spread — разброс радиаль-
ной базисной функции, по умолчанию 1,0. Функция создает
радиальную базисную сеть.
Нейронная сеть регрессии — это вид радиальной базисной
сети, которая часто используется для аппроксимации функций
и быстро строит сеть для аппроксимации: net = newgmn(P, Т,
spread).
Функция
newgrnnlP, Т, spread)
имеет следующие входы: Р — матрица Q входных векторов
размерности Яна Q, Т— матрица Q целевых векторов классов
размерности 5 на Q, spread — разброс радиальных базисных
функций, по умолчанию 1,0. Функция возвращает НС рег-
рессии. Чем больше разброс, тем более гладкой будет функ-
ция аппроксимации. Для того чтобы настроить функцию ап-
проксимации на исходные данные, используют разброс мень-
ший, чем типичное расстояние между входными векторами.
Функция newgrnn создает двухслойную сеть. Первый слой
содержит радиальные базисные нейроны, вычисляющие рас-
стояние между входами и весами с помощью netprod. Второй
слой имеет нейроны с функцией активации purelin. Только
у первого слоя существует bias
Вероятностную нейронную сеть проектируют с помощью
функции
net = newpnn(P, Т, spread).
Вероятностная НС — это вид радиальной базисной сети,
как и НС регрессии, но данные сети используются для ре-
шения задачи классификации, а не аппроксимации. Функ-
ция net = newpnn(P, T, spread) имеет такие же параметры, как
и вышеописанная функция newgrnn. Если разброс близок
к нулю, вероятностная НС действует как классификатор
на основе принципа выбора «ближайшего соседа», в против-
ном случае сеть принимает в расчет несколько близких век-
торов.
Пример П22. Создание и обучение НС регрессии.
Рассмотрим проектирование НС регрессии. Определим:
\ \ входы НС регрессии
Р = [1 2 3];
\ \ выходы НС регрессии.
Т = [3,0 5,1 4,8];
Воспользуемся функцией newgrnn для создания НС рег-
рессии. Зададим разброс радиальных базисных функций (пе-
ременная spread) меньше, чем 1, для того чтобы получить хо-
рошую аппроксимацию данных и более гладкую функцию.
\ \ установка разброса радиальных базисных функций
Spread = 0,8;
\\ создание НС регрессии
net = newgrnn(Р, Т, spread);
\\ имитация работы НС регрессии
А = sim (net, Р);
\ \ изображение аппроксимируемой функции
plot(P, Т, '. ', 'markersize*, 30);
\ \ установка режима добавления графиков
на координатные оси
hold on,
\ \ изображение работы необученной НС регрессии
plot(P, А,* '. *, 'markersize', 30, 'color', [1 0 0]) ;
cla reset*; \\ очистка координатных осей
р = 4,5; \ \установка нового входа НС регрессии
а = sim (net, р); \\ получение отклика НС регрессии
\ \ изображение аппроксимируемой функции
plot(P, Т, 'markersize', 30);
axis ([0 9—1 4]); И установка диапазонов осей X и Y
hold on; \ \ включение режима добавления графиков
\ \ изображение отклика НС регрессии на вход р
plot(p, а, 'markersize', 30, 'color', [1 0 0]);
title ( 'Новый входной вектор ') ;
\\ написать заголовок графика
xlabelf'P и p'); \\ пометить ось X
у label ('Т и а’); \\ пометить ось X
cla reset/ \\ очистить координатную сетку
Р2 = 0: 2 : 9; \ \ определить последовательность входов Р2
Сымитируем отклик сети для различных значений, чтобы
увидеть результат аппроксимации (рис. П26).
\\ получить отклик НС регрессии на последовательность
входов Р2
А2 = sim (net, Р2) ;
\ \ изобразить отклик НС регрессии
plot(P2, А2, 'linewidth', 4, 'color', [1 0 0]);
hold on; \\ включить режим добавления графиков
\\ изобразить аппроксимируемую функцию
plot(P, Т, * markersize ', 30);
axis([0 9 —1 4]); \\ установить диапазон осей
title ('Аппроксимируемая функция'); \\ озаглавить график
xlabel('Р и Р2’); \\ пометить ось X
уlabel('Т и А2*); \\ пометить ось Y
Рис. П26. Аппроксимация точек
с помощью нейронной сети регрессии
Пример П23. Использование РБНС для аппроксимации
функций.
Рассмотрим аппроксимацию функций на основе радиаль-
ной базисной сети.
Пусть
\\ определение диапазона значений радиальной
базисной функции
р = -4: 2 : 4;
\ \ вычисление радиальной базисной функции на диапазоне р
а = radbas(p);
plot(p, а); \\ изображение РБФ
title (* Радиальная базисная функция');
\\ озаглавить график
xlabel (’Вход р*); И пометить ось X
уlabel(’Выход а’); \\ пометить ось У
На рис. П27 изображена радиальная базисная функция.
Функция newrbe создаст необходимую сеть. Зададим ап-
проксимируемую функцию как набор точек:
\\ определение последовательности аргументов аппрок-I
симируемой функции Р
Р = -1 : 1 : 1;
\\ определение значений аппроксимируемой функции,
\\ соответствующих Р
Рис. П27. Радиальная базисная функция
Т = (-.6662 -.3766 -.1129 .2111 .6565 . 3301 .3649 .2006
-.1913 —.3994 -.5022 -.4531 -.1133 .0866 .3333 .4955
.3488 .2833 -.1112 -.6685 -.3255];
Изобразим график функции (рис. П28).
plot (Р, Т, **’); \\ изображение аппроксимируемой функции
title('Обучающая выборка1); \\ озаглавить график
xlabel (* Входной вектор Р’); \\ пометить ось X
уlabel(fВектор Т*); \\ пометить ось Y
Далее необходимо найти функцию, которая хорошо опи-
сывает заданную 21 точку.
Функция newrb создает РБНС для аппроксимации:
е = 0,02; % целевой среднеквадратичной ошибки
sp = 1; % разброса РБФ
net ~ newrb(P,T,e,sp) ; создание РБФ
X = -1 : .01 : 1; \\ определение вектора входов
Сымитируем работу сети.
У = sun (net, X); \\ формирование отклика Y
hold on; \\ включение режима добавления графика
plot(X, Y); \\ изображение результатов аппроксимации
hold off; \\ отключение режима добавления графика
Рис. П28. Результат аппроксимации
с помощью радиальной базисной нейронной сети
Пример П24. Использование вероятностной НС для
классификации векторов.
Рассмотрим задачу классификации с набором входов Р и
множеством классов, обозначенным Тс.
\\ определение входов
Р = [1 23456 7];
Тс = [1 1 3 3 2 1 1] ; \ \ определение желаемых выходов
\ \ конвертирование индексов в векторы, содержащие
1 в индексных позициях
Т = ind2vec (Тс) ;
net = nevpnn (Р, Т) ; \ \ создание вероятностной НС
Y = sim (net, Р) ; \\ имитация работы вероятностной НС
Yc = vec2ind (Y) ; \\ конвертирование номеров классов
в векторы.
Контрольные вопросы
1. Какую функцию называют радиальной базисной функцией?
2. Из каких слоев состоит радиально-базисная НС?
3. Из каких слоев состоит НС регрессии?
4. Из каких слоев состоит вероятностная НС?
5. Какие виды НС предназначены для решения задачи ап-
проксимации функций, а какие —• для классификации
объектов?
Лабораторная работа № 7.
Изучение сетей Кохонена и алгоритма
обучения без учителя
Цель работы: изучить алгоритм обучения без учителя
на примере задачи кластеризации, алгоритм «победителя»
Кохонена.
Функция net возвращает соперничающий слой. Сопер-
ничающий слой используется для решения задачи классифи-
кации
net — newc(JPR, S, KLR, CLR),
где PR — матрица минимальных и максимальных значений для R
входных элементов;
S — количество нейронов,
KLR — уровень обученности Кохонена, по умолчанию 0,01;
CLR — рекомендуемый уровень обученности, по умолчанию 0,001
Соперничающий слой представляет собой слой с функцией
вычисления расстояний negdist, сетевой функцией суммиро-
вания netsum и функцией активации compel. Слой имеет веса
на входах и bias.
Функция newsom создает самоорганизующуюся сеть —
карту {SOM), которая решает задачу классификации:
net = newsom(PR, [dl, d2, ],
TFCN, DFCN, OLR, OSTEPS, TLR, TND),
где PR — матрица минимальных и максимальных значений для R
входных элементов;
I — размер Z-го слоя;
TFCN — функция топологии;
DFCN — функция расстояния;
OLR — уровень обученности фазы упорядочения, по умолчанию
0,9;
OSTEPS — шаги фазы упорядочения, по умолчанию 1000;
TLR — уровень обученности фазы настройки, по умолчанию 0,02;
TND — расстояние соседства фазы настройки, по умолчанию 1.
Пример П25. Создание и использование соперничающего
слоя.
Рассмотрим пример использования соперничающего
слоя. Зададим множество, состоящее из четырех двухэлемент-
ных векторов Р:
Р = [ -2 .5 .1 .6; . 3 .7 .2 . 6]; \ \ определение входного
вектора
Соперничающий слой должен разделить входы на два класса:
net = пейс([0 1; 0 1], 2) ; \ \ создание соперничающего
слоя
net = train (net, Р) ; \\ обучение соперничающего слоя
на векторе Р
Результирующая сеть выдает выходной вектор, конверти-
руемый в номер класса:
Y = sim (net, Р) ; \\ имитация работы слоя
Yc = vec2ind(Y) ; \\ конвертирование выхода сети
в номер класса
Y состоит из векторов, содержащих только по одной
единице.
Функция vec2md показывает индексы единичных позиций.
Рис. П29. Множество исходных векторов для кластеризации
Пример П26. Применение SOM для кластеризации век-
торов.
Рассмотрим работу SOM на примере задачи классифика-
ции 1000 двухэлементных векторов, расположенных в огра-
ниченной прямоугольной области (рис. П29).
\ \ определение множества векторов для кластеризации I
Р = rands(2, 1000);
plot(Р(1,:), Р(2,:), г*д'); \\ изображение множества
векторов
Создадим SOM-
net = newsom({0 1; 0 1], [5 6]); \\ создание SOM
размерностью 5x6
Используем сеть размерностью 5x6, чтобы классифици-
ровать вышеопределенные векторы. Создадим сеть с 30 цент-
рами, к которым сеть будет относить каждый вектор на осно-
ве ближайшего соседства.
plotsom(net.iw{l,l), net.layers{1).distances);
\\ визуализация SOM
Рис. ПЗО. Самоорганизующаяся карта кластеризации
Сначала центр прямоугольника совпадает с центрами
классов. Обучим сеть на 100 эпохах и изобразим результат
(рис. ПЗО):
net.tralnParam.epochs = 100;
\\ установка количества эпох
net = train(net, Р) ; \\ обучение сети
plotsom (net.iw{l,1}, net.layers{1}.distances);
\\ визуализация SOM
p = [0,3; 0,5]; \\ определение нового вектора
a = 0; \ \ начальная установка переменной а
а = sim(net, р); \\ получение отклика SOM вход р
Контрольные вопросы
1. В чем заключается задача кластеризации?
2. Какую структуру имеет НС Кохонена?
3. Каким алгоритмом обучается НС Кохонена?
। д-100
П.З. Генетические алгоритмы
Учебный практикум по генетическим алгоритмам состав-
лен как задание на разработку основных функций в среде
Matlab, так как в распространяемых версиях системы расши-
рение toolbox не содержит третью компоненту мягких вычис-
лений — генетические алгоритмы. Полезным упражнением
будет служить множество элементарных функций генетиче-
ских алгоритмов. Практикум включает в себя также набор оп-
тимизационных задач, в том числе классических, которые
можно будет решать в разработанной среде генетических вы-
числений Matlab.
Лабораторная работа № 8.
Основные элементарные функции
генетических вычислений.
Цель работы: изучить базовые операторы стандарт-
ного и мобильного генетических алгоритмов, эволюционных
стратегий.
Дня реализации в среде Matlab генетических вычислений
необходимо разработать следующие элементарные функции.
Функция
Chromobin (length,
cod)
Chrumoint (length)
Chromolist(length)
InitPopulation
(rand, chi, S)
Mutationbm
(chromo)
Mutationint
(chromo, max)
Mutationlist
(chromo, max)
Назначение
Задает хромосому в форме бинарной строки длины
length, если cod = 0, используется двоичное кодиро-
вание, если cod= 1, используется код Грэя.
Задает хромосому в форме последовательности целых
чисел длины length.
Задает хромосому в форме списка пар (номер гена,
целое значение) длины length.
Создает исходную первичную популяцию объектов —
хромосом, причем rand — это функция порождения
случайной хромосомы, cht— тип хромосомы (Chro-
mobin, Chromoint, Chromolist), по умолчанию Chro-
mobin, S — количество хромосом в популяции.
Мутация в форме инверсии случайно выбранного ге-
на хромосомы chromo.
Мутация случайно выбранного гена дополнением до
max значения.
Мутация случайно выбранного гена дополнением до
max значения.
Функция Назначение
Recombinationbin Возвращает двух потомков, составленных из роди-
(chromol, chromo!) тел ьских фрагментов chromol, chromo2, причем фраг-
Recombmationint менты получены в случайной точке разрезания, а хромосомы — это бинарные строки. Возвращает двух потомков, составленных из роди-
(chromol, chromo!) тельских фрагментов chromol, chromo2, причем фраг-
менты получены в случайной точке разрезания, а хромосомы — это последовательности целых
Recombmationbinm Возвращает потомков в количестве sons, составлен-
(chromoiist, parents, sons) ных из родительских фрагментов, причем список chromoiist содержит родителей в количестве parents Фрагменты получены в случайных точках разрезания случайных родителей из chromolist, а хромосомы — это бинарные строки.
Recombinationintm (chromoiist, parents, sons) Возвращает потомков в количестве sons, составлен- ных из родительских фрагментов, причем список chromoiist содержит родителей в количестве parents. Фрагменты получены в случайных точках разрезания случайных родителей из chromoiist, а хромосомы — это последовательности целых чисел.
Rang (P, fitfunction) Ранжирование хромосом популяции Р с помощью функции оптимальности fitfunction, причем функция оптимальности задается конкретно для каждой про- блемной области.
Selection (Pparents) Пропорциональный отбор хромосом из популяции Р. Возвращает подпопуляцию хромосом, участвующих в формировании следующего поколения
Newgeneration (Pold, Pparents, elite) Формирует новое поколение популяции из старой популяции потомков, выбранных для рекомбинации хромосом Pparents, причем, если параметр elite = 0, то элитное сохранение лучших не используется, если elite — целое число, то столько лучших хромосом те- кущего поколения переходит в следующее.
InitPopulationM (rand, S) Создает исходную первичную популяцию объектов — хромосом, причем rand — функция порождения слу- чайной хромосомы, 5 — количество хромосом в по- пуляции, причем формируются не полностью опре- деленные хромосомы типа Chromoiist. Функция ис- пользуется для мобильного генетического алгоритма.
Cut(cromo) Разрезает хромосому типа Chromoiist в случайном месте.
Splice (chromol, chromo!) Склеивает две хромосомы типа Chromoiist, причем в результирующей хромосоме возможно дублирование генов, которые доминируют слева направо.
Accumulate Pop (P,q) Функция разрезает и склеивает хромосомы популя- ции Pop, причем склеивание доминирует над разре- занием Функция реализует стадию насыщения мо- бильного ГА. Параметр q — количество поколений в стадии насыщения. 291
Контрольные вопросы
1. Как выполняется оператор пропорционального отбора в
стандартном ГА?
2. Как выполняется оператор кроссовера в стандартном ГА?
3. Как выполняется оператор мутации в стандартном ГА?
4. Каким образом кодируют хромосомы?
5. Что выполняют операторы Cut и Splice в мобильном ГА?
6 Какой ГА использует хромосомы переменной структуры:
стандартный или мобильный?
Лабораторная работа № 9.
Интегральные функции
генетических вычислений
Цель работы изучить генетические алгоритмы —
стандартный, мобильный, эволюционные стратегии.
Интегральные функции генетических вычислений реали-
зуют стандартный ГА, включая «только мутацию», ГА со
сложной рекомбинацией и мобильный ГА.
Функция standartga(cht, qpop, initpopfun, mutfun, recfun, fit-
fun, rangfun, selfun, newgen, terminationcond, fitgoalpmut, precom)
реализует генетическую оптимизацию популяции хромосом
типа chi размера qpop, которая инициализируется функцией
инициализации initpopfun. Генетическая оптимизация ис-
пользует оператор мугации типа mutfun с вероятностью pmut,
оператор рекомбинации — с вероятностью precom. Ранжиро-
вание, селекция и формирование нового поколения осу-
ществляются функциями rangfun, selfun, newgen соответствен-
но на основе функции оптимальности fitfun. Завершение оп-
тимизации задается либо параметром terminationcond, как
число поколений, либо параметром fitgoal, как целевым зна-
чением функции оптимальности. Если параметр pmut — 0, то
мутация не используется; если precom = 0, то рекомбинация
не используется и стандартный ГА превращается в алгоритм
«только мутация».
Функция mobilga(qpop, initpopfun, accumfun, cutfun, splicefun,
fitfun, rangfun, selfun, newgen, terminationcond, fitgoal, peut, psplice)
реализует генетическую оптимизацию популяции хромосом
размера qpop с помощью мобильного ГА, которая инициали-
зируется функцией инициализации initpopfun. Стадия насы-
щения реализуется функцией accumfun. Генетическая опти-
мизация использует оператор разрезания cutfun с вероятно-
стью pent, оператор склеивания — с вероятностью psplice.
Ранжирование, селекция и формирование нового поколения
осуществляются функциями rangfun, selfun, newgen соответ-
ственно на основе функции оптимальности fitfun. Завершение
оптимизации задается либо параметром terminationcond, как
число поколений, либо параметром fitgoal, как целевым зна-
чением функции оптимальности.
Контрольные вопросы
1. Из каких этапов состоит стандартный ГА?
2. Что такое эволюционная стратегия?
3. Какие параметры ГА позволяют управлять его сходимо-
стью?
4. Какими особенностями обладает мобильный ГА?
5. В чем заключается этап генерации популяции для стан-
дартного и мобильного ГА?
Лабораторная работа № 10.
Прикладные оптимизационные задачи
Цель работы: изучить особенности применения ге-
нетических алгоритмов к оптимизационным задачам, полу-
чить опыт применения ГА к конкретной проблемной области.
Список оптимизационных задач, которые могут быть ре-
шены с помощью генетических вычислений, составим на ос-
нове классических оптимизационных задач и прикладных за-
дач автоматизированного проекгирования технических объ-
ектов.
Перечислим классические задачи оптимизации, приемле-
мые для демонстрации мощности генетических вычислений.
Задача о диете. Рассмотрим задачу составления наиболее
экономного (дешевого) рациона питания, удовлетворяющего
определенным медицинским требованиям. Известен пере-
чень доступных продуктов из Л наименований. Кроме того,
рассматриваются такие характеристики продуктов, как вита-
мины, минеральные вещества, жиры, белки, углеводы, кало-
рийность. Для каждого продукта известна его медицинская
характеристика, т. е количественное содержание в одной
единице указанных компонент. Приемлем рацион, удовлет-
воряющий медицинским нормам, оптимальным является са-
мый дешевый из них.
Транспортная задача. Имеется т пунктов St, Sj, Sm про-
изводства однородного продукта (стали, цемента и т.д.), при-
чем объем производства в пункте 5, равен аг Произведенный
продукт используется в пунктах О,.(А, .... Q,,, и потребность
в нем в пункте составляет Л, единиц. Требуется найти опти-
мальный путь из пунктов Л’, в пункты Qj чтобы удовлетворить
потребности в продукте Ьр не допуская затоваривания пунк-
тов производства и минимизируя транспортные расходы.
Задача рационального использования посевных площадей.
Имеется т земельных угодий Л’|, 5^, ..., Sm, предназначенных
для засева той или иной сельскохозяйственной культурой. Эти
площади отличаются положением и характером почвы. На
каждом из угодий Sj могут быть размещены одна или несколь-
ко из л сельскохозяйственных культур Op Qy, ..., Q„. Пусть
известна урожайность культуры Q на поле S: , она равна а:]
ц/га. Будем обозначать площадь поля в гектарах через а,.
Ограничения на приемлемое решение следующее: задан план
производства А, каждой сельскохозяйственной культуры Qj
Известны закупочные цены Q на каждый вид продукции
Найти оптимальный 1ыан засева посевных площадей с мак-
симальной прибылью от продажи сельхозпродукции.
Задача межотраслевого баланса. Допустим, что в некото-
рый момент времени, в году Тд по итоговым данным состав-
лен балансовый отчет по народному хозяйству за фиксиро-
ванный период по форме табл ПЗ.
Величины Ау указывают объем продукта с номером /, из-
расходованный отраслью J. Числа Vt равны общему объему
продукции j-й отрасли, а С; — объему продукцииу'-й отрасли,
который был потреблен в непроизводственной сфере. Балан-
совый характер таблицы выражается уравнением
1/, = V, - С,.
Будем считать технологию производства неизменной и
линейной. Допустим, что все отрасли будут работать так, что
отрасль с номером j произведет объем ху валового выпуска
294
Таблица ПЗ
Итоговый баланс ио народному хозяйству
Отрасль Продукт Итого
1 2 т
1 Л12 Ап
2 А21 Л22 Агп
п А„, Аг2 Ann
Валовый выпуск Vi V-2 к,
Конечное потребление Ci с„
своей продукции, т. е. отрасль jработает с интенсивностью Xj.
Необходимо найти оптимальный вектор интенсивности Тори
описанных ограничениях. Другими словами, необходимо ре-
шить уравнение X — АХ = С. Это уравнение вместе с изло-
женной выше интерпретацией матрицы А и вектора X назы-
вается моделью Леонтьева.
Задача расчета химической технологии. Пусть имеется Л'
химических реакторов, соединенных последовательно и пе-
рерабатывающих некоторый тип сырья с целью выделить из
него полезный продукт, и пустьх = (х^, х%, .... х£) — харак-
теристика свойств данного продукта. Обозначим х1 = (х|, Xj,
.... х*) характеристику продукта на входе реактора к, тогда
хк + * — характеристика на выходе из реактора. Пусть it' —
набор параметров, регулирующих процесс преобразования
продукта в к-м реакторе. Считаем, что известна зависимость
х~ к-т реактора. При этом на реактор могут
быть наложены ограничения уДи^) < dk. Требуется найти оп-
тимальные векторы в*, чтобы при заданных начальных свой-
ствах х = (xj х2, х") максимизировать величину <р(х', х2,
..., xN, и1, it, .. , и"\ которая может выражать, например,
стоимость продукта.
Все приведенные пять задач являются задачами линейно-
го программирования и приведены как полезные упражнения
для адаптации прикладных задач к методам генетических вы-
числений.
Дополним данный список задач задачами конструктор-
ского проектирования, которые можно поставить как опти-
мизационные. Это задачи компоновки, размещения и трас-
сировки.
Задача компоновки. Процесс перехода от электрической
схемы к конструктивному распределению (разбиению) всех
элементов на группы, соответствующие конструктивам раз-
личных уровней, т. е. преобразование функционального опи-
сания аппаратуры в конструктивное, называется компонов-
кой. При компоновке элементы должны быть разбиты на
микросхемы, типовые элементы замены (ТЭЗ), устройства,
блоки, стойки. В задаче заданы функциональная электриче-
ская схема, номенклатура модулей низшего уровня, типовые
комбинации элементов, требуется покрыть исходную схему
модулями из заданного набора и минимизировать как число
модулей, так и число типов модулей. На практике критерий
оптимальности может быть сложным и включать в себя сум-
марную площадь, электромагнитную совместимость элемен-
тов в одном модуле, параметры теплообмена между элемен-
тами в узле.
Задача размещения. Размещение элементов — это опреде-
ление их местоположения на коммутационном поле в конст-
руктивном модуле, при котором создаются наилучшие условия
для последующей трассировки. Задача размещения различает-
ся для однотипных, кратных и разногабаритных элементов.
Критерии размещения могут быть следующими- суммарная
длина всех соединений, расстояние между элементами, соеди-
ненными наибольшим количеством связей, число пересече-
ний проводников, длина самых длинных связей, число цепей
простой конфигурации, число перегибов проводников, число
межслойных переходов, параметры паразитных связей, равно-
мерность температуры на коммуникационном поле.
Задача трассировки монтажных соединений. Трассировка —
это построение на монтажном поле всех цепей данного кон-
структива, координаты начал и концов которых определены
при размещении всех элементов. На проведение трассировки
влияет технология монтажа элементов: проводной монтаж,
печатный и пленочный монтаж и т. д. Критерии оптималь-
ности трассировки для разных технологий монтажа приведе-
на ниже.
Технология Критерий
Проводной монтаж Суммарная длина соединений,
длина самой длинной связи
Многослойные печатные платы с Суммарная длина соединений,
металлизацией сквозных отверстий число переходных отверстий
Многослойные печатные платы с Суммарная длина соединений,
открытыми контактными площад- число слоев
ками и выступающими выводами
Интегральные схемы Шаг металлизации, число межс-
лойных переходов, число пересе-
чений проводников
Задачи компоновки, размещения и трассировки носят ис-
следовательский характер, применение для их решения гене-
тических вычислений в случае конкретной технологии может
оказаться сложной задачей.
Контрольные вопросы
1. Какую структуру хромосомы и способ ее кодирования
можно предложить для задач: о диете, транспортной, ра-
циональном использовании посевных площадей, межот-
раслевого баланса, расчета химической технологии, раз-
мещения, компоновки и трассировки монтажных соеди-
нений?
2. Какие проблемно-зависимые операторы кроссовера и му-
тации можно предложить для задач, перечисленных в пер-
вом вопросе к данной лабораторной работе'*’
3. Какие модели (аналитические или алгоритмические) мож-
но предложить для формирования функций оптимальнос-
ти данных задач?
П4. Гибридные системы
Лабораторная работа №11.
Построение гибридной
системы класса ANFIS
Цель работы: изучить структуру и функции ННС
класса ANFIS, научиться строить гибридные системы.
Для построения гибридной системы архитектуры ANFIS в
командной строке главного окна Matlab необходимо набрать
Рис. П31. Окно формирования гибридной системы ANFIS
с загруженными данными
команду anfisedit. В результате активным станет окно редак-
тора ГС, которое по умолчанию настроено на сеть с одним
входом, обозначенным inputl и выходом output Можно созда-
вать ГС типа Мамдани или Суджено. Для указания типа ГС
нужно использовать пункт меню File — New FIS — Mamdani
(или Sugeno).
Для того чтобы переопределить количество входных и вы-
ходных переменных, необходимо выбрать в меню Load data
режим обучения или тестирования (.Training data или Testing
data). После нажатия клавиши Load data появляется окно ме-
неджера файлов, позволяющее выбрать имя файла данных,
имеющего текстовый формат и расширение dat. Каждая стро-
ка файла представляет собой значения входов и выхода, за-
данных числами, разделенных пробелами. Данные определя-
ют структуру ГС: строка из двух чисел определяет один вход
и один выход, из трех чисел — два входа и один выход и т. д
Если загрузка данных прошла успешно, то окно рисунка по-
кажет загруженные данные (рис. П31). Если данные загруже-
Ркс. П32. Окно выбора количества и типа функций приналтежности
ны, то можно сгенерировать ГС нажатием клавиши Generate
FIS Для генерации необходимо выбрать режим формирова-
ния носителей нечетких меток. Если выбран режим Grid par-
titions, то носители выбираются по обучающей выборке неза-
висимо для каждого входа, а если выбран режим Sub Cluster-
ing, то носители выбираются по общей области определения
всех входов После нажатия клавиши Generate FIS необходи-
мо выбрать тип функций принадлежности (рис. П32). В окне
ввода Number ofMFs задается количество нечетких меток для
каждого входа, в окне MFType — тип функции принадлежнос-
ти, а в окне OUTPUT — тип функции принадлежности выхода.
Можно посмотреть сгенерированную ГС с помощью клавиши
Structure (рис. ПЗЗ).
Сохранение проектируемой системы в рабочее простран-
ство (в переменную) производится с помощью пункта меню
File — Save to workspace as... В этом случае данные сохраня-
ются до окончания сеанса работы. Для сохранения данных на
диск после окончания сеанса работы применяется соответст-
вующий пункт того же меню — Save to disk as ..
Рис. ПЗЗ. Структура гибридной системы класса ANFIS
Рис. П34. Результат обучения гибридной системы
После того как количество входных и выходных перемен-
ных указано и ГС построена, ее необходимо обучить. Для это-
го в меню Train FIS выбирается алгоритм обучения (Hybrid
или Васкргор), устанавливаются целевое значение ошибки
Error Tolerance и количество циклов обучения Epochs. Нажа-
тие клавиши Hain Now запускает процесс обучения.
Для проверки результатов обучения можно воспользовать-
ся клавишей Test Now; для выполнения тестирования необхо-
димо загрузить тестовые данные в режиме Testing data в окне
менеджера файлов. Результат аппроксимации тестовых дан-
ных с помощью ГС отображается в окне рисунков (рис. П.34).
Сформируем простой пример, иллюстрирующий постро-
ение ГС.
Пример П27. Построение гибридной системы.
Необходимо обучить ГС вычислять сложение двух первых
входов и вычитание значения третьего. Содержание файла
обучающей выборки приведем ниже:
12 3 0
2 3 4 1
3 4 5 2
4 5 6 3
5 6 7 4
6 7 8 5
7 8 9 6
Очевидно, что ГС имеет три входа и один выход. Тестовые
данные определим следующим образом:
3 3 4 2
3 4 6 1
5 6 7 4
Окно рисунков покажет ошибку работы ГС, о величине
которой можно судить по степени несовпадения точек.
Описанная система построения ГС имеет ряд существен-
ных ограничений:
• реализованы только ГС Мамдани и Суджено;
• гибридная система может иметь только один выход;
• при большом количестве входов возникают трудности в
использовании программы.
В соответствии с вышесказанным в данном практикуме
предложено разработать для среды Matlab другие реализа-
ции ГС.
Контрольные вопросы
1. Что называют нечеткой нейронной сетью?
2. Какие функции выполняют И и ИЛИ-нейроны?
3. Каким алгоритмом можно обучить ННС?
Лабораторная работа № 12.
Базовые функции проектирования
гибридных систем
Цель работы: изучить базовые функции слоев ННС
класса ANFIS, получить опыт разработки ГС в среде Matlab.
Лабораторные работы по гибридным системам составлены
по аналогии с учебным практикумом по генетическим алго-
ритмам. Студентам предлагается разработать базовые и ин-
тегральные функции, предназначенные для конструирования
нечетких нейронных сетей. Для архитектуры ANFIS выполне-
на детализация задач, в частности описаны параметры и на-
значение функций. Как варианты более сложных исследова-
тельских заданий предлагается выполнить подобную функци-
ональную декомпозицию для других архитектур нечетких
нейронных сетей: ANFIS, NNFLC, NNDFR, GARIC, FUN и раз-
работать примеры их использования в задачах аппроксима-
ции, классификации, идентификации и управления.
Для реализации нечеткой нейронной сети типа ANFIS не-
обходимо реализовать базовые функции, которые описыва-
ются ниже.
Функция
Тпогт(Х, ¥,
Typqfun)
Snorm(X, Y,
Typefun)
Andneuron(N, Xn,
TypefiinT,
TypefunS)
Назначение
Должна выполнять Т-норму, тип которой задается
параметром Typefiin над аргументами X н Y
Должна выполнять 5-конорму, тип которой задает-
ся параметром Typefun над аргументами X и Y
Реализует И-нейрон по формуле Tfun(Sfun(Xn),
Sfun(Xn)), где Tfiin и Sfun — Т-норма и 5-конорма,
заданные параметрами TypefiinT и TypefunS, Х„ —
входной вектор размерности N Функция создает
описанный нейрон как объект
Функция Назначение
Omeuron(N, Хп, TypefunT, TypefunS Реализует ИЛИ — нейрон по формуле Sfun(Tfun(Xn), Tfun(Xn)), где Tfun и Sfun — 7-норма и 5-конорма, заданные параметрами TypefunTи TypefunS, Хп — входной вектор размерности N. Функция создает описанный нейрон как объект
Mfneuron(x, MF) Представляет собой нейрон, содержащий функцию принадлежности MFvi вычисляющую степень при- надлежности значения х этой функции. Функция создает описанный нейрон как объект
Mfneuronrev( level, MF) Представляет собой нейрон, содержащий функцию принадлежности Л/Fh вычисляющий значение х по заданному уровню степени принадлежности. Функция создает описанный нейрон как объект
Mfnlayer(N, Xn, MFri) Конструирует слой нейронов-функций принадлеж- ности размерности ?/и типов функции принадлеж- ности MF. Функция имитирует проход входного вектора Х„ размерности N через слой
Andnlayer(N, M, Mhnknm) Конструирует слой И-нейронов размерности М. Связи N входных для слоя сигналов и М нейронов задаются матрицей Mltnknm. Функция имитирует проход входного вектора Хп размерности N через слой из М нейронов
Omlayer(N, M, Mltnknm) Конструирует слой ИЛИ-нейронов размерности М. Связи N входных для слоя сигналов и М нейронов задаются матрицей Mltnknm. Функция имитирует проход входного вектора Хп размерности N через слой из М нейронов
Nneuron {Slinkn, signal) Создает нормализующий нейрон. Нормализующий нейрон получает вход signal и множество значений всех сигналов Slinkn размерности N и вычисляет выход как signal/T,n Slinkn
Nnlayer{N, Nlinknm) Конструирует слой нормализующих нейронов раз- мерности N Связи N входных для слоя сигналов и N нейронов задаются матрицей Mlinknm. Функция имитирует проход входного вектора Хп размерности N через слой из Л-нейронов
Контрольные вопросы
1. Из каких слоев состоит ННС архитектуры ANFIS?
2. Какие функции выполняет каждый слой ННС архитек-
туры ANFIS?
3. Что такое Г-нормы и Л'-конормы?
Лабораторная работа № 13.
Интегральные функции реализации
нечеткой нейронной сети
Цель работы: изучить функционирование ННС в це-
лом, исследовать процесс обучения ННС.
Представленные ниже интегральные функции констру-
ируют, обучают и моделируют работу нечеткой нейронной се-
ти на основе архитектуры ANFIS. Перечислим существующие
функции.
Функция
ANFISnet
{Qin, MFQin, Qout,
MFRQout, Mand,
Mor,
MlinkandQinMand,
MhnkorMandMor)
tramANFIS{Net, T)
simANFIS{Net, P)
Назначение
Создает описанную нечеткую нейронную сеть
ANFIS Параметры этой сложной функции долж-
ны означать следующее: Qin — количество входов
сети, MFQin — матрица функций принадлежности
первого слоя сети, Qout— количество выходов се-
ти, MFRQout — матрица функций принадлежнос-
ти выходного слоя, Mand — количество операций
И в правилах нечеткого вывода, Мог — количество
операций или в правилах, MlinkandQinMand —
матрица связей Qin входов и Mand нейронов во
втором слое сети, MhnkorMandMor — матрица свя-
зей Mand выходов И-нейронов и Мог ИЛИ-ней-
ронов в третьем слое. Слой нормализующих ней-
ронов (четвертый слой) строится автоматически
из такого количества нормализующих нейронов,
сколько их имеется в системе моделируемых пра-
вил
Обучает нечеткую нейронную сеть Net методом
модифицированного алгоритма обратного рас-
пространения ошибки по обучающей выборке Т.
Разумеется, обучающая выборка и сеть должны
быть согласованы по количеству и типам данных
Моделирует проход входного вектора Р через сеть
Net
KourpojiMiue вопросы
1. В чем особенности обучения ННС класса ANFIS1
2. На каком этапе обучения используют алгоритм кластери-
зации, а на каком — алгоритм обратного распространения
ошибки?
3. Как работает обученная ННС класса ANFIS'*
Лабораторная работа № 14.
Задачи разработки инструментария
гибридных систем
Цель работы: изучить состав ННС разных классов,
функции их слоев и получить опыт разработки интеллекту-
альных систем на основе ГС.
Более сложные задания, рассчитанные на выполнение в
течение целого семестра и носящие исследовательский харак-
тер, могут быть следующими.
1. Разработать систему моделирующих функций в среде
Matlab, позволяющих создавать, обучать и имитировать рабо-
ту нечеткой нейронной сети типа NNFLC. Разработать демон-
страционный пример использования нечеткого нейронного
контроллера NNFLC для решения задач управления.
2. Разработать систему моделирующих функций в среде
Matlab, позволяющих создавать, обучать и имитировать рабо-
ту нечеткой нейронной сети типа NNDFR. Разработать демон-
страционный пример использования нечеткого нейронного
классификатора NNDFR для решения задач управления.
3. Разработать систему моделирующих функций в среде
Matlab, позволяющих создавать, обучать и имитировать рабо-
ту нечеткой нейронной сети типа GARIC. Разработать демон-
страционный пример использования нечеткого нейронного
идентификатора GARIC для решения задач управления.
4. Разработать систему моделирующих функций в среде
Matlab, позволяющих создавать, обучать и имитировать рабо-
ту нечеткой нейронной сети типа FUN. Разработать демонст-
рационный пример использования нечеткой нейронной сети
GARIC для решения задач извлечения базы правил (редукции
базы правил).
5. Разработать демонстрационный пример использования
нечеткой нейронной сети ANFISдля решения задач нечеткого
логического вывода.
Контрольные вопросы
1. Какие базовые функции необходимо разработать для ре-
ализации ННС класса NNFLCI
2. Какие базовые функции необходимо разработать для ре-
ализации ННС класса GARIC?
3. Какие базовые функции необходимо разработать для ре-
ализации ННС класса NNDFR?
4. Какие базовые функции необходимо разработать для ре-
ализации ННС класса FUN?
5. Каким способом можно обучать гибридную сеть NNFLC?
6. Какие функции выполняет нейронная сеть управления в
структуре GARICf
7. Какие функции выполняет нейронная сеть оценки в
структуре GARIC?
8. Как взаимодействуют между собой нейронные сети уп-
равления и оценки в структуре GARIC?
9. Из каких этапов состоит процесс обучения в гибридной
системе NNDFR?
10. Какую роль играет кластеризация в обучении NNDFR?
11. Какую роль играет алгоритм обратного распространения
ошибки в обучении NNDFR?
12. Что выполняет алгоритм удаления в обучении NNDFR?
13. Каким способом обучается гибридная система FUN?
14. Для чего предназначена гибридная система FUN?
Литература
1. Аверкин А. Н., Федосеева И. Н. Параметрические логики
в интеллектуальных системах управления. — М.: Вычис-
лительный центр РАН, 2000.
2. Алиев Р. А., Абдикеев Н М, Шахназаров М. М. Производ-
ственные системы с искусственным интеллектом. — М:
Радио и связь, 1990.
3. Андрейчиков А. В., Андрейчикова О. Н. Анализ, синтез,
планирование решений в экономике — М.: Финансы и
статистика, 2000.
4 Андрейчиков А. В., Андрейчикова О. Н Компьютерная
поддержка изобретательства (методы, системы, примеры
применения). — М.: Машиностроение, 1988.
5. Арбиб М. Метафорический мозг: Пер. с англ. — М.:
Мир, 1976.
6. Ауэрбах Ш. Наследственность. Введение в генетику для
начинающих. — М.: Атомиздат, 1969-
7. Берштейн Л. С., Боженюк А. В., Малышев Н. Г Нечеткие
модели для экспертных систем САПР. — М.: Энергоатом-
издат, 1991-
8. Берштейн Л. С., Мелехин В. Б. Планирование поведения
интеллектуального робота. — М.: Энергоатомиздат, 1994.
9. Борисов А. Н., Алексеев А. В., Крумберг О. А. Модели при-
нятия решений на основе лингвистической переменной. —
Рига’ Зинатне, 1989.
10 Букатова И. Л. Эволюционное моделирование: идеи, ос-
новы теории, приложения. — М.: Знание, 1981.
11. Букатова И. Л., Михасев Ю. И., Шаров А. М. Эвоинфор-
матика. Теория и практика эволюционного моделирова-
ния. — М.: Наука, 1991.
12. Варшавский В. И., Поспелов Д. А. Оркестр играет без ди-
рижера — М.: Наука, 1984.
13. Васильев В. И, Ильясов Б. Г. Интеллектуальные системы
управления с использованием нечеткой логики: Учеб,
пособие. — Уфа: УГАТУ, 1997.
14. Васильев В. И., Ильясов Б. Г Интеллектуальные системы
управления с использованием генетических алгоритмов:
Учеб, пособие. — Уфа: УГАТУ, 1999
15. Гаазе-Рапопорт М. Г, Поспелов Д. А. От амебы до робо-
та: модели поведения. — М.: Наука, 1987.
16. Горбань А. Н Обучение нейронных сетей. — М.: Параг-
раф, 1990.
17. Горбань А. Н., Россиев Д. А. Нейронные сети на персо-
нальном компьютере. — Новосибирск: Наука, 1996
18. Дьяконов В., Круглов В. Математические пакеты расши-
рения МАТЛАБ: Специальный справочник. — СПб.:
Питер, 2001.
19. Дьяконов В. MATHCAD 8/2000: Специальный справоч-
ник. — СПб.: Питер, 2001.
20. Дюбуа Д., Прад А. Теория возможностей Приложения к
представлению знаний в информатике: Пер. с фр. — М:
Радио и связь, 1990.
21. Емельянов В. В., Ясиновский С. И. Введение в интеллек-
туальное имитационное моделирование сложных диск-
ретных систем и процессов. Язык РДО. — М: Изд-во
АНВИК, 1998.
22. Заде Л А. Основы нового подхода к анализу сложных сис-
тем и процессов принятия решений. — М.: Знание, 1974.
23. Заде Л. А. Понятие лингвистической переменной и его
применение к принятию приближенных решений. — М.:
Мир, 1976.
24. Ивахненко А. Г., Юрачковский Ю. П. Моделирование
сложных систем по экспериментальным данным. — М.:
Радио и связь, 1987.
25. Интегрированные модели и мягкие вычисления в искус-
ственном интеллекте. — М.: Наука, 2001.
26. Калмыков С. А., Шокин Ю. И., Юлдашев 3. X. Методы
интервального анализа. — Новосибирск: Наука, 1986.
27. Кондрашина Е. Ю., Литвинцева Л. В., Поспелов Д. А.
Представление знаний о времени и пространстве в ин-
теллектуальных системах/Под ред. Д. А. Поспелова. —
М : Наука, 1989.
28. Кафаров В. В, Дорохов И. Н., Марков Е. П Системный
анализ процессов химической технологии. Применение
метода нечетких множеств. — М: Наука, 1986.
29. Клир Дж. Системология. Автоматизация решения сис-
темных задач: Пер. с англ. — М.: Радио и связь, 1990.
30. Когаловский М. Р. Энциклопедия баз данных. — М.: Фи-
нансы и статистика, 2002.
31. Комарцова Л. Г., Максимов А. В. Нейрокомпьютеры:
Учеб, пособие. — М.: Изд-во МГТУ им. Н.Э. Баумана,
2002.
32. Кофман А. Введение в теорию нечетких множеств: Пер. с
фр. — М.: Радио и связь, 1982.
33. Кохонен Т. Ассоциативные запоминающие устройства:
Пер. с англ — М.: Мир, 1982.
34. Круглов В. В., Борисов В. В. Искусственные нейронные
сети Теория и практика. — 2-е изд. — М.: Горячая ли-
ния-Телеком, 2002.
35. Кузин Л. Т. Основы кибернетики: В 2-х т. — Т. 2. Осно-
вы кибернетических моделей: Учеб, пособие. — М.:
Энергия, 1979
36. Кузнецов В. П. Интервальные статистические модели —
М.: Радио и связь, 1991.
37. Кузьмин В. Б. Построение групповых решений в про-
странствах четких и нечетких бинарных отношений. —
М.: Наука, 1982.
38. Курейчик В. М. Генетические алгоритмы. — Таганрог:
Изд-во ТРТУ, 1998.
39. Любищев А. А. Проблемы формы, систематики и эволю-
ции организмов. — М.: Наука, 1982.
40. Мелихов А. Н, Берштейн Л. С., Коровин С. Я. Ситуацион-
ные советующие системы с нечеткой логикой. — М.:
Наука, 1990.
41. Минский М., Пейперт С. Персептроны: Пер. с англ. —
М.: Мир, 1971.
42. Моисеев Н. Н. Алгоритмы развития. — М.: Наука, 1987.
43. Наместников А. М., Ярушкина Н. Г. Эффективность гене-
тических алгоритмов для задач автоматизированного
проектирования//Известия РАН Теория и системы уп-
равления. — 2002. — № 2.
44. Негойце К Применение теории систем к проблемам уп-
равления: Пер. с англ. — М.: Мир, 1981.
45. Нейрокомпьютеры. — В 3-х кн. / Под ред. А.И. Галуш-
кина. - М.: ИПРЖР, 2000. - Кн. 3.
46 Нетрадиционные модели и системы с нечеткими знаниями/
Под ред. А. Ф. Блишуна — М.: Энергоатомиздат, 1991.
АП. Нечеткие множества и теория возможностей. Последние
достижения- Пер. с англ./Под ред. Р Р Ягера. — М.:
Радио и связь, 1986
48. Орме А. И. Задачи оптимизации и нечеткие перемен-
ные — М.: Знание, 1980.
49. Орловский С. А. Проблемы принятия решений при не-
четкой информации. — М.: Наука, 1981.
50. Осовский С. Нейронные сети для обработки информа-
ции / Пер. с польск. И. Д. Рудинского. — М.: Финансы
и статистика, 2002.
51. Поспелов Д. А. Логико-лингвистические модели в систе-
мах управления. — М.: Энергоиздат, 1981.
52. Поспелов Д. А. Моделирование рассуждений — М.- Ра-
дио и связь, 1989
53. Поспелов Д. А. Ситуационное управление: теория и прак-
тика. — М/ Наука, 1986.
54. Представление и использование знаний/Под ред. X. Уэно,
М Исвдзука. — М.: Мир, 1989.
55. Прикладные нечеткие системы: Пер. с яп /К Асаи,
Д. Ватада, С. Иваи и др.; Под ред. Т. Тэрано, К Асаи,
М. Суджено. — М.. Мир, 1993.
56. Растригин Л. А. Статистические методы поиска. — М.:
Наука, 1968.
57. Розенблатт Ф. Принципы нейродинамики. Перцептрон
и теория механизмов мозга: Пер. с англ. — М.: Мир,
1965.
58. Саридис Дж. Самоорганизующиеся стохастические сис-
темы управления: Пер с англ. — М.: Наука, 1980.
59. Силов В. Б. Принятие стратегических решений в нечет-
кой обстановке. — М.: ИНПРО-РЕС, 1995.
60. Скурихин А Н. Генетические алгоритмы//Новости ис-
кусственного интеллекта — 1995. — № 4.
61. Трахтенгерц Э. А. Компьютерная поддержка принятия
решений. — М.. СИНТЕГ, 1998.
62. Трухаев Р. И Модели принятия решений в условиях не-
определенности. — М.: Наука, 1981.
63 Удссермен Ф. Нейрокомпьютерная техника: теория и
практика: Пер. с англ. — М.: Мир, 1992
64. Управление динамическими системами в условиях неоп-
ределенности/С. Т. Кусимов, Б. Г. Ильясов, В. И. Ва-
сильев и др. — М.: Наука, 1998.
65. Фогель Л., Оуэнс А., Уолш М. Искусственный интеллект и
эволюционное моделирование: Пер. с англ. — М.: Мир,
1969.
66. Цыпкин И. 3. Адаптация и обучение в автоматических
системах. — М.: Наука, 1968.
67. Шапиро Д. И. Принятие решений в системах организа-
ционного управления: использование расплывчатых ка-
тегорий — М.: Энергоатомиздат, 1983.
68. Экспертные системы Принципы работы и примеры:
Пер. с англ. / Под ред. Р. Форсайта. — М.: Радио и связь,
1987.
69. Ирушкина Н. Г. Гибридные системы, основанные на мяг-
ких вычислениях: определение, архитектура, возможности
//Программные продукты и системы. — 2002. — № 3.
70. Ирушкина Н. Г. Методы нечетких экспертных систем в
интеллектуальных САПР. — Саратов: Изд-во Сарат.
ун-та, 1997.
71. Ирушкина Н. Г Нечеткие нейронные сети//Новости ис-
кусственного интеллекта. — 2001. — № 2—3.
72. Bothe Н.-Н. Fuzzy Neural Networks. —Prague: IFSA, 1997.
73. Deichelmann H. Linguistishe Systeme und ihre Anwendung,
Darmstadt: Fachhochschule Darmstadt, 1996.
74. Fedrizzi M., Fuller R. Stability in possibilistic linear program-
ming with continuous fuzziy number parameters//Fuzzi sets
and systems — 1996. — V47.
75. Goldberg B.E. Genetic Algorithms in Search, Optimization
and Machine Learning. Adisonwesley Publishing Company
Inc., 1989.
76. Herrera E, Magdalena L. Genetic fuzzy systems. — Prague:
IFSA, 1997.
77. Holland Y. Adaptation in Natural and Artificial Systems.
University of Michigan, Press, Ann Arbor, 1975.
78. Pawlak Z. Rough sets present state and futher prospects//
Intellegent Automation and Soft Computing. — Vol. 2
(1996). - N 2.
79. Rummelhart D. E., Hinton G. E., Williams R. J. Learning repre-
sentations by back-propagating Errors//Nature. — V. 323. —
1986.
80. Schweizer В, Sklar A. Associative functions and abstract sem-
igroups //Publ. Math. — 1963. — N 10.
Sl.Zadeh L. A. Toward a theory of fuzzy information granula-
tion and its centrality in human reasoning and fuzzy logic //
Fuzzy sets and systems. — Vol. 90. — 1997. — N 2.
82. Zimmermann H. J., Altrock С. V. Fuzzy Logic (Band 1. Tech-
nologic; Band 2. Anwendungen). — Munchen,Wien: Verlag.
1993-1994.
Интернет-источники
83. http://www.dbai tuwien ac.at/marchives/fuzzy-mail/index.html
84. http://www.cms.dmu.ac.uk/~nj/fuzzy.html
8 5. http ://www. abo. fi/~ rfuller/ifsa. html
86. http7/www.eccai.orghttp://afia.polytechnique.fr/accueil/ac-
cueil.html
87. http://www.di.unito.it//~aiiahttp://raai.botik.ru
88. http //www.kstu.ru/P/fuzzy/index.htmhttp://fuzzy.nm.ru
89. http.//www.ainews.ru
90. http://www.megaputer.ru
91. http.//www.eunite.orghttp://www-bisc.cs.berkeley.edu
92. http-//viking.ibspan waw.pl/eusflat
Список
сокращений
АП — автоматизированное проектирование
БД — база данных
ВНС — вероятностная нейронная сеть
ВР — временной ряд
ВС — вычислительная сеть
ГА — генетический алгоритм
ГИП — графический интерфейс пользователя
ГНС — нечеткая система с генетической настройкой
ГП — генетическое программирование
ГС — гибридная система
ИИ — искусственный интеллект
ИНЛ — инструментарий нечеткой логики
Комм/ — коммутатор/концентратор
конц
МВ — мягкие вычисления
МГА — мобильный генетический алгоритм
МП — многослойный перцептрон
МЭС — мягкая экспертная система
НВР — нечеткий временной ряд
НЛ — нечеткая логика
ННС — нечеткая нейронная сеть
НС — нейронная сеть
НСР — нейронная сеть регрессии
ПСЭ — постсинапсический элемент
РБН — радиальный базисный нейрон
РБНС — радиальная базисная нейронная сеть
РБФ — радиальная базисная функция
РФД — результат финансовой деятельности
РФХД — результат финансово-хозяйственной деятельности
РХД — результат хозяйственной деятельности
РЭА — радиоэлектронная аппаратура
САПР — система автоматизированного проектирования
СНВ — система нечеткого вывода
СПР — система принятия решений
СТП — стандарт предприятия
СТС — сложная техническая система
СУБД — система управления базами данных
ТЭЗ — типовой элемент замены
ФА — функция активации
ФП — функция принадлежности
ЭА — эволюционный алгоритм
ЭВ — эволюционные вычисления
ЭД — экспертная деятельность
ЭРЭ — электронный радиоэлемент
ЭС — эволюционная стратегия
ЭС — экспертная система
Matlab — пакет математических программ Matlab 6.0
Оглавление
Предисловие....................................... 3
Введение. . ............................................ 1
Глава 1. Мягкие вычисления. Экспертная деятельность. . 9
1.1 Этапы развития научного направления
«мягкие вычисления»........................ 9
1.2 . Основные свойства мягких систем.... 17
1.2 1. Классы неопределенности........ 17
1.2.2. Вероятность, неточность, нечеткость. . 19
1.2.3. Основные классы задач, решаемых
гибридными системами.................. 25
1.3 . Экспертная деятельность............ 26
1.3.1. Виды неполной информации при
проектировании сложной системы ... 26
1.3.2 Анализ и синтез
при автоматизированном
проектировании. Определение
экспертной деятельности . . ........... 31
1.3.3. Этапы экспертной деятельности
при автоматизированном
проектировании............................ 33
1.3.4. Формализация этапов экспертной
деятельности.............................. 37
Глава 2. Основы теории нечетких множеств........... . 44
2.1. Сущности, значения и функции
принадлежности............................... 44
2.1.1. Объекты проблемной области, базовые
и нечеткие значения....................... 44
2.1.2. Функции принадлежности................ 47
2.2. Нечеткие числа.............................. 53
2 3. Нечеткие интервалы........................ 53
2.4. Нечеткие множества.......................... 55
2.5. Нормальные нечеткие множества, носитель,
отношения эквивалентности, включения .... 55
2.6. Операции с нечеткими множествами....... 56
2.6.1. Дополнительное множество НЕ...... 56
2.6.2. Пересечение И........................ 58
2.6.3. Объединение ИЛИ.............. ... 60
2.6.4. Обобщенные определения пересечения
и объединения нечетких множеств . 62
2.6.5. Общие свойства Г-норм и 5-конорм . . 64
2.6.6. Определения триангулярных норм
и конорм для N аргументов................. 65
2.7. Параметризованные триангулярные функции 67
2.8. Произведение множеств.................... 68
2.8.1. Определения........................ 68
2.8.2. Двухместные нечеткие множества.
Нечеткое бинарное отношение....... 69
2.8.3 Проекции двухместных функций
принадлежности............................ 72
2.9. Многоместные функции принадлежности. ... 75
2.9.1. Определение многоместных функций
принадлежности............................ 75
2.9.2. Проекции многоместных функций
принадлежности............................ 76
2.10 Функции нечетких переменных.............. 81
2.10.1. Функции с одной независимой
переменной................................ 81
2.10.2. Функции с несколькими
независимыми переменными.............. 85
2.11. Операция импликации................... 90
2.12. Законы нечеткой логики................ 91
2.12.1. Операции нечеткого множества самого
с собой............................... 92
2.12.2. Операции над нечетким множеством
и его дополнительным множеством ... 93
Глава 3. Нечеткие системы........................ 96
3.1. Определение лингвистической переменной .. 96
3.2. Схема приближенного логического вывода.
Задача интерполяции....................... 96
3.3. Правила трансляции....................... 98
3.4. Основные правила умозаключений........... 98
3.5. Универсальная аппроксимация с помощью
систем нечеткого вывода..................... 99
3.6. Схемы нечеткого вывода.................. 100
3.7. Введение в задачу нечеткого управления. ... 104
3.8. Правила, импликация, заключения............. 107
3.8.1. Правила............................... 107
3.8.2. Импликация............................ 108
3.8.3. Сопоставление состояния процесса
и правил нечеткого контроллера . . . . 109
3.8.4. Выбор четкого значения управляющей
переменной..................................... НО
3.9. Модификация нечеткой импликации
для практических применений ............... 112
3.10 Комбинирование условий.................. 112
3.11. Накопление результатов и дефазификация .. 113
3.11.1. Агрегация результатов нескольких
правил ....................................... 113
3.11.2. Дефазификация................... 114
Глава 4. Основы теории нейронных сетей.......... 117
4.1 Моделирование нейронных структур мозга.
Модель нейрона........................... 117
4.1.1. Моделирование нейронов мозга..... 117
4.1.2. Примеры искусственных нейронных
сетей................................ 120
4.1.3. Различные типы нейронов.......... 121
4.1.4. Задачи нейронных сетей. Основные
свойства............................. 122
4.2. Обучение однослойных и специальных
нейронных сетей.......................... 124
4.2.1. Способы представления процесса
обучения ..................................... 124
4.2.2. Алгоритм обучения однослойной
нейронной сети........................... 127
4.2.3. Алгоритм обучения по дельта-правилу 129
4.2.4. Алгоритм обучения однослойных НС
с нелинейной функцией активации. . . 131
4.2.5. Алгоритм «победитель получает все» . . 132
4.2.6. Радиально-базисные сети. Сети
регрессии. Вероятностные НС.............. 133
4.3. Многослойные нелинейные нейронные сети 137
4.3.1. Алгоритм обратного распространения
ошибки............................... 137
4.3.2. Эффективность аппарата нейросетей . . 138
4.3 3. Обзор современных нейропакетов
и их возможностей.................... . 139
Глава 5. Эволюционные вычисления....................... 144
5.1. Генетические вычисления........................ 144
5.1.1. Основные направления современного
эволюционного моделирования ........... 144
5 1.2. Генетические алгоритмы............... 145
5.1.3. Применение генетических алгоритмов 147
5.1 4. Стандартный генетический алгоритм . . 148
5.1.5. Вычислительная эффективность
применения генетического алгоритма . . 150
5.2. Разновидности генетических алгоритмов . . . 152
5.21. Эволюционная стратегия .................. 152
5.2 2 Генетическое программирование ... 155
5.2.3 . Эволюционный алгоритм....... 156
5.2.4 . Анализ применимости генетических
алгоритмов для решения задачи
оптимизации............................... 156
5.3. Применение генетических алгоритмов..... 163
5.3.1. Применение генетических
алгоритмов к задаче оптимизации
вычислительной сети.................... 163
5.3.2. Модель вычислительной сети
организации............................ 163
5.3.3. Решение задачи размещения
радиоэлементов в корпусе на основе
генетического алгоритма.......... 169
Главаб. Гибридные системы................................. 176
6.1. Нечеткие нейронные сети........................ 176
6.1.1. Преимущества аппарата нечетких
нейронных сетей........................... 176
6.1.2. Понятие нечеткой нейросети .............. 177
6.1.3. Структуры гибридных систем....... 181
6.1.4. Нечеткий нейронный контроллер .... 190
615. Алгоритмы обучения для нечеткой
нейронной сети контроллера........ 194
62 Нечеткие нейронные сети с генетической
настройкой.............................. 195
6.2 1. Определение нечеткой системы
с генетической настройкой ................ 195
6.2.2. Нечеткое управление генетической
системой................................. 196
6.2.3. Системы генетического
проектирования нечетких нейронных
сетей.................................... 199
6.3. Современные приложения гибридных систем. 200
6.3.1. Мягкая экспертная система ........ 200
6.3.2. Нечеткая тенденция. Мягкая
экспертная система экономического
анализа................................. 204
6.3.3. Мягкая экспертная система
проектирования стендов контроля
радиоэлектронной аппаратуры.............. 211
6.3 4. Нечеткая реляционная алгебра. Сервер
нечетких данных.......................... 217
Заключение......................................... 227
Приложение. Лабораторные работы
в инструментальной среде Matlab.................... 229
П1. Нечеткие системы............................... 229
Лабораторная работа № 1. Исследование способов
формирования нечетких множеств и операции
над ними....................................... 229
Лабораторная работа № 2. Моделирование нечеткой
системы средствами инструментария нечеткой
логики......................................... 241
Лабораторная работа № 3. Исследование алгоритма
нечеткой кластеризации......................... 252
П2. Нейронные сети................................. 259
Лабораторная работа № 4. Изучение свойств
линейного нейрона и линейной нейронной сети. ... 259
Лабораторная работа № 5. Изучение многослойного
нелинейного перцептрона и алгоритма обратного
распространения ошибки......................... 276
Лабораторная работа № 6. Изучение радиальных
базисных, вероятностных нейронных сетей, сетей
регрессии...................................... 280
Лабораторная работа № 7. Изучение сетей Кохонена
и алгоритма обучения без учителя............... 286
ПЗ. Генетические алгоритмы........................ 290
Лабораторная работа Ns 8. Основные элементарные
функции генетических вычислений............... 290
Лабораторная работа Ns 9. Интегральные функции
генетических вычислений....................... 292
Лабораторная работа Ns 10. Прикладные
оптимизационные задачи ... 293
П4 Гибридные системы............................ 297
Лабораторная работа Ns II. Построение гибридной
системы класса ANFIS.......................... 297
Лабораторная работа Ns 12. Базовые функции
проектирования гибридных систем............... 302
Лабораторная работа Ns 13. Интегральные функции
реализации нечеткой нейронной сети............ 304
Лабораторная работа Ns 14. Задачи разработки
инструментария гибридных систем............... 305
Литература........................................ 307
Список сокращений.............................. 313
к
Учебное издание
Ярушкина Надежда Глебовна
ОСНОВЫ ТЕОРИИ
НЕЧЕТКИХ И ГИБРИДНЫХ
СИСТЕМ
Заведующая редакцией Л. А. Табакова
Ведущий редактор Н А. Кузнецова
Редактор Л. Г. Гагарина
Младший редактор Н. А. Федорова
Художественный редактор Ю. И. Артюхов
Технический редактор Т С. Маринина
Корректоры Г. В. Хлопцева, Н Б. Вторушина
Компьютерная верстка Г Ю. Мете
Обложка художника О. В. Толмачева
ИБ № 4673
Сдано в набор 26 06 2003. Подписано в печать 18.12.2003.
Формат 60 х 88 1/16- Печать офсетная. Гарнитура «Таймс»
Усл. п. л. 19,6. Уч.-изд. л. 17,02. Тираж 4000 экз.
Заказ 100. «С» 013
Издательство «Финансы и статистика»
101000, Москва, ул. Покровка, 7
Телефон (095) 925-35-02, факс (095) 925-09 57
E-mail: mail@fmstat.ru http://www.finstat.ru
ГУП «Великолукская городская типография»
Комитета по средствам массовой информации Псковской области,
182100, Великие Лупки, ул. Полиграфистов, 78/12
Тел./факс. (811-53) 3-62-95
E-mail: VTL@MART RU