РАШГОЭЛЕКТРОНИКА
И СВЯЗЬ
ПОДПИСНАЯ НАУЧНО-ПОПУЛЯРНАЯ СЕРИЯ 1984/1 _
Л.А.Кожарский
ЭКСПЕРТНЫЕ СИСТЕМЫ-
ИНТЕЛЛЕКТУАЛЬНОЕ ЯДРО
ЭВМ ПЯТОГО ПОКОЛЕНИЯ
НОВОЕ В ЖИЗНИ, НАУКЕ, ТЕХНИКЕ

НОВОЕ В ЖИЗНИ, НАУКЕ, ТЕХНИКЕ
ПОДПИСНАЯ НАУЧНО-ПОПУЛЯРНАЯ СЕРИЯ
РАДИОЭЛЕКТРОНИКА
И СВЯЗЬ
1/1984
Издается ежемесячно с 1966 г.
Л. А. Кожарский
ЭКСПЕРТНЫЕ СИСТЕМЫ-
ИНТЕЛЛЕКТУАЛЬНОЕ
ЯДРО ЭВМ
«пятого поколения»
Издательство «Знание» Москва 1984

ББК32
К 58
Автор: КОЖАРСКИЙ Лев Алексеевич — кандидат техниче*
ских наук, старший научный сотрудник
Научно-исследовательского центра электронно-вычислительной техники. Работает в
области вычислительной техники свыше тридцати лет. Автор
пятидесяти работ, в том числе первых публикаций по
экспертным системам технической диагностики,
Рецензент; Максименко В. И. — доктор экономических
наук.
Кожарский Л. А*
К 58 Экспертные системы — интеллектуальное ядро
ЭВМ пятого поколения. — М.: Знание, 1984. —
64 с, — (Новое в жизни, науке, технике, Сер, «Ра*
диозлектроника и связь»; № 1),
11 к,
В брошюре обсуждаются основные вопросы устройства, применен
ния и совершенствования экспертных систем — основы ЭВМ
ближайшего будущего. Сейчас их именуют машинами пятого поколения-,
или, иначе, интеллектуальными вычислительными машинами.
Поскольку это новое направление вычислительной техники обещает ока~
зать влияние на многие стороны нашей жизни и деятельности, бро*
шюра будет интересной и полезной самому широкому кругу читате^
лей, и в первую очередь предназначена она сгудентам, инженерам»
лекторам и преподавателям,
2401000000 ББК32
6Ф
© Издательство «Знание», 1984 г,

Предисловие
Есть одна примечательная закономерность в жизни
человеческого общества: чем масштабнее и интенсивнее
становится его практическая деятельность, тем большая
доля труда расходуется при этом на обработку
информации. Соответственно, во всех промышленно
развитых странах непрерывно растет число лиц, занятых
указанной работой (в исследовательских и проектных
организациях, в промышленности, в управлении, в
материально-техническом обеспечении и т. д.). Несмотря на
многочисленность этой категории лиц, их техническая
вооруженность находится на самом низком уровне, а по
производительности труда и темпам ее роста они
намного отстают от других групп работающих. В этих
условиях вычислительная техника, как средство
автоматизации обработки информации, испытывает быстрое и
устойчивое развитие во всех промышленно развитых
странах.
Отечественная промышленность вычислительной
техники сформировалась в течение IX и X пятилеток*
Отечественная промышленность вычислительной техники в
содружестве с промышленностью стран СЭВ освоила
серийный выпуск большой номенклатуры технических и
программных средств Единой системы ЭВМ (ЕС ЭВМ)
и системы малых ЭВМ (СМ ЭВМ). Обе системы
вычислительных машин являются в настоящее время
основной базой для создания автоматизированных систем
управления и обработки данных в народном хозяйстве.
Эта база непрерывно расширяется и совершенствуется,
И в настоящее время создается новое поколение ЕС ЭВМ
и СМ ЭВМ.
3

На основе ЕС ЭВМ возникли вычислительные
центры коллективного пользования, создается
вычислительная сеть АН СССР, а также сети союзных республик,
и в обеспечение этого разрабатываются и производятся
различные средства телеобработки данных.
Однако в своем стремлении применить ЭВМ как
можно шире специалисты неожиданно для себя
столкнулись с одним серьезным препятствием. Выяснилось со
всей определенностью, что управленческий труд, как
разновидность практической интеллектуальной
деятельности, не может быть автоматизирован с помощью
традиционных методов, зарекомендовавших себя в
промышленности. Оказалось, что ЭВМ не в состоянии брать
на себя задачи, которые легко, но специфически
по-человечески решают специалисты, администраторы,
эксперты и даже секретари. Дело в том, что человек
обращается с подобными задачами, не прибегая к
детальной формализации и довольствуясь для решения
неполной, а часто даже отрывочной информацией. Машине
же всегда необходим полный объем недвусмысленных
сведений и точно расписанная последовательность
действий с ними.
Научить машину действовать подобно человеку
означало резко расширить область ее применения, а главное
эффективно использовать ее в наиболее массовой,
наименее производительной и почти не оснащенной
технически деятельности. При этом сама постановка вопроса
отводит машине роль помощника человека, его
советчика или, иначе, эксперта, выполняющего трудную,
рутинную часть работы, в то время как человек оставляет
за собой творческую, наименее поддающуюся
автоматизации часть деятельности. Подобные экспертные
системы являются важной частью ЭВМ пятого поколения,
идея создания которых сейчас активно обсуждается во
всем мире по инициативе японских специалистов. Дис-
куссионность окончательных сроков создания ЭВМ
пятого поколения заставила употребить это
словосочетание в заголовке брошюры в кавычках.
Исследования по этим вычислительным машинам
будущего, в том числе по рассматриваемым в настоящей
брошюре экспертным системам, находятся в начальной
стадии. На поиск принципиальных решений в этой
области будут затрачены по меньшей мере ближайшие годы.
4

Эти исследования уже начаты в нашей стране и за
рубежом, и всюду материальной основой для них служит
наличная, серийно выпускаемая вычислительная
техника, позволяющая моделировать интеллектуальные
процессы, сравнивать их результаты с интеллектуальными
действиями профессионалов и судить тем самым об
ударности созданных моделей. Вычислительная техника
ЕС ЭВМ и ее программное обеспечение предоставляют
для таких исследователей широкие возможности, Это
обусловлено рядом обстоятельств.
Во-первых, архитектура вычислительных машин ЕС
ЭВМ с самого начала была ориентирована на решение
возможно более широкого круга задач.
Во-вторых, ЕС ЭВМ впитала в себя весь наиболее
ценный мировой опыт создания ЭВМ общего назначения
и имеет программную и аппаратную совместимость с
80% мировой продукции вычислительной техники.
В-третьих, ЕС ЭВМ реализует все современные
режимы обработки данных^ мультипрограммные и
мультипроцессорные режимы, режимы разделения времени и
реального времени, режим межмашинного обмена,
работу по каналам связи и др.
В-четвертых, в Советском Союзе создаются
средства, способные в ближайшем будущем значительно
расширить возможности ЕС ЭВМ (процессоры макрокон-
вейерной и параллельной обработки данных,
процессоры для обработки сигналов и для решения специальных
научно-технических задач).
Уже есть примеры результативного применения ЕС
ЭВМ для исследований проблемы интеллектуализации
вычислительной техники. Опыт одного из них по
моделированию экспертной обработки информации в
НИЦЭВТе составил содержание заключительного
раздела настоящей брошюры.
Обращаясь к непосредственному содержанию
брошюры, следует сказать, что автор взял на себя
трудную задачу изложить в общедоступной форме одну из
центральных и слабо разработанных проблем ЭВМ
пятого поколения — проблему экспертной обработки
информации. Естественно, что освещению некоторых
вопросов этой проблемы можно придать в настоящее
время разные смысловые и эмоциональные оттенки.
Например, я не сторонник абсолютизации роли экспертных
5

систем в ЭВМ пятого поколения, как это сделано в
заголовке брошюры, считая, что не один какой-либо, а
целый ряд интеллектуальных процессов займет ведущее
положение в вычислительной технике ближайшего
будущего* Или, рассматривая экспертную обработку
информации, я не стал бы прибегать к столь глубокой
ретроспективе, как изложение усилий Б, Паскаля по
созданию субъективной теории вероятностей как
математического аппарата для исследования человеческих
знаний.
Из-за недостаточной разработанности идей
экспертной обработки информации (как и всей совокупности
идей ЭВМ пятого поколения) в этой области покуда
возможны подобные разночтения. Но в дальнейшем
экспертная обработка информации обещает стать строго
обоснованным и к тому же значительным направлением
вычислительной техники. Поэтому его рассмотрение в
популярной литературе представляет полезное и
своевременное дело.
Заместитель
Генерального конструктора ЕС ЭВМ,
лауреат Государственной премии
Б. И. ЕРМОЛАЕВ
Введение
С момента своего возникновения вычислительные
машины рассматриваются как средство автоматизации
умственного труда человека. Непосредственным
поводом цля создания первых в истории счетных машин
послужило стремление молодого Паскаля облегчить труд
своего отца, который служил инспектором податной
палаты и был постоянно обременен многочисленными и
громоздкими вычислениями.
Использование машин в любой трудовой
деятельности имеет целью либо полную замену человека
машиной, либо оптимальное распределение между ними
функций при сохранении за человеком ведущей роли. Если
для физического труда первое решение не вызывает
сомнений, то для умственного труда оно не
представляется уже очевидным и бесспорным.
Сначала при создании искусственного интеллекта
ученые без колебаний выбрали для своих исследований
6

именно первое направление. Им представлялось
значительным и заманчивым взяться за создание технической
системы, могущей полностью заменить человека й даже
превзойти его по своим мыслительным способностям.
Тем более что налицо были впечатляющие успехи
автоматизации в других областях человеческой
деятельности, а сам человек представлялся далеко не
совершенным информационным «устройством», способным
ошибаться, уставать и действовать заведомо нерационально*
Словом, для пользы дела было бы совсем неплохо
заменить его какой-то более алгоритмизированной
системой.
На фоне таких умонастроений взгляды теоретиков
искусственного интеллекта получили в 60-е годы за
рубежом широкое распространение» Стали публиковаться
многочисленные проекты создания универсальных
интеллектуальных устройств, способных заменить
человека (персептрона, всеобщего решателя проблем, гомео-
стата и др.). Эти проекты никак не согласовывались с
предыдущим опытом науки, обобщенным в ее метода
Но к такому несоответствию научно-техническая
общественность относилась снисходительно как по причине
необычности предмета исследования (интеллекта,
умственной деятельности), так и по причине отсутствия
прецедентов подобных исследований в прошлом, способных
стать критерием оценки настоящих усилий. Как показал
дальнейший ход событий, ни одно из объявленных
предприятий не оправдало возложенных на него надежд, и
число последователей этого направления автоматизации
умственной деятельности стало постепенно
сокращаться.
Но наряду с этим существовал и активно действовал
большой отряд практических работников
вычислительной техники, занятых созданием, программированием и
эксплуатацией вычислительных машин. По роду
деятельности их усилия были направлены на достижение
эффективной работы ЭВМ совместно с человеком.
Иными словами, реальное положение дел в вычислительной
технике побуждало их заниматься развитием второго
направления автоматизации умственной деятельности
человека, предусматривавшего не исключение его из
этого процесса, а оптимальное распределение функций
между человеком и машиной. Более того, практические
работники довольно скоро уяснили себе, что наиболее
7

интересные и важные применения ЭВМ становятся
возможными только при условии тесного и обоюдоактив-
ного взаимодействия человека и машины, т. е. когда они
представляют по существу единую человеко-машинную
систему. Дело в том, что одна машина способна решать
только хорошо формализованные (или, иначе,
математизированные) задачи. Подавляющее же большинство
практических задач, требующих от человека
ежедневных умственных усилий, либо слабо формализовано,
либо совсем не формализовано. Поэтому, чтобы стать
настоящим помощником человека в его повседневной ум-*
ственной работе, ЭВМ должна научиться в союзе с ним
решать указанные задачи, беря на себя наиболее
трудоемкую и наименее творческую часть дела.
На этом пути развития вычислительной техники и
родились экспертные системы. Такие системы при
активном участии человека решают различные
профессиональные задачи, используя переданный им опыт
специалистов и повторяя ход их рассуждений. В отличие от
проектов 60-х годов экспертные системы не претендуют
ни на что, кроме воспроизведения скромных функций
практического мышления (и то при творческом участии
человека). Опытная эксплуатация первых
экспериментальных экспертных систем показала их практическую
полезность и перспективность в деле автоматизации
повседневной умственной работы человека, хотя эти
системы еще не вышли из стадий поисковых работ и
реализуются покуда исключительно программными
средствами на универсальных ЭВМ.
Поэтому естественно, что их широкое и эффективное
применение относят не к нынешнему, а к следующему
десятилетию нашего столетия. Отсюда и всякие
проекты будущей совершенной ЭВМ специалисты связывают
с аппаратной, реализацией некоторой развитой
экспертной системы. Так возник, в частности, известный японч
ский проект ЭВМ пятого поколения.
Планы использования экспертных систем в качестве
интеллектуальной основы совершенной ЭВМ конца
нашего столетия могут быть осуществлены при одном
непременном и очевидном условии. Человеческий опыт
свидетельствует, что любая практическая деятельность
оказывается успешной только при наличии
соответствующей надежной и развитой теории. Так было и в
случае создания тепловых машин (вызвавшем к жизни тер-
8

модинамику), и в случае создания летательных
аппаратов (сделавшим необходимой аэродинамику), и в
случае создания электрических машин (способствовавшем
развитию электродинамики). Практика создания
экспертных систем не может стать исключением из этого
правила. Поэтому поиск надежного теоретического
основания для таких систем представляет важную
проблему их становления.
Будущее экспертных систем разные специалисты
оценивают по-разному. Но весь спектр оценок тяготеет к
той одной общей мысли, что экспертные системы,
по-видимому, открывают новые возможности перед
вычислительной техникой.
В этой связи во всех основных промышленно
развитых странах ведутся теоретические и экспериментальные
работы по экспертным системам. В капиталистическом
мире практические работы в этой области выполняются
в наибольшем объеме в США, а теоретические — в
Англии. Специалисты, занимающиеся проблемой экспертных
систем, возлагают на них большие надежды в связи с
их принципиальной возможностью значительно
повысить роль вычислительной техники в жизни общества и
его отдельных членов. Из традиционного вычислителя
ЭВМ сможет превратиться во всестороннего и незаме*
нимого помощника и советчика человека во всей его
повседневной умственной работе.
Но покуда экспертные системы делают свои первые
шаги, и настоящая брошюра написана с позиций этого
первого опыта.
Экспертные системы —
новое направление
в вычислительной технике
ЧТО ТАКОЕ ЭВМ ПЯТОГО ПОКОЛЕНИЯ?
Вычислительная техника развивается значительно
быстрее, чем многие другие области промышленного
производства. Модели ЭВМ сменяют одна другую так
часто, что технические средства, находящиеся в
эксплуатации, стареют в большей мере морально, чем физи«
чески. Для удобства ориентации в этой быстро изменя-
9

ющейся массе технических средств вычислительной
техники принято разделять ее на поколения. В качестве
признака принадлежности ЭВМ к тому или иному
поколению берется их элементная база. Соответственно
к первому поколению относятся ЭВМ на электронных
лампах, ко второму — ЭВМ на полупроводниковых
приборах, к третьему — на интегральных схемах (ИС), к
четвертому — на больших интегральных схемах (БИС)
и к пятому — ЭВМ на сверхбольших интегральных
схемах.
В настоящее время создатели вычислительной
техники во всем мире заняты разработкой и выпуском
ЭВМ третьего и четвертого поколений. Опережая
несколько естественный ход событий, японские
специалисты объявили в 1981 г. о начале работ над ЭВМ
пятого поколения.
Этот японский проект в целом оказался большой
неожиданностью для всех промышленно развитых стран,
хотя по частям он не представлял ничего нового. Более
того, многие частные направления японского проекта
находятся в этих странах в значительно более развитом
состоянии, чем в Японии.
Отсюда типичная двойственная реакция на японский
проект: с одной стороны, констатируя фрагментарность
собственных фундаментальных исследований по
вычислительной технике и, с другой стороны, проявляется
сдержанность и критическое отношение к японскому
проекту и предложению Японии о содружестве в этой
области.
Но так или иначе, японский проект побудил
специалистов большинства развитых стран заняться
созданием собственных комплексных программ
фундаментальных исследований по вычислительной технике. Однако
задача эта оказалась непростой, и спустя полтора года
с момента объявления японского проекта еще ни одна
страна не объявила в окончательном виде собственной
альтернативной программы действий.
Для характеристики отношения к японскому
проекту ЭВМ пятого поколения наибольший интерес
представляют действия двух наиболее развитых в этой
области капиталистических стран — США и Англии. На их
ответные действия оказывают сильное влияние два
важных обстоятельства.
Сейчас большинство научных исследований (в том
10

числе и исследований по вычислительной технике) носит
комплексный характер, что требует объединения усилий
многих коллективов на протяжении длительного
времени. Это находится в противоречии с
частнопредпринимательским характером капиталистического общества,
подчиненного стремлению извлекать прибыль с
наименьшим риском и в наиболее короткие сроки, В
соответствии с этим промышленность вычислительной техники
США и Англии проводит главным образом
краткосрочные научно-исследовательские и опытно-конструкторские
работы, а длительные по своему характеру
фундаментальные исследования выполняют университеты этих
стран при финансовой поддержке правительства.
Поэтому перед создателями программы исследований по
пятому поколению ЭВМ в США и Англии стоит трудная
задача объединения усилий государства, университетов
и частной промышленности.
В США возникают дополнительные трудности.
Нынешнюю американскую администрацию интересует
только то, что способно изменить в их пользу
военно-стратегическое равновесие в мире и позволит им проводить
внешнюю политику с позиций силы. Поэтому создатели
программы исследований по пятому поколению ЭВМ в
США, чтобы иметь успех в правительстве, должны
придать ей сугубо военную направленность. Под влиянием
этих обстоятельств последние события по созданию
американской и английской программ работ,
альтернативных японской, развивались следующим образом.
Было объявлено, что министерство обороны США
планирует программу разработки ЭВМ пятого
поколения, которую будет щедро финансировать государство.
Об этом сообщил заместитель министра обороны США
Делауэр на симпозиуме по военным ЭВМ и на
международной конференции по полупроводниковым схемам.
Выражая критическое отношение к срокам и целям
японского проекта, он охарактеризовал американскую
программу работ как программу создания ЭВМ пятого
поколения. Предполагается в бюджете на 1985 финан*
совый год выделить на эту программу необходимые
средства. Как видно из соответствующих заявлений,
программа будет нацелена на исследование по
искусственному интеллекту и, в частности, на распознавание
изображений. Фирма IBM проявила интерес к участию
в этой программе,
II

В Англии министр информационной технологии
К. Бакер организовал комитет, возглавляемый
директором фирмы «British Telecom» Дж. Олвей для
определения возможностей сотрудничества с Японией по пятому
поколению ЭВМ. Фирма создала специальную группу
по изучению состояния разработок и по объединению
усилий в этой области правительства, частной
промышленности и университетов.
Тема «ЭВМ пятого поколения» оживленно
обсуждается специалистами США, Японии, Европейского
экономического общества (в первую очередь Англии),
Советского Союза и других стран. Это привело к тому, что
о вычислительных машинах пятого поколения сложилось
более или менее определенное представление,
разделяемое большинством специалистов, хотя в подробностях
существуют расхождения даже среди японских
разработчиков вычислительной техники.
О возможностях ЭВМ пятого поколения японские
специалисты сделали множество многообещающих
заявлений. Согласно сказанному ЭВМ пятого поколения
должны, например, осуществлять ввод и вывод
информации с помощью речи, голоса, графиков, образов и
различных документов, поскольку улучшение связи
человека с машиной имеет большое значение для
упрощения и повышения эффективности использования
последней. Эти машины будут наделены функциями узнава*
ния, использования ассоциативных связей и
логического вывода, что позволит им, в частности, уточнять
неясно поставленные вопросы и давать на них
удовлетворительные ответы. В какой-то мере они должны
обладать способностью к автоматическому составлению
программ. Они должны иметь гибкие конфигурации тех-
нических средств, легко приспосабливаемые к самым
различным целям и задачам. Их можно будет
использовать в любом месте и в любое время, а их
технические средства станут намного доступнее по стоимости,
чем нынешние ЭВМ, и должны иметь недостижимое в
настоящее время отношение производительности к
стоимости.
Но главная особенность ЭВМ пятого поколения
состоит, конечно, в их способности к принципиально
новой, недоступной нынешним машинам обработке
информации на основе знаний. К такой обработке постоянно
прибегает человек в своей повседневной и профессио-
12

нальиой деятельности, используя для этого накопленные
опытным путем знания связей между признаками
состояния окружающей среды и возможными успешными
действиями в ней. Эти знания вводятся в машину и
образуют в ней так называемую базу знаний. Используя
последнюю и воспринимая ту же информацию, что и
человек, машина приходит к тем же самым выводам, что
и человек, выдавая их в форме совета о целесообразных
действиях в тех или иных конкретных условиях. По этой
причине такие вычислительные машины были названы
экспертными, т. е. системами-советчиками. Область
применения ЭВМ с такими свойствами может быть
практически безграничной.
Оптимистически настроенные специалисты
предполагают, что к концу нашего столетия объем действий на
ЭВМ на основе знаний во много раз превысит объемы
обычных вычислений. Однако другие специалисты
оспаривают этот прогноз, считая, что такой значительный
перевес экспертной обработки информации над
вычислениями произойдет позже. При этом они ссылаются на
слабое развитие в настоящее время как теоретических,
так и практических основ этого направления
вычислительной техники. Констатируется, что до сих пор нет
какой-либо удовлетворительной теории экспертных
систем и особенно теории создания баз знаний. Сами же
экспертные системы существуют покуда в виде
экспериментальных пакетов прикладных программ для
универсальных ЭВМ. Словом, здесь все еще впереди, и до
широкого практического использования идеи экспертной
обработки информации еще далеко.
Но так или иначе, японский проект вызвал в мире
сильный резонанс, и это свидетельствует о том, что
условия для подобного смелого научно-технического
предприятия созрели в большей части промышленио
развитых стран.
ПРЕДСТАВЛЕНИЕ ОБ ЭКСПЕРТНЫХ СИСТЕМАХ
Создание экспертных систем — это попытка
значительного расширения области применения
вычислительной техники и существенного увеличения ее
возможностей как помощника человека в его интеллектуальной
работе.
До сих пор ЭВМ создавались по принципу алгорит-
13

мической методологии. Чтобы такие вычислительные
машины могли работать, требуется выполнить целый ряд
предварительных условий. Прежде всего для каждой
решаемой задачи надо найти подходящий алгоритм. Затем
этбт алгоритм следует превратить в подробную
программу будущих вычислений. И наконец, необходимо
позаботиться о том, чтобы эти вычисления были обеспечены
полным объемом достоверной исходной информации.
Такое применение ЭВМ связано с большими
трудностями. Во-первых, по мере роста сложности решаемых
задач быстро повышается трудоемкость и стоимость
программирования работы ЭВМ, что уже сейчас
становится серьезным тормозом дальнейшего применения
вычислительной техники. Во-вторых, многие задачи,
возникающие перед человеком в ходе его практической
деятельности, плохо формализованы или совсем нефор-
мализованы. И наконец, в-третьих, подавляющее число
задач, нуждающихся в решении, не обеспечено
требуемым объемом исходных данных, поскольку человек
действует обычно в условиях большей или меньшей
информационной неопределенности,
В результате многие важные задачи человек не
может передать машине, функционирующей по принципу
алгоритмической методологии, что существенно
снижает область практического применения вычислительной
техники. Вместе с тем сам человек успешно справляется
с подобными задачами благодаря своему умению:
обращаться с задачами, не прибегая к их полной
формализации;
находить и использовать для них всевозможные,
самые неожиданные источники информации;
объединять противоречивые сведения, придавая им
нужную интерпретацию и соответствующий вес;
целенаправленным изучением или, иначе,
тестированием объекта действия извлекать дополнительную
информацию;
откладывать решение до накопления необходимых
данных;
вырабатывать неоднозначные решения и успешно
руководствоваться ими;
создавать и накапливать знания, позволяющие
действовать в условиях большой информационной
неопределенности.
Стремление наделить ЭВМ подобными ценными свой-
14

ствами привело к созданию экспертных систем. Первые
экспериментальные экспертные системы, выполненные
программным способом на существующих серийных
вычислительных машинах, появились в конце 70-х годов.
Они стали быстро завоевывать признание, и уже сейчас
большинство специалистов сходится во мнении, что
экспертные системы найдут широкое применение уже в
конце 80-х — начале 90-х годов. Экспертная система
представляет собой специализированную
вычислительную машину (процессор), воспроизводящую ход
решения человеком определенных практических задач на
основе профессионально ориентированных знаний,
переданных ей соответствующими специалистами. При этом
экспертная система проявляет следующие интересные
свойства:
1) по ходу решения задач ведет диалог с человеком,
обмениваясь с ним вопросами и ответами;
2) анализирует наличную проблемную ситуацию и
может управлять ею через человека;
3) обосновывает сделанные выводы и предлагаемые
действия в понятной для человека форме;
S воспринимает новые профессиональные знания,
ынешние экспериментальные экспертные системы
отличаются очень узкой специализацией. Это системы
либо для диагностики очень частного вида заболеваний
человека, либо для определения структурной формулы
определенного класса органических соединений, либо
для поиска оптимальной конфигурации конкретной
вычислительной системы и т. д.
Узкая специализация экспериментальных экспертных
систем вызвана желанием их разработчиков уменьшить
объем закладываемых в систему профессиональных
знаний, чтобы упростить задачу создания этих знаний и
хранение их в памяти ЭВМ. По-видимому, в
дальнейшем этот недостаток будет преодолен.
Профессиональные знания передаются экспертной
системе соответствующим специалистом, а их
приведением к виду, удобному для использования, занимается
программист. Наиболее распространенной и естественной
формой представления знаний в системе является их
запись в виде профессиональных правил или
утверждений типа «если,., то...». Левая часть такого правила
представляет сочетание фактов или признаков,
характеризующих некоторое условие, а правая часть указывает
15

на действие или заключение, соответствующее по опыту
специалиста наличной ситуации. В качестве примера
приведем следующее профессиональное утверждение:
«Если микросхема демонтирована из аппаратуры по
подозрению в неисправности, если неисправность имела
неустойчивый характер и если демонтированная
микросхема соответствует на стенде техническим условиям, то
исследуй целостность ее термокомпрессионных
соединений».
Знания или, как говорят специалисты, база знаний
экспертной системы состоит из большого числа
подобных профессиональных правил разной степени
общности. Решая задачу, экспертная система выбирает
правила в порядке снижения их общности, что
воспроизводит ход рассуждения специалиста в подобной ситуации
от цели к конкретным действиям.
Например, система располагает таким фрагментом
знания:
«Если хочешь выйти из дома, то оцени состояние
погоды, т. е. солнечно сейчас или дождливо. Если
дождливо, то захвати с собой зонт. Если солнечно, то возьми
черные очки».
В ответ на вопрос, как поступить при выходе из дома,
система предложит человеку уточнить состояние
погоды. После ввода в систему запрашиваемой информации
она посоветует своему владельцу, например, взять
темные очки.
Диалог с системой и ее советы станут совсем
непростыми, если они будут относиться к малознакомой
человеку профессиональной области, а сам совет окажется
результатом выбора из большого числа альтернатив.
Этот совсем непростой выбор образуется в ходе
многократного ввода в систему информации по ее запросам.
Экспертная система, построенная таким образом,
имеет ряд определенных преимуществ. Во-первых,
программирование системы осуществляется на более
понятном человеку уровне, чем в современных ЭВМ. Это
делает экспертные системы и их программирование
доступными малоподготовленным пользователям.
Во-вторых, в отличие от современных ЭВМ экспертная
система может объяснить человеку, как она пришла к тому
или иному результату. Это повышает доверие человека
к совету, выработанному машиной, и создает у него
готовность использовать совет в своей деятельности.
16

В-третьих, экспертная система, база знаний которой
построена на основании знаний группы специалистов,
располагает, по-видимому, ббльшими интеллектуальными
возможностями, чем каждый специалист в отдельности.
В-четвертых, экспертная система легко обучается через
пополнение ее базы знаний новыми знаниями,
приобретаемыми специалистами. В будущем систему можно
наделить способностью к самообучению.
Экспертные системы сегодня
Нынешние экспертные системы имеют сугубо
экспериментальный характер и реализуются исключительно
программными средствами на серийных универсальных
ЭВМ. Они представляют, по существу, набор, или, как
говорят специалисты, пакет прикладных программ. Этим
нынешние экспертные системы существенно отличаются
от тех систем, которые предполагается реализовать
аппаратными средствами в 90-е годы. Дело в том, что
интеллектуальный уровень экспертной системы
определяется в основном тем объемом информации, который она
способна переработать в единицу времени. Но как
хорошо известно специалистам, программным способом
нельзя достичь больших скоростей обработки
информации. Это можно сделать только приспособлением
архитектуры вычислительной машины к алгоритмам
решаемых задач, т. е. аппаратными средствами.
Соответственно интеллектуальные возможности программных
экспертных систем оказываются очень скромными,
Другим важным отличием нынешних экспертных
систем является малый объем их баз знаний, что сильно
ограничивает возможности систем и снижает
эффективность их применения. Но разработчики
экспериментальных экспертных систем покуда мирятся с этим
недостатком, поскольку создание и поддержание базы знаний
представляет наиболее сложную и трудоемкую часть
дела*
Третьей особенностью нынешних экспериментальных
экспертных систем является большое различие в их
устройстве, в том числе устройстве их баз знаний. Это
мешает объединению экспертных систем в сети, не
позволяет им обмениваться знаниями и лишает их, таким
образом, многих ценных преимуществ. Большое
разнообразие в устройстве экспертных систем порождается
1^32—2
17

отсутствием теории этих систем, которая могла бы
руководить их созданием.
Сейчас при проектировании экспертных систем
каждый разработчик действует на основании собственного
узкопрофессионального опыта. Группа специалистов,
приступая к созданию программ экспертной обработки
информации в своей профессиональной области,
руководствуется исключительно практикой своего дела. Эта
практика обычно нигде не излагается. О ней мало
говорится в учебниках и монографиях. Она слабо осознана
и осмыслена самими специалистами и содержит много
интуитивных и субъективных элементов. В этих
условиях трудно избежать различий в устройстве
экспертных систем.
Несмотря на перечисленные недостатки, экспертные
системы завоевывают все большее признание
специалистов, и экспериментальные образцы систем продолжают
создаваться для все новых областей профессиональной
деятельности. В настоящее время существует много
экспериментальных экспертных систем в области
медицины: для идентификации микроорганизмов, вызвавших
бактеремию, и выбора терапии, для диагностики
нарушений организма в отделении реанимации,
пульмонологических заболеваний, глаукомы, заболеваний почек
[3], центральной и периферической нервной системы;
для консультаций по психофармакологии; для
диагностики острых заболеваний брюшной полости [1].
Имеются экспериментальные экспертные системы для
анализа структур ДНК, для диагностики заболеваний
соевых бобов, для анализа данных масс-спектрометрии, для
обработки геологоразведывательных данных*
Исследуются возможности применения экспертных
систем в других областях. Назовем некоторые из них:
контроль производственных процессов и управление
ими; финансовое планирование; понимание естественных
языков; техническая диагностика и др.
Для представления знаний в экспертных системах
используют самые различные способы. Свобода выбора
между ними очень велика. Наиболее распространенные
способы представления знаний используют либо
продукции, либо семантические сети. Продукция представляет
порцию (квант) знания в форме правила типа «если..,
то...». Семантические сети построены из понятий и
существующих между ними связей, примером которых мо-
18

гут быть связи между понятиями «человек», «мужчина»,
«отец». Из всех видов семантических сетей самыми
распространенными являются сети из фреймов,
являющихся моделями понятий естественного языка.
Рассмотрим в качестве примера конкретных
разработок две экспертные системы, базы знаний которых
построены двумя указанными различными способами.
В первой из них (система МИЦИН) знания
представляются с помощью продукций, а во второй (система
ПИП) — с помощью фреймов.
Система МИЦИН была разработана в Стенфорд-
ском университете и предназначалась первоначально для
оказания помощи терапевтам при постановке диагноза
и назначении курса лечения пациентов с бактериальным
заболеванием крови. Потом она успешно применялась и
для других целей (например, для диагностики форм
менингита). Система работает в режиме диалога с
врачом, выступая в роли его консультанта при постановке
диагноза заболевания.
В систему могут также вводиться новые указания и
корректироваться старые по мере приобретения опыта
лечащим персоналом.
Система состоит из четырех основных блоков
(рис. 1). Консультационный блок взаимодействует с
врачом при получении информации о пациенте, постановке
Данные о
пациенте.
вопросы ^|
Диагноз,
ответы и
объяснен
тн
База
знаний

Консультационный
блок
Блок

объяснений
Вопросно-
omSem-
ный
блок
Блок

пополнений
знаний
Рис. 1» Блок-схема экспериментальной экспертной системы МИЦИН
19

диагноза и выдаче рекомендаций. Вопросно-ответный
блок позволяет вести диалог с системой на
ограниченном профессиональном языке. Блок объяснений
информирует врача о том, как система пришла к тому или
иному результату или почему она задает
соответствующий вопрос. Блок изменения и пополнения знаний слу*
жит для передачи системе нового опыта, появившегося
у специалистов в ходе практической деятельности.
База знаний системы МИЦИН состоит из правил
типа «если.., то..,». Каждое такое правило представляет
многократно проверенное законченное утверждение
специалиста из области его профессиональной
деятельности, основанное на его личном опыте, и образует, таким
образом, единицу субъективного профессионального
знания.
Свойственная любой практической профессиональной
деятельности неопределенность и неполнота знания
представляется и учитывается в системе с помощью
коэффициента, называемого фактором уверенности. Этот
коэффициент (его численное значение от 0 до 1)
является субъективной оценкой вероятности соответствия
действительности правил (гипотез), фактов и
признаков, и потому численное значение коэффициента
выбирается специалистом на основании собственного опыта.
Правила с оценкой степени уверенности в них
хранятся в базе знаний системы МИЦИН в виде подобных
утверждений: «Если инфекция является первичной бак-
теремией, если материал для посева отобран стерильно
и если подозреваемым путем внедрения инфекции
является кишечно-желудочный тракт, то можно считать с
вероятностью 0,7, что организм имеет бактериальный
характер». База знаний системы содержит 450 таких
правил.
Работа системы и специалиста по постановке
диагноза начинается с того, что специалист на основании
собственного опыта выдвигает некоторую гипотезу о за*
болевании и вводит ее в систему. Система
просматривает правила в базе знаний и выделяет те из них,
правые части которых содержат предполагаемый диагноз.
Далее, для выделенных утверждений по правилам
исчисления вероятностей определяются факторы
уверенности правил и входящих в них фактов. Если фактор-
уверенности для какого-либо факта не может быть
определен с помощью факторов уверенности исходных фактов,
20

хранящихся в базе знаний, то система обращается с
соответствующим вопросом к человеку. Поэтому данные
о состоянии больного специалист вводит в систему не
по собственной инициативе, а по мере поступления от
нее вопросов. Если при этом специалист не понимает
вопроса, то система может выдать ему другую
формулировку вопроса или перечень всех возможных
ответов на вопрос. В итоге система вычисляет
количественные оценки выдвигаемых специалистом гипотез о
состоянии больного и помогает ему выбирать из них наиболее
вероятную.
Любую экспертную систему можно охарактеризовать
в целом степенью приближения реализуемых в ней
процессов к реальным процессам мышления. Такая
характеристика будет всегда и наиболее полной, и наиболее
краткой, так как отражает суть реализованного э
системе достижения. В этой связи следует
констатировать, что система МИЦИН воспроизводит наиболее
простую, условно-рефлекторную часть мыслительной
деятельности. Продукции выражают элементарные связи
живого существа со средой, которые доступны даже
простейшим из них и которые представляют зависимость
между изменениями окружающей среды и ответными
действиями на них живых существ («если.., то...»).
Поэтому продукции могут быть использованы для
описания лишь очень простых предметных областей. Даже
разработчики системы МИЦИН, будучи по понятным
причинам пристрастными к своему детищу,
констатировали, что в ряде случаев описание знаний с .помощью
продукций становится громоздким и запутанным, а
осуществлявшие его специалисты испытывали трудности.
В этой связи разработчики системы рекомендуют не
применять правил с числом условий больше шести.
Очевидно, конечно, что сложные взаимоотношения
человека с окружающим миром не могут быть
выражены на бедном языке условно-рефлекторных связей.
Именно поэтому естественный ход событий наделил
человека понятийным мышлением, занявшим
господствующее положение в его духовной жизни. Соответственно
экспертные системы на основе продукций не имеют
большой перспективы и заметно уступаюг системам с
фреймовым представлением знаний.
Фреймы являются аналогами понятий естественного
языка. Подобно последним они образуют единицы зна-
21

ния в той или иной предметной области, и их
объединение в сеть фреймов позволяет выразить сложные
содержания фраз естественного языка. Имеется чуть ли не
столько моделей фреймов, сколько существует
самостоятельных разработчиков баз знаний на их основе.
Среди специалистов идет дискуссия о преимуществах
тех или иных моделей фреймов, а также языков для
работы с ними. Отсутствие единства в этих вопросах
хотя и представляет, очевидно, нежелательное явление, не
может быть преодолено в ближайшем будущем. Но
большинство специалистов сходится по меньшей мере на
том, что фреймовое представление знаний наиболее
перспективно для экспертных систем.
Экспериментальная экспертная система медицинской
диагностики ПИП, созданная в Массачусетсом
технологическом институте, использует именно такое
представление знаний. Система была успешно испытана на
задачах по диагностике заболеваний почек.
Долговременная память системы содержит базу знаний,
созданную опытными клиницистами с помощью
программистов (рис. 2). Каждый фрейм этого знания
представляет гипотезу о соответствующем заболевании или
состоянии больного. Оперативная память служит местом для
текущей работы управляющей программы с фреймами
в ходе постановки диагноза, т. е. местом
взаимодействия сведений из базы знаний со сведениями о
пациенте.
Каждый фрейм состоит из имени (например, «да-
Данные о
пациенте
• -**!
Диагноз, !
допросы к
специалисту \
■^
Управляющая
программа
1 база знаний
\ на основе
долговременной
памяти
! Оперативная
Рис. 2. Блок-схема экспериментальной экспертной системы ПИП
22

та») и большого числа позиций, которые также имеют
свои имена и перечни возможных значений* Например,
позиция «месяц» фрейма «дата» состоит только из
имени. Позиция того же фрейма «день» имеет перечень
возможных значений от 1 до 31. Позиция «день недели»
содержит перечень возможных семи значений.
Фреймы, несущие диагностическое значение, содер*
жат в своих позициях имена признаков, фактов,
симптомов, лабораторных анализов и т. д. вместе с перечнями
их возможных значений. Каждый фрейм представляет
гипотезу о том или ином заболевании или состоянии
пациента. Соответственно каждое значение в позициях
фрейма сопровождается количественной оценкой
степени подтверждения этой гипотезы в случае появления
определенного значения в данных о пациенте. Ряд
позиций, имеющих наиболее важное значение в постановке
диагноза, называется активаторами. Об их роли будет
сказано при описании работы системы ПЙП. В
Некоторых фреймах имеются позиции, занятые признаками,
появление которых во входных данных позволяет
однозначно принять или отвергнуть соответствующую
гипотезу, не обращаясь ни к каким дополнительным данным.
Многие фреймы имеют позиции, в которых изображены
их связи с другими фреймами (причинно-следственные,
ассоциативные и конкурентные). Эти связи позволяют
системе выражать содержание поставленных ею
диагнозов не только с помощью отдельных фреймов
(представляющих простые гипотезы), но и с помощью связанной
и упорядоченной совокупности фреймов (выражающих
сложные гипотезы).
База знаний системы ПИП содержит около 70
фреймов различных болезней, а также клинических и
физиологических состояний. Типичный фрейм имеет от 5
до 10 позиций, занятых фактами, признаками,
симптомами, лабораторными анализами, данными осмотра
и др., от 10 до 20 количественных оценок и от 5 до
10 связей с другими фреймами. Все фреймы могут
находиться в одном из четырех состояний; пассивном,
активном^ полуактивном и в состоянии принятия
гипотезы» В начале работы системы все фреймы находятся
в долговременной памяти в пассивном состоянии.
Однако часть позиций фреймов, цазываемых активаторами
(о чем говорилось выше), связана со входом системы
специальными подпрограммами, Поэтому ввод врачом
23

данных о пациенте и совпадение некоторых из них со
значениями, записанными в позициях-активаторах,
приводит к активации соответствующего фрейма и
передаче его в оперативную память. Этот фрейм становится,
таким образом, простой рабочей гипотезой о состоянии
пациента. При этом все фреймы, связанные с активным
фреймом, переводятся в полуактивное состояние. Это
значит, что последующее появление значений,
совпадающих со значениями в одной из позиций полуактивиого
фрейма, превращает его также в активный фрейм.
При каждом вводе информации в систему для всех
активных гипотез вычисляются вероятностные оценки
их соответствия действительности. Делается это на
основании количественных оценок подтверждаемости
гипотез входными данными. Самая вероятная гипотеза
становится ведущей. Это значит, что непроверенные
позиции ее фрейма, а затем и связанных с ним фреймов
образуют вопросы, задаваемые системой врачу. Каждый
ответ врача, вводимый им в систему, приводит к
пересчету вероятностных оценок всех активных гипотез. Это
вызывает изменение как в их составе, так и во
взаимоотношениях между ними. На положении ведущей
может оказаться другая, более подтверждаемая гипотеза,
а некоторые активные гипотезы из-за низкой
подтверждаемости могут быть исключены из состава
оперативной памяти и переведены в разряд пассивных.
Подобные же количественные оценки и действия на
их основе система осуществляет не только по
отношению к отдельным фреймам (выражающим простые
гипотезы), но и по отношению к их упорядоченным
совокупностям (соответствующим сложным гипотезам).
Вероятностные оценки сложных гипотез вычисляются на
основании вероятностных оценок входящих в них
простых гипотез, а также оценок весов связей между
простыми гипотезами в повышении достоверности сложной
гипотезы.
Как видно, совместная работа врача и экспертной
системы сводится к многократному повторению одних
и тех же действий: врач вводит в систему по ее
запросу новые данные о пациенте, система, в свою очередь,
уточняет оценки достоверности гипотез, знание ведущей
гипотезы и связанных с ней гипотез и на основании
этого формулирует врачу новый вопрос.
В итоге такой работы в оперативной памяти систе-
24

мы оказываются все наиболее подтвержденные данными
о пациенте простые гипотезы, а также составленные из
них с помощью связей между фреймами сложные
гипотезы. Последние должны включать все принятые
простые гипотезы и непротиворечиво объяснять все
ненормальные данные о больном.
Как уже говорилось, действия с фреймами близки по
своей сути к наиболее важному в практической
деятельности человека понятийному мышлению. Поэтому
большинство специалистов сходятся на том, что фреймовая
организация знаний открывает перед экспертными
системами наибольшие перспективы. Однако тут же
отмечается с сожалением большое разнообразие
предлагаемых моделей фреймов и способов действия с ними.
Последнее свидетельствует о том, что мы еще далеки от
правильного понимания и точного воспроизведения с
помощью концепции фреймов естественного и очень
эффективного понятийного мышления. В этой связи
провозглашается в качестве главной цели достижение
единства в знании о фреймах и действиях с ними. Но
остается неясным, как решить эту проблему.
В этой связи следует сделать короткое замечание
о том, что задача устранения субъективного
разнообразия знания вовсе не нова для современной науки.
Впервые наука столкнулась с нею вплотную в XVII столетии,
когда возникла потребность в преодолении
субъективного разнообразия схоластического знания. Именно тогда
был найден способ решения этой задачи, ставшей
впоследствии важнейшим принципом построения научного
знания: любое новое знание признается и принимается
к использованию, если оно позволяет (хотя бы в
принципе) осуществить его точную опытную проверку. Как
показывает исторический опыт научных исследований,
именно такое знание обеспечивает наивысший
расцвет соответствующей практической деятельности
человеческого общества. Поэтому не вызывает сомнения, что
и в случае знания для экспертных систем следует
стремиться к этому идеалу, и любой намек на возможность
его достижения должен быть рассмотрен и оценен
самым тщательным образом. Именно такая возможность
открывается для экспертных систем в связи с научным
наследием Блеза Паскаля. Как будет показано далее,
Паскалъ опередил свое время не только созданием
первых счетных машин, но и поисками способов наделения
25

их интеллектуальными функциями. Как представитель
точного знания, он создал для этого научный задел,
который выдерживает опытную проверку и представляет
удивительно удачное решение обсуждаемой здесь
проблемы. К рассмотрению этого вопроса мы еще
вернемся.
Представление об интеллекте,
отвечающее задаче
создания экспертных систем
В настоящее время в ученом мире нет единого
понимания интеллектуальной деятельности, Поэтому
возникает проблема выбора из большого числа разных
представлений об интеллекте какого-то одного, которое,
конечно, ближе к истине и, с другой стороны, полнее
отвечает задаче создания экспертных систем. И
поскольку эти системы создаются с использованием цифровой
техники, то и выбираемые представления об интеллекте
должны быть количественными. Из всех известных
пониманий интеллекта, по-видимому, только одно
удовлетворяет этому требованию. Оно связано с именами Бл*
Августина, Буридана, Паскаля, а в наше время Эшби
и Шеннона. Это — понимание интеллекта как
способности человека выбирать действие в соответствии со
своей потребностью и наличными окружающими
условиями.
ИНТЕЛЛЕКТУАЛЬНЫЙ ПРОЦЕСС
КАК ПРОЦЕСС ВЫБОРА ДЕЙСТВИЯ
Как это ни удивительно, но человек достигает всех
целей с помощью одних только сокращений и
растяжений своих мышц, и «все бесконечное разнообразие
внешних проявлений мозговой деятельности сводится
окончательно к одному лишь явлению — мышечному
движению» (И. М. Сеченов) *# Но эти движения способны
выполнить сложные замыслы человека только в том
случае, если они объединены в строго определенные
последовательности, названные действиями. Например, для
' • Сеченов И, М. Рефлексы головного мозга. М, АМН СССР,
1952, с. 41,
26

выполнения такого простого действия, как сбор одной
коробочки хлопка при ручной уборке урожая, человек,
должен совершить 10 движений и 50 микродвижений,
точно определенных и согласованных между собой по
траектории, скорости и силе. То же самое имеет место
при выполнении любого другого действия. Подобные оп*
тимально организованные действия составляют технолог
гическое богатство нашей культуры, созданное на
протяжении длительного исторического развития
человеческого общества. Человек овладевает частью этого богат-
ства, обучаясь различным действиям и сохраняя их про
запас в своей памяти в виде различных программ
работы мышц своего тела, предназначенных для достижения
определенных целей. Эти программы выбираются
человеком из памяти и выполняются им по мере надобности,
определяя в каждый данный момент полезную
последовательность работы его многочисленных мышц (в том
числе и мышц гортани). Способность человека
совершать такой выбор действия, соответствующий его
потребности и окружающей обстановке, представляет
важное его свойство, эквивалентное умственным,
мыслительным или интеллектуальным способностям.
Наибольший вклад в развитие этого понимания
интеллекта сделал французский философ, писатель,
математик и физик Б. Паскаль, что заставляет посвятить
ему один из самых больших разделов этой брошюры,
ТЕОРЕТИКО-ВЕРОЯТНОСТНЫЕ ИЗЫСКАНИЯ
БЛЕЗА ПАСКАЛЯ КАК ПОПЫТКА
КОЛИЧЕСТВЕННОГО ИССЛЕДОВАНИЯ ИНТЕЛЛЕКТА
Французский естествоиспытатель XVII века Блез
Паскаль поражал соотечественников своими рано
пробудившимися выдающимися способностями к науке.
В 10 лет он провел свои первые исследования звука, в
12 — самостоятельно сформулировал основные теоремы
геометрий Евклида, в 16 — доказал основополагающую
теорему проективной геометрии, названную его именем,
а в 19 лет построил первую в истории счетную машину,
Другой отличительной чертой Паскаля, предопределив*
шей его обращение к точным исследованиям интеллекта^
была исключительная независимость его мышления. Во
времена засилия в науке церкви и схоластов, когда все
научные рассуждения строились на основе высказыва-
27

иий древних мыслителей и Библии, он писал: «Как бы
высоко мы ни ценили мнения древних, истина, сколь бы
нова она ни была, всегда заслуживает еще более
высокой оценки, ибо в действительности истина старше всех
мнений»*
Независимость мышления Паскаля позволила ему в
то далекое, малопросвещенное время создать
собственное, удивительно Современное представление о
возможности точных исследований человеческого интеллекта.
Все схоласты и теологи вслед за Фомой Аквинским
считали, что человеческую душу можно понять только с
помощью веры, а не разума. Представители новой
науки — точного естествознания были, как это ни
удивительно, полностью с ними согласны. Материальный мир,
считали они вслед за Рене Декартом, характеризуется
протяженностью и движением, которые могут быть
измерены и выражены числом. Поэтому наука может
изучать материальный мир. Душа же человека бестелесна
и лишена пространственности. Ее нельзя измерить и
представить числом. Поэтому и сущность души —
интеллект недоступен научному познанию.
Трудно сказать, насколько этот взгляд был
порожден осознанным стремлением молодого, еще неокрепшего
естествознания к компромиссу с могущественной
церковью. Во всяком случае обе стороны молчаливо
приняли это разделение сфер влияния и придерживались его
на протяжений нескольких столетий.
В результате церковь терпимо относилась к смелым
материалистическим исследованиям природы и
решительно пресекала малейшие попытки науки объяснить
устройство человеческой души. Даже в начале XX века
И, М. Сеченов был подвергнут в царской России
серьезным притеснениям за свое естественнонаучное
сочинение «Рефлексы головного мозга». Легко представить всю
невероятную силу противодействия подобным замыслам
в середине XVII века, когда еще в его начале пылали
костры инквизиции, раздавались вопли «увещеваемых»
пытками независимо мыслящих людей и устраивались
публичные отречения ученых от «ереси». Какого же
колоссального напряжения духовных сил понадобилось
Паскалю, чтобы вопреки всеобщему мнению и
всеобщему противодействию прийти к убеждению о возможно-
* Ци& tioi Р е н ь и А> Письма о вероятности. Мч Мире 1970.
28

сти естественнонаучных исследований человеческой
души?!
В этом помогла Паскалю привычка мыслить только
на основании фактов. А факты свидетельствовали в его
пользу. Созданная им счетная машина показывала
великолепное совпадение результатов своей работы с
результатами вычислительной деятельности мозга.
«Счетная машина, — констатировал он, — способна
производить действия, которые ближе к мышлению, чем все, на
что способны животные» *. Но эта механическая модель
духовной деятельности, несомненно, доступна
количественному исследованию.
Под влиянием такого хода мыслей поиск
математических путей познания интеллекта стал для Паскаля на
долгие годы самым заветным, но и самым беспокойным
научным замыслом. Он полностью сознавал не только
всю значительность, но и всю невероятную трудность
этого дела. Галилей и Ньютон сделали доступным для
количественного познания материальный мир накануне
и тотчас же после пересмотра церковью своего
отношения к этим исследованиям новой (буржуазной) науки.
Сделать то же самое по отношению к духовному миру
было во много раз сложнее в связи с сильной и
всевозрастающей оппозицией этому церкви, феодальной науки
и даже представителей нового знания. Поэтому Паскаль
вступил на выбранный им путь только после долгих
колебаний и сомнений, увлекаемый честолюбивыми
замыслами одержать над Аристотелем и схоластами
новую, еще более блистательную победу, чем в случае его
исследований барометрического давления*.
Паскаль, будучи представителем новой науки, был
убежден, что мир един, и человек, несмотря на всю
свою специфичность, представляет только малую
частицу этого мира, подчиняющуюся действию единых
мировых законов. Из этого следовало, что успех в
количественных исследованиях материальных тел позволял
надеяться на такой же успех в количественных
исследованиях человеческой души. Только надо было во то-
* Цит. но: Р е н ь и А. Письма о вероятности.
* Паскаль продолжил известные опыты Торричелли и доказал
существование в природе пустоты вопреки принципиальному
отрицанию такой возможности Аристотелем й схоластами. Его
исследования произвели сильное впечатление на современников и вызвали
страстные дискуссии-
29

ром случае действовать подобно первому. Это
значило, что в человеке следовало изучать движения его тела
(действия), поскольку они, как и механические
движения, проще всего поддаются наблюдению и выражению
с помощью числа. Успех количественных исследований
действий, как и механические движения, мол^ет быгь
обеспечен созданием специального математического
аппарата. Им представлялось Паскалю исчисление
вероятностей (подобно исчислению бесконечно малых для
механических движений). Создание этого исчисления
потребовало от него большого умственного напряжения и
было значительно облегчено удачным стечением
обстоятельств.
Напомним в связи с этим, что наблюдаемые
движения материальных тел в земных условиях очень
сложны из-за действия на них сил трения и сопротивления
воздуха. Поэтому начало успеху количественных
исследований материальных движений положило обращение
к более простым по сравнению с земными небесным
движениям. Небесная механика оказалась упрощенной
моделью земной механики, облегчавшей первые шаги в
количественных исследованиях механических движений.
Эту важную роль в становлении точных исследований
материального мира небо сыграло, по-видимому,
случайно, благодаря сильному воздействию на воображение
людей своей недоступностью и возмолшой таинственной
причастностью к их судьбам. Точно такую же важную
и, по-видимому, случайную роль по подобным же
мотивам сыграли в становлении точных исследований
человеческого интеллекта азартные игры.
Когда Паскаль напряженно размышлял над
исчислением вероятностей, к нему обратился его светский
знакомый, кавалер де Мере. Просьба последнего подобно
молний мгновенно и четко осветила все неясные,
ускользавшие от сознания количественные размышления об
интеллекте. Просьба де Мере касалась игры в кости,
пришедшей в Европу с Древнего Востока. Первоначально
кости использовались в древних языческих храмах для
предсказания воли богов. Это были необработанные
кости животных (бабки, или пяточные кости). Затем от
жрецов они перешли к игрокам, жаждущим сильных
ощущений, и стали вырезаться из слоновой кости в виде
хорошо отшлифованных кубиков. Тогда же был
найден секрет изготовления костей, дающих преимуще-
30

ство в игре их владельцу, о чем свидетельствуют
находки подобных костей в гробницах египетских фараонов.
Таксиллус, таинственный таксиллус! Что так
неудержимо влечет людей к нему на протяжении тысячелетий?!
Сменялись века> религии, цивилизации, росла культура
людей, а простая по виду игра, изобретенная древними,
примитивными язычниками, прочно владела
человеческими душами. Видимо, связана она какими-то незримыми
прочными нитями с таинственной сущностью человека!
И это делало просьбу де Мере в глазах Паскаля,
погруженного в поиски математического подхода к
человеческой душе, полной глубокого и важного значения.
Действительно, человеческие действия, подобно
ставке в игре в кости, образуют простые, хорошо заученные
последовательности мышечных движений. И умный, и
простак одинаково успешно заберутся в карету, зажгут
свечу, облачатся в соответствующие их положению
одежды и совершат тысячу известных людям действий,
И это будет свидетельствовать вовсе не об их уме, а
всего лишь о второстепенном для людей свойстве,
характеризующем уровень их технологической культуры.
И только удачный выбор исполняемого действия, точнее,
его соответствие потребности человека и окружающим
условиям, является характеристикой человеческого ума
или, иначе, интеллекта.
Как тут не подивиться вместе с Бл. Августином
проницательности того, кто первым назвал умственные
способности человека его интеллектом, поскольку intellego
означает по латыни в точности «выбираю между». Этот
выбор интеллект осуществляет из всех освоенных
человеком действий xh x2y ..., хк, ..., яд_1, хп, Соответствен-
но работу интеллекта по выбору действия пли, иначе,
знание человеком предстоящих ему действий можно
описать вероятностями р{хх), р(х2), ..., р(хк)7 ..., p(xn-i),
Примерно так должен был рассуждать Блез
Паскаль, обдумывая письмо кавалера де Мере.
Обстоятельства, которые заставили последнего
обратиться к Паскалю, были очень любопытными. Этот
предприимчивый и умный аристократ был в то же время
* Как видно, Паскаль понимал вероятносгьр(я) не как,
привычную нам меру возможности события* х, а как меру готовности
человека выполнить действие х>
31

известным в своем кругу страстным игроком. Как
просвещенный человек, веривший в могущество только что
возникшей количественной науки, де Мере решил с ее
помощью преуспеть в игре. Для начала он попытался
вычислить, как следует делать ставки в игре, состоящей
из 24 бросаний пары костей. По правилам этой игры
ставка делалась на появление (хотя бы однажды) двух
шестерок или против этого результата.
Вычисления де Мере показали, что ставку выгоднее
делать на две шестерки, а проверка с помощью опытов
свидетельствовала о противоположном. Де Мере
рассвирепел и написал гневное письмо своему
единственному знакомому ученому — Паскалю, обвинив науку в
бесполезности и неспособности решать практические
задачи. Паскаль разъяснил де Мере его ошибку,
состоявшую в неправильной оценке им исходных вероятностей,
и восстановил в его глазах авторитет математики. Он
не жалел времени и труда, потраченного на
обдумывание ответа де Мере. Более того, он был благодарен ему,
поскольку тот невольно привлек его внимание к
главному вопросу мучившей его проблемы — таинственной
способности человека безотчетно и успешно строить свое
поведение в условиях неполного знания.
Спустя столетие точно такую же ошибку совершил
известный французский ученый Д'Аламбер при оценке
вероятностей в игре с двумя монетами. И поскольку
экспериментировать с этой игрой намного проще, чем с
упомянутой игрой s кости, сознательно допустим
историческую неточность и построим все последующее
изложение на рассмотрении игры в две монеты. В этой игре
обе монеты выбрасываются одновременно.
Спрашивается, какова вероятность выпадения одного из трех
сочетаний: 1) два герба, 2) две цифры, 3) герб и цифра?
По мнению Д'Аламбера, вероятности выпадения
названных сочетаний равны и составляют, следовательно, */з.
Проведя опыт с выбрасыванием, мы тотчас же
убеждаемся, что это не так (табл. 1).
Ошибка человека выдающихся способностей (как и
подобная же ошибка кавалера де Мере)
свидетельствует о том, что осознанная оценка вероятностей даже
простых событий дается человеку с трудом. Вместе с тем
безотчетно он дочти всегда успешно действует в
условиях неполного знания. Тот же де Мере, запутавшись в
рассуждениях о количественном значении вероятностей
32

Таблица 1
Вероятности выпадания двух монет
Сочетания монет
Два герба
Две цифры
Герб и цифра
Вероятности выпадания сочетаний
по Д'Аламберу
! 0,3
0,3
0,3
в опыте после 200
выбрасываний
0,25
0,25
0,50
в игре в кости, легко отличает за игорным столом
шулера от честного игрока, а фальшивую кость от
правильной. Он же, как и большинство людей, успешно
действует в запутанных жизненных ситуациях, имея о них
самое приблизительное представление.
Это значит, что безотчетно человек точно оценивает
вероятности внешних событий и своих действий, И
именно с этой безотчетной (а не осознанной) оценкой следует
сравнивать результаты теоретических расчетов
вероятностей с целью проверки правильности приводящих к
ним общих соображений.
Подобные рассуждения должны были привести
Паскаля к простым и эффектным проверочным опытам,
которые для простоты экспериментирования выполним
опять-таки на игре в две монеты.
Вероятность выпадения любой комбинации двух
монет при их выбрасывании может быть, с одной стороны,
вычислена с большой точностью. С другой стороны, ее
можно определить в ходе опыта путем распределения
испытуемым 100 баллов. Испытуемый распределяет
баллы между всеми тремя комбинациями, наблюдая за
выпадением монет и руководствуясь исключительно своим
внутренним чувством правильности выполнения этой
задачи (табл. 2).
В результате возникает хорошее совпадение
рассчитанных и определенных в опыте данных.
Совпадение рассчитанных и экспериментальных
величин с точностью, повышающейся по мере исключения
из опытов неучитываемых в теории факторов (в данном
случае субъективной неподготовленности испытуемых к
выбору действия), является в количественном зйании
главным доказательством правильности теоретических
рассуждений, приводящих к таким опытам* Паскаль,
33

Таблица 2
Вероятности выпадания двух монет
(рассчитанные и оцененные испытуемым у
Сочетания
монет
Два герба
Две цифры
Герб и цифра
| Вероятности выпадания сочетаний
рассчитанные
odd
определенные испытуемым
(распределенные баллы/100)
после начала опыта через
10 мин
0,30
0,30
0,40
30 мин
0,25
0,25
0,50
проделав описанные или подобные им опыты, должен
был бы ликовать, поскольку это свидетельствовало о
нахождении им долгожданного количественного аппарата
для точных исследований человеческого интеллекта.
Пользуясь этим аппаратом, он мог приступить теперь
к поиску математических зависимостей^ определяющих
поведение человека в естественных условиях, а не в
упрощенных условиях азартных игр. С помощью опытов,
подобных описанным, он мог проверять правильность
найденных формул, а затем объединять их по мере
получения и проверки в точную теорию интеллекта, ничем
не уступающую по своей строгости подобным теориям
физических явлений.
Но проходили недели, а Паскаль не мог получить
даже самого простого математического выражения, опи«
сывающего поведение человека в реальных условиях.
Это приводило его в замешательство. Казалось, все
было налицо для достижения величайшей победы
человеческого ума над своей же собственной природой.
Многочисленные опыты (подобные описанным) убедительно
свидетельствовали, что он, Паскаль, впервые в история
овладел математическим аппаратом для точных
исследований человеческой мысли. У него также не было
оснований сомневаться в своих способностях. И вместе с
тем все его упорные попытки найти хотя бы самые
простые математические зависимости работы мозга были
безрезультатными.
Теперь, оглядываясь в прошлое, мы знаем причины
этого. Судьба наделила Паскаля способностями в таком
34

изобилии, что в своих исследованиях он легко
опережал свое время. И не на годы, а на целые столетия!
Например, его основополагающая работа по
проективной геометрии была продолжена только спустя два
столетия, а его философские исследования человека стали
одной из основ новейшего философского течения
Запада — экзистенциализма. Точно так же случилось с его
точными исследованиями интеллекта.
Пройдет много времени после смерти Паскаля,
покуда наука накопит достаточное количество фактов для
открытия закономерностей интеллектуальной
деятельности. Одного только математического аппарата для этого
было недостаточно. «Наука создается из фактов, —
говорил много позже соотечественник Паскаля Анри
Пуанкаре, — как дом из кирпичей». Как много фактов
недоставало Паскалю для успешного продолжения его
исследований, читатель поймет, ознакомившись с
разделом настоящей брошюры «Современное
представление об интеллектуальном процессе как совокупности
процессов выбора», Паскаль же все свои неудачи
истолковал иначе. Он все более склонялся к мысли о
принципиальной невозможности познания человеческой души
с помощью науки. Благо, все известные ему авторитеты
теологии, схоластики и даже новото знания сходились
на том же самом. К этому выводу побуждала его и
глубокая личная религиозность, а также религиозность
близких ему людей (особенно любимой младшей сестры
Жаклин). Борьба Паскаля-ученого с Паскалем —
правоверным католиком достигла наивысшего напряжения.
Он, как отмечали его биографы, пришел в сильное
возбуждение. Конец этой борьбе положил трагический
случай, чуть не стоивший Паскалю жизни,
Паскаль, как многие его современники, был
суеверным человеком. По мере безуспешности его
математических исследований человеческой души у него созревало
убеждение не только в ошибочности, но и в греховности
этого замысла. Как раз именно в это время Паскаль
отправился на праздник в Нельи в карете, запряженной
четверкой лошадей. Чем-то напуганные, лошади вдруг
понесли. Карета стремительно влетела на мост через
Сену. На середине моста лошади шарахнулись в
сторону перил, верхняя часть которых оказалась разобранной
по случаю ремонта. Две первые лошади рухнули в реку,
оборвав постромки, что спасло остальных лошадей и ка-
35

рету. Подбежавшие прохожие обнаружили в карете
Паскаля в состоянии глубокого обморока.
Паскаль и его сестра Жаклин истолковали это
происшествие как последнее милостивое предупреждение
всевышнего ученому, упорствовавшему в своем
заблуждении и пытавшемуся проникнуть в духовный мир не с
помощью божественного откровения, а с помощью
разума, который, как сурово предупреждал еще Мартин
Лютер, есть первая потаскуха дьявола.
Суеверный Паскаль, измученный длительными и
безуспешными поисками математических закономерностей
интеллекта, дал клятву отказаться от своих
честолюбивых научных замыслов и обратиться к богу, И он
сдержал слово.
Паскаль стал вести полумонашеский образ жизни,
вступил в теологическую борьбу с иезуитами на стороне
янсенистов. Написал в этой, связи полные блеска и
остроумия «Письма к провинциалу». Трудился над работой
«Разум геометра и искусство убеждения». Позволял
себе даже некоторые математические занятия (если они,
судя по приметам, не вызывали осуждений
всевышнего). Но никогда более не возвращался к своим
теоретико-вероятностным изысканиям.
Чтобы надежно оградить себя от этого соблазна,
Паскаль стал носить под одежами специальный пояс с
острыми шипами, обращенными к телу. Резкий удар по
поясу вызывал пронзительную боль, мгновенно
заглушавшую любую, неугодную богу мысль.
Так было предано забвению важное начинание
точного естествознания XVII века по количественному
исследованию интеллекта. Заодно становились непонятными
и мотивы, побуждавшие такого выдающегося
исследователя, как Паскаль, заниматься изучением столь
низменного и незначительного социального явления, как
азартные игры. Сомнительной представлялась в связи
с этим и сама теория вероятностей, которая долгое
время после Паскаля разрабатывалась исключительно как
теории азартных игр. Соотечественник Паскаля Огюст
Конт спустя два столетия называл теорию вероятностей
«ребячеством», «софизмом», «иллюзорностью»,
«позорном научным,заблуждением», и он был далеко не
одинок $ свою$ оценках. Более того, даже в начале нашего
века большинство математиков продолжало
сомневаться в ценности теории вероятностей, рассматривая ее как
35

упражнение досужих умов где-то на границе
математики с недостойной настоящих математиков философией.
Такой продолжительной и сильной дискриминации не
подвергалась еще ни одна математическая дисциплина,
что было естественной реакцией последующих
поколений ученых на рассказанную здесь крайне запутанную
историю из жизни Паскаля.
РАЗРАБОТКА ИДЕИ ВЫБОРА ПОСЛЕ ПАСКАЛЯ
Феномен выбора не был забыт последующими
поколениями ученых. Постепенно среди них растет
убеждение, что человек действует за редким исключением в
условиях неполного знания как окружающей среды, так
и самого себя. Эта неинформированность представляет
принципиальное, а не случайное свойство его
деятельности и во многом определяет характер и особенности
последней. В частности, недостаток исходной
информации делает невозможным организацию деятельности
путем принятия решения о действии или его расчета.
В этих условиях только выбор действия образует
реальную основу взаимодействия человека с окружающим его
миром.
В силу этого феномен выбора приобретает особое
значение в понимании сущности духовной жизни
человека. Об этом с особой убежденностью говорят
экзистенциалисты — представители новейшего философского
учения Запада. Не случайно поэтому в числе своих
предшественников они называют и Паскаля, и Блажеиного
Августина.
Позже идея выбора была использована для приклад*
ных исследований, имевших целью оптимизировать про*
цесс передачи данных по линиям связи. Основателем
этих исследований был Р. Хартли, который в 1928 г«
опубликовал пионерскую работу «Передача
информации».
Спустя два десятилетия К. Шеннон продолжил эти
исследования и создал математическую теорию
информации, получившую широкую известность в результате
попыток ее применения в самых различных областях
знания (в биологии, генетике, нейрофизиологии,
психологии, лингвистике и т. д.)» Эта теория наряду с такими
значительными теориями, как квантовая механика и
теория относительности, принадлежит к послеклассическо-
37

му периоду развития количественного знания.
Последний отличается вовлечением в исследование человече*
ского фактора, в то время как классическая
количественная наука стремилась в своих теоретических
построениях полностью абстрагироваться от человека»
Очевидным недостатком теории информации
является то, что она вопреки требованиям метода научных
исследований воспроизводит теоретическими средствами
не всю относящуюся к ней область действительности, а
только ее часть. В жизни выбор, порождающий
информацию, и передача результатов выбора объединены в
единый, нерасчлененный процесс. В теории- ж§ первый
процесс отрывается от второго и исключается из
рассмотрения. Это снижает эффективность теории; мешает
ее логической завершенности и вносит неясность в ее
основные положения» Например, основное понятие —
информация — не получает в теории никакого
определения. И если в жизни — это основание для выбора
человеком своих действий, то в теории разные авторы
понимают сущность информации по-разному» Р. Хартли и
К. Шеннон вообще уклоняются от определения этого
понятия*. А Моль определяет информацию как «то, что
прибавляет нечто новое к некоторому имеющемуся
представлению»*, а Л. Бриллюэн — как любое разнообразие
физического мира*.
Или другой пример. В жизни одним из основных
свойств информации является ее ценность. Теория же
полностью отвлекается от этой важнейшей реальности*
Введение в теорию информации процесса выбора,
тесно связанного с процессом передачи информации,
должно избавить теорию от недрстатков и заодно
превратить ее в теорию построения интеллектуальных
машин. Английский исследователь У. Росс Эшбн, поняв
это, приложил много усилий для изучения выбора как
интеллектуального процесса. «В действительности, —
писал он, — трудно представить себе задачу —
безразлично шуточную или серьезную — для решения... которой
в конечном счете не был бы необходим и достаточен
* Смл Хартли Р. Передача информации, — В сб.: Теория
информации и ее приложения. М.> Физматгиз, 1959; Шеннов К.
Работы по теории информации и кибернетике. М., 1963,
* Моль А Теория информации и эстетическое восприятие»
М, Мир, 1966, с. 51.
* Сил Брнллюэн Л, Наука и теория информации. М., 1961»
38

некоторый подходящий выбор. Ясно также, что многие
из тестов, применяемых для измерения «умственных
способностей», измеряют, по существу, способность
испытуемого производить подходящий выбор... Таким
образом, нельзя считать невозможным, что то, что обычно
называют «умственными способностями», окажется
эквивалентным «способности подходящего выбора»*.
Такой подход к интеллекту позволил ему предложить
схему машины, помогающей человеку осуществлять
выбор и названной им по этой причине усилителем
умственных способностей. По нынешним представлениям ее
можно было бы назвать общей схемой экспертной
системы.
Однако в своих исследованиях Эшби полностью аб*
страгировался от человеческих особенностей выбора. Он
понимал выбор только так, как его можно понять
чисто умозрительно, логически, отвлекаясь от
многовекового опыта наблюдений за выбором действия как сути
человеческой психики. Поэтому создаваемые им
действующие модели выбирающих систем обладали крайне
низкой производительностью. Они не могли
действовать в реальном масштабе времени, а его теория не
могла объяснить, как достигает этого важнейшего
приспособительного эффекта человек. Отвлекаясь от опыта
исследований человеческой психики как выбирающей
системы, Эшби добровольно обрек себя на то же самое
положение, в котором поневоле оказался в свое время
Паскаль, вынужденный прекратить свои теоретические
изыскания духовной деятельности из-за недостатка
необходимого для этого фактического материала.
В итоге исследования Эшби оказались
непригодными ни для развития теории информации, ни для
построения реальных интеллектуальных машин.
Конкретизация процесса выбора на основании
известных фактов об интеллектуальной деятельности и
с учетом потребностей экспертных систем изложена в
следующем разделе брошюры.
*р0сс Эшби У. Введение в кибернетику, М.£ Иностранная
литература, 1959, с. 383?

Современное представление
об интеллектуальном процессе
как совокупности процессов выбора
Интеллектуальный процесс как процесс выбора
действия слагается из ряда последовательных выборов:
понятия из множества освоенных человеком понятий на
основании внешних признаков; действия из множества
освоенных им действий на основании понимания
окружающей среды; уточнения выбора действия в ходе
постановки цели; окончательного выбора действия на
основании активного извлечения информации из внешнего
мира.
Рассмотрим все эти выборы в их естественной
последовательности.
Человек со своим большим, но все же ограниченным
набором программ действия противостоит безгранично
разнообразному миру. Например, один только цветовой
континуум состоит примерно из 7,5 миллиона различных
оттенков. А разным состояниям среды должны
соответствовать в принципе и разные действия. Эту свою
несогласованность с реальной действительностью люди
преодолевают совместными усилиями путем
всеохватывающего квантования этой действительности с помощью
определенных эталонов. Эти эталоны едины для всех
людей, составляют основу их культуры и образуют
понятия человеческого языка. Применение таких эталонов
позволяет человеку успешно действовать в безграничной
по своему разнообразию среде с помощью
ограниченного набора программ действия. С помощью понятий
человек выделяет из окружающей действительности
разные стандартные содержания и использует их для
выбора действия. Если совокупность, т. е. множество
понятий человеческого языка, обозначить через у, то
совокупность значений (распределение) рЙ1ш<ь q (у)
будет описывать понимание человеком обстановки, в
которой он действует, после обнаружения в ней признаков
Чи Я?, ...» q Л. Иначе это можно назвать описанием
текущего состояния выбора понятий у на основании
признаков <7ь Q2> »f«> 4k или описанием готовности человека
использовать понятия у для выбора соответствующих
действий.
40

Простая суть процесса выбора понятий на основании
признаков выражается несколько более сложной
формулой:
Рчип цк (i0 =
Р4и К, .... Цк (У)'Р У. Ни *. ... , Qk . ^ k)
= lui fzJ # /П
^ «,. fe ... , ^__j <*> * ' * *. <7s qk_x <** > '
Правда, сложность приведенной формулы состоит
больше не в ее громоздкости, а в неоднозначности
входящих в нее значений py(q)> определяющих вес
признака q в выборе понятия у. Эта величина зависит как
от значения р(у), так и от наличного уровня
мотивации. Характер этой зависимости плохо изучен. В общем
виде известно, что большим значениям указанных
величин соответствуют и большие значения py{q). Отдавая
предпочтение признакам наиболее вероятных в данный
момент понятий, человек ускоряет процесс понимания
окружающей обстановки и делает его более надежным.
Поступая таким же образом по отношению к уровню
мотивации, человек подчиняет прием информации своим
потребностям, выделяя из общего потока сообщений
наиболее важные для себя.
Недостаточное знание некоторых деталей процесса
выбора понятий не является препятствием к его
воссозданию в экспертной системе. Просто модель этого
процесса окажется в экспертной системе в чем-то менее
эффективной по сравнению с процессом, реализуемым
человеком.
Следующим интеллектуальным процессом является
выбор действия на основании понимания окружающей
среды.
Этот выбор человек выполняет заранее, еще до
возникновения перед ним какой-либо конкретной
жизненной задачи, на основании одного только знания
окружающих условий. В результате экономится время,
затрачиваемое на выбор действия при решении конкретной
жизненной задачи, и повышается быстродействие
выбора, что является важнейшим фактором
приспособления живого существа к условиям окружающей среды.
В силу сказанного человек испытывает
настоятельную потребность в информации о своем окружении и
происходящих в нем изменений, чтобы непрерывно уточ-
41

нять осуществляемый про запас выбор действия. При
этом потребность в информации оказывается настолько
сильной и неотложной, что ее можно сравнить только с
потребностью в пище. Человек тяжело переносит
отсутствие контактов со средой и уже после 12 часов
изоляции от внешнего мира начинает испытывать
различные психические расстройства.
Потребность в информации вызывает у человека
постоянное и непреодолимое желание видеть, слышать и
понимать все происходящее вокруг него самым
подробным образом. Та же самая потребность побуждает
животных расходовать значительную часть своей
жизненной активности на поддержание непрерывного контакта
с окружающей средой.
Побуждаемый этой неодолимой, как голод или
жажда, потребностью, человек всегда оказывается
максимально подготовленным к действию, постоянно
располагая выбором нужной программы, завершенным в той
мере, в какой позволяют сиюминутные окружающие
условия. Свой выбор человек непрерывно и в основном
бессознательно уточняет на основании доступной ему в
каждый данный момент новой информации. Результат
такого выбора действия описывается выражением:
Pvi vk(x) =
"«.-.'Л*)-'*.»-...^ (yk) (2)
*'*.-.0*> ■'*.,, у^{ Ь*) '
Здесь: k •— порядковый номер содержания (понятия)
у, выделенного человеком из своего окружения;
Р уи у*..- vXх) — вероятность выбора человеком
действия х после восприятия им последовательности 1, ..., к
содержаний (понятий); рXt yu.tt,y {у к) — вес содержа*
ния (понятия) ук в выборе действия х после
восприятия содержаний у и ,♦*, y*-i ,
Этот выбор действия немедленно уточняется в
результате постановки цели» Как происходит такое
уточнение, мы знаем, к сожалению, еще мало и дать
обоснованное опытами количественное описание этого
выбора в настоящее время невозможно. Соответственно его
нельзя также воспроизвести в экспертной системе.
Поэтому здесь уместно вспомнить один из руководящих
42

принципов создания экспертных систем, требующий
осуществлять их построение на основе возможно более
полного объединения и взаимодополнения человека и
вычислительной машины. В соответствии с этим
принципом возложим выполнение процесса целеуказания на
человека.
После определения цели характер выбора резко
меняется, превращаясь в наиболее быстродействующий,
групповой выбор требуемого действия. Этот выбор
описывается следующими уравнениями.
Человек;
1) приобретает из своего окружения информацию в
порядке снижения скорости поступления последней;
(ft)=-f 2/>„ ук . №)•№*, ук-(х)\
tk у «—I X R
•logaP*. .... yk (*)—2Р|* .„, yk_l (x)«
• log2pSl> ...,» . (x)]i (3)
k *
2) на основании получаемой информации
осуществляет групповой выбор действия из множества
освоенных им действий в соответствии с уравнением
— ] l ' (4)
"К
^'.-••**-iW'P**---*a--i М
3) переходит от группового к последовательному
выбору действия d после достижения соотношения
Pyu.:.uk(x=d)=M*KzPyu.~,yk (*)>!—в. (5)
Последовательный выбор осуществляется им так,
словно рУи„,у (x=d) = l и рУиш..4гк(хф(1)^09 хотя в
действительности pVu„,y (х=<1)Ф1 и не все рУи„„у {хфй}=*
=0. Человек, не располагая полной информацией для
выбора действия, вынужден идти на его предсказание.
Если при этом экстраполяция окажется ошибочной, то
Руъ».л (x~d) в соответствии с фактом приравнивается
нулю, распределение РУь„.,у (*) нормируется и выбира*
ется в соответствии с уравнением (5) новое действие.
43

Это повторяется столько раз, сколько необходимо для
завершения выбора,
В уравнениях (3) —(5) приняты обозначения,
аналогичные обозначениям уравнений (1) и (2)* Главная из
величин р(х) является мерой выбраныости человеком
действия х Или мерой готовности человека исполнить
это действие после выделения из внешней среды
содержаний (понятий) yh у2, ..., yk - Величина рх(у)
представляет вес понятия у в выборе действия х. Групповой
выбор действия, описанный уравнениями (3) — (5),
приближается к максимальному числу шагов выбора,
равному log2p(^), настолько, насколько позволяет объект
действия* Уравнение (3) показывает, что для
выполнения каждого шага, наиболее быстродействующего
группового выбора действия, человек нуждается во вполне
определенной информации. Поэтому он активно ищет ее
в своем окружении. С этой целью человек не просто
смотрит на свое окружение, а всматривается в него. Не
просто слушает приходящие звуки, а вслушивается в
них, Он знает примерно, что ему нужно, и для
приобретения этой информации использует свое внимание и его
направленность.
Экспертные системы
как системы выбора действия
Специалисты, занимающиеся разработкой
экспертных систем, определяют их как системы практического
искусственного интеллекта. Этим они недвусмысленно
отмежевываются от максималистских целей прежних
создателей искусственного интеллекта, выявивших свою
несостоятельность.
Разработчики экспертных систем отвергают идею
создания на основе ЭВМ некоторой универсальной
модели интеллекта, способной воспроизводить все виды
мыслительной деятельности. Из всех возможных форм
мышления они выбирают самую простую —
практический интеллект и еще более облегчают себе задачу,
ограничиваясь вполне определенной и по возможности
наиболее узкой областью практической деятельности
(например, диагностикой конкретного заболевания
человека), В дополнение к этому они пересматривают преж*
44

нее представление об искусственном интеллекте как о
системе, функционирующей независимо от человека,
полностью заменяющей и даже превосходящей его по
своим мыслительным способностям. Экспертная система
как система практического искусственного интеллекта
составляет только часть человеко-машинной системы, где
на машину возлагаются наиболее трудоемкие и
рутинные мыслительные функции, а на человека —
творческие, малоизученные умственные действия (например,
целеуказание, выбор окончательного решения), Человек
и экспертная система, как части единого целого,
активно взаимодействуют друг с другом, обмениваясь
вопросами и ответами (чго специалисты называют
интерактивным режимом работы).
Системы практического искусственного интеллекта с
такими упрощениями оказываются технически
осуществимыми и на деле полезными уже в настоящее время.
Они действительно могут помогать человеку в его
повседневной умственной работе и усиливать тем самым
его мыслительные способности, восполняя недостаток
его профессиональных знаний, подсказывая ему
оптимальные действия и выполняя за него обработку
больших объемов информации.
Среди всех проблем создания таких перспективных
систем вычислительной техники самой важной является
проблема преодоления субъективных различий в их
устройстве. Сейчас имеет место большое разнообразие в
построении баз знаний экспертных систем и в способах
действия с ними. Вместе с тем психологи, изучающие
практическое мышление, не обнаруживают каких-либо
различий в способе мышления людей разных
профессий. Поэтому нынешнее разнообразие экспертных
систем имеет субъективное происхождение, обусловленное
разной степенью приближения функционирования
систем к реальному мыслительному процессу, т» е.
является признаком несовершенства систем,
ПРОБЛЕМА
СУБЪЕКТИВНОГО РАЗНООБРАЗИЯ
ЭКСПЕРТНЫХ СИСТЕМ
Экспертные системы создаются практическими
работниками, являющимися квалифицированными
специалистами в той области деятельности, для которой пред*
45

назначаются системы. Создатели экспертных систем
руководствуются принципом наибольшего приближения
действий машины к мыслительным операциям
опытного профессионала, для чего они используют данные
самонаблюдений за собственным профессиональным
мышлением. Такая непосредственность в работе является,
конечно, не лучшим способом воссоздания техническими
средствами движения человеческой мысли.
Многовековой опыт психологии показывает, что хотя метод
самонаблюдения в общем пригоден для исследований, но
именно он часто оказывался источником
многочисленных ошибок и неточностей. Неудивительно, что
подобным способом создаются самые различные экспертные
системы, с самым разным представлением знаний и
способов действия с ними, даже для одной и той же
области применения. Например, большинство
медицинских систем создано для диагностики различных
заболеваний человека. Несмотря на такую близость
применения, эти системы значительно отличаются одна от
другой. Даже если они используют какую-то общую форму
представления знаний, (например, продукции или
фреймы), то каждый разработчик вносит свои значительные
изменения как в принятую форму представления
знаний, так и в способы действия с ними. Обосновывается
это стремление к наилучшему приспособлению
устройства экспертной системы к специфике решаемых ею
профессиональных задач.
В самонаблюдении невольно возникает иллюзия
такой специфичности, чему, кстати, психологическая
наука обязана множественностью своих
феноменологических теорий мышления.
Большой разброс в устройстве экспертных систем,
которые можно рассматривать как физические модели
различных видов практического мышления,
свидетельствуют о столь же большом отходе этих моделей от
моделируемой действительности. Реальное мышление, как
продукт длительной эволюции человека, можно считать
наиболее рационально организованным процессом.
Поэтому всякое отступление от него должно быть связано
с потерей эффективности. Стало быть, преодоление
множественности в устройстве экспертных систем будет
способствовать достижению их большей эффективности*
Это — одна сторона обсуждаемой проблемы. Но есть и
Другая, пожалуй, не менее важная.
46

Нынешние экспериментальные экспертные системы
представляют чересчур узко специализированные
устройства вычислительной техники. Трудно представить их
эффективное применение в реальной профессиональной
деятельности, поскольку перед любым профессионалом
почти одновременно возникают самые разные
практические задачи. Поэтому эффективную экспертную
систему можно представить только как многопрофильную,
решающую в тесном взаимодействии с человеком
разнообразные практические задачи- Требованию
многопрофильное™ могут удовлетворить только экспертные
системы, имеющие одинаково устроенные базы знаний и
включенные в мощную сеть баз практических знаний
(региональную, национальную и, может быть, даже
международную). Создание, поддержание и развитие
многочисленных специализированных баз знаний
представляет дорогостоящее и трудоемкое предприятие, которое
может быть оправдано только при массовом
использовании этих баз через сети. Тогда отдельные экспертные
системы с одинаково построенными базами знаний и
включенные в мощную сеть практических знаний,
превратятся в универсальных советчиков человека по
многим проблемам, которые представлены в сети
соответствующими массивами знаний. Настройка экспертной
системы на решение задачи или группы задач из какой-
либо новой области профессиональной деятельности
будет состоять только в заполнении через сеть памяти
системы соответствующим массивом знаний. Такое
применение экспертных систем станет неизмеримо
эффективнее нынешнего. Говоря образно, нынешние
экспериментальные экспертные системы представляют раннее
детство этих перспективных изделий вычислительной
техники. Для интеллектуального повзросления и
возмужания экспертные системы нуждаются в объединении
их в региональные и национальные сети. Однако
условием такого объединения оказывается единообразное
построение баз знаний.
Таким образом, преодоление субъективного
многообразия экспертных систем сулит их переход в совершенно
новое, очень ценное качественное состояние. Нет
сомнений, что к этому идеалу надо стремиться всеми силами*
Вопрос состоит только в том, как этого достичь.
Субъективность устройства экспертных систем
порождена субъективностью знания о практическом интел-

лекте человека. Наука же, как известно, располагает
богатым опытом преодоления этого опасного недуга.
Суть научного метода точного естествознания
состоит в математическом подходе к исследуемым вещам. Это
позволяет неточные рассуждения заменять точными
математическими преобразованиями, а истинность
приобретаемого знания о каждой исследуемой вещи проверять
и доказывать со сколь угодно большой точностью путем
сравнения результатов вычислений по описывающим
данную вещь формулам с результатами измерений
самой вещи.
Количественный подход к исследованию природы
позволяет ученым в любой момент сверять ход своих
мыслей с действительным доложением дел и вносить в свои
рассуждения необходимые уточнения. Достижение
полного соответствия научного представления изучаемой
вещи отличается поразительной точностью совпадения
величин, вычисленных теоретически, с величинами,
измеренными в опыте.
Возможность достижения такой точности
человеческой мысли о независящих от нее реальностях ряд
исследователей воспринимает как чудо. Другие же просто
верят в эту возможность, считают ее надежно
доказанной всей предыдущей практикой научных исследований
и видят в ней источник вдохновения для дальнейшего
количественного освоения окружающего мира. В связи
с верой в то, что истинное знание дает точное описание
природы, появилась потребность и вкус к сложным и
тонким экспериментам по проверке соответствия
признанных теорий действительности в том или ином знаке
после запятой. Едва заметные расхождения становятся
поводом для уточнений и даже пересмотра
теоретических представлений о мире, как это имело место,
например, в случае с классической механикой в
исследованиях Альберта Эйнштейна.
Такдя уникальная, постоянно действующая защита
знания от ошибок, или, иначе, субъективностей,
свойственна только точному знанию. Поэтому только его
применение может избавить экспертные системы от их
нынешнего субъективного разнообразия в устройстве баз
знаний и в способах действия с ними. Говоря иначе, как
для создания оптимальных электрических машин
понадобилась основанная на точном знании
электродинамика, так и для создания оптимальных экспертных систем
48

необходимо подобное же точное знание, но только не
электрических, а интеллектуальных процессов.
Скажем прямо, задача эта не новая, и, несомненно,
трудная. Но применительно к нуждам экспертных систем
она значительно упрощается. Прежде всего для
экспертных систем необходимо количественное описание не всей
духовной деятельности человека, а только ее меньшей и
наиболее простой части, именуемой практическим
интеллектом. Но и для этой части духовной деятельности
количественно должны быть описаны только те
интеллектуальные функции, которые передаются машине. Все
же наиболее сложное и наименее изученное остается за
человеком (например, поучение, выбор цели) и потому
не нуждается в точном описании. И, наконец,
обсуждаемая задача значительно облегчается наличием
развитого математического аппарата, созданного для таких
исследований Б. Паскалем.
Все это было подробно обсуждено в предыдущих
разделах брошюры. Сказанное в них образует, таким
образом, определенную теоретическую основу для
построения общей схемы экспертной системы, все
решения которой выдерживают в принципе точную проверку
как путем расчетов, так и путем сравнительных
испытаний машины и человека. Все, что не отвечает такой
проверке, подлежит исключению и изменению как
субъективное отклонение от действительности.
В соответствии с этой принципиальной установкой в
последующем разделе излагается общая схема
экспертной системы, доступная точной проверке, и далее
приводятся результаты такой проверки применительно к
задаче технической диагностики,
ОБЩАЯ СХЕМА ЭКСПЕРТНОЙ СИСТЕМЫ
Главное отличие машин, осуществляющих
экспертную обработку информации, от традиционных
вычислительных машин состоит в базе знаний, в их устройстве
и способах функционирования.
Базы знаний, чтобы стать приемлемыми в
обращении, должны быть глубоко специализированными.
Первый уровень такой специализации определяется двумя
очевидно разными назначениями баз знаний. Первое
назначение состоит в осмысливании поступающей в
машину информации, а второе — в выполнении на основа-
49

нии результата осмысливания очередного шага выбора
действия. Превращение входной (сигнальной)
информации в смысловую осуществляется на основании
стандартных, единых для всего общества квантов смысла,
называемых понятиями. Таким образом, совокупность
признаков понятий, совокупность их удельных весов в
выборе конкретных понятий, а также совокупность
самих понятий образуют первую базу знаний,
осуществляющую смысловую переработку входной информации.
Она выполняется в соответствии с формульной
зависимостью (1), Содержание такого перекодирования
информации в принципе очень простое. Например, машина
получает признаки определенного предмета: «круглый»,
«оранжевого цвета», «шероховатый на ощупь», «не
превышающий в диаметре нескольких сантиметров».
Признаки снабжены соответствующими весами,
определяющими выбор тех или иных понятий. По совокупному
действию всех весов поступивших признаков машина,
очевидно, выберет понятие «апельсин».
Совокупность понятий русского языка, признаков
этих понятий и весов признаков для выбора понятий
образуют чрезвычайно мощную базу знаний. Чтобы
обращение с ней было практически осуществимым делом,
необходимо эту массу информации разделить на какие-
то приемлемые части. Основанием для такого
разделения могут стать признаки специализации массивов
знаний (база обыденных знаний и базы специальных
знаний по различным областям человеческой деятельности).
Затем каждую из этих баз можно многократно поделить
на базы знаний, соответствующие различным контекстам
окружающей среды, в которых действует человек
(дома, на работе, в каком-либо общественном месте и т. д.).
Каждой из таких баз знаний соответствует
определенная база значений р(у), определяющих меру априорной
возможности тех или иных смысловых содержаний для
определенной окружающей обстановки.
Совокупность описанных баз знаний образует базу
знаний для смысловой обработки информации.
Аналогичным образом организована база знаний для выбора
действия, Каждой из баз придается свой процессор,
осуществляющий обработку информации в соответствии со
своим назначением либо по формуле (2), либо по
формулам (3—5).
На рис, 3 в соответствии со сказанным изображена
60

общая (концептуальная) схема экспертной системы. По
смыслу эта система должна быть включена в
региональную, национальную или глобальную информацион*
ную сеть. По запросу пользователя сеть обеспечивает
систему знаниями специального характера, в памяти же
самой системы хранятся наиболее важные для
пользователя индивидуализированные базы знаний. Такая
организация вычислительных средств позволит снизить
требования к объемам памяти экспертной системы до
достижимых в ближайшем будущем размеров и
значительно уменьшить стоимость информационного
обеспечения при решений задач выбора действия.
Отдельно следует сказать о создании и поддержке
баз знаний I и II.
Эксперименты, изложенные ранее, свидетельствуют
о возможности представления опыта человека по
выбору действия в количественной форме и, следовательно,
передаче его машине. Трудно сказать, насколько мето-
Средстда
поддержка
базы знаний
I
Процессор
управления
базой знаний
I
Информация от владельца
ЭВМ о контексте
окружающей среды
Внешняя (признаковая) информация
Смыслова^ информация от окруясающих .
людей
Смысловая информация от Владельца ЗВМ ^
■ ■ >
Целеуказание от владельца ЭВМ
Информация от владельца
ЭШ q контексте действия
Средства
поддержки
базы знаний
Л
V <г
Процессор
управления^
\6аз6й знании
Ж
5аза знаний J
для смысловой
обработки
информации
Р(Ф
Ру(1)
Процессор
смысловой
обработки
информации
Смысловой
квант if
Процессор
выбора
действия
Совет по
выбору
действия
\(л
ЧМ-чЦп
Mf
\база знаний X
дли выбора
действия
Рис. 3. Общая (концептуальная) схема экспертной системы

дика, примененная в опытах этого раздела, будет
пригодна без соответствующих изменений для создания баз
знаний серийных (а не экспериментальных) экспертных
систем. Во всяком случае, эти опыты свидетельствуют
о принципиальной возможности такой процедуры. Эта
процедура нужна не только для первоначального
заполнения памяти системы, но и для последующего
уточнения и расширения баз знаний на основании вновь
приобретаемого людьми опыта в различных областях
деятельности. Это будет заменой отсутствующего в системе
механизма самообучения, который из-за своей
чрезвычайной сложности и плохой изученности вряд ли будет
реализован в ближайшем будущем.
ЭКСПЕРИМЕНТАЛЬНАЯ ЭКСПЕРТНАЯ СИСТЕМА
ДИАГНОСТИКИ НЕИСПРАВНОСТЕЙ ЭВМ
Эта система была создана для проверки идей общей
схемы, изображенной на рис. 3, которая
предусматривает использование точных оценок для обоснования
своих решений. Обычно для опытной оценки тех или иных
идей экспертной обработки информации создают
экспериментальную экспертную систему и проводят
сравнительные испытания системы и специалистов при
решении ими одних и тех же профессиональных задач.
Для проведения таких испытаний в нашем случае в
качестве профессиональной области была выбрана
техническая диагностика (в отличие от американской
практики широкого использования с этой целью
медицинской диагностики). Интеллектуальный процесс при
диагностике неисправностей ЭВМ представляет процесс
выбора неисправной легкосъемной части (называемой
иначе ячейкой или ТЭЗом) из большого числа
легкосъемных частей, образующих в совокупности
вычислительную машину. Установив местоположение
неисправной части, специалист далее заменяет ее на запасную
исправную часть, чем и достигается устранение
неисправности. Задачу выбора неисправной части из множе*
ства частей машины специалист решает на основании
проверки выполнения ею определенных функций с
помощью специальных контрольных задач, называемых
тестами. Результат выполнения каждого теста несет
только частичную информацию о местоположении
неисправной съемной части, и вся интеллектуальная задача
52

диагностики неисправностей состоит из большого числа
шагов постепенного уточнения местоположения
неисправности.
Экспериментальная экспертная система диагностики
неисправностей ЭВМ была создана подобно другим
экспериментальным экспертным системам программным
способом. На рис. 4 представлена схема этой системы,
конкретизирующая общую схему (см. рис. 3),
Пояснения, данные на схеме рис. 4, делают понятной эту
конкретизацию. Основу ее составляет интерпретация х
как номера неисправной съемной части ЭВМ, а^ —
как выполнение (или невыполнение) k-ro по порядку
теста.
Квалифицированные специалисты, выполнявшие
техническое обслуживание ЭВМ на вычислительном центре,
были обследованы по методике и в соответствии с
количественными зависимостями второго раздела
брошюры (при указанном здесь их понимании). Это
обследование дало количественное описание опыта специалистов
в виде численных значений величин р(х) и рх {yk ).
Более совпадающие между собой значения,
принадлежавшие разным специалистам, использовались для
заполнения памяти ЭВМ, образующих базу знаний II. Как пра-
блок
упраблений
базой знаний
база знаний I для смысловой
обработки информации*
эталоны для тестов
Внешняя (признаковая)
информация:
результаты
выполнения тестоб
блок спыслобой обработки
информации г сравнение
решений тестов с эталонами
[Смысловой квант. У* г Выполнений
или невыполнение теста А
>
г
1 блок
управления
\ базой знаний
\ Ж
>
блок выбора
действия:
части ЭВМ
>
У
г
рМрю
база знаний Д
по выбору действия:
Совет по выбору,
действия dw заме-
ны ос-ой съемной
[части рш,ь»чуь(*$
Рис. 4. Схема экспериментальной экспертной системы диагностики
неисправностей ЭВМ
53

вило, такие значения принадлежали наиболее опытным
по общему мнению специалистам.
Созданный на основе формульных зависимостей
раздела «Современное представление об
интеллектуальном процессе как совокупности процессов выбора»
пакет прикладных программ был введен вместе с данными
баз знаний I и II в одну из ЭВМ вычислительного
центра. Другая ЭВМ использовалась в качестве объекта
диагноза. В этой машине последовательно создавались не*
исправности, а затем она проверялась с помощью
тестов. Решения тестовых задач вводились в первую
машину для определения на ней шаг за шагом
местоположения неисправной съемной части. Одновременно
диагноз той же самой неисправности ставил опытный
специалист из обслуживающего персонала
вычислительного центра. Результаты, получаемые машиной и
человеком, сравнивались для некоторых задач в каждом
шаге, а для большинства задач на определенных, наиболее
интересных шагах.
Совпадали не только окончательные, но и
промежуточные результаты, что свидетельствовало о повторения
машиной хода рассуждений специалиста. Точность
совпадения была удовлетворительной для наших целей, и
мы не стремились к достижению более точных
результатов (табл. 3). Некоторое несовпадение результатов
происходило, по-видимому, по причине недостаточной
подготовленности испытуемых. Чтобы убедиться в этом,
были выполнены дополнительные эксперименты по
диагностике отказов в простом макете вычислительного
устройства, позволявшем в силу своей простоты быстро и
качественно подготавливать испытуемых к опытам
(табл. 4).
Сравнительная оценка экспериментальной
экспертной системы технической диагностики выполнялась
многократно с участием разных специалистов и при разных
видах неисправностей (обрывах, коротких замыканиях,
неустойчивых отказах, сбоях и др.)* Во всех случаях
были получены устойчиво совпадающие промежуточные
и окончательные результаты**
* См,; например. Диагностика отказов на основе моделирова»
иия мышления. — Вопросы электроники, сер, ЗВТ, вып. 3, 1969.
См. также доклад с тем же названием на XXV Всесоюзной научной
сессии посвященной Дню радио и Дню связиста, — Тезисы
докладов сессии, 1969,
54

Таблица 3
РЕЗУЛЬТАТЫ
сравнительных испытаний экспериментальной экспертной системой технической диагностики и специалиста
при неисправности съемной части
(ячейки, ТЗЗа) № 1
' ---^* \ 1 2 3 4 5 б j 7 8 9 10 11 12 13
I 0,06 I 0,07 I 0,07 1 0,03 1 0,03 I 0,02 I 0,05 I 0,06 1 0,06 I 0,03 1 0,03 I 0,02 I 0,06
0,04 0,04 0?04 0,04 0,04 0,04 0,04 0,04 0,04 0,04 0,04 0,04 0,04
0,07 0,00 0,02 0,00 0,04 0,00 0,07 0,05 0,05 0,04 0,04 0,07 0,07
0,05 0,06 0,00 0,00 0,05 0,00 0,05 0,05 0,05 0,05 0,05 0,05 0,05
0,08 0,00 0,02 0,00 0,05 0,00 0,08 0,00 0,02 0,00 0,05 0,00 0,08
3 П° 4 0,06 0,00 0,00 0,00 0,00 0,00 0,06 0,00 0,00 0,00 0,06 0,00 0,06
0,10 0,02 0,03 0,00 0,05 0,00 0,10 0,00 0,04 0,00 0,05 0,00 0,10
С 5 П° 8 0,10 0,02 0,03 0,00 0,05 0,00 0,10 0,00 0,04 0,00 0,05 0,00 0,10
0,16 0,01 0,03 0,00 0,07 0,00 0,14 0,00 0,03 0,00 0,07 0,00 0,16
С 9 по 14 1 ... -.1 I— -I 1—-1—■—-Л ~ 1. и I — 1 ■■ i■ |.■ I л ,.
0,14 0,00 0,00 0,00 0,13 0,00 0,13 0,00 0,00 0,00 0,13 0,00 0,13
0,47 0,00 0,17 0,00 0,28 0,00 0,00 0,00 0,00 0,00 0,00 0,00 0,00
0,14 0,00 0,00 0,00 0,13 0,00 0,13 0,00 0,00 0,00 0,13 0,00 0,13
0,84 0,00 0,00 0,00 0,00 0,00 0,00 0,00 0,00 0,00 0,00 0,00 0,00
С 16 по 256 — — ' — '—• ■—■ г
0,75 0,00 0,00 0,00 0,00 0,00 0,00 0,00 0,00 0,00 0,00 0,00 0,00
1,00 0,00 0,00 0,00 0,00 0,00 0,00 0,00 0,00 0,00 0,00 0,00 0,00
257 —■ —' ■ —■ —• —' —■ —■ —■ —- : —■—
| 1,00 | 0,00 I 0,00 I 0,00 | 0,00 | 0,00 | 0,00 I 0,00 | 0,00 I 0,00 | 0,00 1 0,00 I 0,00
55

56
Продол ж. табл. 3
—--^^^ 14 15 16 17 j 18 19 20 21 22 23 24 25 26
1 0,06 I 0,06 1 0,03 I 0,02 1 0,02 I 0,02 | 0,06 1 0,06 1 0,03 I 0,03 1 0,02 I 0,02 I 0,00
1 0,04 0,04 0,04 0,04 0,04 0,04 0,04 0,04 0,04 0,04 0,04 0,04 0,04
005 0,05 0,02 0,04 0,07 0,07 0,05 0,05 0,05 0,04 0,04 0,00 0,00
2 0,05 0,05 0,05 0,05 0,05 0,05 0,05 0,05 0,05 0,05 0,03 0,03 0,05
[ 0,08 Ijjjjgj 0,05 0,02 0,03 0,08 0,08 0,06 0,05 0,05 0,03 0,00 0,00
С 3 П° 4 0,06 0,06 0,06 0,06 0,06 0,06 0,06 0,06 0,06 0,06 0,06 0,03 0,02.
0,00 0,03 0,00 I 0,04 | 0,00 0,10 0,10 0,09 0,07 JWjL °>04 °>°° °>00
С 5 П° 8 0,08 0,03 0,00 0,04 0,00 0,10 0,10 0,09 0,07 0,05 0,04 0,00 0,00
I 0,00 0,03 0,00 0,03 0,00 0,16 0,00 0,03 0,00 _0>07_ 0,00 0,00 0,00
С 9 т Н 0,00 0,13 0,00 0,00 0,00 0,13 0,00 0,00 0,00 0,06 0,00 0,00 0,06
0,00 0,00 0,00 0,08 0,00 0,00 0,00 0,00 0,00 JWL 0,00 0,00 0>00
0,00 0,00 0,00 0,13 0,00 0,13 |0,00 | 0,00 0,00 0,06 0,00 0,00 0,06
0,00 0,00 0,00 0,16 0,00 0,00 0,00 0,00 0,00 .ML Q>00 Q'0Q Q)Q0
6 до 6 0,00 0,00 0,00 0,25 0,00 0,00 0,00 0,00 0,00 0,00 0,00 0,00 0,00
0,00 0,00 0,00 0,00 1 0,00 0,00 0,00 0,00 0,00 IJW) 0,00 0,00 0,00
I 0,00 I 0,00 I 0,00 I 0,00 I 0,00 i 0,00 I 0,00 I 0,00 I 0,00 I 0,00 I 0,00 I 0,00 I 0,00
Пояснения: х — номер ячейки (ТЭЗа) центральной части ЭВМ;
к — номер теста;
в числителе — значения р Ух у (x), определенные экспертной системой;
в знаменателе — значения р уи ,.. а у . (x)f определенные специалистом по техническому обслуживанию.

Таблица 4
РЕЗУЛЬТАТЫ
сравнительных испытаний экспериментальной экспертной системы
технической диагностики и специалиста на макете
вычислительного устройства при неисправности
съемной части (ячейки, ТЭЗа) № 8
X
8
12
11
1
0,06
0,06
0,00
0,00
0,00
0,00
2
0,13
0,13
0,00
0,00
0,00
0,00
3
0,20
0,20
0,00
0,00
0,00
0,00
4
0,13
0,13
0,00
0,00
0,00
0,00
5
0,10
0,10
0,00
0,00
0,00
0,00
6
0,16
0,16
0,44
0,45
0,00
0,00
7
0,10
0,10
0,00
0,00
0,00
0,00
8
0,03
0,03
0,56
0,55
1,00
1,00
9
0,00
0,00
0,00
0,00
0,00
0,00
Пояснения:
1) условные обозначения соответствуют табл. 3;
2) система и специалист выбирали в этих опытах оптимальную
последовательность тестов, и они совпадали;
3) макет вычислительного устройства для ускорения обучения ш>
пытуемого состоял всего из 9 съемных частей.
Интересно сравнить эти результаты с результатами
опытной оценки экспертных систем, в которых
моделирование практического мышления не поддается точной
проверке.
Никаких оценок промежуточных результатов в этих
системах не производится в силу их очевидной
невозможности. Поэтому заключение о соответствии действий
такой системы ходу мысли человека является, строго
говоря, безосновательным. Оно делается на основании
того, что общий результат работы системы примерно
соответствует оценкам экспертов. Например, испытания
уже упоминавшейся системы МИЦИН дали следующие
результаты: в 76,7% случаев заключения МИЦИН и
экспертов совпадали или являлись допустимыми
альтернативами; в 90,9% случаев диагнозы МИЦИН были
приемлемы для большинства экспертов. Подобные же
результаты были получены при исследовании другой
экспертной системы медицинской диагностики
«ГЛАУКОМА»: после проверки системы в пяти медицинских
учреждениях она дала 75% правильных заключений в
трудных случаях заболеваний.
57

Такие результаты не позволяют сделать никаких
оценок, принятых в системах технических решений (по
способу представления знаний, по организации работы с
ними, по целесообразности тех или иных
вычислительных процедур и т. д.). По-видимому, в экспертных
системах, не поддающихся точной проверке, невозможны
такие дифференцированные оценки. Поэтому их
проектирование остается на уровне полуинтуитивных поисков
более или менее удачных конструкторских решений.
Обращают на себя внимание также низкие
показатели соответствия решений таких систем и экспертов.
Все это дополнительно свидетельствует в пользу
экспертных систем, предусматривающих точную проверку
их работы,
Заключение
Похоже, что со временем операции со знаниями
займут в ЭВМ такое же прочное положение, как и
обычные вычисления. Освоение на практике этой
принципиально новой, интеллектуальной технологии обработки
информации будет происходить постепенно, Начиная с
90-х годов во вновь создаваемых вычислительных
машинах станут все чаще появляться процессоры для
работы со знаниями, а также полностью
специализированные вычислители — советчики человека в различных
областях профессиональной деятельности. Архитектуры
вычислительных средств станут все более
приспосабливаться к требованиям обработки информации на основе
знаний, и в обеспечение этих требований будет
возрастать быстродействие и размеры памяти ЭВМ. В
начале XXI в. общий объем действий со знаниями превысит
объемы обычных вычислений. При этом темпы роста
экспертной обработки информации будут определяться в
основном развитием теории и практики создания баз
знаний.
В ближайшем будущем реальны только локально
действующие, узкоспециализированные базы знаний по
конкретным проблемам практической деятельности. Эти
базы будут создаваться на основе коллективов, активно
работающих над соответствующими прикладными
проблемами. Создание, сопровождение и обновление баз
знаний новым опытом станет постепенно все более
важной и ответственной частью их деятельности. В ходе по-
58

строения и поддержания полноценных, практически
работающих баз знаний их создатели в полной мере
оценят трудности этого необычного и заманчивого
предприятия из-за отсутствия у общества опыта обращения
с неформализованным, слабо осознаваемым знанием.
Из-за этого внедрение экспертных систем в разные
области практической деятельности будет проходить с
разным успехом. По-видимому, чем менее осмысленной
окажется та или иная практическая деятельность, чем
более будет погружена она в интуитивные решения, тем
сильнее она станет оказывать сопротивление такому
освоению ее с помощью вычислительной техники.
Большие возможности откроются перед
экспертными системами в процессе создания сетей баз знаний*
Дело в том, что вся специфика оптимально
спроектированных экспертных систем должна быть сосредоточена
не в их устройстве, а в содержании переданных им
знаний. Поэтому одна и та же экспертная система,
включенная в сеть специализированных баз знаний, может
быть легко и быстро превращена из компетентного
советчика, например в области органической химии, в не
менее подготовленного советчика по оказанию
неотложной медицинской помощи путем одной только передачи
из сети в ее память соответствующих массивов знаний.
Это произойдет, по-видимому, в первом десятилетии
XXI века.
Опираясь на советы таких многопрофильных
экспертных систем, человек сможет быстро осваивать
малознакомые ему профессии, что приведет к значительному
изменению всей системы образования и профессиональной
деятельности. Особенно большие перемены под
влиянием экспертных систем ожидаются в управленческом
труде, низкая производительность которого на различных
уровнях наблюдается во всех странах мира. В
результате применения экспертных систем руководителями
разных степеней значительно возрастет эффективность
всей управленческой деятельности.
Вообще практический интеллект человека,
оснащенный универсальной экспертной системой, окажется
значительно сильнее невооруженного этой техникой
интеллекта. Использование массивов знаний, созданных на
основе опыта больших мастеров своего дела, позволит
рядовым специалистам решать практические задачи на
уровне этих выдающихся профессионалов.
59

.Большие возможности откроются перед слабоформа-
лизованными #ли совсем неформализованными
областями знания (такими, как медицина, сельское хозяйство
и др,). Представление этих знаний в форме баз знаний
для экспертных систем станет не менее эффективным
способом их формализации, чем способы, применяемые
ньще в точных науках.
Перспективы экспертных систем, как видно, самые
многообещающие. Но нет ли на пути к ним какого-либо
серьезного препятствия? К сожалению, есть! И его
можно определить как наше плохое знание практического
интеллекта, работу которого мы пытаемся воспроизвести
в экспертных системах с целью решения тех или иных
профессиональных задач. Недостаточность этого
знания порождает у специалистов серьезные расхождения
в понимании устройства экспертных систем, их баз ана-
ний и способов действия с последними, снижает
эффективность систем, не позволяет получить убедительных и
однозначных опытных подтверждений соответствия их
работы практическому мышлению профессионалов и т, д.
Современное естествознание располагает надежным
способом преодоления недостаточности и неточности
человеческих знаний, годным для любых научных
исследований. Суть его состоит в том, что представления об
исследуемой действительности доводятся до
количественных утверждений, которые подвергаются затем
проверке с помощью точных опытов. Все, что не
выдерживает такой проверки, отбрасывается как
несоответствующее действительности, а частично разрушенное в
результате этого знание достраивается и уточняется. Этот
процесс продолжается до тех пор, покуда
количественные утверждения, следующие из неких представлений об
исследуемой действительности, не совпадут с большой
точностью е результатами опытов над этой самой
действительностью. Факт такого совпадения образует
надежные доказательства правильности, полноты и
точности нашего знания. Именно такой подход к
познанию практического интеллекта удалось осуществить
Бл. Паскалю. В этой связи его научное наследие
представляет большой интерес для теории и практики
создания экспертных систем. Этот интерес многократно
увеличивается благодаря двум важным
обстоятельствам. Во-первых, наследие Паскаля содержит развитый
математический аппарат для исследования и
количество

венного описания человеческих знаний в виде теории
вероятностей в первоначальном, паскалевском понимании.
Во-вторых, имеются бесспорные доказательства
успешного применения этого аппарата для исследования
интеллекта на простых моделях интеллектуального
взаимодействия человека со средой.
Словом, есть много оснований для надежды, что
развитие научного наследия Бл. Паскаля приведет к
созданию столь недостающего экспертным системам
количественного знания практического интеллекта. Первые
шаги в этом направлении освещены в настоящей
брошюре.
Литература
1. Арсентьева А. В. и др. Диалоговая информационно-
поисковая система принятия решений в неотложной хирургии
органов брюшной полости. Препринт. Л., ЛНИВЦ, АН СССР, 1981.
2. Борель Э. Вероятность и достоверность. М., Физматгиз,
1961.
3. Клеще в А. С, Черняховская М. Ю. Системы пред-»
ставления проблемно-ориентированных знаний. — Техническая
кибернетика, 1982, № 5.
4. Ковригин О. В, и др. Экспертные медицинские диагно-»
стирующие системы, — Техническая кибернетика, 1982, № 5.
б. Кожарский Л. А. Проблемы теории связи (Опыт
представления человека в теории информации), М., Знание, 1979.
6. Наумова В. А. Выбор. — Знание —сила, 1981, № llj,
7. Реньи А. Письма о вероятности, М., Мир, 1970,

РЕДАКЦИОННОЕ ПРИЛОЖЕНИЕ
50 ЛЕТ
МОСКОВСКОМУ ТЕЛЕВИЗИОННОМУ ЗАВОДУ
1933 г, Небольшая стройплощадка на московской
речушке Фильке вдруг обзавелась солидной вывеской;
«ГОСУДАРСТВЕННЫЙ АВТОРЕМОНТНЫЙ ЗАВОД
№ 2». Постепенно площадь завода росла, росли его
производственные мощности. Во время войны возросшую
производственную мощность завода в полной мере
оценили солдаты Вермахта, когда на них невесть откуда
сваливался огненный вихрь разящей стали. Это
работала продукция завода № 2 — знаменитые «катюши».
22 декабря 1951 г» вывеску сняли и прикрепили
другую, в скором времени обещавшую советским людям не
материальную, а так уже необходимую после долгой
войны и послевоенного трудового напряжения духовную
Пищу. Новая вывеска оповещала, что здесь теперь
МОСКОВСКИЙ ТЕЛЕВИЗИОННЫЙ ЗАВОД
Еще нет хорошего оборудования, приборов,
материалов, нехватает рабочих рук. Немудрена и
технология производства: все сборочно-монтажные и
регулировочные работы первых телевизоров делал один рабочий
от начала до конца. Однако в 19 258 квартирах
советских трудящихся зажглись экраны первой модели
завода. Это был «Север». Большой экран (31 см) и
возможность приема радиопередач в УКВ диапазоне сразу
привлекли внимание покупателей. Затем отработаны новые
модели: «Экран», «Янтарь», «Москва», «Топаз»,
«Алмаз». Экран телевизора увеличился до 43 см,
возможность приема телепрограмм обеспечивалась 12-ю
каналами.
С очередной новинкой телезрители познакомились в
1957 г. — ее украшала фирменная марка «РУБИН». К
этому времени московский телевизионный завод уже
выглядит солидным предприятием. Появились конвейеры,
сложная структура ОТК, хорошее оборудование и
приборы. Появились классные специалисты, неизмеримо
выросла культура производства.
И вот первый успех: на Всемирной выставке в
Брюсселе телевизор «Рубин-102» удостоен Большой золотой
медали.
62

Сменяются модели, меняется внешний вид телевизо*
ров, растет размер экрана («Рубин-106» имеет уже
59 см, <кРубиц-П0, -111, -112 — 65 см), В схеме
появились многочисленные автоматические регулировки.
Качественные показатели новых моделей привлекли
внимание зарубежных специалистов — 14 стран изъявили
желание покупать «Рубин».
Семейство «Рубинов» от -203 до -207 удостоены
Государственного знака качества.
В летописи завода год 1967 особый. Освоена
технология производства цветного телевизора. За разработку
первого унифицированного цветного телевизора блочной
конструкции («Рубин-707») и освоение в серийном
производстве этой базовой модели, группа работников
головного завода Московского производственного
объединения «РУБИН» удостоены Государственной премии
СССР.
Теперь уже Московский телевизионный завод —
головное предприятие ПО «РУБИН». К управлению
подключена техника. Принятию правильного решения
помогает АСУП, эффективному решению задач экономики и
планирования — вычислительный центр, а улучшению
технических характеристик телевизоров — свой
телецентр.
По чертежам и схемам объединения «РУБИН»
цветные телевизоры выпускают заводы Польши и Венгрии.
По просьбе французских фирм разработана двухстаи-
дартная модель «Рубин-710» и интегрально-модульный
«Рубин Ц-20».
На предприятиях ПО «РУБИН» действуют сегодня
три комплексно механизированных цеха, 42 комплексно
механизированных участка, 28 поточных,
механизированных, конвейерных и автоматических линий, 570 единиц
автоматического и полуавтоматического оборудования.
От редакции
Редакция от имени сорока тысяч подписчиков серии
«Радиоэлектроника и связь» сердечно поздравляет всех
работников Московского телевизионного завода с их
славным юбилеем.

Содержание
Предисловие ,.....«. 3
Введение •»,,••, ••!•••* 6
Экспертные системы —< новое направление в вычислительной
технике •«,.,*,,«,,..., 9
Что такое ЭВМ пятого поколения? ,«,,.. 9
Представление об экспертных системах < . . . . 13
Экспертные системы сегодня .»«.*«(.« 17
Представление об интеллекте, отвечающее задаче создания
экспертных систем ..,...«.«..« 26
Интеллектуальный процесс как процесс выбора действия 26
Теоретико-вероятностные изыскания Блезэ Паскаля как
попытка количественного исследования интеллекта . » 27
Разработка идеи выбора после Паскаля . 37
Современное представление об интеллектуальном процессе
как совокупности процессов выбора »..»,.« 40
Экспертные системы как системы выбора действия , , 44
Проблема субъективного разнообразия экспертных систем 45
Общая схема экспертной системы « 60
Экспериментальная экспертная система диагностики не«
исправностей ЭВМ »««,,.».,.* 52
Заключение ,..«*>,*,....* 58
Литература ...<»»«•••»••* 61
Редакционное приложение .,..»•♦... 62
Лев Алексеевич Кожарский
ЭКСПЕРТНЫЕ СИСТЕМЫ — ИНТЕЛЛЕКТУАЛЬНОЕ ЯДРО
ЭВМ «ПЯТОГО ПОКОЛЕНИЯ»
Главный отраслевой редактор Л. А. Ерлыкин. Редактор Б. М.
Васильев, Мл. редактор Т, И. Елова. Обложка художника А. Е,
Григорьева, Худож. редактор Г. С, Егорова. Техн. редактор #» В. Лбо^
ва. Корректор В, И% Гуляева
ИБ № 6460
Сдано в набор 19.10.83. Подписано к печати 28.12.83. Т 24608. Формат бума*
гя 84ХЮ87з2. Бумага тип, № < £,„ Гарнитура литературная. Печать высокая.
Усл. печ. л. 8,36, Усл. кр.-отт. 3,57. Уч.-изд. лх 3,40. Тираж 41050 экз.
Заказ 1882. Цена 11 коп. Издательство «Знание». 101835, ГСП, Москва, Центр,
проезд Серова, д. 4. Индекс заказа 844601,
Типография Всесоюзного, общества. «Знание»,Москва, Центр, Ноаая пл., дь 3/4,

11 коп.
Индекс 70077
12
•••§§ ■ •
#* • •
•• ••••
890
Ц:!!:.Л234567
•* •• ft #•••• • • ••• •
•• •• • ft •••
•t • ••• • • •
39
67890123456789
7. I I
3456789
1234567890
СЕРИЯ
РАПИОЭЛЕКТРОНИКА
И СВЯЗЬ