/
Текст
Д.Мичи, Р. Джонстон Компьютер- творец
Д.Мичи
Р. Джонстон
Компьютер-
творец
Издательство « Мир»
Компьютер-творец
The Creative Computer
Machine intelligence and
human knowledge
Donald Michie and Rory Johnston
Viking 1984
Д. Мичи
Р. Джонстон
Компьютер
творец
Перевод с английского
Р. Н. Кравец и Э. Л. Наппельбаума
Москва «Мир» 1987
ББК 32.813
М70
УДК 519.68:007.52
Мичи Д., Джонстон Р.
Л170 Компьютер—творец: Пер. с англ./Предисл. Д. А. Поспе¬
лова.— М.: Мир, 1987.— 255 с., ил.
Книга двух английских авторов, ученого и журналиста, в увлекательной форме
рассказывает о современном уровне и перспективах развития одной из самых мо¬
лодых наук-искусственного интеллекта, о создании «умных» машин, которые все
решительнее внедряются во все сферы человеческой деятельности: производство,
науку, административно-управленческую деятельность, транспорт и даже искусство.
Адресована всем, кто интересуется достижениями современной науки и техники.
м 1501000000—491
М 041(01)—87 ' “ ®7’ Ч- 1 ББК 32 813
Редакция научно-популярной
и научно-фантастической литературы
© Donald Michie and Rory Johnston, 1984
© перевод на русский язык, «Мир», 1987
Новые знания от ЭВМ
Искусственный интеллект — довольно молодая наука. Она роди¬
лась четверть века назад, и большинство из тех, кто стоял у ее ко¬
лыбели, активно работают в этой области и сейчас. Среди них и
Дональд Мичи — один из авторов книги, которую мы представля¬
ем советскому читателю.
В середине 60-х годов, когда Мичи работал в Эдинбургском уни¬
верситете, в Шотландии, вокруг него собрался коллектив исследо¬
вателей, образовавших ядро той школы в области интеллектуальных
систем, которая получила название эдинбургской. С 1967 г. стали
выходить международные сборники Machine Intelligence — первые
ласточки нового научного направления. Д. Мичи был инициатором
их выпуска и почти бессменным редактором.
Сейчас Мичи — директор Института имени Алана Тьюринга
в Глазго. Алан Тьюринг известен всем, кто занимается вычисли¬
тельной техникой и интеллектуальными системами. Его вклад в
развитие этой области знаний столь велик, что наряду с Джоном
фон Нейманом он по праву считается «отцом информатики». Д. Ми¬
чи — ученик Тьюринга, и многое в его работах берет свое начало
в трудах учителя.
В СССР Д. Мичи знают многие специалисты. Он всегда стремит¬
ся к объединению ученых разных стран, работающих в области ин¬
теллектуальных систем. Так, при его активном участии в апреле
1977 г. в Репино под Ленинградом состоялась представительная
встреча «звезд» искусственного интеллекта, организованная Меж¬
дународной Фирбушской группой, которую тогда возглавлял Мичи,
и Научным советом по искусственному интеллекту Комитета си¬
стемного анализа при Президиуме АН СССР. Эта встреча вызвала
большой резонанс и способствовала установлению деловых контак¬
тов между специалистами в области искусственного интеллекта из
разных стран.
Д. Мичи из тех ученых, которым не безразличны последствия раз¬
вития науки. Это особенно важно, когда дело касается науки о тех¬
нических системах, вторгающихся в ту область, которая всегда счи¬
талась прерогативой человека. Этим проблемам и посвящена книга
Дональда Мичи и журналиста Рори Джонстона; на ее страницах чи¬
татель познакомится с глубокими и непростыми размышлениями ав¬
торов о том, что же несут человечеству интеллектуальные системы,
6
Новые знания от ЭВМ
вызывающие у многих людей недоверие и опасение. Само сочетание
слов «искусственный интеллект» многим до сих пор кажется почти
кощунственным и неуместным. Отрицать всегда проще, чем доказы¬
вать. Но доказывать что-то сейчас, когда интеллектуальные систе¬
мы находятся на пороге массового внедрения, по-видимому, уже не
нужно. Книга, с которой предстоит познакомиться читателю, ин¬
тересна не тем, что она приводит доказательства в защиту исследо¬
ваний по искусственному интеллекту, а тек, что демонстрирует не¬
избежность такого развития. И нельзя не согласиться с авторами,
когда они пишут: «Перспектива иметь машины, столь талантливые
и могущественные, какими мы их представляем, может показаться
неприятной, даже пугающей. Сама мысль о существовании чего-то,
отличного от человека, но вместе с тем обладающего не менее развиг
тым мышлением, посягает на наше чувство достоинства и осознание
собственной исключительности. Говоря о творческих компьютерах,
мы неизбежно сталкиваемся с разного рода проблемами эстетическо¬
го, религиозного, политического и этического характера. Однако
подобные философские соображения, сколь бы важными они ни
представлялись, не должны помешать нам искать пути применения
новой техники. Если это удастся, то будущее наше будет лучше,
чем можно себе вообразить. Если же нет., то у нас вообще может не
быть будущего».
С начала 80-х годов в работах по искусственному интеллекту
наступил новый этап — создание промышленных и коммерческих
образцов интеллектуальных систем. Стала развиваться промышлен¬
ность, производящая такие системы, а значит, и появились потен¬
циальные потребители ее продукции. Что отличает интеллектуаль¬
ные системы от других творений человеческого разума? Что можно
ждать от их появления в недалеком будущем? Эти два вопроса —
основные для авторов книги, и на ее страницах можно найти на них
ответы, хотя, может быть, не всегда четко сформулированные. Стре¬
мясь заинтересовать и привлечь внимание неискушенного читателя
к рассматриваемым проблемам, авторы избрали форму журналист¬
ского репортажа. Иногда стремление к доступности и простоте вы¬
нуждает их несколько упрощать проблему, не договаривать до кон¬
ца, поступаться строгостью изложения. Некоторым читателям такой
«облегченный стиль», возможно, покажется чересчур поверхно¬
стным. Но это обманчивое впечатление. Как правило, за красивой
и сверкающей на солнце вершиной айсберга искусственного интел¬
лекта, на которой сосредоточивается внимание читателя, в темных
пучинах скрываются массы проблем и нерешенных задач, и авторы
книги, по крайней мере один из них, это прекрасно понимают. Так
что «облегченность» изложения не свидетельство поверхностного
знания предмета, а намеренная позиция.
Новые знания от ЭВМ 7
Ключевым термином искусственного интеллекта является тер¬
мин «знание». С известной долей приближенности можно было бы
сказать, что интеллектуальные системы — это системы, использую¬
щие знания. Именно этим они отличаются от иных искусственных
систем (включая программные, которые реализовались на ЭВМ в
эпоху, предшествующую интеллектуальным системам), основан¬
ных, как правило, на тех же ЭВМ.
Оставаясь на метафорическом уровне, можно сказать, что рань¬
ше ЭВМ «понимали», как надо выполнить введенную в них програм¬
му, но «не понимали», что они при этом делают, а с появлением ин-
теллектуальнБГх систем ЭВМ научились «понимать», как построить
нужную для решения поставленной задачи программу и что эта
программа делает. Поясним эту важную мысль. При традиционном
способе решения задачи на ЭВМ суть самой задачи, ее содержатель¬
ную интерпретацию знал программист, который готовил программу
для ЭВМ. Эго могли быть различные программы: для игры «нарды»
или «го», расчета траектории движения космического корабля или
начисления заработной платы. Когда эти программы вводились в
ЭВМ, содержательная сторона задач исчезала — ЭВМ в силу своей
конструкции качественно одинаково выполняла команды любой
из программ. В паре «программист—ЭВМ» лишь первый знал, что
делает ЭВМ, а вычислительная машина, подобно мощному арифмо¬
метру, просто выполняла нужные преобразования и вычисления.
В этой традиционной схеме таилась опасность. Она заключалась
в нерасторжимости пары «программист — ЭВМ» при решении задач.
Программист, ш «раб на галере», должен был взаимодействовать
с машиной, «равнодушно» перемалывающей любую введенную в нее
информацию.
Появление интеллектуальных систем свидетельствовало о сломе
этой парадигмы. Если в память ЭВМ ввести знания о том, как из
условий задачи строятся программы и что означает та или иная за¬
дача в данной проблемной области (т. е. как интерпретируется цель
задачи и каковы возможные связи между исходной ситуацией и
целью), то функции программиста будет выполнять сама ЭВМ. Она
автоматически, на основе имеющихся у нее в памяти знаний о проб¬
лемной области, о задачах, которые здесь могут возникнуть, и о
путях их решения, сможет самостоятельно составить нужную про¬
грамму и выполнить ее.
Этот момент принципиален. Введенные в ЭВМ знания позволяют
ей теперь «понимать», что она должна делать, когда возникает не¬
обходимость в решении задачи. Кстати, когда именно возникает эта
необходимость, ЭВМ тоже «знает» сама (хотя требование на решение
задачи может прийти извне — от пользователя системы).
Так формируются основные задачи, которые стоят перед той вет¬
вью искусственного интеллекта, которую в наши дни все чаще на¬
зывают инженерией знаний. Каковы же эти задачи? Прежде всего
8
Новые знания от ЭВМ
это задача сбора знаний, которые необходимы ЭВМ. Задача эта
далеко не так проста, как может показаться на первый взгляд. Ведь
кроме тех знаний, которые воплощены в различных текстах, профес¬
сионалы владеют многими знаниями, которые нельзя найти ни в
руководствах, ни в инструкциях, ни в монографиях. Это те знания,
которые обычно называют опытом, умением, профессионализмом.
Зачастую опытный специалист даже не подозревает, что он владеет
огромными знаниями. Ему кажется, что он «просто работает и все»,
а еще не накопивший опыта коллега смотрит на него с завистью, не
понимая, почему у него самого все выходит не так. Суметь получить
эти знания от эксперта-специалиста, суметь представить их в фор¬
ме, пригодной для ввода в память ЭВМ,— первая и весьма нетри¬
виальная задача инженера по знаниям. Но этого мало. Накапливая
знания, полученные из различных источников, надо постоянно забо¬
титься о том, чтобы они не образовали противоречивую систему:
всякое новое знание должно быть увязано с ранее имевшимися. По¬
явление нового знания может потребовать какой-то перестройки соз¬
данной ранее базы знаний. Для этого нужны специальные проце¬
дуры управления ею. Разработка подобных процедур и манипули¬
рование ими — вторая задача инженера по знаниям.
Получая информацию из окружающего мира, анализируя воз¬
никающие ситуации, человек постоянно обращается к сведениям,
хранящимся в его памяти. Привлекая уже известное для понимания
нового, человек, используя свои знания, как бы достраивает вход¬
ные описания, пополняет их. В любом разговоре двух людей пони¬
мание реплик возможно лишь потому, что в памяти собеседников
хранится много дополнительной информации о предмете разговора.
И ЭВМ для пополнения знаний должны располагать набором подоб¬
ных же процедур. Для этой цели используются так называемые
псевдофизические логики: временная, пространственная, каузаль¬
ная и другие. С их помощью происходит пополнение входных описа¬
ний, что обеспечивает их понимание. Кроме пополнения описаний в
базах знаний осуществляются и другие процедуры: обобщение и
классификация поступающей информации, выдвижение гипотез о
связях фактов, хранимых в памяти системы, разнообразный по типу,
достоверный и правдоподобный вывод производных фактов и
т. д. Это еще одно поле деятельности инженера по знаниям.
Такая богатая палитра средств переработки знаний приводит к
удивительным результатам. Знания, преобразованные в базе зна¬
ний ЭВМ, могут показаться человеку совершенно новыми, заставят
его по-иному взглянуть на известные вещи, натолкнут на новые
идеи и задачи. В книге Мичи и Джонстона приводится немало
примеров того, сколь необычными для человека могут показаться ма¬
шинные знания. Но авторы книги поднимают и более глубокий воп¬
рос: верно ли расхожее мнение, что ЭВМ, работающая со знаниями,
не может создать ничего принципиально, нового (принцип «что по¬
Новые знания от ЭВМ 9
сеешь, то и пожнешь»)? И дают на этот вопрос отрицательный ответ,
утверждая, что ЭВМ интеллектуального типа способны порождать
новые знания. Эта особенность и делает их качественно новым ти¬
пом устройств, созданных человеком.
Другой принципиальный момент, обсуждаемый в книге, тесно
связан с массовым внедрением ЭВМ во все сферы управления. Это
вопрос о возможности человека-администратора понять те решения,
которые принимает ЭВМ, включенная в систему управления. Систе¬
мы управления сложными техническими комплексами сегодня бук¬
вально «нашпигованы» вычислительными машинами, связанными
между собой в сложные структуры. Работая с недоступными для че¬
ловека скоростями, перерабатывая огромное количество разнооб¬
разной информации, получаемой от объекта управления и от дру¬
гих машин, ЭВМ принимает решения, часто не понятные человеку.
Единственный способ понять их — задать машине вопрос: почему
решение такое? И ЭВМ обязана дать необходимые пояснения. Для
этой цели в ней должна существовать специальная подсистема
объяснения, которая позволяет ЭВМ «понимать», почему она при¬
няла то или иное решение. Авторы книги рассматривают появле¬
ние подсистем объяснения как первый шаг на пути к «гуманизации»
технических систем. Трудно переоценить значение этого шага.
Слишком далеко ушли технические системы в своем развитии, слиш¬
ком сложно стало человеку взаимодействовать с ними и слишком
опасными могут быть последствия действий наших умных, но без¬
душных помощников.
Третий круг проблем, важных для интеллектуальных систем
и людей, соприкасающихся с ними, связан с общением между чело¬
веком и технической системой. Проблемы коммуникации, взаимо¬
понимания, психологической комфортности — вот круг вопросов,
возникающих при создании моделей общения человека с интел¬
лектуальной системой. Прочитав книгу, читатель узнает о тех
принципиальных трудностях, которые пока не позволяют создать
интеллектуальные системы, способные понимать нас так же, как
понимают другие люди.
Рассказывая о развитии интеллектуальных систем, авторы в
основном опираются на разработки западных ученых. Нам, естест¬
венно, хотелось бы познакомить советского читателя с некоторыми
отечественными аналогами. Первые серьезные программы обу¬
чения классификации на примерах были созданы в СССР в начале
60-х годов М. М. Бонгардом и его учениками [1] *. Эти программы
* Здесь и далее в предисловии мы ссылаемся на список рекомендуемой
нами литературы.
10 Новые знания от ЭВМ
намного опередили соответствующие разработки в других странах.
Метод поиска вывода от целей к исходным данным впервые был пред¬
ложен известным советским логиком С. Ю. Масловым; он известен в
литературе как обратный метод Маслова. В дальнейшем на основе
этого метода была разработана целая гамма процедур дедуктивного
вывода [2]. Методы нахождения закономерностей на основе приме¬
ров, описанные в книге, развиваются не только в США, но и в дру¬
гих странах. Так, в ЧССР разработан мощный ГУХА-метод, соеди¬
нивший в себе достижения логики и статистики 13], в СССР — не
менее мощный ДСМ-метод, позволяющий обнаруживать весьма
сложные закономерности по наблюдаемым фактам [4].
В нашей стране также разработано несколько экспертных сис¬
тем, не уступающих по своим возможностям экспертным системам,
упоминаемым на страницах книги. Среди них медицинская эксперт¬
ная система МОДИС, предназначенная для диагностики пятнадцати
заболеваний, связанных с артериальной гипертензией; медицин¬
ская экспертная система ЛЕДИ-ЗЕТ, помогающая врачу-реанима-
тору в случае острых почечных заболеваний; система АВТАНТЕСТ,
используемая при интерпретации результатов психологического
тестирования; система ФИАКР-Т, помогающая генетику при выве¬
дении новых сортов помидоров, и многие другие [5].
Использование ЭВМ для моделирования творческого процесса
при создании произведений искусства также имеет в нашей стране
богатую историю. В конце 50-х годов в СССР были предприняты
первые попытки сочинения музыкальных произведений с помощью
ЭВМ. Работы P. X. Зарипова в этой области намного превосходят
аналогичные зарубежные исследования [6]. В последние годы соз¬
дано несколько программ, предназначенных для сочинения поэти¬
ческих и прозаических текстов. Программа СКАЛЬД сочиняет
кённинги, форма которых восходит к древним исландским образ¬
цам [7]. Программа TALE специализируется на сочинении волшеб¬
ных сказок [8]. Использование ЭВМ в качестве «соавтора» при поис¬
ке новых научных результатов демонстрируют работы А. А. Зенки-
на по доказательству ряда теорем теории чисел [91.
Развитие работ в области искусственного интеллекта и широкое
внедрение интеллектуальных систем в нашу жизнь — свидетельство
нового этапа на пути научно-технического прогресса. Он неизбе¬
жен — и мы должны быть готовы встретить его последствия с пол¬
ным пониманием происходящего. Не проблема КТО КОГО и не
опасения, что ОНИ поработят НАС, если мы не примем мер, долж¬
ны определять этот новый этап жизни человечества, а содружество
МЫ + ОНИ, из которого человечество, несомненно, извлечет ог¬
ромную пользу, ибо оно поможет нам решать задачи, с которыми
Новые знания от ЭВМ И
нам одним не справиться. В этом заключается пафос книги Мичи и
Джонстона.
Д. А. Поспелов
доктор технических наук, заместитель
председателя Научного совета Комитета
системного анализа при Президиуме
АН СССР по проблеме
«Искусственный интеллект»
Рекомендуемая литература
1. Бонгард М. М. Проблема узнавания.— М.: Наука, 1967.
2. Маслов С. К>. Теория дедуктивных систем и ее применения.— М.: Радио
и связь, 19-86.
3. Гаек П., Гавранек Т. Автоматическое образование гипотез.— М.: Наука,
1984.
4. Представление знаний в человеко-машинных и робототехнических сис¬
темах. Том А. Фундаментальные исследования в области представления
знаний.—М.: ВЦ АН СССР, ВИНИТИ, 1984.
5. Представление знаний в человеко-машинных и робототехнических систе¬
мах. Том С. Прикладные человеко-машинные системы, ориентированные
на знания.—М.: ВЦ АН СССР, ВИНИТИ, 1984.
6. Зарипов P. X. Машинный поиск вариантов при моделировании творче¬
ского процесса. М.: Наука, 1983.
7. Кондратов А. М., Зубов А. В. Программа «Скальд» — опыт моделирова¬
ния поэтического творчества для ЭВМ. Кибернетика, № 5, 1984, с. 86—
88.
8. Гаазе-Рапопорт М. Г., Поспелов Д. А., Семенова Е. Т. Порождение струк¬
тур волшебных сказок.— М.: Научный совет по комплексной проблеме
«Кибернетика» при Президиуме АН СССР, 1980.
9. Зенкин А. А. Обобщение теории Гильберта — Варинга.— Вестник МГУ»
Серия «Математика и механика», 1983, №2, с. 11 —19.
Предисловие
Содержание этой книги в основном касается не только техники, но
и всех сторон жизни нашего общества. Нам хотелось бы, чтобы круг
ее читателей не ограничивался только технически подготовленными
людьми, а был как можно шире. Представляя себе читателя этой
книги, мы отдаем отчет в том, что в результате стремительного роста
вычислительной техники в последние годы значительно увеличи¬
лось число людей, знакомых с обсуждаемыми понятиями,— многие
из них пользуются компьютерами на работе, в учебе и даже дома.
Но вместе с тем для многих вычислительная техника остается чем-то
недоступным пониманию. Мы должны ориентироваться и на тех и
на других, поскольку все они в равной мере обеспокоены будущим
нашего общества. И дело не только в этом: пропасть, разделяющая
«две культуры» — технику и искусство,— практически не сокра¬
щается, и, как нам кажется, назрела необходимость в новом диало¬
ге между ними.
Учитывая сказанное, мы поставили себе задачу сделать эту кни¬
гу доступной каждому думающему дилетанту. В то же время мы
старались, чтобы наши рассуждения не топтались на месте оттого,
что нам постоянно приходится возвращаться к исходным положе¬
ниям, и стремились к достаточной конкретности изложения, чтобы
заинтересовать технически подготовленного читателя. По этим
причинам наша книга построена необычным образом. Для ее пони¬
мания не требуется детального знакомства с вычислительной тех¬
никой, а досточно знать лишь основные ее понятия, с которыми мож¬
но познакомиться в приложении. Читателям, у которых нет опыта
работы на компьютере, рекомендуется начинать с него, а затем уже
переходить к гл. 1. Цель этой главы состоит прежде всего в том,
чтобы заложить необходимые основы для понимания последующего
материала. Читатель с технической подготовкой вряд ли найдет в
ней что-то новое, но и для него она может оказаться небесполезной
в качестве обзора. Основная тема книги начинается с гл. 2.
Предмет нашего повествования достаточно специален, и было бы
неразумно не пользоваться здесь профессиональными терминами, ко¬
торые, появившись в результате длительного процесса отбора, в
точности выражают желаемое. Технические идеи объясняются по
мере того, как они используются в тексте. Однако читатель, далекий
от науки, возможно, будет время от времени встречаться с незнако¬
Предисловие 13
мыми ему и необъясненными в тексте словами — они позволят более
подробно ознакомиться с предметом. Но мы тщательно следили за
тем, чтобы такие «непонятные» слова не занимали центрального
места в наших рассуждениях, чтобы на них можно было не обра¬
щать особого внимания, пытаясь уловить общий смысл из контекста.
Любознательный читатель, желающий узнать смысл поточнее, най¬
дет необходимые пояснения в словаре терминов.
Принятый нами подход имеет, естественно, и свои изъяны. Так,
читатель с определенной научной подготовкой обнаружит, что ради
доходчивости мы вынуждены порой поступаться строгостью. Для
тех, кто захочет глубже разобраться в предмете, предлагаются ссыл¬
ки на научные труды. Таким способом мы надеялись удовлетво¬
рить интересы читателей обеих групп: как любителей, так и про¬
фессионалов.
Предмет нашего повествования еще довольно нов, поэтому идеи,
с которыми читатель познакомится в книге, далеко не просты. Но
мы убеждены, что любой образованный человек сможет понять и
оценить их не хуже технического специалиста, особенно когда речь
идет об их социальной значимости или о потенциальных возможно¬
стях, заключенных в них. Кроме того, мы надеемся, что эта книга
позволит непосвященному заглянуть в тот увлекательный мир, где
происходят все описанные здесь события.
Благодарности
Некоторые отрывки из этой книги появились сначала в журнале Computer
Weeklyу а также в сборнике Microelectronics and Society (под ред. Тревора
Джонса), изданном в издательстве «Оупен юниверсити пресс» в 1980 г. Этот
материал — вместе с отрьыками из лекции Алана Тьюринга на заседании
Лондонского математического общества и поэмой «Павана для детей далекого
космоса» — воспроизведен здесь с любезного разрешения тех, кто владеет
авторским правом на них.
Нам хотелось бы также поблагодарить всех, кто так или иначе помогал
нам: Кейта Эббса, Малькольма Эббса, Игоря Александера и его коллег из
Брюнельского университета, Альфреда Айера, Доминика Борхэма, Криса
Бриско, Британское общество вычислительной техники, Пола Брауна, Об¬
щество Льюиса Кэрролла, Бекки Коэн, Гарольда Коэна, Криса Крэбтри,
Пола Дэвиса, Эдсгера Дийкстра, Сьюзен Доуэлл, Дэвида Эма, Ричарда
Грегори, Джойс Хэннем, Ларри Харриса, Джин Хейес, Эрве Утрик и Мо¬
ник Наас, Эдварда Игнатовича, Маргарет Джексон-Робертс, Дуга Лената,
Рышарда Михальски, Лорда Майлса, Боба Маллера и его коллег по лабора¬
тории Элвери Паркинсона, Джона Рейса, Робина Ширли, Никки Сингера,
Аарона Сломана, Брайена Реффин Смита, Алана Сатклиффа и Дэвида
Уитфилда.
Рис. 22 перепечатан нами с разрешения издательства «Сайнтифик аме-
рикен инк.», а рис. 27 воспроизводится по статье А. Фурнье, Д. Фассела и
Л. Карпентера в журнале Communications of ACM (vol. 25, № 6, 198.2 г.)
с разрешения корпорации «Ассошиэйшн фор компьютинг машинери».
Введение
Наш мир, возможно, близится к катастрофе. К такому выводу
нетрудно прийти при любом трезвом анализе состояния нашей
планеты. Экономический застой, нищета, безудержная инфляция,
массовая безработица, перенаселение, политические раздоры, терро¬
ризм, войны и опасность их возникновения, а также угроза наступ¬
ления «судного дня» не обошли ни одного уголка земного шара. Ра¬
зумеется, перед человечеством всегда стояло немало проблем, но
сегодняшние проблемы, естественно, представляются более значи¬
тельными, чем те, что были в прошлом. Теперь мы, по-видимому,
в самом деле достигли точки, где нужно поступиться чем-то очень
существенным. К сожалению, основную вину за это принято возла¬
гать именно на развитие техники, т. е. как раз на то, в чем челове¬
чество на протяжении всей своей истории пыталось найти решение
многих проблем.
Техника сопутствует человеку в течение тысячелетий и представ¬
ляет собой не что иное, как совокупный результат стремлений че¬
ловечества к лучшей жизни. Сейчас, однако, находятся люди, кото¬
рые считают, что развитие техники, напротив, ухудшает, а не улуч¬
шает жизнь. Проблемы, стоящие ныне перед людьми, различны по
своим масштабам: от социальных сдвигов, вызванных технологиче¬
скими изменениями, безработицы, загрязнения окружающей среды
и угрозы ядерного уничтожения до отчуждения и неудовлетворен¬
ности работой и ее конкретными результатами. К этому можно до¬
бавить следующее. Не исключено, что именно сложность, порожден¬
ная техническим прогрессом, несет ответственность за не поддаю¬
щиеся лечению недуги экономики и что значительную опасность
начинают представлять технические системы, которые становятся
настолько сложными, что вскоре людям будет недоставать знаний и
понимания для управления ими.
Естественно, возникает вопрос, как же решать эти проблемы?
Могут ли неодушевленные творения техники найти ответы на воп¬
росы, которые она сама же и поставила, и еще на мириады других,
приводящих в отчаяние род человеческий? Способны ли сами маши¬
ны прийти к решениям, которые ускользают от человеческого
разума? В нашей книге мы хотели доказать, что в принципе это воз¬
можно и, более того, в будущем это обязательно должно слу¬
читься.
Введение 15
Подобное утверждение — не просто плод мечтаний оптимиста-
технократа. Оно основывается на открытиях, которые день за днем
совершаются в различных лабораториях мира, наиболее плодотвор¬
но работающих в области вычислительной техники. Длительное вре¬
мя ошибочно считалось, что на выходе компьютера можно получить
лишь то, что заложено в него на входе. Это представление, безус¬
ловно, находило себе подтверждение на протяжении последних
30 лет в большинстве работ, связанных с обработкой данных. Те¬
перь, однако, неопровержимо доказано, что от компьютеров можно
получить нечто совершенно новое, а именно знания. Эти знания в
свою очередь могут принимать форму оригинальных идей, страте¬
гий и решения реальных проблем.
До сих пор знания, созданные машиной, не имеют большого прак¬
тического значения, они не способны излечить те глубокие недуги,
которыми болен наш мир. Этого и следовало ожидать: ведь био¬
лог, приступив к синтезу живой материи, в лучшем случае ожидает
получить всего лишь вирус, а не взрослую лошадь. Но, несомненно,
со временем станет возможным направить компьютеры на поиск не
решений в шахматной или какой-то другой игре, а более острых проб¬
лем, стоящих перед обществом. И скорее всего он их найдет.
Безусловно, на это потребуется много времени, но если человек
поставит перед собой такую цель, он рано или поздно ее достигнет.
Мы хотим верить, что настанет день, когда нищета, голод, болезни
и политические распри будут укрощены, и свою роль в этом сыгра¬
ют новые знания, полученные компьютерами, действующими как
наши помощники, а не рабы. Кроме того, умственный и художест¬
венный потенциал человека получит совершенно иные возможности
развития, которые сегодня трудно даже вообразить, и как никогда
широко распахнутся врата человеческого воображения.
И нам нельзя упустить свой шанс, хотя, возможно, это будет
нелегко. Нам придется полностью отказаться от традиционного
технического подхода с его главной целью — обеспечить макси¬
мальный экономический эффект от использования машин и пе¬
рейти к стратегии, направленной на то, чтобы сделать процессы,
происходящие в системах, вполне понятными для людей. Для этого
компьютеры должны научиться мыслить, как люди, т. е. если вы¬
числительные системы следующего десятилетия не попадут в «че¬
ловеческие рамки» (см. гл. 3), они станут столь сложными и непонят¬
ными, что человек попросту не сможет управлять ими. Невозмож¬
ность справиться со столь сложными системами сначала будет при¬
водить просто к срывам (если говорить о многих приложениях этих
систем, которые имеются сегодня); если же речь идет о военных
системах предупреждения, о системах управления атомными элект¬
ростанциями или глобальных системах связи, то выход их из-под
нашего контроля может привести к катастрофам всемирного мас¬
штаба.
16 Компьютер — творец
Перспектива иметь машины, столь талантливые и могущест¬
венные, какими мы их рисуем, может показаться неприятной и
даже пугающей. Сама мысль о существовании чего-то отличного от
человека, но вместе с тем обладающего не менее развитым мышле¬
нием, посягает на чувство достоинства человека и осознание его
исключительности. Говоря о творческих компьютерах, мы неиз¬
бежно сталкиваемся с разного рода проблемами эстетического, ре¬
лигиозного, политического и этического характера. Однако подоб¬
ные философские соображения, сколь бы важными они ни пред¬
ставлялись, не должны помешать нам искать пути применения новой
техники. Если это удастся, то будущее наше будет лучше, чем мож¬
но себе вообразить. Если же нет, у нас вообще может не быть буду¬
щего.
1. Слепой поиск и незнание
В разгар той эйфории, которая последовала за первой высадкой че¬
ловека на Луну в июле 1969 г., в лондонской газете «Ивнинг стан-
дард» было опубликовано следующее письмо: «Я с восхищением сле¬
дил за захватывающим запуском к Луне «Аполлона-11»; в связи с
этим меня особенно поражает (что вполне естественно) абсолютное
совершенство используемой техники. Но это же заставляет заду¬
маться, почему нельзя использовать компьютеры для решения на¬
ших экономических проблем. Не потому ли, что люди, программи¬
рующие эти машины, неизбежно привнесут в них свои собственные
предубеждения и свою косность? Наши эксперты, очевидно, грешат
и тем и другим, и все их старания пока более чем неудачны».
Несколькими днями позже в ответ пришло другое письмо: «Вы¬
числительная машина — это всего лишь очень сложная счетная
машина, и она не может решить сама ни одной задачи, если про¬
граммист заранее не знает точно, как ее решать. Все вычисления,
которые потребовались для управления «Аполлоном-11», можно бы¬
ло сделать вручную, но, безусловно, это заняло бы очень много вре¬
мени. Компьютер — наш раб, который делает в точности то, что ему
приказывают. Он выполнит за нас с вами все нудные расчеты и со¬
поставит полученные данные, но пути решения наших экономических
и социальных проблем должны быть найдены, к сожалению, самими
людьми».
Многие, возможно, не согласятся с этим «к сожалению», которое
прозвучало в последней фразе; однако второе письмо выражает ши¬
роко распространенную точку зрения, особенно среди тех, кто дол¬
гими часами пишет программы для ЭВМ, заставляя машину дейст¬
вовать в соответствии со своими намерениями. Приятно видеть, как
сложнейший механизм безропотно подчиняется твоим указаниям,
безупречно работая часы, месяцы, годы. Это, естественно, наводит
на мысль, что поскольку мы не можем получить меньше того, на что
рассчитывали, то и больше тоже получить не удастся. Эту мысль
можно выразить пословицей: «Что посеешь, то и пожнешь». Исходя
из индивидуального опыта программирования, это кажется более
чем очевидным.
Однако уже сейчас совершенно ясно одно: то, что казалось оче¬
видным вчера, не столь уж очевидно сегодня. Компьютеры способ¬
ны творить и, творя, решать многие жизненно важные задачи. Вне
18 Компьютер — творец
сомнения, по своему творческому потенциалу ЭВМ еще далеки от
того, чтобы взяться за проблемы, подобные тем, о которых говори¬
лось в процитированном ранее письме. Да и оценить трудности пос¬
тавленной задачи зачастую далеко не просто. Заставить робота уп¬
равлять космическим аппаратом во время его полета на Луну в нас¬
тоящее время несложно — гораздо труднее послать его за угол ку¬
пить пачку сигарет. По сравнению с последней задачей даже деталь¬
но разобраться в состоянии экономики может оказаться проще.
Потребность в творчестве
Фундаментальное различие между задачей управления космиче¬
ским аппаратом и прогулкой по улице определяется тем, что в пос¬
леднем случае приходится иметь дело с множеством непредвиденных
обстоятельств. Если число событий, которые могут неожиданно
произойти, сравнительно мало, то в программу ЭВМ можно записать,
что нужно делать в каждом таком случае. Однако в реальной жизни
число вариантов столь велико, что все их нельзя предугадать зара¬
нее. Следовательно, машина должна быть способной хранить в себе
некую внутреннюю модель мира, на основании которой она при не¬
обходимости сможет самостоятельно находить решения возникаю¬
щих проблем. Более того, она должна уметь приспосабливать и
расширять эту модель по мере накопления опыта, а значит, при слу¬
чае проявлять творческий подход.
Умной машина должна быть и еще в одном отношении. Если,
попытавшись взять какой-то предмет, робот обожжет себе «руку»,
поскольку последний сильно нагрет, то он должен понять, что не
стоит пытаться брать тот же предмет другой рукой на следующем ша¬
ге выполнения программы.
Пока способности машин решать те или иные задачи очень
ограниченны. Наглядным примером может служить авария на «Апо-
ллоне-13». Лишь благодаря мастерству людей, взявших управление
на себя, корабль смог благополучно вернуться на Землю после
того, как взрывом повредило основной двигатель и энергосистему.
Однако нужно отдать должное и конструкции всей системы, пре¬
дусмотревшей переход на ручное управление. Помимо этого сущест¬
вует множество гораздо более естественных задач; многие из них
для человека настолько тривиальны, что решая их он редко осоз¬
нает, что проявляет замечательные способности, к которым на совре¬
менном уровне развития вычислительной техники невозможно даже
подступиться. Среди этих задач — владение естественным языком
(английским, французским и т. д.), понимание устной речи, умение
разобраться в окружающей физической обстановке через зрительное
восприятие. Поскольку все эти функции лежат в основе большинства
видов человеческой деятельности, способности решать указанные
задачи придается чрезвычайно большое значение в работах по со¬
Слепой поиск и незнание 19
вершенствованию вычислительной техники. Но желательно, чтобы
компьютер обладал и другими, менее очевидными, «талантами»,
к каковым относится, например, здравый смысл — весьма важное
свойство человека. Рассмотрим два утверждения: «Клайд — слон»
и «Клайд сидит в кино в последнем ряду». Разумный компьютер
должен быть способен при этом сказать: «Минутку, минутку!» В конце
50-х годов Джон Маккарти, один из самых знаменитых основополож¬
ников научного подхода к разработке «разумных машин», поставил
в качестве центральной научной задачи создание формальной логи¬
ки здравого смысла. И хотя с тех пор прошло уже более четверти
столетия пусть и не всегда гладкого, но непрерывно ускоряющегося
развития, эта техническая вершина так и осталась непокоренной.
Интеллект машины
Именно поиск решений подобных задач составляет сущность того
раздела вычислительной техники, которая получила довольно стран¬
ное название — искусственный интеллект. Не говоря уж о предмете
исследования как таковом, это название само по себе достаточно
спорно. Некоторые считают, что интеллект по сути своей — чисто
человеческое свойство и, следовательно, понятия «искусственный»
и «интеллект» несовместимы. По мнению других, какими бы умными
машины ни становились, им никогда не достичь того, что действи¬
тельно напоминало бы интеллект. Но эти вопросы приводят нас к
проблемам определения. Каким образом можно было бы убедиться,
что компьютер совершил что-либо интеллектуальное? Марвин Мин¬
ский из Массачусетского технологического института (МТИ) в
свое время ответил на этот вопрос так. Машина обладает интеллек¬
том, если задание, которое она выполняет, потребовало бы от чело¬
века — будь он на месте машины — интеллектуальных усилий.
Проверяя справедливость этого утверждения, зададим себе вопрос:
«Использует ли человек свой интеллект, производя арифметические
действия»? Безусловно. Тогда, согласно определению Минского,
машины становятся умными с первой же арифметической програм¬
мой — это абсурд.
Другая тема дискуссий касается процесса понимания.
— Можно ли считать машину думающей, если бы она могла чи¬
тать газету и делать краткий обзор ее содержания? — спрашивает
ученый, занимающийся искусственным интеллектом.
— Конечно,— соглашается критик.
— Мой студент как раз написал такую программу и безо вся¬
кого обмана вроде перепечатки заголовков,— сообщает ученый.
— А как же работает эта программа? — недоверчиво вопрошает
критик.
Посидев недолго перед доской и за терминалом, он решает, что
подозрения его не напрасны: «И всего-то? Это я не могу признать ин¬
теллектом».
20 Компьютер — творец
Создается впечатление, что если мы понимаем, как что-то дела¬
ется, то это «что-то» нельзя считать требующим особого ума. В ре¬
зультате подходим к определению, данному Ларри Теслером:
«Искусственный интеллект — это то, что еще не сделано»; однако
такое суждение не оставляет работающим в данной области ни ма¬
лейших надежд.
Как видим, не стоит удивляться, что у нас возникла проблема
с терминологией. Ведь надежного определения естественного ин¬
теллекта тоже не существует. Некоторые психологи определяют его
так: интеллект — это то, что измеряется с помощью тестов на умст¬
венные способности. Но что же в таком случае эти самые тесты?
За неимением более точного определения машинного интеллекта
его можно охарактеризовать словами судьи П. Стюарта, сказан¬
ными по другому поводу: «Точного определения я дать не могу,
но всегда могу узнать, когда вижу».
Передвигаясь по Марсу
Оставив в стороне описанные выше общие проблемы, обратимся
к специальным областям, в которых потребность в машинах со
встроенным интеллектом самоочевидна. Одним из примеров может
служить проект самоходного аппарата, предназначенного для пере¬
движения по поверхности Марса, который разрабатывается НАСА,
США. Поскольку вопрос о высадке человека на Марс в обозримом
будущем не стоит, идея заключается в том, чтобы создать самоход¬
ный робот, который мог бы передвигаться по поверхности планеты,
делая фотоснимки, собирая пробы почвы и посылая информацию на
Землю. Традиционным способом осуществления такого проекта
было бы дистанционное управление, когда наблюдатель на Земле,
следя за телевизионными изображениями, посылаемыми аппаратом,
в ответ направляет телекоманды его управляющему устройству.
Однако если робот находится на поверхности Марса, то его телесиг¬
нал достигнет Земли за 4—20 мин (в зависимости от взаимного рас¬
положения планет) и столько же времени потребуется обратному
сигналу. Если аппарат окажется вдруг на краю пропасти, то к тому
времени, когда с Земли дойдет до него команда «Стоп», его обломки
уже давно будут лежать на дне. Как видим, не остается другой воз¬
можности, как снабдить аппарат собственным интеллектом, чтобы
он мог позаботиться о себе сам, получая с Земли лишь общие указа¬
ния стратегического характера. И не удивительно, что занимаю¬
щиеся этим роботом специалисты из Лаборатории реактивного дви¬
жения в Пасадене (США) считают стоящую перед ними задачу преж¬
де всего задачей по искусственному интеллекту.
Если обратиться к более близким нам проблемам, то колоссаль¬
ный рост воздушных перевозок привел к таким перегрузкам систем
управления полетами, что они могут отказать буквально в любую
Слепой поиск и незнание 21
минуту. Только вычислительные системы, обладающие такой сте¬
пенью надежности и сообразительности, которая у нас ассоции¬
руется с интеллектом, способны облегчить труд авиадиспетчеров,
требующий неусыпного внимания и крайнего напряжения. Чтобы
понять, сколь надежными должны быть здесь и техника, и про¬
граммы, нужно представить масштабы катастрофы, к которой мо¬
жет привести малейший сбой компьютера.
Суровые условия Северного моря открывают область примене¬
ния автоматических подводных механизмов, способных выполнять
сложные работы по осмотру и ремонту нефтяных платформ, которые
в настоящее время с большой опасностью для жизни делают во¬
долазы. И на суше есть немало работ, где очень пригодились бы
умные «тыбики» (название происходит от выражений типа «ты бы
принес почту...», или «ты бы сходил в магазин...»). Эти подвиж¬
ные роботы, действующие по принципу «принеси-подай», могли бы
также укладывать трубопровод в пустынях, работать в рудниках,
и, не опасаясь смертельной радиации, обнаруживать неисправность
внутри ядерных реакторов.
В развивающихся странах чрезвычайно остро стоит проблема
квалифицированной медицинской помощи и особенно ощущается
нехватка квалифицированного персонала, причем проблема здесь
не только в деньгах. Так, британские медики, посетившие Саудов¬
скую Аравию и соседние с ней территории, увидели там множество
самого современного американского оборудования, которое, одна¬
ко, при местном уровне медицинского и технического образования
невозможно использовать. Нужны вычислительные системы, кото¬
рые позволили бы привнести сюда знания специалистов-экспертов
развитых стран,— причем не только для того, чтобы менее квали¬
фицированные местные врачи могли ставить правильные диагнозы,
но и чтобы они могли получать новые знания посредством машин¬
ного обучения.
Производители вычислительной техники во всем мире, а сле¬
довательно, и весь деловой мир в целом работают в условиях пос¬
тоянного и непрекращающегося программистского кризиса — по¬
стоянной нехватки квалифицированных программистов и все воз¬
растающей стоимости разработки программных систем. Ситуация
будет неизбежно ухудшаться по мере того, как новая технология —
производство микросхем с высокой степенью интеграции — будет
наводнять рынок более дешевыми и быстродействующими вычисли¬
тельными машинами. При современном состоянии методов про¬
граммирования, даже привлекая к работе любое мыслимое коли¬
чество людей, невозможно обеспечить программами этот поток
вычислительной техники. Данные, приведенные в табл. 1, говорят
сами за себя.
Чтобы рынки стремительно развивающейся микроэлектронной
промышленности не задохнулись от нехватки программистов, на-
22 Компьютер — творец
Таблица 1. Основные тенденции развития вычислительной техники [1}
Показатель
1955
1956
1975
1985
Рост отрасли
1
20
80
320
Производительность схемных средств/
затраты
1
100
103
Ю6
Производительность труда програм¬
миста
1
2,0
2,7
3,6
зрела необходимость не просто в улучшениях, но и в радикальных
переменах — в развитии автоматического программирования. Это
предполагает разработку систем, способных создавать программы
в соответствии с общими требованиями пользователя, возможно
используя хранящиеся в памяти готовые образцы решений, что в
сущности представляет собой создание языка очень высокого уров¬
ня со встроенным интеллектом.
Tua culpa (виноват сам)
Еще одной насущной проблемой в области вычислительной тех¬
ники является тершшость к возможным ошибкам. Большинство
вычислительных систем предъявляет очень высокие требования к
пользователям по форме записи команд. Пропущенная запятая или
единственная неправильная буква в команде — и все ваши по¬
пытки заставить машину что-то сделать или получить от нее какую-
либо информацию оказываются безуспешными, что обычно вызывает
бурное негодование склонных к ошибкам человеческих существ.
«Ведь ясно же, что имелось в виду!» — возмущаемся мы, но для
машины это совсем не очевидно. Сюда добавляются и проблемы,
касающиеся ошибок в той информации, которая уже хранится в па¬
мяти. Предположим, некое слово в информационно-поисковой си¬
стеме записано неверно, например «калирб» вместо «калибр». Когда
пользователь попытается найти это слово, ответа на свой вопрос
он не получит, если только не сделает снова ту же ошибку, наби¬
рая слово при запросе. Нужны менее строгие допуски при срав¬
нении слова с эталоном, а также более гибкое восприятие языка
машиной.
Еще более серьезна проблема «терпимости к отказам». В лю¬
бом механизме с миллионами компонентов некоторые из них неиз¬
бежно могут отказать. Чтобы избежать катастрофы, нужна сложная
система избыточных устройств, ибо последствия отказа могут быть
гораздо более серьезными, чем судьба специалиста по китам в
романе Хеллера «Уловка-22», которого из-за. перегоревшей лампы
Слепой поиск и незнание 23
в ЭВМ отправили воевать в составе медицинских частей, ибо при¬
няли за цитолога. Еще большую тревогу вызывает тот факт, что
в большой программе, скажем в трансляторе с Фортрана, содержа¬
щем 150 тыс. команд, некоторые из них неизбежно оказываются
неверными. И от этого невозможно избавиться, поскольку любые
изменения, вносимые в программу при исправлении ошибок, могут
непредсказуемым образом сказаться на других частях программы.
Группа сотрудников университета в Ньюкасле, возглавляемая
Брайаном Ренделлом, занимается разработкой принципов создания
программного обеспечения, терпимого к отказам. Они выбрали для
этого не самый прямой (по сегодняшним меркам) путь: исполь¬
зование дублирующих программ, выполняющих те же действия, но
иным способом. Исследователи считают весьма маловероятным, что¬
бы в обеих программах одновременно произошел сбой или чтобы
и в ту, и в другую вкрались одинаковые ошибки.
Где не годится слепой поиск
За всеми приведенными примерами стоит насущная потребность
в новых способах интеллектуальных действий при решении тех
задач, где просто не пригоден традиционный подход к обработке
данных, для которого наиболее характерна идея простого перебора
возможных вариантов.
Мы имеем в виду такие сложные и не до конца сформулирован¬
ные задачи, как задачи поиска маршрута, составления расписа¬
ний или распределения ресурсов, сетевые задачи и вообще боль¬
шинство проблем реального мира, о которых мы уже упоминали
и в которых трудно предвидеть все возможности. Чтобы проиллю¬
стрировать эту мысль, сравним две игры: крестики-нолики и шах¬
маты. Чтобы научить компьютер играть в крестики-нолики, про¬
граммисту достаточно рассмотреть все ситуации, которые могут
возникнуть в игре, и сообщить машине, что делать в каждой из
них. Их насчитывается всего несколько сотен, а вследствие симмет¬
рии еще меньше. Поэтому крестики-нолики в основе своей — до¬
вольно скучная игра. Иное дело шахматы, где возможны 101?0
различных партий. Хотя формулировка полной стратегии игры
представляет собой довольно тривиальную задачу для математика,
сложность здесь состоит в следующем: как показал Клод Шеннон
в 1950 г. [2], на то, чтобы перебрать все возможности, прежде чем
сделать один ход, самой сверхбыстродействующей машине потре¬
буется 1090 лет. Существование Солнечной системы по сравнению
с этим — одно мгновение: ей всего порядка 1010 лет. Если бы
нам даже удалось объединить все атомы Вселенной в один гигант¬
ский микропроцессор, то это позволило бы снизить время, затра¬
чиваемое на один ход, всего лишь до 1040 лет! Дело в том, что как бы
ни браться за эту задачу, всякая попытка построить дерево воз¬
24 Компьютер — творец
можных ходов по типу «если я сделаю этот ход, то он может пойти
так или так, либо я могу пойти сюда, а он...» мгновенно приводит
к так называемому комбинаторному взрыву (рис. 1). Можно, ко¬
нечно, заранее решить просматривать партию лишь на ограничен¬
ное число ходов вперед, и некоторые шахматные программы рабо¬
тают именно по такому принципу; но чтобы такая программа могла
сравниться с человеком, опирающимся на свой интеллект (и опыт),
она должна перебирать миллионы потенцйальных ходов. Это ведет
либо к перегрузке памяти даже самых больших ЭВМ, либо к тому,
что программа считается недопустимо долго. Следовательно, чтобы
сдвинуться с мертвой точки, нужен какой-то другой, более избира¬
тельный подход. В шахматах, как и в большинстве иных задач,
решаемых ЭВМ, примитивный перебор вариантов отходит в прошлое.
Дар речи
Размышляя об ограниченных возможностях современной вычис¬
лительной техники, сразу сталкиваешься с проблемой речи. Гово¬
рить и слушать настолько естественно для человека, что, конечно,
хотелось бы и компьютер наделить этим даром. Научить машину
говорить оказалось не так уж сложно. Недорогие синтезаторы
речи говорят механическими, но тем не менее вполне внятными
голосами. Генерируемая ими речь строится в соответствии с об¬
Рис. 1. Дерево поиска.
Слепой поиск и незнание 25
щими правилами произношения букв и буквосочетаний и дополни¬
тельным «словарем исключений», содержащим слова, которые чи¬
таются не по правилам. Словарь этот, разумеется, нельзя сделать
абсолютно полным, и иногда приходится слышать, например, что
слово guide произносится как gwee-duh. Это, возможно, не столь
страшно, но может привести к искажению смысла. Рассмотрим фра¬
зу, взятую из рекламного объявления в Лондоне: Live at the Bar¬
bican. Как читать букву i в слове live, зависит от смысла предло¬
жения, а это в свою очередь зависит от того, что мы знаем о мире,
в котором живем, в частности о Барбикане. Но даже этого недо¬
статочно, поскольку Барбиканом называется и выставочный центр,
и жилой район, так что афиша может служить как рекламой
какой-то выставки, так и объявлением агента по торговле недвижи¬
мостью. Разгадка содержится в предшествующей части фразы.
Полностью она выглядит так: «India: Live at the Barbican!» («Ин¬
дия как живая в Барбикане!»). Только знания, причем немалые,
помогут машине справиться с такой задачей *.
Уши, чтобы слышать
Слух компьютера, или, как его называют, распознавание речи —
совершенно другое дело. Структура человеческой речи чрезвычай¬
но сложна: в ней не только существует множество различных слов,
звучащих одинаково, но одно и то же слово может произноситься
с разной интонацией и разными акцентами. Однако наибольшую
трудность представляет распознавание промежутков между сло¬
вами. Когда мы слышим речь, нам кажется, что между словами
существуют абсолютно четкие интервалы, но в действительности
это наш мозг, базируясь на знании языка, восстанавливает их
по тексту. Подобное знание нужно и компьютеру, чтобы он полу¬
чил возможность осмысливать звуки. Различие в звучании фраз
«Это же ребенок» и «Это жеребенок» бесконечно мало, и смысл мож¬
но уловить только из контекста, для чего, в частности, может по¬
требоваться прогноз продолжения текста. Однако такой прогноз
тоже может столкнуться с новыми трудностями. Допустим, машина
слышит: «Восемь». Все ясно. Затем она слышит: «десят» и быстро
возвращается назад, чтобы изменить число 8 на 80. Однако затем
она слышит: «ников», «восемь десятников»! Все-таки «восемь»
* Чтобы понять смысл этого отрывка, читатель должен иметь в виду,
что английское слово live может читаться как «лив», что означает «жить»,—
тогда приведенная фраза переводится как «Живите в Барбикане», или как
«лайв», что означает «живой», «настоящий». В русском языке подобная си¬
туация могла возникнуть, например, с фразой: «Английские замки — самые
надежные», где ударение в слове «замки» можно определить лишь из кон¬
текста.— Прим. перев.
26 Компьютер — творец
оказалось в конечном счете правильным. Как видим, неприятности
подстерегают машину буквально на каждом шагу!
Если число слов, которые нужно распознать, сравнительно
невелико, проблема в общем разрешима. Когда речь идет, напри¬
мер, о химических веществах, можно не сомневаться, что «мышьяк»—
это химический элемент, а не «мышь, як». Здравый смысл подска¬
жет вам, что «крестовина» — это почти.наверняка одно слово, а
не маловероятный «крест овина». Однако по мере того, как мир,
в котором действуют машины, становится разнообразнее и мы
пытаемся сделать их все более разносторонними, проблемы начи¬
нают сыпаться как из рога изобилия. Современные общедоступ¬
ные устройства для распознавания речи ограничены словарем в
несколько сотен слов, и, как правило, их следует произносить,
подчеркнуто разделяя интервалами. Кроме того, машина должна
быть «настроена» на манеру разговора того человека, с кем ей пред¬
стоит иметь дело. Пользователю придется предварительно по не¬
скольку раз повторить машине каждое распознаваемое слово.
Некоторые новые, экспериментальные системы способны вос¬
принимать слитную речь, состоящую, скажем, из трех-^етырех
слов, произнесенных без остановки; однако это достигается за
счет соответствующего уменьшения словарного запаса. Другие
системы затрачивают на понимание речи во много раз больше вре¬
мени, чем требуется на произнесение этих слов, что, очевидно,
ограничивает практическое применение таких машин, ибо они с
каждым словом все больше отстают от вас. Видимо, еще далек
тот день, когда пишущая машинка сможет напечатать «на слух»
текст, надиктованный ей на хорошем английском языке, хотя в
странах с фонетическим алфавитом, например в Японии, такая воз¬
можность выглядит гораздо реальнее.
Разговаривая с компьютером
В большинстве случаев сегодня общение с ЭВМ осуществляется
при помощи печатающих устройств или видеотерминалов с кла¬
виатурой, что снимает проблему восприятия звуков. Тем не менее
и здесь было бы неплохо иметь возможность вести диалог на обыч¬
ном (скажем, английском) языке, а не на языках программиро¬
вания или запросов с их чрезвычайно неестественным и строгим
синтаксисом. И снова общему решению проблемы мешает ограни¬
ченность наших знаний о том, каким образом человек понимает
язык. Пару лет назад казалось, что создание разумной теории
грамматического разбора предложения не за горами, однако вы¬
яснилось, что найти однозначный способ разбора предложения
гораздо сложнее, чем можно было ожидать.
Рассмотрим два объявления: «Обязательно наденьте на голо¬
ву каску» и «Обязательно возьмите на руки собак». Они идентичны
Слепой поиск и незнание 27
по форме, однако означают совершенно разные вещи. Любой пас¬
сажир лондонского метро должен знать достаточно о реальном
мире, чтобы не усомниться, что ему вовсе не нужно приобретать
собаку, прежде чем его пустят на эскалатор. Мы снова видим,
сколь существенно для восприятия языка широкое знание окру¬
жающего мира.
Несмотря на это, совсем нетрудно заставить компьютер вести
довольно правдоподобную беседу (через экран и клавиатуру)
сколь угодно долго, если тема разговора не выходит за опреде¬
ленные рамки. Одна из первых и хорошо известных программ та¬
кого рода под названием «Элиза» была составлена Джозефом Вей-
зенбаумом [3] из Массачусетского технологического института.
Она имитирует беседу с психиатром, поощряя человека, выступаю¬
щего в роли пациента, делиться своими проблемами, формулируя
и выпечатывая их в виде обычных предложений, а машина поддер¬
живает разговор, отвечая ему. Вот как мог бы выглядеть подоб¬
ный диалог:
Пациент. Мой отец меня ненавидел.
ЭВМ. Расскажите мне еще о своей семье.
Пациент. Я вспоминаю свое детство в Бостоне.
ЭВМ. И часто вы вспоминаете свое детство в Бостоне?
и т. д. Программа эта в действительности очень проста: она ищет
ключевые слова во фразах пациента, и для каждого ключевого
слова в ней есть заранее заготовленный ответ. В нашем примере
ключевыми словами являются «мой отец» и «я вспоминаю». Иногда
часть фразы пациента, идущая после ключевого слова, включает¬
ся в ответ машины с соответствующими изменениями: «вы» вместо
«я», «вспоминаете» вместо «вспоминаю» и т. п.; но машина делает
все это, абсолютно не понимая смысла произносимых фраз. И если
принять во внимание, насколько примитивна вся эта .процедура,
то остается лишь поражаться правдоподобию речи «врача». Ведь
очень редко программа делает грамматические ошибки или говорит
какую-нибудь явную глупость. Например, в ответ на жалобу:
«Я не могу заснуть ночью» она может спросить: «Откуда вы знаете,
что не можете заснуть?» Но «Элиза» — это не более чем искусно
сделанная игрушка. Вейзенбаум задумал ее как шутку, своего
рода пародию, и был поражен, когда признанные психиатры вос¬
приняли ее всерьез и занялись обсуждением возможностей автома¬
тизированной психотерапии. Но это уже больше говорит о психиат¬
рии, а не о вычислительной технике.
Совершенно иначе обстоит дело с программой «Интеллект»,
имеющей огромную практическую ценность. Эта программа была
разработана в американской фирме «Артифишиал интелледжинс
корпорейшн». Она позволяет запрашивать у ЭВМ коммерческую
информацию на обычном английском языке, что избавляет руково¬
28 Компьютер — творец
дящих работников, на которых эта система рассчитана, от необхо¬
димости изучать утомительные специальные правила. Так, пользо¬
ватель может напечатать запрос: «Кто из продавцов выполнил
план за этот год?» Программа перефразирует этот вопрос на своем
языке, убеждаясь, что вопрос понят ею правильно, а затем выве¬
дет требуемую информацию на экран в виде таблицы. Если про¬
грамма поняла вопрос неверно, то это можно увидеть по ее вари¬
анту запроса; и поскольку «Интеллекту» в отличие от «Элизы»
скрывать нечего, программа прямо признается в том, что вообще
не поняла вопроса [4].
В отсутствие какой-либо общей теории грамматики используе¬
мый здесь метод выглядит довольно топорно. Система снабжена
словарем на несколько тысяч слов с указанием в программе, что
делать с каждым из них, если оно содержится в запросе. Другим
широко известным примером использования естественного языка
может служить система «Ладдер», разработанная в Станфордском
научно-исследовательском институте; она позволяет офицерам
американского флота получать от ЭВМ необходимые данные о так¬
тических ресурсах, не обладая специальными знаниями об устрой¬
стве системы [5]. В этой программе не делается даже попытки клас¬
сифицировать слова на существительные и глаголы. Здесь для каж¬
дого запроса подбирается соответствующий вариант из обширного
множества эталонов типа
Каково значение данного (параметра) (корабля)?
вместо привычного
(глагольная часть) (существительное).
Примечательной чертой системы «Ладдер» является ее способность
запоминать предыдущие запросы и расшифровывать в соответст¬
вии с ними местоимения или эллиптические конструкции в по¬
следующих запросах. Однако весьма существенно, что все описан¬
ные системы ориентированы лишь на очень узкую сферу интересов
(будь то отчеты о товарообороте, диспозиция боевых кораблей
и т. п.). Если бы нам захотелось значительно расширить область
наших интересов, то пришлось бы при тех примитивных методах,
которые используются в уже существующих программах, расши¬
рять их словарный запас и усложнять сами программы, неизбежно
выходя при этом за пределы сегодняшних возможностей.
Аналогичные проблемы возникают при попытках машинного
перевода с естественных языков (с английского на немецкий, с
русского на английский и т. д.). Не счесть смешных историй о
ляпсусах, возникающих при попытках машинного перевода, когда,
например, английское hydraulic ram . («гидравлический таран»)
Слепой поиск и незнание 29
переводилось машиной как «водяной баран» *. И снова все
упирается в наши знания. Переводчик (будь то человек или ком¬
пьютер) нуждается в детальном знании мира, описываемого в тек¬
сте, и одной из основных задач исследований по искусственному
интеллекту является проблема обеспечения ЭВМ этими знаниями,
представленными в виде соответствующих моделей.
. Но, несмотря на всю ограниченность возможности общения с
ЭВМ на естественном языке, сам факт способности машины к та¬
кому общению производит на непрофессионалов гораздо большее
впечатление, чем практически все остальные достижения, связан¬
ные с ЭВМ. Кажется, что если нечто умеет разговаривать, то это
уже почти человек, или, во всяком случае, гуманоид. Вникнув в
то, как действует «Элиза», вы получите прекрасное противоядие
от такого заблуждения [6]. Самое главное — не допустить, чтобы
эффектная мишура общения с системой на естественном языке
заслонила собой то содержательное, что в этой системе имеется.
Глаза, чтобы видеть
Универсальный домашний робот, о котором мы мечтаем и о ско¬
ром создании которого нередко говорится в прессе, будет обла¬
дать еще одной принципиальной способностью (помимо умения вы¬
полнять указания), а именно зрением. Если ему придется про¬
пылесосить комнату, он должен при этом обойти кошку. Если ему
нужно прополоть грядки (но не химическим способом), то он дол¬
жен научиться отличать цветы от сорняков. Очевидно, сделать
это непросто (даже людям). Разработке проблемы распознавания
образов посвящено множество исследований; в ряде из них речь
шла о создании компьютеров, способных осмысливать телевизион¬
ное изображение сцен с простыми геометрическими объектами:
кубиками, пирамидами, коробочками и т. п. Иногда компьютер пере¬
мещал объекты механической рукой. Машине, перед которой ста¬
вятся подобные задачи, необходимо уяснить, в частности, следую-
щее: объект может быть скрыт другим, стоящим перед ним; все пред¬
меты должны на что-то опираться, иначе они упадут; некоторые
из полученных указаний (такие, как «положи мячик в коробку»)
в принципе могут быть исполнены, а другие (например, «положи
коробку в мячик») — нет. Но как только машине приходится иметь
дело с объектами реальными, не имеющими строгих геометрических
форм, она теряет способность манипулировать ими.
* Английское ram может означать и баран, и таран. Среди многих ана¬
логичных анекдотов, ходящих среди советских переводчиков, быть может,
самым впечатляющим является реальный случай, когда русское слово «раз¬
ряд» в его значении, используемом в машинной арифметике, было переведено
на английский язык как слово «разряд» в значении «электрический разряд».—
Прим. персе.
30 Компьютер — творец
Суть проблемы заключается в том, что любое изображение
несет в себе огромное количество информации. Телевизионное изо¬
бражение содержит 2 млн. битов информации, которая меняется
с частотой 25 Гц (25 раз в секунду). Такая лавина информации
вызывает у компьютера больше трудностей, чем даже распознава¬
ние речи. В действительности вопрос об обработке этой информа¬
ции традиционной ЭВМ просто не стоит, ибо существенной особен¬
ностью нынешней вычислительной техники является то, что всю
информацию она обрабатывает в строгой последовательности —
бит за битом, а современные схемы работают недостаточно быстро.
Именно из-за этих недостатков машинной архитектуры, заложен¬
ной еще фон Нейманом, возникает насущная задача создания машин,
способных обрабатывать много битов информации одновременно
(особенно это касается распознавания зрительных образов), т. е.
процесс должен быть параллельным.
Как показывает изучение работы глаза животных, в природе,
по-видимому, все происходит именно так. В знаменитой статье
Леттвина, Матураны, Маккалока и Питтса «О чем глаз лягушки
рассказывает ее мозгу» [7] был сделан вывод, что большая часть
процессов, связанных со зрением,— включая практически все вы¬
числения, касающиеся распознавания простых объектов типа на¬
секомых,— протекает у лягушки в параллельных процессорах,
расположенных в сетчатке ее глаз, а не последовательно в ее моз¬
ге. Чтобы таким же образом могли действовать машины, необхо¬
димы совершенно новые схемные решения.
Параллельное мышление
Далеко не просто, взяв несколько процессоров, каким-то образом
разделить задачу между ними. Как указывает Майкл Дафф из
университетского колледжа в Лондоне, использование мульти¬
процессоров неизбежно связано с большими издержками времени,
которое при этом тратится на управление взаимодействием разных
процессоров и на само распределение «нагрузки» между ними. Как
выяснилось, даже 12 процессоров, работающих вместе, все свое
рабочее время тратят лишь на общение друг с другом, а на полез¬
ную работу его почти не остается. Дафф предложил построить
специализированную ЭВМ из процессоров, образующих прямоуголь¬
ную матрицу, на которую с помощью телекамеры проецируется кар¬
тинка, подлежащая обработке. Это так называемый однородный
(клеточный) логический процессор изображений КЛИП (CLIP —
Cellular Logic Image Proccessor); благодаря быстрому снижению
цен на интегральные схемы в последнюю работающую модель этого
процессора КЛИП-4 удалось включить 9216(!) отдельных микро¬
процессоров [8].
Слепой поиск и незнание 31
Картинка, состоящая из 9216 отдельных точек, имеет еще до¬
вольно грубый вид, но поскольку все процессоры работают одно¬
временно, выигрыш по скорости составляет 104. Каждый процес¬
сор в этой схеме соединен со своими 8 ближайшими соседями
(рис. 2). Преимущество такого устройства процессора состоит,
например, в том, что здесь очень просто определить, где изме¬
няется картинка; это происходит там, где соседние процессоры
имеют разный (а не одинаковый) уровень освещенности. Это по¬
зволяет машине сразу установить границы объекта — а это едва
ли не самое главное в задаче распознавания образов (рис. 3).
Однако от выяснения границ и других локальных особенно¬
стей изображения до узнавания реальных объектов еще довольно
далеко, особенно если это столь сложные объекты, как, скажем,
человеческие лица. Именно с целью решения проблемы узнавания
в Брюнельском университете было создано принципиально новое
устройство под названием «Уизард» (чародей). Оно представляет
собой специально разработанную интегральную схему, способную
сравнивать полученное изображение с 3—4 эталонами, на кото¬
рых она обучена, и решать, на какой из них более всего похоже
исследуемое изображение. Машина справляется и с небольшими
видоизменениями в полученных изображениях, такими, как угол,
под которым рассматривается объект, или изменение выражения
лица; это достигается тем, что в процессе обучения ей показывают
не одно изображение каждого объекта, а несколько (рис. 4). И за¬
поминает она не сами эти изображения, а некое внутреннее пред¬
ставление того, что для всех этих изображений одного объекта
является общим. Соединив описанную схему с устройством речево¬
го вывода, можно добиться, чтобы машина, когда к ней подходит
человек, могла произнести: «Привет, Джон» или «Привет, Мэри».
Однако важно помнить, что «Уизард» может только распознавать
образы, но не работать с ними дальше, как КЛИП-4.
Параллельная обработка данных полезна не только для рас¬
познавания зрительных образов, но и для других целей. Некоторые
Рис. 2. (Из рабо¬
ты Майкла Даф-
фа.)
Рис. 3. (Из работы Майкла Даффа.)
32 Компьютер — творец
Рис. 4 Чтобы программа «Уизард» могла распознать какое-либо лицо, ее
«обучают» на нескольких телевизионных изображениях этого лица, слегка
отличающихся друг от друга (верхний и средний ряды). В «рабочем режиме»
(нижний ряд) машина высвечивает под изображением графическую оценку,
показывающую, насколько похожим ей кажется предъявленное изображение
на уже знакомое. На левой фотографии в нижнем ряду длина нижней полоски
указывает, что совпадение оценивается выше 90%. Для лица, показанного
в середине, оценка совпадения снизилась до 40%. Но если тот же человек
прикроет рукой бороду, как это показано на правой фотографии, то оценка
несколько возрастает, хотя отличие этого нового лица от знакомого по-
прежнему очевидно. Верхняя полоска на оценочной диаграмме показывает,
насколько изображение на фотографии согласуется с пустой картинкой.
(Фотографии Тони Фиршмана.)
вычислительные задачи настолько трудоемки и сложны, что для
их решения требуется параллельная обработка информации. Так,
при составлении прогноза погоды данные тысяч метеостанций нуж¬
но свести в единую картину динамики метеоусловий путем решения
сложных физических уравнений.
Подобные сложности возникают и при создании поисковых си¬
стем, где приходится иметь дело с лавиной поступающей информа¬
ции. Чтобы следить за планами и результатами научных исследо¬
Слепой поиск и незнание 33
ваний, изменениями в законодательстве или собирать данные
в любой другой области многообразной человеческой деятельности,
требуются гигантские базы библиографических данных, и сейчас
их становится все больше. Но для извлечения из этих баз нужной
информации требуется, чтобы необходимые данные можно было
найти по ключевым словам, которые указаны в запросе потребителя.
Предположим, нам захотелось узнать об открытых сплавах меди
с алкминием. Однако совершенно безнадежно пытаться найти в базе
данных запись, в которой встречается цепочка символов, соответ¬
ствующая словам «сплав меди с алюминием», если в оригинальной
статье фигурировало выражение «сплав алюминия с медью». Сле¬
довательно, смысловые слова нужно искать по отдельности, неза¬
висимо от их порядка в фразе (а в русском языке и от падежа.—
Перев.). Но тогда поиск выражения «философия истории» может
привести нас к выражению «история философии».
Там, где основные трудности связаны с большим объемом не¬
обходимых вычислений, параллельная обработка данных может
оказаться поистине спасением. К примеру, весьма трудоемки логи¬
ческие операции. Скажем, нам нужно выяснить, истинно ли Л, при¬
чем, как мы знаем, чтобы А было истинным, истинными должны
быть В и С. Таким образом, необходимо установить истинность
В и С — но ведь это можно делать одновременно, а не одно за дру¬
гим, что значительно ускоряет процедуру. Аналогично если А
истинно тогда, когда истинно В или С, то опять можно сэкономить
время, проверяя истинность В одновременно с истинностью С.
Ассоциации
Еще с одной новой интересной возможностью использования парал¬
лельной обработки данных связан проект, осуществляемый в на¬
стоящее время несколькими исследователями из МТИ, которые
задались целью привить компьютеру «здравый смысл», о чем упо¬
миналось ранее. Как мы уже говорили, прежде всего для этого
в компьютер нужно вложить знания, причем не просто случайный
набор отрывочных и разрозненных сведений, а целую структуру
знаний во всей сложности их взаимосвязей. Такую структуру мож¬
но представить в виде некой семантической сети, увязывающей
в единое целое объекты и их свойства. В качестве примера на
рис. 5 приведена часть семантической сети, относящейся к понятию
«фрукты».
Всякая сеть состоит из узлов и связей. Группа исследователей
из компании «Синкинг машинз», возглавляемая Дэнни Хилли-
сом, считает, что каждый узел и каждая связь в машине должны
быть представлены собственным процессором. Естественно, что
семантической сети, пригодной для практического использования,
должна в таком случае соответствовать машина совершенно неве-
2 Д. Мичи, Р. Джонстон
34 Компьютер — творец
роятных размеров. Не испугавшись этого, ученые собираются по¬
строить машину на 106 процессоров, каждый из которых обладает
памятью примерно всего на 100 бит и, разумеется, гораздо при¬
митивнее обычного микропроцессора. Процессоры предполагается
разместить в специально изготовленных для этого кристаллах,
Рис. 5. Фрагмент семантической сети. (Из работы Дэнни Хиллиса.)
по 64 в каждом кристалле, так что машина в целом будет состо¬
ять из 16 тыс. кристаллов. Пока Хиллис затрудняется предска¬
зывать, как будет работать такая «машина ассоциаций»: ведь при
попытке промоделировать ее работу на обычной ЭВМ потребуется
целая ночь лишь на то, чтобы обработать один такт.
Что такое творчество?
Понятие связей вновь возвращает нас к вопросу о творчестве.
Нам далеко не ясно, что такое творчество, и это лишь способст¬
вует нашему благоговению перед ним. Мы преклоняемся перед
творениями Баха, Эль Греко или Фарадея, и сознание того, что
мы не в состоянии даже представить себе, как сами могли бы сде¬
лать нечто подобное, усиливает это чувство. Но, быть может, про¬
цесс творчества не столь поразителен, как это кажется. В значи¬
тельной мере творчество заключается в том, чтобы увидеть связи
там, где их раньше никто не замечал. Когда Шекспир пишет:
Как сладко дремлет свет на этом берегу!
Присядем здесь и музыке позволим
Слепой поиск и незнание 35
Нам вкрасться в душу: нежность тишины
И эта ночь — прикосновения гармонии сладчайшей *,
на первый взгляд это выглядит довольно нелепым. Лунный свет
не может дремать, звук не может вкрасться, тишина и ночь не
могут стать прикосновением. Но Шекспир находит такие связи
между вещами, которые никому не приходили в голову ранее, и
тем самым создает поэтический образ, который трогает нас так,
как это не под силу менее оригинальному тексту.
Ньютон вывел свои законы движения, предположив, что и не¬
бесные тела и предметы на Земле подчиняются одним и тем же
физическим законам. Неискушенному наблюдателю это может по¬
казаться абсурдным: ведь планеты ведут себя совершенно иначе,
чем все то, с чем мы непосредственно имеем дело. Но в действитель¬
ности, как догадался Ньютон, это обусловлено лишь тем, что эти
тела находятся в разных условиях.
Даже транзисторная схема, реализующая наиболее интересные
из современных методов распознавания образов, занята, поиском
связей, так как именно к этому сводится поиск свойств и призна¬
ков, общих для всех образов, на которых осуществлялось обуче¬
ние, и для того образа, который схеме нужно распознать.
Еще одна форма творчества заключается в построении новых
структур, более сложных, чем существовавшие ранее. Рассмат¬
ривая проблему творчества главным образом с точки зрения фор¬
мирования новых идей, Аарон Сломан описывает три уровня, на
которых возможны творческие решения: семантический, синтак¬
сический и знаковый. На семантическом уровне известным словам
или каким-то другим знакам, с которыми мы имеем дело, можно
придать новое непривычное толкование. На следующем, более глу¬
боком синтаксическом уровне можно менять правила, по которым
слова связываются между собой; примером такого творчества может
* Работа над переводом этого отрывка из «Венецианского купца» (акт V,
сцена 1) может служить хорошей дополнительной иллюстрацией мысли ав¬
тора. То, что воспроизведено выше,— практически подстрочник английского
How sweet the moonlight sleeps upon this bank!
Here will we sit, and let the sounds of music
Creep in our ears: soft stillness and the night
Become the touches of sweet harmony.
Конечно, переводчик обратился прежде всего к апробированным лите¬
ратурным переводам, например к переводу Т. Л. Щепкиной-Куперник, ко¬
торый звучит так:
Как сладко дремлет лунный свет на горке!
Дай сядем здесь,— пусть музыки звучанье
Нам слух ласкает; тишине и ночи
Подходит звук гармонии сладчайшей.
И здесь он обнаружил, что использовать их в сочетании с комментариями
автора о шекспировском оригинале невозможно.— Прим. перев.
2*
36 Компьютер — тсорец
служить открытие новых законов музыкальной гармонии. А еще
глубже на уровне, где базируется все предшествующее и где твор¬
ческие возможности, видимо, максимальны, могут изобретаться
новые знаковые системы, такие, как темперированный строй в му¬
зыке или тензорное исчисление в математике, которое открывает
совершенно новые пути исследования физических явлений. Но как
бы то ни было, считает Сломан, не существует единственной мет¬
рики, позволяющей сравнивать, где творчества больше, а где —
меньше.
Творческий подход не обязательно является прерогативой
исключительной личности. По мнению Сломана, и в повседневной
жизни достаточно места для творчества. К примеру, чтобы узнать
лицо человека, которого мы давно не видели, нам нужно предста¬
вить, что могло бы изменить в нем время, и дополнить воображе¬
нием полузабытые черты. Столь же неверно было бы думать, что
если мы понимаем, как что-то делается, то здесь уже нет почвы
для творчества. (Неверно и обратное. Часто мы не в состоянии
до конца разобраться в том, что происходит внутри больших
вычислительных систем, однако это еще не повод для того, чтобы
считать их работу творческой). Мы должны научиться распозна¬
вать творческий вклад по конечным результатам, а не по их исто¬
кам и не по тому, получен ли тот или иной результат «биологиче¬
ским» или электронным способом.
Творчество станет неотъемлемой чертой ЭВМ будущего. Без
него машины'не смогут делать обобщения, необходимые для реше¬
ния поставленных перед ними проблем. Без него они не смогут
сами уточнять постановки задач и формировать новые представ¬
ления для последующего анализа, не полагаясь на то, как видит
поставленную задачу программист. Без него они не смогут нащу¬
пывать те скрытые связи, понимание которых требуется для реше¬
ния даже самых «прозаических» задач. И самое главное — без твор¬
ческого подхода машины не смогут обучаться на примерах, а ведь
это единственный практически возможный путь передачи машинам
того внушительного объема знаний, без которого, как мы видели,
они не смогут принести пользу. Только такие, творческие, компью¬
теры способны стать для человека ценными помощниками, а не
рабами.
В самом деле, знание — ключ ко всему. В следующих главах
мы как раз и поговорим о том, как вычислительные системы могут
работать со знаниями.
2. Машина становится экспертом
Машины, созданные пионерами вычислительной техники в 40-х
годах, долгое время были известны под названием «электронный
мозг». Название «вычислительная машина» (или компьютер), при¬
шедшее ему на смену, было ближе к сути, поскольку тогда еще не
могло быть речи о том, чтобы машины могли делать что-нибудь,
хотя бы отдаленно напоминающее работу мозга, и единственное,
что они могли делать — это производить вычисления. В настоя¬
щее время уже никого не удивляет, что машины располагают воз¬
можностью иметь дело с нечисловыми данными, но пока они в ос¬
новном способны оперировать лишь строгими фактами: незыбле¬
мыми объективными данными, лочти (или совсем) лишенными неопре¬
деленности, которые можно непосредственно регистрировать и
воспроизводить. В этом и состоит главная трудность, поскольку
большая часть информации, которой пользуются люди в повсе¬
дневной жизни, не имеет четкого и определенного характера. Нас
не устраивает возможность задавать компьютеру лишь вопросы
типа: «Чему равен квадратный корень из 35 769?» Нам хотелось бы
задавать ему, например, такие вопросы: «Что случилось с этим
больным?», «Имеет ли смысл бурить скважину в данном месте?»,
«Были ли случаи подобного применения патентного права?», «Ка¬
ково вероятное молекулярное строение этого вещества?» или «Как
лучше синтезировать инсулин?». Информацией для ответов на эти
вопросы располагают хорошо осведомленные и высоко ценимые
специалисты, которых называют «экспертами».
До сих пор вычислительные машины имели дело главным обра¬
зом с задачами, процедуру решения которых можно заранее опи¬
сать в мельчайших подробностях. Такая работа вполне предска¬
зуема, не требует особых умственных усилий, и если бы не машины,
то ее пришлось бы выполнять рядовым служащим. Чтобы расширить
возможности машин и научить их заниматься проблемами, ко¬
торые долгое время оставались прерогативой высоко квалифици¬
рованных специалистов — врачей, инженеров, юристов и бухгал¬
теров,— исследователи в области искусственного интеллекта
разработали для вычислительных машин программное обеспечение,
получившее название «экспертные системы».
38 Компьютер — творец
Профессиональная культура экспертов
Эдвард Фейгенбаум из Станфордского университета поясняет
идею создания экспертной системы следующим образом: в то вре¬
мя как традиционные программы имеют дело лишь с фактами,
экспертные системы опираются на «профессиональную культуру».
Говоря о профессиональной культуре, Фейгенбаум имеет в виду всю
совокупность неформальных эвристических приемов, догадок, ин¬
туитивных суждений и умения делать выводы, о которых редко
говорят открыто, но которые, по сути дела, и составляют основу ква¬
лификации эксперта, приобретаемой им на протяжении всей его про¬
фессиональной деятельности. О профессиональной культуре в учеб¬
никах, как правило, не упоминают, о ней почти совсем не говорят,
и ее роль редко признается вслух. Обычно эксперт сам не вполне
осознает ее наличие и плохо понимает, как именно она работает.
Например, в большинстве случаев врач не совсем понимает, почему
предложенное им лечение оказывается эффективным,— он просто
знает, что обычно это так. Однако, несмотря на всю непостижимость
знаний экспертов, оказалось возможным вложить их в машин¬
ные программы, благодаря чему те могут сегодня поспорить по
уровню компетентности с высококвалифицированными практи¬
ками.
Современные экспертные системы способны давать советы в
таких различных областях знаний, как диагностика инфекционных
заболеваний,' геологоразведка, химический анализ органических
веществ, уплата подоходного налога и функционирование региона¬
льной системы обороны. В каждой из этих областей приходится
иметь дело с информацией, которая не только отличается нестро-
гостью, но и чрезвычайно сложна, что затрудняет использование
обычного программного обеспечения; однако экспертные системы
справляются с ней идеально. Знания, используемые в каждой такой
системе, были получены от специалиста в данной области в виде
правил — обычно многих сотен правил, которые в совокупности
создают «базу знаний» компьютера. Экспертная система состоит из
базы знаний и «механизма вывода» — программы, которая способна
находить логические следствия из всей совокупности имеющихся в
системе правил. Некоторые из этих правил совершенно однозначны
и имеют вид: «ЕСЛИ то-то И то-то, ТО получается такой-то ре¬
зультат». Другие правила менее определенны и предполагают ве¬
роятностные оценки: «ЕСЛИ (до известной степени) то-то И (до
известной степени) то-то, ТО (до известной степени) справедлив
такой-то результат». Именно в этот момент на первое место выхо¬
дит профессиональная культура, а не просто способность манипули¬
ровать непреложными фактами. Действуя в соответствии с заложен¬
ными в ее базе знаний правилами, машина запрашивает необходи¬
мую информацию, а затем сообщает свои выводы.
Машина становится экспертом 39
Нефть на дне
Хорошим примером экспертной системы может служить система,
разработанная в лаборатории машинного интеллекта Эдинбургского
университета; ее задачей была помощь в обнаружении неисправ¬
ностей в платформах, установленных на нефтяных промыслах в
Северном море. Технико-экономическое испытание этой системы
осуществлялось по заказу компании «Бритиш петролеум». Каждая
платформа представляет собой лабиринт из труб, насосов и резервуа-
ров-нефтехранилищ, а для обеспечения максимальной безопасности
на платформе установлено множество датчиков и аварийных вык¬
лючателей, которые при обнаружении малейшей неисправности
немедленно приостанавливают добычу нефти. Но когда происходит
нечто подобное, перед инженерами, отвечающими за эксплуатацию
платформы, встает задача по возможности быстрее возобновить ра¬
боту. Однако вся система добычи настолько сложна, что далеко не
просто определить, где конкретно произошел отказ. Как видим, у
компании был прямой интерес выяснить, сможет ли экспертная
система помочь инженерам быстро установить причину неисправ¬
ности.
Эдинбургская экспериментальная экспертная система с помощью
экрана и клавиатуры ведет диалог с инженерами, обслуживающими
платформу. Она задает вопросы такого типа:
НАСКОЛЬКО ВЫ УВЕРЕНЫ, ЧТО ПОКАЗАНИЯ МАНОМЕТ¬
РА V-01 НА ГЛАВНОМ ПУЛЬТЕ УПРАВЛЕНИЯ СВИДЕТЕЛЬ¬
СТВУЮТ О ТОМ, ЧТО ДАВЛЕНИЕ В ПРЕДОХРАНИТЕЛЬНОМ
КЛАПАНЕ ДОСТИГЛО УСТАНОВЛЕННОГО ЗНАЧЕНИЯ?
Свой ответ инженер выражает в цифровой форме: от +5 (что
означает «Я абсолютно уверен, что это именно так») до —5 («Я аб¬
солютно уверен, что это не так»), где 0 означает «Не имею представ¬
ления». Допустим, ответ был 4,5. Тогда машина продолжает:
НАСКОЛЬКО ВЫ УВЕРЕНЫ, ЧТО ВБЛИЗИ ПРЕДОХРА¬
НИТЕЛЬНОГО КЛАПАНА V-01 СЛЫШИТСЯ ШУМ ГАЗОВОГО
ПОТОКА ИЛИ ОХЛАЖДАЮЩЕЙ ЖИДКОСТИ?
Ответ: 0.
И так далее, пока компьютер не придет к какому-либо выводу,
например:
ПРИНИМАЯ ВО ВНИМАНИЕ ВСЕ ОТВЕТЫ НА ЗАДАННЫЕ
ВОПРОСЫ, ВЕРОЯТНОСТЬ ТОГО, ЧТО ПРИЧИНОЙ ВЫСОКО¬
ГО ДАВЛЕНИЯ В СЕПАРАТОРЕ ЯВЛЯЕТСЯ САМОПРОИЗ¬
ВОЛЬНОЕ ЗАКРЫТИЕ ОДНОГО ИЛИ НЕСКОЛЬКИХ ВПУСК¬
НЫХ КЛАПАНОВ СКРУББЕРА, ПЕРВОНАЧАЛЬНО СОСТАВ-
ЛЯВШАЯ 0,002, СЕЙЧАС РАВНА 0,909. КОЭФФИЦИЕНТ
УВЕРЕННОСТИ 4,55.
40 Компьютер — творец
Заметьте, что уже здесь мы имеем дело с информацией, которая
неоднозначна и недостоверна, как это и бывает обычно в повседнев¬
ной жизни.
Языки спецификаций
Создание экспертных систем — длительный и сложный процесс.
Эксперт в какой-либо области работает в паре с так называемым
инженером по представлению знаний, что соответствует програм¬
мисту в обычной вычислительной технике. ВдЕоем они подробней¬
шим образом определяют, какими должны быть искомые правила
и как они взаимосвязаны между собой. Затем все это представля¬
ется в виде «сети логического вывода», в некотором смысле похожей
на семантическую сеть, описанную в гл. 1. На рис. 6 приведена
в качестве примера система диагностики неисправностей на нефтя¬
ных платформах. Какой бы сложной ни показалась вам эта сеть,
она охватывает лишь небольшую часть всей системы. Каждый блок
ее соответствует некоторому суждению, истинность которого влечет
за собой другие суждения по схеме, представленной на диаграмме.
Цифры внизу и сверху каждой стрелки представляют значения «коэф¬
фициента необходимости» и «коэффициента достаточности», т. е. они
показывают, с какой вероятностью второй блок не может быть ис¬
тинным, если не является истинным первый блок, и с какой вероят¬
ностью второй блок должен быть истинным, если истинен первый.
После того как сеть построена, инженер по представлению знаний
переводит найденьые правила на особый «язык спецификаций», по¬
нятный компьютеру. В эдинбургском проекте этот язык называется
AL/X; образец текста, записанного на этом языке, показан на рис. 7.
Кроме того, в каждое правило включается кусочек английского
текста, который компьютер вводит в вопрос пользователю каждый
раз, когда встречается с этим правилом. Например, это могут быть
слова: ПРЕДОХРАНИТЕЛЬНЫЙ КЛАПАН СРАБОТАЛ. Стан¬
дартная подпрограмма экспертной системы выводит на дисплей сло¬
ва: НАСКОЛЬКО ВЫ УВЕРЕНЫ, ЧТО, далее следует текст,
соответствующий конкретному правилу, и в конце получившейся
фразы ставится вопрос: НАСКОЛЬКО ВЫ УВЕРЕНЫ, ЧТО ПРЕ¬
ДОХРАНИТЕЛЬНЫЙ КЛАПАН СРАБОТАЛ? Таким образом,
пользователю предлагается вполне естественный разговорный стиль
общения.
В процессе работы экспертная система рассматривает правила
в порядке приоритетов, установленных инженером по представле¬
нию знаний. Однако пользователь может по собственному почину,
дать некую информацию, которую он считает существенной, прер¬
вав последовательность вопросов, задаваемых машиной, и заставив
ее спросить его то, что он считает нужным сообщить. Но чтобы
Машина становится экспертом 4
Рис. 6. Фрагмент сети логического вывода экспертной системы, обслуживающей нефтедобывающую платфор¬
му. (Из работы Джона Рейтера.)
RVL1FTEARLY
Предохранительный
клапан сработал преж¬
девременно (при слиш¬
ком низком давлении)
PVSOLSHORT
Короткое замыкание
в катушке
предохранительного
клапана
RVSWSHORT I
Короткое замыкание
в выключателе
предохранительного
клапана
SCIVCAUSE
Закрытие входного
клапана скруббера
вызвало повышение
давления на аппарате
PCV302EQERR
В зоне влияния
регулятора давления
вышло из строя
оборудование
L1FT&NL1FTP
NRELVLIFT
NLIFT&INO
LP&SCIVSHUT
PCV302FTBAP
Функциональная
проверка регулятора
давления указывает
на неполадки
NL1FTPRESS
RELVLIFT
Предохранительный
клапан сработал
SCIVSHUT
Входной клапан
скруббера закрылся
LIFTPRES8
Давление сепаратора
поднялось до величины,
при которой срабатыва¬
ет предохранительный
клапан (1,25Н/см2)
PVNQ1SECOOL
В зоне предохрани¬
тельного клапана
наблюдаются шумы
RVLIFTINO
Горит индикатор
срабатывания
предохранительного
клапана
V01SDHP
Сепаратор закрылся
из-за повышения
давления (1,16 Н/см2)
V01CCRCHART
Индикатор давления
на сепараторе указыва¬
ет,- что достигнуто дав¬
ление (1,25 И/см2), при
котором срабатывает
предохранительный
клапан
42 Компьютер — творец
сделать это, пользователь, безусловно, должен хорошо знать кон¬
кретную экспертную систему.
После того как экспертная система собрана, ее необходимо «на¬
строить»; настройка осуществляется совместно с экспертом-
человеком до тех пор, пока он не признает ее удовлетворительной.
Конечно, вряд ли когда-нибудь можно будет счесть экспертную
систему окончательно отработанной, поскольку собственные знания
пробел relvlift
текст описания
(* предохранительный клапан на V-01 сработал")
вывод
априор.оц. 0,005
условия применения(rvlif tind » 800 с вер. 0,001
lift press = 400 с вер. 0,005
rynoisecool = 200 с вер. 0,5)
управление
цель
пробел rvliftind
текст описания
("'горит индикатор срабатывания предохранительного клапана
V-01 (на центр, панели управления, в аппаратной или на
приборном щитке сепаратора)"')
вывод
априор.оц. 0,01
управление
по запросу
Рис. 7. Образец «языка спецификаций», на котором формулируются знания
людей, предназначенные для запоминания машиной. Формулировка правил
в таком виде требует участия квалифицированного инженера по представ¬
лению знаний. (Из работы Джона Рейтера.)
эксперта по данному вопросу непрерывно совершенствуются; си¬
стема всегда должна быть готова к исправлениям и корректировке.
Процесс построения всей совокупности правил должен обеспечить
ее полноту (а следовательно, он требует массы работы). Например,
как можно видеть из приведенного примера сети, тот факт,что за¬
жегся индикатор срабатывания предохранительного клапана, еще
не обязательно означает, что клапан сработал,— это лишь свиде¬
тельствует о высокой вероятности такого события, ибо мог испор¬
титься сам индикатор.
Один из удивительных аспектов процесса построения экспертной
системы заключается в том, что, как правило, инженер по пред¬
ставлению знаний испытывает огромные трудности, пытаясь за¬
ставить эксперта сформулировать свои знания в явной форме. Эк¬
сперты часто недооценивают объем знаний, которыми они распо¬
лагают, и преувеличивают свои способности передавать эти знания
другим. Кроме того, в процессе работы с экспертами выявляются
Машина становится экспертом 43
многие любопытные факты и практические навыки, которые никогда
не встречаются в инструкциях и руководствах по эксплуатации.
Так, может случиться, что эксперт вдруг скажет: «Ну, мы не особен¬
но доверяем показаниям этих приборов», и вам придется перекроить
всю сеть, чтобы учесть и это. Обычно каждому правилу ставится в
соответствие свой определенный «коэффициент уверенности», от¬
ражающий* степень уверенности эксперта в правильности того или
иного правила. Иногда сам эксперт бывает больше других поражен
результатами представления его знаний. Оказывается, он пользо¬
вался знаниями и навыками, о которых даже не подозревал.
Объяснения по требованию
Чтобы помочь эксперту и инженеру по представлению знаний разоб¬
раться во всей той путанице, которая может возникнуть в резуль¬
тате их совместной работы, экспертная система должна обладать
одним важнейшим свойством: она, а точнее говоря, вычислитель¬
ная машина, должна быть готовой в любой момент объяснить по
запросу, что она сейчас делает. В качестве примера подобного объ¬
яснения приведем отрывок из типичного диалога с одной из лучших
на сегодня экспертных систем — системой МИЦИН. Она была раз¬
работана в Станфордском университете для целей диагностики таких
инфекционных заболеваний, как менингит [1]. Информация о па¬
циенте вводится в систему врачом (или кем-то другим из медицин¬
ского персонала) в ответ на вопросы, задаваемые компьютером.
В основном вопросы формулируются так, что на них требуется
лишь утвердительный или отрицательный ответ, но пользователь
может и уклониться от ответа, напечатав запрос: ПРАВИЛО, и
машина должна будет указать, какое правило она сейчас отраба¬
тывает. Это дает пользователю некое представление о том, что про¬
исходит в данный момент в системе. Если же пользователю нужно
более подробное объяснение, то он может спросить: ПОЧЕМУ;
ответ будет содержать всю цепочку логического вывода, которая
прослеживается в этот момент. Такая возможность «объяснения» —
одна из наиболее важных функций экспертных систем, которая,
по-видимому, связана с наиболее глубокими грядущими изменения¬
ми вычислительной техники в целом. Однако к этому вопросу мы
специально вернемся в следующей главе.
Запись фрагмента консультации, даваемой программой МИЦИН
ЭВМ. 22. Было ли недавно специально начато лечение против
инфекции, вызванной микроорганизмом-1?
Пользователь, Нет.
ЭВМ. 23 Был ли у образца Иеремия (пациент-1) ожог?
Пользователь. Правило.
44 Компьютер
ЭВМ.
Пользователь.
ЭВМ.
Пользователь.
ЭВМ.
Пользователь.
ЭВМ.
Пользователь.
ЭВМ,
■ творец
Правило 047 микроорганизм
Если: 1) культивируется на кровяном агаре,
2) конкретная природа микроорганизма не
достоверна,
3) штамм этого микроорганизма грамотрица-
телен,
4) по своей морфологии этот микроорганизм
палочка, и
5) у пациента был тяжелый ожог;
то: имеются некоторые (0,4) основания считать,
что микроорганизм принадлежит к бактериям
вида псевдомонас.
Нет.
24. Является ли инфекция пациента микроорганизмом-1
приобретенной в больнице?
Да.
25. Считаете ли вы организм образца Иеремии (па¬
циента-1) ослабленным внешними факторами (злоупот¬
реблением алкоголем, применением иммунодепрессан-
тсв и т. п.).
Нет.
26. Подвергался ли образец Иеремия (пациент-1) хи¬
рургическому вмешательству или диагностическому ма¬
нипулированию на мочеполовом тракте (катетеризации,
цистоскопии и т. п.)?
Почему?
Я пытаюсь установить конкретную природу микро¬
организма. Я уже знаю, что воротами его входа яв¬
ляется верхняя часть мочеполового тракта, что по
своей морфологии он является палочкой, что этот
штамм грамотрицателен и что он культивируется на
кровяном агаре.
Поэтому, если:
1) пациент не подвергался диагностическим ма¬
нипуляциям на мочеполовом тракте, и
2) пациент не проходил лечения по поводу
инфекции мочеполового тракта,
то:
имеются основания (0,6) считать микроорганизм
кишечной палочкой (правило 156).
Объяснения составляются из отрывков текста на естественном
языке, хранящихся в машине вместе с каждым правилом, а сами
правила, с которыми непосредственно работает машина, представ¬
лены в ее памяти на языке спецификаций. В некоторых экспертных
системах пользователь может сообщать нужную информацию в виде
простых предложений на естественном языке. Это не представляет
для системы особых трудностей, поскольку предметная область, о
которой идет речь в этих предложениях, очень узка, и поэтому каж¬
дое используемое слово не может иметь большого числа возможных-
толкований. Специалисты чаще всего пользуются профессиональ¬
ным жаргоном и стереотипными формами выражения, а при этих
условиях обычно вполне пригодны методы сравнения с эталонными
Машина становится экспертом 45
текстами и простой лингвистический разбор. Если же эти методы не
срабатывают, программа всегда может ответить: «Я вас не понимаю».
Система МИЦИН осуществляет логический вывод простым мето¬
дом обратного поиска *. Это позволяет одновременно иметь дело с
большим числом взаимосвязанных правил. Чтобы понять, как рабо¬
тает этот метод, рассмотрим следующее правило:
если А истинно и В истинно, то F тоже истинно,
где А у В, и F — некоторые суждения. Это правило можно предста¬
вить в виде A&B-+F, где знак & означает логическое «И», а стрелка
заменяет глагол «следует». Предположим, у нас имеется целый на¬
бор* правил:
1. A&B-+F, 5. F & Н X,
2. C&D-G, 6. G&E-+K,
3. 7
4. B&G-W,
Пусть нам, например, известно, что В, С, D и Е истинны, и
требуется узнать, истинно ли X. В методе обратного поиска нас
прежде всего интересует, из истинности каких суждений непо¬
средственно следует истинность X. Для этого нужно найти прави¬
ла, в которых X стоит в правой части выражений. Затем, рассмат¬
ривая левые части отобранных правил, выясняем, как можно уста¬
новить их истинность, и это продолжается до тех пор, пока мы
не придем к фактам, относительно которых нам заведомо известно,
истинны они или ложны **. Преимущество метода обратного поиска
по сравнению с методом прямого поиска состоит в том, что здесь
мы не тратим лишнего времени на вывод огромного числа ненуж¬
ных следствий, а также на выяснение вопросов, не имеющих от¬
ношения к нашей конечной цели. Если же мы хотим оперировать
вероятностными оценками, а не только строгими фактами, отно¬
сительно которых можно однозначно установить, истинны они или
ложны, то потребуется более сложный процесс вывода того же
общего типа, дополненный теперь законами статистики для вычис¬
ления совместной вероятности разных событий.
В системе МИЦИН используются еще и «метаправила», т. е.
правила относительно правил, позволяющие разрешать конфликт¬
ные ситуации, связанные с возможностью применения сразу не¬
скольких правил, или устранять неопределенность в приоритетах,
которые неизбежны при больших базах знаний. Например:
МЕТАПРАВИЛО 2
ЕСЛИ:
* Этот метод впервые был предложен советским ученым С. Ю. Масло¬
вым.— Прим. перев.
** В нашем конкретном примере X оказывается истинным.
46 Компьютер — творец
1) ОРГАНЙЗМ ПАЦИЕНТА ОСЛАБЛЕН ДОПОЛНИТЕЛЬНЫ¬
МИ ФАКТОРАМИ,
2) ИМЕЮТСЯ ПРАВИЛА, В ЛЕВОЙ ЧАСТИ КОТОРЫХ УПО¬
МИНАЮТСЯ БАКТЕРИИ РОДА ПСЕВДОМОНАС,
3) ИМЕЮТСЯ ПРАВИЛА, В ЛЕВОЙ ЧАСТИ КОТОРЫХ УПО¬
МИНАЮТСЯ БАКТЕРИИ РОДА КЛЕБСИЕЛЛ,
ТО
ИМЕЕТСЯ ДОСТАТОЧНО ОСНОВАНИЙ (0,4) ПРИМЕНЯТЬ
ПЕРВЫЕ ПРЕЖДЕ ВТОРЫХ.
Система МИЦИН ставит предполагаемый диагноз, но может и
рекомендовать курс лечения антибиотиками. Во время одного из
испытаний этой системе, а также девяти врачам с разным практи¬
ческим опытом были предложены специально выбранные подроб¬
ные истории болезни в десяти довольно непростых для диагностики
случаях. Рекомендованные этими врачами и системой курсы лече¬
ния были переданы затем для оценки группе специалистов по ме¬
нингиту, причем авторы рекомендаций не указывались. Самую вы¬
сокую оценку получила система МИЦИН [2].
Чтобы облегчить разработку экспертных систем, предназна¬
ченных для других областей знаний, из системы МИЦИН были изъя¬
ты конкретные правила, связанные со спецификой диагностиру¬
емого заболевания; осталась лишь универсальная система, полу¬
чившая название Эссеншиал (базовая) МИЦИН, или ЭМИЦИН. На
ее основе была создана совершенно самостоятельная экспертная
система для диагностики легочных заболеваний — ПАФФ, которая
ныне широко применяется в Тихоокеанском медицинском центре
в Сан-Франциско. Эта система использует показания спирометра —
специального прибора для измерения объемов вдыхаемого и выды¬
хаемого воздуха у пациента, который дышит в трубку. Кроме того,
в нее поступает анамнез пациента — сведения о том, сколько
сигарет в день он выкуривает, и т. д.; опираясь на базу знаний,
содержащую около ста правил вывода, система дает детальное
описание наблюдаемого состояния пациента и производит диагнос¬
тику его заболевания. Специалисты-медики, проверяющие все ди¬
агнозы системы ПАФФ, примерно 85% из них оставляют без из¬
менений [3]. Как видим, медицинские экспертные системы довольно
уверенно работают на уровне врача-клинициста.
Разведка подземных кладовых
Экспертные системы, работающие в совершенно другой области,
вызывают повышенный интерес со стороны горнодобывающих,
компаний и правительственных организаций, связанных с решени¬
ем энергетических проблем и использованием природных ресурсов.
Разработанная в Станфордском научно-исследовательском инсти-
Машина становится экспертом 47
туте система ПРОСПЕКТОР, используя данные геологоразведки
о породах и рудах в каком-то конкретном регионе, о наблюдаемом
уровне эрозии почвы и т. п., составляет прогноз возможностей
добычи ценного минерального сырья в данном регионе [4]. Резуль¬
таты такого прогноза можно оформить в виде цветных карт, ко¬
торые демонстрируются на экране дисплея машины (см. фото 1).
С помощью заложенных в ней 1600 правил вывода система
ПРОСПЕКТОР исследует сеть гипотез, выясняя их соответствие
полученным эмпирическим данным. Одна из гипотез в такой сети
может быть такой: «Изменения роговой обманки указывают на на¬
личие калийсодержащего участка в месторождении вкрапленной
медной руды». Проверка гипотез производится на основании ответов
на вопросы, задаваемые системой, и с учетом соответствующих
вероятностей эти ответы в конечном счете приводят к принятию
или отклонению той или иной гипотезы. Гипотезы могут также
связываться друг с другом путем так называемых контекстовых
ограничений, суть которых сводится к следующему: «Рассматри¬
вать гипотезу А вообще бессмысленно, если только вероятность
правильности гипотезы В не лежит в таких-то пределах».
Система ПРОСПЕКТОР способна, кроме того, выносить разум¬
ные суждения относительно информации, которой она располагает.
Допустим, например, что благодаря наличию отдельной «класси¬
фикационной сети» системе известно, что пириты — это вид суль¬
фидов; следовательно, если у нее есть какие-то сведения о пиритах,
то, возможно, и не стоит задавать ей лишние вопросы о сульфидах.
С другой стороны, если пользователь сообщает системе: «В регионе
обнаружены пириты», а затем: «Сульфидов в регионе не обна¬
ружено», система должна ему возразить: «Постойте! Этого не может
быть. Тут какая-то ошибка».
Одна из важнейших проблем, с которой пришлось столкнуться
при создании системы ПРОСПЕКТОР, была связана с выбором
необходимой чувствительности системы. Пользователя вряд ли
может устроить система, в которой незначительные отклонения в
достоверности исходных данных приводят к резкому изменению
окончательных выводов. В подтверждение эффективности системы,
разработанной в Станфордском институте, достаточно лишь ска¬
зать, что ПРОСПЕКТОР сумел обнаружить значительные и ранее
неизвестные залежи молибдена в районе горы Толмен (шт. Вашинг¬
тон). Изыскательские работы на местности подтвердили исключи¬
тельную точность прогноза, данного системой.
Другие системы
Назовем еще некоторые области, где экспертные системы рабо¬
тают уже сегодня.
48 Компьютер — творец
Военное дело
В Центре океанских систем ВМС США разработана эксперт¬
ная система ТЭКА (ТЕСА, Threat Evaluation Countermeasures
Agent — система оценки эффективности мер по отражению угрозы),
использующая 400 правил вывода. Она призвана помочь офицерам
в решении, скажем, таких вопросов: отвечают ли метки на экране
радара вражеским кораблям или самолетам, что собирается пред¬
принять потенциальный противник и какая из многих предусмот¬
ренных оборонительных мер имеет наибольшие шансы на успех.
Органическая химия
Первой экспертной системой, разработанной в Станфордском уни¬
верситете, была система ДЕНДРАЛ, которая предназначалась для
идентификации молекулярной структуры сложных органических
соединений. Пользователь сообщает системе химическую формулу
Рис. 8. Усечение дерева поиска. Ножницами на рисунке отмечено место, где
можно было бы вырастить целое новое поддерево поиска, но где нам удалось
сэкономить усилия, поскольку, согласно соответствующему критерию, даль¬
нейший поиск в этом направлении бесперспективен. (Из работы Марка Сте-
фика.)
вещества и данные масс-спектрографического анализа, на основа¬
нии чего она называет наиболее вероятные атомные структуры
молекул из огромного числа возможных.
Идентификация структуры молекулы — задача, в корне отлич¬
ная от проблем диагностики, которыми занимаются большинство
экспертных систем, описанных выше. Соответственно и устроена
система ДЕНДРАЛ по-другому. Она принадлежит к классу эк¬
спертных систем, работа которых основана на поиске, а ее правила
вывода направлены на то, чтобы сузить область поиска до обозри¬
мых размеров. Исключение целых участков дерева поиска тем
или иным способом называют усечением. Пример такого усечения
Машина становится экспертом 49
показан на рис. 8. Составление плана — еще одна задача, под¬
властная экспертным системам. Примером такой системы может
служить система МОЛГЕН.
Генетика
Экспертная система МОЛГЕН призвана помочь специалистам по
молекулярной генетике в планировании экспериментов по иссле¬
дованию ДНК — основного носителя наследственности. В этих
экспериментах очень длинные молекулы ДНК режут на куски, а
затем сшивают их уже по-другому; это дает возможность включать
новый материал в самые различные части молекул. В связи с этим
возникает особая задача: для каждого из возможных вариантов
проследить все биологические последствия подобных манипуляций
и запомнить, какие химические средства и какое оборудование
требуется для воспроизведения того или иного варианта. Система
МОЛГЕН разрабатывает планы подобных экспериментов, иногда
на несколько тысяч шагов, обеспечивая эффективную организацию
всех необходимых операций. Она с успехом применялась уже в
целом ряде исследований, в частности в известном исследовании
с клонированием гена крысиного инсулина. Нет сомнений в том,
что системе МОЛГЕН суждено сыграть важную роль в такой пер¬
спективной и в то же время спорной области науки, как генная
инженерия.
Диагностика отказов ЭВМ
В настоящее время компания ИБМ совместно со Станфордским
университетом разрабатывает экспертную систему для диагностики
отказов элементов вычислительных машин и сетей. Подобная ди¬
агностика часто весьма сложна и требует участия высококвали¬
фицированных специалистов, которых, как известно, не хватает.
Такой экспертной системе требуется внутренняя «модель» диагно¬
стируемой вычислительной системы, и главная задача проводимых
сейчас исследований состоит в том, чтобы разработать «язык пред¬
ставлений», позволяющий достаточно полно описывать вычисли¬
тельные системы.
Комплексирование вычислительных систем
В этой связи можно, в частности, упомянуть о том, что корпорация
«Диджитал эквипмент», основываясь на разработках Университета
Карнеги — Меллона, создала экспертную систему, которая помо¬
гает в разработке конфигурации вычислительной системы, наилуч¬
шим образом отвечающей потребностям заказчика, а после того, как
50 Компьютер — творец
эта задача решена, система осуществляет выбор сотен компонен¬
тов, обеспечивающих электрические соединения, которые и создают
выбранную конфигурацию.
Строительная механика
Некоторые экспертные системы успешно работают даже в области
машинного программирования. Например,* в строительной меха¬
нике широко используется один очень сложный набор машинных
программ — пакет алгоритмов метода конечных элементов. Одна
только инструкция по использованию этого пакета представляет
собой том толщиной примерно 10 см. Разработанная в этой связи
экспертная система САКОН помогает инженерам ориентироваться
в этом пакете и составлять план использования содержащихся в
нем программ.
Оценка политического риска
Компания «СПЛ интернэшнл» в Абингдоне разработала по за¬
казу концерна «Шелл» экспертную систему, которая помогает в
оценке целесообразности капиталовложений за рубежом с учетом
возможных изменений в политической и экономической жизни
той или иной страны. Система задает вопросы типа: «Наблюдались
ли в данной стране внутренние конфликты?», «Принадлежит ли
власть в данной стране правым или левым партиям?», «Каким про¬
центом голосов располагает правительственное большинство?» и
на основании полученных ответов формирует гипотезы и дает ре¬
комендации. Основная проблема, стоящая перед этой системой,
заключается в том, чтобы оценивать, насколько можно доверять
субъективным мнениям людей-специалистов, формулирующих от¬
веты на поставленные ею вопросы.
Налоги и конторская работа
Как побочный результат одного из своих исследований американ¬
ская корпорация РЭНД разработала экспертную систему ДЕМ-
СОК, призванную помочь рядовым американцам в решении вопроса
о том, могут ли они претендовать на пособие в рамках существую¬
щей системы социального страхования. Несколько сходных про¬
ектов, над которыми ведется работа сегодня, направлены на соз¬
дание экспертных систем, которые должны помочь предпринимате¬
лю спланировать свою деятельность так, чтобы свести к минимуму
выплату налогов. Так, Роберт Майкелсон, будучи студентом-стар-
шекурсником Университета шт. Иллинойс (и в то же время профес¬
сиональным бухгалтером), разработал экспертную систему, помога¬
ющую при составлении налоговой декларации: в качестве генератора
Машина становится экспертом 51
логического вывода с-н использовал систему ЭМИЦИН. В каж¬
дом конкретном случае система Майкелсона дает весьма дельные
советы. Следующий шаг состоял бы в том, чтобы создать отдельную
имитационную систему, которая достоверно отображала бы все тон¬
кости законодательства о налогообложении. Это позволило бы
оценивать советы, предлагаемые экспертной системой, в точности
выясняя на такой модели финансовые последствия различных аль¬
тернативных рекомендаций и принимать те из них, которые окажут¬
ся наилучшими.
Потребность в подобном электронном «здравом смысле», кото¬
рый помогал бы ориентироваться в весьма запутанном законода¬
тельстве о налогообложении, ощущается уже далеко не первый
год. Деловое предпринимательство вообще давно нуждается во
внедрении систем с элементами искусственного интеллекта. До пос¬
леднего времени вычислительные машины использовались в конто¬
рах главным образом для того, чтобы несколько повысить эффек¬
тивность подготовки и оформления документов или для планирова¬
ния рабочего дня руководства. На самом же деле экспертные
системы в учреждениях должны помочь секретаршам оказывать сво¬
им начальникам существенно большую помощь, чем просто защита
от нежелательных телефонных звонков. Представьте себе руковод¬
ство компании, безнадежно пытающееся найти выход из, казалось
бы, совершенно катастрофического положения. И вот, посоветовав¬
шись со своим электронным советчиком, секретарша милым голосом
начинает: «Если вы позволите мне высказать свою точку зрения...,
то мы могли бы выделить дочернюю компанию, которая в свою
очередь могла бы выполнять роль холдинговой компании для неко¬
торых из наших капиталовложений» и т. д.
Когда старые методы по-прежнему лучше
Конечно, остается еще немало областей человеческой деятельности,
для которых пока не разработаны экспертные системы. Более того,
во многих из них экспертные системы просто не нужны. Ричард
Дуда и Джон Гашниг приводят, в частности, такой пример [5].
Хотя математик и обладает специальным знанием, дополнительные
знания, необходимые ему для работы, гораздо шире того, что мо¬
жет дать экспертная система, основанная на представлении знаний.
В то же время там, где решение задачи достигается некоторой строго
определенной математической процедурой, в экспертных системах,
основанных на представлении знаний, вообще нет необходимости.
Дуглас Ленат из Станфордского университета рассказывает,
как в организованную им и его коллегами компанию по разработке
экспертных систем пришел профессиональный игрок из Лас-Вега-
са, которому нужна была экспертная система — помощник при игре
52 Компьютер — творец
в кости. Он перечислил порядка 50—100 правил вывода типа: «Если
вначале выпала «шестерка», бросай кости так-то». Формально это
вроде бы было как раз то, что нужно для системы, работающей с
представлением знаний. Однако, вспоминает Ленат, «в конце концов
непоколебимость наших убеждений о том, как устроена Вселенная,
заставили нас выпроводить его за дверь».
Очень важно помнить, что для решения далеко не всех задач,
требующих знаний, нужны экспертные системы или даже просто
вычислительные машины. Например, чтобы решить, что делать,
если автомобиль не заводится (проверить контакты аккумулятора,
проверить свечи и т. д.), лучше обратиться к инструкции в виде
рисунков, а не к ЭВМ. Чтобы при решении какого-либо вопроса
понадобилась экспертная система, соответствующая предметная
область должна быть достаточно широкой, а решения должны отли¬
чаться некоторой неопределенностью, которая вынуждала бы вас
работать в условиях неполных знаний.
Эта неопределенность связана с еще одним свойством экспертных
систем, которое Джон Макдермот из Университета Карнеги —
Меллона иллюстрирует на примере своей системы R1, предназначен¬
ной для выбора конфигурации вычислительной системы.
«Не совсем ясно, осознают ли сторонники системы R1, что она
неизбежно будет делать ошибки. Дело в том, что многие из этих
энтузиастов видят в данной системе скорее програхмму, чем эксперта,
а между программой и экспертом существует, разумеется, огромная
разница. Законченная программа (по определению) не может допу¬
скать ошибок, тогда как обучение эксперта заканчивается лишь
с его смертью. На протяжении двух последних лет я неустанно
повторяю, что программа манипуляции знаниями обязательно долж¬
на пройти через довольно продолжительный период ученичества и
что, даже став действительно экспертом, она, как и всякий эксперт,
будет время от времени допускать ошибки. Первая часть этого ут¬
верждения, как мне кажется, усвоена, чего, по-видимому, нельзя
сказать относительно второй. И меня беспокоит, сможет ли компа¬
ния ДЕК, поняв это, по-прежнему вполне доверять рекомендациям
программ, если знает, что они небезупречны» [6].
Тенденция путать экспертные системы с программами, которые
используют большие базы данных, содержащих полезные научные
факты, получила весьма широкое распространение. Различие между
ними состоит в том, что программа с большой базой данных может
дать ответ на поставленный вопрос только в том случае, если ответ
уже хранится в базе данных. Экспертная же система, которая сама
может обращаться к одной или нескольким базам данных, отвечает
на вопросы, рассуждая и выдвигая разумные гипотезы. И в память
ее заложены не только отдельные факты, но и более общие схемы,
правила и теории, с помощью которых она может вывести необхо¬
димый ответ.
Машина становится экспертом 53
Интеллектуальная база данных для зоопарка
Несмотря на сказанное выше, мы все же не сомневаемся, что систе¬
мы, манипулирующие знаниями, найдут применение и там, где,
строго говоря, в них нет необходимости. Патрик Уинстон из МТИ
приводит шуточный пример системы логического вывода, служащей
для распознавания животных [7]. Такая система могла бы стать
частью базы данных для зоопарка, где хранились бы сведения о
всем его хозяйстве: о кличках животных и служащих, к ним при¬
ставленных, о клетках, где содержатся животные, об их диете,
возрасте, времени приобретения, историях болезней и т. д., а также
о разных признаках (типа: «кладет яйца», или «плавает», или «пят¬
нистое») и родовой принадлежности («пингвин», «тигр»). Дополни¬
тельной функцией такой системы могла бы стать возможность де¬
лать заключения по отрывочным наблюдениям за животными.
Представьте себе, к примеру, что администратор зоопарка, поз¬
вонив из дома на работу, сообщает: «Тут у меня во дворе какой-то
зверь. Понятия не имею, что за зверь, и наш он или чужой. Соеди¬
ните меня, пожалуйста, с нашей новой системой — возможно, она
поможет мне в этом разобраться». С помощью своего домашнего
терминала он входит в систему и ведет с ней следующий разговор.
Администратор. Вызываю классификатор.
Машина. Классификатор слушает. Сообщите какие-нибудь приметы.
Администратор. Темные пятна.
Машина. Это хищник?
Администратор. Надеюсь, что нет.
Машина. Зубы острые?
Администратор. Не знаю.
Машина. Когти есть?
Администратор. А это зачем?
Машина. Попытаюсь установить, хищник ли это. Так есть когти?
Администратор. Нет.
Машина. А копыта есть?
Администратор. Да.
Машина. Ноги и шея длинные?
Администратор. Да.
Машина. Тогда это жираф. Хотите знать, из каких правил это
следует?
Администратор. Да.
Машина. Правило 7: Если животное млекопитающее и у животного
есть копыта, это копытное. Правило 11: Если животное копыт¬
ное и у животного длинная шея и у животного длинные ноги, и
у животного темные пятна, то это животное — жираф.
Сеть правил вывода для системы Пата Уинстона представлена
на рис. 9.
Альбатрос
хорошо
летает
плавает
Пингвин
Страус
черно¬
белый
не умеет
летать
Птица
перья
кладет
яйца
летает
Зебра
с длинной
шеей
Копытное
жует
жвачку
копыта
Жираф
Тигр
Гепард
с темными
полосами
с длинными
ногами
с темными
пятнами
рыжевато-
коричневый
Хищник
Млеко¬
питающее
глаза
спереди
когти
остроконечные
зубы
питается
мясом
дает
молоко
волосы
Рис. 9. Возможная сеть вывода для экспертной системы классификации животных. (Из работ Уинстона,
Дуды и Гашнига [8].)
54 Компьютер — творец
Машина становится экспертом 55
Мы пытались выявить различия между системами логического
вывода и обычными программами; схематически эти различия мож¬
но представить так, как показано на рис. 10. Использование пра¬
вил вывода в экспертных системах дает им четыре основных преиму¬
щества перед обычными программами.
1. В экспертные системы легко добавлять новые правила и из¬
менять уже существующие, тем самым расширяя и совершенствуя
систему.
Рис. 10. Отличие обычных, традиционных программ от систем, использующих
правила вывода. (Из работы Дуды и Гашнига [9].)
2. Экспертную систему легко заставить объяснить «ход ее мыс¬
лей», запросив правила, на которых основан сделанный вывод.
Это весьма полезно как для тех, кто создает систему, так и для
тех, кто станет ее пользователем.
3. Экспертную систему можно заставить осуществлять интро¬
спекцию, т. е. проверять внутреннюю согласованность правил вы¬
вода; кроме того, она может сама изменять эти правила и выраба¬
тывать новые.
4. Одна и та же база знаний может использоваться для разных
целей. Для этого нужно только изменить программное обеспечение.
Нужно признать, что пока размеры систем логического вывода,
обладающих перечисленными полезными свойствами, весьма огра¬
ниченны. И остается только гадать, как поведут себя системы, когда
число используемых в них правил возрастет до 20 или даже 100 тыс.,
и останутся ли они тогда управляемыми.
Большинство
традиционных
программ
Системы,
использующие
правила
вывода
Код.
Входные данные*
База
правил
Входные данные
Интерпретатор
правил.
или
"механизм
вывода"
56 Компьютер — творец
Орудия для работы
Самая главная проблема, сдерживающая сегодня создание новых
экспертных систем, связана с трудоемкостью процесса выявления и
кодирования новых правил вывода: на это затрачивается от двух
человеко-месяцев до нескольких человеко-лет. Прежде всего для
этой работы требуется высококвалифицированный специалист по
представлению знаний, а таковых пока недостаточно. Подготовка
новых специалистов такого рода затруднена нехваткой людей,
способных осуществлять обучение. По крайней мере в США развитие
вычислительной индустрии во многом сдерживается недостатком
в высших учебных заведениях преподавателей, которые име¬
ли бы большой практический опыт работы в данной области: эти
специалисты предпочитают работать в промышленности. И заметных
перемен в этой области пока не видно. Кроме того, для сбора дан¬
ных, необходимых для экспертной системы, приходится отрывать от
основной работы людей, которые являются «носителями» соответ¬
ствующих профессиональных знаний, а процесс сбора данных, как
правило, оказывается существенно более длительным, чем мог
предположить специалист.
Заметим, что от одной экспертной системы к другой изменяется
не только содержание правил вывода. Конечно, хорошо бы просто
изъять из системы старые правила вывода и на их место ввести пра¬
вила для новой предметной области. Но, к сожалению, различия в
целях, стоящих перед системами, приводят и к значительным отли¬
чиям в синтаксисе для правил вывода. А это значит, что специа¬
листам по экспертным системам — хотят они того или нет — при¬
ходится каждый раз переделывать и программное обеспечение
системы. Пытаясь обойти эти трудности и создать универсальную
схему наполнения будущих экспертных систем, исследовательская
группа в Станфордском университете работает над пакетом «Эйдж»
(AGE, Attempt to Generalize — попытка обобщения). Этот пакет
предлагает ряд модулей (в том числе средства для прямого и обрат¬
ного вывода и пакет представления знаний ЮНИТС), которые мож¬
но включать в новые экспертные системы. Пакет «Эйдж» обучает
пользователя формированию правил вывода, указывая, что должно
быть в правой части, что — в левой и т. п. Для создателей эксперт¬
ных систем разрабатываются и другие вспомогательные средства.
Например, в корпорации РЭНД создан язык спецификаций AL/X,
в который встроены генератор правил вывода АКЛС (ACLS,
Analog Concept Learning System — система обучения аналогичным
понятиям), генератор интерфейса РИТА и генератор моделей РОЗИ.
Однако в конечном счете самое важное состоит в том, чтобы
экспертная система могла сама автоматически накапливать правила
вывода, опираясь на сообщаемые ей данные или ключевые примеры.
Другими словами, вопрос сводится к выбору подходящего языка;
Машина становится экспертом 57
вместо того, чтобы рассказывать машине о том, что ей нужно делать,
желательно иметь возможность показывать ей, как это делается, а
что тут важно и что нет, она должна понимать сама. Изображение,
как известно, может заменить тысячи слов, наглядно поясняя ка-
кой-то ключевой пример. О том, каким образом машинная программа
может обучаться на примерах, мы расскажем в гл. 5.
Еще одна важная и весьма многообещающая функция эксперт¬
ных систем* связана с возможностью их использования для передачи
людям знаний из данной предметной области. Система ГИДОН
представляет собой версию системы МИЦИН, дополненную прави¬
лами управления диалогом машины со студентом; диалог должен
проводиться таким образом, чтобы студент мог изучить инфекцион¬
ные заболевания, для анализа которых система предназначена, и ме¬
тоды их диагностики. Если в этой системе правила вывода, взятые
из МИЦИНа, заменить на правила системы ПАФФ, то полученная
система может использоваться для обучения специалистов по легоч¬
ным заболеваниям. Предполагается, что система машинной диагно¬
стики отказов ЭВМ, разрабатываемая компанией ИБМ, будет также
использоваться для обучения инженеров, занимающихся эксплуата¬
цией ЭВМ.
Одновременно с освоением экспертными системами все новых
предметных областей в самой вычислительной технике происходят
перемены, которые обещают сделать экспертные системы не только
более мощными, но и более доступными. Уже в настоящее время
имеются экспертные системы, рассчитанные на работу с микро-ЭВМ;
это открывает возможность создания экспертных систем индивиду¬
ального пользования, которые могли бы с успехом применяться на
небольших предприятиях и в организациях. На другом конце
шкалы технических возможностей находятся научные исследования,
связанные с созданием такой архитектуры вычислительных систем,
где управление осуществляется потоком данных, а не потоком ко¬
манд, что открывает перед создателями экспертных систем совершен¬
но новые перспективы. Работа над системами с управлением потоком
данных (в частности, проводимая сейчас в Манчестерском уни¬
верситете и МТИ) представляет собой попытку обойти недостатки
машинной архитектуры фон Неймана, активизировать выполнение
команд, исключив случай, когда командам нужно ждать своей пере¬
дачи при реализации программы. В системах с новой архитекту¬
рой каждая команда активизируется, как только в памяти систе¬
мы появляются все данные, необходимые для ее выполнения.
Это существенно ускоряет работу системы, поскольку теперь многие
операции можно производить параллельно, хотя, конечно, это
потребует значительного усложнения структуры машины, чтобы
она могла следить за всеми процессами, в ней происходящими.
Для экспертных систем такая структура удобна тем, что позволяет
обрабатывать правила вывода, как только удовлетворяются соот¬
58 Компьютер — творец
ветствующие посылки, а не ждать, когда эти правила вызовет цент¬
ральный процессор. Упрощается также и процесс выявления струк¬
турных закономерностей [10].
Экспертные системы и общество
Видимо, не за горами то время, когда мы сможем покупать базы
знаний в соседнем газетном киоске так же просто, как и обычный
журнал. И благодаря тому что мы сможем вести с этими базами
диалог, они, возможно, станут для многих людей более привлека¬
тельными, чем «пассивные» книги и газеты. Другие базы знаний
будут установлены на больших универсальных машинах, и с ними
несложно будет войти в контакт каждому, у кого есть телефон и
телевизор — он же терминал. Но можно ли с уверенностью сказать,
что это хорошо? Ответить на этот вопрос однозначно далеко не
просто. Исследователи предвидят время, когда в каждой публичной
библиотеке будут терминалы, способные за несколько монет отве¬
тить на любые вопросы, связанные с вашим здоровьем. Однако в
определенном отношении такой прогноз вызывает беспокойство
у медиков. Очевидна привлекательность возможности поделиться
с развивающимися странами специальными медицинскими зна¬
ниями с помощью некоего подобия системы МИЦИН. Однако это
может привести к тому, что основная работа и ответственность
ляжет на плечи среднего медицинского персонала, а это вызовет
законное недовольство квалифицированных практикующих врачей.
Кроме того, возникает фундаментальная проблема ответственности.
В настоящее время все рекомендации медицинских экспертных
систем контролируются врачами, но рано или поздно наступит
момент, когда этот контроль будет снят. Что же в таком случае
произойдет, если система ошибется?
И другая проблема. Если врач рассчитывает на систему как
на источник знания в узкоспециальной, области, то что ему делать
в случае, когда лечение окажется неверным? Предположим, врач
не воспользовался «объяснениями» системы или просто забыл пред¬
ложенное объяснение, или, наконец, положился на правильность
выводов системы. Тогда ему остается лишь признать: «Я делал так,
как мне сказал этот ящик», а это вряд ли может служить оправ¬
данием. Как видим, у врачей есть основания относиться к идее
машинного диагноза весьма скептически. Тем не менее многие
медики придерживаются другой точки зрения и с энтузиазмом
делятся знаниями, необходимыми для разработки экспертных
систем. Королевский госпиталь в графстве Сассекс и поликлини¬
ческая больница в Брайтоне по собственной инициативе обратились
в университет графства с просьбой разработать (совместно с Тимом
де Домбалом из университета г. Лидс) систему для диагностики
желудочно-кишечных заболеваний. В настоящее время эта система
используется главным образом для обучения молодых хирургов.
Машина становится экспертом 59
Пожалуй, опасения, что экспертные системы могут оставить
без работы высококвалифицированных специалистов, имеют под
собой почву. До сих пор внедрение новой технологии создавало
в основном угрозу малоквалифицированному и низкооплачива¬
емому персоналу, т. е. тем, кто стоит у станка или работает в кон¬
торе. Пока еще не ясно, насколько нынешние перемены, связанные
с внедрением экспертных систем, затронут специалистов, но вы¬
сказываются предположения, что адвокатов, особенно тех, кто
дает юридические консультации, может с успехом заменить вычис¬
лительная машина и что экспертная система, правда очень большая,
сможет выполнять эту работу лучше. Действительно, поиск цепочек
выводов из имеющихся законов и выявление существующих в
законодательстве противоречий представляет собой задачу, иде¬
ально подходящую для экспертной системы, тогда как люди справ¬
ляются сегодня с этой задачей довольно плохо. Безусловно, исполь¬
зование более совершенных экспертных систем для юридических
консультаций выглядит весьма перспективным. Однако до сих
пор на пути создания таких систем возникает немало препятствий
как юридического, так и технического характера. Например, при¬
дется внести в законодательство новое положение, согласно кото¬
рому данные, полученные от ЭВМ, можно будет предъявлять в
суде в качестве свидетельских показаний. Еще не настал день,
когда суд станет считаться с мнением машины, а возможно, и ходом
ее рассуждений. Но если в экспертной системе будет заложена
функция объяснения, то ее по крайней мере можно будет подверг¬
нуть перекрестному допросу.
Не все экспертные системы способны выполнять работу, от
которой люди с удовольствием избавились бы. Например, сборка
компьютеров считалась в компании «Диджитал эквипмент» не
только трудной, но и чрезвычайно скучной операцией, поэтому
сопротивление внедрению системы R 1 было вызвано не личной
заинтересованностью кого-то в этой работе, а сомнениями в том,
что эта система способна ее делать. Сегодня система R 1 уже при¬
жилась в качестве помощника, причем такого, с которым интересно
работать людям, занимающимся его совершенствованием.
В общем не вызывает сомнений, что мировая потребность в
экспертах и дальше будет опережать предложения. Рональд Кларк
из исследовательской организации «Интербанк ресерч» отметил,
что, по имеющимся данным, каждый руководитель отделения банка
должен давать консультации своим клиентам по любому из 300—
400 вопросов, входящих в его компетенцию. Поэтому в ответ на
опасение, что экспертные системы приведут к деквалификации спе¬
циалистов, можно возразить, что объем знаний, который ныне
требуется от специалиста, нередко превосходит человеческие воз¬
можности. А человечество нуждается в любых источниках знаний,
которые только может получить.
3. Машинные и человеческие возможности
28 марта 1979 г. спустя всего несколько секунд после того, как
часы пробили 4 часа утра, на атомной электростанции «Тримайл
Айленд» (шт. Пенсильвания, США) в зале управления № 2 раз¬
дался сигнал тревоги. Сначала операторы не проявили особого
беспокойства, так как незначительные аварии на станции были не
столь уж редки, но уже через несколько минут стало ясно, что на
сей раз случилось что-то гораздо более серьезное. Заело крошечный
клапан пневматической системы, и это привело к прекращению
циркуляции воды в системе водяного охлаждения вторичного кон¬
тура. Спустя мгновения урановая активная зона реактора начала
разогреваться, и, несмотря на все старания операторов, положение
лишь ухудшалось. Открылся предохранительный клапан и залип
в этом положении; радиоактивная вода и пар пошли в здание реак¬
тора, а значит, и в атмосферу. Под крышей корпуса реактора об¬
разовался огромный пузырь водорода, который мог взорваться
в любую минуту. Создалась угроза, что начнет плавиться и само
урановое топливо. Любое из этих событий могло бы привести к
радиоактивному загрязнению всей территории шт. Пенсильвания.
Последующие несколько дней персонал станции вместе со спе¬
циалистами из Комиссии по ядерному регулированию боролись
за то, чтобы взять реактор под контроль, а напуганный мир с тре¬
вогой следил за этой борьбой. Губернатор штата Ричард Торнбург
отдал приказ об эвакуации из опасной зоны детей и беременных
женщин, а многие жители уезжали сами. Лишь неделю спустя ком¬
пания «Метрополитен Эдисон», которой принадлежала станция,
сообщила, что начаты работы по консервации остановленного
реактора, и жизнь в Пенсильвании постепенно стала входить в
нормальное русло. Несколько лет ушло на то, чтобы расчистить
«авгиевы конюшни», в которые превратилось здание реактора.
До сих пор не утихли споры о том, какая доза радиации попала
в атмосферу во время аварии, какую опасность представляют
200 тыс. л отработанной радиоактивной воды, сброшенных в реку
Саскьюханна, и далеко ли было до плавления ядерного топлива,
что означало бы полную катастрофу. Последствия аварии были
беспрецедентны; слова «Тримайл Айленд» или «Мы все живем в
Пенсильвании!» стали лозунгом антиядерного движения во всем
мире. Но есть один вопрос, который так и.не рассматривался, а
Машинные и человеческие возможности 61
именно: почему авария, которую, казалось бы, несложно было
устранить, едва не вылилась в трагедию. Комиссия, созданная
тогдашним президентом США Дж. Картером, в докладе о причинах
аварии писала: «Основной причиной, вследствие которой неисправ¬
ность привела к серьезной аварии, были неправильные действия
операторов». А это в свою очередь было вызвано тем, что комиссия
охарактеризовала одним словом «неразбериха» [1].
Рис. 11. Президент США Дж. Картер во время посеще¬
ния пультовой АЭС «Тримайл Айленд» 1 апреля 1979 г.,
во время кризисной ситуации.
С учетом всего случившегося это не вызывает удивления. В те¬
чение первых нескольких минут сработало 100—200 предупреди¬
тельных сигналов. Позднее начальник смены Билл Зев писал: «Я
заметил, что загорелись все, почти все сигналы аварийного преду¬
преждения на панели 15, на которой отслеживаются основные
параметры объединенной системы управления водоснабжением
реактора и режимом реактора в зависимости от состояния системы
водяного охлаждения, всеми параметрами тепловых режимов и т. д.
Казалось, что загорелись почти все контрольные сигналы».
Экспертам из Комиссии по ядерному регулированию было не
легче. Инспектор реактора Джеймс Хиггинс сообщил комитету
конгресса: «В зале управления не утихала бурная деятельность.
Множество людей занималось самыми различными вопросами, и
это (данные о том, что какое-то количество водорода взорвалось)
было лишь одной из массы проблем. А что творилось с операторами!..
Звенели зуммеры, насосы включались и выключались, вентили
отпирались и запирались, и это лишь малая часть того, что про¬
62 Компьютер — творец
исходило в течение дня. Я просто не мог уследить за всем, это было
выше моих сил» [3].
Комиссия во главе с Томасом Малоном, занимавшаяся изуче¬
нием роли человеческого фактора в этом инциденте, пришла к
следующему выводу: «... на оператора обрушилась такая лавина
информации: показания дисплеев, предупредительные сигналы,
данные распечаток и тому подобное,— что было совершенно не¬
возможно выявить неисправность и правильно выбрать меры по
устранению» [4].
Президентская комиссия согласилась с этим выводом, заключив,
что вину следует возложить на «недостаточное внимание к челове¬
ческому фактору и его роли в обеспечении безопасности атомных
станций». Урок, вынесенный из этой аварии, очевиден: пока кон¬
струкция технических систем не будет во всех деталях продумана
так, чтобы все происходящее в них было абсолютно понятно обслу¬
живающему персоналу, пока информация не будет представлена в
форме, удобной для восприятия человеческим глазом и мозгом,
а не машиной, любая неполадка в автоматизированной системе
может сделать ее полностью неуправляемой.
На металлургическом предприятии
В 1975 г. голландская сталеплавильная компания «Эстель Хуго-
венс» установила на своем заводе в Эймейдене, что расположен
на берегу моря недалеко от Амстердама, новый высокоавтоматизи¬
рованный стан горячей прокатки. Предвкушая гигантский рост
производительности труда в связи с внедрением передовой тех¬
нологии, дирекция предприятия была потрясена, обнаружив, что
в действительности выпуск продукции снизился. На помощь при¬
гласили консультантов из «Бритиш стил корпорейшн», которые в
отчете о результатах исследования указали, что главная причина
заключается в неправильной организации взаимодействия операто¬
ров с машиной. В журнале New Scientist это описывалось так: «Опе¬
раторы настолько потеряли уверенность в себе, что в ряде случаев
просто бросали пульт управления без присмотра. Кроме того, опе¬
раторы не всегда до конца понимали теорию управления, лежащую
в основе программы управляющего компьютера, и это побуждало
их по возможности «самоустраняться» от управления, пока не
обнаруживались явные неполадки. Но вследствие того, что они
вмешивались в процесс с большим опозданием, средняя произво¬
дительность оказалась ниже, чем на заводах, использующих тра¬
диционные методы управления. Таким образом, автоматизация
повлекла за собой снижение производительности и одновременно
еще больше отстранила операторов от процессов управления» [5]:
Проблема усугублялась еще и тем, что в новой конструкции
прокатного стана полоса на протяжении всего пути прокатки скрыта
Машинные и человеческие возможности 63
от глаз, что не позволяло операторам хотя бы зрительно следить
за процессом. В своем отчете консультанты, в частности, безогово¬
рочно настаивали на том, что операторов необходимо приблизить
к технологическому процессу, а информационные дисплеи должны
помогать людям понимать смысл решений, которые принимает
автоматика, а не просто сообщать о ходе процесса.
Воздушное движение
Управление воздушным сообщением вызывает равное беспокойство
как у пассажиров, так и у диспетчеров и в Америке, и в Европе.
Слишком частыми стали случаи, когда самолеты едва не сталки¬
ваются в полете, не говоря уже о сбоях в электронном оборудовании,
которые оставляют диспетчеров беспомощными на протяжении
столь драгоценных секунд, а то и минут. По данным лаборатории
координирования научных исследований Иллинойсского универси¬
тета управление воздушным сообщением с помощью ЭВМ в Аме¬
рике становится столь сложным, что операторы иногда с трудом
могут разобраться в происходящем. Что касается перспектив на
будущее, то высказываются две противоположные точки зрения на
то, какими должны быть системы управления, которые придут на
смену существующим ныне. Одни специалисты призывают ко все
большей автоматизации, полагая, что это исключит неопределенно¬
сти, связанные с присутствием человека; другие считают, что люди
и машины должны быть в своем роде партнерами в этом общем
деле. Но по какому бы пути ни пошло дальнейшее развитие систем
управления, всегда возможны ситуации, где потребуется вмешатель¬
ство человека. И если создатели системы заранее не позаботятся
о том, чтобы человек мог понять, как работает система, то его вме¬
шательство скорее всего будет весьма незначительным и произойдет
с большим опозданием.
Ложная тревога
В течение восьми месяцев 1979—1980 гг. вооруженные силы США
получили три ложных сигнала тревоги, предупреждающих о «на¬
падении» советских ракет. Все сигналы поступили из центра уп¬
равления Северо-американскими воздушными силами, запрятанного
в глубине горы Шайенн в шт. Колорадо. Первая ложная тревога
была просто результатом ошибки оператора, который по небреж¬
ности заложил в систему пленку с информацией, предназначенной
для обучения. Второй раз вышел из строя один из компонентов
системы: отказала интегральная схема. Третий сигнал оказался
преднамеренным — это была попытка воспроизвести условия вто¬
рой тревоги в целях проверки [6].
64 Компьютер — творец
К счастью, спустя несколько минут после этих ложных тревог
был дан отбой, однако вызванное ими нервное перенапряжение
не забыто. Совершенно ясно, что система, которая в буквальном
смысле слова может привести к концу света, должна быть сделана
так, чтобы полностью исключалась возможность недопонимания в
взаимосвязи человек — машина.
Вывод, который следует из этих историй, очевиден: по мере
того как технические системы все более усложняются, их стано¬
вится все труднее понимать, а следовательно, и контролировать.
Особенно это относится к вычислительным системам, которые,
даже предназначаясь для выполнения простейших вещей, должны
быть очень сложными. Мы стремимся к тому, чтобы они смогли
решать задачи практического значения, и тем самым увеличиваем
их сложность до уровня/ понимание которого лежит вне возможно¬
стей человека или даже группы людей. Такое время уже пришло.
Как мы только что показали, большие вычислительные программы
и операционные системы вырастают до масштабов, когда с ними не
в состоянии справиться ни их творцы, ни пользователи.
Если вычислительные системы будут и в дальнейшем разви¬
ваться по тому же пути, как сейчас, когда на их и без того не слиш¬
ком надежную архитектуру возлагается все больше функций, то
можно не сомневаться, что ЭВМ 90-х годов станут совершенно не¬
пригодными для пользования: неуправляемыми и пугающими —
этакими помощниками всемирного «злого духа». Человеческое
общество, которое уже сейчас сильно зависит от подобных машин,
столкнется с кризисом чудовищных масштабов. Вычислительные
машины — в том виде, как они существуют сейчас,— в некотором
смысле уже достигли предела своих возможностей. Сегодня главная
задача состоит уже не в том, чтобы довести их производительность
до максимума, извлечь все возможное из машинных ресурсов. На¬
против, их работа должна основываться на совершенно иной идее —
идее антропоцентризма. Чтобы мы могли понять работу машин,
нужно научиться организовывать ее по образу и подобию работы
человеческого мозга.
Загадочная планета
Можно и дальше развивать этот зловещий сюжет, представив себе
наше будущее таким, как его не раз описывали писатели-фантасты,
начиная с Сэмюела Батлера: мир, в котором власть захватили
машины. Эта идея обычно отвергается техническими специалистами
как абсурдная. Но так ли она абсурдна? Взять хотя бы ЭВМ, ко¬
торые уже используются в управлении жизнью наших городов.
В ее функции входят не только задачи центральной администрации,
но и коммунальные услуги, поддержание порядка в городе, обра¬
зование, банки, воздушное сообщение, регулирование уличного
Машинные и человеческие возможности 65
движения, проблемы строительных и планирующих организаций.
И наступает такой момент, когда соответствующие вычислительные
сети начинают непосредственно обращаться друг к другу — пер¬
воначально по самым простым поводам. Если, например, в одной
системе принято решение перекопать дорогу, то мусоровозам нужно
изменить маршрут движения. Если кто-нибудь заказывает билет
на самолет, то авиакомпания должна проверить, имеет ли он праЕо
пользоваться представленной кредитной карточкой.
Экстраполируем эту тенденцию до 2010 г. и представим себе,
что автоматическая система городской администрации, сети меди¬
цинских учреждений, банков и управления дорожным движением,
система массовой информации, обретя достаточно сильный встроен¬
ный интеллект, окажутся лучше приспособленными к решению
большинства заданий, чем люди. Кроме того, эти системы будут
обладать собственными автономно перемещающимися радиоуправ¬
ляемыми исполнительными механизмами и смогут непосредственно
и многообразно общаться друг с другом. Вообразим теперь ситуа¬
цию, когда контролируемые компьютером системы начнут фор¬
мулировать собственные цели, когда не найдется никого, кто хотя
бы понимал соответствующую документацию, не говоря уже о
работе самих систем. Каждый человек способен различать лишь
одну-единственную тропинку в электронных джунглях. В этом
случае мы должны быть абсолютно уверены в том, что все оценочные
функции и эвристические правила именно таковы, как нам хотелось
бы, ибо электронному городу придется вступать в различные де¬
ловые контакты с другими подобными электронными городами.
Каждый город имеет в своем распоряжении определенные ресурсы
и может заключать определенные договоры. Один город, например,
желает как-то перестроить свое водоснабжение, а от системы уп¬
равления другого города зависит стоимость этой перестройки. А в
обмен система регулирования дорожного движения в первом го¬
роде может, скажем, сделать так, чтобы толпы футбольных болель¬
щиков в воскресенье направлялись по другому маршруту... и т. д.
К 2500 или 3000 г. это может кончиться тем, что люди превратятся
в безвольные придатки автоматизированных городов, управляемых
гигантскими электронными «нервными системами», действия кото¬
рых подчиняются выработанным ими же непостижимым стратегиям
и законам. Хуже того, мы можем стать паразитирующим вымира¬
ющим видом. Чтобы ничего этого не случилось, т. е. из соображений
жесткой необходимости, а не просто вкуса, нужно придать элект¬
ронной технологии человеческое лицо и стиль поведения.
Сценарий хаоса
Обращаясь теперь к менее кошмарным, но более насущным про¬
блемам, посмотрим на глубокий застой в экономике, высокий уро¬
вень безработицы, кризисы доверия, которые в последние годы все
3 Д. Мичи, Р. Джонстон
66 Компьютер — творец
больше беспокоят западный мир. Все эти явления, действительно
имеющие место, на первый взгляд совершенно необъяснимы. Начнем
с проблемы экономического роста, а точнее — его отсутствия. На
самом деле производительный капитал промышленно развитых
стран не сокращается. Тем не менее в связи с непрерывным про¬
грессом науки и техники он постоянно трансформируется. Какова
природа этого изменения? Вложенный капитал приносит более
высокие прибыли. Рабочие на заводах* ныне могут производить за
день больше, чем тридцать лет назад. Фермер может накосить
больше сена, чем нужно для того, чтобы оправдать прокат сеноко¬
силки. Недалек день, когда появятся самоуправляемые сенокосилки.
Более того, научно-техническое развитие происходит не просто
с постоянной скоростью: каким бы способом мы ни оценивали его
темпы, очевидно, что они неуклонно возрастают. Почему в таком
случае мы не богатеем такими же темпами? Даже делая скидку на
потери, связанные с реорганизацией работы в тех или иных отрас¬
лях, человечество в целом должно бы оказаться в значительном
выигрыше. Видимо, действует некая сила, блокирующая тот рог
изобилия, из которого, казалось, должны были бы ныне сыпаться
блага на всех нас.
Похоже, все мы едины в своих сожалениях по этому поводу.
Но разные люди по-разному относятся к тому, какую именно со¬
ставляющую этого процесса следует клеймить. Одни абсолютно
уверены, что в этом повинны профсоюзы, которые состоят в тайном
заговоре с невидимой сетью подрывных элементов и террористов
всего мира, добивающихся своих политических целей. По мнению
других, виновников следует искать в конторах гигантских корпо¬
раций и банков, возможно действующих в союзе с тайной сетью
транснациональных монополий и картелей, во главе с одним-двумя
«злыми карликами» из Цюриха, преследующими свои политические
цели. Есть и третья «школа мысли», быть может, не столь подвер¬
женная страстям, как предыдущие две, но зато еще более бредовая,
которая считает, что во всем виновата сама техника. Не редки
случаи, когда разъяренный покупатель готов срывать злость на
неработающем автомате по продаже мелких товаров до тех пор,
пока окончательно не лишит его возможности работать.
Хотя, возможно, подобная антитехническая позиция не столь
и бредова. Эту идею можно по крайней мере обсудить, поскольку
приведенные ранее примеры действительно говорят о том, что
наши технические достижения чем-то похожи на неработающий
автомат.
Придется сделать небольшой экскурс в глубины истории, чтобы
выяснить, а был ли на всем ее протяжении какой-либо устойчивый
и в то же время эволюционирующий процесс? Такой процесс не¬
трудно найти — толчком ему послужило развитие земледелия.
И тысячелетие за тысячелетием наши предки, казалось, не заме-
Машинные и человеческие возможности 67
чали, что этот процесс непрерывно идет в одном направлении, пока
в XIX—XX вв. мы не достигли последней стадии ускорения. Таким
устойчивым процессом был постепенный, хотя и мучительный, со
многими сбоями и остановками, рост понимания человеком окружа¬
ющего мира, рост его способности управлять этим миром.
Но как мы этого добивались? Без сомнения, с помощью техники,
которую в последнее столетие немного «приправили» наукой. По¬
нятие «техника» мы используем здесь в самом широком смысле,
включая в него все полезные навыки и ремесла. Таким образом,
если наука и техника открывают перед нами дорогу к познанию и
управлению и если их мощь и всеобъемлющий характер развива¬
ются все быстрее, не значит ли это, что так же должна расти и власть
человека над тем, что его окружает, включая и наше собственное
благосостояние?
Если бы мир, в котором мы живем, не менялся, то все было бы
легко и просто; однако широту нашего познания и наших возмож¬
ностей управлять нужно оценивать дробью. В числитель такой
дроби следует поставить мощность наших средств познания и уп¬
равления, а в знаменатель — сложность среды, в которой они
будут применяться. Главным последствием технического прогресса
является то, что эта среда становится все более искусственной, а
следовательно,— по самой природе процесса — все более сложной.
Итак, рассмотрим отношение познание/сложность. Пока чис¬
литель растет быстрее знаменателя, мы в выигрыше. В противном
случае рано или поздно сложность окружающего мира начнет
превосходить наши возможности его понимания и покорения. Эту
переломную точку промышленно развитые страны прошли в по¬
следнее десятилетие: теперь все меньше людей заняты производст¬
вом, но все больше — попытками уследить за тем, что же происходит.
Виной всему сложность
К сожалению, эти усилия не всегда приносят ощутимую пользу.
Становится все яснее, что именно сложность управленческого
аппарата повинна в нашем экономическом застое. Производство и
торговля требуют действий, но они оказываются безрезультатными
из-за бюрократических препон и неразберихи. Если мы не пони¬
маем, как нужно обращаться с системой, то вряд ли можно ждать
от нее чего-то путного. Сложность тормозит происходящий про¬
цесс — вот поистине тот гаечный ключ, который попал в шестеренки
механизма.
И снова решение очевидно: чтобы избежать «загрязнения»
окружающего мира сложностью, нужно придать технике такой вид,
который упростил бы людям понимание ее работы. А это позволило
бы перевернуть дробь познание/сложность с ног на голову.
3*
68 Компьютер — творец
Чтобы понять, как это можно было бы сделать, обратим внимание
на одно благо, которое, как мы показали, наиболее существенно
для любой познавательной деятельности, а именно запас знаний.
Возникает вопрос: как представляются знания в машине? Тради¬
ционно — совсем не так, как у человека. Изначально это дикто¬
валось соображениями экономии, а возможно, техника еще не
доросла до такого уровня, чтобы одной из первейших задач ее
считалась доступность пониманию. Но как бы то ни было, такое
положение вещей привело к тому, что если в нормальных условиях
машина еще способна удовлетворительно выполнять свою работу,
то в случае какого-либо отказа люди, непосредственно работающие
с ней, с трудом смогут сообразить, что делать, или просто не пой¬
мут, действительно ли что-то случилось. Впечатляющий пример
этому можно привести из области машинных шахмат.
Но почему именно шахматы? Читатели, знакомые с исследова¬
ниями в области генетики и наследственности, знают важность
плодовой мушки дрозофилы (.Drosophila melanogaster). Маленькие
размеры этого насекомого, его плодовитость и жизненный цикл
(продолжительностью всего лишь И дней) позволяют ученым на¬
блюдать за последствиями сеоих экспериментов по скрещиванию
на многих поколениях. При этом не требуется ни долгих лет ожи¬
дания, ни больших помещений, ни средств на кормление подопыт¬
ных животных. Шахматы представляют собой задачу сравнительно
компактную, чтобы с ней можно было работать машине, но вместе
с тем достаточно обширную, чтобы после нее проблема составления
графика промышленного производства показалась почти тривиаль¬
ной. Шахматы — это своего рода дрозофила искусственного ин¬
теллекта.
Странный случай с таблицей Томпсона
В 1977 г. на конференции Международной федерации по обработке
информации, происходившей в Торонто, Кеннет Томпсон из научно-
исследовательской фирмы «Белл телефон лабораторис» представил
собравшимся компьютерную программу игры в эндшпиле: король
и ферзь против короля и ладьи. Разработал он эту программу пре¬
дельно топорным методом: при отсутствии полного набора правил
игры в эндшпиле он просто заранее составил программу, указы¬
вающую, что делать в каждой из возможных позиций — а их было
4 млн. Программа составлялась методом перебора от конца к на¬
чалу. С этой целью для каждой позиции выяснялось, каким бы
мог быть наилучший предшествующий ход, приведший к данному
положению на доске. Все эти ходы были затем занесены в гигант¬
скую справочную таблицу, хранящуюся в машинной памяти, при¬
чем каждый элемент таблицы означает: «Если фигуры находятся в
таких-то позициях, то ходите так-то».
Машинные и человеческие возможности 69
Из шахматной теории известно, что (за исключением неболь¬
шого числа очень специальных случаев) при правильной игре в
этом эндшпиле неизбежна победа того, кто владеет ферзем. Шах¬
матные мастера обычно уверенно выигрывают этот эндшпиль против
любого противника. Поэтому, играя за обладателя короля и ладьи,
программа Томпсона выбирала ходы так, чтобы максимально от¬
тянуть свой проигрыш. На конференции присутствовали два меж¬
дународных шахматных мастера: Ханс Берлинер, экс-чемпион
мира в игре по переписке, и чемпион Канады Лоренс Дей. Томпсон
пригласил их показать, как, имея ферзя, выигрывать у машины,
играющей с ладьей. К своему крайнему смущению, шахматисты
обнаружили, что им не удается выиграть даже после многочислен¬
ных попыток. И это несмотря на то, что любая позиция, которая
встречалась им на протяжении игры, была для них выигрышной.
Машина снова и снова делала оборонительные ходы, казав¬
шиеся шахматистам очень странными и противоречащими интуи¬
ции, и от неожиданности они в очередной раз упускали победу.
Например, хорошо известно, что в этом эндшпиле нужно всегда
придерживаться главнейшего правила: «Не уводить ладью далеко
от короля». Предполагается, что ладья нуждается в короле для
защиты от ферзя. Однако, действуя согласно супертаблице Томп¬
сона, король и ладья неоднократно расходились, находя в про¬
странстве задачи тот единственный путь — как бы тернист и из¬
вилист он ни был,— который максимально отдаляет их неизбежное
поражение.
Естественно, что и Берлинеру, и Дею сложившаяся ситуация
была крайне неприятна. Они жаждали хотя бы получить объяс¬
нение, что стоит за стратегией программы, но этого, разумеется,
ни программа, ни ее автор дать им не могли. Ответ был один: «Так
указано в таблице». Программа содержит исчерпывающие знания,
но их нельзя выразить через цели, возможности, риск, замыслы,
тактику и другие богатые концептуальные понятия, которыми
пользуются шахматисты, задавая вопросы и получая ответы на них.
Машина не в состоянии объяснить свое поведение, скажем, таким
образом: «На этой стадии белые должны постараться отогнать
противника короля на край доски». Чего ей не хватает,— так это
средств общения на концептуальном уровне, с помощью которых
машина и люди могли бы обмениваться знаниями в таком виде,
который доступен человеку, т. е. в форме понятий. Следовательно,
перед специалистами по представлению знаний стоит задача: при¬
думать и построить такой концептуальный интерфейс, чтобы люди
(которые пока еще гораздо интеллектуальнее машин) и машины
(которые «соображают» теперь гораздо быстрее) могли понимать
друг друга.
70 Компьютер — творец
Опасности супертаблиц
Можно сказать, что шахматы — это всего лишь игра. Но посмот¬
рим на это шире. Супертаблица Томпсона — не столь уж нереали¬
стический случай. В то время как поиск решений сложных задач
еле ползет вперед, электронная технология мчится галопом. По¬
следнее привело к тому, что стоимость и физические размеры памяти
ЭВМ падают неслыханными темпами. Память на триллион бит уже
существует, а в Радиационной лаборатории им. Лоуренса в Ли¬
верморе разработаны технические условия, которые предусмат¬
ривают увеличение этого показателя в тысячи раз. Оптические за¬
поминающие устройства обещают превзойти и эти масштабы. Такие
перемены неизбежно повергнут людей в искушение загрузить в
подобную память огромные массивы данных — в виде вопросов и
ответов — по самому широкому кругу знаний, необходимых для
решения разных проблем. Может показаться, что и это — большое
достижение; однако оно таит в себе страшную социальную опасность.
На первый взгляд возможность хранить, грубо говоря, триллион
вопросов с ответами может показаться не столь уж полезной, но на
самом деле большинство практически пригодных знаний можно
представить именно в таком виде:
Чему равен квадрат 31?—961;
Что делать, если заблудился? — Спросить дорогу у полицей¬
ского;
Какова температура замерзания морей? — Минус 2 °С;
Каково доказательство последней теоремы Ферма? — Неиз¬
вестно.
Сегодня с помощью вычислительной техники мы пытаемся на¬
учиться решать сложные проблемы, которые пока не могут решаться
на ЭВМ,— проблемы, которые невозможно решить «в лоб», находя
за конечное число шагов ответ на вопрос путем простых расчетов.
Однако случается, что, хотя сама задача очень трудна, обратная
задача решается гораздо легче. К примеру, вычислять квадратный
корень весьма непросто, а квадрат числа — очень легко. Не ис¬
ключено, что школьник сочтет более экономичным вычислить
квадраты всех чисел, о которых его могут спросить, и заполнить
огромную таблицу результатов (только записывая их наоборот:
сначала квадраты, упорядоченные по величине, а для них — ос¬
нования, возможно, с некоторой интерполяцией для заполнения
пропусков). Тогда, если понадобится узнать какой-нибудь квад¬
ратный корень, можно просто заглянуть в таблицу. Именно таким
методом обращения пользовался, по сути говоря, Кеннет Томпсон;
создавая свою шахматную программу. Но, как мы видели, у этого
метода есть один большой недостаток — полученный результат
абсолютно необъясним для пользователя.
Машинные и человеческие возможности 71
Сократ согласен
Возникает вопрос, а не лучше ли вообще не выдумывать подобного
рода тупых справочных систем, само наличие которых унижает
человека, ибо они пренебрегают его суждениями и пониманием.
Интересно, что впервые этот довод более 2300 лет назад привел
Платон. В его «Федре» Сократ рассказывает историю о египетском
боге Тоте, который пришел к царю богов Тамузу со словами: «Гос¬
подин мой, я изобрел остроумную вещь, называемую письменностью,
она усовершенствует как мудрость, так и память египтян».
В ответ Тамуз заявил, что, напротив, письменность — это низ¬
копробная замена памяти и понимания. «Тот, кто обретет ее, пере¬
станет тренировать свою память и станет забывчивым, он будет
полагаться на письменность, надеясь, что эти значки напомнят
ему что-то, вместо того чтобы рассчитывать на свои внутренние
резервы».
Сократ цитирует Аммона, обличающего порочную мысль, что
«можно передать или получить ясные и четкие знания о предмете
посредством письменности или что написанные слова способны
сделать больше, чем просто напомнить читателю о том, что он уже
и так знает». Другими словами, человек может решить, что муд¬
рость заключена в письменности, тогда как в действительности
мудрость должна быть в самом человеке. «Можно было бы предпо¬
ложить,— добавляет Сократ,— что написанные слова понимают
то, что в них говорится, но если их переспросить, что подразуме¬
вается под тем-то и тем-то, то они снова и снова будут давать один
и тот же ответ».
Иначе говоря, Сократ как бы сетует по поводу того, что пись¬
менность не сможет выдержать знаменитый тест Алана Тьюринга
(согласно этому тесту, машина может доказать, что она обладает
интеллектом, если ей удастся убедить беседующего с ней через
телепринтер человека в том, что его собеседник — человеческое
существо [7]). В самом деле, если бы машина могла объяснить то,
что в ней заключено, то можно было бы считать, что в некотором
смысле она «поняла», продемонстрировав таким образом свой ин¬
теллект. Как и письменность, справочные системы будущего с
памятью на триллионы бит не смогут пройти тест Тьюринга. Но,
как и письменность, такие системы, безусловно, имеют право на
существование, и помогут изменить мир. Хорошо это или плохо?
До тех пор пока мы не разберемся в сути претензий Сократа приме¬
нительно к этой новой проблеме, такие гигантские справочные
системы будут лишь отчасти благом, которое нередко оборачи¬
вается и большими неприятностями. Напомним, что такие базы
данных содержат только основные элементарные факты, касаю¬
щиеся того или иного вопроса, и не включают никакого понимания,
выводов, суждений, классификационных понятий и тому подобного*
72 Компьютер — творец
Поистине, «если их переспросить, что подразумевается под тем-то
и тем-то, то они снова и снова будут давать один и тот же ответ...»
Пока содержимое электронных супертаблиц остается в обычном
смысле чисто информационным, самое худшее, что они могут вы¬
звать,— это раздражение. Мгновенно выдаваемые безошибочные
ответы по невообразимо широкому кругу вопросов мы всегда будем
воспринимать с благодарностью. Конечно, отсутствие каких-либо
пояснений к ответам вряд ли може+ понравиться. «Почему,—
спросит, например, пользователь-химик,— такое показание масс-
спектрографа свидетельствует о том, что неизвестное вещество
является поликетоандростаном?» Ответ: «Потому что так говорится
в словаре на триллион бит». «Но он-то откуда это знает? Откуда
взялся этот ответ?» — настаивает химик. Если супертаблица строи¬
лась методом обращения, то даже строгое и подробное объяснение
способа получения этого ответа не прибавит химику знаний. Од¬
нако это может послужить для него и его коллег стимулом к со¬
зданию новой теории, объясняющей факты, заложенные в супер¬
таблице. А если так, то такие системы, возможно, откроют нам
новые возможности научно-технического прогресса.
Свихнувшийся черный ящик
С другой стороны, таблицы пар «вопрос — ответ» не обязательно
должны ограничиваться лишь фактической информацией такого
рода. Подобная схема, если она содержит пары ситуация — дей¬
ствие, прекрасно подходит и для выбора стратегии. Именно по
этому принципу построена шахматная программа Кеннета Томп¬
сона, но мы уже видели, к каким проблемам это приводит. А теперь
представьте себе, что система решает какую-либо социально важную
задачу, например берет на себя управление сложным процессом
автоматизации завода, транспорта или средств обороны. Допустим
далее, что двум операторам поручено вмешиваться в работу системы
в случае какого-либо сбоя. Они видят, что система начинает вести
себя так же, как шахматная программа — в нашем примере вдруг
решившая увести ладью от короля,— однако на сей раз речь идет
о, казалось бы, противоестественном способе управления техниче¬
ским или военным объектом. «Что это, неисправность системы?» —
вопрошают операторы и обращаются к системе за разъяснениями,
но она «снова и снова» дает один и тот же ответ.
Если система, с которой мы имеем дело, связана с управлением
воздушным движением, противовоздушной обороной или атомной
энергетикой, то проблема приобретает глобальную значимость.
Когда речь идет о человеке, принимающем решения, скажем о
полицейском, регулирующем движение на перекрестке, то это не
так страшно, если он, например, пьян или сумасшедший. Однако
в США при управлении воздушным сообщением предусматривается
Машинные и человеческие возможности 73
использование сверхмощных баз данных и основанных на них
расчетах, осуществляемых в гигантских «черных ящиках». Что
должен делать человек-наблюдатель в том — предположительно
редком — случае, когда внутренние рейсы восточного направления
таинственным образом переадресуются на Даллас, а самые безо¬
бидные самолеты по неведомым причинам заставляют идти на по¬
садку? Это, естественно, вызывает сомнения в здравом разуме
системы. По мере широкого распространения таких систем управ¬
ления проводимые ими вычисления все более напоминают загадоч¬
ные превращения. Но самое страшное может случиться, если си¬
стема оповещения противовоздушной обороны вдруг сообщит:
«В нашу сторону направляются 20 ракет противника», и прежде
чем нажать роковую кнопку, дежурный офицер должен иметь воз¬
можность сделать системе запрос: «Что заставило тебя прийти к
этому выводу?»
Лишь тогда можно считать, что в конструкции системы заложена
доля ее ответственности перед обществом, когда предусмотрено,
что ее решения могут не только подвергаться самому тщательному
анализу, но и отвергаться. Только так можно избежать тирании
машин.
Есть, конечно, метод решения сложных проблем, полностью
отличный от использования супертаблиц. Это полный перебор по
ветвям дерева будущих вариантов, подобный тому, что использу¬
ется в шахматах, когда мы обдумываем возможные результаты
различных ходов и выбираем наилучший. Таблицы — их можно
назвать справочными системами — требуют огромных объемов для
хранения данных и совсем немного времени — для их обработки.
И наоборот, чтобы обеспечить возможность завершить в разумное
время процесс поиска альтернативных решений, требуются огром¬
ные возможности по обработке данных и совсем незначительный
объем памяти. Эти два крайних случая показаны на рис. 12.
А может ли система поиска что-нибудь сообщить, если в ответ
на полученное ею решение вы спросите: «Почему это так?» Безус¬
ловно! Она в состоянии подробно повторить все свои вычисления в
их естественной последовательности. Она способна даже извлечь
на свет божий все анализируемое дерево альтернатив. Казалось
бы, можно ли желать более полного ответа?
Однако ни один смертный не способен переварить такое коли¬
чество информации: ведь дерево может содержать миллионы, а то
и сотни миллионов узлов! Вспомним катастрофу на «Тримайл
Айленде»: из-за работы системы операторы делали не меньше, а
больше ошибок, поскольку на них обрушилась буквально лавина
информации — сигналы тревоги, показания приборов и распечатки
компьютеров. Если справочная система слишком поверхностна,
так как дает очень мало информации, то система поиска «копает»
слишком глубоко и потому предоставляет слишком много данных.
74 Компьютер — теорец
Рис. 12. Весь спектр зависимости возможностей обработки от объема памяти.
Большая
мощность
Глубоко
►Поверхностно
Рис. 13. Два фактора, определяющие возможность реализации интеллекту¬
альных навыков в ЭВМ.
Это совершенно не связано с мощностью системы, т. е. с числом
операций, которые она вообще способна выполнять. Это отличие
проиллюстрировано рис. 13.
Человеческие рамки
Как видно из схемы, приведенной на рис. 12, системы глубокого
поиска находятся на том крае шкалы, где основной упор делается
на обработку данных, а поверхностные, справочные системы —
на противоположном крае, где главное — это объем памяти. Между
Малая
мощность
"'Глубоко"
Упор на
обработку
Большой
объем обработки
Малый
объем памяти
Поиск
путей развития
или алгоритмы
"'Поверхностно"
Малый
объем обработки
Упор на
память
Большой
объем памяти
Табличный
поиск
"Человеческие
рамки"
Машинные и человеческие возможности 75
ними располагается узкий участок, где и способность обрабатывать
данные и объем памяти соответствуют человеческим возможностям.
Мы называем этот интервал «человеческими рамками». Именно в
этих рамках и должны работать компьютеры, чтобы человек, ко¬
торому они должны служить, мог их понять. И необходимая сила
разума, и способы хранения информации — все это должно быть
сравнимо с человеческими возможностями, в противном случае
нам не понять друг друга.
Точка зрения, которую можно назвать «техноморфической»,
заключается в следующем. Машина решает шахматные задачи, со¬
ставляет прогноз погоды, управляет производством, составляет
расписания принципиально не так, как люди, и это правильно.
Сравнительные затраты и ограничения, связанные с различными
аспектами процесса решения задач у машин и человеческого мозга,
в корне отличаются. Стратегии, оптимизирующие деятельность
двух столь непохожих объектов, обречены на несовпадение. Каким
бы ни был способ, который машина считает наиболее эффективным,
для решения данной задачи мы используем именно его. Если Кар¬
пов не обладает достаточной скоростью вычисления и рабочей
памятью, чтобы мысленно построить дерево поиска вариантов на
миллион шахматных позиций, и если наши ведущие метеорологи
не столь гениальны, чтобы в уме решать дифференциальные урав¬
нения в частных производных,— почему программист должен
стараться копировать их недостатки?
С точки зрения оптимального использования машины сторонник
техноморфизма, рассуждающий таким образом, прав. Но учитывая
ограниченные возможности мозга в отношении объема памяти и
скорости обработки данных, эффективные машинные программы
не могут использоваться в качестве модели людей. В чем этот тех-
номорфист не прав, так это в своем предположении, что эффектив¬
ность машины — единственный критерий их ценности.
Футурологи, в частности И. Дж. Гуд и Эд Фредкин (руководи¬
тель прославленного проекта МАК, разработанного МТИ), любят
помечтать о создании «сверхинтеллектуальных машин», которые
сумеют «перепрограммировать себя в течение нескольких часов,
постоянно совершенствоваться и быстро стать в сотни раз умнее
человека». Некоторые люди обеспокоены этим. Но в действитель¬
ности социальная опасность, которая проявится прежде всего,
связана не со сверхинтеллектуальной машиной, а со сверхсообра-
зительной. Опасной является система, которая из экономических
соображений ориентирована на выполнение работы с непостижимой
для нас (машинной) эффективностью. Нетрудно доказать, что такие
рассчитанные на машины критерии эффективности абсолютно не
совместимы с возможностью свободного обмена понятиями между
человеком и машиной. Видимо, следует пожертвовать производи¬
тельностью во имя взаимопонимания. Приемлема ли эта жертва
76 Компьютер — творец
с экономической точки зрения? Разумеется. Машины становятся
все дешевле, а человеческий труд не дешевеет. «Прививка» машине
искусственного интеллекта, возможно, перебросит столь нужный
мостик к ее очеловечиванию. Но если при конструировании основ¬
ным критерием останется оптимальность, определенная с позиций
машины, а не человека, то мы в конечном итоге окажемся в техно¬
логической «черной дыре».
Синтаксической сладости недостаточно
Как же нужно конструировать машины, чтобы уложиться в эти
«человеческие рамки?» Ответить на этот вопрос не так просто, как
могло бы показаться. Интерактивной диагностики и регистрирую¬
щих программ, даже подслащенных самым совершенным синтак¬
сисом, не всегда достаточно. Такие вещи напоминают ортопедиче¬
скую обувь, предназначенную для того, чтобы исправить ковыля¬
ющую походку пациента: возможно, она в чем-то и поможет, но
если проблема заключается во врожденной аномалии тазобедренного
сустава, то больной помимо обуви нуждается еще и в операции.
Иначе говоря, простое введение удобного для пользователя
периферийного устройства в ситуации, когда предмет, интересу¬
ющий его, крайне сложен, напоминает идею снабдить мощными
телескопами жителей Дувра, желающих полюбоваться Эйфелевой
башней. Людям, никогда не слышавшим о том, что Земля круглая,
эта мысль могла бы показаться прекрасной.
Чтобы любые существа — человеческие или машинные — могли
общаться друг с другом, у них должен быть одинаковый склад ума.
Так как изменить склад ума людей нам не дано, придется менять
его у машин. Нужно целиком переделать все, что делают программы
при решении задачи, а не только способ, которым они взаимодей¬
ствуют с пользователем. Способ, каким в программе хранится ин¬
формация, т. е. способ представления решения задачи, должен быть
понятен человеку и описываться понятиями, уже знакомыми ему.
С этой точки зрения представления в виде супертаблицы К. Томп¬
сона или дифференциальных уравнений (в задачах прогноза погоды)
совершенно непригодны. В то же время экспертные системы, ос¬
нованные на правилах вывода, специально предназначены для
того, чтобы иметь дело с человеческими понятиями, как при полу¬
чении их у специалистов в данной области, так и при объяснениях
пользователю. Для начала это неплохо, но нужно еще много сде¬
лать, чтобы наладить общение человека и машины на языке понятий.
Мягкая автоматизация
Если аналогичные идеи используются для решения задач автома¬
тизации производственных процессов или в других системах уп¬
равления, то такую автоматизацию мы назовем «мягкой». Потреб¬
Машинные и человеческие возможности 77
ность в ней непрерывно возрастает, что позволяет хотя бы отчасти
нейтрализовать излишнюю переусложненность, связанную с жест¬
кой автоматизацией. Самая насущная социальная потребность
заключается сейчас не в расширении процесса автоматизации,
а в его гуманизации. Безусловно, для несложных или средней
сложности задач «непрозрачность» систем управления не столь
опасна, и поэтому мы долгое время мирились с ней. Допустим,
что программа, занимающаяся распределением ресурсов, делает
это лучше, чем руководитель проекта. В таком случае зачем ему
любопытствовать, как она это делает, или оспаривать ее решения,
если он получает то, что хочет? Пусть это будет «черный ящик»
в той степени, в какой установлено программой.
Однако существуют и другие приложения информационных
систем, где возможность «заглянуть внутрь ящика» весьма сущест¬
венна. Пока их немного, так как процессам обработки информации
еще предстоит глубоко внедриться во все более сложные и ответст¬
венные области человеческой деятельности. Сложность и ответст¬
венность — это две независимые характеристики систем, побужда¬
ющие нас настаивать на том, чтобы программа работала в «челове¬
ческих рамках». Некоторые проблемы столь трудны, что без
интеллектуального партнерства человек — машина при их решении
просто не обойтись. Другие касаются вопросов жизни и смерти
или самой возможности управления экономикой.
Нам известно о машинной программе, ставящей диагноз при
симптомах «острого живота», в которой объяснительные функции
отсутствуют полностью и которой врачи-специалисты пользуются
лишь по указанию свыше. Хотя заложенные в этой системе знания
могут помочь спасти человеку жизнь, врачи не доверяют ей, ибо
для них она остается «черным ящиком». А настоящие экспертные
системы, например МИЦИН, в состоянии ответить на вопрос:
«Каким образом вы пришли к данному выводу?»
При мягкой автоматизации система уже на стадии конструи¬
рования подгоняется под человеческий склад ума. Если, заглянув
в будущее, представить себе полчища роботов, совместно рабо¬
тающих на наших заводах, неизбежно возникает вопрос: «Как
будет осуществляться связь между ними? По проводам, с помощью
инфракрасного излучения или радиосигналов, либо по каким-то
другим недоступным для человека каналам?» Конечно, лучше бы
осуществлять эту связь с помощью синтезированного голоса, ибо
это позволило бы человеку-дежурному слышать, что происходит, и,
как показали работы в Эдинбурге, это вполне возможно.
Япония выходит на авансцену
Трудно сказать, насколько широко восприняты эти идеи в Европе
и Северной Америке, но о Японии это можно сказать с уверен¬
ностью. Японское правительство обнародовало перспективные
78 Компьютер — творец
планы осуществления чрезвычайно интересной программы: разра¬
ботать и построить к 90-м годам совершенно новый тип компью¬
теров — так называемые машины пятого поколения [8]. Эти маши¬
ны, если верить прогнозам, будут способны понимать естественный
язык и речь, интерпретировать изображение, создавать и исполь¬
зовать большие базы знаний и решать задачи методом дедукции
и индукции. Но как предполагается этого добиться? Здесь еще
много нерешенных вопросов. Однако из того, что японцы говорят,
ясно, что центральная задача — это создание средств общения на
понятийном уровне. Хотя японские специалисты имеют еще мало
опыта в области интеллектуальных систем управления базами
знаний, они решительно настроены на существенный прогресс в
этом направлении. Поговаривают даже о том, что основная часть
системного программирования для новых машин должна осуществ¬
ляться на «языке логического программирования», как принято
в работах по искусственному интеллекту. Это в корне отличается
от традиционных языков программирования (см. гл. 8).
Эдвард Фейгенбаум указывает на еще один интересный факт:
японцев совсем не смущает сама идея создания интеллектуальных
машин. В Японии практически не высказывается мучительных сом¬
нений о социальных последствиях новой технологии. По мнению
Фейгенбаума, это обусловлено национальными особенностями:
важной составной частью синтоизма является поклонение вещам,
которым приписывается способность чувствовать.
Как бы то ни было, Японский центр развития методов обработки
информации (JIPDEC) в целях частичной демонстрации программы
развития машин пятого поколения подготовил широко известную
ныне схему, которая воспроизведена на рис. 14. Хотя эта диаграмма
выглядит довольно запутанной, она тем не менее ясно показывает,
какая важная роль отводится в этих планах концептуальному интер¬
фейсу. Безусловно, планы Японии грандиозны и простираются
очень далеко, так что нам, быть может, следует обратить на них
внимание и подумать, что нужно предпринять в ответ.
Возможно, наступит такой день, когда во всем мире, прежде
чем доверить машинам какие-то ответственные задания, у них
потребуют документ, удостоверяющий гуманоидный склад ума.
Ведь требуют у водителей документы, подтверждающие пригод¬
ность к эксплуатации принадлежащих им транспортных средств.
В последние годы общество стало интересоваться не только тем,
надежно ли функционируют все системы автомобиля, но и такими
вещами, как производимый им при движении шум или количество
выбрасываемых в атмосферу ядовитых выхлопных газов. Хочется
надеяться, что в будущем любая вычислительная система, от ра¬
боты которой зависит судьба многих людей, не получит «паспорта»,
если используемые ею стратегии будут скрыты от людей завесой
непостижимых сложностей.
Рис. 14. Концептуальная схема систем ЭВМ пятого поколения (согласно данным JIPDEG).
Машинные
аппаратные средства
Машины
символьной
обработки
Машины
для
числовых
расчетов
Машины
управления
базами
данных
Машина для
решения
задач
и логичес¬
кого
вывода
Машина
управления
базами
знаний
Средства
общения с машинами
4-го поколения
Синтез
и опти¬
мизация
программ
I
Знание
(машинные
модели 1
представ¬
ления ^
^ знанияУ
Моделирующие
Программные системы
Интеллектуальные
программирующие системы
Понимание
задач
и
формирование
реакций ^
Знание
(о задачах)
Система управления
базами знаний
Анализ,
понима¬
ние, син¬
тез (речи,
изобра¬
жений)
Знания^
(о языках
и
изобра¬
жениях)
Гуманитарные
Прикладные системы
4. Мысли о мышлении
Об использовании компьютеров для моделирования процессов мыш¬
ления сказано больше глупостей, чем в свое время наговорил епи¬
скоп Вильберфорс. В I860 г. этот достопочтенный прелат публично
полемизировал в Оксфорде с Томасом Генри Хаксли по поводу
только что опубликованной теории Чарлза Дарвина. Об уровне
дискуссии можно судить хотя бы по тому, что он спросил Хаксли,
по какой линии — материнской или отцовской — тот ведет свое
происхождение от обезьян. Даже сегодня в некоторых штатах США
дети распевают в школах:
Мартышка-обезьяна — мне не родня,
Не родственник и я, поверьте, ей.
Хотя я и не знаю, откуда ее предки,
Мой предок не спускался с деревьев и ветвей.
К сожалению, в определенной доле глупостей повинны неко¬
торые из ученых, занимающихся искусственным интеллектом.
К примеру, даже в иных учебниках, как уже упоминалось, встреча¬
ется определение искусственного интеллекта, в котором он отожде¬
ствляется со способностью машины решать задачи, решение которых
потребовало бы интеллекта от человека. Это определение вы¬
глядит нелепо даже с позиций сегодняшнего дня, когда неразумные
машины способны решать задачи, которые требуют от людей пре¬
дельных интеллектуальных усилий. В программе «Белль» К. Томп¬
сона не заложено практически никаких знаний о шахматах и не
предусмотрены какие-либо возможности размышления; но по¬
скольку в ее память заложено дерево решений на несколько мил¬
лионов возможных будущих позиций, построенное в результате
анализа каждого хода, она способна обыграть 499 из каждых 500
игроков в мире. Наши симпатии, безусловно, будут на стороне
шахматистов, когда они воскликнут:
Машинная программа — мне не родня,
Не родственник и я, поверьте, ей.
Хотя я и не знаю, как думает она,
Я в голове не строю деревьев и ветвей.
Мысли о мышлении 81
Заблуждение Ван Дузена
Не вызывает сомнений, что машины, которые мы создаем, должны
думать так же, как люди. Но как думают люди? Это сложный во¬
прос, но на него можно пролить хоть какой-то свет, обратившись
к некоторым исследованиям в области зрения и речи или изучая,
как действуют люди с необыкновенными способностями к запо¬
минанию или вычислениям, либо разобравшись в том, каким
образом все мы воспринимаем окружающий нас мир. Большой ин¬
терес в этой связи представляют люди, обладающие исключитель¬
ными способностями к арифметическим расчетам в уме. Некоторые
из них зарабатывают себе на жизнь, выступая на эстраде (или в
наши дни — на телевидении), другие относятся к этому просто
как к развлечению. В эпоху ЭВМ реальная польза от подобных
людей-счетчиков ничтожна, однако сопоставление с компьютером
здесь вполне уместно, ибо обычно считают, что мозг таких чудо-
вычислителей, по крайней мере та его часть, которая ответственна
за счет, не меньше чем у ЭВМ «Крей-1», способной выполнять 80 млн.
команд в секунду. В этом и состоит заблуждение профессора Ав¬
густа С. Ф. К. Ван Дузена — героя произведений Жака Футрелля,
американского писателя начала века, подвизавшегося в детектив¬
ном жанре.
Мы знакомимся с ним в тот момент, когда он, весьма пренебре¬
жительно отзываясь о шахматах, заявляет, что для того, чтобы
научиться хорошо играть в них, достаточно в совершенстве владеть
законами логики, и что он, например, мог бы «после нескольких
часов грамотного обучения победить человека, посвятившего шах¬
матам всю жизнь». Было решено, что состоится игра между про¬
фессором и чемпионом мира русским гроссмейстером Чайковским.
Проведя утро с американским мастером, который обучает его пра¬
вилам игры, профессор садится играть. После пятого хода Чайков¬
ский перестает улыбаться, а после четырнадцатого, когда Ван
Дузен объявляет: «Мат на пятнадцатом ходу», чемпион мира воск¬
лицает: «Мон Дье!» — и добавляет: «Вы не человек, вы — просто
живой мозг, вы — машина . . . мыслящая машина» [1].
Чтобы поставить мат за пятнадцать ходов, не зная о шахматах
ничего, кроме правил игры, ЭВМ «Крей-1» потребуется 1030 лет
непрерывной работы, так что чемпиону Чайковскому трудно не
посочувствовать. Если бы он был лучше знаком с физикой, то понял
бы, что достижение великого детектива следует отнести к числу не
просто сверхчеловеческих, но и сверхестественных. Конечная
величина скорости света и размеры атомов вещества исключают
возможность для любого механизма — даже «мыслящей машины» —
путем только простого просчета вариантов возможных ответов на
много ходов вперед совершить «подвиг», свидетелем которому он
стал.
82 Компьютер — творец
Слабый человеческий мозг
На самом деле чудо-вычислит<ели не столь уж хорошо умеют счи¬
тать. Искусство их заключается в том, что они способны быстро
составить в уме схему подсчетов, которая резко упрощает ариф¬
метические действия. Их стратегия коренным образом отличается
от стратегии компьютеров, чему вряд ли стоит удивляться, если
учесть, что их «вычислительное устройство» скорее похоже на желе,
чем на кремний. Обратим внимание на некоторые параметры ра¬
боты мозга, рассматривая его как устройство для обработки ин¬
формации. Его возможности вычисления и запоминания, как видно
из приведенной здесь таблицы, удручающе скромны по современ¬
ным электронным стандартам.
Таблица 2. Некоторые параметры, характеризующие информационные
возможности человеческого мозга [2] *
1. Скорость передачи информации по каналам ввода-вывода
2. Максимальное количество информации, накапливаемое
в явном виде к 50 годам
3. Число мысленных сравнений за 1 с в процессе интеллекту¬
альной деятельности
4. Число адресов, которое можно одновременно хранить
в краткосрочной памяти
5. Время доступа к адресуемому фрагменту информации
в краткосрочной памяти
6. Скорость передачи данных из долгосрочной памяти в крат¬
косрочную для последовательности двоичных символов
фрагмента
* Можно считать, что приведенные оценки отличаются от истинных не более чем на
50%. Бит —это единица количества информации. Так, 30 двузначных решений (по принципу
либо «да», либо «нет») обычно достаточно, чтобы за 1 с различить фотографический портрет
среди 10* других возможных вариантов. В этом процессе человек сканирует гораздо боль¬
ше черно-белых точек.
30 бит/с
1010 бит
18
7
2 с
3 элемента/с
Следовательно, все, что в работе мозга вызывает у нас восхи¬
щение — будь то способности чудо-вычислителей, шахматных ма¬
стеров или других гигантов мысли,— основано на совершенно иных,
не похожих на электронные, принципах, которые компенсируют
человеку и небольшой объем рабочей памяти, и его неповоротливый
«процессор».
Особенное внимание стоит, в частности, обратить на верхний
предел количества информации, которую мозг способен собрать
и удерживать на протяжении целой жизни. Можно было бы воз¬
разить, что, храня в памяти очень немного экономно закодирован¬
ных фактов и принципов, мы имеем возможность получать гораздо
больше осмысленных данных за счет быстрого индуктивного вы¬
вода из исходных предпосылок, хранящихся в компактной памяти.
Мысли о мышлении 83
Но так как быстродействие мозга составляет около 20 бинарных
операций в секунду, подобная возможность полностью исключается.
Скорость, с которой мы можем сами создать новую информацию,
мобилизовав все свои способности к вычислению, имеет тот же по¬
рядок величины, что и скорость, с которой мы вводим информацию
непосредственно извне. Отсюда следует, что наше восприятие ок¬
ружающих объектов и событий должно в значительной степени
дополняться той информацией, которая хранится в нашей памяти
и которая была получена нами ранее. Одного скудного потока
данных, поступающих от наших органов чувств, недостаточно для
интерпретации наших ощущений.
Квадраты в нашей памяти
Люди хранят зрительную информацию совершенно в иной форме,
чем она запечатлевается на сетчатке глаза. Зафиксированное на
сетчатке изображение существенно перерабатывается и кодируется.
Это было установлено школой Жана Пиаже в результате очень
интересных исследований того, как рисуют дети. Систематически
наблюдая за развитием определенных способностей у детей [3],
Джин Хейс показала девочке трех с половиной лет квадрат и по¬
просила нарисовать такой же. На рис. 15 воспроизведено то, что
Рис. 15. Копии квадрата, сделанные девочкой в возрасте трех с половиной лет.
нарисовала девочка. Сначала она изобразила фигуру, показанную
слева, что совсем неудивительно. Но потом нарисовала фигуру,
похожую на жука (справа), что по представлениям любого взрос¬
лого не имеет ни малейшего сходства с квадратом. Когда же ее
попросили объяснить свой рисунок, она указала на три присутст¬
вующих там элемента: «жесткие штучки», «штучки, идущие вверх-
вниз» и «боковушки». После того как она показала на первоначаль¬
ном квадрате, что имеет в виду, выяснилось, что «жесткие штучки» —
(Собственный комментарий девочки)
"А эти штучки
идут вверх-вниз*
(вертикали)
"Это —жесткие
штучки" (уголки)
"А это — боковушки*
(горизонтали)
84 Компьютер — творец
это углы, «штучки, идущие вверх-вниз»,—это вертикальные стороны,
а «боковушки» — это горизонтальные стороны.
Почему же девочка нарисовала квадрат именно так? Ведь она
уже продемонстрировала, что может сделать «нормальную» взрос¬
лую копию. Объяснение, которое дается этому школой Пиаже,—
и оно подтверждено работами Хейс — весьма любопытно. Предпо¬
ложим на минутку, что, храня квадраты в своей памяти, мы запо¬
минаем там не двумерный образ, а его структурное описание. Се¬
мантическая сеть квадрата может иметь следующую структуру
(рис. 16). Сходство этой схемы со вторым рисунком девочки, хоть
и весьма отдаленное, трудно объяснить. Создается впечатление,
Рис. 16. Семантическая сеть квадрата.
что девочка, не отдавая себе в этом отчета, по какой-то причине
опустила в данном случае последнюю стадию процесса реконст¬
рукции воспоминания и графическим путем изобразила описатель¬
ную схему, в виде которой квадрат содержится в ее памяти. Данное
и другие психологические исследования приводят к заключению,
что мозг хранит информацию в виде шаблонов — и это очень на¬
поминает ту форму, в которой хранятся знания в экспертных си¬
стемах.
Блоки речевой части мозга
Разумеется, в мозге есть специальные «блоки», ответственные за
выполнение различных его функций. И о каком бы виде деятель¬
ности мозга ни шла речь, создается впечатление, что они специально
Квадоат
Замыкакие
Уголки
[("жесткие штучки')]
Вертикали
("вверх-вниз")
Горизонтали
(* боковушки"),
Мысли о мышлении 85
приспособлены к выполнению именно этих задач; даже самые эле¬
ментарные функции извлечения и хранения информации устроены
именно по такому принципу. Несколько лет назад исследователи
были озадачены тем, как клинические повреждения мозга сказы¬
ваются на способности человека говорить. Способность к речи те¬
ряется в результате поражения мозга в любом месте довольно
обширного участка коры левого полушария. Отсюда можно было бы
заключить, что эта функция реализуется достаточно распределен¬
ным образом. Однако более тщательный анализ опроверг эти пред¬
ставления. Дело в том, что в процессе речи выполняется множество
различных вспомогательных функций: от управления словарным
запасом и конструирования предложений до артикулятивных
движений языка, губ и неба, управления голосовыми связками и
гортанью, управления дыханием и т. д. Теперь установлено, что
повреждение различных областей мозга ведет к разным нару¬
шениям речевой функции. Таким образом, общий принцип кон¬
струирования «специализированных модулей» был реабилити¬
рован.
Один из видов потери речи, так называемая афазия Брока,
обусловлен поражением очень узкого участка мозга. Такой боль¬
ной говорит в телеграфном стиле, обходясь без всяких граммати¬
ческих указателей типа: вверх, вниз, с, к, в, это, когда, будет
и т. п., а также без грамматических флексий, позволяющих, напри¬
мер, различать такие слова, как кусать, кусает, укус или покусан¬
ный. Поскольку люди, страдающие афазией Брока, обычно пони¬
мают речь других, вначале предполагалось, что это нарушение
речи не затрагивает процесс восприятия. Однако в настоящее
время от этих взглядов пришлось отказаться. У больных этого
типа блок «грамматических функций» работает одинаково плохо
(а может быть, и просто не работает), когда они слушают и когда
говорят сами. Но, улавливая общий смысл на основе своих знаний
существительных, глаголов и тому подобного, они умудряются
благополучно выдержать тесты на понимание.
Нормальный мозг использует различные механизмы поиска в
зависимости от того, со словом какого типа он встречается: суб¬
стантивным или словом-указателем. Это еще один пример реализа¬
ции принципа «специальным функциям — специализированные мо¬
дули». У названных больных, по-видимому, работает только один
поисковый механизм, и они не обращают внимание на слова второго
типа сверх того, что нужно, чтобы просто признать их существо¬
вание и принадлежность языку.
Еще одним проявлением принципа «специальным функциям —
специализированные модули» может служить цветное зрение.
В то время как цветовой спектр с физической точки зрения пред¬
ставляет собой не более чем непрерывный диапазон волн различной
длины, в целях классификации и компактности описания его удобно
86 Компьютер — творец
разбить на сегменты; именно это и происходит в биологических
системах. Мы даем цветам названия: красный, желтый, зеленый,
синий и т. д. С точки зрения инженера, конструирующего робот
с цветным зрением, такое разбиение совершенно произвольно,
особенно если принять во внимание, что в различных культурах
различаются и границы между цветами и что в некоторых языках
существует множество названий цветов, а в других — практически
вообще никаких. Учитывая это, инженер мог бы сконструировать
систему, использующую цветовые фильтры, которые разбивают
спектр так, чтобы обеспечить оптимизацию каких-то показателей
экономичности конструкции или удобства работы с ней. С запоз¬
данием он мог бы услышать о том, что нейрофизиологи открыли
в сетчатке глаза человека три типа цветовых рецепторов, каждый
из которых настроен на свой участок спектра, соответствующий,
грубо говоря, красному, зеленому и фиолетово-синему. Пренебрегая
же существованием таких «специализированных модулей», инженер
только создаст себе дополнительные проблемы, когда захочет обес¬
печить обмен цветовой информацией между пользователем и ро¬
ботом.
Люди-мнемонисты
Если самое большое заблуждение Ван Дузена связано с переоцен¬
кой счетных возможностей нашего мозга, то сторонние наблюда¬
тели склонны наделять мозг экспертов столь же немыслимой па¬
мятью. Мы знаем, что чудо-вычислители вовсе не считают быстрее
нас с вами, а шахматные мастера не анализируют большее число
ходов на дереве возможностей, точно так же профессионалы-мне-
монисты поражают аудиторию своей памятью не потому, что в
действительности их память лучше или хуже, чем у обычных лю¬
дей. Просто зрители убеждают себя в том, что артист действительно
способен хранить в своей памяти, а потом вспомнить каждый факт
по отдельности, словно у него под черепом огромное хранилище
на триллионы бит информации со свободным доступом.
Гарри Лорейн в своей книге «Как развить сверхмощную па¬
мять», утверждает, что эти способности может развить в себе каж¬
дый, кто потрудится освоить определенные мнемонические правила
[4]. Все сводится к формированию системы ассоциативных пар,
связывающих понятия, и использованию придуманной последова¬
тельности событий, образующих какую-то связную историю. Этот
принцип применяли ораторы Древней Греции при заучивании
речей. Учебники по риторике рекомендовали зачитывать речь,,
расхаживая по знакомой территории, например по своему дому
или двору. При этом речь нужно было произносить, двигаясь каж¬
дый раз по одному и тому же маршруту, пока не возникала ас¬
Мысли о мышлении 87
социация между каждой фразой речи и хорошо знакомым оратору
местом. И когда, наконец, оратор произносил речь на людях, ему
нужно было всего лишь представить себя прогуливающимся по
привычному пути. По мере того как перед его мысленным взором
возникали знакомые картины, из памяти извлекались соответст¬
вующие фрагменты текста.
Нелепые, причудливые, непристойные, изощренные и вообще
далекие друг от друга образы создают самые надежные ассоциации.
Предположим, что ваш собственный мнемонический ряд для первых
десяти чисел выглядит следующим образом: ноль — это боль,
один — сам себе господин, два — голова, три — нос утри, че¬
тыре — в квартире, пять — печать, шесть — это честь, семь —
это темь, восемь — каши попросим, девятка — загадка. Пред¬
ставьте, что кто-то довольно медленно произносит число 803 735 204
381 692, которое вам нужно запомнить, и которое придется когда-то
воспроизвести. Мнемонист подходит к этой задаче, лихорадочно
набрасывая в уме сценарий, в котором фигурируют слова-ассо¬
циации для произносимых в данный момент цифр. Например:
«Ел кашу до боли в носу, а нос во тьме как печать светится, и го¬
лова болит, места себе в квартире не нахожу. А нос все болит, гос¬
поди. Честное слово, загадка какая-то, из головы не идет».
Тот факт, что эта импровизированная история звучит нелепо,
очень по-детски и вообще дурного вкуса, окажется ее сильной
стороной, если спустя несколько недель ваш коллега внезапно
спросит вас: «Так каким было это пятнадцатизначное число?»
«Случайно, не 803 735 204 381 692?» — отвечаете вы невинно,
в то время как перед вашим мысленным взором проходит вся ис¬
тория...
Эд Симан, главный инженер компании «Ньюэл ресерч корпо-
рейшн» в Сарагосе (шт. Калифорния), нередко предлагает своим
гостям попросить его тут же возвести в куб любое число от 1 до
100. «Хорошо,— соглашается один из них,— пусть это будет 73».
Симан хмурит брови, молча шевелит губами и через некоторое
время изрекает: «389 017».
«Ну что ж,— говорит с сомнением гость.— Полагаю, это вполне
может быть кубом 73...— Достают калькулятор и получают
389 017.—Ну, а куб 37?»
Хозяин снова морщит лоб и отвечает: «50 653. Я давно не тре¬
нировался, поэтому дело идет так медленно, и кое-что подзабыл,—
поясняет Эд.— А знаете, в чем секрет? Это действительно совсем
просто. Я узнал это еще в школе из одной книги фокусов. В ней
рассказывалось о том, как можно запомнить все, что угодно, ис¬
пользуя правильную мнемотехнику. В качестве примера приводи¬
лась таблица кубов. У меня ужасная память. В самом деле, просто
отвратительная. Но если закодировать буквами цифры 1, 2 и т. д.,
например вот так:
88 Компьютер — творец
1
-Т, Д
6 —
ч,
ж
2
— Н
7 —
К,
г,
3
— М
8 —
В,
ф
4
— Р
9 —
п,
Б
5
— Л
0 —
С,
3,
то остается лишь придумать слова, вставляя между соответствую¬
щими согласными любые подходящие гласные. А потом забудьте
о гласных, они не имеют никакого значения. Например, 37 можно
записать в виде МАК — именно так предлагалось в той таблице
из книжки. У нас получается ЛЕЗ ЖАЛОМ, так что куб 37—
50 653».
Тут гость замечает: «Но все равно нужно запомнить целую сотню
словосочетаний, только вместо чисел вы запоминаете эту чушь».—
«Да, но чушь-то как раз и запоминается. В самом деле... сейчас
покажу вам всю таблицу целиком».— и Эд достает два пожелтевших
тетрадочных листка, аккуратно исписанных карандашом. Вот
отрывок из того, что там написано:
21
НОТА
ПОЙ НЕ ЧИТАЯ
9 261
22
няня
ТАИСЬ ЧЕРВЕЙ
10 648
23
НЕМЕЦ
ДО ниточки
12 167
24
НОРА
А ДОМА ФОНАРЬ
13 824
25
НОЛЬ
ТОЛЧЕНЫЙ ЛИ
15 625
26
НОЧЬ
ДОКОЛЬ ХОЧЕШЬ
17 576
27
НОГА
ТОПОЧИ В ШУМЕ
19 683
28
НИВА
НЕ ТОПОЛИНАЯ
21 952
29
АНАПА
НЕ РИМ ВООБЩЕ
24 389.
Числа типа 30 или 40 (точнее, их кубы) запоминаются напрямую,
поскольку это проще, чем искать им фонетический эквивалент.
Упомянув о нескольких профессиональных мнемонических
приемах, мы лишь поверхностно коснулись глубоко разработан¬
ной области исследований феноменов памяти. Но сам принцип
сомнения не вызывает. Своими достижениями мнемонисты — как
и гроссмейстер способностью помнить шахматные партии, сыгран¬
ные им самим или другими,— обязаны отнюдь не создателю, награ¬
дившему их особым даром. Гроссмейстеры обладают необыкновен¬
ной способностью запомнить позицию на шахматной доске, едва
бросив на нее взгляд. Как показали наблюдения, когда гроссмей¬
стер не находит осмысленных ассоциаций, которые, как правило,
в изобилии дает ему шахматная позиция, этот дар его покидает.
Именно это обезоружило Берлинера и Дея в их безуспешной борьбе
с таблицей Томпсона (см. гл. 3). Причудливый стиль игры их про-
тивника-машины не имел никаких признаков упрощения, которое
формирует игру человека.
Исследования Бинета и де Гроота свидетельствуют, что искус¬
Мысли о мышлении 89
ство шахматных мастеров заключается в их способностях к кон¬
цептуализации, сочетающихся с обширными запасами знаний о
сыгранных ранее партиях и ранее встречавшихся позициях [5].
Они вовсе не считают вперед дальше, чем обычные игроки: по дан¬
ным де Гроота, шесть-семь полуходов являются обычно пределом,
а общее число рассматриваемых позиций дерева альтернатив не
превышает тридцати. Как говорит легенда, великий Ричард Рети,
когда его спросили, на сколько ходов вперед он считал, участвуя
в турнире, нашел точную формулу для выражения истинной при¬
роды искусства великих мастеров, ответив: «На один, но тот, кото¬
рый нужен!»
Гроссмейстер арифметики
Аналогично обстоит дело и с чудо-вычислителями, производящими
в уме арифметические действия с большими числами. Самым зна¬
менитым из них был Александр Айткен, профессор математики
Эдинбургского университета, умерший в 1967 г. Его сверхъестест¬
венный дар изучал психолог Ян Хантер, который приводит, в
частности, рассказ Айткена о том, как он решил задачку, предло¬
женную его детьми: умножить 987 654 321 на 123 456 789.
«Меня вдруг озарило, что 987 654 321, умноженное на 81, рав¬
няется 80000000001, так что я умножил 123 456 789 на это число,
что несложно, а ответ разделил на 81. Получилось 121 932 631 112
635 269. Все эти операции едва ли заняли больше полминуты» [6].
Но как его могло «озарить» подобным образом? Хантер объяс¬
няет это тем, что Айткен знал числовую систему гораздо лучше,
чем большинство людей. Если показать обычному человеку число
22, он, конечно, сообразит, что это дважды одиннадцать, а Айткен,
встретив число 1961, мгновенно соображал, что это 37, умноженное
на 53, или квадрат 44 плюс квадрат 5, или квадрат 40 плюс квадрат
19. Эта способность мгновенно схватывать какие-то существенные
свойства чисел, так напоминающая способность гроссмейстера с
первого взгляда запоминать всю шахматную позицию, лежит в
основе «первой стадии», как назвал ее Хантер, действий Айткена.
Способ решения задачи, использовавшийся Айткеном, распадался
на две стадии. На первой стадии он копался в своем огромном внут¬
реннем хранилище фактов и полезных приемов, касающихся чис¬
ловой системы, составляя «план вычислений». На второй стадии
он осуществлял этот план, последовательно проводя необходимые
подсчеты. И это он делал не быстрее, чем любой другой на его месте,
что явствовало из того, с какой скоростью он произносил цифры
ответа. Таким образом, талант вычислителей заключается совсем
не в способности к счету, а скорее в знаниях. Как видим, в основе
всего лежит синтез программы, а не сама получившаяся программа.
90 Компьютер — творец
Поверить в невероятное
Белая королева наставляла Алису каждый день перед завтраком
поверить в шесть невозможных вещей. Кажется, что это трудно,
но на самом деле нет. Надо просто постараться выбрать то, во что
уже поверило много других людей, например в то, что стиральный
порошок X стирает белее, чем добела. Трудно поверить не в невоз¬
можное, а в непривычное. В этом смысл‘анекдота о пожилой даме,
увидевшей первый раз жирафа в зоопарке.
Воскликнув «Не может быть!», она в действительности не имела
в виду, что стоящее перед ней животное не существует. Проблема
заключалась в том, чтобы увязать то, что открылось взору, с ее
знаниями о мире, в котором она жила. Ведь даже поступление
новой информации в память обусловливается тем, что там уже
содержится. Случается, что кому-нибудь приводят абсолютно не
вызывающий сомнения факт, а он не может не только его принять,
но и запомнить, поскольку это противоречит чему-то, что данный
человек всегда считал истинным. По этому поводу говорят: «Тот,
кто не хочет увидеть, хуже слепого!», но это не совсем правильно.
Если в сознании человека не сформировалась ранее какая-то сово¬
купность внутренних непротиворечивых представлений — своего
рода «крючок», на который можно «повесить» новый факт, то шансы
на восприятие этого факта невелики. Даже «видя» что-то, такой
человек при* совершенно нормальном зрении не разглядит того,
что перед ним, если в его опыте нет достаточно богатого набора
зрительных ассоциаций и связанного с ним знания.
Отчасти все проблемы, касающиеся восприятия и формирования
представлений, можно объяснить теми же трудностями, которые
возникают при любой попытке инвентаризации, если заранее не
подумать, по какому принципу организовать запись. С другой
стороны, проблемы, возможно, объясняются и тем, что эволюция
человечества как биологического вида проходила в условиях мед¬
ленных изменений внешней среды, что никак не способствовало
особому развитию способности воспринимать нечто, в корне отлич¬
ное от всего, что встречалось ранее. И когда внутренняя модель
не соответствует действительности, страдают не только представ¬
ления и память. Сама способность к пониманию, на основе которой
должны строиться память и представления, может исчезнуть, ка¬
кими бы простыми ни казались факты, которые требуется уяснить.
Ложь во имя простоты
Но если эти факты совсем не просты, то дело принимает совсем
другой оборот. Чтобы разобраться в сложной окружающей об¬
становке, найти в ней какой-то смысл, мозг должен построить ее
упрощенную картину. И это не просто однб из проявлений свое¬
Мысли о мышлении 91
нравия человеческой натуры — упрощение совершенно необхо¬
димо всем смертным, чтобы иметь дело с чем-то сложным. Любые
упрощенные правила, которые мы придумываем, неизбежно иска¬
жают действительность, причем в зависимости от обстоятельств
искажения могут быть как довольно незначительными, так и
основанными на заведомой лжи. «Защищаясь королем и ладьей
против короля и ферзя,— заявляет шахматист,— всегда держи
короля и ладью рядом»,— и он не ошибается. Хотя следовать этому
указанию не всегда обязательно, вреда от него нет. Вместе с тем
утверждение «Имея короля и коня против короля и ладьи, держи
короля и коня рядом», хотя и широко распространено, иногда
оказывается совершенно неверным.
Упрощения, вносимые мозгом, никогда не делаются так активно,
как в стрессовых ситуациях или под влиянием эмоций. Несколько
лет назад в Оксфордском университете при заполненной до отказа
аудитории проходил семинар. Слушатели, оцепенев от изумления,
наблюдали, как профессор цитологии Джон Бейкер обрушился
на докладчика, доктора Дж. Б. Райна. Последний был основателем
и директором Института парапсихологии в Дьюкском университете
(шт. Северная Каролина, США). Через несколько лет после описан¬
ного семинара репутация этого института окажется подорванной
из-за вынужденного ухода с поста заместителя директора, пойман¬
ного на вопиющем научном подлоге. Но уже тогда Бейкер, страст¬
ный поборник научной строгости, почувствовал, что дело тут не¬
чисто.
Элегантно одетый, лощеный Райн вкрадчиво парировал каждый
выпад, щедро рассыпая остроумные замечания. Но Джон Бейкер
трубным голосом возобновил свои обвинения: «И когда Галилей
бросал свои шары с Пизанской башни...» Этого было достаточно —
зал взорвался хохотом. Аудиторию слишком долго держали в
напряжении. Ни один человек — и меньше всех обычно такой
педантичный Бейкер — не заметил, что он ошибался в любом случае.
Галилей не бросал ни свои, ни чужие шары: он катал пушечные
ядра по наклонной плоскости. Бейкер на мгновение упростил
ситуацию, перепутав опыты Галилея с демонстрацией силы тяжести,
проведенной ранее нидерландским физиком Стевином.
Когда упрощение лежит в самой основе явления и безо всякого
обмана может быть вытащено на свет божий — тут-то и проявляется
талант экспериментатора. Таким театральным эффектом стал опыт,
который Фуко провел в 1851 г. с маятником, подвешенным к по¬
толку Парижского пантеона. Сейчас демонстрацию этого опыта
можно видеть во многих научных музеях мира. Медный шарик,
качающийся в одной плоскости, со временем вычерчивает на полу,
посыпанном песком, окружность. По мере того как наша планета
вращается вокруг своей оси, незаметно поворачивается по отно¬
шению к Земле и плоскость качания маятника, и в течение суток
92 Компьютер — творец
или чуть больше (в зависимости от географической широты места)
она делает полный оборот на 360°. «Ага!» — говорим мы сначала.
«Ну, конечно»,— заявляем потом и наконец восклицаем: «Изуми¬
тельно!». Такова привлекательная сила простоты.
Иллюзии процесса познания
Однако в своем стремлении к заманчивой простоте наш мозг готов
лгать нам самым беззастенчивым образом. Чаще всего нас обманы¬
вают оптические иллюзии, огромное число случаев такого само¬
обмана описано Ричардом Грегори [7]. Но эти иллюзии тем не
менее — лишь частный случай более широкого класса «иллюзий
познания». Подобное происходит каждый раз, когда мы неосознанно
искажаем картину, чтобы понять ее. Столкнувшись со сложнейшим
материалом, относящимся, например, к истории науки, мы стара¬
емся непременно разложить факты по полочкам стереотипов, рас¬
плачиваясь за это точностью. Лучшей иллюстрацией тому могут
служить некоторые моменты истории, связанной с именем Галилея.
Все мы знаем, что Галилей был честным мыслителем и сторон¬
ником рационализма, мужественно противостоящим слепому уп¬
рямству церкви и темным силам инквизиции. Такой сценарий
исторических событий служит своего рода квинтэссенцией происхо¬
дившего, очень удобной для запоминания информации нашим пере¬
груженным мозгом. В конце концов, Еедь это исторический факт,
что новая астрономия натолкнулась на сопротивление теологов.
Но чем запоминать такую сухую абстракцию, не лучше ли сделать
из нее хороший рассказ?
В своей книге «Лунатики» Артур Кестлер прорабатывает доку¬
менты, касающиеся этой истории, и она приобретает совсем иную
окраску. Он, в частности, приводит отрывок одного из ближайших
к папе теологов тех дней. В своем письме, датированном 1615 г.,
кардинал Беллармин, который в 1616 г. подготовил церковный
манифест, направленный против Галилея, пишет: «... заявлять,
что предположение о том, что Земля движется, а Солнце стоит на
месте, согласуется с небесными явлениями лучше, чем эксцентрики
и эпициклы (системы Птолемея), означает быть в ладу со здравым
смыслом и по крайней мере ничем не рисковать. Для математика
такой образ мыслей был бы достаточным» [8].
И дальше: «... если бы нашлись действительные доказательства
того,... что не Солнце вращается вокруг Земли, а Земля — вокруг
Солнца, то нам пришлось бы с большей осторожностью толковать
те отрывки из Священного писания, в которых, казалось бы, го-,
ворится противоположное, и нам лучше следовало бы признаться
в том, что мы не вполне понимаем их, чем объявлять ложным то,
что доказало свою истинность. Но я не думаю, что есть такие до¬
Мысли о мышлении 93
казательства, ибо ни одно из них мне не было предъявлено». И ва¬
тиканские астрономы были правы: у Галилея не было доказательств.
Вначале он тянул время, делая вид, что в любом случае
противникам не понять его доказательства. Кульминацией всей кам¬
пании стала публикация в 1632 г. его книги «Диалог о двух глав¬
нейших системах мира: Птолемеевой и Коперниковой», которая в
конечном счете ускорила суд над ним. В этой работе Галилей при¬
водит в качестве доказательства абсолютно неверную теорию при¬
ливов, заодно издеваясь над теорией Кеплера, который считал, что
приливы вызваны движением Луны. Трудно удержаться от того,
чтобы не поменять местами традиционно навешиваемые обеим сто¬
ронам ярлыки «разума» и «слепого упрямства». И тем не менее
восторжествовало ложное представление, поскольку у истины
так часто бывают некрасивые стороны. Почему бы немного и не
пройтись шкуркой, сгладив острые углы?
Относительно научного содержания этой истории с Галилеем
у нас нет особых сомнений. Но обратившись к более поздней и
гораздо более сложной научной проблеме, а именно к теории от¬
носительности, мы видим, что искажение возможно и здесь. Прак¬
тически все, кто пытался писать о теории относительности, допу¬
скали ошибки, причем касающиеся не только истории вопроса,
но и по существу. Принято считать, что в 1887 г. Майкельсон и
Морли, пытаясь обнаружить «эфир», получили отрицательный
результат, и это побудило Эйнштейна начать разрабатывать специ¬
альную теорию относительности. Майкл Полани отмечает, что в
действительности Майкельсон и Морли не получили отрицатель¬
ного результата, но в любом случае Эйнштейн даже не слышал
о них, когда впервые формулировал свои идеи [9]. Несмотря на
это, легенда продолжает жить.
Принято считать, что Авраам Линкольн был настойчивым бор¬
цом против рабства, и в Акте об освобождении, подписанном им
в 1863 г., провозгласил освобождение рабов. На самом деле он не
был таким борцом и никого не освобождал [10]. А если говорить
о сегодняшнем дне, то многие считают, что последние достижения
вычислительной техники и появление банков данных открывают
широкие возможности для вмешательства в личную жизнь человека,
от чего существующее законодательство оградить его не может, и,
следовательно, нужны совершенно новые законы — «защиты ин¬
формации». Ни одно из приведенных в последней фразе утверж¬
дений нельзя признать верным. Но все же этот вопрос настолько
сложен, что на пути его разумного решения возникают преграды
особого рода.
94 Компьютер — творец
Машины должны уметь и лгать
Легко, конечно, насмехаться над стремлением простых смертных
избавиться от сложности, но нужно понять, что многие упрощения
неизбежны в нашей мыслительной деятельности, и теория познания
должна это учитывать. Когда машинам придется иметь дело с очень
сложными вещами, они вынуждены будут лгать — по той же при¬
чине, что и люди, а именно: чтобы сделать стоящие перед ними
проблемы более доступными и объяснимыми. Это неизбежно, но
вместе с тем таит в себе определенную опасность, ибо такая ложь
не столь безобидна. Потребуются соответствующие механизмы,
чтобы удерживать подобные неточности в разумных рамках и конт¬
ролировать их возможные последствия. По-видимому, понадо¬
бится разработать соответствующую математическую теорию.
Представьте себе, что мы имеем целую сеть интеллектуальных
машин, которые общаются между собой. Вообразите, к примеру,
группу роботов на автоматизированном предприятии, каждый из
которых в определенной мере специализирован: один наносит
краску, другой сваривает металл, третий ставит заклепки и т. д.
У каждой базы данных, принадлежащей отдельному роботу, су¬
ществует некая часть, которая из соображений экономии сделана
общей для всех. В нее могут входить, например, сведения относи¬
тельно общих характеристик линии, на которой они все работают.
Совсем не обязательно, чтобы все роботы располагали одинаковыми
сведениями или чтобы эти сведения были равнозначны. Очевидно,
если робот работает на самом конце линии (так сказать, «наверху»),
то будет проще, если он, как древние люди, верившие, что на другой
стороне планеты ничего нет, тоже будет считать, что иного мира,
помимо его участка, не существует. Это своего рода «легенда»,
и совершенно не обязательно, чтобы база данных робота содержала
информацию о том, что это не более чем легенда. Робот, осуществ¬
ляющий общее руководство, мог бы оставить робота-подчиненного
в неведении относительно этого и тем самым не занимать его память
лишними сведениями. Наши попытки представить себе системы
управления в виде кооперированно-взаимодействующих разумных
устройств — хотя бы и на таком земном примере, как сборочная
линия,— наталкиваются на одну проблему, о которой мы давно
знали, но не придавали ей особого значения. Дело в том, что если
мы хотим воздействовать на неживую материю так, чтобы добиться
заранее намеченного результата, то следует обратиться к физике,
которая подскажет нам, как это сделать. Предположим, однако,
что и объект, на который мы хотим повлиять, сам по себе является
системой обработки информации — человеческим существом. В этом
случае можно пытаться воздействовать на поступки системы так,
как это делает военачальник, т. е. отдавая приказы. Можно посту¬
пить иначе — высказывать некие утверждения, зная — при на¬
Мысли о мышлении 95
личии достаточно хорошей модели интересующей нас системы,—
что они будут иметь тот же эффект, что и приказы, а в некоторых
случаях подействуют даже быстрее и при меньших затратах.
Рассмотрим в качестве примера, как решается проблема дорож¬
ных знаков на Британских островах. Типичный знак кругового
движения показан рис. 17. Каждый человек немедленно истолко¬
вывает его так: на перекрестке двигайтесь по часовой стрелке.
Рис. 17. Схема на дорожном знаке, указывающая направ¬
ление поворота при движении по кругу. Строго говоря,
изображенный на схеме дефект дороги —ложный, но он
предостерегает водителя, заставляя быть более вниматель¬
ным. (Фото Дж. Уилки.)
В действительности же он говорит совсем о другом. Фотография
дает нам понять, что у дороги есть дефект,— разрыв с правой
стороны, но это неправда. Строго говоря, это скорее шутка-ложь,
поскольку никто не намеревался обмануть автомобилиста. Те, кто
придумал такой знак, достаточно хорошо разбирались в психо¬
логии водителя, чтобы понять: во-первых, если он поверит знаку,
то поедет влево, и, во-вторых, если не поверит и примет это за
обман, то тем не менее будет достаточно осторожен, догадавшись,
что намерения состояли в том, чтобы дать ему указание.
С подобными явлениями мы сталкиваемся, когда родители
говорят своим детям доходящую до абсурда неправду, а политиканы
лгут своим избирателям, предполагая, что это самый легкий способ
заставить их сделать, или, наоборот, не сделать что-либо. Так,
вместо «не ешь этого» мать говорит «от этого ты заболеешь», пре¬
красно понимая, что ребенок не заболеет. Как и водитель в преды¬
96 Компьютер — творец
дущем примере, ребенок сам это знает. Но для экономии времени,
чтобы избежать ненужных споров или чтобы не пускаться в долгие
объяснения реальных причин, применяется такой укороченный
вариант — на языке указаний.
Легенды для латания прорех
В общественной жизни функцию лжи выполняют разного рода
легенды. Где бы ни попадались сложные системы, информация
относительно них всегда будет неполной. Это хорошо известно
программистам, и они обычно предусматривают в системах воз¬
можность задавать «по умолчанию» значения тем переменным, знать
которые необходимо, но которые не конкретизированы пользова¬
телем. Та же картина наблюдается и в обществе: религия пред¬
лагает свой способ затыкания «духовных дыр», но ее возможности
объяснять происходящее и предсказывать будущее тоже весьма
«дырявы». Процесс познания всегда сталкивается с дилеммой. Мы
все признаем, что и объяснение, и прогноз должны иметь рацио¬
нальное обоснование, и тем не менее (возможно, побуждают нас к
этому законы эволюции) ни один вопрос не можем оставить без
внимания. Если нам не хватает рациональных обоснований, чтобы
объяснить или предвидеть какое-либо явление, мы при необходи¬
мости дополняем их иррациональными. Например, в древнем зем¬
ледельческом обществе человека интересовало: когда пойдет дождь?
И он начинал чувствовать себя спокойнее, если пробелы в знаниях
ему удавалось заполнить надуманными объяснениями: дождь
пойдет, когда бог будет в хорошем расположении духа. Теперь
по крайней мере можно было что-то предпринять (скажем, испол¬
нить ритуальные танцы дождя). Это казалось весьма важным.
Очень многое зависит от обычаев, сложившихся в данном об¬
ществе, например от того, характерна ли для него активность,
целеустремленность. В качестве примера здесь можно привести,
с одной стороны, США, где каждый ориентирован на карьеру,
нацелен на успех, жаждет объяснения всему и вся. Противоположные
тенденции наблюдаются в обществах типа племени тикопи —
маленького народа, живущего в идиллических условиях на остро¬
вах в Тихом океане [12]. Когда антропологи начали его изучение,
не обнаружилось никаких признаков того, что это маленькое со¬
общество, состоящее приблизительно из 2 тыс. человек, менялось
на протяжении веков. Их интересы в основном сводились к пере¬
судам, любви, танцам, приготовлению пищи, которым они занима¬
лись часами, и только изредка эти люди отваживались на неболь¬
шие географические «изыскания». Они вели очень здоровый образ.
жизни, и, по нашим понятиям, были счастливы. Они более, чем
можно было бы вообразить, приближались к представлению Руссо
о «благородных дикарях».
Мысли о мышлении 97
Когда членов этого идиллического сообщества спрашивали,
почему происходит то или иное событие, имея в виду вещи, которые,
по нашему мнению (людей, стремящихся исключить из жизни
любые случайности), обязательно требуют объяснения, аборигены
давали совершенно фантастические ответы. В несколько утриро¬
ванной форме разговор протекал примерно так:
— Почему солнце каждый день опускается в море?
— Это — большая красная птица, и она хочет вернуться в свое
гнездо.
— Ах, так! Но если это большая красная птица, ищущая свое
гнездо, почему она не остается там, а на следующее утро выходит
из моря с другой стороны?
Продемонстрировав таким образом совершенно порочный склад
ума, задающий вопросы в отместку получал что-то вроде: «Птица
летает, куда хочет, и знает, что хочет» или же (более утонченно):
«Может быть, в таком случае солнце это и не большая и не красная
птица». Это, пожалуй, вполне разумное отношение, если хочешь
чувствовать себя счастливым.
Роботам легенды понадобятся для тех же целей, связанных с
процессом обработки информации, для которых они нужны и людям.
Здесь легендой мы называем любое представление, истинность
которого внутри данной группы взаимодействующих информаци¬
онных систем не подвергается сомнению и которое всех устраивает.
В ряде случаев вполне разумно принять за истину целую совокуп¬
ность неверных гипотез, если это позволяет выиграть в скорости
и стоимости вычислений. Создатель подобных легенд обращается
к пользователю с просьбой уточнить, что должна сделать машина
и как глубоко (с точки зрения сложности вычислений) ей следует
вникать в то, что она делает. А образовавшиеся пробелы для ро¬
ботов, как и для людей, приходится затыкать значениями «по умол¬
чанию».
Естественно, то обстоятельство, что машинам придется иметь
дело с легендами и обманом, выдвинет свои проблемы как перед
инженерами, так и перед обществом в целом. Но вместе с тем может
случиться, что продолженная в машинах мощь человеческой мысли
и памяти уменьшит нашу собственную зависимость от стереотипов
во имя лучшего понимания. Получив возможность общаться со
все более сложными информационными системами, мы можем на¬
учиться противостоять заманчивому стремлению к упрощению и
сглаживанию «неудобных углов». Меньше иллюзий в процессе
познания, большее внимание к деталям — и, может быть, в конце
концов мы сумеем сохранить в нашем сознании предметы окружа¬
ющего мира во всей их первозданной многогранности.
4 Д. Мичи, Р. Джонстон
5. Опыт и открытие
Одним из необычных звуковых эффектов нашего полупроводни¬
кового века стали стенания представителей старшего поколения
по поводу гибели арифметики. Сегодняшние школьники даже не
подозревают о существовании неких ритуалов, почти священнодей¬
ствий, с помощью которых и нас, и наших отцов, и отцов наших
отцов учили извлекать квадратный корень. Все это заменило теперь
простое прикосновение к соответствующей клавише карманного
калькулятора. И подобно тому как некоторые предельно осторож¬
ные люди считают, что уже разглядывание фривольных открыток
неизбежно развращает восприятие, иные защитники арифметики
все громче высказывают опасения, что возможность мгновенно
складывать с помощью калькулятора может привести к вырожде¬
нию интеллекта.
Однако, может быть, старшее поколение упускает из виду нечто
весьма существенное. Ведь и в привычном им мире — в цеху или
на заседании Верховного суда, в кабинете начальника или машин¬
ном зале вычислительного центра либо, наконец, на ферме — ос¬
вобождение от мелочей всегда расширяло творческие возможности
человека. Какой знаменитый архитектор захочет тратить время
на то, чтобы разобраться, как отливают бетонное стропило, если
он и так может отличить хорошо отлитое изделие от негодного.
Самое разумное, что можно сделать, пытаясь автоматизировать
решение какой-либо сложной технической или интеллектуальной
задачи,— это перепоручить физическому миру проделать за вас
расчеты.
Здесь вполне уместно привести пример из практики Лабора¬
тории им. Ч. С. Дрейпера (шт. Массачусетс, США) — ведущего
научно-исследовательского центра в области роботизированной
сборки. Как и всюду, где занимаются этой проблемой, одна из
основных забот инженеров лаборатории связана с подгонкой друг
к другу сочленяемых деталей. Человек, работающий на сборке,
осуществляет такую подгонку быстро и практически не задумываясь.
Но когда его место занимает промышленный робот, он постоянно
сталкивается с перекосами и заклиниваниями. Конечно, эти не¬
приятности можно было бы преодолеть, введя множество локальных
обратных связей. Но вместо этого директор проекта Джин Не-
винс задался вопросом: «А нельзя ли найти какой-то другой меха-
Опыт и открытие 99
низм, который решал бы эту же задачу, действуя во внешнем мире,
а не в вычислительной машине?»
Теперь, когда ответ на этот вопрос получен, он кажется вполне
очевидным. Действительно, рабочий на сборке использует в про¬
цессе подгонки не только механизм коррекции с помощью обратных
связей, реализуемых в его нервной системе, но и механическую
податливость кончиков своих пальцев, а также «люфты» соедине¬
ний. Подметив это, Невинс задумался о том, нельзя ли развить
свойства податливости настолько, что это позволило бы полностью
устранить необходимость в коррекции по принципу обратной связи.
Теперь все собираемые детали монтируются на транспортере таким
образом, чтобы обеспечить возможность «свободного хода» по двум
или трем пространственным осям. И представьте себе, буквально
за доли секунды квадратные штырьки без сучка и задоринки вхо¬
дят в квадратные гнезда, а круглые штырьки — в круглые гнезда,
как если бы в уравнении непрерывно считались миллионы ничтожно
малых поправочных членов, что требовалось для осуществления
этой операции по принципу обратной связи.
Сверху вниз или снизу вверх
Любую задачу всегда можно решить двумя разными путями. Один
из них — назовем его «сверху вниз» — опирается на теорию. Этот
путь требует понимания основных принципов того процесса или
явления, к которому относится решаемая задача. Это позволяет
логически выяснить последствия любых наших действий и таким
образом предсказать результат. Другой подход, «снизу вверх»,
не предполагает каких-то всеобъемлющих объяснительных схем,
а возможно, и вообще понимания природы задачи. Он опирается
лишь на различные компиляции и наборы навыков и интуиции.
Тот, кто привык к решениям по принципу «снизу вверх», может
порой и признаться: «Не знаю почему, но уверен, что это будет
работать».
В определенных условиях оба эти подхода вполне оправданны.
Запуская пилотируемый аппарат на Луну, мы не имеем права
полагаться на то, что космонавты смогут управлять кораблем
методом проб и ошибок — ведь им предоставляется всего одна
попытка. Поэтому жизненно важно точно знать соответствующие
законы небесной механики и учесть их при проектировании аппа¬
рата. Но в то же время мальчишка учится кататься на велосипеде
до того, как знакомится с законами механики Ньютона или теоре¬
мами современной теории управления. Как же ему это удается?
Он опирается на эмпирические правила, в данном случае подсозна¬
тельные, но все же правила, применимые к внешнему миру. Основ¬
ное правило, формирующееся в его вестибулярном аппарате, в
той части мозга, которая отвечает за чувство равновесия, подсказы¬
4*
100 Компьютер — творец
вает ему: «Если велосипед падает на бок, поворачивай руль в эту
же сторону». Как видим, ни слова о Ньютоне, никаких объяснений,
почему надо поступать именно так, тем не менее этого оказывается
достаточно.
Но если бы мы заставили ездить на велосипеде вычислительную
машину, просчитывающую свои действия согласно теории Нью¬
тона, то в каком-то смысле в деле участвовало бы два велосипеда:
реальный велосипед и велосипед-призрак, воплощенный в деталь¬
ную математическую модель, заложенную в алгоритм управления.
Человек-велосипедист справедливо считает, что одного велосипеда
вполне достаточно и что данных его сенсорной системы вполне
хватит для того, чтобы время от времени извлекать из них неболь¬
шое число необходимых сведений для простого, но вполне подхо¬
дящего набора правил. В промежутках между последовательными
обращениями к этим правилам велосипедист сам «рассчитывает»
свою динамику, остальное же довершают правила, закодированные
в его организме в виде рефлекторных связей между стимулами и
реакцией на них. Нам остается только посочувствовать вычисли¬
тельной машине, которая осуществляет то же самое, но гораздо
более сложным путем. Недаром в свое время пришлось отказаться
от начатого в Лаборатории аэронавтики и астрофизики Станфорд-
ского университета проекта, целью которого было составить для
машины программу, которая управляла бы велосипедом по пра¬
вилам физики; реализовать его оказалось непосильно трудным
делом.
По мере того как развитие техники заставляет нас решать все
более сложные задачи, а задачи эти все труднее понимать на уровне
изначальных принципов, становится очевидным, что работать
надо так, как мы привыкли делать в детстве, т. е. без опоры на
объясняющую все теорию. Но если такая теория у нас все же есть,
то использование ее, как мы уже убедились, может быть затруд¬
нено из-за комбинаторного взрыва, связанного с прослеживанием
всевозможных комбинаций наших действий. Продукционные си¬
стемы, или системы, основанные на правилах, открывают гигант¬
ские дополнительные возможности. И, как мы уже убедились,
именно на правилах базируются по самой своей природе эксперт¬
ные системы.
Построим робот для игры в крикет
В качестве несколько экстравагантной иллюстрации попробуем
сконструировать робот для игры в крикет *. Это устройство должно
занимать место в дальнем поле до тех пор, пока отбивающий про¬
* Крикет — весьма популярная в Англии и других странах (например,
в Иидии, Пакистане, Австралии, Новой Зеландии и Вест-Индии) спортивная
игра, похожая на лапту или бейсбол, где в задачу полевых игроков оборо¬
Опыт и открытие 101
тивника не отбросит мяч примерно в его сторону. После этого за¬
дача робота должна состоять в том, чтобы наметить подходящий
курс перехвата и осуществить его.
Решение 1. Осуществлять последовательную фиксацию летя¬
щего мяча на неподвижной сетчатке. Использовать законы гео¬
метрии и тригонометрии и методы статистической теории сглажи¬
вания для построения траектории полета мяча по результатам
оптического замера расстояния до фиксируемых точек полета.
Осуществить экстраполяцию этой траектории до обнаружения
вероятной точки падения мяча на землю. Осуществить передви¬
жение к найденной точке на расчетное расстояние с максимально
возможной скоростью. Остановиться. Дождаться удара. Оценка.
Требует большого объема расчетов; из-за неполноты исходной
информации и ошибок измерения гарантирует лишь низкую веро¬
ятность положительного исхода.
Решение 2. В основном действовать, как описано выше, но пе¬
ремещаться к ожидаемой точке приземления путем ряда рывков,
повторяя все выше упомянутые расчеты заново в конце каждого
рывка. Оценка. Более высокая вероятность положительного исхода,
требуется еще больше работы.
Решение 3. Отложить конструирование робота и понаблюдать
за поведением реальных полевых игроков в крикет.
Если верить покойному Севилу Чэпмену из Корнеллской ла¬
боратории аэронавтики, человек, играя в крикет, придерживается
одного очень простого правила. Он передвигается по направлению
к летящему мячу, непрерывно корректируя свою скорость и на¬
правление движения и, кроме того, поворачивая голову так, чтобы
обеспечить равномерный подъем линии прицеливания на мяч.
Для приближенно параболических траекторий этого правила ока¬
зывается достаточно. Конкретный характер траектории, которая
в ветреную погоду может быть довольно сложной, «вычисляет»
не игрок, а внешняя система — физика окружающей среды; по
мнению Питера Бранказио из Бруклинского колледжа, этому
помогает процедура отслеживания мозгом игрока угла подъема
головы, который фиксируется сигналами, генерируемыми органами
внутреннего уха. Решение 3 обеспечивает удивительную точность
и почти не требует расчетов. При этом весь мыслительный потенциал
счастливого робота высвобождается для обдумывания более высоких
материй, связанных со стратегией дальнейшей игры.
Подобное можно сказать и о детях, которые, весьма разумно
переложив тяготы школьной арифметики на электронную коро¬
бочку, высвобождают энергию для более полезных вещей, напри¬
мер составления программы для программируемого карманного
няющейся стороны входит по возможности быстро подобрать (а если удастся,
то и поймать) мяч, отброшенный отбивающим нападающей команды, и пере¬
дать его полевому игроку у базы.— Прим. перев.
102 Компьютер — творец
калькулятора, с помощью которого можно выполнять и более
интересную работу. Я вовсе не хочу сказать, что школьникам
больше не стоит заучивать таблицу умножения. Обязательно нужно.
Они по-прежнему будут учить ее, несмотря на наличие карманных
калькуляторов,— хотя бы для того, чтобы иметь возможность
убедиться, что результат, который показывает калькулятор, «по¬
хож» на то, что должно быть, и значит, при наборе сомножителей
не сделано ошибки. И хотя в школьной программе, вероятно, со¬
хранятся также правила умножения и деления «в столбик», при¬
дется, видимо, смириться с тем, что навыки таких расчетов у школь¬
ников станут похуже. Зато у школьников высвободится время на
овладение новым навыком — программированием. Итак, процесс
образования должен что-то потерять, чтобы выиграть более сущест¬
венное.
Обучение на опыте
Что касается обучения детей езде на велосипеде, то здесь интересно
не только то, что они делают это без всякой теоретической подго¬
товки, но и сам способ приобретения соответствующего навыка.
Никто не сообщает им и правила езды типа: «Если велосипед ва¬
лится на бок...» Все обучение основывается исключительно на лич¬
ном опыте. Как уже говорилось, одним из основных препятствий
на пути роста числа экспертных систем являются трудности выяв¬
ления экспертных суждений — трудности формулирования правил
вывода. Поэтому необходимо, чтобы и вычислительные машины
могли обучаться на основании собственного опыта.
Примером, подтверждающим возможность этого, может служить
программа, созданная в Эдинбурге еще на заре исследований по
искусственному интеллекту, которая научилась балансировать
шестом. С точки зрения теории синтеза систем управления постав¬
ленную перед этой программой задачу можно считать классиче¬
ской. Представьте себе небольшую тележку с электромоторчиком,
бегающую по рельсам; на тележке установлен шест, нижний конец
которого закреплен на шарнире (рис. 18). Чтобы удержать шест
в вертикальном положении, тележка должна постоянно двигаться
взад-вперед, как это делает горец-шотландец перед тем, как метнуть
ствол дерева. Кроме того, тележка не должна выскакивать за пре¬
делы рельсового пути. Студенты-механики первого курса кон¬
струируют систему на основе сложных аналоговых систем, способ¬
ную выполнить все эти действия. Эту задачу можно решить и с
помощью машинной программы, основанной на результатах теории
управления, но такое решение недостаточно экономно. В отличие от
этого разработанная в Эдинбурге программа, названная КЛЕТКИ,
работала исключительно «снизу вверх», используя 225 правил
вывода, которые она корректировала по мере накопления опыта.
Опыт и открытие 103
Рис. 19. Пространство состояний программы «шест — те¬
лежка» (для наглядности 4-е измерение не показано), раз¬
битое на клетки, каждая из которых подчиняется своим
собственным правилам («демонам»); действие всех правил
контролируется «председателем».
Наблюдая за работой механизма, система собирала данные о че¬
тырех параметрах его поведения: о положении тележки, скорости
ее движения, величине угла между тележкой и шестом, скорости
Рис. 18. Система «шест—тележка».
104 Компьютер — творец
изменения этого угла. Интервал возможных изменений каждой из
этих величин разбивался на подынтервалы, из которых строилось
четырехмерное «пространство состояний» системы, причем за по¬
ведение системы в каждом локальном подынтервале отвечало не¬
зависимое правило (или «демон» — согласно распространенной
сегодня терминологии, придуманной Оливером Сэлфриджем в
1959 г.), которое накапливало собственный запас знаний о том,
что делать в данной конкретной ситуации. Вся же система работала
по принципу «экспертной комиссии», в которой «председатель»
(программа центрального управления) определяет текущее входное
состояние и вызывает соответствующее правило (рис. 19) [1].
Допустим, возникла ситуация, которую можно описать следу¬
ющим образом: тележка находится вблизи левого края рельсового
пути, движется вправо, шест несколько наклонен вправо, но идет
влево. После того как будет вызвано соответствующее правило,
Рис. 20. Результаты, достигнутые системой «шест—тележка» при обучении
методом проб и ошибок. График показывает зависимость «эффективности»
(она измеряется интервалом времени, прошедшего до момента падения шеста)
от суммарного времени обучения. Например, после 70 ч обучения система
может балансировать шестом в течение 27 мин, не роняя его.
оно предпишет повысить тягу двигателя вправо или влево и тем
самым создаст новое входное состояние. Коллективный опыт всех
правил, взятых в совокупности, определяет эффективность работы
системы. В начале обучения решения двигаться «вправо» или «влево»
распределялись по 225 клеткам случайным образом. Но по мере
своей работы программа сама корректировала правила в соот¬
ветствии с частотой достижения успеха и, постепенно накапливая
опыт, обучалась идеальной балансировке шестом (рис. 20).
В задачах такой общей категории решения программы о пове¬
дении в некоторых участках пространства состояний явно проти¬
воречат нашей интуиции. Это относится, в частности, к случаю,
когда тележка оказывается в опасной близости от «обрыва» в конце
Суммарное время обучения, ч
Эффективность, мин
Опыт и открытие 105
рельсового пути. В целом ряде таких случаев при соответствующих
значениях угла и угловой скорости шеста правильное решение,
оказывается, состоит в том, чтобы сначала двигаться к обрыву,
качнув тем самым шест в противоположную сторону. Только после
этого можно спокойно переключить двигатель на движение от
опасной зоны, как бы «догоняя» шест и осуществляя необходимое
управление углом его наклона.
Эти же правила можно было бы вывести чисто символически,
основываясь на подробной математической модели, хотя для этого
понадобились бы достаточно точные и обширные измерения раз¬
личных физических параметров системы. В реальной жизни мы
можем и не располагать подобными данными. Вместо того чтобы
искать их систематически, мы накапливали их по крупицам на
основании собственного опыта системы. Аналогично поступают
и полевые игроки в крикет, когда из своего игрового опыта извле¬
кают простое правило, предписывающее постоянно поднимать
яверх траекторию, связывающую в трехмерном пространстве иг¬
рока и мяч, чтобы оказаться в какой-то точке пространства одно¬
временно с мячом.
Обучение на примерах
Программа КЛЕТКИ вырабатывала свои правила медленно и
довольно неуклюже. На самом же деле нужна гораздо более мощная
система универсального применения. Хотелось бы иметь такую
машину, показав которой какие-то примеры (скажем, формулировки
некоторых фактов, картинки, какие-то отдельные действия и т. д.),
мы могли бы ожидать, что она, следуя законам логики, откроет
для себя правила, связывающие эти примеры между собой, т. е.
сможет разглядеть структурные закономерности, лежащие в ос¬
нове этого кажущегося хаоса. Только таким способом нам удастся
преодолеть трудности, связанные с кодировкой правил для экс¬
пертных систем. При этом дело вовсе не ограничивается только
упрощением задачи конструирования экспертных систем — здесь
таятся и другие выгоды.
Отгадывание правил на основании примеров представляет собой
классическую процедуру индуктивной логики, т. е. движения от
частного к общему — в противоположность дедуктивному выводу,
строящемуся по принципу от общего к частному. По традиции
вычисления всегда опираются на дедукцию, отрабатывая некоторый
процесс, заданный во всех его деталях заранее; поэтому переход
к гораздо более сложному и теоретически менее завершенному
процессу индуктивного вывода знаменует большой шаг вперед.
Но может ли вычислительная машина вообще мыслить индуктивно?
Эксперименты последних лет показали, что это вполне возможно.
Некоторые из таких экспериментов мы опишем далее.
106 Компьютер — творец
1. Составы, следующие на восток
2. Составы, следующие на запад
Рис. 21. Найдите самое простое правило, позволяющее отличать поезда,
«следующие на запад», от поездов, «идущих на восток». (© 1980 IEEE).
Саму природу игры в отгадывание правил можно хорошо по¬
чувствовать на примере теста, разработанного в качестве учебного
пособия Рышардом Михальски и Джеймсом Ларсоном [2], который
поясняется с помощью рисунка. Глядя на рис. 21, найдите наи¬
лучшее правило, которое позволило бы различать поезда, следу¬
ющие в западном направлении, от поездов, идущих на восток.
(Предположим, что из депо они еще не вышли, поэтому компас
здесь не поможет!) Не обязательно, что эта задача имеет единствен¬
ное решение, но самые высокие оценки получает то решение, ко¬
торое в каком-то смысле проще остальных.
Опыт и открытие 107
Программа ПАСКАЛЬ Михальски и Ларсона довольно успешно
справилась с поиском правил для решения этой головоломки. Для
начала программе следовало дать описание всех рассматриваемых
поездов на языке, с которым она умела бы работать. В качестве
такого языка был выбран упрощенный вариант исчисления преди¬
катов первого порядка. Пользуются им приблизительно так же,
как алгеброй. Исчисление предикатов предполагает существование
переменных, служащих для выражения различных высказываний
(каждое из которых может быть истинным, ложным или неопре¬
деленным), связок, соединяющих переменные (типа «и», «или»,
«не», «если, то» и т. п.), правил пользования скобками и кванторов
(«для всех» и «существует»). В совокупности эти средства представ¬
ляют собой инструмент исключительной силы и универсальности —
перечисленные здесь переменные можно интерпретировать почти
произвольным образом.
Сами поезда описывались для программы с помощью одиннад¬
цати дескриптеров (средств описания), относящихся либо к ваго¬
нам, либо к находящемуся в них грузу. Например:
впереди (этот вагон стоит впереди какого вагона)
длина (вагон длинный или короткий)
форма (открытая прямоугольная, U-образная, эллиптиче¬
ская, с гофрированным верхом и т. п.)
сод-груз (какой груз содержит этот вагон)
форм-груз (она может быть: круглой
треугольной '|
прямоугольной } многоугольной)
шестиугольной J
числ-груз (число грузов в вагоне)
числ-осей (число вагонных осей у вагона)
Исходя из этого описания, программа сама смогла вывести
дополнительные средства отбора (селекторы), такие, как число
вагонов в поезде или место каждого вагона в составе. После этого
она приступила к построению обобщений данных о составе, ис¬
пользуя для этого «метаселекторы», построенные на основе исход¬
ных данных. Одни из этих метаселекторов оказались более удач¬
ными, другие — менее. После этого программа стала составлять
из полученных обобщений последовательность «незавершенных
звезд» и обрабатывать их, устраняя возникающие внутренние
противоречия до тех пор, пока она не приходила к готовому пра¬
вилу. Более того, программа сама могла судить о простоте получен¬
ного правила, подсчитывая число элементов, в нем используемых.
(Стремление к простоте в экспериментальных науках отражает
так называемый принцип «бритвы Оккама», согласно которому,
сели две теории внешне равно эффективны, предпочтение следует
отдать более простой из них.) Прежде чем качать знакомиться с
108 Компьютер — творец
правилами, построенными машиной индуктивным способом, реко¬
мендуем читателю попробовать самостоятельно построить пару
таких правил.
Первое из полученных машиной правил выглядело следующим
образом. Существует
3 вагон [длина (вагонх) = короткий]
форма (BaroHj) = крытый] =>.
класс = на восток]
В переводе с языка логики на обычный это означает: 1) если в
составе есть вагон короткий и с крытым верхом, то состав идет на
восток; в противном случае — на запад*.
Программа вывела также два таких правила:
2) если в составе есть вагон, груженный треугольником, а вагон
за ним гружен многоугольником, то он идет на восток; в противном
случае — на запад.
3) если в составе ровно два вагона или если в составе есть вагон
с гофрированным верхом, то он идет на запад; в противном случае —
на восток.
Интересно отметить, что Михальски сконструировал свою го¬
ловоломку, рассчитывая на правила (2) и (3), а найденное машиной
правило (1), которое проще любого из них, оказалось сюрпризом
даже для самого автора.
В опытах с описанной головоломкой принимали участие и люди.
Из общего числа 72 попыток в 44 было получено правило (3), а
еще в 6 — вариант этого правила, основанный на подсчете осей,
а не вагонов. Как ни удивительно, только в трех случаях испыту¬
емые набрели на самое простое правило (1). К той же категории (1)
можно было бы отнести исход еще одной попытки, если бы только
в ней различные виды коротких вагонов не перечислялись по от¬
дельности, тогда как им следовало дать единообразное описание.
Ни разу не было воспроизведено правило (2), но некоторые из
полученных ответов по крайней мере не менее лаконичны. Напри¬
мер, один из них звучал так: «Если состав перевозит более чем два
разных типа грузов, то он идет на восток, в противном случае — на
запад». Это правило было предложено двумя испытуемыми.
Машина против человека
Как сравнить по эффективности программу ПАСКАЛЬ, написанную
для машины «Сайбер-175», и размышления человека? Время рас¬
четов с помощью программы было порядка 10 с. Считается, что
* В буквальном переводе это правило должно было бы звучать следую¬
щим образом: из истинности высказывания «существует некоторый вагон*,
такой, что длина вагонах равна короткой, а форма вагонах равна крытой»,
следует истинность высказывания «класс составов" равно на восток».
Опыт и открытие 109
«Сайбер» способен выполнять около 10 млн. команд в секунду, т. е.
для решения задачи ему потребовалось выполнить всего примерно
100 млн. команд. Но, как полагает Дж. М. Страуд, человеческий
мозг в условиях предельной спешки может выполнить не более
20 бинарных сравнений в секунду [3]. И хотя Эдсгеру Дийкстру
удалось однажды достигнуть 50 действий в секунду в процессе
трехминутного лихорадочного составления программы, простые
смертные вряд ли могут рассчитывать в среднем на результат выше
10 действий в секунду. Предположим теперь более или менее про¬
извольно, что выполнение одной команды «Сайбера-175» равно¬
ценно по меньшей мере 10 бинарным сравнениям. Новтаком случае
программа Михальски — Ларсона должна была бы осуществить
в общей сложности 109 бинарных сравнений, на что потребовалось
бы 100 млн. с непрерывных раздумий, т. е. три года неустанных
умственных усилий. Иными словами, читатель, которому удалось
справиться с рассматриваемой задачей за несколько секунд или
минут, все же далеко опережает машину по качеству используемых
алгоритмов (какими бы они ни были) индуктивного вывода — но
не по способности явным образом описать процесс, которому он
следует.
Детям построение правил дается труднее. Даже у десятилетних
ребят переход от мышления, основанного на конкретных фактах,
к способности оперировать абстракциями и гипотетическими суж¬
дениями только начинается. Возможно, читатели захотят прове¬
рить, как их детям удастся разобраться в задачке с поездами.
Что касается первых двух правил, то программа, которую никто
не учил считать, смогла их все-таки обнаружить. Другой предель¬
ный случай продемонстрировал один из испытуемых, в котором,
видимо, сидит этакий микроб счета, ибо он обнаружил, что состав
идет на запад тогда и только тогда, когда суммарное число сторон
в грузах (полагая, что у круга одна сторона, у треугольника —
три и т. д.) является делителем 60!
Мы часто просто не отдаем себе отчет в том, насколько слож¬
ную процедуру представляет счет. «На первый взгляд,— пишет
Леви Конант,— кажется совершенно немыслимым, чтобы какое-то
человеческое существо могло быть лишено способности считать
дальше двух. Однако на самом деле это вполне возможно: известно
несколько языков, в которых вообще отсутствуют числительные»
[4]. Счет — это достижение достаточно развитой цивилизации,
и способность к счету не является врожденной ни для людей, ни
для животных. Тем более удивительно, что человек, а также не¬
которые птицы и насекомые обладают определенным «чувством
числа», позволяющим им оценивать размер совокупности, содер¬
жащей не более четырех-пяти объектов, не прибегая к счету. Лих-
тенберг давал своему соловью три червяка в день, каждый раз по
одному, и обнаружил, что после третьего червяка соловей «пони¬
110 Компьютер — творец
мал», что больше его кормить не будут. Способность замечать раз¬
ницу между тремя и четырьмя, но не между четырьмя и пятью,
проявляют вороны, а осы обладают необъяснимой способностью
чувствовать, какое число личинок выделяют они на питание своему
потомству [5]. Однако Умный Ганс — лошадь, умеющая считать,—
такой способности был лишен, что бы там ни думал по этому поводу
его хозяин. Искусство этой лошади заключалось лишь в умении
подмечать знаки, которые непроизвольно делал хозяин при до¬
стижении ранее задуманного числа.
Элузис или поиск истин
Система счисления австралийских аборигенов «раз, два, много»
оказывается достаточной для самых разнообразных целей. По
крайней мере этого вполне хватает для любых нормальных ситуа¬
ций в игре на угадывание правил — элузис, придуманной Робертом
Эбботом. Будучи студентом-психологом Колорадского универси¬
тета, Эббот заинтересовался феноменом «Ага!» — той вспышкой
озарения, которая возникает всякий раз, когда мы вдруг «схваты¬
ваем» то рациональное зерно, которое лежит в основе какого-то,
казалось бы, малопонятного явления. Элузис — это карточная
игра для четырех или большего числа игроков, один из которых
назначается «богом». Остальные игроки начинают по очереди вы¬
кладывать на стол карты. Что же касается бога, то он заранее за¬
думывает про себя последовательность, в которой должны выкла¬
дываться карты, и, по мере того как каждый игрок выкладывает
свою очередную карту, объявляет, правильная она или нет. Задача
остальных игроков состоит в том, чтобы методом проб и ошибок,
выкладывая свои карты, угадать задуманное правило [6].
Правильно выложенные карты кладутся в ряд на столе, а не¬
правильно выложенные — по краям стола. Если одному из игроков
покажется, что он угадал задуманное правило, он объявляет себя
«пророком» и берет на себя функции бога, начиная оценивать пра¬
вильность последующих ходов остальных игроков. Но горе — лже¬
пророкам! Примерами разумных правил могут служить следующие:
1) достоинство выкладываемой карты должно отличаться от
предыдущей на 1, 2 или 3;
2) если последняя правильно выложенная карта была черной,
выложи карту такого же или более высокого достоинства; если же
последняя карта была красной, выложи карту такого же или более
низкого достоинства.
Требуется, чтобы в таких правилах фигурировали лишь ха¬
рактеристики последовательности выкладываемых карт, и не ис¬
пользовались какие-либо внешние признаки, скажем то или иное
Опыт и открытие 111
поведение бога. На рис. 22 приведено несколько начальных ходов
одного тура такой игры *.
В том, что делают здесь игроки, безусловно, проявляется метод
индукции. Эббот в 1977 г. предсказал, что попытка заставить ЭВМ
играть в элузис обречена на провал. Но Джеймс Ларсон из Илли-
нойсского университета, разработавший соответствующую про¬
грамму в своей диссертации на соискание степени магистра (при¬
мерно соответствует степени кандидата наук у нас.— Перев.) и
Начальная карта
Основной
ряд
(угаданные
карты)
Краевые
ряды
(неуга данные
карты)
Неправильно
выложенная
последовательность
(двойка пик
не на месте)
Рис. 22. Типичный тур в самом начале игры элузис.
Майкл Берри из компании «Ай-Пи шарп ассошиейтс», проделавший
аналогичную работу в порядке упражнения по программированию
на языке АПЛ, доказали, насколько он ошибался. Программа
Берри играла в одной компании с людьми, поэтому их ходы при¬
ходилось передавать машине с помощью клавиатуры. Подобным же
образом вводились в нее суждения бога о ходах людей и ходах
самой машины [7]. Программа искала как постоянные черты, так
и изменения в последовательностях разных признаков (таких,
как масть, цвет или достоинство) или подпризнаков карт (таких,
как четность, простота, делимость на три и т. п.). Стандартный
характер всех этих признаков позволяет программе без особого
труда строить на английском языке некое подобие словесной фор¬
мулировки найденных правил. Она, разумеется, отличается от той
формулировки, в которую облек бы это правило бог, но все же ее
нетрудно распознать. Например, в случае когда было задумано
приведенное выше правило (1), программа построила бы примерно
такое правило:
* В этом туре было загадано следующее правило: если последняя пра¬
вильно сыгранная карта была нечетной, то дальше выложи черную карту;
в противном случае — выложи красную.
112 Компьютер — творец
ДОСТОИНСТВО (в цифровом выражении) ДОЛЖНО МЕНЯТЬ¬
СЯ НА КАЖДОМ ШАГУ, КАЖДАЯ КАРТА НЕ ДОЛЖНА
ОТЛИЧАТЬСЯ ОТ ПРЕДЫДУЩЕЙ БОЛЕЕ ЧЕМ НА 3.
По мнению Мартина Гарднера, элузис может служить прекрас¬
ной моделью «поиска истины» или процесса индукции, «который
лежит в самом сердце научного метода». Поэтому успех вычисли¬
тельной машины в этой игре следует расценивать гораздо выше
и шире, чем как просто показатель игровых возможностей ЭВМ.
Теперь приведем пример из области «серьезной науки»: расскажем
об открытии, сделанном машинами в сфере чистой математики.
Вновь открытый Евклид
В рамках станфордского проекта по эвристическому программиро¬
ванию Дуглас Ленат пытался найти предметную область, в которой
вычислительной машине было бы по силам сделать открытие в
самом широком смысле слова, а не то что, скажем, найти правило
в игре элузис или других упражнениях по решению задачек. Ленат
хотел, чтобы машина работала в предельно открытом режиме, до¬
пуская возможность постоянного уточнения и расширения понятия
решения. В качестве подходящей области он выбрал теорию чисел,
ибо это — область математики, с одной стороны, строго очерчен¬
ная, а с др'угой — хорошо освоенная, и разработал для нее про¬
грамму AM (исходно — «Автоматизированный математик»). Эта
программа начинала работу с набора самых фундаментальных
математических понятий, после чего пускалась «блуждать вслепую»
по пространству возникающих в связи с ними задач, надеясь таким
образом прийти к более сложным понятиям. Совершенно самостоя¬
тельно программа смогла прийти к нескольким хорошо известным
математическим идеям и даже заново открыть несколько важных
теорем, например теорему Евклида о единственности разложения
на множители. Она построила также любопытную геометрическую
интерпретацию гипотезы Гольдбаха относительно сумм простых
чисел и сделала весьма оригинальное открытие «максимально
делимых чисел» [8].
Программа начала со ста элементарных понятий теории ко¬
нечных множеств: объектов, подобных множествам, списков, па¬
кетов (множества, в которых допускается повторение элементов)
и значений истинности; таких отношений, как отношение принад¬
лежности или равенства; операций типа обращения, композиции
и пересечения. Кроме того, в программу были заложены и неко¬
торые эвристики — эмпирические приемы, помогающие решать,
что делать дальше. Одной из таких эвристик был совет: обращайте
внимание на то, что встречается снова и снова. Следуя этому со¬
вету, программа AM, обнаружив, что она может прийти к идее ум¬
Опыт и открытие 113
ножения четырьмя разными способами *, решила, что если такое
число разных процедур приводит к одному и тому же результату,
то это, безусловно, интересно, а может быть, и важно. Другая
эвристика гласила: если какая-то операция представляет интерес,
обратите внимание на обратную ей. Следуя этой эвристике, про¬
грамма, открыв для себя умножение, заинтересовалась и делением.
Эго дало толчок идее разложения большого множества чисел на
сомножители. У программы была еще одна эвристика: изучайте
экстремальные случаи явлений. Поэтому она выделила для рас¬
смотрения множества чисел, имеющих только один или два сомно¬
жителя,— и пришла к понятию простого числа. Но одновременно
она стала исследовать и противоположный предельный случай,
а именно числа, у которых особенно много делителей; этот вопрос,
как полагал Ленат, ранее вообще не рассматривался. Впоследствии
выяснилось, что подобными числами уже занимался Сриниваз
Рамануджан, самоучка, работавший с Г. X. Харди, но даже ему
не удалось установить одного факта регулярности, который под¬
метила машина.
Если вы думаете, что теория чисел — это нечто довольно слож¬
ное и далекое от практической жизни, то имеет смысл напомнить,
что теорема единственности разложения на множители составляет
основу самых последних криптографических процедур, разраба¬
тываемых по указанию правительства США в качестве универсаль¬
ного стандарта защиты от постороннего вмешательства данных»
хранящихся в памяти электронных машин. Кроме того, программа
AM оказалась для Лената отправной точкой для последующей
работы, практическое значение которой, как вы вскоре убедитесь,
очевидно.
Новые пути и средства
Несмотря на несомненный успех, программа AM имела один прин¬
ципиальный недостаток: она умела создавать новые понятия, но
не могла находить новые эвристики. А по мере того как она накап¬
ливала новые понятия, все сильнее отличающиеся от тех простей¬
ших, с которыми она начинала работу, сформулированные раз и
навсегда эвристики оказывались слишком общими и слабыми,
чтобы эффективно руководить поиском нового. Чтобы преодолеть
этот недостаток, Ленат разработал новую программу «Эвриско»
[9]. Эта программа может время от времени менять используемые
ею эвристики, иногда делая это довольно случайно, а порой —
* А именно: в результате многократного сложения; в виде аналога пря¬
мого произведения множеств; в виде вычисления мощности объединения мно¬
жества подмножеств двух множеств и в виде суммарного числа символов,
которые получаются в результате (параллельной) замены каждого элемента
X его точной копией из пакета Y.
114 Компьютер — творец
пытаясь добиться «уточнения», например за счет замены «или»
на «в основном». Кроме того, существуют эвристики об эвристиках
типа: избегай заменять «и» на «или», так как это может привести
к неоправданному росту деревьев вывода. Новые эвристики оце¬
ниваются с точки зрения их полезности и в зависимости от того,
какой будет оценка, либо остаются в работе, либо забываются.
Ленат также рассказывает, что одна эвристика, которая при¬
вела к открытию, сначала занесла свое имя в список особо полезных
эвристик, а затем поняла, что то, что она сделала открытие, само
по себе является открытием. За это эвристика начисляет себе до¬
полнительные очки, после чего оценивает это как еще одно, новое
открытие, которое стоит дополнительных очков, и т. д. В резуль¬
тате образуется замкнутый круг! Ленату приходилось останавли¬
вать программу, чтобы не дать ей постоянно и бесконтрольно на¬
ращивать подобные оценки и вырабатывать полезные эвристики
(в основном вполне конкретного характера), учитывающие особен¬
ности более узких проблемных областей.
При этом выяснилось, что многие эвристики, относящиеся к
математике, нередко оказываются полезными и при решении ре¬
альных практических задач. Например, если мы займемся такой
проблемой, как «занятость», то сразу заметим, что речь здесь идет
о большом числе отношений между «нанимателями» и «нанимае¬
мыми». Изучая в свою очередь предельные проявления этого мно¬
жества отношений, как рекомендуется нашей третьей эвристикой,
мы неизбежно должны будем заинтересоваться, с одной стороны,
теми, кто никем не нанят (безработные), а с другой стороны — теми,
кто одновременно занят на нескольких работах (совместители).
Не вызывает сомнений, что обе связанные с этим проблемы имеют
существенное значение. Программа «Эвриско» уже внесла свой
вклад в решение реальных практических задач, причем наиболее
существенный — в области конструирования трехмерных элект¬
ронных интегральных схем. В том виде, в каком они были приду¬
маны людьми, трехмерные интегральные схемы представляли
собой все те же плоские интегральные схемы, но сложенные «гар¬
мошкой», как лист бумаги, что позволяло уменьшить длину пути,
по которому электрический сигнал проходит от одного элемента к
другому, и тем самым уменьшить на несколько пикосекунд время
реакции схемы. Вместо того чтобы безропотно согласиться с таким
вариантом, программа «Эвриско» спросила себя: «А как осуществ¬
ляется взаимодействие элементов?» Рассматривая типичное соеди¬
нение, схематически представленное на рис. 23, а, она применила
к нему эвристику: если обнаружена полезная структура, попытайся
сделать ее более симметричной. В результате получилось то, что
показано на рис. 23, б. Благодаря добавлению новых частей струк¬
тура стала одновременно выполнять несколько функций, так что
один и тот же элемент мог быть в одно и то же время и вентилем
Опыт и открытие 115
НЕ — Ии вентилем ИЛИ. Людям-конструкторам эта возможность
не пришла в голову отчасти по той причине, что огромная сложность
СБИС вынудила их мысленно упростить пространство конструктив¬
ных решений и исключить возможность использования элемента
Рис. 23. Узел соединения в интегральной схеме (а); тот же узел с
дополнительными деталями во всех направлениях, конструкция ко¬
торого была предложена программой «Эвриско» (б).
одновременно в качестве вентиля и канала. Конструкторы Джим
Гиббонс и Линн Конвей используют теперь программу «Эвриско»
в своей работе и за этот счет добиваются резкого повышения воз¬
можностей СБИС.
Не вижу кораблей
Программа «Эвриско» оказалась успешной, а по мнению некото¬
рых — даже слишком успешной, когда она стала одним из участ¬
ников военно-морской игры под названием «Конкурс на создание
эскадры на триллионный бюджет», ежегодно проводимой в США.
Задача участников игры состоит в том, чтобы при заданных огра¬
ничениях на расходы создать боевой флот и проверить его боеспо¬
собность на модели боевых действий одного флота против другого.
Участвуя в этой игре, программа «Эвриско» пришла к нескольким
совершенно удивительным конструкторским решениям, каждое
из которых было совершенно реальным. В частности, она пред¬
ложила решение по созданию большого числа практически непо¬
топляемых кораблей, каждый из которых по своим размерам не
намного превышал обычную шлюпку. Когда другие участники игры
ознакомились с необычным флотом, предложенным программой
перед начальной стадией игры, сформированная ею эскадра вы¬
звала бурное веселье, которое сменилось недоумением после того,
как она стала выигрывать один бой за другим. И Лената ничуть
не удивило, что в течение двух последующих лет правила игры
несколько раз изменяли, пытаясь тем самым поставить «вне закона»
последующие изобретения программы «Эвриско».
116 Компьютер — творец
Вернувшись к проблемам чистой науки, Ленат занимается
сейчас поиском подходов, которые позволили бы заставить про¬
грамму «Эвриско» моделировать биологические мутации. В основу
этого проекта положена идея о том, что если после мутации ос¬
тается какая-либо возможность сохранить информацию о преды¬
дущих состояниях видов, то эволюция может протекать далее
не абсолютно случайным образом, как предполагалось ранее, а
основываясь на каких-то внутренних эвристиках, т. е. во многом
сходно с тем, как происходит эволюция понятий в программе «Эв¬
риско». Запрятанные в глубине запутанного механизма ДНК
какие-то элементы природы могут действовать аналогично эври¬
стикам, как бы подсказывая ей: «Попробуй этот тип мутаций»
или «Такие мутации оказались не слишком удачными в прошлом».
Таким образом, возможно, удастся кайти объяснение поразительной
эффективности отбора в процессе эволюции.
В самом глубоком смысле слова программы AM и «Эвриско»
дальше продвинулись на пути овладения творческими возможно¬
стями, чем программа Михальски, решающая головоломку с по¬
ездами, ибо они не только отыскивают связи между заданными
понятиями, но и открывают новые понятия и исследуют их смысл.
Например, программа для головоломки о поездах не могла бы
открыть понятие «с гофрированной крышей» в качестве полезного
дескриптера некоторых вагонов. Она принципиально не приспо¬
соблена к обогащению собственного словаря. Напротив, программы
AM и «Эвриско» способны на это, а со многих точек зрения в этом
и заключена суть творческого подхода — тот верхний «знаковый»
уровень модели Аарона Сломана, о которой мы упоминали в гл. 1.
Ближе к земле — на бобовое поле
Еще один пример практического использования индуктивных
возможностей вычислительных машин, предельно заземленный
в самом буквальном смысле слова, относится к деятельности сель¬
скохозяйственного шт. Иллинойс. Урожай соевых бобов здесь
постоянно находится под угрозой одного из двадцати распрост¬
раненных заболеваний, и своевременный диагноз заболевания
здесь означал разницу между полной гибелью урожая и благоден¬
ствием фермеров. Пытаясь решить эту задачу, власти штата орга¬
низовали целую сеть бюро сельскохозяйственных консультаций,
куда по телефону может обратиться за советом каждый фермер.
Запросы, на которые не удается дать ответы на месте, пересыла¬
ются университетским специалистам по патологии растений, ко¬
торые буквально тонут в море подобных просьб. В результате
ответы часто запаздывают, неудовлетворенные запросы скапли¬
ваются в огромных количествах, так что экспертная система ка¬
жется здесь более чем уместной. Михальски и его коллега Ричард
Опыт и открытие 117
Чилоски задались целью создать такую систему и составить набор
нужных для ее работы правил с помощью трудоемкого процесса,
что потребовало более 45 ч консультаций со специалистом по па¬
тологии растений Барри Джекобсеном. Полученные правила ох¬
ватывали 19 заболеваний, таких, как бурые огни, ложная муч¬
нистая роса, бактериоз или рак стебля. Диагноз основывался на
35 признаках состояния растений, среди которых были пятна на
листве, дырчатость листьев, сморщивание семян, а также данные
о времени года, осадках и т. п. Признаки выбирались так, чтобы
они были вполне очевидны и чтобы следить за ними могли не только
специалисты, но и простые фермеры.
После этого было решено провести эксперимент по индуктив¬
ному выводу аналогичных правил самой машиной. Были собраны
данные о 307 случаях заболеваний растений, представленные в
виде специальных форм, в которых фиксировались значения каж¬
дого из 35 признаков. Для каждого из примеров ставился диагноз
человеком-экспертом (см. врезку). Эти данные вносили затем в
программу индуктивного вывода Михальски и Ларсона. В принципе
она ничем не отличалась от той, которая использовалась в голо¬
воломке с поездами, но сконструировала множество правил вывода,
коренным образом отличающихся от предложенных Джекобсеном.
После этого выведенные машиной правила сравнили по эффектив¬
ности с правилами, предложенными человеком на другом тестовом
множестве, включавшем 376 случаев заболеваний. Машина пра¬
вильно продиагностировала 374 заболевания, тогда как по пра¬
вилам Джекобсена удалось добиться лишь 83%-ного успеха. В на¬
стоящее время для диагностики используются правила, выведенные
машиной [10].
Анкета с ответами, описывающая выборочный экземпляр соевых бобов*
Такая анкета используется в качестве одного из входов программы продук-
тивного обсуждения AQ11.
Признаки среды
Время события = Июль
Густота стояния = норма
Осадки = выше нормы
Температура = в норме
Был ли град = нет
Число повторных годовых урожаев = 4
Пораженная площадь = все поле
Глобальные признаки растений
Тяжесть поражения = потенциально высокая
Обработка семян = не было
Прорастание семян = менее 80%
Высота стебля = в норме
Локальные признаки растения
Состояние листьев = патология
Пятнистые повреждения (гало) = желтого гало нет
118 Компьютер — творец
Пятнистые повреждения (края) « без водонабухания
Размеры пятен = более 1,5 см
Механические повреждения = присутствуют
Патологические образования = отсутствуют
Образования мучнистой росы = отсутствуют
Состояние стебля = патология
Полегание = отсутствует
Рак стебля = выше второго узла
Цвет ракового образования = коричневый
Утолщения на стебле = присутствуют
Внешняя гниль = отсутствует
Мицелий на стебле = отсутствует
Внутреннее обесцвечивание стебля = нет
Склеротия (внутренняя или внешняя) = отсутствует
Состояние плодоножки = в норме
Пятнистость плода = отсутствует
Состояние семян = в норме
Образование плесени = отсутствует
Обесцвечивание семян = отсутствует
Размеры семян = в норме
Щуплость семян = отсутствует
Состояние корней = в норме
Диагноз:
Рак стебля Diaporthe ( ), угольная гниль ( ), ризоктонноз ( ), фито¬
фтор озная корневая гниль ( ), бурая корневая гниль ( ), мучнистая роса
( ), ложно-мучнистая роса ( ), бурая пятнистость (X), бактериоз ( ),
ореольная бактериальная пятнистость ( ), семенная пятнистость ( ), ант-
ракноз ( ), филостикоз ( ), альтернариоз ( ), селенофомозная пятнис¬
тость ( ). (Правильный диагноз отмечен крестом.)
Другой экспертной системой, возможности которой были рас¬
ширены настолько, что позволило ей выводить собственные пра¬
вила, стала система ДЕНДРАЛ, разработанная в Станфорде. Рас¬
ширенная программа Мета-ДЕНДРАЛ предназначалась для хими¬
ческих исследований: используя результаты масс-спектрографии
молекул известной структуры, она должна была вывести правила,
по которым они соединяются. Ей удалось получить такие правила
для нескольких подклассов молекул, для которых подобных за¬
кономерностей прежде известно не было 111].
Многие из задач такого рода сводятся к задачам классификации:
ведь именно к подобным задачам сводятся многие проблемы рас¬
познавания образов, связанные с организацей машинного зрения
или машинного слуха. И системы, опирающиеся на правила ин¬
дуктивного вывода, давно доказали свою способность справляться
с подобными задачами. В связи с этим Михальски стал работать
над программой, которая была бы в состоянии автоматически от¬
крывать новые основания, по которым могла бы осуществляться
классификация; тем самым программа пошла бы дальше простого
вывода правил, позволяющих сортировать объекты по заранее
заданным основаниям. Этот новый подход, названный конъюктив-
Опыт и открытие 119
ной концептуальной группировкой, использовался в Иллинойсском
университете в рамках проекта по разработке системы классифи¬
кации для 100 испанских песен [12]. Созданная в Университете
Карнеги — Меллона система Хиарсей-Н, предназначенная для
распознавания речи, использует базу знаний примерно так же,
как это делается в экспертных системах. Для каждого нового
уровня анализа — по слогам, по словам, по фразам и т. п.— со¬
здаются свои собственные хранилища знаний, которые сообщаются
между собой через общее рабочее пространство, называемое «класс¬
ной доской». Здесь формируются гипотезы о вероятных значениях
расшифровываемых звуков, которые проверяются в процессе даль¬
нейшего анализа [13].
Чрезмерная откровенность Бэкона
Несмотря на бесспорные успехи, метод индуктивного вывода
по-прежнему воспринимается с большой настороженностью.. Ему
не хватает одной очень важной особенности дедуктивных систем,
опирающихся на теорию, а именно способности объяснять достиг¬
нутое, той самой вспышки прозрения «Ага»!, возникающей в мо¬
мент, когда мы открываем для себя основополагающий принцип.
Индукция по самой своей природе идет всегда снизу вверх, а это
влечет за собой неизбежные потери в элегантности и полноте вы¬
водов, тогда как рассуждения по принципу «сверху вниз» создают
впечатление строгости формальной теории. Выступая на одной
конференции, профессор информатики Королевского колледжа
Мэнни Леман выразил сожаление по поводу отсутствия научной
теории, которая легла бы в основу работ по искусственному интел¬
лекту уже сегодня. «Не хотелось бы рассчитывать на мост, пост¬
роенный только на основании опытов, а не по науке»,— заявил он.
Но ведь многие века мосты — в силу необходимости — строили
именно так.
В разные времена мыслители-эмпирики, как, например, Фрэн¬
сис Бэкон, строя свою картину мира «снизу вверх», сопровождали
ее объяснениями, доказывая, что и такая картина создается по
неким единообразным правилам. Так, Бэкон смелыми мазками
набросал стройную картину возможности и структуры научно-
технического прогресса как некоей деятельности по преобразо¬
ванию мира, в котором мы живем. Однако логика Бэкона слишком
натуралистично воспроизводит истинный когнитивный стиль Homo
sapiens; это напоминает наше отношение к некоторым физиологи¬
ческим функциям человеческого организма, которые мы стараемся
не выставлять на публичное обозрение, даже если они приводят к
возникновению новой жизни.
Разумеется, теории, построенные по принципу «сверху вниз»,
т. е. от общего к частному, сохранят свое значение и в дальнейшем,
120 Компьютер — творец
ибо только они обеспечивают понимание. Но если говорить об
автоматизации процесса решения сложных задач, то здесь такие
теории оказываются не пригодными. В этих случаях придется
наделять вычислительные устройства — будь то электронная схема
или биологическая структура — навыками, которые формируются
по принципу «снизу вверх», или от частного к общему. Как сказал
философ Герберт Спенсер, «все жизненно важные действия разби¬
ваются на отдельные составляющие, за каждую из которых отве¬
чает собственный исполнительный механизм» [14].
6. Созидание нового знания
Специалисты по вычислительной технике так привыкли совершать
«кавалерийские набеги» на древо познания, что узнав, как оцени¬
вает информацию, содержащуюся в памяти машины, апелляцион¬
ный суд, они буквально лишились дара речи. Суд рассматривал
дело некоего Петтигрю, который обвинялся в краже банкнот,
причем обвинение строилось на том, что номера найденных у него
трехпятифунтовых банкнотов совпадали с содержащимися в списке,
подготовленном вычислительной машиной Английского банка.
Однако, согласно положению 1965 г. о свидетельских показаниях,
на уголовных процессах тот или иной документ мог быть признан
действительным, если он подготовлен лицом, понимающим его
содержание. И апелляционный суд постановил, что в этом смысле
вычислительную машину нельзя считать таковым лицом.
Видимо, пришло время что-то изменить и в законодательстве,
и в бытующем представлении о том, что такое знание. Ведь на про¬
тяжении веков считалось, что если экзаменуемый может воспро¬
извести на память необходимую информацию, то он владеет зна¬
ниями и, следовательно, в состоянии понять содержание доку¬
мента, который сам подготовит по требованию экзаменаторов. В свете
сказанного не может не вызвать удивления решение апелляционного
суда отвергнуть машинную распечатку в качестве свидетельского
показания.
Знание — это способность давать правильные ответы на постав¬
ленные вопросы. Конечно, не всегда ясно, какой ответ считать
правильным. Вообразите, что, вернувшись с работы, вы застаете
в своем доме незнакомца. «Какого черта вы тут делаете?!» — кри¬
чите вы в ярости. «Но ведь каждый должен где-то находиться»,—
слышится в ответ. Как оценить такой ответ: на десять баллов из
десяти возможных или на нуль? Любая промежуточная оценка
здесь, по-видимому, не годится.
Но если отбросить в сторону шутки, то ныне уже не вызывает
сомнений, что компьютеры могут отвечать на вопросы, а следова¬
тельно, они могут обладать знаниями. И досточтимым судьям
из апелляционного суда следовало бы понять это. Гораздо менее
известно то, что компьютеры могут не только владеть знаниями,
но и создавать их.
122 Компьютер — творец
Информация — это еще не знания
Читатели, которые помнят, чему их учили в курсе физики, могут
задать вопрос: «Позвольте, но разве второе начало термодина¬
мики не говорит, что информацию создать нельзя?» Это, конечно,
так, но информация и знания — это не одно и то же. Информация
сама по себе мало что значит. Возьмем, к примеру, число 4.38.
Оно совершенно бессмысленно, если вы не знаете, что это, скажем,
время отправления поезда в Бирмингем. Кроме того, вам нужно
еще знать, где находится Бирмингем по отношению к тому месту,
где сейчас вы находитесь и куда хотите поехать.
Знания — это специальная форма представления информации,
позволяющая человеческому мозгу хранить, воспроизводить и
понимать ее. В этом же смысле можно сказать, что питьевая вода —
это особая форма Н20. Добыть крупицу знаний из горы информа¬
ции так же сложно, как набрать чашку воды из глыбы льда. В обоих
случаях нужно приложить немало труда, чтобы получить неболь¬
шой, но, возможно, бесценный результат.
О различиях между информацией и знаниями мы поговорим
подробнее дальше. Но прежде всего посмотрим, что понимается под
количеством «информации» в физике. Формальное определение
информации было предложено Клодом Шенноном в 1940 г., когда
он работал в фирме «Белл телефон лабораторис» [1]. Может пока¬
заться, что в каком-то смысле это определение совершенно не соот¬
ветствует нашему интуитивному представлению об информации.
В своем простейшем виде количество информации определяется
числом бит, необходимых для кодирования несущего эту инфор¬
мацию сообщения. Так,
1001011010100011
— это сообщение, содержащее 16 бит. Существует 21в (или 65 536^
различных сообщений, которые можно записать с помощью 16 бит;
мы привели здесь лишь одно из них. Но такой простой подсчет
числа бит может оказаться неправомерным в качестве меры коли¬
чества действительной информации, поскольку на самом деле при
этом следует учитывать еще один фактор. Рассмотрим другое сооб¬
щение на 16 бит:
0101010101010101.
Здесь совершенно очевидна определенная закономерность, и дан¬
ное сообщение можно записать в ином виде:
«01» восемь раз подряд.
Длинные, обладающие регулярной структурой сообщения такого
рода можно естественным образом сжимать в более короткие, со¬
держащие меньшее число бит. Однако сообщения, в которых нет
Созидание нового знания 123
внутренней закономерности и где очередные единички появляются
довольно случайно, так сжать нельзя.
Но абсолютная случайность встречается крайне редко. Напри¬
мер в естественных языках ее практически нет. Самый примитив¬
ный и наиболее распространенный способ кодирования английского
текста в вычислительных машинах состоит в том, что каждой букве
алфавита приписывается 8 бит памяти машины; однако это приво¬
дит к огромным излишним затратам, поскольку язык предостав¬
ляет большое количество информации сверх необходимой. Это так
называемая «избыточность» языка. Попробуйте выкинуть все глас¬
ные из предложения
Н СЛШН В СД ДЖ ШРХ, ВС ЗДС ЗМРЛ Д ТР.
Понять смысл этой и многих других фраз, записанных подобным
образом, несложно — недаром в древности иудеи вообще писали
без гласных. Есть и еще одно соображение; оно связано с тем, что
разные буквы употребляются неодинаково часто: так, в английском
языке буквы (£, Т) встречаются гораздо чаще, чем, скажем (X, Z).
В таком случае имеет смысл приписать более распространенным
буквам более короткие коды, чем редким,— именно так поступил
Сэмюэл Морзе при создании телеграфного кода. С учетом сказанного
можно считать, что истинное количество информации, передаваемой
английской речью, составляет скорее 1 бит на букву, чем 8.
В сущности, информационная ценность сообщения определяется
его неожиданностью для получателя. Если вы полностью или ча¬
стично знаете, какое сообщение должно прийти, то получение его
не содержит для вас никакой информации. К примеру, в английском
языке обычно после Q идет U, так что буква U в этом случае не
несет никакой информации. Ее там могло вообще не быть — с
технической точки зрения она избыточна. Шеннон предложил
свою меру количества информации, учитывая вероятности появления
каждого символа; при этом более вероятным символам приписыва¬
лось меньшее количество информации. Суммируя и усредняя «по¬
казатели неожиданности» отдельных символов, из которых состоит
сообщение, мы получаем меру «неожиданности» всего сообщения,
и тем самым суммарное количество информации, которое оно несет.
Разумеется, все сказанное не имеет ничего общего с содержа¬
нием сообщения или с тем, какой интерес оно для нас представляет.
Сообщение, состоящее из беспорядочной мешанины букв, содержит
очень много информации, но совершенно неинтересно. На другом
полюсе — абсолютно упорядоченное сообщение типа
ААААААА...,
что тоже неинтересно. На первый взгляд «интересны» только те
сообщения, которые далеки от этих двух крайностей. Но при более
124 Компьютер — творец
внимательном рассмотрении выясняется, что интерес, который
вызывает сообщение, определяется тем, что оно обозначает, т. е.
его содержанием. А этот аспект проблемы в классическом труде
Шеннона не исследовался.
На основании второго начала термодинамики
Обратимся теперь к термодинамике, точнее — к ее второму на¬
чалу, о котором Ч. П. Сноу говорил, что неспециалисты должны
чувствовать себя виноватыми, что не понимают его. Этот закон
утверждает, что, поскольку энергия звезд излучается в бесконеч¬
ное пространство космоса, энергия горячих и холодных участков
Вселенной постепенно выравнивается, и в конечном счете всюду
должно наступить царство безжизненного жгучего холода — «теп¬
ловая смерть». В результате существующее ныне разнообразие
структур медленно уменьшается и возрастает беспорядок. Как
говорят физики, происходит непрерывный рост энтропии (меры
беспорядка); при этом информация — противоположность энтро¬
пии — уменьшается. Космический порядок исчезает во всеобщем
хаосе.
Отсюда следует, что информация может, видимо, возрастать
только на локальном уровне, и то при условии, что где-то в ином
месте она уменьшается. Таким образом, глобально информацию
невозможно создать — ни человеку, ни машине, ни кому бы то ни
было.
Во избежание возможных толкований этого утверждения при¬
менительно к космологии или квантовой физике здесь следует
сделать небольшую оговорку. Пол Дэвис из Ньюкаслского универ¬
ситета говорит о том, что физики начинают задаваться вопросом,
а не происходит ли в непрерывно расширяющейся Вселенной созда¬
ния информации, т. е. уменьшения энтропии за счет гравитации.
Что касается противоположного по масштабам уровня, а именно
уровня субатомных частиц, то принцип неопределенности Гейзен¬
берга утверждает, что по самой природе атома невозможно пред¬
сказать, как и когда произойдет его радиоактивный распад. По¬
этому каждый распад атома — это в каком-то смысле «неожидан¬
ность», т. е. можно сказать, что при этом информация создается.
Тем не менее законы статистики не оставляют сомнений в том,
что подобные события никак не могут повлиять на количество ин¬
формации, воспринимаемое на человеческом уровне. Более того,
обнаружить распад атома и, значит, получить соответствующую
информацию мы можем только путем усиления этого эффекта с
помощью счетчика частиц, но этот прибор питается энергией и,
следовательно, потребляет информации больше, чем предоставляет
нам.
Созидание нового знания 125
Такйм образом, если, как утверждается в некоторых теориях,
информация и может создаваться на космическом или субатомном
уровнях, то на уровне поведения человека и созданных им машин
это все равно невозможно.
Тем не менее интуитивно трудно понять, что нельзя создавать
информацию. Рассмотрим такое предложение: «Высота нового
небоскреба 350 м». Здесь, безусловно, заключена некая информа¬
ция, которая, казалось бы, только что создана. Она существует
в данный момент и не могла существовать пока не было здания.
Однако, с точки зрения специалиста по теории информации, она
существовала и раньше. Информация существовала — пусть не¬
осознанно — в мозгу архитектора даже до того момента, как он
начал конструировать здание, а еще много раньше — в миллионах
вещей, которые побудили архитектора взяться за постройку.
Такой взгляд на информацию лишь подтверждает принцип при¬
чинно-следственных связей: информация, описывающая каждое
событие, полностью содержится в обстоятельствах, его вызыва¬
ющих. Хотя содержится в ином виде, и ее чрезвычайно трудно
извлечь. Вопрос о получении информации занимает центральное
место в понятии знания: знание того, что высота нового небоскреба
составляет 350 м, создается в момент, когда соответствующая ин¬
формация структурируется в виде, подходящем для ее восприятия
нашим сознанием.
Новое знание старой информации
Итак, создавать информацию компьютеры не могут. Это давно
очевидно. Но то, что машинам ничто не мешает создавать знания,
стало понятным лишь в последнее время. Именно это открытие
со всеми вытекающими из него последствиями и послужило основ¬
ным импульсом к написанию данной книги.
Из чего создается знание? Из информации. Путем чисто внут¬
ренних преобразований компьютер может получить дополнитель¬
ные знания для себя (а таким образом и для мира в целом), исполь¬
зуя фиксированное количество информации. Поясним на простом
примере. Предположим, мы написали программу разложения на
простые сомножители, которая позволяет узнать, является ли
любое число — в пределах до 10 млн.— простым или составным.
Более того, мы выработали у программы привычку запоминать
результаты всех проделанных ею вычислений. Компьютер у нас
медленнодействующий — для домашних нужд, поэтому если за¬
дать ему число 1 005 973, то он считает так долго, что нам стано¬
вится скучно и мы прерываем его прежде, чем ответ готов. На каж¬
дое испытание отводится определенное время, так что в данном
случае он не получает никакой оценки. Потом мы заинтересовались
126 Компьютер — творец
числом 997, и вскоре программа сообщила нам: «Простое» и запом¬
нила это. Итак, теперь ее знания распространяются по меньшей
мере на 997. А что она знает еще?
Мы задаем ей 999 997 и выходим, пока она считает. Никаких
оценок еще нет. К моменту нашего возвращения программа закон¬
чила работу и, как всегда, запомнила результат. Поэтому неуди¬
вительно, что, когда мы вновь ее спрашиваем: «999 997», она не¬
медленно дает ответ: «Составное», просто посмотрев в таблицу.
Более того, теперь она может ответить и на самый первый вопрос,
с которым так долго не могла справиться раньше, определив за
какие-то секунды, что 1 005 973 — составное. Это, казалось бы,
чудо объясняется тем, что для ускорения вычислений программа
воспользовалась фактом, который только что установила, а именно:
число 997 — простое. Как видим, знания здесь создаются и ис¬
пользуются, хотя информация остается неизменной — той, что
заключена в первоначальной программе. Что же в таком случае
меняется? Просто-напросто размер той части общего количества
информации, которой, по меркам экзаменаторов, можно восполь¬
зоваться достаточно быстро.
Понятия создает структура
Приведенный пример не отражает реальности, поскольку получен¬
ные здесь знания вряд ли можно считать существенными с точки
зрения человека, но он позволяет понять, что нужно для того,
чтобы информация превратилась в знания. Информация должна
быть определенным образом структурирована. Когда такая ин¬
формационная структура узнаваема для человека, ее называют
понятием. Полезные знания — это информация, организованная
в виде понятий.
Возвращаясь к задаче об отправлении поезда в Бирмингем,
мы видим, что в основу его решения можно положить такую струк¬
туризацию информации, которая позволит построить расписание
движения поездов и карту с обозначенными на ней станциями и
соединяющими их путями. Если же говорить о более внушительном
примере, то достаточно вспомнить программу AM Дуга Лената,
рассмотренную в предыдущей главе. Основной смысл ее заклю¬
чается в том, что она работает с понятиями, каждое из которых
хранится в компьютере в виде специальной структуры. На при¬
веденной здесь врезке показано одно из них, а именно понятие
множества. Если не обращать особого внимания на детали, то
здесь нетрудно увидеть, каким образом программа компьютера,
может оперировать с отдельными элементами структуры, устанав¬
ливая связи между различными понятиями и заполняя свободные
слоты в структуре.
Созидание нового знания 127
Пример информационной структуры: в таком виде программа AM содержит
понятие «множества» [2]
ИМЯ (ИМЕНА): Множество, Несобственный класс, Совокупность, Конеч¬
ное множество
ОПРЕДЕЛЕНИЯ:
РЕКУРСИВНОЕ: “k(S) [S= {} или Множество. Определение Определение
(Устрани (Любой элемент (S),S))]
БЫСТРОЕ РЕКУРСИВНОЕ: ?i(S)[S={} или Множество. Определение
(CDR(S))]
БЫСТРОЕ: l(S) [Сравни S с {...}]
СПЕЦИАЛИЗАЦИИ: Непустое-множество, Множество-множеств, Множе¬
ство-чисел
ГРАНИЧНЫЕ: Пустое-множество, Одиночка, Пара, Тройка
ЕСТЬ: Какая-то структура
ПРИМЕРЫ:
ТИПИЧНЫЕ: {{ }}, {А}, {А,В}, {3}.
РЕДКИЕ: {}, {А.В^.ША.СДЗ.З.Э), <4, {В}, А> )}>}}
НЕ-ОЧЕНЬ: {А,А}, (), {В,А}
НЕЗАКОННЫЕ: (4, 1, А, 1>
ГИПОТЕЗЫ: Все неупорядоченные-структуры суть множества
ИНТУИТИВНЫЕ ПРЕДСТАВЛЕНИЯ: Геометрическое: Диаграмма Венна
АНАЛОГИИ: {множество, операции с множествами }= {список, операции
со списками}
ПОЛЕЗНОСТЬ: 600 [по шкале 0—1000]
ИНТЕРПРЕТАЦИЯ:
ПРЕДИКАТ: ^(Р) {х£Область-определения (Р)|Р(х)}
СТРУКТУРА: X(S) Поставить-в скобки
(Сортировать (Удалить-повторяющиеся-элементы (S)))
ПРИНАДЛЕЖИТ ОБЛАСТИ-ОПРЕДЕЛЕНИЯ: Объединение, Пересечение,
Т.-М.-разность, Подмножество, Элемент, Прямое-произ-
ведение, Эквивалентность-множеств
ПРИНАДЛЕЖИТ ОБЛАСТИ-ЗНАЧЕНИЙ: Объединение, Пересечение,
Т.-М.-разность, Удовлетворяющее
Понятие множества было одним из понятий, которые задавались
программе AM с начала ее работы. Теперь обратимся к следующей
врезке. Здесь рассматривается понятие «простого числа». Вспом¬
ните, что исходно это понятие программе AM не было задано — она
построила его сама. В процессе своей работы она создала новое
знание.
Понятие «простого числа», созданное программой AM
ИМЯ (ИМЕНА): Простые числа, Простые, Числа-с двумя-сомножителями
ОПРЕДЕЛЕНИЯ:
ИСХОДНОЕ: Сомножитель-(х)-есть Пара
ИСЧИС.-ПРЕДИКАТОВ: Простое (x)=(Vz)(z|x-^z= 1 XORz-x)
ИТЕРАТИВНОЕ: (для х>1): Для i от 2 до х—1. “l(i|x)
ПРИМЕРЫ: 2, 3, 5, 7,11, 13, 17
ГРАНИЧНЫЕ: 2, 3
ГРАНИЧНО-НЕЗАКОННЫЕ: 0,1
НЕЗАКОННЫЕ: 12
128 Компьютер — творец
ОБОБЩЕНИЯ: Числа, Числа с четным числом делителей, Числа с простым
числом делителей
СПЕЦИАЛИЗАЦИЯ: Близнецы, Простые, допускающие единственное раз¬
ложение в сумму простых
ГИПОТЕЗЫ: Единственность факторизации, Гипотеза Гольдбаха
АНАЛОГИИ: Максимально-делимые числа суть противоноложная край¬
ность Делителей
ИНТЕРЕС: Гипотезы, связывающие Простые с сомножителями, с Делите¬
лями ( ) и с другими близкими операциями
ПОЛЕЗНОСТЬ: 800
Эдинбургские открытия
Разумеется, новое знание в данном случае не было оригинальным,
поскольку идея простого числа известна давным-давно. (Заметим,
что название «Простое число», которое фигурирует в структуре,
придумано не программой — его Ленат добавил позже.) Но совсем
иначе обстоит дело с экспертной системой для игры в эндшпиле,
созданной исследователями в Эдинбурге. В самом начале работы
Иван Братко (сам он шахматный мастер) построил набор правил
для игры королем и ладьей против короля противника в виде
структуры, названной «консультационной таблицей». Затем правила
были введены в машину для взаимной увязки, перепроверки, уточ¬
нения и доказательства. Когда экспертная система заработала,
Братко перевел правила обратно на английский язык, полагая,
что они будут мало отличаться от первоначальных формулировок,
заимствованных из учебника. Однако получилось нечто совершенно
иное. Братко обнаружил, что шесть полученных машиной правил
более совершенны, кратки и удобны для понимания, чем те, что
приводятся в шахматных учебниках. Вместо целых страниц рых¬
лого текста и диаграмм получился набор из шести правил, на¬
столько простых и ясных, что любой человек мог бы понять и даже
запомнить их (см. табл. 3). Ребенок в состоянии выучить эти пра¬
вила и с их помощью играть такой эндшпиль как зрелый шахматный
мастер.
Братко сделал важное открытие: доказал, что компьютер может
дать человеку возможность создать новое знание, приобрести ко¬
торое иным способом ему бы не удалось. Правила, полученные
машиной, были совершенно оригинальны, не известны ни одному
шахматисту и не встречались ни в одном учебнике. Но все-таки
в основе своей эти знания были созданы людьми, а не машиной.
Так было до тех пор, пока два других исследователя из Эдинбург¬
ского университета Тим Ниблет и Ален Шапиро не занялись шах¬
матным окончанием: король с пешкой против короля. За отправную
точку они взяли гигантскую таблицу для этого эндшпиля, механи¬
чески составленную Майклом Кларком для «слепого поиска»,
подобного тому, что мы описали в гл. 3. Для каждой позиции
Созидание нового знания 129
Таблица 3. Стратегия Ивана Братко для выигрыша эндшпиля
«король и ладья против короля» — знание, созданное машиной
1. Следуя правилам, сформулированным ниже, убедитесь, что на доске не
создается пат и что вы не ставите ладыо под бой
2. Посмотрите, есть ли возможность сделать мат королю противника в два хода
3. Если предыдущее невозможно, ищите способ дальнейшего ограничения части
доски, выйти за которую королю противника мешает ваша ладья
4. Если предыдущее невозможно, ищите способ приблизить своего короля
к королю противника
5. Если невозможно последовать ни одному из советов 2, 3 или 4, найднте
способ сохранить достигнутое в смысле рекомендаций 3 и 4 (т. е. сделайте
выжидательный ход)
6. Если невозможно последовать советам 2, 3, 4 или 5, найдите способ создать
такую позицию, при которой ладья разделяет двух королей либо по верти¬
кали, либо по горизонтали
таблица указывала, «ничейная» она или «проигрышная», но не
давала никаких объяснений, почему это так; она не давала также
никакой структуры или понятной модели, по которой можно было
бы уяснить, чем объясняется сделанный вывод. Ниблет и Шапиро
«прогнали» избранные части таблицы через программу индуктивного
вывода, названную ID 3, и в результате некоторой полуавтома¬
тической процедуры получили множество деревьев решений, кото¬
рым любой человек может воспользоваться, чтобы оценить ту или
иную ситуацию [3]. Главное из этих деревьев приведено на рис. 24.
Вместе с другими поддеревьями оно представляет для шахматистов
интересный материал. Из совершенно неудобоваримой информации
программа ID 3 в самом деле создала новое знание.
Ниблет и Шапиро не только заставили машину создать не су¬
ществовавшее прежде знание, но и получили результат, представ¬
ляющий собой полную противоположность таблице Кена Томпсона
(см. гл. 3) с характерной для нее непостижимостью выводов. Ин¬
формация, выдаваемая компьютером в эксперименте Ниблета и
Шапиро, была абсолютно понятной и выражена на языке челове¬
ческих, а не машинных понятий, так что и машины и люди были
в равной степени способны воспринять ее.
Однако с точки зрения обогащения шахматной теории послед¬
ние два результата мало что могут дать шахматистам на уровне
мастеров и выше. Совершенно иначе обстоит дело со следующей
задачей, исследованной Шапиро, где рассматривалось окончание:
король и пешка против короля и ладьи. Уровень сложности этой
задачи далеко превышает возможность обычного шахматного ма¬
стера адекватно описать ситуацию. Шапиро рассматривал кон¬
кретную позицию, когда пешка стоит на предпоследнем ряду на
поле а7, С помощью шахматного мастера Дэнни Копека он отобрал
^ Д. Мичи, Р. Джонстон
130 Компьютер — творец
Общий смысл признака
сапгп - особый класс позиций, позволяю¬
щий белым независимо от игры черных
провести пешку, не трогая короля
mainp означает, что либо имеет место,
либо достижима позиция marnpatt
проходная пешка является слоновой
и достижима позиция сапгп
пешка стоит на 5-й или 6-й горизонтали
и либо имеет место, либо достижима
позиция rank 6 patt
пешка стоит на 7-й горизонтали, и белый
король может форсированно встать рядом
блокируемость позиций сапгп и mainp
взаимно противоречат друг другу
Ничья
Рис. 24. Знание, созданное машиной в виде главного дерева решений про¬
граммы ID-3, позволяющей выявить «ничейные» и «проигрышные» для чер¬
ных позиции в эндшпиле «король с пешкой против короля». Для каждого
из указанных шести атрибутов синтезировано свое дерзво, использующее
более простые атрибуты.
тридцать пять простейших атрибутов, описывающих положение
на доске, таких, как: белый король на краю доски; черный король
напал на белую пешку и пр. Затем он попросил Копека привести
примеры всех ситуаций, обладающих приведенными свойствами,
и продемонстрировать их возможное развитие и последствия. Эти
данные были заложены в программу «Интеректив ID 3», с помощью
которой удалось получить набор из девяти правил, структуриро¬
ванных в виде дерева. Первое из них (вначале сопровождаемое
описанием, сделанным человеком) гласит:
Пешка на а7. Главное правило. С помощью этого правила выясняется,
является ли позиция белых с пешкой на а7 и правом первого хода выигрыш¬
ной или нет против короля и ладьи противника.
Позиция Кр, а7—Кр, Л выигрышна для белых. (РА7, 1), тогда н только
тогда, когда черная ладья берется сразу (rimrax)
Ложно
Ложно
гоокр
Ложно
rank 56
Ложно
rank 7
Ложно
inter
Ложно
Проигрыш
Проигрыш
► Проигрыш
► Проигрыш
Созидание нового знания 131
либо когда не имеет места ни одно из следующих утверждений: белые не
могут сразу превратить пешку в ферзя (DQ,2,1),
либо одна или несколько черных фигур контролируют поле превращения
пешки в ферзя (bxqsq),
либо существует реальная угроза последующей связки (DS,2,2).
Каждый из фигурирующих в правилах колов относится к исходу
применения одного из вспомогательных правил более низкого
уровня. И снова мы видим, что было создано полезное знание,
выраженное в понятных для людей терминах, причем на сей раз
относящееся к чрезвычайно сложной проблеме.
Самое важное во всех этих примерах состоит в том, что компью¬
теры создали знания не только для самих себя, но и для исполь¬
зования их людьми при решении реальных проблем. Разумеется,
вопросы классификации шахматных окончаний представляют прак¬
тический интерес лишь для специалистов по эндшпилям, однако
дальнейшие исследования Ивана Братко показали, что знания, по¬
лучаемые машинами, могут внести значительный вклад и в решение
важных проблем, стоящих перед людьми, в данном конкретном
случае — в диагностику сердечных заболеваний.
Заглядывая в самое сердце
Главное средство, которым пользуются врачи при диагностике
сердечных заболеваний,— это электрокардиограммы, т. е. реги¬
страция сигналов, создаваемых электрическим полем сердца,
которая осуществляется автоматически записывающим устройством.
ЭКГ здорового сердца выглядит примерно так, как изображено
на рис. 25. Врачи расшифровывают эту запись, изучая взаимное
расположение основных ее элементов — комплексов Р, Q, R,
S и Т. Различные заболевания сердца приводят к изменению силы
и синхронизации сокращений, в результате чего ЭКГ может при¬
обрести, например, такой вид, как показано на рис. 26. Такое
состояние называется «аритмией». Существуют 26 различных видов
аритмии, причем каждому соответствует свой тип ЭКГ, и специа-
листы-кардиологи учатся их распознавать. Трудность состоит в
том, что, как правило, одновременно наблюдается не одно, а более
нарушений сердечной деятельности, так что, если судить по первому
впечатлению, то можно насчитать более 100 тыс. комбинированных
типов аритмий. Картины различных аритмий, накладываясь друг
на друга, дают такие ЭКГ, которые чрезвычайно сложно расшиф¬
ровать. Комбинированную аритмию в сложных случаях до сих
пор не удалось идентифицировать даже при помощи компьютера,
а вопрос о том, чтобы сделать это «вручную», вообще не стоит.
Пытаясь подойти к решению этой проблемы, Братко со своими
коллегами из Института Йозефа Стефана в Любляне воспользо¬
вались методом обратной функции (о которой уже упоминалось в
гл. 3), поскольку в ряде случаев, когда трудно идентифицировать
5*
132 Компьютер — творец
функцию впрямую, сравнительно легко получить обратную ей.
Следуя этой идее, югославские ученые просмотрели с помощью
компьютера все возможные комбинации пороков сердца и для
каждой из них построили соответствующие ЭКГ. Все это было
оформлено в виде таблицы, в которой врач мог отыскать конкретный
вид ЭКГ и поставить соответствующий диагноз.
Рис. 25. ЭКГ здорового сердца вместе с соответ¬
ствующей качественной расшифровкой Ивана
Братко.
Обычный синусовый ритм. Ритм: нормаль¬
ный; частота: 60—100; частота зубца Р: 60—100;
зубец Р: в норме; отношение P/QRS: сначала
Р, потом QRS; комплекс PR: в норме; комплекс
QRS: в норме.
Рис. 26. ЭКГ больного-«сердечника» вместе с со¬
ответствующей расшифровкой. (Иван Братко.)
Желудочковая тахикардия. Ритм: нормаль¬
ный; частота: 100—250; зубец Р: отсутствует;
комплекс QRS : уширенный.
Группа Братко решила эту задачу, построив с помощью кардио¬
логов на ЭВМ модель функционирования электрической системы
сердца, включающую четыре генератора импульсов, два электри¬
ческих канала, по которым распространялись импульсы, и учиты¬
вающую скорость кровотока через камеры сердца. Модель содер¬
жала 62 правила, указанные кардиологами, например:
ЕСЛИ наблюдаются эктопические импульсы на пучках Гиса и над же¬
лудочками, пришедшие из AV отведений,
ТО для соответствующей ЭКГ характерно: либо короткий интервал
PR, либо отсутствие зубца Q, либо зубец P после комплекса QRS.
Эти правила описывают не только природу тех или иных осо¬
бенностей ЭКГ, но и тот факт, что многие комбинации аритмий
с физиологической точки зрения невозможны. Например, невоз¬
Созидание нового знания 133
можна комбинация таких двух типов аритмий, при которых один
и тот же фактор в одном случае должен быть аномально высок,
а в другом — аномально низок. И наоборот, некоторые виды арит¬
мии не могут возникать поодиночке. Виды ЭКГ описывались на
качественном уровне — с указанием взаимного расположения эле¬
ментов Р, Q и т. п., а не на количественном — с указанием заме¬
ренных частот. Затем правила были переложены на машинный
язык Пролог, и перед машиной была поставлена задача найти все
возможные комбинации аритмий и соответствующих им ЭКГ. Их
оказалось 588. Теперь врач может довольно легко найти в таблице
нужный эталон ЭКГ и соответствующий ему диагноз. Поскольку
система содержит полное качественное описание работы электри¬
ческой системы сердца, можно без труда получить и понять объяс¬
нения, каким образом был сделан такой вывод.
Таблица, построенная системой Братко, безусловно, представ¬
ляет собой ноЕое знание, причем очень важное с точки зрения че¬
ловека. Эта система уже используется в Медицинском центре Люб¬
лянского университета для обучения врачей. Что же касается ее
практического применения для диагностики, то здесь специалисты,
как правило, не ограничиваются лишь результатами ЭКГ. Од¬
нако если пациент регулярно принимает лекарства, например
сердечные средства, то картина заметно усложняется, и даже
самые опытные специалисты испытывают определенные трудности
в постановке правильного диагноза. Ожидается, что расширенный
вариант системы Братко, учитывающий действие лекарств, озна¬
менует значительный прогресс в лечении сердечных заболеваний.
Между системой диагностики заболеваний сердца и предыду¬
щими нашими примерами создания нового знания существует
интересное различие. В то время как в примерах с шахматами
новое знание было получено преобразованием и концентрацией
искусства профессионалов, здесь это знание формировалось на
основе собственного понимания машиной механизмов работы сердца.
Таким образом, в каком-то смысле вклад машины в создание но¬
вого знания был больше во втором случае.
В этой книге мы уже приводили примеры создания компьюте¬
рами нового знания — вспомните хотя бы систему «Эвриско» Дуга
Лената (гл. 5). Она работает по иному принципу, чем системы с
базами данных, о которых мы рассказывали сейчас, но творчество
ее столь же оригинально, а заложенные в ней эвристические методы
обещают стать перспективным источником новых знаний в будущем
Решения, найденные машинами
То, что компьютеры в состоянии самостоятельно разрабатывать
стратегии целесообразного поведения человека, представляется
открытием исключительной важности. Вернемся к вопросу, постав¬
134 Компьютер — творец
ленному в начале гл. 2: смогут ли машины когда-нибудь давать
нам ответы на вопросы типа: «Что случилось с этим пациентом?»
или «Стоит ли здесь бурить скважину?» Технология экспертных
систем позволяет машинам иметь дело с подобными вопросами,
пользуясь при этом знаниями, предоставленными им человеком.
Но недалек тот день, когда машины будут брать необходимые
знания не у людей, а у машин. Возможные последствия этого трудно
переоценить. Мир стоит перед лицом множества проблем — боль¬
ших и малых. К числу первых относятся: перенаселение, нищета,
болезни, загрязнение окружающей среды, нехватка энергии, меж¬
дународные конфликты и экономический застой. Можно ли пред¬
ставить себе вычислительные машины, вырабатывающие решения
по всем этим проблемам? Безусловно. Разумеется, большинство
вопросов, с которыми творческий компьютер способен иметь дело
сейчас, далеки от подобных глобальных масштабов, но это только
начало. Ведь не рассчитывают исследователи, занимающиеся син¬
тезом живой материк, сразу получить в лаборатории лошадь.
Наука всегда начинает с малого: в живой материи это, вероятно,
вирус, а в решении проблем — это планирование состава гипоте¬
тического флота, анализ шахматной позиции, конструирование
интегральной схемы или системы диагностики заболеваний сердца.
Можно, конечно, представить себе, что кто-то мог бы составить
«вручную» таблицу типов аритмии Братко, не используя методов
представления знаний, но примечательно, что никто этого не до¬
гадался сделать. Если же говорить о наборе правил Шапиро, то,
без сомнения, его не смог бы построить ни один шахматист. Мы
уже перешли границу того, что доступно ручной обработке. По¬
следние достижения ясно показывают, в каком направлении идет
развитие вычислительной техники. Схемное обеспечение становится
все дешевле, и недалек тот день, когда мы признаем целесообраз¬
ным открывать базирующиеся на использовании компьютеров
«фабрики знаний», где машины будут накапливать и уточнять за¬
пасы данных, необходимых для принятия действительно важных
решений. Определять, важны эти знания на самом деле или нет,
будут люди, но в какой-то мере и сами машины, что избавит чело¬
века, контролирующего их деятельность, от утомительной работы
по отделению зерен от плевел.
Уже сейчас можно вообразить, как рождаются предприятия,
единственная задача которых состоит в создании нового знания
с помощью машин, использующих в качестве «сырья» как знания
человека, так и выводы, полученные с помощью больших машинных
моделей и логических систем. Некоторые из этих «фабрик знаний»
будут заниматься сравнительно узкими специальными пробле¬
мами, такими, как диагностика и лечение конкретных заболева-
ний, тогда как другие станут разрабатывать глобальные вопросы,
Созидание нового знания 135
например связанные с мировой экономикой. Появится возмож¬
ность именно таким путем решать широкий круг проблем — боль¬
ших и малых.
Мера творчества
А что можно ждать от компьютера, если речь идет о творчестве?
Здесь нельзя не отметить, что на повседневном уровне творческая
деятельность в какой-то степени осуществляется все время —
людям, к примеру, постоянно приходится разбираться в том, что
происходит в окружающем их мире. Однако по-настоящему твор¬
ческое решение действительно важных задач не столь часто. Учи¬
тывая это, можно ожидать, что, затратив гигантские вычислитель¬
ные ресурсы, мы в итоге получим сравнительно немного нового
знания, но вычислительные ресурсы становятся все дешевле, а
потенциальные возможности новых методов машинной индукции
остаются практически нереализованными.
Если мы хотим оценить количество вновь созданного знания,
то нам нужно уметь измерять его. Совершенно очевидно, что коли¬
чество и качество здесь неразрывно связаны. Чтобы понять, как
можно было бы провести подобное измерение, обратимся вновь к
экспертным системам. Огромное множество сложнейших задач
программы не в состоянии решить за обозримое время. Но как
только человек вводит в эти программы свои советы в виде эври¬
стических правил, машины вдруг обретают способность получить
их решение. Скажем, в шахматах машина, обладающая знаниями,
может немедленно сделать разумный ход, не продираясь через
миллионы разветвлений дерева альтернатив. Оценив, насколько
быстрее стала работать программа после получения совета, мы
можем получить некую количественную меру содержащегося в нем
знания [4].
Уточнение знаний
Когда экспертные системы только начали создаваться, предпола¬
галось, что они просто смогут заменить человека-специалиста.
Никто не мог и подумать, что на их выходе удастся получить боль¬
ше, чем закладывается на входе. Но экспертные системы препод¬
несли нам неожиданный подарок: они действительно способны
помочь систематизировать и усовершенствовать знания человека
и, основываясь на каких-то обрывочных, непоследовательных и
далеко не безупречных сведениях, превращать их в нечто более
точное, достоверное и понятное. Этот новый процесс, таящий в
себе огромные возможности для будущего, мы называем «уточне¬
нием знаний».
136 Компьютер — творец
Таблица 4. Показательные примеры использования программ обработки
знаний, приведших к усовершенствованию систематизации
и представления знаний человека, т. е. к «уточнению знаний»
Представление, су- Инструмент уточне- Желаемый конечный
Предметная ооласть ществовавшее ранее ння знаний результат
Шахматы: как сра- В публикациях не
зу заметить форси- встречается нетри-
рованную комбина- виальной класси-
цию фикации
Шахматы: как по- В учебниках для
ставить мат, играя начинающих Капа-
королем и ладьей бланки, Файна и
против короля др.
Шахматы: класси- В учебниках Авер-
фикация позиций баха и др.
«король с пешкой
против короля»
Диагностика желу- Набор карточек с
дочно-кишечных за- контрольными при-
болеваний знаками и симпто¬
мами, составленных
хирургом-консуль-
тантом для участ¬
ковых врачей
Диагностика и вы- Учебники по меди-
бор лечения для цине
внутренних забо¬
леваний
Планирование ме- Учебники по хими-
тодов синтеза новых ческому синтезу
химических соеди¬
нений
Планирование по- Схема сборки игру-
следовательности шечных автомашин
роботизированной для Эдинбургской
сборки программы гибкой
сборки
Патология расте- Диагностическая
ний классификация за¬
болеваний сои, раз¬
работанная патоло¬
гами
Турнирная про- Учебник комбина-
грамма МАСТЕР на ций, приводящих
языке PL-1 к мату
Программа «Эд- Шесть достаточных
вайс-тейкер» (Лю- правил, коррект-
битель слушать со- ность которых стро-
веты) на языке AL-1 го доказана
Знания, заложен- Учебник правил,
ные в программе основанных на
«Эдвайс-тейкер», на структурном ана-
языках Пролог и лизе
AL-1 обрабатыва¬
лись программой
индуктивного выво¬
да ID-3
Программа с байес- Усовершенствован-
совыми решающими ная картотека при-
правилами сопоста- знаков и симптомов
вления структуры с указанием коли-
симптомов с одной чественных оценок
из 12 возможных релевантности и ве-
причин роятностей
Программа управ- Более совершенные
ления знаниями материалы обуче-
ИНТЕРНИСТ ния
Программа СЕКС с Более совершенные
базой данных по источники знаний
результатам хими- по вопросам хими¬
ческих «превраще- ческого синтеза
ний»
Программа Улучшенная после-
УОРПЛЭН на язы- довательность сбор¬
ке исчисления пре- ки
дикатов
Программа индук- Более совершенные
тивного вывода правила классифи-
АКВАЛ кации
Созидание нового знания 137
Продолжение
п ^ Представление, су- Инструмент уточне- Желаемый конечный
предметная область ществовавшее ранее ния знаний результат
Данные масс-спект- Изначально не было Модуль Мета- Подструктуры, оп-
роскопии моно- и никакого удовлет- ДЕНДРАЛ про- ределяющие основ-
поли-кето-андро- верительного объ- граммы ДЕНДРАЛ ные эффекты рас-
станов яснения результа- щепления и позво-
тов спектрального ляющие предсказы-
анализа вать результаты
для новых кето-
андростанов
Одним из первых это заметил Эд Фейгенбаум, занимаясь в Стан-
фордском университете экспертной системой ДЕНДРАЛ, предна¬
значенной для анализа химической структуры веществ. В Станфорд
стали приходить письма от химиков с просьбой выслать им копии
не программы, а правил, заложенных в нее. Они считали эти пра¬
вила очень полезными, поскольку в них профессиональные знания
были систематизированы гораздо лучше, чем это делалось прежде.
Следуя им, генератор правил программы Мета-ДЕНДРАЛ вывел
новые правила построения структур моно- и поли-кето-андроста-
нов. Как видно из табл. 4, это явление, связанное с уточнением
имеющихся знаний, было отмечено и в экспертных системах, рабо¬
тающих в некоторых других областях.
До сих пор мы сталкивались с экспертными системами, работа¬
ющими в двух режимах:
1) наполнения знаниями — с пользователем в роли учителя;
2) поиска ответов на вопросы — пользователь в роли клиента.
Теперь мы можем добавить к ним еще один режим:
3) «возделывание» базы знаний для последующего использо¬
вания их людьми — с пользователем в роли ученика.
Как правило, пользователи во всех этих трех случаях различны.
Например, если взять систему ПРОСПЕКТОР, то в роли учителя
здесь мог бы выступать экономист-геолог, который либо работал в
горнодобывающей компании, использующей эту систему, либо
специально был приглашен для того, чтобы сформировать, отладить
и настроить базу полезных знаний системы. А пользователем,
интересующимся решениями, скорее всего будет техническое ру¬
ководство компании. Что же касается учеников, то ими могут быть
либо те, кто занимался наполнением системы, либо любой другой
геолог, заинтересованный в том, чтобы получить специальные
знания в уточненной машиной форме. В первом и последнем случаях
диалог между машиной и человеком должен обязательно идти на
понятийном уровне, который привычен для человека. Это означает,
138 Компьютер — творец
что для уточнения знаний, а также для создания нового знания
компьютером весьма существенно, чтобы структуры, используемые
для предоставления знаний в машине, попадали в «человеческие
рамки» и описывали предметную область так же, как это делает
человек. В противном случае работа и в качестве обучающего, и в
качестве обучаемого станет невозможной.
Существует множество специальных областей знаний, каждая
со своими доктринами, учебниками и * зияющими пробелами, в
достаточной мере запутанная, и каждая из них дает богатый ма¬
териал для уточнения знаний. Можно представить себе возникно¬
вение целой отрасли промышленности, занимающейся этим видом
деятельности, с промышленным предприятием совершенно нового
типа — «заводом по уточнению знаний», который будет брать
знания в том виде, как они существуют, устранять их дефекты,
сводить воедино, по необходимости заполнять пробелы и «выпу¬
скать» проверенные и гарантированно точные знания.
Заглянув еще глубже, мы увидим, что нас окружают колоссаль¬
ные запасы знаний, относящиеся к самым различным интеллек¬
туальным уровням. Большинство из них, очевидно, нуждаются в
уточнениях и упорядочении. Результаты многовековой умственной
деятельности человека пылятся на библиотечных полках — про¬
тиворечивые, несоизмеримые, беспорядочные. Со временем мы
обретем возможность приступить к пересмотру и уточнению всех
этих богатств. Человечество получит замечательный подарок, даже
если только часть накопленной в мире практической мудрости
удастся проанализировать и систематизировать, превратив таким
способом в точное и доступное всем знание.
Дальновидность Тьюринга
Далеко не просто претворить все эти планы в жизнь. Утверждение,
что компьютеры действительно способны создавать что-то новое,
многими встречено весьма скептически. Людям нелегко поверить
в творческие возможности машины. Отчасти это объясняется тем,
что творчество всегда связывалось с какой-то тайной, чем-то чисто
человеческим, и нам обидно видеть его сведенным до уровня болтов
и гаек. По-прежнему раздается: «Что посеешь, то и пожнешь!»
Многие серьезные ученые озабочены, кроме того, центральной
ролью, которая отводится индукции в творчестве компьютеров.
Так, известный историк и философ науки Карл Поппер отрицает,
что путем индукции можно получить новое знание. Однако полу¬
ченные в настоящее время конкретные результаты свидетельствуют
против сомневающихся. И здесь мы можем сослаться на человека,,
который, в сущности, заложил основы теории современной вычис¬
лительной техники задолго до того, как она получила техническое
воплощение. Этот человек — Алан Тьюринг, умерший в 1954 г.
Созидание нового знания 139
Самым большим достижением Тьюринга было то, что он еще
в 1937 г. путем мысленного эксперимента показал, что универсаль¬
ная вычислительная машина логически возможна и ей по силам
решение неограниченного числа различных задач. Придуманное
им гипотетическое устройство, называемое «универсальной машиной
Тьюринга», двигаясь взад-вперед по ленте, на которой записыва¬
лись данные и программа, считывало что-то в одном месте и перепи¬
сывало зафиксированное в другом до тех пор, пока на ленте не
возникал ответ. Как и подобает столь оригинальной личности,
Тьюринг обладал совершенно необычным складом ума и полной
независимостью суждений, на которые не влияли ни мнение, ни
поведение других людей. На службу он ездил на велосипеде, надев
противогаз для защиты от цветочной пыльцы. Во время второй
мировой войны, работая в засекреченном шифровальном центре
в Блетчли-парк, он зарыл в окрестных лесах свое серебро — про
запас на «черный день», если вдруг немецкие войска вторгнутся
на территорию Великобритании, а затем забыл, где закопал свой
клад. После войны он, пригласив в помощники одного из авторов
этой книги — юного тогда Дональда Мичи — попытался найти
свои сокровища с помощью самодельного металлоискателя — но
безуспешно.
Собственные попытки Тьюринга построить машину окончились
безрезультатно, но его идея о том, как это сделать, оказалась не¬
превзойденной. Задолго до появления реальных вычислительных
машин он описал многое из того, чем они будут заниматься, вклю¬
чая и такие понятия, без которых сегодня не обойтись, когда речь
идет об обработке данных: циклы, подпрограммы, самозагрузка,
дистанционный доступ. В докладе, прочитанном в Лондонском
математическом обществе в феврале 1947 г., он сделал ряд поис-
тине пророческих заявлений, которые поражают специалистов и
сейчас.
«Грубо говоря,— заявил он,— те, кто связан по работе с меха¬
низмами для автоматических вычислений, будут делиться на «хо¬
зяев» и «слуг». Хозяева этой техники станут разрабатывать для
нее таблицы команд, открывая все более глубокие возможности ее
использования. А слуги будут по мере необходимости «подкарм¬
ливать» ее перфокартами, поправляя то, что вышло из строя. Они
станут собирать информацию, которая этим механизмам нужна,
выполняя, по сути дела, функции «конечностей» этих механизмов.
Однако со временем счетная машина возьмет на себя роль и хозяев,
и слуг. Слуг заменят механические и электрические манипуляторы
и органы чувств. Например, можно было бы создать устройство,
следящее за формой кривых с тем, чтобы данные можно было не¬
посредственно вводить с графиков, а не заставлять девочек наби¬
вать считанные с графиков значения на перфокарты. Хозяевам
тоже придется уступить свое место, ибо, как только любой техни¬
140 Компьютер — творец
ческий прием становится стереотипным, появляется возможность
сконструировать систему таблиц команд, которая позволит элект¬
ронной вычислительной машине справляться с ним самостоятельно.
Не исключено, однако, что хозяева воспротивятся этому, ибо не
захотят таким образом лишиться своей работы. Они окружат свою
деятельность покровом таинственности и при первом же возникно¬
вении «опасности» будут напускать туман из тщательно продуман¬
ной чепухи. Я полагаю, что реакция такого рода представляет
собой действительную опасность. И эта тема естественным образом
подводит нас к вопросу о том, насколько вычислительная машина
в принципе способна имитировать человеческую деятельность» [5].
Будущее таблиц
Тьюринг подробно описывает, как машина хранит в памяти и дан¬
ные, и «таблицы команд» (программу). Таблицы будут заранее
тщательно разрабатываться математиками, но подобный способ
работы, по мнению Тьюринга, оставляет желать лучшего. «Нам
бы хотелось,— заявлял Тьюринг,— создать машину, которая могла
бы учиться на собственном опыте». И далее пояснял: «Говорят,
что вычислительные машины могут выполнять только то, что им
предписано в виде команд. Это, конечно, так — в том смысле, что
если они делают не то, что требуют команды, то это следует считать
ошибкой. Не вызывает сомнения и то, что при конструировании
таких машин их создателям прежде всего приходит в голову мысль
использовать их (машины) как своих рабов, т. е. поручать им только
такую работу, которая продумана человеком до мелочей и при
которой пользователь полностью осведомлен о том, что в принципе
делает машина на каждом своем шаге. До сих пор мы использовали
машины только в таком качестве. Но обязательно ли, чтобы подоб¬
ное положение сохранялось всегда? Предположим, мы снабдили
машину некоторым начальным набором таблиц команд, построенных
таким образом, чтобы в случае необходимости таблицы можно
было модифицировать. Нетрудно представить, что после того, как
машина поработает некоторое время, команды изменятся до неуз¬
наваемости, но тем не менее следует считать, что машина по-
прежнему выполняет очень нужные вычисления. Возможно, это
будут те результаты, на которые мы рассчитывали, запуская ма¬
шину, но полученные гораздо более эффективным способом. Тогда
придется признать, что такое достижение машины не было преду¬
смотрено, когда мы закладывали в нее первоначальные команды.
Она — как ученик, который многое взял от своего наставника, но
еще больше познал, работая самостоятельно. Когда произойдет
такое, я думаю, нам придется признать за машиной интеллект».
Возможности частичного изменения программы, осуществля¬
емого ею самой, в определенной степени заложены в некоторых
Созидание нового знания 141
языках низшего уровня. Однако чаще всего это воспринимается
как небрежность. Лишь в одном или двух языках искусственного
интеллекта предусмотрена возможность работать с кодами как
с информацией и одновременно обрабатывать данные как коды.
Тьюринг прекрасно знал, чего хочет, и характерно, что он не был
сторонником аккуратности и стандартизации. Заключительный
пассаж из его доклада 1947 г. красноречиво свидетельствует об
этом и, кроме того, закладывает фундамент под принципиальное
положение, согласно которому машины должны индуктивным
способом учиться модифицировать заложенные в них программы,
сообразуясь с наблюдаемым поведением людей.
«Можно говорить о том, что в самом понятии машины, облада¬
ющей интеллектом, заключается принципиальное противоречие.
Ведь сравнение с машиной стало у нас синонимом отсутствия гиб¬
кости и приспособляемости. И понятно, почему. В прошлом «память»
машин была предельно ограниченной, поэтому не могло быть и
речи о какой-либо свободе их действий. Но это же соображение
можно аргументировать иначе. Было доказано, например, что для
некоторых логических систем не существует машины, которая
могла бы отличить доказуемую формулу от недоказуемой, т. е. не
существует такого теста, с помощью которого машина могла бы
разделить утверждения строго на два класса. Так что если наша
машина создана для этой цели, то в некоторых случаях она будет
не в состоянии дать ответ. Если же с такой проблемой столкнулся
бы математик, то он предпринял бы поиск новых методов доказа¬
тельств, надеясь в конце концов получить решение относительно
любой заданной формулы. В этом и заключается суть дополни¬
тельных соображений. На это я скажу лишь, что с машиной надо
вести честную игру. Можно, конечно, устроить так, чтобы в каких-то
случаях вместо того, чтобы вообще не давать ответа, она давала
бы неверный ответ. Но ведь и ученый-математик, пробуя новый
метод, иногда заходит в тупик. При этом мы легко прощаем ему
промахи и даем возможность предпринять новую попытку, и только
машине нет пощады. Другими словами, если от машины ждать
абсолютной безупречности, то она не может обладать интеллектом.
Существует несколько математических теорем, утверждающих
приблизительно то же самое. Но в них ничего не говорится о том,
сколько интеллекта может продемонстрировать машина, если она
не претендует на безупречность.
И в продолжение своего призыва «вести честную игру с маши¬
ной» при проверке ее коэффициента интеллектуальности добавлю:
ученый-математик всегда проходит широкий курс обучения, ко¬
торый, можно считать, не слишком отличается от таблиц команд,
закладываемых в машину. Поэтому не стоит рассчитывать на то*
что машина станет строить много таблиц команд по собственному
почину. Ни один человек не прибавляет слишком много к тому
142 Компьютер — творец
запасу знаний, который он приобретает «извне», так почему надо
ожидать этого от машины? Другими словами, нужно позволить
машине постоянно общаться с людьми, чтобы она могла подстро¬
иться под их требования. Для этой цели, возможно, лучше подойдут
шахматы, поскольку игра ее противника автоматически обеспечит
машине такой контакт».
Сегодня, четыре десятилетия спустя, стало ясно, что те допол¬
нительные знания, которые машины смогут со временем добавить
к объему зданий, накопленных человеком, могут превысить то,
о чем мечтал Тьюринг.
7. Метафора наизнанку
В представлении публики понятие творчества связывается прежде
всего и главным образом с искусством. Поэтому, обсуждая творче¬
ские возможности компьютера, естественно задать вопрос: «Могут
ли компьютеры создавать новые произведения искусства?» Ко¬
нечно, в каком-то смысле искусство кажется прямой противопо¬
ложностью современной технологии. В нашем представлении еще
живет образ художника, обитающего в мансарде и настолько по¬
груженного в высокие материи, что ему просто нет дела до каких-
то болтов и гаек. Однако на протяжении всей истории человечества
художники всегда живо откликались на всякие нововведения и
перенимали новую технологию каждый раз, когда она давала им
какие-то осязаемые преимущества: новые краски, новые материалы,
новые методы печати, новые музыкальные инструменты. Более
того, ведь искусство по самой своей сути — тоже вид информации,
так что можно ожидать, что оно не останется безразличным к новым
способам переработки информации. Действительно, с самых первых
дней развития вычислительной техники отдельные личности бро¬
сали вызов как художникам, так и инженерам своими исследова¬
ниями возможности использования ЭВМ в таких областях эстети¬
ческого творчества, как живопись, скульптура, музыка и поэзия.
Полученные здесь результаты очень неравноценны и вызывали
множество споров. В своем довольно поверхностном обзоре мы
попытаемся на нескольких достаточно типичных примерах пока¬
зать, что происходит сейчас в этой области.
Живопись
Вероятно, большинство попыток использовать вычислительную
технику в искусстве связано с живописью и рисунком, к тому же
и все проблемы здесь вырисовываются наиболее выпукло. Намети¬
лось два разных — и даже прямо противоположных — подхода
к использованию компьютеров в этой области. В одном случае
компьютер играет роль простого инструмента — своего рода па¬
литры и холста, с помощью которых художник самыми разнооб¬
разными способами «пишет картины». В другом — художник за¬
дает машине программу, которой та следует, а сам, возможно,
даже яе знает, что получится в результате. Именно1 в последнем
144 Компьютер — творец
случае мы можем видеть реальные перспективы для компьютера
в роли истинного «творца».
Одним из приверженцев подхода «компьютер в качестве ин¬
струмента» является американец Дэвид Эм, который занимал со¬
вершенно неправдоподобную должность постоянного художника
в Лаборатории реактивного движения (Пасадена, шт. Калифорния).
Это лаборатория является центром управления американскими
беспилотными космическими аппаратами,' запускаемыми в иссле¬
довательских целях к Юпитеру, Сатурну и более далеким планетам.
В ходе подготовки этих запусков сотрудники лаборатории разра¬
ботали очень мощную систему машинной графики для имитации
тех космических видов, которые откроются перед аппаратами
«Вояджер», когда они будут пролетать на окраинах Солнечной
системы. Важно было добиться того, чтобы «Вояджер» правильно
сделал все снимки с первого раза, поскольку возможность развер¬
нуться и попытаться что-то повторить здесь полностью исключена.
Разработанная в лаборатории система машинной графики не
просто обеспечивает гораздо более богатое цветовое решение, чем
обычно дает компьютер. Программное обеспечение, созданное Джейм¬
сом Блинном, позволяет изображать пространственные фигуры и
поверхности в перспективе, а также всевозможными способами
манипулировать изображениями: увеличивать и уменьшать их,
передвигать, копировать, получать зеркальное отображение и т. д.
Когда в этой'интенсивной работе удавалось выкраивать свободное
машинное время, Дэвид Эм занимался созданием абстрактных
«картин», которые поражали своей оригинальностью и живостью,
несли какой-то отпечаток сновидений, почти ночных кошмаров
(фото 4).
Вначале он рисовал линии электронным пером на электронном
табло, заставляя компьютер преобразовывать их в ряд толстых
и тонких штрихов или «брызг», выбирая их окраску среди 256 воз¬
можных цветов подобно тому, как обычный художник подбирает
краски и толщину кисти. Результаты демонстрировались на цвет¬
ном экране высокой разрешающей способности. После этого с
полученным изображением можно было экспериментировать даль¬
ше, проводя разнообразные геометрические операции: тем или
иным способом преобразовывать фигуры, передвигать их, комби¬
нировать с другими, добавлять узор и «текстуру» на поверхности,
манипулировать различными видами «пространства». Весь «твор¬
ческий» процесс осуществляется здесь методом проб и ошибок.
Если цвет или текстура какой-то детали вас не устраивают, их
легко изменить, нажав на несколько кнопок. Можно отправить
картину на время в память, а затем при желании вызвать ее и про¬
должить работу.
Законченные картины лучше всего смотреть на цветном экране,
на котором они сверкают, как бы светясь изнутри. Эм писал, что
Метафора наизнанку 145
он был «заворожен природой электронного свечения». Для выста¬
вок, где размещать электронное оборудование не разрешается, Эм
фотографирует изображения с экрана, делая цветные снимки раз¬
мером примерно 75 х 100 см. Кроме того, с некоторых изображений
он сделал литографии и собирается еще изготовить отпечатки до
3 м в длину.
Изображения, полученные Эмом, в буквальном смысле причуд¬
ливы. На некоторых ощущается влияние научной фантастики —
без сомнения, сказывается само место работы Эма. Он называет их
«мысленными образами, которые не могут существовать в реально¬
сти». Разные люди часто говорят художнику, что его картины на¬
поминают им сновидения; это, видимо, объясняется странным
смешением в них чисто абстрактных и смутно реалистических
фигур. Как признается Эм, в его картинах нередко встречаются
какие-то архитектурные детали, ландшафты и части пейзажей.
Авторам этой книги художник не без удивления сказал, что «сама
машина предпочитает иметь дело с формами, заимствованными у
природы». И хотя Эм полностью управляет созданием своих картин,
он не сомневается в том, что конечный результат резко отличается
от того, что он мог бы сделать обычным способом. «Компьютер
наталкивает меня на такие мысли, какие никогда не пришли бы
мне в голову без него»,— утверждает он. В каком-то смысле «ору¬
дие производства» подсказывает ему, что делать, и вполне возможно,
что в начале работы он не знает, чем она закончится. «Однако по¬
добное нередко наблюдается и в традиционной живописи»,— на¬
поминает он. Метод проб и ошибок превратил живопись в своего
рода исследование: Эм может манипулировать созданными им
структурами, примеряя их и так и этак, чего, разумеется, не могли
позволить себе художники прошлого. «Тут совершенно другой
вид умственной деятельности»,— утверждает он.
Единственное, в чем Эм абсолютно уверен,— возможности его
нового инструмента неисчерпаемы. «Я не сомневаюсь, что этой
машине доступно что угодно»,— считает он и продолжает работать,
отыскивая новые образы, новые сочетания красок, новые простран¬
ственные структуры. «По своему развитию моя машина еще неан¬
дерталец»,— заявляет Эм. Он убежден, что совсем необязательно
создавать на машине лишь произведения абстрактного искусства —
есть примеры картин весьма реалистических, почти фотографически
точно воспроизводящих реальные объекты.
Впервые эстетические возможности новой техники открылись
Эму на заводе пластмасс в Калифорнии, что побудило его отка¬
заться от привычных видов художественного выражения. Владелец
завода, интересующийся искусством, высказал мысль, что его
формовочные машины можно было бы использовать для целей
творчества. Эму предложили работу штатного художника, и какое-
то время он занимался изготовлением пластмассовых скульптур
146 Компьютер — творец
компактных размеров. Таким образом он оказался в рабочей среде,
которая в корне отличалась от той, к которой он привык, работая
как художник-одиночка; ему пришлось научиться организовывать
работу своих помощников, управляющих промышленными меха¬
низмами, а также поддерживать отношения с администрацией. Этот
опыт пригодился ему и во время работы в Пасадене.
За пределами своей студии, а точнее машинного зала, Эм страстно
увлекается театром. Вокруг Голливуда разбросано множество не¬
больших, но лелеющих честолюбивые планы студий, где талант¬
ливые люди, вынужденные растрачивать себя на производстве
«ширпотреба», изготовляемого кинопромышленностью, могут найти
выход своим творческим устремлениям. Для них Эм пишет сценарии
и ставит необыкновенные представления, используя самые разно¬
образные средства художественного выражения, в том числе свои
компьютерные картины в качестве декораций, а также лазеры,
синтезированную музыку и созданные им же эксцентричные ко¬
стюмы, которые делают актеров похожими на фантастических
насекомых. Пока компьютер еще не может непосредственно управ¬
лять световыми эффектами, но по логике развития это, по-види¬
мому, следующий шаг. Видеопроектор, работающий в интерактив¬
ном режиме, мог бы открыть блестящие перспективы, позволяя
варьировать оптические эффекты в соответствии с происходящим
на сцене.
Эм сконструировал огромные передвижные экраны до 3 м в
высоту и 25 м в длину — для использования более традиционной
аналоговой электроники и обычных проекторов. «С психологиче¬
ской точки зрения очень многое зависит от размеров,— считает
он.— Такой экран производит потрясающее впечатление».
Как воспринимают работы Эма обычные зрители? «Любителей
такого рода вещей очень немного,— признается он,— да и они
больше интересуются тем, как это было сделано, чем рассматри¬
вают картины». У Эма есть несколько соратников, разделяющих
те же идеи. Другие художники, с которыми он встречается, как
правило, с недоверием относятся к его технике, считая ее холодной
и чуждой человеку; гораздо больше понимания он находит среди
ученых. Пол Браун, последнее время работавший в школе Слейда,
столкнулся с подобным же отношением. Как-то он показал не¬
сколько своих рисунков одному считавшемуся достаточно квали¬
фицированным критику. Тот пришел в восторг и рассыпался в ком¬
плиментах. Но узнав, что Браун пользуется компьютером, критик
тотчас изменил свою точку зрения. «Я чувствовал, что в них есть
что-то холодное и расчетливое»,— заметил он. Браун добавляет,
что хотя ученые и инженеры не отличаются такой предвзятостью,
они, как правило, вообще не считают искусство чем-то серьезным.
Метафора наизнанку 147
Рисуют экспертные системы
Совершенно другой подход использует Гарольд Коэн, английский
художник, обосновавшийся в Калифорнийском университете в
Сан-Диего. Работая традиционными средствами, Коэн в конце 60-х
годов заинтересовался возможностью с помощью компьютеров
пролить какой-то свет на природу зрительного восприятия: как
это получается, что несколькими штрихами можно нарисовать
на бумаге нечто, что каждый сразу скажет: «Это — лицо». Приятели
Коэна, особенно Эд Фейгенбаум, обучили его технике программиро¬
вания, в результате чего появилась система под названием ААРОН,
создающая рисунки под управлением мини-ЭВМ PDP-11/34. Ма¬
шина рисует при помощи маленькой электрической тележки около
10 см в длину, к которой прикреплено перо и которая катится по
большому листу бумаги, расстеленной на полу. Компьютер следит
за тележкой с помощью локатора [1].
Машина рисовала совершенно самостоятельно, без всякого вме¬
шательства Коэна. Программа содержала около 300 правил, за¬
ранее придуманных Коэном, которые давали системе представ¬
ление о линиях, фигурах и растушевке. Рисуя, система решает,
что делать в следующей точке путем «бросания кости», а точнее —
запуская специальную процедуру генерации случайных (или почти
случайных) чисел из заданного диапазона. По мере того как ри¬
сунок приближается к завершению, программа испытывает все
больше трудностей в выборе дальнейших действий, так как ей
приходится согласовывать нарисованное на бумаге с имеющимися
у нее правилами.
Правила уточняют, какого рода детали желательны, примерно
таким образом: «Если такая-то деталь присутствует на рисунке,
не нужно, чтобы близко была аналогичная», или «Если, рисуя
какую-то фигуру, вы наталкиваетесь на контуры другой, нарисо¬
ванной ранее, поднимите перо, чтобы первоначальная фигура
перекрывала последующую». Между объектами, с которыми имеет
дело программа, установлена строгая иерархия:
Картинки
группы
фигуры
«системы» (части фигур)
линии (кривые)
прямолинейные отрезки
Самые важные понятия, с которыми познакомили программу, по¬
зволяли ей осознать разницу между замкнутыми и открытыми
фигурами и обнаруживать пересечения.
В результате возникали картины, сплошь исчерченные ломаными
линиями и заполненные ни на что не похожими фигурами. Но
148 Компьютер — творец
среди них попадались и такие, которые напоминают, скажем,
облака, птиц, рыб или очертания гор. Все картины получались
разными, и Коэн не имел ни малейшего представления, что выйдет
в очередной раз. Составляя свою программу из правил, Коэн, по
существу, построил экспертную систему, хоть и очень непривыч¬
ную. В данном случае он совместил в себе обе роли: и человека-
эксперта, и специалиста по представлению знаний. Кроме того,
Коэн попытался смоделировать сам метод, которым обычно рисует
художник: не гладкими линиями, а короткими штрихами с непре¬
рывной обратной связью. Поэтому тележка в его системе не едет
прямо в точку (х, у), как сделал бы обычный графопостроитель.
Вместо этого компьютер приказывает тележке: «Поверни колеса
на столько-то, с помощью локатора определись, куда ты попала,
и сообщи мне», и так повторяется многократно. Колеса могут про¬
скальзывать на поверхности бумаги, и, корректируя длину оси,
а также быстродействие и чувствительность обратной связи, система
имеет возможность в значительной мере менять «стиль» рисун¬
ка.
На базе своего ААРОНа, Коэн сконструировал новую систему
ААРОН-2, которая, помимо того что обладает большими знаниями,
должна была сделать еще один шаг на пути к настоящему интел¬
лекту, поскольку наделена способностью учиться на собственном
опыте [2]. Коэн объясняет это тем, что ААРОН-2 работает с пред¬
ставлениями, а' не с образами, как ААРОН. «Образ,— объясняет
Коэн,— это совокупность знаков, предполагающая определенный
порядок, а представление — это совокупность знаков, выражающая
определенное отношение к внешнему миру». В новой системе, как
и в предыдущей, понятия, используемые программой, организу¬
ются по иерархическому принципу: например, множество «пред¬
ставления твердых тел» включается в качестве подмножества в
множество «замкнутые фигуры». В системе ААРОН-2 предусмот¬
рены возможности для более качественной передачи объемности
фигуры, чем у ее предшественника. Кроме того, Коэн отказался
здесь от рисовальной тележки, поскольку очень трудно было обес¬
печить удовлетворительную работу локатора, а рисунки получа¬
лись большими, так что на их создание требовалось много времени.
Сейчас Коэн пользуется обычным графопостроителем, в котором
механическая рука водит пером по листу бумаги.
Даже самые первые рисунки системы ААРОН-2 отличались
определенной «зрелостью» по сравнению с работами предыдущего
устройства. Новая система помнит все предшествующие рисунки,
что позволяет ей постоянно сопоставлять с ними картинки, которые
она рисует в данный момент. Предполагается, что со временем
ААРОН-2 обретет способность к самообучению, т. е., как настоящий
художник, сможет учиться на собственном опыте. Это потребует,
по мнению Коэна, каких-то критериев, по которым система могла
Метафора наизнанку 149
бы оценивать собственные творения. И тогда появится первая
экспертная система-искусствовед.
Продолжая исследовать природу представления, Коэн разра¬
ботал еще одну программу, названную АНИМС, которая рисовала
фигуры, представлявшие собой случайные вариации на тему ос¬
новной структуры, состоящей из тела, головы и четырех ног. Этот
эксперимент был подсказан ему работами Дэвида Марра, касаю¬
щимися вопроса о том, каким образом «пакуется» информация в
человеческом мозге, и преследовавшими практически те же цели,
что и исследования Пиаже и его школы (см. гл. 4). Выяснилось,
что для воспроизведения каких-то вполне правдоподобных образов
достаточно запомнить крайне мало сведений. Рисунки, сделанные
программой, оказались до удивления похожими на доисторические
наскальные изображения животных. Тем не менее Коэн счел, что
этого явно недостаточно, чтобы отнести полученные изображения
к произведениям искусства, и прекратил работу в этом направ¬
лении [3].
Отказавшись от игральных костей
Другие художники, использующие компьютеры, придерживаются
одного из двух описанных выше подходов и рисуют обычно с по¬
мощью простого графопостроителя, иногда заменяя перо кистью.
В отличие от метода «игральной кости» Коэна можно составить
рисовальную программу, в которой не присутствует элемент слу¬
чайности, но используются такие сложные правила и процедуры,
что художник по-прежнему не может заранее предугадать, какой
получится окончательная картина. Например, Крис Бриско,
работая в школе Слейда, добился этого с помощью программы,
которая заставляет некие наборы точек двигаться из произвольного
начального положения так, словно они притягиваются друг к
другу силой гравитации. Компьютер рассчитывал траектории
точек и распечатывал их в виде рисунка. Канадец Крис Крэбтри
предоставил компьютеру возможность строить линейную последо¬
вательность образов, напоминающих людей, цветы и другие объ¬
екты так, что в результате получались «рассказы в картинках» [4].
Другой канадец, Тео Гольдберг, увлеченный синтезом живо¬
писи и музыки, сконструировал графическую систему и музыкаль¬
ный синтезатор, которые запускаются одним и тем же начальным
набором числовых данных. Он вводит одинаковую информацию
в обе системы, получая от одной живописные изображения с боль¬
шими плоскостями мягких цветов, покрытыми геометрическим
узорохм из линий, а от другой — электронную музыку современного
какофонического стиля. С пленки звучит музыка, слайды картин
проецируются на экран, и художник приглашает зрителей полюбо¬
150 Компьютер — творец
ваться тем, как зрительные образы выражают музыку, а музыка —
зрительные образы, будучи различными проявлениями одних и
тех же ощущений.
С мастихином наперевес
Существование двух подходов к развитию компьютерной живо¬
писи вызвало среди служителей этого виДа искусства раскол не
менее ожесточенный, чем противоборство между живописцами
и скульпторами во времена Тициана. «Инструментальный» под¬
ход, которого придерживается Дэвид Эм, кажется неприемлемым
представителям противоположного лагеря, которые считают его
тривиальным — простым «рисованием с помощью чисел», а тво¬
рения Эма — банальными. Гарольд Коэн, к которому пару лет
назад обратились с идеей создания «электронной палитры», отреа¬
гировал на это так: «Образ художника будущего, одной рукой
пишущего кистью без красок на телевизионном экране, ибо в ко¬
нечном счете ведь самое главное — это прикосновение руки на¬
стоящего художника, а другой нажимающего на кнопки, худож¬
ника, одетого, как принято представлять, в берет и блузу, который
одновременно еще может колоть орехи левой ногой,— этот образ
столь же нелеп, сколь и неверен» [5].
В свою очередь некоторые противники Коэна не устают повто¬
рять, что он рисует как курица лапой. Пытаясь разобраться в
подоплеке этих споров, английский художник Доминик Борегем
утверждает, что итеративный характер процесса, пользуясь кото¬
рым он может писать картины на компьютере, перебирая варианты,
оценивая результат, внося, где нужно, изменения, с полным ос¬
нованием может считаться творческим. В этом процессе рождаются
произведения искусства, которые невозможно было бы создать
иным путем. Свои соображения относительно того, что в картине
кажется ему удачным, а что требует поправок, Борегем не может
выразить в виде правил, тогда как именно правила составляют
суть системы Коэна. «Нельзя творить искусство по алгоритму»,—
заявляет Борегем.
Пропасть между Дэвидом Эмом и его оппонентами усугубляется
еще и его твердой решимостью не интересоваться технической
стороной процесса, который помогает ему заниматься искусством,
а полностью полагаться здесь на специалистов. Он опасается, что
в противном случае трудно было бы не отдаться целиком экспери¬
ментированию с машиной, как случилось со многими его знакомыми
художниками: научившись программировать, они все время теперь
проводят за составлением программ и совсем не занимаются искус¬
ством. В отличие от Эма Коэн глубоко вникает в технические тон¬
кости процесса. Он даже сам разрабатывает схемы и графопострои¬
тели и убежден, что именно технические возможности, предостав¬
Метафора наизнанку 151
ленные художнику, открывают доступ и к его творческим возмож¬
ностям.
«На первый взгляд кажется, что дело лишь в различных при¬
способлениях, которыми мы пользуемся. Однако истина заключается
в следующем: пока мы абсолютно ясно не поймем, что представ¬
ляют собой эти приспособления, пока не осознаем, каково их на¬
стоящее место внутри иерархии, их породившей, дело, без сом¬
нения, кончится тем, что не мы станем командовать ими, а они —
использовать нас. Технология всегда ограничивает диапазон наших
возможностей, и чем могущественнее технология в достижении
поставленных целей, тем более ограничен художник, ею пользу¬
ющийся, причем не только в том смысле, что графика всегда остается
графикой и никогда не станет акварелью, но и в том, что он перестает
замечать иные возможности, кроме тех, которые предоставляет
ему данная технология...
И если художнику предлагают лавку, набитую новыми «игруш¬
ками», то это значит, что целое столетие ушло на то, чтобы у него
не было нужды выяснять, как устроены эти «игрушки» и как они
действуют. Они делают то, что делают, и устройство их таково,
что от художника не требуется больших интеллектуальных усилий,
чем просто нажать на кнопку.
А разве может быть, чтобы технические средства, которые не
ставят перед художником по-настоящему трудных задач, в то же
время помогли бы ему вскрыть новые ресурсы своего интеллекта и,
в частности, подтолкнули бы к созданию мощного оригинального
произведения...
Мы уже понимаем, что невозможно создавать произведения
искусства, просто опираясь на помощь послушного программиста,
который будет писать нам графические подпрограммы. За годы,
прошедшие с тех пор, как начались наши игры, ни одного значи¬
тельного произведения искусства не удалось создать таким образом.
И как нельзя представить себе гравера, который, ничего не желая
знать о технологии гравирования, обходится помощником-грави-
ровщиком, так невозможно вообразить, что нечто подобное про¬
изойдет когда-то в области компьютерной живописи» 16].
Брайен Реффин Смит из Королевского колледжа искусств пред¬
полагает, что существует и третья возможность использования
компьютеров в живописи, а именно когда машины помогают ху¬
дожнику развивать его идеи и представления: «По моим наблюде¬
ниям (по крайней мере, в вычислительном центре Королевского
колледжа искусств), одна из наиболее распространенных форм
взаимодействия художника с ЭВМ состоит в следующем. Приходит
человек с какой-то задачей, которую он в принципе мог бы попро¬
бовать решить с помощью карандаша и бумаги, красок, пленки
или иного материала, и перекладывает свои заботы на компьютер,
заставляя его решать эту задачу графическими средствами или
152 Компьютер — творец
используя какое-либо иное представление задачи на языке понятий
более высокого уровня. Затем человек уходит и возвращается к
привычным, старым материалам, но скорее всего его представ¬
ления о задаче уже изменились: они как бы материализовались в
пространстве между художником и дисплеем, находящимся букваль¬
но в нескольких сантиметрах от него» [7].
На любого художника постоянно оказывают влияние работы
других художников, пьесы, фильмы, и эксперименты с компью¬
тером могут играть такую же роль. По этому пути можно пойти
гораздо дальше и глубже, разрабатывая все более тонкие методы
компьютерного анализа произведения искусства и природы его
восприятия человеком. К примеру, создателям мультипликацион¬
ных фильмов компьютеры могут, в частности, оказать помощь в
«обеспечении непрерывности»: взяв две зарисовки фигуры в разных
положениях, сделанных художником, компьютер рисует за него
все промежуточные стадии, чтобы в законченном фильме создавалась
иллюзия плавного движения. «А что будет,— вопрошает Смит,
если вы попробуете подойти с этих же позиций к творениям Рем-
бранта или Джексона Поллока *?» Смит убежден, что в будущем
компьютеры откроют перед нами еще много новых неожиданных
сторон искусства,
Мультипликация
Помимо «обеспечения непрерывности» и ряда других монотонных
процессов, связанных с созданием рисованных фильмов, исполь¬
зование компьютеров открывает и существенно новые возможности
в этой области. Машина может совершенно автоматически прида¬
вать текстуру поверхности, создавать тени,.отражения или блики,
подчеркивая тем самым объемность предмета, и усиливая ощущение
реальности, чего слишком трудно добиться, рисуя вручную. Изо¬
бражение на фото 10 выглядит как фотография, а на самом деле это
кадр из будущего мультипликационного научно-фантастического
фильма «Работа», создаваемого в Нью-йоркском технологическом
институте. Основная трудность здесь связана с тем, что требуется
очень большая вычислительная мощность: на каждый выполненный
с высокой четкостью кадр фильма уходит 1—2 ч рабочего времени
процессора, поскольку такой кадр чрезвычайно богат деталями.
Первыми среди «посторонних», кто с энтузиазмом приветст¬
вовал внедрение компьютеров в мультипликацию, были — как это
часто случалось с техническими новшествами такого рода — созда¬
тели телевизионной рекламы. Диснеевский игровой фильм «Трон»
сочетает в себе сверхбанальный сюжет с невыразительной компью¬
терной графикой. Фильм «Работа» с его отчетливыми объемными
* Известный американский художник-абстракцйонист.— Прим. перев.
Метафора наизнанку 153
фигурами обещает быть более интересным, хотя есть опасность,
что проект его слишком грандиозен для Технологического инсти¬
тута.
Большинство объектов, фигурирующих в фильмах этого жанра,
искусственного происхождения: космические корабли и т. п. и,
значит, их изображение можно строить, комбинируя правильные
геометрические фигуры типа сфер или цилиндров, как показано
на фото 10. Для компьютера это — пара пустяков. Если, с другой
стороны, создатель фильма захочет включить в него изображение
Рис. 27. «...и превратим каждую прямую в ломаную...» Не¬
правильная кривая, построенная из четырех прямолиней¬
ных отрезков методом фрактал ей.
Рис. 28. «...а плоскости сделаем неровными...» Скульптурное
представление горной гряды, созданное Бенуа Мандельбро¬
том методом фракталей с помощью станка с программным
управлением. (С разрешения фирмы ИБМ.)
природы, например какой-то пейзаж, то он быстро убедится в
том, что это изображение может выглядеть реалистично только
в том случае, если оно не имеет правильных очертаний, и поэтому
оно должно содержать множество различных деталей. Вид лужайки,
например, должен состоять из тысяч травинок, но они не могут
быть все одинаковыми. Если же машина в обычной своей манере
будет повторять снова и снова один образчик травинки, то луг
будет выглядеть совершенно неестественно. Каждый стебелек
должен чуть-чуть отличаться от других, но описание каждого из
154 Компьютер — творец
них по отдельности потребует от художника колоссальной работы.
Кроме того, огромное количество собранной таким образом инфор¬
мации должно будет храниться в больших базах данных, абсолютно
неуправляемых и слишком дорогостоящих. Чтобы справиться с
этой проблемой, Бенуа Мандельброт из фирмы ИБМ и его последо¬
ватели изобрели метод «фракталей», в котором неправильность
естественных объектов имитируется компьютером за счет внесения
случайных вариаций в представленный художником рисунок, делая
гладкие линии изломанными и т. п. (рис. 27). Методом фракталей
удается получать на удивление реалистические горы, долины, с
раскиданными по ним валунами, береговые линии, скопления
звезд, а художнику остается лишь задать небольшое количество
точек [8]. Фрактали в настоящее время используются при создании
пейзажей, скульптур, а также рисованных фильмов (см. фото 7
и рис. 28). Возникает интересный вопрос, следует ли такие «фрак¬
тальные пейзажи» оценивать по тем же критериям, как и работы
традиционных пейзажистов. Пол Браун считает, что иногда такая
оценка, безусловно, возможна, но другие художники категорически
не согласны с его мнением.
Скульптура
Определенных успехов компьютеры достигли и в ваянии. В этом
случае процессор подсоединяется к специальному станку, который
режет заготовку из металла или какого-то иного материала. Од¬
нако главный интерес здесь вызывает так называемая кинетическая
скульптура. Одним из первых примеров такой скульптуры был Сик,
собранный в 1970 г. Николасом Негропонте и его коллегами из
МТИ. Эта скульптура представляет собой нечто вроде подъемного
крана, управляемого мини-ЭВМ, который складывает из 500 пя¬
тисантиметровых кубиков конструкцию произвольной формы, ос¬
тавляя в ней множество простенков и полостей и запоминая поло¬
жение каждого кубика. В эту «среду» затем запускают целую ко¬
лонию тушканчиков, которые носятся по кругу, сбивая кубики,
а компьютер пытается вернуть их обратно и восстановить некое
подобие порядка [9]. Это изобретение, задуманное вначале как
наглядная демонстрация способности компьютера справляться
с непредсказуемыми событиями, превратилось в своего рода символ
взаимодействия между миром живой природы и неодушевленными
объектами. Конечно, не было недостатка в недоумевающих. (Скульп¬
тура выставлялась в Еврейском музее Нью-Йорка.) Негропонте
писал по этому поводу: «Отзывам критиков на это представление
не хватало понимания целостности нашего замысла. Они не раз¬
глядели, что и живая, и неживая составляющие скульптуры пре¬
следуют одну и ту же цель. «Нью-Йорк тайме» (от 18 сентября
1970 г.) писала: «...механический бандит переставлял кубики,
Метафора наизнанку 155
пытаясь заточить зверюшек в тюрьму». В журнале «Арт ньюс»
(за декабрь 1970 г., в язвительной редакционной статье, озаглав¬
ленной «Тушкан из машины») говорилось: «Тушканчики могли
бы заниматься кубиками с какой-то позитивной, социально осмыс¬
ленной целью, а не разбрасывать их попросту», а журнал «Уолл¬
стрит джорнал» назвал наш опыт и вообще все компьютерное ис¬
кусство идеологическим «вывертом» [10]. Многие из этих тушкан-
чиков-актеров умерли — поговаривают, что виной тому «чувство
глубокого разочарования».
Скульптор Эдвард Игнатович, поляк, проживающий в Англии,
интересуется кинетической скульптурой, так как убежден, что
поведение любого объекта может рассказать нам о нем гораздо
Рис. 29. Скульптура Сенстер Эдварда Игнатовича на выстав¬
ке в музее «Эволион» в Голландии. Сзади справа виден
компьютер.
больше, чем его вид. Это натолкнуло его на мысль создать Сен-
стера — одну из наиболее известных кинетических скульптур (рис.
29). Она состояла из почти пятиметровой стальной рамы, скреп¬
ленной шарнирами в шести точках, в которых размещались гид¬
равлические усилители, так что вся конструкция в виде решетки
из труб слегка напоминала жирафа. На «голове» скульптуры была
установлена система микрофонов и звуковой локатор. Программа
мини-ЭВМ (компании «Хониуэлл»), управляющая всем механиз¬
мом, позволяет скульптуре реагировать на три рода сигналов:
тихие и не очень громкие звуки, громкие звуки и быстрое движение.
При негромких звуках голова «жирафа» вытягивается вперед, при
громвдх — откидывается назад, а при быстром движении — пова-
156 Компьютер — творец
рачивается в его сторону. Все это делало скульптуру очень похо¬
жей на живое существо, и посетители музея «Эволион» в голланд¬
ском городе Эйндховене, где выставлялась скульптура, принимали
ее с восторгом. Дети что-то кричали «жирафу», махали руками,
называли его разными именами и даже бросали в него предметы.
Такой интерес к скульптуре Игнатович объясняет тем, что любые
ее движения выглядят очень естественно, и это, безусловно, нравится
людям.
В утренней тишине механический «жираф» стоит обычно с опу¬
щенной головой, прислушиваясь к слабым шумам, издаваемым его
собственными гидравлическими усилителями. Пройдет мимо де¬
вушка — и голова поворачивается ей вслед, словно разглядывая
ее ножки. Игнатович вспоминает свой собственный опыт общения
со скульптурой; только включив ее, он случайно кашлянул, и
голова немедленно поднялась к нему, как бы спрашивая: «Что-
нибудь не так?» Он обратил также внимание на любопытную осо¬
бенность впечатления, которое скульптура производит на людей.
Проверяя, будет ли она работать, он заставлял ее проделывать
разнообразные движения. Дети, наблюдавшие за этим, сначала
очень испугались, но потом, во время работы скульптуры в музее,
когда она, подчиняясь уже отлаженной программе, реагировала
на звуки и движения, никто не испытывал страха.
И хотя несколько лет назад Сенстера разобрали, многие, ви¬
девшие его в 'свое время, до сих пор вспоминают, какое сильное
впечатление он производил. У Игнатовича немало идей относительно
дальнейшего развития этого направления. Его, в частности, ин¬
тересуют исследования взаимосвязи движения и восприятия —
а это важный аспект искусственного интеллекта в целом. К сожа¬
лению, подобные устройства, естественно, очень дороги, и средства
на их создание не так-то просто найти [11].
Музыка
В ряде случаев компьютеры использовались для сочинения музыки.
Питер Зиновьев большую часть своей творческой жизни посвятил
созданию электронных синтезаторов, но, кроме того, его интересо¬
вало, можно ли ввести в музыкальное произведение совершенно
разные типы звуков, иногда просто взятые из повседневной жизни,
например скрип дверных петель. С помощью компьютера он ана¬
лизирует эти звуки, пытаясь выяснить, как можно их включить
в мелодию.
Вместе с тем ЭВМ широко используются для сочинения музыки
в буквальном смысле слова — как правило, состоящей из обычных
музыкальных тонов, воспроизводимых синтезатором под управ¬
лением программы. Остается только подсоединить к выходу ЭВМ
громкоговоритель и в соответствии с «партитурой», заданной про¬
Метафора наизнанку 157
граммистом, извлекать из него самые разнообразные сочетания
звуков, причем в программу можно ввести и элемент случайности.
Эти элементы случайности давно уже используются в так на¬
зываемой алеаторике, где исполнителю время от времени предостав¬
ляется возможность самому выбирать, что играть. В XVIII в.
было создано немало музыкальных пьес «на случайную тему»,
и некоторые из них приписывают Моцарту и Гайдну. Например,
в шестнадцатитактовой части можно предусмотреть II различных
вариантов для каждого такта, что можно представить в виде таб¬
лицы из 16 столбцов по II тактов в каждом, а исполнителю дано
выбирать каждый такт, бросая игральные кости. (По-видимому,
музыкант должен заранее бросать кости 16 раз, чтобы не останав¬
ливаться перед каждым новым тактом.) На нотной записи одного
произведения этот способ был назван «несложным методом сочи¬
нения бесконечного числа менуэтов на три счета». «Бесконечное» —
это, разумеется, слегка преувеличено, так как на самом деле их
II18, или 46 квадрильонов. Но в любом случае это никак нельзя
считать незначительным дополнением к собранию сочинений Мо¬
царта, разысканных музыковедами [12].
В произведениях подобного рода тщательно следили за тем,
чтобы любые варианты тактов, выбранных в соседних столбцах,
музыкально сочетались друг с другом и чтобы результат случай¬
ного выбора был вполне приемлем для слушателей XVIII в. В со¬
временной же музыке возможности случайного выбора все более
приближаются к истинно случайным. Алан Сатклифф, один из
самых известных творцов компьютерной музыки в Великобри¬
тании, говорит, что его ранние произведения «основывались на
случайности, но случайности управляемой». Выбор производился
из псевдослучайных чисел, генерируемых программой. Питер Зи¬
новьев, работающий с Сатклиффом, сначала использовал генератор
действительно случайных чисел, который представлял собой слабый
радиоактивный источник в сочетании со счетчиком Гейгера. Сатк¬
лифф рассказывает: «Неповторяемость случайного выбора в этой
программе — это не только благо. Если вы не успели записать
результат, то не может быть и речи о каком-нибудь «Повтори-ка
еще раз, Сэм», ибо этот аккорд потерян окончательно» [131. Главная
подпрограмма пакета генерирует псевдослучайную тему; затем,
используя обратную связь, ее вводят в ту же подпрограмму, ко¬
торая генерирует теперь новую тему, и так несколько раз, пока
окончательный набор тем не будет напечатан на бумажной ленте;
эти данные поступают на вход звукового синтезатора.
Для каждой части сочинения предусмотрено какое-то число
управляющих переменных, которые определяют, какими нотами
здесь можно пользоваться — главным образом длинными или
главным образом короткими или и теми и другими вместе; главным
образом высокими или главным образом низкими или не слишком
158 Компьютер — творец
высокими и не слишком низкими и т. д. В результате каждая часть
сочинения приобретала отчетливо выраженный индивидуальный
характер: некоторые части получаются мелодичными, другие —
состоят из одних аккордов, в третьих нельзя не заметить контра¬
пункта. Сатклифф признается, что многие из полученных таким
образом пассажей совершенно неинтересны, но встречаются и за¬
поминающиеся отрывки.
В более поздних своих работах Сатклифф попытался вообще
освободиться от случайных элементов, стараясь писать музыку
в точном соответствии с алгоритмом. При этом на первое место
выходит сам процесс. Существуют, как считает Сатклифф, два
совершенно различных подхода к творчеству. При одном из них
у художника сначала возникает замысел произведения, а уж потом
он занимается поиском средств, позволяющих воплотить этот
замысел. При другом — он изобретает процесс, затем как бы от¬
ходит на задний план, наблюдая, что из всего этого получается.
Именно таким образом и работает Сатклифф: он хочет сохранить
между собой и своими произведениями определенную дистанцию
и устоять перед искушением вмешиваться в происходящее со сло¬
вами типа: «По-моему, это должно быть как-то не так». Подобный
метод творчества приносит и самому художнику не меньше сюрпри¬
зов, чем всем остальным.
Сатклифф утверждает, что даже простенькие программы могут
генерировать удивительное разнообразие тем. В ответ на обвине¬
ние, что искусство не допускает алгоритмизации, он замечает:
«Я надеюсь создать вещи не менее интересные, чем деревья, ка¬
мешки или старые коряги. А ведь все они возникали по алгоритмам,
хотя и не без воздействия внешней среды. Ведь ДНК семени дерева
можно рассматривать как программу — так почему же, рассуждает
Сатклифф, программа, разработанная человеком, не может при¬
вести к рождению чего-либо столь же пленительного?» На упреки
в том, что в его творчестве недостает человеческого вклада, он
заявляет: «Не разделяю точку зрения, что искусство — это способ
самовыражения, т. е. выражения внутренних чувств. Ведь компо¬
зиторы не пишут только мажорную музыку, когда они счастливы,
и только минорную, когда им грустно». По мнению Сатклиффа,
на самом деле важны не эмоции того, кто создает произведение
искусства, а те эмоции, которые оно вызывает в том, кому адре¬
совано.
Поэзия
Чтобы компьютер мог писать стихи, не нужно никаких специаль¬
ных приспособлений на выходе, кроме обычного печатающего
устройства; поэтому поэзия долгое время была весьма популярным
видом машинного творчества. Как правило, компьютеру задаются
Метафора наизнанку 159
две вещи: словарь слов и фраз, которыми он может пользоваться,
и форма, в которую он облекает их в соответствии с некоторой
процедурой — случайной или какой-то иной. Форма может быть
«замкнутой» и «открытой». Робин Ширли объясняет это так: «Замк¬
нутая форма — это такая, в которой элементы (слова или фразы)
вставляются в заранее намеченные пробелы в фиксированных
рамках, тогда как в открытой форме нет фиксированных частей
и стихотворение создается путем организации элементов воедино
в виде цепи неопределенной длины.
Как указывает Хомский, именно открытая форма характерна
для естественных языков, и, хотя ее труднее использовать, будущее
машинной поэзии, по его мнению, связано преимущественно с этой
формой. Конструировать и программировать замкнутые формы
очень просто, и в общем в них встречается довольно мало повторов,
пока их искусственный и ограниченный характер все-таки не на¬
чинает проявляться» [14].
Как считает Ширли, очень легко создать форму со слотами, для
каждого из которых указано, какая часть речи тут может исполь¬
зоваться. Гораздо сложнее написать программу, которая могла
бы познать все разнообразие структур предложений, используемых
поэтами-людьми. Стихосложение сопровождается возникновением
различных ограничений, определяющих, что можно писать дальше.
Например, необходимо следить за повторяемостью слов и выра¬
жений. Повторения не запрещены раз и навсегда — они лишь
становятся более или менее допустимыми в вероятностном смысле
в зависимости от желания программиста.
Робин Ширли, английский кристаллограф, пишет стихи с по¬
мощью компьютеров или без них уже более двадцати лет. Его осо¬
бенно интересует, какое влияние оказывают средства, которыми
пользуется художник в своем творчестве, на его творения. «Форма,
которую принимают произведения искусства, отчасти выражает
реакцию художника на используемые им средства»,— считает
Ширли. По его мнению, компьютеры открывают широкие возмож¬
ности для изучения этого вопроса. Например, скульптор создает
совершенно различные вещи в зависимости от того, работает ли он
в мраморе, в дереве или делает свои фигурки из мороженого, а
станок с программным управлением во всех этих случаях выточит
одну и ту же форму.
Ширли выдвинул концепцию посредника, который не подвластен
воле автора произведения, но как бы осуществляет его связь с
аудиторией. В музыке — это музыканты, в кинематографии — вся
съемочная группа. Говорить о посредниках в поэзии — мысль,
безусловно, неожиданная, но именно эту возможность предостав¬
ляют нам компьютеры. Поэт может предложить машине некоторые
идеи, а затем отойти в сторону и либо радоваться, либо огорчаться
тому, что получилось. «Если вы не в состоянии управлять всем
160 Компьютер — творец
ходом событий, лучше положитесь на судьбу,— объясняет Шир¬
ли.— Мастерство — это искусство ловить удачу».
Кроме того, Ширли хотелось бы отойти от традиционного за¬
падного представления о поэзии как о чем-то сугубо индивидуаль¬
ном. Он хочет сделать ее открытой для сотрудничества и поэтому
создает свои работы совместно с партнерами под музыкальное
сопровождение (но музыку пишет человек). Одна из .ранних работ
Ширли называлась «Сюита подсолнуха». Это цикл написанных
с помощью компьютера стихотворений, объединенных общей темой
бренности бытия. Специально для этой цели Ширли составил про¬
грамму БАРД, которая, по его словам, осуществляет подбор и
аранжировку элементов, а кроме того, в определенной степени
критически оценивает сделанное. Здесь мы приводим стихотворение,
открывающее этот цикл, которому предшествует написанное Ширли
введение:
* Я хочу, чтобы вы представили себе далекое будущее,
может быть, многие тысячелетия спустя, когда человечество
(если оно выживет) раскидает по огромным просторам Галактики,
где расстояния меряются продолжительностью человеческой жизни.
* Я хочу, чтобы вы представили себе наших потомков,
странствующих из поколения в поколение
в поисках миров, где можно приютиться.
* Эту поэму я посвящаю детям, рожденным в этих странствиях,
в безбрежных межзвездных пустотах,
для которых города и леса Земли — это лишь легенда.
ПАВАНА ДЛЯ ДЕТЕЙ ДАЛЕКОГО КОСМОСА
Ледовые миры,
Населенные призраками планет,
Ледовые миры,
Арктур, Андромеда и Вега,
На орбитах, затерянных в звездной пыли,
Средь хрустальной вечности.
Ваше семя раскидано и горит алмазами бесконечности,
Затерявшись в пустом океане,
В шаг с мерным танцем Вселенной
Кружась и кружась на орбитах.
Я тоже — дитя вечности:
и подо мной, куда ни глянь, целая жизнь
Ваше семя рассеяно средь хрустальной вечности
по дороге без цели и без конца.
Всполохи солнца, всполохи звезд,
Марс, Венера, Юпитер, Сатурн.
И подо мной, куда ни глянь, целая жизнь.
Фото 1. Графический дис¬
плей экспертной системы
ПРОСПЕКТОР, показы¬
вающий карту местности,
где, как считает система,
имеются залежи молибде¬
на (в районе горы Толман,
шт. Вашингтон). На шка¬
ле справа соответству¬
ющим цветом указана ве¬
роятность наличия такого
месторождения. Треуголь¬
ной меткой обозначена
вершина горы. (Ричард
Дуда.)
Фото 2. Салли Розенталь.
«Мария». Эта голова —
цифровое телевизионное
изображение, построенное
с помощью пакета прог¬
рамм ЗГРАСС, а рисунок
квадратиками — непредви¬
денный результат наложе¬
ния нескольких изображе¬
ний.
Фото 3. Мельвин Прюейтт. «Конфликт». Картина создана на суперкомпьютере
«Крей-1» в Национальной лаборатории в Лос-Аламосе.
Фото 4. Дэвид Эм. «Персепол». Программное обеспечение разработано
Джеймсом Блинном в Лаборатории реактивного движения.
Фото 5. Эрве Ютри и Моник Наас. «В лесу». Эти художники, работающие
Парижских университетах 7 и 8, используют программное обеспечение
созданное в Рочестерском университете шт. Нью-Йорк.
Фото 6. Эд Танненбаум.
«Цифровой танцор». Кадр
из мультипликационного
видеофильма, созданного
с помощью микроЭВМ
«Эппл» и специальной
электронной аппаратуры
для обработки изображе¬
ний. (Растер Мастерс.)
Фото 7. Бессмысленно
надеяться на отдых в этом
живописном горном ку¬
рорте, изображенном Бе¬
нуа Мандельбротом,— его
не существует. Горы, ко¬
торые видны на снимке,
целиком и полностью по¬
строены компьютером по
методу фракталей; в дан¬
ном случае он основан на
использовании случайных
чисел, подчиняющихся
распределению Г аусса.
(Фирма ИБМ.)
Фото 8. Дженнифер Джулич. «Ветреная погода». Картина создана с помощью
системы «З^-мерная палитра» в колледже Шаридан, Онтарио.
Фото 9. Рой Холл. «Галерея». Вполне «реалистическая» обстановка, которая,
правда, существует лишь в памяти ЭВМ Корнеллского университета.
Фото 10. Кадр из научно-фантастического мультфильма «Работа», созданного
в Нью-Йоркском технологическом институте. Изображение выглядит как
фотография какой-то модели, но на самом деле оно целиком и полностью
создано машиной, которая добивается ощущения реальности, недоступного для
мультипликаторов, работающих вручную. (Дик Лундин, Нью-Йоркский техно¬
логический институт.)
Фото 12. Программа ААРОН за работой. (Фотография Бекки Коэн.)
Фото 11. Гарольд Коэн. Рисунок, выполненный программой ААРОН.
Фото 13. Гарольд Коэн. Рисунок, сделанный программой ААРОН-2.
Фото 14. Крис Бриско. Зарисовки без названия.
Фото 15. Гарольд Коэн. Рисунки, сделанные программой АНИМС.
Фото 16. Фантастические существа из «Рассказа в картинках» Криса Крэбтри
передвигаются, едят, растут, сражаются и производят себе подобных; это
напоминает знаменитую машинную игру «Жизнь», созданную Джоном Конуэ¬
ем, в которой имитируются процессы развития и борьбы за выживание,
происходящие в биологической популяции.
Метафора наизнанку 161
Рожденные из тьмы,
Заблудившиеся в дворцах вечности,
Освещенные алмазами бесконечности,
Земли по имени Нигде.
Ваше семя рассеяно по черным световым годам
(Всполохи солнца, всполохи звезд).
Я тоже — дитя вечности.
Я путешествую в компании комет,
рожденный когда-то и потерявшийся в звездной пыли,
Освещенный алмазами бесконечности.
И подо мной, куда ни глянь, целая жизнь.
Марс, Венера, Юпитер, Сатурн, затерянные
в пустом океане,
Кружась по орбите в пути без цели и без конца,
... Процион, Эридан, Ригель...
Освещенный алмазами бесконечности,
Я путешествую в компании комет.
* * *
Я ПУТЕШЕСТВУЮ В КОМПАНИИ КОМЕ Г,
Я ПУТЕШЕСТВУЮ В КОМПАНИИ КОМЕТ
...средь хрустальной вечности...
...этого островка Вселенной...
Я тоже дитя вечности (Марс, Венера, Юпитер, Сатурн),
Я тоже дитя вечности в пути без цели и без конца.
Затерян в дворцах вечности (Процион, Эридан, Ригель),
Но я не плачу,
Я предсказываю начало.
Рожденный из тьмы, в пути без цели и без конца,
Рожденный кем-то, чье семя рассеяно
по галактикам (возникшим из тьмы)
по галактикам (Земли по имени Нигде).
НС НС НС
Подо мной, куда ни глянь, целая жизнь;
я кружусь по орбите... мечтаю о рае...
(о сполохах Солнца, о сполохах звезд, затерявшихся в звездной пыли).
Потерявшись в пустом океане среди галактик,
Я предсказываю начало, я мечтаю о рае
(Меркурий, Земля, Уран, Плутон), затерявшись среди звездной пыли.
НС * НС
Я путешествую в компании комет, но я не плачу,
сполохи Солнца, сполохи звезд...
...в брызгах дрейфующих звезд...
И я предсказываю:
Начало.
7 Д. Мичи, Р. Джонстон
162 Компьютер — творец
Пунктуацию и акценты (например, курсив) расставлял уже в
самом конце Ширли; однако он считает, что если стихотворение у
компьютера получилось удачным, то в него не следует вносить
никаких изменений. «Это все равно, что плюнуть в лицо богам»,
патетически заявляет он. Стихи пишутся в открытой форме, хотя
выбор формы и особенностей структуры несколько ограничен.
На самом деле, Ширли гораздо больше привносит в произведение
своего и гораздо меньше оставляет на .волю случая, чем другие
поэты, работающие с компьютерами. Тем не менее он убежден,
что без участия ЭВМ его поэзия была бы совершенно иной. Ширли
мало волнуют обычные проблемы типа: каково место компьютера
в этом процессе или обладает ли эта программа интеллектом? Ему
хочется, чтобы его поэзию оценивали по тем же критериям, что и
любую другую.
Художественная литература
Писать на компьютере стихи значительно проще, чем прозу. Не
в последнюю очередь это объясняется тем, что читатели привыкли
к несколько бессвязному и обрывочному характеру стихов. Но
если программа будет писать рассказы, то ей понадобится какой-то
механизм построения осмысленных предложений, которые должны
быть довольно нетривиальны и не казаться наивными сочинениями
ребенка. Кроме того, нужны будут средства для разработки сю¬
жета, манипулирующие такими понятиями, как конфликтная
ситуация, месть, примирение и т. п. Дж. Е. Хьюз со своими кол¬
легами из Ягеллонского университета города Кракова написали
с помощью компьютера настоящий короткий роман под названием
Bagabone, Hem'I Die Now (это название «Я что, умираю, бродяга?»
составлено из исковерканных английских слов, поскольку дей¬
ствие там происходит в Полинезии). Роман читается как обычный,
хотя и построен, по словам Хьюза, как гигантская игра в послед¬
ствия *. Там же была предпринята попытка создания своего лите¬
ратурного стиля, основанного на анализе произведений Джойса,
Д. Г. Лоренса и различных писательниц нашего столетия [15].
Я знаю, что мне нравится
Все это может несколько ошеломить неподготовленного читателя.
Встречаясь с произведением искусства, которое нас действительно
потрясает, мы ощущаем, каких мучительных раздумий и душевных
* Распространенная салонная игра, где каждый участник не зная, что
написали его предшественники, добавляет к уже написанному еще одну
фразу, после чего загибает листок, чтобы следующему не было видно, что
написано, и передает листок дальше. В конце игры написанное читается
как связный текст.— Прим. перев.
Метафора наизнанку 163
терзаний оно потребовало от его создателя. А какую ценность
может иметь произведение искусства, если оно создавалось авто¬
ром, не имеющим ясного представления о том, что бы он хотел
создать? Подсознательно нам кажется, что произведения искусства
заключают в себе отрицательную энтропию (т. е. приводят к ее
уменьшению), и, как правило, чем выше искусство, тем больше в
нем отрицательной энтропии, тем больше вклад каждой отдельной
детали в общее впечатление. Ведь процесс мучительного выбора
единственно возможных деталей, которые максимально способст¬
вуют достижению желаемого эффекта,— это процесс, абсолютно
противоположный тем, что ведут к росту энтропии. А потому оче¬
видно, что все случайное или непредсказуемое не может иметь с
этой точки зрения хоть какую-либо ценность и вносить дополни¬
тельный творческий вклад. Стравинский, которого трудно зачис¬
лить в ретрограды, говорил: «Я полагаю, что музыка дана нам для
того, чтобы создавать порядок» [16].
В противовес этому некоторые художники, пользующиеся в
своей работе компьютерами, утверждают, что процесс творчества
человека мало чем отличается от того, что происходит внутри машин.
У художника, как и у компьютера, имеется некий внутренний ал¬
горитм. Остается просто отказаться от понятия свободы воли как
иллюзии, ничем по сути не отличающейся от случайного выбора,
и тогда обнаружится, что вероятностные элементы в программах
компьютеров являются как раз тем недостающим звеном, которое
необходимо, чтобы обеспечить сходство процессов художественного
творчества у человека и компьютера [17].
Таким образом, центральным становится вопрос о том, каковы
те алгоритмы, которыми пользуются люди в процессе творчества?
Именно поиск ответа на этот вопрос и составляет основное занятие
многих художников, работающих с компьютерами. Гарольд Коэн
решил специально заняться моделированием творческого процесса
человека, чтобы выяснить все его механизмы, до сих пор скрытые
от нашего глаза. Лоренс Мазлак из Университета шт. Цинциннати
пытается «развить эстетическое восприятие компьютеров», чтобы
«исследовать, каким образом происходит кодирование и уточнение
эстетических суждений» [18]. А это неизбежно подводит нас к
вопросу: что такое искусство? «Искусство — это все, что может
нам сойти с рук»,— заметил Маршал Маклухан [19]. Другие ху¬
дожники оценивают искусство более позитивно. Эдвард Игнатович
считает, что искусство — это процесс «преобразования окружаю¬
щего нас мира таким образом, что некоторые стороны природы, до
того никем не замеченные, выплывают наружу и привлекают все¬
общее внимание к этой стороне реальности». Робин Ширли пред¬
полагает, что в основе своей «искусство обращено к человеческому
дару усмотреть порядок» в окружающем мире и что самое сущест¬
венное в искусстве — это его связь с теми, кому оно адресовано,
7*
164 Компьютер — творец
а не с его создателем. «С самых общих позиций искусство — это
процесс создания метафор»,— как отмечает Негропонте в своей
работе, саркастически озаглавленной «Нельзя вывернуть метафору
наизнанку» [20].
Во всех этих суждениях слышатся отголоски вечного спора
между классицизмом и романтизмом, продолжающегося уже сотни
лет: классицисты пытаются отыскать в природе разумный порядок,
а романтики предпочитают принимать природу как она есть. В на¬
чале нашего столетия эта дискуссия вылилась в противопостав¬
ление детерминизма и индетерминизма, что имеет уже прямое
отношение к решению вопроса о роли случайности в компьютерном
искусстве. Может быть, этот вид искусства не так и революционен,
как нам кажется?
Совсем как искусство
Каких же успехов добились художники, придумывая метафоры с
помощью машин? По общему мнению, компьютерное искусство в
целом не оправдало возлагавшихся на него надежд. Негропонте
говорит об этом без обиняков: «Не часто приходится видеть, чтобы
две дисциплины, стоило только начаться их «сотрудничеству»,
смогли пробудить друг в друге столько самого неприглядного, как
это случилось с искусством и вычислительной техникой» [21]. Пер¬
вооткрыватели этого сотрудничества разочарованы тем, что оно не
привлекло достаточного внимания. Без сомнения, это, хотя бы от¬
части, можно объяснить той незавидной репутацией, которую при¬
обрело компьютерное искусство и которая отпугивает талантливых
людей, способных поднять его уровень. Брайен Реффин Смит так
пытается объяснить происходящее: «Компьютеры традиционно
использовали для создания «хорошеньких картинок». В определен¬
ном смысле именно это «конфетное искусство» повинно в той дурной
репутации, которую приобрело компьютерное искусство в целом.
Стоит только машине с помощью генератора случайных чисел нари¬
совать по велению программиста какую-нибудь загогулину, спи¬
раль или что-нибудь в этом роде, как отовсюду раздается: «Смотри¬
те-ка, прямо настоящее произведение искусства», и тут же — шлеп
на стенку. Настоящих художников это просто приводит в ярость.
Ведь нарисуй они это же карандашом или сделай из проволоки,
гвоздей или еще как-нибудь, никто бы и бровью не повел. Тем бо¬
лее никому бы в голову не пришло показывать это на выставке»
[22].
В ином видит причину провала компьютерного искусства Гарольд
Коэн: «Художника, который решил создавать свои полотна с по¬
мощью компьютера, интересует прежде всего, что может быть об¬
щего между природой программ и природой зрительного образа, а
не просто умение программировать, хотя и без него не обойтись.
Метафора наизнанку 165
«Компьютерное искусство» так и не докопалось до этой общности,
поскольку не смогло преодолеть привычный для XX в. взгляд на
компьютеры как на своего рода преобразователь. Ведь согласно
этой точке зрения, чтобы получить изобразительный образ на вы¬
ходе, на вход тоже необходимо ввести изобразительный образ.
И поиск общности программы и изображений становится невозмож¬
ным, ибо процессу преобразования безразлично, что преобразовы¬
вается.
Но пользоваться компьютером только для преобразований —
значит пользоваться им на самом примитивном уровне. Компьютер —
это универсальная машина для работы с символами, и по самой его
сути только от программиста зависит, чем станет эта машина в лю¬
бой момент. Именно эта универсальность компьютера и объясняет
его значение как первого устройства нашего времени, которое мож¬
но использовать в качестве своеобразного набора «сделай сам», а не
просто специализированного узкофункционального орудия чело¬
века» [23].
Если же говорить о «непосвященных», то их более всего отпуги¬
вает чрезмерный уровень абстракции, характерный для компьютер¬
ного искусства, ибо абстрактное искусство особенно трудно воспри¬
нимать и оценивать — как поверхностно, так и глубоко,— даже
если оно создано и без участия компьютеров. Ко всему этому добав¬
ляется еще один аспект компьютерного творчества, который только
дополнительно осложняет дело. Часто обращают внимание на то,
что программа, придуманная Гарольдом Коэном, рисует картины,
которые очень трудно отличить от того, что пишет сам Коэн без по¬
мощи компьютера. Но зачем же в таком случае мучиться с компью¬
тером? «Трехлетней дочери скептически настроенного посетителя
выставки ни за что не нарисовать, как Пикассо»,— замечает Коэн
[24], и с ним трудно не согласиться. Но, может быть, эта девочка
рисует ничуть не хуже системы ААРОН? Его программа, возможно,
весьма любопытна с интеллектуальной точки зрения, но что ка¬
сается ее художественных достоинств... Многие как зачарованные
следят за системой ААРОН, работающей в музейном зале, и тут же
охотно приобретают ее творения. Однако трудно сказать, чем это
объясняется — эстетическими потребностями или просто интересом
К новинке.
Нельзя обойти и вопрос о роли случайности. Сторонний наблю¬
датель может решить, что если Джексону Поллоку позволено на¬
угад бросать краску на полотно, то, видимо, и компьютеру нельзя
запретить это делать. Однако понять, что хорошо, а что плохо, и
в том и другом случае непросто. Не помогают и аргументы Коэна
в защиту случайности: «По-моему, главная функция элемента слу¬
чайности состоит в расширении пространства возможных решений,
расширении, которое не требует от художника постоянно демонстри¬
ровать свою изобретательность» [25]. Но разве изобретательность
166 Компьютер — творец
не есть главное достоинство художника? Вряд ли изобретатель-
ность — это та составляющая его труда, от которой он хотел бы
избавиться! И невольно становишься на точку зрения, что, как
сказал Негропонте, главное в компьютерном искусстве — это
технические средства. А это можно рассматривать как пародию на
суждение Маклухана (см. с. 163), так как теперь содержание худо¬
жественного произведения заключается в выборе посредника между
художником и его аудиторией.
Но тут в спор вступает Алан Сатклифф, настаивая, что компью¬
терному искусству просто еще не дали возможности полностью про¬
явить себя. В любом искусстве достаточно места для посредствен¬
ности, и только время от времени на этом фоне появляется что-то
замечательное, но чтобы дождаться такого события, компьютерам
придется еще поработать. Немало предстоит узнать и публике,
прежде чем она сможет по достоинству оценить эти новые возмож¬
ности. Ведь лежащие в их основе идеи действительно новы и необыч¬
ны.
Воскресный художник
Негропонте считает, что компьютерное искусство развивается по
двум различным направлениям. Одно из них связано с развитием
кинетического искусства, ярким примером которого может служить
скульптура Сенстер. «Представим себе,— говорит Негропонте,—
и другие произведения с изменчивым настроением. Тогда простая
экстраполяция сегодняшнего уровня интерактивного искусства
позволит нам дополнить такую модель с независимым поведением
способностью реагировать на погоду, время суток, курс акций, на
результаты спортивных состязаний или выборов, на популярность
различных фильмов, наконец. В каком-то смысле это будет худо¬
жественным воплощением принципов тотализатора. И если напрячь
фантазию, то можно представить себе, что будущее изобразитель¬
ного искусства окажется в руках снисходительных скульптурных
произведений или злопыхательских полотен, способных распозна¬
вать, кто стоит перед ними: мужчина или женщина, богач или бед¬
няк, неофит или гурман, вы или я. В духе подобной фантазии ху¬
дожник представляется владельцем своеобразной псарни, где вмес¬
то щенков — «свернувшиеся калачиком» произведения искусства,
которым еще предстоит по-настоящему узнать и понять своих буду¬
щих хозяев, а тем в свою очередь — узнать и полюбить их» [26].
Но еще до того, как Негропонте написал эту статью, Игнатович
создал скульптуру, которой зритель должен был пожимать руку
наподобие рукоятки игрального автомата, а машина при этом пыта¬
лась отгадать его пол и темперамент [27]. Так что горе пророчест¬
вующим в шутку!
Метафора наизнанку 167
Другое направление развития компьютерного искусства, по
мнению Негропонте, будет связано с распространением персональ¬
ного — в отличие от общественного — искусства. «Обратите внима¬
ние на те символы,— говорит он,— которые дороги лично вам, но
не представляют никакой ценности для другого: на рисунки ваших
детей, на камешек, привезенный из летнего отпуска много лет на¬
зад и т. п. Компьютер открывает перед нами совершенно новые
горизонты для поиска дополнительных возможностей самовыраже¬
ния. Подумайте о возможности иметь собственного «воскресного
художника», воплощенного в электронном мольберте и палитре
машинной графики. Его работа способна вдохнуть в вас энергию
не хуже партии в теннис; задачи, которые он ставит перед вами,
активизируют ваш мозг не хуже, чем партия в шахматы, и творения
его не менее эфемерны, чем рисунки ребенка. С этим фантастическим
видением связаны наибольшие возможности компьютера воздейст¬
вовать на будущее изобразительного искусства» [28].
Однако далеко не всех это видение будущего приводит в восторг.
Коэн вспоминает о своем посещении научно-исследовательского
центра компании «Ксерокс» в Пало-Альто: «В институте имелась
также музыкальная программа, которая, как мне сказали, позволя¬
ет человеку сочинять музыку, даже если он ничего в ней не понима¬
ет. Не думаю ли я, что это замечательно, спросили меня. Нет, отве¬
чал я, мне это, наоборот, кажется совершенно ужасным. Зачем
кому бы то ни было сочинять музыку, если она ему совершенно
неинтересна? И зачем — даже если бы у меня не было вполне
определенных подозрений на этот счет — инженерам компании
«Ксерокс» нужно — пусть даже из самых лучших побуждений —
способствовать распространению именно этой формы сумасшествия?
Мне возразили, что это лишь первые шаги, и нельзя не признать,
что в правильном направлении. Нет, возразил я, убежден, что это
шаг в неправильном направлении» [29].
В конечном счете, если компьютеры смогут создавать произведе¬
ния искусства, которые мы сочтем заслуживающими внимания и
оригинальными, то независимо от того, как это удастся сделать, у
нас будут все основания порадоваться за них и признать их работу
действительно стоящей. Существо проблемы, по-видимому, заклю¬
чается в том, что любое произведение искусства, которому есть что
сказать людям, практически всегда опирается на широкое знание
окружающего мира. Крупному художнику требуется прежде всего
опыт, как профессиональный, так и жизненный. Но все имеющиеся
пока программы компьютерного искусства (если не считать, пожа¬
луй, программы ААРОН Гарольда Коэна) чрезвычайно бедны зна¬
ниями. Коэн как-то даже назвал творения своей программы АНИМС
«рисунками почти ничего не знающего», хотя, на наш взгляд, она
поразительно много «знает» о животных. Перед нами стоит, по сло¬
вам Робина Ширли, «гигантская проблема создания полезной моде¬
168 Компьютер — творец
ли мира для машины, и к этой работе мы едва приступили». Коэн,
можно сказать, уже вступил на эту стезю, пытаясь научить програм¬
му с помощью базы знаний писать картины; вне сомнения, найдутся
и другие художники, которые захотят последовать его примеру.
Еще далек тот день, когда машина сможет внести существенный
вклад в искусство. Сумеет ли компьютер когда-нибудь сам по себе
создать поистине великое творение искусства, сказать трудно. По
мнению Негропонте, для этого как минимум потребуется, чтобы ма¬
шина сама захотела создавать произведения искусства — а это на¬
водит нас на самые разные вопросы философского характера. Но
даже если компьютерам удастся только расширить возможности ху¬
дожника, то и это явится вполне достойным вкладом в творческий
процесс. Нет сомнений, что роль компьютеров в искусстве в даль¬
нейшем будет только возрастать.
8. На пути к модельным небесам
...когда ОНИ
Исчислят звезды, создавать начнут
Модели умозрительных небес
И множества придумывать систем,
Одну другой сменяя, им стремясь
Правдоподобность мнимую придать,
Согласовав с движением светил,
Сплетеньем концентрических кругов
И эксцентрических — расчертят сферу
И циклов, эпициклов навертев,
Орбиты уместят внутри орбит.
Джон Мильтон *
Место обитания тех, кто работает головой, испокон веков разделя¬
лось на два уровня. На верхнем царствуют «патриции» — теоретики,
в задачу которых входит строить, распространять и укреплять об¬
щественные кладовые — хранилища истин и нормативов. Здесь
создаются величественные теории, которые, начиная с объяснения на
самых высоких уровнях абстракции, обеспечивают также строгий
вывод конкретных последствий, переходя от общего к частному,
т. е. «сверху вниз».
Внизу обитают практики: адвокаты, врачи, архитекторы, ин¬
женеры, экоцомисты-геологи. Там же внизу, но несколько в стороне
расположились математики-прикладники самого широкого профи¬
ля: специалисты по статистике, по исследованию операций, систем¬
ные программисты, конструкторы самолетов и т. п. Еще более скром¬
ное место отводится механикам, сварщикам, корабелам, портным и
поварам. И тем, кто проживает внизу, полагается держаться толь¬
ко своих, пока их не позовут выполнить какую-нибудь нужную
работу: сделать или починить стул, приготовить обед или передать
сообщение. Правда, иногда появляются ученые из породы «рабо¬
тяг» — Аристотель, Бэкон или Спенсер, которые пытаются дока¬
зать, что и в ремеслах, где знание накапливается «снизу вверх», от
частного к общему, существуют единые принципы организации. Та¬
кие причуды обычно вызывают снисходительную усмешку у обита¬
телей верхнего этажа, которые, впрочем, и сами порой не гнушают¬
ся пользоваться «черным ходом». Так, биологи нередко получают
свою зарплату от медицинских учреждений, а социолог-теоретик
зарабатывает себе на жизнь, помогая обучать будущих адвокатов.
* Мильтон Дж. Потерянный рай.— М.: Художественная литература,
1982, с. 221. (Перевод А. Штейнберга.)
170 Компьютер — творец
За спиной каждого инженера маячит физик, а за каждым космо¬
навтом стоит астроном.
Для настоящего обитателя верхнего этажа истинное знание
определяется исключительно теми теоремами и теми фактами, кото¬
рые говорят, КАК ЭТО ВСЕ УСТРОЕНО, и поэтому остаются не¬
преложными. Все остальное — это удел ремесленников. Напротив,
те, кто занимается практикой — особенно в вычислительной тех¬
нике,— склонны полагать, что техника — это все, а теория — нич¬
то, просто повод для витающих в небесах академиков «путаться
под ногами» настоящих специалистов, которые как раз и занимают¬
ся действительно важными проблемами. «Разве шахматному грос¬
смейстеру,— вопрошают они,— поможет курс по теории игр? А мо¬
жет пригодиться велогонщику знание ньютоновой механики?»
Так было во все времена — ни одна сторона не собиралась уступать
другой. Но в наши дни эта взаимная неуступчивость стала реаль¬
ной помехой прогрессу.
Сегодня вычислительная техника пытается иметь дело с задача¬
ми, для которых пока не существует объяснительных теорий или
использование существующих теорий сопряжено с недопустимо боль¬
шими затратами вычислительных ресурсов. Именно в этой связи
специалисты по представлению знаний занимаются разработкой баз
правил вывода, в которых теория заменена эвристиками. Но, сле¬
дуя таким путем, инженер рискует со временем натолкнуться на
каменную стену. Что будет, если система, работающая на правилах
вывода, встретится с ситуацией, для которой у нее нет правил?
Если она исчерпает весь запас имеющихся у нее рецептов? Ей при¬
дется как-то исхитриться самой ликвидировать этот пробел. Но у
системы МИЦИН нет теоретических знаний о менингите, на которые
она могла бы опереться, а система ПРОСПЕКТОР и не слышала о
научных принципах геологии. Наступает момент, когда братский
союз обитателей верхнего и нижнего этажей становится совершен¬
но необходимым.
Модели верхнего и нижнего этажей
Разделение, о котором мы только что говорили, становится особен¬
но заметным, когда наступает момент создания моделей для после¬
дующего решения задач. Модель — это всего лишь описание струк¬
туры сложного мира, достаточно компактное, чтобы его можно было
усвоить и использовать, но вместе с тем достаточно обширное, что¬
бы охватить все существенные черты моделируемой системы. Таки¬
ми моделями мы пользуемся постоянно — они помогают нам пред¬
видеть поведение систем, дают возможность отвечать на вопросы:
«А что, если...?» Скажем, географическая карта — это модель, ко¬
торая помогает нам решить задачу, как попасть в ту или иную точ¬
ку планеты. Она позволяет нам быстро и безболезненно попробо¬
На пути к модельным небесам 171
вать различные варианты и методом проб и ошибок найти оконча¬
тельный путь. «Если поехать по этой дороге,— говорите вы себе,—
а потом свернуть сюда... Нет, сюда не надо...» Любые наши взаимо¬
связи с миром предполагают использование мыслительных моделей
того или иного рода, в которых воплощены наши представления о
том, как устроен мир. Эксперименты показывают, что когнитивны¬
ми моделями пользуются и животные. Например, когда собака до¬
гадывается, что единственный для нее способ поймать кролика —
это не мчаться за ним по прямой, а обежать стоящий на пути экран.
И компьютеру, пытающемуся решать задачи, нужны модели.
Но какие? Здесь-то и начинаются трудности, ибо возможен выбор
между моделями, соответствующими разным этажам нашего зда¬
ния знаний: между эвристическими моделями, основанными на
правилах и накопленном опыте, и причинно-следственными моде¬
лями, которые опираются на теорию, описывающую, как дей¬
ствительно устроен мир.
Проиллюстрируем разницу между моделями этих двух типов на
таком шуточном примере. На врезке представлена эвристическая
модель в форме двух таблиц решений, которая объясняет, когда
нужно открывать зонтик. Одновременно она в миниатюре дает не¬
сколько карикатурное представление о том, как работают все эти
МИЦИНы, САКОНы, ПРОСПЕКТОРы, ПАФФы и РИТЫ. Каждая
из этих систем чем-то напоминает садовника с задубевшими от ко¬
пания в земле руками и абсолютным незнанием ботаники.
Эвристические таблицы решений для открывания зонта
(Правила просматриваются в строго указанном порядке, пока совпадение
условий слева не вызывает срабатывания действия справа.)
ЗОНТ
Условие
пользователь промок
пользователь на улице
в противном случае
Действие
не-открывать
обратись-к-ТАБЛИЦЕ-ПОГОДА
не-открывать
ПОГОДА
Условие
Действие
сильный ветер
не-открывать
идет дождь
открыть
идет град
открыть
идет снег
открыть
идет дождь со снегом
открыть
в противном случае
не-открывать
Не говоря о проблемах, связанных с поведением системы в си¬
туациях, не предусмотренных приведенными правилами (например,
что делать, если в результате извержения вулкана выпадает пепел),
нужно отметить, что приведенная эвристическая модель лишь в
172 Компьютер — творец
минимальной степени обладает одним из наиболее существенных
свойств экспертных систем — способностью объяснить при необ¬
ходимости, на чем основываются сделанные выводы. В нашей игру¬
шечной системе «объяснение» возможно лишь на том поверхностном
уровне, который предусмотрен в системе МИЦИН, т. е. путем про¬
слеживания от конца к началу всех правил и всех условий их при¬
менения, которые встретились системе в процессе вывода конечного
решения.
А чтобы получить нечто более полезное, чем просто перечис¬
ление использованных при выводе правил, не обойтись без модели
причинно-следственных связей. Как же могла бы выглядеть такая
модель в нашем случае? В ней должны найти отражение все до¬
стижения физики, применимые к повседневности, все, что известно
о трехмерном пространстве, воде, тяготении, материалах и их водо¬
непроницаемости, не говоря уж об истинах социального или биоло¬
гического порядка, относящихся к свойствам домов и к привычкам
людей. Все это нужно структурировать и увязать между собой в ма¬
шинной памяти с тем, чтобы получить представление, удобное для
проверки эвристических теорий, а также для объяснения этих тео¬
рий и возникновения внутри их новых моделей. Но прежде всего
бросается в глаза, что модель причинно-следственных связей будет
во много раз объемнее своего эвристического аналога, тех двух таб¬
лиц, которые мы привели раньше. Конечно, в шуточном примере,
подобном нашему, «глубокие» объяснения логического хода решений
системы могут быть не вполне уместными. Ведь каждому из нас
приходилось когда-нибудь встречать некоего «суперинтеллектуа¬
ла», чья готовность во всем докапываться до самых основ и малей¬
ших деталей вызывала у нас по меньшей мере недоумение. Обра¬
титься к такому человеку даже с простейшим «почему»? далеко не
безопасно. Можно вообразить себе диалог машины с подобным
«сверхумным» любителем пользоваться зонтиком.
ЭВМ. Опишите текущую ситуацию, пожалуйста.
Пользователь. На улице, пользователь промок. Зонт закрыт. По¬
года — дождь.
ЭВМ. Совет: «не открывайте».
Пользователь. Почему?
ЭВМ. Правило 003: Если пользователь промок, то «не открывайте».
Пользователь. Почему?
ЭВМ. Необходимое предварительное условие для того, чтобы «от¬
крыть», требует, чтобы пользователь не промок. Если это не¬
обходимое условие для действия не выполнено, то наша реко¬
мендация: «Не открывайте».
Пользователь. Почему?
ЭВМ. В данном случае предварительное условие определяется ко¬
нечной целью. Если какое-то условие предполагает невозмож¬
На пути к модельным небесам 173
ность достижения цели посредством подходящего действия, то
отрицание этого условия формулируется как часть предваритель¬
ного условия. Цель действия «открыть» — это достижение со¬
стояния, в котором пользователь не промок. Если же пользова¬
тель промок, то эта цель недостижима с помощью действия «от¬
крыть».
Пользователь. Почему?
ЭВМ. Высушить можно одним из следующих классов действий:
обдувание, отсос, выжимание, нагрев, замораживание. Действие
«открыть» не принадлежит ни к одному из этих классов.
Пользователь. Почему? ... и т.д.
При этом машина все глубже входит в вопросы физики процес¬
сов испарения, капиллярности и тому подобного, без конца терпели¬
во и подробно отвечая на все новые «почему?». Каким прекрасным
собеседником оказалась бы такая система для любопытных ребяти¬
шек!
Наглядной иллюстрацией возможностей эвристических моделей
в действии могла бы служить, например, игра Фишера или Карпова
на блиц-турнирах. В такой игре они могут пользоваться лишь эв¬
ристическими соображениями — ни для чего другого у них нет вре¬
мени, и тем не менее они сохраняют свое преимущество перед обыч¬
ными мастерами, которым разрешается тратить сколь угодно вре¬
мени на обдумывание ходов и выбор наиболее удачного из них.
В отличие от этого инженер, занятый поиском недостатков в скон¬
струированной им машине, пользуется исключительно моделями
причинно-следственных связей, в основе которых лежит его конст¬
рукторский замысел данного механизма. Здесь исключается, чтобы
в работе машины он чего-нибудь не понимал. К тому же жизнь ма¬
шины еще слишком коротка, чтобы на ее основе можно было выра¬
ботать эвристические представления о ее поведении.
Различные способы создания моделей
Существуют не только разные виды моделей, но и разные способы
их создания. Астрономический календарь, например, представляет
собой модель Солнечной системы, которую можно построить либо
снизу вверх, т. е. на основании наблюдений за движением планет,
либо сверху вниз — опираясь на законы механики Ньютона и его
закон всемирного тяготения. (При этом не следует забывать, что
и сами законы Ньютона были выведены из наблюдений движения
планет.) Эвристические соображения, которыми пользуется шахмат¬
ный чемпион при игре блиц, сложились по принципу снизу вверх,
на основании конкретных примеров. В принципе их можно было бы
вывести и сверху вниз, непосредственно из правил игры, хотя прак¬
тически это вряд ли осуществимо: вспомним заблуждение Ван Ду-
174 Компьютер — творец
зена (гл. 4). Разными моделями физического мира пользовались и
первобытные люди, например предсказывая с их помощью погоду.
«Небо в тумане, земля в обмане, пусто в кармане» — это типичное
эвристическое правило, в котором совершенно ничего не объясня¬
ется, но которое было выведено по принципу снизу вверх из резуль¬
татов наблюдений. В то же время «Троянцам нет попутного ветра
потому, что они разгневали богов» — это типичное причинно-следст¬
венное объяснение, опирающееся на свою модель, которая по методу
аналогий была также создана снизу вверх. Таким образом, при¬
чинно-следственные модели также могут создаваться как результат
обобщения эмпирических наблюдений, и по существу именно так
создавались мифы с древнейших времен.
Во многих областях практической деятельности удается обой¬
тись — и порой с большим успехом — одними эвристическими мо¬
делями. Примерами тому могут служить и повар, незнающий даже
азов химии, и политик — профан в социологии, и столяр, не раз¬
бирающийся в геометрии, и предсказатель погоды, не знакомый с
гидродинамикой. Другой подобный пример связан с нашим умени¬
ем считать. У каждого из нас, наверное, был свой «звездный час»,
когда на экзаменах в начальной школе мы демонстрировали в счете
буквально концертную виртуозность. Но разве при этом мы обла¬
даем действительно глубокими знаниями арифметики, вооружены
стройной теорией, позволяющей объяснить, почему работают все те
приемы, которым нас учили в школе? Кто из нас помнит аксиомы и
кто в состоянии сегодня доказать хоть одну из основных теорем ариф¬
метики?
Бурным развитием экспертных систем мы обязаны одному откры¬
тию. Как выяснилось, даже самые интуитивные решения в каждой
предметной области можно выразить в виде достаточно простых и
однотипных процедур, основанных на эвристических правилах,
согласно которым действие вызывает распознавание специфических
структур особенностей текущей ситуации. На нынешнем уровне
наших знаний и умений создание причинно-следственных моделей
сопряжено с большими трудностями и затратами. И тем не менее мы
уже подходим к рубежу, где одних эвристических моделей становит¬
ся недостаточно. Необходимо, чтобы экспертная система могла
основное время работать в соответствии с рекомендациями эвристи¬
ческих правил и быстро реагировать на возникающие ситуации,
затрачивая при этом довольно незначительные вычислительные
ресурсы. Если же возникнет ситуация, для которой в системе нет
подходящих правил, экспертная система должна иметь возможность
ввести в дело причинно-следственную модель соответствующей
предметной области — модель, работа с которой потребует много
времени и больших ресурсов, но которая позволит получить искомое
решение. Такой способ совмещения двух типов моделей в рамках
одной системы иллюстрирует рис. 30.
На пути к модельным небесам 175
До настоящего времени мало кто из специалистов по экспертным
системам решался следовать этим курсом, но два заметных достиже¬
ния здесь все же имеются. Одно из них принадлежит группе иссле¬
дователей из Университета «Кейс уэстерн резерв», которая разра¬
ботала систему управления сетью электроснабжения. Наряду с
эвристической моделью на 800 правил, хранящихся в ассоциативной
Рис. 30. Роль эвристической и причинно-следственной мо¬
делей в комбинированной системе.
памяти системы, здесь имеется причинно-следственная модель, опи¬
сывающая сеть и происходящие в ней процессы на основе количест¬
венных законов теории электричества [1]. В Иллинойсском универ¬
ситете У. Б. Раус и Р. М. Хант создали систему для диагностики
неисправностей электромеханического оборудования, которая ис¬
пользует как соответствия между структурой симптомов и диагно¬
зом, так и логическое и физическое описание диагностируемых объек¬
тов [2]. Поскольку развитие экспертных систем происходит ныне
именно в этом направлении, у нас будет появляться все больше
экспертных систем, которые не только умело справляются с постав¬
ленными перед ними задачами, но и глубоко проникают в их суть.
Общие представления о том, что означает такой углубленный под¬
ход к формированию экспертных знаний, дает система диагностики
внутренних заболеваний, разработанная Гарри Поплом и Джеком
Меерсом в медицинской школе Питтсбургского университета.
Широко распространено мнение, что алгоритмы решения задач,
опирающиеся на причинно-следственные модели, по сути своей
безупречны, как это строго доказано их создателями, и потому «на¬
ввод
Новая ситуация
Эвристическая
модель навыка
Имеется ли
совпадение
с эталоном ?
Пожарное правило
(оперативное и дешевое)
Причинно-
следственная
модель предметной
области
Вычислить
и осуществить действия
(медленно и дорого)
176 Компьютер — творец
дежны» — в отличие от эвристических моделей, которые по самой
своей природе не гарантированы от больших, не поддающихся ко¬
личественной оценке ошибок. В действительности же строгое дока¬
зательство корректности решений, основанных на причинно-след¬
ственных моделях, так же невозможно, как и решений, построенных
на эвристических моделях, даже если предметная область допуска¬
ет строгий математический анализ относящихся к ней явлений.
Иногда приходится слышать: «Нужно было сделать экспертную сис¬
тему для решения таких-то задач, но я не уверен в эвристических
моделях с продукциями. Ведь невозможно узнать, ошибаются они
или нет, или по крайней мере в каких точных пределах они могут
ошибаться».
С тем же успехом можно сказать: «Нужно было бы поджарить
омлет, но я не уверен в яйцах. Как знать, может, они протухли».
Единственное, что на это можно ответить: «Покупайте диетичес¬
кие яйца или заведите себе надежного продавца на рынке. Ну а
если ни то, ни другое вам не подходит, то придется обзавестись соб¬
ственной курицей».
Общаясь с чуждой психикой
Любые модели дают в той или иной степени карикатурное представ¬
ление о реальном мире. А в какой степени искажать реальность,
чтобы суметь втиснуть ее в удобоваримое представление, сущест¬
венно зависит от свойств устройства, которое будет пользоваться
этими представлениями, от того, идет ли речь, скажем, о разуме
человека или о большой вычислительной машине. Разной «психике»
подходят разные модели, и как только возникает необходимость
общения между носителями разной психики, одновременно возни¬
кают и трудности согласования этих моделей. Ведь может оказать¬
ся, что одна сторона совершенно не в состоянии объяснить, что она
имеет в виду, в терминах, понятных другой стороне. Возьмем, к
примеру, проблему общения с дельфинами. В настоящее время в
США с помощью компьютеров, использующих алгоритмы анализа
сигналов, исследуются в широком диапазоне частот звуки, которы¬
ми дельфины обмениваются между собой. Эту программу финанси¬
руют ВМС США в надежде, что этих в высшей степени сообразитель¬
ных морских млекопитающих удастся научить вести поисковые и
подъемно-спасательные работы на дне океана.
В океанариуме города Сан-Диего дельфины и их сородичи из
семейства касаток демонстрируют гораздо большие успехи, чем
дрессированные тюлени, обезьяны, собаки и лошади в цирке. А в
награду за успешно выполненный трюк им достается еда, поощри¬
тельное похлопывание по голове или просто разрешение покрасо¬
ваться, что они и делают, совершая по бассейну круг почета в виде
непрерывно следующих друг за другом высоченных прыжков над
На пути к модельным небесам 177
водой. При первом же взгляде на мозг дельфина поражает, насколь¬
ко он больше человеческого как по объему, так и по количеству из¬
вилин. В связи с этим небезынтересно отметить, что, по мнению
главного дрессировщика океанариума, дельфины не намного ум¬
нее шимпанзе, с которыми тому также приходилось часто работать.
Так зачем же дельфину такой огромный мозг? Одно из чудес,
которые демонстрируют дельфины, состоит в том, что они на рас¬
стоянии определяют, литой или полый металлический шар опущен
под воду. Поначалу кое-кто даже пытался связать эту таинствен¬
ную способность дельфинов с парапсихологией. Но потом выясни¬
лось, что у них есть для этого гидролокатор с высокой пропускной
способностью и разрешением порядка микросекунд. Такой гидро¬
локатор позволяет обнаружить разницу в эхосигналах от двух та¬
ких шаров. Два дельфина способны, кроме того, как бы настраивать
свои «автопилоты» на режим взаимного слежения. Так, в океанари¬
уме ежедневно демонстрируется такой номер: два дельфина на боль¬
шой скорости плывут настолько синхронно, что им удается удержи¬
вать на плаву хрупкую фигурку девушки, которую они якобы спа¬
сают после неудачного падения в бассейн. Плывя бок о бок, они
умудряются сжимать девушку не слишком сильно, чтобы не разда¬
вить ее, и одновременно не настолько слабо, чтобы она могла про¬
скользнуть между ними.
Возможно, мощный мозг нужен дельфинам для обработки сиг¬
налов гидролокатора, что позволяет им еычислять взаимную кор¬
реляцию между поступающим от него потоком информации о по¬
ложении других дельфинов и о внешней среде и потоком информа¬
ции от своих зрительных органов. Ученые в общем согласны с этой
гипотезой. Однако часть непонятных звуков, которыми быстро обме¬
ниваются между собой дельфины, по-видимому, следует отнести к
выражению настроения и проявлению общительности. Один дель¬
фин в состоянии обучить другого довольно сложным фокусам, но
пока непонятно, какую роль в этом играет «лингвистический ин¬
структаж», а какую — показ и подражание.
Основным препятствием, мешающим дельфину и человеку всту¬
пить в «разговор» друг с другом, может быть коренное различие в их
когнитивных мирах. «Тот факт, что дельфины живут в морской сре¬
де,— замечает Майкл Арбиб из Массачусетского университета,—
должен весьма значительно сказаться на формировании их интел¬
лекта. Если допустить, что у них есть свой язык, то слова, которы¬
ми они пользуются, должны быть совсем другими, чем наши. Поня¬
тие, которое для них выглядит очевидным, нам могло бы показаться
весьма сложным» [3]. Соображения Арбиба в основном касаются
проблем установления связи с обитателями других планетных
систем. Какие сообщения мы должны посылать им? И с каким ин¬
теллектом нам придется иметь дело: с естественным или искусствен¬
ным? Следует ли посылать картинки, а если да, то как получатель
178 Компьютер — творец
узнает, где у них верх, а где низ? Каковы те когнитивные и линг¬
вистические константы, которые должны, по-видимому, характери¬
зовать любые достаточно развитые формы интеллекта независимо
от того, каким модальностям восприятия и культурным средам они
соответствуют? Если же говорить о вещах более насущных, то при¬
дется признать, что отсутствие когнитивной согласованности между
людьми и машинами ставит огромные трудности перед теми, кто
создает машинные модели.
За пределами возможностей разума
Модель прежде всего должна быть осмысленной. Очень многие из
тех, кто работает в области представления знаний, полагают, что
достаточно построить систему, работающую с правилами вывода,
и одно это сделает ее работу доступной понимаю людей. В действи¬
тельности дело обстоит совсем не так. Нетрудно создать правила,
опираясь на модель, в которой либо из-за ее размеров, либо из-за
ее структуры человеку попросту не разобраться. Вообразим, к при¬
меру, какого-нибудь представителя одного из первобытных афри¬
канских племен, который никогда не удалялся от дома более чем на
несколько километров. Можно сколь угодно рассказывать ему о
Нью-Йорке йотом, что до него многие тысячи километров, абориген
все равно отправится туда пешком. Сама мысль о существовании
места, куда не дойти пешком, может оказаться вне его разумения.
Сегодня мы знаем, что скорость распространения света составляет
300 ООО км/с, а во времена Аристотеля даже мысль о том, что какой-
то объект может пролететь от * горизонта до горизонта настолько
быстро, что глазами за ним не уследить, представлялась невозмож¬
ной. Поэтому-то Аристотель и считал, что лучи восходящего солн¬
ца мгновенно освещают всю ширь горизонта и свет никак не может
распространяться в пространстве с конечной скоростью. Насколько
же может ошибиться ученый? Если говорить об Аристотеле, то здесь
ошибка составляла примерно четыре порядка. Ведь кажущаяся
одновременность исчезла бы, если бы лучи восходящего солнца
распространялись по небу со скоростью лишь 30 км/с.
Принято считать, что неприятие гелиоцентрической модели Ко¬
перника было обусловлено исключительно религиозными догмата¬
ми. В действительности же многие разумные люди того времени —
и среди них великий астроном Тихо Браге — заявляли, что если бы
Земля вращалась вокруг Солнца, то нам бы казалось, что звезды
на небе движутся взад-вперед с периодом в один год — так назы¬
ваемый звездный паралакс (рис. 31). Однако такое движение не на¬
блюдалось. Тогда подсчитали, как далеко должны находиться звез¬
ды, чтобы звездный паралакс был бесконечно малым,— и решили,
что никакой объект не может быть столь удален от Земли! Во вре¬
мена Ньютона начали преобладать другие доводы, но только к
На пути к модельным небесам 179
1832 г. астрономические инструменты настолько усовершенствова¬
лись, что удалось наконец обнаружить звездный паралакс. При
этом оказалось, что ближайшая из звезд, Альфа Центавра, удалена
от нас на 40,7 -1012 км и имеет параллакс всего в 3/4 угловой секун¬
ды.
Необозримость размеров Вселенной, которую нам открыла
наука, в невероятной степени расширила наши представления о
пространстве и времени. НаАм уже не кажется странным, что свет
Рис. 31. Звездный параллакс (эффект сильно преувеличен).
На самом деле показанные здесь углы настолько малы, что
до XIX в. астрономы не имели возможности их измерить.
распространяется со скоростью 300 000 км/с. Во времена молодости
Эйнштейна астрономам и в голову не приходило, что, возможно,
существуют и другие галактики, кроме нашей. Но, как выяснилось,
галактики разбегаются по всем направлениям и их такое количество,
что лишь в той малой части Вселенной, которую несложно наблю¬
дать в телескоп из Северного полушария, насчитывается около мил¬
лиона галактик. Построенная компьютером карта этих галактик
была сделана как бы в виде художественного плаката на черном глян¬
цевом фоне размером 1x1 м [4]. Расстояние до самой удаленной
галактики на этой карте составляет порядка одного 1 млрд. свето¬
вых лет. Но это еще не все. Число галактик, которые можно увидеть
в современные оптические телескопы, примерно в тысячу раз пре¬
вышает число самых ярких звезд, отобранных для карты звездного
неба, а оно составляет около 1 млн. Космические обсерватории со
временем позволят нам увидеть еще очень много новых звезд и
галактик.
180 Компьютер — творец
Но что бы там ни случилось, как бы ни расширялись наши пред¬
ставления, они всегда останутся ограниченными. И создатели моде¬
лей должны всегда помнить, что если граф, описывающий модель,
настолько велик, что его концевые вершины нельзя увидеть одновре¬
менно, то никакой человек не в состоянии разобраться в этой модели.
Язык и мышление
Последнее время исследования по искусственному интеллекту озна¬
меновались первыми успехами в ряде областей, которые считаются
определяющими для достижения долгосрочной цели — создания
интеллектуальных машин, способных решать действительно полез¬
ные задачи. Одна из таких областей связана с проблемой создания
моделей. Другая касается понимания самой природы знания и
языков, с помощью которых это знание можно выразить.
Является ли мышление необходимой предпосылкой языка или
дело обстоит как раз наоборот? На протяжении последнего столе¬
тия этот вопрос занимал умы таких разных мыслителей, как Льюис
Кэрролл, Людвиг Витгенштейн, Жан Пиаже и другие. Бенджамен
Ли Уорф указал на роль словарного запаса, который направляет
и одновременно отражает возможности восприятия, а в свою оче¬
редь этот запас формируется под воздействием культурного и эконо¬
мического опыта. Даже в Шотландии для обозначения понятия
«снег» пользуются всего одним словом, в крайнем случае двумя,
если считать и слово «шуга». У эскимосов же больше десятка таких
слов, поскольку им жизненно важно уметь различать разные виды
снега. А скажем, жизнь племени хопи организована таким образом,
что нет нужды ни отражать в языке понятие «время» в качестве су¬
ществительного, ни вводить разные времена у глаголов. Уорф счи¬
тал, что язык служит своего рода отливочной формой для мысли,
организуя ее по заранее сформированным лингвистическим кате¬
гориям. Какую-то определенную точку зрения по этому вопросу
придется занять и каждому специалисту по искусственному интел¬
лекту, поскольку он так или иначе должен выбрать стратегию
воплощения функций интеллекта в разрабатываемом программном
обеспечении. Собирается ли он сделать автоматизацию процесса вы¬
вода через представление знаний главным стержнем своей системы,
отведя, где возможно, лишь второстепенную роль «лингвистическим
украшательствам»? Или он намерен очертя голову кинуться в ма¬
шинную лингвистику как самое важное в своей работе?
Преподаватели логики часто объясняют понятие правила вывода
(которое служит основой для автоматизации всего процесса выво¬
да), используя такой избитый силлогизм.
Посылка 1: Все люди смертны.
Посылка 2: Сократ человек.
Вывод: Сократ смертен.
На пути к модельным небесам 181
Кристофер Лонгет-Хиггинс заготовил на этой основе лингвисти¬
ческую ловушку.
Посылка 1: Людей много.
Посылка 2: Сократ человек.
Вывод: Сократов много.
Бертран Рассел придумал еще одну ловушку из высказываний:
Георг IV не был уверен, что автором романа «Уэверли» был
Вальтер Скотт
и
Вальтер Скотт был автором романа «Уэверли».
Нам не хотелось бы, чтобы из этого компьютер сделал вывод:
Георг IV не был уверен, что Вальтер Скотт был Вальтер
Скотт [5].
На таких подводных камнях в основном и строилась философия
языка в недалеком прошлом. Сегодня же всем понятно, что процесс
вывода нельзя представить с помощью чисто формальных операций,
покуда естественный лингвистический текст не переведен на язык
символов, специально приспособленных к возможностям формаль¬
ной логики. Например, на языке исчисления предикатов приведен¬
ный выше парадокс с Сократом можно представить в следующем ви¬
де
Случай А
Посылка 1: для всех х: из принадлежит (х> люди) следует
смертный (х)
Посылка 2: принадлежит (Сократ, люди)
Вывод: смертный (Сократ)
Случай Б
Посылка 1: многочисленный (люди)
Посылка 2: принадлежит (Сократ, люди)
Вывод: ?
В случае А вывод получается в результате подстановки «Сократа»
вместо х. В случае Б никакой вывод невозможен. Таким образом,
после того как исходные утверждения переведены на соответству¬
ющий формальный язык, выводы, полученные по правилам формаль¬
ной логики, перестают расходиться с выводами, основанными на
здравом смысле.
Под градом беспокойных запросов
Вопрос о том, что предшествует чему: язык мышлению или мыш¬
ление языку,— ныне приобретает практическое значение по мере
того, как современные экспертные системы и компьютерные ин¬
182 Компьютер — творец
формационные службы оснащаются периферийными устройствами,
рассчитанными на общение с пользователем на языке, близком к ес¬
тественному. Это значит, что рано или поздно нескончаемый поток
запросов и претензий граждан, которые сегодня бомбардируют нашу
бюрократическую систему, обрушится на автоматизированные сис¬
темы, и им придется с бесконечным терпением давать консультации
по вопросам, скажем, пенсионного обеспечения. Но от таких систем
потребуется, увы, не только терпение и лйнгвистические познания.
Им также понадобится способность из водоворота эмоций выужи¬
вать рациональное зерно: что же в конечном счете имеет в виду
проситель и чего он хочет. Вот небольшая подборка отрывков из
писем, которые, как говорят, получило министерство пенсионного
обеспечения в прошлом.
«Я не смогла добиться пособия по вечности (eternity вместо ma¬
ternity— многодетности), несмотря на то что ходила к инспектору
по настояниям (insistense вместо assisstance — по социальному обес¬
печению). У меня восемь детей, и что мне теперь с этим делать?»
«Я должна получить прибавку к пенсии, раз мой сын командует
плевательницей (spittoon вместо platoon — взводом). Мне запла¬
тили отдельно, когда он слушал (listened вместо inlisted — пошел на
службу). А хотите знать, в какой части он ранен? Если вам на все
наплевать, его ранили в Дарди Нелах (вместо Дарданеллы)».
«Согласно вашим инструкциям, я родила двойню, чего и посылаю
в том же письме».
Как видим, один ложный шаг, одна неоправданная затяжка, и
не известно, что может за этим последовать.
«С удовольствием сообщаю вам, что мой муж вчера умер. Буду
рада, если вы получите мою пенсию. А если не поспешите, мне при¬
дется обратиться за сопротивлением (resistance вместо assistance —
помощью) к общественности».
Конечно, систему можно заставить отвечать по необходимости
быстро, но и ее ответы порой могут оказаться не на должном уровне,
например что-то вроде: «По поводу вашего запроса о лечении зу¬
бов. С передними зубами все в порядке, но зубы в задней части бо¬
лят ужасно».
Разумеется, легче всего потешаться над сегодняшним уровнем
компьютерной обработки текстов на естественном языке из-за не¬
способности машин справляться с примерами вроде приведенных
выше. Но как ни далеки от совершенства современные системы, их
уже используют в коммерческой переписке, а машинная лингвистика
позволила открыть несколько лингвистических законов, которые
На пути к модельным небесам 183
оставались незамеченными лингвистами «домашинной эры». Од¬
нако независимо от грядущих успехов в обработке текстов на естест¬
венном языке для программирования интеллектуальных систем
всегда нужны будут особые логические языки, причем не только для
того, чтобы обходить ловушки, подобные парадоксу с Сократом
(для чего обычных языков программирования действительно недо¬
статочно), но и для создания систем, способных рассуждать о том,
что известно другим системам.
Знание о знаниях
Каким системам могут понадобиться подобные знания? Предста¬
вим себе программу, призванную помогать агенту бюро путешест¬
вий планировать маршруты и составлять графики переездов. Пока
единственным источником знаний, используемых в программе, бу¬
дет, например, содержание расписаний движения поездов и само¬
летов, все остается в порядке, хотя и здесь возможны трудности,
вызванные поступлением новых данных (о том, что диспетчеры аэро¬
портов решили начать забастовку под лозунгом «работать по
правилам», об урагане, о начале гражданской войны, о запрещении
вылетов, о пиратских угонах, об изменении расписаний или о заме¬
ченной опечатке в расписании), которые «всем известны», но кото¬
рые пока еще не попали на стол агента нормальным путем. Поэтому
хотелось бы, чтобы программа еще и активно помогала отыскивать
нужные сведения, например могла бы догадаться позвонить куда-
то. Но тогда ей нужно будет знать, что такое знание, и уметь рас¬
суждать о нем.
Представьте себе систему — назовем ее ТРЭВЕЛЕЙД,— кото¬
рая предназначена в помощь коммерческому бюро путешествий.
Пат работает агентом в таком бюро, и ей нужно знать все необходи¬
мое о том, как ее клиенту добраться самолетом из Гонконга в Улан-
Батор. Мэри работает в агентстве Кука и располагает всей необходи¬
мой информацией об этом рейсе. Майк — непосредственный началь¬
ник Мэри в агентстве, которому Пат только что звонила по другому
вопросу. Но Пат не знает, что у Мэри и Майка один и тот же теле¬
фон.
Итак, Пат просит систему ТРЭВЕЛЕЙД найти телефон Мэри
и соединить ее с ней. В памяти машины телефон Мэри не значится,
но в ее базе данных имеются три следующих факта.
Факт 1: Пат знает телефон Майка.
Факт 2: Пат только что набирала телефон Майка.
Факт 3: Телефон Мэри=телефон Майка.
Анализируя эти три факта вместе, программа приходит к выво¬
ду (воспользовавшись правилом подстановки с учетом равенства)?
что Пат знает телефон Мэри, и поэтому спрашивает его у Пат, т. е.
184 Компьютер — творец
повторяет тот самый вопрос, который та задала ей! Более того, в
ответ на возмущенную реакцию Пат ТРЭВЕЛЕЙД выпечатывает:
«Вы только что набирали телефон Мэри!» И хотя на этот раз система
совершенно права, Пат не может представить себе ничего подобного
и кладет конец этому замечательному союзу, выдергивая из розетки
шнур питания. Что же произошло? Оъединив факт 2 с фактом 3,
программа пришла к выводу (вполне справедливому), что Пат на¬
бирала телефон Мэри. Но Пат, не зная о факте 3, не могла догадать¬
ся о правильности этого вывода. Так почему же оказался неверным
другой вывод системы, полученный вроде бы точно по такой же
схеме?
Простой ответ на этот вопрос состоит в следующем. Прежде
всего, как уже отмечалось ранее, ничего другого и не следовало
ожидать от попытки применить законы дедуктивного вывода не¬
посредственно к высказываниям на естественном языке, и даже пос¬
ле того, как вы переводите высказывания о знаниях на язык фор¬
мальной логики, они по-прежнему остаются довольно уязвимыми.
Нам необходимо разобраться в том, как машина может знать, что
вы знаете, что она знает, что знает то, что знает. Джону Маккарти
из Станфордского университета удалось доказать, что с этой проб¬
лемой можно удовлетворительным образом справиться в рамках
исчисления предикатов первого порядка [6]. Следуя его методу,
мы могли бы без особого труда обеспечить системе ТРЭВЕЛЕЙД
возможность строить дедуктивные умозаключения о том, кто знает,
какой телефон и т. п.— и, в частности, о том, что мы знаем и чего
мы не знаем.
Оставляя логику первого порядка без каких-либо изменений,
Маккарти обращается с понятиями просто как с одним из типов
объектов, благодаря чему и константы, и переменные, и термы
могут рассматриваться в рамках типа «понятие». Вводя специальные
обозначения, Маккарти различает «понятийные (видовые) констан¬
ты», такие, как Пат или Майк, и соответствующие им экземплифици-
рованные константы: пат и майк. При этом Пат обозначает понятие
или вид, которому принадлежит конкретный экземпляр или объект
пат. Аналогичным образом понятийной переменной Лошадь соот¬
ветствует объектная переменная лошадь, а терм понятия телефон
майка является экземпляром понятия Телефон (Майк). Ключом к
концепции Маккарти служит введенная им функция Знать, аргумен¬
тами и значениями которой могут быть только понятийные перемен¬
ные. Вводимое тем самым ограничение объясняет, что знать можно
только понятия так же, как пить можно только жидкость.
Если же смотреть глубже, то выясняется, что нам недостает
надежной и хорошо формализованной теории знаний, которая под¬
вела бы под наши исследования такой же прочный научный фун¬
дамент, каковым оказалась, например, теория циклов Карно для
теплотехники или теория информации Шеннона — для связи. На
На пути к модельным небесам 185
основе такой теории мы могли бы создать исчисление высказываний
о знаниях и других продуктах мыслительной деятельности — имен¬
но этим и занимается сегодня Джон Маккарти.
Обойдемся без старшины
К числу самых насущных забот исследователей по искусственному
интеллекту относится и потребность в языке, который позволял бы
обращаться к формальной логике непосредственно, а не в повели¬
тельном наклонении, как это делается в Коболе, Фортране, Бейсике
и других подобных языках. Ведь машине когда-нибудь надоест эта
нескончаемая череда команд: «Сделай то-то, сделай то-то, сделай
то-то...» Их беспомощное негодование напомнит анекдот о солдате-
новобранце, марширующем под бдительным оком старшины к
краю плаца, обрывающегося в пропасть: «Ради всего святого,
старшина, скажите что-нибудь, хотя бы «прощай»!» Для тех машин,
которые уже сегодня страдают от скуки или отчаяния, у нас есть
хорошие новости: недалек тот день, когда и им будет позволено ду¬
мать самим. Наступит момент, когда программисты, возможно под¬
стегиваемые собственной ленью, освободятся от старшинских при¬
вычек. Какое облегчение будет скомандовать: «...левой, правой...
левой, правой... кругом... левой, правой..., а теперь — по домам
и чтобы каждый руководствовался собственным здравым смыслом!»
Этот переход к машинам со «здравым смыслом» Эд Фейгенбаум
называет «спектром от КАК до ЧТО». Вместо того чтобы говорить
компьютеру, как он должен что-то делать, нам хотелось бы иметь
возможность сказать ему лишь, что нам от него нужно, и предоста¬
вить ему самому решать, как это сделать. По мнению Фейгенбаума,
как раз в этом и состоит конечная цель исследований по искусствен¬
ному интеллекту [7]. Основная идея так называемого логического
программирования заключается в том, что каждый компьютер дол¬
жен обладать собственной базовой машиной логического вывода,
а программист должен сообщать ей одни только факты, не сомне¬
ваясь в том, что она сама лучше всех знает, что с этими фактами
делать. И подобно тому как мы пытаемся создать у машины необхо¬
димый запас знаний, вводя в нее полезные сведения о том, что есть
и чего нет в окружающем нас мире (применительно к задачам
сортировки, объединения файлов, управления данными или очередя¬
ми, составлением расписаний, анализом игровых моделей или реше¬
нием других задач), машина будет сама развивать свои способности
сортировать, объединять файлы, управлять данными, преобразо¬
вывать матрицы ит. п., пытаясь доказывать, что всякое введенное
в нее утверждение о целях можно вывести по законам логики из
накопленной ею совокупности фактов.
Еще в 1971 г. Роберт Ковальски, работавший тогда в Эдинбург¬
ском университете, говорил: «Что бы вы ни хотели сообщить маши¬
186 Компьютер — творец
не, говорите ей только о фактах на языке исчисления предикатов
первого порядка. Это в любом случае будет обладать очевидной дек¬
ларативной семантикой — и все, сказанное здесь о предметной об¬
ласти задач, будет допускать лишь единственную интерпретацию.
Если же сверху этого у вашей системы имеется машина для дока¬
зательства теории, в принципе способная дедуктивно вывести все,
что дедуктивно выводимо из начальных фактов, то соответствующим
логическим высказываниям можно будет приписать и процедураль-
ную семантику. А это значит, что можно забыть о долгих годах про¬
граммирования в «стиле старшины» и начать программировать на
языке, который существовал всегда, хорошо изучен и вполне про¬
зрачен для математика,— на языке исчисления предикатов первого
порядка».
В ожидании чуда
Ковальски подробно показал, как машину для доказательства тео¬
рем, основанную на «принципе резолюций» Дж. Э. Робинсона,
можно превратить в транслятор с такого языка. Но с ним не согла¬
сились. Одни говорили, что он сошел с ума. Другие утверждали,
что он неправ, хотя и не могли сказать, в чем именно. Большинство
же придерживалось сугубо прагматической точки зрения, с которой
«пророкам» приходилось сталкиваться во все времена и эпохи:
ни за что не пбверим, пока не сотворите парочку «чудес».
Но «чудеса» требуют времени и пота, изобретательности, упорст¬
ва и удачи. За прошедшие годы последователи Ковальски в разных
городах и странах развили в себе все эти качества.
Результатом этих усилий стал ПРОЛОГ — система программиро¬
вания, которая в определенной степени сохранила верность размаху
и простоте изначальной идеи, но вместе с тем ее удалось поставить
на обычные машины, в том числе и на микроЭВМ, причем эффектив¬
ность ее вполне сравнима, например, с эффективностью едва ли не
оптимальной чисто лисповской системы, разработанной в Стан¬
форде [8].
Система ПРОЛОГ имеет дело с объектами и отношениями меж¬
ду ними, которые задаются ей программистом в форме правил. От¬
ношения между объектами могут иметь следующий вид з
Джону нравится Мэри
Филипп есть отец Чарлза
Чарлз есть отец Уильяма
Мэри нравится Джон.
С их помощью можно определить и новые отношения’
х есть друг для у, если х нравится у и у нравится х, а также зада¬
вать вопросы, например: дружит ли Джон с Мэри? В системе ПРО¬
ЛОГ это выглядит следующим образом:
На пути к модельным небесам 187
Есть ли (Джон — друг Мэри)?
Ответ: Да.
Чтобы от машины была реальная польза, система таких отноше¬
ний должна быть достаточно широкой. Но и на любом серьезном
уровне сложности всякая вычислительная задача обычно предпола¬
гает необходимость сортировки отношений между объектами —
выяснение принадлежности к тому или иному множеству и т. п.,—
так что решение всегда можно представить в виде последователь¬
ности логических выводов.
Руководители японского проекта по созданию ЭВМ пятого по¬
коления вполне поверили в преимущества логического программи¬
рования, сделав его краеугольным камнем своих планов. Сегодня,
по мере того как ПРОЛОГ получает все более широкое распростра¬
нение, появляется и возможность оценить его эффективность на
обширном материале, а также выяснить, какие дополнительные усо¬
вершенствования здесь нужны. Некоторые сторонние наблюдатели
по-прежнему скептически относятся к полезности для практических
целей тех базовых операторов, на которых основывается автомати¬
зация процесса вывода в машине, иронически замечая, что одного
оператора «из... следует...» недостаточно, нужно бы добавить «...
иногда следует...» или «... должно бы следовать...». Сейчас изучают,
как расширить возможности машины за счет добавления операторов
размытой, или модальной, логики. Но так или иначе логическое
программирование может сыграть в искусственном интеллекте та¬
кую же фундаментальную роль, как дифференциальное исчисление
в механике.
Шаткий фундамент евклидовой геометрии
Наши основные проблемы связаны не только с необходимостью
строгой формализации правил работы с естественным языком. К ог¬
ромным трудностям могут привести и машинные умозаключения об
окружающем нас физическом мире. Пытаясь строить нужные нам
причинно-следственные модели, мы хотели бы уметь выводить их
с помощью известных формализмов математики, логики и физики.
Но стоит попробовать пойти по этому пути, как сразу выясняется,
что существующие формализмы не удовлетворяют предъявляемым
им требованиям.
Возьмем, к примеру, евклидову геометрию, с которой все мы в
том или ином виде вынуждены были иметь дело в школе. Некото¬
рые из нас были очарованы ее изяществом, надежностью и стро¬
гостью. Других раздражала необходимость доказывать очевидное
и ее приверженность к точности в мире, где все измерения в силу
необходимости неточны. Безусловно, сегодня в связи с широким
распространением цифровых вычислительных машин и систем свя¬
188 Компьютер — творец
зи значение методов строгого доказательства только возросло. Одна¬
ко в самих основаниях евклидовой геометрии и гипотезах, на кото¬
рые она опирается, как выяснилось, скрываются существенные
проблемы. Посмотрим на рис. 32. Пунктирная линия на этом ри¬
сунке делит угол ВАС на два угла: BAD и DAC. Но обязательно
ли прямая AD должна пересечь прямую ВС, если AD продолжать
сколь угодно далеко, как указывает стрелка на конце отрезка AD?
Рис. 32. Обязательно ли пунктирная пря¬
мая пересечет прямую ВС? Мог ли Евклид
доказать это?
Разумеется, обязательно! А можете ли вы доказать это? Скорее
берите учебник геометрии — оказывается, нет! Льюис Кэрролл,
воспользовавшись этим, весьма изящно доказал, что все треуголь¬
ники — равнобедренные 19]. Как объясняет Ритер Хилтон из Уни¬
верситета «Уэстерн Онтарио резерв», это связано с понятием «за¬
мыкания» (линии, по которой букашка могла бы двигаться в одну
сторону до бесконечности). Представление о том, что всякое «замы¬
кание» делит плоскость в точности на два множества точек — «внут¬
ренние» и «внешние» — и что переход из одного множества в другое
обязательно связан с пересечением границы, даже в неявном виде
не предусмотрено в аксиомах Евклида, хотя они элементарны в рам¬
ках теории множеств. Но теория множеств представляет собой более
абстрактную ветвь математики, чем геометрия, и многие люди о
ней даже никогда не слыхали.
И если говорить о Евклиде, то когда нужный ответ можно полу¬
чить на основании аксиом и исходных данных, на это уходит не¬
много времени. Не следует опасаться, что придется вообще отка¬
заться от того или иного начинания, если вдруг выяснится, что нуж¬
ная цепь расчетов и логических доказательств слишком длинна,
чтобы ее можно было реализовать на практике. Иначе обстоит с
физикой, если только мы не намерены ограничиться задачами из
школьных учебников, а пожелаем выйти в реальный мир. Если кто-
нибудь из физиков не согласится с этим утверждением, попросите
его написать программу для робота, которому предстоит управлять
На пути к модельным небесам 189
одноколесным велосипедом. Сразу выяснится, что та физика, о
которой говорится в школьных учебниках, абсолютно непригодна
для решения столь сложных реальных задач. Что же касается соз¬
дания робота, которого можно было бы послать в ближайший киоск
за сигаретами (мы упоминали об этом в гл. 1), то основная трудность
здесь состоит в том, что мы не знаем, как формальным образом опи¬
сать природу связи между причиной и следствием.
Причинность и путешественник в пустыне
Большинство людей считают, что принципы причинно-следствен¬
ной связи им совершенно ясны и понятны. Они утверждают, что
с такими связями можно работать точно так же, как с операциями
логического следования, а значит, их нетрудно ввести в машину.
На самом деле все далеко не так.
Во-первых, из утверждения «из А следует В» вытекает как след¬
ствие, что «из не-В следует не-Л», а из утверждения «А является
единственной причиной В» вытекает «если не-Л, то не-В».
Во-вторых, в отличие от операции логического следования обще¬
принятой основой для установления причинно-следственной связи
являются вероятностные соображения.
В-третьих, в вероятностной трактовке транзитивность причинно-
следственных связей не имеет места. В отличие от этого если «из
А следует В» и «из В следует С», то всегда «из А следует С».
В-четвертых, никто не возражает, когда цепь логических сле¬
дований оказывается замкнутой, тогда как к замыканию цепи при-
чинно-следственных связей относятся с большим недоверием.
Специалисты по теории причинности придумали головоломку
о путешественнике, который на полпути вышел из автобуса, пере¬
секавшего пустыню, решив закончить путешествие пешком. Но у
него было два недруга, каждый из которых поклялся расправиться
с ним. Первый из злодеев еще в автобусе умудрился незаметно под¬
сыпать нашему путешественнику цианистый калий во фляжку с
водой. Второй же, ничего не зная об этом, долго подкарауливал его
в пустыне, а потом метким выстрелом пробил фляжку. Вода из фляж¬
ки вытекла — и путешественник принял медленную смерть от жаж¬
ды.
Со временем обоих его врагов привлекли к суду и признали
виновными в попытке убийства. Что же касается самой формули¬
ровки обвинения, то тут суд оказался в затруднении. Враг № 1
доказывал, что все возможные последствия его поступка были ан¬
нулированы, поскольку отравленная вода вытекла из фляжки. В то
же время враг № 2 настаивал на том, что его действия не только не
привели к смерти потерпевшего, но и даже продлили ему жизнь.
В конце концов суду пришлось признать правильной логику обоих
рассуждений. Но по настоянию присяжных было вынесено и част¬
190 Компьютер — творец
ное определение, в котором отмечалось, что здесь что-то не совсем
так.
Известный логик Пат Саппе из Станфордского университета
разработал метод анализа причинно-следственных связей, который
мог бы вооружить наш растерявшийся суд нужным ему оружием.
Несколько упрощая дело, начнем с мысли о том, что А является
кажущейся причиной В тогда и только тогда, когда: 1) А предшест¬
вует В по времени, 2) вероятность наступления события А отлична
от нуля, 3) условная вероятность наступления В больше, если на¬
ступило А, чем условная вероятность В в противном случае.
Заметьте, что пока мы говорим лишь о кажущейся причинности
в соответствии с которой, например, падение барометра должно
рассматриваться как причина (конечно, кажущаяся) дождя. Од¬
нако таких ложных причин можно избежать, если удастся найти
некое событие С, предшествующее по времени А, и такое, что 4) ус¬
ловная вероятность В, если произошли события Л и С, равняется
условной вероятности В в случае наступления только С. Это как
раз и показывает, что А не есть истинная причина В. В примере с
барометром таким С было бы понижение атмосферного давления
(в отличие от падения показаний барометра, т. е. нашего Л).
Вернувшись теперь в зал суда, где рассматривается дело о путе¬
шественнике, мы могли бы, следуя Саппсу, доказать, что главный
виновник здесь враг № 1, а врага № 2 придется оправдать по обви¬
нению в убийстве. Справедливо ли это? Трудно сказать. Возможно,
наши привычные представления о справедливости не отвечают стро¬
гой логике причинно-следственных связей. Преднамеренные дей¬
ствия врага № 1 не оставили его жертве никакой надежды на спа¬
сение. По крайней мере в этом смысле вывод, полученный по методу
Саппса, представляется более справедливым, чем приговор расте¬
рявшегося суда.
Как физика обманула ожидания мартышки
Вернувшись теперь к физике, мы увидим, что эта наука, которую так
часто считают чуть ли не универсальным вычислительным лекарст¬
вом, позволяющим предвидеть любой поворот событий, на самом
деле создавалась совсем для других целей, а именно: чтобы помочь
самим физикам разобраться в их собственных представлениях. Хо¬
тя физика и охватывает многие важные понятия, такие, как масса,
сила и энергия, существует множество других не менее важных,
которых она не касается, например связанных с идеями замыкания*
содержания одного в другом, опоры, контакта, препятствия, сквоз¬
ного пути. А ведь без этих понятий и без явного определения поня¬
тия причинно-следственных связей физика не в состоянии иметь
дело с реальным миром.
На пути к модельным небесам 191
В когнитивной психологии известна задача о мартышке, кото¬
рая, находясь в комнате, пытается завладеть гроздью бананов, под¬
вешенных на ниточке к потолку так, что ей до них не дотянуться.
В то же время в углу комнаты стоят садовые ножницы с ручками
такой длины, что ими обезьяна вполне может перерезать нитку
(рис. 33). Как мартышке догадаться, каким образом можно достать
бананы? Представьте себе теперь не живую мартышку, а робота
Рис. 33. Может ли мартышка сообразить, как
ей достать бананы?
по имени Мартышка, и вместо бананов набор инструментов, кото¬
рые ему приказано принести. Как же заложить в робот все необхо¬
димые для этого знания? Передать ему содержимое учебников по
физике? Хотя с помощью этой информации робот сможет получить
массу самых разнообразных сведений, без которых он вполне мог
бы обойтись (например определить силу натяжения шнура или
конечную скорость, с которой инструменты грохнутся об пол, если
шнур оборвется), Мартышка так и не узнает, что нужно сделать
для того, чтобы шнур оборвался, т. е. не получит никаких сведений
об особенностях данной ситуации, о возможных действиях и о важ¬
ных для этого случая причинно-следственных связях. Как видим,
рассматривать учебник по физике в качестве исчерпывающего и
действенного описания окружающего физического мира нет ника¬
ких оснований.
Среди многих специалистов по искусственному интеллекту, пы¬
тающихся ликвидировать этот пробел,— Патрик Хейес, который
занимается изучением того, что он называет «наивной физикой».
Он пытается построить такое представление мира, которое охваты¬
192 Компьютер — творец
вало бы уже упоминавшиеся понятия содержания, соединения, со¬
предельности и барьера [10]. Подобно тому как некоторые древне¬
греческие математики, усомнившись в универсальности евклидовой
геометрии, могли бы начать потихоньку зондировать дотоле неиз¬
вестный предмет — теорию множеств, сегодня мы делаем первые шаги
к созданию завтрашнего исчисления причинности. Тени геометров
никто не тревожил на протяжении более чем 2000 лет. Современная
промышленная робототехника, даже если она окажется не способной
ни на что другое, создает условия для того, чтобы сомнения возни¬
кали и разрешались гораздо быстрее.
9. А была ли кошка?
Однажды богослов и философ спорили
между собой: «Все вы, философы, одинаковы,—
саркастически заметил богослов.— Все вы
слепцы, пытающиеся отыскать э темной комнате
черную кошку, которой там нет». «Да,—
ответил философ,— вы бы, конечно,
ее там нашли!»
Приписывается У. Джеймсу
Начиная работать в области искусственного интеллекта, ученый
лицом к лицу сталкивается с проблемам уточнения таких понятий,
как знание, представление, реальность, истина, ощущение, причин¬
ность и творчество. Но эти понятия далеко не так определенны, как
все, с чем ему приходилось иметь дело прежде. И возникает естест¬
венная мысль обратиться к философии за уточнениями. Об иссле¬
дованиях по искусственному интеллекту иногда даже говорят как
о приложении философии к технике или, наоборот, техники — к
философии.
Широкая общественность, прослышав о подобных исследова¬
ниях, также начинает задавать вопросы философского .характера.
Могут ли машины мыслить? Имеется ли у них самосознание? Есть
ли у них чувства? К сожалению, ответы на эти вопросы, идущие от
философов, мало кого удовлетворяют. Без философских проблем
здесь не обойтись, но какими бы интересными они ни были сами по
себе, эти проблемы могут помешать нам настойчиво и по возможнос¬
ти быстро внедрять новую технику, которая должна нести благо
всему человечеству.
Нет ничего удивительного в том, что разговоры о машинном ин¬
теллекте и машинном творчестве вызывают у многих законное беспо¬
койство. И это беспокойство имеет не только философские, но и
эмоциональные корни. Во все времена люди с предубеждением от¬
носились к машинам, обладающим возможностями, которые преж¬
де считались прерогативой человека. Если жизнь священна, то это
как бы освящает и все те качества, которые являются неотъемле¬
мыми атрибутами жизни, к коим относятся способность передви¬
гаться, рассуждать, самостоятельно действовать, беседовать, про¬
изводить себе подобных. И вот машины, казалось бы, овладевают
этими способностями одна за другой. Способности к воспроизводст¬
ву они еще не достигли, но, как известно, есть ученые, которые над
этой проблемой работают. Среди них — Бернар де Нейман из Ла¬
боратории Маркони компании «Дженерал электрик», дальний род¬
ственник знаменитого Джона фон Неймана [1 ]. Однако наибольшую
тревогу людей вызывает, по-видимому, возможность наделить ма¬
шину способностью к свободному интеллектуальному творчеству.
8 Д. Мичи, Р. Джонстон
194 Компьютер — творец
Пугающие мистификации
Если сама мысль о том, что машина может творить, по мнению мно¬
гих, смахивает на святотатство, то тем более вызывают протест по¬
пытки, возникшие как результат развития искусственного интел¬
лекта, объяснить поведение человека на основе поведения машин.
Ведь это может существенно повлиять* на наши представления о
самих себе и вернуть нас к давнему вопросу, не есть ли мы всего
лишь особая категория машин. По мнению Маргарет Боден, «мно¬
гие гуманитарии считают, что литература по искусственному ин¬
теллекту неизбежно способствует распространению разных пугаю¬
щих мистификаций, в основе которых лежит представление о том,
что между людьми и машинами нет принципиальной разницы, и
тем самым невольно поддерживаются те социальные системы, где
в действительности к людям относятся так, как если бы это были
машины» [2].
Не удивительно, что споры на эти темы приобретают излишне
эмоциональный характер, порою выходя за рамки приличий. По¬
добное происходило в прошлом столетии, когда предметом горячих
дискуссий стали идеи Чарлза Дарвина. Опасения вообще легко
трансформируются в презрительное отношение, и так же, как в
свое время открыто потешались над Т. X. Хаксли, сегодня веселят¬
ся при упоминании об искусственном интеллекте. Характерно, что
основатель фирмы ИБМ Томас Уотсон просто запрещал любые раз¬
говоры на эту тему, считая, что они могут повредить репутации
компании.
Попытки вернуть человеку его чувство собственного достоинст¬
ва, столь якобы пострадавшее от сравнений с машиной, часто
выливаются в форму бестолкового умничания. Многие философы ух¬
ватились за известную теорему Гёделя о неполноте как за свидетель¬
ство превосходства человека над любой машиной. Действительно,
Курту Гёделю, американскому математику австрийского происхож¬
дения, еще в 1931 г. удалось доказать, что в рамках любой достаточ¬
но широкой математической системы (такой, как арифметика) обя¬
зательно есть утверждения, которые нельзя доказать, оставаясь в
этих рамках,— их приходится просто принимать на веру. Однако,
ссылаясь на эту теорему, критики забывают о том, что она прило¬
жима не только к машинам, но в равной мере и к людям, а значит,
всегда найдутся такие проблемы, в которых и человеку никогда не
разобраться до конца. Глубокое понимание того, на что способны
и на что неспособны машины,— вот лучший способ успокоиться
относительно непреходящих ценностей человеческого бытия.
А была ли кошка/ 195
Платон возмущен
Людям, не принадлежащим к научному сообществу, не следует осо¬
бо стесняться своего инстинктивного неприятия машин, претенду¬
ющих на умственные способности человека. Сходное отношение мо¬
жет возникать и у тех, кто по праву причислен к сонму ученых.
На протяжении всей истории человечества протесты выражались
на каждом этапе развития техники, способствовавшем укреплению
интеллектуальных возможностей человека, его способностей при¬
обретать и использовать знания. В гл. 3 мы уже говорили, что по¬
добное неприятие сопровождало даже изобретение письменности.
Конечно, завуалированное пренебрежение, высказанное Платоном,
не помешало ему самому научиться писать, но так уж устроен че¬
ловек: любые вещи вообще кажутся ему иными, когда он делает
их сам — ведь он-то позаботится, чтобы сделать все правильно!
Однако было одно изобретение, которое Платон никак не мог при¬
нять. Речь идет об изобретении двумя его коллегами-математиками
способа доказательства теорем с помощью специальной машины.
Об этом рассказал Плутарх в своей книге «Марцелл».
«Знаменитому и многими любимому искусству построения меха¬
нических орудий положили начало Евдокс и Архит, стремившиеся
сделать геометрию более красивой и привлекательной, а также с
помощью чувственных и осязаемых примеров разрешить те вопросы,
доказательство которых посредством одних лишь рассуждений и
и чертежей затруднительно... Но так как Платон негодовал, упре¬
кая их в том, что они губят достоинство геометрии, которое от бесте¬
лесного и умопостигаемого опускается до чувственного и вновь со¬
прягается с телами... механика полностью отделилась от геометрии
и, сделавшись одной из военных наук, долгое время вовсе не привле¬
кала внимание философии» [3].
Можно было бы ожидать, что к XX в. для такого снобизма уже
не останется места, по крайней мере в отношении техники, но не тут-
то было. Эдсгер Дийкстра, один из крупнейших специалистов по
вопросам программирования и духовный наследник Платона, осу¬
дил создание микропроцессора как событие, отодвинувшее информа¬
тику на 25 лет назад. Такая оценка основывается на предположе¬
нии, что общедоступность вычислительных возможностей, которые
открываются микропроцессорной техникой перед человеком-непро-
фессионалом, не имеющим должной выучки искусству грамотного
программирования, неизбежно приведет к безоговорочному отказу
от тех стандартов и методов, которые буквально по крупицам вы¬
ковывались самим Дийкстрой и его коллегами,— и все преодолен¬
ные, казалось бы, ошибки снова вылезут на свет. Вот что говорил
по этому поводу сам Дийкстра:
«Насколько можно судить, наиболее распространенным аргу¬
ментом в защиту микрокомпьютеров является их дешевизна. Но
8*
196 Компьютер —• творец
мне хотелось бы здесь дать один совет, которой поможет разобрать¬
ся в весьма запутанной доселе аргументации. Я посоветовал бы
помнить о том, что когда речь заходит о деньгах, то можно утвер¬
ждать, что никто не знает, о чем он действительно говорит, ибо
деньги, если хорошенько подумать,— предмет довольно неясный и
неопределенный. Для некоторых людей их доллары или фунты, гуль¬
дены или йены — это не просто денежные единицы, это единицы их
мышления. И тогда стремление к совершенству вынуждено уступать
стремлению к дешевизне, и неудивительно, что в конце концов та¬
ким образом можно оказаться среди всякого хлама...
Парадоксально, но мы вернулись теперь туда, где были 25 лет
назад. Сейчас, как и тогда, быстродействие арифметического блока
недостаточно велико, а память слишком ограниченна, мы снова ра¬
ботаем на машинах с хаотическим, несистематизированным поряд¬
ком ходов, конструкция которых в большей степени продиктована
схемными соображениями, чем их привлекательностью в глазах
опытного и квалифицированного программиста. Недавно мне пока¬
зали один из номеров ежемесячного журнала для тех, кто сделал
микропроцессоры своим хобби. Признаться, я был совершенно
потрясен, увидев на его страницах возрождение всех наших преж¬
них ошибок. 3to было пугающее, гнетущее, отвратительное зрели¬
ще, и я надеюсь никогда больше не увидеть подобного журнала» [4].
Возникает грустное впечатление, что в совсем еще юной науке —
информатике уже начал зреть новый консерватизм, который по
всем статьям может сразиться со своими более зрелыми академи¬
ческими собратьями,— неприятие обитателями «верхних этажей»
всего, что зародилось внизу, «в людской».
Проблема четырех красок отступает
Конечно, можно понять, почему математикам кажется, что автомати¬
зация и механизация способны замарать «драгоценную вышивку»
математической субкультуры брызгами из масленки техника. В кон¬
це концов, разве вычисления хоть раз действительно помогли на¬
стоящему математику? И может быть, в конечном счете Платон
не так уж и неправ? До самого последнего времени подобные вопросы
звучали вполне обоснованно. Но в 1976 г. Кен Аппель и Вольф¬
ганг Хейкен получили на вычислительной машине доказательство
знаменитой теоремы топологии о четырех красках, которая «не
давалась» математикам на протяжении более века. Представьте
себе картографа, которому хочется раскрасить изготовленную им
карту таким образом, чтобы сопредельные страны всегда были
разного цвета, тем самым сделав границы между ними особенно
четкими. Каково же то минимальное количество цветов, с помощью
которых можно таким образом раскрасить любые мыслимые карты?
До сих пор не встретилось ни одной карты, й которой не удалось бы
А была ли кошка? 197
обойтись четырьмя цветами, но все попытки доказать, что четырех
красок достаточно всегда, оставались безуспешными.
Путем исчерпывающего перебора Аппелю и Хейкену удалось
показать, что все возможные карты обязательно должны содер¬
жать по крайней мере одну из примерно 1800 подкарт, список кото¬
рых был подготовлен машиной. Затем они доказали, что каждая
из этих подкарт обладает тем свойством, что она не может быть
частью карты, для раскраски которой нужно более четырех
цветов. Следовательно, такой карты вообще не существует [5].
Подобный принцип полного перечисления вариантов представля¬
ется многим математикам чем-то оскорбительным, подобно тому
как физики с пренебрежением относятся к моделям мира, лишенным
компактности и изящества. Однако в случае проблемы четырех
красок, несмотря на простоту самой формулировки задачи, ее реше¬
ние, по-видимому, принципиально «кусочно», а потому элегантное
решение, которое удовлетворило бы самого Платона, вообще не¬
возможно. И в настоящее время мы все чаще сталкиваемся с мате¬
матическими задачами из этой категории. Видимо, рано или поздно
математикам придется поступиться своей гордыней.
К вопросу о сознательном
Вопрос о различиях в типах доказательств становится актуаль¬
ным, когда речь заходит об осознанности поведения машины. Футу¬
рологи любят порассуждать о том, когда начнут строить машины,
наделенные и способностью понимать свои поступки, и самосозна¬
нием. Но прежде чем пуститься в рассуждения на эти темы, нужно
уточнить смысл самих названных понятий. В одной из своих пос¬
ледних лекций Фрейд говорил: «Что же касается понятия «созна¬
тельное», то обсуждать его содержание даже и не стоит, ибо тут не
может быть никаких разночтений» [6]. Все знаменитые люди хоть
раз да ошибались, но немногие могут похвастаться столь вопию¬
щими промахами. Сознание представляет собой одно из наиболее
трудно определяемых понятий — мы все знаем, что это такое, но
не знаем, как об этом сказать. Более того, сознание — это один из
самых бесценных даров, отпущенных человеку. И если его постоян¬
но отнимать у него, то что же ему останется? Именно поэтому к
сознанию у нас совершенно особое отношение. И мы не собираемся
без боя разделить этот таинственный дар с машинами.
Другое дело — собака. Хозяин любого пса с удовольствием рас¬
скажет вам, что его любимец обладает такой индивидуальностью,
что, без сомнения, способен осознавать не только собственные мыс¬
ли, но и мысли своего хозяина. Но как установить, обладает вы¬
числительная машина способностью действовать сознательно или
нет? Этот вопрос интересен не только с чисто интеллектуальной точ¬
ки зрения. В один прекрасный момент появятся роботы, которые
198 Компьютер — творец
смогут передвигаться и беседовать между собой и с нами совсем
как люди. Тысячи таких роботов будут ежедневно сходить с по¬
точных линий, как сегодня автомобили, и станут столь вездесущи¬
ми, что принесут такую же социальную опасность, как ныне авто¬
мобили. Возможно, возникнет даже проблема бродячих роботов.
Их гуманоидный характер побудит людей относиться к ним так, как
они сейчас относятся к животным. Чтобы обеспечить роботам воз¬
можность действовать без вмешательств^ извне, их придется снаб¬
дить программами, которые заменят им ощущение боли, предупреж¬
дая тем самым их. физическое повреждение, и инстинкт самосохра¬
нения, заставляющий избегать опасности. В противном случае
роботам не просуществовать долго в реальной жизни, полной
катаклизмов. Зрелище робота, отчаянно пытающегося спастись от
нападения, возможно, и позабавит тех, кто с удовольствием наблю¬
дает, как дразнят медведя. Мучить робота или охотиться на роботов
может для кого-то стать приятным времяпровождением.
Так можно ли считать издевательство над роботом жестокостью?
Если у него нет сознания, то, видимо, нет. Но как робот мог бы до¬
казать нам, что у него есть сознание? Может быть, сумев рассказать
нам о себе? По мнению Дэвида Локка, сознание — это «восприятие
того, что происходит у человека в уме» [7]. Однако было бы непра¬
вильно отождествлять сознание со знанием себя, даже если у лю¬
дей они в основном неразделимы. Обычная программа вычислитель¬
ной машины, в которой предусмотрены достаточно мощные диагно¬
стические и трассировочные возможности, способна немало сказать
нам о своем внутреннем состоянии в данный момент или о происходя¬
щих в ней процессах, но вряд ли этого достаточно, чтобы считать
ее обладающей сознанием. Тогда, может быть, разумно встать на
такую точку зрения: если некто не может рассказать нам о себе, то
наверняка у него нет сознания. Однако и это не годится. Яд кураре
может полностью парализовать пациента, так что тот, пребывая в
полном сознании, не сможет даже глазом моргнуть. Если вдруг хи¬
рург возьмется оперировать такого больного без анестезии, пациент
будет испытывать настоящую агонию, но не сможет выразить это
ни малейшим движением. С помощью другого лекарства больного
можно заставить совершенно забыть о перенесенных мучениях.
В этом случае наш тест из вопросов, на которые не получено отве¬
тов, позволил бы сделать вывод, что подобные операции вполне до¬
пустимы, хотя здравый смысл подсказывает нам, что это — немыс¬
лимая жестокость. Более того, подобные операции запрещены даже
на лабораторных животных.
Но если не существует эффективной процедуры, которая позво¬
лила бы выяснить, когда мы в сознании, а когда нет, то нельзя,
требовать такого доказательства при определении прав различ¬
ных организмов. Эта точка зрения уже давно восторжествовала в
отношении животных, и законы* защищающие животных от жесто-
А была ли кошка? 199
хости, были приняты прежде, чем решился вопрос о том, обладают
ли животные сознанием и есть ли у них душа. Можно предположить,
что подобные законы приняты не только благодаря врожденной доб¬
роте человека, но и ввиду тех последствий для человечества в целом
и его идеалов гуманизма, к которым могло бы привести негуманное
отношение к чему бы то ни было. В конце концов, ведь никому не
приходит в голову «мучить» камни, ибо только человекоподобная
реакция животного на боль приносит удовлетворение мучителю.
Но в таком случае по тем же соображениям придется, вероятно, при¬
нять и законы, защищающие от жестокого обращения роботов.
В конечном счете эти законы будут защищать интересы самих лю¬
дей. Привычка не обращать внимания на права более слабых —
это всегда палка о двух концах. Представьте, что произойдет, если
в один прекрасный момент роботы начнут задавать себе вопрос:
«А есть ли у людей действительно сознание?»
Как усыпить экспертную систему?
Известно, что время от времени из каких-то практических соображе¬
ний нам приходится избавляться от животных. По-видимому, ана¬
логичная ситуация сложится и с роботами. Но в этой связи возни¬
кает интересный вопрос о судьбах экспертных систем. Представьте
себе одну из подобных систем, созданную при содействии какого-то
конкретного в высшей степени квалифицированного ученого-экс-
перта, столь совершенно отразившую его знания и умение, что кол¬
леги и друзья ученого, общаясь с системой, без труда узнают в ней
особенности склада его ума. Это дает им возможность воскрешать
все причуды и склонности своего друга и коллеги много лет спустя
после его смерти. Таким образом, система как бы олицетворяет
бессмертие этого человека, причем более действенное и интимное,
чем могут ему дать его книги либо такие пассивные реликвии, как
фотографии или магнитофонные записи, не обладающие способ¬
ностью реагировать на внешнее воздействие. Как же в таком случае
отнестись к идее усыпить эту систему раз и навсегда? Безусловно,
это было бы не менее достойно осуждения, чем сожжение великой
Александрийской библиотеки.
Социальная ответственность накопленного знания
Возможность накапливать и хранить знание в памяти машин ста¬
вит моральные проблемы и другого рода. Возьмем, например, вы¬
сказывание, которое иногда встречается в школьных учебниках:
«Это законченные лентяи, по-видимому совершенно аморальные
и всегда готовые соврать, сжульничать или украсть». Что за фи¬
липпику мы выслушали? О ком идет речь? Может быть, это адми¬
нистратор информационной системы так отзывается об операторах?
200 Компьютер — творец
Или член правления компании «Форд» говорит о рабочих завода
в Дейдженхэме? Но в равной мере это может быть и мнение проф¬
союзного активиста о всем правлении компании! А может, мы под¬
слушали это в клубе «Атенеум» *, и говорится здесь о новых членах
правительственного кабинета? Впрочем, нечто подобное писал о
высших государственных чиновниках покойный Ричард Кроссман.
Да, можно представить себе, как в академических кругах кто-то
говорит: «А скажите мне, молодой человек, что здесь за профес¬
сора?» или: «Вы говорили, господин декан, что здешние студенты...»
На самом деле приведенное высказывание взято из учебника,
выпущенного в австралийском штате Новый Южный Уэльс, и
относится к аборигенам [8]. А ведь считается, что учебник — это
источник знаний. Этот факт рождает целую цепь тревожных раз¬
мышлений. Представьте себе, например, что в базе знаний системы
ПРОСПЕКТОР хранится информация о геологии запасов урана.
Между прочим, уже сейчас возникают политические трения в связи
с открытием значительных запасов урана на местах традиционного
расселения аборигенов. «Сын» или скорее «внук» нынешнего ПРО-
СПЕКТОРа вполне может располагать информацией, касающейся
не только геологии, но и всего остального, что может как-то по¬
влиять на решения организовывать добычу, например данными
о юридических правах аборигенов и о действующем земельном
законодательстве. Можно пойти и дальше, допустив, что владельцы
такой автоматизированной системы захотят ввести в ее базу знаний
не только бесстрастные факты технического и юридического харак¬
тера, но и менее определенные обобщающие представления о раз¬
личных группах людей, чьи интересы такое решение может затро¬
нуть. В таком случае неизбежно встает вопрос о социальной от¬
ветственности знания, накопленного в этих базах.
Аналогичные требования придется предъявлять и к данным,
используемым роботами. Спросите-ка у Суперроба, робота-мастера
цеха XXI в., кто, по его мнению, «законченные лентяи, по-види¬
мому совершенно аморальные и всегда готовые соврать, сжульни¬
чать или украсть», и не удивляйтесь, услышав в ответ: «Гомо са-
пиенс».
Зачем нам нужны роботы?
Вопрос, вынесенный в заголовок этого раздела, представляется
сегодня особенно непростым. Социальная проблема стремительно
растущей безработицы заставляет многих с недоверием относиться
к любому техническому новшеству, угрожающему снизить потреб¬
ность в человеческой рабочей силе. Приходится постоянно напоми-
* Известный лондонский клуб, объединяющий сливки интеллигенции,—
Прим. перев.
А была ли кошка? 201
иать себе, что не существует логических соображений, по которым
знание того, как делать что-то более эффективно, может быть вред¬
ным. По сути дела, роботы нужны нам точно для того же, для чего
и вся остальная техника — для улучшения условий нашей жизни.
Ведь нынешняя нехватка рабочих мест вовсе не означает недо¬
статка работы, которую нужно бы сделать — обновить наши
жилища, реконструировать стремительно стареющее заводское
оборудование, наладить уход за больными, старыми и инвалидами,
предоставить образование всем, кто в нем нуждается, не говоря уж
о том, что нужно накормить голодающих в слаборазвитых странах.
Достаточно вспомнить слова Тома Стониера из Брэдфордской школы
естественных и общественных наук о том, что здравоохранение и
образование — это «нескончаемый сток для всякой безработицы»
[9]. Задача состоит лишь в том, чтобы найти организационные
формы, которые позволили бы воплотить это в жизнь.
Естественно, когда это произойдет, в нашей жизни изменится
очень многое, и большому количеству людей придется переменить
свои занятия, нравится это им или нет. Если обществу становится
ненужным то, что вы производите, приходится производить что-то
другое. Изменятся и наши представления — но не об уровне ма¬
териального благополучия, а скорее о том, что считать достойным
использованием своего собственного времени. При этом имеется
в виду не только и не столько наш досуг. Придется преодолеть и
привычную для британца нелюбовь к индустрии услуг, которой
он традиционно предпочитает работу в сфере материального про¬
изводства.
Все эти перемены станут возможными лишь в результате согла¬
сованных усилий как общества в целом, так и отдельной личности,
усилий, по-видимому совершенно беспрецедентных. Нам придется
организовать систему образования и переквалификации совершенно
невиданных масштабов. Некоторые утверждают, что это по плечу
лишь правительству, другие — что с этим могут справиться лишь
частные предприятия, более гибкие и подвижные. Но как бы ни
решалась данная проблема, очевидно одно — это потребует прежде
всего живого воображения.
Не к жизни праздной
Каких бы масштабов ни была работа, которую нам предстоит сде¬
лать, технические достижения всегда приводили к сокращению
продолжительности рабочего времени — эта тенденция сохранится
ц впредь. Можно только радоваться тому, что нам придется тратить
меньше времени на то, что мы должны делать, и его будет больше
оставаться на то, что мы хотим делать. Несколько лет тому назад
эта мысль настолько взволновала тогдашнего мэра Эдинбурга,
что в своей речи по поводу выхода на пенсию он допустил бессмерт¬
202 Компьютер — творец
ную оговорку: «Теперь,— заявил он собравшимся по столь тор¬
жественному случаю,— я собираюсь поехать в самую глубинку
шотландского нагорья, чтобы вести там жизнь шлюхи!»
Историки этого события уверяют теперь, что он собирался
сказать «жизнью отшельника» *. Но если верить Фрейду, подобные
оговорки приоткрывают суть скрытых желаний. Видимо, в глубине
души эдинбургского мэра возможность спокойно заниматься чем
хочешь значилась не под рубрикой УДАЛИТЬСЯ ОТ ДЕЛ И ПО¬
ДУМАТЬ О ДУШЕ, как это, наверное, должно быть у правоверного
католика или буддиста, а под рубрикой ПРАЗДНОСТЬ, что вызы¬
вает ассоциации со всеми теми пороками, в которые это состояние
может погрузить даже самого достойного протестанта! Недаром
наш век, да и не один он, провозгласил, что единственный путь к
духовному совершенству лежит через труд.
Не стоит бояться, что в обозримом будущем все что нужно сде¬
лают за нас роботы. Да и нет особой надежды на то, что машины
обретут способность к высокому творчеству. И было бы ошибкой
тратить много времени на обсуждение вопросов: «Могут ли машины
мыслить?» и «Могут ли они творить в истинном смысле слова?»
В тех рамках, в каких это нужно нам для практических целей,
безусловно, могут. Так что самое разумное — оставить философов
в «темной комнате» и заняться поиском путей наиболее полного
использования творческих возможностей компьютеров.
* По-английски hermit — отшельник, harlot шлюха.— Прим. перев
10. Изобретения на благо человечества
Сейчас их [изобретателей] тысячи в
Англии, как, впрочем, я полагаю, и
в других местах — и это побочный
продукт развития человеческого
разума. Цель у них одна — деньги,
которые, видит бог, им не удастся
урвать у государственной казны.
Герцог Веллингтон (1830) [1]
Государственные деятели Великобритании всегда славились своим
искусством нести лицемерный вздор. Сейчас это особенно бросается
в глаза, когда речь заходит о технических новшествах, которые,
безусловно, являются нашей национальной гордостью. Правитель¬
ственные чиновники не раз заявляли, что новая техника — это
чудесное средство, способное вывести нашу экономику из депрес¬
сии — будь только этих нововведений побольше. В области элект¬
роники и информатики, по мнению министерства торговли и про¬
мышленности, Британия нуждается в «повивальных бабках», ко¬
торые помогли бы предпринимателям найти и взлелеять своих
изобретателей, и, кроме того, несмотря на обилие талантов, здесь
ощущается явная нехватка новаторских проектов.
Но действительно ли все дело в нововведениях? Как считает
Алан Котрел, это еще один образец лицемерия. Выйдя в отставку
с поста главного правительственного советника по науке, Котрел
опубликовал серию аналитических обзоров, показывающих, что
в Великобритании имеется даже некоторый избыток изобретений —
конечно, по сравнению с возможностями британской промышлен¬
ности внедрить их в практику [2]. При темпах роста капиталовложе¬
ний 6% в год, что составляет лишь половину того, что расходуют
на нововведения наши основные конкуренты в Европе, британские
фирмы в состоянии разобраться лишь с малой толикой прекрасных
и уже готовых идей, не говоря о том, чтобы пустить их в оборот.
Британских ученых подвели к совершенно противоестествен¬
ному выводу, что, когда они делают какое-то полезное открытие,
они словно бы совершают в высшей степени непатриотический
акт. Со временем сообщения о сделанных изобретениях проникают
в открытую техническую литературу, и фирмы «Дженерал моторе»,
«Оливетти», «Хитачи» или какой-то иной наш соперник пользуются
ими против нас же. Чем позволять такое, ученым, видимо, лучше
либо ничего не делать, либо укрыться в башне из слоновой кости.
Внедрение того или иного стоящего изобретения требует нового
завода, новых технологических процессов, нового оборудования,
204 Компьютер — творец
новых методов работы. Либо британские компании не желают брать
на себя все связанные с этим хлопоты, либо им не удается достать
необходимые для этого средства.
Разумеется, изобретения сами собой не превращаются в эко¬
номическое благо — здесь действительно нужны повивальные бабки.
Если же ни мать, ни кормилица не могут себе позволить содержать
ребенка, то что в таком случае делать?
Судьба изобретателя в древние времена
Новорожденный вызывает у людей почти религиозное поклонение.
С ним сюсюкают, щекочут его, носятся как со святыней. Но попро¬
буйте попросить восторженного любителя младенцев посидеть с
малюткой в качестве няни, как его пыл тотчас охладевает! Так же
и с изобретениями. Если судить по словам представителей власти,
то все они относятся к творческим талантам с большим уважением.
Но каковы их подлинные чувства? Когда-то в давние времена мла¬
денцы, по всей вероятности, чувствовали себя в большей безопас¬
ности, нежели изобретатели. Арабский путешественник VIII в.
Ибн Фадлан писал об обычаях некоторых народов: «Если им встре¬
чается человек, превосходящий остальных своими знаниями и
сообразительностью, они со словами: «Этому более приличествует
служить Богу,» — хватают его, накидывают веревку на шею, ве¬
шают на дерево и оставляют умирать...». Упоминая об этом, Артур
Кестлер [3] ссылается на турецкого историка Зеки Валиди Тогана,
который считает, что «столь жестокий обычай в отношении «слиш¬
ком умных» людей основывается на очень простом желании сред¬
него человека вести жизнь, которую он считает нормальной, и
избегать всякого риска или авантюр, на которые его мог бы обречь
такой «гений»».
Нетрудно заподозрить, что именно эта «земная философия»
и является причиной того, что государство с такой неохотой фи¬
нансирует внедрение новшеств. То, что подобная философия стара
как мир, явствует из приведенного здесь отрывка древнекитайской
поэзии:
Вернуться на круги своя — значит достичь постоянства,
Познать постоянство — значит достичь истинной мудрости,
И горе тому, кто своевольно вступит на путь перемен,
Не познавши основ постоянства.
Автор этих строк, без сомнения, состоял на государственной службе.
Еще в 1887 г. Т. X. Хаксли говорил о необходимости незамед¬
лительных радикальных перемен в взаимоотношениях между
британской наукой и промышленностью. В своем незабываемом
письме в «Таймс» в январе того же года он писал: «Думаю, что не
ошибусь, предположив, что мы сейчас вступаем — а на самом деле
Изобретения на благо человечества £05
уже вступили — в самую серьезную борьбу эа существование,
какую только нашей стране когда-либо приходилось вести. По¬
следние годы текущего столетия обещают втянуть нас в водоворот
промышленных войн с гораздо более тяжелыми последствиями,
чем любые военные сражения начала века. На Востоке нам про¬
тивостоят люди, получившие самое систематическое образование
в Европе и затрачивающие массу усилий на то, чтобы не отстать
от века; на Западе мощный побег нашего собственного дерева, уже
переросший своего родителя, вступает в битву с нами, располагая
природными ресурсами, о коих мы не можем и мечтать, а также
блестящими перспективами заполучить дешевую рабочую силу,
что позволит эффективно использовать эти ресурсы» [4].
Выход из этого положения Хаксли видел в «торжественном
официальном бракосочетании науки и промышленности», когда
промышленность должна будет призвать себе на помощь «все, что
только сможет дать ей наука» [5].
Не так давно в серии отчетов правительственного Совета по
прикладным исследованиям и развитию было приведено совершенно
замечательное оправдание нездоровому положению дел в британ¬
ской промышленности. В отчетах содержалось множество различ¬
ных рекомендаций относительно увеличения капиталовложений,
повышения осведомленности, ослабления ограничений и реорга¬
низации правительственных организаций, отвечающих за коорди¬
нацию. Но чтобы предложения этого Совета или другие подобные
им могли пасть на плодотворную почву, нужно полностью менять
укоренившийся среди правительственных чиновников склад мыш¬
ления. И это относится не только к Великобритании. Ситуация в
Америке тоже далеко не идеальна. Недавно на безбрежных про¬
сторах шт. Огайо разразился скандал, в который оказались вовле¬
ченными никому не ведомый робот и популярный политический
деятель. Робот вышел из этой переделки прочно стоящим на всех
своих шести ногах, а сенатор от демократической партии шт. Ви¬
сконсин Уильям Проксмайер еле удержался на одной.
Шестиногий робот прерий
Сенатор был известен уничижительными выпадами в адрес финан¬
сируемых правительством научно-исследовательских проектов. Он
регулярно присуждал премию «Золотого руна» работам, которые,
по его мнению, представляли собой самый нелепый способ траты
денег налогоплательщиков. Эту премию в свое время заслужили
исследования причин, почему люди влюбляются, эксперименты
по определению времени, необходимого на приготовление завтрака,
безуспешная разработка новой модели полицейской машины
(обошедшаяся в 2 млн. долларов), настолько оснащенной техниче¬
скими новинками, что «Джеймс Бонд позеленел бы от зависти».
206 Компьютер — творец
Теперь в поле зрения сенатора Проксмайера попал Роберт Макги,
профессор электротехники в университете шт. Огайо, чьи раз¬
работки шестиногого шагающего робота финансировались частично
за счет Национального научного фонда США. Вручая создателям
машины «Золотое руно», Проксмайер высказал предположение,
что наибольшую пользу этот «бионический жук» принесет универ¬
ситетской футбольной команде. В ответ Макги заметил, что Совет
ветеранов уже приступил к испытаниям искусственных коленных
суставов для инвалидов и что НАСА заинтересовалось его работой
в связи с разработкой самоходного аппарата для исследования
Рис. 34. Прототип нового шагающего робота ASV-84,
разработанного Робертом Макги. У робота шесть ног, три
из которых в любой момент времени опираются на зем¬
лю, обеспечивая устойчивость. (Фотография предоставле¬
на Университетом шт. Огайо.)
поверхности Марса. В конце концов за всю эту шумиху пришлось
отвечать официальному представителю комитета, возглавляемого
Проксмайером.
По иронии судьбы 13 годами ранее Айвен Сазерленд выяснял,
не заинтересуется ли какая-нибудь академическая лаборатория
Великобритании контрактом на исследования шагающих автоматов.
В это время Сазерленд был временно откомандирован в распоря¬
жение министерства обороны США, где возглавлял отдел финанси¬
рования научных исследований и разработок в области вычисли¬
тельной техники Агентства новой техники этого министерства.
Этим исследованиям придавалось такое большое значение, что
при отсутствии предложений внутри страны агентство готово было
Изобретения на благо человечества 207
предпринять неслыханные ранее шаги и заключить контракты с
иностранными организациями. Но если хорошенько подумать, то
подобное решение не кажется таким уж странным. Беглый обзор
земельных массивов наводит на вопрос: «Какая часть всей терри¬
тории доступна автомобилю или трактору и какая — лошади, мулу,
верблюду, ламе или слону?» Некоторые считают, что автомобиле¬
строение добилось незыблемого положения и теперь от него уже
нечего ждать, кроме каких-то незначительных усовершенствований.
Глубокое заблуждение, ибо пока не обеспечено развитие смежных
технологий, которые могли бы создать условия для нсвого скачка
вперед, последний нельзя и предвидеть. Развитие колесного тран¬
спорта не предполагало микропроцессорной революции в качестве
такого условия. А шагающий транспорт предполагает, поскольку
скоординированное движение «ног» требует развития систем об¬
работки информации высокого уровня сложности [6].
Здесь можно сослаться на интересный прецедент. Возможно,
вам встречались в книгах, посвященных эволюции, иллюстрации,
на которых изображены доисторические птицы, реконструирован¬
ные художниками. У одной из них, археоптерикса, чудесный хвост,
незаменимый в полете. Наблюдатель того времени (коим, правда,
мог быть только пришелец с иной планеты, ибо наши предки тогда
еще не развили способности мыслить рационально) непременно
отметил бы, что это совершенно замечательная летательная кон¬
струкция, оптимальная с точки зрения аэродинамической устой¬
чивости. Это действительно так, но вместе с тем она совершенно
Рис. 35. Археоптерикс.
208 Компьютер — творец
лишена маневренности. Развитие мозга впоследствии обеспечило,
птицам иной вид устойчивости — с помощью обратной связи, и
это позволило им обойтись без такого длинного хвоста. Набитое
чучело археоптерикса можно использовать как планер, а чучело
чайки — нет. В то же время благодаря развитому мозгу чайка об¬
ладает непревзойденной способностью планировать и маневриро¬
вать. Подобным образом микропроцессоры должны дать жизнь
целому новому поколению разнообразных наземных транспортных,
средств, передвигающихся с помощью ног.
Этими же вопросами занимались советские исследователи по
искусственному интеллекту, работающие в Институте прикладной
математики и Институте проблем передачи информации АН СССР
в сотрудничестве с Московским государственным университетом.
Сейчас они проводят испытания разнообразных шестиногих робо¬
тов. К этому факту Макги тоже пытался привлечь внимание коми¬
тета Проксмайера. Как ни странно, Макги удалось добиться по¬
беды с помощью аргумента, который далеко не все считают важным.
Прежде чем университетские коллеги смогли прийти на помощь
Макги, он, скорее инстинктивно, заявил: «Фундаментальные иссле¬
дования служат для получения знаний, а не вещей». Но как донести
эту мысль до тех, кто несет ответственность за решение подобных
вопросов?
Как говорить с правительством?
Ученые часто сталкиваются с дилеммой: пытаться объяснять су¬
щество стоящих перед ними реальных технических проблем, что,
как правило, встречает непонимание, или же сразу «бить в точку»?
Ссылки на цели и задачи науки часто остаются без внимания, а
нажатие на «рычаг» техники порою приносит результаты. Среди
западных специалистов по искусственному интеллекту «точкой»,
в которую стоит бить, является ссылка на успехи Японии в области
робототехники. А вот донести до деловых людей, почему сами уче¬
ные считают важной свою работу,— это задача не из простых. Но
не всегда ученые имеют возможность объяснить целесообразность
своей работы ссылками на немедленную пользу.
Консультационная группа при правительстве Нидерландов,
занимающаяся изучением воздействия на общество достижений
микротехнологии, была обеспокоена той же проблемой. Группа
отмечала, что «темпы нововведений все более усложняют попытки
правительств следить за развитием дел» [7]. Если не обращать
внимания на то, что это лишь малая часть всех проблем, ученые
могли бы вздохнуть с облегчением: «Наконец хоть кто-то это
сказал».
Подобное положение вещей особенно огорчает тех, кто хотел
бы видеть, что потенциальные возможности компьютеров синтеза
Изобретения на благо человечества 209
решать новое-эиание реализуются полностью. Для создания творче¬
ского компьютера необходимы существенные капиталовложения
и твердая политическая решимость. Но в Великобритании нет ни
одной национальной лаборатории, где велись бы долгосрочные
исследования в области информатики и вычислительной техники,
а работы по искусственному интеллекту за последние 25 лет не
получили должного признания политических и научных учреж¬
дений, и не раз приходилось слышать, что все это — абсолютная
ерунда. В 1972—1973 гг. Научно-исследовательский совет получил
на рассмотрение два доклада о долгосрочной политике в области
информатики и машинного интеллекта. В одном из них, тщательно
подготовленном опытными специалистами по вычислительной тех¬
нике, звучал призыв: «Нужно идти дальше!» Однако этот призыв
встретил упорные возражения Джеймса Лайтхилла, известного
гидродинамика, вышедшего в отставку бывшего заведующего
кафедрой прикладной математики Кембриджского университета,
который является правительственным экспертом по развитию науки.
Рекомендации Лайтхилла побудили Научно-исследовательский со¬
вет разрушить структуру, сложившуюся в области исследований по
искусственному интеллекту. Такое решение, безусловно, нанесет
серьезный урон развитию экономики Великобритании и ее куль¬
туры в целом.
Медведи и мячи
Приходится признать, что рекомендации Лайтхилла имели под
собой определенную основу. Однако некоторые из его соображений
представляются по меньшей мере странными. Рассуждая о том,
стоит ли строить роботов, он замечает: «Нельзя забывать, как
долго человеческое воображение было в плену у этой идеи, о чем
свидетельствует постоянное присутствие этого сюжета в литературе:
от средневековых фантазий на тему Гомункулуса и, через «Фран¬
кенштейна» Мэри Шелли, до современной научной фантастики.
До какой степени могут ученые считать себя обязанными тешить
публику с ее склонностью к роботам, вкладывая в это все лучшее,
на что они способны?
Кто-то сказал однажды, что одним из стимулов к напряжен¬
ному ^труду мужчин в «творческих» областях, включая занятия
чистой наукой, является их стремление как-то компенсировать
отсутствие у них способности к деторождению. Если это так, то,
конечно, создание роботов можно рассматривать как идеальную
компенсацию! В пользу столь сомнительной гипотезы говорит,
видимо, еще одно обстоятельство: большинство роботов с самого
начала конструируются так, чтобы они могли действовать в окру¬
жении, весьма похожем на мир ребенка (как его представляют
взрослые): играют в игры, отгадывают загадки, строят башни из
210 Компьютер — творец
кирпичиков, узнают картинки в книжках («медведь с мячом на ков¬
ре»)... [8].
Упоминание «медведя на ковре» относится к статье, посвященной
машинному зрению, которую опубликовали в 1972 г. Гарри Барроу,
Пат Амблер и Род Берсталл 19]. Одна из простейших картинок,
используемых для проверки программы, называлась «Медведь с
мячом на ковре». Далее Лайтхилл говорит: «Как бы там ни было,
автор приходит, возможно, и к неверному выводу о том, что между
роботом и его создателем устанавливаются не «пигмалионоподоб-
ные», а скорее псевдородительские отношения».
Лайтхилл делит область искусственного интеллекта на три ча¬
сти: 1) развитая автоматизация, 2) машинные исследования функций
центральной нервной системы и 3) деятельность, направленная
на то, чтобы связать первые две области между собой, другими
словами, это — конструирование роботов. Он утверждает, что, хотя
прогресс в первых двух областях весьма незначителен, тем не
менее это вполне правомерные области исследований. Исследования
же в третьей области, по его мнению, не ведут никуда и потому
должны быть прекращены. «Здесь строились «грандиозные планы»,
которые не удалось выполнить,— заявляет он,— и это вызывает
сомнения относительно того, можно ли считать искусственный
интеллект правомочной областью исследования».
Природа непонимания Лайтхилла имеет те же корни, что и
отношение, с которым пришлось столкнуться Роберту Макги. Как
уже говорилось, работы по искусственному интеллекту имеют
фундаментальное значение. Подобным же образом Томасу Ханту
Моргану и его коллегам, создателям современной генетической
теории, можно было бы сказать: «У вас есть теория Менделя — и
для общественного блага займитесь улучшением пород сельскохо¬
зяйственных животных. Вы, разумеется, можете — и на это мы
даже выделим вам некоторые суммы — помимо этого изучать ши¬
рокий спектр биологических процессов, отвечающих за генетиче¬
ские явления. Но, честно говоря, мы не видим смысла в разведении
фруктовых мушек. Занялись бы лучше коровами!» Морган и его
коллеги, как люди способные, наверное, стали бы отличными ско¬
товодами и даже могли бы найти приложение парочке уже сфор¬
мулированных принципов генетики, но хромосомной теории на¬
следственности в таком случае пришлось бы подождать — и на
этом потеряли бы все, в том числе и фермеры.
Дельфийские горизонты
Лайтхилл, кроме того, обвинил специалистов по искусственному
интеллекту в том, что они дают необдуманные обещания. Оправ¬
данно ли подобное заявление? Самым известным примером пред¬
сказаний в области искусственного интеллекта, был так называемый
Изобретения на благо человечества 211
«Дельфийский опрос», опубликованный в 1972 г. четырьмя уче¬
ными из Станфордского исследовательского института и компанией
«Локхид». Метод Дельфи, заключающийся в том, чтобы опросить
значительное количество людей относительно их взгляда на буду¬
щее, широко используется в промышленности для прогнозиро¬
вания в области производства, а также развития технологии.
В табл. 4 приведен прогноз, составленный в 1973 г. Развитие вы¬
числительной техники не опровергает этого прогноза. Рассмотрим
его отдельные предсказания, сроки реализации которых уже прошли.
Таблица 5. Прогноз (от 1973 г.) относительно дальнейшего развития
различных вычислительных средств (Если судить по результатам
сегодняшнего дня, то прогноз оказался удивительно точным.)
Медианные сроки
Результаты
создания
прототипа
коммерче¬
ской реа¬
лизации
БОЛЬШОЙ ПОТЕНЦИАЛЬНОЙ ЗНАЧИМОСТИ
Р5. Система автоматической идентификации
1976
1980
Р8. Автоматическая диагностика
1977
1982
P13. Промышленный робот
1977
1980
P1. Автоматическая справочная система
1978
1985
P9. Персональная биологическая модель
1980
1985
P11. Программно-управляемые искусственные органы
1980
1990
P18. Робот-учитель
1983
1988
P16. Содержательные экономические модели
1984
1990
P2. Автоматические интеллектуальные системы
1985
1991
P20. Робот-домработница + секретарь
2000
2010
СРЕДНЕЙ ПОТЕНЦИАЛЬНОЙ ЗНАЧИМОСТИ
Р14. Автоматический прием заказов с подтверждением
1978
1983
голосом
Р15. Содержательная модель анализа погодных условий
1980
1985
РЗ. Пишущая машинка, управляемая голосом
1985
1992
Р6. Подвижный робот
1985
1995
Р4. Автоматический перевод с языка на язык
1987
1995
Р12. Машинный арбитр
1988
1995
Р10. Машинный психиатр
1990
2000
Р17. Робот-шофер
1992
2000
Р21. Компьютер-творец со встроенной системой ценностей
1994
2003
НИЗКОЙ ПОТЕНЦИАЛЬНОЙ ЗНАЧИМОСТИ
Р19. Универсальный игрок
1980
1985
Р7. Симбиоз машина —животное
2000
2010
212 Компьютер — творец
Р5* Опыт работы с прототипами соответствующих машинных
программ убедительно доказывает возможность распознавания
персонала по подписи, голосу и фотографии. Ведущей организацией
в этой области является Университет «Кейс уестерн резерв», и на
рынок уже поступили коммерческие системы всех трех видов.
Р8. Существуют реально работающие экспертные системы для
диагностики менингита, врожденных болезней сердца, легочных,
желудочно-кишечных, заболеваний, заболеваний щитовидной же¬
лезы и внутренних заболеваний более общего характера (мочепо¬
ловых инфекций, бактеримий и других клинических случаев).
Р13. «Промышленный робот» в том смысле, как описано в этой
книге, должен обладать зрением и тактильным восприятием, а не
только запрограммированным поведением. Создано несколько таких
устройств, и ныне уже поступили в продажу промышленные об¬
разцы. Особых успехов здесь добилась корпорация «Юнимейшн».
Р1, Прошли испытания мощные прототипы таких систем, спо¬
собных давать ответы на заданные вопросы, причем не только путем
поиска готовых ответов, уже содержащихся в базах данных, но
и посредством дополнительного логического вывода.
Р9 и Р11. Хотя медианные сроки коммерческой реализации сис¬
тем, названных в этих двух пунктах, поменялись местами, лабора¬
торные данные свидетельствуют, что они уже на подходе.
Р14. Находящиеся сейчас в коммерческом пользовании системы
позволяют потребителю делать заказы либо с помощью интерактив¬
ного терминала, либо по обычному кнопочному телефону, а прием
заказа подтверждается голосом, синтезированным компьютером.
Р15. Текущий бюджет Британского метеорологического центра
Великобритании в Бракнеле включает затраты на такой анализ.
Практической реализации этого подхода в данном случае, видимо,
следует ожидать много позже указанных в таблице сроков.
РЗ. Пишущая машинка, преобразующая речь пользователя в
напечатанные слова, поступила в продажу в Японии. Она разра¬
ботана компанией «Ниппон электрик» в 1981 г. Японский алфавит
КАНА, будучи чисто фонетическим, делает задачу создания такой
системы относительно более простой с технической точки зрения,
чем для европейских языков.
Есть один любопытный момент, где пророки ошиблись,— он
касается не определения сроков, а недооценки коммерческого
спроса. «Универсальный игрок» был поставлен в обзоре на очень
низкое место по степени важности; на деле же спрос на микропро¬
цессорные игровые приставки к домашним телевизорам и машинные
игры привел к настоящему промышленному буму. Компьютерная
игра «Пэк-мен» за 18 месяцев принесла в США доход 1 млрд. дол¬
ларов, а компьютерные игры в целом дают больше прибыли, чем
вся кинопромышленность. Наиболее примечательной чертой про¬
гноза было не то, что предсказывались результаты, которых затем
Изобретения на благо человечества 213
не удалось добиться, а то, что эксперты не смогли предвидеть многое
из того, что случилось, например переход к распределенной обра¬
ботке данных, ставший возможным благодаря бурному развитию
микропроцессорной техники.
Чем более долгосрочным является тот или иной прогноз, тем
более он рискован. Мало кто осмелится предсказать, когда компью¬
тер станет независимой «личностью» в конторе, как это описыва¬
ется в предлагаемой ниже оценке, навеянной идеями Николаса
Негропонте. Вообразите, что, придя утром на работу, вы спраши¬
ваете у своего компьютера — мастера на все руки:
— Где это?
— Что где? — отвечает машина.
— Сам знаешь — огрызаетесь вы.
— А-а,— говорит машина и сообщает то, что вы хотели узнать.
Однако Эд Фредкин из МТИ утверждал, что для создания ма¬
шины с интеллектом, равным человеческому, потребуется не меньше
15, но и никак не больше 40 лет. А отсюда, возможно, не так далеко
до предсказанной И. Дж. Гудом сверхинтеллектуальной машины,
которая «по всем статьям будет превосходить человека».
Привнесенные перемены
Если найти средства и проявить решимость, значительная польза
исследований по искусственному интеллекту может обнаружиться
и не в столь отдаленном будущем. Прежде всего необходимо пре¬
кратить бездумную растрату столь редких людских ресурсов в
наших университетах, где опытным специалистам в области искус¬
ственного интеллекта приходится заниматься обучением студентов
совершенно другим дисциплинам вместо того, чтобы целиком по¬
святить себя исследовательской работе. Это равносильно тому,
как если бы мы пользовались столь драгоценной в пустыне водой
для мытья машины.
Но как добиться перемен? Джордж Галлахер-Даггит, инженер
из Лаборатории им. Резерфорда, призвал к созданию «инноваци¬
онных центров». Это позволило бы «университетским исследовате¬
лям объединяться в междисциплинарные группы, в которых вместе
с ними работали бы как представители промышленности, так и
изобретатели-одиночки. В этих условиях на них будут воздей¬
ствовать также соображения коммерческой конкуренции, и они
постараются экономически выгодно реализовать на практике
результаты фундаментальных исследований, проводимых в универ¬
ситетах» [11].
Это смелое предложение, осуществление которого, возможно,
изменит ситуацию к лучшему. Для работы, ведущейся на границе
возможного, требуется особая атмосфера. Академическая стро¬
гость и технические потенциалы должны сливаться в единое целое,
214 Компьютер—творец
обеспечивающее работоспособный механизм. В то же время должны
существенно измениться в лучшую сторону отношение к подобному
сотрудничеству со стороны правительственных организаций и их
заинтересованность. Принятая в Великобритании практика, когда
считается, что любой чиновник с достаточным стажем работы в
верхних эшелонах служебной иерархии годится для того, чтобы
управлять научно-исследовательскими разработками, не выдержи¬
вает критики. В США Агентство управления проектами новой
техники министерства обороны берет на службу специалистов
с солидным опытом фундаментальных исследований и поручает
им возглавить научные исследования на договорных началах, рас¬
считанные на фиксированные сроки. Это, безусловно, шаг в правиль¬
ном направлении. Даже в специализированных учреждениях
Великобритании невежество руководства порой прорто ошелом¬
ляет. Так, некий официальный представитель Национального
вычислительного центра не так давно настаивал, что если в статье,
которую он заказывал для проекта по приложениям микроэлектро¬
ники, будут какие-либо упоминания о медицинских экспертных
системах, то «должно быть ясно сказано, что практическое исполь¬
зование этих идей — дело далекого будущего».
Что же касается привлечения капиталовложений из частного
сектора, то тут можно начать с организации чего-то подобного
системе инвестиционной помощи, опробованной в Австралии. Она
была введена в 60-х годах в качестве временной меры, а затем ее
действие постепенно было приостановлено. Затем ее ввели в 70-х
годах как средство поддержания капиталовложений. Возьмем, к
примеру, закупки терминалов для компьютеров. Обычные аморти¬
зационные отчисления с капиталовложений, освобожденные от
налогов, составили бы 30% ежегодного платежного баланса плюс
чистый остаток после 5 лет. При наличии системы инвестиционной
помощи в течение первого года предоставляется дополнительная
помощь в размере 40% общей стоимости. В итоге это дает 140%
субсидию, что является существенным стимулом для вкладчика.
Прежде всего мы испытываем нужду в специальных проектах,
на которых следует сосредоточить наши интеллектуальные усилия.
И можно ожидать, что решительное наступление по некоторым
направлениям принесет желанные результаты уже в недалеком
будущем. К таким направлениям в первую очередь относятся
следующие.
Параллельные многопроцессорные системы особенно важны
для решения задач машинного зрения. Хорошим примером подоб¬
ной разработки может служить распределенный матричный про¬
цессор компании Ай-Си-Эль и система КЛИП-4, разработанная в
колледже Лондонского университета. Подобные системы обещают
не только невероятное увеличение скорости обработки информации,
но и — что значительно важнее — коренное принципиальное угь
Изобретения на благо- человечества 215
рощение обработки данных, относящихся к сложным предметным
областям. Появление дешевых надежных компьютеров, обладаю¬
щих зрительными функциями, открывает широкие возможности
решения целого спектра практических задач: от визуальной про¬
верки промышленной продукции и оборудования до ввода в машину
и анализа диаграмм непосредственно из книг и документов.
Автоматический синтез программ поможет нам преодолеть кри¬
зис, наблюдающийся ныне в программном обеспечении. Промыш¬
ленность с энтузиазмом восприняла идеи искусственного интел¬
лекта; примером тому, в частности, могут служить внушительные
проекты автоматизации синтеза программ, осуществляемые в ла¬
боратории фирмы ИБМ в городе Иорктаун и в Шлумбергере.
Экспертные системы. Страна, которая сумеет вырваться вперед
в области применения интерактивных баз знаний, безусловно,
обретет немалые преимущества. Управление знаниями в чем-то
сходно с генной инженерией: основные принципы решения задач
здесь относительно просты и возможности для применения неог¬
раниченны. В настоящее время Великобритания обладает всего
одним недорогим программным обеспечением для такого рода си¬
стем. Но если не довести начатое до конца, ситуация может реши¬
тельным образом перемениться.
Разумные роботы. Экспертные системы для управления про¬
мышленными роботами могут обеспечивать их маневренность, спо¬
собность к обучению и сообразительность, которые недостижимы
с помощью обычных средств автоматики. Значение таких роботов
для производства очевидно, и сейчас самое подходящее время для
их широкого развития и внедрения. Подвижные роботы («тыбики»)
найдут себе множество применений и за пределами заводских пред¬
приятий, о чем говорилось в гл. 1. Например, на «Тримайл-Айленд»
команда интеллектуальных «тыбиков», имеющих радиосвязь с
внешним миром, пришлась бы как нельзя кстати. Следует отметить,
что основные задачи проектирования роботов и автоматического
синтеза программ тесно связаны между собой.
Роботы встречаются с экспертными системами
Вопрос о возможной связи между теорией экспертных систем и
робототехникой вызывает ныне оживленные споры. Администра¬
торы склонны считать, что между этими двумя областями нет ни¬
какой связи. Более того, на эту точку зрения с удовольствием
встанут и производственники.
Однако инженеры, занимающиеся прикладными исследованиями
и разработками, прекрасно понимают связь между экспертными
системами и робототехникой и чувствует ее важность. Но кто
особенно прислушивается к мнению инженеров? Подход к робото¬
технике с точки зрения теории экспертных систем считается чуть
216 Компьютер — творец
ли не глупостью: «Нам достаточно проблем и с обучением разум¬
ному поведению роботов-тупиц и нечего браться еще и за роботов-
умников». Аналогичная ситуация наблюдалась и в прошлом,
например когда впервые было высказано предложение применить
в железнодорожном транспорте двигатели внутреннего сгорания.
«Нам хватает проблем и с паровыми двигателями, чтобы браться
еще за дизельные»,— заявляли тогда противники нововведения.
Но чему следует отвести роль «дизеля» в нашей проблеме с ро¬
ботами? Такую роль могут сыграть «формализованные знания».
Стандартные методы программирования не дают возможности
роботу или каким-то иным вычислительным системам делать
следующее:
1) объяснять, что он делает;
2) обучаться по возможности лучше делать то, что он уже умеет;
3) объяснять, в чем состоит этот новый способ;
4) придумывать такие новые способы самому;
5) объяснять их.
Подобные возможности промышленных роботов будущего при¬
несут немалую пользу независимо от того, будут ли они работать
на постоянном рабочем месте или от них потребуется способность
свободно перемещаться. В настоящее время возник глубокий раз¬
рыв — а возможно, он существовал всегда — между прекрасными
и преданными своему делу инженерами-технологами и теми, чьи
интересы сосредоточены главным образом на поиске конструктив¬
ных принципов программного решения задач [1—4]. На сей раз
вина в основном лежит на практиках, хотя в какой-то степени
их позицию можно оправдать тем, что именно им приходится вы¬
полнять самую грязную часть этой работы.
Если к робототехнике можно. подходить с точки зрения инже-
неров-технологов, то должна быть возможность посмотреть на ее
проблемы и с~ позиций экспертных систем; свой вклад в развитие
робототехники .могут также внести специалисты по разработке
программного обеспечения, конструкторы аппаратных средств,
специалисты по микроэлектронике и те, кто занимается теорией
программирования. Только такие междисциплинарные рабочие
группы способны обеспечить победу в будущих технологических
битвах.
Аргументы «против» и «за»
Совсем недавно любые попытки завести разговор о роботах со
встроенными базами знаний наталкивались в Великобритании на
резкие возражения, сопровождаемые словами: «Эти ученые возом¬
нили себя богами». В подтверждении приводятся следующие че¬
тыре аргумента.
Изобретения на благо яелоееъееша 217
1. Для таких роботов нельзя придумать никакого социально
полезного применения.
2. Если бы такое применение нашлось, то сразу стало бы ясно,
что подобные исследования могут немедленно принести пользу
британской промышленности в ее нынешнем тяжелом положении.
3. Среди конструкторов роботов нет места специалистам по
информатике — этим должны заниматься механики и электрон¬
щики.
4. Нет необходимости в том, чтобы роботы имитировали че¬
ловеческий стиль мышления и работы. Машины могут делать это
по-другому и гораздо лучше.
В то время как другие государства стремительно развивали
новую технологию, английские администраторы от науки стара¬
лись затоптать в землю все, что делалось у нас в этой области.
К счастью, теперь положение, по-видимому, несколько меняется.
Первое из перечисленных утверждений уже признано глубоким
заблуждением. А как обстоят дела с остальными?
Что касается второго аргумента, то анализ, проведенный Ала¬
ном Котрелом показал, что уровень капиталовложений в британ¬
скую промышленность просто не позволяет ей внедрять новые
разработки. Вместо этого теоретические разработки, пригодные
для внедрения в промышленность, оказываются в руках наших
конкурентов. Так, завершенный в 1973 г. в Эдинбурге проект
создания робота Фредди, которым пытались вначале заинтересовать
корпорацию «Бритиш моторе», был в конце концов реализован
американской фирмой «Дженерал моторе».
Третий аргумент, безусловно, ошибочен, если принять во вни¬
мание результаты исследований, проводимых британскими универ¬
ситетами. В наши дни финансовую помощь удается получать именно
тем университетским ученым, которые продемонстрировали свою
способность вести на равных борьбу с такими голиафами в области
промышленных манипуляторов, как фирмы «Юнимейшн», «Мицу¬
биси» и «Хитачи». Но здесь главный козырь — программное обес¬
печение. Однако борьба продолжается, и соотношение сил вполне
может измениться.
Несправедливость и даже опасность четвертого аргумента мы
пытались доказать на протяжении почти всей книги. Но, к сожа¬
лению, такой точки зрения придерживаются некоторые перво¬
классные специалисты. Возможно, эту позицию поколеблет проект
компьютеров пятого поколения, разрабатываемый в Японии. Науч¬
но-исследовательский комитет, возглавивший этот проект, рекомен¬
довал тщательно изучать, «как человеческий мозг справляется с
распознаванием образов и другими интеллектуальными процессами».
218 Компьютер — творец
Как вернуть плодородие выжженной земле
Необходимость позитивных действий становится наконец очевид¬
ной британскому правительству и, следуя рекомендациям комис¬
сии, возглавляемой Джоном Алви из компании «Бритиш телеком»,
министерство торговли и промышленности Великобритании раз¬
работало важнейшую национальную программу развития инфор¬
мационной техники. Для осуществления этой программы в те¬
чение ближайших 5 лет правительство выделило 2Ш млн. фунтов,
такая же сумма поступит от частных вложений. Экспертные системы
— одна из четырех ключевых технологий, определяющих будущее
британской вычислительной техники и электроники; остальные
три — это программное обеспечение, интерфейсы человек —
машина и большие интегральные схемы [12]. Как и следовало
ожидать, предложение выделить такие солидные средства на ра¬
боты. связанные с экспертными системами, было с недовольством
встречено представителями других областей вычислительной тех¬
ники. Планы Алви можно только приветствовать, но лишь будущее
покажет, удастся ли нам вернуть плодородие «выжженной земле»
искусственного интеллекта.
Рассматриваемая проблема имеет и международный аспект.
Эд Фредкин предложил создать всемирный институт (например,
в Женеве), который мог бы осуществлять развитие в области вы¬
числительной' техники в широких интернациональных масштабах
и без давления чисто коммерческих интересов. Оборудование и
условия работы в таком центре должны в полной мере соответст¬
вовать его характеру и назначению. По мнению Фредкина, финан¬
сироваться такой институт должен из фондов пожертвований, что
освободит ученых от необходимости немедленно демонстрировать
практические результаты исследований, и его главная долгосроч¬
ная цель будет состоять в создании машинного интеллекта. Рас-
еуждения Фредкина не лишены смысла. Из боязни задавить твор¬
ческие способности ученого жесткими обязательствами найти
немедленное приложение результатам, иногда считают, что лучше
всего пустить его работу на самотек. Однако и такой подход может
оказаться тормозом технического прогресса. Как показывает ис¬
тория экспериментальной науки, именно правильно выбранные
и своевременно поставленные цели приводили к победным резуль¬
татам, а не капризы гениев. Монтень, сам блестящий ученый, писал
в 1580 г.: «Точно так же, как оставленная под паром земля, если
она жирна и плодородна, порастает сотнями тысяч диких беспо¬
лезных сорняков, и, чтобы пустить ее в дело, мы должны обработать
ее и засеять нужными семенами... так и умы наши. Если только
не занять их мыслями на какую-то тему, которая обуздает их, под¬
чинит себе, они умчатся в туманные дали воображения» [13].
Такой институт, по мнению Фредкина, нужен не только как
Изобретения на благо человечества 219
гарант движения вперед. Ни одна сложная компьютерная программа*
указывает он, не обходилась без ошибок, «а об изъянах, которые
встретятся нам при создании «суперинтеллекта», просто страшно
подумать». Поэтому в проекте следует предусмотреть защиту про¬
тив подобных случайностей. На какой бы основе ни строился такой
институт, если у него будет достаточно возможностей, результатом
его работы может стать, по словам Фредкина, «разработка безопас¬
ного и полезного искусственного интеллекта для нужд всего че¬
ловечества».
С того времени, как был написан этот раздел, в Глазго был
создан Институт им. Тьюринга; он расположен по соседству с Уни¬
верситетом Стратклайда, с которым у него заключен договор о
сотрудничестве. Деятельность института направлена на претворе¬
ние в жизнь идеи Фредкина.
Постскриптум
Принято считать, что целью работ в области искусственного интеллекта яв¬
ляется создание целого клана сверхумных роботов, которые, выйдя из под¬
чинения человеку, со временем захватят нашу планету. В действительности
же дело обстоит иначе: искусственный интеллект занимается разработкой
машин, которые были бы более — а не менее — послушны, и более — а не
менее — управляемы. Развитие техники привело к тому, что мир вокруг
нас становится все более сложным и непостижимым, и если так будет про¬
должаться дальше, то это неизбежно и неотвратимо приведет к катастрофе.
Искусственный интеллект ищет способы повернуть этот процесс вспять и
возвратить технику на подобающее ей место — послушного и в то же время
проницательного помощника человечества. Возможно, человеку и машине
совместными усилиями удастся справиться со многими, а со временем, ве¬
роятно, и с большинством бед нашей цивилизации.
Высказываются опасения, что создать разумные машины — это значит
впустить в наш дом полчища «завоевателей». На самом деле мы должны смот¬
реть на себя как на осажденный гарнизон, который после десяти часов осады
вдруг с облегчением замечает на горизонте пыль, поднятую спешащим нам
на помошь отрядом. Эта книга — клич с поля битвы.
Приложение
Основные принципы информатики
Согласно широко распространенному определению, вычислительная машина,
или компьютер,— это универсальная программируемая машина для авто¬
матической обработки информации. Термин «универсальность» здесь озна¬
чает, что эта машина способна решать широкий круг задач, а не какую-либо
одну; понятие «автоматическая» говорит о том, что, будучи запущенной,
машина работает далее сама по себе, а термин «программируемость» — что
пользователь в любой момент имеет возможность детально определить, что
машина должна делать. Информация, которую машина перерабатывает, мо¬
жет выражаться словами или числами; с изображениями или звуками машина
тоже умеет работать, но перед этим с помощью какого-то механизма обяза¬
тельно нужно перевести всю эту информацию в цифровое выражение (это от¬
носится и к словам). Однако современный уровень вычислительной техники
позволяет осуществлять подобные операции в значительной степени автома¬
тически, а значит, самому пользователю совсем необязательно знать, как это
происходит. По существу, машины имеют дело с символами, и по этой причи¬
не многие полагают, что лучше всего определять понятия «компьютер» как
«устройство для манипуляции с символами».
Практически все вычислительные машины удивительно похожи друг на
друга в том, что касается принципов их работы, но существенно отличаются
друг от друга в деталях реализации этих принципов. В сущности все взаимо¬
действие между компьютером и пользователем осуществляется посредством
команд. Командами служат обычные слова, с помощью которых мы сообщаем
машине, что ей нужно делать; для этого пользователь печатает слова на
клавиатуре компьютера как на обычной пишущей машинке. Ответ машины
высвечивается на телевизионном экране или выдается каким-то иным подоб¬
ным образом. Каждая машина способна понимать лишь несколько десятков
слов; слова, которыми она пользуется, образуют язык машины. Существует
много машинных языков, и каждый из них соответствует определенной цели.
В качестве иллюстрации мы воспользуемся самым известным из них — язы¬
ком Бейсик. Типичной командой на языке Бейсик является слово PRINT
(ПЕЧАТЬ), которое требует, чтобы машина выдала какую-то информацию
на своем дисплее (команда осталась еще с тех времен, когда машины снабжа¬
лись в основном не видеодисплеями, а телепринтерами). Например, команда
PRINT 3+5
заставляет машину отреагировать, ответив
8.
Для этого машина осуществляет указанное арифметическое действие и
«печатает» полученный результат. Арифметическая задача может быть дос¬
таточно сложной, скажем такой:
PRINT 21 * (287,35+ 89) —44,9.
Здесь символ * используется в качестве знака умножения, чтобы избежать
возможной путаницы с буквой х. На это машина отвечает
7858,45.
Основные принципы информатики 221
Если мы попробуем ввести в машину нечто, чего нет в ее ограниченном сло¬
варе, например
ПРИВЕТ,
то получим в ответ
?SYNTAX ERROR
(СИНТАКСИЧЕСКАЯ ОШИБКА).
Она считает, что мы просто ошиблись. И как бы элементарно ни было введен¬
ное слово, для машины оно абсолютно бессмысленно.
Компьютер запоминает
Важнейшей частью любого компьютера является его память, где он может
хранить информацию, пока работает с ней. Можно потребовать от машины
сохранить то или иное число в памяти, но при этом необходимо приписать
числу какое-то имя, какой-то ярлык, чтобы иметь возможность впоследствии
получить его обратно,— точно так же мы навешиваем ярлык на чемодан,
прежде чем сдать его в камеру хранения. Меткой в данном случае может
быть любая буква по вашему усмотрению:
LET А=293.
Такая команда означает: «Сохраняй в памяти число 293 и назови его А».
Если после этого мы потребуем
PRINT А,
то получим в ответ
293,
Число 293 будет храниться в памяти машины неопределенно долгое время.
Память машины можно использовать также для хранения команд, именно
благодаря этому компьютер имеет возможность работать сам по себе. Про¬
цедура переработки информации может быть настолько сложной и требовать
такого большого числа операций, что, если указывать машине по мере необ¬
ходимости каждый шаг ее работы, то решение задачи может растянуться на
очень длительное время. Гораздо разумнее сначала ввести все соответствую¬
щие команды в память машины, а затем заставить ее выполнять их автомати¬
чески в правильной последовательности. В качестве простейшего примера
возьмем знакомую нам всем с детства формулу площади круга Л=яг2. До¬
пустим, нам нужно вычислить площадь большого числа кругов. Мы можем
ввести в машину соответствующие команды и заставить ее считать по фор¬
муле автоматически без каких-либо усилий с нашей стороны. Процедура
заключается в том, чтобы взять радиус круга (г), возвести его в квадрат,
умножить полученное число ная(^ЗД4) и напечатать полученный результат.
Разумеется, значение радиуса поступает в компьютер извне. Поэтому на пер¬
вом шаге от машины нужно потребовать, чтобы она приняла «данные» от че-
ловека-пользователя. Это осуществляется с помощью команды
INPUT R
(ВВЕСТИ R).
Такая команда дает машине указание ждать, пока на клавиатуре не будет
напечатано число (радиус круга), а когда это произойдет, запомнить введен¬
ное число, обозначив его символом R.
Далее она должна произвести арифметические действия
LET A=R*R*3,14.
Таким образом определяется площадь круга, которая заносится в память
машин.ы как «А». Последний шаг всей процедуры заключается в том, чтобы
222 Компыдтер — творец
напечатать полученный результат:
PRINT А.
Когда мы набираем команды, перед каждой новой строкой нужно поставить
ее номер, который задает машине порядок их выполнения и позволяет нам
по мере необходимости ссылаться на них позже. В совокупности команды бу¬
дут выглядеть следующим образом:
1. INPUT R
2. LET A=R*R*3,14
3. PRINT A.
После того как эти команды введены в машину, мы даем ей указание
RUN (ВЫПОЛНИТЬ), которое заставляет ее исполнить все команды, имею¬
щиеся в ее памяти. Вначале ей встречается команда I, получив которую, она
ждет, пока мы не напечатаем значение радиуса, скажем 2. Затем практически
мгновенно компьютер осуществляет арифметическое действие, указанное
в команде 2, и (согласно команде 3) печатает полученное число
12,56.
Если нам нужно узнать площадь другого круга, достаточно снова приказать
ей RUN — и так до бесконечности.
Программа по кусочкам
Три команды, о которых мы говорили выше, образуют в совокупности простей¬
шую программу. Программой называют просто некую последовательность
команд, которые компьютеру нужно выполнить, чтобы решить конкретную
задачу. Но чтобы от вычислительных машин была реальная польза, нужно,
чтобы они могли справиться и с более трудными заданиями. И каким бы
сложным оно ни оказалось, программисту (т. е. человеку) придется предста¬
вить его в виде последовательности шагов, каждый из которых должен быть
достаточно прост сам по себе, чтобы машина могла с ним справиться. После
этого программисту нужно записать для каждого шага соответствующие
команды на машинном языке. Это далеко не легкая задача. Программист
должен тщательно следить за тем, чтобы все шаги были описаны абсолютно
однозначным образом и шли в правильном порядке. Представьте себе, на¬
пример, что вам нужно записать все этапы программы замены колеса у ва¬
шего автомобиля. В результате у вас может получиться примерно следую¬
щее:
Поставь машину на ручной тормоз
Достань домкрат
Сними колпак
Ослабь болты на колесе
Подними машину на домкрате
Выверни болты
Сними колесо
Достань запасное колесо
Одень запасное колесо на место
Вверни болты
Опусти домкрат
Затяни болты
Одень колпак
Положи домкрат и спустившее колесо в багажник
При этом важно помнить, что ослабить болты нужно до того, как мы поставим
машину на домкрат. Читатель в качестве самостоятельного упражнения мо¬
жет попробовать написать аналогичную программу для процедур «перезаря-
Основные принципы информатики 223
Рис. 36. Пример блок-схемы программы.
НАЧАЛО
КАК ПОДЖАРИТЬ ЯИЧНИЦУ
Возьми
коробку
с яйцами
Возьми яйцо
и разбей его
в тарелку
Купи новую
коробку яиц
^Kopo6kiN
^пустая? .
/Mira-\
^эины еще
\открыты2/
fHE ПОВЕЗЛО\
1 (КОНЕЦ) )
^Разлился ли
\желток ?/
Нет
Тогда
готовь
омлет
/ КОНЕЦ \
(С ОБРЕЧЕН]
ЮНОСТЬЮ) )
Жди Юс
Выбрось
его
/ Яйцо \
протухло?
Зажги газ
Нет
Нагрей
сковороду
Нет
Слегка
подними края
лопаткой
Выложи
на тарелку
' КОНЕЦ \
(С УДОВЛЕ¬
ТВОРЕНИЕМ)!
Растопи
масло
Вылей яйцо
на сковороду
224 Компьютер — творец
Рис. 37. Блок-схема програм¬
мы для вычисления среднего.
дить чернилами авторучку» или «заварить
чай». Не забудьте, в частности, продумать,
когда следует подогревать чайник для за¬
варки.
Ни в одной из упомянутых выше про¬
цедур не было места ни для вопросов, ни
для принятия каких-то решений. Однако
в реальной жизни мы непрерывно сталки¬
ваемся и с тем, и с другим. Процесс, вклю¬
чающий в себя принятие решений, проще
всего представить в виде блок-схемы, вро¬
де той, что показана на рис. 36. На ней
решения изображены в виде ромбов. Чита¬
тель может попробовать сам составить
блок-схему программы «Как перейти доро¬
гу». (Не удивляйтесь, если это окажется
совсем не так просто.)
«Средненькая» задача о среднем
Если снова вернуться к работе компьюте¬
ра, то в качестве более содержательной
программы можно предложить задачу вы¬
числения среднего значения некоторого
множества чисел. Для этого, очевидно,
нужно сложить все числа вместе и поде¬
лить полученную сумму на их общее коли¬
чество. Чтобы машина сделала это, прог¬
рамма не может просто указать ей: «Сло¬
жи первые два числа, прибавь третье, при¬
бавь четвертое...», так как ей заранее не¬
известно, сколько всего имеется чисел —
их количество меняется от задачи к зада¬
че. Поэтому внутри программы приходит-
~Т5г *>бр*гаовывать некоторый цикл, прибав¬
ляя к уже имеющейся сумме все новые
числа по мере их поступления и накапли¬
вая результат до тех пор, пока не прибав¬
лены все числа. Для этого программе преж*
де всего следует узнать у пользователя,
сколько всего будет чисел, вести их счет в
процессе работы и остановиться после вве¬
дения последнего числа. Теперь остается
лишь поделить полученный результат на
общее количество чисел и напечатать ответ.
Соответствующая блок-схема представлена
на рис. 37.
При этом в одной ячейке памяти ма¬
шина накапливает текущую сумму, а в
другой — подсчитывает количество посту¬
пивших чисел. Каждый раз когда машина
выполняет очередной цикл, к последнему .
счетчику прибавляется 1, и затем машина
задает себе вопрос: «Не совпадает ли по¬
казание счетчика.с указанным заранее?»,
что эквивалентно вопросу: «Все ли данные
(начало)
Укажи
число данных
Установи
промежуточный
итог на нуль
Сбрось на нуль
счетчик
Считай число
Прибавь его
к‘итогу
Увеличь
содержимое
счетчика на 1
Все ли ^
данные
считаны 1.
Нет
Да
Раздели итог
на число данных
Напечатай
результат
КОНЕЦ
Основные принципы информатики 225
считаны?» Если ответом будет «Нет», то программа должна выполнить оче¬
редной цикл и получить еще одно число, а если «Да», то она переходит к де¬
лению и выдает ответ. В начале работы программы и текущую сумму, и со¬
держание счетчика нужно сбросить на нуль — это обычная подготовительная
процедура при вычислениях, называемая «инициацией». Все эти действия
указаны на нашей блок-схеме. Исчерпывающую, тщательно продуманную
процедуру, подобную описанной, которая точно определяет, что нужно де¬
лать таким механическим способом, математики называют «алгоритмом».
Чтобы в программе можно было образовать циклы, требуются две новые
команды на языке Бейсик. Одна из них обозначается словом GOTO (ПЕРЕ¬
ХОДИ К), за которым должен следовать номер команды. Эта команда застав¬
ляет нарушить собственную последовательность выполнения команд про¬
граммы и осуществить переход к команде, стоящей в указанной после GOTO
строке. Например, можно заставить программу вернуться к самому началу
и повторяться до бесконечности. Для этого достаточно в конце цикла напи¬
сать GOTO 1. Принятие решений (соответствующее ромбу в наших блок-
схемах) осуществляется в языке Бейсик с помощью команды IF (ЕСЛИ).
Эта команда может быть записана, например, в виде
IF Х=3 GOTO 20.
В такой программе переход к строке 20 осуществляется только в том случае,
если Х=3. Если же Х?=3, то программа переходит к выполнению команды
следующей строки в нормальной последовательности. В нашей программе
вычисления среднего команда IF требуется, чтобы выяснить, достигло ли
показание счетчика поступивших чисел заданного значения или нет. Если
еще нет, то программа возвращается к выполнению цикла, а если достигло,
то она переходит к выполнению своей завершающей части.
На Бейсике эта программа выглядит так, как показано ниже. В правой
части каждой строки поясняется, что здесь делается. Стоит также обратить
внимание на то, как сильно эта программа напоминает приведенною ранее
блок-схему.
1. INPUT N Узнай, сколько будет чисел.
2. LET Т=0 Сбрось текущую сумму на нуль.
3. LET С=0 Сбрось счетчик на нуль.
4. INPUT X Считай число.
5. LET Т=Т+Х Прибавь его к сумме.
6. LETC=C+1 Прибавь 1 к счетчику.
7. IF C<N GOTO 4 Проверь, меньше ли С, чем N;
если да, переходи к 4.
8. PRINT T/N Если нет, произведи деление, и получи
среднее.
Команда «LET С=С+1» может показаться несколько странной. На са¬
мом деле это всего лишь компактный способ записи команды: добавить 1 к со¬
держимому счетчика. Согласно этой команде, машина должна взять число С,
прибавить к нему 1 и заменить число С полученной суммой, используя ее как
новое значение С. Команда «LETT=T+X» имеет тот же смысл. С ее по¬
мощью каждое новое число X прибавляется к накапливающемуся итогу Т.
Как заставить машину объясниться
Конечно, было бы хорошо, если бы пользователь этой программы (в отличие
от программиста) не обязан был понимать действительный смысл команд на
языке Бейсик. Хотелось бы, чтобы программа сама подсказывала пользова¬
телю на каждом этапе, что ему нужно делать (в данном случае — когда ему
нужно напечатать следующее число). Этого можно добиться, воспользовав¬
шись тем, что команда PRINT может иметь дело не только с цифрами, но и со
9 Д. Мичи, Р. Джонстон
226 Компьютер — творец
словами. Для этого слова нужно заключать в кавычки. Так, команда
PRINT «ПРИВЕТ»,
введенная в машину, приведет к тому, что машина напечатает
ПРИВЕТ.
Поэтому мы можем добавить к нашей программе вычисления среднего еще
несколько строк с командой PRINT, за которой следует текст, сообщающий
пользователю, что ему нужно сделать, чтобы программа могла работать.
На врезке показана такая программа, а кроме того, то, что могло бы появи¬
ться на экране дисплея в каком-то частном случае.
Что вводится в машину при обработке программы
«Вычисление среднего» и что при этом появляется на экране
1. Напечатать «Вычисление среднего»
2. Напечатать «Сколько чисел»
3. Ввести N
4. Положить Т=0
5. Положить С=0
6. Напечатать «Число»
7. Ввести X
8. Положить Т=Т+Х
9. Положить С=С+1
10. ЕСЛИ C<N ПЕРЕЙТИ К 6.
11. Напечатать «среднее равно»
12. Напечатать T/N
ПРОГОН
ВЫЧИСЛЕНИЕ СРЕДНЕГО
СКОЛЬКО ЧИСЕЛ? 4
ЧИСЛО? 12
ЧИСЛО? 37
ЧИСЛО? 25,6
ЧИСЛО? 2
СРЕДНЕЕ РАВНО 19,15
Реальные компьютерные программы обычно много сложнее и длиннее,
чем приведенная здесь. В качестве следующего шага вверх по шкале слож¬
ности можно было бы рассмотреть программу «вечного календаря», т. е. про¬
грамму, позволяющую установить, каким днем недели будет любая заданная
дата, или же программу разложения произвольного числа на простые сомно¬
жители. На самом деле для нахождения среднего компьютер не нужен, а
вот для разложения на простые сомножители без него трудно обойтись.
Читателю, желающему побольше узнать о программировании, можно посо¬
ветовать обратиться к одной из книг, приведенных в списке литературы к
этому приложению.
Во многих практических задачах, связанных с использованием компью¬
теров, совсем необязательно уметь хорошо программировать. В них полез¬
ность машин обусловлена просто тем, что она может иметь дело с очень боль¬
шим количеством данных сразу. Примером подобных задач может служить
подготовка счетов-фактур, ведомостей на зарплату или курса акций. Вместе
с тем программы для обработки огромных количеств цифр, связанных с науч¬
ными расчетами, предсказанием погоды, резервированием билетов на само¬
леты или управлением большими банками данных, как правило, чрезвычайно
Основные принципы информатики 227
сложны. Для задач такого рода нужны очень большие машины, тогда как
в коммерческих приложениях обычно довольствуются средними; что же ка¬
сается управления заводским оборудованием или роботизированной сбороч¬
ной линией, то здесь чаще всего вполне достаточно мини-компьютеров или
даже микрокомпьютеров. Аналогичным образом в зависимости от области
применения решается и вопрос о выборе машинного языка. Сейчас сущест¬
вует пугающее многообразие различных машинных языков, которые отли¬
чаются друг от друга в основном лишь тем, какую часть трудоемкой работы
программиста они могут взять на себя, а какую — оставить ему. Языки
«низкого уровня» обеспечивают высокую скорость работы машины и большую
гибкость в составлении программы, но одновременно требуют от програм¬
миста детальной разработки программы. Напротив, языки «высокого уровня»
больше похожи на естественные и пользоваться ими легче, но вместе с тем
они более ограниченны в своих возможностях, так как оставляют програм¬
мисту меньше свободы в управлении конкретными действиями машины при
выполнении полученного задания. Среди языков высокого уровня упомянем
Бейсик, Фортран, Алгол и Паскаль.
Ошибки и как их найти
Программистам, как и всем людям, свойственно ошибаться. Достаточно прос¬
то случайно нажать другую клавишу и напечатать PRIMT вместо PRINT,
и машина окажется не в состоянии понять, что это за команда, и выдаст вам
? SYNTAX ERROR
Однако в других случаях сообщенная машине ошибочная команда вполне
может иметь смысл, хотя и не приведет к желаемой цели. Например, вы могли
дать команду «PRINT В—А» вместо нужной «PRINT А—В». У машины нет
никакой возможности сообразить, что вы сделали ошибку, так что ей не ос¬
тается ничего другого, кроме как старательно выполнить данную команду,
что в конечном счете может привести к получению совершенно неверного ре¬
зультата. От программиста требуется, чтобы он смог заметить это и провести
определенную работу по обнаружению ошибки в программе *. Подобным
же образом, забыв снять колпак или отпустить болты, вы не сможете
успешно провести операцию по замене колеса. Когда говорят: «Машина
ошиблась», это неизбежно означает, что ошиблась не она, а программист
или оператор. В случае отказа электроники (а это тоже случается нередко)
машина практически никогда не выдаст неправильный ответ — она просто
не даст никакого ответа. Этот факт наглядно показывает принципиальную
разницу для всей области переработки информации между электронным и
механическим оборудованием, или, как говорят, «аппаратным обеспечени¬
ем», и программами, частями программ или их совокупностями, которые
называют «программным» или «математическим обеспечением» **.
Абсолютная предсказуемость поведения компьютера в некоторых слу¬
чаях нежелательна. Если, например, машина должна играть в азартные
* По-английски такие ошибки обозначают словом bug, что значит
клоп, насекомое. Как свидетельствует Грейс Хоппер, первая из известных
ошибок в программе в действительности была связана с насекомыми. В про¬
цессе отладки машины «Марк-1» в Гарвардском университете в 1945 г. Хоп¬
пер обнаружила внутри машины 5-сантиметрового мотылька, передвижения
которого совершенно сбивали работу всей электроники. Хоппер догадалась
сохранить этого мотылька в журнале лаборатории в качестве доказательства
своего авторства для этого жаргонного термина.
** По-англ. это соответствовало hardware (жесткая часть) и software
(мягкая часть), ибо схемные решения остаются в машине практически неиз¬
менными; а программы нетрудно поменять.— Прим. перев.
9*
228 Компьютер — творец
игры, то нам нужно научить ее «бросать кости». Ведь, скажем, нашествие
инопланетян — если таковому суждено случиться! — произойдет неожи¬
данно, а при планировании лесопосадок деревья нужно располагать не по
прямым, а в разброс, чтобы предотвратить эрозию почвы. Для подобных це¬
лей в машинах обычно предусматриваются подпрограммы, способные гене¬
рировать при необходимости случайные числа. Но поскольку все, что ни де¬
лает машина, предопределено, получающиеся числа не вполне случайны —
они обычно являются результатами деления очень длинных чисел, так что
в конечном счете их можно в точности предсказать, если не пожалеть на это
труда. Такие числа называют псевдослучайными, но для большинства прак¬
тических целей они ничуть не хуже случайных.
Если нам требуется зафиксировать результат работы машины, ™ его
обычно выводят на бумагу с помощью одного или целого набора устройств,
начиная с обычного телепринтера и кончая мощным построчно печатающим
устройством, скорость которого достигает 20—30 страниц в минуту. Быстро¬
та, с которой компьютер способен исторгать из себя информацию, резко
контрастирует с той медлительностью, которую он проявляет при ее погло¬
щении. Каждый вводимый в машину символ (букву, цифру или знак препи¬
нания) приходится набивать на клавиатуре человеку. Этот процесс называют
вводом данных, и во многих организациях можно увидеть целые залы, пол¬
ные людей, которые весь день только тем и занимаются, что переносят в ма¬
шину содержимое заполненных от руки форм или иных документов. Пробле¬
ма ввода данных до сих пор остается основным препятствием на пути даль¬
нейшего развития вычислительной техники.
Все больше и больше памяти
Внутренняя память любого компьютера (о принципах организации которой
мы еще поговорим ниже) всегда ограниченна. Поэтому для хранения боль¬
ших объемов информации нужны особые устройства. Как правило, информа¬
ция записывается на магнитную ленту или на вращающиеся магнитные дис¬
ки, работающие по тому же принципу, что и в обычных магнитофонах. Счи¬
тывание информации с любого из этих устройств происходит гораздо дольше,
чем из внутренней памяти машины, причем считывание с магнитной ленты
идет даже медленнее, чем с диска, поскольку ленту необходимо все время
перематывать взад-вперед. Задача слежения за тем, где на дисках или лентах
записана нужная нам информация, поиска ее по мере необходимости и сти¬
рания записи для последующего использования освободившегося места чрез¬
вычайно сложна; все необходимые для этого действия обеспечиваются спе¬
циальной программой, которую называют «операционной системой» машины.
Эта программа позволяет пользователю собрать всю необходимую ему ин¬
формацию по данному вопросу, присвоить ей какое-то имя и заложить ее
в память машины; впоследствии, только назвав это имя, он может вызвать
ее для дальнейшего использования, совершенно не интересуясь, под каким
адресом эти данные хранились на диске или ленте.
В больших машинах операционные системы выполняют и другие функ¬
ции, как, например, «разделение времени». На протяжении многих лет ком¬
пьютеры были слишком дороги, чтобы в каждый момент времени использо¬
вать их лишь для решения какой-то одной задачи, и именно операционные
системы с разделением времени давали возможность подключить к машине
одновременно несколько десятков пользователей. Пользователи могли нахо¬
диться довольно далеко друг от друга и работать на так называемых терми¬
налах, состоящих из дисплея и клавиатуры ввода, соединенных с машиной
кабелем. При разделении времени машина уделяет несколько миллисекунд
выполнению задания одного пользователя, еще несколько миллисекунд —
другого и т. д. по кругу, но делает это настолько быстро, что у каждого поль¬
зователя создается впечатление, что машина ни на секунду не забывала
Основные принципы информатики 229
о нем. В настоящее время проблема стоимости центрального процессора не
стоит уже так остро, но популярность режима разделения времени при этом
не уменьшается, особенно когда речь идет о совместном использовании таких
ресурсов, как большие базы данных или дорогостоящие принтеры. Большие
операционные системы относятся к числу наиболее сложных систем, когда-
либо созданных человеком. Неудивительно поэтому, что они не слишком
надежны и подвержены совершенно загадочным сбоям. У многих больших
машин сбои операционной системы случаются буквально через несколько
дней, тогда работа прерывается и нередко ее приходится возобновлять с са¬
мого начала.
Заглядывая «под капот»
Схематически любая вычислительная машина выглядит так, как показано
на рис. 38. Внутри машина имеет дело исключительно с числами. Эти числа
хранятся электронными схемами, называемыми регистрами. Физические
размеры регистра определяют значение наибольшего числа, которое тот
может запомнить — обычно это 65 535. (Причина, по которой получается столь
странное число, станет понятной чуть позже.) Обычно все регистры одной мо¬
дели компьютера имеют одинаковый размер, и именно этот размер в значитель¬
ной степени предопределяет структуру машины. У больших машин обычно
большие регистры, а у микрокомпьютеров регистры, как правило, малень¬
кие. Мы расскажем о том, как работает некий воображаемый компьютер.
Практически все реальные компьютеры работают по этим же принципам,
хотя в деталях устроены гораздо сложнее.
В центральном процессоре нашей машины три универсальных регистра:
счетчик команд, регистр команд и регистр-накопитель. Счетчик команд уп-
Память
Печать
Процессор
Диск
Другие
периферийные
устройства
Дисплей
Клавиатура
Рис. 38. Схематическое устройство типичного компьютера.
23Q Компьютер — творец
Счетчик
команд
Накопитель I О
Команды:
10 загрузить
11 сложить
12 запомнить
13 вычесть
• • •
15 передать управление
16 передать управление, если в накопителе нуль
Рис. 39. Что происходит внутри компьютера.
равляет последовательностью выполнения команд, в регистре команд проис¬
ходит их расшифровка, а в регистре-накопителе осуществляется реальная
обработка данных. Внутренняя память машины образована несколькими ты¬
сячами одинаковых регистров, или ячеек. Ячейки последовательно перенуме¬
рованы, чтобы процессор знал, как обращаться к ним; номер каждой ячейки
называют ее адресом, как вполне естественно называть признак, по которому
находят чье-либо местоположение. Вся эта схема показана на рис. 39. В па¬
мяти машины записываются и программа, и данные, с которыми эта про¬
грамма будет работать. По своему виду одно неотличимо от другого, а значит,
следить за тем, где записаны команды, а где — данные, это тоже задача са¬
мой машины. Каждая команда программы с точки зрения машины — это
тоже число, и программа занимает в памяти машины целый ряд последова¬
тельных ячеек.
В счетчике команд содержится адрес команды, которую нужно выпол¬
нять на следующем шаге работы машины. Процессор обращается к соответст¬
вующей ячейке памяти, считывает число, которое там содержится, и загру¬
жает его в регистр команд. После того как соответствующая команда выпол¬
нена, адрес, содержащийся в счетчике команд, увеличивается на единицу,
и процесс повторяется снова — по отношению к новой команде в программе.
Таким образом, вся работа машины организована по циклам, каждый из ко¬
торых состоит из двух частей. Первая половина цикла называется «вызовом»,
и на этом этапе происходит считывание очередной команды из памяти, а вто¬
рая — «исполнением»: здесь выполняется полученная команда. Каждый цикл
обычно занимает порядка одной миллионной доли секунды.
Операция Операнд
Регистр
команд
Означает
.‘"загрузить"
Адрес
- Программа
Данные
Основные принципы информатики 231
Сказуемое и дополнение
Каждая команда, попадающая в регистр команд, состоит из двух частей:
названия операции и операнда. В некотором смысле их можно рассматри¬
вать как сказуемое и дополнение обычного предложения естественного языка
(все команды выражаются повелительным наклонением, поэтому подлежа¬
щего у них нет). Пусть в нашем случае операция обозначена числом 10, а
операнд — числом 0647. Операция 10 может означать «загрузить». Тогда вся
команда означает: «Считать число, хранящееся в памяти в ячейке 0647, и
записать его в регистр-накопитель». Операция 11 может означать «Приба¬
вить», и тогда команда 11.0885 означает: «Прибавь число, хранящееся в ячей¬
ке 0885 памяти машины, к содержимому регистра-накопителя и запиши
сумму в регистр-накопитель». Команда 12 может означать «Запомнить»,
а значит, 12.2936 читается как «Возьми содержимое регистра-накопителя и
запиши его в ячейку 2936». (При этом все, что хранилось в этой ячейке преж¬
де, стирается и пропадает раз и навсегда.) Процессору обычно необходимо
иметь хотя бы десяток подобных команд, включая «Вычесть» и «Очистить
регистр-накопитель». В некоторых самых простых машинах не заложено
даже команды «Умножить», и тогда программисту приходится самому напи¬
сать коротенькую подпрограмму умножения как многократного сложения.
Важно понять, что команды, о которых сейчас говорится, не совпадают
с теми, которые мы писали на Бейсике, и что адреса ячеек в памяти совсем
не совпадают с номерами строк в программе на языке Бейсик. Но к этому
мы еще вернемся. Чтобы иметь некоторую свободу лередвижения по програм¬
ме, аналогичную той, которую в языке Бейсик обеспечивает команда GOTO,
в нашей простой машине имеется команда «Переход». Если код этой команды,
скажем, 15, то в полном виде она может выглядеть как 15.0073, что означает:
«Продолжай выполнять программу, начиная с ячейки 0073». Механизм
реализации этой команды элементарен: продессор просто считывает операнд
команды (совпадающий с адресом команды, к которой нужно перейти) и пере¬
писывает его в счетчик команд, в результате чего его содержимое изменяется,
как покааано ниже.
Теперь исполнение программы возобновляется с этого адреса, и если переход
осуществлен в ту часть памяти, где записаны данные, а не программа, то
процессор попытается «выполнить» соответствующее число, как если бы это
была команда, что может привести к полной бессмыслице.
Чтобы иметь возможность принимать решения, в машине есть команда
условного перехода, которая означает: «Переходи к указанному адресу, если
в регистре-накопителе нуль». В связи с этим все тестовые операции на блок-
схеме должны быть сформулированы таким образом, чтобы проверяемое зна¬
чение сравнивалось с нулем, и если оно оказывалось нулевым, то осуществ¬
лялся бы указанный переход, а если нет — продолжалось бы выполнение
программы в естественной последовательности команд. Поэтому все вопросы
в программе приходится переформулировать так, чтобы привести их к виду:
«Равно это нулю или нет?» Таким образом, вместо того чтобы выяснять, «рав¬
но ли число А числу В», программа должна вычесть одно из другого и решить,
равна ли их разность нулю.
У машины должен быть еще набор команд — для управления вводом и
выводом. Одна из таких команд должна означать: «Принять символ, напеча¬
танный На клавиатуре, и загрузить его (закодировав с помощью какого-то
С»#етчик
команд
Регистр
команд
232 К омпьюгпер — творец
числа) в накопитель». Другая команда из этого же набора могла бы означать:
«Считайте символ, содержащийся в накопителе, и выведете его на экран дис¬
плея». Аналогичные команды должныбыть предусмотрены для ввода данных
с любых устройств ввода, в том числе с дисковой памяти, и для вывода их
на эти же устройства, например на печатающее устройство — принтер.
Как заставить выполнять команды
Команды, которые мы только что описали, .чрезвычайно примитивны, но,
составляя из них достаточно длинные цепочки, мы получим возможность реа¬
лизовать на машине сложные операции. Каждый очередной шаг компьютера
представляется весьма скромным, и поэтому для того, чтобы окончательный
результат его работы был действительно полезным, необходимо очень боль¬
шое число шагов. В результате, даже если одна миллионная доля секунды,
нужная машине для выполнения одного шага, и кажется поразительно корот¬
ким промежутком времени, скорость решения ею реальных практических
задач будет не так уж велика. И то, что каждый шаг приходится осуществлять
один за другим строго последовательно, приводит к дополнительным труд¬
ностям — это и есть «узкое место» машинной архитектуры фон Неймана, ос¬
новоположника принципов конструирования вычислительных машин.
Закодированные в виде чисел команды машины образуют ее машинные
коды. В принципе программы для машин можно составлять прямо в машин¬
ных кодах, но это невероятно трудоемкий процесс, да и запомнить все необ¬
ходимые численные коды далеко не просто. Поэтому-то и придуманы машин¬
ные языки. Обычные слова любого из этих языков переводятся в машинные
коды с помощью особой программы, специально для этой цели записанной
в память машины. В случае языков низкого уровня такую программу обычно
называют ассемблером, а для языков высокого уровня она известна под наз¬
ванием компилятор или транслятор. Понятно, что программу-ассемблер
нужно писать в машинных кодах. Каждой команде языка низкого уровня
соответствует ровно одна команда в машинных кодах, по этой причине языки
низкого уровня, как правило, специфичны по отношению к конкретным мо¬
делям компьютеров. В отличие от них какая-нибудь команда языков высо¬
кого уровня может переводиться транслятором сразу в несколько (в типичном
случае в несколько десятков) машинных кодов. Например, команда PRINT
на языке Бейсик предполагает выполнение вычислений и вывод на экран
дисплея целой совокупности символов, хотя на уровне машинных кодов каж¬
дая команда вывода осуществляет выдачу лишь одного символа.
Языки высокого уровня более или менее одинаковы для самых разных
машин, и у каждой из них обычно имеется целый набор трансляторов с раз¬
ных языков, так что на одной и той же машине можно реализовывать одну
программу на языке Бейсик, а другую — на языке Паскаль. Для этого поль¬
зователю достаточно загрузить подходящий транслятор и ввести программу,
написанную на соответствующем языке. Процесс трансляции с языка высо¬
кого уровня чрезвычайно сложен, и сам транслятор представляет собой очень
большую и путаную программу, которая, как и операционная система, редко
бывает полностью свободна от ошибок.
Числа из электричества
Как реализовать все эти функции с помощью электронных схем вычислитель¬
ной машины? Поскольку всякая машина имеет дело исключительно с числа¬
ми, то в первую очередь возникает вопрос, как представить числа в каком-то
физическом виде. В первых электронных вычислительных машинах это де¬
лалось путем изменения напряжения, и чем выше было напряжение, тем
большему числу оно соответствовало. Такой принцип устройства вычисли¬
тельных машин, названный аналоговым, оказался малоудобным и ненадеж¬
ным, и вскоре на смену таким машинам пришли цифровые ЭВМ, построенные
Основные принципы информатики 233
на схемах, которые находятся либо в одном состоянии, либо в другом — тре¬
тьего не дано. Использование таких бинарных схем для представления и хра¬
нения чисел заставляет нас перейти к системе, где счет идет двойками, а не
десятками, как мы привыкли. Это не так уж и странно, как может показаться
на первый взгляд. Вместо того чтобы изображать числа по схеме
их представляют в виде
Такое представление называют двоичной, или бинарной, системой счисления
в отличие от обычной — десятичной. Например, число 101 двоичной системы
равняется
четверка
двоек
единица
что составляет 5 в десятичной системе счисления.
Приведенный далее рисунок показывает, как будут выглядеть в двоичной
системе все числа от 1 до 10 привычной нам десятичной системы,
В десятичном
> исчислении
234 Компьютер — творец
Один двоичный разряд (0 или 1) называют также «бит» — он содержит наи¬
меньшее возможное количество информации. Обычный размер машинного ре-,
гистра — 16 двоичных разрядов; поэтому самым большим числом, которое
в такой регистр можно записать, оказывается 1111111111111111, или 65 535
в десятичной системе.
Переход на двоичную систему счисления делает запись любых чисел
гораздо более длинной, чем в десятичной системе, но зато в этом случае до¬
статочно всего двух символов (0 или 1) вместо десяти (0, 1, 2, 3, 4, 5, 6, 7, 8,
9). При этом «О» легко представить как «выключено», а «1» — как «включено».
Поэтому любая цифровая машина — это, по существу, не более чем собра¬
ние большого числа двоичных ключей. Управлять этими ключами вручную,
как человек поступает с домашним выключателем, невозможно; значит, это
нужно уметь делать автоматически — с помощью каких-то других электриче¬
ских устройств. Устройства такого рода существуют уже многие годы — это
так называемые реле. Они представляют собой обычный переключатель, уп¬
равляемый электромагнитом, на обмотку которого может подаваться сигнал
управления, как показано на этом рисунке.
Если по обмотке течет ток, то магнит втягивает якорь и замыкаег контакт.
Первые цифровые машины строились из реле, но у ннх оказалось низкое
быстродействие, и, кроме того, они подвержены механическим неполадкам.
Вскоре их полностью вытеснили машины на электронных лампах. Хотя у этих
ламп не было механических движущихся частей, они имели свои недостатки;
прежде всего они были слишком дороги, занимали много места и выделяли
очень много тепла. Вычислительные машины не вышли на уровень практи¬
ческого использования, пока в конце 40-х годов не был изобретен транзистор,
в котором функцию переключателя выполняют сами электрические заряды;
действие транзистора основывалось на микроскопических переходах, происхо¬
дящих в материалах особо рода — так называемых полупроводниках. С тех пор
вычислительные машины прошли путь от стадии, когда онн состояли из боль¬
шого числа отдельных транзисторов, спаенных вместе, к нынешней стадии,
когда целый процессор, включающий тысячи транзисторов, изготавливают
из одного кристалла («чипа») кремния. Такие интегральные схемы произ¬
водятся в больших количествах, и они очень дешевы. Именно это привело
в последние годы к микроэлектронной революции.
До сравнительно недавнего времени память машины делали из тысяч
крошечных магнитиков, которые, имея одно направление намагниченности,
означали «0», а при другом — «1». Сегодня гораздо дешевле и память компью¬
теров делать из транзисторов; при этом запертый транзистор означает «0»,
а отпертый — «1», так что для запоминания каждого бита информации нужна
своя схема. С этим связано одно неудобство: при отключении питания возни¬
кает опасность потерять всю информацию, содержащуюся в памяти системы;
однако информацию, которую важно сохранить, обычно все равно переписы¬
вают на магнитные диски или ленты.
Основные принципы информатики 235
Логика вентилей
В основе работы всех ключей, из которых состоит вычислительная машина,
лежит логическое исчисление, созданное еще в 50-е годы прошлого столетия
Джорджем Булем. В нем всем высказываниям приписывается одно из двух
возможных значений, «истинно» или «ложно», и имеется три связки: «И»,
«ИЛИ», и «НЕ». Этих связок достаточно, чтобы строить описания нашего
мира, скажем, такого типа: «Сегодня я буду играть в футбол, ЕСЛИ по теле¬
визору не будет ничего интересного И будет подходящая погода». Истинность
высказывания «Сегодня я буду играть в футбол» можно теперь установить,
выяснив истинность двух условий, приведенных за ним, и применив к ним
операцию логического «И». Аналогично обстоит дело и со связкой «ИЛИ»
для высказываний типа: «У нас будет кому стоять на воротах, ЕСЛИ при¬
дет Билл ИЛИ придет Боб». Конечно, может случиться, что в действитель¬
ности придут играть и Билл, и Боб, но связка «ИЛИ» принимает в расчет
эту возможность. И наконец, «НЕ»: «Мы будем играть, ЕСЛИ поле НЕ зай¬
мут другие».
Все эти высказывания можно без труда реализовать с помощью элект¬
ронных схем. Для этого «истинно» нужно интерпретировать как «включено»,
или как 1, а «ложно» — как «выключено» или «0». В этом случае «И» соот¬
ветствует двум ключам, соединенным последовательно:
На приведенной схеме лампочка загорится (т. е. включится) только тогда,
когда включены как ключ Л, так и ключ £. Такое соединение ключей назы¬
вают «вентиль И».
Связка «ИЛИ» соответствует параллельному соединению тех же ключей.
Здесь лампочка загорится только в том случае, если включен или ключ Л,
или ключ By либо они оба вместе. Это — «вентиль ИЛИ».
Наконец, связку «НЕ» реализуют, создавая контакт для ключа в отклю¬
ченном состоянии:
236 Компьютер — творец
В такой схеме, когда замыкают нормальный контакт, лампочка отключается
и гаснет.
Интересно отметить, что любые функции, которые только желательно
реализовать на вычислительной машине, удается осуществить, комбинируя
вентили названных трех типов. В качестве простого примера рассмотрим
команду «Осуществить переход, если в накопителе нуль». В накопителе име¬
ется по одной схеме на каждый двоичный разряд (а всего их, скажем, шест¬
надцать), и, чтобы реализовать переход, во всех этих разрядах должны быть
нули. Поэтому рассматриваемой команде соответствует цепь, в которой все
указанные схемы соединены последовательно через вентили «НЕ» и вентили
«И». Сигнал пройдет по такой цепи на выход через все вентили «И» только
в том случае, если на выходе всех схем имеется нуль, и этот сигнал приведет
в действие схему «Переход»
Для всех остальных функций, реализуемых в компьютере, имеется свое
схемное представление, которое вступает в действие каждый раз, когда в ре¬
гистр команд попадает соответствующая команда: одна схема — для загруз¬
ки, другая — для сложения и т. д. Теперь нетрудно понять, почему для того,
чтобы компьютер действительно мог работать, ему требуется множество ты¬
сяч подобных схем.
Рори Джонстон
Переход
Литература
К каждой главе дается литература для дальнейшего чтения по теме, близкой
к общей теме главы; цифрами указаны источники, на которые даны ссылки
в тексте. Некоторые из цитируемых работ относятся к числу популярных, дру¬
гие имеют более строгий технический или научный характер. Встречаются и
такие (они помечены звездочкой), для чтения которых требуется некоторое
предварительное знакомство с информатикой и(или) когнитивной психоло¬
гией.
Глава 1
Наилучшим введением в область искусственного интеллекта по-прежнему
остается книга: Boden М. Artificial Intelligence and Natural Man.— Brigh¬
ton: Harvester Pr., 1977. Считая, что искусственный интеллект прежде всего
представляет гуманистические традиции наук, М. Боуден рассматривает
изложенный материал с точки зрения профессионального философа, занимаю¬
щегося проблемами познания, включая его социальные аспекты.
Внимания заслуживает также учебник: Winston P. Н. Artificial Intelli¬
gence.— Reading (Mass.): Addison-Wesley, 1977 [русский перевод: Уинстон П.
Искусственный интеллект.— М.: Мир, 1980] и коллективная монография:
The Computer Age: A Twenty-Year View (ed. M. Dertouzos, J. Moses).—
Cambridge (Mass.): MIT Pr., 1979, в которой собраны глубокие и авторитет¬
ные суждения крупнейших специалистов по информатике и философии ис¬
кусственного интеллекта.
Пожалуй, самым заметным вкладом в исследования социальных послед¬
ствий внедрения вычислительной техники следует считать работу Weizen-
baum J. Computer Power and Human Reason.— San Francisco: Freeman,
1976. Уэйзенбаум является профессором информатики в МТИ; он известен
как убежденный противник безоглядной веры в безграничность возможностей
техники. Однако в том, что касается искусственного интеллекта, он, на наш
взгляд, заблуждается.
1. Dolotta Т. A. Data Processing in 1980—85.—Chichester: Wiley, 1976.
2. Shannon С. E. Programming a Computer for Playing Chess. Philosophical
Magazine, 7th Series, Vol. 41, 1950, pp. 256—75.
3. Weizenbaum J. ELIZA—A computer Program for the Study of Natural Lan¬
guage Communication between Man and Machine. Communications of the
Association for Computing Machinery, Vol. 9, No 1, Jan. 1965, pp. 36—45.
4. Harris L. The Four Obstacles to End-User Computer Access, Tp. конф.:
The Fifth Generation.— London: SPL International Abingdon, July 1982.
5. Hendrix G. G., Sacerdoti E. D., Sagalowicz D., Slocum J. Developing Na¬
tural Language Interface to Complex Data.* Tp. конф.: Third International
Conference on Very Large Data-Bases, October 1977, p. 292.
6. Krutch J. Experiments in Artificial Intelligence for Small Computers.—
Indianapolis: Howard Sams, 1981, p. 93—104.
7. Lettvin J. Y., Maturana H. R., McCullough W. S., Pitts W. H. What the
Frog’s Eye Tells the Frog’s Brain. Proc. of the Institute of Radio Engineers,
Vol. 47, 1959, pp. 1940—51.
8. Duff M. J. B. Parallel Architecture and Vision *. Tp. конф.: The Fifth Ge¬
neration (см. выше); Duff M. J. B. Seeing Machines, in: Intelligent Systems:
the Unprecedented Opportunity (ed. Hayes J. E., Michie D.).— N.Y.:
Ellis Horwood, Chichester, and Halsted Press, 1983.
238 Компьютер — творец
Глава 2
Introductory Readings in Expert Systems * (ed. D. Michie).— L.—N.Y.:
Gordon and Breach, 1983.
Intelligent Systems; the Unprecedented Opportunity (см. выше). Книга
отличается широтой охвата материала и затрагивает многие вопросы, в том
числе не связанные с экспертными системами. Expert Systems in the Micro¬
electronic Age * (ed. D. Michie).— Edinburgh: Edinburgh University Press, 1979.
1. Shortliffe E. H. Computer-Based Medical* Consultations: MYCIN *.—
N.Y.: Elsevier/North-Holland, 1976.
2. Yu V. L., Fagan L. М., Wraith S. M. et al. Antimicrobial Selection for Me¬
ningitis by a Computerized Consultant—a blinded evaluation by infections
disease experts *, Journal of the American Medical Association. Vol. 242,
1979, pp. 1279—1282.
3. Feigenbaum E. A. Expert Systems in the 1980s*, в материалах курса: Expert
Systems: Management Tutorial, December 1981, British Computer Society,
p. 114; Osborn J., Fagan L., Fallat R., McClung D., Michell R. Managing
the Data from Respiratory Measurements *, Medical Instrumentation,
Vol. 13, No 6, November 1979; Feigenbaum E. A. Themes and Studies of
Knowledge Engineering’, in: Expert Systems in the Micro-electronic Age (cm.
выше) pp. 3—6.
4. Duda R., Gaschning J. Knoweledge-Based Expert Systems Come of Age’,
Byte magazine Vol. 6, No 9, September 1981, pp. 259—262; Duda R. O.,
Gaschnig J. C., Hart P. E. Model Design in the Prospector Consultant
System for Mineral Exploration* *, in: Expert Systems in the Micro-elect¬
ronic Age (см. выше), pp. 152—167; Gaschnig J. G. Development of Uranium
Exploration Model for the Prospector Consultant System*, final report,
SRI Project 7856, Menglo Park California: SRI International, 1980.
5. Duda R., Qaschnig J. cm [4], p. 262.
6. McDermott J. R l’s Formative Years’, в материалах курса: Expert Sys¬
tems Management Tutorial (см. выше), p. 67, а также в: Al Magazine,
American Association for Artificial Intelligence. Vol. 2, No. 2, Summer
1981, p. 29.
7. Winston P. H. Artificial Intelligence, Reading, Mass: Addison—Wesley,
1977, pp. 145—147. [Русский перевод: Уинстон П. Искусственный ин¬
теллект.— М.: Мир, 1980.]
8. Duda R., Gaschnig J. см [4], p. 274.
9. Duda R., Gaschnig J. cm. [4], p. 246.
10. Gurd J. Developments in Dataflow Architecture *. Tp. конф.: The Fifth
Generation, L.: SPL International, July 1982.
Глава 3
Опасные последствия распространения методов слепого поиска на сложные
социальные проблемы рассматриваются в отчете: Kopec D., Michie D. Mis¬
match between Machine Representations and Human Concepts, Fast series
No. 9, EUR 8426 EN, Brussels: Commission of the European Communities
FAST Programme, 1983. Авторы подробно анализируют причину катастрофы
на АЭС «Тримайл-Айленд» и другие аналогичные случаи и предлагают
некоторые меры, способствующие предотвращению их повторения.
1. Kemeny J. G. The Need for Change: The Legacy of TMI, Report of the Pre¬
sident’s Commission on the Accident at Three Mile Island, Wash., DC:
October 1979, p. 11.
2. Keisling B. Three Mile Island: Turning Point, Seattle: Veritas Books, 1980,
p. 161.
3. US Congress, Subcommittee on Energy and Environment, Accident at the
Three Mile Island Nuclear Power Plant, Hearings 9,. 10, 11 and 15 May 1979,
Wash., DC 1979, p. 111.
Литература 239
4. Malone Т. В. et al. Human Factors Evaluation of Control Room Design and
Operator Performance at Three Mile Island 2, Alexandria, Virg.: Essex Corp.,
по заказу US Nuclear Regulatory Commission, NUREG/CR—1270, 1980.
5. Voysey H. Problems of Mingling Man and Machines, New Scientist, Vol.
75, No 1065, 18 August 1977, p. 417.
6. New Scientist, Vol. 86, No. 1207, 26 June 1980, pp. 375—376.
7. Turing A. Computing Machinery and Intelligence, перепечатано в: Minds
and Machines (ed. A. Anderson).— Englewood Cliffs, NJ: Prentice-Hall, 1964.
8. Fifth Generation Systems *. Труды состоявшейся в октябре 1981 г. в Токио
конференции (ed. Moto-oka Т.) JIPDEC/North-Holland.— Amsterdam,
1982, p. 8; Outline of Research and Development for Fifth Generation Com¬
puter Systems, Institute for New Generation Technology, Mita Kokusai Buil¬
ding, 21st Floor, 1-4*28, Mita. Minato-ku, Tokyo, 108.
Глава 4
Miller G. The Magical Number Seven Plus Or Minus Two, Psychological Review,
Vol. 63, 1956, pp. 81—97. Это первая работа, в которой рассматривается
ограниченность возможностей человеческого мозга; она до сих пор остается
одной из самых авторитетных и общедоступных работ по этой проблеме.
О том, как это сказывается на интеллектуальных способностях человека,
например на его умении играть в шахматы, говорится в книге: Computer
Game-Playing (ed. Bramer M.).—N.Y.: Ellis Horwood, Chichester and Halsted
Press, 1983.
1. Symons J. Bloody Murder.—L.: Faber and Faber, 1972, p. 80.
2. Miller R. A. in: Psychology Review, Vol. 63, 1956, pp. 81—97; Stroud J. M.
in: Annals of the New York Academy of Sciences, 1966; см. также литера-
туру к работе: Chase W. G., Simon H. A. in: Cognitive Psychology, Vol. 4,
1974, pp. 55—81.
3. Hayes J. Children’s Visual Descriptions *, Cognitive Science, Vol. 2,
1978, pp. 1 — 15.
4. Lorayne H. How to Develop a Super-Power Memory.—Wellingborough:
A. Thomas, 1979. ,
5. Binet A. Psychologie des Grands Calculateurs et des Joueurs d’Echecs.—
Paris: Hachette, 1984; de Groot A. Thought and Choice in Chess (ed. Bay¬
lor G. W.); дополненный перевод голландского издания 1946 г.— The
Hague and Paris: Mounton, 1965.
6. Hunter I.M.I. An Exceptional Talent for Calenlative Thinking, British
Journal of Psychology, Vol. 53, 1962, pp. 248—258.
7. Gregory R. L. Eye and Brain.—L.: Weidenfeld and Nicolson, 1966; Gre¬
gory R. L. The Intelligent Eye, L.: Duckworth, 1970.
8. Koestler A. The Sleepwalkers.—L.: Hutchinson, 1959.
9. Polanyi M. Personal Knoweledge.—L.: Routledge and Kegan Paul, 1958,
pp. 12—13.
10. Hofstadter R. The American Political Tradition.—N.Y.: Alfred A. Knopf
(Vintage Books), 1948, pp. 130—133.
11. Tapper C. Computer Law.—L.: Longman, 1978, pp. 118—148; Johnston R.
Data Protection Laws: The Real Threat, Computer Weekly, 8 March 1979,
p. 4.
12. Firth R. We the Tikopia: a Sociological Study of Kinship in Primitive
Polynesia.— L.: George Allen & Unwin, 1936.
Глава 5
Первые достижения, связанные с передачей профессиональных навыков ма¬
шине и с распределением функций в процессе приобретения подобных навы-
240 Компьютер — творец
ков между машиной и человеком, рассматриваются в статье: Michie.D.,
Chambers R. Man-machine Cooperation on a Learning Task *, in: Computer
Graphics: Techniques and Applications (ed. Parslow R., Prowse R., Elliot-
Green R.).— L.: Plenum Publishing Co., 1969.
Многие вопросы, непосредственно связанные с проблемами создания
творческих компьютеров, рассматриваются в коллективной монографии:
Machine Learning: An Artificial Intelligence Approach * (ed. Michalski R. S.,
Carbonell J. G., Mitchell Т. М.).—Palo Alto: Tioga Publishing Company, 1983.
1. Michie D., Chambers R. Boxes: an Experiment in Adaptive Control *, in:
Machine Intelligence 2 (ed. Dale E., Michie D.)—Edinburgh: Edinburgh
University Press, 1968, pp. 137—152.
2. Michalski R. Pattern Recognition as Rule-Guided Inductive Inference *,
IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol.
PAMI-2, No 4, July 1980, pp. 349—361.
3. Halstead М. H. Toward a Theoretical Basis for Estimating Programming
Efforts, Technical Report CSD-TR 143, Lafayette: Purdue University,
1975.
4. Conant L. L. The Number Concept.—N.Y.: Macmillan, 1896, p. 2.
5. Cm. [4], p. 4, а также Tobias Dantzig, Number: The Language of Science,
4th ed.—N.Y.: Macmillan, 1954, p. 4.
6. Gardner M. On Playing New Eleusis, the Game that Simulates the Search
for Truth, Scientific American, Vol. 237, No. 4, October 1977, pp. 18—25.
7. Berry M. APL and the Search for Truth: A Set of Functions to Play New
Eleusis *. Tp. конф.: APL Conference 1981, Boston: I. P. Sharp Associates,
pp. 47—53.
8. Lenat D. The Ubiquity of Discovery, Artificial Intelligence (North-Hol-
land), Vol. 9, No. 3, December 1977, pp. 257—285, а также Proceedings of
Information Processing Societies, pp. 241—256; Lenat D. On Automated
Scientific Theory Formation: A Case Study Using the AM Program *, in:
Machine Intelligence 9 (ed. Hayes J., Michie D., Mikulich L. I.).— N.Y.:
Ellis Horwood, Chichester and Halsted Press, 1979, pp. 251—283; статья в
Machine Learning: An Artificial Intelligence Approach * (см. выше).
9. Lenat D. статьи в Artificial Intelligence. (North-Holland): The Nature of
Heuristics *, Vol. 19, No. 2, October 1982, pp. 189—249; Theory Formation
by Heuristic Search *, Vol. 21, Nos. 1 & 2, March 1983, pp. 31—59; Eurisko:
a Program that Learns New Heuristics and Domain Concepts *, Vol. 21,
Nos. 1&2, March 1983, pp. 61—98.
10. Michalski R. S., Chilausky R. L. Learning by Being Told and Learning
from Examples: An Experimental Comparison of the Two Methods of
Knowledge Acquisition on the Context of Developing an Expert System
for Soybean Disease Diagnosis *, International Journal of Policy Analysis
and Information Systems, Vol. 4, No. 2 1980, pp. 125—161.
11. Feigenbaum E. A. Themes and Case Studies of Knowledge Engineering,
in: Expert Systems in the Micro-electronic Age (ed. Michie D.—Edinburgh:
Edinburg University Press, 1979, pp. 13—14.
12. Michalski R. S., Stepp R. E., Diday E. A Recent Advance in Data Analy¬
sis *, in: Progress in Pattern Recognition, Vol. 1 (ed. Kanal L. N., Rosen-
feld A.).—Amsterdam: North-Holland 1981; Michalski R. S. Inductive
Learning as Rule-Guided Generalization and Conceptual Simplification
of Symbolic Descriptions *, Workshop on Current Developments in Machine
Learning—Pittsburg: Carnegie-Mellon University, July 1980.
13. Erman L. D., Hayes-Roth F., Lesser V. R., Reddy D. R. The Hearsay II .
Speech-Understanding System: Integrating Knowledge to Resolve Uncer¬
tainty *, ACM Computing Surveys, Vol. 12, No. 2, June 1980.
14. Spencer H. Social Statics.—L.: John Chapman, 1851, (повторное издание)
Farnborough, Hants: Gregg International Publishers, 1970, p. 274.
Литература 241
Глава 6
Широкое и в высшей степени общедоступное изложение идей теории инфор¬
мации можно найти в книге: Attneave F. Apllications of Information Theory
to Psychology.—N.Y.: Holt, Rinehart and Winston, 1959.
1. Shannon С. E., Weaver W. The Mathematical Theory of Communication.—
Urbana: University of Illinois Press, 1949; Chaitin G. Randomness and
Mathematical Proof, Scientific American, Vol. 232, No. 5, May 1975, pp.
47—52.
2. Lenat D. The Ubiquity of Discovery, Artificial Intelligence (North-Holland),
Vol. 9, No. 3, December 1977, p. 274, а также Proceedings of the National
Computer Conference 1978, American Federation of Information Proces¬
sing Societies, p. 250.
3. Shapiro A., Niblett T. Automatic Induction of Classification Rules for a
Chess End-game *, in: Advances in Computer Chess 3 (ed. Clarke M. R.
B.).— Oxford: Pergamon Press, 1982, pp. 73—92.
4. Michie D. A Theory of Advice *, in: Machine Intelligence 8 (ed. Elcock E. W.,
Michie D.).—N.Y.: Ellis Horwood, Chichester and Halsted Press, 1977,
pp. 151 — 168.
5. Turing A. M. The Automatic Computing Engine. Лекция, прочитанная на
заседании Лондонского математического общества 20 февраля 1947;
машинописный текст лекции хранится в архиве А. Тьюринга в библиотеке
Королевского колледжа Кембриджского университета.
Глава 7
Benthall J. Scicnce and Technology in Art Today.—L.: Thames and Hudson,
1972.
Cybernetic Serendipity (каталог выставки), ICA (ed. Reichardt J.).—L.:
Studio International, 1968.
Reichardt J. The Computer in Art.—L.: Studio Vista, 1971.
Greenberg D. et al. The Computer Image.—Reading, Mass: Addison-
Wesley, 1982. В этой книге множество цветных иллюстраций, но большей
частью они отражают возможности машинной графики, а не компьютерного
искусства.
Deken J. Computer Images.—L.: Thames and Hudson, 1983.
1. Cohen H. What is an Image? in: Proceedings of the Sixth International
Joint Conference on Artificial Intelligence, Tokyo, 1979, pp. 1028—1057.;
Cohen H., Cohen B. Catalogue of Harold Cohen Exhibition.—Amsterdam:
Stedelijk Museum, 25 November 1977—8 January 1978, перепечатано в
журнале Page, №41, November 1978—бюллетене общества компьютер¬
ных искусств.
2. Cohen Н. How to Make a Drawing, доклад, сделанный на заседании кол¬
локвиума Национального бюро стандартов 17 декабря 1982 г., перепе¬
чатан в каталоге выставки Г. Коэна в лондонской галерее «Тейт» в июне—
июле 1983 г.
3. Cohen Н. On the Modelling of Creative Behaviour, Rand Paper P-6681.—
Santa Monica: Rand Corporation, 1981.
4. Smith B. R., каталог выставки Artists Computers, Art.—L.: Canada
House, 24 March — 20 April 1982.
5. Cohen H. Art in America, September/October 1972.
6. Cohen H. When Machines Can Generate Images Faster than You Can Pull
an Edition, Who Will Belong to the World Print Council? Доклад на кон¬
ференции Всемирного совета полиграфистов в Сан-Франциско 15 мая
1982 г.
242 Компьютер — творец
8. Fournier A., Fussell D., Carpenter L. Computer Rendering of Stochastic
Models, Communications of the Association for Computing Machinery, Vol. 25,
No. 6, June 1982, pp. 371—384; Mandelbrot B. The Fractal Geometry of
Nature.— Oxford—San Francisco: W. H. Freeman, 1982.
9. Benthall J. Science and Technology in Art Today.—L.: Thames and Hud¬
son, 1972, pp. 75—78, 166—167.
10. Negroponte N. The Return of the Sunday Painter, in: The Computer Age.
A Twenty-Year View (ed. Dertouzos М., Moses J.).— Cambridge, Mass:
MIT Press, 1979, p. 27. *
11. Cm. [9], p. 78—83; Ihnatowicz E. The Relevance of Manipulation to the
Process of Perception, Bulletin of the Institute of Mathematics and its Appli¬
cations, May 1977, pp. 133—135.
12. Musical Times, Vol. 109, No. 1508, October 1968, p. 911.
13. Computer Weekly, 8 January 1981, p. 16.
14. Shirley R. Poet and Program, Page, No. 25, October 1972.
15. Melpomene (Hughes G. E.), Bagabone, Hem *1 Die Now.—N.Y.: Vantage
Press, 1980.
16. Shapiro N. Encyclopedia of Quotations about Music.— Newton Abbot:
David and Charles, 1978.
17. Minsky M. Matter, Mind and Models, in: Semantic Information Processing
(ed. Minsky М.).— Cambridge, Mass: MIT Press, 1968, p. 431.
18. Cm. [4].
19. McLuhan М., Fiore Q. The Medium is the Massage.—L.: Allen Lane, 1967,
pp. 132—136.
20. Cm. [10], p. 22.
21. Cm. [10], p. 21.
22. Интервью по радио для программы LBC, 1 апреля 1982 г*
23. Cohen Н.,, Cohen В. см. [1].
24. См. [3], р. 14.
25. Cohen Н., см. [1], р. 1045.
26. См. [10], р. 31.
27. Benthal J. Computer Arts at Edinburgh, Studio International, October
1973, p. 120.
28. Cm. [10], p. 37.
29. Cm. [6], p. 5.
Глава 8
Затронутые в этой главе вопросы о взаимоотношениях языка и мышления
рассматриваются в работе: Curran V. Cross-Cultural Perspectives on Cognition,
опубликованной в монографии Cognitive Psychology: New Directions (ed.
Claxton G.).—L.: Routledge and Kegan Paul, 1980. В этой прекрасно изданной
книге собраны статьи по многим вопросам, лежащим в основе главной темы
нашей книги.
Полезно также обратиться к работе: Davey A. Discourse Production:
A Computer Model of Some Aspects of a Speaker.— Edinburgh: Edinburgh
University Press, 1978.
Классической работой по вопросам моделирования остается» статья
McCarthy J., Hayes P. J. Some Philosophical Problems from the Standpoint
of Artificial Intelligence*, in: Machine Intelligence4 (ed. Meltzer B., Michie
D.).—Edinburgh: Edinburgh University Press, 1969, pp. 463—502.
1. Pao Y.-H., Schultz W. L., Oh S.-Y., Fischer R. G. A Knowledge Base
Engineering Approach to Power Systems Monitoring and Control *, Tech¬
nical report, Department of Electrical Engineering.—Cleveland: Case
Western. Reserve University, 1980.
Литература 243
2. Rouse W. В,, Hunt R. M. A Fuzzy Rule-Based Model of Human Problem
Solving in Fault Diagnosis Tasks *, Working paper, Coordinated Science
Laboratory.—Urbana: University of Illinois, 1980.
3. Arbib M. Minds and Millennia: the Psychology of Interstellar Communi¬
cation, Cosmic Search, Vol. 1, No. 3, Summer 1979, pp. 21—25, 47—48
(очень интересная статья).
4. Peebles P.J.E., Brand S. A Million Galaxies: Computer Photo-Map of the
Galaxies Brighter than 19th Magnitude Visible from Earth’s Northern
Hemisphere.—Sausalito, Calif.: CoEvolution Quarterly, 1978.
5. Church A. Introduction to Mathematical Logic, Vol. 1.— Princeton: Prin¬
ceton University Press, 1956, p. 5.
6. McCarthy J. First-Order Theories of Individual Concepts and Proposi¬
tions *, in: Expert Systems in the Micro-electronic Age (ed. Michie D.).—
Edinburgh: Edinburgh University Press, 1979, pp. 271—287.
7. Feigenbaum E. Artificial Intelligence Research: What is it? What has it
achieved? Where is it going? Доклад, прочитанный на симпозиуме по ис¬
кусственному интеллекту в Канберре в 1974 г. и процитированный в ра¬
боте: Feigenbaum Е. Themes and Case Studies of Knowledge Engineering,
in: Expert Systems in the Micro-electronic Age (см. выше), p. 6.
8. Ennals R. Beginning Micro-Prolog.—L.: Ellis Horwood, Chichester and
Heinemann, 1983; Clark K. L., McCabe F. G., Hammond P. Prolog: A
Language for Implementing Expert Systems *, in: Machine Intelligence
10 (ed. Hayes J. E., Michie D., Pao Y.-H.).—Chichester: Ellis Horwood,
1983.
9. The Lewis Carroll Picture Book (ed. Collingwood S. D.).—L.: T. Fisher
Unwin, 1899, pp. 264—265.
10. Hayes P. J. The Naive Physics Manifesto *, in: Expert Systems in the
Micro-electronic Age (см. выше), pp. 242—270.
Глава 9
Sloman A. The Computer Revolution in Philosophy.—Hassocks (Brighton):
Harvester Press, 1978.
Sayra K- Consciousness: A Phylosophic Study of Minds and Machines.—
N.Y.: Random House, 1969.
Gregory R. L. Consciousness, in: The Encyclopaedia of Ignorance (ed.
Duncan R., Weston-Smith М.).— Oxford: Pergamon 1977, pp. 273—281.
Gregory R. L. Mind in Science.—L.: Weidenfeld and Nicolson, 1981;
Harmondsworth: Penguin Books, 1984.
Несколько основополагающих работ, касающихся философских аспек¬
тов проблемы и прежде всего теоремы Геделя, можно найти в книге: Minds
and Machines (ed. Anderson A.), Englewood Cliffs,—N.Y.: Prentice-Hall, 1964.
Возможные социальные последствия обсуждаются в работе: Maddock I.
The Future of Work, in: Intelligent Systems: The Unprecedented Opportunity
(ed. Hayes J. E., Michie D.).—N.Y.: Ellis Horwood, Chichester and Halsted
Press, 1983. В прошлом Мэддок занимал должность главного специалиста
министерства промышленности Великобритании.
Несколько свежих идей по этому поводу можно также найти в книге:
Evans Ch. The Mighty Micro.—L.: Victor Gollancz, 1979.
1. Computer Weekly, November 1980, p. 11.
2. Boden M. Artificial Intelligence and Natural Man.—N.Y.: Harvester Press,
Brighton and Basic Books, 1977, p. 420.
3. Плутарх. Сравнительное жизнеописание в 3 томах. Т. 1.— М.: Изд-во
АН СССР, 1961, с. 391.
4. Dijkstra Е. The Impact of Microprocessors, доклад на конгрессе Междуна¬
родной федерации по переработке информации 1977 г., перепечатан в GMD
244 Компьютер — творец
Spiegel, Vol. 7, No. 4.—Bonn: Gesellschaft fur Mathematik und Datenver-
arbeitung, 1977, pp. 8—11.
5. Appel K-, Haken W. Every Planar Map is Four Colorable, Bulletin of the
American Mathematical Society, Vol. 82, No. 5, September, 1976, pp. 711 —
712. The Solution of the Four-Color-Map Problem, Scientific American,
Vol. 237, No. 4, October 1977, pp. 108—121.
6. Freud S. New Introductory Lectures on Psychoanalysis.—N.Y.: Norton,
1965, p. 95.
7. Locke J. Essay Concerning Human Understanding (ed. Niddiich P. H.).—
Oxford: Oxford University Press, 1975, Book 11, Chapter 1, para 19.
8. Knewstub N. A Culture Undermined, Guardian, 2 June 1979, p. 9.
9. Computer Weekly, 21 June 1979, p. 64.
Глава 10
Handbook of Industrial Robotics (ed. Nof Sh. of Purdue University, USA),
справочник, выпущенный издательством «Уайли». Несколько работ из этого
справочника посвящены взаимосвязи таких технических дисциплин, как
робототехника и искусственный интеллект.
1. Wellington, Despatches, Correspondence and Memoranda (New Series), Vol.
6, p. 529 , 8 March 1830, упоминается в биографии Elizabeth Longford,
Wellington: Pillar of State.—L.: Weidenfeld and Nicolson, 1972, p. 205.
2. Cottrell A. The Contribution of Science to the Economy: A United Kingdom
Point of View, Interdisciplinary Science Reviews, Vol. 1, No. 1, March 1976,
pp. 12—18.
3. Koestler A. The Thirteenth Tribe: The Khavar Empire and its Heritage.—
L.: Hutchinson, 1976, p. 40.
4. The Times,.20 January 1887, p. 8c.
5. The Timesy 13 January 1887, p. 8a.
6. McGhee R. Walking Machines, in: The Unprecedented Opportunities (ed.
Hayes J. B., Michie D.).—N.Y.: Ellis Horwood, Chichester and Halsted
Press; Railbert М., Sutherland I. Machines That Walk, Scientific Ame-
ricant Vol. 248, No. 1, January 1983, pp. 32—41.
7. Financial Times, 9 June 1979, p. 2.
8. Lighthill J. Artificial Intelligence: A General Survey, in: A Paper Sympo¬
sium.—L.: Science Research Council, 1973, p. 7.
9. Barrow H. G., Ambler A. P., Burstall R. M. Some Techniques for Recogni¬
sing Structures in Pictures *, in: Frontiers of Pattern Recognition (ed.
Watanabe S.).—N.Y.: Academic Press, 1972, pp. 1—29.
10. Firschein 0.,Fischler M. A., Coles L. S., Tenenbaum L. M. Forecasting and
Assessing the Impact of Artificial Intelligence on Society, in: Proceedings
of the Third International Joint Conference on Artificial Intelligence, 1973.
—Menlo Park, Calif.: SRI International, pp. 105—120.
11. New Scientist у Vol. 86, No. 1201, 3 April 1980, p. 15.
12. Alvey J. A Programme for Advanced Information Technology, Report
of the Alvey Committee.—L.: Department of Industry, 1982.
13. Монтень М. Опыты.— М.: Наука, 1979.
Приложение
Более широкое представление о всем диапазоне возможностей современной
вычислительной техники читатель может получить, обратившись к книге:
Curnow R., Curran S. The Penguin Computing Book.—Harmondsworth: Pen¬
guin Books, 1983.
О методах программирования можно достаточно подробно узнать из
учебника: Kemeny J., Kurtz Th. Basic Programming (3rd ed.).—N.Y.: Wi¬
ley, 1980.
Словарь терминов
Термины, достаточно полно объясненные в тексте книги, в настоящем сло¬
варе не упоминаются: читатель может найти их по предметному указателю.
Адрес. Число, определяющее положение соответствующей ячейки
в памяти машины (см. приложение).
Аксиомы Пеано. Аксиоматика числовой системы, предложенная Джу¬
зеппе Пеано в 1889 г.
Алгоритм. Четко определенная вычислительная процедура, например
алгоритм Ньютона извлечения квадратного корня (см. приложение).
Аналоговый. Основанный на использовании непрерывных, а не дискрет¬
ных по величине сигналов (для представления чисел и т. п., см. приложение).
Анод. Положительно заряженный электрод электронной лампы.
Аппаратные средства. Электронное и механическое оборудование вы¬
числительных систем в отличие от их программ или программных средств
(см. приложение).
Аргумент. В математике независимая переменная некоторой функции
(см. словарь).
Арифметика с плавающей запятой. Программное обеспечение, позволяю¬
щее осуществлять арифметические действия над числами разной величины
(в том числе и над дробями), а не только над целыми, очень большими и очень
малыми.
Ассоциативная память. Запоминающее устройство вычислительной ма¬
шины вместе с приданным ему аппаратным обеспечением, позволяющее по¬
следовательно и очень быстро осуществлять поиск необходимой информации.
При такой организации памяти отпадает необходимость в индексации (при¬
писывании адресов) хранимой информации. (Называют также файлами с ад¬
ресацией по содержанию.)
База данных. Совокупность средств хранения в ЭВМ информации по
единой теме, обычно организованной по иерархическому или табличному
принципу.
Банк данных. Одна или несколько баз данных (см. словарь), открытых
для использования разными пользователями или даже широкой обществен¬
ностью.
Бесконечный сток. В физике состояние, в котором нечто безвозвратно
выводится из системы. Например, тепловой сток поддерживает умеренную
температуру электронных компонентов. Бесконечный сток отличается тем,
что не может переполняться. Так, земля, по существу, является бесконечным
стоком для электрических зарядов, на чем и построена идея заземления.
Бинарный. Выраженный с помощью двух символов (см. приложение).
Бит. Двоичная единица, двоичный разряд (см. приложение).
Блок-схема. Графический способ представления и анализа процедур
(см. приложение).
Ввод-вывод. Передача информации извне в компьютер и из компьютера
вовне.
Ввод данных. Процесс загрузки данных в компьютер (см. приложение).
Вероятность. В математике мера правдоподобности некоторого события,
измеряемая отношением, аналогичным используемому при оценке «риска».
246 Компьютер — творец
Например, при бросании шестигранной кости вероятность того, что выпадет
тройка, равна х/6, что выпадет четное число,—3/в = 1/2-
Видеопроектор. Телевизионная установка, позволяющая проектировать
изображение на гораздо больший экран, чем это можно сделать с помощью
обычной телевизионной трубки, например на киноэкран.
Видеотерминал. Терминал, на котором вся информация выдается на
экран дисплея, как на экран телевизора.
Временное разрешение. Точность, с которой некоторое устройство может
измерять время, т. е. мера того, как близко друг к другу могут происходить
во времени два события, чтобы их можно было считать неодновременными.
Высокая разрешающая способность. Свойство экрана дисплея, позво¬
ляющее различать на нем мельчайшие детали.
Германий. Полупроводник, используемый для изготовления транзисто¬
ров,
Графическая система. Аппаратные и программные средства, позволяю¬
щие машине создавать рисунки, рисовать линии, строить диаграммы, раскра¬
шивать рисунки либо на экране телевизионного монитора, либо на бумаге.
Данные. Информация, используемая компьютером.
Декларативная семантика. Интерпретация содержания машинной про¬
граммы, рассматриваемой исключительно как совокупность дескриптивных
утверждений, отдельно от вытекающих из нее императивных или прескрип-
тивных интерпретаций.
Дисплей. См. Видеотерминал.
Дифференциальные уравнения в частных производных. Уравнения слож¬
ного вида, изучаемые исчислением бесконечно малых (см. словарь).
И — оператор в логике. Сложное высказывание истинно, если оба вхо¬
дящих в него высказывания, связанные оператором И, истинны (см. прило¬
жение).
ИБМ. Сокращенное название компании «Интернэшнл бизнес машинз»—
самого крупного производителя вычислительных машин в мире.
ИЛИ — оператор в логике. Сложное высказывание истинно, если ис¬
тинна хотя бы одна из двух посылок, связываемых этим оператором (см.
приложение).
Интегральные схемы. Электронные схемы, которые все изготовлены на
одном кристалле кремния обычно размером примерно в 3 мм, заключенном
в пластиковую оболочку с торчащими из нее выводами (что делает интеграль¬
ную схему несколько похожей на сороконожку).
Интерактивный. Режим работы с компьютером, при котором пользова¬
тель на своем терминале получает от машины немедленную реакцию на его
действия и не должен ждать окончательных результатов работы всей про¬
граммы, которые пересылаются ему, скажем, по почте.
Интерфейс. Средство сопряжения двух объектов. Англ. interface озна¬
чает «разделяющая поверхность» и широко используется, например, в фи¬
зике. Так, если на воде плавает пятно нефти, на поверхности, разделяющей
нефть и воду, происходят интересные физические явления. В вычислительной
технике этим же словом называют механизм сопряжения различных машин
или способа обмена информацией между машиной и человеком-пользовате¬
лем.
Исчисление бесконечно малых. Иначе называется «дифференциальное и
интегральное исчисление». Раздел математики, в котором изменения величин
исследуются в результате разбиения на малые приращения.
Итеративный. Математический процесс, основанный на повторении.
Канал. В теории связи путь распространения сигнала, переносящего
полезную информацию; в микроэлектронике — элемент интегральной схе¬
мы.
Клавиатура. Устройство для ввода информации в компьютер с буквен¬
ными и цифровыми клавишами, как на обычной пишущей машинке.
Словарь терминов 247
Код операции. Команды, из которых образуются машинные коды (см.
словарь).
Коды. Команды, из которых составляют программы, будь то команды
языка высокого уровня, команды языка низкого уровня или просто числа
(см. машинные коды).
Компьютер. Вычислительная машина, универсальное программируемое
устройство для автоматической переработки информации (см. приложение).
Космические пришельцы. Игральный автомат и домашняя видеоигра.
Кремний. Химический элемент (основной компонент песка), являющийся
полупроводником; широко используется в производстве транзисторов и ин¬
тегральных схем.
Лисп. Машинный язык высокого уровня, ориентированный на работу
со списками, т. е. на обработку текстов, организованных по специальной
структуре, которую называют списочной.
Листинг. Текст завершенной программы, либо выпечатанный машиной,
либо выведенный на экран дисплея.
Масс-спектрометрия. Метод определения состава химического вещества,
основанный на наблюдении за пучком заряженных частиц в магнитном поле
и измерении отклонения частиц различной массы.
Матрица. В математике прямоугольная таблица чисел, широко исполь¬
зуемая во многих разделах алгебры.
Машина-дифференциатор. Первая механическая вычислительная ма¬
шина, сконструированная Чарлзом Бебиджем (1791—1871). Ее создание
так и не было доведено до конца.
Машинный код. Числовые команды, непосредственно управляющие ра¬
ботой машины (см. приложение).
Микрокомпьютер. Малый компьютер, представляющий собой микропро¬
цессор со встроенной клавиатурой,— обычно не больше пишущей машинки.
Микропроцессор. Устройство для обработки данных, выполненное в виде
одной интегральной схемы (см. словарь).
Микросекунда. Одна миллионная секунды (см. числа).
Микроэлектроника. Технология использования микрокомпонентов в
электронике, на которой основывается производство интегральных схем
(см. словарь).
Миллисекунда. Одна тысячная секуиды (см. числа).
Мини-компьютер. Вид малых вычислительных машин, которые стали
выпускать в 60-е годы. Процессор такой машины по размеру обычно не пре¬
вышает проигрыватель. Некоторые из сегодняшних мини-ЭВМ по своим воз¬
можностям вышли на уровень больших машин недавного прошлого.
Множество. В математике любая строго определенная совокупность
конкретных или абстрактных объектов.
НЕ. Логический оператор. Если переменная имеет значение «ложно»,
то при использовании этого оператора она принимает значение «истинно» (см.
приложение).
НЕ—И. Логический оператор И с последующим отрицанием НЕ.
Обратная связь. Принцип теории управления, согласно которому сис¬
тема должна оценить результаты своих предыдущих действий и в соответст¬
вии с полученной оценкой подкорректировать последующие действия. Дру¬
гими словами, машина использует часть своего выхода как один из своих
входов. Обратной связью, например, непрерывно пользуется водитель ав¬
томобиля, который, глядя на дорогу, постепенно поворачивает руль, чтобы
обеспечить нужное направление движения машины.
Объединение. Процедура’образования одного нового файла (т/е. упорядо¬
ченной совокупности данных) из двух первоначальных файлов; часть про¬
цесса сортировки информации на машине.
Оперативный или управляемый режим. Режим работы, при котором дан¬
248 Компьютер — творец
ные передаются в машину по мере их поступления и там сразу обрабаты¬
ваются.
Оптическая память. Запоминающее устройство вычислительных машин
с очень высокой плотностью записи, представляющее собой один или не¬
сколько пластмассовых дисков, проложенных специальной пленкой. В этих
пленках лазерным лучом перфорируют микроскопические отверстия, с по¬
мощью которых кодируются двоичные числа; последние при необходимости
можно считать снова с помощью лазерного луча.
Параллельный. О компонентах, у которых вход соединен с входом и
выход с выходом, или об операциях, если они выполняются одновременно.
Ср. Последовательный.
Параметр. Строго говоря, в математике так называют промежуточную
переменную в процессе вычисления. В наши дни параметром стали называть
практически любую переменную, особенно в контексте задач теории управ¬
ления. Так, пилоту самолета приходится принимать во внимание такие па¬
раметры, как скорость, курс и высота полета, скорость ветра, температура
воздуха и расход горючего.
Первичная загрузка. Любую программу, которую можно загрузить
в машину, следует уметь считать с какого-то запоминающею устройства, на¬
пример с диска. Осуществить это считывание машине позволяет специальная
программа, называемая «загрузчиком». Но как загрузить сам загрузчик?
Необходимы либо какие-то аппаратные средства, либо примитивная про¬
грамма-загрузчик, которая сможет сделать это вручную. Соответствующий
процесс называют первичной загрузкой (по англ. bootstrapping — в память
известной истории, когда человек пытался вытянуть себя из болота, ухва¬
тившись за шнурки своих ботинок).
Периферия. Часть вычислительной системы, с которой непосредственно
имеет дело пользователь, а именно: терминалы и приданные им программные
средства ввода-вывода.
Перфокарты. Поскольку машина способна воспринимать новую инфор¬
мацию гораздо быстрее, чем человек может напечатать, часть данных всегда
приходилось вводить, предварительно набив их на перфокарты или перфо¬
ленту на устройствах, не связанных с вычислительной машиной. Последняя
может затем очень быстро считать их, эффективно используя за этот счет
машинное время. Однако в последнее время стало возможным и экономически
оправданным подключать терминалы непосредственно к компьютеру и вво¬
дить в него данные в оперативном режиме, не пользуясь перфокартами в ка¬
честве промежуточного средства.
Перфолента. См. Перфокарты.
Пикосекунда. Одна триллионная секунды (см. числа).
Подпрограмма. Часть программы.
Порядок. Степень 10; так, говорят, что 40000 на три порядка больше 40.
Последовательный. О компонентах, соединенных таким образом, что ко¬
нец одного соединен с началом другого, или об операциях, одна из которых
начинает вычисляться после завершения другой. Ср. Параллельный.
Принцип резолюций. Обобщение аристотелева правила modus ропегъ
дедуктивного вывода. В принципе методом резолюций можно доказать
любую теорему, которую удается сформулировать на языке логики первого
порядка.
Программа. Совокупность команд, определяющая поведение компью¬
тера (см. приложение).
Программа доказательства теорем. Программа, позволяющая выводить
утверждения теорем, строя длинные цепочки из аксиом и их следст¬
вий.
Программист. Человек, составляющий программы для компьютеров.
Программные средства или программное обеспечение. Программы, ис-
Словарь терминов 249
цользуемые в компьютерной системе,— в отличие от аппаратных средств
(см. приложение).
. . Продукция или правило вывода. Машинная синтаксическая конструкция
(оператор) вида IF (условие) THEN (вывод), напоминающая по своей струк¬
туре пары стимул — реакция при изучении поведения животных. Правило
вывода реализуется каждый раз, когда процедура управления системы обна¬
руживает совпадение условия, стоящего после IF (если), и какого-то элемен¬
та описания текущего состояния работы системы, содержащегося в ее памяти.
Простое число. Целое число, которое делится только на самого себя и
на 1.
Процедуральная семантика. Интерпретация машинной программы, рас¬
сматриваемой как последовательность испытаний и указаний (рецептов),
т. ё. как предписание или процедура выполнения некоторой работы.
Процессор. Часть вычислительной машины, в которой осуществляется
управление работой машины и непосредственное преобразование данных.
Псевдослучайные числа. Числа, которые для практических целей
можно считать случайными, но которые теоретически можно предсказать
(см. приложение).
Распределенная обработка. Метод обработки информации, основанный
на использовании сразу многих соединенных друг с другом небольших ЭВМ
вместо одной большой.
Робот. В первое время роботом называли любую гипотетическую чело¬
векоподобную говорящую и передвигающуюся машину. Теперь так назы¬
вают и неподвижные, совсем непохожие на людей машины, выполняющие под
управлением компьютера операции сборки. Но по мере совершенствования
роботов в них, возможно, будет проглядывать все больше человеческих
черт: скажем, они научатся передвигаться и смогут видеть, а в дальнейшем —
слышать и говорить, постепенно обретая все большую автономность. (Слово
«робот» взято из чешского языка; впервые оно появилось в 1920 г. в пьесе
Карела Чапека «RUR».)
СБИС (сверхбольшая интегральная схема). Интегральная схема (см.
словарь), состоящая из многих тысяч компонентов.
Сглаживание кривых. Математическая процедура, обеспечивающая поиск
функции, хорошо описывающей кривую или график.
Сеть. В теории связи система из нескольких удаленных друг от друга
ЭВМ и их терминалов, которые соединены между собой телефонными линиями
или какими-то другими каналами связи.
Сложное число. Число, не являющееся простым (см. словарь).
Случайные числа. Числа, значения которых нельзя предвидеть заранее,
так что с равной вероятностью можно получить любое число из заданного
диапазона. Игральную кость, например, можно считать генератором случай¬
ных целых чисел в диапазоне между 1 и 6.
Таксономия. Классификация.
Такт. Элементарный шаг работы вычислительной машины (см. прило¬
жение).
Телепринтер. Автоматическая пишущая машинка, управляемая элект*
рическими сигналами, передаваемыми по проводам; широко используется
в информационных агентствах. В первое время после изобретения телеприн¬
теров ими управлял человек, который печатал текст на клавиатуре, располо¬
женной далеко от телепринтера. Сегодня на телепринтерах с равным успехом
может работать и ЭВМ, посылая соответствующие электрические сигна¬
лы.
Теорема Ферма. Одна из величайших загадок математики, эта теорема
(точнее, гипотеза) утверждает, что уравнение xn+yn=zn не имеет целочис¬
ленных решений при п>2. Пьер де Ферма (1601—1665) написал как-то на
полях одной книги: «Я нашел совершенно замечательное доказательство
этой теоремы, но поля слишком узки, чтобы воспроизвести его здесь». Так
250 Компьютер — творец
ли это было в действительности, сейчас сказать трудно, ибо эту теорему пока
никому не удалось доказать.
Теория игр. Мат матический анализ стратегии и тактики игрового пове¬
дения, а в общем случае — поведения в условиях противодействия и конку¬
ренции.
Терминал. Устройство, состоящее обычно из дисплея и клавиатуры,
с помощью которого можно связываться по кабелю с компьютером, даже если
он находится довольно далеко от терминала (см% приложение).
Топология. Раздел геометрии, описывающий лишь то, как объекты соеди¬
няются друг с другом, не касаясь их размеров и расстояния между ними.
Рисунок на резиновой поверхности с топологической точки зрения остается
неизменным, как бы ни растягивали и ни перекручивали эту поверхность.
Поэтому топологию иногда называют геометрией растягиваемых поверхнос¬
тей. Карта топографической съемки системы Лондонского метро и схематиче¬
ская диаграмма — показывающие, как соединены станции этой системы, и
изображающие линии метро в виде отрезков прямых без сохранения масшта¬
бов — с топологической точки зрения эквивалентны, хотя с точки зрения
обычной геометрии это далеко не так.
Транзистор. Электронное устройство, в котором один ток управляет
другим; изготовляется из полупроводников (см. приложение).
Транслятор или компилятор. Программа, осуществляющая трансляцию
с некоторого машинного языка в машинные коды (см. словарь) для после¬
дующего исполнения машиной (см. приложение).
Трассировка. Одна из функций машины, позволяющая находить ошибки
в программах. Обеспечивает выдачу протокола работы машины, в котором
указаны все выполняемые команды; это позволяет следить за работой машины.
Узел. Точка соединения двух линий сети или точка ветвления дерева.
Управление данными. Функция сложения за работой машины, связан¬
ная с загрузкой данных в машину и с выводом из нее необходимых данных.
Фортран. Машинный язык высокого уровня. Название образовано из
первых букв двух слов «ФОРмула» и «ТРАНсляция» (см. приложение).
Функция. В математике любая величина, значение которой зависит от
значения другой величины; например, скорость автомобиля зависит от того,
насколько сильно вы нажали педаль акселератора (а также от того, какая
включена передача, от уклона дороги и многих других факторов). Положе¬
ние педали акселератора в этом случае играет роль независимой переменной,
а скорость — функции.
Цикл. Часть программы, предполагающая, что в конце его управление
передается в начало цикла и команды тела цикла приходится повторить (см.
приложение).
Цитология. Изучение организма на клеточном уровне.
Чип. Интегральная схема (см. приложение).
Числа. В нашей книге для обозначения некоторых больших чисел мы
пользуемся так называемой научной символикой, представляя ее в виде не¬
которой мантиссы, скажем 1,96, умноженной на соответствующую степень
основания, например на 109. Последняя запись означает, что 10 нужно воз¬
вести в девятую степень, т. е. 9 раз умножить на себя, в результате чего по¬
лучится число, записываемое в виде 1, за которой следует 9 нулей. В этой
системе теперь повсеместно считают в миллиардах, т. е. в тысячах миллионов;
триллионах, т. е. в миллионах миллионов; квадриллионах, т. е. в тысячах
миллионов миллионов. Для обозначения же десятичных дробей используются
префиксы «мили» — одна тысячная, «микро» — одна миллионная, «нано» —
одна миллиардная и «пико» — одна триллионная.
Широкополосный. О канале передачи информации, обладающем высокой
пропускной способностью, т. е. способном передавать за единицу времени
большое количество информации (в битах). Этот термин заимствован нз ра«
диотехники.
Словарь терминов 251
Экстраполяция. Операция приближенного вычисления значений точек
за пределами диапазона, где эти значения известны; в основе ее лежит пред¬
положение о неизменности той или иной закономерности, связывающей эти
точки. Метод экстраполяции весьма чреват ошибками.
Эпистемология. Теория понимания.
Эталон. Частично заполненная форма в программе, с которой можно
сравнивать данные.
Язык (машинный). Совокупность команд, понятных вычислительной
машине (см. приложение).
Язык запросов. Команды, с помощью которых из базы данных извле¬
кается необходимая информация.
Язык низкого уровня. Машинный язык, близкий машинным кодам (см.
приложение).
Языки высокого уровня. Машинные языки, весьма напоминающие естест¬
венные и далекие от машинных кодов (см. приложение).
Предметно-именной указатель
Автоматизированные системы
на атомной станции 60—62, 72
— металлургическом предприятии 62—63
Автоматическое программирование 22, 215
Ай-Си-Эль, компания 214
Айткен А. 89
Алви Дж. 218
Алгоритмы 99 — 100
в искусстве 150—151, 158, 163
Амблер П. 210
Аппель К. 196—197
Арбир М. 177
Аристотель 169, 178
«Артифишиал интелледжинс корпорейшн» 27
Археоптерикс 207—208
Ассоциации 33, 35
Базы данных 38, 52, 71 — 72, 93
Барроу Г. 210
Берри М. 111
Берсталл Р. 210
Бинет А. 88
Биологические мутации 116
Боден М. 194
Борегем Д. 150
Бранказио П. 101
Братко И. 128, 131 — 133, 134
Браун П. 146, 154
Бриско К. 149 '
Бэкон Ф. 119, 169
Брюнельский университет 31
Вейзенбаум Дж. 27
Вероятность 47
«Взаимопонимание» человека и машины
62, 64, 67, 74 — 76, 97, 129 — 130, 178, 219
Вопросо-ответные системы 70—72
Восприятие 90
Второй закон термодинамики 122—124
Вычислительные системы
конфигурация 49—50, 52
R 1, система для выбора 52
мощность 74
опасность сложности 63—64
отказы
диагностика 49, 57
Галлахер-Даггит Дж. 213
Гарднер М. 112
Гашниг Дж. 51, 54, 55
Генератор интерфейса РИТА 56
— моделей РОЗИ 56
— правил вывода АКЛС 56
Генетика 49
Геометрия 187 — 189
Гёдель К. 194
Гипотезы 47
Гольдберг Т. 149
Гроот Б. де 88—89
Гуд И. Дж. 75, 213
Дафф М. 30, 31
Дедуктивный метод 105
Дельфийский опрос 211 — 213
Дельфины 176—177
«Демоны» 103—104
Деревья 23—24, 73—74
усеченЬе 48—49
Детские рисунки 83 — 84
«Диджитал эсвипмент компании ДЕК 49»
52, 59
Дийкстра Э. 109, 195
Домбал Т. де 58
Drosophila melancgaster 68
Дуда Р. 51, 54, 55
Дэвис П. 124
Евклид 187—188
Живопись 143—152
Задача о мартышке 191 — 192
— — поездах 106—108, 116
— составлении флотилии 115—116
— четырех красок 196 — 197
Защита информации 93
Зиновьев П. 156
Знания
базы 38, 55, 58—59, 77. 93, 119, 215
и общество 199—200
необходимость для ЭВМ 25, 36, 167
определение 121 — 127
представление в машинах 68—69
пакеты («Эйдж», ЮНИТС) 56
природа 180
созидание 125—135, 169
теория 183—184
уточнение 135—138
Зрительное восприятие 83—84
ИБМ, компания 49, 57, 154, 194
Игнатович Э. 155—156, 163, 166
Избыточность информации 123
Иллинойсский университет 50, 63, 119, 175
Индуктивный метод 105 —110, 119, 135, 138—
141 ,
Инженер по представлению знаний 40, 42,
57, 170
Интеллектуальные системы 19—20, 94—96
в административном управлении 51
опасность 78, 193 — 194, 218—219
потребность в 19—22
Тьюринга определение 139—140
Информация
измерение 122
и знания 122—126
определение 122
Искусственный интеллект
и общество 58—59, 193 — 202
необходимость исследований в 208—213,
219
определение 19—20, 80
философские проблемы 193—202
Исследования и разработки 119 — 120, 204 —
207
Исчисление предикатов 107, 181, 184—186
Калифорнийский университет (Сан-Диего)
147
«Кейс уэстерн резерв» университет 175, 212
Кларк М. 128
Кларк Р. 59
Классификация 117—119
Предметно-именной указатель 253
Ковальски Р. 185 — 186
Когнитивные константы 178
Комбинаторный взрыв 24, 100
Конант Л. 109
Конструирование интегральных схем 114 —
115
Консультационная таблица 128
Концептуальный интерфейс 69, 76, 78
Коэн Г. 147—150, 164—1С5, 167
Коэффициент уверенности 43
Кризис в программном обеспечении 21—22,
215
Крэбтри К. 149
«Ксерокс», компания 167
Кэрролл Л. 188
Лаборатория им. Ч. С. Дрейпера 98
Лаборатория реактивного движения 20, 144
Ларсон Дж. 106 — 108
Леман М. 119
Ленат Д. 51—52, 115, 126, 133
Леттвин Дж. 30
Лингвистика 181 — 183
Лингвистический разбор 29, 45
Логика 33, 45, 105, 107, 180—181
Логический вывод 41, 46, 51, 76 117, 212
Логическое программирование 78, 185 —187
Лорейн Г. 86
Мазлак Л. 163
Майкелсон Р. 50
Макги Р. 206—208, 210
Макдермот Дж. 52
Маккалок У. С. 30
Маккарти Дж. 19, 184—185
Маклухан М. 163, 166
Мандельброт Б. 153—154
Манчестерский университет 57
Марр Д. 149
«Марсоход» 20
Маслов С. Ю. 45
Массачусетский технологический институт
19, 27, 38, 53, 57, 75, 154, 177, 213
Матурана X. Р. 30
«Машина ассоциаций» 33 — 34
Машинная графика 143 — 145
Машинное зрение 29—30
Машинный перевод 28
Меерс Дж. 175
Международная федерация по обработке
информации 68
Метаправила 45
Метод обратной функции 70, 72, 132
Метод поиска
обратного 45—46
прямого 45
Механизм вывода 38, 187
Минский М. 19
Михальски Р. 106—108, 116 — 118
Мнемонисты 86—89
Музыка 156—158
Мультипликация 152 —154
Мягкая автоматизация 76—77
«Наивная физика» 191
НАСА 20, 206
Научный формализм 187 —192
Национальный вычислительный центр 214
Невинс Дж. 98—99
Негропонте Н. 154, 166 — 16., 213
Нейман Б. де 193
Нефтяные платформы 21, 39—43
Ниблет Т. 128-129
«Ниппон электрик» 212
Обратная связь 208
Обучение
на опыте 102—105
— примерах 36, 56—57, 105 — 108
ЭВМ 102 — 108, 140 — 141
Общение с иной психикой 176 — 178
Обычное программирование 38, 55, 71—72
Органическая химия 48—49
Память 86—88
Параллельная обработка данных 30—33, 57,
214—215
Пары «ситуация — действие» 72, 174
Патология растений 116—118, 136
Персональное искусство 167
Пиаже Ж. 83—84
Письменность 71
Питтс У. X. 30
Питтсбургский университет 175
Платон 71, 195 — 197
Плутарх 195
Поиск 48
Понятия 69, 126
Попл Г. 175
Поппер К. 138
Поэзия 158—162
Правила 38, 40, 43—45, 55, 84, 99 — 112, 18$
Представление данных 76
Причинно-следственные модели 131 — 133,
174 — 176, 187
— связи 189 — 190
Прогнозы развития вычислительной тех¬
ники 210—213
Производительность труда 65—67
Программы
АКВАЛ 136
AQII 117-118
AM («Автоматизированный математик»)
112—113, 116, 126 — 128
АНИМС 149, 167
«Белль» 80
«Интеллект» 27
ИНТЕРНИСТ 136
«Итерактив 3», ID 3 129 — 130, 136
КЛЕТКИ 102 — 105
«Ладдер» 28
МАСТЕР 136
ПАСКАЛЬ 107-109
ПРОЛОГ 136, 186-187
«Уизард» 31, 32
УОРПЛЭН 136
«Эвриско» 113—116, 133
«Шест—тележка» 102 — 104
«Эдвайс-тейкер» 136
«Элиза» 27 — 29
Работа с естественными языками 26—29, 77,
182—183
Радиационная лаборатория им. Лоуренса 70
Разведка полезных ископаемых 46—47
Рамануджан С. 113
Распределенный матричный процессор 214
Распознавание образов 31—32
Рассел Б. 181
Раус У. Б. 175
Рейтер Дж. 41
Ренделл Б. 23
Речь 84 — 86
распознавание 25 — 26, 119, 212
синтез 24, 77, 212
Решения, полученные ЭВМ 133 — 135
Робинсон Дж. Э. 186
Роботы 18, 98—99, 197—198, 205—206, 212
для игры в крикет 100—101
и экспертные системы 215—217
использование 200—201, 209—210
кооперация 7 7, 94
254 Предметно-именной указатель
финансирование разработок 214—217
шагающие 205—206
РЭНД, корпорация 50, 56
Сазерленд А. 206
Саппе П. 190
Сатклифф А. 157—158
СБИС 21, 115
«Сверху вниз», принцип 99, 119—120, 169,
174
Семантика 35—36
Семантическая сеть 33— 34 , 84
Сеть логического вывода 40, 47
«Синкинг машинз», компания 33
Синтаксис 35
Системы, основанные на правилах
ограничения возможностей 170—171
преимущества 55, 100—101
пример 53—54
Скульптура 154 — 156
Сенстер 155—156, 166
Сик 154 — 155
Сломан А. 35—36, 116
Смит Б. Р. 151—152, 164
«Снизу вверх», принцип 99 119—120,169, 174
Советские исследования по ИИ 208
Сознание 197—199
Сократ 71
«СПЛ интернэшнл», компания 50
Способность к пониманию 90
Станфордский научно-исследовательский ин¬
ститут 28, 46—47, 211
*— университет 38, 48—49, 51, 56, 100, 118,
137, 184, 186, 190
Стратегии 72
разрабатываемые ЭВМ 133—134
Страуд Дж. М. 109
Структуры
информационные 126—127
мыслительные 76
Сэлфридж О. 104
Творчество
в искусстве 142—143, 162—168
и ЭВМ 18, 134, 138, 143—168, 193
мера 135
Теория 99, 169—173
чисел 112—113
Тесл ер Л. 20
Томпсон К- 68—70, 72, 80, 129
Тьюринг А. 71, 138—140
Тьюринга институт 219
— универсальная машина 139
Уинстон П. 53—54
Университет Карнеги — Мел л он а 49, 119
Уотсон Т. 194
Управление воздушным движением 21, 63, 72
«Уэстрн Онтарио резерв» университет 188
Фейгенбаум Э. 38, 78, 137
Физика 188—189, 190—192
фон Неймана машинная архитектура 30, 57
Фрактали 152—154
Фредкин Э. 213, 218—219
Хаксли Т. X. 80, 194, 204
Хант Р. М. 175
Хейес П. 191-192
Хейкен В. 196-197
Хейс Дж. 83—84
Хилтон Р. 188
Хьюз Дж. Е. 162
«Человеческие рамки»
и информационные системы 76—77, 134
определение 74—76
Человеческий мозг 82—83, 176—178
«Черный ящик» 72—73, 77
Чилоски Р. 116-117
Чудо-вычислители 81, 89
Чэпмен С. 101
Шапиро А. 128—129, 134
Шахматы 23, 68—69, 80—81, 88, 128—131,
134
Шеннон К. 23, 122—124
Ширли Р. 159—160, 163, 167
Эббот Р. 110—111
ЭВМ
и противовоздушная оборона 48 63—64,
72—73
— художественное творчество 143—168
«Крей-1» 81
открытия, сделанные 112—113
пятого поколения 77—79, 187, 217
решение практических задач 17—18, 76,
99—100, 133-135
«сверхинтеллектуальные» 75, 213, 219
управляющие потоком данных 57
эффективность 75
Эвристики 112—113, 170
Эвристические модели 170—176
Эдинбургский университет 39—43, 77, 128.
185, 217
Эксперт 37—38, 42, 59, 117
Экспертные системы
в искусстве 147—149
в налогообложении 50—51
два типа 174—176
для оценки политического риска 50
и роботы 215—217
капиталовложения в разработку 214—217
медицинские 38, 45—46, 58—59
диагностика желудочно-кишечных за¬
болеваний 58, 136
обучающие 58—59
определение 37—38
пределы применения 51—52
примеры
ААРОН 147-148. 165, 167
ГИДОН 57
ДЕМСОК 50
ДЕНДРАЛ 48, 118, 137
Мета-ДЕНДРАЛ 118. 137
МИЦИН 43—46, 57, 77
МОЛГЕН 49
ПАФФ 46, 57
ПРОСПЕКТОР 47
САКОН 50
СЕКС 136
ТЭКА 48
Хиарсей-Н 119
ЭМИЦИН 46, 51
режимы работы 137—138
способность к объяснению 43—46, 55,
72—74, 77, 171—173
структура 39—46
уничтожение 199
Электрокардиограмма 131 — 133
Элузис, карточная игра 110—112
Эм Д. 144 — 146
Энтропия 124, 163
«Юнимейшн», корпорация 212, 217
Язык и мышление 180—183
Язык спецификаций 40, 42, 44
AL/X 40, 56
Языки машинные 185—187
Японии достижения 77—79, 208, 217
Содержание
Новые знания от ЭВМ 5
Предисловие 12
Введение 14
1. Слепой поиск и незнание 17
2. Машина становится экспертом 37
3. Машинные и человеческие возможности 60
4. Мысли о мышлении 80
5. Опыт и открытие 98
6. Созидание нового знания 121
7. Метафора наизнанку 143
8. На пути к модельным небесам 169
9. А была ли кошка? 193
10. Изобретения на благо человечества 203
Приложение. Основные принципы информатики 220
Литература 237
Словарь терминов 245
Предметно-именной указатель 252
Научно-популярное издание
Дональд Мичи, Рори Джонстон
КОМПЬЮТЕР—ТВОРЕЦ
Заведующий редакцией В. С. Власенков
Научт*& редактор А. Н. Кондратов а
Младший редактор И. Б. Ильченко
Художник В. С. Потапов
Художественный редактор Н. М. Иванов
Технический редактор И. И. Володина
Корректор Т. И. Стифеева
ИБ № 6237
Сдано в набор 04.03.87. Подписано к печати 08.09.87. Формат 60X90/16. Бумага типо¬
графская № 1. Печать высокая. Гарнитура литературная. Объем 8,25 бум. л. Уел. печ. л.
16,5, в т. ч. вкл. 0,50. Уел. кр.-отт. 18,02. Уч.-изд. л. 17,58. Изд. № 9/5622.
Тираж 100 000 экз. Зак. 468. Цена 1 руб.
Издательство «Мир»
129820, ГСП, Москва, И-110, 1-й Рижский пер., 2
Ордена Октябрьской Революции и ордена Трудового Красного Знамени МПО «Первая
Образцовая типография* им. А. А. Жданова Союзполиграфпрома при Государственном
Еомитете СССР по делам издательств, полиграфии и книжной торговли. 113054. Москва,
Валовая, 28.
Развитие техники привело к тому, что
мир вокруг нас становится все более
сложным, непостижимым, трудно управ¬
ляемым. Современные исследования в
области искусственного интеллекта на¬
правлены ра то, чтобы повернуть этот
процесс вспять и возвратить технику на
подобающее ей место — послушного, но
вместе с тем умного и проницательного
помощника человека.
С начала 80-х годов в работах по ис¬
кусственному интеллекту наступил но¬
вый этап — создание промышленных и
коммерческих образцов интеллектуаль¬
ных систем. Стала развиваться промыш¬
ленность, производящая такие системы,
появились потенциальные покупатели ее
продукции.
Что же отличает интеллектуальные
системы от других творений человечес¬
кого разума? Что можно ждать от их
появления в недалеком будущем? Об
этом рассказывают на страницах своей
книги английские авторы, известный уче¬
ный Дональд Мичи и журналист Рори
Джонстон.