пособив
Москва 1993

ЛИТЕРАТУРА
1. Автоматы. Сб. статей под редакцией К. Шеннона и Д. Маккарти. — М.:
ИЛ, 1956.
2. Арбиб М. Мозг, машина и математика. — М.: Наука, 1968.
3. Арбиб М. Метафорический мозг. — М.: Мир, 1976.
4. Беркинблит М.Б., Глаголева Е.Г. Электричество в живых организмах. Библи-
Библиотечка «Квант», вып. 69. — М.: Наука, 1988.
5. Бонгард М.М. Проблема узнавания. — М.: Наука, 1967.
6. Гаазе-Раппопорт М.Г., Поспелов Д. А. От амебы до робота: модели поведе-
поведения. — М.: Наука, 1988.
7. Минский М., Пейперт С. Перцептроны. — М.: Мир, 1971.
8. Лозин Н.В. Моделирование нейронных структур. — М.: Наука, 1970.
9. Позин Н.В. и др. Элементы теории биологических анализаторов. — М.:
Наука, 1976.
10. Розенблатт Ф. Принципы нейродинамики. — М.: Мир, 1966.
11. Цетлин М.Л. Исследования по теории автоматов и моделированию био-
биологических систем. — М.: Наука, 1969.
Большинство указанных книг требуют серьезной математической подготовки
и трудны для школьника или учителя биологии. Они могут быть рекомендованы
для работы с учениками математических спецклассов, интересующихся биологией.
Однако книги [4] и [6] являются достаточно простыми, а в книгах [3], [5], [8],
[9] и [11] некоторые разделы изложены вполне доступно для широкого читателя.
В рекомендуемых книгах содержится ряд ссылок на более специальную литературу.
ОГЛАВЛЕНИЕ
Предисловие 3
§ 1. Нервные клеткж и их взаимодействие 6
Немного истории. Нейронная сеть, описывающая
поведение бабочки крапивницы . 14
§ 2. Нейронные сети из пороговых элементов
ео ступенчатой характеристикой 19
Отступление в область «большой науки» 25
Лирическое отступление о моделях 27
Приложение: задачи, придуманные учениками B3MIII 28
§ 3. Нейроны с линейной характеристикой 41
Детекторы и нейронные сети 46
Моторные сети 56
§ 4. Нейронные сети из импульсных нейронов,
работающих в потактовом времени 61
§ 5. Нейронные сети с памятью. Обучение 72
«Обучение с первого раза», условные рефлексы, привыкание ... 74
Перцептроны и другие обучающиеся классификационные системы 79
Случайные процессы. Забывание. Надежность 86
Дополнительные задачи . 93
Литература 96

JT Ж. Si.
Нейронные сети: Учебное пособие. — М.: МИРОС и
ВЗМШ РАО, 1993. — 96 с: ил.
ISBN 5—7084—0026—9
Пособие содержит около ста задач яо нейрофизиологии и нейронным
основам поведения животных, а также теоретический материал, необхо-
необходимый для их решения. Показывается, как могут быть устроены сети
из нейронов, управляющие разными функциями организмов. Наряду с
большим биологическим материалом, новым для школьников (маленькие
нейронные сети беспозвоночных, например, сеть, обеспечивающая плава-
плавание пиявки; нейронные сети зрительной системы; принцип латерального
торможения и т. д.), в книге содержатся общие представления о работе
автоматов и математической логике. Опыт показывает, что учащееся с
большим интересом решают предложенные в пособии задачи. Часть вклю-
включенных в него задач придумана школьниками.
Пособие может быть использовано учителями биологии в учебном
процессе и при ведении кружковых занятий, а также школьниками,
интересующимися биологией. Написанная простым языком книга пред-
представляет интерес и для более широкого круга читателей.
Михаил Борисович Беркажблжг
НЕЙРОННЫЕ СИГЕ
Экспериментальное учебное пособие
Зав. редакционно-издательским
отделом Т. И. Балашова
Художник В. А. Галкин
Иллюстрации Т. А. Беловой
Художественный редактор В. И. Пономаренко
Технический редактор И. В. Пронина
Корректоры О. А. Рогачева, Е. В. Вишникина
Оригинал-макет изготовлен
в Компьютерном центре МИРОСа
Н/К
Изд. № ФЗЩОЗ). Подписано в печать 14.05.93.
Формат 60 " 34/16. Бумага офсетная. Гарнитура «Школьная».
Печать офсетная. Печ. л. 6. Тираж 10 000 экз.
Заказ № 1Н7 Цена договорная.
Московский институт
развития образовательных систем.
109004, Москва, Нижняя Радищевская ул., д. 10.
Отпечатано в Московской типографии № 6 Мининформпечати РФ.
109088, Москва, Ж-88, Южнопортовая ул., 24.
Иад. № Ф30{03) © Веркинблит М. В.;
ISBN 5—7084—0026—9 © Московский институт
развития образовательных систем (МИРОС), 1993

ТРУДНО БЫТЬ БОГОМ.
А Стругацкий,
Б. Стругацкий
ПРЕДИСЛОВИЕ
Нейронные сети занимают заметное место в современной
науке. С одной стороны, их изучают нейрофизиологи. Поя-
Появилось множество статей и книг о «малых нейронных сетях»
беспозвоночных, о нейронных сетях мозжечка и т. д. С другой
стороны, нейронные сети изучаются математиками и кибер-
кибернетиками. Их изучение с этой точки зрения началось в теории
автоматов, а в последнее время широко исследуются возмож-
возможности использования нейронных сетей для вычислений и для
создания вычислительных машин («сети Хопфильда», «нейро-
«нейрокомпьютеры»). Вся эта биологическая и математическая пробле-
проблематика интенсивно развивается на протяжении последних 50-ти
лет. Однако она, как правило, остается совершенно неизвест-
неизвестной и школьникам, и учителям, хотя многие вопросы, рас-
рассматриваемые в связи с нейронными сетями, вполне доступны
любому школьнику. Дело тут не в сложности проблем, а в
сложившихся традициях школьного образования.
Данное пособие представляет собой попытку нарушить та-
такую традицию и ввести в школьный обиход понятия, проблемы
и результаты соответствующего раздела «большой науки».
Однако дело тут не только и не столько в том, чтобы ликви-
ликвидировать разрыв между содержанием школьного знания и
уровнем современной науки, чтобы немного «подтянуть» уро-
уровень знаний школьников к научным достижениям конца XX з.
Тема «Нейронные сети» представляется важной и по другим
соображениям.
Убежден, что в курсе биологии школьники должны решать
задачи подобно тому, как это уже давно делается при изучении
математики, физики и химии. Тема «Нейронные сети» дает
для этого богатые возможности, сопоставимые разве что с

генетикой. Например, один из классов задач но нейронный
сетям состоит з том, что предлагается набор элементов (ней-
(нейронов) с заданными свойствами и задается некоторая функция
или форма поведения. Школьник, решающий задачу, должен
сконструировать жз элементов е заданными свойствами такузс
систему, которая осуществляла бы заданную функцию. Иными
словами, решающий задачу должен придумать, сконструиро-
сконструировать некоторую целесообразно функционирующую машину
(•«нейронную машину»). Это типичная конструкторская задача.
В яссобии содержатся и другие типы задач но нейронным
сетям. Всего в нем собрано свыше ста задач по этой тематике.
Однако значение решения задач на «нейронные еетм& зозее
не ограничивается тем, что с их помощью можно привлечь
школьников, интересующихся биологией, к изобретательской
деятельности на естественном для низе материале, тем самым
развивая их конструкторские способности и вообще развивая
шх мышление. Тема «Нейронные сети» несет ш другую важную
нагрузку.
Дело в том, что школьники при изучении физиологии
неоднократно слышат от учителя или читают в учебнике слова
о том, что нервная система регулирует работу сердца, дыхания
и т. д. Однако яри этом у учащихся яе возникает никакой
конкретной картины, как могла бы реализоваться эта функция
нервном системы. Иныма словами, говоря о регулирующей ш
управляющей функциях нерзной системы, школьник щюиз-
носжт некоторые заклинания, которые не задевают его собст-
собственной эмоциональной сферы и не опираются на понимание
сути дела.
Напротив, ученик, который самостоятельно решил неко-
некоторое количество задач по нейронным сетям, достаточно четко
представляет себе, как может работать мозг, как most может
решать те или иные задачн. Вместо общих слов о мозге у
школьника возникает представление о нем как о некоторой
материальной системе, работающей по определенным ирави-
лам, причем принципы работы этой системы могут быть изу-
изучены ш поняты.
При подготовке данного пособия автор опирался на опыт
работы Биологического отделения Всесоюзной заочной много-
предметной школы РАО пра МГУ. Начиная с 1986 г. на
зстречах со школьниками, проводимых во время летних ка-
4

Hssyji» автор регулярно читал лекции ж вел .семинары по
нзйрЭЕШМвя сетям. Надо отметить, что задачи но нейронным
ss'zsm вызывают большой интерес не только у учащихся. На
сэмннар&х легких школ обычно прасутствовали студенты,
и сотрудники МГУ. Жак правило, большинство
х довольно быстро втягивались з процесс ре-
решения задач, предложенных школьникам, и решали их с не
эйзньзшм азартом, чем учащиеся. Эти семинары, проводимые
гэясэгодно, постепенно пополняли «банх задач» по нейронным
сетям.
3 1988 г. В, В. Чуб напасал небольшое задание дли уче-
jhsqsob ¥111 класса, заязочив в неге еще некоторое число соб-
собственных задач на эту тему. Новые задачи были предложены
s 2900 ж 1901 гг. на семинарам по нейронным сетям, про-
зедзнных в рамкаж субботнего лектория МГУ для школьников
Москвы. Автор признателен всем, кто помогал в проведении
еаминароз и подборе задач, и в первую очередь А. В. Образцову
ж В- В. "Чубу*. Автор выражает также глубокую благодарность
доктору биологических наук 10. И. Аршавскому ш А. В. Жердеву,
которые внимательно щзочлн рукопись ж сделали ряд иолезных
замечаний.
Псесбне предназначено в первую очередь для учащихся
Внелогического отделения ВЗМШ и для самообразования. Оно
может быть использовано учителями при проведении факуль-
факультативных замятий по физиология иди з работе биологического
кружка, а также при изучения биологии в спецклассах фм-
зико-вяатематической ориентации (при этом руководителям
таких занятий весьма целесообразно использовать дополни-
дополнительную литературу, указанную в конце пособия).
Автор отдает себе отчет з том5 что эта нервая попытка
ззеета з школьный обиход совершенно новую тематику имеет
ряд недостатков. Бсэ критические замечания и предложения,
решения задач и новые задачи просьба присылать по адресу:
1090G4 Москва, Нижняя Радищевская, 10, МИРОС или 119823
Москва, Ленинские горы, МГУ, ВЗМШ «Виологил», R1. Б. Вер-
"Б зосебме включены задачи, предложенные А. Б. Обюазцозым (JNS 4.8, 5.14),
В.З. Чубом C& 4.10, 8.4, 6.5), А. В. Жердевым (J* 2.2, 2.8, 2.13, 3.26а, 4.20),
S. Г. Глаголевой (J4 3.2).

§ I. НЕРВНЫЕ КЛЕТКИ
И ИХ ВЗАИМОДЕЙСТВИЕ
Мы подошли к берегу пруда, и лягушки у нас из-под ног
прыгают з воду. Зададим себе - вопрос: как они это сделали?
Отвечая на него, мы будем говорить так: лягушка заметила
нас, испугалась и прыгнула в воду. Но ведь это почти простое
описание факта. А что же при этом происходит внутри ля-
лягушки? Какие процессы возникают в ее нервной системе?
К сожалению, о нервной системе обычно говорят, что она
«регулирует» те или иные процессы, «управляет» поведением
и т. д. Трудно считать такие рассуждения научными, посколь-
поскольку все они идут, так сказать, на филологическом уровне.
Остается непонятным, как именно нервная система «управ-
«управляет» и «регулирует». Для того чтобы это понять, о нервной
системе надо говорить на другом языке, используя другие
понятия. Данный параграф и посвящен введению такого язы-
языка.
Нервная система, как и другие системы организма, состоит
из клеток. Эти клетки называют нервными клетками или
нейронами. Реальные нервные клетки весьма разнообразны и
по форме, и по свойствам; они отличаются и в разных отделах
мозга одного животного и, еще сильнее, у разных групп
животных, например кишечнополостных и позвоночных.
Здесь рассматриваются некоторые свойства «усредненного*
нейрона, причем только те, которые нужны для дальнейшего
использования. Нейроны, как и другие клетки организма,
имеют ядро, митохондрии и другие органеллы, но для наших
целей нет необходимости рассматривать их работу.
Для нас представляет интерес только та оболочка, которая
покрывает нервную клетку; ее называют клеточной мембра-
мембраной. Эта мембрана состоит из жироподобного вещества (лнпи-
дов). Наверное, каждый шз вас видел масляную пленку на
воде: масло растекается по воде слоем толщиной з одну вяо-

лекуяу. Клеточная мембрана в два раза «толще*: она состоит
из липидного слоя толщиной в две молекулы. В эту липидную
пленку встроено множество белковых молекул. Некоторые из
этих белков нам придется дальше рассмотреть, так как они
зажны для работы нейрона.
При изучении нервных клеток начиная с 1946 г. исполь-
используют микроэлектроды. Микроэлектроды — это тончайшие
стеклянные трубочки, пустые внутри; диаметр их кончика
составляет всего около 0,001 мм. Если микроэлектродом про-
проткнуть мембрану нейрона, то липидная пленка смыкается
вокруг микроэлектрода, заживляя отверстие, и нейрон про-
продолжает нормально жить и работать. Внутреннюю часть мик-
микроэлектрода заполняют солевым раствором, который хорошо
проводит электрический ток. Если ввести в нейрон микро-
микроэлектрод, поместить второй электрод (обычно для этого ис-
используют серебряную проволочку) в среду, окружающую ней-
нейрон, и присоединить к этим электродам вольтметр, то он
регистрирует разность потенциалов (рис. 1).
Рис. 1. Измерение мембранного потенциала нейрона:
А — нейрон, а — его мембрана; Б — микроэлектрод; В —
второй электрод, находящийся в среде, окружающей нейрон;
Г — измерительный прибор
Эту разность потенциалов между внутренним содержимым
хлетки (цитоплазмой) и наружной средой называют мембран-
мембранным потенциалом. В покое величина мембранного потенциала
равна почти ОД В. Цитоплазма клетки имеет знак минус, а
наружная среда — плюс.
Откуда берется эта разность потенциалов? И в клетке, и
вне ее находятся заряженные атомы и молекулы — ионы. Внут-
Внутри клетки много ионов калия (их обозначают К"\ так как
они несут положительный заряд), а снаружи ионов калия

мало. Зато з наружной среде сравнительно много ионов натрая
Na+ и хлора СГ. Вы знаете» что, когда зализываешь ранку,
чувствуешь соленый вкус крови; он создается как раз хлори-
хлористым натрием, растворенным а крови, который называют
также поваренной солью.
Мы уже говорили, что в клеточной мембране имеются
молекулы белков разного назначения. Среди них есть группа
молекул, которые называю? ионными каналами. Эти молекулы
«прошивают» клеточную мембрану так, что часть белковой
молекулы находится внутри клетки, а часть — снаружи. Внут-
Внутри белкоаыж молекул имеется отверстие — канал, который
пропускает ионы того или иного сорта. Например, есть ка-
калиевые ионные каналы, они пропускают ионы калия, но не
пропускают ионы натрия или хлора; есть натриевые каналы,
кальциевые каналы и т. д. У ионных каналов есть специаль-
специальный участок — ворота, которые могут закрываться или от-
открываться под действием разных факторов. Если ворота за-
закрыты, то ионный канал не пропускает через себя никакие
ионы.
В покое у нейрона открыты калиевые каналы. Внутри
клетки много ионов калия, и этн ионы начинают выходить
через калиевые каналы, вынося с собой и свой положительный
заряд» Это и призоднт к ноявдению мембранного потенциала.
Но через некоторое эремя моны калия перестают выходить
наружу: ведь они сами заряжены положительно, как и на-
наружная среда,, а одноименные электрические заряды оттал-
отталкиваются.
Итак, з покое у нейрона существует мембранный потен-
потенциал, разный примерно 0,08 В или 80 мВ (читается: милли-
милливольт). Необходимо четко усвоить, что если каким-либо спо-
собом (например, пропуская ток через микроэлектрод) снизить
мембранный потенциал на небольшую величину (примерно
на 20 ааВ)8 то от этого открываются ворота натриевых каналов.
Натрия снаружи много, он положительно заряжен, а заряд
внутри клетки имеет знак минус. От этого ионы натрия быстро
входят з клетку и перезаряжают ее: теперь внутри клетки
возникает знак плюс, а снаружи — минус. Это изменение
мембранного потенциала назызают возбуждением нейрона. Од-
Однако натриевые каналы устроены так, что их ворота откры-
открываются только на очень короткое время, а потом вновь за-

хвываютея. Как только натриевые каналы закроются, иокы
калия начинают выходить наружу (ведь теперь снаружи знак
апшуе) и восстанавливают исходный мембранный потенциал.
Весь ишдесе возбуждения занимает в нейронах теплокровных
животных около одной тысячной доли секунды.
Чтобы клетка возбудилась, надо каким-то образом снизить
ее мембранный потенциал до определенного уровня. Если сни-
снизить потенциал на очень маленькую величину (например, на
одну тысячную эольта), то возбуждение не наступит, так как
натриевые каналы ири зтом не откроются. То минимальное
нзменение мембранного потенциала, которое необходимо, что-
чтобы вызвать возбуждение нейрона, называют порогом возбуж-
возбуждения. Если говорят, что порог нейрона равен 15 мВ, то это
значит, что яри уменьшении мембранного потенциала на
15 мВ этот нейрон возбудится.
У нейронов есть отросток, по которому они передают сигнал
к другим нервным клеткам или мным адресатам (к мышечным
клеткам и др.); этот отросток называют аксоном. (У многих
нейронов есть и другие отростки — дендриты, но их строение
и функции мы рассматривать не будем.)
Ханой же сигнал передается по аксону? Аксон в покое
тоже имеет мембранный потенциал, равный примерно 80 мВ
(плюс снаружи). Когда нейрон возбуждается и перезаряжается,
между мембраной нейрона и аксона начинают течь токи,
которые снижают мембранный потенциал начального участка
аксона (рис. 2,а). Когда этот потенциал снижается на порого-
пороговую зеличику, мембрана начального участка аксона возбуж-
возбуждается ш тоже перезаряжается. Но от этого начинает течь ток
тело клетки
Рис. 2. Схема, поясняющая передачу сигнала от нейрона
к его адресатам. Стрелки указывают направление тока:
а — возбуждено тело нейрона, б — возбужден начальный
участок аксона

между начальным участком аксона и следующим участком
(рис. 2,6). Теперь возбуждается следующий участок и т. д.
Таким образом, по аксону распространяется возбуждение
(тот же самый процесс имеет и другое название — распрост-
распространение нервного импульса). Возбуждение распространяется
от тела нервной клетки по' аксону к конечным веточкам
аксона, которые называют терминалями.
Что происходит с сигналом, передающемся по аксону,
когда он достигает терминали? Терменаль аксона подходит
к другому нейрону (его часто называют нейроном-адресатом),
которому и предназначен еегиал* В месте окончания терми-
терминали имеется специальное устройство — синапс. Что такое си-
синапс? Это кусочек мембраны терменале, кусочек мембраны
нейрона-адресата и узенькая щель между ними — ее ширина
равна обычно 20 нм (рис. 3).
аксон
синаптяческая
щель
синапс
Рис, 3. Схематическое изображение синапса
Когда нервное возбуждение дожодит до терминале и пере-
перезаряжает ее мембрану, из цитоплазмы терменали в синапти-
ческую щель выбрасываются особые химические вещества, ко-
которые называются медиаторами шли переносчиками', они и
переносят сигнал от терминали к аксону-адресату. Молекулы
медеатора диффундируют через ениаптнческую щель и дости-
достигают мембраны нейрона-адресата. (Как потом эти молекулы
убираются из синаптической щеле, мы разбирать не будем.)
А на этой мембране расположены специальные ионные кана-
каналы. Ворота белковых молекул открываются, когда к нем
присоединяется молекула медиатора. Если эти каналы про-
пропускают ионы натрия (или и натрия и калия), то мембранный
потенцеал клетке-адресата снижается. Если это снижение до-
достигает порогового уровня, то клетка-адресат возбуждается.
ю

Синапсы, вызывающие возбуждение клетки-адресата, назы-
называю? возбуждающими синапсами.
Однако термнналь может выделять медиаторы, действую-
действующие иначе. Если медтатор открывает такне ионные каналы,
которые не снижают мембранный потенциал нейрона-адресата,
а еще больше повышают его, то такой медиатор называют
тормозным, соответствующий синапс называют тормозным
синапсом, а возникающий при этом процесс называют про-
процессом торможения нейрона-адресата. Пусть, например, ме-
медиатор откроет каналы для ионов хлора, которые несут от-
отрицательный заряд и которых много з наружной среде. Ионы
хлора входят внутрь нейрона я вносят с собой свой отрица-
отрицательный заряд, а внутри клетке ш так был знак минус;
значит, величина мембранного потенциала станет больше (на-
(например, исходно она была равна 70 мВ, а после открывания
хлорных каналов она стала равной 30 мВ).
Почему этот процесс называют процессом торможения? Де-
Дело в том, что такую клетку становится труднее возбудить.
Пусть сначала исходный потенциал был 70 мВ, а порог равен
20 мВ; это значит, что, как только мембранный потенциал
снизится на 20 мВ и станет разным 50 мВ, откроются на-
натриевые каналы, и нейрон возбудится. Если на эту нервную
клетку подействовал тормозной синапс и потенциал стал равен
80 мВ, то положение меняется. Теперь при снижении потен-
щчала на 20 мВ (т. е. при том же самом возбуждающем
воздействие) мембранный потенциал станет равным не 50, а
60 мВ, натриевые каналы не откроются и возбуждения не
произойдет.
Таким образом, возбуждающие синапсы и тормозные си-
синапсы действуют на нейрон прямо противоположным образом:
возбуждающий синапс снижает имеющейся мембранный по-
потенциал, а тормозной синапс повышает его.
Пусть на нейроне оканчивается один возбуждающий синапс
такой силы, что он может аозбудить нейрон. При действии
этого синапса нейрон-адресат возбуждается. Пусть на том жэ
нейроне кончается тормозной синапс такой же силы (т. е.
вызывающей такой же сдвег потенциала, но другого знака).
Что будет, если на нейрон-адресат подействуют и возбужда-
возбуждающий и тормозной синапсы? Нейрон не возбудится, его по-
потенциал ше изменится. А что будет, если на этот нейрон
11

а той жв шжы ж оджв
ЕзэшьЕЙ эаш-Е нейрон является сумматором, т. е>
лж езшаяеов, щтчеы эта сигналы ммашт разны® зна-
зназ&лш HpssHJs^Tb услсазк». что сигналы о? возбуждающих
гчмта^ь отрнща^айьнаамзг. Тогда можно сформули-
следующей »гл0®й<г @азбуж3еныл кгйрона: В f f й П,
SG^aip-oe йяовшж51 мошео нрэ^нтат'З. так: -если сумма зоздейстаий
sees зозбуждающжк эз тормозных синаясоз на нейрон больше
згли рашга ©in© sopory^ то этот нейрон зоэбузядается.
Нейров ваараба^мза®!' эо sees гэошс терминалЕХ
тот же агедзттар. Мы будем дальше этэтатъ, что
образует на всех езозаж едретатах едйысовраэные синапсы: либо
•кшьж© зозбузадаюазцн®, либо только тормозные. Еела нейрон
образует1 зозбуждазощй© сзаяапеы, то он называется возбужда-
возбуждающим ж?лр@н®*щ еелн же нейрон образует торшозныз сикаисы?
Т'О екз называют тормозным нейроном, Ощшш ш тот нса нейр
зыть ®©зоугз5дающигж к тормоэныаа.
От чезхэ завзгеит енла действия нейрона за езою мишень?
5удеаа считать» что это воздействие зазнент от часла
кот-орьк© кэйроаг -образует на нейроне-зяишени. Е-слн
ажсоза эетзЕтей ж образует гяятз» зетсчек тернкналей а пять
езгазшеоз на мишенг^ч, то аы будем считать, что он действует
на гшшена а 1шт& pas сальнее, чем другой нейрои> который
б на ssisssshm всего ©дан езгааие.
май Mossses€ рассматривать еэта из нескольких iio-
ьно s лараалелько соедаЕЕеиыык нейронов. Каждый
последующий zso^ser быть 1зоабужд©н? если зыиолнено условие
воз0у:г5д©вия, т. е. seas он нолучает надяороговое воздействие.
Ее ^airo е^оэт з ш.&ч.шле 'гакой ценн! Откуда канучаю1? г
ые яервые нэйзрон&к?
Среди sspsHbxs зелеток иаяеются ^етсоые нервкьге клетки,
®т ежгаая sse .от других нейронов, а из окру-
жазощеё ззли энутреа-ш-зй среды» причем они могут возбуждать-
возбуждаться под действием таких сигналов нз среды. . Эта нейроны
называют н<ейраиаз%и,-ргцелторя?Аи зелзе яроето рецепторами.
Существует пзжть тинов иейроиоз-рецелторов. Первый

■"-'■ГГЙ^З
з орган© глуха, pearapyss sa. зойд-эйстззшэ звуковых
акорещФптозш в:аходаф£32 з органах равнезеезЕя,, лэ-
г^кат в оснозв чувства ©еяэшгзяя. МеханорецеЕторы эаходя'ггй
з мми2даа зг шэваераю? степень их рееадэаеззшя.
Трэтнй ^^гз — хёж&рецептпорЫэ всоторьп© реагкрую'а' sa те жяве
ннъгз SMSsSHacKiHs вещасгза; sa нззх зенозала работа
й тик — терморецепторы, которые реапшузот на
тэело s холод Сзгж заазызазо*? "гешговыага ss колодовывазг
Наконец, аетздй тш.п ■— влехщхфецштсрыэ
гш. у некоторых р»5„ ажфшбшй э дажэ йшехошатающих (у
узконоса).
А ч'го сэ*ошт а конце нейронной ценн? Б конце цент на-
нейрО1нм,. которые дэйстзуют на ^еяолнштэльные sss-
заа эффз&торы, s. ©о на ааыапцы аьжм железы.
действует на аяышцу, то эгс назызают ж
Лрш. й©р©да^ав сигзала ею дека ыейрэков возншлса©^ ы®ко-
зременная задержка — врзегял ирохождгння сигнала от
начала до конца цен®. Она екладааза&зтак вза а
). Сбьзчзэ оенсзнуш роль
смнантмчесзеие задергкшш, по этой лджчтш® чем
больше нейронов жедедоветвжьЕ© лередазот ошгшшзы в
тзая больше ®р©аазнш трейуэтея sa передачу сззгнаиа.
В этож раадэле было щратко рес£лсаэ;а;иог зсак
ш как нервные зине-гки действуют друг эа друга. Мз-эа
нздежсеэшй зинегме вазагЕм® дэтадн здееь зав рас-
еь Балж; раетша-грнзалшеь крайне узращоззэо. Доста-
Достаточно Езодробк© sss sirs sonpccsts расегаотреназ з acHisr©
М. Б. Беркзанбдз^а ш Е. Г. Глаголевой <*Эл®й'31рз2"иае>г'зо в ашзых
оргакизгаах» (Мл Наука^ 1988).
Особенно ззажяо понять лмыел аЕедугощгмх -терагэ^роа: воз-
возбуждение, тормойкение, порог, синалс, ^слозме эсзбуждэнмя.
Накоторые тш.ж'гжш, ивжшв шшзжшщз зажнсе sisa^essss для

понимания работы нервной системы, будут введены в ходе
дальнейшего изложения.
НЕМНОГО ИСТОРИИ
Нейронная сзть,
описывающая поведение бабочки кршгазншщы
В 1984 г. на биологической олимпиаде школьников в МГУ
была предложена следующая задача: «Известно, что бабочка
крапивница предпочитает температуру 36° С. Если на улице
холодно и солнце не светит, бабочка сидит с закрытыми
крыльяает. Если холодно, но светит солнце, бабочка открывает
крылья. Но, как только температура достигнет 36° С, бабочка
складывает крылья. Нарисуйте схему соединения нейронов,
которая обеспечивала бы такое поведение бабочки». Когда я
предлагал эту задачу, то думал, что какая-то часть школь-
школьников с ней справится о Задача была дана выпускному классу
и оказалась «убойной». Ни одной работоспособной схемы пред-
предложено не было, а многие школьники вообще не могли понять,
что от них требуется.
Эта задача, как и другие задача о нейронных схемах, не
имеет однозначного ответа. Можно првдум&ть много схем,
удовлетворяющих ее условию. Придумаем одну из возможных.
Прежде всего надо решить, какие рецепторы и какие эф-
эффекторы мы будем использовать в схеме. Можно принять, что
крыльями бабочки по аналогии с мышцами-антагонистами
человека управляют две группы мышц: зопускателн» крыла
и «подннмателн» крыла.
Каждой группой управляют свои мотонейроны, которые
мы обозначим МН0 и МНП (рис. 4). Теперь нам надо выбрать
рецепторы. Нам надо иметь сведения о солнечном свете и
температуре тела бабочки. Выберем такие рецепторы: световой,
который возбуждается, когда сзетмт солнце {обозначим его
буквой С, т. е. «свет» или «солнце»); тепловой, который воз-
возбуждается, когда температура бабочка равна млн, выше 36°С
(обозначим его буквой Т); холодовой, который возбуждается,
когда температура тела бабочка ниже 86°С (обозначим его
буквой X).
14

ВС
тс
Рис. 4. Набор элементов, которые будут исполь-
использованы при построении нейронной сети, управ-
управляющей крыльями бабочки крапивницы:
МНО — мотонейроны опускатели крыла, МНд—
мотонейроны поднимателя крыла, С — рецеп-
рецепторы света, Т — тепловые рецепторы, X —
колодовые рецепторы, ВС — обозначение воз-
возбуждающих синапсов, ТС — обозначение тормоз-
тормозных синапсов
Наша задача состоит в следующем: необходимо так соеди-
соединить эти рецепторы с мотонейронами, чтобы поведение сетм
соответствовало условиям задачи.
По условию задачи, крылья при свете раскрываются, по-
поэтому соединим световой рецептор с МНО возбуждающим си-
синапсом (рис. 5,а). Когда же температура поднимется вы-
выше 36°С и заработает тепловой рецептор, крылья должны
закрыться. Значит, надо соединить рецептор Т с МНП возбуж-
возбуждающей связью (рис. 5,6). Мышцу-антагониста (опускателя
крыла) надо при этом затормозить; для этого надо соединить
•тепловой рецептор с МНО тормозной связью. Но один и тот
же нейрон, как говорилось выше, не может быть одновременно
и возбуждающим и тормозным, поэтому для создания
в)
Рис. 5. Последовательные этапы (а — в) построения нейронной
сети, управляющей поведением крыльев бабочки крапивницы (Ин —
интернейрон)
15

торможения надо поместить з линию, ведущую от Т к М
тормозной зставочный нейрон (вставочный нейрон еще назы-
называют интернейроном) (рис. 5, в). Теперь, если будет ж светло
и тепло, МНо не будет работать, так как ла него приходят
равные по величине, но противоположные до знаку сигналы.,
которые не доведут его до порога.
Однако наша схема не полностью удовлетворяет условиям
задачи: если на улице холодно и нет солнца* то, ио условию,
крылья должны быть закрыты, а из нашей схемы этого не
следует. Теперь мы используем холодовой рецептор. Sro надо
соединить с МНП возбуждающей связью. Но в ситуации «хо-
«холодно и светло» эта связь не должна работать, иначе она
помешает опустить крылья. Итак, эта связь не должна
работать, когда светит солнце. Значит, з схему придется ввести
еще один интврнейроя, который будет выключать эту линию,
когда светит солнце (рис. о).
Рнс. 6. Окончательный вариант нейронной сети, управляющей поведением
крыльев бабочки крапивницы
Теперь наша схема полностью удовлетворяет условиям за-
задачи.
На примере этой задачи можно выделить типичные этапы
решения задач на нейронные сети:
а) выбор необходимых рецепторов и эффекторов;
б) попытки соединить их друг с другом возбуждающими
ш тормозными связями в соответствии с условиями задачи;
16

в) введение з схему воз-
возбуждающих ж тормозных
янтериейрошэв, если прямое
соединение только рецепто-
рецепторов и зффекторов ке приво-
приводит к успеху;
г) проверка полученной
схемы на соответствие всем
условиям задачи (этого эта-
этапа решения гш не проводи-
проводили).
На рне. Т приведено дру-
гс-е решение той же самой
Рис. 7. Другой вариант нейронной сети,
управляющей поведением крыльеа ба-
бабочки крапивницы, также удовлетворя-
удовлетворяющий условиям задачи
В этом решении использован спонтанно-активный нейрон,
т. е. нейрон, который эсэ время возбуждается сам по себе без
всяких воздействий извне. (Обратите внимание на этот новый
тип нейронов. Такими свойствами обладают не только неко-
некоторые нейроны» но и некоторые мышечные клетки. Например,
сердца позвоночных животных периодически сокращаются
потому, что з них имеются епонтанно-актизные мышечные
клетки.) Этот спонтанно-активный нейрон (на рисунке он
обозначен СА) будет все время возбуждать МНП и тем самым
все время закрывать крылья. Крылья будут закрыты всегда,
кроме ситуаций, когда одновременно возбуждены рецепто-
рецепторы X и С; з этом случае они возбуждайте ннтернейрон 2
(см. рис. 7); эта .цифра обозначает порог данного интернейрона
и тем самым указывает, что свет ж холод поодиночке не
способны его возбудить. Интернейрон 2 при возбуждении
откроет крылья а через еще один вставочный тормозной ин-
т-ернейрок затормозит спонтанно-активную клетку. В этой
схеме мы обошлись вместо трех ©сего дзуьш типами
рецепторов, но зато нам потребовались спонтанно-активный
нейрон ш интернейрон с порогом 2.
Теперь подумаем, что ж® мы, собственно, сделали, реигав
эту задачу. Узналв ли мы, как нерзкая система бабочки на
самом деле поддерживает температуру ее тела? Конечно, нет.
Для этого нужно было бы не рисовать схемы на листке бумаги,
а изучать работу нейронов реальной бабочки. Мы придумали
схемы, которые показывают, как is принципе могла бы осу-
2 • М, Б. Веркинбяит
17

щееталятма регуляция теьшературы, шо, -жокфэ всего, у реаль-
реальной крапивницы терморегуляция ш^ущеетзллетая как-то со-
совсем иначе. Таким образом, мм решили скорее логическую,
Тогда возникает вопрос: имеет ли смысл -сзязыз&ть решение
■такого рода задач с биологией? По нашему йяненжзо, имеет.
Во-первых, обращение к биологии позволяет сформулировать
задачи, которые интересно решать биологам. Во-вторых, обра-
обращение к биологии позволяет нам зыбрать для построения
схем такие элементы, которые в какой-то степени сходны с
реальными нейронами. Наконец, в-третьих, некоторые схемы,
о которых пойдет речь дальше» действительно встречаются з
нервной системе (такие «случаи оговорены э тексте).
В то же зремя нейронные cstsi, которые мы далее рас-
рассмотрим, в большинстве случае® будут очень упрощены ш
сильно отличаться от реальных. Еелгя сравнивать esx с нервной
системой беспозвоночных, то это отличие выражается з tor€?
^зто нейроны^ которые мы будем использовать дрн кюстроенм&2
сетей, довольно унифицированы; еслм омм si отлжчаготея друг
от друга (например* порогами), то эты отличия непринципи-
непринципиальны. Между тем в нервной сзаетекае беспозвоночных часто
используются азейроиы с резко различающимися свойствами;
отдельные кдеткн сильно специализированы и нрнснособлены
для выполнения определенных функций. Если же сравнивать
напш сети с нервной системой позвоночных животных, то
важно© отличие между шшшш состоит в том, что з нангах
сетях, как правило, засиользуется небольшое число нейронов
(несколько десятков), ш то время как б сетях нервной системы
позвоночных используются десятки тьясяч нейронов.
То
8шегот лишь косвенное отношение к реальным структурам
нервной системы, is слоэс «нейрон» в большинстве случаев
надо было бы писать в кавычках. Об этом необходимо зсэ
И все же работа с этими упрощенными сетями
понять многие иринцзапы функционирования реальной нер-
нервной сзаетеваы. В дальнейшем мы еще раз вернемся к соотно-
соотношению упрощенных нейронных сетей а реальных нейронных
18

I 2. НЕЙРОННЫЕ СЕТИ
ИЗ ПОРОГОВЫХ ЭЛЕМЕНТОВ
Решая задачу про бабочку крапивницу, мы в ряде случаев
использовали интуитивные соображения; постараемся теперь
более четко сформулировать ряд положений, из которых мы
исходили нрм решении этой задачи.
Прежде всего необходимо оговорить свойства нейронов,, ко-
которые мы использовали ори построении схем. Мы молчаливо
предполагали, что рецепторвгые нейроны обладают следующим
свойством; пока внешнее воздействие ниже порога, рецепторы
вообще не возбузздаются; когда внешнее воздействие выше
■дорога, рецепторы вырабатывают сигнал всегда одной и той
же величины (можно считать его некоторым единичным сиг-
сигналом). На рис. 8 приведена характеристика (т. е. зависимость
величины ответа от внешнего воздействия) теплового рецеп-
рецептора.
JL E '
дзе ее
перзызс, на оси абсцисс
есть отрезок (он идет до
86°С)р где отзет нейрона
отсутстзуетг так как
внешнее воздействие ори
этом ниже порога. Все
устройства с такими свой-
свойствами мы будем назы-
зать пороговыми элемен-
элементами. Во-вторых, после того как порог внешнего воздействия
достигнут, ответ нейрона скачкообразно принимает значение,
равное единице, которое сохраняется при seex значениях
внешнего воздействия. Такую характеристику нейрона мы
будем называть ступенчатой.
36°
Рис. 8. Характеристика теплового рецеп-
рецептора. По оси абсцисс — температура, по
оси ординат — величина ответа
19

2.1. Нарисуйте -гтуаенчатые характеристика ддш. хомо-
дозого ж светового рецепторов схемы, приведенной
на pssc. 8.
Теперь нам надо более точно оговорить свойства синапсов,
образуемых рецепторами (за другими клетками) на й©йронах-
Мы будем считать» что единичный сигнал, ндущжй от
рецектаров, создает з каждом отдельном синапсе тоже сигнал,
равный единице. Еелв рецептор (или другой нейрон) образует
на нейроне-адресате два синапса, то его воздействие на нейрон-
адресат равно двум единицам. Каждый тормозной синапс
создает воздействие, равное шшус единице.
Опишем более подробно свойства интернейроноз si выход-
выходных нейронов сети, Порог scsx этих нейронов шы будем из-
измерять в синаптачесвшх воздействиях. Шям порог равен двум,
то это значит, что нейрон возбудится9 когда на него действуют
два возбуждающих синапса, но не возбудится при действии
одного синапса или возбудится яри действии трех зозбузвда-
шщнх ss одного тормозного синапсов; порог нейрона обозна-
обозначается цифрой, стоящей внутри кружочка» изображающего
нейрон (договоримся считать,, что если цифра не стоит, то
порог нейрона равен единице); ясно, что вместо обозначения
СА можно просто ставить порог, разный >яуяю*
Будем считать, что характеристика нейрона — не рецеп-
рецептора — тоже является ступенчатой, т. е. при возбуждении
нейрон выдает всегда одкзг ж тот же единичный сигнал. Спсн-
танно-актнвные нейроны тож© все зревяа зьздшот один ш тот
же единичный сигнал. Любой нейрон непрерывно .выдает еди-
единичный сигнал все то время, пока ош остается .возбужденным.
2.2. Нарисуйте характеристику нейрона с порогом, рав-
равным трем. Нарисуйте характеристику спонтанно-
активного нейрона. Нарисуйте характеристику ней-
нейрона, который: а) не пороговый и не ступенчатый,
6} пороговый ш не ступенчатый, з) ступенчатый ш
не пороговый.
Теперь мы можем, шсиолъгуя описанные выше нейроны,
перейти х решепшю некоторых задач на построение нейронных
сетей.
20

2,8. лзейочкм гган контакте з£х лапок е раствором сахара
• вытягивают хоботки и пьют раствор. После насы-
щензгя эту реакцию вызвать нельзя, а яосле голо-
данил эта реакция вновь возникает. Какая нейрон-
нейронная сеть жйзеет обеспечить такую реакции»?
Первый этап решения задачи — выбор рецепто-
рецепторов ж эффекторов. Одзш тип рецепторов — это хенорещепторк
ланок, которые обнаруживают наличие сахара; другой тмп
~£Ц8нторсз должен сигнализировать о насыщении (это могут
Заа^ь тоже хеморецеоторы, которые измеряют концентрацию
sssapa з гемолимфе, или это могут быть механорецепторы,
которые измеряют степень растяжения кишечника, и т. д.;
з© для решения задачи нет необходимости конкретизировать
■tsei этнх рецепторов); можно также принять, что сущест!вует
рецептор голода,, если это вам нужно для нестроения сети.
Сложнее вопрос о това, что должно етоять на выходе сети.
Можэ© попробовать придумать такую сеть, которая бы управ-
управляла звышщавяи хоботка или пищевода, и ззридумать, какие
гжышцы нужны. Но можно пойти по другому пути. Будем
считать, что выходным нейроном является такой специальный
нейрон, нрЕ« возбуждении s-соторого бабочка начинает нить
р&гтзор. Такие нейроны действительно имеются у животных.
Шх зназывают командными нейронами. Примем, что на выходе
сетя стоит командный нейрон, вызывающий нищезую реак-
цшо.
В исследующих задачах, если пря-аао не сказано, что надо
зтадумать ееть для управления конкретными мышцами, счи-
считайте, что на выходе сети находятся те идн иные командные
нейроны.
S.4. Встречный поток воздуха (например, от вентиля-
вентилятора) вызывает локомоцию ряда насекомых (локо-
аасция — это перемещение тела жизотного з про-
странстзе; ходьба, бег, полет, клазание ss т. д.).
Еелэ ноги насекомых лри наггачЕяи воздушного
нотока касаэотся зевали, то насекомые бегут, а если
не жаеаготся — летят. Придумайтз нейронную схему
для такого псведеннлг считал, что есть командные
нейроны заолэта ш ходьбы. При описании решения
укажите, какие рецепторы за использовали з сети.

0—<0
Рис. 9. Варианты (а —в) нейронных схем, запускающих полет зли
бег насекомых:
Р3 — рецептор прикосновения к земле, Рд — рецептор воздушной струи,
Рн — рецептор9 показыз&кипвй, что контакта с почвой нет, KHg —
командный нейрон Sera, КНц — командный нейрон полета
Вот несколько примеров решения задачи 2.4,
которые былм предложены учениками ВЗМШ и уча-
участниками субботнею лектория при МГУ (рис. 9).
2.5. В нейронной схеме задачи про бабочку крапивницу
(см. рис. в) испортился один нз рецепторов — рездап-
тор холода. При каких внешних условиях схема будет
давать неверное поведение? В чем оно будет выра-
выражаться? Обоснуйте свой ответ, рассматривая работу
схемы. Ответьте на те же вопросы, е&ет считать, что
вышли мз строя рецепторы тепла ж езета»
2.6» Ответьте на вопросы задачи 2.5, используя нейрон-
нейронную сеть, приведенную на рис. 7 (рецептор
там рассматривать, естественно, не придется).

.f«При ■геагаературе ровно S6°C его ошнбкэ
но сработали оба рецептора. — я тепла, ж холода.
Жак. будет вести себя при такой ошибке бабочка
крапивница, эслза ее поведение обусловливается
нейронной сетью, изображенной на рис. 8?
.©.Если собака Bsttss видит мясо в сзоей миске, она
©ст его. Еслш собака видит мясо, лежащее на столе,
и хозяйки нет в кухне» она ест это вяясо. Когда
хозяйка з кухне, собака нэ трогает мясо, лежащее
иа. столе. Придумайте нейронную сеть для такого
поведения собаки.
Тенерь зы легко догадаетесь,, что на выходе
должен стоять командный нейрон, вызывающий еду (еелм
вам нужно, то можно ввести и командный нейрон — отказ от
■зды). Но как быть с рецепторами? Конечно, собака об-
обнаруживает мясо с Еомгащъйэ хеморецепторов ж фоторецепто-
роз; с их же помощью она обнаруживает и хозяйку. Но вам
будет достаточно трудно построить схему из нейронов, с но-
ййощью которой собака отличает хозяйку от других людей
(например, ясно, что для зтого требуется использовать память,
а в наших сетях пока нет для этого подходящего способа).
Для таких задач мы будем использовать так называемые
лзйроны-детекпгоры, шжш нейроны-обнаружители. Мы не будем
заниматься вопросом о том, как собака узнает хозяйку, а
щипаем, что на входе сети стоят такие нейроны-детекторыi
нейрон, обнаруживающий, что мясо лежит в ммске собаки
(нейрон ММ); нейрой, обнаруживающий кяясо на столе (нейрон
МС); эейрон, обнаруживающий хозяйку (X). Эти нейроны-де-
нейроны-детекторы мы я будем считать началъзгыми иейроЕзавет сети.
Обратите внимание на то, чг?® мы одним ш тем же приемом
облегчили себэ жизнь, один раз заменив сложную работу
зяышщ включением в сетз. командных нейронов, а в другой
раз — заменив сложную работу системы рецептороэ зключе-
25геш нейтонов-детекторов. Справданнем такого приема может
служить то, что т командные нейроны, и нейроны-детекторы
действительно существуют з нервной системе разных живот-
животных. Вместе с тем у нас пока оетает&я -«за кадром» устройство
1?ех нейронных сетей,., которые приводят к включению того

Д мяса
(Д хозяйки ) J кн ЗДЫ }
( Я uncira V*-"""""^
вгаски
Рис. 10. Вариант нейронной сети, обеспечивающий поведение
собаки Бетти, описанное з задаче 2.3:
Д — детектор, КН — командный нейрон
или иного нейрона-детектора, и тех еетай, которые реализуют
команды, идущие от командные нейронов.
Одним шв участников зимней очной сессии школьников
ВЗМШ 1991 г. было предложено оригинальное решение зада-
задачи 2.8 (рис. 10).
Это решение предполагает, что собака всегда готова есть
мясо, когда нет хозяйки; что наличие хозяйки всегда тормозит
поедание ааяса» но наличие собственной миски компенсирует
присутствие хозяйки. Это решение5 впрочем, вызывает до-
довольно очевидную критику; если принести миску собаки в
то она должна хватать мясо со стола и в присутствии
Легко найтм традиционные варианты решений, лишенные
зтого недостатка.
2.9. Лягушке на кожу кладут бумажку, смоченную сла-
слабым раствором кислоты* Она подергивает кожей,
чтобы убрать раздражитель, но, конечно, не доби-
добивается успеха. Тогда она смахивает бумажку с кожи
задней ланкой. Придумайте нейронную сеть, обес-
обеспечивающую такое поведение лягушки, считая, что
есть командные нейроны «подергивания кожей'.» и
«смахивания лапой». Наблюденил показывают, что
существует такой промежуток времени, когда по-
24

дергивания кожей уже нет» а лапа еще ае начала
емахизаиае. Постарайтесь придумать такую сеть,
чтобы она воспроизводила это наблюдение.
). Известно, что сытый пресноводный моллюск ползет
вниз, з глубину водоема» но при этом не опускается
глубже двух метров. Проголодавшийся моллюск под-
поднимается к поверхности воды. Однако это описание
зерно только для холодной погоды (ниже +10°С).
Чем выше температура воды, тем меньше в ней
растворено кислорода и тем на меньшую глубину
уползает сытый моллкюк. Известно, что вдаллюск
перемещается за счет движения ресничек, выетила-
ющих его ногу, причем имеются нейроны,
управляющие по отдельности ресничками левой и
правой половины ноги (это обеспечивает поворот
моллюска). Нарисуйте нейронную сеть, которая обе-
обеспечивала бы описанное поведение моллюска при
низких температурах. Постарайтесь затем так ус-
усложнить эту сеть, чтобы она описывала его поведе-
поведение при повышении температуры воды.
В современной науке есть так называемая теория автома-
автоматов. В ней рассматриваются устройства* имеющие некоторое
число входов ш. некоторое число выходов. Такими автоматами
являются ш автомат для размена денег в метро, и вычисли-
вычислительная машина. Б теории автоматов рассматривается мно-
жество разных задач, доказываются теоремы, имеющие общее
значение. Большинство задач, которые мы предложили зыше,
з теории автоматов называются задачами о синтезе автоматов.
Существуют достаточно общие правила, которые позволяют
яз элементов с заданными свойствами построить автомат,
удовлетворяющий некоторым заданным условиям.
Можно привести такую аналогию. Существуют арифмети-
арифметические задачи, для решения которых нередко требуется немало
смекалки. Но те же самые задачи можно решать по стан-
стандартным правилам, если использовать сведения из алгебры,
а составлять для этих задач соответствующие уравнения. То-
25

чао таз; жа зны яредлсгэжлзг з«ш зро&знть смекалку s прн-
дуиать s предложенных выше задачах pasi-гые нейронные сети.
Но геям сформулзгрюзать эти задачи как задачи синтеза авто-
автоматов? тс они будут решаться so некоторым общная правилам»
ЗЭ Т'ЕббуЯ ЭЕЗОЙТЭбТй.ТЗЛЫЯССТЗЕ.
Другой звтерееной задачей з теории автоматов является
задача звдзнтзгфикацгш; воздействуя на разные входы автомата
и наблюдая его ответы, надо установить зга возможную внут-
внутреннюю схему,
SL1.L Мхшшо лж с псмощьш кажах-тс опытов установить,
с какой схемой мы ммеем дело з задаче о бабочке
крапивнице: со схемой, згзобралсезшсй на рке. 8г илж
оо схемой, приведенной на рис. 7?
Теорией автоматов занжмаготея обычно математики. Но ш
нервд г12зженер.агяя часто возникают задача» очень близкие к
тэм, которые зам 'пришлось репзать выпзз. Так, конструируя
лифт, инженер, долзкен придумать глвктричеез^ую схему, в
которой есть разнообразные ^реденторы* (например, рецептор.,
сообщающей, что в лггфте есть груз; рецептор, сообщающей,
открыта шш -закрыта дварь лифта; рецептор, который ссоб-
гцает., что лифт находззтел sa зятом этаже, ш др.), есть «ко-
«командные нейроны» — khgossj с помощью которых осущест-
осуществляется вызов лифта шлж дается команда лнф'гу идти аа за-
заданный этазк» Б системе управления лмфтош замеэотся и
пороговые элементы ее стукенчатой характеристикой — это
реле (у реле ес*?ъ пороговый ток,, тгри' kotobors оно ^зозбумада-
ется», т. е, замыкает контакт; тогда через контакт идет шль-
зый ток постоянной зелачины).
2.IS. Придумайте -знейвеннуьз ееть;-» которая обэеизчнла
бы ,:3рава:льнсе поведение лифта (для пвостоты ечм-
тайт-Эа чте дом имеет всего Tpss этдз5сз.1.
программу к задаче 2.12 а сопсстшеьтэ ее s ссотзвт-
стз^^ющей нейронной с&тьго.
2Л4. Продумайте гамм какое-то псведенззе ж-хвотгюго ,г
нейрояну^о сеть» которая обеспечивала бы такое по-
зеденэ?е..
28

даетушшяже о ?
Решив предложенные зам задачи, зы можете задать такой
запрос: конечно, построение нейронных сетей вполне ин-
п'эресная забава., но какое отношение она имеет к реальной
нервной системе? Ведь ясно, что реальные нейроны различны,
з. у нас они все одинаковы; точно так же сильно отличаются
за разные синапсы. А что, собственно, означает ситуация, когда
нейрон з наших сетях все время выдает еигкал? равный едзя-
:-шце? Ведь реальные нейроны работают отдельными импуль-
импульсами» которые длятся тысячные доли секунды.
Что можно сказать по поводу такого рода вполне законных
сомнений? Конечно, мы использовали в нейронных сетях очень
грубые модели нейронов, упрощенные синапсы. Реальная
нервная система гораздо сложнее. Но с помощью упрощенных
моделей мы смогли понять, как з принципе нервная система
может управлять теми или иными простыми формами пове-
Вообще з науке постоянно приходится использовать упро-
упрощенные модели, отвлекаться от многих деталей, чтобы сначала
понять самые основные, грубые черты явления, а уж потом
постепенно, учитывая более тонкне детали,, добываться более
глубокого понимания. Например, Ньютон вывел из закона
всемирного тяготения законы движения планет (он показан,
что онм должны двигаться по эллипсам, нашел зависимость
периода обращения от параметров орбиты и др°). При этом
Ньютон учитывал только притяжение между данной планетой
н Солнцем, но не учитывал взаимного прнтяженмя планет.
Впоследствии учет такого притяжения позволил уточнить
результаты Ньютона т открыть новые планеты.
Ньютон открыл основные законы механики, но в дальней-
дальнейшем оказалось, что для высоких скоростей движения, сравни-
сравнимых со скоростью света, эти законы требуют уточнения.
Научные теории — это всегда более или менее упрощенные
модели, соответствующие нашему уровню знаний. До мере
развития науки эти модели совершенствуются ж уточняются.
Рассмотренные нейронные сети з самой грубой форме мо-
делпровалы работу мозга, показызая, как он в принципе может
управлять поведением. В § 8 мы немного приблизимся к
реальной нервной системе, используя более точные модели
нервных клеток.
27

ПРИЛОЖЕНИЕ
В прилежании приведены задачи 2.15—2.27. Эти задача
придумали ученики биологического отделения BBMUI
в 1990 г., отвечая на вопрос ззд&чи 2.14. К жаждой задаче
дается решение. Но попробуйте сначала решить их самостоя-
самостоятельно, а затем сравните свой результат с решением автора
задачи. Если в приведенном решении есть недостатка или
ошибки, укажите их.
2.15. (Давиденко Яра), Лягушка хватает только ааеязше
летящие объекты, имеющие темную окраску (более
темный фон о чем окружающая среда), В остальных
случаях она не проявляет хватательного поведения.
Схема, обеспечивающая таксе поведение лягушки»
приведена на рис. 11.
Tgi—\
i мкл)
Рже. 11. Нейронная ееть — рзшезне задачи 2.15:
П — нейрон» сообщающий, что объект движется; Д — детектор
окраски предмета (работает,, когда предмет темнее фона); Р —
детектор размеров движущегося предмета; МНЛ — мотонейрон «ло-
«ловить»; МН5 — мотонейрон «не ловить»
Если лягушка зидит движущийся -объект, то от клетка П
через вставочный нейрон адет импульс к МНЛ- Однако если
возбуждается хлетка Д шга клетка Ро то они передают им-
импульсы на свои тормозные нейроны (вставочные), которые
блокируют аштернейрон, принадлежащий езяэи клеток
П—ИМ— МНд. Клетки ? и Д связаны с МНН зозбуждазошей
связью.
23

Желт сджш. зштеркейрон р
нзшать импульсы от разных рецеп-
рецепторов Д ж Р, то схему можно упростить
Щавидетео Ира}. Чайки спо-
способны красть ж поедать яйца
своих сородичей. Чайка-гра-
Чайка-грабитель различает яйца по
форме га определяет, на
какой территории — своей
зали чужой — они находят-
находятся. Для наешаснзающей дтмщы кри возвращении в
гнездо выкатившихся яиц необходима информация
о жлшчтйше, окраске и форме, т. е. яйцо для птид
обладает четырьмя разными наборами сигнальных
телей: форма, величина, окраска, иринад-
рь зс определенной территории (сзоей нли чу-
чужой). Схэаяа, обеспечивающая такое аоведенае чай-
ки, изображена на рис. 18.
Ряс. 12» Другой вариант
решакия задачи 2.15
В —
МК
Рис. 13. Нейронная сеть — решение задачи 2,18:
нейроны, сообщающие о чужой территории; Ф — о форме яйца;
о величине яйца; О — об окрасхе яйца; МНв — мотонейрон о есть г;
— мотонэйрон «высиживать»; МНд — мотонейрон «бросать» (оставить
яйцо з покоа)
29

Для удобства описания работы схемы пронумеруем неко-
некоторые интернейроны. ШЖ\ зозбузкдается только з том случае,
если он получает импульсы от клеток Т и от Ф. Но отдельности
импульсы от этих клеток зозбудятъ вставочный нейрон не
могут — высок пороговый уровень. ИНб возбуждается, если
получает вместе импульсы от клеток Ф, В s О, Рассмотрим
три случая, обобщающие асе остальные.
1. Возбуждаются рецепторы Ф ss T и какой-нибудь еще:
или В, или О. Импульсы, поступившие от клеток Ф ш Т,
возбудят иятернейрон ЖЩ. Интернейрон связан с МНе воз-
возбуждающей связью. Также от MHi импульс поступит к ШШ.2,
возбудит его, в результате чего тот заблокирует ИНз и ИЩ.
Итак, если в цепи будет участвовать клетка Т, то может быть
два варианта поведения: 1) птица бросит яйцо; 2) если будет
еще участвовать в цепи клетка Ф — съест его.
2. Возбуждаются рецепторы Ф, В, Q. Так как MHi не
возбудится от импульса, идущего только от клетки Ф, МНе
Рис. 14. Нейронные сети (а, б) — варианты решения задачи 2.17:
о — РЗ сообщает об опасности, что ведет я принятию стойки; б —
РЭ сообщает о првближеннн или об удалении хищника, что приводит
к разным формам описанного выше поведения:
РЗ — зрительный рецептор; МНО — мотонейрон регистрации опас-
опасности; МН0 — мотонейрон принятия стойки; МН,, — мотонейрон,
регистрирующий удаление хищника; МНП — мотонейрон прибли-
приближенна хищника; МНН — мотонейрон принятия обычного положения;
ЫНВ —• мотонейрон выделения ядовитого секрета; ИН — антарнейрон
30

угзгэ не сработает, Жжшу лъьы от хзатох Ф, В м О поступают
на вставочные нейроны 3„ о, 8. ЖНз зозбуждавтс^ н передает
зшнулье на Hiig, который тормсззат МН?, а к ilbLT нсступает
дашулъс gt MHs- Далыте шмпуяъе от MHg здет к МН3 (сзазь
зоэбуж дающая).
3, Возбуаэдаютея ггакке-нзабудь два нейрона ;а@ Ф} Б, О.
Тогда возбуднтся MHg, который аерэдаегг импульс на ИНт» а
затем замшульс посгуя&ет на МНб ж зозбуждает эго.
2.17= {Я-лаелез Рсижан), Я придумая поведение жука черно-
чернотелка. Жогда жук зядзгт опасность, он принимаэт
стойку, поднимал зверх конец брюшка. Если хищ-
хищник нриблэгзсается» чернотелка выпускает ядовиты*:
секрет жзлез, отнугавая хищязка. Если хищкиг-с
удаляется, чернотелка нршшмает евсе сбычаое по-
положение. Мае каз<кэтеяэ что поведение чернотелки
можно опнсать с помощью нейронной сети двумя
способами (рис. 14).
2.18. (Малков Алексеи}. У еобажн з лаборатории выработа-
выработала следующие рефлексы: если собаке давал ж пищу
без жакшс-лйбо сигналов, тс у нее наблюдалось елзэ-
нсотделензга, м пищу она ела; подача светового сиг-
сигнала вызывала слюноотделение независимо от на-
шщзг; звуковой сзагнал еага до себе не давал
Рыс, 13, Нейронная 2з™ь — решение задами 2.13:
- группа нейронов, регулирующих слюноотделение; ME —
мотонейроны» управляющие мыпщамм cooaets нри зде

ннкаких $&ак!щж} подача его вместе с пищей на
слюноотделение тоже не влияла, к собака пищу не
ела. Подача же вместе с пищей и звукового, и
светового сигнала вместе вызывала подавление слю-
слюноотделения, но собака пищу ела. Предположим,
что у собаки есть нейроны, которые возбуждаются,
если собака видит пищу (П), если собака видит
световой сигнал (СС) и если слышит звуковой сигнал
(ЗС). Тогда нейронную схему, определяющую пове-
поведение собаки, можно изобразить так, как показано
на рис. 15.
В этой схеме МНг может возбудиться только ери
действии на наго двух возбуждающих синапсов,
ИНз — при действии на него трех возбуждающих
синапсов.
(Семенова Оля). Предлагаю не очень сложное пове-
поведение: голодная собака может есть и суп, и мясо,
причем, если она видит и суп, и мясо, она съедает
сначала мясо. Если собака находится в состоянии
средней сытости, то съедает только мясо. Если она
сытая, то не ест ничего. Решение приведено на
Рис. 18. Нейронная сеть — решение
задачи 2.19:
М — нейрон, определяющий наличие мяса;
С — нейрон, определяющий наличие супа;
Г — нейрон, определяющий голод собаки;
О — система управления поеданием пищи
32

.20. {Ситников®, Жзня). Допустим, пастух вызел на па-
пастбище ленивую корову. Корова ведет себя так: если
радом пастух, то она стоит и ест траву, а если рядом
нет пастуха, то она ложится и начинает пережевы-
пережевывать жвачку. Но если корова насытилась, она ни-
никогда не станет есть тразу, она будет только жевать
жвачку, даже если рядом пастух. На рис. 17 при-
приведена схема, содержащая решение этой задачи.
Рис. 17. Нейронная сеть — решение задачи 2.20:
НХХ — рецепторы, сообщающие об отсугстзяи пастуха; С — рецепторы, сооб-
сообщающие о том, что корова наелась; ЕП — рецепторы, сообщающие о том, что
есть пастух; МС — мышцы, с помощью которых корова встает; ЖМ — жева-
жевательные мышцы
Если пастух есть, то возбуждаются мышцы тела
коровы, она зстает и начинает есть тразу. Но если
корова уже сыта, то затормозятся мышцы тела, и
корова будет лежать ш жевать жвачку. Даже если
рядом будет пастух, то корова не встанет, так как
торможение и возбуждение сложатся* и в итоге мыш-
мышцы не возбудятся. Если рядом нет пастуха, то корова
не встанет, а будет жевать траву.
3 - М. Б. Беокинблит 33

2.21. (Ковалева Инга). Известно, что еглш молодой самец
бабуин увидит корм, а рядом с нша других обезьян
не будет, то съест его. Если бабуин увидит корм и
приближающегося к нему вожака, то уступит ему
дорогу. Увидев другого молодого самца, бабуин при-
примет угрожающую позу, а если заметит последнего
идущим вместе с вожаком,- то отбежит с угрожаю-
угрожающим видом. -Обозначим рецептор, реагирующий на
присутствие вожака, буквой В, на другого бабу-
бабуина — М, спонтанно-активный нейрон, стремящий-
стремящийся все зреаю создать угрозу, — У, СА5 а шугонейрон,
отвечающий 'за отход, — Н
ант решения призеден на рис.
Рис. 18. Нейронная сеть — решение задачи 2.21
{Токарев Алексей). Пример: курица сидит на яйцах.
Когда она сыта — сндат, когда голодная — отлуча-
отлучается ненадолго за пищей, но через определенное
время возвращается, дажэ если не наелась, так как
яйца остынут. Если появляется хищник, например
34

0
кошка, курица сидит на яйдах, даже если и голодна.
Решение задачи показано на рис. 19.
1) Если курица сытая, то она сидит на яйцах
(рецептор Я задействован).
2) Если курица голодная, то Г возбуждает ННь
который тормозит МНГ, и Г возбуждает МНП —
курица идет за пищей.
3) У курицы кончилось время «обеденного пере-
перерыва» и задействуется В — вместе с Я возбуждает
ИНг, который возбуждается, если на него действуют
сразу два рецептора, а ИНг тормозит ИЕц — рас-
растормаживается МНГ, и у курицы пропадает желание
гулять и появляется тяга сидеть в гнезде.
4) Когда появляется кошка, то К совместно с Я
возбуждает ИНг, который тормозит МНП и ИНь
тормозящий МНГ.
Рис. 19. Нейронная сеть — решение задачи 2.22:
Г — рецептор голода; Я — рецептор наличия яиц; В — рецептор, измеря-
измеряющий время; К — рецептор наличия кошки; МНГ — мотонейрон пребывания
в гнезде; МНП — мотонейрон похода за кормом; ИЩ и ИНг — интернейроны
Послесловие. В данном случае повторное действие другого
синапса на любой из нейронов может не тормозить или не
35

возбуждать его? а просто возвращать э ессгоянне иокся, з
котором он был до действия на него « первого * сзш&пеа; в этом
состоянии его свойства проявляться не будут.
2.23. (Дубровский Тимур). Дождевой червь зедгт е©бя сле-
следующим образом: если холодно, он узоязает з глубь
земли. Если тепло и влажность высокая, он выпол-
выползает на поверхность. Если тепло, но влажность низ-
низкая, уползает - в глубь зевали. Если светит солнце,
то червь, показавшись на поверхности земли, узгол-
заэт в землю.
Рис. 20. Нейронная сеть — решение задачи 2.28
Составлю нейронную сеть дождевого чэрвя. Допу-
Допустим, у него есть рецепторы, реагирующие на солн-
солнце — С, на холод — X, на тепло — Т, на низкую
влажность — Вне на высокую злазкнссть — Вд, и груп-
группы мотонейроноз, отвечающих за уползание з землю
и выползание на поверхность. Уползание з землю —
МНУ, выползание на поверхность — МНВ° Соответ-
Соответствующая нейронная сеть изображена на рис. 20,
где ИН — интернейрон, МН — мотонейрон.
(Лосев Игорь). У многих насекомых существуют
мышцы, которые могут закрывать и открывать ды-
дыхальца трахейной системы. Обнаружено, что чем
36

Рис. 21. Нейронная сеть
задачи 2.24
решение
тяжа злазхнееть, тем
сжльнае закрыты ды-
халъца. В трахейных
путях у этих заееко-
мьзх имеются рецеп-
рецепторы, чувствительные
к влажности входя-
входящего в них воздуха.
При повышении со-
содержания НгО во вхо-
входящем в трахейные
пути воздухе реаги-
рузот рецепторы, бо-
более чувствительные
к влажности возду-
воздуха, — Pis (рис. 21), при большем повышении влаж-
исетн входящего воздуха реагирует менее чувствитель-
чувствительный рецептор злажнссти ?2в я т. д.
Рецепторы влажности при возбуждении подают
импульсы на мотонейрон МНо» руководящий откры-
ваниева дыхалец трахей, возбуждая их. Если влаж-
влажность мала, то возбуждаются рецэиторы5 реагирую-
реагирующие только на малые концентрации НгО в воздухе.
В результате шшпульсы, которые подаются на мото-
мотонейроны, шалы, но достаточны для преодоления по-
порога возбудимости, и импульсы на мышечные во-
волокна поступают с низкой частотой. Следовательно,
вступят в работу только самые мелкие мышечные
волокна. При возбуждении Рь на МН3 поступят
импульсы, возбуждающие МНз — мотонейрон, за-
закрывающий дыхальца. При этом работа Pis акти-
активизирует (возбуждает) вставочный нейрон, тормо-
тормозящий' работу СА. В итоге дыхальца частично за-
крсзотея, так как ослабевает работа СА, возбужда-
возбуждающего МНо9 55» наоборот, возбуждается МН3. Ана-
Аналогично при вступлении в работу ?2з, ?3з и т. д.
происходят дальнейшее торможение СА и активи-
активизация МН35 а з результате — дальнейшее закрытие
37

.25. {Дубровский Дмитрий), Допустим, на какой-то пла-
планете живет некое существо — «прыгун». «Прыгун»
ведет себя следующим образом. Если светло,, он
прыгает (и довольно высоко) и ест плоды, растущие
на деревьях. Если темнеет, «прыгун» перестает пры-
прыгать и некоторое время ползает по земле, поедая
плоды, упавшие с дерева. Если плоды заканчивают-
заканчиваются, «прыгун» закапывается в землю, правда, не
полностью. Утром, когда солнце освещает «прыгу-
«прыгуна», он опять начинает прыгать. Составлю нейрон-
нейронную сеть «прыгуна*. Предположим, у него есть ре-
рецепторы, реагирующие на свет — С, на плоды — П,
на темноту — Т, и группы мотонейронов, отвечаю-
отвечающих за поедание плодов — МЫщ» за прыганье —
МНП, за ползание — МНПолз? за закапывание —
МН3. Нейронная сеть будет такой, как на рис. 22.
В этой сети, я предполагаю, закапывание активи-
активизируется спонтанно-активным нейроном. Закапыва-
Рис. 22. Нейронная сеть — решение задачи 2.25

шше блокируется светом и наличием плодов. ЕЕолза-
. шше же активизируется наличием темноты.
2.26. (Мяеоедова Светлана}, Когда птица прилетает к
гнезду, она отдает корм птенцу лишь а том случае,
если видит, что это именно ее птенец, и слышит!,
что он кричит. Если она видит в гнезде любого
птенца, но не слышит крика, она сидит на краю
гнезда; если видит,, что птенец чужой, и слышит
крик, то она улетает, Решения задачи приведены
на рис 23,а„б.
Рис. 23. Нейронные сети — варианты решения задачи 2.26:
К — нейрон, сигнализирующий о крике птенца; С — нейрон, сообщающий
о том, что птенец свой; Ч — нейрон, сообщающий о том, что птенец чужой;
Д — нейрон, заставляющий давать птенцу пищу; СИД — сидеть, Л — летать
2.27. {Лупугиор Михаил). Акула Дидм ведет себя так: 1) не
нападает еа дельфинов; 2) нападает на морских рыб,
на аквалангистов, если они не вооружены колю-
колющимся предметом иди ее да возле них нет дельфинов.
39

Элементы, используемые ори построении схемы:
Р — нейрон, сообщающий, что существо, находя-
находящееся перед акулой, является морской рыбой, ко-
которую не следует бояться; А — нейрон, сообщающий,
что перед акулой находится аквалангист; Д —
нейрон, сообщающий, что перед акулой находится
дельфин; К — нейрон, сообщающий, что у аквалан-
аквалангиста есть в руках колющий предмет (копье, гарпун
и др.). Акулой управляют два тнпа мотонейронов:
МНН — мотонейрон нападения и МНП — мото-
мотонейрон покоя.
Рис. 24. Нейронная сеть — решение задачи 2.27
Поведение акулы описывается
приведенной на рис. 24. Нам
рецептора и четыре интернейрона..
сетью,
четыре

Рассмотрим!5 что произойдет с реальной нервной клеткой,
через которую пропускается постоянный ток. Постоянный ток
меняет потенциал на мембране нейрона и, когда сдвиг потен-
потенциала достигает порога,, зызызает возбуждение нейрона. После
того как в нейроне возникает импульс, потенциал возвраща-
возвращается к уровню покоя, но продолжающий действовать посто-
постоянный ток вновь возбуждает нейрон ж т. д. Таким образом,
под действием постоянного тока з нейроне возникает ритми-
ритмический разряд. Чем больше сила тока, пропускаемого через
нейрон, тем зыгне частота разряда нейрона (рис. 25).
Но ритмический разряд возникает не только в искусствен-
искусственных условиях под действием постоянного тока. Так, в рецепто-
рецепторах в ряде случаев тоже возникает ритмический разряд. На-
привяер8 в механорецепторах, которые находятся в мышцах,
V s
/->
A ti
/\ '/
I v 1
\
\
1
A
1
j 1
I 1
1 '
f/
K\
!
i A 1
i jxX
-г /-ТТ
u 1 \\
к
\
—LXr
Рис. 25, Зависимость частоты ритмического разряда нейрона от силы
деполяризующего тока. По оси абсцисс — 'время, но оси ординат —
мембранный потенциал:
Ур — пороговые потенциал. Сплошная кривая — раздражающий ток
сильный,, мембранный потенциал быстро достигает порогового значе-
значения; пунктирная кривая — раздражающий ток слабый, мембранный
лотенцзал медленнее достигает порогового значения, з результате воз-
возникает ритмический разряд более низкой частоты
41

Элементы,, используемые шрш построении схемы:
Р — нейрон, сообщающий, что существо, находя-
находящееся перед акулой, является морской рыбой, ко-
которую не следует бояться; А — нгйрон, сообщающий,
что перед акулой находится аквалангист; Д —
нейрон, сообщающий, что перед акулой находится
дельфин; К — нейрон, сообщающий, что у аквалан-
аквалангиста есть в руках колющий предмет (копье, гарпун
и др.). Акулой управляют два типа мотонейронов:
ИНН — мотонейрон нападения и МНП — мото-
нейроы покоя.
Рис. 24. Нейронная сеть — решение задачи 2.27
Поведение акулы описывается нейронной сетью,
приведенной на рис. 24. Нам потребовалось четыре
рецептора и четыре интернейрона.

'ЙРОНЫ С ЛИНЕЙНОЙ ХАРАКТЕРИСТИКОЙ
Рассмотрим, что произойдет с реальной нервной клеткой,
через которую пропускается постоянный ток. Постоянный ток
меняет потенциал на мембране нейрона и9 когда сдвиг потен-
потенциала достигает азорога, вызывает возбуждение нейрона. После
того как з нейроне возникает импульс, потенциал возвраща-
возвращается к уровню покоя, но продолжающий действовать посто-
постоянный ток вновь возбуждает нейрон и т. д. Таким образом,
под действием поетоянного тока з нейроне возникает ритми-
ритмический разряд. Чем больше сила тока, пропускаемого через
нейрон, тем выше частота разряда нейрона (рис. 25).
Но ритмический разряд возникает не только в искусствен-
искусственных условиях под действием постоянного тока. Так, в рецепто-
рецепторам в ряде случаев тоже возникает ритмический разряд. На-
Нав механорещенторах,, которые находятся в мышцах,
Рис. 25. Зависимость частоты рнтгетческого разряда нейрона от силы
деполяризующего тока. По оси абсцисс — аремя, но оси ординат —
мембранный потенциал:
Vp — пороговый потенциал. Сплошная кривая — раздражающий ток
сильный, мембранный потенциал быстро достигает порогового значе-
значения; пунктирная кривая — раздражающий ток елабый, мембранный
хготенцхал медленнее достигает порогового значения, з результате воз-
возникает ритмический разряд более низкой частоты
41

частота разряда тем выше, чем сильнее растянута мышца.
Сведения о той величине, которую измеряет рецептор, пере-
передаются з мозг в этом случае частотой импулъсации.
На любой нервной клетке оканчивается обычно много си-
синапсов. Если работает достаточно заметная часть этих синап-
синапсов, то в мембране открыто много каналов, через которые
течет ток. Если эти синапсы возбуждающие, то такой ток
приводит к возникновению ритмического разряда нейрона.
Точно так же если на нейрон действует всего несколько си-
синапсов, но к этим синапсам приходят достаточно часто нервные
импульсы по аксонам, .то из синапсов выделяется достаточно
много медиатора, и иостсннаптичеекий нейрон тоже начинает
разряжаться ритмически.
Таким образом, в качестве выходного сигнала нейрона ес-
естественно рассматривать частоту его разряда. Эта частота
может принимать любые значения, лежащие в диапазоне от
нуля до некоторого предела. Дело а том, что нейрон не может
разряжаться с как угодно высокой частотой. Один нервный
импульс занимает примерно тысячную долю секунды. Значит,
нейрон не может разряжаться с частотой, большей, чем тысяча
импульсов в секунду, иначе импульсы должны были бы как-то
налезать друг на друга, что совершенно невозможно. Но в
действительности нейрон не вгожет работать даже ж с частотой
1000 имп/е. так как после каждого импульса возникает не-
некоторый иериод невсзбудимости (его называют рефрактерным
периодом). И следующий импульс аюжет возникнуть только
через некоторый промежуток времени после предыдущего.
Основываясь на этих сведениях,, рассмотрим следующую
модель работы нейрона. Внешнее воздействие (в случае рецеп-
рецепторов — это действие света, запаха и т.д., а в случае других
нейронов — это действие синапсов) может 'непрерывно менять-
меняться в некотором диапазоне. Если величина этого воздействия
мала, нейрон не отвечает на него. Если же величина воздей-
воздействия превышает некоторый порог, нейрон начинает
ритмически разряжаться, причем частота разряда линейно
возрастает с увеличением возбуждающего влияния. Наконец,
при слишком больших воздействиях достигается некоторая
максимальная частота разряда (наступает, как говорят, насы-
насыщение) и при дальнейшем увел!«чении воздействия выходная
частота разряда нейрона не меняется (рис. 26).
42

уровень насыщения
Рис. 26. Линейная характеристика
нейрона с насыщением:
х — сумма частот, поступающих на входы
нейрона, у — его выходная частота
Рис. 27. Идеализированная
линейная характеристика
нейрона
Крутизна линейной части характеристики может быть
разной. Если линейная часть нарастает очень круто, то мы
получим пороговый элемент со ступенчатой характеристикой.
Таким образом, характеристики нейронов, исследуемые нами
з § 2, можно рассматривать как частный случай нейронов с
линейной характеристикой.
Дальше мы примем следующие упрощения: 1) будем считать
порог нейрона бесконечно малым и пренебрегать им; 2) будем
считать, что линейная часть характеристики идет под уг-
углом 45°, т.е. если по синапсу к нейрону поступает частота х,
то выходная частота импульсации в его аксоне у=х; 3) будем
считать, что величина внешних воздействий всегда меньше
насыщающей.
Тогда мы получим характеристику нейрона, изображенную
на рис. 27.
Что же умеет делать такой нейрон? Пусть по одному входу
на него приходит сигнал х\, а по второму входу сигнал х2
(т. е. первый входной нейрон разряжается с частотой хи &
второй входной нейрон — с частотой х2), тогда суммарный
сигнал, приходящий к нейрону, будет равен хх+х2. А выходной
сигнал такого нейрона (у) равен входному, т. е. у = хх +х2.
Если второй входной нейрон — тормозной, то выходной сигнал
будет равен разности Х\ — х2. Тормозным сигналам мы будем
приписывать знак минус.
Чем же отличаются такие нейроны с линейной
характеристикой от нейронов со ступенчатой характеристикой,
рассмотренных в § 2?
43

Нейроны ео ступенчатой характеристикой колззг склады-
складывать только целые числа (положительные и отрицательные),
а затем сравнивать сумму с порогом ж, если сумма выше
порога, давать выход, всегда ршный единице. Впрочем, эту
выходную единицу нейроны: со ступенчатой характеристикой
могли умножать на целое число: это ■гасло было равно числу
синапсов, которые они образовывали на нейрскз-машеяи.
Нейроны с линейной характеристикой могут складывать
любые действительные числа {положительные ж отрицатель-
отрицательные), затем они сравнивают эту сумму с нулем. Если сумма
больше нуля, то они выдают выходной сигнал, равный этой
сумме. Как и нейроны со ступенчатой характеристикой, они
могут умножать выходную величину на целое число (это цело©
число разно числу синапсов, которое образовано на нейроне-
мишени). Таксе умножение будет производиться, если считать,
что все синапсы совершенно одинаковы. В ряде случаев в
модели нейронных сетей вводится величина» которую назы-
называют весом синапса, Если вес синапса равен единице, то такой
синапс передает сигнал без изменения; если вес синапса равен
1,5, то сигнал умножается на 1,5, ж т. д. Но мы будем считать,
что вес всех синапсов равен единице,
3.1. Мы выбрали модель нейрона, для которой у =х,
иными словами, наклон характеристики разен 45°.
Какой формулой будет описываться зависимость
у = / (х) , если характеристика имеет другой угол
наклона?
8.2. В действительности формула у — х неверна. Ведь
если х — отрицательная величина, то у = 0. Попро-
Попробуйте найтш правильную формулу для выбранной
нами модели нейрона.
Давайте теперь посмотрим, что могут делать сети
из нейронов, имеющих характеристику, кагс на
рис. 27.
3.8. На рис. 28 приведена нейронная сеть. Найдите, зна-
значение выходной величины у лри условии х-х >х2-
Найдите значение величины у при условии %\ < хг.
Какую же операцию осуществляет эта нейронная
сеть?

Рне. 23. Изйроаная sera, к задаче 3.3
1.4. -Ответьте на те же вопросы, что и з предыдущей
задаче, для аейрснной еети5 шрззэедэнной на рис. 20.
г-Ю—,
Рас. 29. Нейронная сеть к задача 3.4
3.5. Придумайте нейронную сеть,, которая дает выходной
сигнал только при уеловзяа., когда хг=х2,
Рис. 30. Нейронная сеть к задаче 8.5
Решение зтей зад&чз зрззведэно на рис. 30. Такая
сеть будет давать на выходе сигнал, когда х1=х2,
ейлг^ тормозной синапс на выходном нейроне дает
очень сальнее торможение, гораздо большее, чем
сигналы хг н х2 (такие еинапсы называют
запрещающими). Однако з более реальных случаях
45

вес тормозных синапсов лишь в конечное число раз
больше веса возбуждающих синапсов.
3.6. Пусть число тормозных синапсов на выходном ней-
нейроне в схеме (см. рис. 80) разно 2И. Тогда сеть будет
пропускать сигналы, даже если ху и х2 будут не в
точности равны друг другу. Найдите «полосу
пропусканиям, т. е. величину отличия входных сиг-
сигналов друг от друга, при которой сеть выдает вы-
выходной сигнал в зависимости от величины п.
Такие схемы, как на рис. 28 — 30, называется схемами
непрерывной логики. Схема на рис. 28 пропускает на выход
наибольший сигнал из двух входных; она обозначается так:
у = тах(^х, зс2). Схема на рис. 29 пропускает наименьший сиг-
сигнал из двух входных; она обозначается так: у = min (xlf ac2).
Наконец, схема на рис. 30 обозначается так: у = eqv (хх, ж2);
(eqv — эквивалентность).
Эта и многие другие схемы нейронной логики были при-
придуманы советским ученым Н. В. Позиным. Дальше мы увидим,
как схемы непрерывной логики могут использоваться для
решения разных биологических задач.
3.7. Придумайте схему, которая имеет три входа и дает
выходной сигнал только при условии хх=х2 = ха.
Детекторы ж нейронные еэтва
Во многих задачах § 2 мы использовали нейроны-детек-
нейроны-детекторы; например, в задаче 2.8 про собаку Бетти нам потре-
потребовались детекторы мяса, миски и хозяйки. Там мы не об-
обсуждали вопрос о том, как могут быть устроены такие детек-
детекторы. Сейчас мы рассмотрим этот вопрос. Но ограничимся
лишь детекторами, позволяющими обнаруживать более про-
простые признаки, чем «хозяйка» или «мясо на столе».
Рассмотрим задачу, связанную с цветным зрением.
Известно, что животное, обладающее всего одним типом
зрительных рецепторов, не имеет цветного зрения. Пусть име-
имеется животное, обладающее двумя типами колбочек (как даль-
дальтоник). Каждая колбочка соединена со своим нейроном. Час-
Частоты разрядов таких нейронов, соединенных с разными типами
колбочек, по-разному зависят от длины волны света (рис. 31).
46

400 500 800 700
фиолетовый зеленый желтый оранжевый красный
,нм
Рис. 31. Зависимость частоты разряда нейронов, соединенных
е разными тнпшяи колбочек, от длины волны света:
по оси абсцисс — дещна зояны света; по оси ординат — частота
разряда соответствующего нейрона (хх ж х^
Кривая хг дает частоту разряда для нейронов, соединенных
е одним тазтом колбочек, а кривая х2 — для нейронов» связан-
связанных со вторым типом колбочек.
Под осью абсцисс указаны цвета, которые видит человек,
когда на его глаз падает свет с соответствующей длиной волны.
5.8. Приведите две причины, по которым организм с
одним типом колбочек, имеющих такую же кривую
спектральной чувствительности, как на рис. 81, не
сможет различать цвета.
Нервная система нашего гипотетического живот-
животного с двумя тинааям колбочек определяет цвет, срав-
сравнивая сигналы от нейронов типа 1 ж типа 2. Будем
называть эти цвета так же, как цвета, воспринима-
воспринимаемые человеком яри той же длине волны света.
3.9. Придумайте нейронную сеть, которая реагировала
бы на желто-оранжевый цвет (при котором пересека-
пересекаются кривые для хх и Xj) и не реагировала бы ни
на какие другие цвета.
Очевидно, что выходной нейрон этой сети и будет
являться детектором желто-оранжевого цвета.
8.10. Придумайте нейронную сеть, которая реагировала
бы только на желтый цвет, когда частота работы
нейронов типа 1 ровно в два раза больше, чем ча-
частота работы нейронов типа 2.
47

.11. Какой должна быть нейронная сеть для определения
цвета, если при этой длина волны частота работы
нейронов одного типа з 2,5 раза больше, ^ем частота
лмпульсацми нейронов второго типа?
Р
Рассмотрим еще одну задачу, связанную с детекторами в
зрительной системе. Пусть поле зрения делится на две коло-
вины — левую и правую. Пусть на каждую половину доля
зрения проецируется светлый круг некоторого диаметра
(рис. 32). Чем больше диаметр круга, тем больше рецепторов
возбуждается. Сигнал от рецепторов поступает к нейронам-
сумматорам, так что частота работы этих сумматоров хг и х2
пропорциональна площади кругов (для проетотьа будем считать
коэффициент пропорциональности равным единице). Итак, у
нас есть два входных сигнала: первый равея площади первого
круга, второй — второго.
Ряс. 32. К задаче о нейронной сети, определяющей
соотношение площадей двух окружностей
3.1
Придумайте нейронную сеть, на входе которой были
бы сигналы, приходящие от нейронов-сумматоров,
а на выходе стояли бы три нейрона-детектора. Пер-
Первый нейрон работает тогда, когда хг >х3, второй
когда хх — х2, н третий — когда х., < х2.
3.13. Придумайте нейронную сеть, на выходе которой сто-
стоит детектор, обнаруживающий круг, размеры ко-
которого (S) лежат в некоторых заданных пределах
S, < S < S,.

8.14, Продумайте нейронную сеть, на выходе которой сто-
зат детектор, реагирующий на зсэ мелкие предметы
(т. е. такие объекты, площадь E) которых меныпе
некоторой 8 < 5-J.
ЗДэ, Придумайте нейронную сеть, на выходе которой ето-
эге детектор, реагирующий только на большие объ-
екты, площадь C) которых больше заданной (8 >S1).
Известно* что у амфибий уже на уровне сетчатки имеются
зэйвоны-детекторы, которые обнаруживают мелкие движущи-
движущиеся предметы (добычу); эти детекторы запускают реакцию
охоты. Имеются у амфибий и другие детекторы, которые реаги-
руют зга крупные движущиеся предметы (на потенциальную
опасность) и запускают реакцию бегства. В первом ирибли-
жешш продуманные нами сети задач 3.14 и 3.15 могут рае-
аматризаться как модели детекторов амфибий.
Ясно, что придуманный намн «детектор мелкого предметам
(задача 3.14) реагирует только на изображение предмета на
сетчатке. Он не может отличать маленький и близкий объект
от большого и далекого {тж. изображения будут иметь одина-
одинаковые размеры на сетчатке)» Но было бы хорошо заранее
отличить добычу, находящуюся рядом, от врага, который пока
еще находится далеко.
8.16. Придумайте сеть, детектор, которой реагирует только
на маленькзге предметы, независимо от того, близко
или далек© от глаза находятся эти предметы,
ШЛ7. Животные определяют направление на источник
звука, жспользуя ряд характеристик звука, в част-
частности его громкость. Если источник звука находится
прямо перед животным, громкости звука, восприни-
воспринимаемые и левым ж правы?л 'ухом, равны друг другу
(рис. 33). Придумайте сеть для детектирования ис-
источника звука, расположенного прямо перед живо-
животным.
3.18. Скорее всею, сеть, придуманная вами к задаче 3.17,
не будет отличать источников звука, расположенных
прямо перед носом ш прямо позади хвоста (и ш том
н з другом случае сигналы, поступающие к правому
ш левому уху, равны между собой). Как же жн-
4-М.З.Беркинблит 49

Рис. 88. Заяц пытается определить лоложение
источника звука
вотному отличить направление на источник звука.
находящийся перед ним, от ззсточкика звука» нахо-
находящегося гаэзадя него"? Предложите соответствую-
соответствующий прием и соответствующую сеть. (Звук,
приходящим слева, сильнее возбуждает рецепторы
левого уха, так асах рвщеиторы правого уха частично
экранированы от щшходящего звука головой живот-
животного.)
Вернемся ж задаче ЗЛ2, т. а. % устройству, которое сравни-
сравнивает большие ж маленькие круга {нлн к задачам 8.24 s 8.16).
Тага мы предполагали, что (Суммарный -сигнал зависит только
от площади круга» Но очень ■часто сигнал' сумматора зависит
еще ш от яркости круга. Маленьким, но ярко освещенный
круг может давать такой же сигнал, как ш большой круг, но
слабо освещенный.
Есть два способа сделать более надежный детектор.
3.19. Можно придумать такое устройство, которое лревра-
щает внешнзай сигнал любой величины з некоторый
постоянный сигнал /например, в единичный). Если
мы поставим после каждого рецептора света такое
устройство, тогда суммарный сигнал от зсеж рецепто-
рецепторов будет зависеть только от площади круга.
Придумайте дзе разные конструкции, превраща-
превращающие входной сигнал разной величины з константу,
50

злощздн состоят з -'„"ci-i, "чтобы учэсть уровень осзе-
геэншжги. Надо -^гл^ать, что средн рецепторов раз-
оросань: гахуге, .жетосые аз дах-? зззда к ■гуыш&чофу,
сзззчазэщему за плещадзь круга, & соединены с дру-
другие устройетаэм, -ж^едэляюгшш яркости. Детектор
ayJcceTs дсд;кэн дазатъ еэгнан^ хш>орый аэ завксит
от чж€ла задейсэзсз^-^нк^ реце^^оров (можно ечжг-
:та':гз=? ч:го эн .должав "зычлелеть -предэез армфмеггзчес-
кса -значазшё зезз: ^ггнал-ов о? рецепте роз яэксстн).
Д2ш:ь:шз надо 2рндуааа:гь уетройсгзо, xoiropt>s окраде-
л-яло •&! зеэке ялощадь круга, учзтывая значение
йрзйсета. "Поирсйуй'та рэшнть stis две задаче (о де-
Tsxirops йркоста s о детекторе площади е учетов
ЯрК-ОС"?Зй),
!аёмв'~'жш, 41-0 lys нам встречается £'лсссЬ, лоторый Eiap
егаольдуагсга рзагааой нервной знетегаой. Это^г экоес
ншг -11ГО :з органах чузс1?з dspssais» злуха м щр,) обьгчно
адбЭ'й'йя sscKcassiio разнмж Тдар&ллйжьнж-ь каналовs ас которым
здет ссраяЮ'гка ныформадзгя с ралньях гЕойстзазс внешние сбъ-
хтеВо Н=алрйааэрр в зрительной еастзше ;эстъ жанад, который
еэ^декзе^ о цвате аредБяэтов., есть жаэал? который
рейс'^н.ой зшфоэмацзв о форме предметов, га т. д.
метага, что ;петэм поетрсеншз! разных детекторов, связанных
эзсбразкэЕНйва зреджетоэ,, ssia; женользуем не только свойства
вйрон-оэ5 зо я -некоторые гес-ме?ршч'зскне еоображеная. Напрш-
ер^ когда жм хотжм кзагерать ялощадь, то ернсседпняем зсэ
ii- Пршдуааайтэ дэтекуэры» жоторме будут еесшцах'Ъ; что
яа зюлэ рещэлтерзв зреацнруется ^оршзознталькая лзе-
ssa, зартжкальнзш .эбинз-л ];?лз! лш-язга, нод углом 45°.
Жёж -отхипттъ '.й;а1ленгькузо зз ярзеузэ зертжЕсальнуш
г-лтры о-эк!нато делить .за де^енторзы- щастмх признаков
уг.ЕЗ. :ааа;лс;га лштьш ш т. д.) м на -езлокыым детекторы»
е ■сос8щаж5'1г о тзалачэз сйъехта, слзсываемого некоторой
51

совокупностью признаков. В разных отделах параной системы
находятся детекторы разной степени сложностя. Напрзшэр, з
височной области мозга человека и обезьяны имеются нейроны,
которые меняют частоту разряда лишь з том -случае, когда в
иоле зрения попадает лицо. Эти нейроны специально предназ-
предназначены для узнавания объекта «з лицо», Комбинируя много
простых признаков, ты могли бы придумать некоторый слож-
сложный детектор, который реагировал бы только на изобрааасеяие
лица. (Конечно, -это очень непростая задача.) Однако совсем
другое дело — узнавание конкретного человека {Ивана Петро-
Петровича Сидорова). Чтобы узнать конкретного человека, надо
сравнить его лицо или его фотографию с образом,, который
хранится в памяти. А мы яока не рассматривали такие сети,
которые обладают памятью.
Рассмотрим еще один нрмем, который использует нервная
система при обработке изображений и детектировании их приз-
признаков — нейронные сети с латеральным торможением.
В 1949 г. английский биолог Хартлайн изучал работу глаза
морского беспозвоночного — мечехвоста (это крупное живот-
животное,, сходное с вымершими трилобитами). Он освещал одиноч-
одиночные рецепторы глаза мечехвоста и регистрировал частоту
разряда в аксонах, идущих в мозг (рис. 84,е). Если освещать
одиночный рецептор, то регистрируется некоторая частота
разряда. Если же дополнительно осветить соседний рецептор,
то частота разряда в первом аксоне убывает. Таким образом,
соседние рецепторы взаимно тормозят друг друга. Такую сеть
и называют сетью с латеральным торможением; она изображе-
изображена на рис. 34,6.
Было показано, что при освещении двух рещэптороз частоты
их разряда хороню описываются следующей системой линей-
линейных уравнений:
\х2 =е2- К1>2 х1 ,
где хг — частота разряда первого рецептора,, х2 — второго ре-
рецептора; еЛ и е2 — те частоты разрядов, которые наблюдаются
в отсутствие освещения соседа; Ж2, — число, характеризующее
тормозное действие второго'рецептора на первый, К, 2 — число,
52

V
б)
Рас. 34. Схеыа опита € освещением рецепторов
глава мечехвоста (а) и нейронная сеть с латеральным
торможением (б)
характеризующее тормозное действиз первого рецептора на
второй.
На рис. 84 указаны тормозные етязи только между бли-
зкайшнван соседями. В действительности такие тормозные связи
могут тянуться ж ж достаточно отдаленным рецепторам. При
этом коэффициенты торможения тем меньше, чем дальше ре-
рецепторы отстоит друг от друга,, т.е. Ж1>2 >Klf3 >KM и т.д.
Зазхоны, ио .которым ндет такое убывание коэффицмента
торможения в -зависимости от расстояния, могут быть разными.
Сети такого рода были в дальнейшем обнаружены в сетчатке
разных животных {как беспозвоночных, так и позвоночных),

1С "*" *" _j -l^oJ'
От TorOj, что в лййзту вижзачшл&ж ?'^&?ш& нейрон^ жовффа-
щмент Ж21 не мэнгетсл.
Пуеть т®135рь за. ееть ре- ^
а.ныаа ]
та зшобр&зжен за эес. 35. | \ \
та — дзете шлж Psasisa "ISScSjisf!
яркого ш меаее тттт йвб-
та„ Такая гразнца всегда r'JtC' aD
бывает бол®5 шла мекеа
ш счёт эайвеяг!мй евета-
г лсмощью зычжслемай эля расеуведе-
зозэакало'!' под действаен тахого расЕгре.цйлезгкя
щтж?т ж следушЕгаги рассужценизаа s зызеду. На границе,
^se -scTb перепад ■ccsesnesH-seTH, 5-злэе ^йзйщеаные нейроны
сильнее тормозит езеекг ссездей. а гтш sccea;:s, золуча^ ааез&^ше
света,, елабо зоебу'кдаютса ;н -олабс- тергаоэйт аейш
расположенные слэза;, зтп яодчейжмзайт граниЕь»
йтк. Разница зокйуэкдэнийг ,ssi:poaoBt дезз;я;!л:я;:с лс разные е^сро-
S4

Б результате урозжж зогбуждекзя нейвоноэ еата распреде-
распределяются -так, как показано на рис. 36.
\
свет
Л
и
Рис» 38. На одну полсвизу лжнеймой нейронной сети
с латеральным торможением нодаетея свет, другая по-
дознна остается неосвещенной:
вверху кожавано распределение интенсивностз света»
внизу — распределение урозня возбужденна нейронов
cste, возникающего под действием света
Мы рассмотрели случай, когда нейроны вытянуты в линию.
Жели рассмотреть двухмерную ееть5 то круг- буде^ преобразовы-
преобразовываться так, как показано на рис. 37.
стет
Рнс. 37, Освещенный участок двумерной сети с лате-
латеральным -горыожеяием — круг:
вверху — расшрадеяение житеномвЕости света,
внизу — распределение уровня зозбуждения
нейронов сети
Еслн подать это эозбужденнг еще на одну сеть с латераль-
латеральными тормозными связяйш (а если потребуется;, то и еще на
55

одну)* то вместо круга мм эолучзш окружзоеть» т. %* такая
сеть будет выделять контуры предметов.
Не следует думать, что экраны встречаются только э зри-
зрительной системе. Например, з слуховой системе тсжэ эстъ
экраны. Но там они находятся не на периферии., как сзтчатка;
эти эЕ-сраны — поля нейронов, находящиеся, например, в слу-
слуховых зонах коры больших полушарий: з одном направленна
вдоль коры активность- нейронов меняется в зависимости от
громкости звука, а в другом — в зависимости от его частоты.
Если на сеть падают два звука разной громкости ж частоты,
то латеральное торможение помогает воспринять hs именво
как два звука, а не как звук промежуточной громкости и
частоты.
Сети с латеральными связями могут использоваться ш в
других целях, например в измерении расстояния между двумя
точками. Пусть на линейную сеть, подобную той, что изобра-
изображена на рис. 34, но с протяженными тормозными связями»
проецируются две точки, разделенные расстоянием I. Все вы-
выходы сети поданы на нейрон-сумматор. Ясно, что чем ближе
расположены две входные точки друг от друга, тем сильнее
они взаимно затормаживаются и тем меньше выходной сигнал
сумматора. Следовательно, этот сигнал зависит от расстоя-
расстояния — чем вяенъше I , тем меньше сигнал; чем больше I, тем
'больше сигнал.
3.24. IJo какому закону должен уменьшаться з зависи-
зависимости от расстояния коэффициент торможения, что-
чтобы выход нейрона-сумматора был прямо пропорцио-
пропорционален расстоянию между точками?
Мы: рассмотрели некоторые нейронные сети, которые могут
участвовать в работе афферентных систем и играть роль де-
детекторов. Рассмотрим теперь работу моторных сетей, включа-
включаемых командными нейронами.
Мы начнем с описания одной реальной сети, которая об-
обнаружена у медицинской шшзкн (рис. 88) и обслуживает пла-
плавание этого животного. При плавании пиявки в каждом сег-
сегменте ее тела возникают поочередные сокращения то спинных,
56

Рас, 38. Медицинская пиявка
s? зслнссбразнса згзгкбанме тела
глаязуш. Мы рассмотрим устрой-
устройство генератора^ хсторъш обеепе-
■ззшает зосчередное возбуждение
то брюшных, то спанэых мыши.
Схема генератора .изображена
на рис= 89Э а,
Как знднс, эта. сеть образо-
2&жш. четырьмя т-зрьюзяымз-! ней-
оонамн5 соединенными между со-
Зой. Эта схема соэериеекнс сим-
ааетршчна: все яайроаы тормоз-
тормозные., и сагяа по еейе эта еэть не
включается, вгэ нейроны молчат, Командный нейрон дает
зоабузад&юпще санапеы на всеж нейронах этой сети. Когда
командный нейрон заключается, то so чзясто случайным при-
чикагд какой-то нз четырех нейронов начинает возбуждаться
первым. Пусть зто будет, я*шрим8рг. нейрон Ш 1. Как только
он возбудится, он сильно затормозит нейроны № 3 и 4, и они
будут продолжать sмолчать». Нейрон М- 2 никем не тормозит-
■ея, а под действием сигнала от хогаандкого нейрона он воз-
будится вслед за нейроном >•& 1, Когда stg проиоойдет, затормо-
затормозятся иейроны Й1а4, Теперь нейрон Мг 8 нккем не тормозится,
и через некоторое ®ремя он заработает, затормозив нейроны
Ыа 1 я 2. Такам образом нейроны Ml— 4 будут поочередно
возбуждаться (ех-гма их работы изображена яа. рис. 899 tf).
Hi
III
пин
_____ши
I
i.
i
m
i
ill
0 I
Pse. 39, Товиознсз сольдо зз четырех нейронов:
нератор плавания жадицинской пиявки, о — схема, показы-
я очерздысйть аозяикяовения импульсов э эзйронаж кольца
Б7

3i
• з «од
4Щ
**»#
1 -C
TOK't
л T
1Д Т. ч-ь
 i£Xlt

;»& $'дя.н'^:цу ■spe.rfew:,-; дзажнан, До какой кривой
ьютылек 5уде:г дзаги^ьея ;ж нетз-зн^гку света?
■b.ii-, SwpsH^-j:.;- -?.э:перъ у, задача, е ол^сгш-зя которой от-
лрыз.з£;'гз.г- .азлоэшг^з раздав на 1% 14 этого песо-
огш, — 'гге-с -оа,бсч:ну ^фшшвнз^щ?. греющуюся на еол-
лц«, Прн ее ;. ешенан д.р£дп-ола?злоеь., что нейронные
гэтз 36->is,;?;3JaV"' зтуленчатымзг :гарахт5рзстзками: или
?sM!«cri, s^~h ссл^Ае, Ha оад*о?я деле севещезкееть
^еняб-ггя ггэ:лре5;ызк:о} а рецептор света будет зыда-
зать нанрерызко шенязинд-яйея ззегнан.
Наде ли i^as-нябудь азмэнмть езеэг^у pse. 6^ эсла
assipc:iibi ^о с:гу:аан'ча?ей карак-тарастигсой заменить
за йейрогш ■;■ лпзэгной жарактерзегшжой? Если нет?
то со'ьли^ш^'З. 'печвхау; гслэ да, то как именно?
■8.-3S "— S.SS, О'сзе-тъ-гг гга •го'? .жй зопрез... -s^o я в задаче 8.29,
BejoseiaCiS ss oseai&i£ для д&тзктерез. До csx лор мы ечяталн,
чт-о сигаалм дейс[":@у:?и'? а-а нейроны длительнее зремя или не
каегзшгеъ зотгрсеа с ^рем^экза жх дейс-гвнл. Между тем з
реаяьнсстз; -ф-актср :sjswies:st si!paeT часто весьма важную роль.
В качение зведэ&нл :; з-гу проблему рае^мотрЯ'ге задачу 8.36.
S.Sis. Пршду^^^й a-sspoHHyiG. сеть, а которой выходной
зайр«а сай-'^уозая ;бы ла дзмженэзе светлого пятна
us. espr-;ar«s г-.-;.;рава н£и:;ево, Еак аадс шёш&&ятъ зашу
сегь £z<m ,y£.£-.i£JUi;-r и;й1грс£Тйзг. двкзкенжя пятна?
Надо лузнй-гь, чет^д .^:а Ейр5да^'?у сигнала от одного нейрона
_ путговяу aaTpa-i3asag-ft;s «гкщздэленнын лромезкуток времени.
, -zo '■-."шс газ Еро:£О.|;":г-' £чэз,сторсе зрезыя, яока светлое пятно
т^-'-ааесч'ат^.а от iib';::;>;; ;■;./ фотоведеатора s аосдедукшэему.
Предложим sEig :'^ysy линтиргеную задачу-
HssssthQj, что з :'з'?_зй^ ^:а з/эогкэданный звук животное
-Liopwi ~, I-1-1 '_с!_^ гзлеамн тсючпика этого звука.
й ющие по-
*i оставляет
'Я глаз.
S3

сать-комм^татор !
I
командные
/ i /
0° 10° 2S° SO0
Рис. 41. К задаче о нейронной сеян, управляющей
псаоротеза глаз
Пусть источник звука находятся щшмо ззерёд
Тогда з слуховой системе возбуждается детектор, который по-
показывает соответствующее положение источника звука (на
рисунке это нейрон Д). Имеется также нейронная сеть so
следующими свойствами. Если глаза гмотрят прямо вперед,
то теть подключает нейрои-детектор к командному нейрону О0.,
так как оозорачкв&тъ глаза не требуется. Если глаза повернуты
на 10° вправо, то тот же нейрон-детектор теперь вызывает
возбуждение другого командного нейрона 10°, который вызы-
вызывает поворот глаз на 10е влево. Еслн глаза ноззрнутм на 20°
вправо, то тот яш нейрон-детектор вызывает возбуждение ко-
командного нейрона 20° и т. д. Такиаа образом, нейрон-детектор
оказывается 4подключенным* к тому иди иношу командному
нейрону в зависимости от угла поворота глаз. Также нейронные
сети называют сетяжи-коммутатар42жи.
3.38. Прндумайте сеть-коммутатор для управления по-
поворотом глаз в направлении источника звука.
3 отличие от технических коммутаторов, з которых кон-
контакты часто отключаются от одних клемм ш присоединяются
ж другим в результате чисто механического процесса,, з нейрон-
нейронной с©тн .аксоны не могут мгновенно отсоединяться от одних
нейроков-мишеней ш прирастать к другим нейронам: комму-
коммутация должна осуществляться за счет устройства самй

f 4, НЕЙРОННЫЕ СЕТИ
ИЗ ИМПУЛЬСНЫХ НЕЙРОНОВ,
РАБОТАЮЩИХ В JIGTAZTG3GM ВРЕМЕНИ
В '■третьем параграфе мы рассматривали нейроны, которые
по ззоивя свойствам были довольно сходны с реальными ней-
розя&эвзн. Далее мы будем использовать так называемые фер-
малъные нейроны, свойства которых, напротив, сильно отли-
вдзотся от свойств реальных нейронов. Зато они позволяют в
достаточно простой форме промоделировать те езойетза нервной
отстемая, на которые мы до cms пор почти не обращали внн-
агания. Эти свойства связаны с учетом времени.
Формальные нейроны обладают следующими свойствами:
I» Upss зозбуждензш лэобой нейрон отвечает ммпульсова еди-
единичной величины., который длыт-ся один такт эргмени. Время
разбмто на такты равной длины.
2. Жслз нейрон 7& 1 возбужден в первый такт времени и
нрэ этоза возбуждает нейрон № 2, то нейрок J# 2 возбуждается
з© второй такт. Иными словами, время ззередачн возбуждения
от одного нейрона к .другому длится всегда один такт зременн.
Пример: веди нейрон М 1 (рис. 42) зозбузвдаетея в такт 1,
то нейрон 3^§ 2 — в такт 25 нейрон й 3 — в такт 3, затем
нейрон 3^ 1 — з такт 4 и т. д.
3. Порог формальных немро- mi j* 2 мз
нов измеряется з целых числах »/*Т^ t('^s\ ■;^7N
и соотзетствует числу зозбузкда- \LJ х_У ^^т-^
аэщиж сижагасов, актизадия ко- s '
торык необходима для возбуж-
дения нейрона. Порог з&Ейеыва-
етсзЕ s круйсочке9 обозначающем нейрон. Каждый возбуждаю-
возбуждающей SHsanc создает сигнал, э&бный +1, каждый тормозной
сииашс — Еигнал9 размый -1.
4. Нейрон суммирует сигналы, приходящие з одни и тот
же такт времени.
4.1. Пусть сеть, изображенная на рис. 8 (см. с. 16), обра-
образована формальными нейронами.
81

;..'.J
лсязнлоеь е^йгдэ, лак 3-«лет рабс-тл^1^ ^i. ^з^^? Вуде?
ii,a ее рашта. уцо:ал8?во'ож;тэльаой 'v Жав ^„■з-аз7/^'? усе-
рие» 8? Будет ли й& райста удоБлг^ворл^'адьлсй? Еак
ШХЛ® ДССТта55ьЭ;Е2ьд 88° 5-SuCF3K5i ^ЛСОЗШ1? КрЫЛКЯ ТЗ
результате работы ^эзкзй усовертенетасваганой es'ssf
4.1, Saic надо усоваргаэнетвовагь яать5 !1ос5гр.аг5€е2£ят/ю за
рис? (гм„ с, lfH, 'эелн она сб^&зована йЬерма^газзымЕ!
нэйрснами'? Через сколько :?а%тов псслэ паязлзнжя
солниа 5абсяка рйекроэт крылья з резулъ^а-гэ ра'Зсн'ы
такой i^coBepEiSHCTBCsasiHoi сз'тн1?
4.3. —4.7, Прзндум,ай'!Г5 ;:«^:ы зз фоухяш^ьггых nslpaa^s дл^ задач
:&.ё, аЛ} ч.,з} 2,й>,
4.8. Даганшса стрк-созы, .жшэущая з веде, гге-^едзмгаетай
реактивно; яайэзае? зодз? з жнЕажу черэз анус в
загем z Зйлсй зыбрасьезает зэ sjip-a^se, "гсду^шг peass-
тж;знлйй толчок si такг:«1 сбразок ^зрздз^гайсь :зЕез«я-
Mosaso лр-эдог?-авзйт& работу Л1зчз«нжн как району че-
тырехтак,?ногс дззга^эля, Т.ак? 1; -ашуг открыт,
мышцы, сазмшщге KsiiSK.'/» рйзс.Еа£шеЕ!ы, зеда гзо-
бодно зтежае-r а заашз;у. Такт 2; ^ануз зал.р
Такт 8s анул закрыт,, ^ьешцы ssmEa лалр^га
Под давленшэм эт;ях :аы:изц зода. 5 ;;йл€й гыбра
Придумайте ;жэйрснну"о «зять., 'С&гэзечззагоЕц
работу этой сястемы,
1- Г?

Ttf'jSii.;-: j';c;vK-..r.., .л', .o^i 'iiio.^'^ .^.iiS1^';:- зо-гу знэ
Jjos^Ssi -i^otc cc&yrs. ергазаззасзаз-а ™а^:
aj -psd-cc-sx;*? isoTG-pbi! ssihihss- s -уisasaa i»; spsi атом
Ljr:
%■ на
назад
на rpys!?- Hc&se sTOixs совер-
дуйаай=гг е&ть ss фор-
» з
у
визз
OS ДЛ.Я ySJ- Psc. 43„ fiora
■ой какого ро-
So-i-a, Ge^r* для угравлеэна ходьйоё робота должна
Яак гдела?:ьу ^тсбыг зигваиа ^ nycs, ■■/ не ы у
.з сеаъ гаовкй ^маулье;, который ессье^ райоту сис-
теаа:ы? axss з гэта ржа sbieat'cs аютл оа од!йк ааапульс?
Окг-вэл ^е^о'п;;:» долзжеа дейетзовать •гольЕес s том
елучав, ^слыс нога йтож™ за земле, Ермдузаайта еовт-
зегсгзунэщ^'^ц наййСйз^'ю сзшму, (Зйща^к 4.fla ш 4.96
мозг з».. 5
, i
о ""' Ы
f t Z
* ~^ а
33

рецепторы не перестану? полазать тг^эзожньш сиг-
сигнал. Если пища соленая шш сладкая, со этоза уэнают
рецепторы второго типа, Они подают команду хи-
шзчньш клеткам, и те зкдедяют з полость пище-
пищеварительные ферменты. Но если среда «сладкой»
пищи попалась хотя бы одна •*горькая» частица, то
выделение пищеварительных соков прекращается.
Итак, есть два вмде рецепторов зз три типа эф-
эффекторов: пищеварительные клетки; клетки, еяш-
мающэе кишечную полость; клетки, растягивающие
азгшечную полость. Надо придумать нейронную еетаР
обеспечивающую такое поведению животного (обра-
(обратите внимание на тоэ что при постоянном действии
4горькой» пищи два последних эффектора должны
4.1©а. Усложните придуманную вами схему для задачи
4.10 так, чтобы, полость тела на протайяевизя трех
тактоз времена сжималась и на протяжении тдел
тактов времени растягивалась.
4.11. Задача про тепловую .иллюзию.
Известно, что при раздражении жолодовых рецеп-
рецепторов человека может возникать иллюзия. Если ж
рецептору прикоснуться на короткое время холод-
холодным предметом (будем считать, что всего на один
такт времени), а затем убрать этот предмет., то воз-
возникает ощущение таила. Если коснуться того же
рецептора жолодньга нредзаетом я не бирать его, а
держать более длительное щ-ежщ ;ю зознзакает ощу-
щение холода без ощущения таила вначале.
Придумайте нейронную сеть., объясняющую возмож-
возможный механизм такой яллюзмн. (Эта задача занмст-
зозана шз известной статьи Мак-1Салдока и Пятеа
1948 г., о которой будет рассказано нижэ.)
4.12. Придумайте сеть, которая будет давать тепловую
иллюзию ггрм действам холодного предмета за рецеп-
рецептор s течение не одного, а двух тактоз времени (а
затем для случая длительности действия в (?ри такта,
s я тактов).
64

3 мы рассматривали з основном рецепторяые системы
в § 4 мы рассмотрели глазным образом нейронные
сети для управления какими-либо движениями, но задача про
иллюзию показывает, что сети из формальных нейронов могут
быть полезны для понимания работы и сенсорной системы.
4.13. Слуховая система может определять направление на
источник звука, измеряя время запаздывания
прихода звукового сигнала к левому и правому уху,
Придумайте сеть, которая работала бы, используя
этот принцип, и содержала на выходе три детектора:
«источник звука находится прямо передо мной»,
«ласточник звука находится слеза», «источник звука
находится справа».
Решая задачи этого параграфа, вы, вероятно, обратили
внимание на то, что иногда преходится вставлять в сеть один
или несколько лишних нейронов, необходимых для того, чтобы
согласовать совпадение сигналов по времени. Такие цепочки
нейронов, используемые для задержки сигналов на то или
иное число тактов времени, называют линиями задержки. До-
Допустим, что надо задержать сигнал на сто тактов времени.
Ясно, что это можно сделать, поставив друг за другом в виде
линейной цепочки сто нейронов. Но такой способ представля-
представляется слишком неэкономным. Нельзя ли израсходовать на эту
задачу меньше нейронов?
4.14. Придумайте линию задержки на сто тактов времени,
использовав для этой цели менее ста нейронов.
Одно из возможных решений этой задачи
приведено на рис. 44.
<D
2Н 2 И 2 И 2 Н{ 2 Н 2 И 2 Н( 2 Н 2
Рас. 44. Нейронный счетчик тактов
5 - Ы. В. Вергсинблит

Фактически на этом рисунке приведена схема
своеобразного «счетчика*, где нейроны в верхнем
ряду считают единицы, а в нижнем ряду — десятки.
На выходе добавлен тормозной нейрон, который по-
после ста тактов возвращает всю систему в исходное
положение ш делает ее вновь готовой к работа.
Такал система работает как -своеобразные о часы»
или, скорее, как секундомер. Возбуждение первого
нейрона играет роль кнопкн ^пуск^, а тормозной
нейрон играет роль кнопки «стоп», которая в секундо-
секундомере возвращает стрелки в исходное положение.
На очной сессии Биологического отделения ВЗМШ
школьница из Воркуты Наташа Цветкова предложи-
предложила оригинальную идею решения задачи 4.14.
Запустим одновременно имиульеы в два кольца,
имеющих длину в 9 за 11 нейронов. Конец каждого
кольца действует на выходной нейрон с порогом 2.
Этот зыходной нейрон зозбудится тсшько после того»
как пройдет 00 тактов — 11 циклов в кольце шз 9
нейронов и 9 циклов з кольце аз 11 нейронов* Мы
получим выход posHO на сотом такте, использовав
в сети всего 21 нейрон. Эту адею легко обобщить:
можно использовать сета зяз трех и более колец,
помещая на выходе нейроны с порогом 3 и выше.
Интересно исследовать возможности таких сис-
систем, использующих для получения большим, интер-
интерзалов времени кольца с взаимно простым числом
нейронов; например,, яельзя ли с их помощью полу-
получить более экономные сети, чем в случае «счетчи-
В схеме счетчика на рис. 44 пришлось использо-
использовать 21 яенрон, чтобы сделать лмнию задержки на
100 тактов времени.
.15. Можно ли, используя те же идеи, что т в схеме
рис. 44, исстрогать счетчик меньше, чем шз 21
в. Какое минимальное число нейронов вам потребуется,
чтобы создать часы на 1000 тактов? на миллион

ли числе нейроне® для часов за ЮС
тактов быть заеныпз 25?
4.3.7. Придумайте счетчик, который зкдае1? сигнал на вы-
выходной нейрон на 821-м такте, начинал с момента
В задачах 4,15 —4.1? речь шла о счетчиках
тактов, т. е. о часах, Приходит первый пусковой
импульс, и далее часы сами ведут счет тактов,
Пошюбуйтз теперь придумать н@ счетчик тактов, а
счетчик шяпулъеов.
4.1©= Прзвдуааайте нейронную сеть — счетчик входных ша-
пульеов. Возбужденные нейроны этой сети должны
эджазызать, сколько всего входных шшульсов по-
поступило на ©ход csirs? злзя выходной яейрон должен
зозбугаодаться лссле того, гсак яа вход поступило,
например, 12 импульсов. Взсодные машульеы не обя-
обязательно должны наступать во зсе последозательны®
такты зреваеки (наиршмер- пятый импульс может
нрнйтгз через три такта после четвертого).
Счетчики завяпульеов широко распространены в
электронной промышленности. Например, такие
счетчнки измеряют уровни радиоактивности, под-
счнтьйзая число частиц, нояад&юндзж на вход счет-
чшка.. Вместо кейроноз з таких устройствах мсполь-
зуются технжческгзе элементы. При этом важно, что
зсак у ней'роноз эсть два состояния: «возбуждение»
т. «покой*, так ш у соответствующих элементов элек-
электронных схем есть два состояния.
Эта черта формальных нейронов роднит ях также
с электронными вычислительными машинами. В та-
зшх машинах аззаештся элементы, которые тоже мо-
могут находиться тольг<о з двух состояниях, которые
обычно обозначают как «единица» (возбуждение) и
* (покой). Стгхда 3css5i*EsaeT пжнотеза» что нэй-
э сети ззз формальных нейронов шотуг произ-
такие же операции, как вычислительные ма-
шаны.
4»]1®. Придуааайте нейронную сеть8 которая складывала
бы два числа, заданные з дзоичной системе.
5* 67

4.20. Придумайте нейронную сать, которая з&гчнтала бы
два числа, заданные в двоичной системе.
4.21. Один человек держит ладони, направленные друг к
другу, на расстоянии примерно в 20 см. Другой
помещает руку между ладонями. Если второй игрок
касается сначала верхней ладони, а затем через ко-
короткое время (не больше чем за 5 с) — нижней, то
первый игрок должен ловить его руку, сдвигая ла-
ладони; во всех остальных случаях прикосновения
(например, только прикосновение к нижней ладо-
ладони) — не должен. Придумайте нейронную сеть, ко-
которая обеспечивала бы поведение первого игрока з
этой игр©.
Формальные нейроны были введены в науку з знаменитой
работе Мак-Каллока и Питтса в 1948 г. Эти американские
ученые вели исследования в области теории автоматов и з -об-
-области биологии. (Например, они участвовали в работе, в ко-
которой впервые были открыты детекторы в сетчатке лягушки.)
В математической логике существует специальный раздел,
который называют алгеброй логики или логикой суждений.
Те или иные утверждения записываются в виде формул; име-
имеется несколько операций, которые связывают разные утвер-
утверждения между собой; есть определенные правила преобра-
преобразования формул, которые позволяют установить, какие ут-
утверждения являются верными, если известно, какие исходные
утверждения истинны.
Показано, что для использования алгебры логики доста-
достаточно иметь некоторый набор основных операций. Одним из
таких достаточных наборов являются операции: «И», «ИЛИ»,
«НЕ». Операция «И» используется з таких суждениях: если
имеет место А и имеет место В, то нмеет место и С. Операция
«ИЛИ» означает,, что С имеет место, если имеет место или А,
или-В, т. е. достаточно одного из них. (В алгебре логики может
быть использован ж другой набор базовых операций.)
Мак-Каллок и Питтс обратили внимание на то, что фор-
формальные нейроны могут легко осуществлять базовые операции
алгебры логики.
Давайте рассмотрим схемы на рис. 45. На этом рисунке
(позиция а) изображена схема элемента, осуществляющего
88

в
а) 6} з)
Рис. 45. Нейронные схемы для базовых операций
операцию «И». Это нейрон с порогом 2, на который действуют
два входных нейрона, каждый из которых дает на выходном
нейрона но одному синапсу. Событие, состоящее в том, что
нейрон А возбуждается в момент £, мы будем обозначать так:
A{t). Возбуждение нейрона В в момент t: B(t). Операцию «И^
мы будем обозначать точкой (как знак умножения). Тогда
схему на рис. 45 описывает формула A(i) • B(t) = С (i + I),
которая читается так: еелн в момент t возбужден нейрон А и
в тот зке момент времени t возбужден нейрон В, то в следующий
момент (такт) времени будет возбуждаться нейрон С.
На рис. 45}б изображен элемент «ИЛИ». Здесь выходной
нейрон С имеет порог 1; на него снова действуют два входных
нейрона А и В. Операцию «ИЛИ» мы будем обозначать знач-
значком V. Схема рис. 45,6 описывается формулой А(*) V В(*) =
= С (* + 1), которая читается так: если в такт времени t
возбужден нейрон А или нейрон В, то в следующий такт
времени возбудится нейрон С.
Наконец^ операция «HS& (см. рис. 45,в) реализуется тормоз-
тормозным нейроном, который дает синаптичесзше окончания на
выходном нейроне С и надежно тормозит его при любых
входных сигналах. Операция -«НЕ» обозначается чертой вверху
над соответствующим символом. Схема на рис, 45„в описыва-
описывается следующей формулой: А{*} * В(*) = С (* + 1), которая
читается так: если в момент времени t возбужден нейрон А
и в тот же момент времени не возбужден нейрон В, то з
следующий такт' времени будет возбужден нейрон С.
4.22. Напишите формулы для нейронных схем, мзсбра-
зкенных на рис. 46, как комбинации из операций

Oobb Особо
J Ж L М N J К ь М N
Рже. 48. Нейроаные схемы s. -задаче 4.22
Входными нейронами для логических сетей могут быть
рецепторы шзш же нейроны-детекторы. Логические формулы
в ©бобщенновя вааде описькзааэт. з "частности, те же ситуа2щи9
которые мы раньше опясывали более конкрэтиыааи термннагаи.
Например, мы раньше считали, ^то -аслж савтжт солнце и
температура энаже 86°, то бабочка кракзэвныща раскрывает
щ»тжъж или (эелн рецепторы ба'&эчзсг-з аоспргшяли зкус сахара
н бабочка голодна, то она расЕрзагляэт хсботоа и начинает
питаться. С точзш зрения логикн тш емтугщшш совпадают:
они состоят з тозя, что вслм есть условжз A ss условие В3 то
должно наступить действие С, а исзтому з данном случае надо
нсяользсвать элемент 4 И о. Так же как дли ваатэвяатетш. со-
зер!пез2но безразлично, о каких аменно зняти: предметах идет
речь жжт. какое гсонжретЕое событие ©ншеызае1!? хзадратное
уравнение^ так т. для аватематнческой логика несущественно
конкретное содержащие условий ил в действий» которые долж-
должны созеракаться ирвг тех шлш йеье условиях.
Мак-Каллок за Питтс доказали, что лгс&зй логической
формуле ссответстзуе1? заекоторая нейронная сеть за, нао&>10от?
любая нейронная сеть может быть сдазясана логической
Очеззндно, что лзсбые ехеваьЕ» которые аачжнааз^ся детак-
торамм и зсомчаштея жомаэдныма нейрожаааш, гд® зыжод обуе-
ловлен сочетанием возбузкдения определенных ззеодов, ваогут
быть построены так> что задержка змезасду зз;юдом и зксзсодом
не нревызнает двух тактса (лрн этом s.a одном нейроне может
оказаться много сзгиалсов). Доказано, что также же схемьг
можно построить ss бс-льшего числа нейронов, порог которых
аэ превызпае1? .двух, яржчем на кагкдом нейроне зшеэтск не
■белее двух сикаянеов.
70

Мазе-Ж&яжгк; за "Дщттс предложили еисеобьа., позволяющие
по заданной логической формуле построить соответствующую
яейроиную сеть, При этом для одной ш той же формулы могут
гюлучнться разные нейронные сэтй (в результате тождествен-
тождественных преобразований меняется вид логической формулы и ей
еоотаетстаует друг.ая сеть, которая выполняет те же самые
Вы видите, что теория нейронных сетей, с одной стороны,
соприкасается с проблемами построения вычислительных ма-
ешзн, а с другой — с задачами математической логики. По-
Поскольку наш® асесбне нахтасано для биологов, ваы ограничимся
зышесказ&ня&ш, хота для школьников, интересующихся ма-
математикой , здесь открывается интересная возможность для
чтения еиециальной лэат@ратуры9 решения задач и другой са-

В этом параграфе мы рассмотрим разные модели и задачи,
связанные с обучением. Но прежде чем перейти к этим воп-
вопросам, хотелось бы еще раз напомнить, что ты. рассматриваем
в этом пособии в основном весьма упрощенные модели работы
нервной системы. В особенно большой степени это относится
к сетям с памятью. К сожалению, шы все еше довольно мало
знаем о том, как работают системы памяти живых организмов,
как в них записывается и считьгаается информации как она
организована в памяти и т. д. Таким образом, з этом параграфе
мы будем рассматривать разные варианты сетей, которые го-
говорят лишь о том, как могли бы в принципе работать ней-
нейронные сети с памятью. Однако анализ таких сетей не является
бессмысленным. Во-первых, как уже отмечалось, иногда уда-
удается придумать и угадать такие устройстза, которые реально
существуют в живых организмах (имеется в зиду <s тормозное
кольцо» — генератор плавания пиявки); наличие теоретиче-
теоретических догадок помогает узнать такие устройства при экспери-
экспериментальном изучении реальных объектов. Во-вторых, теоре-
теоретические разработки позволяют биологам придумывать новые
опыты и, наконец, в-третьих, если даже наши модели оши-
ошибочны, они снивяают с процессов обучения покров таинствен-
таинственности, доказывают, что оно может осуществляться на таких
системах, принципы работы которых взнолые доступны пони-
пониманию.
Прежде всего нам надо придумать «нейрон памяти», т. е.
такой элемент, который может что-то запоминать. Мы выберем
в качестве такого элемента нейрон с возвратной коллатералыю?
который возбуждает сам себя и после пришедшего импульса
начинает непрерывно работать (коллатераль — это веточка ак-
аксона, а « возвратная & она потому, что воззращается назад ш
образует синапс на том самом нейроне, от чьего аксона она
отходит). Тем самым его состояние после однократного воз-
72

Зуакдения меняется: он зсэ время «помнит», что к нему при-
приходил возбуждающий сигнал (рис. 47). Чтобы такой нейрон
■ззабылр про приходивший сигнал, его надо затормозить.
в)
Рис. 47. Нейрон с занятые (с); ироетейшая заыомзншшцая схема, исполь-
использующая нейрон г зоззратной жоллатералыо (б). Запоминающая схема (б)
формально эквивалентна образованию нового синапса (в)
Фактически мы угке пользовались таким активным элемен-
элементом памяти- Например, при построении счетчиков тактов (см.
рис. 44) мы исаюльзовали -такие нейроны, которые запоминали,
что первый десяток тактов уже пересчитан и надо переходить
ко второму. Рассмотрим теперь рис. 47,6. Когда сигнал по
входному волокну приходят первый раз, он не вызывает воз-
возбуждение змходного нейрона (здесь использованы нейроны
Мах-Калл ока — Инттса, работающие по тактам времени). В
первый раз сигнал приходит к выходному нейрону, но его
порог равен дзум, а входное волокно -образует на нем всего
одвга синапс. Однако этот первый сигнал вызывает возбуждение
элемента памяти. От элемента павялти во зторой такт ирга дет
сигнал к выходному нейрону, но опять активным будет только
один синапс, и зыходгтай нейрон не возбудится. Пусть теперь
ло входному волокну ззришел новый импульс (элемент памяти
уже работает). Тенерь. этот новый нашу лье вызовет зозбужде-
нне, т, е. к выходному нейрону в один и тот же такт придут
два импульса: ззюдной и от элемента памяти. Эту ситуацию
можно формально описать так: сначала по входному волокну
даришел импульс через один синапе (ess. рис. 47,в вверху); он
не возбудил выходкой нейрон. Запоминание состояло в том,
что у волокна «зырос» второй синапс {шлш вес синапса уве-
увеличился вдвое). Эта ситуация показана на рис. 47,в внизу.
Таким образом э активация нашего нейрона с обратной связью
(рис. 47,$) эквивалентна появлению нового синапса или узе-
личению веса синапса. В сетях с памятью часто используют
73

такие элементы, з которых имеются -•» модифицируемые» си-
синапсы, т. е. синапсы, зес которых меняется з результат® обу-
обучения. Мы зиднм5 что «активный элемент памяти» и «моди-
«модифицируемый синапс» зколне могут заменять друг друга. В
дальнейшем мы будем иногда пользоваться ш модифицируе-
модифицируемыми еззнаисами.
«©бученше с шервог©
игрыззыкзэжше
Известны случаи,
ного эффекта
нается надолго.
в результате сильного звюциональ-
• возникает с одного раза ж заззовяи-
5.1. Цыпленок и оса (рис. 48). известно, что цыпленок
сразу после того, как выводится мз яйца, начинает
клевать разные предметы, в том числе мух и ос.
Если оса ужалмт цыпленка за язык, то он сразу
запоминает это а при следующей встрече с осой
убегает от шее.
Рис. 48. Цыпленок и оса
Придумайте нейронную геть, которая описывала бы
поведение цыпленка (у нее должно быть два эхода —
от детектора осы т болевых рецепторов за два выхода:
командные нейроны пищевого поведения т бегства).
У ряда животных существует очень интересная форма обу-
обучения с первого раза, которая называется имяршшшшом (за-
печатлением). Например, птенцы после вылупления мз яйца
запоминают первый движущийся предмет5 который ионадается
74

зш на глаза {'Обычно это згх мать), и начинают вежду следовать
за ним.
Фактически схема, которую вы придумали, — схема про-
простейшего условного рефлекса. Условный рефлекс состоит в том,
вдто животное воспринимает последовательно два стимула: ус-
условный (з нашем случае эта зрительный .образ осы), на который
у зжзавотаюго нет ыахакой врожденной реакции, и безусловный
{з нашем случае это болевое раздражение), на который у
животного имеется определенная вроз-кденная реакция (в нашей
задаче зто бегство).
Условный рефлекс состоит в том, что после нескольких
повторов сочетания 4 условный стимул — безусловный сти-
стимула, при котором сначала подается 4условный» стимул, у
животного узхе прш предъявлении одного условного стимула
возникает та реакция, которая ранее возникала только в ответ
на «безусловный» стимул-
На самом деле наша задача 5.1 имеет. несколько отличий
от классического условного рефлекса. Эти отличия таковы:
1) «условный» стимул не является индифферентным, безраз-
безразличным дли животного; он вызывает пищевое поведение, так
что у нас исходно было два о безусловных» стимула; 2) «ус-
лозный* стзшул должен подаваться -за некоторое время до
«безусловного», иначе условный рефлекс не вырабатывается.
В нашей задаче мы считаем р что оба стимула действуют од-
одновременно; 3) условный рефлекс вырабатывается обычно толь-
только после некоторого числа повторов; для некоторых животных
достаточно десятка сочетаний «условного» и «безусловного»
стимулов, а для других животных требуются сотни сочетаний.
5.2. Придумайте нейронную схему для «^обучения с пер-
зога pasa», которая будет работать лишь в том слу-
чае, если -абезусловный» стимул запаздывает по от-
ношеаню к ■%условному» на некоторое число {напри-
{наприна 3 — 5) тактов.
5.3. У шб&ЕШ вырабатывают условным рефлекс. Сначала
перед лей згсхигакзт лампу, а через 3 — 5с ей дают
нзащу. Прва появлении пища у собаки выделяется
слюна. После десяти сочетаний зажигания лампы и
подачи шэщм слюна у собаки начала выделяться в
75

ответ на зажигание ©дшэй лампы, т. 8. у собаки
выработался условный рефлекс.
Придумайте нейронную сеть для иаштацзш такой
выработки условного рефлекса»
Дальше мы расскажем зам про некоторые опыты, ©пяеан-
ные з книге И. П. Павлова «Ле&дии о работе больших полу-
полушарий головного мозга»9 и предложим задачи ш& ззридугжы-
вание нейронных сетей, которые имитировали бы результаты
этих экспериментов.
И. П. Павлов описывает выработку условного рефлекса на
звонок. Сначала дается звонок, а потом перед собакой етавжтея
нища. Через некоторое время у собаки вырабатывается услов-
условный рефлекс, который выражается в том, ■ что уже только на
звонок у нее выделяется слюна. Эффективность рефлекса из-
измеряется числом капель выделившейся слюны. Затем ставится
новый опыт: собаке показывают черный квадрат, через десять
секунд дают звонок, но нища не ставится, Тем не менее через
некоторое число таких сочетаний у собаки начинает выделяться
слюна уже при показе черного квадрата. Такззе условные
рефлексы И. П. Павлов называл вторичными.
5.4. Придумайте нейронную сеть, объясняющую выра-
выработку вторичного условного рефлекса. Учтите, что
ирш предъявлении черного квадрата слюны выделл-
ется меньше, чем в ответ на звонок.
Опишем еще один опыт И. П. Павлова. Выраба-
Вырабатывается условный рефлекс следующим образом: да-
дается звонок, потом предлагается шзща; через 30
минут звонок, потом пища; еще через 80 минут
звонок, за ним нища и т. д.
После выработан такого условного рефлекса на-
наблюдается следующий результат. ЕЗсли дать звонок
через 10 минут после кормления, то слюны выде-
выделяется мало; если через 20 минут — то больше; если
через 80 минут — то выделяется максимальнее ко-
количество слюны,
5.5. Придумайте нейронную сеть5 соответствующую опи-
описанному выше опыту.
76

Давайте теперь на некоторое время отвлечемся от книги
И. П. Павлова и рассмотрим явление, которое называют при-
привыканием.
Существует такое замечательное явление — ориентировоч-
ориентировочный рефлекс (И. П. Павлов называл его рефлексом «что та-
такое?»}. Он выражается в том, что в ответ на новый звук
йшвотное настораживается, приподнимает уши, поворачивает
голову в сторону звука; если животное лежит, то может зско-
чзять на нога и т. д. Ориентировочный рефлекс возникает в
отзет на появление нового предмета, изменение яркости света
и другие изменения в окружающей среде. Ясно, что этот
рефлекс играет зажнузо роль з жизни животных и человека.
Пусть теперь новый звук появляется неоднократно, через раз-
разные промежутки времени. На первое его предъявление живо-
животное отвечает эффективной ориентировочной реакцией, на вто-
второе — более слабой реакцией, на третье — еще более слабой.
В конце концов, ©слзя за этзам звуком не следует ничего важного
для животного, оно вообще перестает на него реагировать.
Говорят, что наступило привыкание. Это явление играет чрез-
чрезвычайно важную роль. Если бы его не было, жизнь человека
стала бы просто невозможной. Мы все время выдавали бы
сильную ориентировочную реакцию на обычные предметы оби-
обихода (мебель, кннгн), на знакомых людей и т. д. и не могли
бы заниматься другой деятельностью.
Давайте попробуем придумать систему, которая моделиро-
моделировала бы привыкание. Для этого нам потребуются следующие
1. Повторение раздражения приводит к снижению ответной
реакции (обычно реакция убывает экспоненциально).
2. Через некоторое время после прекращения действия раз-
раздражителя (это может быть» день или неделя) реакция само-
самопроизвольно восстанавливается.
3. При -изменения раздражителя возникает ориентировоч-
ориентировочный рефлекс (например, если многократно подавать достаточно
громкий звук и дождаться привыкания, а потом дать менее
громкий з®ук, возникает ориентировочный рефлекс).
5.6. Какие «блоки» должны входить в систему, обеспе-
обеспечивающую привыкание? В чем функция каждого
77

из таких блоков? Еак^е нейронные зетзз могут осу-
осуществлять такие функции?
А теперь вернемся к книге 35. П. Павлова. Тавя написано,
что если мы перестанем подкреплять условный раздражитель
(например, звук) безусловным {например, пищей), то через
некоторое число повторений условный рефлекс угасает {напри-
{например, перестает выделяться слюна в ответ эа звук). После
нескольких подкреплений п^щей рефлекс восстанавливается.
Угасание условного рефлекса — один as вариантов привыка-
привыкания.
5.7. East надо намешать схему, которую вы придумали
к задаче 5.85 чтобы она объясняла восстановление
условного рефлекса после нескольких подкреплений?
Объедините схемы выработки условной!, рефлекса ж
схему привыкания.
А теперь рассмотрим еще один опыт нз книги И. И. Пав-
Павлова. У собакм вырабатывается условный рефлекс ш& звук
определенной частоты (ззузс I). Если теперь подать звук не-
несколько отличающейся частоты (звук ПM то рефлекторная
реакция возникает ж на него. После этого звук I продолжают
подкреплять пмщей., а звук II не подкрепляют. Через некоторое
время рефлекторная реакция возникает только на звук I, a
на звук II животное отвечать перестает. Этот процесс называют
выработкой дифферевщировки (различения).
5.3а. Придумайте нейронную сеть, которая объясняла йы
какой-то вариант дрессировки животных. Все ли
случаи дрессировки полностью сводятся к выработке
условных рефлексов?
5.S6. Придумайте нейронную сеть, которая дозволила бы
собаке Беттм научиться вести себя так, как описано
в задаче 2.8.
5.®. Придумайте нейронную сеть для выработки диффе-
рендировкм.
Мы рассмотрели с зами 4 обучение с перзога- раза о, куда
входят импринтинг, условные рефлексы ж привыкание {«от-
{«отрицательное обучение»). Теперь мы перейдем к другим систе-
системам обучения 3-1 другим задачам.
78

ж деутжз
В 1967 г. американский нейрофизиолог Ф. Розенблатт при-
придумал маишну, которую можно было научить отличать один
объект от другого. Си назвал ©ту машину перцептроном (от
слова «перцепция» — восприятие). С этой работы началось
зажнсе научное направление. Прежде чека рассказать о его
особенностях, разберем, как устроен и как работает перщептрон.
За прошедшие с этого времени годы было придумано очень
ашог*о разных конструкций, но шы разберем самый простой
Пеле
рецепторов
Выходной
элемент
Ассоциативные
элементы
Обучающиеся
«синапсы».
Рис, 48. Трехслойный нердептрон
Перщептрон (ряс. 49) состоит из трех слоев элементов (ней-
(нейронов). Элементы первого слоя называют S-элементами (от
слова «сенсорные»); они играют роль рецепторов, а весь слой
играет роль своеобразной элементарной сетчатки. Среди эле-
элементов первого слоя имеются кагс возбуждающие, так и тор-
тормозные нейроны.
Нейроны второго слоя называют А-элементами (от слова
<?ассоциативные»). На каждом А-злементе кончаются аксоны
от некоторого числа S-элементов. Каждый S-элемент передает
А-элементу сигнал, равный либо +1, либо —I (еслм вход их
тормозной). Если сумма всех этнх сигналов больше порога
А-элемента, то А-элемент возбуждается.
Аксоны от всех А-элементов кончаются на R-элементе (от
слова •*реакция», т. е. «отзето). На нашем рисунке на нутм

от А-элементов к R-элементу нарисованы квадратики, внутри
которых стоит буква К. Их роль будет ясна мз дальнейшего.
В схеме перцептрона есть неизменные части. Так, связь
между S-элементами ж А-элементамы выбрана раз и навсегда
и не меняется. Точно так же не меняются пороги А-элеэаентов
и R-элемента. Все изменение при обучении состоит з том, что
меняется эффективность воздействия аяеагентоз А на элемент
К, т. е. меняются «веса синапсов» в связях А- и В-элзментов.
Эти переменные зеса синапсов и обозначены на ркс. 49 зсак
переменные коэффициенты X (напомним, что изменение веса
синапса — это то же самое, что включение нового активного
элемента памяти).
На рис. 49 на поле рецепторов «освещен* квадрат, содер-
содержащий девять элементов (квадрат заштрихован). Показана
некоторые связи от сенсорных к ассоциативным элементам.
Видно, что к элементу Аг придет сигнал, разньай +1, к элементу
А2 — сигнал, равный —1, а к элементу Ая — сигнал, равный
нулю.
Как же идет обучение этой системы? Претя,® всего ответим
на вопрос, чему именно ее учат. Перцентрон учат отличать
друг от друга два класса объектов, например горизонтальные
отрезки от вертикальных, или квадраты — от окружностей,
шлш крестики — от ноликов,
Рассмотрим случай, когда перцептрон учат отличать гори-
горизонтальные отрезки от вертикальных. Как зке осуществляется
обучение?
Сначала (до обучения) зсе коэффициенты К разны нулю,
т. э. А-элементы не могут влиять на R-элемент. Затем устрой-
устройству «показывают & горизонтальный отрезок, который проеци-
проецируется на какую-то часть, поля рецепторов. При этом возбуж-
возбуждается какое-то количество А-элементов. Учитель при этом
нажимает кнопку У19 связанную со всеми линиями передачи
сигнала от А-элемента к R-элементу. Иод действием этой кноп-
кнопки у всех элементов, которые возбудились при показе гори-
горизонтальной линии, вес синапсов увеличивается на едннгщу.
А у тех, которые не возбудились,, вес синапсов не меняется.
Затем устройству показывают вертикальную линию. При этом
возбудятся жакие-то новые А-элементы (а возможно, ж часть
тех, которые отвечали на горизонтальную лмниш). Теперь учи-
учитель нажимает кнопку У2 (на рисунке ее связи не показаны,
so

чтобы не усложнять чертеж, но она тоже связана ео всеми
линиями, идущими от А-элементрв к R-элемекту). Под дей-
действием этой кнопки у всех А-элеаяентов, возбудившихся з ответ
на показ вертикальной линии, вес синапсов уменьшается на
единицу (а' так как исходно он был равен нулю и только у
некоторых мог стать равным единице при показе горизонталь-
горизонтальной линии, то, скорее всего, суммарный сигнал от всех А-эле-
ментов, который будет действовать на выходной элемент, ока-
окажется отрицательным). Затем перщептрону показывают новую
^горизонтальную линию, новую вертикальную и т. д. Линии
эти можно показывать в случайном порядке. После показа
некоторого количества таких линий обучение можно считать
состоявшимся, и тогда проводится «экзамен». Перцептрону
показывают новую горизонтальную линию (точнее, отрезок
некоторой длины). Если при этом R-элемент возбудится, то
ответ верен, если не возбудится, то ответ ошибочен. Потом
показывают отрезок вертикальной линии. Если R-элемент воз-
возбудится, то ответ ошибочен, если не возбудится, то верен. Если
перцептрон дает мало верных ответов, то его надо доучивать.
(Вместо одного R-элемекта можно поставить два и сделать так,
чтобы в первом из них ответ возникал при показе горизон-
горизонтальной линии, когда сумма всех сигналов от А-элементов
положительна, а во втором '■— когда она отрицательна.)
5.1©. Првдумайте такую нейронную сеть, чтобы она вела
себя как обучаемая часть перцентрона, т.е. при на-
нажатии кнопки Ух увеличивала на единицу сигнал,
приходящий от тех А-элементов, которые были воз-
возбуждены, а при нажатии кнопки ¥2 уменьшала этот
сигнал на единицу.
5.11. Придумайте нейрэнную сеть для керцептрона с дву-
двумя выходными Н-элементамв.
Может оказаться, что задача, предложенная перцептрону,
слишком сложна для него и ои не может ее решить (например,
не научится отличать окружности от слегка вытянутых эл-
эллипсов). Такие задачи существуют. Но если задача разрешима,
то после достаточно долгого обучения перцептрон научится ее
решать. (Это утверждение является доказанной теоремой. Ин-
Интересно, что теорема ничего не может сказать о том, какие
6 - М. Б. Беркинблит 81

задачи являются р&зрешкаяьши ш зхолько времетзг нотеебуется
потратить на обучение.)
А теперь остановимся на некоторых зазюзых особенностях
перщептрона. Ф. Розенблатт, придумавший ззерцептроя, особое
внимание обращал на следующее. Связи между рецепторами
и ассоциативными элементами могут быть выбраны абсолютно
случайно, В ходе эмбрионального развития организма не надо
заботиться, чтобы связи между нейронамм установились вполне
строгим образом. Даже при случайных связях з результате
обучения нерщептрон научится решать задачу узназаняя.,Ро-
зенблатт рассуждал так. Чтобы установить строго ошредаиенные
связи между миллионами нейронов, требуется очень много
информации, которая не может уместиться на молекулах ДНК.
А нерщептрон работает при случайных связях рецепторов и
позволяет понять, как решается эта проблема с генетической
информацией.
Далее. Нейронные сетн, которые мы рассматривали раньше,
работают безошибочно (а если з шшх испортился яакой-то
нейрон, то они, как правило, начинают работать совершенно
неверно). Поведение перщептрона гораздо более сходно я нове-
дением человека. Поломка того илм много отдельного нейрона
несколько ухудшает результат, но не приводит ж беееааыелэн-
шм ответам. В ходе обучения перцептрога, как ш чежошек,
сначала часто ошибается, но, по мере того как он набирается
опыта, число ошибок снижается. *
В результате исследования иерцептронов Розенблатт ггрж-
гпел к выводу, что они работают сходно с человеческим эдозшгя,
за считал, что теория азерцептронов — это часть теории, которая
должна объяснить работу мозга. Ученые, работающие в этой
области, разделились на две грулиы: яа тех, кто хзалил пер-
цептроны, ж на тех, кто указывал на их ограниченность- Эта
дискуссия не утихла и сейчас. Некоторые ученые считают,
что перцептрон может решать только очень простые задачи.
Другие в ответ говорят, что сложные задачи действительно
непосильны дал простейшего трехслойного перцептрзна, но
что они могут быть решены многослойным® перщептронаага.
(Здесь ;эсть даже и такал проблема: сколько слоев надо заметь
перцептрону для решения задач данной слогкнссти? Эта про-
проблема нмеэт некоторое сходство с нашей задачей 4.15, где в
действительности вопрос тоже состоит з том, сколько глеев
S2

целесообразно выбрать для счетчика тактов, чтобы использо-
использовать минимальное число нейронов.) Перцептронам сейчас по-
посвящено очень большее число публикаций.
На первый взгляд, довольно произвольным элементом кон-
конструкции перщептрона являются <»кнопки* ¥г и Уа. (Вообще
такое обучение называют обучением с учителем и отличают
его от самообучения.) Но, оказывается, в организме можно
найти некоторый аналог этих кнопок. В мозгу млекопитающих
были открыты так называемые «центр удовольствия* и «центр
неудовольствия», Многие биологи рассматривают эти центры
как универсальные «кнопки»„ указывающие на успешность
того или иного действия или на его ошибочность во время
По примеру перцептрона были разработаны и другие обу-
обучающиеся нейронные сети (например, для запоминания раз-
разных слов, для обучения движениям и др.).
Давайте рассмотрим нейронную сеть для запоминания фраз,
придуманную американским нейрофизиологом Бриндли. Эта
сеть решала следующую задачу. Имеется словарь, состоящий
мз большого числа слов (у Брзгадли из 10 000 слов). Из этого
словаря составляются фразы из трех слов. Конечно, из 10 000
слов можно составить очень много троек слов, но большинство
таких троек не будет иметь смысла. Бриндли считает, что
можно составить примерно 100 000 фраз, имеющих смысл. На
входы машины подаются фразы, имеющие смысл, ш она за-
запоминает ах.
После обучения проводится экзамен. Он состоит а том, что
на входы машины подаются два первых слова из фразы, а
всашина сама «произносит» на выходе третье слово фразы,
которая ей ранее предъявлялась во время обучения (при обу-
обучении запрещается подавать фразы, у которых два первых
слова одинаковые, а третьи — разные, например, ABC и АВД
(скажем, «охотник убил зайца* и «охотник убил льва^).
Устройство сетн Бриндли показано на рис. 50. В этой сети
есть три слоя нейронов. Первый сдой — детекторы входных
слов; каждому слову соответствует свой нейрон-детектор. Три
запоминаемых слова подаются на эти детекторы в три после-
последовательных такта времени. Аксоны нейроноз-детекторов вет-
ветвятся каждый на три жоллатерали, так что каждый сигнал
идет по трем ветвям. В одной зяз них вставлена задержка на
я, S3

Детекторы
Задержка
2 такта
О
10 000
Обучающее
волокно
2000
А-нейроны
R-нейроны
Рис. 50. Сеть Бриндли для запоминания фраз
два такта времени, зо второй4— задержка на один такт, а в
третьей ветви задержки нет. Это сделано для того, чтобы после
произнесения третьего слова все три сигнала попадали одно-
одновременно на нейроны второго слоя — ассоциативные нейроны
(А-нейроны). Таких нейронов в схеме Бриндли было около
На каждом А-нейроне оканчивалось по 2000 волокон с
задержкой в два такта, по 2000 волокон с задержкой в один
такт и по 2000 волокон без задержки. Входы от разных
нейронов-детекторов распределялись среди А-нейронов случай-
случайным образом. Волокна без задержки оканчиваются на А-ней-
ронах двумя синапсами, а остальные волокна до обучения
давали два синапса, после обучения — три. Порог А-нейронов
был равен 6.
В третьем слое расположены R-нейроны. Их было 10 000.
Каждый выходной нейрон соответствовал своему слову. Порог
этих нейронов был равен 16. На каждый выходной нейрон
действовали, во-первых, все А-нейроны и, во-вторых, специ-
специальное волокно, которое является ответвлением, идущим от
линий без задержки нейронов-детекторов. Это специальное
волокно работало только во время обучения и выключалось
во время экзаменов. Оно давало больше 16 синапсов и всегда
возбуждало К-нейрон. Напротив, волокна от А-нейронов да-
давали всего по одному синапсу, причем до обучения эти синапсы
были неэффективны, а после обучения их вес был равен еди-
84

ииде. Таким образом, в отличие от перцептрона в схеме Брин-
дли обучающиеся синапсы имелись в двух слоях: и на А-ней-
ронах, и на R-нейронах.
Посмотрим теперь, как идет процесс обучения. При поступ-
поступлении на вход сети данной тройки слов возбудятся все А-ней-
роны, на которые попали по три входных волокна (с задерж-
задержками и без нее), так как эти волокна дают по два синапса
каждый, а порог А-нейрона равен 6. От этого обучаемые си-
синапсы (на рисунке они указаны стрелками) «нроторятся*, и
теперь волокна с задержками в один и два такта будут давать
уже по три синапса каждый. Когда во время экзамена мы
подадим два первых слова, то опять возбудятся все те же
А-нейроны, которые раньше возбуждались только от трех слов.
Обратите внимание на то, что обучение синапсов тут со-
совершенно отлично от всех ранее рассмотренных случаев. Дей-
Действительно, при обучении с первого раза и при выработке
условных рефлексов нам было важно для обучения совпадение
во времени входных сигналов. Точно так же з нерщентроне
синапсы обучаются при совпадении возбуждения А-элемента
и нажатия кнопки, т. е. тоже двух входных сигналов. Все
обучение происходило до возбуждения того нейрона, на котором
оканчивались обучаемые синапсы. А в схеме Бриндли синапс
должен «обучиться & после того, как возбудился тот нейрон,
на котором оканчивается этот синапс. Третьи синапсы входных
волокон должны стать активными после того, как возбудится
А-элемент, на котором они оканчиваются.
5.12. Придумайте сеть с элементом активной памяти, ко-
который обучался бы так же, как синапс з сети на
рис. 50. Или, если быть более точным, эти синапсы
обучаются, когда в предыдущий такт возбудилось
их пресинаптическое волокно, а з последующий
такт — тот нейрон, на котором они оканчиваются.
Итак, в результате подачи трех слов возбудилось какое-то
количество А-нейронов (например, 25). В следующий такт
возбудился под действием обучающего волокна как раз тот
выходной нейрон, который соответствует последнему слову
тройки слов (к нему через один синапс придет сигнал от
волокон, не имеющих линии задержки на пути к А-нейронам).
'Получится, что в момент возбуждения этого нейрона на нем
85

сработают (is обучатся!) как раз синапсы от 25-та А-нейронов.
(Эти синапсы — шх называют «синапсы Хебба» — обучаются,
когда одновременно срабатывают и синапс и нейрон, на кото-
котором шнапс оканчивается.) Во время экзамена возбудятся те
же 25 нейронов я от их обученных синапсов — выходной
К-нейрон, соответствующий третьему слову тройки.
Чем ■ интересна схема Бриндли? Преззде всего тем, что она
позволяет запомнить очень- большую информацию A00 000
сочетаний), используя не слишком большое число нейронов.
Схема Бриндлн может не справиться с задачей или допу-
допустить ошибку. Например,, может найтись такая тройка слов,
что от нее возбудится меньше 16 нейронов (это ниже' порога
Я-нейронов). Ясно5 что такую тройку схема выучить не сможет.
Вриндлн показал, что при выбранных им параметрах такой
случай практически невероятен, если соединение входов с
А-нейронами случайно. (Вообще, выбор конкретных чисел —
это не произвол Вриндли; это параметры, которые обеспечи-
обеспечивают хорошую работу схемы при словаре в 10 000 слов.)
Схема начинает ©шибаться, если ее заставили выучить
слишком много троек глав.
5.13. Разберате, как будет работать схема, если при обу-
обучении ее заставили выучить все возможные сочета-
сочетания трех слов. Какие ошибки в ответах схемы будут
при ©том возникать?
Второе замечательное свойство ©эти Бриндли (кроме того,
что она может запомнить много) — это ее надежность. Вриндли
показал, что при гибели 1/4 всех А-нейронов сеть перестает
узнавать нз 100 000 ^ыучекгаых троек зсего 200 фраз.
Такне схемы, как схема Вриндли, называют моделями ас-
ассоциативной памяти. Сейчас придумано очень много сетей
Случайная© шронцвсеан. 8а(8ыз<ашж®.
IB перцектроне ъг в схеме Брмндлва мы встретились с поня-
понятием случайного соединения нейронов. Для описания случай-
случайных явлений служит специальная математическая дисцип-
дисциплина — теория эероятностей. Именно эту теорию использовал
Бриндли при расчете параметров своей схемы.
86

Случайны® щиэдессы аяогут встречаться ш организмах не
только щщ образовании нервных связей. Представьте себе
бабочку* зсотср&я старается спастись от преследующей ее птицы.
Пели бы бабочка летела по прямой, то птица быстро ее' догнала
бы. Но даж© если бабочка будет лететь зигзагами, то изменения
направления полета будут подчиняться какой-то закономер-
эссти, птица может уловить эту закономерность ж поймать
добычу. Самое выгоднее поведение бабочки — случайно менять
направление полета. А для этого хорошо бы икяеть в нервной
устройство, которое обеспечивало бы таксе поведение.
§,14. Придумайте нейронную сетьР на выходе которой жм-
лульеы шшзлялгеь бы в случайные моменты зре-
wejs.ni.
Случайные азроцеееы возникают s нервной системе не только
когда они выгодны. Они возникают постоянно. Это
нервной системы.
shs пор считали, что синапс выделяет меднатор
действующее на нейрон-мишень) только в том слу-
случае, етлзя изо азшзну к синапсу приходит нервный замяулъс.
Однако т действительности это не так. Время от времени из
езшаптического окончания медиатор выделяется самодрозаз-
зольно в случайные моменты временя. Так как на нейронах
имеется много езетаигов;, то нод действием случайного выде-
выделения медиатора аейрон может иногда возбудиться сам по ®збе
(когда действие случайно выделившегося медиатора сдвинет
потенциал зыше порога). Таким образом, в нервных сетях из
реальны?! нейронов шогут возеткать случайные эмпудьеы.
М© даже если зтзг вмпульем и не возникают, под действием
ряда заричгаш пороги нейронов все вреаая меняются. Если слу-
случайно выделится некоторое количество тормозного медиатора
из тормозных синапсов — порог нейрона повысятся, если вы-
выделяется возбуждающий медиатор — порог понизится.
Выше мы уже говорклм о надезашветвя перщептрона и схемы
Врквдли. Мм говорили, что зри гибели частк нейронов зги
ехзмы se жереетшет выполнять свои функции» хотя и начинают
работать хуже {лак ж реальный ввозг при небольших новреж-
деннях).
87

Возникает тттересш&я проблема: разработать такие нейрон-
нейронные сети из нейронов того или иного типа, чтобы сами сети
работали надежно даже з тех случаях, когда пороги нейронов
не остаются постоянными. Разработана специальная теория
построения надежных схем из -элементов, каждый из которых
может случайно менять свои параметры.
5.15. Вернитесь к задаче про бабочку крапивницу. Пусть
у каждого нейрона порог может з случайные мо-
MeHf ы времени становитьея на единицу больше (вме-
(вместо одного — дра, вместо двух — три), а потом через
несколько тактов может слова возвращаться к ис-
исходному значению. Придумайте такую схему, чтобы
она работала как надо несмотря на зти изменения
порогов.
Один мз процессов, который, вероятно, связан со случай-
случайными явлениями в нервной системе, — это забывание. Забы-
Забывание HMeef свои закономерности. Например, если человека
заставить выучить большее число бессмысленных слогов, то
через некоторе время (например, через две неделзз) он забывает
половину из них; еще через две недели он забывает половину
того, что мог изложить при первой проверке, и т. д. Этот
закон забывания был отрыт немецким психологом Эббинга-
узом и носит его имя. Такое забывание описывается теми же
формулами, что и процесс радиоактивного распада. Это позво-
позволяет думать* что забывание бессмысленных слогов тоже обус-
обусловлено случайными явлениями.
При моделировании обучения обычно стараются придумать
модели памяти, но имеет смысл построить за модели забывания.
Мы выбрали в качестве элемента памяти активный элемент.
Как правило, на таком нейроне в разных схемах оканчивается
тормозной нейрон, чтобы можно было <? стирать & запись з
памяти. Если такой тормозной нейрон может изредка само-
самопроизвольно возбуждаться, то это будет приводить к случай-
случайному забыванию имеющегося в памяти материала (такая мо-
модель может, в частности, использоваться для описания зату-
затухания условных рефлексов).
До сих пор мы рассматривали с вами случайные процессы,
которые возникают з самой нервной системе, т. е. внутри
88

организма. Но случайные явления часто возникают во внеш-
внешней среде.
В заключение рассмотрим, как организм может обучаться
правильному поведению в такой случайной среде. Теория та-
такого обучения была придумана замечательным советским уче-
ученым М. Л. Цетлиным.
Мы будем разбирать эту теорию на конкретном примере.
Пусть во внешней среде имеются осы и мухи, довольно похожие
на ос. Рассмотрим поведение птицы, которая использует мух
з пищу. У птицы есть две тактики поведения. Первая тактика
состоит в том, что птица, увидев насекомое, сразу же клюнет
его. Птица при этом не разбирается, кто находится перед
ней — оса или муха. Будем считать, что если перед птицей
оказалась муха, то птица получает <*поощрение», равное +1.
Если же птица клюнет осу, то она получает «штраф», равный
—1. Вторая тактика поведения птицы состоит в том, что она
сначала рассматривает добычу, чтобы отличить муху от осы
(рис. 51). В этом случае насекомое успевает улететь от птицы
(будем считать для простоты, что насекомое при этой тактике
всегда успевает спастись). Если птица узнала осу и не успела
ее клюнуть, то она получает поощрение +1, а если птица
узнала муку и упустила ее, она получает штраф —1.
Какое же поведение целесообразно выбрать птице? Очевид-
Очевидно, это зависит от соотношения ос и мух во внешней среде.
Если мухи встречаются гораздо чаще, то выгоднее использовать
Рис. 51. Птица перед выбором: оса или муха?
89

первузо тажтэщп если гораздо чагцэ зетречалстеа ссаа? з
вторая тактика. Но эзуеть з среде заз каждых 10 ваеэкомыж
4 осы г& 6 муз?.. Птзще это соотношение заранее неизвестно.
Ветретазотся ©й мухзз н оеы з случайном порядке. Посмотрим,
кан ааоззсет быть устроена система для обучения правильному
поведению.
Сначала мьа рассмотрим конструкцию, которая называется
автоматом е лэнейной тактикой шжш. автоматом Цетлина.
Принцип его работы зьзшнзстрнрует рис. 52.
М-jrsa
~Ршя. 32. .Автомат Цетяина ^автомат с даэвйной тавтакой)
имеет дзе ветви памяти: для первой тактшки по-
зеденззя (назовем ©8 К — от слова «клевание»)
тактики поведения (назовем ее У — от аяова
Жаждая ветвь нмзет 2Ееко*горо® ^ясло ячеек памяти. На нашем
рнеуэке для определенности выбран© по 5 згчееге замятж это
число л^еек будем называть глубиной пааяжгя. Еслг« активна
какая-зчэ ячейка нагяятш Е? птица зслгонет узкзденнсе sassisoMce,
©вяза -*горнт& .любая ячейка У, зткца не клзонет заасвкомое,
а -оззознает его.
Правила работы аэтоааата очень просты. Нускчь автомат
з еестоянээ Ki ж аозалась аеужа9 'з^гяа автомат
одн-т з состояние 1С3; «ели з еледузощий pas !?ож® азопалаеъ
оя петрехода-т з состояние К3 а т. д. Если .автомат пришел
з ■дсст&яззие 3Sg ss попаласа муха^ -го автомат ocrssrca в этом
состолЕЕггш, Шслш автомат нехсдоатск з ссстояиии ¥« я изоиалась
муг£а9 то osi переходит з состоян1«е У2 и т. д. Если -эй находился
з еостолзшза У1;, то нереходит з ссстойеиэ К-=. Э^я эерззшды
показаны стрелками в зерхн@|а частя риеунзш. Переходы, жо-
торые зозникают при встрече е €еэй5 доказаны етралжамш в
нийснэй части рисунка.
Это !шра^шлс оовгденмя шойсно сформулировать ^ак: есдм
аатомат совершает тс действие, за которое его поощряют» то
он повторяет то зкз действие з -jуходит» з глубину памяти;
©о

зели автомат совершает действие, за которое его штрафуют,
то он двигается в таком направлении, что это приводит к
смен© действия.
Можно доказать, что такой автомат будет вести себя целе-
целесообразно. Если в срещ/г много мух, то автомат в основном
будет находиться в состоянии К§ и будет все время довить
добычу; лзгшь в том случае, если ему случайно встретятся
щгть ос подряд, он на небольшое время перейдет к опознаванию
насекомых, но после того, как снова встретятся мухи, он
«успокоится » ш вернется к наиболее выгодной тактике. На-
Напротив, если в среде будет много ос, автомат будет в основном
находиться в состоянии У5.
Тут возникает интересный вопрос: какую глубину памяти
целесообразно иметь такому автомату? Представим себе, что
глубина памятм будет равна всего одной ячейке.
5.16. В среде имеется 60% муж и 40% ос. У автомата
всего одна ячейка памяти. Какой средний доход
будет иметь такой автомат?
П@яенешы<г. Пусть автомат see время будет использовать
тактику I (мы имеем в виду автомат с очень глубокой памятью
в состоянии К). Тогда за 100 клеваний автомат получит +60
едшпшц дохода от клевания мух и —40 единиц штрафа от
клевания ос. Полная сумма будет равна +20, а средний доход
равен 20/100, т.е. 0,2. Это максимальный средний доход,
который можно получмть в данной среде, имея в свеем рас-
распоряжении две вышеуказанные тактики поведения. Теперь
попробуйте найти средний доход для автомата с одной ячейкой
памяти' К и одной ячейкой памяти У.
Если вы верно решите задачу, то увидите, что средний
доход меньше 0,2, т.е. автомат слишком сильно «мечется»;
как только встретится оса, он меняет тактику, а ведь скорее
всего потом будет муха, которую он упустит.
С другой стороны, имеет свои недостатки и автомат со
слишком глубокой памятью. Такому автомату трудно пере-
переучиваться. Пусть, например, глубина памяти равна 1000. Пусть
утром летает больше мух, а вечером — ос. Но за утро автомат
уйдет слишком глубоко в ячейки памяти К и вечером получит
большой штраф. В зависимости от особенностей среды выгодно
иметь ту или иную глубину памяти.
91

йЛ7» Продумайте нейронную сеть, жотор&м будет вести
е®бя как автомат с линейной тактикой, имеющий
глубину памяти в 8 ячейки. ¥ сети должно быть 4
детектора (вкус мухи ж боль от жала осы при кле-
клевании и узнавание мухи н узнавание осы при рас-
рассмотрении добычи) и два командных нейрона, за-
нуекашщих клевание и рассататризашаэ.
5. Щ. Автомат с линейной тактикой может иметь не два
зозваожных способа поведения, а три или больше.
Нарисуйте схему переходов, подобную изображенной
на рис. 52, для автомата Цетлияа с тремя способами
Автомат Цетлина при штрафе постоянно двигается по ячей-
ячейкам памяти по ааяр&злению к другому действию, а при по-
поощрение данного действия — а глубину памяти, соответству-
соответствующей данному действию. Иначе ведет себя другой автомат,
который тоже умеет учиться в случайной среде (его называют
по ммени автора автоматом Кринского). При штрафах он ведет
es&s так же, как автомат с линейной тактикой, — медленно
двигается но ячейкам памяти по направлению к смене дей-
действия, т. е. к ячейкам памяти с меньшим номером. Но при
поощрении он из любой ячейки памяти К сразу переходит в
самую глубокую (для рис. 52. он сразу уйдет в ячейку К5,
встретив муху), так же он ведет себя ж при поощрении, на-
находясь в ячейках У.
5.19. Нарисуйте схему переходов по ячейкам памяти для
автомата Кринского. Придумайте нейронную сеть,
швдзтирующую поведение этого автомата.
Существует много других конструкций автоматов. Напри-
Например, В. А. Пономарев придумал автомат, который получает
максимальный доход з самых разных средах, не меняя глу-
глубины памяти (мы видели, что для автомата с линейной так-
тактикой з разных средах выгодно иметь память разной глубины).
В заключение заметим, что з современной математике су-
существует интересное направление, которое называется теорией
игр. Эта теория имеет широкое поле применения. В частности,
теорию игр используют з экологии, рассматривая поведение
животного в некоторой среде как своеобразную игру с ириродой.
Поведение обучающихся автоматов, описанное выше, тоже
92

можно рассматривать как мгру со средой: среда -зделает
предлагая или муху, млн ежу; автомат делаем ответный ход,
нападая на добычу или упуская ее, и т.д. Рассмотренные
автоматы з этой игре, несмотря на простоту конструкция»
получают максимально возможный выигрыш.
Ниже приведено несколько задач, которые нэ sons ли в ос-
основную часть пособия* Подумайте, какие тапы нейронов це-
целесообразно использовать при их решении.
6.1. Придумайте нейронную сеть, поддерживающую по-
постоянную температуру тела человека. 3 чем прин-
принципиальное отличие системы температурной регуля-
регуляции у бабочки крапивницы ш у теплокровных жи-
животных?
6.2. У пиявки имеются две сердечные трубки, которые
работают асимметрично: одна в так называемом «пе-
«перистальтическом режиме», а другая — в «синхрон-
«синхронном режиме». Каждое сердце управляется нейрона-
ми, лежащими в ганглиях брюшной цепочки: от
8-го до 19-го. Сердце, работающее в «перистальти-
«перистальтическом режиме», управляется так. Сначала возбуж-
возбуждается нейрон, лежащий в саазом заднем 19-м ганг-
лии9 с некоторым запозданием — нейрон в 18-м ган-
тлжш, ш т. д. В результате по сердечной трубке «про-
«пробегает » волна сокращений. Каждый нейрон дает пач-
пачку импульсов, за которой следует науйа. Когда кон-
кончается пачка импульсов в самом передаем 3-м ней-
нейроне!, кончается пауза в самом заднем 19-м нейроне,
после чего вновь возбуждается нейрон 19 н s. д. В
это время второе сердце управляется совершенно ина-
че. Все нейроны с 3-го по 19-й возбуждаются одно-
одновременно (синхронно). Их пачки возникают одно-
одновременно с яачкой импульсов в нейроне 19 «ив|ш-
стальтического сердца». После случайного числа
циклов (от 20' до 60) происходит переключение ре-
режима: •?перистальтическое» сердце г^ачинает рабо-
работать «еннхронно», а «синхронное!» — «перистальти-
«перистальтически».

Придумайте нейронную сеть, которая заожет обес-
обеспечить такое управление работой сердца пиявки.
i.3. Некоторые рыбы, живущие в реках с быстрым те-
течением, ведут себя следующим образом. Рыба всегда
ориентируется так, что ее голова направлена на-
навстречу течению, при этом рыба плывет с такой
скоростью, что сохраняет свое положение относи-
относительно какого-то. предмета, находящегося на дне
(например, камня). В результате такого поведения
рыба все время находится на определенной терри-
территории. Если такой рыбе надеть непрозрачные очки
(рис. 53), она все равно верно ориентируется отно-
относительно течения, но плохо поддерживает нужную
Рис. 53
скорость плавания (как правило, @е постепенно сно-
сносит вниз по течению). Придумайте нейронную сеть,
которая обеспечивает такое поведение рыбы. Пояс-
Поясните, какие рецепторы необходимо использовать ш
работе сети и какие параметры внешней среды из-
измеряют эти рецепторы.
, В аквариуме содержатся рыбки, у которых выраба-
вырабатывается условный рефлекс: они при виде мелких
предметов, парящих в толще воды, бросаются к шиш,
принимая их за кусочки корма. Если в воду поме-
помещают большой предмет, он воспринимается рыбками
как хищник, они разворачиваются и бросаются на-
наутек (учтите: сначала — разворот, а потом — быст-
быстрое перемещение вперед). На своих собратьев и на

предметы разного г %жш! размера рыдзез ag реаги-
реагирует» Жак работает рзцегзторная енетезйа.» ащеншзг-
зозщая размеры зозаещензного з акзарагуаа объекта.,
•то^аэ задо. прядуакать.
6.S, Вы у-шта севаку счзатать количеств© сигналов (soi-
гшглй лашхочкза), вырабатывал рефлекс зю следую-
следующей методике: один сигнал — не подкрепляется нн-
ч&м, два сигнала — перед собакой появляется пища,
три етгяала — даете бслезое раздражениег четыре
сигнала — даете 'солевое раздражение, згата сигна-
сигналов — з&эраязгге. Рефлекс у еобагш зыработ.алея — на
■ееотаетс'З'зужще© колзачестзо сигналов либо ничего
же происходит, либо начинается слюнеотделенше, ли-
йо оно прекращается» ж 32©рсть поднигяается дыбом.
Предложите нейронную сеть, которая могла вы от-
отвечать за подобный рефлекс.
®.€>. Для управления дэЕгжениявяи bsjssho аззать зсаж сус-
суставные углы, так s' скорости их изменения. Эта
задача ваожет «Зыть решена двумя разными способа-
способами, Мойшо зшеть два типа суставных рецепторов:
одни измеряют углы, другие — угловые скорости.
Но можно зшеть толысо рецепторы, езмеряющие
утлы, а угловые скорости зычзаслять с помощью
соо^ветстаующэй нейронной «еетя. Придумайте кон-
етру&дшо сети, которая получает от рецепторов зна-
^eHzse -суставных утло® и вычисляет угловую скорость.
(В боле© общ-зй шеетаноз&е зто задача о нейронной
сети, которая зь&чясляет лроизведнузо некоторой
функдзаза зо значениям этой функции з разные мо-
йаекты времени эли вообще гзри разных значениях
аргумента.)
'ШЛ. Представьте Себе, 'зто вы ввели аяикроэлектрод з ту
аерзгной системы крапизн1ацы5 где находзатей
з зависиваостн от тэмлзературы (пусть, это будет такая
ж& сеть, ssaiK aa p;as, -5 (саа. с. 18). Как определить,
зходит ли нейрон, зш^орьгй регистрирует гяикроэлеа;-
Т2ждэ в эту сеть, ж если да, то каким зз элементов
CST2S OS5 ЯЗЛЯвТСЯ?
S5