Автор: Сочивко В.П.
Теги: электротехника анатомия анатомия человека сравнительная анатомия кибернетика вычислительная техника
Год: 1965
Текст
БИБЛИОТЕКА ПО АВТОМАТИКЕ
Выпуск 148
в. п. сочивко
ЭЛЕКТРИЧЕСКИЕ
МОДЕЛИ НЕЙРОНОВ
ИЗДАТЕЛЬСТВО «ЭНЕРГИЯ:
МОСКВА 1965 ЛЕНИНГРАД
УДК 621.317.329:611 —0.18.8
С 54
РЕДАКЦИОННАЯ КОЛЛЕГИЯ
И. В. Антик, А. И. Бертинов, С. Н. Вешеневский, Л. М. Закс,
Н. Е. Кобринский, В. С. Кулебакин, В. Э. Низе, В. С. Малов,
Б. С. Сотсков, А. С. Шаталов
В книге приведен обзор современного состояния
техники и теории моделирования нейронов — элемен-
тов сложных управляющих, логико-информационных и
опознающих систем. Кратко рассмотрены функции и
характеристики биологических нейронов — прообразов
нейроноподобных электротехнических моделей. Даны
описания моделей, основанных на различных матема-
тических и технических принципах.
Книга рассчитана на широкий круг лиц, интере-
сующихся вопросами кибернетики, знакомых с осно-
вами электронной вычислительной техники.
Сочивко Владимир Петрозич,
ЭЛЕКТРИЧЕСКИЕ МОДЕЛИ НЕЙРОНОВ,
М.—Л., издательство „Энергия", 1965, 83 с. с черт.
(Библиотека по автоматике, вып. 148).
Тематический план 1935 г., № 244
Редактор В. А. Гармаш Техн. редактор Н. С. Мазурова
Сдаво в набор 25/VI 1965 г. Подписано к печати 23/VHI 1965 г.
Т-10284 Формат 84хЮ87з, Печ. л. 4,62 Уч.-изд. л. 4,62
Тираж 9 000 экз. Цена 23 коп. Зак. 431
Московская типография № 10 Главполигоафярома
Государственного комитета Совета Министров СССР по печати.
Шлюзсвая наб., 10.
ПРЕДИСЛОВИЕ
За последнее десятилетие в кибернетической литера-
туре появилось большое число статей, посвященных раз-
личным вопросам моделирования нейронов — нервных
клеток, из которых состоит нервная система живых орга-
низмов, в том 'числе и человека. Большая часть опубли-
кованных работ содержит результаты информационно-
математического моделирования нейронов, т. е. в них
рассматриваются те или иные математические модели
одиночного нейрона или системы нейронов, обсуждаются
итоги моделирования с использованием универсальных
математических машин. Опубликованы результаты тех-
нического моделирования. Как правило, это электронные
модели на лампах, транзисторах, ферритовых элементах
и т. п. В последние годы появились сообщения об элек-
трохимических моделях нейронов. Все эти работы пред-
ставляют большой теоретический и-" практический ин-
терес.
Прежде всего возникает мысль о том, что основной
задачей моделирования нейронов, как и всякого другого
моделирования, является экспериментальное исследова-
ние оригиналов — биологических нервных клеток, каж-
дая из которых является составным элементом нервной
системы. Условно это можно назвать биологическим
аспектом моделирования нейронов. Важность решения
этой задачи достаточно очевидна. Исследование биоло-
гического нейрона с помощью модели позволяет исклю-
чить влияние побочных факторов, затрудняющих изуче-
ние тех или иных явлений в оригинале. Начиная с упро-
щенных представлений, можно постепенно усложнять
модель, добиваясь все большего и большего приближе-
ния к оригиналу. Модель допускает исследование объек-
та в критических режимах, разрушение его и последую-
щее восстановление. В конечном итоге моделирование
биологических нейронов позволяет глубже познать мно-
3
гие стороны функционирования как отдельного нейрона,
так и нейронных сетей различной степени сложности.
Помимо биологического аспекта, имеется чисто ки-
бернетический аспект моделирования нейронов. В основе
его лежат следующие предпосылки. Основной задачей
кибернетики является анализ и синтез сложноорганизо-
ванных динамических систем преобразования информа-
ции. Из всех известных сегодня человеку систем такого
рода наиболее эффективными являются нервные системы
высших животных, в частности центральная нервная
система человека. Основным функциональным и струк-
турным элементом нервной системы является нервная
клетка — нейрон. Знание структуры и функций централь-
ной нервной системы может существенно помочь при
синтезе технических кибернетических систем. Однако до
тех пор, пока не известны принципы работы элементов
нервной системы, невозможно анализировать структуру
нервной системы, делать какие-то выводы и рекоменда-
ции для синтеза систем. И, наоборот, зная вполне опре-
деленно, как устроен и функционирует биологический
нейрон, зная о функциональных связях нейронов в нерв-
ной системе, понимая связь элемента (нейрона) со
структурой нервной системы, можно сделать выводы
о целесообразности использования нейроноподобных
элементов для синтеза тех или иных кибернетических
систем.
Таким образом, моделирование нейронов можно рас-
сматривать с двух сторон: во-первых, с целью исследова-
ния биологических нервных клеток; во-вторых, с целью
создания новых логических элементов для построения
кибернетических систем. Обе стороны вопроса имеют
большое и самостоятельное значение. Вместе с тем
вторая задача не может быть решена до тех пор, пока
не получены результаты решения первой из этих задач.
В настоящее время нейрофизиология накопила большое
число данных, позволяющих представить приближенную
модель нейрона. Поэтому имеется уже возможность
рассмотреть эту модель с .позиций кибернетики как
предполагаемый элемент сложных логико-информацион-
ных структур. Именно эти вопросы и рассматриваются
в книге. Что касается исследования биологических
нервных клеток, то приведены лишь некоторые результа-
ты, необходимые для рассмотрения основных вопросов,
4
связанных с созданием нейроподобных электрических
элементов для нужд технической кибернетики.
В зарубежной и отечественной литературе по моде-
лированию нейронов используется разнообразная тер-
минология: «аналог нейрона», «нейромим», «нейропо-
добный элемент», «аналог .нервной клетки», «нейристор»,
«абстрактный нейрон», «квазинейрон», «артон», «рерон»
и т. д. Так как основное содержание книги посвящено
техническому моделированию, будем называть различ-
ные схемные решения просто термином «нейрон». В тех
случаях, когда разговор будет идти о биологических
нервных клетках, используем термин «биологический
нейрон».
В процессе рассмотрения различных моделей видно,
как последующие схемы нейронов все более и более
отличаются от первоначальной модели нервной клетки.
Когда такое расхождение обнаруживается в отдельной
журнальной статье, возникает предположение о том, что
автор не знает структуру оригинала. Уже звучали упреки
в адрес кибернетиков-техников из-за того, например, что
в предлагаемых моделях все синаптичаские пластины
прикладываются только к телу нейрона, в то время как
фактически значительная часть синапсов биологического
нейрона заканчивается на дандритах. Однако такие упре-
ки оправданы лишь в том случае, если модель предла-
гается для исследования биологического нейрона. Тогда
в схему должны входить и элементы, заведомо снижаю-
щие общую эффективность работы, если они присущи
оригиналу. Наоборот, схема нейрона, предназначенная
для использования в технической кибернетической
системе, может иметь отличия от модели прообраза,
пока и поскольку такие отличия означают повышение
гибкости, надежности, быстродействия и других характе-
ристик.
Необходимо специально отметить следующее обстоя-
тельство. В самые последние годы появилось значитель-
ное число работ по нейрофизиологии, нейрохимии и
морфологии нервных структур. Они заставляют несколь-
ко по-иному оценивать некоторые свойства тела клетки
и мембран дендритов, указывают на информационую
роль глиальных клеток, окружающих нейроны, выявля-
ют возможности молекулярных условий логико-инфор-
мационного преобразования в нейроне и молекулярного
5
механизма запоминания. Путем тщательных биофизи-
ческих измерений установлено существование электро-
магнитного поля нервного волокна, возникающего
вслед за раздражением нервной клетки, и реактивной
чувствительности клеток к электромагнитным полям.
Традиционные представления модели нейрона в виде
пороговой схемы начинают все больше мешать при рас-
смотрении действительной роли тех частотно-импульсных
кодов, которые играют 'преобладающую роль в передаче
информации по нервным сетям. Вообще значение соче-
тания дискретного и непрерывного (аналогового) меха-
низмов осознается все более полно, но четкие представ-
ления здесь пока отсутствуют. Все эти новые факты
позволяют более полно понять функции нейрона как
наименьшего функционального элемента нейронной
логико-информационной структуры. Однако эти новые
данные биологии и биофизики еще не столько осмысле-
ны, чтобы найти свое отображение в технической кибер-
нетике. Естественно, что и в данной книге изложены
наиболее простые, широко известные специалистам,
в значительной степени формализованные модели. Мож-
но надеяться, что, являясь одной из первых попыток
обобщения разрозненных материалов по моделированию
нейронов, книга и в таком ввде представит 'интерес
для читателей «Библиотеки по автоматике».
Автор считает необходимым с благодарностью отме-
тить полезные для него обсуждения отдельных разделов
с Л. А. Ривлиным и В. С. Опришко.
Автор
ГЛАВА ПЕРВАЯ
НЕЙРОН КАК СТРУКТУРНЫЙ
И ФУНКЦИОНАЛЬНЫЙ ЭЛЕМЕНТ
НЕРВНОЙ СИСТЕМЫ
1. Элемент и структура
Всякая открытая кибернетическая система в процессе
нормального функционирования получает информацию
из внешней среды и преобразует ее ,по тому или иному
алгоритму. Существует ряд методов анализа кибернети-
ческих систем, каждый из которых преследует вполне
определенные цели. Наиболее общим является структур-
ный анализ, который позволяет дать самую обобщенную
оценку системы — определить ее структуру. Структура
представляет собой некоторое множество (совокупность)
элементов, упорядоченное вполне определенным образом.
Уже сравнительно простые случаи показывают, что
упорядоченность элементов структуры может быть оце-
нена по-разному в зависимости от того, под каким углом
зрения эта структура рассматривается, т. е. установле-
ние структуры зависит от того, как отображаются ее
элементы и связи между ними.
Для определенности используемого нами и далее
понятия дадим ему такое определение: структурой
в=(Х, Р) некоторой системы относительно отображения
Р называется множество X элементов х\, Хз, ..., хп,
упорядоченных данным отображением. В качестве меха-
низма отображения часто выступает развертывание во
времени, в пространстве, в координатах тех или иных
физических состояний. Можно привести много примеров,
поясняющих сказанное. Так, например, акустический
сигнал относительно отображения Фурье (механизм
развертки — гребенка полосовых фильтров) имеет струк-
7
туру вида амплитудного спектра. Отображение посред-
ством радиально-круговой развертки [Л. 87] приводит
к установлению структуры контурного изображения.
Ниже будет показано, как своего рода «логический
разрез» нервной сети, т. е. ее отображение относительно
некоторых законов логики, позволяет говорить о логиче-
ских структурах, анализировать и синтезировать упоря-
доченные множества логических элементов разного типа.
Можно отвлечься от реального содержания элемента
и обозначать его просто точкой. Перенося закономерно-
сти взаимосвязей между элементами на линии, соеди-
няющие эти точки, получим геометрическое представле-
ние структуры. Это хорошо передает пространственный
аспект принципа структурности. Надо отметить, что под
пространством здесь можно понимать не только обычное
арехмерное евклидово пространство, а любое я-мерное
функциональное пространство с той или иной метрикой.
Элементы структуры — это (непостоянные единичные
неделимые компоненты. Независимо от степени сложно-
сти структуры (среда, иерархия, система или одиночный
объект) каждый входящий в структуру элемент сам мо-
жет быть подвергнут в свою очередь структурному
анализу, хотя 'И <под другим уже углом зрения, т. е. от-
носительно иного вида отображения. Как правило, такое
положение не приводит к большим затруднениям, так
как-обычно установление элементов структуры не вызы-
вает трудностей.
При структурном анализе технических кибернетиче-
ских систем в качестве элементов устанавливаются те
или иные единичные функциональные узлы. Биологиче-
ские системы, в частности центральная нервная система,
функционально и структурно организованы много слож-
нее любой из созданных человеком технических систем.
Многое в работе нервной системы животного остается
неизвестным. Вместе с тем многочисленные и достовер-
ные факты нейрофизиологии, морфологии и других наук,
изучающих нервную систему живых организмов, дают
все основания считать, что в основе структурной органи-
зации нервных систем лежит вполне определенная упо-
рядоченность единичных нервных клеток (нейронов).
Установление того факта, что нейрон является само-
стоятельным структурным и функциональным элементом
нервной системы, недостаточно. Известно, что создателя
8
клеточной теории немецкого патолога XIX в. Р. Вирхова
резко критиковали даже его современники именно за то,
что он отстаивал значительную автономию клеток. Толь-
ко рассмотрение организма как единого целого, учет его
сложных координирующих механизмов, что осуществ-
ляется главным образом через нервную систему, позво-
лили преодолеть вредные ограничения теории Р. Вирхо-
ва. В настоящее время значительно возросло внимание
ученых к вопросам структурной организации нервной
системы [Л. 89]. Наряду со структурным анализом нерв-
ной системы не остаются в стороне и вопросы дальней-
шего исследования одиночного нервного волокна, нерв-
ной клетки, так как до последнего времени все еще не
ясны до конца закономерности фукционирования оди-
ночных нейронов, не известны логические и информа-
ционные операторы, реализуемые одиночным нейроном.
В кибернетике наибольший интерес вызывает струк-
турная и функциональная организация нервной системы
человека, в которой происходят сложнейшие акты пре-
образования информации, акты анализа и синтеза обра-
зов и понятий, что и составляет главный регулятор по-
ведения человека. Однако эта наиболее интересная с ки-
бернетической точки зрения система является одновре-
менно и наиболее сложной из всех известных на сегодня
систем. Сложность центральной нервной системы челове-
ка неизбежно должна соответствовать сложности всех
тех раздражителей, которые действуют на центральную
нервную систему со стороны внешней среды, а возмож-
но, и быть сложнее ее, потому что человеческий мозг,
помимо сознательного отражения всего богатства окру-
жающего нас мира во внешнем натурном его проявле-
нии, способен одновременно анализировать и синтези-
ровать сложнейшие ситуации, не воспринимаемые не-
посредственно органами чувств, способен к глубочай-
шим абстракциям.
В очень приближенном и поверхностном представле-
нии структурная организация нервной системы имеет
следующий вид. У всех позвоночных и у человека цен-
тральная нервная система состоит из головного и спин-
ного мозга. Мозг содержит два типа клеток — нейроны
и глиальные клетки. Количество глиальных клеток на
порядок превосходит число нейронов. Раньше считали,
что роль глиальных клеток сводится к доставке энергии
9
(питания) к нейрону и механической поддержке основ-
ного каркаса нейронов и их волокон, но уже и в про-
шлом столетия были ученые, которые прямо указывали,
как возрастает размер глиальной клетки у высших жи-
вотных по сравнению с низшими. В современных иссле-
дованиях невроглии уделяется большое внимание, так
как появляются данные об определенном информацион-
ном значении глиальной клетки, об активном участии ее
в процессах обработки информации в нервных сетях.
Чем выше по своему эволюционному развитию позво-
ночное животное, тем больше развит его головной мозг.
Так, головной мозг у лягушек и рыб весит меньше спин-
ного. У человека же головной мозг в 50 раз превышает
по весу спинной мозг.
(Вся центральная нервная система человека содержит
около 1010 нейронов, причем половина этого количества
приходится на головной ,мозг.
Все процессы управления и регулирования, происхо-
дящие в живом организме, связаны с функционирова-
нием взаимодействующих нейронов нервной системы.
Именно н этом смысле нейрон и является элементом
сложно организованной динамической нервной системы,
Нервные клетки являются лишь составной частью
того множества клеток, из которого состоит живой орга-
низм как таковой. Современные представления клеточ-
ной теории рассматривают клетки как главную состав-
ную часть организма, хотя, кроме них, в организме
имеются неклеточные структуры и продукты жизнедея-
тельности клеток: многообразное живое межклеточное
вещество, имеющее бесклеточное строение, жидкое меж-
клеточное вещество — плазма крови, плотное основное
вещество хряща, твердые кости и т. д.
Характерной особенностью всего живого является
раздражимость и возбудимость, которые вытекают из
обмена веществ. Для нервных клеток, объединенных
в нервную систему, характерны эти же свойства плюс
свойство проведения возбуждения, которое проявляется
как передача сигналов возбуждения от нейрона к ней-
рону.
В процессе эволюции происходила все большая диф-
ференциация нервных клеток. В результате у живых
организмов выделилось определенное количество нейро-
нов, которые специально информируют организм обо
10
всех изменениях, происходящих во внешней среде. Эту
группу нейронов называют рецепторы ы ми (от ла-
тинского recipere — получать).
Действие внешнего агента определяет раздражимость
клетки. Раздражимость — это способность рецепторного
нейрона отвечать на изменения в окружающей среде и
в самом организме некоторым изменением своего состоя-
ния и деятельности. Различают внешние и внутренние
раздражители, в качестве которых могут быть световые,
тепловые, звуковые, болевые, химические, электрические
и тому подобные воздействия. Если рецепторные ней-
роны специализированы для реакции на внешние раздра-
жители, их называют экстерорецептора<ми. Ней-
роны, реагирующие на изменения в самом организме,
называют интерорецепторами.
Остальные нейроны, входящие в нервную систему,
также имеют специализацию и различаются как по
.функциональным, так и по структурным свойствам. Ни-
же эти вопросы обсуждаются подробнее.
Реакция организма на раздражение называется
рефлексом (от латинского reflex us — отраже-
ние). Одиночные рефлексы можно выделить уже у жи-
вотных с относительно простой нервной системой. По
мере эволюционного развития рефлексы постепенно
усложняются. У высших животных рефлекс является
уже определенным точным ответом организма на то или
иное внешнее или внутреннее раздражение. Рефлексы
чрезвычайно разнообразны: пищевые, оборонительные,
ориентировочные, исследовательские, рефлексы положе-
ния в пространстве, рефлексы перемещения в простран-
стве и времени и многие другие.
Различают два вида рефлексов: безусловные и услов-
ные. Первые — наиболее просты. Они являются врож-
денными. Схематически безусловнорефлекторную дугу
можно представить так, как это показано на рис. 1. Путь
рефлекса (рефлекторная дуга) состоит из воспринимаю-
щего (рецепторного) аппарата раздражение которого
передается в виде сигналов возбуждения по центростре-
мительному (или афферентному) нервному волок-
ну 2 в определенную область центральной нервной си-
стемы. На рисунке—это нервный центр 3 в спинном моз-
гу. В нерных центрах происходит переключение возбуж-
дения с центростремительных на центробежное (или
11
эфферентное) нервное волокно 4, по которому воз-
буждение поступает в исполнительный (или эффек-
тор н ы й) орган 5. Последним может быть мышца, ко-
торая под воздействием пришедшего сигнала возбуж-
дения сокращается, или железа, которая дает рефлек-
торный ответ в виде выделения некоторого секрета
и т. п.
Условные рефлексы — это значительно более слож-
ный вид нервной деятельности. Дуга условного рефлекса
проходит через нервные центры, расположенные в коре
больших полушарий головного мозга. Механизм услов-
ных рефлексов известен нейрофизиологам лишь в самых
общих чертах. Это в значительной степени затрудняет
структурное изучение головного мозга, так как кора
больших полушарий представляет собой по существу
совокупность высших отрезков рефлекторных дуг. До
сих пор совершенно не ясно, каким образом условно-
рефлекторная дуга, помимо передачи импульсов от ре-
цепторов на эффекторы, сохраняет информацию о преды-
дущих актах. Не ясны и многие другие детали условно-
рефлекторного механизма.
Несмотря на незнание многих сторон функциониро-
вания и структурной организации нервной системы, хо-
рошо известна удивительная эффективность ее работы.
В ходе длительной эволюции живые организмы приоб-
рели высокосовершенные механизмы информационного
взаимодействия с внешней средой. Частичная утеря
этих механизмов ставит живое существо в трудное по-
ложение. Полная же потеря информационного контакта
12
PiHjc. 1. Схема рефлекторной дуги.
с внешней средой полностью исключает возможность
продолжительного существования организма. История
создания высших автоматов много короче истории эво-
люционного отбора живых организмов. Поэтому естест-
венным является желание позаимствовать опыт природы.
Инженеров интересуют многие стороны функциональной
и структурной организации нервных систем. Привлекает
внимание исключительная гибкость и пластичность ло-
гических свойств нервной системы. Удивляет высокая
надежность живых систем. Вполне определенно извест-
но, что отдельные элементы живых систем ненадежны.
По некоторым подсчетам за один час человеческой жиз-
ни отмирает до 103 нейронов, а новые нервные клетки
не вырастают; таким образом, нормально человек к по-
следним годам жизни теряет несколько сотен миллионов
нейронов, что не мешает его мозгу сохранять эффектив-
ную работоспособность. Поэтому понятен тот интерес,
который проявляют кибернетики к организации нервной
системы. Понятно, что первым этапом здесь неизбежно
является изучение одиночных элементов — нейронов,
изучив которые можно будет моделировать нейронопо-
добные структуры все большей и большей сложности.
2. Строение нейрона
В нервной системе животных имеются нейроны раз-
ных типов как с точки зрения функционирования, так и
по морфологическим признакам. Наиболее подробно
в настоящее время исследованы эффекторные нейроны,
которые называют также двигательными, моторными и
просто мотонейронами. Схематически мотонейрон может
быть представлен так, как это показано на рис. 2. В цен-
тре нервной клетки находится ядро У, составляющее
10—20% общего объема клетки. Тело клетки (так на-
зываемая сома) 2 покрыто тонкой и нежной полупро-
ницаемой оболочкой — мембраной, толщина кото-
о
рой составляет 50—100 А. Мембрана представляет со-
бой живую функционирующую часть нервной клетки,
играющую важную роль в защите клетки от поврежде-
ний и вредных влияний окружающей среды. Мембрана
регулирует состав клетки: все питательные вещества, по-
ступающие в клетку, должны пройти через полупрони-
цаемую оболочку, а все отходы и продукты выделения
13
клетки проходят через мембрану в противоположном
направлении. Размеры тела нейрона обычно не превы-
шают 0,1 мм.
Тело имеет древовидные ответвления — дендриты
<5, разнообразные по форме, распределению ветвей и их
ориентировке. Дендриты ответвляются на сравнительно
большие расстояния (до 1 мм) и заканчиваются тонкими
концевыми кисточками/
100<л*к
Рис. 2. Схематическое изображение «ейрона.
На некотором расстоянии от тела дендриты покрыты
выростами — шипами, имеющими вид плотной ножки
диаметром менее 0,5 мк, заканчивающейся утолщением.
Шипы находятся только на ветвях дендритов. На те-
ле нейрона и на аксоне таких шипов нет. Общее количе-
ство шипов на дендритах одного нейрона может дости-
гать десятков тысяч. Предполагается, что их функцио-
нальное назначение состоит в увеличении поверхности
контакта ветвей дендритов с окончаниями аксонов дру-
гих нейронов, т. е. они служат для восприятия нервных
импульсов от других нейронов. Окончания дендритов
выполняют рецепторные функции.
Из сомы 'выходит отросток — аксон 4. Длина
аксона нервных клеток человека колеблется от долей
миллиметра до 1,8 м и более (имеется в виду аксон, иду-
щий от нейрона, расположенного в пятке, до основания
черепа). Диаметр аксона имеет размеры от 1 до 20 мк
и существенно варьирует от системы к системе. Так,
у трехметрового кальмара дозидикуса, который обитает
у берегов Чили, толщина аксона значительно превышает
14
1 мм [Л. 65]. В мозгу млекопитающих -имеются аксоны,
диаметры которых лежат в пределах от 0,3 до 15 мк,
т. е. различаются в 50 раз. Существуют и клетки е соот-
ветствующими этим аксонам размерами.
Аксон на всем протяжении покрыт миэлиновой
оболочкой 6, которая прерывается по длине аксона
через каждые 1—3 мм. Эти места называют пере-
хватами Ранвье 5.
Рис. 3. Синоптические (пуговки, приле-
гающие к телу нейрона.
Аксоны могут иметь короткие боковые ответвления —
коллатерали 7, через которые импульсы возбужде-
ния могут передаваться на другие нейроны. Аксон мо-
тонейрона имеет на конце кисточку, которая иннерви-
рует исполнительную мышцу, приводя ее в действие.
В отличие от коллатералей аксона мотонейрона,
иннервирующих мышцу, коллатерали других нейронов
(и отдельные коллатерали мотонейронов) служат для
передачи сигналов возбуждения на соседние клетки.
Таким образом осуществляется функциональная связь
между нейронами. Сигналы связи переходят от нейрона
к нейрону благодаря функциональному соединению
между клетками, которое 'называют синапсом. На
рис. 2 изображен только небольшой участок тела клетки,
к которому прилегает несколько синапсов, не показан-
ных на рисунке. На рис. 3 этот же участок показан
в увеличенном виде. Здесь видны синаптические бляшки
(или пуговки) разной формы, прилегающие к телу клет-
ки. Одна из синаптических бляшек очерчена прямоуголь-
15
ной рамкой, и на рис. 4 этот участок показан при еще
большем увеличении. Видна синаптическая щель шири-
о
ной около 200 А. Линии краев синаптической бляшки и
тела нейрона изображают поверхностные мембраны.
о
Толщина мембран около 50 А.
1мк
Рис. 4. Синэтнический переход от пу-
говки к телу нейрона.
Внутри синаптической бляшки видны синаптические
о
пузырки диаметром около 300 А и органоиды — части-
цы, называемые митохондриями или хондриозомами. По-
следние играют роль в окислительных и некоторых дру-
гих процессах, происходящих в клетке. У. С. Мак-Кал-
лок и другие исследователи [Л. 41] наблюдали, что меж-
ду нейронами возможна и эфантическая передача воз-
буждения, что означает прямую передачу через мембра-
ны смежных нейронов. Но чаще всего функциональная
связь между нейронами осуществляется по приведенной
выше схеме: аксонное окончание предыдущего нейрона
имеет утолщение — синаптическую бляшку; мембрана
бляшки прилегает к мембране дендрита или тела следую-
щего нейрона.
Необходимо отметить, что на всех предыдущих рисун-
ках приведены схематические зарисовки, а не точные
копии действительных нейронов и их соединений. Но по
существу эти рисунки довольно близки к действительной
картине нервной ткани живого организма.
В нейрофизиологии существует понятие так назы-
ваемого стандартного мотонейрона. Стан-
дартный мотонейрон представляет собой шар диаметром
70 мк с шестью радиально отходящими от него цилин-
1$
дрическими дендритами, имеющими диаметр 5 мк и дли-
ну 300 мк. Дендриты у места выхода их из сомы имеют
коническую форму. Единственный аксон начинается не-
большим аксонным холмиком и далее имеет форму ци-
линдра фиксированной длины. Объем стандартного мо-
тонейрона составляет 2,5 • Ю-7 см3, а площадь поверх-
ности — 5,0 • Ю-4 см2.
3. Функционирование нейрона
Внешнее проявление функций нейрона подчиняется
так называемому закону «все или ничего» («да или
нет»), а именно: нейрон может находиться в одном и
только в одном из двух возможных состояний: 1) воз-
бужденное состояние; 2) состояние покоя. На ранней
стадии кибернетических исследований именно этот факт
дал основание проводить аналогии между биологически-
ми нейронами и техническими элементами релейного
(триггерного) действия. Исследования нейрофизиологов
в последние годы позволили обнаружить внутри отдель-
ного нейрона градульно (т. е. постепенно, последова-
тельно) реагирующие механизмы на каждом конце клас-
сического проводящего нервного волокна [Л. 66]. Это,
естественно, приводит к чрезвычайному расширению по-
нятия функций нейрона по сравнению с концепцией,
основывающейся на законе «все или ничего», который,
как считают сейчас, сохраняет силу лишь для проводя-
щей части аксона.
Возбуждение нейрона происходит тремя путями:
во-первых, нейрон может возбудиться за счет раздраже-
ния рецепторных окончаний дендритов; во-вторых, ней-
рон возбуждается за счет импульсов, поступающих от
другого, связанного с ним нейрона; в-третьих, нейрон
может возбудиться под воздействием сигнала, прошед-
шего от утолщения аксонного окончания своего собст-
венного аксона (обратная связь). Различают два типа
связей между нейронами: аксо-соматическую и аксо-
дендрическую. Структурное различие между ними со-
стоит в том, что импульс возбуждения, приходящий по
аксону, поступает через синапс либо непосредственно на
сому, либо на дендрит последующего (или того же са-
мого) нейрона. Более важным является функциональ-
ное различие. Предполагают, что по аксо-дендрическим
связям передаются импульсы возбуждения, а посредст^
2—431 17
вом аксо-соматической связи осуществляется изменение
порога возбудимости нейрона.
Понятие порог возбудимости нейрона являет-
ся очень важным. Нейрон, как и ©сякая живая клетка,
реагирует на раздражение в зависимости от количествен-
ных и качественных характеристик последнего. Но эта
реакция возникает в разных видах нейронов по-разному.
Будем считать, что к рецепторным нейронам не примы-
кают никакие синапсы, т. е. эти нейроны являются
входными. Нейроны, к которым присоединен хотя бы
один синапс, будем называть внутренними. Рецеп-
торные нейроны не реагируют на слабые раздражения,
лежащие ниже порога возбудимости. Такие раздражения
называют подпороговыми. Минимальную силу
раздражения, на которую возникает ответ рецептора,
называют пороговой силой. Величина порога за-
висит не только от свойств раздражителя, но и от осо-
бенностей рецепторного нейрона, на который воздей-
ствует раздражитель, — ведь это может быть фоторе-
цептор сетчатки глаза, терморецептор кожи, интероре-
цептор осмотического давления в кровеносных капилля-
рах и т. д.
Различают три типа порогов: абсолютный порог,
верхний порог и разностный порог. Абсолютным по-
рогом называется минимальная величина раздражите-
ля, которая вызывает реакцию рецептора. Абсолютный
порог — это как бы начальная точка на шкале интенсив-
ностей для определенного вида раздражителей.
Верхний порог — это та интенсивность раздра-
жителя, увеличение которой не приводит к усилению сиг-
нала, передаваемого рецептором в организм, т. е. верх-
ний порог определяет верхний эффективный предел чув-
ствительности.
Разностный порог—это минимальный прирост
интенсивности раздражения (по отношению к исходной
интенсивности раздражения), вызывающий усиление или
ослабление сигнала, передаваемого в нервную систему.
Здесь, как и в определении верхнего порога, под усиле-
нием или ослаблением сигнала, передаваемого рецепто-
ром, имеется в виду не усиление или ослабление, собст-
венно нервного импульса по амплитуде, а соответствую-
щие изменения ряда параметров нейросигналов, инфор-
мационно изоморфные этим изменениям.
18
Разностный порог определяется отношением Буге-
ра — Вебера:
АВ /п
Р = -д. (1)
где АВ — минимальный прирост интенсивности восприя-
тия;
В — интенсивность раздражителя.
В физиологии широко используется закон Бугера—
Вебера — Фехнера, из которого следует, что p=const.
Однако надо иметь в виду, что имеются отклонения от
этого равенства, особенно около абсолютного и верхнего
порогов.
До сих пор понятие порога здесь рассматривалось
применительно ко входным нейронам. Оказывается, что
во внутренних нейронах дело обстоит несколько иначе.
Импульс, пришедший к соме или дендриту от аксона
предыдущего нейрона, всегда одинаков по интенсивно-
сти. В этом состоит одна из сторон закона «все или ни-
чего»: импульс IB аксоне может отсутствовать («нет ни-
чего»); если же в аксоне (появляется импульс, то пара-
метры его постоянны («все») независимо от того, какую
информацию передает импульсация нервной системы
в данный момент времени — восприятие опасности или
знакомой и приятной ситуации. Такое положение опреде-
ляется специфичностью механизма работы аксона, кото-
рый в значительной степени ответствен за нормализацию
проводимых нервных импульсов. Отметим, что нормали-
зация сводится в данном случае к выравниванию пара-
метров одиночного импульса, а отнюдь не всей импуль-
сации, или, как говорят биологи, спайка. Таким образом,
допускается, что для данной нервной сети основные па-
раметры одиночного нейроимпульса: амплитуда, дли-
тельность, крутизна фронта — остаются неизменными,
в каких бы процессах обработки информации этот
импульс ни участвовал, и ответственным за это являет-
ся нормализующий механизм аксона.
Единственной, насколько нам известно, градацией
степени возбуждения нейрона является количество
импульсов возбуждения в серии и временные интервалы
между ними. Можно предполагать, что при передаче
информации в нервной системе используются закономер-
ности частотно-импульсной модуляции.
2* 19
Итак, к внутренйему нейрону поступают нормализо-
ванные по амплитуде импульсы от аксонов других нерв-
ных клеток. Для определенности удобно говорить о по-
ступлении импульсов к нейрону только через синапсы.
Эти импульсы раздражения могут оказывать на нейрон
не только возбуждающее, но <и тормозящее действие.
Если возбуждающий импульс, пришедший на синапс,
стремится возбудить нейрон, то пришедший одновремен-
но затормаживающий импульс может сделать невоз-
можным возбуждение нейрона. В различных нейронах
взаимодействие возбуждающих и тормозящих нервных
импульсов осуществляется по-разному. Считают, что не-
обходимым условием возбуждения нейрона является
следующее: алгебраическая сумма синаптических сигна-
лов должна превышать порог возбуждения нейрона.
Установлено, что в нейроне происходит как времен-
ное, так и пространственное суммирование синаптиче-
ских сигналов. Под временным суммированием пони-
мается следующее: поступающие на вход нейрона
отдельные синаптические раздражители имеют подпоро-
говую величину и каждый из них в отдельности не мо-
жет возбудить нейрон. Если же эти подпороговые
раздражители следуют один из другим через достаточно
короткие промежутки времени, то происходит как бы их
временное суммирование и нейрон возбуждается. Роль
предыдущих раздражителей для суммарного эффекта
возбуждения нейрона становится тем меньше, чем боль-
ше времени прошло после их появления. Это затухание
следов действия предыдущих раздражителей происходит
приблизительно по экспоненциальному закону.
Пространственное суммирование заключается в том,
что подпороговые раздражители приходят на ту или
иную пространственно разнесенную группу синапсов ней-
рона одновременно, и в зависимости от суммарного
эффекта синаптических воздействий может произойти
возбуждение нейрона.
В том случае, когда ib результате временного и про-
странственного суммирования подпороговых раздражи-
телей суммарный сигнал превосходит пороговую вели-
чину, нейрон возбуждается и генерирует стандартный по
форме нервный импульс, который распространяется
вдоль аксона с конечной скоростью (без затухания).
Это и соответствует явлению возбуждения нервной клет-
20
Рис.
5. Диаграмма изменения поро-
га возбудимости 1ней|рона.
ки. Частота Мервйых импульсов пропорциональна пре-
вышению порога суммой входных сигналов (возбужде-
ние минус торможение). Возрастание частоты выходной
импульсации продолжается до тех пор, пока не насту-
пит насыщение (100%-ный рабочий цикл). Таким обра-
зом, благодаря порогу возбудимости нейрон проявляет
дискретные свойства, а
изменение частоты вы- 4 0
ходных сигналов соот-
ветствует аналоговым
свойствам того же са-
мого нейрона.
Импульс возбужде-
ния может проходить
по аксону в обоих на-
правлениях одинаково,
но фактически по аксо-
ну импульсы переда-
ются только в одну сто-
рону. Односторонняя
направленность определяется не свойствами аксона,
а синаптическим механизмом передачи возбуждения:
синапс проводит возбуждение только .в одну сторо-
ну— с окончания аксона на дендрит или тело нейро-
на. Таким образом, импульс возбуждения передается по
цепи: рецептор — аксон — синапс — сома (или денд-
рит) — аксон.
С во йств а в оз будим о ст и н ейр он а, опр е д ел я ем ы е
в определенной степени его порогом, не остаются неиз-
менными. Если откладывать значения порога возбуди-
мости 0 по оси ординат, то кривая изменения порога во
времени будет иметь вид, представленный на рис. 5.
Нейрон, находившийся длительно в спокойном состоя-
нии, имеет порог возбудимости в0. В момент времени t0
суммарный сигнал раздражителей превысил порог и
произошло возбуждение нейрона. От момента t\ до t2
порог возбудимости нейрона оказывается как бы равным
бесконечности, т. е. никакие по силе раздражители не мо-
гут повторно возбудить нейрон в этот промежуток време-
ни. Период времени от t\ до t2 называют фазой абсолют-
ной р е ф р а к т е ip н о с т и. Фаза абсолютной рефрак-
терное™ [Л. 58] длится от 1 до 10 мсек в зависимости от
типа нейрона. Многие нейрофизиологи объясняют су-
21
ществование фазы абсолютной рефрактерности тем, что
энергия импульса, генерируемого нейроном при его воз-
буждении, черпается из самого нейрона. Исчерпав всю
энергию в момент разряда (возбуждения), нейрон
в период времени t\—12 накапливает новый заряд энер-
гии за счет протекания внутриклеточных биохимических
и биофизических процессов.
За фазой абсолютной рефрактерности следует фаза
относительной рефрактерности t2—/3, ко-
торая в 2—3 раза больше, чем фаза t\—12. В это время
порог возбудимости постепенно уменьшается, так как
нейрон может возбудиться, но только не нормальными,
а резко усиленными раздражителями.
Период /3—tA называют фазовой повышенной
(сверхнормальной) возбудимости или фазой
экзальтации. Он длится в несколько раз дольше пе-
риода относительной рефрактерности. При повышении
частоты следования синаптических импульсов фаза
экзальтации уменьшается.
В ходе функционирования происходит адаптация
нейрона, которая состоит в том, что при медленно изме-
няющемся входном сигнале чувствительность нейрона
как бы уменьшается. Тогда возбуждения нейрона может
и не произойти, хотя на вход поступит сигнал, превы-
шающий пороговое значение. Более того, если на фоне
медленно возрастающего входного сигнала появляется
импульсный сигнал, то на него нейрон либо не отвечает,
либо генерирует выходной импульс, но меньшей .интен-
сивности.
Процесс восстановления свойств возбудимости нейро-
на может быть аппроксимирован кривой, соответствую-
щей колебательному процессу, демпфирование которого
определяется повторяемостью идентичных сигналов.
Обычно предполагается, что интервал между входными
импульсами нейрона превышает время t0—1$. Во всяком
случае он не может быть меньше, чем интервал t0—13.
Это позволяет подсчитать, что наибольшая частота
выходных импульсов нейрона — максимальный ритм
нервных импульсов в одиночном волокне — не может
превышать 100—1 ООО гц и зависит от (типа нервной
клетки.
Импульс, генерируемый нейроном в результате воз-
буждения, распространяется по аксону без затухания и
22
с постоянной скоростью. Скорость прохождения нервного
импульса в аксоне определяется соотношением
v=k/D, (2)
где k — постоянная, D — диаметр аксона. Чем толще
аксон, тем больше скорость распространения импульсов.
У различных животных скорость прохождения нервного
импульса колеблется в пределах от 7 до 120 м/сек. Пе-
рехваты Ранвье аксона можно рассматривать как вста-
вочные генераторы, осуществляющие нормализацию
проводимого нервного импульса.
Нервный импульс, поступивший из аксона на синапс,
проходит через оинаптичеокий переход, как через диод,
только в одном направлении. Однако в отличие от про-
стого униполярного переходного элемента синапс осу-
ществляет временную задержку нервного импульса на
несколько миллисекунд.
Энергия, необходимая для возникновения и прохож-
дения нервного импульса, черпается не из источника
раздражения, а из самого нейрона. Это справедливо как
для рецепторных, так и для внутренних нейронов. К на-
стоящему времени проведены большие исследования,
которые дали обширный материал по химическим про-
цессам работы нервных клеток. Однако объем вводной
главы этой маленькой книги не позволяет остановиться
на этих вопросах подробнее.
4. Основные типы нейронов
Все нейроны нервной системы можно разделить на
три типа: 1) рецепторные, или входные; 2) внутренние,
или центральные; 3) моторные, или эффекторные (испол-
нительные) .
Рецепторы — это элементы нервной системы, котор'ые
вступают в непосредственное взаимодействие с раздра-
жителями, внешними по отношению к данной нервной
системе. Поэтому их справедливо называют входными
нейронами. В живых организмах имеются механические,
тепловые, химические, световые, акустические и другие
рецепторы, т. е. каждый рецептор настроен на восприя-
тие определенной формы энергии. Именно эта форма
энергии является подходящей, адекватной для данного
23
рецептора. Адекватный раздражитель — это тот, кото-
рый является натуральным для данного органа чувств,
а неадекватный — это необычный, неподходящий, нена-
туральный для него. На другие формы энергии рецептор
тоже может реагировать, но совершенно иначе, чем на
эту специфическую, подходящую для него форму энер-
гии. Например, фото-
1 рецепторы глаза, для
которых адекватным
является световой сиг-
нал, могут послать в
мозг сигналы и при
механическом раздра-
жении — ударе, но этот
раздражитель является
неадекватным.
По внешнему виду
рецепторы сильно раз-
личаются. Так, на рис. 6
показаны схематически
фоторецепторы сетчат-
ки глаз (по Поляку):
палочки /и колбочки 2.
Из рисунка видно, что
Рис. 6. Рецептор.ная часть глаза. нервные импульсы от
рецепторных нейронов
поступают на следующий слой нервных «леток —
биполярные клетки 3 (показана одна клетка слоя),
дальше—на ганглиозные клетки 4 сетчатки. В даль-
нейшем будем говорить о процессах преобразования
информации в нервной системе, не конкретизируя,
зрение это или слух, и т. д. Поэтому с целью удобства
введем схематическое обозначение абстрактного рецеп-
торного нейрона, как это показано на рис. 7, имея в ви-
ду, что фактически это упрощенное изображение далеко
не передает многообразие и сложность структур факти-
ческих биологических рецепторных нейронов.
Еще более разнообразны по форме центральные (вну-
тренние) нейроны. Некоторые из них внешне напоми-
нают мотонейрон, показанный на рис. 2. Другие нейроны
имеют иные очертания. По некоторому чисто внешнему
сходству и с целью удобства им приписаны названия:
пирамидальные, звездчатые, кустовидные, веретенооб-
24
разные, паукообразные (клетки Гольджи) и т. д. Для
центральных нейронов характерно густое разветвление
аксона в области дендритов. При этом иногда дендрит-
ные и аксонные разветвления так переплетаются вокруг
тела клетки и настолько они тонки и густы, что их почти
невозможно отличить друг от друга. На рис. 8 показаны
аксонные разветвления
звездчатых нейронов на те-
лах множества .пирамидаль-
ных клеток. Тела пирами-
дальных клеток показаны
светлыми силуэтами, а ИХ Рис. 7. Схематическое л-ред-
аксоны и дендрИТЫ на рисуй- ставлеиие -рецептора,
ке не 'представлены, так как
если их показать, то невозможно будет разобраться
в морфологии нервной сети: аксонные разветвления во-
круг звездчатой клетки не толыко много раз пересекают
дендриты данной клетки, но и оканчиваются на них,
а также на ооме клетки многочисленными синапсами
Рис. 8. Нейронная ткань.
(прямые и обратные связи). Пирамидальные клетки
также имеют значительные дендритные и аксонные раз-
ветвления.
Многообразие форм не уступает многообразию вы-
полняемых центральными клетками функций. Однако
это менее изученная сторона нейрофизиологии. В рабо-
тах И. С. Бериташвили [Л. 89] и др. показано, что упо-
25
минавшиеся выше звездчатые нейроны, лежащие в чет-
вертом слое первичной зоны анализаторных полей мозга,
являются, по-видимому, неверными элементами, произво-
дящими дифференцированные ощущения, на основе ко-
торых происходит восприятие внешнего мира и создают-
ся репродуцированные образы его. Эти звездчатые ней-
роны И. С. Бериташвили называет сенсорными, т. е. про-
изводящими ощущения.
Рис. 9. Схемы порогового и пластического нейронов.
Существенную роль в возникновении психической
деятельности в виде репродуцированных образов внеш-
него мира 'играют ассоциационные пирамидальные ней-
роны. Степень участия различных нейронов в психиче-
ской деятельности пока далеко не установлена. Даже
сравнительно простые процессы функционирования ней-
ронов открыты сравнительно недавно и далеко не в пол-
ной степени. Так, в 1946 г. Реншоу [Л. 101] обнаружил
эффект торможения двухнейронного рефлекса через воз-
вратные коллатерали, идущие от возбужденных аксонов
мотонейронов. Эта работа была развита Экклсом [Л. 11].
В результате было установлено, что существует группа
вставочных нейронов, названных клетками Реншоу, кото-
рые передают по своему аксону тормозящие импульсы
на синапсы других нейронов. Для более полного озна-
комления с этими вопросами читатель может обратиться
к списку литературы в конце книги.
Для удобства графического представления материала
введем схематическое обозначение центральных нейро-
нов так, как это показано на рис. 9,а. В большую окруж-
ность, обозначающую тело клетки, обычно вписывается
значение порога нейрона 0. От тела отходит аксон /, ко-
торый может иметь обратную связь 2, заканчивающуюся
синапсами 3 на теле клетки. Если синапсы вида 3 явля-
26
ются возбуждающими, то синапсы вида 4 — тормозящие.
Здесь имеется в виду постоянство синаптического меха-
низма. В том случае, когда необходимо учитывать изме-
нение синаптического веса каждого перехода аксон —
клетка, обозначение несколько изменяется. Это показано
на рис. 9,6. Из рисунка видно, что к одному из синапсов
нервный импульс приходит непосредственно от рецеп-
Ри-с. 10. Схема юейрона с дендрита ми.
торного нейрона, а к остальным синапсам присоединены
окончания аксонов, не показанных на рисунке нервных
клеток.
На приведенных схемах не отображены дендриты.
Если это важно для схематического рассмотрения, то от
сомы могут быть даны радиальные ответвления, к кото-
рым и примыкают некоторые из синапсов (рис. 10). Это
далеко не единственно возможные схематические обозна-
чения пороговых и пластических нейронов. Известны и
другие схемы, но приводить их здесь и сравнивать меж-
ду собой не будем.
Иногда требуется специальное обозначение всегда
возбужденной и постоянно тормозящей связи. Эти свя-
зи показаны на рис. 9,а стрелкой и кружком соответст-
венно, которые примыкают непосредственно к телу ней-
рона.
Показанные на рис. 9 входные линии %i можно раз-
делить на два типа: 1) возбуждающие волокна; 2) тор-
мозящие волокна. При формальном синтезе нейронных
сетей существенное значение имеет третий тип нервных
клеток — запрещающие волокна. Концевые части запре-
щающих волокон показаны на рис. 9,а и б в виде петель
запрета на возбуждающем и тормозящем волокнах.
27
5. Электрические характеристики функционирования
нейрона
В последние годы среди большого числа специали-
стов, работающих в области моделирования нейронов,
широко распространено, мнение, что нервные клетки и
нервные волокна являются в значительной степени элек-
тронными, точнее ионными устройствами. Дело в том,
что нервное возбуждение всегда сопровождается возник-
новением электрического тока. Электрические процессы
в нервных волокнах научились сравнительно хорошо ре-
гистрировать и измерять с помощью микроэлектродной
техники.
Даже в спокойном состоянии поверхность нервной
клетки несет на себе значительный (с учетом ее микро-
скопических размеров) электрический заряд. Наружная
сторона поверхности клетки заряжена положительно по
отношению к внутренней, причем разность потенциалов
составляет от 0,05 до 0,1 в. Электрический заряд клетки
не остается постоянным. При переходе нервной клетки
от спокойного к возбужденному состоянию этот заряд
изменяется. Наружная сторона клетки становится отри-
цательно заряженной по отношению к внутренней.
В процессах изменения разности потенциалов поверхно-
сти клетки активную роль играют синаптические пере-
ходы.
Для поддержания разности потенциалов на поверх-
ности клетка расходует энергию, вырабатываемую в про-
цессе обмена веществ. Физической основой создания
электрических зарядов поверхности являются ионные
процессы. Наиболее хорошо изучены процессы, происхо-
дящие в аксоне мотонейрона. Аксон также рассматри-
вается как электрическое устройство, аналогичное по
принципу действия коаксиальному кабелю. Внутренним
проводником является аксоплазма, внешним — наруж-
ный раствор, а изолятором — миэлин. Напряжение элек-
трического импульса, генерируемого в перехвате Ранвье,
равно 100—120 мв у большинства животных [Л. 56]. Ве-
личина тока разная. Она зависит от омического сопро-
тивления волокна и сопротивления между внутренней и
наружной средой в перехвате. Последнее сопротивление
о
сосредоточено в очень тонком слое (около 100 А) на по-
верхности нервного волокна. Этот слой называют
28
1
мембраной. При возбуждении сопротивление мембраны
резко падает, сопротивление же аксоплазмы практиче-
ски не меняется.
Есть все основания считать, что генератором элек-
трического тока является именно мембрана, а не весь
перехват Ранвье [Л. 56]. Электрические свойства
поверхности мембраны
аксона были исследованы ^ Выход
в широко известной рабо-
те лауреатов Нобелевской
премии в области биоло-
гии за 1963 г. .профессора
биофизики Кембриджско-
го университета А. Л.
Ходжкина и профессора
физиологии Лондонского
университета А.Ф.Хаксли
[Л. 118].
На рис. 11 представле-
на эквивалентная схема,
отображающая электри-
ческие свойства мембраны аксона. Ток может проходить
через мембрану либо вследствие заряда емкости мем-
браны С0, либо вследствие движения ионов через парал-
лельные этой емкости сопротивления.
Емкостный ток определяется обычным образом:
£ вход
Рис. 11. Эквивалентная схема
электрической активности мем-
браны аксюна.
/ —С —
Ионный ток разделяется на составляющие, обусловлен-
ные переносом ионов натрия /ка, ионов калия /к, и ма-
лый ток утечки, вызываемый ионами хлора и другими
/у. Величина каждой составляющей может быть измере-
на через разность потенциалов и коэффициент прони-
цаемости, имеющий размерность проводимости. Так, ток
ионов натрия /ка определяется выражением
^Na— S*Na(^ ^Na)'
29
Аналогично две другие составляющие равны:
1к = ёк(£'-ЕкУ'
Iy = gv(E— Еу).
Эти же токи можно записать в таком виде:
fy=gy(U-Uy),
где U = Е ER; £/Na = ZfNa • ER; UK = EK~ER; Uy =
= EY • E R',
ER — абсолютное значение потенциала покоя;
U, f/Na, UK и UY можно измерять как отклоне-
ния от потенциала покоя.
Проводимость натрия определяется выражением
. Of
dt
dl
dt
&Na &Na
dm /1 \ о
:am(l —m) — $mm\
~=ah(l — А) — рЛА,
где gNa — постоянная с размерностью сш-1 • СЛ4~2;
аир — постоянные скорости, меняющиеся с изме-
нением потенциала £/, но не зависящие от времени t.
Они имеют размерность (время)-1; т и h — безраз-
мерные переменные, которые могут изменяться от 0 до 1.
Приведенным уравнениям можно дать физическую
интерпретацию, если принять, что проводимость натрия
пропорциональна числу таких участков на внутренней
стороне мембраны, которые заняты одновременно тремя
активированными молекулами натрия и не блокируются
ни одной инактивированной молекулой. Тогда т пред-
ставляет долю активированных молекул внутри мембра-
ны, а (1—т) —долю таких молекул снаружи; h — долю
инактивированных молекул снаружи, а (1—h)—долю
инактивированных молекул внутри мембраны. Величины
ат или fih и рт или \ан являются постоянными скорости
переноса ионов в двух направлениях.
30
Зависимость постоянных а и |5 от V была определена
Ходжкином и Хаксли экспериментально.
Уравнение для -проводимости калия имеет вид*
В результате получаем уравнение
/ = 'с+Л,. + 'к + '* = С.5гН-
+ g^m*h (U - UNa) + gKn* (U-UK)+gv(U- U y).
Окончательный вид уравнений Ходжкина — Хаксли
(называемых в литературе X—Х-уравнениями), описы-
вающих явление возбуждения аксона нейрона и распро-
странение этого возбуждения, таков:
+ gKn*(U-UK)+gy(U-U7y,
Р + К (U) + pm (U)] т = ат (U);
ат (U) = 0,1 (U + 25)[ехр (^-) - 1 ]
рт([/) = 4ехр(^);
^ = а„(1 — «) — р„л.
an(t/) = 0,01(£/ + 10) ехр
и + 10
10
— 1
где / — ток через мембрану аксона, мка/см2 (положи-
тельным считается ток, протекающий внутрь
аксона);
U — потенциал мембраны аксона, мв (разность меж-
ду полным потенциалом и потенциалом покоя;
в случае деполяризации U отрицателен);
т — активация натрия;
h — инактивация натрия;
п — активация калия;
t — время, мсек\
С0 — емкость мембраны аксона, мкф2/см2.
X—Х-уравнения исследовались с помощью вычисли-
тельных устройств. Решение X—^-уравнений требует до-
вольно трудоемких расчетов. Поэтому даже при исполь-
зовании быстродействующих цифровых вычислительных
машин для расчета 'изменения мебранного потенциала
одного нейрона в течении 1 сек требуются минуты ма-
шинного времени. Расчет потенциалов при взаимодейст-
вии нескольких мембран потребовал бы слишком слож-
ной программы и вряд ли кем-либо производился.
Использование в данном случае аналоговых машин-мо-
делей имеет ряд неоспоримых преимуществ.
Позднее появились модели, существенно упрощающие
моделирование мембран по сравнению с системой X—X-
уравиений, iho в данной работе нет возможности остано-
виться на этих вопросах подробнее.
ГЛАВА ВТОРАЯ
МАТЕМАТИЧЕСКИЕ МОДЕЛИ НЕЙРОНОВ
6. Формальный нейрон
Первая известная формальная модель нейрона была
предложена У. С. Мак-Каллоком и У. Питтсом [Л. 59].
Они ввели следующие допущения:
1) нейрон представляет собой многополюсник, имею-
щий п входов и один выход;
2) нейрон состоит из тела (сомы), откуда нервное
волокно (аксон) ведет к одной или нескольким конце-
вым пластинам;
3) концевая пластина соприкасается с телом не бо-
лее, чем одного нейрона (того же самого или другого),
который она раздражает;
32
4) между концевой пластиной и телом нейрона
имеется разделяющий промежуток — синапс;
5) входы нейрона (синапсы) по своему действию де-
лятся на возбуждающие и тормозящие;
6) активность нейрона удовлетворяет принципу «все
или ничего»;
7) возбуждению выхода нейрона в какой-либо момент
времени должен предшествовать так называемой л а-
тентный период накопления возбуждений опреде-
ленного фиксированного числа входов;
8) указанное число входов не зависит от предыдущей
активности и от расположения ©ходов на нейроне;
9) сигналы могут проходить через нейроны только
в одном направлении;
10) единственным имеющим значение запаздыванием
в нервной системе является синаптическая задержка
между возбуждением входа и возбуждением выхода ней-
рона;
Ы) синаптическая задержка является величиной по-
стоянной;
12) активность какого-либо тормозящего синапса
абсолютно исключает возбуждение данного нейрона
в рассматриваемый момент времени;
13) с течением времени структура сети не изме-
няется.
В цитированной работе физические допущения фор-
мулируются в виде пяти пунктов (6, 7, '10, 12 и 13).
Остальные восемь следуют из контекста.
Приведенные представления являются упрощенными
по сравнению с нейрофизиологическими данными, но
многие нейрофизиологи отмечают (см., например, (Л. 13]),
что приблизительно допущения согласуются с реальным
положением вещей и их можно принять с тем, чтобы
построить модель нейрона и даже центральной нервной
системы. Правда, в работах последних лет {Л. 98] под-
черкиваются те новые данные нейрофизиологии, уже от-
меченные во введений, согласно которым реальные
нервные клетки существенно отличаются от формаль-
ного нейрона.
Допущения 1—13 явились основой, позволившей
предложить несколько типов моделей нейрона. Некото-
рые из этих моделей не удовлетворяют всем условиям
1—13, но основная часть этих условий в предложенных
3—431 33
моделях сохраняется. Ниже будут рассмотрены различ-
ные типы моделей формальных нейронов.
Огромной заслугой У. С. Мак-Каллока и У. Питтса
является то, что они первыми указали на вполне опре-
деленные логические свойства формальных нейронов.
Это позволило далее рассматривать формальный ней-
рон как элемент дискретной электронно-вычислительной
техники, элемент, из множества которых могут быть
синтезированы логические сети. Дальнейшее развитие
этих идей привело к понятиям синтеза конечных авто-
матов и логических сетей и вылилось в большой и само-
стоятельный раздел кибернетики.
Значительно позднее стали складываться представ-
ления о большом значении аналоговых (непрерывных)
свойств нейрона, т. е. таких свойств, которые сущест-
венно не укладываются в рамки дискретного (прерыв-
ного) механизма работы нейрона. В последние годы
у исследователей сложилось твердое убеждение, что
нейрон является не дискретным, а аналого-дискретным
элементом. Если рассматривать этот вопрос в самых об-
щих чертах, то можно отметить, что непрерывные свой-
ства нейрона прежде всего проявляются в том, что сома
и дендриты за счет пространственно-временного интегри-
рования осуществляюгпреобразование входных сигналов
из дискретной формы представления в непрерывную.
Преобразование же сверхпорогового интегрального сиг-
нала вновь в дискретную форму, происходящее в виде
частотно-импульсной модуляции, имеет смысл с точки
зрения помехоустойчивой, неискажающей передачи вы-
ходных сигналов нейрона по нервным волокнам на от-
носительно большие расстояния.
Математические модели нейронов как элементов не-
прерывного и дискретно-непрерывного действия строят-
ся в соответствии с известными методами теории авто-
матического управления и регулирования. Используя
структурный подход, можно синтезировать сложные си-
стемы регулирования и управления с помощью конечно-
го по ассортименту набора простых функциональных
звеньев. Для этого рассматриваемая сложная система
мысленно расчленяется на элементарные звенья. Клас-
сификация этих звеньев определяется их динамически-
ми свойствами, а динамика элементарного звена долж-
на описываться дифференциальными уравнениями не
34
выше Ёторого порядка. Последнее требование — крите-
рий прекращения расчленения сложной системы. Наи-
более определенно вопросы аналогового представления
нейронов как элементарных звеньев информационной
системы изложены в одной из последних работ [Л. 27].
При дальнейшем изложении мы вернемся к аналого-
вым моделям, хотя основной материал этой книги груп-
пируется вокруг наиболее сложившихся дискретных
представлений моделирования нейрона.
7. Логические свойства формального нейрона
В технической литературе под логикой автоматов
подразумевают чаще всего алгебру логики (или булеву
алгебру), т. е. начальный раздел математической логи-
ки, рассматривающий исчисление высказываний, каж-
дое из которых может принимать одно из двух значе-
ний— истинно (символ 1) или ложно (символ 0). Отсю-
да и другое название этой логики — двузначная логика.
Имея в виду именно этот раздел логики, рассмотрим
некоторые вполне определенные свойства формального
нейрона.
Будем называть булевой функцией такую
функцию, которая принимает одно из двух значений,
и такую, что все 'аргументы ее также могут принимать
одно из двух значений.
Этими значениями являются «истинно» и «ложно»,
что с целью сокращения записи и удобства можно обо-
значать любыми символами: И и Л, 1 и 0 и т. д. Наибо-
лее удобными со многих точек зренияя вляются симво-
лы 1 и 0.
Логические переменные будем обозначать символами
*и *2, *з> •.хп. Булева функция от п аргументов имеет
обычную запись / (хи х2, хъ, <.., хп). Здесь в соответ-
ствии с определением
/= 1, 2, 3, . . . , п
и булева функция также принимает одно из двух значе-
ний 0 или 1. Таким образом, область определения буле-
вых функций всегда конечна. Лоэтому любая булева
3* 35
функция может быть задана таблицей своих Значений,
причем таблица будет иметь конечные размеры.
Составим, например, таблицу булевых функций f(x)
от одной переменной (табл. 1).
Таблица 1
X
fl
и
и
h
0
0
0
1
1
1
0
1
0
1
Здесь в первом столбце записаны все значения, ко-
торые принимает аргумент х, а в остальных столбцах —
значения булевых функций.
ТоЗно так же составляется таблица булевых функций
f(xu *г) от двух логических переменных (табл. 2).
Таблица 2
fl
fl
fs
и
h
fe
ft
h
и
fio
fn
fia
fl3
fl4
fl«
0
0
0
0
0
0
0
0
0
0
1
1
1
1
1
1
1
1
0
1
0
0
0
0
1
1
1
1
0
0
0
0
1
1
1
1
1
0
0
0
1
1
0
0
1
1
0
0
1
1
0
0
1
1
1
1
0
1
0
1
0
1
0
1
0
1
0
1
0
1
0
1
В первых двух столбцах записаны все возможные
наборы аргументов, а в остальных столбцах проставле-
ны значения булевых функций.
Для технических приложений алгебра логики стро-
ится обычно как система объектов, на которой заданы
следующие операции:
1) логическое отрицание или инверсия (булева функ-
ция /3 в табл. 1); |2) логическое умножение или конъ-
юнкция (булева функция /2 в табл. 2); 3) логическое
сложение или дизъюнкция (булева функция fs в табл.2).
В основном такой выбор определяется удобствами тех-
нической и геометрической интерпретации. Действитель-
но, для релейно-контактных схем трем приведенным
операциям соответствуют: 1) включение и выключение
36
элемента; 2) последовательное соединение элементов:
3) параллельное соединение элементов.
Отрицание логической переменной х будем обозна-
чать чертой сверху: х. Если я = 0, то х=\ и наоборот.
Операцию логического умножения будем записывать
символом Л» например Х\/\х2, который, как в обычной
алгебре, может быть при записи опущен: ххх2.
Для записи логического сложения используем сим-
вол V:*iV-*V
Р,и|с. 12. Kpiyro* Эйлера для основных логиче-
ских операций.
Логические функции, выполняемые формальным
нейроном, удобно показывать с помощью диаграмм
Венна. Впервые круговые диаграммы для логического
анализа были применены еще Л. Эйлером. Значительно
позже Д. Венн усовершенствовал метод Л. Эйлера. По-
ясним принципы построения этих диаграмм.
Круги Эйлера дают возможность представить приве-
денные выше логические операции так, как это показа-'
но на рис. 12, где заштрихованная часть показывает
область определения булевой функции отрицания, конъ-
юнкции и дизъюнкции соответственно.
Диаграммы Венна выглядят значительно проще. На
рис. 13 показан способ построения диаграммы Венна.
Площадь малого треугольника на рис. 13,а означает
область значений переменной хи а площадь большого
треугольника — это область значений переменной х2.
Здесь же показана область пересечения треугольник
ков — их общая часть хг/\х2, что соответствует опера^
ции логического умножения. На рис. 13,6 две стороны
каждого треугольника едва обозначены пунктиром и
по-прежнему показана область хг/\х2. Наконец, на
рис. 13,0 дан окончательный вид диаграммы Венна, на
37
которой показана все та же операция конъюнкции
Каждая из 16 булевых функций в табл. 2 может
быть представлена с помощью диаграммы Венна сле-
дующим образом:
Ри<с. 14. Диаграммы 'Веша для орех -и четырех переменных.
ft как Х> т- е- всегда ложное высказывание;
f2 как iX, т. е. высказывание, истинное тогда
и только тогда, когда хг= 1 и х2 = 1, т. е. х1/\х2
(функция конъюнкции);
/3 как К, т. е. х*\
f4 как х, т. е. хх f\x2\Jхх/\х2 = хх\
/5 как х> т. е. х,/\х2;
fe как х, т. е. х, Д x2\J х^/\х2 = х2\
f1 как |-х, т. е. х,/\х2\/х, /\х2;
/8 как -X», т. е. xx\Jх2 (функция дизъюнкции);
/9 как X1, т. е. хх /\х2,
/10 как X, т. е. х,/\х2\/х1/\х2;
/п как -х, т. е. х1 /\х2\/хг /\хл = х2\
f12 как -X, т. е. xx\J х2\
а)
Рис. 13.
38
/13 как X, т. е. хг Д х2 V хх Д *а = хх\
/14 как Ж*, т. е. ^ V-^2;
fi5 как •><•, т. е. V х2;
/1в как т. е. всегда истинное высказывание.
В случае, если число логических переменных равно
трем или четырем, диаграммы Венна имеют вид, пред-
ставленный соответственно на рис. 14,а, бив. Для
случая четырех логиче-
ских переменных диа- I
грамма вычерчивается "
четыр ьм я з ам кнутым и
кривыми, каждая из
которых делит область,
образованную осталь-
ными кривыми, на две
части. Более простым
является /вариант диа-
граммы, показанный/на Рис. 15, Диаграмма Селфрвджа —
рис. 14,0. Однако еще Минского,
сам Д. Венн устано-
вил, что для пяти и более переменных построение
такого рода диаграммы затруднительно. Уже в наши
дни О. Г. Селфридж и М. Л. Минский предло-
жили графический способ построения, при котором
используются синусоиды, период и амплитуда которых
для каждого последующего аргумента удваиваются. На
рис. 15 показана диаграмма Селфриджа—Минского для
четырех аргументов. Этот способ позволяет расширить
применение диаграмм на любое число аргументов.
Нетрудно установить, что число N наборов различ-
ных значений п аргументов определяется формулой
N=2", (3)
а число F различных булевых функций от п аргументов
будет:
F(4)
Если я=1, то F = i (см. табл. 1)
п=2у F=16 (см. табл. 2)
/1=3 ^ = 266
п=3 F=65 536
я = 5 ^ = 4 294 967 296 и т. д.
39
Таким образом, табличный способ представления бу-
левых функций практически пригоден для ограничен-
ного числа аргументов. Но в логике показано, что из
булевых функций одного и двух переменных можно
с помощью операции суперпозиции (подстановки
булевой функции вместо аргумента другой булевой
функции) построить все булевые функции от большего
числа аргументов.
В алгебре логики в качестве основных операций, как
уже говорилось выше, выбирают операции отрицания,
конъюнкции и дизъюнкции.
Тогда справедливы следующие законы, которые иног-
да формулируют как систему аксиом, т. е. основных
правил, из которых выводятся все остальные правила
и теоремы.
1. Закон многократного отрицания:
Из этого следует, что если <над высказыванием стоит
любое четное число черточек-отрицаний, то все они
могут быть опущены. Если же число черточек нечетно,
то сколько бы их ни было, можно оставить над вы-
сказыванием только одну черточку-отрицание.
2. Закон для постоянных—единицы и нуля;
х — х.
(5)
3. Коммутативный закон:
x\Jy=y\J х.
4. Ассоциативный закон:
(7)
хЛ(УЛг) = (хЛу)Лг; \
x\J{y\Jz) = {x\Jy)\/z. )
(8)
5. Дистибутивный закон:
*/\{y\/z) = x/\y\/x/\z;
■*V(M2) = (*Vy)AC*V*)
(9)
40
6. Закон тавтологии:
х/\х = х;
х у х = х.
7. Закон универсального множества:
xf\\ = x\ \
x\J\=x. )
8. Закон нулевого множества:
0 = 0;
х уо = х.
9. Закон поглощения:
х V х Л у=
хА(х\/у)=х.
10. Закон двойственности:
11. Закон дополнения:
х У х= 1; 1
х Д 3с = 0. /
12. Закон распространения;
(10)
(11)
(12)
} (13)
х\/у=х/\у. J
(15)
В предыдущем разделе было указано одно из
свойств формального нейрона, состоящее в синаптиче-
ской задержке между возбуждениями входа и выхода
нейрона. Обычно считают, что синаптическая задерж-
ка постоянна и одинакова для всех синапсов. Это об-
стоятельство необходимо отражать при записи зако-
номерностей работы нейрона, для чего вводится вре-
менной параметр, который обозначим символом р (от
41
слова present — настоящее). С учетом этого обстоя-
тельства для формального дизъюнктивного нейрона
(рис. 16,а) правильной будет не обычная алгебро-ло-
гическая запись у=х{ Vх2> а уравнение вида
y{p) = xx{p-\)\J хж{р-\) (17)
или при другом выборе отсчетного момента времени
у{р+\) = хх{р)\/х%{р). (18)
Рис. 16. Дизъюнктивный и конъюнктивный формальные
нейроны.
Логические функции, реализуемые нейроном, запи-
сываются в виде диаграммы Венна внутри кружка,
обозначающего тело нейрона.
Конъюнктивный нейрон рис. 16,6 реализует булеву
функцию
У(р)=Хг(р-1)ЛХш(Р-1)ЛХш(Р-Ц- (I9)
8. Пороговая модель нейрона
Формальная модель нейрона Мак-Каллока—Пит-
тса послужила основой для построения нескольких ти-
пов пороговых моделей. Рассмотрим некоторые из них.
В модели, предложенной С. К. Клини [Л. 53], при-
нята следующая картина работы нейрона. В (равноот-
стоящие моменты (времени, одни и те же для (всех нейро-
нов, каждый нейрон нервной сети является возбужден-
ным или невозбужденным. Условие возбуждения ней-
рона в момент времени р состоит в том, что в момент
времени р—1 по крайней мере 0 возбуждающих синап-
сов действует, а из тормозящих синапсов ни один не
действует. Здесь 6 — целое число, равное значению по-
рога возбудимости нейрона. Примерами таких моделей
является дизъюнктивный и конъюнктивный нейроны,
42
приведенные на рис. 16. На рис. 17 показан нейрон, ус-
ловие возбуждения которого может быть записано
в виде
У (Р) = «*i (Р ~ 1) Л Х2 (Р - 1)) V (*i (Р - 1) Л
Л *з (Р -1))У (*,(/> -1)Л**(Р -1))) Л
Здесь надо отметить то обстоятельство, что в сложных
алгебро-логических 'выражени-
ях часто не хватает принятых
в обычной алгебре скобок —
круглых и фигурных. Поэтому
употребляют только круглые
скобки, число которых 1может
быть сколь угодно велико.
Модель нейрона Д. Т. >Кал-
бертсона [Л. 46] основана на
тех же (Предпосылках, что и
модель Клини. Разница между
ними лишь в принятых условиях возбуждения нейро-
,на. По Калбертсону порог в нейрона есть целое
число — положительное, отрицательное или нуль, посто-
янное для данного нейрона. Однако у разных нейронов
порог О может быть различным. Нейрон модели Кал-
бертсона возбуждается в момент времени р в том и
только в том случае, если
Рис. 17. Нейрон с пятью
входами (модель
С. К. Клини).
(20)
где Е — число возбуждающих синапсов, соприкасаю-
щихся с нейроном и возбужденных в момент времени
р—1, а / — число тормозящих синапсов, соприкасаю-
щихся с нейроном и воздействующих на него в тот же
момент времени р—1.
В модели Д. фон Неймана [Л. 63] принимаются ус-
ловия возбуждения нейрона, обобщающие обе рассмо^
тренные выше модели. Механизм возбуждения нейрона
по Нейману полностью описывается так называемой
пороговой функцией <р(я). Нейрон возбуждается в мо*
мент времени р в том и только в том случае, если в мо-
43
мент времени р—1 возбуждено k возбуждающих и /тор-
мозящих входов, причем
*>?(/)• (21)
Как отмечает Д. фон Нейман, ф(#) должна быть моно-
тонно неубывающей.
Для описания механизма возбуждения нейрона до-
статочно пользоваться некоторыми специальными клас-
сами пороговых функций, например
/ ч • / ч f 0, если лг<6,
?(*) = «ы*) = а (22)
( о©, если x^v.
Таким образом, суммарный сигнал торможений,
число которых меньше в, абсолютно неэффективен, а
если торможений больше или равно в—абсолютно эф-
фективен, или
?С*)=Хв(*)=*+е, (23)
т. е избыток числа возбуждений над числом торможе-
ний должен быть больше или равен в. Отсюда следует,
как это было отмечено А. А. Ляпуновым [Л. 69], что
условие возбуждения по Нейману действительно яв-
ляется наиболее общим: условие Клини получается из
последнего, если в качестве пороговой функции взять
ф@ (х), определяемую соотношением (22), и положить
0=1; условие Калбертсона получается в том случае,
если определить пороговую функцию соотношением
(23).
Известны и другие модели нейрона. Обобщенная мо-
дель порогового нейрона предложена В. И. Варшав-
ским [Л. 17]. Математически модель имеет следующее
описание. Пусть нейрон имеет п входов (синапсов) и
каждому входу поставлена в соответствие двоичная пе-
ременная Хг (г=0, 1, 2, 3, п— 1), причем
1, если i-и вход возбужден,
О, если i-и вход не возбужден.
44
Выходу нейройа поставлена в соответствие двоиВДай
переменная у, причем
{1, если выход нейрона возбужден,
О, если выход нейрона не возбужден.
Тогда поведение нейрона может быть полностью опре-
делено следующим уравнением:
у (р + 1) = sign [ £я«*< (р) -в], (24)
t=0
где у(р+1) —состояние выхода в момент времени р+1,
х{(р)—состояние i-то входа в момент времени р,
Xi — вес /-го входа (любое число — положительное, от-
рицательное или нуль), @ — порог (любое целое число—
положительное, отрицательное .или нуль).
Функция sign г определяется следующим образом:
( 0, если z<0, /ог-,
sign г = ^ (25)
[ 1, если г>0.
Условие возбуждения нейрона в момент времени р
запишется в следующем виде:
21**<(р-1)>е. (26)
9. Пластическая модель нейрона
Под пластичностью нейрона понимается изменение
его логических свойств в зависимости от предыстории
нервной активности. В отличие от нейронов с изменяю-
щимися параметрами у пластического нейрона могут
происходить изменения тех или иных характеристик, что
и определяет изменение логики его работы. Как указы-
вает Д. Г. Виллис [Л. 139], по крайней мере с 1893 г.
нейрофизиологи начинают догадываться относительно
существования у действительных биологических нейро*
нов изменений, которые оказывают постоянное влияние
на их логическое поведение. Таким образом, еще за-
долго до того, как оказалось возможным наблюдать
такое поведение нейрона и анализировать его с кибер-
нетической точки зрения, было предложено несколько
моделей пластичности. Наиболее широко известны мо-
45
дели пластичности, предложенные Д. О. Хэбом (1§49г.),
А. Шимбелом (1950г.) и Дж. Экклоом (1951 г.). Неко-
торые результаты исследования пластичности изложе-
ны в известной книге Дж. Экклса [Л. 101].
В формальных 'моделях нейронов (свойство пластич-
ности представляется следующим образом. .Первый
класс пластических моделей основан на свойстве ней-
Рис. 18. Нейроны с изменяющимся порогом.
рона изменять величину порога под влиянием преды-
дущих состояний его. Второй класс моделей допускает
изменение весов входов (синапсов) нейрона. Далее бу-
дет ясно, что у формального нейрона изменение весов
синапсов можно выразить через изменение величины
порога возбудимости нейрона. Более того, все флуктуа-
ции (обрывы входного волокна, отказ в аксоне, изме-1
нения в синапсах и ряд других) можно свести к флук-
туациям порога возбудимости нейрона.
Модель нейронй с изменяющимися порогами пока-
зана на рис. 18. Нейрон (рис. 18,а) имеет изменяющий-
ся порог в (0 = 3, 2, 1, 0, —1), выход у такой, что:
( п
1, если ^д:г>0,
У = \
0, если ^л:г-<в,
и два входа: хх— возбуждающий, х2 — тормозящий.
Таблица 3
Порог 0
3
2
1
0
—1
Логика
X
•X
•ж-
работы
46
Логические свойства этой мо-
дели при изменении порога -пояс-
няют диаграммы Венна (табл.3).
Нейрон (рис. 18,6) имеет три
входа: Х\ и х2 — возбуждающие,
Хз — тормозящий. Изменения ло-
гических свойств этого нейрона
при установлении разных значе-
ний «порога приведены в табл. 4.
Из вышеизложенного легко
представить себе, какие богатые
логические возможности потен-
циально заключены в одиночном
нейроне, у которого в зависимо-
сти от предыстории его активно-
сти может изменяться порог. Это
значит, что нейрон может на-
страиваться на выполнение тех
или иных функций в процессе
обучения. В терминах формаль-
ной лотики можно говорить, что
нейрон с изменяющимся порогом
может быть обучен исчислять ту
или иную логическую функцию.
С целью упрощения были рас-
смотрены нейроны с двумя и тре-
мя входами. Понятно, как усили-
ваются логические возможности
отдельного нейрона, у которого
число входов много больше, -чем
три.
Второй класс формальных
пластических нейронов допуска-
ет, как упоминалось выше, изме-
нение весов отдельных синапсов.
Поведение пластического нейрона
можно полностью определить
уравнением
п
у(р + \)=sign [ £ %iXi (р) - е],
имея в виду такое же определение сигнум*фуикции, как
в уравнении (25). Такие условия возбуждения пласти-
ческого нейрона в .момент времени р запишутся в Биде
j\hXi(p-l)>Q. (26)
1=1
Изменим обозначение порога 0 на символ Х0. Выра-
жение
£ЯЛ-Ло = 0 (27)
является линейным уравнением, описывающим линей-
ную поверхность (гиперплоскость) в /г-мерном евкли-
довом пространстве Еп. Координаты х\9 х2, *з, • •., хп
пространства Еп позволяют представить значения вход-
ных сигналов нейрона в виде точки в этом пространст-
ве, а коэффициенты Х0, Яь Я2, • •Яп, определяющие на-
клон гиперплоскости, однозначно связаны с синаптиче-
скими весами нейрона.
Набор входных сигналов Х\, х2, *з, • •> хп нейрона
определяет одно из двух: либо нейрон возбужден, т. е.
выполняется условие (26), либо он не возбужден. Од-
новременно это же означает, что линейная функция
п
G — ^KXi—Х0 принимает значение либо больше нуля,
/=i
либо меньше нуля на точке, представленной набором
Х\, х2, л:3, ..., хп в пространстве Еп.
Тогда любой набор входных сигналов хи х2> хъ, хп
относится нейроном к одному из полупространств—к по-
лупространству Е'п или к полупространству Е"п, при-
чем Е'п1)Е"п = Еп. Таким образом, пластический нейрон
разделяет все входные наборы дихотомически, по прин-
ципу «да или нет», и это разделение осуществляется
п
с помощью линейной функции о —S^XfXi—Х0. Поэтому
данную модель нейрона можно назвать линейным пла-
стическим нейроном. Пластичность рассматриваемой ли-
нейной модели определяется тем, что, изменяя веса Яг
(L = 1, 2, 3, п) синапсов, можно одновременно изме-
48
нять логические свойства дихотомического разделения
входных сигналов, добиваясь в процессе обучения (или
настройки) того 'или иного результата.
Здесь необходимо отметить следующее обстоятель-
ство. Как было показано ранее [Л. 87], не всегда за счет
линейного разделения пространства £n входных сигна-
лов можно добиться желанного дихотомического раз-
деления входных наборов. Поясним это примерами.
Таблица 5
Таблица 6
*1
Класс
хя
Класс
0
0
А
0
0
А
0
1
В
0
1
В
1
0
А
1
0
в
1
1
В
1
1
А
Для линейного пластического нейрона (рис. 19,а)
наборы хи х2 могут быть разделены в том или ином
смысле на два класса: класс А и класс В. Если требуе-
мое разделение имеет вид, указанный в табл. 5, то ли-*
нейное разделение наборов возможно, что поясняет
рис. 19,6. Однако возможна и другая классификация
Рис. 19. Линейный пластический нейрон.
входных (наборов. На1Щ>име(р, заданное разделение на
два класса может быть таким, как указано в табл. 6.
Это показано на рис. 20,а, откуда следует, что ли-*
нейное разделение точек класса А и точек класса В
невозможно. Схема пластического нейрона, логические
свойства которого заданы табл. 6, показана на рис. 20,6.
4—431 49
Диаграмма Венна показывает, что нейрон возбуждает-
ся от наборов класса А и остается невозбужденным при
появлении входных наборов класса В. Булева функция
может быть реализована на одном пороговом нейроне
только в том случае, если ее минимальная дизъюнк-
тивная форма не содержит одновременно переменной
с отрицанием и без него (это условие является необхо-
x,
4
Рис. 20. Нелинейное (разделение входных сигналов.
димым, но недостаточным). Как было показано [Л. 87],
для реализации разделительной функции, заданной
табл. 6, можно дополнить схему прибора нелинейным
элементом, реализующим операцию конъюнкции. Раз*
деление наборов в пространстве. Еп на классы А и В
в таком случае по-прежнему происходит в конечном
итоге с помощью гиперплоскости. Но так как на входе
нейрона включен нелинейный элемент логического ум-
ножения, удобно называть эту модель квазилиней-
ным пластическим нейроном.
Впрочем, этот путь реализации заданий функции не
является единственным. Теория логических сетей пока-
зывает, что всегда может быть построена логическая
устойчивая сеть нейронов для реализации требуемой
булевой функции. Таким образом, если даже не оди-
ночный нейрон, то логическая сеть из нескольких ней-
ронов может реализовать логическую функцию вида Ж.
Но пока мы ведем разговор о возможностях именно
одиночного нейрона, а не нейронных структур.
10. Универсальный элемент
Рассматривая логические свойства нейронов, мы
имели в виду обычную алгебру логики, которая вклю-
чает в основном три операции—отрицание, конъюнкцию
50
и дизъюнкцию. Из табл. 2 следует, что существуют и
другие булевы функции, в частности функция fis, т. е.
х\ V^2, которую называют функцией Шеффера и запи-
сывают так: fi5 = *i/#2, что читается «Х\ и х2 несовмести-
мы». В логике уже давно было показано, что функция
Шеффера является универсальным оператором: исполь-
зуя только один опера-
тор Шеффера, можно а = >- ^ _ w- _„
В. Аккермана «Основы х2 ^
теоретической логики» rfj
(Изд-во иностранной
литературы, М., 1947) Рис. 21. Универсальный нейрон (эле-
на стр. 29 можно про- ,мшт Шеффера).
читать буквально (сле-
дующее: «В качестве курьеза следует упомянуть, что
можно обойтись также одним-единственным логическим
знаком, как это показал Шеффер».
В кибернетическом плане впервые элемент Шеффе-
ра рассмотрел Д. Нейман [Л. 69], который использовал
этот элемент как универсальный нейрон для синтеза
логических нейронных сетей. Элемент Шеффера в виде
пороговой модели показан на рис. 21,а, а его условное
обозначение — на рис. 21,6.
Смысл универсальности элемента Шеффера можно
пояснить следующими простыми примерами. На рис. 22
показаны два варианта нейронных сетей, реализующих
логическую операцию конъюнкции. Как видно из ри-
сунков, обе логические сети построены только из эле-
ментов Шеффера.
На рис. 23,а и б показаны схемы, реализующие опе-
рации логического сложения также при помощи только
элементов Шеффера, а на рис. 24 приведена схема вы-
полнения операции отрицания.
Математиком Ч. Пирсом применен другой универ-
сальный оператор, который получил название «стрела
Пирса». Этот оператор реализует булеву функцию
построить любую буле-
ву функцию. Некото-
рое время на функцию
Шеффера смотрели как
на курьезное" обстоя-
тельство. В известной
книге Д. Гильберта и
2
51
f's=xl I x2. Можно показать, что, имея только «элемен-
ты Пирса», можно также построить логические сети,
выполняющие любые операции булевой алгебры, в том
числе и операции конъюнкции», дизъюнкции и отрица-
ния.
Рис. 22. Схемы выполнения операции
логического умножения при помощи
элементов Шеффера.
Рис. 23. Схемы выполнения операции ло-
гического «сложения «при помощи элементов
Шеффера.
С точки зрения чисто аналитической алгебро-логиче-
ское исчисление, использующее один универсальный
оператор, существенно удлиняет все записи. Однако
с этим неудобством можно было бы мириться, если бы
не другие недостатки алгебры универсального операто-
ра. Так, алгебра, построенная на основе универсально-
52
4
то элемента, имеет меньшую логическую наглядность.
Отношения ОТРИЦАНИЕ, И и ИЛИ обычной алгебры
логики хорошо понимаются умозрительно. Отношение
же несовместимости х\ \/х2 менее наглядно и в какой-
то степени затрудняет проведение логических заключе-
ний. Далее отношения обычной, широко принятой
алгебры логики имеют нагляд- х
ную геометрическую и техни- *(^\
ческую интерпретацию. Этого J^y~~~~
нет в алгебре универсального а=г/ —
оператора. Наконец, в настоя- а)
щее время в технической ки-
бернетике отсутствуют про-
стые элементы, реализующие 1 ^ Y чу>\ У=х
универсальную операцию типа
«функция Шеффера». Обычно
такую операцию выполняют с
использованием двух логиче- рИ(С. 24. Схемы отрицания,
ОКИХ элементов—схемы И И реализованные при помощи
схемы НЕ. Ее даже так и на- элементов Шеффера.
зывают — операция И—НЕ.
Взглянув на рис. 22—24, нетрудно убедиться, что тех-
ническая реализация приводит к значительным услож-
нениям логических устройств, т. е. является экономиче-
ски и технически невыгодной.
Однако, несмотря на все это, следует иметь в виду,
что если 'будет предложен конструктивно простой уни-
версальный элемент, например с использованием ка-
ких-либо новых физических явлений, то это будет чрез-
вычайно интересно и полезно. Тогда техническая кибер-
нетика получит в свое распоряжение удобный «строи-
тельный материал»—типовые элементы, из набора ко-
торых может быть построено логическое устройство
любой степени сложности.
ГЛАВА ТРЕТЬЯ
ТЕХНИКА МОДЕЛИРОВАНИЯ НЕЙРОНОВ
11. Суммирующие и пороговые устройства
Механизм пространственного и временного сумми-
рования входных сигналов нейрона можно моделиро-
вать с помощью электрических цепей, включающих те
53
Рис. 25. Пространственное и
временное суммирование вход-
ных "сигналов.
или иные пассивные и активные элементы и выполняю-
щих суммирования токов или напряжений. Наиболее
простой моделью пространственного суммирования яв-
ляется сумматор на сопротивлениях, а временное сум-
мирование проще всего осуществляется при использо-
вании в качестве временного накопителя обычного кон-
денсатора. Объединение
пространственного и времен-
ного накопления (показано
на рис. 05.
Транзистор Т типа р-п-р
включен по схеме эмиттер-
■ , ного повторителя и служит
для согласования нагрузки
входного устройства и по-
следующих каскадов схемы
модели нейрона.
Через сопротивления вхо-
дов Ru R$, i?3, ..., Rn вход-
ные возбуждающие сигналы
поступают в виде положи-
тельных электрических импульсов, а тармозящие—в ви-
де отрицательных импульсов. На базе транзистора появ-
ляется сигнал, соответствующий пространственному сум-
мированию входных воздействий хи х2, *з, • • хп.
Пространственное суммирование здесь происходит
за счет сложения токов на основании первого закона
Кирхгофа, согласно которому сумма токов в провод-
никах, сходящихся к узлу электрической цепи,' равна
нулю:
я+1
/=1
Отсюда нетрудно перейти к значению результирую-
щего напряжения.
Временное суммирование осуществляется благодаря
заряду конденсатора Cs, потенциал на обкладках ко-
торого изменяется в соответствии с временным харак-
тером появления входных сигналов х\„ х2, хг, ..., хп.
В полной схеме модели нейрона должно быть
устройство, позволяющее устанавливать (изменять) зна-
чение порога срабатывания. В данном случае постоян-
54
ный порог нейрона определяется величиной смещения,
подаваемого на транзистор. Если требуется изменять
пороговое значение, то в цепь смещения должен быть
включен потенциометр.
Интересным и перспективным является использова-
ние ферритовых сердечников в качестве пороговых и
суммирующих устройств.
Принципиально здесь воз-
можно большое число ва-
риантов схем: на обычных
тороидальных феррито-
вых сердечниках с пря-
моугольной петлей гисте-
резиса с суммированием
входных сигналов, посту-
пающих, во входные об-
мотки, и с изменением по-
рога возбудимости в виде
изменения величины по-
стоянного подмагничива-
ния; на магнитных эле-
ментах с частичным пере-
магничиванием; на ферри-
товых сердечниках с несколькими отверстиями и т. д.
В качестве примера на рис. 26 показано суммирующее и
пороговое устройство на ферритовом сердечнике (транс-
флюксоре) с двумя отверстиями.' Размеры трансфлюксо-
ра определяются через диаметр большого отверстия и
коэффициет п, представляющий собой отношение диа-
метра D всего трансфлюксора к диаметру dQ большого
отверстия ^ = Этот коэффициент в реальных
трансфлюксорах имеет значение 1,5—1,75. Тогда диа-
метр ам малого отверстия определится формулой
(/2-1)2
Рис. 26. Трансфлюксор для сум-
мирования 'входных сигналов и
изменения порога возбуждения
нейрона.
Расстояние k между геометрическим центром транс-
флюксора и центром большого отверстия равно:
k--
/2—1
:2 (2/г— 1)
55
а расстояние / между геометрическим центром транс-
флюксора и центром его малого отверстия равно:
п2
Z =2(2/2- 1) d6'
При подаче импульса тока на обмотку связи wc сер-
дечник переходит в состояние насыщения.
Вследствие прямоугольности петли гистерезиса сер-
дечника это состояние сохраняется и после прекраще-
ния действия импульса сброса в обмотке wc.
Входные импульсы тока, поступающие на входные
обмотки до'ь ..., wni, пространственно суммируются.
Суммарный сигнал входных обмоток перемагничивает
в противоположное направление часть магнитопровода,
прилегающего к большому отверстию трансфлюксора.
Теперь вступает в действие круговая зона вокруг мало-
го отверстия трансфлюксора. Подавая на запрашиваю-
щую обмотку до2 сигнал переменного тока, получим
в выходной обмотке wz сигнал, амплитуда которого
зависит от величины зоны намагничивания вокруг ма-
лого отверстия, а последняя в свою очередь опреде-
ляется суммарным результатом действия входных си-
гналов. Практически считывание суммарного сигнала,
записанного в сердечнике, целесообразно производить
не синусоидальным переменным током, а знакоперемен-
ными несимметричными импульсами. Если расчет про-
изведен правильно и не происходит так называемой
«разблокировки» сердечника, то такое считывание яв-
ляется неразрушающим. Для подготовки входной цепи
к очередному суммированию входных сигналов на об-
. мотку wc опять подается импульс сброса.
Этот же самый механизм неразрушающего считы-
вания суммарного сигнала может быть использован и
для других целей, в частности в качестве синаптическо-
го весового механизма. Эти вопросы будут рассмотре-
ны ниже.
12. динамические элементы
Центральной частью схемы модели нейрона является
устройство триггерного действия, которое изменяет свое
состояние на противоположное в момент возбуждения
нейрона, что (служит причиной появления сигнала иа вы-
56
ходе. В качестве такого устройства часто используется
обычный статический триггер на электронных лампах
или на транзисторах. Изменение потенциала выхода
триггера через конденсатор передается в форме импуль-
са напряжения в управляемую цепь. В случае, если
отсутствует внешняя синхронизация, осуществляющая
возврат схемы в нулевое (невозбужденное) состояние,
удобно использовать ©место схемы статического триггера
ждущий мультивибратор (однювибратор). Схемы стати-
ческих триггеров и одновибраторов достаточно широ-
ко известны, чтобы здесь на этих вопросах останавли-
ваться.
В традиционной цифровой вычислительной технике
наряду со статическими элементами широко исполь-
зуются и динамические. Точно так же и при синтезе ней-
ронных сетей в ряде случаев целесообразно иметь ди-
намический импульсный выходной сигнал нейрона
в момент возбуждения. Это является непременным ус-
ловием в моделях частотных нейронов. Для генериро-
вания импульсов возбуждения нейрона в модели мо-
жет быть использована любая подходящая схема. На
рис. 27 дана схема модели, в которой в качестве гене-
рирующего устройства используется феррит-транзистор-
ная ячейка. Рассмотрим работу схемы.
Начальным (нулевым) состоянием феррита, соответ-
ствующим невозбужденному состоянию нейрона, яв-
ляется состояние +ВГ остаточной магнитной индукции
(рис. 27,6). В это положение феррит переходит под воз-
действием тактового импульса, поступающего от по-
стоянно работающего генератора 2. Если взвешенная
п
сумма входных сигналов Х\, х2, х$, ..., хПу поступа-
ющих на входное устройство 1 нейрона, превзойдет
порог в, на входную обмотку а/взс1 феррита Ф\ посту-
пает импульс тока, перемагничивающий сердечник из
состояния +ВГ в состояние —Вг. В следующий момент
времени на тактовую обмотку сердечника приходит им-
пульс от генератора 2 и феррит Фх возвращается в со-
стояние + ВГ. На схеме рис. 27,а имеется в виду одина-
ковая полярность импульсов, поступающих во все об-
мотки ферритов. Начало каждой обмотки обозначено
жирной точкой.
5-431 57
\-Hc
№.
ABn
-вт
Рис. 27. Динамическое устройство порогового 'нейрона.
Переход феррита Ф\ из состояния —Вг в состояние
+ ВГ под воздействием тактового импульса нуждается
в дополнительном пояснении. Здесь импульс тока в так-
товой обмотке перемещает рабочую точку сердечника
из точки —Вг за изгиб криволинейного участка петли
гистерезиса в направлении, указанном стрелкой. Изме-
нение магнитного потока сердечника приведет к воз-
никновению электродвижущей силы в базовой обмотке
w§ так, что плюс э. д. с. приложен к эмиттеру, а минус
58
э. д. с. — к базе. Транзистор Тх типа р-п-р, поэтому при-
ложенное к базе напряжение отпирает его и в коллек-
торной цепи появится ток /кь протекающий от точки,
потенциал которой—Ек/2, к зажиму, потенциал которо-
го— Ек. Ток /кь протекая через коллекторную обмотку
wK9 еще дальше сдвинет точку, что приведет к еще
большему увеличению индуктируемой в обмотке wq
э. д. с, т. е. отрицательное напряжение на базе транзи-
стора еще больше увеличится, что в свою очередь при-
ведет к увеличению коллекторного тока, и т. д.
Под действием положительной обратной связи раз-
вивается лавинообразный процесс, заканчивающийся
полным перемагничиванием ферритового сердечника Ф\.
По окончании этого процесса транзистор полностью за-
кроется. В результате на выход схемы поступает пер-
вый импульс тока /кь
Протекая через входную обмотку хювхЪ ферритового
сердечника Ф3, импульс тока rKi перебрасывает сердеч-
ник в состояние —Вг. Через время, определяемое за-
держкой в линии задержки 3, импульс генератора 2 по-
ступает в тактовую обмотку wT3 и перебрасывает сер-
дечник Ф3 в состояние +ВГ точно так же, как это про-
исходило в ферритовом сердечнике Ф\. Возникающий
при этом импульс коллекторного тока /к3 протекает че-
рез вторую входную обмотку w"BX\ ферритового сер-
дечника Ф\ и сердечник перемагничивания из состоя-
ния + ВГ в состояние —Вг (только за счет действия им-
пульса тока гк3; транзистор Т\ в перемагничивании на
этот раз не участвует, так как индуктируемые в обмот-
ках э. д. с. не отпирают транзистор).
Вслед за этим генератор 2 вновь генерирует им-
пульс, .приводящий к развитию уже рассмотренного вы-
ше блокинг-процесса, и на выходе появляется второй
импульс последовательности. Так, на выходе нейрона
генерируется серия импульсов. Длительность этой серии
определяется временем нахождения нейрона в возбуж-
денном состоянии. Переход в начальное (невозбужден-
ное) состояние происходит за счет подачи сигнала
в обмотку ферритового сердечника Ф2, который пере-
ведет сердечник Ф2 в состояние —Вг. В следующий мо-
мент времени импульс тока от генератора 2 возвращает
ферритовый сердечник Ф2 в состояние +ВГ. При этом
по цепи от общей точки ферриттранзисторной ячейки
5* 59
*2—T2 к зажиму —Ек/2 протекает коллекторный ток/К2,
создающий падение напряжения на сопротивлении /?,
компенсирующий действие э. д. с, индуктируемой в ба-
зовой обмотке wqi первой ферриттранзисторной ячей-
ки при переводе сердечника Oi из состояния—Вг в со-
стояние + ВГ. В результате транзистор 7\ остается за-
пертым и происходит срыв генерации выходных импуль-
сов нейрона.
13. Синаптический механизм
Через синапсы импульсы входных сигналов, возбуж-
дающие и тормозящие нейрон, поступают в нервную
клетку. Существует много фактов, заставляющих пред-
полагать, что синаптический механизм биологического
нейрона очень сложен. По предположению некоторых
ученых (![Л. 26] и др.) информация сохраняется в нерв-
ных сетях в виде определенной структуры, обусловлен-
ной изменениями синаптической проницаемости, т. е.
синаптическому механизму приписываются, в частности,
функции запоминающих устройств. Это предположение
подтверждают такие факты, когда под действием гор-
монов происходит резкое снижение синаптической про-
водимости |[Л. 70], что создает условия для быстрой и
прочной фиксации однажды проявившейся функцио-
нальной связи. Вместе с тем очень многое в работе си-
напсов до сих пор остается неясным.
В электрических моделях нейронов синаптический
механизм представляется крайне упрощенной схемой.
Односторонняя проводимость синапса в электрической
схеме получается естественным образом за счет рас-
пределения потенциалов схемы, и никаких дополни-
тельных схемных решений здесь не требуется. Синапти-
ческая задержка входного импульса моделируется с по-
мощью обычной линии задержки—-.пассивной (напри-
мер, электромагнитной) или активной (например, од-
новибратор).
Более интересным является схемное решение при мо-
делировании пластичности синапсов. Для биологическо-
го нейрона согласно наиболее широко распространен-
ному мнению f Л. 101] пластичность проявляется в умень-
шении чувствительности синапса после серии преды-
дущих^ возбуждений. Если иметь в виду такого рода
60
перестройку синапса, то моделирование синаптического
перехода сводится к введению в схему управляемого
сопротивления или аттенюатора. В литературе имеются
сведения об использовании для этих целей ферритовых
сердечников [Л. 103] с несколькими отверстиями. Из-
меняя ширину зоны магнитного состояния вокруг од-
ного из отверстий, получают соответствующее измене-
ние величины э. д. с. в обмотке этого отверстия. Под
руководством автора этой книги А. Н. Олехновичем
были произведены лабораторные исследования ферри-
товых сердечников с несколькими отверстиями для
установления действительных возможностей моделирова-
ния синаптического механизма. Результаты исследова-
ний показали, что шкала изменения синаптического ве-
са относительно мала (единицы милливольт). Кроме
того, модель требует большого числа стабильных ис-
точников питания, неустойчива по отношению к внеш-
ним /воздействиям и излишне сложна, чтобы ее исполь-
зовать в качестве элементарной составной части пла-
стического нейрона, у которого общее число синапсов
может быть достаточно велико. Впрочем, к этим резуль-
татам сейчас следует подойти критически, ибо в по-
следние годы получены интересные результаты [Л. 47,
76}) по аналоговым запоминающим устройствам на
трансфлюксорах, что открывает новые перспективы их
использования в синаптических механизмах нейронов.
В последние годы в литературе появились сообще-
ния о новых элементах—изменяющихся сопротивлениях
с запоминанием установленной величины, так называе-
мых мемисторов. Естественно, что эти элементы были
исследованы с точки зрения возможности использовать
их для моделирования синаптического механизма. По-
лученные при этом результаты {Л. 88] приблизительно
соответствуют тем данным, о которых сообщается и
в зарубежной литературе [Л. 93]. Приведем здесь крат-
кие данные о моделировании синапсов с помощью элек-
трохимических мемисторов.
Мемистор представляет собой элемент, который схе-
матически показан на рис. 28. В электролит (например,
CuS04—водный раствор медного купороса) помещены
два электрода: угольный (катод) и медный (анод).
Если к выводам 3 и 4 приложить управляющее напря-
жение (/у так, чтобы потенциал анода был положитель-
61
ным относительно потенциала катода, то вследствие
электролиза будет происходить осаждение меди на по-
верхности угольного электрода. Чем толще этот слой,
тем меньше сопротивление RM мемистора. Сопротивле-
ние RM измеряется между
7 ~ I 4 выводами 1 и 2 изолиро-
ванных проводников, при-
соединенных к противо-
положным краям подлож-
ки, на которую осаждает-
ся медь. Слой меди мож-
но сделать тоньше, т. е.
можно увеличить величи-
ну RM. Для этого поляр-
Рис. 28. Схема мемистора. ность на выводах 3 и 4
изменяется на (противопо-
ложную. Таким образом, проводимость подложки g(t)
в момент времени / определяется по закону Фарадея:
t
g(t) = k\ir(t)dt, (29)
6
где iy(t)—ток в управляющей цепи анод—катод, k —
коэффициент пропорциональности.
По окончании действия сигнала управления подлож-
ка имеет сопротивление RM, значение которого может
быть измерено. Для неразрушающего многократного
считывания RM целесообразно использовать перемен-
ный ток itc4, пропускаемый через выводы 1 и 2 сопро-
тивления мемистора. Частота тока считывания состав-
ляет 1 000—20 ООО гц.
Информационная емкость мемистора определяется
величиной ^м.макс—Ям.мин и шагом квантования ARM.
Понятно, что эти величины в свою очередь определяют-
ся свойствами электролита, проводимостью металла,
осаждаемого на подложку, и конструкцией мемистора
в целом.
Выбор электролита определяется следующими тре-
бованиями:
1) удельное сопротивление электролита должно
иметь возможно большую величину;
2) процесс формирования слоя металла на подлож-
ке (сопротивление мемистора) должен быть обратимым;
62
3) подложка должна образовывать плотное равно-
мерное покрытие катода;
4) плотность тока управления должна быть доста-
точно большой;
5>) выделение газа в процессе электролиза должно
быть минимальным;
6) параметры электролита должны быть стабильны-
ми во времени.
В простых конструкциях, где к мемистору не предъ-
являются повышенные требования быстродействия и
большой информационной емкости, может быть исполь-
зован в качестве электролита медный кислый раствор
C11SO4 + H2SO4.
Изредка применяется также медный борфтористо-
водородный электролит, медный кремнефтористоводо-
родный электролит с предварительным нанесением на
подложку слоя родия или серебра и другие растворы.
Разнообразны и конструкции мемисторов. На рис.29
показан один из первых вариантов конструкции, разра-
ботанный В. С. Опришко
[Л. 88] на базе специально об-
работанного каркаса сопро-
тивления типа УЛМ. Здесь ис-
пользуются те же обозначения
выводов, что и на рис. 28.
Внешние размеры одиночного
мемистора 4X8 мм. Мемисто-
ры входят в общую конструк-
цию пластического линейного
И квазилинейного нейронов, Рис. 29. Вариант конструк-
поэтому конструкция отдель- |Ц-*ИИ мемистора.
ного мемистора не характе-
ризует размеры устройства в целом, но все-таки приве-
денные размеры мемистора дают возможность предста-
вить компактность синаптического механизма. Приве-
денный вариант мемистора характеризовался следую-
щими параметрами:
Управляющее напряжение .... 0,5 б
Ток управления 2,0 ма
Мощность управления 1 мет
Максимальное сопротивление ме-
мистора 300 ом
63
Минимальное сопротивление ме-
мистора
0,2 ом
Время максимального изменения
сопротивления
10 сек
2 ма
0,35 в
20 кгц
Ток считывания
Напряжение считывания
Частота тока считывания . . . .
Максимальная крутизна характе-
ристики Ru=f(t)
30 ом/сек
4X6X8 мм
Внешние габариты мемистора . .
Допустимый диапазон изменения
температуры от — 15 до + 70° С
Самопроизвольный уход величины сопротивления мемистора
при отключении питания за время эксплуатации не наблюдался.
На рис. 30 показаны пунктиром характеристики ме-
мистора, снятые при первоначальном нанесении слоя
металла на подложку и при начальном снятии металла
с подложки (характеристики нетренированного эле-
Pihc. 30. Характеристики мемисто|ра. цИи твердых мемисто-
можно уже сегодня говорить о шкале мемистора с отно-
шением проводимостей конечной и начальной по крайней
мере 10 000: 1 и о времени полного изменения веса (со-
противления), исчисляемом по крайней мере десятками
микросекунд.
мента). Там же сплош-
ными линиями показа-
ны стабильные харак-
теристики, полученные
после 50 циклов (полно-
го нанесения и снятия
металла с /подложки.
t
Приведенное описа-
ние мемистора носит
чисто иллюстративный
характер. К настояще-
му времени известны
конструкции с сущест-
венно лучшими харак-
теристиками. В част-
ности, наряду с меми-
сторами с жидким
электролитом разра-
батываются конструк-
ров.
Принципиально
Нельзя не отметить следующие достоинства меми-
стора, используемого в качестве синапса нейрона:
1) возможность плавного изменения веса синапса от
условного нуля до —1 в одну сторону и до +1 в дру-
гую сторону;
2) шкала изменения веса синапса достаточно ве-
лика;
3) хранение информации в синапсе происходит без
затраты энергии;
4) информация в синапсе сохраняется при полном
отключении питания;
5) при работе осуществляется неразрушающее счи-
тывание информации;
6) в режиме считывания синапс на мемисторе яв-
ляется быстродействующим элементом;
7) мощность сигналов управления мала, управление
возможно как постоянным, так и переменным током;
8) рабочая часть характеристики имеет достаточно
линейный характер, а мостовые схемы включения по-
зволяют легко компенсировать имеющуюся нелиней-
ность;
9) элемент конструктивно прост и очень дешев;
10) габариты элементов малы;
11) элемент устойчив к внешним воздействиям
(тряска, вибрация, толчки, изменение температуры
и т. д.).
В то же время в случае необходимости технологиче-
ски осуществимы мемисторы с самопроизвольным за-
быванием (разрушением) информации, что представ-
ляет большой интерес для исследовательского модели-
рования условных рефлексов, механизмов памяти и т. д.
14. Использование новых физических процессов
и явлений
В предыдущем параграфе было показано, что
использование ферромагнетизма и химотроники позво-
ляет создавать отдельные элементы моделей нейронов
в компактном исполнении и с хорошей эффективностью
выполняемых функций. В настоящее время ведутся спе-
циальные исследования некоторых ранее известных и
недавно открытых физических (и химических) процес-
G5
сов и явлений с целью использования их для создания
новых элементов кибернетики и вычислительной техни-
ки. Такие исследования имеют большой смысл и для
техники моделирования нейронов. Конкретным приме-
ром, подтверждающим сказанное, является модель,
предложенная X. Д. Крейном [Л. 108, 109] и названная
нейристором. При рассмотрении принципа действия
нейристора часто используют в качестве аналогии бик-
фордов шнур, по которому без затухания перемещается
огонь. Однако такая аналогия является неполной, так
как бикфордов шнур — это устройство разового дейст-
вия, а нейристор функционирует неограниченное число
раз. Но в смысле незатухающего перемещения сигналов
в линии при рассмотрении одного акта работы такая
аналогия допустима. Здесь проще обратиться к меха-
низму аксона, который обладает такими же свойствами,
а это поможет пояснить как принцип действия нейри-
стора, так и возможность использовать его для моде-
лирования нейронов.
Нейристор представляет собой канал связи с распре-
деленной по его длине энергией, в котором происходят
некоторые активные процессы возбуждения. Возбужде-
ние в любой точке линии вызывает переход связанной
с ней энергии в импульс возбуждения, который пере-
дается к соседней точке линии. Таким образом, стано-
вятся активными соседние участки линии. Подобное
распространение сигнала называют разрядом, так
как при этом сигнал, распространяющийся по линии,
непрерывно регенерируется за счет распределенной
энергии линии. Работа нейристорной линии описывается
как взаимодействие волны возбуждения с потоком
энергии. Входной сигнал определяет момент начала
распространения разряда., но не влияет на его вид.
Скорость и форма распространяющегося импульса раз-
ряда определяются только свойствами собственно ли-
нии. Все рассмотренные в литературе нейристорные
линии обладают продольной симметрией.
На рис. 31 схематически показан один из возмож-
ных вариантов построения нейристорной линии. Работа
схемы происходит следующим образом. Через тонкую
пленку из термисторного материала 1 пропускается
электрический ток. Термисторная пленка является од-
ной из обкладок конденсатора, второй обкладкой яв-
66
ляется обычный проводник 2. Если в некоторой точке
такой линии повысить температуру термисторного ма-
териала, то это приведет к понижению сопротивления
в этом месте линии и, как следствие, к местному разря-
ду распределенной емкости, что при соответствующих
параметрах линии приведет к дальнейшему разогреву
участка линии, окружающего начальную точку. Переда-
ча тепла от нагретой точки
+ ш^шшшшш « к ,C0C^HHM и рассматривается
» 9 здесь ,как распространение теп-
I у лового импульса возбуждения.
При (равномерном распределе-
Рп«с. 31. Конструкция ней- иии параметров линии ггепло-
iP'tfcto'pa. вой импульс возбуждения за
счет продольной симметрии ли-
нии распространяется без затухания и ослабления. За
фронтом возбуждения остается зона рефрактерности, что
соответствует принципам функционирования биологиче-
ских нейронов.
Таким образом, с точки зрения функционирования
нейристорная линия об-
ладает следующими
свойств ами, onр еде-
ляющими ее логические
возможности: свойство *\
цродольной симметрии, а) >^ L-
способность пропускать
следующий энергетиче- рис. 32. Способы соедине-
ский разряд через оп- ни я .нейристоров.
ределенный период вре-
мени, наличие периода рефрактерности. Для нейристора
характерно, что два импульса, встречаясь в нем, не ин-
терферируют, а взаимно уничтожаются, так как за
фронтами импульсов возбуждения следуют зоны ре-
фрактерности.
Вообще отражение импульсов возбуждения отсутст-
вует независимо от того, с чем произошло столкнове-
ние— с другим импульсом или с неоднородностью ли-
нии, в частности с точкой соединения линий.
Различают два способа соединения нейристоров друг
с другом: Г-соединение (рис. 32,а) и Р-соединение
(рис. 32,6).
Т (от слова триггер)-соединение—это импульсная
67
связь между нейристорньгми линийми, когда каждая из
них может возбуждать другие, т. е. сигнал, приходящий
к узловой точке от любой линии, возбуждает все ответ-
вления. Аналогичное действие достигается при объеди-
нении бикфордовых шнуров в одну точку, когда огонь,
пришедший по одному шнуру, разветвляется во все бик-
фордовы шнуры., подсоединенные к точке объединения.
Р (от слова р е ф р а к т е р н о с т ь)-соединение—это
энергетическое соединение, при котором две или более
линий обладают взаимной ре-
циннии' „,„„„щ 6 Фрактерностью и их импульсы
y не интерферируют, а сигнал
в одной из линий не возбужда-
ет сигналов в остальных лини-
ях. Два импульса, идущие по-
. обеим линиям навстречу кмес-
' ту соединения, уничтожаются
точно так же, как в одиночной
Q линии.
Для логического синтеза
схем используется Т—Р-соеди-
нение, показанное на рис. 33,а,
Рис. 33. Схема отрицания и где две линии с Р-связью об-
вентмль. разуют на одном из концов
Т-соединение. Здесь импульс
возбуждения, пришедший по линии А или по линии В
или по обеим линиям одновременно, может продолжать
распространение только но линии С. Взаимный переход
сигналов между линиями А и В отсутствует.
Использование соединений указанных трех типов по-
зволяет строить любые логические и вычислительные
схемы. Например, схема рис. 32,а осуществляет логиче-
скую операцию дизъюнкции, если рассматривать любые
ее два конца как входы, а третий — как выход схемы
ИЛИ. На рис. 83,а схема Р-соединения реализует опе-
рацию отрицания: пока линия С не возбуждена, им-
пульсы беспрепятственно проходят как от А к 5, так и
в обратную сторону. Если же на линию С действует
серия импульсов, то любой сигнал в линии АВ в обла-
сти соединения будет уничтожаться в результате столк-
новения. Можно сделать асимметричное Р-соединение.
Тогда линия С будет управлять прохождением импуль-
сов только в одном направлении линии АВ.
68
На рис. 33,6 импульс, введенный в линию С, не мо-
жет пройти в линию В, тар как в точке, отмеченной
кружком, сигнал разветвляется (Г-соединение), а в ме-
сте Р-соединения происходит взаимоуничтожение (ан-
нигиляция.) этих сигналов. В то же время сигнал из
линии В в линию С проходит беспрепятственно, потому
что его ответвление в точке Г-соединения, конечно, за-
паздывает для прихода в Р-соединение. Такая схема
проявляет свойства односторонней проводимости и
с учетом конечного времени прохождения от В до С
прекрасно имитирует синаптический механизм односто-
ронней /проводимости .и задержки входного сигна-
ла. Эта же схема (может рассматриваться как счет-
чик ino модулю два с .входами А и В относительно вы-
хода С.
Преобразовав Г-соединение в кольцевое соединение
с одним выходом и используя Р-соединение в качестве
входа, получим кольцевой динамический элемент па-
мяти.
В этом коротком разделе трудно указать все инте-
ресные свойства нейристоров, тем более, что многие из
них еще ждут своего открытия. До сих пор говорилось
о сильной связи линий. Если использовать слабые свя-
зи, то логические свойства нейристора еще более обо-
гатятся. Так, считая, что одиночный импульс, пришед-
ший к узлу Г-соединения, недостаточен для возбужде-
ния с узлом линий и необходим одновременный подход
группы импульсов, получаем пространственное сумми-
рование входных сигналов, которое имеется на входе
нейрона.
Как заметил изобретатель нейристора X. Д. Крейн,
его прибор не столько нейрлстор, сколько эдристор.
Имеется в виду то обстоятельство, что предполагаемая
модель построена 'чисто эвристически. Действительно,
в зарубежной литературе все еще нельзя найти описа-
ний физической реализации модели Крейна. Интересно
то, что в нашей стране физические реализации нейри-
сторной модели предложены довольно давно |[Л. 74].
Характерной особенностью этой реализации является
использование квантовомеханического эффекта, в част-
ности явления отрицательного резонансного поглощения
света в устойчивой среде [Л. 75]. Один из вариантов
квантовомеханического нейристора представляет собой
69
систему йз оптического гейератора и световода, запол-
няемого активным веществбМ, усиливающим свет, с по-
казателем преломления, большим показателя преломле-
ния окружающей среды. Сугубо специальные квантово-
радиофизические особенности процессов, определяющие
работу этого нейристора, затрудняют изложение наибо-
лее характерных деталей и достоинств этого прибора
в рамках данного раздела. Заметим лишь, что, помимо
чрезвычайно высокого быстродействия нейристора, та-
кая реализация открывает широкие возможности ком-
пактного выполнения нейристорных сетей и континуаль-
ных моделей [Л. 33]. Характеристики нейристоров
описанных в цитированной литературе, значительно
улучшаются при использовании полупроводниковых
квантовых генераторов.
Известно, что уже давно ведутся разработки нейри-
сторов с использованием тонких пленок шириной по-
рядка десятков микрон. На этом пути наряду с хорошим
быстродействием будут, вероятно, получены реализации
нейронных структур в микроминиатюрном исполнении.
15. Моделирование на электронных
вычислительных машинах
В технике моделирования нейронов, как и вообще
в технической кибернетике, существует два взгляда на
пути создания новых устройств. Согласно первому из
них ©сякое «овое 'кибернетическое устройство, прежде
чем быть выполнено в металле, тщательно исследуется
с помощью электронных вычислительных машин. При-
верженцы этого взгляда считают, что вполне доста-
точно иметь результаты моделирования того или иного
типа нейронов на электронной вычислительной маши-
не, а создание этой же модели в металле на тех или
иных элементах является излишним, так как ничего
дополнительного не дает, а требует лишь больших за-
трат и отнимает время, тогда как машинное моделиро-
вание осуществляется без существенных материальных
затрат и в сравнительно короткое время.
Сторонники второго пути считают более целесооб-
разным создавать устройство непосредственно в метал-
ле и на нем производить все исследования.
70
По-видимому, ib настоящее цремя нецелесообразно
придерживаться крайних точек зрения. Моделирование
на электронных вычислительных машинах является се-
годня непременным этапом инженерного труда, но
в обязательной форме это имеет место при проектиро-
вании и изготовлении относительно сложных киберне-
тических систем и устройств. Сравнительно простые
кибернетические устройства желательно моделировать
на электронных вычислительных машинах, но это в зна-
чительной степени определяется тем, насколько свобод-
но проектировщик имеет доступ к электронной вычис-
лительной машине, насколько благополучно с машина-
ми времени в вычислительном центре, который его об-
служивает.
Следует иметь в виду, что при моделировании на
цифровых электронных вычислительных машинах в из-
вестной степени теряется наглядность эксперимента и
возможность оперативно вмешиваться в ход процесса,
изменяя те или иные условия эксперимента. При моде-
лировании на электронных машинах непрерывного дей-
ствия дело в этом смысле обстоит благополучнее. И со-
всем хорошо /работать с устройством, собранным именно
в металле, хотя последнее неизбежно связано с необхо-
димостью затраты материальных средств, времени и
квалифицированного труда для изготовления устрой-
ства.
При изготовлении электрических моделей нейронов
конечной целью технической кибернетики является со-
здание функциональных и структурных элементов
сложных логико-информационных систем. Поэтому
здесь необходимо учитывать следующее. Моделирование
одиночного нейрона с помощью большой электронной
вычислительной машины не совсем хорошо в чисто пси-
хологическом плане. Неизбежно должно смущать то
обстоятельство, что модель элементарной ячейки вопло-
щена в машине такой большой сложности. Но если да-
же не иметь в виду такого рода второстепенные детали,
то остается такой момент: конечной целью является
создание элемента. По смыслу работы это должна быть
сравнительно элементарная ячейка, кирпичик, из огром-
ного множества которых в дальнейшем будут синтезиро-
ваться всевозможные логико-информационные машины.
Таким образом, и не предполагается ограничиться толь-
71
ко информационным моделированием на электронных
вычислительных машинах. В конечном итоге дело все
равно дойдет до создания физического элемента. А при
этом могут быть сформулированы довольно жесткие
требования к габаритам элемента, экономичности, воз-
можности согласования с нагрузкой, к источникам пита-
ния, стоимости элемента в целом и т. д. По-видимому,
об этом стоит думать с самого начала.
Таким образом, разумно иметь в виду не один тот
или иной путь создания модели нейрона, а в соответст-
вии с условиями и этапами работы сочетать использо-
вание электронных вычислительных машин с физиче-
ским моделированием нейронов в виде электрических,
электрохимических и тому подобных схем с применением
новых элементов кибернетики и электронной вычисли-
тельной техники.
В настоящее время имеется много сообщений о ре-
зультатах (моделирования нейронов на цифровых и ана-
логовых вычислительных машинах. В основном это свя-
зано с моделированием нейронных сетей ([Л. 57] и др.),
•но есть работы по моделированию одиночного нейрона
([Л. 51, 52] и др). Как правило, моделирование нейрона
на электронной вычислительной машине производится
в том случае, когда ставится задача экспериментально-
го исследования биологического нейрона, а не исследо-
вания с целью отработки логического элемента техни-
ческой кибернетики.
Малый объем (книги не позволяет остановиться по-
дробно на вопросах, связанных с программированием
моделей на цифровых вычислительных машинах. По мо-
делированию на вычислительных машинах непрерывного
действия опубликованы результаты детального исследо-
вания, проведенного на отечественной машине МН-7
[Л. 52]. Пример схемы набора задачи для моделирования
нейрона на электронной вычислительной машине непре-
рывного действия показан на рис. 34. В блок / входят
два усилителя постоянного тока, работающие в режиме
суммирования. Один из них суммирует возбуждающие,
а другой — тормозящие входные сигналы. Блок 2 моде-
лирует мембрану нейрона. Блок 3 является выходным.
В него же введена линия задержки, моделирующая
синаптическую задержку импульса ib нейроне.
72
Схемы экспериментального исследования биологиче-
ского нейрона могут быть довольно сложными, так как
круг задач, решаемых при этом, довольно широк. На-
пример, только изучение свойств устойчивости работы
аксона приводит к тому, что, взяв за исходные уравне-
ния Ходжкина—Хаксли (X—Х-уравнения), связывающие
ток через мембрану и потенциал мембраны с проводимо-
стью и сопротивлением мембраны, линеаризуют эти
Рис. 34. Схема 1на!бора задачи на электронной вычислительной
машине непрерывного действия.
уравнения и, используя известные методы исследования
корней характеристического уравнения и амплитудно-
фазовой характеристики, делают выводы об устойчиво-
сти аксона. При этом широко используется весь арсенал
классической теории автоматического регулирования
(теоремы А. А. Ляпунова, критерий Михайлова—Най-
квиста и т. д.).
Значительно проще схема модели в том случае, если
она предназначена не столько для экспериментального
исследования биологического нейрона, сколько для мо-
делирования некоторых основных функций, для инфор-
мационного моделирования нейрона как функциональ-
ного и структурного элемента сложных самоорганизую-
щихся систем. Некоторые из таких моделей рассмотре-
ны в следующем разделе.
6-431 73
16. Схемы моделей нейронов
Известны многие десятки различных схем моделей
нейронов: на электронных лампах, полупроводниковых
приборах, ферромагнитных элементах, мемисторах и т.д.
Приведем некоторые из них.
Выход
Рис. 35. 'Схема порогового нейрона.
Широкой известностью пользуется схема (рис. 35)
модели нейрона, которая разработана в одном из амери-
канских университетов еще в 1960 г. Достоинством схе-
мы является то, что при ее простоте получают достаточ-
но хорошую аппроксимацию характеристики биоло-
гического нейрона. Пространственное суммирование
возбуждающих (положительных) и затормаживающих
(отрицательных) входных сигналов происходит на схеме
сопротивлений R\BX, /?2вх> ^звх> • • Япвх и сопротивлении
входа транзистора Т\ (типа п-р-п), включенного по схеме
эмиттерного повторителя. Временное суммирование осу-
ществляет конденсатор С\.
Ждущий мультивибратор на транзисторах Т2 и Г3
нормально находится в положении, при котором транзи-
стор Т2 заперт отрицательным напряжением, подавае-
мым на его базу с сопротивления R&. Изменяя величину
этого сопротивления, можно устанавливать то или иное
значение порога срабатывания нейрона. Если взвешен-
74
нйя сумма входных сигналов превзойдет порог срабаты-
вания, одновибратор изменяет свое состояние на проти-
воположное и на выходе нейрона появляется сигнал (за
счет скачкообразного изменения потенциалов коллекто-
ров транзисторов Т2 и Г3). Со схемы могут быть сняты
как возбуждающий (положительный), так и затормажи-
Finn.. 36. Схема нейрона по Л. Д. Хацзмону.
вающий (отрицательный) сигналы, которые могут быть
поданы на входы других нейронов. Длительность вы-
ходного импульса определяется постоянной времени
/?7С4-цепочки.
Схема должна обеспечивать, чтобы длительность
входного импульса была равна длительности выходного
импульса и составляла около 1 мсек. При этом макси-
мальная частота переключения нейронов—около 500 гц.
Еще более точной моделью нейрона является модель
(рис. 36), предложенная Л. Д. Хармоном и его сотруд-
никами. Здесь также осуществляется пространственное
и временное суммирование, но в отличие от предыдущей
схемы во время формирования выходного импульса и
некоторое время вслед за ним происходит возрастание
порога срабатывания, что соответствует фазе абсолют-
ной рефрактерности. За ней следует фаза относительной
рефрактерности, после чего значение порога приходит
в норму. Таким образом, эта схема при всей своей отно-
сительной простоте очень хорошо отражает все времен-
ные характеристики нейрона.
Интересная модель нейрона разработана в вычисли-
тельном центре Ленинградского отделения Математиче-
6* 75
ского института им. В. А. Стеклова АН СССР [Л. 79].
Схема модели дана на рис. 37. Пороговый элемент вы-
полнен на ферритовом сердечнике с прямоугольной пет-
лей гистерезиса. Сердечник имеет п входных обмоток
ДОвхь ^вх2, ^вхз, . •wBxn, обмотку подмагничивания wuf
выходную обмотку wBblx и обмотку обратной СВЯЗИ Ш0.с
Входные сигналы могут быть как возбуждающими, так
Рис. 37. Феррнсторная /модель нейрона.
и затормаживающими. Изменение действия входного
сигнала достигается изменением направления тока, про-
текающего во входных обмотках. Транзисторы Т{ и Т2
служат для формирования выходного импульса нейрона.
Транзисторы Г3 и Г4 образуют цепь обратной связи к об-
мотке ffii0.c, позволяющей моделировать процессы смены
фаз рефрактерное™ — абсолютной и относительной.
Модель может работать в реальном масштабе време-
ни для экспериментального исследования биологического
нейрона. При использовании ее как функционального
элемента технических нейронных структур быстродейст-
вие схемы может быть повышено до десятков килогерц.
В этом случае фаза абсолютной рефрактерное™ состав-
ляет 100 мкеек, а относительная рефрактерное™
1 100 мкеек. Синаптическая задержка равна 1—2 мкеек.
76
17. Нейронные структуры
Из нейроноподобных элементов в настоящее время
синтезируют логико-информационные структуры раз-
личного назначения и принципа действия. Это могут
быть детермированные логические сети, системы с пере-
страиваемой (перестраивающейся) логикой, обучаемые
и самообучающиеся системы. Наибольшее число извест-
ных печатных работ по нейронным структурам посвяще-
ьо синтезу опознающих систем. Малый объем книги не
позволяет в равной степени рассмотреть как элементы,
так и синтезированные из них структуры. Поэтому про-
иллюстрируем лишь самую возможность синтеза ней-
ронных структур на простом примере построения сети
из пластических нейронов, способную перестраиваться
на выполнение любой логической операции.
Пусть сеть имеет два входа и предназначена для реа-
лизации булевых функций \f(x\, х2). Обычные логические
элементы вычислительной техники и кибернетики могут
выполнять одну единственную булеву функцию. Здесь
же мы ставим условие, чтобы сеть могла перестраивать-
ся на выполнение любой булевой функции. В § 7 было
показано, что всего существует 16 булевых функций
f(xu х2).
Для синтеза нужной нам нейронной сети возьмем
линейные пластические нейроны. Нетрудно убедиться,
что уже один такой нейрон может быть настроен на
выполнение любой из 14 булевых функций; исключение
составляют функции /7 и /10. Действительно, линейный
пластический нейрон реализует разделяющую гипер-
плоскость в= У[h-Xi -f- Яп+1 в/г-мерном пространстве, где
я-число логических аргументов. Таким образом, изменяя
веса отдельных синапсов Яг- и значение порога Яп+1,
можно получить разделяющие гиперплоскости (при п =
= 2— прямые) а19 а2, а3, . . . , о1в, которые принимают
значения больше нуля или меньше нуля на точках (суть
наборах) {х19х2}9 что может быть поставлено в соответ-
ствие значениям Owl функции fi(xly х2). Как видно из
рис. 39,а, булеву функцию X реализует плоскость о19
функции /X — аа, -Х- а3, X — <*4» у; — а5, X — ав,
п
— а.
8>
9»
X
12»
X — з
77
—[<з15, — з16. Здесь отсутствуют две булевы функ-
ции: и Ж, но по условиям нашей задачи устройство
должно уметь настраиваться на выполнение и этих функ-
ций.
В § 9 гл. 2 было показано, что для случаев -х- и Ж
возможно так называемое квазилинейное разделение, кото-
рое требует введения логического элемента И. Для ре-
Рис. 38. Сеть из линейных пласти-
ческих нейронов.
шения такой же задачи здесь нами используется сеть из
двух линейных пластических нейронов, показанная на
рис. 38. Работу этой сети при реализации функций ,«х и
X поясняет рис. 39,6. Сеть имеет выход уг такой, что
yi = fi(Xi>xi) (* принимает все значения от 1 до 16, за
исключением i — 7 и / = 10) и выход y2 = fj (х19 х2)
(/ = 7 или У =10).
Интересно отметить, что рассматриваемая нейронная
сеть реализует не ансамбль из 16 дискретных функций,
а континуум логических функций, так как значения весов
синапсов можно устанавливать не только в крайних точ-
ках динамического диапазона их изменения, но и в лю-
бом промежуточном положении. Отсюда следуют адап-
тивные (приспособительные) свойства такого рода ней-
ронных сетей.
В заключение покажем принципиальную схему син-
тезированной выше нейронной структуры (рис. 40).
Пороговые значения ^\ и Я"б и синаптические веса ал,
ал, Xi2, ал, ал устанавливаются в процессе настройки
сети на выполнение нужной функции fi(xu х2). В каче-
стве элементов здесь могут быть использованы мемисто-
78
ры, трансфлюксоры и т. п. Известно, например, что
в американской конструкции перцептрона «Марк-1» та-
кими элементами были потенциометры с электромехани-
ческими приводами; в процессе настройки изменение
значения А,* осуществлялось за счет поворота ползунка
потенциометра от микроэлектродвигателя.
ь\1
Риге. 39. Геометрическая (Интерпретация реализуемых функций.
Здесь будет уместным отметить следующее обстоя-
тельство, связанное с проектированием и изготовлением
пластических, самоорганизующих систем. Во многих слу-
чаях подбор весовых значений происходит в процессе
обучения, после чего весь период эксплуатации веса от-
дельных элементов (синапсов, обратных связей и т. д.)
остается неизменным. В таких случаях процесс обучения
моделируется на универсальной цифровой вычислитель-
ной машине (или на специальной головной модели) та-
ким образом, чтобы установившиеся значения всех пере-
менных коэффициентов (весов) оказались зафиксиро-
ванными в специально отведенных для этого ячейках.
По окончании процесса обучения установившиеся значе-
ния весов считываются и производится пересчет, который
дает значения, например, постоянных сопротивлений,
пропорциональных этим весам. Тогда, возвращаясь
к нашей схеме (рис. 40), нетрудно понять, что это озна-
чает применительно к рассмотренному варианту: по
найденным в процессе обучения значениям А,; изготавли-
ваются постоянные сопротивления R'Q, R'\, Rf2, R\2, R"u
R\ R"„.
Число входов нейронной сети может быть много
больше двух. Так, для схемы линейного пластического
нейрона вида рис. 40 число входов может составлять
несколько десятков (это зависит от точности изготовле-
ния сопротивлений, стабильности характеристик Т\ вхо-
да, его коэффициента усиления и ряда других факто-
ров). Однако вдело входов отдельного нейрона не опре-
деляет допустимый максимум количества входов сети,
так как всегда можно воспользоваться известной опера-
цией суперпозиции и синтезировать нейронную струк-
туру со сколь угодно большим числом входов <на -нейро-
нах, каждый из которых имеет не более двух входов.
ЛИТЕРАТУРА
I. Ананьев Б. Г., Теория ощущений, изд. Ленинградского
университета, 1961.
12. А н о х и н П. К., Опережающее отражение действительно-
сти, «Вопросы философии», 1962, № 7.
3. Анохин П. К., Особенности афферентного аппарата услов-
ного рефлекса и его значение для психологии, «Вопросы психоло-
гии», 1956, № 6.
4. А с р о т я н Э. А., Смирнов П. В., Надежность мозга,
Изд-во АН ОООР, 1963.
5. Аттли О. М., Временные и пространственные изображе-
ния в машине условной вероятности, «Автоматы», Сб. статей,
Изд-во иностранной литературы, 1956.
6. Аттли О. М., Машины условной вероятности и условные реф-
лексы, «Автоматы», Сб. статей, Изд-во иностранной литературы, 1956.
7. Б а л а х о в с к и й И. С, О возможности моделирования шро-
стейших актов поведения дискретными однородными средами, «Про-
блемы кибернетики», вып. 5, Физматгиз, 1961.
8. Б а р л о у Г., Возможные принципы, лежащие в основе
преобразования сенсорных посылок, «Электроника и кибернетика
в биологии и медицине», Сб. статей, Изд-во иностранной литерату-
ры, 19Ш.
9. Б е р е с т о в с к и й Г. Н., Исследование одной электрической
модели нейристора, «Радиотехника и электроника», вып. II 1963,
110. Б е р н ш т е й н Н. А., Очередные проблемы физиологии ак-
тивности, «Проблемы кибернетики», вып. 6, Физматгиз, 1961.
II. Берн штейн Н. А., Пути и задачи физиологии активно-
сти, «Вопросы философии», 4961, № 6.
12. Б и м е н т Д., Физические модели в биологии, «Моделирование
в биологии», Сб. статей, Изд-во иностранной литературы, 1963.
Ц'З. Б р а й н е с С. И., Напалков А. (В., С в е ч и н с к и й В. Б.,
Нейрокибернетика, Медгиз, 1962.
\14. Б р о й з ь е М., Электрическая активность нервной систе-
мы, (Изд-во иностранной литературы, 1948.
15. Булл о к Т., Возникновение нервных импульсов в рецеп-
торных и центральных нейронах, «Современные проблемы биофи-
зики», Из|д-во иностранной литературы, 1961.
16. Б о л о т о в Б. В., 3 а х а р о в В. М., Импульсное анало-
говое запоминающее устройство, Труды учебных институтов связи,
вып. 7, 1961.
17. iB ар ш а в с к и й В. И., Некоторые вопросы теории логи-
ческих сетей, построенных из пороговых элементов, «Вопросы тео-
рии математических машин», вып. 12, Физматгиз, 1962.
(18. iB a ip ш а в с к и й В. И., О математической теории нейрон-
ных сетей, «Применение математических методов в биологии»,
вып. 2, изд. Ленинградского университета, 1963.
81
.'19. iE а р ш а в с к и й В. Й., Функциональные возможности СхеМ
из пороговых элементов, Доклады АН СССР, 1961, № 5.
20. В а с и л ь е в a iH. П., Прохоров Н. О., Магнитные ло-
гические элементы |для схем автоматического управления, «Автома-
тика и телемеханика», 1959, '№ 12.
21. Введение в теорию приборов «Солион», «Зарубежная
радиоэлектроника», 1963, № 7.
122. Вейсс П., Динамика клеши, «Современные проблемы био-
физики», том 1, Изд-во иностранной литературы, 1961.
123. Вейсс П., (Взаимодействие между клетками, «Современ-
ные (проблемы биофизики», том 12, |Изд-во иностранной литературы,
1961.
124. Веккер Л. М., IK постановке проблемы моделирования
сенсорных функций, (Вестник Ленинградского университета, серия
«Экономика, философия и право», вып. 3, 1963, № 17.
25. Весткотт Д., Оценка параметров модели, «Моделиро-
вание в биологии», Сб. статей, Изд-во иностранной литературы,
1963.
26. Винер Н., Кибернетика или управление и связь .в живот-
ном и машине, изщ-гао «Советское радио», 1958.
127. ©ор о нин Л. Г., Об «элементарных звеньях» биологиче-
ских систем управления, «Теория и применение автоматических си-
стем», изд-'во «Наука», ,1964.
128. Воскресенский И. Д., Прохоров А. И., Проблемы
кибернетики ib (биологических науках, «Кибернетику на службу ком-
мунизму», Юб. статей, Госэнергоиздат, 1961.
(29. Г а а з е - Р а п о п о р г М. Г., Автоматы и живые организмы,
Физматгиз, 11961.
130. 1Г а л а м б о с Р., 1Глионеаральная теория функционирования
мозга, «Кибернетика и живой организм», Об. статей, изд-во «Науко-
ва думка», Киев, 1964.
ЗИ.Ганзен В. А., Грановская Р. М., Некоторые частот-
ные преобразования на моделях нейронов, Вестник Ленинградского
университета, 1903, № 4.
82. !Г а н э е н iB. А., Грановская Р. М., Устройство для
расчета и моделирования ней|ронов, «Вычислительная техника и
вопросы программирования», вып. 3, изд. Ленинградского универ-
ситета, 1964.
33. Г е л ь ф а н д И. М., Ц е т л и н |М. Л., О континуальных
моделях управляющих систем, ДАН СССР, 1960, том 131.
'34. Г и з е А., Физиология клетки, Изд-ъо иностранной литера-
туры, 11959.
35. Ронферт Г., Управление и регулирование в центральной
нервной системе человека, «Процессы регулирования в биологии»,
Сб. статей, 'Изд-во иностранной литературы, 1960.
36. Г.ранит Р., Электрофизиологическое .исследование рецеп-
ции, Изд-во иностранной литературы, 1957.
37. Г'ращенков Н. И., Л а т а ш Л. П., Ф е й г е н б е р г И. М.,
Основные вопросы структуры рефлекторного действия и их методо-
логическая оценка, '«Вопросы философии», Г962, № 8.
138. Гуревич Б. X., Разумные автоматы и высшие функции
мозга, «Вопросы психологии», 1959, № 7.
82
39. Дашек Г. И., X и л и н с к и й Т. К., П у т ц р а в Ф. Л.,
Гибкая нейронная логическая сеть, «Зарубежная радиоэлектроника»,
1904, № 8.
40. Д е й н т и Д., Электрические аналоги в биологии, «Мо-
делирование в биологии», G6. статей, Изд-во иностранной литерату-
ры, 19613.
41. Джорж Ф., Модели в кибернетике, «Моделирование в био-
логии», Об. статей. Изд-во иностранной литературы, 1963.
42. Джорж Ф., Мозг как вычислительная машина, Изд-во
иностранной литературы, 1963.
43. Емельянов-Ярославский Л. Б., Принципы рабо-
ты неформального автомата, «Автоматика», Изд-во АН УОСР,
19614, № Л (на украинском языке).
44. Иванов А. 3., Круг Г. К., Куш ел ев Ю. И., Лец-
к и й Э. !К., Свечинский В. Б., Обучающиеся системы управле-
ния, Труды МЭИ, вып. 44, «Автоматика и телемеханика», 11962.
45. 'И в а х н е н к о А. Г., 'Самообучающиеся системы с Поло-
жительными обратными связями, Изд-во АН УССР, 1963.
46. К а лбе рте он Д. Т., Некоторые неэкономические рабо-
ты, «Автоматы», Изд-во иностранной литературы, 1956.
47. Касаткин О. 1Г., Розен'б лат М. А., Считывание ин-
формации с трансфлюксора, применяемого в качестве элемента ана-
логовой памяти, «Автоматика и телемеханика», 1964, >№ 4.
48. Катц Б., Механизм синаптической передачи, «Современ-
ные проблемы биофизики», т. 2, Изд-во иностранной литературы,
1961.
49. Катц Б., Природа нервного импульса, «Современные про-
блемы биофизики», т. 2, 1Изд-во иностранной литературы, 4961.
'50. К а ц н е л ь с о н 3. С, Клеточная теория и в ее историче-
ском развитии, Медгиз, 1963.
61. Кий В. И., Исследование некоторых принципов преобра-
зования информации в центральной нераной системе путем мо-
делирования поведения нейрона, изд. Киевского дома научно-тех-
нической пропаганды, (Киев, 1962.
512. К и й В. И., (Моделирование поведения аналога нейрона на
вычислительных машинах, изд. Киевского дома научно-технической
пропаганды, Киев, 19612,
53. К л и н и С. К-, (Представление событий в нервных сетях
и конечных автоматах, «Автоматы», Изд-во иностранной литера-
туры, 1956.
$4. К о н н е л и К., Восстановительные процессы и обмен ве-
ществ в нерве, «Современные проблемы биофизики», т. 2, Изд-во
иностранной литературы, 1961.
65. 'Крайзмер Л. П., Бионика, Госэнергоиздат, 1962.
56. Либерман Е. А., Роль электрического тока в нервной
проводимости и радиотехнические методы исследования нервного
возбуждения, «Электроника в медицине», Сб. статей, Госэнерго-
издат, I960.
67. Лукашевич И. П., Исследование на электронной вычи-
слительной машине непрерывных моделей управляющих систем,
«Биофизика», вып. 6, '1963.
68. Макаров П. О., Биофизика возбудимости органов чувств,
изд-во «Знание», Л., '1961.
83
69. М а -к - К а л л о к У. С, Питтс У., Логические исчисления
идей, относящихся к нервной активности, «Автоматы», Изд-во ино-
странной литературы, Л., 1956.
i60. (М а к - К е й Д. М., 'Моделирование нервной деятельности,
«(Моделирование в биологии», Об. статей, 'Изд-во иностранной ли-
тературы, 1963.
61. Мак-Кей Р. С, Что такое нерв?, «Электроника и кибер-
нетика в биологии и медицине», Об. статей, Изд-во иностранной
литературы, 1963.
62. (М е н и ц к и й Д. Н., Кибернетика и некоторые вопросы
физиологии нервной системы. «Некоторые вопросы теории меди-
цины», Сб. статей, Изд-во ИЭМ, Л., 1958.
63. М и н с к и й М. Л., Некоторые универсальные элементы для
конечных автоматов, «Автоматы», Изд-во иностранной литературы,
1956.
64. Моисеев В. Д., 'Вопросы кибернетики в биологии и ме-
дицине, Медгиз, 1960.
65. М у р Д., Электронное управление некоторыми активными
биологическими мембранами, «Электроника и кибернетика ,-в био-
логии и медицине», Сб. статей, Изд-во иностранной литературы,
1963.
66. М э г у н Г., Бодрствующий мозг, Изд-во иностранной лите-
ратуры, (1962.
67. Н а з а р о в А. А., |П е т р о в Ю. П., Электрохимический за-
поминающий элемент, «Известия высших учебных заведений, При-
боростроение, 1958, № 6.
68. Назаров А. А., Петров Ю. П., Электрохимическое
устройство, осуществляющее условный рефлекс, Сб. работ по во-
просам электромеханики, вып. 5, Изд-во АН ССОР, 1961.
69. Нейман Д., 'Вероятностная логика и синтез надежных
организмов из ненадежных компонентов, «Автоматы», Изд-во ино-
странной литературы, 1956.
70. Парин Б. В., Баевский Р. М., Кибернетика в меди-
цине и физиологии, Медгиз, 1963.
'71. Платт Д., Функциональная геометрия и восприятие фор-
мы мозаичными рецепторами, '«Теория информации в биологии»,
Сб. статей, Изд-во иностранной литературы, 1960.
72. Полетаев И. А., Сигнал i(o некоторых понятиях ки-
бернетики), изд-во «Советское радио», 1958.
73. Раштон В., Периферическое кодирование в нервной си-
стеме, «Электроника и кибернетика в биологии и медицине», Изд-во
иностранной литературы, 11963.
74. Р и в л и н Л. А., Аналог нервной клетки, Авторское сви-
детельство № 149103 от 4/WIiI 1962 г.
•76. Р и в л и н Л. А., Отрицательное резонансное поглощение
света в устойчивой среде, Журнал экспериментальной и теорети-
ческой физики, 1964, том 47, вьяп. 8.
76. Р о з е н б л а т М. А., Магнитная память для непрерывных
величин, Вестник АН ОООР, 1964, № Т1.
77. Р о з е н б л и т У., Обработка сенсорной информации орга-
низмом, «Современные проблемы биофизики», том. 2, Изд-во ино-
странной литературы, 1961.
•Ж Розенблит У., О некоторых количественных аспектах
электрической активности центральной нервной системы, «Современ-
84
ные проблемы биофизики», том 2, Изд-во иностранной литературы,
1961.
79. Розен блюм Л. Я., 'Гипотетическая модель «нейрона, вы-
полненная на сердечнике с прямоугольной петлей гистерезиса —
«ферристор», «Кибернетика и электронно-вычислительная техника»,
Сб. статей, Госэнергоиздат, 1962.
80. iP у ж а н с к и й iB. П., О техническом моделировании ней-
ронов, «Кибернетика и электронно-вычислительная техника»,
Сб. статей, Госэнергоиздат, (1962.
181. Савинов (Г. IB., Крушинский Л. В., Флесс Д. А.,
Валер штейн Р. А., Опыт использования математического мо-
делирования для изучения взаимоотношения процессов возбуждения
и торможения, «Биологические аспекты кибернетики», Сб. статей,
Изд-во АН OGOP, 11962.
812. С в е ч и н с к и й В. Б., Новый тип обучающегося автомата,
Известия высших учебных заведений, Электромеханика, 1960, № 2.
83. Смирнов 1М. С, Бон г р а д, М. М. Гипотеза о меха-
низме фоторецепции в сетчатке, «Биофизика», вып. 2, 1959.
84. С о ч и в к о В. П., Непримитивные датчики систем авто-
матического управления, «Кибернетика и электронно-вычислитель-
ная техника», Сб. статей, Госэнергоиздат, 1962.
85. С о ч и в к о В. 'П., О синтезе нейронных структур перцеп-
тронов, Тезисы докладов 16-й научно-технической конференции про-
фессорско-преподавательского состава ЛИАП, Ленинград, 1963.
86. Оочивко В. П., Синтез опознающих устройств (перцеп-
тронов) ,и физиология органов чувств, «Применение математиче-
ских методов в биологии», Об. статей, вып. 2, изд. Ленинградского
государственного университета, 1963.
87. С о ч и в к о В. П., Электронные опознающие устройства,
изднво «Энергия», 1964.
88. С о ч и в к о В. П., О п ip и ш к о В. С, Электрохимический
мемистор, как синапс пластического нейрона, Тез.исы докладов 18-й
научно-технической конференции, посвященной Дню 'радио, Ленин-
град, 1963.
89. Структурные и функциональные основы психической дея-
тельности, Материалы симпозиума, 'Изд-во АН ООСР, М., 1963.
90. T а с а к и П., Проведение нервного импульса, Изд-во ино-
странной литературы, Ц957.
91. Тейлор У., Вычислительные устройства и нервная систе-
ма, «Моделирование в (биологии», Сб. статей, Изд-во иностранной
литературы, 1963.
92. Трошин А. С, Проблема клеточной проницаемости, Мед-
гиз, 1956.
Ш. У и д р о у Б., Пирс У. X., А н д ж е л л И. Б., Рождение,
жизнь и смерть микроэлектронных систем, «Зарубежная радио-
электроника», ,19612, № 6.
94. Франк Г. М., Саморегуляция клеточных процессов, «Биоло-
гические аспекты кибернетики», Сб. статей, Изд-во АН СССР, 1962.
95. Франк К., Основные механизмы синаптической передачи
в центральной нервной системе, «Электроника и кибернетика в био-
логии и медицине». Сб. статей, Изд-во иностранной литературы,
1963.
96. Ф р е й г а н г У., Применение электрической эквивалентной
схемы для изучения некоторых 'функций нервной клетки, «Электро-
85
ника и кибернетика в биологии и медицине», Об. статей, Изд-во
иностранной литературы, 1963.
97. X а р т л а й н X., Рецепторы и интеграция сенсорной инфор-
мации в сетчатке, «Современные проблемы биофизики», том. 2, Изд-
во иностранной литературы, ,1961.
98. Черныш В. И., Напалков А. В., Математический ап-
парат биологической кибернетики, изд-во «Медицина», М., 1964.
"99. Шмитт О., Биологические преобразователи и кодирова-
ние, «Современные проблемы биофизики», том. 2, Изд-во иностран-
ной литературы, 1961.
'100. Шмитт Ф., Молекулярная организация нервного волок-
на, «Современные проблемы биофизики», том. 2, Изд-во иностранной
литературы, 1961.
101. Э к к л с Д., Физиология нервных клеток, Изд-во иностран-
ной литературы, U959.
■ 1012. A g а 1 i d е s Е., The mathematical model of the neuron,
Data acquistik and process. Biolog. and med., Oxford—London—Pa-
ris, Pergamon Press, 1962.
'103. Brain A. E., The simulation of neural elements by elec-
trical networks based on multi-aperture magnetic cores, Proc. IRE,
1961, vol. 49, № ,1.
104. Bray T. E., An optoelectronic-magnetic neuron component,
Proc. National Electronics Conf., 196*1, vol. 17.
1105. Cote A. I., A neuristor prototype, Proc. IRE, 1961,
vol. 49, № 9.
106. О о t e A. I., Simulating nerve networks with four-layer
diodes, Electronics, 1961, № 411.
107. О r a g g B. G., Temperley H. N. V., The organisation
of neurons an comparative analogy, Electroencephalog. Clin. Neuro-
physiol., 1954, № 6.
.108. Crane H. D., The neuristor, IRE Trans. Electronic Com-
pute, 1960, vol. 9, SNs
109. Crane H. D., The neuristor, Principles Self-Organiz, Per-
gamon Press, 1962.
110. Farley B. G., С 1 a r k W. A., Activity in networks of neu-
ronlike elements, Information Theory, Symposium, London, 1960.
ill 1. Freygang W. H., Some functions of nerve cells in term
of an equivalent network, Proc. IRE, 1959, vol. 47, № 12.
US. Glinski G. S., Designing adaptive digital networks, Elec-
tron, Inds., 1963, vol. 22, № 2.
1.ГЗ. Harmon L. D., Neural analogs, Proc. IRE, 1961, vol. 49,
№ 8.
114. Harmon L. D., Studies with artifical neuron, Kybernetik,
1961, № 3.
U15. Harmon L. D., Levin son I., Bergeijk W. A.,
Analog models of neural mechanism, IRE Trans. Inform. Theory,
19612, № 2.
116. H i 11 z F. F., Analog computer simulation of a neural ele-
ment, TRE Trans. Bio-Med. Electron, 1962, № 1.
ai7. Hiltz F. F., Artificial neuron, Kybernetik, 1963, № 1.
'Kli8. Hodgkin A. L., Huxley A. F., A quantitative descrip-
tion of membrane current and its application to conduction and ex-
citation in nerve, J. Physiol., 1952, vol. H7, № 8.
86
.11-9. J e n i к P., Plektronische Neuronenmodelle, Umschau, 1962,
№ 17.
120. Kupfmuller K., Jenik F., Uber die Nachrichtenverar-
beitung in der iNervenzelle, Kybernetik, 1962, № 1.
121. Martin Т. В., Analogy signal processing by neural net-
works, Proc. National Electronics Confer., 1961, vol. 17.
1'22. M a 11 s о n R. L., A self-organising logical system, iProc.
Eastern Joint Computer Conf. iBoston, 1959.
Г23. Mazzetti Piero, Montalenti Giorgio, Saardo
Paolo, Experiment construction of an element of thinking machine,
K>bernetik, 1962, № 4.
■Г24. McGrogan E. P., Improved transistor neuron models,
Proc. National Electronics Conference, '1961, vol. 17.
125. N e i d h a r d t D., Die Anwendung der Informationstheorie
beim Studium der neuralen und humoralen Informationsverarbeitung,
Nachrichtentechnik, 1963, № 2.
1126. 'Pe deity M. J., -Neuron technology builds reliable circuits
from unreliable components, Control Engng, 1962, № 6.
1'27. iP i e г с e W. H., Adaptive decision elements to improve the
reliability of redundant systems, IRiE Jnternat. Convent. Rec, 1962,
vol. 10, № 4.
128. Putzrath F. L., Martin Т. В., Speech recognition
by neural networks, Proc. Nat Electron. Conf., Chicago, 1961,
vol. 17.
129. R e n s h a w В., Central effects of centripetal impulses in
axons of spinal ventral roots, J. Neurophysiol., 1946, № 9.
130. iR i с e R., Simulation of nerve cells by electro-chemical
methods, British Communicat. and Electronics, 1959, № -12.
131. Scott R. J., Construction of neuron model, IRE Trans,
on BioMedical Electronics, 1961, i№ 3.
'132. Smith D. R., Davidson С. H., Maintained activity
in neural nets, J. of the Association for Computing Machinery, il962,
№ 2.
133. Taylor W. K., A theory of cortical organization and lear-
ning, IRE Trans. Inform. Theory, 1962, № 5.
134. Taylor W. K., Electrical simulation of some nervous sy-
stem function activities, Symposium on Inform. Theory, 1956, London.
135. U 111 e у A. M., Properties of plastic networks, Biophys. J.,
pt 2, 1962, № 2.
«136. W i d г о w В., Adaptive sampled data systems—a statistical
theory of adaptation, WESCON Convention Record, pt 4, 1959.
137. W i d г о w В., G г о n e r G. F., H u M. I. C, Smith F. W.,
Spech D. F., T a 1 b e r t L. R., Practical application for adaptive
data-processing system, WESCON Techn. Papers, 1963, № 7.
1138. Widrow В., -Pierce W. H., Angell J. В., Birth, life
and death in microelectronic systems, IRE Trans, on Military Elec-
tronics, 1964, № 4.
139. Willis D. G., Plastic neurons as memory elements, Re-
port at the Internation Conference on Information Processing
UNESCO, PAR, Paris, 1959.
140. Z erne nek H., Kretz H., Angyan A. J., A model
for neurophysiological functions, Symposium on Information Theo-
ry, 1960, London.
87
СОДЕ РЁЖ А Н И Е
Предисловие 3
Глава первая. Нейрон как структурный и функцио-
нальный элемент нервной системы 7
1. Элемент и структура 7
2. Строение нейрона 13
3. Функционирование нейрона 17
4. Основные типы нейронов 23
5. Электрические характеристики функционирования ней-
рона . . • . • 28
Глава вторая. Математические модели нейронов . . 32
6. Формальный нейрон 32
7. Логические свойства формального нейрона 35
8. Пороговая модель нейрона 42
9. Пластическая модель нейрона 45
10. Универсальный элемент 50
Глава третья. Техника моделирования нейронов . . 53
11. Суммирующие и пороговые устройства 53
12. Динамические элементы 56
13. Синаптический механизм 60
14. Использование новых физических процессов и явлений 65
15. Моделирование на электронных вычислительных маши-
нах 70
16. Схемы моделей нейронов 74
17. Нейронные структуры 77
Литература 81