SU1075632A1 - Устройство дл моделировани нейрона - Google Patents

Abstract

УСТРОЙСТВО ДЛЯ МОДЕЛИРОВАНИЯ НЕЙРОНА, содержащее цифровой интегратор, пр мые входы которого  вл ютс  входами возбуждени  устройства , и цифровые интеграторы потенциации и депрессии, выходы которых подключены к соответствующим входам сумматора, отличающеес  тем, что, с целью повышени  точности моделировани  и упрощени  конструкции , в него введены два блока умножени  и компаратор, выход которого подключен к первым входам-цифровых интеграторов потенциации и депрессии и блоков умножени , выходы ци.фровых интеграторов потенциации и депрессии соединены с вторыми своими входами и с вторыми входами соответствующих блоков умножени , выходы которых подключены к третьим входам соответствующих цифровых интеграторов пoтeн J aции и депрессии, четвертые входы цифровых интеграторов потенциации и депрессии соединены с источниками посто нного (Л сигнала, выход цифрового интегратора подключен к первому инверсному входу цифрового интегратора, второй инверсный вход которого соединен .с выходом компаратора, выходом устройства  вл етс  выход сумматора. | ел Од оо IsD

Description

Изобретение относитс  к области бионики и может использоватьс  дл  моделировани  поведени  нейронньсх структур при обучении и распознавании образов. Известно, устройство дл  моделиро вани  нейрона, вход щее в сеть, в которой выходы каждого устройства подключены к входам соседних моделе нейронов с помощью локальных св зей ( т.е. св зей,  вл ющихс  убывающими функци ми рассто ни  между клетками сло ) j. Эти устройства, в частности , могут осуществл ть операцию выделени  краев пространственно распределенного внешнего сигнала, играющую большую роль в центральной нервной системе человека и животных при выделении информативных признаков образов, Однако свойства отдельных моделей нейронов этой сети не соответ ствуют полученным в последние годы данным о синаптической пластичности в нервной системе (т.е., способноети нейронов измен ть величину св зи с другими нейронами в зависимости от собственной активьгости). Эти экспериментальные данные указывают на участие двух различных процессов в синаптической пластичности , один из которых св зан с ис тощением запасов доступного медиат ра при дгп тельной монотонной стиму л ции нейрона и приводит к уменьшению величины св зи между нейрона ми (синаптическа  депресси ), а другой, по-видимому, св зан с регу л цией внутриклеточного кальци  и приводит к увеличеншо св зи межд нейронами при такой стимул ции (си наптическа  потенциаци ). I Наиболее близким техническим решением к изобретению  вл етс  устройство дл  моделировани  нейро нов 2j, содержащее цифровой интегратор , пр мой вход которого  вл етсЯ входом устройства, и цифровые интеграторы потенциации и депрессии , выходы которых подключены соответствующим входам сумматора. Кроме того, устройство содержит це лый р д других цифровых интеграторов , соединенных между собой и измерителем . Данное устройство также не моду лирует упом нутые выще процессы синаптической пластичности. Оно 2 имеет сложную структуру и его можно использовать при реализации на его основе нейронных сетей. Целью изобретени   вл етс  повышение точности за счет обеспечени  возможности моделировать синаптическую депрессию и потенциацию и упрощение конструкции. Постайленна  цель достигаетс  тем, что в устройство дл  моделировани  нейрона, содержащее цифровой интегратор, пр мые входыкоторого  вл ютс  входами возбуждени  устройства , и цифровые интеграторы потенциации и депрессии, выходы которых подключены к соответствующим входам сумматора, введены два блока умножени  и компаратор, выход которого подключен к первым входам-цифровых интеграторов потенциации и депрессии и блоков умножени , выходы цифровых интеграторов потенциации и депрессии соединены с вторыми своими входами и с вторыми входами соответствующих блоков умножени , выходы которых подключены к третьим входам соответствующих цийровых интеграторов потенциации и депрессии, четвертые входы цифровых интеграторов потецциации и депрессии соединены с источниками посто нного сигнала, выход цифрового интегратора подключен к первому инверсному входу цифрового интегратора, второй инверсный вхгд которого соединен с выходом компаратора , выходом устройства  вл етс  выход сумматора. Соединение таких устройств в одну структуру с помощью локальных входов дает совершенно новый результат,- определ емый кооперативными свойствами сло  моделей нейронов и  вно не вытекающий из исходных предпосьток с синаптической пластичности, а именно полученна  в результате модель нейронной структуры обладает способностью к привыканию (т.е. ее реакци  на внешний стимул уменьшаетс  со временем ) и кратковременной пам ти (т.е. структура сохран ет след стимула в течение времени, значительно большего характерных времен депрессии и потенциации). На фиг. 1 приведена структурна  схема устройства, где также указаны св зи по выходу этого устройства с аналогичными устройствами, которые образуют сеть fl на фиг. 2 - характеристики внешнего сигнала и локальных св зей между устройствами нейрона в сети, на фиг. 3 и 4 - пос довательные этапы работы сети в двух различных режимах (соответстве но с преобладанием синаптической потенциации и депрессии). Устройствр дл  моделировани  нейрона содержит цифровой интегратор 1,-группа пр мых входов 2 которого соединена с выходами моделей соседних нейронов, а первый инверсный вход 3-е выходом интегратора а пр мой вход 4 интегратора 1 соеди нен с источником внешнего сигнала (на чертеже не показан), компаратор 5, вход 6 интегратора, цифровые интеграторы 7, 8 потенциации и депрес сии, блоки умножени  9, 10, источники 11, 12 посто нного сигнала, су матор 13. Выход интегратора 1 св за также с входом компаратора 5, осуществл ющего сравнение сигнала на входе с порогом нейрона. Выход компаратора 5 св зан обратной св зь с В.ТОРЫМ инверсным входом 6 интегратора 1 и входами цифровых интеграторов 7 и 8 потенциации и депрессии . Каждый из интеграторов 7 и 8 имеет четыре входа, первый из которых св зан с выходом компаратора 5, третий через блок умножени  9 (10) св зан с выходом интегратора 7 (8), а четвертый вход св зан с исто ником единичного (по амплитуде) посто нного сигнала 11 (12). Выходы двух интеграторов 7 и В соединены с своими вторыми входами и с входами сумматора 13, выход которого сое динен с входами 2 соседних моделей нейронов. Рассмотрим работу устройства, включенного в указанную сеть. Дл  задани  характера функционировани  устройства определ ют значени  весо подынтегральных функций цифровых интеграторов 1, 7 и 8. и их исходные значени  на основе нейрофизиологических данных. После этого устройст во готово к приему внешнего сигнала На каждом шаге на входы 4 интеграторов 1, значени  на выходе которых отражают динамику мембранных потенциалов моделируемых нейронов, подаютс  внешние сигналы, характеризующие сумму постсинаптических потенциалов от внешних источников, на входы 2 - сигналы с выхода соседних моделей нейронов, на входы 3 - сиг- „ налы обратной св зи с выходов соот- W ветствующих интеграторов 1, моделирующие наличие посто нной времени мембраны нейрона, на входы 6 сигналы с выходов соответствующих компараторов 5, моделирующие возвращение потенциала мембраны нейрона к исходному уровню после генерации спайка (импульса). Сигналы с выходов интеграторов 1 подаютс  на соответствующие входы компараторов 5, моделирующих процесс генерации спайка нейрона в случае превышени  порога мембранным потенциалом нейрона . Компараторы 5 формируют импульсы единичной длительности (в один шаг) и единичной амплитуды. С выходов компараторов 5 единичные импульсы поступают на входы интеграторов 7 и 8, моделирующих процессы депрессии и потенциации в синаптических окончани х нейронов. Интеграторы 7 и 8 осуществл ют пошаговое интегрирование приход щих на них посто нных единичных сигналов 11 и 12, сигналов с выходов компаратора 5 и выходов интеграторов 7 и 8 соответственно , а также произведений сигнала на выходе компаратора 5 с сигналом на выходе соответственно интеграторов 7 и 8. Сигналы с вькодов интеграторов 7 и 8 поступают на входы сумматоров 13, сигналы с выхода которых подаютс  на входы 2 интеграторов 1 соседних моделей нейронов с весами, которые определ ютс  на основе нейрофизиологических и психофизиологических данных функцией модул  разности рассто ни  между модел ми нейронов, представленной на графи,ке 15 (фиг. 2). Пошагова  работа описанного устройства соответствует решению следующей системы разностных уравнений, адекватно характеризующих поведение структуры моделируемых нейронов: Р,-(М)-Pi( Р,(.} Z у (г) xj(K)(3/i) Mj(k)-eN,(ic)4S.C4) , ji ( )VS, N. (kijx . (. (kM),-, Xj,,(«)-x.jCk).(i;)x.jlk)C2N.WfI)2, где )- мембранный потенциал i-ro. нейрона, на k -м шаге , 4 - посто нна  времени мембраны нейрона;

0 - порог срабатывани  нейрона;

5((1с) - внешний сигнал, подаваемый на i-и нейрон на шаге;

Jtr) - функци  св зи, характеризующа  неизменную во времени часть св зи между нейронами, модуль разности пор дковых номеров который равен Г,

N(1)- дискретна  характеристика состо ни  нейрона на Кгм шаге, определ ема  условием: Р(1,) 9 - нейрон генерирует импульс (спайк),

Р (1) -с: б - нейрон молчит j

j(Xj,- величины, характеризующие

/. , переменные во времени части

- 1 J св зи от j го нейрона

на k-м шаге, отражающие соответственно вклад процессов синаптической депрессии и потенциации,

D- параметры, характеризующие синаптическую депрессию

Д, 62iS 2 характеризующие синаптическую потенциацию, PaccMOTpiiM поведение модели единичного нейрона под номером i , вход щего в моделируемую нейронную сеть. Будем считать врем  дискретным ,с единичным квантом времени и выведем уравнение, описывающее работу i-ro нейрона на шаге (дискретном интер-вале времени) . Как показывают многочисленные, нейрофизиологические исследовани  нейрон характеризуетс  мембранным потенциалом Р- (V. измен ющимс  во времени под вли нием внешних воздействий. При достижении мембранным потенциапом определенного порогового уровн  б нейрон.генерирует импульс - так называемый поТенциа-1 действи , который передает сигнал от данного нейрона с которым он св зан синаптически. Таким образом, нейрон может находитьс  в двух состо ни х: активном

{М;( 1 при P(k)7/e, в котором

происходит генераци  потенциала действи  и передача сигнала к другим . нейронам, и пассивном (N (-k| О ) при

РДЧ) С 0 , Следует подчеркнуть, что после генерации нейронов потенциала действи  мембранный потенциал возвращаетс  в состо ние поко , которое в нашей модели характеризуетс  Р; (k) 0, т.е. фактически происходит сбрасьшание потенциала на величину , равную порогу срабатьшани  в.. Как показано в целом р де фундаментных нейрофизиологических работ, мембрана нейрона между двум  срабатывани ми может быть представлена в виде определенной электрической схемы, содержащей емкость и сопротивление , с посто нной времени l/ot. Изменение мембранного потенциала за единичный квант времени, обусловленное этим пассивным свойством мембраны , равно ,Pj(k). Следовательно, в отсутствие внешних воздействий на нейрон изменение мембранного потенциала за один квант времени удовлетвор ет следующему уравнению:

P.iVl)-P(VhoiP 1)-6N,tl),

что- соответствует тому, что при Р;(.)Э мембранный потенциал возвращаетс  к нулевому уровню с посто нной времени f/oC , а при Р-(1с)-6 нейрон генерирует потенциал действи  (Ni(1) 1 ) и скачком возвращаетс  в состо ние поко .

Однако в действительности на нейрон в каждый кбант времени могут поступать воздействи  от внешних источников сигнала и от соседних нейронов , вход щих в моделируемую нейронную сеть. Изменение мембранного потенциала за единичный квант времени , обусловленное этими двум  процес ,сами, может быть представлено в виде двух слагаемой: 5i(k) внешНИИ сигнал, подаваемый на i-и нейрон на k-м шаге, {fe)N Д1.)j сумма постсинаптических потенциалов, поступающих на т-й нейрон с остальных нейронов моделируемой структзфы при их срабатьшании (здесь д-,- постсинаптический потенциал, генерируемый на -м нейроне при срабатьшании j-го нейронй).

Таким образом, изменение мембранного потенциала за единичный квант времени, обусловленное пассивными и активными свойствами мембраны нейрона, а также приход щими на ней . 10 рон сигналами от внешнего источника и от нейронов моделируемой структуры , удовлетвор ет еледующему разностному уравнению: РД Н)-РЛ С1)).(1) Многочисленные нейрофизиологические данные показьшают, что эффективность синаптической св зи не  вл етс  посто нной величиной, а измен етс  сложным образом в зави симости от предшествукщей активности пресинаптического нейрона /. Эти данные указывают также на то, что эффективность синапса определ етс  двум  основными процессами, протекающими в пресинаптическом волокне: один из которых св зан с регул цией передатчика (медиатора) Xj-, , а другой св зан с регул цией, концентрации внутриклеточного кальци  1 Поскольку изменени  синаптической эффективности в синапсах центральной нервной системы позвоночных составл ют всего несколь ко процентов от среднего уровн , зависимость Уи( двух параметров Xj i2 быть достаточно точно описана с помощью линейных членов разложени  в р д Тейлора, т-е- y,-j(k) Xj(k;+ Xj.2 (kj, здесь посто нный член разложени  и сомножи тели включены в х- и .Xjo. Изменение парамет-ров ii x-j за единичный интервал времени зависи значени  и состо ни  нейронов в предшествующий момент времени, т.е. имеют место следующие уравнени : ji((j(1)(yk,N.(.)), х(Ы)-XJ .2(t)Ф,(x,Ck),)). Раскладьша  функции Ф,, РЯД Тейлора и ограничива сь членами линейными по X и п (малость изменений Xj и Xj2 позвол ет наде тьс  на хорошее соответствие этого линейного приближени  экспериментальным данным), получаем следующие уравнени : Xj-,(1.M)-x.(1.)(k)Xj.(kK,N.CJcW) x,,,(4H)-x.( Щ C,N.ikh2, Коэффициенты в этих уравнени х имеют следующий физиологический смысл: (2) посто нна  времени возвращени  переменной Xj, к своему равно- : весному значению определ ет вели- ; чину, на которую уменьшаетс  количество доступного медиатора при срабатывании j-ro нейрона, . . здесь . i Следует отметить, что процесс регул ции медиатора приводит к истощению доступного медиатора при р итмической стимул ции нейрона и к соответствующему уменьшению постсинаптического потенциала -  влению синаптической депрессии. Сл - определ ет величину, на которую увеличиваетс  концентраци  внутриклеточного кальци  при срабатывании j-ro нейрона, здесь с 0. Процесс регул ции концентрации внутриклеточного кальци  приводит к повышению концентрации кальци  при ритмической стимул ции нейрона, что, в свою очередь, ведет к увеличенто веро тности освобождени  медиатора и к увеличению постсинаптического потенциала -  вление синаптической потенциации. Величины и и 2 определ ют средний уровень концентрации медиатора и внутриклеточного кальци . Из системы уравнений, описывающих изменени  Х; и x-j , нетрудно получить, что при скачкообразном изменении частоты разр да пресинаптического нейрона от F до f- , вы- .званные изменени  синаптической эффективности могут быть представлены в виде суммы двух эксЬонент (при замене разностных уравнений диффе- ренциальными) с посто нными времени Н7(Л,Й,М и -1/(A2+B,,-F), что находитс  в хорошем согласии с экспериментальными данными. Выбор параметров /I, , А, , 6., , Bj , 0,0, D J БЗ осуществл лс  на основе уравнений по методу наименьших квадратов. Устройство работает в различных режимах, задаваемых параметрами синаптической депрессии и потенциации . Параметры моделей .нейрона ( порог, посто нна  времени мембран амплитуда белого шума, характери зующего случайные синаптические воздействи  на модели нейронов, несв занные с сигналом, и моделиру щего спонтанную активность нейронов ) , а также вид функции св зи могут быть выбраны на основе нейро физиологических и психофизиологиче ких данных, полученных на человеке и животных, при этом можно считать что длительность каждого шага рабо ты устройства соответствует длител ности передачи сигнала в синапсе синаптической задержке, равной 0.5 мс. Рассмотрим следующие значе ни  параметров модели нейрона: 0 0,15 е-1,0, белый шум - слу чайна  величина, подаваема  на каж дом шаге на каждый нейрон, равноме но распределенна  в интервале 0,20 0,26. Параметры внешнего сигнала, распределенного по модел м нейронов , представлены на графике 14 (фиг. 2), где абсцисс - номер модели нейрона по пор дку, по оси ординат - величина внешнего сигнала, подаваемого на входы 2 соответствующей модели нейрона. Вид функции св зи представлен на графике 15s где по оси абсцисс модуль разности .пор дковых номеров взаимодействующих моделей нейронов по оси ординат - сила св зи между этими модел ми. Параметры синаптической пластичности также выбирают на основе нер1рофизиологических данньЕХ, при этом рассмотрим два типа синапсов: с преобладанием синаптической потенциации (т.е. си напсы, длительна  стимул ци  котор в конечном счете приводит к увеличению синаптической эффективности) И с преобладанием синаптической депрессии (т.е. синапсы, длительна  стимул ци  которых приводит к уменьшению скнаптнческой эффекТ11ВНОСТИ ) , На фиг. 3 сверху вниз изображены последовательные этапы работы устройства со следующими параметра ми синаптической пластичности, соответствующими преобладанию процес са синаптической потенциации: Л, - О, Bi 0,25, С, 0,12-5, D-, 0,026, А2- О, б2--0,05, ,,1, ,0095. На каждом графике, представл ющем результат усреднени  по 64 последовательным шагам работы устройства и п ти различным реализаци м, определ емым исходными начальными состо ни ми, по обе оси абсцисс отложены номера моделей нейронов в слое, по оси ординат - частота срабатывани  модели нейрона. Представлены следующие этапы работы устройства: 16 - на внешние входы устройства подаетс  случайный сигнал (белый шум), моделирующий спонтанную активность нейронов сло , 17 и 18 - на внешние входы устройства нар ду с белым .шумом поступает определенный пространственно распределенный внешний сигнал, представленный на графике 14, 19, 20, 21 - последовательные этапы работы устройства после выключени  стимула, 22 - через 512 шагов после выключени  стимула. Из фиг. 3 отчетливо видно, что рассматриваемое устройство осуществл ет фильтрацию низкочастотной пространственной составл ющей внешнего сигнала, причем след от сигнала сохран етс  в течение достаточно длительного времени, значительно превьш1ающего характерное врем  потенциации , дл  данного случа  составл ющее 100 шагов. Таким образом, в случае преобладани  процесса синаптической потенциации устройство про вл ет свойство кратковременной пам ти, т.е. может в течение достаточно длительного времени, превосход щего по продолжительности временные параметры синаптической пластичности одиночной модели нейрона, удерживать след внешнего сигнала. На фиг, 4 сверху вниз представлены последовательные этапы работы устройства со следующими параметрами синаптической пластичности, соответствующими преобладанию процесса синаптической депрессии: , 8, -0,05, Ст О, D 0,0095, 2 0, ,25, С,, 0,375, ,026. Обозначени  те же, как и на фиг. 3. Из приведенных графиков видно, что реакци  устройства на внешний сигнал уменьшаетс  с течением времени привыкание . После выключени  внешнего сигнала наблюдаетс  интересное  вление отдачи, характеризующеес  реакцией устройства, инверсированной к исходной реакции на

внешний сигнал. Это свойство наблюдаетс  в нейронных попул ци х мозга человека и животных - возбуткдение на включение стимула, торможение на выключение, и наоборот. После 5 этой непродолжительной отдачи устройство возвращаетс  в исходное состо ние. Следовательно,в случае преобладани  процесса .синаптической депрессии устройство обладает свойством примыка- |Q ни  к действующему внешиему сигналу.

Таким образом, введение в модель нейрона двух интеграторов, двух умножителей и сумматора, обеспечивающих изменение величины рв зи между нейронами в зависимости ot частоты срабатывани  пресииаптического нейрона и достаточно полно опис 1ш1ающих процессы синаптической депрессии и потенциации, позвол ет смоделировать свойства реальных нейронных структур, а именно привыкание и кратковременную пам ть, и приблизить поведение тфедлагаемого устройства к реальной картине .

JJ

«

«.

15

n/V /lAjVl/v

/7

НЛАДМАIK

kx AA/ /VX/VV

IS

КглЛДЛЛ/ АА20

KAAAA/WHA

21

uzJ

fSГSr AУX/v лv

iput 4

Claims (1)

1. УСТРОЙСТВО ДЛЯ МОДЕЛИРОВАНИЯ НЕЙРОНА, содержащее цифровой интегратор, прямые входы которого являются входами возбуждения устройства, и цифровые интеграторы потенциации и депрессии, выходы которых подключены к соответствующим входам сумматора, отличающееся тем, что, с целью повышения точности моделирования и упрощения конструкции, в него введены два блока умножения и компаратор, выход которого подключен к первым входам-цифровых интеграторов потенциации и депрессии и блоков умножения, выходы цифровых интеграторов потенциации и депрессии соединены с вторыми своими входами и с вторыми входами соответствующих блоков умножения, выходы которых подключены к третьим входам соответствующих цифровых интеграторов' потенциации и депрессии, четвертые входы цифровых интеграторов потенциации и депрессии соединены с источниками постоянного сигнала, выход цифрового интегратора подключен к первому инверсному входу цифрового интегратора, второй инверсный вход которого соединен с выходом компаратора, выходом устройства является выход сумматора.

   ... SU ,1075632