Нейробиологическое обоснование модели (стр. 1 )

19.10.2006г. Нейробиологическое обоснование модели.

Олаф Спрэнг

Цель данной работы

Создать модель искусственной нейросинаптической сети, максимально используя нейробиологические принципы и решающую следующие задачи:

1. Универсальность сети – сеть должна быть универсальной в том смысле, что единая архитектура и алгоритм обучения должны обеспечивать решение самых разнообразных задач, связанных с классификацией, распознаванием образов, обобщением, установлением связей между различными событиями, образами, классификациями.

2. Предсказуемость результатов обучения – исходя из топологии сети, всегда можно заранее предсказать, каков будет результат ее работы исходя из условий задачи.

3. Легкость проектирования сети под конкретную задачу – сеть автоматически конфигурирует свою топологию исходя из анализа входных и выходных данных.

4. Исходя из парадигмы построения нейросинаптических сетей, всегда генерируется единственная и оптимальная для данной задачи сеть.

5. Устойчивость к искаженным входным данным – при равномерном случайном распределении ошибки во входных данных, величина ошибочных данных не может превышать 49% от всего объема обучающей выборки.

6. Масштабируемость – предполагает отсутствие проклятия размерности. Количество синапсов и нейронов в сети ограничено только условием задачи.

Основные нейробиологические посылки

В 1943 году, когда зарождалась теория искусственных нейронных систем, синапсы еще не были хорошо изучены, поэтому за основу был взят нейрон. Но в настоящее время очевидно, что нейрон обрабатывает только часть информации, являясь по сути только генератором импульсов, управляет же нейроном синапс, разрешая или нет нейрону генерировать импульс, а также задавая частоту и силу этого импульса. Синапсы расположенные более периферийно (на дендритах) могут осуществлять более тонкий контроль возбудимости постсинаптического нейрона, чем синапсы, оканчивающиеся на теле нейрона.(С. Немечек, 1978г. с.203)

НЕ нашли? Не то? Что вы ищете?

Биологический химический синапс состоит из пресинаптической мембраны, находящейся на аксоне одного нейрона и постсинаптической мембраны, находящейся на дендрите другого нейрона. В синаптическую щель между мембранами из постсинаптической мембраны при появлении сигнала на аксоне выделяется нейромедиатор, который связываясь с рецепторами на постсинаптической мембране, вызывает генерацию сигнала телом нейрона. Затем происходит быстрое разрушение нейромедиатора.

Фехнер (Fechner, 1860) выдвинул предположение, что ощущение пропорционально логарифму силы раздражения. Эдриан (Adrian, 1930) обнаружил, что нейроны сигнализируют об изменении интенсивности стимула, изменяя частоту своего разряда.

Хартлайн и Грэм (Hartline, Graham, 1932) обнаружили, что частота разряда нейрона пропорциональна логарифму интенсивности стимула. Кэндел (Kandel, 1976) показал, что частота импульса нейрона зависит от количества квантов медиатора, выделяемого в синаптическую щель пресинаптичесой мембраной. Чувствительность постсинаптической мембраны остается неизменной. Розенталь (Rosenthal, 1969) нашла, что при усилении синаптической передачи запас медиатора не увеличивается, а увеличивается только вероятность его выхода в синаптическую щель. Так же было показано, что количество квантов медиатора выделяемого в синаптическую щель одного синапса зависит от активации проводящего пути другого синапса. То есть возникает гетеросинаптическим путем. Кэндел смоделировал появление условного рефлекса, использовав два разных пути, конвергирующих на одном нейроне. При одновременной активации сильным безусловным стимулом одного пути и слабым условным стимулом другого пути он через некоторое время добился усиления разряда нейрона слабым условным стимулом на 100-800%.

Возникающие в течении онтогенетического развития размещение и густота синапсов на рецепторной поверхности постсинаптического нейрона не является случайным. Часто наблюдается характерное расположение не только в корковых слоях, но и в остальном сером веществе.(С. Немечек, 1978г. с.201)

Базовые предположения

Наиболее подходящим местом для следов памяти являются связи, или синапсы, через которые осуществляется взаимодействие отдельных пар нейронов. Системы, в которых подкрепление относится к связям, гораздо экономичнее систем, в которых подкрепление прикладывается к целому нейрону.

Основные понятия

Синапсы

Описание формального химического синапса.

Формальный синапс представляет собой регистр памяти, в которую записывается некоторое число, характеризующее количество квантов, выбрасываемых в синаптическую щель при активации. При выработке условного рефлекса число квантов медиатора растет. Число квантов медиатора, выбрасываемого в синаптическую щель при активации синапса будем считать весом данного синапса. (уточнение см. ниже от 01.01.2001г.)

Описание формального электрического синапса.

Формальный электрический синапс представляет собой связь между нейронами. Вес этого синапса всегда равен 0 и электрический синапс всегда активен.

Нейроны

Описание формальных нейронов.

Сенсорный нейрон. Сенсорный нейрон – это нейрон с одним входом и множеством выходов. При появлении сигнала на входе, он генерирует импульс с частотой, пропорционально амплитуде входного сигнала.

Вставочный нейрон. Вставочный нейрон – это нейрон с двумя входами имеющий только электрические синапсы. Реализует функцию И по входу.

Ассоциативный нейрон. Ассоциативный нейрон имеет множество химических синапсов и один электрический. Это основной нейрон синаптической сети. При активации электрического синапса, во всех активных химических синапсах данного нейрона происходит модификация веса. Частота разряда нейрона прямо пропорциональна сумме весов всех активных синапсов этого нейрона. (примечание: в некоторых случаях электрический синапс может отсутствовать и сигнал на модификацию синапсов может приходить внесинаптическим путем) (уточнение по активации см. ниже от 01.01.2001г.)

Промежуточные нейроны. Промежуточные нейроны имеют множественные электрические синапсы с аксонами ассоциативных нейронов. Частота разряда нейрона прямо пропорциональна сумме частот всех активных аксонов ассоциативных клеток имеющих электрические синапсы с этим нейроном.

Мотонейроны. Мотонейроны имеют множественные химические синапсы с аксонами промежуточных нейронов. Отличие от ассоциативных клеток в том, что у мотонейронов может быть активен только один синапс, вследствие торможения одним из промежуточных нейронов всех остальных промежуточных нейронов.

Правила

Изменение количества квантов медиатора в синапсе, при выработке условного рефлекса, происходит гетеросинаптически или моносинаптически, при одновременном внесинаптическом воздействии.

Частота разряда пресинаптического нейрона модифицирует синапс пропорционально своей частоте. То есть, чем выше частота, тем большее количество медиатора выбрасывается в синаптическую щель, и тем больший вес будет иметь данный синапс при выработке условного рефлекса.

Частота разряда постсинаптического нейрона прямо пропорциональна сумме квантов медиатора во всех синаптических щелях этого нейрона. Ясно, что появление медиатора в щели возможно только при прохождении сигнала через синапс. В неактивных синапсах медиатора в щели нет.

Аксиомы сети

1. Связи между нейронами в сети не случайны, а генетически детерминированы.

В течении онтогенетического развития центральной нервной системы (ЦНС) некоторые синапсы создаются «не на том месте». Потом они рассасываются и заменяются новыми, правильно расположенными контактами. (Немечек, 1978)

2. Пластичность жестко детерминированной сети обусловлена пластичностью

синапсов. Сами по себе пластические изменения синапсов можно рассматривать как способ хранения информации, который мог бы лежать в основе памяти. (Кендел, 1976)

3. Условный рефлекс всегда дихотомичен. То есть он образуется всегда только между двумя сигналами. (Павлов, 1906, 1927), (Miller, Konorsky, 1928), (Skinner, 1938).

4. Каждая модальность имеет свой диапазон значений.

5. Каждый диапазон значений имеет свой шаг. Например диапазон значений для слуха человека составляет от 20 догерц, а шаг диапазона составляет 3 герца. С меньшим шагом человек уже не различает изменение тона сигнала. То есть необходимо всего около 6000 сенсорных нейронов, расположенных в улитке слухового аппарата человека, чтобы перекрыть весь диапазон.

6. Количество сенсорных нейронов рассчитывается делением величины диапазона на его шаг.

7. Количество вставочных нейронов сети рассчитывается умножением количества сенсорных нейронов одной модальности на количество сенсорных нейронов другой модальности. То есть мы создаем избыточные потенциальные условно-рефлекторные связи между разными модальностями исходя из аксиомы 1. Так как все связи между нейронами закладываются в период формирования мозга и затем не меняются, а только модифицируются. Здесь необходимо акцентировать внимание на слове потенциальные, то есть в обученной сети их может быть на порядки меньше. Они образуются по мере необходимости.

8. При проектировании разных сетей, архитектура сети не меняется, меняется только количество нейронов и синапсов. В природе принципы работы нейронных сетей одинаковы и у насекомых и у человека. По общему характеру активности нейроны гусениц не отличаются от нейронов позвоночных (Adrian, 1930). Он сравнил суммарную электрическую активность оптического ганглия (скопления зрительных нейронов) водного жука Dytiscus со своей собственной электроэнцефалограммой, отводимой от зрительной коры, и обнаружил сравнимые реакции на свет (Kandel, 1976)

9. Основной элемент сети – синапс.

10. Основа архитектуры сети – условный рефлекс.

11. Количество синапсов на ассоциативных нейроне равно количеству вставочных нейронов. Это следствие аксиомы 7. N*(N-1)

12. Количество ассоциативных нейронов вычисляется по формуле: K= 2 , где N – это количество модальностей.

13. Промежуточный (выходной) нейрон в однослойной сети всегда один.

14. Для получения большего выходного диапазона значений добавляются дополнительные однотипные сети, имеющие общие сенсорные и вставочные нейроны. По одной на каждый дополнительный выходной нейрон.

15. Количество моторных нейронов зависит от количества «мышц» или исполнительных устройств.

Условный рефлекс

(базовые положения)

Связи между различными сенсорными модальностями

Это очень интересный и важный вопрос. Какая архитектура этих связей? От ответа на этот вопрос зависит, сможем мы построить работоспособную нейросинаптическую сеть или нет. В настоящий момент используется парадигма «все со всеми». Но эта парадигма приводит к проклятию размерности. Почему же в мозге нет этого проклятия? Потому, что мозг дихотомичен, двумерен, несмотря на многотысячные связи на одном нейроне. Из чего можно сделать такой вывод? Из понятия условного рефлекса. Условный рефлекс всегда дихотомичен. Всегда устанавливается связь только между двумя событиями.

Условный рефлекс всегда дихотомичен. Это вытекает из самого определения условного рефлекса, как функции между безусловным и условным раздражителем.

Возможно ли существование условного рефлекса между тремя безусловными раздражителями и одним условным? Да такое сочетание реализуется с помощью трех условных рефлексов, где в каждом из них присутствует один условный раздражитель и один из трех безусловных.

Возможно ли существование условного рефлекса между тремя условными раздражителями и одним безусловным раздражителем?

Да такое сочетание реализуется с помощью трех условных рефлексов, где в каждом из них присутствует один безусловный раздражитель и один из трех условных.

Теорема 1. При множестве условных раздражителей мы всегда имеем одну и только одну реакцию.

Вариант 1. (частный случай) пусть B=>A, тогда при обучении мы получим

U1+B=A

U2+B=A

U3+B=A

после обучения мы получим набор соотношений

U1=>A

U2=>A

U3=>A

Где U – условный раздражитель, B – безусловный раздражитель, A – событие (реакция) на безусловный или (после формирования условного рефлекса) на условный раздражитель.

То есть на три разных условных раздражителя мы получим одну и ту же реакцию.

Теорема 2. При одном условном раздражителе возможно существование множества различных реакций.

Вариант 2. пусть B1=>A1, B2=>A2, B3=>A3

Тогда во время обучения имеем набор уравнений

U+B1=A1

U+B2=A2

U+B3=A3

Тогда после обучения мы получим набор отношений

U=>A1

U=>A2

U=>A3

То есть на один условный раздражитель мы получим одновременно три различные реакции.

Введем новые функции в набор из N-го количества условных рефлексов – функцию силы связи Sn между Un и An. (и функцию торможения Tn между Un и Un+1.)

Поведение уравнений при первом и втором вариантах не изменится. Рассмотрим

Вариант 3. пусть дано A1, A2, A3, B1, B2, B3, U1, U2, U3 тогда

Во время обучения

U1+B1=A1

U2+B2=A2

U3+B3=A3

После обучения

U1A1 если S1>S2S1>S3

U2A2 если S2>S1S2>S3

U3A3 если S3>S1S3>S2

Здесь мы тоже имеем только одну из трех возможных реакций из-за функции торможения сильной связью слабых.

По-видимому, для того, чтобы образовался условный рефлекс, должны существовать потенциальные синаптические связи для его возникновения, т. к. новые нейроны не образуются, а только отмирают. Так же на этот вывод указывает наблюдение о быстрой обучаемости и почти мгновенном образовании условного рефлекса в стрессовой ситуации. Но ведь если предположить, что аксоны растут по направлению активного нейрона и устанавливают синаптическую связь с дендритами другого нейрона в процессе обучения, то скорость роста аксона явно меньше скорости образования условного рефлекса. Все вышесказанное однозначно указывает на то, что аксон-дендритные связи закладываются в головном мозге с самого начала, а затем активируются в процессе формирования условных рефлексов. Ведь наша нейронная сеть не просто отражает пассивно внешний мир, она устанавливает каузальные связи между событиями этого мира. Ведь просто увидеть какой либо предмет и не связать его с чем-то, мы этого предмета не увидим. Он просто не отразится в нашем сознании. Для того чтобы он отразился, его необходимо связать с каким либо событием (настоящим или прошлым). Этим и занимается условный рефлекс. Он образует условно-рефлекторную связь между двумя событиями (т. к. объект можно тоже рассматривать как событие). Условный рефлекс является фундаментальной базовой функцией нервной системы. Теперь необходимо рассмотреть вопрос о его биологической или точнее нейробиохимической сущности.

На заре становления нейробионики условный рефлекс представляли в виде нейронной сети (см. рисунок) содержащей много нейронов.

Нервная сеть, моделирующая выработку условного рефлекса. (Брайнес, 1968)

Но если исходить из предпосылки, что главный элемент нейронной сети не нейрон, а синапс, тогда условный рефлекс можно представить в виде одного нейрона и двух синапсов, один из которых отвечает за безусловный раздражитель, а другой за условный. Можно даже предположить, что синапс, отвечающий за безусловный раздражитель является электротоническим, а синапс отвечающий за условный раздражитель – химическим. Модификация количества трансмиттеров в синаптической щели которого является весом синапса и силой условного рефлекса. Чем больше вес синапса или суммы синапсов на одном нейроне, тем с большей частотой передается сигнал по аксону.

Схема опытов по выработке условного рефлекса на отдельном нейроне.(Kandel, 1967.)

При распознавании образа состоящего из разных модальностей (слуха, зрения, вкуса и т. д. ) мы имеем составной условный рефлекс состоящий из пар: слухзрение+B=A, слухвкус+B=A, зрениевкус+B=A, где составной условный раздражитель выступает в роли одного условного раздражителя, а B выступает в роли одного безусловного раздражителя или внесинаптического химического подкрепления. Тогда составной условный рефлекс выражается отношениями Варианта 2(частный случай). Если же существует много событий А, тогда Вариант 2 и Вариант 3 объединяются в одну систему отношений:

U1+B1=A1

U2+B1=A1

U3+B1=A1

U1+B2=A2

U2+B2=A2

U3+B2=A2

U1+B3=A3

U2+B3=A3

U3+B3=A3

После обучения

U2 A1, если Sa1> Sa2Sa1> Sa3

U2 A2, если Sa2> Sa1Sa2> Sa3

U2 A3, если Sa3> Sa1Sa3> Sa2

Расчет времени задержки между условным стимулом и безусловнным

Для того, чтобы разобраться в этом, нам необходимо сначала разобраться в биологическом смысле этой задержке. Зачем она необходима. Многие исследователи просто констатируют, что для того, чтобы выработался условный рефлекс необходимо подавать безусловный стимул после условного с задержкой.

По всей видимости, эта задержка имеет глубокий биологический смысл. Так условный рефлекс на вид открытого огня должен срабатывать до того, как рука попадет в зону его действия, вид и запах пищи должен повышать слюноотделение до того, как пища попала в рот, выделение желудочного сока должно происходить до того, как пища попала в желудок…

Из этих примеров видно, что время задержки должно быть разным. В некоторых случаях (не в эксперименте, а в нормальных условиях) она достигает нескольких часов. Так крысы, в естественных условиях, никогда не съедают отравленную приманку целиком, а откусывают маленькими порциями и ждут. Если через некоторый промежуток времени от 30 мин до нескольких часов не наступает симптомов отравления, то они откусывают еще и так далее. То есть время задержки между видом и запахом пищи и реакцией отравления довольно большое и все равно приводит к рефлексу избегания отравленной пищи. (Меннинг, 1979)

Поэтому при проектировании синаптических сетей на основе условного рефлекса мы должны быть готовы к тому, что нам придется, исходя из задачи, вводить функцию задержки подкрепления условного рефлекса. То есть условный рефлекс должен распознать событие до появления безусловного раздражителя и среагировать раньше, как будто бы это событие уже произошло. То есть при виде огня субъект как бы «убирает» руку из огня и отступает назад. Но затем, не получая подкрепление ожогом, рефлекс убирание руки при виде огня угасает, а условный рефлекс отступания назад подкрепляется видом огня и сохраняется. Поэтому в данной ситуации вид огня уже выступает в роли безусловного раздражителя и подкрепляет рефлекс отступания от огня.

Каков механизм такой длительной задержки? Одно из возможных объяснений сводится к тому, что врожденное чувство страха поддерживает у крысы образ незнакомой пищи в активном состоянии длительное время, и если наступают симптомы отравления, то они накладываются на активный образ и подкрепляют его.

Если исходить из того, что условный рефлекс как бы прогнозирует наступление события «А», тогда возникает вопрос, насколько далеко возможно прогнозирование с помощью условных рефлексов? Иными словами, как долго может сохраняться в памяти условный стимул, ожидая подкрепления? Тогда должен появляться сложный или составной рефлекс и на промежуток времени, или, проще говоря, на величину задержки. Каков нейрохимический механизм этой задержки? Где находится таймер? Как запоминаются интервалы времени?

Один из возможных механизмов – это наличие нейронов, спонтанно разряжающихся и объединенных в некую цепь. Например, должны существовать милисекундные нейроны, секундные, минутные, часовые и суточные (до семи суток, затем отсчет промежутков времени невозможен?). Тогда механизм задержки представляет собой установление условного рефлекса между условным стимулом и тем временным нейроном, который активен в момент прихода сигнала подкрепления.

Поэтому в систему введем еще одну модальность – временную. Ее сенсорные нейроны представлены множеством нейронов с разным циклом разрядной активности, причем на более высоком уровне, временной нейрон с более медленным циклом разряда подавляет нейроны с более коротким.

Разница между подкреплением поведения и классическим условным рефлексом

Подкрепление – это решение проблемы, безусловный стимул – это рождение проблемы.

Расчет количества нейронов в искусственной нейросинаптической сети

Исходя из принципа дихотомичности условного рефлекса и опираясь на предыдущие выкладки можно вывести формулы и правила для расчета архитектуры и количества элементов нейросинаптической сети. Это в конечном итоге должно нас привести к созданию универсальной топологии нейросинаптической сети, но с разным количеством нейросинаптических элементов. Количество нейросинаптических элементов рассчитывается по простым формулам исходя из универсальной топологии.

Введем понятие универсальной топологии. Универсальная топология – это обобщенная топология нейронной сети, характерная для различных видов животных (от беспозвоночных и до позвоночных). Она представлена сенсорными системами, генетически детерминированными связями со вставочными нейронами, недетерминированными (химическими) связями между вставочными нейронами и ассоциативными клетками, детерминированными связями между ассоциативным слоем и мотонейронами.

Описание одного слоя элементарной синаптической сети

Пусть мы имеем две модальности с диапазоном значений от 1 до 3-х в каждой, с шагом 1, тогда сенсорных нейронов будет по 3 на каждую модальность, ассоциативный нейрон один и один выходной нейрон. Как уже упоминалось количество мотонейронов зависит от количества исполнительных устройств или «мышц».(на схеме их 5)

V1 K1

S2 M1

S1 E1

V1 – сенсорные нейроны двух модальностей, V2 – вставочные нейроны, S1 – химические синапсы, K1 – ассоциативный нейрон, V3 – промежуточный нейрон (выходной), S2 – химические синапсы, M1- Мотонейроны, E1, E2 – электрические синапсы по которому передается подкрепление или внесинаптическое химическое подкрепление.

Как видно из схемы, химические синапсы имеет только ассоциативный нейрон и мотонейроны, а все остальные нейроны имеют электротонические синапсы. Поэтому изменение синаптических весов происходит только в химических синапсах. При появлении на каком-либо химическом синапсе (или синапсах) сигнала и одновременном появлении сигнала в электрическом синапсе E1 или E2, происходит модификация соответствующего химического синапса. Обучение ассоциативного нейрона и мотонейронов независимое.

А существует ли нейробиологический аналог вышеприведенной архитектуры? Наверное, его нужно искать в простейших нейробиологических сетях, раз мы предполагаем, что принципы передачи информации у беспозвоночных и позвоночных животных одинаковы. Описание такой сети я нашел у Кендела:

Архитектура этой сети полностью укладывается в теоретические представления об архитектуре, изложенные выше: сенсорные нейроны->вставочные нейроны (на рисунке они не показаны)->интернейроны с химическими синапсами->выходной нейрон (ЛГ) с электричесими синапсами->мотонейроны с химическими синапсами

Для того чтобы еще больше упростить графическое представление синаптической сети и сделать ее более наглядной, объединим сенсорные нейроны в два блока, а вставочные нейроны, химические синапсы и ассоциативный нейрон представим в виде нейроматрицы.

V1 E1

На самом деле потенциальные синаптические связи между рецепторными нейронами и ассоциативными в начальный момент обучения в системе отсутствуют. Синаптическая связь образуется только при одновременном появлении сигнала на любой паре рецепторных нейронах в разных модальностях и сигнала подкрепления на ассоциативном нейроне.

Если взять количество сенсорных нейронов одной модальности за m1, а второй m2, тогда потенциальное количество синапсов Sn на одном ассоциативном нейроне будет Sn=m1*m2+F, где F это количество факторов подкрепления для данного ассоциативного нейрона. В простых сетях он равен 1. Фактор F может быть представлен, как подкрепляющим синапсом, так и внесинаптическим подкрепляющим фактором, действующим на все активные синапсы данного нейрона одновременно. Предсказать, где и сколько будет реально образовано синапсов на данном нейроне невозможно. Это будет зависеть от обучающей выборки.

24.02.2007г.

Колонки и микро-колонки

Микро-колонка представляет собой локальную нейросинаптическую сеть, основанную на универсальной топологии и моделирующую образование рефлекторной связи между любой парой модальностей.

Колонка представляет собой локальную нейросинаптическую сеть, основанную на универсальной топологии и моделирующую образование рефлекторной связи между всеми модальностями. (рис.3)

Колонки состоят из микро-колонок. (рис.2)

Каждая колонка имеет только один выходной нейрон.

Все колонки нейросинаптической сети имеют общие сенсорные нейроны.

Каждый выходной нейрон колонки посылает тормозящие синапсы на все выходные нейроны других колонок.

Элементарный (простой) условный рефлекс представлен в данной сети одним синапсом на ассоциативном нейроне. (рис.1)

Правило образование простого условного рефлекса: при одновременном появлении условно-рефлекторного сигнала на входном нейроне и сигнала подкрепления на ассоциативном нейроне, между ними образуется синапс.

Вес синапса определяется суммой текущего и предыдущего веса данного синапса.

Текущий вес синапса определяется частотой входного сигнала. Чем выше частота, тем выше текущий вес синапса.

Частота входного сигнала является мерой воздействия на сенсорные нейроны. Чем сильнее воздействие, тем выше частота.

Правило модификации синапса: изменение веса синапса происходит только при совпадении по времени сигнала на пресинаптическом нейроне и сигнала подкрепления на ассоциативном-постсинаптическом нейроне.

Правило прохождения сигнала через синапс: при отсутствии сигнала подкрепления на ассоциативном нейроне, вес сигнала, проходящего через синапс равен весу синапса и не зависит от частоты входящего сигнала.

Синаптическая суперпозиция: текущий вес выходного сигнала данного нейрона является суммой весов активных синапсов в данный момент, причем вес тормозящего синапса является отрицательной величиной.

Правило внесинаптического подкрепления: Внесинаптическое подкрепление действует только в пределах одной колонки и разрешает модификацию весов всех активных синапсов в данный момент.

Активным синапсом считается синапс, у которого есть сигнал на пресинаптической мембране.

Термины вес сигнала и частота сигнала в данной модели являются синонимами.