Черновик: модель спайкового отклика - Draft:Spike Response Model

В Модель пикового отклика (SRM)[1] это модель нейрона спайков в котором всплески генерируются либо детерминированным[2] или стохастик[1] пороговый процесс. В SRM напряжение на мембране V описывается как линейная сумма постсинаптических потенциалов (PSP), вызванных появлением спайков, к которым добавляются эффекты рефрактерности и адаптации. Порог бывает фиксированным или динамическим. В последнем случае он увеличивается после каждого всплеска. SRM достаточно гибок, чтобы учесть различные паттерны возбуждения нейронов в ответ на входной пошаговый ток.[2] SRM также использовался в теории вычислений для количественной оценки пропускной способности нейронных сетей;[3] а в нейробиологии - предсказывать подпороговое напряжение и время срабатывания нейронов коры во время стимуляции с помощью зависящей от времени стимуляции током.[4] Название Модель пикового отклика указывает на то свойство, что два важных фильтра и модели можно интерпретировать как отклик мембранного потенциала на приходящий спайк (ядро ответа , PSP) и исходящий всплеск (ядро ответа , также называемое огнеупорным ядром). SRM был сформулирован для непрерывного и дискретного времени.[5] SRM можно рассматривать как обобщенную линейную модель (GLM).[6][7] или в виде (интегрированной версии) обобщенной модели «интегрировал и возьми» с адаптацией.[2][8][9]

Модельные уравнения для SRM в непрерывном времени

В SRM, в каждый момент времени t, всплеск может генерироваться стохастически с мгновенной стохастической интенсивностью или «функцией выхода». [8][9][5]

что зависит от мгновенной разницы между мембранным напряжением V(т) и динамический порог .

Напряжение мембраны V(т) в момент времени t определяется как[8][5]

куда тж - время срабатывания спайка f нейрона, Vотдых напряжение покоя при отсутствии входа, Его) входной ток в момент времени t-s и представляет собой линейный фильтр (также называемый ядром), который описывает добавление импульса входного тока в момент времени t-s к напряжению во время t. Вклады в напряжение, вызванные всплеском во времени описываются тугоплавким ядром . Особенно,

описывает ход потенциала действия, начиная с момента времени а также остаточный потенциал.

В динамический порог дан кем-то[8][4]

куда порог срабатывания неактивного нейрона и описывает повышение порога после всплеска во времени . В случае фиксированного порога [т.е. = 0], огнеупорное ядро должен включать только остаточный потенциал шипа, но не форму самого шипа.

Общий выбор[8][9][5] для 'скорость побега' (что согласуется с биологическими данными[4]) является

куда - постоянная времени, которая описывает, как быстро срабатывает импульс, когда мембранный потенциал достигает порогового значения и - параметр резкости. За порог становится резким, и запуск импульса детерминированно происходит в момент, когда мембранный потенциал достигает порога снизу. Значение резкости, найденное в экспериментах, составляет что нейрональное возбуждение становится неотъемлемым, как только мембранный потенциал становится на несколько мВ ниже формального порога срабатывания. Процесс скорости побега через мягкий порог рассматривается в главе 9 учебника Нейрональная динамика.[8]

В сеть N нейронов SRM , мембранное напряжение нейрона дан кем-то[5]

куда время срабатывания нейрона j (т. е. его последовательность спайков), и описывает временной ход спайка и постпотенциала спайка для нейрона i, и описать амплитуду и временной ход возбуждающего или тормозящего постсинаптический потенциал (PSP) вызвано всплеском пресинаптического нейрона j. Курс времени PSP является результатом свертки постсинаптического тока вызванный приходом пресинаптического спайка от нейрона j.

Модельные уравнения для SRM в дискретном времени

Для моделирования SRM обычно реализуется в дискретном времени.[5][10] По времени продолжительности , всплеск генерируется с вероятностью

что зависит от мгновенной разницы между мембранным напряжением V и динамический порог . Функцию F часто принимают за стандартную сигмоидальную [11] с параметром крутизны . Но функциональную форму F можно также вычислить из стохастической интенсивности в непрерывном времени как куда расстояние до порога.[8][5]

Напряжение мембраны в дискретном времени дается выражением

куда тж дискретизированное время срабатывания нейрона, Vотдых - напряжение покоя при отсутствии входа, а входной ток в момент времени (интегрировано за один временной шаг). Входной фильтр и остаточный потенциал определены так же, как и в случае SRM в непрерывном времени.

За сети нейронов SRM в дискретное время мы определяем последовательность импульсов нейрона j как последовательность нулей и единиц, и перепишем мембранный потенциал как[5]

В этих обозначениях тугоплавкое ядро и форма PSP можно интерпретировать как фильтры с линейным откликом применяется к бинарным шипованным поездам .

Основные области применения SRM

Теория вычислений с импульсными нейронными сетями

Поскольку формулировка SRM дает явное выражение для мембранного напряжения (без обхода через дифференциальные уравнения), SRM были доминирующей математической моделью в формальной теории вычислений с импульсными нейронами.[12][13][3]

Прогнозирование напряжения и времени спайков корковых нейронов.

SRM с динамическим порогом использовался для предсказания времени срабатывания корковых нейронов с точностью до нескольких миллисекунд.[4] Нейроны стимулировали с помощью инжекции тока с помощью зависящих от времени токов различных значений и вариаций, в то время как напряжение на мембране регистрировалось. Надежность предсказанных всплесков была близка к внутренней надежности, когда один и тот же зависящий от времени ток повторялся несколько раз. Кроме того, извлекая форму фильтров и Непосредственно из экспериментальных данных выяснилось, что адаптация распространяется во временных масштабах от десятков миллисекунд до десятков секунд.[14][15] Благодаря свойствам выпуклости правдоподобия в обобщенных линейных моделях,[6][7] извлечение параметров эффективно.[16]

Ассоциативная память в сетях импульсных нейронов

Нейроны SRM0 использовались для построения ассоциативной памяти в сети нейронов с импульсами.[5][11] Сеть SRM[5] который хранил конечное число стационарных паттернов в качестве аттракторов с использованием матрицы связности типа Хопфилда[17] был одним из первых примеров аттракторных сетей с импульсными нейронами.[18][19][20]

Уравнения популяционной активности в больших сетях импульсных нейронов

Для нейронов SRM важной переменной, характеризующей внутреннее состояние нейрона, является время, прошедшее с момента последнего всплеска (или «возраста» нейрона), который попадает в рефрактерное ядро. . Уравнения активности популяции для нейронов SRM могут быть альтернативно сформулированы либо в виде интегральных уравнений,[5][10][21] или как уравнения в частных производных для «плотности огнеупора».[5][10] Поскольку рефрактерное ядро ​​может включать в себя временную шкалу, меньшую, чем у мембранного потенциала, уравнения популяции для нейронов SRM предоставляют мощные альтернативы.[22][21][23] к более широко используемым уравнениям в частных производных для «плотности мембранного потенциала».[19][24][25] Обзоры уравнения активности популяции на основе плотностей тугоплавких материалов можно найти в[23] а также в главе 14 учебника Нейрональная динамика.[8]

Спайковые паттерны и временной код

SRM полезны для понимания теорий нейронное кодирование. Сетевые нейроны SRM хранят аттракторы, которые формируют надежные пространственно-временные паттерны спайков.[1] (также известные как цепи Synfire[26] ) пример временного кодирования для стационарных входов. Более того, уравнения активности популяции для SRM демонстрируют временные переходные процессы после переключения стимула, что указывает на надежное срабатывание пиков.[10]

4. История и связь с другими моделями.

Модель спайк-отклика была представлена ​​в серии работ в период с 1991 г.[11] и 2000.[2][5][10][27] Название Модель пикового отклика вероятно, впервые появился в 1993 году.[1] В некоторых работах использовался исключительно детерминированный предел с жестким порогом.[2] другие - мягкий порог с защитным шумом.[5] Предшественниками модели спайкового отклика являются интегрированная модель введенный Лапиком в 1907 году, а также модели, используемые в слуховой нейробиологии.[28][29][30][31]

SRM0

Важным вариантом модели является SRM0[10] что связано с нестационарными нелинейными теория обновления. Основное отличие от уравнения напряжения СУР введенных выше является то, что в перспективе, содержащий огнеупорное ядро нет знака суммирования по прошлым всплескам: только последний всплеск имеет значение. Модель SRM0 тесно связана с неоднородным интервальным марковским процессом[32] и чтобы возрастные модели тугоплавкости.[29][30][31]

GLM

Уравнения SRM, введенные выше, эквивалентны Обобщенные линейные модели в нейробиологии (GLM).[6][7] В нейробиологии GLM были введены как расширение Линейно-нелинейно-Пуассоновский модель (LNP) путем добавления самовзаимодействия выходного импульса с внутренним состоянием нейрона[6][7] (поэтому также называется «Рекурсивный LNP»). Самовзаимодействие эквивалентно ядру SRM. Структура GLM позволяет сформулировать подход максимального правдоподобия[33] применяется к вероятность наблюдаемого шипового поезда в предположении, что SRM мог создать цепочку шипов.[8] Несмотря на математическую эквивалентность, существует концептуальная разница в интерпретации: в SRM переменная V интерпретируется как мембранное напряжение, тогда как в рекурсивной LNP это «скрытая» переменная, которой не приписывается никакого значения. Интерпретация SRM полезна, если доступны измерения подпорогового напряжения.[4][14][15] тогда как рекурсивный LNP полезен в системной нейробиологии, где всплески (в ответ на сенсорную стимуляцию) регистрируются вне клетки без доступа к подпороговому напряжению.[6][7]

Адаптивные дырявые модели Integrate-and-Fire

Дырявый интегрировать и активировать нейрон с адаптацией, запускаемой спайком, имеет подпороговый мембранный потенциал, генерируемый следующими дифференциальными уравнениями

куда постоянная времени мембраны и шk - текущий номер адаптации с индексом k, Eотдых потенциал покоя и тж - время срабатывания нейрона, а греческая дельта обозначает дельта-функцию Дирака. Когда напряжение достигает порога срабатывания, напряжение сбрасывается до значения Vр ниже порога срабатывания. Интегрирование линейных дифференциальных уравнений дает формулу, идентичную уравнению напряжения SRM.[2] Однако в этом случае тугоплавкое ядро не включает форму шипа, а только остаточный потенциал шипа. В отсутствии адаптации токов, мы получаем стандартную модель LIF, которая эквивалентна огнеупорное ядро который экспоненциально затухает с постоянной времени мембраны .

внешняя ссылка

Справочный раздел

  1. ^ а б c d Герстнер, Вульфрам; Ритц, Рафаэль; ван Хеммен, Дж. Лео (1993-10-01). «Почему спайки? Хеббийское обучение и поиск разрешенных во времени паттернов возбуждения». Биологическая кибернетика. 69 (5): 503–515. Дои:10.1007 / BF00199450. ISSN  1432-0770. PMID  7903867. S2CID  6195748.
  2. ^ а б c d е ж Герстнер, Вульфрам; ван Хеммен, Дж. Лео; Коуэн, Джек Д. (1996-11-15). "Что имеет значение в блокировке нейронов?". Нейронные вычисления. 8 (8): 1653–1676. Дои:10.1162 / neco.1996.8.8.1653. ISSN  0899-7667. PMID  8888612. S2CID  1301248.
  3. ^ а б Маасс, Вольфганг (1 февраля 1997 г.). «Быстрые сигмоидальные сети через шипящие нейроны». Нейронные вычисления. 9 (2): 279–304. Дои:10.1162 / neco.1997.9.2.279. ISSN  0899-7667.
  4. ^ а б c d е Жоливе, Рено; Раух, Александр; Люшер, Ханс-Рудольф; Герстнер, Вульфрам (август 2006 г.). «Прогнозирование времени спайков пирамидных нейронов неокортекса с помощью простых пороговых моделей». Журнал вычислительной неврологии. 21 (1): 35–49. Дои:10.1007 / s10827-006-7074-5. ISSN  0929-5313. PMID  16633938. S2CID  8911457.
  5. ^ а б c d е ж грамм час я j k л м п Герстнер, Вульфрам; Хеммен, Дж. Лео ван (1992-01-01). «Ассоциативная память в сети« шипящих »нейронов». Сеть: вычисления в нейронных системах. 3 (2): 139–164. Дои:10.1088 / 0954-898X_3_2_004. ISSN  0954-898X.
  6. ^ а б c d е Трукколо, Уилсон; Eden, Uri T .; Товарищи, Мэтью Р .; Донохью, Джон П .; Браун, Эмери Н. (01.02.2005). «Структура точечного процесса для связи активности нейронных импульсов с историей всплесков, нейронным ансамблем и внешними ковариантными эффектами». Журнал нейрофизиологии. 93 (2): 1074–1089. Дои:10.1152 / ян.00697.2004. ISSN  0022-3077. PMID  15356183.
  7. ^ а б c d е Подушка, Джонатан В .; Шленс, Джонатон; Панински, Лиам; Шер, Александр; Литке, Алан М .; Chichilnisky, E.J .; Симончелли, Ээро П. (август 2008 г.). «Пространственно-временные корреляции и визуальная сигнализация в полной нейронной популяции». Природа. 454 (7207): 995–999. Bibcode:2008Натура.454..995П. Дои:10.1038 / природа07140. ISSN  1476-4687. ЧВК  2684455. PMID  18650810.
  8. ^ а б c d е ж грамм час я j k л Герстнер, Вульфрам. (24 июля 2014 г.). Нейрональная динамика: от отдельных нейронов к сетям и моделям познания. Кистлер, Вернер М., 1969-, Науд, Ричард., Панински, Лиам. Кембридж, Соединенное Королевство. ISBN  978-1-107-06083-8. OCLC  861774542.
  9. ^ а б c Герстнер, Вульфрам. (2002). Модели нейронов с импульсами: отдельные нейроны, популяции, пластичность. Кистлер, Вернер М., 1969-. Кембридж, Великобритания: Издательство Кембриджского университета. ISBN  0-511-07817-X. OCLC  57417395.
  10. ^ а б c d е ж Герстнер, Вульфрам (01.01.2000). «Динамика популяции импульсных нейронов: быстрые переходные процессы, асинхронные состояния и блокировка». Нейронные вычисления. 12 (1): 43–89. Дои:10.1162/089976600300015899. ISSN  0899-7667. PMID  10636933. S2CID  7832768.
  11. ^ а б c ГЕРСТНЕР, Вульфрам (1991). [paper.nips.cc/paper/371-associative-memory-in-a-network-of-biological-neurons.pdf «Ассоциативная память в сети биологических нейронов»] Проверять | url = ценить (помощь) (PDF). Достижения в системах обработки нейронной информации. 3: 84–90.
  12. ^ Импульсные нейронные сети. Маасс, Вольфганг, 21 августа 1949 г., епископ Кристофер М. Кембридж, Массачусетс: MIT Press. 1999 г. ISBN  978-0-262-27876-8. OCLC  42856203.CS1 maint: другие (связь)
  13. ^ Bohte, Sander M .; Kok, Joost N .; Ла Пуре, Хан (2002-10-01). «Обратное распространение ошибок во временно закодированных сетях нейронов с импульсами». Нейрокомпьютинг. 48 (1): 17–37. Дои:10.1016 / S0925-2312 (01) 00658-0. ISSN  0925-2312.
  14. ^ а б Поццорини, Кристиан; Науд, Ричард; Менси, Скандер; Герстнер, Вульфрам (июль 2013 г.). «Темпоральное отбеливание за счет степенной адаптации нейронов неокортекса». Природа Неврология. 16 (7): 942–948. Дои:10.1038 / № 3431. ISSN  1546-1726. PMID  23749146. S2CID  1873019.
  15. ^ а б Менси, Скандер; Науд, Ричард; Поццорини, Кристиан; Аверманн, Майкл; Petersen, Carl C.H .; Герстнер, Вульфрам (07.12.2011). «Извлечение параметров и классификация трех типов корковых нейронов выявляют два различных механизма адаптации». Журнал нейрофизиологии. 107 (6): 1756–1775. Дои:10.1152 / ян.00408.2011. ISSN  0022-3077. PMID  22157113.
  16. ^ Поццорини, Кристиан; Менси, Скандер; Хагенс, Оливье; Науд, Ричард; Кох, Кристоф; Герстнер, Вульфрам (17.06.2015). «Автоматизированная высокопроизводительная характеристика одиночных нейронов с помощью упрощенных моделей спайков». PLOS вычислительная биология. 11 (6): e1004275. Bibcode:2015PLSCB..11E4275P. Дои:10.1371 / journal.pcbi.1004275. ISSN  1553-7358. ЧВК  4470831. PMID  26083597.
  17. ^ Хопфилд, Дж. Дж. (1 апреля 1982 г.). «Нейронные сети и физические системы с возникающими коллективными вычислительными возможностями». Труды Национальной академии наук. 79 (8): 2554–2558. Bibcode:1982PNAS ... 79.2554H. Дои:10.1073 / pnas.79.8.2554. ISSN  0027-8424. ЧВК  346238. PMID  6953413.
  18. ^ Амит, Дэниел Дж .; Цодыкс, М.В. (1991-01-01). «Количественное исследование извлечения аттракторной нейронной сети при низких скоростях спайков: I. субстрат - спайки, скорости и усиление нейронов». Сеть: вычисления в нейронных системах. 2 (3): 259–273. Дои:10.1088 / 0954-898X_2_3_003. ISSN  0954-898X.
  19. ^ а б Амит, Д. (1997-04-01). «Модель глобальной спонтанной активности и локальной структурированной активности в периоды задержки в коре головного мозга». Кора головного мозга. 7 (3): 237–252. Дои:10.1093 / cercor / 7.3.237. ISSN  1460-2199. PMID  9143444.
  20. ^ Брадер, Джозеф М .; Сенн, Уолтер; Фуси, Стефано (20 сентября 2007 г.). «Изучение реальных стимулов в нейронной сети с помощью синаптической динамики, управляемой импульсами». Нейронные вычисления. 19 (11): 2881–2912. Дои:10.1162 / neco.2007.19.11.2881. ISSN  0899-7667. PMID  17883345. S2CID  5933554.
  21. ^ а б Швальгер, Тило; Дегер, Мориц; Герстнер, Вульфрам (19 апреля 2017 г.). Грэм, Лайл Дж. (Ред.). «К теории корковых столбов: от импульсных нейронов до взаимодействующих нейронных популяций конечного размера». PLOS вычислительная биология. 13 (4): e1005507. arXiv:1611.00294. Bibcode:2017PLSCB..13E5507S. Дои:10.1371 / journal.pcbi.1005507. ISSN  1553-7358. ЧВК  5415267. PMID  28422957.
  22. ^ Науд, Ричард; Герстнер, Вульфрам (2012-10-04). «Кодирование и декодирование с адаптирующимися нейронами: популяционный подход к временной гистограмме перистимула». PLOS вычислительная биология. 8 (10): e1002711. Bibcode:2012PLSCB ... 8E2711N. Дои:10.1371 / journal.pcbi.1002711. ISSN  1553-7358. ЧВК  3464223. PMID  23055914.
  23. ^ а б Швальгер, Тило; Чижов, Антон В (2019-10-01). «Помните о последних моделях скорости возбуждения для мезоскопических популяций спайковых нейронов». Текущее мнение в нейробиологии. Вычислительная неврология. 58: 155–166. arXiv:1909.10007. Дои:10.1016 / j.conb.2019.08.003. ISSN  0959-4388. PMID  31590003. S2CID  202719555.
  24. ^ Тревес, Алессандро (январь 1993 г.). «Среднеполевой анализ динамики нейрональных спайков». Сеть: вычисления в нейронных системах. 4 (3): 259–284. Дои:10.1088 / 0954-898X_4_3_002. ISSN  0954-898X.
  25. ^ Брунель, Николас (2000-05-01). «Динамика слабо связанных сетей возбуждающих и тормозящих нейронов». Журнал вычислительной неврологии. 8 (3): 183–208. Дои:10.1023 / А: 1008925309027. ISSN  1573-6873. PMID  10809012. S2CID  1849650.
  26. ^ Абелес, Моше (2009). «Цепи Synfire». Scholarpedia. 4 (7): 1441. Bibcode:2009SchpJ ... 4.1441A. Дои:10.4249 / scholarpedia.1441. ISSN  1941-6016.
  27. ^ Герстнер, Вульфрам (1 января 1995). «Временная структура активности в моделях нейронных сетей». Физический обзор E. 51 (1): 738–758. Bibcode:1995PhRvE..51..738G. Дои:10.1103 / PhysRevE.51.738. PMID  9962697.
  28. ^ Вайс, Томас Ф. (1966-11-01). «Модель периферической слуховой системы». Кибернетик. 3 (4): 153–175. Дои:10.1007 / BF00290252. ISSN  1432-0770.
  29. ^ а б Джонсон, Дон Х .; Свами, Анантрам (1 августа 1983 г.). «Передача сигналов по разряду волокон слухового нерва». Журнал акустического общества Америки. 74 (2): 493–501. Дои:10.1121/1.389815. ISSN  0001-4966.
  30. ^ а б Берри, Майкл Дж .; Мейстер, Маркус (1998-03-15). «Огнеупорность и Neural Precision». Журнал неврологии. 18 (6): 2200–2211. Дои:10.1523 / JNEUROSCI.18-06-02200.1998. ISSN  0270-6474. ЧВК  6792934. PMID  9482804.
  31. ^ а б Gaumond, R.P; Молнар, С. Э .; Ким, Д. О. (сентябрь 1982 г.). «Зависимость от стимула и восстановления вероятности разряда спайков нервного волокна улитки кошки». Журнал нейрофизиологии. 48 (3): 856–873. Дои:10.1152 / jn.1982.48.3.856. ISSN  0022-3077.
  32. ^ Касс, Роберт Э .; Вентура, Валери (2001-08-01). "Модель вероятности шипованного поезда". Нейронные вычисления. 13 (8): 1713–1720. Дои:10.1162/08997660152469314. ISSN  0899-7667.
  33. ^ Бриллинджер, Д. Р. (1988-08-01). «Анализ максимального правдоподобия последовательности спайков взаимодействующих нервных клеток». Биологическая кибернетика. 59 (3): 189–200. Дои:10.1007 / BF00318010. ISSN  1432-0770. PMID  3179344. S2CID  10164135.
  34. ^ Герстнер, Вульфрам (2008). «Модель спайк-отклика». Scholarpedia. 3 (12): 1343. Дои:10.4249 / scholarpedia.1343. ISSN  1941-6016.