Фреймворк прогнозирования памяти - Memory-prediction framework

В структура прогнозирования памяти это теория мозг функция, созданная Джефф Хокинс и описал в своей книге 2004 г. Об интеллекте. Эта теория касается роли млекопитающих. неокортекс и его ассоциации с гиппокамп и таламус в сопоставлении сенсорных входов с сохраненными объем памяти закономерности и как этот процесс приводит к предсказаниям того, что произойдет в будущем.

Обзор

Теория мотивирована наблюдаемым сходством между структурами мозга (особенно неокортикальный ткань), которые используются для широкого спектра моделей поведения, доступных млекопитающим. Теория утверждает, что удивительно однородный физический устройство корковой ткани отражает единый принцип или алгоритм, лежащий в основе всей обработки корковой информации. Предполагается, что основным принципом обработки является обратная связь / отзыв петля что включает в себя как корковый и экстракортикальное участие (последнее из таламус и гиппокамп особенно).

Основная теория: распознавание и прогнозирование в двунаправленных иерархиях

Центральная концепция структуры прогнозирования памяти заключается в том, что восходящие входные данные сопоставляются в иерархия из признание, и вызывают серию нисходящих ожиданий, закодированных как потенциалы. Эти ожидания взаимодействуют с восходящими сигналами, чтобы анализировать эти входные данные и генерировать предсказания последующих ожидаемых затрат. Каждый уровень иерархии запоминает часто наблюдаемые временные последовательности входных шаблонов и генерирует метки или «имена» для этих последовательностей. Когда входная последовательность совпадает с запомненной последовательностью на данном уровне иерархии, метка или «имя» распространяется вверх по иерархии, тем самым устраняя детали на более высоких уровнях и позволяя им изучать последовательности более высокого порядка. Этот процесс обеспечивает повышенную инвариантность на более высоких уровнях. Более высокие уровни предсказывают будущие входные данные, сопоставляя частичные последовательности и проецируя свои ожидания на более низкие уровни. Однако, когда возникает несоответствие между входными и запомненными / предсказанными последовательностями, более полное представление распространяется вверх. Это вызывает активацию альтернативных «интерпретаций» на более высоких уровнях, что, в свою очередь, порождает другие прогнозы на более низких уровнях.

Рассмотрим, например, процесс зрение. Информация снизу вверх начинается с низкого уровня сетчатка сигналы (указывающие на наличие простых визуальных элементов и контрастов). На более высоких уровнях иерархии извлекается все более значимая информация о наличии линии, регионы, движения и т. д. Еще выше по иерархии активность соответствует наличию определенных объектов - а затем и поведению этих объектов. Информация сверху вниз содержит подробные сведения о распознанных объектах, а также об их ожидаемом поведении с течением времени.

Сенсорная иерархия вызывает ряд различий между различными уровнями. По мере продвижения вверх по иерархии представления увеличились:

  • Протяженность - например, большие области поля зрения или более обширные тактильные области.
  • Временная стабильность - сущности более низкого уровня меняются быстро, тогда как восприятия более высокого уровня имеют тенденцию быть более стабильными.
  • Абстракция - в процессе последовательного извлечения инвариантных признаков распознаются все более абстрактные объекты.

Взаимосвязь между сенсорной и двигательной обработкой - важный аспект основной теории. Предлагается двигательные области кора состоят из поведенческой иерархии, аналогичной сенсорной иерархии, с нижними уровнями, состоящими из явных моторных команд для мускулатуры, а наивысшие уровни соответствуют абстрактным предписаниям (например, «изменить размер браузера»). Сенсорная и моторная иерархии тесно связаны, причем поведение порождает сенсорные ожидания и сенсорное восприятие. восприятие управление двигательными процессами.

Наконец, важно отметить, что все воспоминания в корковой иерархии должны быть изучены - эта информация не сохраняется в мозгу заранее. Следовательно, процесс извлечения этого представление от потока входных данных и поведения теоретизируется как процесс, который происходит постоянно во время познание.

Прочие условия

Хокинс имеет обширное образование в качестве инженера-электрика. Другой способ описать теорию (на которую намекает его книга) - это как учусь иерархия из кормить вперед стохастический государственные машины. С этой точки зрения мозг анализируется как проблема кодирования, которая не слишком отличается от кодов исправления ошибок, предсказывающих будущее. Иерархия - это иерархия абстракция, причем состояния машин более высокого уровня представляют более абстрактные условия или события, и эти состояния предрасполагают машины более низкого уровня выполнять определенные переходы. Машины нижнего уровня моделируют ограниченные области опыта или управляют или интерпретируют датчики или эффекторы. Вся система фактически контролирует поведение организма. Поскольку конечный автомат является «прямой связью», организм реагирует на будущие события, предсказанные на основе прошлых данных. Поскольку это иерархическая система, она демонстрирует поведенческую гибкость, легко создавая новые последовательности поведения в ответ на новые сенсорные данные. Поскольку система учится, новое поведение адаптируется к меняющимся условиям.

То есть эволюционная цель мозга - предсказывать будущее, по общему признанию, ограниченными способами, чтобы изменить его.

Нейрофизиологическая реализация

Теоретически описанные выше иерархии возникают в основном в неокортексе млекопитающих. В частности, предполагается, что неокортекс состоит из большого количества столбцы (как предполагается также Вернон Бенджамин Маунткасл из анатомо-теоретических соображений). Каждый столбец настроен на определенную функцию на заданном уровне иерархии. Он принимает восходящие входные данные от более низких уровней и нисходящие входные данные от более высоких уровней. (Другие столбцы на том же уровне также подаются в данный столбец и служат в основном для подавления эксклюзивных представлений активации.) Когда вход распознается, то есть достигается приемлемое согласие между восходящими и нисходящими источниками - a column генерирует выходные данные, которые, в свою очередь, распространяются как на более низкие, так и на более высокие уровни.

Кора

Эти процессы хорошо отображаются в определенных слоях коры головного мозга млекопитающих. (Корковые слои не следует путать с различными уровнями иерархии обработки: все слои в одном столбце участвуют как один элемент в одном иерархическом уровне). Ввод снизу вверх поступает на уровень 4 (L4), откуда он распространяется на L2 и L3 для распознавания инвариантного содержимого. Нисходящая активация достигает L2 и L3 через L1 (в основном аксональный слой, который распределяет активацию локально по столбцам). L2 и L3 сравнивают информацию снизу вверх и сверху вниз и генерируют либо инвариантные «имена», когда достигается достаточное соответствие, либо большее количество переменных сигналов, которые возникают, когда это не удается. Эти сигналы распространяются вверх по иерархии (через L5), а также вниз по иерархии (через L6 и L1).

Таламус

Для учета хранения и распознавания последовательности шаблонов предлагается комбинация двух процессов. Неспецифический таламус действует как «линия задержки», то есть L5 активирует эту область мозга, которая повторно активирует L1 после небольшой задержки. Таким образом, вывод одного столбца генерирует активность L1, которая будет совпадать с вводом столбца, который во времени является последующим в последовательности. Это временное упорядочение работает в сочетании с идентификацией последовательности более высокого уровня, которая не меняется во времени; следовательно, активация представления последовательности вызывает предсказание компонентов нижнего уровня один за другим. (Помимо этой роли в секвенировании, таламус также действует как сенсорная путевая станция - эти роли, по-видимому, связаны с отдельными участками этой анатомически неоднородной структуры.)

Гиппокамп

Другой анатомически разнообразной структурой мозга, которая, как предполагается, играет важную роль в иерархическом познании, является гиппокамп. Хорошо известно, что повреждение обоих гиппокампа нарушает формирование долгосрочного декларативная память; Люди с таким повреждением не могут формировать новые воспоминания эпизодического характера, хотя они могут без труда вспоминать более ранние воспоминания, а также могут изучать новые навыки. В современной теории гиппокампы считаются верхним уровнем корковой иерархии; они специализируются на сохранении воспоминаний о событиях, которые распространяются до самого верха. Поскольку такие события вписываются в предсказуемые шаблоны, они становятся запоминаемыми на более низких уровнях иерархии. (Такое движение воспоминаний по иерархии, кстати, является общим предсказанием теории.) Таким образом, гиппокамп постоянно запоминает «неожиданные» события (то есть те, которые не предсказываются на более низких уровнях); если они повреждены, нарушается весь процесс запоминания по иерархии.

Дальнейшая информация: разместить ячейку
Дальнейшая информация: Трасса Папеза

В 2016 г. Джефф Хокинс предположил, что корковые столбики не только захватило ощущение, но и относительное расположение этого ощущения в трех измерениях, а не в двух (расположенный захват) по отношению к тому, что было вокруг.[1] «Когда мозг строит модель мира, у всего есть место относительно всего остального» [1] - Джефф Хокинс.

Пояснительные успехи и прогнозы

Структура прогнозирования памяти объясняет ряд психологически важных аспектов познания. Например, способность экспертов в любой области без усилий анализировать и запоминать сложные проблемы в своей области является естественным следствием их формирования все более и более утонченной концептуальной иерархии. Также шествие из 'восприятие ' к 'понимание 'легко понять в результате соответствия нисходящего и восходящего ожидания. Несовпадения, напротив, порождают исключительную способность биологического познания обнаруживать неожиданные восприятия и ситуации. (Недостатки в этом отношении являются общей характеристикой современных подходов к искусственному интеллекту.)

Помимо этих субъективно удовлетворительных объяснений, фреймворк также делает ряд проверяемых предсказания. Например, важная роль, которую предсказание играет во всей сенсорной иерархии, требует упреждающей нейронной активности в определенных клетках сенсорной коры. Кроме того, ячейки, которые «называют» определенные инварианты, должны оставаться активными на протяжении всего присутствия этих инвариантов, даже если лежащие в основе входные данные изменяются. Прогнозируемые закономерности восходящей и нисходящей активности - причем первые более сложные, когда ожидания не оправдываются - могут быть обнаружены, например, с помощью функциональной магнитно-резонансной томографии (фМРТ ).

Хотя эти предсказания не очень специфичны для предложенной теории, они достаточно однозначны, чтобы сделать возможной проверку или отклонение ее основных положений. Видеть Об интеллекте для получения подробной информации о прогнозах и выводах.

Вклад и ограничения

По замыслу, нынешняя теория основана на работе многочисленных нейробиологов, и можно утверждать, что большинство этих идей уже было предложено такими исследователями, как Гроссберг и Mountcastle. С другой стороны, новое разделение концептуального механизма (т. Е. Двунаправленной обработки и инвариантного распознавания) от биологических деталей (то есть нейронных слоев, столбцов и структур) закладывает основу для абстрактного мышления о широком диапазоне когнитивных процессов.

Наиболее существенным ограничением этой теории является отсутствие в ней деталей. Например, концепция инвариантность играет решающую роль; Хокинс утверждает "ячейки имени "по крайней мере для некоторых из этих инвариантов. (См. также Нейронный ансамбль # Кодирование за бабушка нейроны которые выполняют этот тип функции, и зеркальные нейроны для соматосенсорная система точки зрения.) Но далеко не очевидно, как разработать математически строгое определение, которое будет нести требуемую концептуальную нагрузку во всех областях, представленных Хокинсом. Точно так же полная теория потребует достоверных деталей как краткосрочной динамики, так и процессов обучения, которые позволят корковым слоям вести себя так, как рекламируется.

IBM реализует модель Хокинса.[2]

Модели машинного обучения

Теория предсказания памяти утверждает, что общий алгоритм используется всеми областями неокортекса. Теория породила ряд моделей программного обеспечения, направленных на моделирование этого общего алгоритма с использованием иерархической структуры памяти. Год в списке ниже указывает, когда модель была обновлена ​​в последний раз.

Модели на основе байесовских сетей

Следующие модели используют распространение убеждений или пересмотр убеждений в односвязном Байесовские сети.

  • Иерархическая временная память (HTM), модель, связанную платформу разработки и исходный код Numenta, Inc. (2008).
  • HtmLib[мертвая ссылка ], альтернативная реализация алгоритмов HTM Грега Кочаняка с рядом модификаций для повышения точности и скорости распознавания (2008).
  • Проект Неокортекс, проект с открытым исходным кодом для моделирования фреймворка прогнозирования памяти (2008).
  • Джордж, Дилип (2005). «Иерархическая байесовская модель инвариантного распознавания образов в зрительной коре». CiteSeerX  10.1.1.132.6744. Цитировать журнал требует | журнал = (помощь) статья, описывающая более раннюю байесовскую модель до HTM, написана соучредителем Numenta. Это первая модель структуры прогнозирования памяти, в которой используются байесовские сети, и все вышеперечисленные модели основаны на этих начальных идеях. Исходный код Matlab этой модели был свободно доступен для загрузки в течение ряда лет.

Другие модели

  • Реализация MPF, статья Саулюса Гаралевичюса, описывающая метод классификации и прогнозирования в модели, которая хранит временные последовательности и использует обучение без учителя (2005).
  • M5, машина шаблонов для Palm OS, которая хранит последовательности шаблонов и вызывает шаблоны, относящиеся к его нынешней среде (2007).
  • BrainGame, класс предикторов с открытым исходным кодом, который изучает шаблоны и может быть связан с другими предикторами (2005).

Смотрите также

Рекомендации

  1. ^ а б Кейд Мец Нью-Йорк Таймс (15 октября 2018 г.) «Новый взгляд на то, как мы думаем», стр.B1, B4 см .: «Ясность за чашкой кофе»
  2. ^ IBM тестирует противоречивые алгоритмы мозга пионера мобильных вычислений accessdate = 08.04.2015

дальнейшее чтение

  • Джефф Хокинс (2004), Об интеллекте, Нью-Йорк: Генри Холт. Библиография, указатель, 251 страница. ISBN  0-8050-7456-2

внешняя ссылка