Физическая нейронная сеть - Physical neural network

А физическая нейронная сеть это тип искусственная нейронная сеть в котором электрически регулируемый материал используется для имитации функции нервный синапс. «Физическая» нейронная сеть используется, чтобы подчеркнуть зависимость от физического оборудования, используемого для имитации нейроны в отличие от программных подходов, имитирующих нейронные сети. В более общем смысле этот термин применим к другим искусственным нейронным сетям, в которых мемристор или другой электрически регулируемый материал сопротивления используется для имитации нервного синапса.

Типы физических нейронных сетей

АДАЛИН

В 1960-е годы Бернард Видроу и Тед Хофф развитый АДАЛИН (Adaptive Linear Neuron), в котором использовались электрохимические ячейки, называемые мемисторы (резисторы памяти) для имитации синапсов искусственного нейрона.[1] Мемисторы были реализованы как 3-контактные устройства, работающие на основе обратимого гальванического покрытия меди, так что сопротивление между двумя выводами регулируется интегралом тока, подаваемого через третий вывод. Схема ADALINE была на короткое время коммерциализирована компанией Memistor Corporation в 1960-х годах, что позволило использовать некоторые приложения для распознавания образов. Однако, поскольку мемисторы не были изготовлены с использованием технологий изготовления интегральных схем, технология не была масштабируемой, и в конечном итоге от нее отказались, поскольку твердотельная электроника стала зрелой.[2]

Аналоговая СБИС

В 1989 г. Карвер Мид опубликовал свою книгу Аналоговые СБИС и нейронные системы,[3] из которых возник, пожалуй, самый распространенный вариант аналоговых нейронных сетей. Физическая реализация реализована в аналоговая СБИС. Это часто реализуется в виде полевых транзисторов с низкой инверсией. Такие устройства можно смоделировать как транслинейные схемы. Это метод, описанный Барри Гилберт в нескольких статьях середины 1970-х гг., и в частности его Транслинейные схемы с 1981 г.[4][5] С помощью этого метода схемы можно анализировать как набор четко определенных функций в установившемся режиме, и такие схемы собираются в сложные сети.

Физическая нейронная сеть

Алекс Ньюджент описывает физическую нейронную сеть как один или несколько нелинейных нейроноподобных узлов, используемых для суммирования сигналов и наносвязей, сформированных из наночастиц, нанопроволок или нанотрубок, которые определяют мощность сигнала, вводимого в узлы.[6] Выравнивание или самосборка наносвязей определяется историей приложенного электрического поля, выполняющего функцию, аналогичную нейронным синапсам. Многочисленные приложения[7] для таких физических нейронных сетей возможны. Например, устройство временного суммирования [8] может состоять из одного или нескольких наносвязей, имеющих вход и выход, при этом входной сигнал, подаваемый на вход, вызывает увеличение силы соединения одного или нескольких наносвязей с течением времени. Другой пример физической нейронной сети описан в патенте США № 7039619.[9] под названием "Использовано нанотехнологии устройство, использующее нейронную сеть, решение и разрыв соединения », выданное Алексу Ньюдженту Бюро патентов и товарных знаков США 2 мая 2006 г.[10]

Еще одно применение физической нейронной сети показано в патенте США № 7,412,428, озаглавленном «Применение Hebbian и антихеббовское обучение физическим нейронным сетям на основе нанотехнологий », выпущенное 12 августа 2008 года.[11]

Наджент и Молтер показали, что универсальные вычисления и универсальное машинное обучение возможны с помощью операций, доступных через простые мемристивные схемы, работающие по правилу пластичности AHaH.[12]Совсем недавно было высказано мнение, что также сложные сети чисто мемристических схем могут служить нейронными сетями.[13][14]

Нейронная сеть с фазовым переходом

В 2002, Стэнфорд Овшински описал аналоговую среду нейронных вычислений, в которой материал с фазовым переходом имеет способность кумулятивно реагировать на несколько входных сигналов.[15] Электрическое изменение сопротивления материала с фазовым переходом используется для управления взвешиванием входных сигналов.

Мемристивная нейронная сеть

Грег Снайдер из Лаборатория HP описывает систему корковых вычислений с мемристивными наноустройствами.[16] В мемристоры (резисторы с памятью) выполнены из тонкопленочных материалов, в которых сопротивление электрически регулируется за счет переноса ионов или кислородных вакансий внутри пленки. DARPA с Проект SyNAPSE в сотрудничестве с Департаментом когнитивных и нейронных систем (CNS) Бостонского университета профинансировал исследования IBM Research и HP Labs для разработки нейроморфных архитектур, которые могут быть основаны на мемристических системах. [17].

Смотрите также

использованная литература

  1. ^ Widrow, B .; Pierce, W.H .; Энджелл, Дж. Б. (1961), «Рождение, жизнь и смерть в микроэлектронных системах» (PDF), Технический отчет № 1552-2 / 1851-1
  2. ^ Андерсон, Джеймс; Розенфельд, Эдвард (1998), Talking Nets: устная история нейронных сетей, MIT Press, ISBN  978-0-262-01167-9
  3. ^ Мид, Карвер. (1989). Аналоговые СБИС и нейронные системы. Ридинг, Массачусетс: Эддисон-Уэсли. ISBN  0-201-05992-4. OCLC  17954003.
  4. ^ Гилберт, Барри (1981), Транслинейные схемы (Раздаточный материал, стр. 81)
  5. ^ Гилберт, Барри (1999-12-27), «Транслинейные схемы», Энциклопедия электротехники и электроники Wiley, John Wiley & Sons, Inc., Дои:10.1002 / 047134608x.w2302, ISBN  0-471-34608-X
  6. ^ Патент США 6,889,216
  7. ^ Известные патенты США
  8. ^ НАС. Патент Нет. 7,028,017
  9. ^ «Использованный нанотехнологический аппарат с использованием нейтральной сети, раствора и разрыва соединения».
  10. ^ «Патент США: 8918353 - Методы и системы для извлечения признаков».
  11. ^ «Патент США: 9104975 - Мемристорный аппарат».
  12. ^ Наджент, Майкл Александр; Молтер, Тимоти Уэсли (2014). «Вычисления AHaH - от метастабильных переключателей к аттракторам и к машинному обучению». PLOS ONE. 9 (2): e85175. Bibcode:2014PLoSO ... 985175N. Дои:10.1371 / journal.pone.0085175. ЧВК  3919716. PMID  24520315.
  13. ^ Caravelli, F .; Traversa, F. L .; Ди Вентра, М. (2017). «Сложная динамика мемристических схем: аналитические результаты и универсальная медленная релаксация». Физический обзор E. 95 (2): 022140. arXiv:1608.08651. Bibcode:2017PhRvE..95b2140C. Дои:10.1103 / PhysRevE.95.022140. PMID  28297937.
  14. ^ Каравелли, Ф. (2019). «Асимптотическое поведение мемристических схем». Энтропия. 21 (8): 789. arXiv:1712.07046. Bibcode:2019Entrp..21..789C. Дои:10.3390 / e21080789.
  15. ^ Патент США 6,999,953
  16. ^ Снайдер, Грег (2008), «Корковые вычисления с мемристивными наноустройствами», Обзор Sci-DAC, 10: 58–65, архивировано с оригинал на 2016-05-16, получено 2009-10-26
  17. ^ Каравелли, Франческо; Карбахал, Хуан Пабло (2018), «Мемристоры для любопытных посторонних», Технологии, 6(4) (118): 118, arXiv:1812.03389, Bibcode:2018arXiv181203389C, Дои:10.3390 / технологии6040118

внешние ссылки