Нейрокомпьютерыначало

Представьте, что вы завтракаете в кафе. Играет джаз, в левой руке у вас — чашка ароматнейшего эспрессо, а указательным пальцем правой вы неспешно листаете утренние новости на своем планшете. Это компактное электронное устройство — настоящее чудо техники из стекла, металла и пластика. Миниатюрный корпус скрывает в себе множество подсистем — от радиомодуля, который отвечает за подключение к беспроводным сетям, до графического процессора, преобразующего последовательности нолей и единиц в памяти компьютера в светящиеся точки на экране,
которые в совокупности формируют разноцветные картинки и текст. 
15 Июль 2015, 13:21
Но еще более поразительный механизм находится у вас в голове — ведь именно ваш мозг, получая информацию от нейронов сетчатки, из набора пикселей на экране формирует в сознании зрительные образы. При этом он успевает параллельно выполнять еще несколько сложных задач. Так, вы не просто слышите фоновую музыку, но и без труда выделяете в ней выпеваемые хриплым голосом Луи Армстронга строчки “Go Down Moses”; ваши обонятельные рецепторы распознают в сложном ароматическом букете кофе кисловатые нотки фенолов, несмотря на то что последний раз слово «фенол» вы слышали на уроке химии в школе и уже не помните, что это такое; одновременно ваша левая рука подносит горячую чашку к губам, что называется, «машинально» — без участия зрения и специальной концентрации внимания на этом процессе.

Более того, в сравнении с компьютерами ваш мозг намного компактнее и эффективнее с точки зрения энергопотребления: в состоянии бодрствования потребляемая им мощность составляет всего 25–30 Вт. Если бы ваша голова была круглосуточно подключена к счетчику электро­энергии, за год вы наматывали бы чуть больше 200 киловатт-часов, тогда как среднестатистический смартфон (даже не компьютер!) за тот же период «съедает» 360 кВт•ч (с учетом приходящегося на его долю энергопотребления базовых станций, телекоммуникационных систем, по подсчетам инвестиционно-консалтинговой группы Digital Power Group).

По заветам фон Неймана

Чтобы наглядно проиллюстрировать ту пропасть, которая лежит между биологическими нейронными сетями и традиционными компьютерами, достаточно вспомнить о самом масштабном эксперименте по моделированию деятельности человеческого мозга, который был проведен 2 августа 2013 года японским Институтом физико-химических исследований RIKEN совместно с Технологическим университетом в Окинаве и немецким Исследовательским центром Юлих.
Although the simulated network is huge, it only represents 1% of the neuronal network in the brain. The nerve cells were randomly connected and the simulation itself was not supposed to provide new..
Для эксперимента потребовался самый мощный в мире на тот момент суперкомпьютер — K computer производства Fujitsu. В симуляции было задействовано 82944 процессора и 1 петабайт (тысяча терабайт) памяти, а сам расчет занял 40 минут. И всей этой невероятной мощи хватило лишь на то, чтобы воспроизвести работу 1% мозга во временном интервале ОДНОЙ СЕКУНДЫ. Однако не стоит думать, что это мало, ведь «всего» 1% мозга человека — это сеть из целых 1,73 млрд нервных клеток и 10,4 трлн соединяющих их синапсов, а своей задачей экспериментаторы ставили практическое подтверждение теоретических расчетов о необходимых вычислительных мощностях для симуляции деятельности мозга.
Сразу стоит оговориться: все эти красноречивые сравнения приведены не для того, чтобы доказать торжество биологической эволюции над техническим прогрессом, но с целью продемонстрировать концептуальные отличия традиционных вычислительных систем и систем, в основе которых лежат нейронные сети. Под «традиционными» мы понимаем вычислительные машины так называемой фон-неймановской архитектуры, построенные по принципам, сформулированным математиком Джоном фон Нейманом в 1944 году.
 
Новое поколение компьютерных чипов, принципы работы которых многое заимствуют у живого мозга, призвано сократить разрыв между машинным и биологическим подходом к обработке данных, рационально используя преимущества каждого из них. Только представьте себе чипы, которые объединяют в себе сверхскоростные кремниевые «числодробилки» и отточенный эволюцией механизм обработки разноплановой информации, полученной от многочисленных сенсоров. Современный научно-технический прогресс перевел эту тему из плоскости теоретических изысканий в поле практических испытаний. Эти нейроморфные чипы могут стать тем недостающим звеном для завершения многообещающих, но все еще далеких от завершения прикладных проектов с использованием искусственного интеллекта — от автопилота, который может вести машину при любых погодных и дорожных условиях, до смартфона, наделенного способностью выступать в роли вашего персонального переводчика-синхрониста и ассистента.

СССР мог создать Интернет гораздо раньше США?

Изучение истории отечественной вычислительной техники приносит немало сюрпризов. Известно, что испытание ARPANET, прототипа сети Интернет, состоялось в США в 1969 году. Но мало кто знает, что еще в 1962 году академиком В. М. Глушковым был предложен эскизный проект «Единой Государственной сети вычислительных центров»: крупные вычислительные машины в различных городах объединялись сетями передачи данных с более мелкими. Всего предлагалось создать 20 тыс. узлов такой сети. Несмотря на большую потенциальную прибыль от реализации проекта, он так и не был реализован из-за предвзятого отношения к нему советских ученых-экономистов и руководства страны.

Фон-неймановская архитектура: достоинства и недостатки

Широко распространено убеждение, что один из главных принципов фон-неймановской архитектуры — последовательное выполнение цепочки инструкций. На самом же деле это скорее следствие. Принципы архитектуры фон Неймана заключаются в совместном хранении инструкций и данных в одной и той же машинной памяти и в линейном пространстве адресов, когда одному числу (адресу) соответствует одна определенная ячейка в памяти машины. Эта концепция определяет конструктивные особенности современных компьютеров, а также их ограничения, которые заключаются, к примеру, в сложности реализации параллельных вычислений. Несмотря на то что процессоры многих современных компьютеров имеют несколько вычислительных ядер, а также снабжены вспомогательными подсистемами вроде кэша или блока предсказания переходов в цепочке инструкций для поддержки мультипотоковой обработки данных, в основе своей — это все те же фон-неймановские машины, скомпонованные на одном кремниевом кристалле.
Еще одним принципом фон Неймана является двоичное кодирование информации — при помощи сигналов двух уровней, которые соответствуют нулям и единицам в двоичной системе счисления. Теоретически ничто не мешает создать компьютер на основе других систем. Более того, троичные компьютеры, например, уже создавались на практике, в том числе и в СССР. Примером такой машины стала малая ЭВМ «Сетунь», выпущенная серией в 46 экземпляров. Кстати, интерес к таким системам не угас до сих пор в силу двух причин: при одинаковой элементной базе троичные компьютеры быстрее двоичных, а кроме того, из всех целочисленных систем счисления самая высокая плотность записи информации именно в троичной.
Разработка троичных компьютерных систем, алгоритмов обработки информации и системы троичной логики, создание троичной системы структурированного программирования. Проекты: эмулятор Сетунь, системы кодирования, хронометры, ДССП. Освещение событий в области троичных вычислений и логики. Публикация материалов по троичной симметричной системе счисления, истории троичных вычислений.
Все современные компьютеры (от высокопроизводительных серверов до смартфонов и программируемых кофеварок) являются машинами фон-неймановской архитектуры — с центральным процессором и памятью для хранения инструкций и данных. Обычные компьютеры весьма эффективны в целом ряде задач, самый очевидный пример — математические вычисления. Но есть не меньшее число областей, в которых применение традиционной вычислительной техники и алгоритмических методов дает крайне низкий КПД. В первую очередь это распознавание образов, навигация в естественном окружении и переводы с одного языка на другой.
Это не значит, что традиционный подход совсем бесполезен для этих задач. Например, сейчас даже недорогие цифровые фотоаппараты-«мыльницы» умеют распознавать человеческие лица в кадре, а цифровые сервисы Google даже способны узнать на фотографии определенного человека. Из недавних достижений в этой области нельзя не отметить новый сервис Google, который научился распознавать людей (и в соответствии с интернет-модой — котов!) уже в видеороликах. Однако, например, для выполнения последней из перечисленных задач требуется кластер из 16000 процессоров, который занимает огромное помещение в центре обработки данных.
Элементы биологической «вычислительной машины» и их искусственные аналоги. Как следует из подписей, необходимой
технологической плотности элементной базы современные технологии уже достигли  (фото: www.darpa.mil).
Разумеется, преимущества и недостатки каждого из этих подходов были известны задолго до тотальной компьютеризации всех отраслей человеческой деятельности. Еще в 1948 г. Норберт Винер в своей знаменитой «Кибернетике» затрагивал вопросы обработки информации в живых организмах, а спустя всего 10 лет Фрэнк Розенблатт создал первую искусственную нейронную сеть — т. н. перцептрон «Марк-1». Однако практические успехи первых нейронных сетей были весьма скромны в силу ограниченных возможностей элементной базы микроэлектроники 60–70-х годов.
Толчком к развитию как микроэлектроники в целом, так и к разработке чипов, использующих архитектуру нейронных сетей, стало появление СБИС (сверхбольших интегральных схем) в 80-х годах XX века. Одним из пионеров этого направления заслуженно считается Карвер Мид (Carver Andress Mead), предложивший и практически реализовавший в 1966 г. новую конструкцию полевого транзистора — с барьером Шоттки. Этот тип транзисторов и по сей день используется в транзисторных переходах логических элементов.

В погоне за мухой

Поначалу прорыв в области миниатюризации электронных логических цепей и их интеграции на одном кристалле создавал иллюзию безоблачного будущего. Несмотря на проводимые исследования  прогресс в этой области уперся в два «бутылочных горлышка» — физические ограничения на предел миниатюризации и паразитное тепловыделение, которое возрастало при увеличении скорости работы интегральных схем.
IBM заявила о создании ультратонкого микрочипа, плотность размещения транзисторов в котором в четыре больше любого  аналога. 
Ныне почетный профессор Калтеха (Калифорнийского технологического института) 79-летний Карвер Мид еще в те годы задумывался о том, что должен быть и альтернативный, более эффективный подход к обработке информации. «Чем больше я размышлял над этим, тем в большее смятение приходил», — вспоминает Мид. И он начал мечтать о микросхемах, которые смогут обрабатывать множество — миллионы — инструкций не последовательно, а параллельно. Такие чипы могли бы выполнять новый спектр задач — например, эффективно обрабатывать большие массивы неструктурированных данных. Яркие доказательства того, что все это вовсе не бесплодные мечтания, а вполне достижимая цель, летали, бегали и ползали вокруг в виде многочисленных представителей фауны. Оставалось только понять — как позаимствовать эти решения у живой природы.

Карта нейросоединений головного мозга человека, составленная уастниками
проекта The Human Connectome
Мозг живых существ обрабатывает данные параллельно и безостановочно благодаря нейронам, связанным между собой в сложные сети при помощи нитевидных отростков и синапсов. Когда информация распространяется по мозгу, это выглядит как перепад электрических потенциалов между миллионами нейронов и синапсов. Например, когда вы читаете эти строки, электрические сигналы от светочувствительных клеток сетчатки глаза активируют срабатывание целых каскадов электрических цепей в вашем мозгу. Немаловажный факт: нейронные сети обладают не только способностью распределенно обрабатывать большие массивы информации, но также:
  • гибкостью (нейронные сети могут перенастраиваться для выполнения новых задач без перепрограммирования);
  • устойчивостью к помехам (даже при повреждении значительной части сети она сохранит способность к функционированию — именно это свойство зачастую позволяет пациентам с травматическими повреждениями тканей мозга сохранять не только здоровье, но и когнитивные способности);
  • способностью к самообучению (информация, проходящая через цепь нейронов, одни нейросинаптические связи усиливает, а другие — ослабляет, что в дальнейшем влияет на обработку последующих входных данных, т. е. в терминах классической вычислительной техники можно сказать, что нейронные сети могут сами себя «перепрограммировать»).
Лабораторный комплекс IBM Research, где помимо прочих исследований занимаются и разработкой чипов, построенных по принципу нейронных сетей. Фото en.wikipedia.org
По иронии судьбы, о создании электронных аналогов нейронных сетей задумывался и человек, которого считают главным идейным вдохновителем традиционных компьютерных систем — фон Нейман. Это стало известно после публикации в 1958 году, через год после его смерти, его незавершенной книги «Компьютер и мозг», в которой он писал, что «более глубокое изучение нервной системы… может изменить наш взгляд на логику и математику».
Современные нейрокомпьютеры в сравнении с естественными нейросистемами по сложности и производительности уже превзошли уровень мухи и стремятся к уровню таракана
Но когда Мид в начале 80-х заинтересовался вопросом практического создания таких систем, оказалось, что теоретическая база, необходимая для реализации нейрочипов, практически отсутствует. В процессе разработки пришлось обращаться к помощи нейробиологов, которые помогли Миду понять, как функционируют живые нейроны. Используя обычные транзисторные цепи, работающие при нетрадиционно низком напряжении, ему удалось создать логические схемы, которые хоть и не были похожи на нейронные цепи конструктивно, но работали по схожему принципу. С их помощью можно было эмулировать процессы, происходящие в мозгу после получения информации от сетчатки и слуховой улитки, что позволило создать чипы, которые могли, например, определять границы объектов или определенные звуковые паттерны в аудиосигнале. Однако эти чипы были сложны как с точки зрения разработки, так и с точки зрения применения на практике. И с мыслью о том, что время нейрокомпьютеров пока еще не пришло, Мид переключился на другие проекты. «Это оказалось сложнее, чем я думал, — вспоминает он. — Мозг мухи не выглядит сложным на первый взгляд, но даже он способен делать такие вещи, которые мы в те дни вообще не могли реализовать. Наводит на определенные мысли, не так ли?»

Программа SyNAPSE

Лаборатория Алмаден — лишь один из участников исследовательской программы SyNAPSE, стартовавшей под эгидой DARPA в 2008 году. SyNAPSE представляет собой бэкроним от “Systems of Neuromorphic Adaptive Plastic Scalable Electronics” («электронные нейроморфные пластичные адаптивные масштабируемые системы»). Кроме IBM в программе принимают участие Hewlett-Packard и лаборатория HRL (бывшая исследовательская лаборатория компании знаменитого американского промышленника и эксцентричного инноватора Говарда Хьюза).
Systems of Neuromorphic Adaptive Plastic Scalable Electronics (SyNAPSE)
При этом сама IBM работает над проектом в сотрудничестве с пятью ведущими университетами США — Корнельским, Стэнфордским, Колумбийским, Калифорнийским и Висконсинским университетом в Мадисоне. Группа HRL также включает в себя 7 американских вузов. Толчком к началу программы SyNAPSE стало создание в 2008 году инженерами Hewlett-Packard мемристора — нового фундаментального компонента электроники на основе диоксида титана. Проходящий через мемристор ток может снижать его сопротивление за счет смещения легирующих примесей, обеспечивая появление ассоциативной связи как потенцированного проводника с более низким сопротивлением. Таким образом, мемристор является искусственным подобием живого межнейронного соединения — синапса — и способен выполнять функции памяти и функции обработки данных одновременно, так, как это делает биологический мозг. 
По результатам программы SyNAPSE в ближайшие пять лет IBM планирует создать сенсорные подсистемы когнитивного, т. е. способного к познанию и обучению, компьютера. Эти сенсорные подсистемы будут включать в себя:
  • подсистему машинного зрения, способную к выделению объектов на изображении для их дальнейшего ассоциативного анализа;
  • подсистему восприятия и анализа тактильных ощущений;
  • искусственную слуховую систему, способную к выделению семантически значимых звуковых объектов для дальнейшей ассоциативной обработки;
  • подсистемы распознавания вкуса и запахов.
В перспективе IBM готова полностью отказаться от традиционной компьютерной архитектуры и парадигм программирования. Результатом проекта станет новый класс технологий — искусственные когнитивные системы, которые будут основаны на новых архитектурных принципах и парадигмах программирования, позаимствованных у живых организмов. Такие системы предполагается использовать во всех областях человеческой деятельности.

IBM и все-все-все

Алмаден, одна из восьми лабораторий, входящих в IBM Research, находится в Сан-Хосе, неподалеку от всемирно известной Кремние­вой долины, но все же за ее пределами, при этом она раскинулась на холмах, которые как бы возвышаются над долиной. Такое расположение словно символизирует необходимость переосмысления основ компьютерной индустрии. Огромный исследовательский комплекс занимает живописную территорию площадью почти 3 кв. км, а численность персонала превышает четыре сотни человек. Именно здесь Дхармендра Модха (Dharmendra S. Modha) возглавляет одну из исследовательских групп, собранных DARPA для «потрясания основ» компьютерной науки и ухода от фон-неймановской архитектуры. Базовый подход весьма напоминает то, с чего в свое время начинал Карвер Мид, — создание чипов, которые работали бы по принципу нейронных сетей, но есть одно существенное отличие. К услугам Модхи и его коллег — все достижения современной нейрофизиологии и микроэлектронной промышленности. «Всему свое время, — говорит Дхармендра. — Своевременность — вот чего не доставало Карверу.»
IBM создает нейроморфные чипы, используя наборы из 6000 транзисторов, имитирующих работу нейрона, затем эти искусственные нейроны соединяются друг с другом. Вдохновение для своего подхода к разработке таких чипов Модха почерпнул в результатах исследования коры головного мозга, которые показывают, что, несмотря на различную специализацию разных отделов коры, все они имеют схожую структуру в виде скоплений из 100–250 нейронов, объединенных в так называемые микроколонки. Модха представил свою реализацию структуры микроколонок в 2011 г.: на кусочке кремния немногим больше булавочной головки было размещено 256 нейронов и блок памяти, который задавал свойства 262000 возможным синаптическим связям между этими искусственными нейронами. При соответствующем программировании эти искусственные нейроны и синапсы могут обрабатывать информацию и реагировать на нее почти как настоящие нейроны животных.
Начальный этап работы над этим чипом включал эмуляцию его работы на обычном компьютере, затем результаты симуляции были адаптированы для воплощения в кремнии. В одном из тестов чип распознавал написанные от руки цифры от 0 до 9, а также угадывал цифру, когда кто-то начинал ее писать цифровым стилусом. В другом испытании сеть таких чипов была настроена для игры в компьютерную игру «Понг» (простейшую разновидность электронного тенниса). В третьем эксперименте небольшой беспилотный летательный аппарат при помощи этих же чипов автономно следовал вдоль двойной желтой разделительной линии по дороге, ведущей в Алмаден.
Системные ресурсы, необходимые для симулирования нейросетей различной сложности. Дирекция программы SyNAPSE полагает, что их разработкам удастся вплотную приблизиться к производительности человеческого мозга
(фото: www.darpa.mil).
В принципе, любая из перечисленных задач может быть решена и при помощи традиционной техники и алгоритмов, но существенное отличие нейрочипов заключается в том, что для выполнения всех этих задач удалось значительно снизить объем и сложность программного кода.
Сейчас Модха тестирует ранние версии более сложных чипов, которые представляют собой решетку из более чем миллиона нейросинаптических ядер, связанных вместе в некое подобие коры головного мозга. Кроме этого, летом прошлого года IBM анонсировала новую программную архитектуру, основанную на модульных блоках кода — так называемых корлетах. Главная задумка заключается в том, чтобы избавить программистов от необходимости каждый раз писать куски кода для нейросинаптической сети, а вместо этого создать рабочую среду-конструктор, в которой можно выбирать и настраивать уже готовые корлеты для разных узлов нейронной сети. Уже написано более 150 корлетов для различных задач — от распознавания людей в видеороликах до автоматической идентификации музыкальных произведений.

Обучающиеся машины

Приблизительно в полутысяче километров от исследовательского центра IBM, в Малибу лаборатория HLR, находящаяся в совместном владении корпораций General Motors и Boeing, занимается разработкой чипов, которые стремятся еще точнее скопировать работу мозга.
Доктор Нарайян Шриниваса (Narayan Srinivasa), руководитель группы разработки нейрочипов лаборатории HLR
Исследования возглавляет Нарайян Шриниваса (Narayan Srinivasa), группа которого демонстрирует чип из 576 искусственных нейронов. Он во многом похож на разработку IBM, но есть и одно важное отличие — как и настоящий мозг, он может менять свои синаптические связи в зависимости от обрабатываемых данных, другими словами — он учится, нарабатывает опыт.

Чип HLR копирует у живых организмов два феномена, связанных с обучением. Первый из них заключается в изменении чувствительности нейронов к сигналам от нейронов-соседей в зависимости от частоты поступления этих сигналов. Чем чаще поступает такой сигнал, тем прочнее синаптическая связь. Второй феномен сложнее, в терминологии русской нейрофизиологии он называется классической дендритной пластичностью (англ. STDP, spike-timing-dependent plasticity — пластичность, зависящая от временной синхронизации дендритных спайков, т.е. потенциалов действия). Физический смысл STDP заключается в том, что нейрон усиливает синаптическую связь с теми нейронами, сигнальная активность которых была похожа в недавнем прошлом на его собственную. Это приводит к упрочению связей между группами нейронов, работавших совместно и продуктивно над общей задачей, тогда как случайные, непродуктивные связи в силу того же эффекта STDP постепенно угасают.
Результаты первых испытаний виртуальной модели этого чипа просто потрясают. Он, как и разработка IBM, также умеет играть в «Понг», но при этом его никто не обучал тактике игры, программой в него была заложена лишь возможность перемещать ракетку, умение «видеть» мячик и получать сигнал обратной связи — удалось отбить летящий мячик или нет. Система только из 120 нейронов начала игру, просто хаотично перемещая ракетку на экране и постоянно промахиваясь по летящему мячу. Однако всего через 5 раун­дов чип HLR отбивал мячики лучше Марии Шараповой. Но самое замечательное заключается в том, что это не конец, а лишь один из промежуточных этапов. Теперь можно добавлять в игру дополнительные мячики, ракетки, соперников, увеличивать или уменьшать размер игрового поля, делать стенки, от которых отскакивает мячик, закругленными или криволинейными — по большому счету, это не имеет значения, система сама сможет адаптироваться ко всем изменяющимся условиям.
Стремительно развивающаяся область, где необходимо обрабатывать огромные объемы входящей информации, распознавать образы, составлять виртуальную карту окружающего пространства и мгновенно принимать решения — системы беспилотного вождения
Это открывает захватывающие дух перспективы для создания обучаемых роботов, у которых будет что-то вроде периода детства. Невозможно предусмотреть все ключевые для робота ситуации даже при создании подготовленного окружения. Поэтому логичнее создать обучаемого робота и заставить его взаимодействовать с реальным миром напрямую — позволив учиться на ошибках. Если после этих строк вы вообразили себе своего рода ясли для роботов, где толпы несмышленышей из пластика и металла учатся делать свои первые шаги, то наверняка забыли о том, что в мире микроэлектроники вовсе не обязательно проделывать один и тот же путь дважды — программные «мозги» уже обученного робота можно скопировать сколь угодно нужное число раз. При этом можно оставить запас для дальнейшего обучения и адаптации.

Подложка с 17 мемристорами под электронным микроскопом. Каждый мемристор состоит из двух слоев диоксида титана, соединенных проводниками (фото: wikipedia.org)

Я просто мемристор, и память у меня хорошая…

В случае с мемристором, как это нередко бывает в научном мире, теория опередила практику, причем на целых 37 лет. Теоретическую базу для создания мемристоров разработал в 1971 году профессор физики Леон О. Чуа (Leon O. Chua) из Калифорнийского университета в Беркли. Он же и придумал название для этого элемента, составив его из слов memory и resistor.
Сильно упрощая можно сказать, что принцип работы мемристора основан на установлении взаимосвязи между магнитным потоком и зарядом. При этом в мемристоре наблюдается явление гистерезиса: его сопротивление зависит от количества пропущенного через него заряда, что позволяет использовать его как элемент памяти. В результате снижения сопротивления мемристора связь между логическими элементами, в формировании которой участвует этот мемристор, становится более эффективной — происходит обучение. По аналогичному принципу работают и настоящие нейросинаптические связи: необученная нервная связь проводит очень слабый сигнал, но после того как нервные клетки все же были активированы сильным сигналом или его повторением, активируются гены в ядре нейрона и синтезируются новые молекулы, которые усиливают сигнал, делают ассоциативную связь эффективной.
Принципиальное отличие мемристора от большинства типов современной полупроводниковой памяти и его главное преимущество перед ней заключаются в том, что он не хранит свои свойства в виде заряда. Это означает, что ему не страшны утечки заряда, с которыми приходится бороться при переходе на микросхемы нанометровых масштабов, и что он полностью энергонезависим. Другими словами, данные могут храниться в мемристоре до тех пор, пока существуют материалы, из которых он изготовлен, а, к примеру, флэш-память начинает постепенно терять записанную информацию уже после года хранения без доступа к электрическому току.
Поэтому на мемристоры возлагаются большие надежды не только в построении новых когнитивных систем, но и в развитии возможностей традиционной электроники. После практического создания мемристора в 2008-м в лаборатории HP группой исследователей и инженеров под руководством Стенли Уильямса были высказаны прогнозы, что уже в 2013–2014 гг. запоминающие устройства на базе мемристоров будут широко представлены на рынке и начнут потихоньку теснить флеш-память. Сейчас мы видим, что прогноз был слишком оптимистичен. Но несмотря на задержки с освоением технологии, достигнутый прогресс не может не ободрять.
В апреле 2010 года группе Уильямса удалось создать мемристоры со стороной всего 3 нм и скоростью переключения около одной наносекунды. По расчетам исследователей, 3D-массив мемристоров позволит размещать 20 Гбайт данных в объеме 1 см3 — по объему это соответствует кусочку сахара-рафинада в чашке кофе, с которой мы начинали этот рассказ.
На данный момент консорциум компаний Hewlett-Packard и Hynix практически готов к запуску технологии запоминающих устройств на основе мемристоров в серийное производство.

Искусственный разум?

Несмотря на очевидные, хоть и скромные достижения нейроморфной электроники, пока еще не совсем понятно, до какой степени надо масштабировать эти технологии, чтобы в итоге получить когнитивные способности, сравнимые с возможностями настоящего мозга. Более того: некоторые критики полагают, что дело тут не только в количестве нейронов в электронных схемах-аналогах, — создание искусственного интеллекта, по их мнению, по-прежнему остается недостижимой задачей, даже несмотря на создание мемристоров и интегральных синаптических схем на их основе.
ROBOY — «робот-мальчик», разработанный инженерами из Университета Цюриха — выглядит почти как ребенок, обладает похожей мимикой и быстротой движений, но до сообразительности настоящего ребенка ему еще далеко
Нейрофизиолог Генри Маркрэм (Henry Markram), который открыл явление классической дендритной пластичности (STDP), выступает с критикой работы Модхи, утверждая, что принципы ее работы — слишком упрощенные. Он полагает, что успешное моделирование работы мозга возможно при более высоком уровне детализации нейросинаптических моделей — вплоть до симуляции отдельных молекул. Он отмечает в своих публикациях, что поведение нейронов зависит от десятков ионных каналов и сотен различных белков, есть также огромное число разновидностей синапсов, каждый из которых имеет нелинейную «схему работы», и успешное моделирование мозговой активности требует учитывать и эти особенности тоже.
DARPA успешно парирует эти замечания заявлениями, согласно которым для извлечения непосредственной практической пользы вовсе не обязательно копировать мозг «до последнего винтика» — достаточно вычленить общие принципы, а более точные копии биологического мозга вполне потерпят до нового витка технологий. В ближайшем будущем исследовательская группа в HLR планирует усовершенствовать свой нейроморфный чип возможностью нейронов самостоятельно изменять частоту испускания импульсов (по аналогии с живым мозгом), а IBM экспериментирует с новым подходом для соединения искусственных нейросинаптических ядер друг с другом, используя последние данные о строении различных участков коры головного мозга у макак.
Модха считает, что эти связи важны для имитации высшей нервной деятельности. Но даже после вышеописанных усовершенствований оба чипа проекта SyNAPSE будут далеки от имитации работы настоящего мозга. Кажется маловероятным, что микроэлектронные устройства вообще когда-нибудь смогут состязаться с настоящим мозгом, в одном кубическом сантиметре которого «упаковано» 10 млрд синаптических связей.
Голосовой помощник Siri, работающий под операционной системой iOS, способен понимать вопросы и давать контекстно-зависимые ответы, но при этом черпает информацию в облачной базе данных, для связи c которой нужен интернет-канал
Однако не стоит быть столь пессимистичными. Несмотря на все ограничения, нейроморфные чипы уже далеко продвинулись в сравнении с традиционными микроэлектронными схемами. Это, без всякого преувеличения, новая технология обработки информации, более того — технология, очень востребованная большим бизнесом. Самые очевидные примеры — машины с автопилотом Google и персональный помощник Siri. Эти сервисы используют традиционную парадигму обработки информации, и обе уже уперлись в потолок, который препятствует дальнейшему масштабированию их возможностей. Так, к примеру, автопилот Google слишком сильно опирается на заранее загруженные карты и имеет весьма ограниченные возможности для адаптации к непредвиденным обстоятельствам. А Apple Siri использует удаленные облачные серверы для распознавания и синтеза речи, что создает задержки в работе — ведь для работы с хранилищами данных необходим мощный канал связи.
Сегодня передний край программного обеспечения для задач искусственного интеллекта — дисциплина под названием «глубокое изучение» (Deep Learning), а ее главными вдохновителями являются компании Google и Facebook. В числе прочего Deep Learning подразумевает использование традиционной компьютерной архитектуры для имитации работы настоящих нейронных сетей. Именно так работают многие продвинутые службы Google, но это требует больших кластеров высокопроизводительных компьютеров, тогда как нейроморфные чипы позволят упаковать эти датацентры в гораздо более компактные и энергоэффективные структуры, которые можно будет использовать даже для мобильных задач. У IBM уже фактически выстроилась очередь заказчиков на использование этой новой технологии — в первую очередь в таких прикладных областях, как обработка массивов видеоданных с камер безопасности, а также предсказание и раскрытие финансовых махинаций на основе обработки больших объемов статистических данных.
The importance of deep learning with respect to the evolution and development of human cognition did not escape the attention of these researchers. One aspect of human development that distinguishes us..
В конечном счете, где бы ни использовались нейроморфные чипы в ближайшей перспективе, они будут применяться в связке с традиционными машинами фон-неймановской архитектуры, потому что задачи, которые требуют большого количества математических вычислений, в ближайшем будущем никуда не исчезнут. Более того, даже в таких задачах, как распознавание образов, проще и рацио­нальнее использовать в качестве «ведущего» обычный компьютер, а нейроморфной подсистеме поручать какой-то определенный спектр задач: как и в настоящем мозге, различные его участки специализируются на решении специфических задач.
В любом случае, вычислительная техника стоит на пороге перемен, сравнить которые по значимости можно только с появлением самой вычислительной техники.