«Когда пригорает» – это новая экспериментальная рубрика. Здесь я буду детально разбирать статьи, связанные с наукой, от которых у меня пригорело, а потом высказывать идеи, от которых (по задумке) начнет пригорать у других.
Сегодня мы обсудим статью под названием «Пустой мозг» психолога Роберта Эпштейна. Посыл статьи такой: мозг не обрабатывает информацию, не извлекает знания, не хранит воспоминания и не является компьютером.
Рассмотрим эксперимент, который предлагает Эпштейн. Попросите студента нарисовать по памяти купюру «1 доллар». Нарисованная купюра будет лишь отдаленно напоминать настоящую. В лучшем случае студент нарисует какое-нибудь лицо, надпись «1 доллар», единички по углам и фразу «соединенные штаты Америки» по центру вверху. Детализация картинки окажется плохой, даже если студент видел купюру много раз. Если же теперь дать студенту настоящий «1 доллар» и попросить перерисовать купюру, то рисунок получится более точным, с большим количеством деталей.
Это, по мнению Эпштейна, доказывает, что мозг не хранит изображение купюры в памяти, как это делает компьютер. Я же думаю, что независимо от того насколько точна метафора «компьютерного мозга», этот аргумент – полнейшая чушь. Никто не утверждает, что изображение хранится в нашей памяти в виде файла в формате tiff высокого разрешения. Объем памяти ограничен. Логично, что информация, предназначенная для длительного хранения, должна подвергаться сжатию (см. примечание 1 – комментарий IT специалиста про сжатие данных).
читать дальшеПредставьте, что у вас хорошая камера, изображение с которой транслируется на монитор в Full HD, но запись на жесткий диск идет в разрешении 240p. При повторной попытке посмотреть ролик, вы увидите крупные пиксели. Доказывает ли это, что компьютер не хранит видео изображений? Нет, конечно.
Эпштейн пишет, что если бы студент посмотрел на купюру много раз и специально попробовал ее запомнить, он бы воспроизвел ее лучше, но и это не означало бы, что «изображение купюры» хранится в мозге – он просто стал «более подготовленным к точному рисованию, как через тренировку пианист получает навыки игры».Непонятно, что этим хотел сказать автор, но можно отметить, что ситуацию со студентом прекрасно объясняет следующая аналогия: если мы хотим запомнить что-то детальней, мы сохраняем изображение в более высоком разрешении.
К слову, отдельные люди наделены невероятной фотографической памятью. Художник Стивен Вилтшер известен рядом детальных рисунков городских пейзажей, нарисованных по воспоминаниям. Ниже приведен рисунок Лондона, сделанный художником после короткого полета на вертолете.
Рассмотрим несколько работ о кодировании информации о сложных концепциях. Еще в 1968 году профессор MIT Джером Летвин в публикации «Что глаз лягушки сообщает мозгу лягушки» показал, что некоторые клетки сетчатки амфибии преобразуют сигналы от светочувствительных клеток в сигналы о концепциях. Некоторые клетки распознают маленькие движущиеся точки – это еда. Другие – крупные неподвижные объекты – это укрытие. Третьи – крупные движущиеся объекты – это хищники. У людей тоже можно найти отдельные клетки, связанные с концепциями. Так в статье 2005 года в журнале Nature у некоторых испытуемых были описаны нейроны «Дженнифер Энистон», реагирующие только на изображения этой актрисы, но не на изображения других людей или объектов.
Рассмотрим следующий аргумент Эпштейна.
«Пару лет назад я спросил нейробиолога Эрика Кандела – лауреата нобелевской премии за открытие химических превращений, происходящих в контактах между нервными клетками моллюска аплизии в процессе обучения – как долго у нас уйдет на понимание того, как работает память? Он быстро ответил: сотня лет. Я не подумал спросить его, считает ли он, что метафора о мозге как компьютере замедляет темпы развития нейронауки, но некоторые нейробиологи начинают воображать невообразимое – что от метафоры можно избавиться!»
По-моему это прекрасный пример того, как можно упомянуть не к месту любого нобелевского лауреата. Пару лет назад я слушал доклад открывателя структуры ДНК Джеймса Уотсона. Я и не подумал спросить его, считает ли он, что современная наука должна отказаться от идеи двойной спирали, но некоторые биологи начинают воображать невообразимое – что ДНК является голограммой, а также антенной, ловящей сигналы из космоса! Как соавтор соавтора Эрика Кандела я могу еще авторитетней что-нибудь заявить, но, пожалуй, не буду.
Но вернемся к экспериментам. По мнению Эпштейна, представление, что мозг работает как компьютер плохо согласуются с тем, как человек ловит бейсбольный мячик. «Если мозг – компьютер, то ему нужно сформулировать и рассчитать начальные условия полета мяча, рассчитать траекторию полета, а затем использовать созданную модель, чтобы дать правильные указания телу – куда ему двигаться». Но вроде бы существует более простое объяснение: чтобы поймать мяч нужно продолжать двигаться таким образом, чтобы держать его в постоянном визуальном отношении к окружающему пейзажу, в «линейной оптической траектории». Эпштейн считает, что это очень просто, не требует вычислений, представлений или алгоритмов.
Я не совсем понял, что значит «двигаться таким образом, чтобы держать мяч в постоянном визуальном отношении к окружающему пейзажу», но поддержание некого движения – это совершенно точно алгоритм, просто очень примитивный. И что не вызывает сомнений: компьютер может его воспроизвести (см. примечание 2 – комментарий IT специалиста).
«Чуть более года назад, я посетил один из самых престижных исследовательских институтов и дал вызов исследователям – описать разумное человеческое поведение, не обращаясь к компьютерной метафоре. Они не смогли этого сделать» – пишет Эпштейн. «Метафора прилипает. Она нагружает мышление языком и идеями, которые столь сильны, что мы не можем их обойти».
Но можно дать и другую интерпретацию – метафора прилипает потому, что она хорошо описывает некоторые нервные процессы. Нет ничего страшного в том, что в прошлом метафоры о работе мозга были менее удачными: от древней концепции души люди перешли к идеям флюидов, а потом до идей машин и электрических сетей. Конечно, реальность сложнее, чем метафора, но не надо скатываться до нелепостей, пытаясь ее критиковать.
Мозг человека не идентичен микросхеме и я не слышал, чтобы кто-то из нейробиологов утверждал обратное. Никто не ожидает разглядеть сохраненные в памяти образы, рассматривая под лупой мозг, как никто не ожидает увидеть jpeg изображения, всматриваясь в транзисторы. Но это не означает, что мы не можем моделировать работу мозга с помощью компьютера. Можно привести такую аналогию: компьютер в состоянии описать движение вязкой жидкости, используя уравнения Навье – Стокса, хотя компьютер сам не является жидкостью, и жидкости не содержит.
Но как устроено хранение информации в мозге и как мы можем это изучать? Рассмотрим несколько фундаментальных работ.
В 2013 году в журнале Science был опубликован эксперимент группы Судзуми Тонегавы. Когда нервные клетки возбуждаются, в них меняется работа некоторых генов. Были сделаны специальные мыши с генетически измененными нейронами, у которых в активных нервных клетках производится специальный белок, чувствительный к свету. Мышей постоянно кормили лекарством, подавляющим синтез этого белка, а потом сажали в одну из двух специальных комнат и отменяли лекарство. Те нервные клетки, которые были активны, когда мышь находилась в комнате, начинали производить светочувствительный белок. То есть удалось эти нервные клетки избирательно пометить.
Потом мышам вне специальных комнат с помощью вживленного оптоволокна освещали нервные клетки в той области мозга, которая, как считается, отвечает за узнавание места, и одновременно били их током. Под действием света, те нервные клетки, которые были активны во время нахождения в специальной комнате, активировались (из-за действия светочувствительного белка). Это приводило к тому, что мыши начинали бояться той специальной комнаты, в которой они были (но не другой), хотя в этой комнате их никогда током не били. Интерпретация такая: удалось совместить память о комнате и информацию об ударе током и создать ложное воспоминание, что удар током был в специальной комнате. Память – это не свойство «вечной души», а вполне материальная вещь, подверженная физическим и химическим факторам, которой можно управлять на уровне отдельных нервных клеток. Позже та же группа использовала похожий «оптогенетический» метод, чтобы превращать «плохие воспоминания» в «хорошие».
В рамках еще одного направления фундаментальных исследований ученые используют функциональную магнитно-резонансную томографию, чтобы расшифровать работу мозга. Здесь мы уже достигли уровня «чтения мыслей»: компьютер после периода обучения может очень точно изобразить букву, которую человек видит на экране.
В опытах на грызунах нейробиологи научились не только «читать мысли», но и передавать их с помощью «телепатии». Так в 2013 году в журнале Scientific Reports была опубликована работа, показывающая, что двух крыс можно объединить с помощью электронного интерфейса мозг-мозг, который позволяет им передавать друг другу информацию по проводам. Ранее та же группа исследователей показала, что можно научить обезьяну управлять рукой робота напрямую через работу мозга.
Еще одно направление опытов по «чтению мыслей» развилось из работ Бенджамина Либета, показавшего, что анализируя активность нервной системы, можно предсказывать, когда человек нажмет на кнопку. Причем сделать это можно даже до того, как человек сам осознает свое решение. Позже профессор Моран Керф продемонстрировал такой эксперимент: человека подключают к прибору, измеряющего нервную активность и просят нажимать на кнопку, когда лампочка на кнопке не горит. Тут человек сталкивается с проблемой: он не может выполнить задание! Стоит ему захотеть нажать на кнопку, как лампочка в ней загорается. Смотреть, как у участников эксперимента пригорает – одно удовольствие (с 10 минуты на приложенном видео с TEDx).
Опыты Либета и его последователей не только сыграли важную роль в нейробиологии, но расширили наши представления о том, чем является ощущение осознанного принятия решения. Подробнее об этом почитайте в научно-популярной статье «Иллюзия свободной воли».
Одна из последних нашумевших работ в области нейробиологии, связана с построением семантических карт человеческого мозга. Людям, помещенным в томограф, давали слушать истории. При этом фиксировалось, какие зоны мозга активируются одновременно с тем, как человек слышит некоторые слова. Оказалось, что слова могут быть связаны: близко расположенные области мозга могут активироваться, когда вы слышите слова «убийца», «приговор», «убил» и совсем другие области, когда вы слышите «муж», «жена», «дети», «родители». Посмотреть на то, какие слова связаны друг с другом и какие области мозга активируют можно с помощью специального атласа, выложенного в свободный доступ на сайте исследовательской лаборатории.
Возможность построения карт нервных систем (пока что для грызунов и членистоногих), возникла также благодаря прорывам в области современной молекулярной биологии. Технология Brainbow (Rainbow – радуга и Brain – мозг) позволила создавать генетически модифицированных животных, у которых нервные клетки и их отростки при жизни «покрашены» в один из многочисленных цветов. Это было сделано благодаря тому, что каждая нервная клетка имела свое уникальное сочетание работающих генов флуоресцентных белков.
Таким образом, у нейробиологов появилось много инструментов для изучения мозга и все это приближает нас к построению адекватных моделей нервных систем. Но можем ли создать точную копию мозга в компьютере?
Эпштейн критикует идею «загрузки сознания в компьютер», предложенную футуристом Реем Курцвейлом, физиком Стивеном Хокингом и рядом других ученых. Идея заключается в том, что в будущем, когда компьютеры станут очень мощными, а мы научимся составлять подробные карты биологических нейронных сетей, мы сможем создать виртуальную копию мозга человека, идентичную оригиналу, тем самым, обессмертив личность. Едва ли создание такой копии решит проблемы оригинала, по-прежнему наделенного тесной телесной оболочкой, но Эпштейн отвергает саму возможность создания копии, повторяя как мантру, что «компьютерная метафора даже на самую малость не верна».
Обоснование Эпштейна заставляет задуматься. Каждый опыт, каждое взаимодействие с окружающим миром меняет структуру мозга. При этом мозги двух людей могут по-разному меняться от одного и того же воздействия. Поэтому «недостаточно скопировать нейронную сеть из 86 миллиардов нейронов, представляющую собой наш мозг и симулировать их работу в компьютере – паттерны их работы будут бессмысленны вне телесной оболочки того мозга, в котором они выработались».
Действительно, задача «загрузки» личности в компьютер сложнее, чем построение карты нейронов головного мозга. Любой специалист по компьютерным нейронным сетям скажет, что нейроны в этих сетях имеют параметры, которые тоже придется скопировать, т.е. надо не просто знать, где расположены нейроны и с кем они связаны, но и как они реагируют на сигналы. Кроме того придется «загрузить» в компьютер не только нейроны самого мозга, но и нейроны «входа» и «выхода» – т.е. чувствительные клетки, с учетом их расположения на теле, а также моторные нейроны, которые управляют нашими мышцами. Да и все остальное тело неплохо бы загрузить, хотя это уже не так принципиально. И вот если бы мы (что в ближайшем будущем маловероятно), смогли скопировать все перечисленное, мы бы получили не просто нейронную сеть из 86 миллиардов нейронов, а полноценную модель «телесной оболочки того мозга».
К слову, копия не обязана быть точной. Мозг обладает пластичностью, а наша личность в значительной степени сохраняется по мере взросления, несмотря на существенные изменения, происходящие в структуре мозга. Значит, успех копирования личности не зависит от того, можем ли мы учесть положение каждого атома или молекулы. Отдельный вопрос – не является ли попытка создать виртуальную копию человеческой личности попыткой создать самолет, машущий крыльями в подражании птицам: ясно, что в столь далеком будущем удастся создать искусственный разум куда интересней и умнее человеческого, построенный на других принципах.
Мой отец – нейробиолог. К нему иногда приходят люди, занимающиеся искусственным интеллектом, чтобы спросить: что делает мозг, но не делает компьютер? Что мы могли бы позаимствовать у природы? Отец отвечает на это историей. «В одном из документальных фильмов о последних днях жизни Эйнштейна показано, как он записывает формулы на бумажке, потом читает эти формулы, снова что-то записывает и так далее. И это один из умнейших людей в истории. Возьмите компьютер, подключите к нему принтер и сканер. Пусть он распечатывает расчеты, а потом сканирует их. Так он будет больше похож на человека!» В чем-то компьютеры уже превзошли наш разум, и, может быть, не там мы ищем откровения о создании думающих машин.
Но давайте оставим фантастику и вернемся к одному из справедливых тезисов Эпштейна. Каждый опыт, каждое взаимодействие с окружающим миром меняет структуру мозга. В рамках компьютерной метафоры: меняется «железо». Эта мысль позволяет по-другому взглянуть на природу человеческих заблуждений.
Люди, занимающиеся просвещением, обычно рассуждают так: есть правильные идеи – логичные, рациональные, научно-обоснованные и если их передать другим людям, они их с некоторой вероятностью усвоят, станут умнее и будут меньше ошибаться. Мы пытаемся перенести хороший софт с одних машин на другие, предполагая, что этот софт на них встанет. Но что если мы пытаемся поставить «хороший софт» на «плохое железо», запустить десятую винду на первом пентиуме?
Возможности человеческого мозга сильно зависят от обучения. Оно каким-то образом меняет наше «железо», прокачивает его. В отличие от компьютера, который создается либо одноядерным пентиумом, либо четырехъядерным Core i7 шестого поколения и остается таковым, пока не поломается, мозг человека рождается не очень мощным, зато с потенциалом стать «суперкомпьютером» уровня Эйнштейна или Дарвина. На детском железе неплохо работают такие программы, как «Дед мороз – подарки нам принес» или «Бог накажет», но чтобы потянуть квантовую механику мозг нужно развивать.
Возможно, общаясь с ВИЧ-диссидентами, креационистами, праноедами, анти-ГМОшниками, астрологами, экстрасенсами, гадающими по отпечаткам пальцев, и иными заблуждающимися, недостаточно пытаться переубеждать их. Нужно давать им задачники для общего развития интеллекта, в том числе логики. Может быть, стоит ожидать не мгновенных изменений, ведь только после длительного развития мозг человека становится готовым к восприятию чего-то сложного, например, научных публикаций. Мораль истории такова: независимо от того, верна ли компьютерная метафора мозга – людей надо учить думать.
Комментарии от специалиста по искусственному интеллекту Сергея Маркова
Примечание 1
Алгоритмы сжатия делятся на два больших класса: 1) алгоритмы сжатия без потерь, когда исходная информация может быть восстановлена из сжатого вида без единого искажения; 2) алгоритмы сжатия с потерями, когда ради более высокой степени сжатия допускается потеря какой-то части информации при распаковке.
Ко второй категории относятся самые распространённые алгоритмы сжатия изображений видео. Если сжать изображение в jpg с высокой степенью сжатия, то при распаковке легко увидеть искажения. Чем более продвинутые алгоритмы сжатия применяются, тем забавнее, «осмысленнее» становятся артефакты сжатия, либо искажения, возникающие в случае дефекта при передаче сжатых данных. «Глитчи» в gif-анимации стали самостоятельным культурным явлением.
В принципе, сжатие данных и основывается на поиске закономерностей в кодируемых данных, в этом плане между продвинутыми алгоритмами сжатия, используемыми в наши дни, и работой мозга при хранении информации можно проследить глубокие параллели. Довольно хороший пример это наиболее продвинутый алгоритм кодирования графотекстовой информации – djvu. «Человек не может знать всего, но он может понять принцип» – отмечал ещё Спиноза. С практической точки зрения это значит, что на деле мы храним информацию в виде обобщений, отсылок к другой информации, упрощенных форм, аналогий и т.п.
Кроме того, Эпштейн не то нечаянно, не то сознательно игнорирует отличия активной и пассивной памяти. Одно дело воссоздать образ по памяти, другое дело – узнать его. Точность узнавания образов мозгом гораздо выше, точно так же и в современных компьютерных программах используются hash-функции, позволяющие на основании данных, требующих при хранении большого объёма памяти, генерировать сравнительно короткие сигнатуры, достаточные для практического «узнавания» исходных данных. Это электронные подписи, контрольные суммы и другие способы инъективного отображения.
Примечание 2
У меня складывается впечатление, что Эпштейн считает, что те операции, которые проделывает мозг, но не контролирует сознание, вроде бы как происходят сами собой, без участия мозга. Если я не осознал, как мой мозг спрогнозировал траекторию полёта мяча, то этот прогноз появился как бы сам собой, безо всяких расчётов. Ведь расчёты это нечто всенепременно сознательное и очень трудное. На самом деле расчёты, выполняемые мозгом, как и расчёты, выполняемые логарифмической линейкой, либо ещё более простой системой, вовсе не требуют наличия сознания. Литровый сосуд, в который налили два литра воды, проливает литр воды на пол не потому, что производит предварительно напряжённые сознательные вычисления. Велосипедист, едущий со средней скоростью 10 км/ч, проезжает за два часа 20 километров не потому, что всю дорогу умножает 10 на 2. Точно так же и слои нейронов производят тот или иной набор сигналов не потому, что знают правила арифметики. Вычислительные процессы происходят в мозгу господина Эпштейна даже тогда, когда он об этом совершенно не задумается.
Основные публикации, упомянутые в статье:
Livet, J.; Weissman, T. A.; Kang, H.; Draft, R. W.; Lu, J.; Bennis, R. A.; Sanes, J. R.; Lichtman, J. W. (2007). "Transgenic strategies for combinatorial expression of fluorescent proteins in the nervous system". Nature 450 (7166): 56–62
Lichtman, Jeff; Jean Livet; Joshua Sanes (2008). "A technicolour approach to the connectome". Nature Reviews Neuroscience 9 (6): 417–422
Schoenmakers S, Barth M, Heskes T, van Gerven M. (2013). Linear reconstruction of perceived images from human brain activity. Neuroimage. 2013 Dec;83:951-61.
Ramirez S, Liu X, Lin PA, Suh J, Pignatelli M, Redondo RL, Ryan TJ, Tonegawa S (2013). Creating a false memory in the hippocampus. Science. 2013 Jul 26;341(6144):387-91.
Ramirez S1, Liu X, MacDonald CJ, Moffa A, Zhou J, Redondo RL, Tonegawa S (2015). Nature. Jun 18;522(7556):335-9. Activating positive memory engrams suppresses depression-like behaviour.
Alexander G. Huth, Wendy A. de Heer, Thomas L. Griffiths, Frédéric E. Theunissen & Jack L. (2016) Natural speech reveals the semantic maps that tile human cerebral cortex. Nature 532, 453–458
Libet B, Wright EW Jr, Gleason CA. (1982) Readiness-potentials preceding unrestricted 'spontaneous' vs. pre-planned voluntary acts. Electroencephalogr Clin Neurophysiol. Sep;54(3):322-35.
Libet B, Gleason CA, Wright EW, Pearl DK. (1983) Time of conscious intention to act in relation to onset of cerebral activity (readiness-potential). The unconscious initiation of a freely voluntary act. Brain. Sep;106 (Pt 3):623-42.
Miguel Pais-Vieira, Mikhail Lebedev, Carolina Kunicki, Jing Wang & Miguel A. L. Nicolelis (2013) A Brain-to-Brain Interface for Real-Time Sharing of Sensorimotor Information. Scientific Reports 3
Carmena JM, Lebedev MA, Crist RE, O'Doherty JE, Santucci DM, Dimitrov DF, et al. (2003) Learning to Control a Brain–Machine Interface for Reaching and Grasping by Primates. PLoS Biol 1(2): e42
Quiroga RQ, Reddy L, Kreiman G, Koch C, Fried I. (2005) Invariant visual representation by single neurons in the human brain. Nature. 23;435(7045):1102-7.
Сегодня мы обсудим статью под названием «Пустой мозг» психолога Роберта Эпштейна. Посыл статьи такой: мозг не обрабатывает информацию, не извлекает знания, не хранит воспоминания и не является компьютером.
Рассмотрим эксперимент, который предлагает Эпштейн. Попросите студента нарисовать по памяти купюру «1 доллар». Нарисованная купюра будет лишь отдаленно напоминать настоящую. В лучшем случае студент нарисует какое-нибудь лицо, надпись «1 доллар», единички по углам и фразу «соединенные штаты Америки» по центру вверху. Детализация картинки окажется плохой, даже если студент видел купюру много раз. Если же теперь дать студенту настоящий «1 доллар» и попросить перерисовать купюру, то рисунок получится более точным, с большим количеством деталей.
Это, по мнению Эпштейна, доказывает, что мозг не хранит изображение купюры в памяти, как это делает компьютер. Я же думаю, что независимо от того насколько точна метафора «компьютерного мозга», этот аргумент – полнейшая чушь. Никто не утверждает, что изображение хранится в нашей памяти в виде файла в формате tiff высокого разрешения. Объем памяти ограничен. Логично, что информация, предназначенная для длительного хранения, должна подвергаться сжатию (см. примечание 1 – комментарий IT специалиста про сжатие данных).
читать дальшеПредставьте, что у вас хорошая камера, изображение с которой транслируется на монитор в Full HD, но запись на жесткий диск идет в разрешении 240p. При повторной попытке посмотреть ролик, вы увидите крупные пиксели. Доказывает ли это, что компьютер не хранит видео изображений? Нет, конечно.
Эпштейн пишет, что если бы студент посмотрел на купюру много раз и специально попробовал ее запомнить, он бы воспроизвел ее лучше, но и это не означало бы, что «изображение купюры» хранится в мозге – он просто стал «более подготовленным к точному рисованию, как через тренировку пианист получает навыки игры».Непонятно, что этим хотел сказать автор, но можно отметить, что ситуацию со студентом прекрасно объясняет следующая аналогия: если мы хотим запомнить что-то детальней, мы сохраняем изображение в более высоком разрешении.
К слову, отдельные люди наделены невероятной фотографической памятью. Художник Стивен Вилтшер известен рядом детальных рисунков городских пейзажей, нарисованных по воспоминаниям. Ниже приведен рисунок Лондона, сделанный художником после короткого полета на вертолете.
Рассмотрим несколько работ о кодировании информации о сложных концепциях. Еще в 1968 году профессор MIT Джером Летвин в публикации «Что глаз лягушки сообщает мозгу лягушки» показал, что некоторые клетки сетчатки амфибии преобразуют сигналы от светочувствительных клеток в сигналы о концепциях. Некоторые клетки распознают маленькие движущиеся точки – это еда. Другие – крупные неподвижные объекты – это укрытие. Третьи – крупные движущиеся объекты – это хищники. У людей тоже можно найти отдельные клетки, связанные с концепциями. Так в статье 2005 года в журнале Nature у некоторых испытуемых были описаны нейроны «Дженнифер Энистон», реагирующие только на изображения этой актрисы, но не на изображения других людей или объектов.
Рассмотрим следующий аргумент Эпштейна.
«Пару лет назад я спросил нейробиолога Эрика Кандела – лауреата нобелевской премии за открытие химических превращений, происходящих в контактах между нервными клетками моллюска аплизии в процессе обучения – как долго у нас уйдет на понимание того, как работает память? Он быстро ответил: сотня лет. Я не подумал спросить его, считает ли он, что метафора о мозге как компьютере замедляет темпы развития нейронауки, но некоторые нейробиологи начинают воображать невообразимое – что от метафоры можно избавиться!»
По-моему это прекрасный пример того, как можно упомянуть не к месту любого нобелевского лауреата. Пару лет назад я слушал доклад открывателя структуры ДНК Джеймса Уотсона. Я и не подумал спросить его, считает ли он, что современная наука должна отказаться от идеи двойной спирали, но некоторые биологи начинают воображать невообразимое – что ДНК является голограммой, а также антенной, ловящей сигналы из космоса! Как соавтор соавтора Эрика Кандела я могу еще авторитетней что-нибудь заявить, но, пожалуй, не буду.
Но вернемся к экспериментам. По мнению Эпштейна, представление, что мозг работает как компьютер плохо согласуются с тем, как человек ловит бейсбольный мячик. «Если мозг – компьютер, то ему нужно сформулировать и рассчитать начальные условия полета мяча, рассчитать траекторию полета, а затем использовать созданную модель, чтобы дать правильные указания телу – куда ему двигаться». Но вроде бы существует более простое объяснение: чтобы поймать мяч нужно продолжать двигаться таким образом, чтобы держать его в постоянном визуальном отношении к окружающему пейзажу, в «линейной оптической траектории». Эпштейн считает, что это очень просто, не требует вычислений, представлений или алгоритмов.
Я не совсем понял, что значит «двигаться таким образом, чтобы держать мяч в постоянном визуальном отношении к окружающему пейзажу», но поддержание некого движения – это совершенно точно алгоритм, просто очень примитивный. И что не вызывает сомнений: компьютер может его воспроизвести (см. примечание 2 – комментарий IT специалиста).
«Чуть более года назад, я посетил один из самых престижных исследовательских институтов и дал вызов исследователям – описать разумное человеческое поведение, не обращаясь к компьютерной метафоре. Они не смогли этого сделать» – пишет Эпштейн. «Метафора прилипает. Она нагружает мышление языком и идеями, которые столь сильны, что мы не можем их обойти».
Но можно дать и другую интерпретацию – метафора прилипает потому, что она хорошо описывает некоторые нервные процессы. Нет ничего страшного в том, что в прошлом метафоры о работе мозга были менее удачными: от древней концепции души люди перешли к идеям флюидов, а потом до идей машин и электрических сетей. Конечно, реальность сложнее, чем метафора, но не надо скатываться до нелепостей, пытаясь ее критиковать.
Мозг человека не идентичен микросхеме и я не слышал, чтобы кто-то из нейробиологов утверждал обратное. Никто не ожидает разглядеть сохраненные в памяти образы, рассматривая под лупой мозг, как никто не ожидает увидеть jpeg изображения, всматриваясь в транзисторы. Но это не означает, что мы не можем моделировать работу мозга с помощью компьютера. Можно привести такую аналогию: компьютер в состоянии описать движение вязкой жидкости, используя уравнения Навье – Стокса, хотя компьютер сам не является жидкостью, и жидкости не содержит.
Но как устроено хранение информации в мозге и как мы можем это изучать? Рассмотрим несколько фундаментальных работ.
В 2013 году в журнале Science был опубликован эксперимент группы Судзуми Тонегавы. Когда нервные клетки возбуждаются, в них меняется работа некоторых генов. Были сделаны специальные мыши с генетически измененными нейронами, у которых в активных нервных клетках производится специальный белок, чувствительный к свету. Мышей постоянно кормили лекарством, подавляющим синтез этого белка, а потом сажали в одну из двух специальных комнат и отменяли лекарство. Те нервные клетки, которые были активны, когда мышь находилась в комнате, начинали производить светочувствительный белок. То есть удалось эти нервные клетки избирательно пометить.
Потом мышам вне специальных комнат с помощью вживленного оптоволокна освещали нервные клетки в той области мозга, которая, как считается, отвечает за узнавание места, и одновременно били их током. Под действием света, те нервные клетки, которые были активны во время нахождения в специальной комнате, активировались (из-за действия светочувствительного белка). Это приводило к тому, что мыши начинали бояться той специальной комнаты, в которой они были (но не другой), хотя в этой комнате их никогда током не били. Интерпретация такая: удалось совместить память о комнате и информацию об ударе током и создать ложное воспоминание, что удар током был в специальной комнате. Память – это не свойство «вечной души», а вполне материальная вещь, подверженная физическим и химическим факторам, которой можно управлять на уровне отдельных нервных клеток. Позже та же группа использовала похожий «оптогенетический» метод, чтобы превращать «плохие воспоминания» в «хорошие».
В рамках еще одного направления фундаментальных исследований ученые используют функциональную магнитно-резонансную томографию, чтобы расшифровать работу мозга. Здесь мы уже достигли уровня «чтения мыслей»: компьютер после периода обучения может очень точно изобразить букву, которую человек видит на экране.
В опытах на грызунах нейробиологи научились не только «читать мысли», но и передавать их с помощью «телепатии». Так в 2013 году в журнале Scientific Reports была опубликована работа, показывающая, что двух крыс можно объединить с помощью электронного интерфейса мозг-мозг, который позволяет им передавать друг другу информацию по проводам. Ранее та же группа исследователей показала, что можно научить обезьяну управлять рукой робота напрямую через работу мозга.
Еще одно направление опытов по «чтению мыслей» развилось из работ Бенджамина Либета, показавшего, что анализируя активность нервной системы, можно предсказывать, когда человек нажмет на кнопку. Причем сделать это можно даже до того, как человек сам осознает свое решение. Позже профессор Моран Керф продемонстрировал такой эксперимент: человека подключают к прибору, измеряющего нервную активность и просят нажимать на кнопку, когда лампочка на кнопке не горит. Тут человек сталкивается с проблемой: он не может выполнить задание! Стоит ему захотеть нажать на кнопку, как лампочка в ней загорается. Смотреть, как у участников эксперимента пригорает – одно удовольствие (с 10 минуты на приложенном видео с TEDx).
Опыты Либета и его последователей не только сыграли важную роль в нейробиологии, но расширили наши представления о том, чем является ощущение осознанного принятия решения. Подробнее об этом почитайте в научно-популярной статье «Иллюзия свободной воли».
Одна из последних нашумевших работ в области нейробиологии, связана с построением семантических карт человеческого мозга. Людям, помещенным в томограф, давали слушать истории. При этом фиксировалось, какие зоны мозга активируются одновременно с тем, как человек слышит некоторые слова. Оказалось, что слова могут быть связаны: близко расположенные области мозга могут активироваться, когда вы слышите слова «убийца», «приговор», «убил» и совсем другие области, когда вы слышите «муж», «жена», «дети», «родители». Посмотреть на то, какие слова связаны друг с другом и какие области мозга активируют можно с помощью специального атласа, выложенного в свободный доступ на сайте исследовательской лаборатории.
Возможность построения карт нервных систем (пока что для грызунов и членистоногих), возникла также благодаря прорывам в области современной молекулярной биологии. Технология Brainbow (Rainbow – радуга и Brain – мозг) позволила создавать генетически модифицированных животных, у которых нервные клетки и их отростки при жизни «покрашены» в один из многочисленных цветов. Это было сделано благодаря тому, что каждая нервная клетка имела свое уникальное сочетание работающих генов флуоресцентных белков.
Таким образом, у нейробиологов появилось много инструментов для изучения мозга и все это приближает нас к построению адекватных моделей нервных систем. Но можем ли создать точную копию мозга в компьютере?
Эпштейн критикует идею «загрузки сознания в компьютер», предложенную футуристом Реем Курцвейлом, физиком Стивеном Хокингом и рядом других ученых. Идея заключается в том, что в будущем, когда компьютеры станут очень мощными, а мы научимся составлять подробные карты биологических нейронных сетей, мы сможем создать виртуальную копию мозга человека, идентичную оригиналу, тем самым, обессмертив личность. Едва ли создание такой копии решит проблемы оригинала, по-прежнему наделенного тесной телесной оболочкой, но Эпштейн отвергает саму возможность создания копии, повторяя как мантру, что «компьютерная метафора даже на самую малость не верна».
Обоснование Эпштейна заставляет задуматься. Каждый опыт, каждое взаимодействие с окружающим миром меняет структуру мозга. При этом мозги двух людей могут по-разному меняться от одного и того же воздействия. Поэтому «недостаточно скопировать нейронную сеть из 86 миллиардов нейронов, представляющую собой наш мозг и симулировать их работу в компьютере – паттерны их работы будут бессмысленны вне телесной оболочки того мозга, в котором они выработались».
Действительно, задача «загрузки» личности в компьютер сложнее, чем построение карты нейронов головного мозга. Любой специалист по компьютерным нейронным сетям скажет, что нейроны в этих сетях имеют параметры, которые тоже придется скопировать, т.е. надо не просто знать, где расположены нейроны и с кем они связаны, но и как они реагируют на сигналы. Кроме того придется «загрузить» в компьютер не только нейроны самого мозга, но и нейроны «входа» и «выхода» – т.е. чувствительные клетки, с учетом их расположения на теле, а также моторные нейроны, которые управляют нашими мышцами. Да и все остальное тело неплохо бы загрузить, хотя это уже не так принципиально. И вот если бы мы (что в ближайшем будущем маловероятно), смогли скопировать все перечисленное, мы бы получили не просто нейронную сеть из 86 миллиардов нейронов, а полноценную модель «телесной оболочки того мозга».
К слову, копия не обязана быть точной. Мозг обладает пластичностью, а наша личность в значительной степени сохраняется по мере взросления, несмотря на существенные изменения, происходящие в структуре мозга. Значит, успех копирования личности не зависит от того, можем ли мы учесть положение каждого атома или молекулы. Отдельный вопрос – не является ли попытка создать виртуальную копию человеческой личности попыткой создать самолет, машущий крыльями в подражании птицам: ясно, что в столь далеком будущем удастся создать искусственный разум куда интересней и умнее человеческого, построенный на других принципах.
Мой отец – нейробиолог. К нему иногда приходят люди, занимающиеся искусственным интеллектом, чтобы спросить: что делает мозг, но не делает компьютер? Что мы могли бы позаимствовать у природы? Отец отвечает на это историей. «В одном из документальных фильмов о последних днях жизни Эйнштейна показано, как он записывает формулы на бумажке, потом читает эти формулы, снова что-то записывает и так далее. И это один из умнейших людей в истории. Возьмите компьютер, подключите к нему принтер и сканер. Пусть он распечатывает расчеты, а потом сканирует их. Так он будет больше похож на человека!» В чем-то компьютеры уже превзошли наш разум, и, может быть, не там мы ищем откровения о создании думающих машин.
Но давайте оставим фантастику и вернемся к одному из справедливых тезисов Эпштейна. Каждый опыт, каждое взаимодействие с окружающим миром меняет структуру мозга. В рамках компьютерной метафоры: меняется «железо». Эта мысль позволяет по-другому взглянуть на природу человеческих заблуждений.
Люди, занимающиеся просвещением, обычно рассуждают так: есть правильные идеи – логичные, рациональные, научно-обоснованные и если их передать другим людям, они их с некоторой вероятностью усвоят, станут умнее и будут меньше ошибаться. Мы пытаемся перенести хороший софт с одних машин на другие, предполагая, что этот софт на них встанет. Но что если мы пытаемся поставить «хороший софт» на «плохое железо», запустить десятую винду на первом пентиуме?
Возможности человеческого мозга сильно зависят от обучения. Оно каким-то образом меняет наше «железо», прокачивает его. В отличие от компьютера, который создается либо одноядерным пентиумом, либо четырехъядерным Core i7 шестого поколения и остается таковым, пока не поломается, мозг человека рождается не очень мощным, зато с потенциалом стать «суперкомпьютером» уровня Эйнштейна или Дарвина. На детском железе неплохо работают такие программы, как «Дед мороз – подарки нам принес» или «Бог накажет», но чтобы потянуть квантовую механику мозг нужно развивать.
Возможно, общаясь с ВИЧ-диссидентами, креационистами, праноедами, анти-ГМОшниками, астрологами, экстрасенсами, гадающими по отпечаткам пальцев, и иными заблуждающимися, недостаточно пытаться переубеждать их. Нужно давать им задачники для общего развития интеллекта, в том числе логики. Может быть, стоит ожидать не мгновенных изменений, ведь только после длительного развития мозг человека становится готовым к восприятию чего-то сложного, например, научных публикаций. Мораль истории такова: независимо от того, верна ли компьютерная метафора мозга – людей надо учить думать.
Комментарии от специалиста по искусственному интеллекту Сергея Маркова
Примечание 1
Алгоритмы сжатия делятся на два больших класса: 1) алгоритмы сжатия без потерь, когда исходная информация может быть восстановлена из сжатого вида без единого искажения; 2) алгоритмы сжатия с потерями, когда ради более высокой степени сжатия допускается потеря какой-то части информации при распаковке.
Ко второй категории относятся самые распространённые алгоритмы сжатия изображений видео. Если сжать изображение в jpg с высокой степенью сжатия, то при распаковке легко увидеть искажения. Чем более продвинутые алгоритмы сжатия применяются, тем забавнее, «осмысленнее» становятся артефакты сжатия, либо искажения, возникающие в случае дефекта при передаче сжатых данных. «Глитчи» в gif-анимации стали самостоятельным культурным явлением.
В принципе, сжатие данных и основывается на поиске закономерностей в кодируемых данных, в этом плане между продвинутыми алгоритмами сжатия, используемыми в наши дни, и работой мозга при хранении информации можно проследить глубокие параллели. Довольно хороший пример это наиболее продвинутый алгоритм кодирования графотекстовой информации – djvu. «Человек не может знать всего, но он может понять принцип» – отмечал ещё Спиноза. С практической точки зрения это значит, что на деле мы храним информацию в виде обобщений, отсылок к другой информации, упрощенных форм, аналогий и т.п.
Кроме того, Эпштейн не то нечаянно, не то сознательно игнорирует отличия активной и пассивной памяти. Одно дело воссоздать образ по памяти, другое дело – узнать его. Точность узнавания образов мозгом гораздо выше, точно так же и в современных компьютерных программах используются hash-функции, позволяющие на основании данных, требующих при хранении большого объёма памяти, генерировать сравнительно короткие сигнатуры, достаточные для практического «узнавания» исходных данных. Это электронные подписи, контрольные суммы и другие способы инъективного отображения.
Примечание 2
У меня складывается впечатление, что Эпштейн считает, что те операции, которые проделывает мозг, но не контролирует сознание, вроде бы как происходят сами собой, без участия мозга. Если я не осознал, как мой мозг спрогнозировал траекторию полёта мяча, то этот прогноз появился как бы сам собой, безо всяких расчётов. Ведь расчёты это нечто всенепременно сознательное и очень трудное. На самом деле расчёты, выполняемые мозгом, как и расчёты, выполняемые логарифмической линейкой, либо ещё более простой системой, вовсе не требуют наличия сознания. Литровый сосуд, в который налили два литра воды, проливает литр воды на пол не потому, что производит предварительно напряжённые сознательные вычисления. Велосипедист, едущий со средней скоростью 10 км/ч, проезжает за два часа 20 километров не потому, что всю дорогу умножает 10 на 2. Точно так же и слои нейронов производят тот или иной набор сигналов не потому, что знают правила арифметики. Вычислительные процессы происходят в мозгу господина Эпштейна даже тогда, когда он об этом совершенно не задумается.
Основные публикации, упомянутые в статье:
Livet, J.; Weissman, T. A.; Kang, H.; Draft, R. W.; Lu, J.; Bennis, R. A.; Sanes, J. R.; Lichtman, J. W. (2007). "Transgenic strategies for combinatorial expression of fluorescent proteins in the nervous system". Nature 450 (7166): 56–62
Lichtman, Jeff; Jean Livet; Joshua Sanes (2008). "A technicolour approach to the connectome". Nature Reviews Neuroscience 9 (6): 417–422
Schoenmakers S, Barth M, Heskes T, van Gerven M. (2013). Linear reconstruction of perceived images from human brain activity. Neuroimage. 2013 Dec;83:951-61.
Ramirez S, Liu X, Lin PA, Suh J, Pignatelli M, Redondo RL, Ryan TJ, Tonegawa S (2013). Creating a false memory in the hippocampus. Science. 2013 Jul 26;341(6144):387-91.
Ramirez S1, Liu X, MacDonald CJ, Moffa A, Zhou J, Redondo RL, Tonegawa S (2015). Nature. Jun 18;522(7556):335-9. Activating positive memory engrams suppresses depression-like behaviour.
Alexander G. Huth, Wendy A. de Heer, Thomas L. Griffiths, Frédéric E. Theunissen & Jack L. (2016) Natural speech reveals the semantic maps that tile human cerebral cortex. Nature 532, 453–458
Libet B, Wright EW Jr, Gleason CA. (1982) Readiness-potentials preceding unrestricted 'spontaneous' vs. pre-planned voluntary acts. Electroencephalogr Clin Neurophysiol. Sep;54(3):322-35.
Libet B, Gleason CA, Wright EW, Pearl DK. (1983) Time of conscious intention to act in relation to onset of cerebral activity (readiness-potential). The unconscious initiation of a freely voluntary act. Brain. Sep;106 (Pt 3):623-42.
Miguel Pais-Vieira, Mikhail Lebedev, Carolina Kunicki, Jing Wang & Miguel A. L. Nicolelis (2013) A Brain-to-Brain Interface for Real-Time Sharing of Sensorimotor Information. Scientific Reports 3
Carmena JM, Lebedev MA, Crist RE, O'Doherty JE, Santucci DM, Dimitrov DF, et al. (2003) Learning to Control a Brain–Machine Interface for Reaching and Grasping by Primates. PLoS Biol 1(2): e42
Quiroga RQ, Reddy L, Kreiman G, Koch C, Fried I. (2005) Invariant visual representation by single neurons in the human brain. Nature. 23;435(7045):1102-7.